Bengio 在新作中提出了 RNN 优化的新概念 fraternal dropout，通过最小化使用不同的 dropout mask 的同一个 RNN 的预测差异，提升 RNN 对于不同 dropout mask 的不变性，来对 RNN 进行优化。