1.12 深层循环神经网络(Deep RNNs)

对于RNN来说,有三层就已经不少了。由于时间的维度,RNN网络会变得相当大,即使只有很少的几层

另外一种Deep RNNs结构是每个输出层上还有一些垂直单元:

这些单元(编号3)没必要是标准的RNN,也可以是GRU单元或者LSTM单元,也可以构建深层的双向RNN网络,但深层的RNN训练需要很多计算资源,需要很长的时间

Last updated