1.11 双向循环神经网络(Bidirectional RNN)

双向RNN模型在序列的某点处不仅可以获取之前的信息,还可以获取未来的信息

值得注意的是计算的是网络激活值,这不是反向传播而是前向的传播,图中前向传播一部分计算是从左到右,一部分计算是从右到左。把所有激活值都计算完了就可以计算预测结果

预测结果:

这些基本单元不仅仅是标准RNN单元,也可以是GRU单元或者LSTM单元

双向RNN网络模型的缺点是需要完整的数据的序列才能预测任意位置。比如要构建一个语音识别系统,双向RNN模型需要等待整个语音说完,获取整个语音表达才能处理这段语音,并进一步做语音识别

Last updated