6.10 双向循环神经网络

    图6.12 双向循环神经网络的架构

    下面我们来介绍具体的定义。 给定时间步

    6.10 双向循环神经网络 - 图11

    其中权重

    6.10 双向循环神经网络 - 图13 、 、 6.10 双向循环神经网络 - 图15 和偏差 、 6.10 双向循环神经网络 - 图17 均为模型参数。

    6.10 双向循环神经网络 - 图19 来得到隐藏状态 ,并将其输入到输出层。输出层计算输出 6.10 双向循环神经网络 - 图21 (输出个数为 ):

    6.10 双向循环神经网络 - 图23

    其中权重