add_position_encoding

    该OP将输入inpu中每个位置(序列中的位置)的特征与对应的位置编码加权求和,位置编码可参考论文:

    输出的计算公式如下:

    其中:

    • PE(pos, 2i): pos位置对应的编码中偶数特征位上的值

    • input (Variable) – Tensor或LoD level为1的LoDTensor。Tensor时,其形状为

      add_position_encoding - 图1

      ,其中

      表示batch size,

      add_position_encoding - 图2

    • beta (float) – 加权求和时位置编码的权重系数

    返回: 加上位置编码后的Tensor或LoDTensor,和输入(input)具有相同数据类型和形状及LoD信息。

    返回类型: Variable

    代码示例: