add_position_encoding
该OP将输入inpu中每个位置(序列中的位置)的特征与对应的位置编码加权求和,位置编码可参考论文:
输出的计算公式如下:
其中:
PE(pos, 2i): pos位置对应的编码中偶数特征位上的值
input (Variable) – Tensor或LoD level为1的LoDTensor。Tensor时,其形状为
,其中
表示batch size,
beta (float) – 加权求和时位置编码的权重系数
返回: 加上位置编码后的Tensor或LoDTensor,和输入(input)具有相同数据类型和形状及LoD信息。
返回类型: Variable
代码示例: