embedding
embedding
(input, size, is_sparse=False, is_distributed=False, padding_idx=None, param_attr=None, dtype='float32')[源代码]
输出的Tensor的shape是在输入Tensor shape的最后一维后面添加了emb_size的维度。
- 参数:
- input (Variable) - 存储id信息的Tensor或LoDTensor,数据类型必须为:int64。input中的id必须满足
0 =< id < size[0]
。 - size (tuple|list) - embedding矩阵的维度。必须包含两个元素,第一个元素为vocab_size(词表大小), 第二个为emb_size(embedding层维度)。
- is_sparse (bool) - 是否使用稀疏的更新方式,这个参数只会影响反向的梯度更新的性能,sparse更新速度更快,推荐使用稀疏更新的方式。但某些optimizer不支持sparse更新,比如 、 AdamaxOptimizer 、 、 FtrlOptimizer 、 、LarsMomentumOptimizer ,此时is_sparse必须为False。默认为False。
- padding_idx (int|long|None) - padding_idx需在区间[-vocab_size, vocab_size),否则不生效,padding_idx<0时,padding_idx 会被改成 vocab_size + padding_idx,input中等于padding_index的id对应的embedding信息会被设置为0,且这部分填充数据在训练时将不会被更新。如果为none,不作处理,默认为None。
- param_attr (ParamAttr) - 指定权重参数属性的对象。默认值为None,表示使用默认的权重参数属性。具体用法请参见 。此外,可以通过 参数加载用户自定义或预训练的词向量。只需将本地词向量转为numpy数据格式,且保证本地词向量的shape和embedding的
size
参数一致,然后使用 NumpyArrayInitializer 进行初始化,即可实现加载自定义或预训练的词向量。详细使用方法见代码示例2。 - dtype (str|core.VarDesc.VarType) - 输出Tensor或LoDTensor的数据类型,数据类型必须为:float32,float64,默认为float32。
- input (Variable) - 存储id信息的Tensor或LoDTensor,数据类型必须为:int64。input中的id必须满足
返回:input映射后embedding Tensor或LoDTensor,数据类型和dtype定义的类型一致。
代码示例:
- import paddle.fluid as fluid
- data = fluid.layers.data(name='sequence', shape=[1], dtype='int64', lod_level=1)
- # 示例 1
- # 示例 2: 加载用户自定义或预训练的词向量
- weight_data = np.random.random(size=(128, 100)) # numpy格式的词向量数据
- w_param_attrs = fluid.ParamAttr(
- name="emb_weight",
- learning_rate=0.5,
- initializer=fluid.initializer.NumpyArrayInitializer(weight_data),
- emb_2 = fluid.embedding(input=data, size=(128, 100), param_attr=w_param_attrs, dtype='float32')