TracedLayer

    • class TracedLayer(program, parameters, feed_names, fetch_names)[源代码]

    TracedLayer用于将前向动态图模型转换为静态图模型，主要用于将动态图保存后做在线C++预测。除此以外，用户也可使用转换后的静态图模型在Python端做预测，通常比原先的动态图性能更好。

    TracedLayer使用 Executor 和 CompiledProgram 运行静态图模型。转换后的静态图模型与原动态图模型共享参数。

    所有的TracedLayer对象均不应通过构造函数创建，而应通过调用静态方法 创建。

    TracedLayer只能用于将data independent的动态图模型转换为静态图模型，即待转换的动态图模型不应随tensor数据或维度的变化而变化。

    • static trace(layer, inputs)
    • 参数:
      • inputs (list(Variable)) - 动态图layer对象的输入变量列表。

    返回: 包含2个元素的tuple，其中第一个元素是 layer(*inputs) 的输出结果，第二个元素是转换后得到的TracedLayer对象。

    返回类型: tuple

    代码示例

    • (build_strategy=None, exec_strategy=None)

    设置构建和执行静态图模型的相关策略。

    • 参数:
      • build_strategy (BuildStrategy, 可选) - TracedLayer内部 CompiledProgram 的构建策略。

    代码示例

    • save_inference_model(dirname, feed=None, fetch=None)

    将TracedLayer保存为用于预测部署的模型。保存的预测模型可被C++预测接口加载。

    • 参数:
      • dirname (str) - 预测模型的保存目录。
      • feed (list(int), 可选) - 预测模型输入变量的索引。若为None，则TracedLayer的所有输入变量均会作为预测模型的输入。默认值为None。

    返回: 无

    代码示例