推理部署

    整体上分,推理产品主要包括如下子产品

    各产品在推理生态中的关系如下

    用户使用飞桨推理产品的工作流 如下

    1. (可选)对模型进行进一步优化, PaddleSlim 工具可以对模型进行压缩,量化,裁剪等工作,显著提升模型执行的速度性能,降低资源消耗