TensorRT库性能测试

    • CPU:Intel(R) Xeon(R) Gold 5117 CPU @ 2.00GHz GPU:Tesla P4
    • 测试模型 ResNet50,MobileNet,ResNet101, Inception V3.

    测试对象

    • 在测试中,PaddlePaddle使用子图优化的方式集成了TensorRT, 模型。
    • Pytorch使用了原生的实现, 模型地址1、。