resnet50 网络模型的推理精度从 FP232 修改为 Fp16 对性能、准确率有多大性能?

看到了,这篇文章:使用 Torch TensorRT 将 PyTorch 的推理速度提高6倍

这个文章只说了,把 FP32 改到 FP16 可以快 6 倍,但是准确率效果下降了多少没有定量的数据

问了一下 chatGPT ,给的结果太模棱两可
图片.png

谁手里有定量的测试结论可供参考?

阅读 1.4k
撰写回答
你尚未登录,登录后可以
  • 和开发者交流问题的细节
  • 关注并接收问题和回答的更新提醒
  • 参与内容的编辑和改进,让解决方法与时俱进