优化神经网络训练方法有哪些？

龙腾亚太

发布于
2022-09-06 河北

优化神经网络训练方法有哪些？

人工智能图像识别神经网络

阅读 1.1k

1 个回答

发布于
2022-09-06 河北

1 考虑换一种学习率 schedule
2 在 DataLoader 中使用多个 worker 和页锁定内存
3 把 batch 调到最大
4 使用自动混合精度（AMP）
5 考虑使用另一种优化器
6 cudNN 基准
7 使用梯度积累
8 使用梯度裁剪

撰写回答

你尚未登录，登录后可以

和开发者交流问题的细节
关注并接收问题和回答的更新提醒
参与内容的编辑和改进，让解决方法与时俱进

推荐问题

相似问题

找不到问题？创建新问题