v100 做深度学习的训练、推理速度会是 RTX3090 的 10 倍吗？

图片.png

京东上，华硕 RTX3090 24GB 的价格是 6k

图片.png

京东上，NVIDIA Tesla V100 32G 的价格是 60k

价格差距 10 倍，训练、推理速度的速度可以差距多大？能有 10 倍？

resnet50

从 techpowerup 网站上，看两个显卡的信息

图片.png

图片.png

从 techpowerup 给出的信息，rtx3090 的 TFLOPS FP32 的性能甚至比 v100 翻倍还要多？

阅读 17.9k

2 个回答

得票最新

这个不能看价格的。

v100 的架构是 volta ，rtx3090 是 Ampere ，架构 rtx3090 就比 v100 高了两代，性能你也查到了是 3090 更好。

至于为啥 v100 贵，我就只能瞎猜了，比如 v100 是服务器专用的，可以查进刀片服务器，但是 3090 应该就不成。这个对散热的额外要求是很高的。

新手上路，请多包涵

虽然NVIDIA V100和RTX 3090都是非常强大的GPU，但它们的性能并不一定成比例增长，也不能保证V100的性能一定是RTX 3090的10倍。
V100通常比RTX 3090具有更多的CUDA核心、更多的存储器带宽、更多的内存容量等硬件规格。在某些情况下，V100可以比RTX 3090更快地训练模型，尤其是在需要处理非常大的模型和数据集时。
在其他情况下，RTX 3090可能会比V100更快,原因是RTX 3090具有更高的时钟速度、更多的流处理器、更高的时钟速度、更高的内存带宽等。某些深度学习任务可能受益于RTX 3090的新特性，如RT Cores和Tensor Cores，这些特性可以加速某些类型的矩阵运算，提高性能。
V100的性能是否是RTX 3090的10倍取决于具体的任务、模型和数据集。在实际应用中，最好进行基准测试

撰写回答

推荐问题

相似问题

找不到问题？创建新问题