如何选对显卡？一文带你轻松了解显卡架构、CUDA和Tensor

如何选对显卡？一篇文章带你了解显卡性能

前言

想要知道自己应该选择什么显卡，对显卡的性能与架构有一定程度的了解，但很多朋友在看见一堆密密麻麻的数字时就会摸不着头脑，什么是显存？什么是架构？CUDA、Tensor又是什么？单双精度又是什么意思？我们接着往下看。

显存是什么？

显存——即是显示储存，又能被称为显卡内存。 我们在显示器上看到的画面是由GPU渲染出来的，这些数据都要通过显存保存。 正如电脑内存存放的是CPU要读取和写入的数据，显存存储的是显示芯片要将处理的数据和已经渲染的画面。显存主要用于存放数据模型，决定了我们一次读入显卡进行运算的数据多少(batch size)和我们能够搭建的模型大小(网络层数、单元数)，是对深度学习研究人员来说很重要的指标，简述来讲，显存越大越好。

显卡架构是什么？

简单来讲显卡架构指的是显卡核心的设计方案，它决定了显卡的性能、功耗、能效比等重要指标。不同的显卡架构有着不同的特点和优势，适用于不同的应用场景。值得一说的是，NVIDIA会以历史上一些著名科学家的名字GPU架构，显卡架构性能排序为：Ampere （安培）> Turing （图灵）> Volta （伏打）> Pascal（帕斯卡） > Maxwell（麦克斯韦） > Kepler （开普勒） Fermi（费米） > Tesla（特斯拉）。

CUDA是什么意思？

CUDA（Compute Unified Device Architecture）是NVIDIA发明的一种并行计算平台和编程模型。它通过利用图形处理器（GPU）的处理能力，可大幅提升计算性能。

CUDA的作用CUDA包含了API、C编译器等，能够利用显卡核心的片内L1 Cache共享数据，使数据不必经过内存-显存的反复传输，shader之间甚至可以互相通信。软件开发商、科学家以及研究人员正在各个领域中运用CUDA，其中包括图像与视频处理、计算生物学和化学、流体力学模拟、CT图像再现、地震分析以及光线追踪等。

简单来讲，CUDA 是一种针对 NVIDIA GPU 的编程模型，它与显卡架构相互配合，使得开发者能够充分发挥 GPU 的计算能力，实现高效的并行计算。同等计算架构下，CUDA核心数越高，计算能力会递增。

Tensor是什么意思？

Tensor 通常指张量，它是一种多维的数据结构。在数学和物理学中，张量用于描述和处理多维数组或矩阵的数据。在机器学习和深度学习中，张量也被广泛使用。例如，在神经网络中，输入数据、隐藏层的神经元数量、权重等都可以表示为张量。张量的操作，如张量乘法、张量加法等，在神经网络的计算中起着重要的作用。

Tensor的作用

Tensor 核心是专为执行张量或矩阵运算而设计的专用执行单元，而这些运算正是深度学习所采用的核心计算函数，它能够大幅加速处于深度学习神经网络训练和推理运算核心的矩阵计算。Tensor Core使用的计算能力要比Cuda Core高得多，这就是为什么Tensor Core能加速处于深度学习神经网络训练和推理运算核心的矩阵计算，能够在维持超低精度损失的同时大幅加速推理吞吐效率。

总之，CUDA 是一种编程模型，用于在 NVIDIA GPU 上进行并行计算，而 Tensor 是一种数据结构，用于在机器学习和深度学习中表示和处理多维数据。两者虽然有所不同，但在机器学习和深度学习领域都有广泛的应用。

单、双精度是什么

单精度（Single Precision）通常使用 32 位来表示一个浮点数，它可以表示较大范围的数值，但相对来说精度较低。在一些对精度要求不高的情况下，如普通的科学计算、游戏开发等，单精度可以提供足够的准确性，并且占用较少的内存空间。

双精度（Double Precision）则使用 64 位来表示一个浮点数，它具有更高的精度，但范围相对较小。双精度在需要更高精度的计算中非常有用，例如在金融计算、工程模拟、科学研究等领域。

关于单、双精度这方面在之前我已经写过一篇相关文章，这里就不再重复了，感兴趣大家可以去详细阅读。

以上就是本篇文章的全部内容了，如果这篇文章对你有所帮助，请您点赞收藏支持一下。

如果有对显卡算力有需求的朋友，可以点击链接https://www.houdeyun.cn/进入厚德云官方。

厚德云是一款专业的AI算力云平台，为用户提供稳定、可靠、易用、省钱的GPU算力解决方案。海量GPU算力资源租用，就在厚德云。

END