AI行业再变天!英伟达发布 Blackwell !
AI行业又变天了!就在3月19日的凌晨,英伟达公司创始人黄仁勋在美国圣何塞发表GTC主题演讲。这次演讲所展示出的当下最强GPU——Blackwell再次打破了AI界短暂的平静。据介绍,Blackwell GPU以数学家David Harold Blackwell的名字命名,目前推出B200和GB200两个系列的芯片。Blackwell GPU中包含2080亿个晶体管,可以支持多达10万亿个参数的AI模型,相比于H100/H200,它们的晶体管只有800亿个。
在商业化层面,英伟达方面已经有了初步计划。黄仁勋表示,英伟达未来计划用Blackwell向世界各地的人工智能公司进军,与世界各地的所有OEM、区域云、国家主权AI、电信公司签约。目前黄仁勋已经宣布谷歌、微软、亚马逊等公司与Blackwell平台进行合作。
blackwell 参数情况
如之前所说,B200拥有多达2080亿个晶体管,采用量身定做的台积电4纳米工艺制造,两个reticle极限GPU裸片将10TB/S的芯片到芯片链路连接。引擎方面结合Blackwell Tensor Core技术和TensorRT-LLM和NeMo Megatron框架中的英伟达先进动态范围管理算法,通过新的四位浮点AI支持双倍计算和模型推理能力。
Blackwell为了提高万亿参数和混合专家AI模型性能,采用第五代NVLink,它能为每个GPU提供1.8TB/S的双向吞吐量(H100仅0.9TB/S),能让最复杂的LLM之间576个GPU的无缝高速通信。它的GPU还包含应该专用引擎,不仅如此它的架构还增加了芯片级功能,利用基于AI的预防性维护进行诊断和预测可靠性问题。这能在保证系统高效运行的同时提高大规模部署的弹性,让它能够运行的更久且成本更低。
多个行业同时发展
在本次发布会上英伟达还推出了一款用于机器人领域、名为GROOT的通用基础大模型。此外,英伟达还推出了适用于机器人的全新计算机Thor,英伟达对于相关的性能、功耗和尺寸进行了具体的优化。
在医疗领域,英伟达此次推出了 25 个新的微服务(NIM),这些微服务适用于医疗场景,帮助全球的医疗保健公司通过生成式 AI 提高效率。这些公司能够借助这些微服务,筛选数以万亿计的药物化合物,收集更多的患者数据来助力早期疾病检测,或者实施更智能的数字助理等功能。
而在汽车领域,比亚迪和英伟达的合作范围从汽车扩展到云。比亚迪准备使用英伟达的AI基础设施进行基于云的AI开发和培训技术。其他平台如广汽、小鹏汽车在内等厂商也表明了将使用「DRIVE Thor」车载计算平台。感到意外的是他们还将数字建模技术用到苹果空间计算设备Vision Pro当中。在英伟达播放的一条视频短片中,英伟达着重展示了一个汽车模型在苹果设备上的应用。
随着这个时代的进步,AI已经开始成为我们生活中离不开的一部分,而强大的AI则需要强大的算力去支撑,如果你对算力感兴趣或者有需求,可以点击链接https://www.houdeyun.cn/进入厚德云官方。
厚德云是一款专业的AI算力云平台,为用户提供稳定、可靠、易用、省钱的GPU算力解决方案。海量GPU算力资源租用,就在厚德云。END
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。