NVIDIA发布Jetson Orin Nano超级开发者套件

NVIDIA近日发布了Jetson Orin Nano超级开发者套件，这是一款紧凑型的生成式AI超级计算机。该设备体积小巧，能够轻松握在手中，同时提供了显著的生成式AI性能提升。

性能提升

• 生成式AI推理性能：Jetson Orin Nano超级开发者套件的生成式AI推理性能比前代产品提高了1.7倍。
• INT8性能：INT8性能提升了70%，达到67 TOPS。
• 内存带宽：内存带宽增加了50%，达到102GB/s。

硬件配置

• GPU：搭载了基于NVIDIA Ampere架构的GPU，配备张量核心。
• CPU：配备了6核Arm CPU。
• 摄像头支持：支持最多四个摄像头，并提供了更高的分辨率和帧率。

软件生态兼容性

该平台兼容NVIDIA的AI软件生态系统，包括以下工具：

• NVIDIA Isaac：用于机器人开发。
• NVIDIA Metropolis：用于视觉AI。
• NVIDIA TAO Toolkit：用于模型微调。
• NVIDIA Omniverse Replicator：用于合成数据生成。

此外，该平台还受益于活跃的开发者社区和合作伙伴生态系统的支持。

硬件构成

Jetson Orin Nano由8GB系统级模块（SoM）和参考载板组成，适合用于边缘AI应用的原型开发。

软件更新

NVIDIA还发布了针对现有Jetson Orin Nano开发者套件、Jetson Orin NX和Orin Nano系列SoM的软件更新，通过JetPack SDK可将生成式AI性能提升多达1.7倍。

行业反响

该发布引起了科技界的广泛关注：

• Graham Cooke（Amorphic创始人）表示，这意味着AI可以在不连接云端的情况下运行，并将引发一场重大的技术竞争。
• Marios Karatzias强调，随着机器人时代的到来，NVIDIA推出的这款处理器非常适合机器人应用。

应用前景

Jetson Orin Nano超级开发者套件使得边缘生成式AI更加普及，为机器人、视觉AI和多模态应用开辟了新的可能性。该套件现已通过NVIDIA全球授权经销商发售。