NVIDIA Metropolis Microservices扩展至Jetson嵌入式平台

NVIDIA宣布将其Metropolis Microservices云AI解决方案扩展至NVIDIA Jetson嵌入式平台，支持视频流和基于AI的感知功能。这一扩展旨在加速边缘设备上云原生、灵活且安全的视觉AI应用的开发。

主要功能与优势

1. 加速应用开发：通过新的API和微服务，开发者可以现代化其AI应用堆栈，简化流程并确保应用的安全性。
2. 模块化部署：Metropolis Microservices以Docker容器形式打包，支持构建模块化且易于部署的系统。开发者可以根据需求选择所需的微服务或组件。
3. 扩展功能：Jetson平台新增了视频存储与媒体管理、跟踪算法、系统监控、物联网服务等微服务，支持边缘到云的连接。此外，还提供了登录、身份验证、设备API的安全访问以及分析功能。
4. 视频处理能力：视频存储工具包提供硬件加速的视频解码和编码，支持H264和H265流媒体，使用RTSP和WebRTC等标准协议。分析服务能够实时跟踪视频中各种对象的移动。
5. AI感知：基于NVIDIA的DeepStream SDK，支持多传感器处理、视频、音频和图像理解。

预构建参考应用

1. AI驱动的网络视频录像机（AI-NVR）：该参考工作流集成了所有可用的微服务，展示了如何构建包括视频摄取、AI推理、分析和监控在内的完整管道。NVIDIA还提供了Android客户端应用，以展示这些API的使用。
2. 零样本检测：该参考应用展示了如何在边缘设备上运行生成式AI应用。通过REST API远程控制，该应用可以检测提示中指定类别的对象。

NVIDIA Jetson平台

NVIDIA Jetson是一个用于边缘AI和机器人应用的平台，能够每秒运行高达275万亿次操作（TOPS）。它支持许多经过专门优化的开源模型，用户可以在Jetson生成式AI实验室中找到这些模型。