微软宣布推出Azure机密虚拟机（NCC H100 v5 SKU）

微软宣布正式推出Azure机密虚拟机（NCC H100 v5 SKU），该虚拟机配备了NVIDIA Tensor Core GPU。这些虚拟机结合了第四代AMD EPYC处理器的硬件数据保护功能和高性能。

主要特点

• 机密计算：通过在GPU上启用机密计算，Azure为客户提供了更多选择，使其能够在云中安全高效地运行工作负载。
• 适用场景：这些虚拟机非常适合推理、微调和训练中小型模型，如Whisper、Stable Diffusion（及其变体SDXL、SSD）、以及Zephyr、Falcon、GPT-2、MPT、Llama2、Wizard和Xwin等语言模型。
• 可信执行环境（TEE）：NCC H100 v5 VM SKU提供了基于硬件的可信执行环境，增强了虚拟机的安全性，保护其免受管理程序和其他主机管理代码的潜在访问，从而防止未经授权的操作员访问。

验证和安全性

• 验证机制：客户可以在这些虚拟机中发起验证请求，以确保它们在正确配置的TEE上运行。在释放密钥和启动敏感应用程序之前，这种验证是必不可少的。

行业应用

多家公司已利用Azure NCC H100 v5 GPU虚拟机进行各种工作负载，如使用Whisper模型进行机密音频到文本推理、视频分析以预防事故、数据隐私保护以及在汽车行业中使用敏感设计数据的稳定扩散项目。

行业竞争

除了微软，其他两大超大规模云服务提供商AWS和谷歌也提供NVIDIA H100 Tensor Core GPU。例如，AWS通过其EC2 P5实例提供H100 GPU，这些实例针对高性能计算和AI应用进行了优化。

技术背景

• NVIDIA H100 Tensor Core GPU：基于Hopper架构，NVIDIA H100是其第9代数据中心GPU，旨在提供比前代NVIDIA A100 Tensor Core GPU更高的性能，特别是在大规模AI和HPC工作负载方面。

可用性

Azure NCC H100 v5虚拟机目前仅在美国东部2区和西欧地区提供。

专家观点

• 验证机制的局限性：Azure机密计算产品负责人Vikas Bhatia和Abstract Machines创始人兼CEO Drasko Draskovic在LinkedIn上指出，当前Azure和GCP的验证机制仍然依赖于对云提供商的信任，这在某种程度上削弱了机密计算的目的。目前，裸机方法似乎是唯一可行的选择，但这又消除了对TEE的需求（除了提供多方计算服务）。