Microsoft推出Azure AI Inference SDK for .NET

微软发布了Azure AI Inference SDK for .NET，旨在简化开发者对Azure AI Studio模型目录中生成式AI模型的访问。该模型目录包含了来自Azure OpenAI Service、Mistral、Meta、Cohere、NVIDIA和Hugging Face等提供商的模型，并将其分为三个集合：Azure AI精选模型、Azure OpenAI模型和Hugging Face Hub的开放模型。用户可以通过托管计算解决方案请求新模型并部署现有模型。

Azure AI Inference SDK for .NET的主要功能

该SDK简化了从Azure AI模型目录访问模型的过程，支持将聊天等推理任务集成到应用程序中。

使用Azure AI Inference SDK for .NET的关键步骤

1. 应用程序设置：在开发环境中创建一个新的.NET应用程序。
2. SDK安装：通过NuGet包管理器安装Azure.AI.Inference SDK，以访问其功能。
3. 模型请求的代码实现：安装后，在代码中实现请求模型服务的功能。

Azure AI Studio模型目录

Azure AI Studio模型目录是发现和利用各种生成式AI模型的核心平台。该目录展示了来自Azure OpenAI Service、Mistral、Meta、Cohere、NVIDIA、Hugging Face以及微软自研的数百个模型。

模型目录的组织结构

Azure AI Studio模型目录将模型分为三个集合，以便更轻松地访问生成式AI模型：

1. Azure AI精选模型：该集合包含流行的非微软开源和专有模型，经过优化以适应Azure平台，并由微软根据适用的服务级别协议（SLA）提供支持。
2. Azure OpenAI模型：这些模型仅通过Azure OpenAI Service提供，并由微软根据特定产品条款和SLA提供支持。
3. Hugging Face Hub的开放模型：该集合包含数百个用于实时推理的模型，由Hugging Face维护，并通过其论坛和支持渠道提供支持。

用户请求新模型

用户可以通过指定表单请求添加新模型，促进创新AI应用的开发和部署。此外，开发者可以使用托管计算解决方案（包括具有灵活按需计费的无服务器API）部署这些模型。

更多信息

更多详细信息可参考Azure AI模型目录文档。