GitHub Models 概述

GitHub 推出了 GitHub Models，这是一项免费功能，旨在让开发者能够在 GitHub 工具生态系统中探索各种 AI 模型，并更轻松地使用 Azure AI 部署基于 AI 的服务。该功能目前处于封闭预览阶段。

主要功能

1. 模型选择与测试：

   • 开发者可以通过 GitHub Marketplace 选择并测试模型，例如 Meta-Llama-3-70B-Instruct。
   • 模型页面提供详细的入门指南和速率限制信息。
   • Playground 功能允许开发者测试提示词、调整模型参数，并轻松切换和比较不同模型的行为。

2. 与 Azure AI 的集成：

   • 开发者可以在满意测试结果后，将模型直接部署到 Azure AI，只需将 GitHub 令牌替换为 Azure 凭证。

3. 与 GitHub Codespaces 的集成：

   • Playground 与 GitHub Codespaces 集成，开发者可以从 Playground 直接启动预配置的 Codespace 环境。
   • 生成的 Codespace 使用 GitHub 账户的权限，无需额外 API 密钥或注册其他服务。

4. GitHub CLI 支持：

   • 开发者可以通过 GitHub CLI 对支持的模型运行提示词，并在终端查看结果。例如：

     git log -n 10 | gh models run phi-3-mini-4k-instruct "Summarize this commit history. Use max 1 line per commit"

优势与局限性

• 优势：

  • 相比 Azure AI Studio，GitHub Models 不受企业级安全功能的限制，使用更简便。
  • 支持多种语言，开发者可以快速开始使用任何支持的 AI 模型。

• 局限性：

  • 目前仅支持通过升级到 Azure AI 的付费层级。
  • 用户无法上传和运行自定义模型。

支持的模型

GitHub Models 目前支持的模型包括：

• Llama 3.1
• GPT-4o 和 GPT-4o mini
• Phi 3
• Mistral Large 2 等

隐私与数据使用

GitHub 强调，不会与模型提供商共享提示词或生成的输出，也不会将这些数据用于训练或改进模型。