元在首届 LlamaCon 活动中宣布 API 和保护工具

主要观点:Meta 在首次 LlamaCon 活动中宣布了用于基于其 Llama AI 模型构建的新工具,包括有限预览的 Llama API、新的 Llama 保护工具等。
关键信息

  • LlamaCon 是为期一天的虚拟活动,有首席产品官 Chris Cox 的主题演讲及 Meta CEO Mark Zuckerberg 与其他 CEO 的一对一聊天。
  • 宣布与 Cerebras 和 Groq 合作以实现 API 的快速推理能力,以及 LlamaStack 与 NVIDIA NeMo 微服务的集成。
  • 推出新的开源 AI 保障工具,如 Llama Guard 4、LlamaFirewall 和 Llama Prompt Guard 2。
  • Llama API 已作为免费预览发布,有 Python 和 Typescript SDK,兼容 OpenAI 的 SDK。
  • API 包括用于微调和评估自定义模型的资源,开发者可下载并在任何地方运行自定义模型。
    重要细节
  • Hacker News 讨论中有人抱怨 Llama 许可证的限制使其不完全开源。
  • Reddit 线程中用户对快速推理新闻反应积极。
  • 开发者可加入等待列表以获取 Llama API 预览,Llama Stack 代码可在 GitHub 上获取。
阅读 23
0 条评论