OpenAI的API用户全面接入全新o1模型

OpenAI API 更新概述

OpenAI 宣布了一系列针对开发者的 API 更新,包括最新的 o1 模型的推出、实时交互和微调功能的改进,以及新的软件开发工具包(SDK)支持。

o1 模型更新

  • 模型升级:开发者现在可以通过 OpenAI 的 API 访问最新的 o1 模型,取代之前的 o1-preview 模型。
  • 核心功能回归:新模型恢复了在 o1-preview 期间缺失的核心功能,包括使用开发者消息引导特定聊天机器人(例如“你是一个为税务专业人士提供帮助的助手”)以及访问“推理努力”参数,该参数告诉 API 在处理特定查询时思考的时间,从而节省简单问题的时间和成本,以便用于更复杂的问题。
  • 视觉信息输入:API 用户现在可以使用文档扫描等视觉信息作为输入。
  • 内部函数调用改进:新 API 在内部函数调用方面有所改进,OpenAI 模型可以在适当情况下调用外部开发者预写的函数来生成特定查询的答案。
  • 结构化输出更准确:新 API 在使用结构化输出时更加准确,使用 JSON 模式以开发者指定的格式呈现信息。
  • 性能提升:o1 模型比 o1-preview 模型少用 60% 的思考 token,生成结果更快且成本更低,同时在 LiveBench 和 AIME 等基准测试中准确性提高了 25 到 35 个百分点。

实时交互更新

  • WebRTC 支持:使用 OpenAI 实时语音 API 的开发者现在可以完全访问 WebRTC 支持,这简化了第三方应用程序的 OpenAI 音频接口的创建,从大约 250 行代码减少到十几行。
  • 成本降低:OpenAI 将 o1 音频 token 的成本降低了 60%,4o mini token 的成本降低了 90%,以鼓励更多设备使用上下文感知的 AI 助手。

微调功能更新

  • 直接偏好优化:开发者可以使用一种新的微调方法“直接偏好优化”,在现有监督微调系统的基础上,只需提供两个单独的响应并指示其中一个更受偏好,OpenAI 的微调过程将自动学习偏好和非偏好答案之间的差异,并优化新模型。

新 SDK 支持

  • Go 和 Java SDK:OpenAI 宣布将为 Go 和 Java 语言提供新的 SDK,使使用这些语言的程序员能够连接到 OpenAI API。
阅读 17
0 条评论