OpenAI 推出 ChatGPT 插件支持

OpenAI 近期宣布了 ChatGPT 的插件支持功能，使语言模型能够访问外部工具和数据库。公司还开源了一个知识检索插件的代码，组织可以利用该插件通过 ChatGPT 访问自己的文档和数据。

插件解决的问题

尽管像 ChatGPT 这样的大型语言模型（LLM）可以正确回答许多问题，但其知识可能会过时，因为模型在训练后不会更新。此外，模型只能输出文本，无法直接代表用户执行操作。

为了解决这些问题，研究人员探索了让 LLM 执行 API 或访问知识数据库的方法。ChatGPT 的插件系统允许模型与知识库和第三方 API 等外部系统集成。检索插件使模型能够对向量数据库执行语义搜索。由于插件是自托管的，组织可以安全地将内部文档存储在数据库中，用户可以通过 ChatGPT 的自然语言界面与数据进行交互。

插件的技术细节

ChatGPT 插件是一个 Web 服务器，向 ChatGPT 公开一个“指令”清单，描述插件的操作作为提示，并将 API 参考作为 OpenAPI yaml 规范。通过这些，ChatGPT 理解可能的 API 调用和应遵循的指令。

Pinecone 的贡献

Pinecone 为开源插件项目贡献了数据存储实现，以及一些内部改进的测试和文档。基础实现遵循 Pinecone 的 upsert/query/delete 范式，目前正在开发混合查询和其他高级查询技术。

插件的优势

与 LangChain 等其他 LLM 集成相比，ChatGPT 插件更适合 AI 应用开发。ChatGPT 插件的优势包括：更复杂的实现，利用 OpenAI 的内部插件能力；支持安全和认证方法，这对于访问个人数据或代表用户执行操作的 AI 应用开发至关重要。

安全挑战

在开发插件过程中，安全挑战包括确保 ChatGPT 访问个人或组织数据时的安全和数据完整性。插件设计用于处理 API 认证，确保数据访问的安全。此外，生成式语言模型经常面临幻觉和对齐问题。通过延长插件的 alpha 阶段，OpenAI 可以更好地对齐结果后再向更广泛的受众发布。

用户透明度

插件功能设计完全透明，用户明确选择要启用的插件，并且 ChatGPT 使用插件时会明确向用户指示，同时用户可以轻松查看插件服务提供给 ChatGPT 的具体结果。