OpenAI GPT Store 的安全漏洞问题

OpenAI 近期推出了其新的 GPT Store，但随之而来的是一些数据安全问题。研究发现，该系统存在潜在的信息泄露风险，尤其是通过提示注入（Prompt Injection）等技术，可能导致敏感信息被提取或模型输出被操控。

研究背景与发现

西北大学的研究人员通过对超过 200 个用户设计的 GPT 模型进行对抗性提示测试，发现这些系统容易受到提示注入攻击。提示注入是一种已知的漏洞，攻击者通过精心设计的输入或提示，操控大型语言模型（LLMs）如 GPT 的行为。研究发现，通过提示注入，攻击者不仅可以提取定制的系统提示，还能访问上传的文件。

具体案例

一位开发者 Zuhayeer Musa 分享了他的经历，他为一个自定义 GPT 模型上传了有限的数据作为知识源，但发现源数据文件被泄露。这一案例进一步证实了当前自定义 GPT 模型在系统提示提取和文件披露方面的脆弱性。

安全风险的严重性

研究人员强调，尽管自定义 GPT 模型为 AI 应用开辟了新领域，允许个人和组织无需编码技能即可创建特定需求的 AI 模型，但这也引入了额外的安全漏洞向量。他们的测试表明，提示注入几乎可以完全暴露系统提示，并从大多数自定义 GPT 中检索上传的文件。

研究结论与建议

研究人员在论文中呼吁采取紧急行动，强调在快速发展的可定制 AI 领域中，需要增强安全措施。他们希望这一研究能引发更多关于 AI 技术创新与安全之间平衡的讨论。

其他研究支持

Adversa AI 最近也展示了 GPT 可能被诱骗泄露其构建方式，包括提示、API 名称以及上传的文档元数据和内容。OpenAI 表示已经修复了 Adversa AI 研究人员报告的漏洞，并持续致力于提高模型和产品在面对敌对攻击时的安全性和鲁棒性，同时保持模型的实用性和任务性能。

进一步阅读

开发者可以通过 Arxiv 上的技术论文或社交媒体上的反应了解更多关于西北大学的研究工作。