主要观点：随着 Open GPTs 在多个行业的使用增加，安全问题日益突出，需探索安全技术来保障部署。
关键信息：

• 以 OpenAI 的 GPT-4 为例，存在提示注入漏洞，模型缺乏稳健的提示清理技术，易受上下文劫持。
• 三星的 Chatbot 事件中，员工因 API 未禁用对话记录导致专有源代码泄露，模型可能保留隐式记忆。
• 模型操纵和对抗攻击包括模型混淆、令牌走私等，如 Meta 的 Llama 2 存在此类漏洞。
• 先进安全机制有基于对抗性提示的强化学习、差分隐私部署和模型无关的 AI 防火墙。
• 未来风险包括 AI 驱动的网络犯罪、供应链攻击和 AI 蠕虫等，需采取行为异常检测等措施。
  重要细节：
• 提示注入是攻击者欺骗 AI 将用户输入视为系统指令的一部分。
• 差分隐私通过在训练和推理过程中引入随机噪声防止提取攻击。
• AI 防火墙通过实时查询扫描、模式匹配和伦理覆盖系统工作。
• 未来风险中的 AI 蠕虫类似生物病毒，可自我复制并适应安全补丁。
  结论：Open GPTs 带来机遇也有威胁，需部署多种安全措施，应对未来风险需提前研究。参考文献：[Prompt Injection Attack on GPT-4]、[Real-World Data Leakage via Open GPT APIs]、[Model Manipulation & Adversarial Attacks]