OpenAI的ChatGPT及其硬编码过滤器问题

OpenAI的ChatGPT不仅仅是一个带有华丽界面的AI语言模型，它由一系列AI模型和内容过滤器组成，确保其输出不会让OpenAI尴尬或使公司陷入法律纠纷。然而，最近人们发现某些名字会导致ChatGPT中断对话，这一现象引发了广泛关注。

导致ChatGPT中断的名字

以下是一些被发现会导致ChatGPT中断对话的名字：

• Brian Hood
• Jonathan Turley
• Jonathan Zittrain
• David Faber
• Guido Scorza

当用户在任何上下文中提到这些名字时，ChatGPT会立即中断对话，并显示“我无法生成响应”或“生成响应时出错”的消息。这种现象是由于硬编码过滤器在AI模型输出之前中断了对话。

为什么这些名字会被过滤？

OpenAI未对这些名字的过滤原因作出回应，但我们可以推测这些名字被过滤的原因与ChatGPT在缺乏足够信息时生成错误响应的倾向有关。最早被发现导致ChatGPT中断的名字是Brian Hood，他是一位澳大利亚市长，曾因ChatGPT错误地声称他因贿赂入狱而威胁起诉OpenAI。OpenAI最终在2023年4月同意过滤掉关于Hood的错误陈述。

Jonathan Turley和Jonathan Zittrain也因ChatGPT在2023年4月对他们的名字处理不当而被过滤。Turley曾提到ChatGPT编造了关于他的虚假性骚扰指控，而Zittrain则是一位研究互联网治理的哈佛法学院教授。

David Mayer的过滤问题

“David Mayer”这个名字也曾被过滤，但OpenAI后来表示这是一个技术故障，并正在修复。Reddit用户曾猜测这个名字可能与David Mayer de Rothschild有关，但没有证据支持这一理论。

硬编码过滤器的问题

硬编码过滤器可能导致以下问题：

1. 对抗性攻击：攻击者可能利用这些名字中断ChatGPT的对话，例如通过视觉提示注入的方式。
2. 限制系统功能：过滤器可能阻止ChatGPT浏览和处理包含这些名字的网站内容。
3. 用户不便：这些名字可能是许多人共有的，过滤器会使得这些名字的用户在使用ChatGPT时遇到困难。

未来展望

AI助手、大语言模型和聊天机器人的使用仍在早期阶段，它们的应用带来了许多机会和漏洞。OpenAI如何解决这些问题仍然是一个开放的问题。

本文于2024年12月3日下午3:50更新，加入了OpenAI关于“David Mayer”过滤问题的声明。