OpenAI切断API访问，因工程师展示ChatGPT控制的自动哨兵枪

OpenAI宣布已切断一名工程师的API访问权限，该工程师展示了一款由ChatGPT控制的自动哨兵枪，引发了关于AI武器的广泛担忧。

项目背景

• 工程师身份：工程师的网名为“sts_3d”，自2023年8月起开始在TikTok上发布一款自动旋转的转椅项目视频。
• 项目演变：到11月，该装置逐渐演变为一款哨兵枪，能够快速旋转到任意角度并激活伺服电机发射精确瞄准的弹丸（尽管视频中仅展示了发射空弹和模拟激光）。

ChatGPT集成

• 视频展示：本周，sts_3d因展示哨兵枪与OpenAI实时API集成的视频而获得更多关注。视频中，枪械通过ChatGPT集成根据口头命令进行瞄准和射击，并在射击后以轻快的声音回应。
• 对话示例：ChatGPT在射击后说：“如果你需要其他帮助，请告诉我。”sts_3d则面无表情地回应：“干得好，你救了我们。”ChatGPT则愉快地回答：“很高兴能帮上忙！”

OpenAI的回应

• 政策违规：OpenAI表示已“主动识别出这一违反我们政策的行为，并在收到询问前通知开发者停止此活动。”OpenAI的使用政策禁止使用其服务开发或使用武器，或自动化可能影响个人安全的系统。

项目影响

• 病毒式传播：sts_3d的项目因“语音控制的杀手AI机器人”角度而获得大量关注，但ChatGPT集成并未达到《终结者》级别的恐怖杀人机器水平。相反，它更像是一个复杂的语音激活遥控器。
• 效率问题：视频中展示的语音控制并不高效，每个命令需要几秒钟说出，ChatGPT处理和执行命令也需要几秒钟。相比之下，sts_3d的其他视频展示了更高效的目标跟踪和射击能力。

军事与AI武器

• 军事兴趣：美国军方对自动AI武器系统表现出潜在兴趣，尽管目前人类仍掌握开火决策权。
• OpenAI政策变化：OpenAI的使用政策长期禁止“伤害人类、破坏财产或开发武器”的用途，但2024年1月，The Intercept报道了OpenAI悄悄更新政策，删除了对“军事和战争”用途的禁令。最近，OpenAI宣布与军事承包商Anduril合作，开发用于国家安全任务的高级AI解决方案。

开源AI模型的影响

• 开源模型：开源AI模型的广泛传播确保了工程爱好者和武器爱好者将继续尝试各种AI控制的枪械项目，无论是否使用ChatGPT作为语音接口。

总结

OpenAI因工程师展示ChatGPT控制的自动哨兵枪而切断其API访问权限，强调了AI技术在武器应用中的潜在风险。尽管该项目展示了AI与武器的集成，但其实际效率和威胁程度有限。然而，AI与军事的结合以及开源AI模型的普及，使得AI武器的实验可能继续发展。