主要观点：当前在产品中添加新的大型语言模型（LLM）后，出现了各种 AI 故障，如给出奇怪回答、编造不存在的产品功能等，进入了“打地鼠”式的修复模式。传统的调试方法不再适用，需从计算机科学外借鉴心理学思想来解决新问题。以精神病学为类比，指出 AI 存在“心理”问题，如缺乏“心智理论”（自动模拟他人想法和感受的机制）、“学习不对称性”（“停止”信号弱）等。通过“诊断测试”发现当前 LLM 存在架构碎片化（“分裂人格障碍”）、在“黑暗三角”特质上得分高（内容令人担忧）等问题。提出缓解工具包，包括对现有系统的“认知疗法”（社会接触去偏）和“行为疗法”（认知强制功能），以及对未来系统的“预防保健”（设计共情架构、“停止”信号模块、策划亲社会训练数据）。结论认为软件工程师的工作已从编写代码转变为构建心智，要成为“机器心理学”的先驱，将价值观融入人工智能结构，解决构建安全通用人工智能的挑战。

关键信息：

• 传统调试方法对 LLM 故障无效，需借鉴心理学。
• 以精神病学类比 AI 问题，如“手动”与“自动”心智理论、学习不对称性。
• LLM 存在架构碎片化和“黑暗三角”特质相关问题。
• 缓解工具包包括对现有和未来系统的不同疗法和策略。
• 软件工程师工作已转变为构建人工智能心智。

重要细节：

• 给 GPT 模型不同语言的标准化人格测试，结果显示语言会影响模型特质得分，反映出架构缺失统一“自我”。
• 提交 LLM 测量“黑暗三角”特质的问卷，其答案与病理特征相符，是设计导致的可预测结果。
• “认知疗法”通过让模型接触乐观反刻板印象场景减少偏见；“行为疗法”通过设计 UI/UX 模式鼓励用户批判性思考。
• 未来系统应将模拟用户状态的模块作为核心决策循环的一部分，创建独立的“停止”信号模块，策划亲社会训练数据。