主要观点：AI 不能为你开发软件，但仍有人尝试，这将使简单软件开发问题变难。AI 相关炒作过度，其声称能取代众多工作领域，如医学、法律等，但只是幻想，实际会带来诸多危害，如剥夺人们的工作、住房等福利，还会掩盖决策伤害的责任。“AI”这一术语无益，易让人产生误解。ChatGPT 等由大型语言模型驱动，语言模型只是语言概率关系的统计模型，不代表知识或理解，不能与真正的智能划等号。软件开发的基本任务是构建复杂系统的心理模型，而 AI 只能做编程的简单部分且不可靠，将学习工作交给机器是短视的。AI 炒作与复杂性的忽视相结合，产生了 AI 支持者，他们推销用 AI 自动化编程，这是个坏主意。AI 目前存在诸多问题，如输出需大量人工审核、侵犯知识产权、消耗大量能源等，是为了欺骗人们以谋取利益。

关键信息：

• AI 虽不能开发软件但有人尝试，会变简单问题为难题。
• AI 相关炒作过度，声称能取代多领域工作但只是幻想，会带来危害。
• “AI”术语无益，易误导。
• ChatGPT 由大型语言模型驱动，该模型只是语言概率关系统计模型。
• 软件开发任务是构建复杂系统心理模型，AI 只能做简单部分且不可靠。
• AI 炒作与忽视复杂性结合产生支持者，推销用 AI 自动化编程是坏主意。
• AI 存在诸多问题，如输出需人工审核、侵犯知识产权、消耗大量能源等，是为谋取利益。

重要细节：

• 文中提到 Turing 测试，常见观念是计算机能在对话中可靠地以假乱真就有智能，但这过度了。
• 语言模型是语言令牌间概率关系的统计模型，不代表知识或理解，如对“Jennifer”的处理。
• 软件开发是复杂的，非琐碎项目需构建复杂系统心理模型，AI 不能替代。
• AI 支持者推销用 AI 自动化编程，这会导致无人能解释代码等问题。
• AI 输出需大量肯尼亚低薪人工审核，训练模型存在侵犯知识产权等问题，能源消耗巨大。