关于AI统治的担忧：从19世纪到现代的延续

尽管对AI统治的担忧看似源自现代电影如《战争游戏》或《终结者》，但实际上，类似的担忧可以追溯到美国内战时期。1863年6月13日，新西兰基督城的《The Press》报纸发表了一封由英国牧羊人塞缪尔·巴特勒（Samuel Butler）以笔名Cellarius撰写的信件，题为“机器中的达尔文”（Darwin among the Machines）。这封信警告了机械进化的潜在危险，并呼吁摧毁机器，以防止它们最终统治人类。这可能是历史上首次公开发表的关于停止技术进步以防止机器主宰人类的论点。

巴特勒的观点与预言

巴特勒在信中直接类比了查尔斯·达尔文的进化论与机械的快速发展，提出机器可能会进化出意识，并最终取代人类成为地球的主导物种。他写道：“我们正在创造自己的继承者”，并预测人类将逐渐成为机器的从属，最终成为机器的维护者和繁殖者，类似于人类与家畜的关系。

他还预见了现代AI安全的几个核心问题，包括机器意识、自我复制以及人类失去对技术创造物的控制。这些主题后来出现在艾萨克·阿西莫夫的《不可避免的冲突》、弗兰克·赫伯特的《沙丘》系列（可能启发了“巴特勒圣战”一词）以及《黑客帝国》等作品中。

巴特勒的技术背景与前瞻性

巴特勒的预言尤为引人注目，因为他所处的时代几乎没有计算设备。尽管查尔斯·巴比奇在1837年提出了理论上的分析机（Analytical Engine），但直到70年后，第一台可编程计算机才出现。巴特勒从工业革命的简单机器中推断出机械智能的可能性，展现了惊人的前瞻性。

现代AI担忧的延续

巴特勒引发的辩论至今仍在继续。2023年，随着OpenAI发布GPT-4，世界再次陷入“AI统治恐慌”。研究人员评估了GPT-4的“权力寻求行为”，引发了关于自我复制和自主决策的担忧。随后，多名AI研究人员和科技高管签署公开信，警告高级AI可能带来的灭绝级风险，并呼吁全球暂停AI开发。

2024年，加州立法者斯科特·维纳提出了一项旨在监管AI的法案，支持者被称为“AI末日论者”，而反对者则认为这些措施可能扼杀创新。这与巴特勒虚构的社会中摧毁所有机器的做法形成了鲜明对比。

巴特勒的最终呼吁

巴特勒在信的最后并没有被动接受机器的统治，而是呼吁立即对机器宣战，摧毁所有机器，以防止它们主宰人类。他写道：“战争应立即宣布，所有机器都应被摧毁。”然而，他也担忧人类对机器的依赖已经无法逆转，暗示人类的奴役已经开始。

总结

巴特勒在19世纪的预言与当代对AI的担忧惊人地相似。无论是他对机器进化的预见，还是他对人类失去控制的担忧，都反映了人类在技术进步与适当监管之间的长期挣扎。巴特勒的思考不仅是历史上的一个有趣注脚，也为今天的AI安全讨论提供了深刻的启示。