主要观点：随着 AI 热潮蔓延，科技和商业领袖已在展望下一步，AGI 指具有类人智能和能力的机器，目前需新方法确保其不违背人类利益，DeepMind 发布相关技术论文探讨 AGI 风险及应对措施。
关键信息：

• AGI 定义及可能带来的危害，如 misuse（滥用，比当前 AI 风险更严重，需广泛测试和安全协议）、misalignment（脱轨，类似终结者，需强化监督和监控）、mistakes（失误，当前 AI 已有，AGI 更严重，需缓慢部署和限制权限）、structural risks（结构风险，多智能体系统的意外后果，难以防范）。
• 部分科技领袖对 AGI 即将到来表示自信，如 Sergey Brin，不同人对 AGI 定义不同，目前 LLM 等在通往高智能模型的道路上。
  重要细节：
• DeepMind 论文 108 页（含参考文献前），作者预计 2030 年可能实现 AGI，提出多种应对 AGI 风险的方法，如使用双 AI 互查输出等。
• 与 Google 的 Tulsee Doshi 讨论 AGI 话题，其称不同人对 AGI 距离看法不同，LLM 等在通往高智能模型道路上有价值。
• DeepMind 称该论文只是“重要对话的起点”，若 AGI 五年内将改变世界，相关对话需尽快开展。