摘要

浙大校友毕树超在加入Meta超级智能实验室后首次发声，表示过去十年对AGI（通用人工智能）的看法从怀疑转变为深信，并认为AGI时代已经到来。他回顾了人工智能领域的关键技术进展，包括深度学习、自监督学习、Transformer架构、强化学习等，强调了算力和数据规模的作用。同时，他展望了未来AI发展的方向，尤其是预训练与高算力强化学习结合的潜力。

关键点

• 毕树超曾是OpenAI多模态后训练研究负责人，现加入Meta超级智能实验室，首次发声称AGI时代已至。
• 他在哥伦比亚大学和哈佛大学发表演讲，阐述过去15年的技术进展、开放问题及未来发展趋势。
• 早期对AGI持怀疑态度，但随着对AI的深入理解，他开始相信人脑可以被模拟，并认为系统规模是关键因素。
• 回顾人工智能历史，从图灵提出机器学习核心思想到深度学习革命的兴起。
• 深度学习的里程碑包括AlexNet、Word2Vec、GAN、ResNet等技术的突破。
• Transformer架构成为过去十年最重要的技术之一，推动了GPT系列模型的发展。
• GPT模型的通用性和Scaling Law揭示了算力、参数量、数据量与性能之间的线性关系。
• 强化学习的发展从AlphaGo到AlphaZero，再到与预训练模型结合，开启了新时代。
• 预训练与高算力强化学习结合是未来构建AGI乃至ASI的关键方向。
• 毕树超强调算力增长与AI技术进步的关系，并呼吁重新审视我们认为不可能的事情。