什么是通用人工智能?没有人同意,并且它正在撕裂微软和 OpenAI。

主要观点:关于人工智能系统何时足够智能被称为人工通用智能(AGI)存在定义混乱,微软和 OpenAI 认为答案在于经济(产生 1000 亿美元利润),但难以创建通用 AGI 定义,不同人对 AGI 有不同理解,如谷歌 DeepMind 认为 100 人会有 100 种相关但不同定义。AGI 定义问题对 AI 系统的开发、监管和思考有实际影响,传统定义面临人类水平表现等棘手问题,微软和 OpenAI 因对 AGI 定义的分歧陷入谈判僵局。AGI 术语起源模糊,目标设定不断变化,从“做人类能做的一切”到“做最经济有价值的任务”,图灵测试已显陈旧,当前 AGI 定义多样且存在分歧,如 OpenAI 定义为在多数经济有价值工作中超越人类,马克·扎克伯格无简洁定义,Sam Altman 认为已知道如何构建传统理解的 AGI,Ilya Sutskever 将其视为神秘事物。Google DeepMind 提出五级 AGI 性能框架但遭批评,认为 AGI 定义不清难以科学评估。微软 - OpenAI 纠纷表明哲学推测转化为法律义务的问题,1000 亿美元利润阈值将商业成功与认知能力混淆。寻找更好的 AGI 基准存在问题,如数据污染等,尽管 AI 取得进步,但多数研究人员认为 AGI 未临近,专家预测常被 AI 能力快速发展所惊讶,行业内一些人也在慢慢收回 AGI 临近的主张。定义混乱对政策制定、公司吸引投资等有实际影响,应放弃追求模糊的 AGI 定义,关注具体能力如无大量再训练可学习新任务等。

关键信息:

  • 不同机构和人物对 AGI 的定义不同,如 OpenAI、谷歌 DeepMind 等。
  • 微软和 OpenAI 因 AGI 定义分歧陷入谈判。
  • 寻找 AGI 基准存在数据污染等问题。
  • 多数研究人员不认为 AGI 临近。

重要细节:

  • John McCarthy 于 1956 年 coined 人工智能术语,AGI 较晚出现,Mark Gubrud 于 1997 年 first used 该术语,Shane Legg 和 Ben Goertzel 于 2002 年 independently reintroduced 它。
  • 早期 AI 研究人员设想能在所有领域匹配人类能力的系统,目标设定不断变化。
  • 图灵测试曾是机器智能的基准,但已显陈旧。
  • Google DeepMind 提出五级 AGI 性能框架。
  • 多数 AI 研究人员对 AGI 临近持怀疑态度,专家预测常被 AI 能力发展所惊讶。
  • 定义混乱对政策、公司等有实际影响。
阅读 437
0 条评论