我们应得的人工智能 - 波士顿评论

主要观点:生成式 AI 在两年内崛起,虽引发热潮但也有争议,它颠覆多个行业,在教育等领域作用显著,但也带来新问题如作弊等,其权力集中在少数公司手中,引发关于技术与民主关系的讨论。

关键信息

  • 2022 年 11 月 30 日 ChatGPT 广泛可用,AI 重塑生活,如作者利用 AI 构建语言学习应用。
  • 生成式 AI 带来新体验和痛苦,教育领域存在作弊隐患,其影响深入社会政治生活。
  • 对 AI 的讨论存在现实主义者和拒绝主义者两派,前者接受现有 AI 并主张监督,后者认为 AI 本质有问题。
  • AI 起源于 20 世纪 50 年代,早期以目标驱动的问题解决为重点,受 cybernetics 影响,忽视非目标导向的智能形式。
  • 如 Terry Winograd 从复制人类智能转向增强人类智能,但其方法仍受目的论思维限制。
  • 早期 AI 受效率游说团影响,与 Cold War 背景下的机构目标一致,忽视其他可能的技术发展路径。
  • Hans Otto Storm 的“eolithism”观念强调无预设目标的创造力,与 Cold War 理性模式相反,对理解人类智能有启示。
  • 当今生成式 AI 虽有助于生态理性,但也存在个体主义、商业化等问题,限制了其充分发挥。
  • 推动生态理性需打破与效率游说团的联系,如拉丁美洲的例子所示,通过政治和技术手段实现,避免 eolithism 演变为 solutionism。

重要细节

  • 在健康护理领域,AI 帮助医生总结记录和建议治疗但仍有缺陷;在创意领域,AI 生成各种内容;在教育领域,AI 简化学术文本和定制学习材料。
  • 现实主义者主张 AI 透明和民主监督,拒绝主义者认为 AI 本质有问题需从根本改造。
  • General Problem Solver 等早期 AI 工具受规则驱动,后被神经网络方法取代,但仍以解决问题为导向。
  • 早期 cyberneticians 借鉴反馈控制技术理解人类智能,AI 则将隐喻变为现实。
  • Dreyfus 对 AI 的批判未触及目标导向的思维方式,Heidegger 则强调非目标导向的智能形式。
  • 斯坦福教授 Terry Winograd 从复制人类智能转向增强人类智能,创建 Coordinator 软件系统。
  • 人工智能研究可能吸引了研究或优化官僚系统的人,与 Efficiency Lobby 目标一致。
  • John McCarthy 定义 AI 领域时绕过了更广泛的科学社区,早期从业者忽视了非目标导向的智能形式。
  • Hans Otto Storm 的“eolithism”观念与设计模式的对比,以及其在现代的体现。
  • 当今生成式 AI 像市场一样运作,存在个体主义、商业化等问题,限制了生态理性的发挥。
  • 拉丁美洲的例子如 Chile 的 Project Cybersyn 和 Argentina 的相关举措,展示了摆脱效率议程实现生态理性的可能。
  • 一些早期实验如 Environmental Ecology Lab 因缺乏政治行动而失败,MIT Media Lab 也从强调玩忽职守演变为更具工具性。
阅读 8
0 条评论