参议员称特朗普要求制造反觉醒的聊天机器人的命令是违宪的

主要观点:

  • 周三各大人工智能公司 CEO 收到敦促对抗特朗普“反觉醒”人工智能命令的信件,该命令要求与联邦政府签约的 AI 公司满足两个条件以获得资金,特朗普称美国赢得人工智能竞赛取决于消除所谓的自由偏见。
  • 一些专家认为特朗普的命令可能违宪或非法,缺乏对模型偏见的明确界定可能导致问题,AI 公司可能因多种原因不愿遵守,如难以确定事实与意识形态等。
  • 有观点认为聊天机器人可能是在过滤保守派错误信息而显得倾向自由派,且不清楚输出中的偏见程度会对合同产生何种影响。
  • 已存在显示右翼偏见的 AI 模型获得政府合同的例子,且国防部的决定表明其对模型输出中的偏见有一定容忍度。
  • 特朗普的“反觉醒”人工智能议程存在技术难题,要求 AI 公司解释输出以获政府合同可能与其他行动计划冲突。

关键信息:

  • 特朗普的“反觉醒”AI 命令要求 AI 公司证明其系统“求真”和“中立”。
  • 参议员 Markey 指责共和党基于感觉而非事实制定政策,称特朗普的命令忽视矛盾证据。
  • 专家认为 AI 公司可能因担心政府干预、技术挑战等原因抵制命令。
  • 一些聊天机器人可能在过滤保守派错误信息。
  • 已有的 Grok 事件显示右翼偏见模型获政府合同且存在明显偏见未影响合同。
  • 特朗普的 AI 行动计划承诺人工智能“复兴”但存在技术难题。

重要细节:

  • 信件链接:https://www.markey.senate.gov...;反觉醒命令链接:https://www.whitehouse.gov/pr...
  • 斯坦福商学院教授 Andrew Hall 发表论文称美国人认为某些流行 AI 模型输出倾向左派。
  • 特朗普命令中举例的有问题输出如描绘教皇等图像生成器及模型对性别称呼等处理。
  • 国防部称 Grok 的反犹事件不足以使其失去 2 亿美元合同,且政府期望应对风险并部署 AI 技术。
  • 特朗普的 AI 行动计划承认前沿 AI 系统内部工作原理未被很好理解。
阅读 127
0 条评论