警察的最爱 AI 工具会自动删除使用 AI 时的证据

主要观点:电子前沿基金会(EFF)对 AI 生成的警察报告进行调查,指出 Axon 的 Draft One 工具设计上难以审计和透明,可能让警察更易说谎,且存在诸多问题如不保存草稿记录、难以评估报告准确性等,呼吁全国监测此类报告并公布指南,同时一些地区已开始采取措施限制其使用。
关键信息

  • Draft One 去年夏天在科罗拉多州警局推出,依赖 ChatGPT 变体生成报告,警察需编辑修正。
  • EFF 发现该技术旨在阻碍审计等,警察不用披露使用 AI 的情况,部门不保留草稿版本。
  • 目前难知警察是否编辑报告,且存在 AI 误判等问题,可能给警察提供“烟幕”逃避责任。
  • Axon 称 Draft One 有保障措施,使用记录存于审计线索中,可导出相关报告,但 EFF 认为其仍存在问题。
  • EFF 发送公共记录请求,发现产品监督功能薄弱,部分部门无法导出相关报告,而 Axon 可追踪警察使用情况。
  • 加利福尼亚州有法案要求披露 AI 生成部分,犹他州也在考虑类似举措,华盛顿州一检察官办公室已禁止使用 AI 警察报告。
    重要细节
  • EFF 审查 Axon 材料制作请求,部分部门要求披露使用 AI 情况使记录更易搜索。
  • Axon 称仅保存最终批准报告,不存原始草稿,且可导出 Draft One 使用报告等。
  • 公共辩护人担心 AI 生成报告影响庭审交叉询问,EFF 呼吁其他检察官禁止使用。
阅读 81
0 条评论