Apple 计划发布软件更新以澄清 AI 生成的通知摘要

根据 BBC 的一篇新闻报道，Apple 计划发布一项软件更新，旨在帮助用户更好地理解其通知摘要是由 AI 生成的，并且可能包含错误。这一更新是对用户报告称摘要提供了关于世界事件的误导信息的回应。

事件背景

例如，一份错误的摘要向至少一名用户暗示，涉嫌谋杀 UnitedHealthcare CEO Brian Thompson 的 Luigi Mangione 已经自杀。该通知原本是为了总结来自 BBC 新闻应用的 22 条通知中的关键信息。

更新内容

Apple 尚未公开具体将如何修改软件，仅表示将通过软件更新“进一步澄清”通知是由 Apple Intelligence 功能生成的。目前，通知摘要已经通过一个自定义的大型语言模型（LLM）生成，并在摘要上有一个小图标，表示这些摘要并非来自应用本身的原始通知。然而，大多数用户可能无法立即理解该图标的含义。

用户反馈与改进

用户可以通过移动设备上的“设置”应用禁用 Apple Intelligence 通知摘要功能。Apple 发言人表示，Apple Intelligence 旨在帮助用户更快、更轻松地完成日常任务，包括可选的通知摘要功能。这些摘要通过摘要图标标识，用户可以随时点击查看原始内容。Apple Intelligence 功能目前处于测试阶段，公司正在根据用户反馈不断改进。

技术限制与挑战

BBC 的报道似乎对 Apple Intelligence 通知摘要的工作原理缺乏理解，例如暗示所有用户都收到了关于 Mangione 的错误通知。实际上，摘要的措辞会根据用户设备上同时接收的其他通知而有所不同。尽管 Apple 无法通过软件更新完全解决摘要错误的问题，但公司正在努力帮助用户理解该技术的局限性，以便他们做出更明智的判断。

大型语言模型（LLM）的局限性

Apple 使用的 LLM 通过预测单词的部分内容来生成摘要，但无法真正理解其总结的内容。这些预测并不总是准确，错误率约为每 100 或 1000 次输出中出现几次。在用户不完全理解其工作原理的情况下大规模部署该技术存在风险，无论是 iPhone 的通知摘要还是 Google 的搜索引擎结果页面的 AI 摘要。即使大多数摘要都是准确的，总会有部分用户看到错误信息。

Apple Intelligence 的推出与未来

此前有分析指出，Apple Intelligence 的推出似乎有些仓促，与 Apple 通常对质量和用户体验的关注不符。在当前技术条件下，Apple 无法通过改进使通知摘要的错误率降至零。Apple 正在努力让用户理解摘要可能出错，但让所有 iPhone 用户真正理解该功能的工作原理和原因将是一项艰巨的任务。

更新：此前版本中的一句话误读了 BBC 的声明，声称通知来自 Apple 制作的应用，该句已被删除。