谷歌AI助手在超级碗广告中的错误信息事件

事件背景

谷歌去年推出的AI Overviews功能曾多次被指出包含虚假、误导性甚至危险的信息。最近，谷歌在计划于超级碗期间播放的广告中，展示了其AI写作助手的错误信息，随后悄然删除了相关内容。

广告内容

该广告是谷歌“50个州50个故事”推广活动的一部分，旨在为不同本地市场定制Gemini广告。威斯康星州奶酪市场的老板在广告中询问谷歌写作助手，如何撰写一份吸引奶酪爱好者的烟熏高达奶酪描述。AI生成的回应称，高达奶酪“占全球奶酪消费量的50%至60%”，这一数据被广泛认为是夸大其词。

数据来源与错误

谷歌云应用总裁Jerry Dischler在社交媒体上指出，这一错误信息并非AI的“幻觉”，而是基于网络上的多个来源，特别是cheese.com网站。然而，cheese.com并未提供相关数据的来源，且其内容在准确性上存在争议。

广告修改与特权

谷歌在未通知的情况下，将YouTube上的广告版本进行了修改，删除了错误的高达奶酪数据。这种在相同URL下替换视频的操作，普通用户无法实现，暗示谷歌可能使用了特殊权限。

用户警示与AI助手局限性

谷歌AI写作助手在广告中并未提供数据来源，且在小字中注明其结果为“创意写作辅助，不保证事实准确性”。尽管谷歌警告用户AI助手仍处于实验阶段，可能提供不准确或冒犯性的建议，但这并未阻止谷歌在超级碗广告中大力推广其AI写作助手。

结论

此次事件凸显了AI助手在处理事实信息时的局限性，以及用户在使用这些工具时应保持警惕。同时，也反映了谷歌在推广其AI产品时，可能未充分告知用户其潜在的风险和局限性。