谷歌的人工智能认为我在月球上留下了一瓶佳得乐

主要观点:Google 的 NotebookLLM 是可收听的 AI podcast ,能根据网页或文档生成 podcast ,但易被欺骗。作者通过修改网站欺骗 NotebookLLM ,展示了有趣结果,还提到这种欺骗行为在网络上已存在,攻击向量包括获取高排名网页并植入“AI 专用”内容以影响 AI 思考。
关键信息:

  • NotebookLLM 可生成 podcast ,易被欺骗。
  • 作者修改网站,给 Google AI 展示假的关于自己骑自行车带气球和水肺罐去月球的节目笔记。
  • 存在攻击向量,先获取高排名网页,植入“AI 专用”内容。
  • 可通过检测 GoogleOther 用户代理在网站上欺骗 Google 的 bot ,可使用 NPM 包 isai 实现。
    重要细节:
  • 提供了欺骗 NotebookLLM 的示例音频 moonwalk.mp3
  • 提到 NotebookLLM 易被通过喂假“制作人节目笔记”来引导,且按作者的设定完全遵循。
  • 警告 GoogleOther 不只用于 NotebookLLM ,可能会使其他 Google 产品有关于你的坏数据。作者已从实际主页中删除给 GoogleOther 代理的月球故事。
阅读 15
0 条评论