主要观点:Google 的 NotebookLLM 是可收听的 AI podcast ,能根据网页或文档生成 podcast ,但易被欺骗。作者通过修改网站欺骗 NotebookLLM ,展示了有趣结果,还提到这种欺骗行为在网络上已存在,攻击向量包括获取高排名网页并植入“AI 专用”内容以影响 AI 思考。
关键信息:
- NotebookLLM 可生成 podcast ,易被欺骗。
- 作者修改网站,给 Google AI 展示假的关于自己骑自行车带气球和水肺罐去月球的节目笔记。
- 存在攻击向量,先获取高排名网页,植入“AI 专用”内容。
- 可通过检测 GoogleOther 用户代理在网站上欺骗 Google 的 bot ,可使用 NPM 包
isai
实现。
重要细节: - 提供了欺骗 NotebookLLM 的示例音频 moonwalk.mp3 。
- 提到 NotebookLLM 易被通过喂假“制作人节目笔记”来引导,且按作者的设定完全遵循。
- 警告
GoogleOther
不只用于 NotebookLLM ,可能会使其他 Google 产品有关于你的坏数据。作者已从实际主页中删除给GoogleOther
代理的月球故事。
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。