主要观点:安全研究人员和开发者对“slopsquatting”这一新型供应链攻击发出警报,攻击者利用 AI 生成的误信息(幻觉)欺骗开发者下载恶意内容。
关键信息:
- “slopsquatting”由 Seth Larson 提出并被 Andrew Nesbitt 推广,指攻击者注册不存在但被 AI 工具误提的软件包,含恶意代码,与 typo 攻击不同,完全依赖 AI 缺陷和开发者信任。
- 得克萨斯大学圣安东尼奥分校等研究机构联合研究发现近 1/5 AI 提的包不存在,平均商业模型幻觉包占 5.2%,开源模型占 21.7%,且幻觉包有可预测性,不同模型幻觉率不同,CodeLlama 7B 和 34B 最高超 30%,GPT-4 Turbo 最低 3.59%。
- 趋势“vibe coding”可能使问题恶化,开发者依赖 AI 生成代码而少手动审查,易受攻击。
重要细节: - 开发者安装未验证的包可能引入恶意代码给黑客后门访问敏感环境。
- 研究中多次使用相同提示,43%幻觉包重复出现。
- 专家建议安装前手动验证包名、使用安全工具扫描依赖、检查可疑新库、避免直接复制粘贴安装命令。部分 AI 模型如 GPT-4 Turbo 和 DeepSeek 自我监管能力在提高,能检测并标记输出中的幻觉包,准确率超 75%。
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。