主要观点：AI 世界，尤其是大型语言模型和生成式 AI 正在改变格局，像解锁了创造内容、自动化任务和解决难题的超能力，但也有新的出错方式。OWASP 专家列出 2025 年新 AI 应用的十大安全风险，类似实地指南帮助从开发者到 CISO 等人员发现和修复数字漏洞。
关键信息：

• 十大安全风险包括提示注入、敏感信息披露、供应链漏洞、数据中毒、输出处理不当、过度代理、系统提示泄漏、向量和嵌入弱点、误信息、无界消耗。
• 提示注入是恶意用户通过输入特定提示操纵语言模型行为；敏感信息披露是无意暴露训练或运行中数据；供应链漏洞依赖外部组件引入风险；数据中毒通过操纵训练数据影响模型输出；输出处理不当导致下游系统安全漏洞；过度代理可自主执行动作导致意外或恶意行为；系统提示泄漏可让攻击者获取模型安全机制信息；向量和嵌入弱点导致信息访问等问题；误信息使模型生成错误信息；无界消耗可导致服务拒绝或成本增加。
  重要细节：
• 如顾客服务聊天机器人受语言模型驱动，攻击者可输入提示让其泄露管理员密码；研究助手总结文档时可能意外包含敏感财务数据；LLM 应用依赖外部组件，其漏洞可引入风险；数据中毒可改变训练数据导致模型输出错误；输出未验证可能导致恶意代码注入；LLM 有过度代理能力可发送未经授权邮件；攻击者可通过询问获取系统提示进而攻击；向量数据库访问控制弱可导致信息泄露；新闻应用生成虚假新闻；攻击者可发送大量复杂提示导致服务不可用或成本增加。总结这些风险可帮助构建安全可信的 AI 工具。