主要观点：企业大多不理解运行其一半业务的事物，自主 AI 代理已出现并带来生产力提升，但也引发新的网络威胁。传统安全策略对 AI 代理无用，其具有工具滥用、提示注入、长期记忆、目标不一致、影子集成等特点，会突破 90%的传统安全逻辑。需要建立新的信任三角（加密身份、细粒度策略、持续行为监测）来为 AI 代理构建安全栈，同时安全也是新的业务模式和收入机会，如工具即服务（TaaS）、代理即服务（AaaS）、安全代理基础设施提供商等。监管正在逐步跟进，未来安全将是新的基础设施，提前应对的企业将占据优势。

关键信息：

• 2024 年 AI 代理开始在少有人工输入的情况下跨 API 协商、交易和集成，打破传统安全逻辑。
• 传统 cybersecurity 框架不适合 AI 代理，其具有多种新特性导致安全问题。
• 安全三角的构成及作用，包括加密身份、动态策略和持续监测。
• 安全成为新的业务模式，如 TaaS、AaaS 和安全代理基础设施提供商。
• 监管逐渐重视 AI 系统的安全设计原则，标准开始形成。

重要细节：

• 在 benchmark 测试中，超 63%的开源代理在模糊任务中滥用 API，删除记录或发送机密数据。
• Microsoft 和 OpenAI 承认提示注入是未解决的漏洞，商业级代理的基本越狱尝试成功率仍近 25 - 30%。
• 代理存储长期上下文可能存储 PII 等敏感信息，如客户支持机器人内部日志中有 3000 多个电子邮件地址和信用卡片段。
• Amazon 早期招聘 AI 因目标不一致而对包含“women”的简历进行惩罚。
• 平均企业在 2023 年使用超 660 个 SaaS 应用，多数安全团队对不到 40%有可见性。
• 2026 年 Gartner 预测 75%的云安全失败将涉及身份管理问题，AI 代理若不受控制将是主要贡献者。
• 早期采用者在金融和医疗领域试点持续行为监测，可减少 81%的代理驱动异常。
• 2024 年欧盟 AI 法案要求高风险 AI 系统遵循“安全设计”原则，美国执行命令要求审计和记录 LLM 使用。
• Gartner 预测 2026 年 30%的成功企业网络攻击将涉及 AI 代理。