Cloudflare 为影子 AI 风险评估引入自动化评分

主要观点:2025 年 AI 周期间,Cloudflare 宣布了应用信心评分系统,旨在帮助组织大规模评估第三方 AI 应用的安全性,以应对“影子 IT”和“影子 AI”带来的挑战。
关键信息

  • 新评分系统提供 1 到 5 的两个独立评分,分别是应用信心评分和生成式 AI 信心评分。
  • 评分基于客观规则,不基于主观判断或大规模红队测试,数据来自公开信息,通过爬虫收集并由 AI 计算。
  • 目前评分未被管理服务使用,将作为 AI 安全态势管理新套件的一部分在 One SASE 平台提供,不久后会集成到应用库中。
  • AI 周期间 Cloudflare 还宣布了其他保障 AI 访问的功能,如影子 AI 仪表板、API CASB 控制、MCP 服务器门户和 AI 提示保护。
    重要细节
  • 应用信心评分的计算标准包括法规合规、数据管理实践、安全控制和财务稳定性等。
  • 生成式 AI 信心评分关注部署安全模型、模型卡可用性和用户提示训练。
  • Walter Haydock 对 Cloudflare 如何确定应用信心评分中的 ISO 42001 表示感兴趣。
  • 评分系统的每个安全和合规实践组件都基于公开数据,无数据时不评分,且有 AI 监督以提高准确性。
阅读 61
0 条评论