Cloudflare 推出 Firewall for AI 功能

Cloudflare 最近在其 Web 应用防火墙（WAF）中推出了名为 Firewall for AI 的新功能。该功能为大型语言模型（LLMs）提供了一层额外的保护，能够在攻击到达并篡改模型之前识别滥用和攻击行为。

功能概述

Firewall for AI 包含以下工具和特性：

1. 漏洞识别与可见性：部署在应用前端，帮助模型所有者识别漏洞并提供可见性。
2. 现有 WAF 功能：如速率限制和敏感数据检测。
3. 新保护层（开发中）：审查用户提交的提示，检测试图利用模型、提取数据或进行其他滥用行为的尝试。

部署与优势

• 部署位置：该功能可部署在 Cloudflare 的 Workers AI 服务中的 LLMs 之前，确保最小延迟，因为 LLMs 在 Cloudflare 的全球网络上靠近企业客户运行。
• 自动化威胁拦截：通过扫描用户提示，防火墙可以自动拦截威胁，无需人工干预，有效防御提示注入攻击和其他攻击向量。
• 免费使用：在 Workers 上运行 LLMs 的 Cloudflare 客户可以免费使用此功能，以应对不断演变的安全问题。

背景与需求

随着 OpenAI 的 ChatGPT 等先进 AI 技术的出现，攻击者的手段也变得更加复杂。例如，攻击者利用 AI 生成更个性化的钓鱼邮件或消息，增加了用户泄露敏感信息的风险。Firewall for AI 的推出正是为了应对这些新型威胁。

官方评价

• Daniele Molteni（Cloudflare 产品经理）：Cloudflare 是首批推出 AI 应用安全工具的安全提供商之一。通过 Firewall for AI，客户可以控制哪些提示和请求到达其语言模型，从而降低滥用和数据泄露的风险。
• Matthew Prince（Cloudflare 联合创始人兼 CEO）：Cloudflare 的 Firewall for AI 将帮助从源头构建 AI 安全，为企业提供利用 AI 技术的机会的同时，确保其受到保护。

外部观点

• Buchi Reddy B（LevoIncHQ CEO & 联合创始人）：虽然此类解决方案有其必要性，但必须解决根本原因。类似的情况也出现在 API 安全领域，API WAF 解决方案承诺会阻止问题，但并未解决根本原因。因此，这类解决方案可能是必要的，但并不足够。

总结

Cloudflare 的 Firewall for AI 功能为 LLMs 提供了强大的安全保护，通过自动化威胁检测和拦截，帮助企业应对新型 AI 攻击。尽管该功能在安全防护方面具有重要意义，但解决根本问题仍然是关键。