主要观点：AI 无处不在， cybersecurity 也不例外，AI 可助力数据安全但也可能带来风险，需采取措施保护 AI 数据安全。
关键信息：

• AI 在数据安全中的作用：处理大量数据，以机器速度处理模式并标记异常，如基于行为的检测、自动响应、预测未来威胁等，但不能弥补人为疏忽。
• AI 数据安全的关键风险和威胁：包括数据中毒、对抗性输入、模型反转和数据泄露、AI 驱动的攻击、内部威胁和配置错误等。
• 6 种 proven practices for AI 数据保护：从开始就锁定访问权限、确保训练数据管道安全、实践数据最小化和清理、保护 MLOps/DevSecOps 管道、保护模型本身、将 AI 与现有安全工具集成。
• AI 监管景观和合规：与合规紧密相连，受多种数据保护法律约束，如 GDPR、CCPA 等，未来欧盟 AI Act 等法规将带来更多要求，应做好合规工作。
  重要细节：
• 监测网络流量是北美 cybersecurity 中 top AI use case，54%美国受访者将其作为主要 AI 策略。
• 如 Microsoft 研究人员在 GitHub 上意外暴露 38 terabytes 内部数据的事件。
• 数据中毒是将虚假或误导性示例潜入训练数据，对抗性输入是对输入数据的微小调整以欺骗 AI，模型反转和数据泄露是攻击者提取训练数据等。
• 如 DeepLocker 工具使恶意软件可利用 AI 隐藏，攻击者利用生成模型写更难识别的假邮件等。
• 如使用 role-based access control、加密等措施保护 AI 系统，利用 AI 工具清理内部系统数据等。
• 欧盟 AI Act 对不同类型 AI 系统进行风险分级，美国有多种 sector-specific 法规影响 AI 工具设计和部署。
• 应做好合规工作，如映射数据流向、分类数据等。