主要观点：大型语言模型发展迅速并改变技术使用方式，2022 年生成式 AI 工具兴起引发商业探索和员工采用，AI 已涵盖多领域能力，成功实施零信任 AI 需处理多项安全等问题。
关键信息：

• AI 部署生命周期包括业务和数据理解、数据准备、模型开发、模型评估、模型部署和服务、模型监测和迭代等 6 步。
• AI 模型安全依赖 CIA 三元组，面临保密性、完整性、可用性等风险，如模型反转攻击、数据篡改、DoS 攻击等。
• 保障 AI 安全需采取多种措施，如强化 AI 模型、保护数据完整性和隐私、监测和威胁检测、确保 AI 供应链安全、防止模型提取和盗窃、事件响应和 AI 安全弹性、员工培训和 AI 意识等。
  重要细节：
• 业务和数据理解需明确目标，收集并处理好数据；数据准备要去除重复等；模型开发要选择技术等；模型评估用多种指标；模型部署后需持续监测。
• 保密性保护信息隐私，完整性保证数据可靠，可用性确保数据可用可访问，且各有相应攻击方式。
• 强化 AI 模型可通过对抗训练等；保护数据完整性可用数据加密等；监测和威胁检测借助 IDS 等；确保供应链安全要审查第三方组件等；防止模型提取和盗窃可通过流量监测等；事件响应要有计划和工具；员工培训强调责任等。
• 零信任安全模型对 AI 重要，AI 安全将不断进化，需多方合作发展道德 AI 并赢得公众信任。