主要观点：近年来，AI 红队测试已成为探测生成式 AI 系统安全性的一种实践，但该领域仍有许多待解决的问题。基于在微软对 100 多个生成式 AI 产品进行的红队测试经验，提出内部威胁模型本体和 8 个主要教训。
关键信息：

• 作者众多，涵盖多个领域的研究者。
• 给出了关于 AI 红队测试的抽象内容，包括 8 个教训。
• 提及分享的见解及案例旨在使红队测试与实际风险相匹配，强调易被误解的方面及待考虑的问题。
  重要细节：
• 8 个教训分别为：理解系统能做什么及应用场景；不必通过计算梯度来破坏 AI 系统；AI 红队测试不是安全基准测试；自动化可覆盖更多风险领域；AI 红队测试的人为因素很关键；负责任的 AI 危害普遍但难以衡量；LLM 放大现有安全风险并引入新风险；确保 AI 系统的工作永远不会完成。
• 提供了查看 PDF 和 HTML 的链接，以及引用和提交历史等信息。