主要观点：社会正处于范式转变，许多产品垂直领域通过“AI 优先”架构被重新构想，这带来机遇也有危险。AI 优先架构核心业务逻辑由 AI 驱动，IDE 等领域已出现挑战传统的 AI 优先产品。传统攻击路径在 AI 中心架构下已过时，需讨论新的攻击范式及防御措施。
关键信息：

• 模型提取：AI 驱动架构易被攻击者通过查询 AI 生成训练数据来复制模型，难以防御，可通过速率限制和使用监控来防御。
• 模型反转：AI 优先架构易受模型反转攻击，攻击者可让模型泄露训练集敏感数据，可通过差分隐私和数据匿名化来防御。
• 数据中毒：AI 优先架构训练数据易受攻击，数据中毒可构建后门或降低性能，可通过数据净化和数据来源追踪来防御。
  重要细节：
• OpenAI 指责 DeepSeek 窃取知识产权，可能是模型提取攻击。
• 传统应用可通过审计代码评估安全，AI 优先架构则需关注训练数据。
• 可使用 LLM 识别和过滤文本数据中的中毒尝试，要确保训练数据的质量和来源。