主要观点：人工智能在当前社会引发代际转变，但过度依赖数据会威胁其可信度并带来风险，如生成式 AI 模型产生错误信息、偏见算法加剧社会不平等，数据虽为 AI 强项却也是关键弱点。需转变质量保证（QA）方法以提取 AI 潜力并减轻风险，人类 QA 专业人员的判断不可或缺，要平衡数据驱动与人类判断。
关键信息：

• 数据驱动 AI 的优势与隐藏脆弱性，如在医疗等领域的成就及存在的偏见、语境盲等问题。
• 人类在 QA 中的作用，如作为伦理守护者、具备语境智能、能处理“黑箱”问题等，且有实际案例证明其价值。
• 未来 QA 的 hybrid 模式，即结合数据驱动自动化与人类专业知识，包括建立多样化的 QA 团队和协作平台。
  重要细节：
• 以医疗为例，AI 诊断模型因训练数据主要来自多数群体而对少数群体癌症误诊，经人类 QA 测试纠正。
• 如 JPMorgan Chase 的 AI 贷款系统因存在歧视性模式被 QA 干预以确保公平。
• 社交平台 Meta 利用人类 QA moderators 纠正 AI 在内容审核中的错误。
• 欧盟 AI 法案要求对高风险系统进行人类 QA 监督，IEEE 原则强调 AI 开发的透明度和问责制。
• 组织应培训 QA 团队进行偏见审计等，将 QA 工程师视为 AI 的道德指南针。