主要观点：最近大家都在谈论负责任的 AI，工程师在将模型推向生产时应考虑伦理问题，包括公平性、透明度、隐私性、问责制和可持续性等五个维度，通过具体例子、指标和演示来实现这些维度，并将其融入模型开发过程。
关键信息：

• 伦理 AI 是模型开发过程每一步的设计决策，工程师需设计和构建负责任且可信赖的 AI 系统。
• 公平性方面要量化公平性指标，如人口统计学均等、均衡机会等，利用开源库进行偏差测试，可视化公平性权衡。
• 透明度方面要在多个层次解释模型，量化特征影响，记录模型生命周期。
• 隐私和安全方面要保护训练数据，采用差分隐私等技术，分布式学习且确保模型安全。
• 问责制和治理方面要进行人工审核，记录模型可追溯性信息，采用治理框架。
• 可持续性方面要测量计算和排放，优化资源效率。
  重要细节：
• 以招聘等为例说明数据偏差会导致不公平决策，包括明显偏差和潜在偏差。
• 解释了缺乏透明度的风险，如信任侵蚀、歧视等，以及如何通过 SHAP 进行局部和全局解释。
• 介绍了数据隐私和安全的常见攻击及应对措施，如使用 Opacus 进行差分隐私训练。
• 举例说明治理框架的应用，如 HR 筛选管道中的公平性和可追溯性记录。
• 用 CodeCarbon 工具测量训练排放，通过量化等技术优化资源效率。