人工智能伦理的重要性

随着越来越多的决策由机器做出或受其影响，制定人工智能（AI）的伦理准则变得愈发重要。核心问题在于：“我能构建它，但我是否应该构建它？” 可解释的AI（Explainable AI）可以为公平性和可解释性提供制衡机制，工程师们需要分析这些系统对人们生活和心理健康的影响。

机器学习与人类决策的对比

在机器学习之前，人类做出招聘、广告、贷款和刑事判决等决策，这些决策通常受到法律的规范，以确保公平性、透明性和公正性。然而，现在许多这些决策由机器做出或受到其极大影响。

伦理准则的必要性

Kesha Williams指出，机器不仅能够模仿和增强人类的决策能力，还可能放大人类的偏见。因此，制定AI伦理准则至关重要。讨论伦理AI时，常涉及公平性、透明性、责任和人权等概念。总体目标是避免延续偏见、考虑潜在后果并减轻负面影响。

伦理AI的核心问题

Williams强调，伦理AI的核心问题在于：“我能构建它，但我是否应该构建它？如果我构建了它，有哪些保护措施来保护受AI影响的人？” 这是AI伦理的核心。

可解释AI的作用

Williams认为，伦理和风险可以通过可解释AI来融入，这有助于我们理解模型如何做出决策。可解释AI旨在在机器学习的每个阶段（问题形成、数据集构建、算法选择、训练、测试、部署、监控和反馈）中嵌入公平性和可解释性的制衡机制。

工程师的责任

作为工程师，我们有责任从道德和伦理的角度审视我们开发的AI/ML系统。鉴于其广泛的社会影响，盲目实施这些系统已不再可接受。Williams总结道，工程师必须首先分析这些系统对人们生活和心理健康的影响，并在机器学习的每个阶段引入偏见的检查和平衡机制。

机器学习与传统软件开发的差异

在传统软件开发中，开发者逐行编写代码，告诉机器该做什么。而机器学习则相反，我们首先提供数据，机器根据数据编写代码（即模型）来解决问题。

AI中偏见的来源

偏见可能出现在数据中，如果数据集不平衡或不能准确反映模型将部署的环境。偏见也可能由算法本身引入，即使训练数据平衡，结果也可能偏向某些数据子集。偏见还可能出现在部署后的模型中，由于漂移（drift）现象，目标变量与其他变量之间的关系随时间变化，降低模型的预测能力。此外，偏见还可能出现在人员、策略和基于模型预测采取的行动中。

减轻偏见的方法

Williams提出了几种减轻偏见的方法：

• 验证机器学习是否是解决问题的伦理方案
• 确保数据集反映模型将使用的环境
• 理解数据集中特征之间的相关性，并确定是否需要修改数据集以减轻偏见
• 确认为数据集选择了最佳算法
• 使用相关的公平性指标评估训练模型
• 监控生产中的模型漂移并提供反馈循环