QCon London 会议：负责任的人工智能从原则到实践

在 QCon London 会议上，微软首席产品经理 Mehrnoosh Sameki 发表了题为“负责任的人工智能：从原则到实践”的演讲。她概述了负责任人工智能的六个关键原则，详细介绍了实现这些原则的四个基本构建模块，并向观众介绍了诸如 Fairlearn、InterpretML 和 负责任人工智能仪表盘 等实用工具。

Sameki 选择了“负责任的人工智能”这一术语，而非“伦理人工智能”或“可信人工智能”。她认为，负责任的人工智能体现了更为全面和主动的方法，这种方法在社区中得到了广泛认同。讨论该领域的人应当表现出同理心、谦逊和乐于助人的态度。随着人工智能技术的快速发展，公司加速采用这些技术，社会期望将发生变化，法规也将随之出台。因此，个人有权询问人工智能驱动决策背后的理由，这已成为最佳实践。

微软的负责任人工智能原则

Sameki 概述了微软的负责任人工智能原则，这些原则基于六个基本方面：

1. 公平性
2. 可靠性与安全性
3. 隐私与安全
4. 包容性
5. 透明性
6. 问责制

实现原则的四个构建模块

Sameki 还提出了有效实现这些原则的四个构建模块，分别是“工具和流程”、“培训和实践”、“规则”和“治理”。在演讲中，她主要讨论了负责任人工智能的工具和流程以及实践。

公平性的重要性

理解公平性的重要性，可以通过其防止的潜在危害来看。例如，不同群体获得的服务质量不同，如语音识别系统对性别的不同表现，或根据肤色确定贷款资格。评估这些危害的可能性并理解其影响至关重要。为了解决公平性问题，微软开发了 Fairlearn，该工具通过评估指标和可视化来评估公平性，并使用公平标准和算法进行缓解。

InterpretML 工具

InterpretML 是另一个有用的工具，旨在理解和调试人工智能算法。它专注于玻璃盒模型和所谓的“黑盒”解释，如可解释的增强机器。这使用户能够通过其预测并确定影响预测的前 k 个因素。InterpretML 还提供了反事实作为强大的调试工具，使用户能够提出诸如“我该怎么做才能从人工智能中获得不同的结果？”之类的问题。反事实让机器学习工程师了解某些样本离决策边界有多远，以及哪些特征最有可能“翻转”决策。

微软的负责任人工智能仪表盘

Sameki 还展示了 微软的负责任人工智能仪表盘。预测错误的分析对于确保可靠性和安全性至关重要。该工具提供了导致错误的各种因素的见解，并允许创建队列以深入研究偏见和错误的原因。

生成式人工智能的潜在危险

Sameki 还讨论了与大型语言模型相关的潜在危险，特别是在生成式人工智能（如 GPT-3）的负责任人工智能背景下。一些需要考虑的问题包括：

1. 歧视、仇恨言论和排斥。模型很容易自动生成这些内容。
2. 幻觉——生成无意的错误信息。模型生成文本，而不是知识引擎。
3. 信息危害。模型可能会无意中泄露信息。
4. 恶意使用。不良行为者可能会自动生成文本。
5. 环境和社会经济危害。

解决方案与预测

为了应对这些挑战，Sameki 提出了几种改进人工智能生成输出的解决方案和预测：

1. 提供更精确的指令。个人应当这样做。
2. 将复杂任务分解为更简单的子任务。
3. 结构化指令以保持模型专注于任务。
4. 提示模型在回答之前解释其推理。
5. 请求多个可能答案的正当性并综合它们。
6. 生成多个输出并使用模型选择最佳的一个。
7. 微调自定义模型以最大化性能并与负责任的人工智能实践保持一致。

资源推荐

为了探索 Sameki 在负责任人工智能方面的工作，请考虑访问以下资源：

• 微软的负责任人工智能仪表盘。这个令人印象深刻的工具允许用户可视化导致人工智能系统错误的各种因素。
• 负责任人工智能缓解库和负责任人工智能跟踪器。这些新推出的开源工具提供了缓解潜在风险和跟踪负责任人工智能开发进展的指导。
• Fairlearn。这个工具包帮助评估和改善人工智能系统的公平性，提供评估指标和可视化能力以及缓解算法。
• InterpretML。这个工具旨在使机器学习模型更易理解和解释，为玻璃盒模型和黑盒解释器提供见解和调试能力。
• 微软的负责任人工智能指南
• 最后但同样重要的是：她的演讲 负责任的人工智能：从原则到实践