Mhairi Aitken在Devoxx UK的主题演讲总结

在Devoxx UK的主题演讲中，Mhairi Aitken（艾伦·图灵研究所的伦理研究员）探讨了人工智能在处理人类语言复杂性时的局限性，并以AI错误发音她的盖尔语名字为例进行了说明。她首先介绍了自己在艾伦·图灵研究所的工作，主要集中在预测大型语言模型（LLMs）在社会中的社会和伦理风险，并努力理解如何最小化这些风险，以及在负责任设计和开发的前提下，数据和AI如何为社会提供价值。

ChatGPT简介

Aitken简要介绍了ChatGPT，指出它是一种高级的预测文本程序，基于大型语言模型，通过海量人类语言数据集训练，能够识别语言模式并生成看似合理的回复，模仿人类语言。然而，她强调，尽管生成的内容可能令人信服，但ChatGPT并不理解这些词语或结构的含义，缺乏对上下文或重要性的理解，因此“只有形式，没有实质”。

大型语言模型的基础作用

ChatGPT是构建新系统的基础模型，意味着它们并非为特定任务设计，而是通过海量数据进行通用训练，适用于多种场景。用户可能与基于这些模型构建的软件交互，却未必了解其底层机制。Aitken强调，在使用这些模型之前，必须像建筑检查员一样审查其基础，确保其适合特定用途。

关键问题与挑战

Aitken提出了几个关键问题，以帮助评估AI模型的适用性和风险：

1. 使用的构建材料是什么？：如果模型基于有偏见或不完整的数据训练，生成的输出也会带有偏见或不完整。ChatGPT训练于互联网数据，而互联网反映了社会的偏见，尤其是经济和政治上强势的声音主导，少数群体则较少被代表。
2. 模型是否适合特定用途？：与建筑基础类似，通用模型是否能够支持不同领域的需求？LLMs并非为特定领域设计，因此需要评估其在不同行业中的敏感性和风险。
3. 是否采用了伦理的劳动力实践？：ChatGPT依赖其审核API来避免生成有害内容，但有报道称，肯尼亚工人在构建API时暴露于极端有害内容，且缺乏保护。
4. 模型的环境影响如何？：训练ChatGPT产生的碳排放相当于驾车往返月球，这还不包括其优化、维护和运行。Aitken呼吁人们评估使用AI的代价是否值得。

AI的局限性与人类的作用

Aitken指出，尽管AI系统能够执行越来越多的任务，并展现出更高的复杂性，但它们永远无法替代人类的创造力、问题解决能力和情商。她强调，开发者有责任审视基础模型的实际和技术限制，并在与AI互动时遵循伦理和社会考量。

总结

Aitken的演讲提醒我们，尽管AI技术发展迅速，但其应用必须谨慎，开发者和社会需共同承担起确保AI技术负责任发展的责任，在构建新系统之前，必须仔细审查其基础。