Justin Sheehy在InfoQ Dev Summit波士顿站的主题演讲总结

在InfoQ Dev Summit波士顿站上，Akamai的Justin Sheehy发表了关于在人工智能（AI）炒作时代如何成为负责任开发者的精彩开幕主题演讲。该演讲主要面向那些可能因AI领域的快速发展和过度期望而感到压力的软件从业者。

Sheehy在演讲开始时提醒开发者，他们的选择在这个时代至关重要。他强调了开发者需要在三个场景中保持谨慎：学习AI系统、明智且安全地使用AI系统，以及在创建AI系统时尽量减少伤害。

主要观点：

1. 开发者应基于证据而非炒作评估AI系统：Sheehy呼吁开发者利用自身能力，深思熟虑地评估关于AI系统的各种说法，以基于证据的方式决定如何最好地利用这些系统。
2. 开发者应对自己的工作负责：他强调了开发者在AI系统中的责任，要求他们在工作中做到有益、诚实和无害。

Sheehy指出，开发者拥有塑造技术发展轨迹的权力，但这种权力伴随着巨大的责任。他提醒与会者不要轻信关于当前语言模型（如GPT-4o或Google的Gemini 1.5）的夸大宣传，尤其是在缺乏实质性证据支持的情况下。

关键信息：

• AI时代的现状：Sheehy将当前称为“AI时代”，并指出AI的巨大进步被更大的炒作所掩盖。
• 大语言模型的局限性：他澄清了关于这些模型的几个误解，例如它们能够发展出类似人类的智能或通过图灵测试。Sheehy认为这些模型只是概率重复机器，类似于鹦鹉模仿声音而没有真正的理解。
• 偏见清洗（Bias Laundering）：Sheehy警告了“偏见清洗”现象，即人们倾向于将算法生成的答案视为客观事实，而忽略了训练过程中可能存在的偏见。这可能导致公司在不知情的情况下违反安全法规或侵犯权利。
• AI洗白（AI Washing）：他还提醒了“AI洗白”现象，即公司为了营销目的声称其产品由先进AI技术驱动，而实际上并未带来功能改进。这种做法可能导致资源错配和基于对AI能力过度自信的错误决策。

结论与建议：

Sheehy在演讲结束时介绍了“对齐AI”（Aligned AI）框架，该框架的“三个H”原则是有益、诚实和无害。他认为开发者应遵循这些原则，确保他们创造的技术真正造福社会，同时尽量减少潜在危害。

在被问及关于大语言模型涌现能力的论文时，Sheehy指出：

• 涌现能力的真实性存疑：某些所谓的涌现能力可能是研究者选择的结果，或者完全不存在。他建议人们不要混淆这两种情况。

开发者可以通过访问InfoQ Dev Summit系列网站了解更多信息，并关注InfoQ以获取演讲录制的发布信息。