一群研究人员、学者和黑客正努力使打破人工智能公司服务条款以进行“善意研究”变得更容易，该研究旨在揭露偏见、不准确和训练数据，且无需担心被起诉。

• 美国政府考虑的豁免：正在考虑对美国版权法的豁免，允许人们突破人工智能系统的技术保护措施和数字版权管理，以更多了解其工作原理、探测偏见等，并允许“善意”的安全和学术研究及“红队”测试，即使研究人员需要绕过旨在阻止该研究的系统。该豁免得到了司法部的支持，称善意研究可帮助揭示敏感个人数据的收集或暴露等问题。
• 研究现状与挑战：关于像 ChatGPT 等闭源人工智能工具的工作原理，很多知识来自研究人员等故意尝试欺骗这些系统以揭示其训练数据等信息，这通常违反用户注册系统时同意的服务条款，如 OpenAI 的服务条款禁止某些行为。MIT 研究员 Shayne Longpre 表示对这些模型及其设计等存在担忧，研究生态不健康，很多人因善意研究被暂停账户或担心法律后果，服务条款对研究有抑制作用且公司在执行条款方面不透明。
• 豁免的相关法律：豁免针对《数字千年版权法》第 1201 节，其他 1201 豁免允许对拖拉机和电子设备进行黑客攻击以用于维修等，有保护安全研究人员等的例外情况。已有许多学术论文等表明人们用人工智能工具进行“越狱”等研究。
• 具体案例与争议：例如 Longpre 及其同事发表的分析引用了之前 Midjourney 的服务条款，指出 AI 公司利用服务条款阻止分析，目前 Midjourney 的服务条款已删除相关内容。Hacking Policy Council 的 Harley Geiger 称豁免对识别和修复算法缺陷很关键，豁免不会阻止公司阻止此类研究，但会在法律上保护违反公司服务条款进行研究的人员。在春季的听证会上，代表 AI 公司的 App Association 的 Morgan Reed 认为研究人员应事先获得 AI 公司的同意，否则可能被视为恶意黑客，而 DVD Copy Control Association 反对该豁免。
• 作者信息：Jason 是 404 Media 的联合创始人，曾任 Motherboard 的主编，热爱《信息自由法》和冲浪。