微软指控三人运营“黑客即服务”计划

微软指控三名外国个体运营了一项“黑客即服务”计划，该计划旨在通过微软的AI生成内容平台创建有害和非法内容。这些被告开发了专门设计的工具，以绕过微软为防止通过其生成式AI服务创建有害内容而设立的安全防护措施。他们还通过非法手段获取了合法客户的账户，并将这两者结合起来创建了一个收费平台，供人们使用。

复杂的犯罪计划

微软还起诉了七名据称是该服务的客户。由于微软不知道他们的身份，所有十名被告均被命名为“John Doe”。微软的律师在提交给弗吉尼亚东区联邦法院的诉状中表示，微软希望通过此次诉讼来打击这些网络犯罪分子的复杂计划，这些犯罪分子开发了专门设计的工具，以绕过微软和其他公司提供的生成式AI服务的安全防护措施。

服务运营细节

据称，运营该服务的三人通过非法手段获取了合法微软客户的账户，并通过一个现已关闭的网站“rentry[.]org/de3u”出售这些账户的访问权限。该服务从去年7月运营到9月，当时微软采取了行动将其关闭。该服务包含了“详细的使用说明，指导如何使用这些定制工具生成有害和非法内容”。

技术手段

该服务包含一个代理服务器，用于在客户和提供微软AI服务的服务器之间中继流量。代理服务使用了未公开的微软网络应用程序接口（API）与公司的Azure计算机进行通信。生成的请求旨在模仿合法的Azure OpenAPI服务API请求，并使用被泄露的API密钥进行身份验证。

账户泄露原因

微软没有具体说明合法客户账户是如何被泄露的，但指出黑客通常会创建工具来搜索代码库中的API密钥，这些密钥是开发人员在创建应用程序时无意中暴露的。微软和其他公司长期以来一直建议开发人员从发布的代码中删除凭证和其他敏感数据，但这一做法经常被忽视。微软还提出了这些凭证可能被未经授权访问存储网络的人窃取的可能性。

微软的防护措施

微软和其他公司禁止使用其生成式AI系统创建各种内容，包括涉及或促进性剥削或虐待、色情或攻击、贬低或排斥基于种族、民族、国籍、性别、性别认同、性取向、宗教、年龄、残疾状况或类似特征的内容。微软还禁止创建包含威胁、恐吓、促进身体伤害或其他虐待行为的内容。

除了明确禁止此类使用外，微软还开发了防护措施，检查用户输入的提示和生成的输出，以确保内容不违反这些条款。近年来，这些基于代码的限制多次被绕过，有些是通过研究人员的良性行为，有些是通过恶意威胁行为者的行为。

法律指控

诉讼指控被告的服务违反了《计算机欺诈和滥用法》、《数字千年版权法》、《兰哈姆法》和《反勒索及受贿组织法》，并构成了电信欺诈、访问设备欺诈、普通法侵入和侵权干扰。诉状寻求一项禁令，禁止被告从事“任何此类活动”。