主要观点
多家大型科技公司,包括Google、Apple和Discord,通过其登录系统为有害的“脱衣”网站提供了便利,这些网站利用AI技术未经同意将真实照片中的人物“脱衣”,制作虚假裸体照片。尽管这些科技公司有明确规定禁止开发者利用其服务进行伤害、骚扰或侵犯隐私的行为,但这些登录系统仍被滥用,使得用户可以轻松注册这些深度伪造网站。
关键信息
- 滥用登录系统:超过16个“脱衣”和“裸体化”网站使用了Google、Apple、Discord、Twitter、Patreon和Line的登录系统,使得用户可以快速注册并支付费用生成虚假图像。
- 生成式AI的滥用:随着生成式AI技术的发展,未经同意的亲密图像制作数量激增,尤其是针对女性和未成年人的图像。
- 科技公司的反应:在WIRED联系后,Discord和Apple表示已移除相关开发者账户,Google表示将对违反其服务条款的开发者采取行动,Patreon和Line也表示正在调查。
- 法律诉讼:旧金山市检察官David Chiu已对16个“脱衣”网站及其创建者提起诉讼,指控这些网站对全球女性和女孩进行可怕的剥削。
重要细节
- 登录系统的滥用:Google的登录系统出现在16个网站上,Discord出现在13个,Apple出现在6个。这些登录系统通过API和常见的身份验证方法部署,允许用户使用现有账户加入深度伪造网站。
- 网站运营模式:这些网站通常作为企业运营,提供多种语言,并不断开发新功能,如允许从Instagram上传照片,甚至创建自己的加密货币用于支付。
- 支付系统的关联:多个网站显示Mastercard或Visa的标识,暗示可能使用这些支付系统进行交易。Mastercard表示不允许在其网络上购买非同意的深度伪造内容,并会采取行动。
- 科技公司的责任:专家批评科技公司未能主动采取措施阻止这些网站的扩散,仅在媒体或活动人士揭露后才采取行动,认为这是“完全不够的”。
总结
科技公司通过其登录系统为有害的“脱衣”网站提供了便利,尽管有明确规定禁止滥用,但这些系统仍被广泛用于未经同意的图像制作。生成式AI技术的发展使得这一问题更加严重,尤其是针对女性和未成年人的图像。科技公司在媒体揭露后采取了一些行动,但专家认为其反应远远不够,未能有效阻止这些网站的扩散。法律诉讼也在进行中,试图追究这些网站及其创建者的责任。
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。