4天，ZAO从刷屏到被约谈 人工智能之路该咋走？

只需在App上传一张照片，就能将自己的脸替换成明星的脸，并成为影视作品里的主角。近几天，一款名为“ZAO”的AI换脸App在朋友圈刷屏。

走红的同时，也因隐私安全问题引发了网友的集体焦虑。

9月3日，工信部网站发布公告说，针对最近引发热议的ZAO App网络数据安全问题，对相关负责人开展问询约谈，并要求其组织开展自查整改。

zao 背后的狂欢与担忧

8月30日晚，一款名为ZAO的AI换脸App忽然被疯狂传播。用户只需通过手机号注册，提交清晰的面部照片，即可将你想要的明星的脸“一键无缝”置换到自己身上，几乎可以以假乱真。

ZAO因零门槛、操作简单、代入感强，很快在朋友圈引起一轮狂欢。短短一天，已位居App Store榜单第2名。有评论称其和抖音一样会上瘾，“刷了一夜”。

然而狂欢之后，很快就因隐私安全问题引发了网友们集体焦虑。

毕竟脸部信息是一种“生物信息”，一旦泄露带来的影响远比上网时产生的数据信息泄露风险更大。

而且，网友们发现，“ZAO”的用户隐私协议简直就是个霸王条款。虽然之后“ZAO”修改了用户协议，但却未消除网友们对于AI换脸的担忧。

9月3日，ZAO用户隐私协议不规范、存在数据泄露风险等安全问题，引起了监管部门的关注，目前工信部已对相关负责人展开谈约并要求其自查整改。

然而，一份“整改之后，你还愿意在“ZAO”上面玩换脸吗？”的网络调查显示，大多数网友选择了“算了吧，还是不太放心”。

刷脸支付还安全吗？

对于用户来说，ZAO换脸服务最大的风险在于对用户人脸数据的收集。除了隐私，换脸应用还被质疑存在支付风险，必竟人脸与指纹、虹膜等都是可以用作身份鉴定的信息。

对此，上海交通大学人工智能研究院教授倪冰冰认为，目前人脸识别的算法或防攻击的算法，不管有多先进，还是存在被人工制造出来的假脸所攻破的风险，现在有一种对抗样本技术，在某些假的人脸识别图像或视频上，做很小的发动，比如局部换一下颜色、纹理，就可以欺骗过人脸识别的算法，使得这张假脸可以通过刷脸认证，所以风险是始终存在的。

ZAO的安全风险被质疑后，支付宝针对刷脸支付安全性问题进行回应，表示对于网上各种换脸的软件，目前尚不能逃过支付宝人脸识别技术的辨别。

不过此前央视3.15晚会就曾报道过，一张照片可骗过人脸识别，这次何况是动态的“脸”，警惕心不容放松。另外，还有网友担心如何保证我们的“脸”不被卖掉或流入色情产业链，毕竟大家都是要“脸”的。

人工智能该如何发展

其实，AI换脸并不是新鲜事，ZAO也不是首个发明。在苹果和安卓应用市场搜索“AI换脸”主题，还有“AI换脸”“颜技”“团子相机”等产品。

早在2017年底，国外一位ID为“deepfakes”的网友，创造了AI换脸算法deepfakes。这个AI换脸程序曾在国外风靡过，后来因为有人将该技术应用于色情视频，诸多公众人物成为受害者，随后被封杀。

但AI换脸技术，却一直进化至今。比如今年初，B站UP主“换脸哥”，使用这个技术将94版《射雕》里朱茵扮演的黄蓉，换成杨幂的脸。

未来已来，人工智能该如何在保障安全的基础上发展？倪冰冰建议，从法律监管层面应该尽快制定相关的法律法规，规范目前的人工智能应用，可以在哪些领域应用，不能在哪些领域应用，如果在某些领域应用，应该遵守哪些法律底线。

另一方面，从人工智能的研究者和应用的提供商来说，应该形成自我约束的道德准则，什么能研究什么不能研究，这些约束应该以行业准则的形式固定下来，并且对公众开放，接受监督，让普通百姓在使用人工智能技术带来的便捷的同时，不用担心它所引发的风险。