4天,ZAO从刷屏到被约谈 人工智能之路该咋走?

416 阅读4分钟

只需在App上传一张照片,就能将自己的脸替换成明星的脸,并成为影视作品里的主角。近几天,一款名为“ZAO”的AI换脸App在朋友圈刷屏。

走红的同时,也因隐私安全问题引发了网友的集体焦虑。


9月3日,工信部网站发布公告说,针对最近引发热议的ZAO App网络数据安全问题,对相关负责人开展问询约谈,并要求其组织开展自查整改。


zao 背后的狂欢与担忧


8月30日晚,一款名为ZAO的AI换脸App忽然被疯狂传播。用户只需通过手机号注册,提交清晰的面部照片,即可将你想要的明星的脸“一键无缝”置换到自己身上,几乎可以以假乱真。


ZAO因零门槛、操作简单、代入感强,很快在朋友圈引起一轮狂欢。短短一天,已位居App Store榜单第2名。有评论称其和抖音一样会上瘾,“刷了一夜”。


然而狂欢之后,很快就因隐私安全问题引发了网友们集体焦虑。


毕竟脸部信息是一种“生物信息”,一旦泄露带来的影响远比上网时产生的数据信息泄露风险更大。


而且,网友们发现,“ZAO”的用户隐私协议简直就是个霸王条款。虽然之后“ZAO”修改了用户协议,但却未消除网友们对于AI换脸的担忧。


9月3日,ZAO用户隐私协议不规范、存在数据泄露风险等安全问题,引起了监管部门的关注,目前工信部已对相关负责人展开谈约并要求其自查整改。


然而,一份“整改之后,你还愿意在“ZAO”上面玩换脸吗?”的网络调查显示,大多数网友选择了“算了吧,还是不太放心”。



刷脸支付还安全吗?


对于用户来说,ZAO换脸服务最大的风险在于对用户人脸数据的收集。除了隐私,换脸应用还被质疑存在支付风险,必竟人脸与指纹、虹膜等都是可以用作身份鉴定的信息。


对此,上海交通大学人工智能研究院教授倪冰冰认为,目前人脸识别的算法或防攻击的算法,不管有多先进,还是存在被人工制造出来的假脸所攻破的风险,现在有一种对抗样本技术,在某些假的人脸识别图像或视频上,做很小的发动,比如局部换一下颜色、纹理,就可以欺骗过人脸识别的算法,使得这张假脸可以通过刷脸认证,所以风险是始终存在的。



ZAO的安全风险被质疑后,支付宝针对刷脸支付安全性问题进行回应,表示对于网上各种换脸的软件,目前尚不能逃过支付宝人脸识别技术的辨别。


不过此前央视3.15晚会就曾报道过,一张照片可骗过人脸识别,这次何况是动态的“脸”,警惕心不容放松。另外,还有网友担心如何保证我们的“脸”不被卖掉或流入色情产业链,毕竟大家都是要“脸”的。



人工智能该如何发展


其实,AI换脸并不是新鲜事,ZAO也不是首个发明。在苹果和安卓应用市场搜索“AI换脸”主题,还有“AI换脸”“颜技”“团子相机”等产品。


早在2017年底,国外一位ID为“deepfakes”的网友,创造了AI换脸算法deepfakes。这个AI换脸程序曾在国外风靡过,后来因为有人将该技术应用于色情视频,诸多公众人物成为受害者,随后被封杀。


但AI换脸技术,却一直进化至今。比如今年初,B站UP主“换脸哥”,使用这个技术将94版《射雕》里朱茵扮演的黄蓉,换成杨幂的脸。


未来已来,人工智能该如何在保障安全的基础上发展?倪冰冰建议,从法律监管层面应该尽快制定相关的法律法规,规范目前的人工智能应用,可以在哪些领域应用,不能在哪些领域应用,如果在某些领域应用,应该遵守哪些法律底线。


另一方面,从人工智能的研究者和应用的提供商来说,应该形成自我约束的道德准则,什么能研究什么不能研究,这些约束应该以行业准则的形式固定下来,并且对公众开放,接受监督,让普通百姓在使用人工智能技术带来的便捷的同时,不用担心它所引发的风险。