AI换脸考验刷脸安全
一夜刷屏的方式有很多种。让AI换脸软件ZAO的开发者始料未及的是,在海量用户短视频刷屏朋友圈后的几小时内,对其用户协议和隐私协议的批评指责也快速刷了屏。因涉及敏感的人脸识别信息及肖像权,ZAO用户协议中的“霸王条款”狠狠刺痛了广大用户的神经,即使该公司随后迅速修改协议条款,也难平公众怒火。比起普通的照片隐私泄露,换脸视频软件带来的安全、隐私风险,切切实实挑战到了每个人的实名身份识别认证和身上的钱袋子。
换脸软件ZAO一夜刷屏
“我跟胡歌演对手戏啦。”“我已穿越到延禧攻略!”8月30日晚,大批网友在社交平台发布了与明星合演的小视频,“奥秘”就是从换脸软件ZAO中上传一张个人照片,再选择想要出演的片段和替换的明星。凭借“仅需一张照片,出演天下好戏”,ZAO迅速收割了百万下载量,一跃成为App Store全站排行榜第7位,娱乐类App第2位,一夜爆红。
“这个月花700万租的服务器,今晚已经消耗三分之一了。”8月31日晚间,ZAO官方微博发出这样一句感叹。面对大量用户的需求,该软件服务器被挤爆。一时间,“ZAO崩了”迅速成为微博热点话题,阅读量快速突破百万。
这款App的开发者为长沙深度融合网络科技,注册于2017年9月,由海南喵咖网络科技全资控股,实际控制人为雷小亮与王力。相关信息显示,雷小亮是陌陌公司联合创始人兼游戏业务部总裁,负责陌陌游戏业务,王力则是陌陌公司联合创始人兼COO,负责陌陌的产品、运营等业务。
海南喵咖网络的相关资料显示,目前海南喵咖的股权已全部出质给陌陌的全资子公司北京1602信息技术有限公司。从该角度看,喵咖网络实际上是陌陌的一家子公司,ZAO也属于陌陌公司的一款产品。对此,记者联系了陌陌公关部的有关人士,截至发稿,对方尚未做出回应。
霸王条款“细思极恐”
爆红的ZAO在App里的排名节节攀升,可用户评分却一路滑落。截至发稿,该软件在App Store内的评分已跌至1.9。原因与该软件的用户协议有关。
在最初一版用户协议中,ZAO规定,对于用户自行上传的内容,一旦发布,平台即默许已获得用户和影片原主人公的肖像授权,且ZAO及其关联公司有权在全球范围内“完全免费、不可撤销、永久、可转授权和可再许可”地使用、修改、编辑这些内容素材。
“这涉嫌过度攫取用户授权,让你在无形中将自己的肖像权拱手让人,以后你的脸将完全有可能被别人随意使用、变换。”有法律人士公开点评。
中国政法大学知识产权研究中心特约研究员赵占领对记者表示,根据合同法的规定,格式条款的提供方免除其责任、加重对方责任、排除对方主要权利的,该格式条款就属于俗称的霸王条款,法律上无效。“ZAO作为提供格式条款的一方,对于免除或者限制自己责任的格式条款,应采取足以引起对方注意的方式提醒用户注意。”然而记者看到,ZAO并未标粗标黑这一条款,也未做出其它提示,绝大多数用户很难察觉。
ZAO显然意识到了网上对其“霸王条款”以及“照片不能删除”等问题的争议,迅速修改条款,并新增“删除面孔”功能,疑似回应用户对其隐私泄露、肖像权霸王转让等问题的质疑。记者对比发现,新修改的条款已删除了此前条款中“不可撤销、永久、可转授权和可再许可”等字样,并声称相关内容将严格按相关法律法规的规定保留在软件中。
AI技术滥用威胁社会安全
ZAO的刷屏,也让人们对技术的担忧不断加深。此前“AI换脸”技术Deepfakes就曾在全球引发争议,“社会将开始怀疑他们看到的每一个视频或图像内容。”
奇安信行业安全研究中心主任裴智勇表示,换脸视频软件带来的真正安全挑战,是当人脸识别技术被普及,传统运用人脸识别或生物识别技术的应用面临被突破的风险。记者了解到,此前曾有安全团队将照片变成了可眨眼、可动嘴的动态照片成功实现刷脸登录,并多次攻破活体检测这一人脸识别中的重要环节。
裴智勇建议,企业应尽量避免单独使用生物识别技术,而是配合大数据、人工监控等方式辅助数据验证,对人脸识别进行多方认证。个人则应该尽早将人脸识别信息与手机绑定。“自己主动早绑定,就大幅降低别人将你的人脸识别信息绑定到其他手机上的风险。”
不过,支付宝安全中心相关人士对记者回应称,目前网上各类换脸软件有很多,但不管有多逼真,都无法突破刷脸支付。在进行人脸识别后,部分用户还需要输入与账号绑定的手机号进行校验,进一步提高安全性。(袁璐 殷呈悦)
- 标签:
- 编辑:王丽
- 相关文章