马上评丨AI换脸术都这么强了,你不害怕吗? - 博创网

博创网 首页 > 科技

马上评丨AI换脸术都这么强了,你不害怕吗?

2019-08-31 20:33 澎湃新闻

ZAO换脸APP刷屏:陌陌打造 技术曾被用于情色视频

// 前插视频 showPlayer({ el: '#sohuplayer', bid:'150417380', autoplay: false, width:'500', height:'300', mute: 1, disablePlaylist:true, // h5播放器禁用下一集按钮 variables: [ ['showRecommend','0'] // 0时不展示后推荐;默认展示 ] });

马上评丨AI换脸术都这么强了,你不害怕吗?

澎湃首席评论员 沈彬

摘要:舆论的炮火也不必全面指向“ZAO”本身,“ZAO”不是什么高科技,而是基于开源程序的“低科技”商业应用。但更大的问题在于,这么肉眼难辨、足以乱真的换脸技术居然可能是唾手可得的。

又一个现象级的互联网产品诞生了——8月30日晚间开始,一个名为“ZAO”的AI换脸APP忽然爆火,在朋友圈里刷屏!

用户只需要在APP中上传一张自己的照片,就能将自己的脸替换到周润发、白展堂、玛丽莲梦露、紫薇等明星的头上,而且脸融合效果非常棒,几乎可以以假乱真,你可以和小李子一样叱咤银幕,出现在经典镜头里,也可以和心中的“男神”“女神”同框飙戏……

在兴奋了一阵之后,不少人觉得哪里不对劲儿了:这么强大的“换脸术”会不会被滥用?比如,自己的脸被换到色情视频的主角头上,那真是跳到黄河里都洗不清了。或者,有犯罪分子利用“换脸”技术在视频里,向家属实施诈骗、敲诈……如此完美的换脸技术,简直成了敲诈勒索、毁人清白的利器。

应该看到,这款APP也采取了措施防止换脸被滥用,对用户运用了一般只有金融支付APP才有的“实脸认证”,用户在镜头前要按要求眨眼、扭头,在系统判断你上传的这张照片就是你本人之后,才能进行下一步操作,确保你没有拿别人来换脸。

但是,这种换脸APP搞的“实脸认证”,形成了一个悖论:为了防止头像被滥用,我们在使用这款APP之前要交出自己更多的信息,特别是脸部信息。担心隐私被滥用的我们,被迫将更多的隐私交给了APP……谁来监管APP本身?

APP已经给自己准备好了“甩锅条款”,有心的网友发现“ZAO”的用户协议当中,有“您同意或确保肖像权利人同意授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”之类霸王条款味道十足的条款。

这等于用户在愉快玩耍这款软件之前,默认自己的换脸视频要被APP“完全免费、不可撤销”地“玩耍”。从法律层面上说,“ZAO”已经打定主意充分利用“避风港条款”,一旦有法律纠纷,将会将责任推给用户上传。

我们还没有习惯“刷脸”时代,更颠覆性的“换脸时代”就来了。事实上,很多新技术、新经营模式产生之后,最先嗅到商机的往往是一些灰色产业,这次AI换脸术也可能难逃此劫了。

怎么保证“ZAO”能保护好这些直接包含用户手机和面部生物信息的核心信息?怎么保证这些“脸”不被不正当“开发”?怎么保证我们的“脸”不被卖掉?

AI换脸术的最早应用就是情色视频。2017年12月,国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上,并把情色电影里的女主角换成了盖尔•加朵等好莱坞明星。后来在一片声讨声中,“deepfakes”将这一技术作为开源代码放到了网上,只要是懂一些相关技术的,都可以得到这些开源程序,并且稍加改造就可以使用。

所以,当下,舆论的炮火也不必全面指向“ZAO”本身,“ZAO”不是什么高科技,而是基于开源程序的“低科技”商业应用。但更大的问题在于,这么肉眼难辨、足以乱真的换脸技术居然可能是唾手可得的,甚至可能轻意落到诈骗、色情产业的违法分子手里,这就不禁让人倒吸一口冷气。

人类几十万年来,一直把脸作为最重要的生物识别指标,通过“看脸”来区别你、我、他,然而这个最明确的边界却模糊了。法律有没有做好准备?行政管理有没有做好准备?人心有没有做好准备?

“黑镜社会”正在降临,相关法律和伦理规范、技术规范必须同步出台,这不是杞人忧天。,



上海快三 上海快3 上海快三 上海快三 上海快三 上海快3 上海快三 上海快3 上海快3 上海快三