国外臭名昭著的APP,在国内竟然上架了!
大家还记得之前说过的“一键脱光”APP吗?一键脱光你的衣服,这软件让全世界女性没有隐私!
就是一名外国程序员制作的那款AI软件“DeepNude”,你只需要上传一张女性的照片,App就能自动把她衣服脱光的那个。
因其原理是根据AI算法,用裸体来替换掉美女照片上衣服的部分,因此效果非常真实……
这款App当时因为将很多女星“一键”成色情视频而广遭诟病,最后因伦理问题下架。
但就几天,
一款类似的APP,在国内悄咪咪的上了架——
NO.1
APP叫ZAO,来自交友软件陌陌旗下。
ZAO上架后,瞬间拥有了超高人气,并且短短1天之内就冲到了榜首的位置,一时间火遍朋友圈。
很多人下载这款软件,纯粹出于好奇。
软件提供了大量影视剧的“名场景”供用户选择,很多网上的热梗,在这里都能找到,用户可以自己选择身份,从情侣亲人到闺蜜兄弟,自己全都可以安排的明明白白。
很多影视剧、综艺里场面都有,化身洪世贤亲口说出“你好sao啊”不是梦···
马爸爸算什么,换完脸想当谁爸爸当谁爸爸···
总之,这款软件抓住了用户猎奇心理,同时也将恶搞二次创造发挥到了极致,可以说是一次科技狂欢。
如果乔碧萝还在江湖,这大概就是她毕生追求的神器吧。
NO.2
但狂欢归狂欢,冷静后,我不禁对这款APP产生了两个疑问:
一是这些影视剧、名人的脸供用户随意恶搞,不会被他们找上门(告侵权)来吗?
二是,我们将自己的照片轻易交给APP,隐私被泄露怎么办?
自己的照片被其他用户二次恶搞怎么办?
真像网友之前担忧的那样,有女生被制作成色情视频怎么办?
更关键的是,有网友分析了ZAO的《用户协议》,完完全全的霸王+流氓条款本人。
针对我们自己把脸上传到ZAO中,会不会有隐私泄露的风险,ZAO在用户协议里是这么说的:
“如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利。”
——《用户协议第 6 条 第 2 款》
四舍五入相当于,
你只要在软件里上传了你的脸,就等于自己同意并免费把脸“卖”给了ZAO。
而且包括其他人的脸,谁上传谁负责。
关于明星、名人肖像版权的问题,如果出现侵权问题,ZAO的官方解释更让人头大:
“若您侵害他人名誉权、肖像权、知识产权等合法权利的...ZAO 可以诉诸行政执法机构或司法机关,追究相应法律责任。若因您违反本协议或 ZAO 平台的其他规则导致任何第三方损害的,您应当独立承担法律责任并承担损害赔偿责任;zao 及其关联公司遭受损失的,您也应当一并赔偿。”
——《用户协议 第 7 条 第 7 款》
这是啥意思呢?
就是假如你在App里把脸换成了某位明星,被他发现后,他以侵犯肖像权的名义去告ZAO,而这个时候,ZAO就能跑过来对你说
“因为你事先没有经过某明星的同意就去玩,现在人家要赔偿多少,都得你来付钱……”
通过这个骚操作,ZAO能把责任推的干干净净。
所有的问题都是用户的问题。
上架还没到一周,锅都已经牢牢的扣在用户头上了。
用户协议本来是软件商和用户之间达成服务意识的产物,但ZAO这波操作简直比打劫还过分,让用户背锅这种操作真的太不要脸了。
NO.3
ZAO收集到的用户面部信息,一旦被坏人利用后果不堪设想。
毕竟现在支付宝、微信都能通过扫脸支付,如何保证用户财产安全也是ZAO面临的问题。
不过好在,昨天支付宝针对这一问题已经发表了声明。
另外,就是和“DeepNude”一样,很多网友也担心照片被制作成色情产品,而关于这一点,ZAO还尚未做出明确回应。
ZAO虽然为多数用户带来了非常有趣的体验,但与此同时,也是这类技术的滥用。
从DeepFakes开始,AI技术就像打开了潘多拉魔盒。
这种无缝替换人脸的技术,在坏人手中可以玩出无数的花样。
例如
诈骗
,这项技术无缝把老人子女的脸融入视频中,不管是生病要钱,还是绑架,还是转账,都很容易骗过来人。
或者冒充公检法,这项技术把自己的脸P到一些公开视频中,然后说自己就是某某某,对方一看还真是,就轻易相信。
再或者敲诈,这项技术把受害人脸加到一些黄色视频中,然后威胁不给钱就群发散布···
且就算不说敲诈类黑色产业,单纯无缝换脸技术流入平民手中,带来的新“玩法”也很多。
随手一个操作,
把女友的脸放到色情视频中,到底是不是出轨,如果用这种方法起诉离婚,有没有方法可以破解这个视频是真的假的?
A和B发生冲突,然后A把B的脸融到各种猥琐的地方散布或者直接诬陷,如何才能破解这个视频是真还是假?
用AI去融合明星的脸,危害其实有限,因为大家都知道是假的。
但如果用AI去融合生活中身边人的脸,那么又要如何分辨呢?
尤其是很多人看到视频就先入为主的情况下,造成的后果又有谁来承担呢?
技术科学进步是为了改善我们的生活,不是让我们打着技术的名义,干些下作龌龊之事。
技术不断飞速进步的今天,如何限制技术不被用来作恶,是整个社会共同的难题。