浅析社交平台对个人信息与隐私收集的伦理界限：“ZAO”AI换脸APP事件

　　【关键词】个人信息；伦理界限；保护机制

　　【Abstract】with the rapid development of mutually beneficial network and big data, new technology has increased the diversity of users' social ways. While users enjoy the convenience of social app, they also unconsciously expose their personal information and privacy to social platform. With the popularity of "Zao" face changing app in recent mouths, the terms of user agreement of "Zao" have caused great controversy on the issue of user privacy. In the era of Internet, the protection of personal information and privacy security is an urgent problem to be solved. By analyzing the controversial collection user agreement, this paper discusses the ethical limits of social platform for user personal information and privacy collection.

　　【Key words】personal information, ethical limits, protection mechanism

　　【案例简介】

　　2019年8月30日晚，一款名为“ZAO”的AI换脸APP在社交媒体刷屏，用户在上传清晰正脸照，并且在摄像头前完成眨眼、扭头、张嘴、低头等动作，由系统判断这张照片为本人之后就可以将视频中的人物替换为自己的脸。用户可以通过上传自己的照片，用AI换脸功能，将影视剧中的演员换成自己的脸，然后把小视频分享到朋友圈。像今年热播剧《小欢喜》、《陈情令》、《亲爱的热爱的》中的名场面在ZAO中均可体验。

　　这款APP一经推出，受到了广大网友的积极响应，纷纷下载试用，并在朋友圈中进行口碑传播。ZAO APP的功能介绍显示，可以使用用户的脸制作表情包，出演经典电影，跟偶像飙戏等。这种可以逢脸造戏，假扮男女主角与明星搭戏的App一经发布便迅速火遍朋友圈。ZAO官方微博更是似真似假得抱怨注册太过火爆，服务器难以负荷。 

　　ZAO的AI换脸有多火？8月31日ZAO在所有APP下载量排行榜中是第2位，在娱乐排行榜是第1位。ZAO在苹果App Store的下载量，火箭般蹿，从上线到成为社交新贵，ZAO只花了不到12个小时，真是羡煞众人。但随着ZAO的迅速走红，与之而来的用户隐私问题被热议，央行相关人员提醒大众人脸信息是非常敏感的信息，一经泄露，风险很大。更多用户开始认识到人脸数据的重要性。用户担心的是，现在都刷脸支付了，脸被被人换去，捆绑的银行卡还安全吗？

　　9月3日，针对媒体公开报道和用户曝光的“ZAO”App用户隐私协议不规范、存在数据泄露风险等网络数据安全问题，工信部就“ZAO”APP网络数据安全问题开展问询约谈。上线短短6天，AI换脸软件“ZAO—逢脸造戏”就体验了从爆红到被要求整改的巨大落差感。

　　随后，ZAO也发表了道歉声明。

　　在国内，视频网站bilibili上的AI换脸视频也早已不是新鲜事。用AI技术换脸，让刘亦菲换脸到到1994年版《射雕英雄传》里“出演”黄蓉的视频毫无违和感。“ZAO”AI换脸之所以引发大量争议，很大程度上是因为它的用户协议带来的个人隐私风险。人们担忧的隐私问题实质上是个人数据泄露及被滥用的问题。尽管被曝光和批评之后ZAO努力补救，但其在App Store的评分仍直线下滑，微信分享链接也因多人投诉被停止访问。“换脸一时爽，隐私火葬场”，互联网流量进入存量时代，智能化、AI+即将成为流量增长的新引擎。ZAO换脸火爆的背后，是传统互联网流量增长的瓶颈，AI技术在给与受众创新盛宴的同时，信息安全和伦理问题不可忽视。

　　【案例来源】

　　  https://new.qq.com/omn/20190909/20190909A09LI000.html

　　【案例分析】

　　人工智能时代，AI换脸技术已在各视频网站有所应用，比如哔哩哔哩上面的换脸小视频。“ZAO”引起巨大争议的主要原因就在其APP的用户协议条款上。比如截取一小段ZAO用户协议内容中的必要授权协议：用户上传发布内容后，意味着同意授予ZAO及其关联公司以及ZAO用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”。这个协议侵犯了用户的个人隐私，“ZAO”要求用户上传的脸部清晰照片，属于个人生物信息识别一类的个人敏感信息，那么“ZAO”的用户条款协议就存在不合理之处，其不可撤销、可转授权实际上是侵犯了用户的个人隐私，AI换脸还会存在着伦理道德风险。提别是当下支付方式的多样化，脸部支付正逐渐成为新的支付手段，这样一来上传过照片的用户存在着账户安全隐患。

　　一、案例原因分析

　　（一）AI技术下个人信息收集与隐私保护伦理界限不明确

　　人工智能技术的发展促进了人们社交手段的多样化，“ZAO”AI换脸APP在刚出现的时候，受到了无数人的追捧和喜爱，将影视剧中人物的脸通过AI技术换成自己的脸，还可以转发到朋友圈，它在一定程度上满足了用户使用APP消遣娱乐的心理。用户前期并未察觉ZAO的用户协议侵犯了自己的个人隐私，大部分社交平台在同意进入平台界面时，都会与用户签订用户协议。在AI技术下个人信息收集与侵犯隐私伦理界限不明确。就拿ZAOAPP来说，一个换脸的APP签订用户协议需上传部分个人信息、清晰的用户照片，这本就是在能够玩转这个APP的前提条件，而对于相关的用户协议相关条款，也鲜少有人认真的阅读，缺乏相关法律知识的用户，在平台没有特别声明的前提下，也不一定会发现其中的问题所在，因此用户刚开始会忽略用户协议的某些条款会侵犯自己的个人隐私甚至是账户安全。

　　（二）社交平台的网络监管能力有待提高

　　网络监管往往会带有一定的滞后性，相关的网络法律法规也有待完善。随着互联网技术的普及，社交平台的应用也越来越多样化，在满足用户多样性的同时，也会暴露出很多问题。ZAO换脸APP在一开始受到到无数人的热捧，开始的时候用户还没有注意到个人信息与隐私受到侵犯的问题。在APP发布的六天之后，相关人员提到此举上传用户自己的照片可能会泄露个人信息和财产安全，在回顾ZAO的用户协议条款确存在侵犯个人隐私的嫌疑，随后工信部就网络数据安全问题展开约谈并要求整改。网络监管存在一定的滞后性，在人工智能时代，信息实时的传播速使得个人信息或隐私信息的传播加快，而网络监管的后审核会在一定程度上泄露用户隐私信息。

　　（三）用户个人信息与隐私保护的敏感意识不足

　　一般用户在使用某个社交APP的时候，不太会有意识的仔细阅读平台相关的用户协议信息，而且不少社交APP只有在用户选定同意用户协议条款在能够进入APP。大多数用户对于什么样属于自己个人信息与隐私的界限不太理解，相关的法律知识、常识不足，就会在无意识间泄露自己的个人信息和隐私。大数据时代，相关社交APP对于信息的收集变成一个很普遍的现象，而像ZAO换脸软件对于个人部分信息的收集，继续上传用户个人清晰照片，也正因这个APP本身是换脸软件，所以用户会混淆对于正常范围内个人信息收集的界限。加之如果社交APP对于用户个人信息的收集并没有造成明显的个人伤害或是用户本身并不知道自己的隐私遭到侵犯，用户不会意识到平台的用户协议条例是不合理的，对自己个人信息与隐私保护的敏感意识不足。

　　二、案例利弊分析

　　（一）AI换脸软件会损坏新闻的真实性

　　常说“有图有真相”，网络视频作为一种新的视听媒体传播的形式之一，远比图片有更大的可信性。但AI换脸技术的出现，在公众不知情的情况下，极有可能被换脸技术蒙骗真相，从而造成网络视频可能会出现虚假新闻的现象。

　　（二）大数据信息收集会泄露用户隐私

　　对用户个人信息的收集，不管是主动地收集用户信息，还是被动的收集信息，在大数据时代已经变得普遍，会有存在被泄露的可能性。加之ZAO换脸APP的用户协议条例中的“霸道条约”，或许在其他的社交软件用户条约中也会存在，用户或许在并没看懂所同意的用户条例中蕴含的法律知识，就已经在无意的情况下泄露了个人信息或隐私。

　　（三）“ZAO”霸王条例被约谈会增强用户的信息保护意识

　　在之前也爆出过用户的个人信息或隐私被社交APP泄露，但此前并没有ZAO换脸软件的影响力大。短短六天时间，ZAO从下载APP的排行榜居第二到被约谈，时间之短事件之大，大多数人通过ZAO的用户条例知道个人信息或隐私包括哪些内容，加之各大网站、先关法律人士发表意见，增强了用户对于自己个人信息与隐私的保护意识。

　　三、自身启示与体会

　　之所以选择这个案例作为自己分析的主题，是因为在ZAO刚开始火爆的时候，我也接触和使用了这个软件。就拿自身而言，在接触ZAO换脸软件的时候，并没有在意进入软件所同意的用户条例包含了什么内容。不仅是这个APP，其他的社交软件也并没有仔细阅读相关条例。一方面是自己不是法学专业，对于相关的法律知识并没有很知晓，我或许浏览了用户条例，但可能也不会看出这个条例侵犯的我的个人信息与隐私保护的权利。另一方面所接触的社交软件似乎软件本身所能满足用户需求的作用比较大。换言之，我并不在意我同意了什么用户协议，我只需知道我只有同意勾选才能进入APP，才能满足我对APP使用的需求。相信大多数人的思想会跟我一样，对于个人信息与隐私保护的意识很单薄。在这个事件爆出来的时候，对于自己个人信息与隐私的保护会更谨慎了，人工智能时代，个人的消息和隐私更加关联着账户安全，也会有自己信息被拿去做违法事情的风险。所以，在以后涉及个人信息与隐私的事情上敏感意识会更强。

　　四、案例对策建议

　　（一）明确个人信息与隐私的法律界限，制定可行的伦理规范

　　要想知道是否自己的个人信息与隐私被侵权，最重要的事要明确个人信息与隐私的相关内容，那些信息属于隐私范围，或者那些信息不容侵犯。用户首先要了解自己被保护的隐私范畴，才可以在浏览相关协议的时候发现侵权问题。再者，新技术的迭代更新与伦理的滞后完善也存在差距。大数据对于用户个人信息与隐私的收集，虽晚前提可能是更好的为用户提供精准推送或者个性化推荐，但不能忽视技术所带来的伦理界限问题。比如“ZAO”AI换脸APP就存在着新闻失实和威胁个人财产安全的风险。所以制定可行的伦理规范，与当前新技术共同完善是一件刻不容缓的事情。应当在不同技术的领域，结合特定技术的特点和伦理难题设计出切实可行的规范。

　　（二）出台相关的法律法规，完善网络监督政策

　　法律具有滞后性，在新的时代新的技术出现的时候，相关法律法规的与时俱进与完善也是十分重要的。人工智能时代，AI技术的出现带有两面性，同时也应该注意到AI技术风险的一面。所以相关政府部门和立法部门要掌握新技术的发展方向，制定合理完善的法律法规政策，最大程度上减小风险，能使新技术造福人民。同时网络监管也要完善相关政策，克服网络监管滞后性这一确定，对新的社交平台的各项条例进行仔细的监察，尽力避免损害或侵犯广大消费用户的个人隐私。

　　（三）加强社交平台的自律意识，建立可行的个人信息保护机制

　　个人信息与隐私泄露不能仅依靠用户的自觉意识，社交平台更是要担起责任，加强自身的自律意识。社交平台不仅是新技术的应用者，更是新技术的维护者与完善者。应该自觉担起这份责任，不仅是对用户负责，更是对自己的初心和信念负责。建立个人信息保护制度，明确平台对用户个人信息享有的权利并限定共享范围，明确用户对个人信息与隐私的相关涵盖内容，用户对平台规定的个人信息与隐私的相关条例具有知情权，平台也有义务向用户明确或提示相关内容。加强对个人信息与隐私的保护力度，制造一个良好的网上社交环境。

　　【参考文献】

　　[1]牛静,侯京南.基于人工智能的换脸视频伦理问题探讨[J].青年记者,2019(15).

　　[2]李帅.平台数据共享视阈下个人信息保护机制的构建[J].贵州师范大学学报(社会科学版),2018(02).

　　[3]牛静,袁向玲.自媒体平台服务协议中的问题及对策探讨[J].青年记者,2019(31).

　　[4]李白咏.约谈换脸App负责人，加强隐私保护[J].中国电信业,2019(09).

　　[5]秦雨树.互联网平台用户个人信息保护法律问题研究[D].华东政法大学,2018.