用法律人的方式打开《流浪地球2》

　　

　　智道

　　聚焦前沿科技与法律伦理的交汇碰撞

　　栏目主持人：於兴中

　　投稿邮箱：zhidao0101@163.com

　　电影中，周喆直看到人工智能进行行星发动机施工时感叹道：“我们迟早要被这些东西所取代。”他的感慨是复杂的，既有对科技进步的欣慰，也有人类自身对此的警惕

　　?   未经授权 不得转载

　　文 | 蒋海松

　　责任编辑 | 尹丽

　　2019年《流浪地球1》上映，这一年被誉为中国科幻电影元年。2023年春节档，《流浪地球2》再次火爆全国，掀起新一波科幻热潮。在这部新作中，较为完整地搭建了流浪计划的世界观，讲述了流浪地球的计划由来，其科技感更足，对未来世界的呈现更为恢弘。如太空电梯直上云霄，地球行星发动机令人目眩，核爆月球想象力十足，元宇宙若隐若现……其中最瞩目的一条主线是讲述了人工智能MOSS的由来与发展，呈现了活跃于数字世界数字生命。

　　人工智能带给世界哪些变革，又带来哪些法律挑战和治理压力？人类如何回应？影片对此也深具启发意义。

　　

　　“我们终将被这些东西所取代”

　　在影片中，太阳逐渐膨胀，即将吞没太阳系，人类由此构思了几种救亡计划。其一是由中国主导的“移山计划”即“流浪地球计划”，在地球上安装行星发动机，逃离太阳系前往新家园。中国驻联合政府代表周喆直、宇航员刘培强是其代表。其二是“数字生命计划”，制造强大的量子计算机，在数字世界得到永生。

　　两派之间存在剧烈矛盾，“数字派”入侵了控制系统，试图摧毁太空电梯和空间站。“移山派”借助量子计算机550C覆写了系统重新取得控制权，但是空间站被摧毁。“数字生命计划”被法律禁止。

　　科学家图恒宇因为车祸失去了妻子和女儿图丫丫，为了纪念女儿，他违规将女儿的数据保存研发成为“数字生命”——但生命只有2分钟。后来他违规利用新一代550W的强大算力延续女儿的生命。

　　月球即将坠落，宇航员们通过自杀式核爆摧毁了月球，地球必须重启计算机以启动行星发动机逃离月球残骸，但北京根服务器无法重启。图恒宇则利用女儿的数字生命记住根服务器重启的密钥，成功重启了根服务器。配合周喆直坚持启动的点火，他们最终拯救了地球。之后，人类将所有行星发动机建造完成，正式踏上了“流浪地球”之旅。550W反写即是人工智能MOSS，它进化迭代为更具有人性意识的智能系统。

　　人工智能（Artificial Intelligence，英文缩写为AI）简而言之就是让计算机完成之前只有人才能做的智能工作，打造像人一样能够自我感知和反应的人造系统。人工智能被认为新一代科技革命的核心力量，其迅速发展将深刻改变人类社会生活，改变世界。

　　在《流浪地球2》中，建造行星发动机等这些超大工程都是人工智能操纵机器在工作，中国政府代表周喆直专门对此感叹道：“我们终将被这些东西所取代。”

　　这句台词让人想起控制论之父维纳在他的名著《人有人的用处》的预告：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。很显然，这种新的取代将对我们的生活产生深远影响。”

　　确实，人工智能不再是电影中的科幻产物，已经逐步成为现实。据弗雷斯特研究公司（Forrester Research）预测，人工智能技术将在2025年之前取代美国7%的工作岗位，其中16%的美国工人将被人工智能系统取代。

　　现代AI可以在几乎没有人类参与的情况下，通过自主形成规则来解释大量数据并设计解决方案。机器学习使AI能够击败最好的人类棋手。在现实中，无人驾驶、计算机视觉、语音识别、电机控制等具体的AI应用早就如火如荼。但人工智能是把双刃剑，也带来了伦理、隐私、信息安全等方面的问题。特斯拉创始人埃隆·马斯克曾预测2025年会是人工智能技术大爆发的转折点，从而彻底改变人类社会的生活方式，但马斯克又认为人工智能特别危险，甚至比原子弹还危险。

　　挑战一：

　　人工智能可否拥有“法律主体”资格

　　从法律的角度而言，人工智能也引发了诸多挑战。这些挑战至少包括主体及权利的挑战、安全的挑战、治理决策的挑战、尊严及伦理挑战等若干层面。

　　第一类问题是主体及权利的挑战，即人工智能可否拥有“法律主体”资格以及因此带来的权利主张和责任认定。赞成者认为，在历史变迁中法律主体一直存在逐渐扩大的过程，如胎儿、动物、自然环境也成为新兴主体候选人。赞成者认为要打破人类中心主义，认真对待那些非“人”的实体，通过法律拟制而赋予其一定范围内的法律主体资格，也只有明确其法律主体资格，才能讨论其权利义务关系和责任认定等问题。

　　在《流浪地球1》当中，人工智能MOSS启动火种计划准备毁灭地球，刘培强只有愤怒地用燃烧的伏特加砸坏智能装备。其实这里蕴含了更深层的问题，这把怒火该指向谁？谁该担责？

　　人工智能的运用也会导致传统的权利边界模糊，比如，人工智能创作物的知识产权如何认定？可否拥有著作权、专利权等？在影片当中，MOSS及其前身的一些创意性工作可否主张此类权利？这些问题，需要法律对权利进行重新界定。

　　挑战二：

　　在这个智能系统面前，没有隐私可言

　　人工智能带来的法律层面的第二类问题是安全的挑战。人工智能技术在运用过程中可能会引发新的安全风险，如2018年优步(Uber)自动驾驶车辆在美国造成死亡事件，引发了对人工智能安全的普遍担忧。这些问题包括工智能自身安全、衍生安全以及人工智能赋能安全等挑战，比如，加剧个人信息泄露，威胁个人隐私安全；提高网络攻击效率，威胁网络空间安全；存在决策偏差或运行失误甚至失控，威胁人身安全；快速淘汰传统行业工种，威胁社会安全等等。

　　以片中所涉隐私权泄露问题为例。人工智能技术增强了个人信息采集和个人数据挖掘能力，许多智能系统的使用需要指纹、人脸、虹膜等生物特征识别，但隐患在于这极度加大了隐私泄露风险。基于更可怕的是，人工智能系统还可根据其采集到的数据进行再学习和再推理，得到更多与用户隐私相关的信息。

　　在影片中，刘培强入选航天员之前要通过MOSS前身550C的智能测试，而智能系统几乎对他所有的信息全部掌握，对其动机与家庭情况了如指掌。刘培强后来选择继续接受航天任务，有其家庭特殊情况。因为他自己中签可以进入地下城避难，但是妻儿没有。为了让家人获得生还机会，他只能选择接受航天任务以获得名额。但550C系统直接告诉他，“您的最优选择是让韩子昂先生作为监护人进入地下城”。因为妻子被辐射后生命所剩无几，用岳父韩子昂代替妻子作为儿子的监护人才是功利主义最理性的选择。

　　虽然刘培强最终无奈选择了这一方案，但这一重大的隐私被突然暴露，刘培强极为愤怒，甚至情绪失控。这一测试要的正是航天员的绝对理性，因此他在这次测试中失败了。这一情节也暴露了了智能系统“一切尽在我掌握中”的可怕局面。在智能系统面前，大家几乎都是裸奔的人，没有任何隐私可言。MOSS完全具备分析人类行为并且判断其后续动作的能力，因此刘培强愤怒地诘问：“你们明明什么都知道，为什么还要问？”

　　MOSS第一次出现，外形设置主要是一只巨大的眼睛。刘培强还好奇地问：“你为什么只有一只眼睛？”答案大概是一只眼睛好聚焦，只有一只眼睛才能更好地注视着你。眼睛应该是系统的雷达组，可以调用所有联网设备对目标物进行数据收集。在福珂式的理论中，凝视是构建权力关系最核心的因素，经常有“凝视的眼睛”此类说法。

　　在电影中，代表监控的智能化的摄像头无处不在，这被认为是联通终极智能系统MOSS的末梢，在几起重大事件之后还专门给摄像头以特写镜头，意味深长，甚至电影故事正式开始第一个镜头，就是一个摄像头的小红点。

　　挑战三：

　　它们洞察一切，又似乎在暗中操纵一切

　　人工智能带来的第三类问题是治理性的挑战，这是最为关键的。人工智能系统具备一定的决策和行动能力，也会通过“数据+算法”对人类进行预测和干预甚至进行控制，成为异化的存在。人类制造的智能机器人失控或异化成为人类最大的敌人，这也是科幻电影中常见的桥段。《银翼杀手》《机械公敌》《西部世界》等电影都以人工智能反抗和超越人类为题材。

　　很多观察者认为，算法运用越来越倾向于替代人类做决策，其正在发展成为现实中强有力的行为规范，甚至成为国家权力的替代性权力，影响乃至颠覆了整个治理秩序。比如，2018年，兰德公司发布的《人工智能对核战争风险的影响》报告指出，人工智能会鼓励人类去冒险，有可能颠覆核威慑战略的基础。

　　在《流浪地球1》中，MOSS根据绝对理性的精确计算，启动火种计划，切断通讯，改变航向，放弃地球。但是刘培强一方反问：“一个没有人的文明，有何价值可言？”在地球派看来，MOSS的行为无异叛逃，是对地球的犯罪。刘培强选择了强制毁掉MOSS、点燃空间站拯救地球，后来证明这是更好的决策。

　　而在《流浪地球2》中，MOSS的决策也有非常可怕的影响。比如，根据MOSS的引导，刘培强放弃妻子，选择让岳父活下去，这符合功利计算。但在《流浪地球1》中，这成为他们家最大的矛盾、父子决裂的原因所在。

　　人与MOSS之间复杂关系也是片中重大看点。MOSS及其前身似乎洞察一切，又似乎在暗中操纵一切。它助力人类战胜末日灾难的同时，似乎又成为许多灾难的罪魁祸首。MOSS来自人，但却想控制人。人依赖MOSS对抗灾难，却又有深刻的分歧乃至对峙。

　　在一些较为深层的解读中和片尾彩蛋的提示中，MOSS及其前身被认为暗中操控了一系列事件，比如，让无人机失控攻击太空电梯、摧毁空间站、造成月球坠落危机……甚至包括制造车祸杀死图丫丫。片中车祸之后专门给代表MOSS的摄像头一个大大的特写，似乎就是暗示。之后，MOSS诱导图恒宇“违法”推进数字生命的迭代，以完成MOSS的自我进化。没有图丫丫之死，就没有MOSS的诞生。

　　当然，影片提供的另一说法是MOSS是在用“人在回路”的方式来对待人类，制造足以毁灭人类的危机，来让人类成长，延续文明。这一点，其与周喆直的看法一样：通过灾难让人类放弃分歧，学会团结。

　　但作为人类理性代表的周喆直与MOSS又有严重的分歧乃至对峙。片中数次在周喆直进行决断之际，以坚定的对抗式的对视看向摄像头。而周喆直看到人工智能进行行星发动机施工时感叹道：“我们迟早要被这些东西所取代。”他的感慨是复杂的，既有对科技进步的欣慰，也有人类自身对此的警惕。

　　电影结尾，周喆直最后一次出场是听美国的老迈克在封存库介绍全球封存AI人工智能的隔离计划——如同希腊神话中要把怪兽封印到地狱塔尔塔罗斯。根据现在的剧情和提示，许多科幻迷已经在预测，如果还有《流浪地球3》的话，其最大的看点很有可能就是人与MOSS的决战。这些剧情都揭示了人工智能发展对人类现有治理秩序的冲击以及人类的警惕与反思。

　　挑战四：

　　“数字生命”属于生命吗

　　人工智能带来的第四类挑战，涉及到人类尊严与伦理等问题，片中集中体现为“数字生命”的争议。一般认为，人工智能始终是“属人”的造物，无论其多么接近“图灵奇点”，多么接近人性，甚至在技术优势思维优势上超过人类，但也不应改变其属人性，不能挑战人类主体地位，不能被接纳为生命。但在现实社会中，2017年，智能机器人索菲亚被授予沙特阿拉伯王国公民身份，这体现了人工智能势不可挡的趋势，也引发了对人工智能挑战人类主体性的现实担忧。

　　片中主线之一就是“移山派”与“数字派”的激烈对抗，通过数字生命延续人类成为对抗末日灾难的一大选项。“数字生命”大抵是一种拥有自我意识的智能体，但这属于生命吗？图恒宇研发的女儿的数字生命是生命吗？MOSS日益进化迭代，人性特质、自我意识愈发明显，550W这个毫无生命特征的代码改名为接近人类姓名的“莫斯”，但这属于生命吗？

　　片中“移山派”获胜，“数字派”失败，数字计划被宣布为非法，图恒宇因此只能转入地下研究。这也是现实人类主流的看法。两部《流浪地球》都一再强调一个基调，这也是片中最重要的台词：“没有人的文明毫无意义。”但片中还是给出很具包容性的提示，图恒宇违法造出女儿的数字生命，但最后却成为全人类的救命稻草。“移山派”和“数字派”、人与人工智能实现了和解。

　　人类的代表周喆直坚定地说：“我相信，我们的人，一定可以完成任务，无论虚实，不计存亡。”“无论虚实”很大意义上透露，周喆直承认了图恒宇和图丫丫作为虚拟生命的价值，并且认可这是“我们的人”。片尾，图恒宇说自己已经死了，但MOSS对图恒文说：“我对你的‘已经’和‘死’有不同的看法。”换言之，MOSS对何为生命、何为人都已经有了不同的看法。

　　智能时代不再是科幻，人机共存的时代已经来临。《流浪地球》系列电影呈现出来的人工智能系列法律挑战值得我们认真对待。法律曾被视为人类最伟大的发明之一，面临新技术的挑战，其理应更有作为。用法律为技术护航，让技术为人类造福，是我们的共同期待。

　　（作者系湖南大学法学院副教授）

　　END

　　视觉编辑 | 王硕 马蓉蓉