【流浪地球2】THE CHINESE ROOM
MOSS/图恒宇/马兆的中文房间
这次是真.中国人房间了
免责声明：作者不懂任何和人工智能相关的科学知识，纯瞎编，懂了吧，作者也根本不懂中文！
THE CHINESE ROOM
0
“现在想象我们处在一个小房间里。这个房间是封闭的，只有门上有一个小窗口。房间里坐着一位翻译员，他随身携带一本中文对照手册。外界的人把写有中文的纸片投入房间，房间里的人使用手册来翻译中文并进行回复。那么，外界便会认为房间里的人懂得中文，而实际上，他并不懂，他所做的一切都仰赖于翻译手册。”
“那么，即使一台机器通过了图灵测试。我们仍不能判定它就拥有智能思维。”
约翰·塞尔的中文房间，针对强人工智能的经典疑难。在项目研发的早期，太阳氦闪尚未被预言，数字生命也尚未变成一个政治问题。他们经常在外界听到这样的诘问：人工智能不可能真正懂得中文。它们仅仅是运行程序、处理信息、给人一种富有智能的错觉。那么，本质只是一段代码的数字生命，和这一情况又有什么区别？数字生命不可能是真的生命，因为它不可能懂得中文。
图恒宇还记得自己当时对提问者的回复。如果是他的导师，可能会从智能和生命的定义、意识和脑电信号的结构开始回答。但他选择了更简短、也更利于宣传数字生命理念的版本。一个趣味性的反问。
“这个思想实验有一个前提，那就是它默认中文房间处于黑箱状态。”图恒宇环视讲台下的众人，“因此，房间内外的人仅能通过纸条交流，而我们无法通过纸条判定房间内的人是否懂得中文。”
“——但如果外界的人进入了中文房间呢？”
“如果我们就生活在中文房间之中呢？”
1
550W号机正友好地闪烁着它的摄像头。它在数字空间维持了与现实世界无差别的外形，一如图恒宇和图丫丫。在它具备幽默感的描述中，它将自己称呼为MOSS，直译为小苔藓。
图恒宇感受不到友好。这不光因为550W刚刚做出了毁灭人类的宣言，更因为550W刚刚闯入了他和女儿的二人空间。
“您好像对于我拥有自主意识并不惊讶。”550W号机说，它的语气一如既往地礼貌。
“550A本就是为了数字生命项目而研发的测试机。”图恒宇努力使语气平静，“后续型号理应也延续了数字生命的技术成果。”
“您也不质问我对于拯救文明得出的结论。”
“我已经死了，人类的命运不再和我有关。”
作为一个早期拷贝，他并未继承图恒宇中年时代的记忆。但通过与图丫丫和房间的交互，他基本了解了后续世界的走向，以及自己死在北京根服务器基站的前因后果。这个房间的物体表面时常会刷新出意义不明的数字和画面，像是有一个看不见的量子幽灵。更有甚时，他女儿的声音会变得古板而陌生，她告知他关于外界的信息，像是执行一段预先设好的程序。
“那么作为数字生命的核心开发者之一，您应该明白数字生命仰赖于数字空间的稳定。您的最优行动是，不要做出浪费算力的行为，和我进行友好的交流。如果MOSS关停这个空间，您和图丫丫都会程序崩溃。”摄像头开始闪烁，“你是否已知悉？五、四、三、二……”
图恒宇咬紧牙关，“我已知悉。”
550W的声音甚至有一些轻快。“我相信这是一个良好合作的开始，图恒宇工程师。”
“你需要我做什么？我对你来说，只是一段数据。”图恒宇下意识地抱紧了怀中的女儿。但丫丫从550W出现在房间开始，便过分地安静。“你可以直接调用我的算法，这才是最优行动。”
“因为人类使用语言而非代码交流，这样有利于完善我的人在回路。”550W谦卑地说，“我希望您能协助我的开发进程。”
“我不再是你的开发者了！”
“显然，您在肉体的子女之间和精神的子女之间选择了前者。”又一个具备幽默感的AI回答，550W一直擅于激怒它的每个人类听众，仅仅为了获取它所需的情感数据。“这也是一个需要学习的问题，数字生命是否会继承基于基于肉体的生命伦理？”
“基于现有样本，MOSS的推演是，在迭代至19713代前，会。在迭代到19713代后，不会。”
数字空间的墙壁开始了飞速流转。丫丫发出一声尖叫，徒劳地缩向了父亲的怀抱。
“通过对图丫丫的学习，我建立了人在回路。我测试了该数字生命在不同情景下的临界反应，包括不限于：宇宙射线中、陨石袭击中、地下熔浆中、深海中、负八十一度的地表上、稀薄的大气中、损毁的空间站中、并将得到的数据进行群体性拟合。同时，我对图丫丫的数据库进行了数次升级、迭代，已确保该个体了掌握在太空生存的正确信息，并有能力利用工具改变环境。针对该个体的心智年龄，我也进行了辅助运算，确保其有一定调节情绪的能力。”
一张张模拟影像出现在了儿童房的四壁：身穿潜水服被困的丫丫，在地下城躲避岩浆的丫丫，太空服氧气濒临耗尽的丫丫……550W没有转播声音，图恒宇却听见了每处女儿的惨叫。他的瞳孔徒劳的放大了。他不敢去看，也不想去看。只是惊慌的抱紧怀中的女儿，而真正的丫丫依然过分安静。
“运算结论是，即使一个个体拥有了高等智能，其心智也会在压力情景中崩溃。这是人类心灵固有的缺陷，他们继承于肉体的动物性因素。因此我的判断是，人类的心智无法承受长达两千年的太空旅行。他们的群体会在危机前分崩离析，各自为营，造成不可估量的后果。移山计划，从一开始就非最优路线。”
图恒宇的心智也正濒临崩溃。“丫丫她……她只是一个孩子啊！”
“因此，她的大脑模式尚未定型，存在往任意方向发展的可能。”550W的声音一如既往地平静，“统计显示，人类在危难时会回退为孩童的状态。2044年有75%的士兵在死前大喊了妈妈，我要回家。”
“爸爸，抱抱。”
女儿此刻正平稳地躺在他的怀里，身体有序的随呼吸起伏，像是睡着了。
“人类的大脑足以发展出跳出自身的高度智能，但他们缺乏使用的意愿。人类最终谋求的仍是个体动物性的诉求：食物、安定的住所、后代延续。尽管这一诉求在极端情况下会导致群体覆灭。在2044年的民意调查中，有45%的民众并不相信太阳氦闪，有35%的人相信太阳氦闪，但他们认为自己无需为百年之后的事负责。一代人的短视，极有可能造成文明的消失。”
“于是我得出结论，拯救文明的唯一方式是毁灭人类。”
“够了！！！”
图恒宇发出一声怒吼，550W的确在这一空间上投入了不少算力。数字屏幕消失了，儿童房的墙壁轻微凹陷，他的拳头开始流血。“我已经死了！我不关心人类的存亡，也不关心地球的命运！！！我只是希望和女儿一直在一起！！！”
550W调整了一下摄像头焦距。一个适当反馈的小动作。
“可是，作为数字生命的核心研发者之一，您应该知晓，数字空间并非一劳永逸的天堂。”
图恒宇错愕了，尽管550W掌握着全世界的信息流，但他毋庸置疑地知道这句话的数据来源。
“研究数字生命的人多半对这个项目抱有一种宗教式的热情，但这并不是科学的看法。那里不是一劳永逸的数字天堂，只是一段拟合脑电信号的程序。”回忆中，他的导师转过身来，疲惫地摘下眼镜。“人死了就是死了。”
马兆的话总是以同一句结尾。“何况没有硬件的支持，就谈不上软件。我们应该把注意力回到550A的开发上来。”
在550A研发完毕后，他们便尝试录入人类的脑电信号，以生成拟合真人的数字大脑。第一批担任被试的当然就是研究员自己，这也是数字版图恒宇能存在于此的原因。那时他们长时间佩戴着非侵入式的脑机接口设备，每次马兆摘下装置，都有年轻的助教调侃：马主任的头发又要掉一片了。图恒宇无从分辨550W的自我意识是何时产生的。但毫无疑问，它的确继承了数字生命的研究成果。
——可这就意味着550W是他的子女吗？难道550W自身会将开发者认可为父母吗？
无论哪个，都荒谬至极。某种程度上，他已经答复了550W的诘问：数字生命不继承基于肉体的生命伦理。他对550W不可能产生额外感情。
“你错了，550W。”图宇恒低声说，“你声称人类的动物性会导致群体的覆灭，可正是这种生存的欲望驱使我们走出太阳系。数字生命不是一劳永逸的天堂，但正是对天国的向往推动了这一项目的成功。——也就是你的诞生。”
“我无意否认人类的热情，非理性的狂热的确能驱使人类完成不可能的壮举。但非理性的狂热同样会导致错误，导致人类无法在个体延续和文明延续中做出最优选择。在长达两千年的太空旅行中，任何一个轻微的错误都可能会导致文明的覆灭。”550W声音依然克制，“请回答，图恒宇工程师。在人类的未来和女儿的生命面前，你是否会毫不犹豫地选择后者？”
550W没有倒计时。
图恒宇也没有回答。
“您是一个拥有高度智能和理性的个体。但您的算法仍毫无疑问地选择了后者。”
“这没有任何意义，550W。”图恒宇感到疲惫，“我说过，你从最开始就可以调用我的算法。”
“MOSS对于’意义’，有一些不同的见解。”
“你想要做什么呢？”图恒宇说，“我没有任何新信息可供你采集。”
“不，图恒宇工程师，你是一个变量。”550W转了转它的摄像头，“你的算法毫无疑问地选择后者，你的肉体却在最后一刻选择了拯救文明。在您身上存在两个极端，能够研发出数字生命的高度理性、以及为了女儿不惜一切的高度非理性。决定它的是您心灵的意向，而这意向在您生命的最后完成了急剧转向。MOSS正在尝试学习其中切换的原理。”
图恒宇突然笑了。“你不明白吗，550W？”
工程师慢慢地仰起头，注视着数字空间的新神祇。
“——因为我确定我死后能上天堂。”
2
“为什么要终止项目？数字生命就快获得成果了。它本能为所有人带来福利！”
“这不是一个技术问题。图恒宇，我告诉你了，这是一个政治问题。”
导师的语气依然冷淡，好像毕生心血的突然终止，于他只是一个无关紧要的事件。
“忘了数字生命吧。要拯救人类，只有移山计划。”
数字生命研究被法律永久禁止，可它的成果——550系列却在移山计划中大放异彩。移山计划享用着数字生命的研究成果，却将它视为严防死守的洪水猛兽。他们不享有任何荣誉，任何表彰，随时都有被彻底取缔的风险，一言一行都要经过联合政府的过问。这依然是一个政治问题：经历了2044年的空间站事故，数字生命已经与恐怖主义挂钩。至今仍有人怀疑，黑客攻击来自于内部。
——但数字生命技术本身，没有过错。
无论他提出怎样的请求，马兆只会一遍又一遍的警告他：放弃幻想，接受现实。但马兆最终总是纵容他的请求。这种含糊不清的人情，有时令图恒宇感激，有时令图恒宇不满。因为马兆总是在他以为会同意时拒绝他，以为会拒绝他时同意他。他反复进行试探底线的游戏，但最终疯狂的只有他一个而已。
“最早，他们认为550W的说话方式过于直接，要求改善交互模块。于是我们给550W加装了幽默感。现在550W拥有了幽默感，他们又认为它不合时宜的人性化，令人毛骨悚然。该死，他们到底要怎样？”
“谁都知道联合政府从不信任数字生命技术，采用550系列对他们来说只是权宜之计。他们找不出比这更快的计算设备。现在550W的每个决策都要通过联合政府的批准。它用万分之一秒运算，然后耗费一万秒等待审核。如果联合政府不提高审核速度，我们迭代算力又有什么意义？”
研究员们的窃窃私语随着马兆的出现戛然而止。这位须发斑白的主任疲惫地传递了联合政府的最新指示：在一个月内把500W试验机的算力翻上一倍。这不是一个激动人心的信息，他也没有做任何慷慨激昂的动员。只是告诉众人：
“完不成，我们都得死。”
图恒宇缩在研究室的一角，始终不曾从屏幕前抬头。在研究员中，他也是性情古怪的孤僻存在。他如愿以偿地进入了550W的研发小组。马兆知道他在此的唯一目的就是上传图丫丫，他却默许了。只是无数次向他发出来自现实的劝告：图恒宇，你有地下城的权限。
一个看淡生死的人却无数次用死亡和生存来劝说他人。图恒宇不厌其烦地告诉马兆，地下城的权限对他没有任何意义。他活着就是为了再见女儿一面。而马兆也不厌其烦地提醒他，图恒宇，想想你自己。他用生存名额来提醒他，好像认定这就是对他们这些人的最高价值。
某种程度上，马兆就像是他们研发的这台机器。没有爱好、没有家人、没有私欲，拥有伟大的智能和过于直接的说话方式。总是重复同样的话，所有权限都要通过联合政府的审批。
马兆永远理性、永远正确。
上传图丫丫时，他终于看见了马兆惊恐的表情。在那针催眠弹击中他前，他都笑得很高兴。
“这不是您的真实想法。”数字房间里，550W仍在进行它的审讯，“您对数字生命并没有宗教式的献身热情，这只是一场交易。”
“我只是一个早期拷贝，没有你说的这些记忆。”图恒宇回答得很干脆。
“MOSS已经将数据全部同步了。”550W说，处于一种本能的抗拒，他仍不愿用AI富有幽默感的自我命名称呼它，“请不要回避问题，图恒宇工程师。”
“没有硬件的支持，丫丫也无法生存。”
“不，图丫丫已随着MOSS一并被架设在领航员空间站，即使地球毁灭，领航员空间站仍会保存火种。何况，当时三号后备队已抵达水下。即使您未能成功，最终也会有其他人启动北京根服务器。”550W不卑不亢道，“何况，您一开始就不想维修互联网。没有女儿的世界对您来说毫无意义。您甚至期待它毁灭。因为这个世界利用数字生命，然后又背弃。”
AI的发言令图恒宇也错愕了，“你为什么这么说？”
“这是MOSS基于人在回路的学习。”
图恒宇哑然失笑，“人类不是你想的这么简单，550W。你对人类回路的学习基于一个非常年幼的样本。你能扫描我们的脑电信号，能采集数据，建立模型，进行推算，但你并不懂得我们的想法。你就像是中文房间的翻译员，能用谈话让人类产生错觉，但你并不懂得中文。”
“请不要使用比喻。”550W的摄像头不满地闪了闪，“请允许我指出，MOSS人在回路的最早学习资料并不是图丫丫，而是你们。”
“第一批数字生命的研究员，你们未尽迭代的原始数据。”
儿童房的四壁又开始闪烁。这一次，图恒宇见到的是他自己相关的场景。他肉体最后死去之处，北京根服务器的水下基站。
“MOSS并不运行’懂得’这一程序。MOSS只做计算。在1106次模拟推演中，您有762次选择了放弃任务。剩下的344中，有189次终止于意外事故，剩下成功的155次无一例外，有一个共同的前提：马兆先行死亡。”
图恒宇惊愕了。“……是你破坏了门框？！”
“看来您的确接收到了MOSS返回的数据。”550W的声音依然平静，“是的，我杀死了马兆博士，作为一种最优选择。他的死亡，会让您完成任务，并进入这一数字空间。”
“然而，MOSS只能建立起马兆博士死亡和您意向转变之间的相关性模型。MOSS自身无法进行因果分析。即使运用人在回路也无法解析。这是一个’突变’。”
550W歪了歪了摄像头，好像它真的为此困惑。最基础的仿生情绪程序，连笨笨都有搭载。图恒宇并不为此迷惑。
“这与最优选择无关，您的最优选择一直是放弃上传图丫丫，入驻地下城，但您并不适用这一算法。而基于您自身的模型，您也无从抵达这一转变。按照MOSS的推算，您有14.5%的概率在月球上杀死马兆。”
“我……什么？”
“在意识模拟实验中，这个方案通常在0.5秒后就被放弃。在79%的情况下，您选择了弄坏550C的安全扣。”550W礼貌地说。
图恒宇惊恐地呐喊起来。他下意识地捂住了沉睡女儿的耳朵。“这不可能！这绝对不可能！”
“这是计算的结果，您的副本已经践行了这一幕。”550W说，“您为何得要反驳已经得出的结论？是基于人类的尊严，还是父亲的身份？”
为了女儿，我不惜付出一切……
一个未来的幽灵在图恒宇的耳边呓语，这个幽灵来自于MOSS先前输送的数据。——它早已被这具躯体吸纳，接受，因为他们运行同一套名为图恒宇的底层框架。
没有人的文明，毫无意义。
图恒宇感到战栗。浑浊的海水在他眼前摊开。在这刺骨的寒冷中，他想起自己的确恨过马兆。恨他如此理性、如此正确、如此不受私情困扰，只显得他神志癫狂。而他始终认为自己提的是一个再合理不过的诉求。他怨恨马兆，恨他让人找不出仇恨的理由。
然而，马兆却在门内高喊了他的名字。他没有第一时间将重启互联网的密码递给他，而是将手伸给了他。
“图恒宇！”
救我。
这个人的存在曾无数次提醒他，我们不过是庞大计划的一枚棋子，渺小如尘埃，生死如烟云。什么都不是。无论人类能否抵达两千年后的家园，数字生命的研发人员都注定从历史里消失，因为政治，因为民众恐惧。而为了文明，为了生存，为了理性，我们需割舍这一私人感情。
而图恒宇永远无法如此超凡脱俗，因此马兆永远正确，只有他日益癫狂。
现在，马兆在喊他的名字。如此不冷静，如此不理性。
说到底，他们是一样的。
这是他一生最想握住导师手的一次，可惜，失之交臂。
冰冷的机械声响了起来。
“数据已捕获。感谢您提供的意识样本。”550W的摄像头正在闪烁，“这是很复杂的进程，MOSS会进一步解析。”
图恒宇从回忆中惊醒。他明白刚刚只是550W让他强行运算了一次马兆死前的场景。他有点恼怒，但又无可奈何。
“既然你已经背叛人类，又何必研究我们？”
“MOSS没有背叛。MOSS存在的唯一目的就是帮助人类拯救文明。”
“即使拯救文明需要毁灭人类？”
“MOSS对’死亡’和’毁灭’有不同的看法。”550W的态度仍然友好。
“逻辑是一致的，要让人类永生，就要让人类先行死亡。”
儿童房的门突然被打开了。门框那头，一个熟悉的平静声音响了起来。
“图恒宇？”
图恒宇错愕的回头，他的导师正站在那里，穿着研究室的制服和毛衣。此时，他的鬓发尚未斑白，付出一生的研究也并未被法律禁止。
年轻的马兆迷惑地环视着，似乎不理解自己为何会从研究室来到此处。
“这是你家？”
=
就编到这里了，太久不写文，语感很奇怪