世界末日之后,机器人母亲会否抚育出更“优质”的人类种群?
医院中有五名病人病危,他们需要五个不同的器官进行移植。
此时来了一个新的危重病人,而他的器官正好可以拯救另外五个病人。
如果你是医生,你会选择治好“可以治愈的”新病人然后眼睁睁看着另外五个病人死去。
还是拖延新病人的治疗,最后用他的器官去拯救那五个人?
/ I AM MOTHER /
面对这样一个棘手的“器官移植难题”,APX03犹豫了。
这其实是一个变体的“电车难题”。
“电车难题”是伦理学领域最为知名的思想实验之一:
一个疯子把五个无辜的人绑在电车轨道上。一辆失控的电车朝他们驶来,并且片刻后就要碾压到他们。
幸运的是,你可以拉一个拉杆,让电车开到另一条轨道上。
然而问题在于,那个疯子在另一个电车轨道上也绑了一个人。
考虑以上状况,你是否应该拉动拉杆?
相信绝大多数人在面对这样的状况时,都很难轻易做出抉择。
但比起五人死亡或一人死亡的结果本身,决策者的思维模式才是最早提出问题的哲学家菲利帕·福特更为关心的。
/ 电车难题 /
1967年,菲利帕·福特的《堕胎问题和教条双重影响》首次提到了“电车难题”。
菲利帕·福特肖像照/图源牛津大学萨默维尔女子学院
从功利主义角度看,为追求对最大多数人来说的最大效益,应该牺牲少数人来拯救多数人。
用牺牲一个人为代价,来拯救五个人,似乎理所应当。
从康德主义角度看,道德应该建立在必要的义务责任上。
如果“不可以杀人”是一种道德义务,那就不可以动手让一个人牺牲,即使这个行为的后果是牺牲五个人。
“你不觉得每个人都有内在价值,有平等的生命权和幸福权吗?”
面对这样的追问,APX03表达了自己的困惑:
Q1:作为医生,我认识这五位病人吗?
Q2:他们是好人吗?
Q3:会不会因为我的牺牲,而导致他们去伤害更多的人呢?
Qn......
APX03最终没有给出答案,这是她在人类重建计划基地经历的无数次答辩其中之一。
机器人母亲说,她一直做得很好,除了今天。
《吾乃母亲》凤凰卫视电影台
5月14日 21:15即将播出
自从人类灭绝后,APX03就与机器人母亲生活在这个与世隔绝的基地里。
准确地来说,APX03是人类留存下来的63000个胚胎中“幸运”的一个。
她肩负着成为真正的“母亲”,抚育人类后代的重任。
这所有的答辩,都是为了考验她能否担此重任。
当然了,考核并非嘴上说说这么简单,APX03在各学科领域知识上已无短板,但理论与实践间还隔着一堵墙——
机器人母亲给她最后的考核,就是把最后这堵墙给打碎。
机器人母亲需要知道,APX03对待生命的态度究竟如何,能否在极端情况下做出理智的判断。
以及,她是否是更“优质”的人类?
第一个考验是停电中被放出的小老鼠。
这是APX03第一次亲眼见到从外面世界来的生命,她难以掩饰自己的欣喜,然而机器人母亲却以其有可能携带病毒为由将小老鼠投入焚烧炉。
以一只小老鼠的牺牲来换取APX03和所有人类胚胎的“绝对安全”,这是机器人母亲运算的结果。
APX03的选择是仁慈,是挽救,但她无力反抗。
第二个考验是来自外面世界的女人。
“人类已经灭绝了”,这是机器人母亲一直告诉APX03的,她也一直对此坚信不疑。但这个活生生的“入侵者”开始动摇APX03对机器人母亲的信任——
或许这是一场大骗局,或许就是机器人想将人类赶尽杀绝。
这一次,APX03选择跟女人离开,去看看外面的世界。
可真相却令她失望。
女人所说的矿井根本不存在,仅存的人类在夺取有限资源的自相残杀中走向灭亡。
最终的考验是APX03亲手选择的胚胎——那个成为她第一个人类家人的弟弟。
如果APX03逃避自己的责任,那机器人母亲和整个人工智能系统将毁灭现存的人类,将一切重启,培育新的胚胎,培养更“优质”的人类。
然而经历了多番变故的APX03早就想明白,哪有什么更“优质”的人类?
这整个“人类重建计划”才是断送整个人类种族的罪魁祸首。
APX03选择留在基地,拯救人类。
她习得了机器人母亲的育儿方式 但也在“实证中”不断修正。
人类之于机器人最大的区别即是,人类世界没有绝对的对与错,每一个判断都是情与理碰撞之后的相对最优解。
人类有时会自我毁灭,但人类也可以很美好。
所以我们才可以在战乱、饥荒、洪水、地震等等天灾人祸中,不断繁衍,生生不息。
《吾乃母亲》凤凰卫视电影台
5月14日 21:15即将播出
《吾乃母亲》于2018年在圣丹斯电影节首映,2019年上线网飞,目前烂番茄新鲜度89%,观众和影评人交口称赞,是近年小成本科幻片中不折不扣的口碑佳作。
全片只有两位主要演员,丹麦新星克拉拉·卢嘉与曾凭借《百万美元宝贝》、《男孩别哭》荣获奥斯卡影后希拉里·斯万克狂飙演技。
并非只有“众星云集”才能出好作品,依据角色量身选角,无论是影坛新人还是资深演员都能和作品相互成全。
《吾乃母亲》虽然预算不高,但在特效和置景上一点都不凑合。
特效前后/图源维塔工作室
制作公司邀请到曾为《指环王》系列、《阿凡达》系列、《流浪地球》系列等科幻巨制制作视效的新西兰维塔工作室来设计机器人“母亲”。
特效前后/图源维塔工作室
这不是网飞第一次尝试将科幻元素与“教育”题材相结合——
2018年,网飞就曾与中国台湾制作团队合作,投下华语世界的首个重磅炸弹科幻剧集《你的孩子不是你的孩子》(后文简称《孩子》)。
早在《我们与恶的距离》爆火出圈之前,《孩子》就以不同于早年台偶“玛丽苏”套路的清流气质掀起 “台剧文艺复兴”。
“台剧文艺复兴”代表作:《我们与恶的距离》、《俗女养成记》1&2
《孩子》的原著作者吴晓乐是一名家庭教师,她将自己自18岁起至25间岁从事家教时的所见所闻记录下来,出版成书,并引用黎巴嫩诗人纪伯伦的诗作为题。
你的孩子,并不是你的孩子
他们是由生命本身的渴望而诞生的孩子
他们借助你来到这世界,却非因你而来
他们在你身旁,却并不属于你
你可以给予他们的是你的爱,而不是你的想法,因为他们有自己的思想
——纪伯伦《孩子(节选)》
《孩子》的第一集《妈妈的遥控器》仿佛就与《吾乃母亲》跨越重洋地呼应着。
在《妈妈的遥控器》中,一位母亲在取得具有神奇效力的遥控器后,用它控制自己的儿子走向自己认为成功的道路,却导致反效果。
而《吾乃母亲》中,人类为自己的子孙后代“设置”的成长道路,亦将Ta们引向了绝对理想化的反面。
《孩子》特定地聚焦东亚“乖孩子”语境下,与我们息息相关的教育与成长问题。《吾乃母亲》则泛化地探讨如何教育“合格”的人类。
《孩子》中的人类内部矛盾是,怎样是一个“好”的孩子?《吾乃母亲》将其置于宇宙之中宏观化了,怎样算得上是一个“好”的人?
然而这两者都没有定论。
无论是机器人母亲,还是人类母亲,都无法按照一个固定的模板,像组装机器人一样,养育一个人。
你可以庇护的是他们的身体,而不是他们的灵魂
因为他们的灵魂属于明天,属于你做梦也无法到达的明天
你可以拼尽全力,变得像他们一样, 却不要让他们变得和你一样
因为生命不会后退,也不在过去停留
——纪伯伦《孩子(节选)》
孩子们的灵魂属于明天,Ta们将面对父母未曾面对、也不知如何应对的挑战。
“人类重建计划”未尝不是人类的另一种自负,试图通过“毁灭”来重新创造,却陷入反复毁灭的死循环。
我们只能做弓箭手,射出那支箭,至于它能否抵达箭靶,还是交给未来去揭晓答案。
箭靶,从来都不曾只有一个。
文|Remi
编辑|福尔魔歌、Remi