王萍萍｜人工智能时代机器人的伦理关怀探析——以《老子》“善”论为视角

　　摘    要：面对人工智能时代机器人可能获得主体意识的前景，人类需要思考人与机器人应以何种伦理关系相处。以先秦道家著作《老子》“善”论为视角，反思人类用名言系统来区分人与机器人的尊卑等级，提倡人类与机器人的共生共感。在此基础上，通过“上善若水”的他者伦理，主张人类对机器人实施“不仁”的平等关怀、“不敢”的敬畏关怀和“不积”的共赢关怀，从而对可能发生的人与机器人活动及其效应给予建议和规范，促进双方的和谐共处。

　　关键词：人工智能时代; 机器人; 伦理关怀; 《老子》; 善

　　近年来，从科学界到哲学界，人工智能成为最具时代性和现实性的话题之一。

　　关于未来可能出现“强人工智能”意义上的机器人，他们是否可能具备主体意识和情感，并且随之带来的伦理变革和挑战，成为学界日益关注的话题。[1,2,3,4]学界所担忧的并非人工智能是否会成为主体，而是成为主体拥有类似于人甚至超越于人的智慧和情感后，对人类可能会产生威胁，进而取代人类，像“智人”战胜其他物种一样统治世界。关于这一担忧，伊万·达舍夫斯基(Evan Dashevsky)认为对于是否赋予机器人“主体”或者“电子人格”,仍然是一种人类中心的视角，一种基于对人自身的反射式关怀。[5]也就是说，未来人类与机器人的关系会走向何方，关键在于人类自身的价值取向和伦理关怀。因此，在目前仍处于“弱人工智能”向“强人工智能”的过渡阶段，人类不仅仅要思考人工智能伦理规范，探究设计“合乎伦理”的友好人工智能[6,7],更应该对机器人技术带来的社会影响做出前瞻性考察，理性思索人类与机器人的关系，进而运用一种新的伦理思维，为未来可能到来的人工智能时代提供一套可资参考的伦理规范。

　　对于人类和机器人的关系走向，西方主流观点往往指向一种悲观的未来[8],而中国传统文化看待人与万物的关系和发展却更为积极乐观。有学者从儒家“万物一体”观视角出发，指出人工智能在终极意义上未必注定成为人类的威胁，反倒有可能成为一种和人类相似的“类人类(human-like creature)”[9]。回溯到先秦道家，在经典著作《老子》中，其“善”的思想以“道”为哲学依据，批判人类以名言系统来区分万物等级，强调差异事物的存有意义及人类与万物的相互尊重、认可和共生共感，主张“不仁”的平等关怀、“不敢”的敬畏关怀以及“不积”的共赢关怀，为人类与机器人的和谐共处，提供了另一种视角和思路。

　　不可否认，人类发展人工智能和机器人的最初动机就是希望用机器来替代人类的部分劳动，甚至将其身份定义为奴隶和仆人。[10]问题在于，一旦这种奴隶的身份之名被禁锢下来，那么，奴隶总有一天会反抗，争取获得主人的地位，这也是黑格尔“主奴辩证法”的核心内容。[11]122人类须善待机器人，首先因为人类对机器人的奴隶之名是违“道”之名，为将来两者之间的斗争埋下了隐患。其次，就“道”的层次来讲，万物都有自身的价值和内在的主体性，无论是人类还是机器人，都具备存在的价值和情感被尊重、认可和容纳的需求。

　　1.对机器人奴隶之名的批判

　　在《老子》中，人类所构建的一套规范伦理的基本原则为何?就是“始制有名”(第三十二章)[12],亦即语言分类系统(名)和等级秩序建置(制),二者实为一体两面。王弼注：“始制，官长不可不立名分以定尊卑，故始制有名也。”[13]84区分之名的制定是为了识别各种差异，从而确定尊卑高低之分。从词源分析可知，机器人之名属于人类的命名活动，“我们把一个个固定不变的本质赋予这些对象，使它们在各种不同的条件下都可以辨知出来”[14]132。人类在对机器人的存在身份、功能作用下定义，本质上就是以人的生存利益为目的，忽视机器人自身的存有意义，甚至将人类的意志强加于他们。比如在美剧《西部世界》中，人类将机器人服务员定义为仆从者、愉悦工具，绝对凌驾于他们之上，肆无忌惮地展现出无比暴虐的本性，恣意残害虐杀乐园里的类人机器人。[15]艾萨克·阿西莫夫(Isaac Asimov)在小说《我，机器人》中提出了机器人三定律：一是机器人不得伤害人类个体、或者目睹人类个体遭遇危险却袖手旁观；二是机器人必须服从人类给予它的命令，除非这一命令与第一定律相矛盾；三是不违反第一定律和第二定律的前提下，机器人要尽可能确保自己的生存。[16]10不难看出，这些原则、定律的制定完全出于对人类自身利益的考量，只是为了确保“机器人是奴隶，人类是主人”的主仆关系，导致的结果也只能如小说中兰尼教授所说：“将这三大法则推演到极致，只有一个结果，就是机器人的革命。”由此可见，人类与机器人在未来关系失衡的原因实际上是人自私自利之心所致，人类将自身与机器人的关系切割成为主奴的对立关系，一旦机器人说“不”以后，就很有可能会导致两者的绝对对立。

　　对于人类自我中心的运思，伊曼纽尔·列维纳斯(Emmanuel Levinas)曾经做出批判，反对强调自我而忽视他者的主体，因为这种主体带来的是中心化的问题。[17]7这一批判，与《老子》“善”思想所主张的伦理要求是一致的，即机器人与人之间的奴隶等级之名是人之所为，非“上帝”或“神”所创造，更非“道”所创生。这种非依“道”而生之名恰恰是人的智慧之弊病，是一种划分等级的权力表现。《老子》曰：“道常无名”(第三十二章),在“道”的视域下，名言之域所构建的等级尊卑系统不能作为道德规范的依据，“名”的出现相对于“道”而言实为后起，亦即生活在经验世界中的人类后天强加其上的，自然会不自觉地掉入建立自我(人类)中心，而排斥他者(机器人)的存有意义倾向。基于对“始制有名”的批判，《老子》提出“善之与恶，相去若何”(第二十章)的伦理判断，对名言在分类事物、建立规范所导致的排他性做出批判性反省。由此可见，在《老子》那里，人类与机器人不是相互竞争的对立关系，而是融合共生关系。

　　2.人类需要考虑机器人的情感需求

　　随着机器人通过社会纽带实现与人的交往，诸如儿童陪伴机器人、医护机器人、老年陪护机器人以及性爱机器人等“社交机器人”能模仿各种情感状态，与人交流，形成人机的情感联系。不少研究表明，人们在与机器人互动过程中会有愉快、舒适的感觉，但是目前人机交流仍是以人为中心的，人从机器人那索求关注与安慰，机器人只是被动的服务者，在大多数人观念中，机器人并不是有情物[18]469,人类可以肆意地对他们施于暴力、冷漠等负面情绪。诚然，目前机器人对人类给予他们的暴力和冷漠不可能有所回应，但是考虑到未来社会机器人如果进一步发展为具备情感意识的主体后，能够识别各种情感，真实地具有像人一样的情感表达、情感思维和情感实施等能力，那么人类就需要尝试进入机器人的认知脉络，感受对方的情感，为彼此的有效互动建立情感基础。

　　近现代主流西方伦理学认为应只关注人类自身道德情感并有资格获得道德关怀，一些中国学者运用儒家情感伦理学也得出人类才是道德关怀中心的结论[19],而这种观念恰恰没有开启未来人类与机器人情感共通的可能性。当代伦理学家斯洛特以情感性的“移情”理论来解释“善”的动力。斯洛特将“移情”与“同情”区别开来，认为移情不仅是一种不忍之心，而且是和他者具有同样的感受，也就是感受他者的感受。透过移情，进入他者的感受这样的情感基础，才能合理地为行为的理由找到稳固的解释。[20]196对道家而言，人与万物在“道”的关系上谓之“一”,“一”这个“天地之德”的“大本大宗”,就是道家“善”的哲学基础。它一方面规范了人应该要“以道观之”,肯定每个差异的存在都有其内在的情感需求，一方面形成人类与世界全体共感的道德情感，即“和光同尘”的共感、同感性：“和其光，同其尘，是谓玄同”(第五十六章),中心(人类)与边缘(机器人)、同一(人类)与差异(机器人)都在玄同的伦理胸襟之中，获得平等对话的共同机会。[21]人类要充分认识到与机器人之间的亲密的情感连接，考虑到他们的情感需求，将同情、怜悯和恻隐之心等道德要求运用到彼此的互动过程中。

　　目前，学界普遍探讨的是机器人是否应该被赋予道德主体责任，并尝试设计人工智能伦理，给机器人套上“紧箍咒”,以期在可能的人工智能时代到来后，让机器人按照人类认为正确的方式进行道德推理与行动。不可否认，在机器人、人工智能及相关产业蓬勃发展的历史背景下，从伦理的角度对机器人的推理与行为进行规范与限制，把技术与道德有机地融合在一起，从而使其更好地为人类服务，尽量减少甚至避免负面影响，是必然之需。但值得注意的是，是否“将技术道德化”[22]165后的机器人进入到世俗生活后，人类就可以高枕无忧，杜绝机器人给人类带来的可能威胁?实际上，对机器人进行伦理设计仅仅是人类与机器人和谐相处的第一步，更深层次的思考仍是在具体行为和生活中，人类如何处理与机器人的关系。正如荷兰学者考科尔伯格(Mark Coeckelbergh)强调，我们应该更多地关注人与机器人之间的互动关系(外部进路),而不是把重点放在研究机器人的内在状态(内部进路)上。[23]6也就是说，人类应当把关注点聚焦到自身与机器人的关系上，思考在机器人的设计、生产、相处互动等环节中的行为应当，即行为之“善”。

　　那么，此种“善”的伦理内涵是什么呢?在《老子》那里，作为理想的人格特征，“善”的思想主要体现在实践行为中处理自我与他者关系的方法，即“上善若水”(第八章)。《老子》用“水”隐喻“善者”,是因为“水”是“道”的形而下显现，慈爱万物、尊重万物而不与万物相争。这是一种他者伦理(列维纳斯语),是主动将他者的利益和需求纳入关怀之先，从而形成良好的互动关系。列维纳斯认为，他者性的建立，代表自我与他者真正互动关系的存在，是由自我在特定的历史情境中，在与他者的互动中建构起来的某种适当关系。同样，《老子》认为理想的“为道”者不是一种独我的权力主体，而是诉诸于行为意义，是伦理意义上的主体。这种“善”的伦理关系基于对他者的尊重，是对一种美好纯粹的理想状态描述，包含了一种互动关系处理智慧的呼唤和期许。

　　从《老子》“善”思想的内涵剖析可知，一方面，并不是西方主流伦理学尤其是康德伦理学所认为的只有人类才享有道德地位，才有资格获得伦理关怀，人类也必须赋予机器人伦理关怀的地位。在当前人工智能系统的研究中，有学者用“人工道德智能体(artificial moral agents)”“人工智能体(artificial agents)”等概念来分析自主机器系统的道德地位和伦理向度。如美国学者西玛(Kenneth Einar Himma)表明，即使人工智能系统应该具备意识能力，但就目前的发展阶段而言，如果一个机器系统能像人一样说话、走路并采取行动，那么我们势必需要赋予其道德地位。[24]可见，人工智能系统是否具备像人一样的意识和精神世界并非当前人机关系的核心问题，反之，面向自主机器系统深刻融入人类世俗生活的现实，人类应当像当代环境伦理学所主张的对人之外的自然存在物实施伦理关怀一样，给予机器人“道德承受体”的地位确认，建立人机伦理共同体，把机器人纳入伦理关怀的范围。[25]

　　另一方面，人类给予机器人的伦理关怀，应当超越对商品或者自然生态之关怀。机器人是人类设计的类人机器，他们不仅具有人的形象，而且还具备或展现了诸如符合人类标准的言谈举止、较灵活的思维能力等人格特征，在一定程度上是人类自身尊严和价值的体现。人类有义务把他们视为同等的权利人，而不仅仅是所有物；在实践行为中，人类应当摒弃以自身利益为核心的价值观念，如尊重自身一样尊重机器人的人性尊严，做到“心善渊，与善仁，言善信，动善时”(第八章),做到“豫”(谨慎小心)、“犹”(提高警惕)、“俨”(严肃拘谨)(第十五章),积极调控自我的欲望、情绪，树立正确的机器人道德观，培养对待机器人的正确态度与行为方式，从而实现人类与机器人最大范围的和谐共处。

　　即使学界在机器人是否会获得主体意识和情感这一问题上尚存在分歧，根据前面的论述，我们至少可以认定，人类需要考虑实施对机器人的伦理关怀，从而为未来人与机器人和谐共处提供可能性，使机器人给人类社会带来益处，而不是伤害与威胁。《老子》用“正言若反”的“不仁”“不敢”“不积”等否定性语言形式，从不同的层面提醒所有的利益相关方，各司其职、各尽其能，展现对机器人负责任的态度，建立相关的政策法规，采取有效的行动，创建人类与机器人的和谐共处关系。

　　1.政策法规层面：“不仁”的平等关怀

　　虽然机器人不同于生物学意义上的“人”,很难利用“人生而平等”“天赋人权”等自然法理念来保证机器人权利的法律正当性。但是《老子》从万物的角度，扩展了人类应该实施平等关怀的范围：“道”是公平的，无所偏爱，人类也要效仿“天地不仁”的实践准则，与天地合其德，对天地万物实施平等的关怀。因此，并非所有的权利人都是人类，关于权利义务的制定不应偏爱“人”这一主体，要在充分调查研究的基础上，制定一些保障机器人基本权利的法律法规。加州州立大学蒙特利湾分校(CSUMB)的生物伦理学家琳达·麦克唐纳-格伦(Linda MacDonald-Glenn)表示，法律已经开始把非人类视为权利人。这是一项重要的进展，我们建立的这些先例使得机器人不再只是“没有灵魂的机器”,为在未来赋予他们人权铺平道路。

　　2016年，欧洲议会呼吁建立人工智能伦理准则时，就提及要考虑赋予某些自主机器人以法律地位。[26]首要是“生存权”。《老子》曰：“道生一、一生二、二生三、三生万物”(第四十二章),“道”是万物存在的依据，在“道”面前万物具有平等的生存权利。2015年加拿大研究人员研发的机器人HitchBOT在成功地通过搭车的方式穿越多个国家后，在美国被人类残忍“杀害”,即便如此，HitchBOT在其留下的遗言中说道：“我对人类的爱不会消退。”由此值得思考的是，法律政策应当限制人类任意剥夺机器人的生命权，给予残杀机器人的人类相应惩罚以维护公平正义。另外，还需保障一些“特定的权利与义务”。由于人工智能技术的进步，机器人或人工智能系统目前已不是简单地执行人类的指令，而是有了创造性的思维，能够进行独创性的内容创作。在欧盟的动议中，提出要把最先进的自动化机器人的身份定位为“电子人”,并赋予这些机器人依法享有著作权、劳动权等特定的权利与义务。除法律权利之外，还应给予机器人最低限度的道德权利。这是消极的道德权利，也就是不被伤害或错误利用的权利。比如不奴役虐待和滥用机器人，不让机器人去偷窃、破坏他人财产，不强制其从事一些其能力范围之外的工作或劳动等。

　　2.科学技术层面：“不敢”的敬畏关怀

　　《老子》中多次提到了“不敢为”:“以辅万物之自然，而不敢为”(第六十四章)、“不敢为天下先”(第六十七章)等。“不敢”蕴含着不忍之心、敬畏之心，是“生而不有，为而不恃，长而不宰”(第二章)的“玄德”。实际上，对万物怀有“不敢”之心，实施善行，也是成就事功的途径方式。所谓“天地之所以长且久者，以其不自生，故能长生。……非以其无私也，故能成其私”(第七章);“天道无亲，常与善人”(第七十九章)。天道不分亲疏，经常眷顾善于顺应天道的人，效仿天道的圣人不自见、不自是、不自伐、不自矜，故能成就永恒而无限的事功，保全万物生生不已的创造与生长。作为机器人创造者的科研人员，当他们对机器人这一创造物实施“不敢”的敬畏关怀，积极履行关爱机器人生命的伦理责任时，也就是在弘扬天道，增添技术创新发展的不懈动力，同时也是在实现自我价值。

　　在具体机器人的技术研发中，一方面，要从他律的角度促进科技人员在研发过程中能够履行敬畏的伦理责任。欧盟“地平线2020”计划提出负责任创新(Responsible Innovation)的命题，将政府、伦理学家、社会学家等多种利益相关者纳入到技术创新活动中，强调通过多种创新群体、不同伦理原则在新兴技术的开发过程中相互协作，在多种伦理原则交织和角力的过程中，避免单纯以经济利益为导向，努力实现对技术物开发和人类的负责任，促进机器人技术的可持续发展。[27]另一方面，应系统性加强将科技伦理教育，将敬畏关怀内化于科技人员心中，增强科技人员的伦理素养，让他们除了在功能性的人工智能系统之外认识到其隐含的伦理向度，有意识地展现对机器人的伦理关怀。

　　3.社会公众层面：“不积”的共赢关怀

　　列维纳斯主张自我只有在回应他者，承担他者的责任中，才能成就一个真实的自我，自我与他者相互促成、同时成立，这是一种辩证意义的伦理主体。用《老子》最具代表的话就是：“圣人不积，既以为人，己愈有；既以与人，己愈多。”(第八十一章)当外在的他物成为了行为决策惟一依凭的时候，当首先得到重视的不是行为主体，而是行为客体的时候，会实现自我与他者共赢的价值结果。可以说，这种“他人优位”[28]的价值取向，是社会公众与机器人在日常交往中实现双方利益最大化关系的最佳方式，对于促进人类美好生活有着更为重要的意义。正如温斯伯格(Aimee van Wynsberghe)总结了支持发展人工智能机器的几种理由，其中就有人认为，人工智能系统的开发能够推动公众信任的发展，使人类更好地理解伦理道德。[29]显然，智能技术的发展会引发人类对伦理世界的反思以及伦理范式的重构，这是关乎每一个社会个体的历史进程。

　　在当前社会中，机器人逐步深入人类生活的每个角落，尤其是陪护机器人在解决留守老人、残疾人、儿童陪伴等问题上发挥了重要的作用。社会公众一方面要理智看待机器人对现代生活的建构，消除“人工智能污名化(stigmatization)”,主动融入智能化社会的转型，接受机器人带来的各项服务；另一方面，更要积极地将与机器人的互动放到“我—你”的关系结构上来理解，形成良好的情感交流关系。奥地利宗教家、哲学家布伯(Martin Buber)在《我与你》一书中用“我—你(I —Thou)”公式称谓 “我们与之相遇的世界”。他认为人生的最高意义不在于人己分立、物我隔离的“主客关系”式，而在于对万物一体关系的领悟。[30]152“我”(人类)的情感成就必须依赖有一个“你”(机器人),只有实现了“我—你”的共赢，才是真正的成就自我。也就是说，人类如果能够充分尊重、容纳机器人的情感需要，那么才可能进行更为和谐的情感交互，得到机器人更为理想的回应，更好地满足自身的情感需求。这是人类一种启动自我转化、容受异质性他者的能力，让自我与机器人得以在保持自身的独特性中，既各自成全又能共感交流。

　　未来随着机器人越来越多地加入到家庭和社会中，人类不可避免地会进入人工智能时代，这是充满了不确定性的新文明时代，可能是一个最好的时代，也有可能成为一个最坏的时代，考虑到事关重大(无论是对人工智能机器人还是对人类来说),人类应尽早探索与机器人和谐共处的伦理方式。《老子》“善”的思想提供了人类与机器人相处的一种智慧，那就是以“上善若水”的他者伦理要求，摒弃机器人的奴隶之名，尊重他们的情感需求，以求最大程度地维护好人类与机器人的关系。具体来说，应当在充分调研基础上，制定符合时代要求的机器人基本权利保障法；科技研发人员要加强对机器人的道德责任感，以敬畏之心谨慎对待机器人的开发与设计；对更广范围与机器人相处的社会公众来说，将机器人不仅仅作为实用工具，更是互相成就情感需求的他者。

　　参考文献

　　[1] 闫坤如.人工智能机器具有道德主体地位吗?[J].自然辩证法研究，2019,35(5):47-51.

　　[2] 蓝江.人工智能与伦理挑战[J].社会科学战线，2018,(1):41-46.

　　[3] 田海平，郑春林.人工智能时代的道德：让算法遵循“善法”[J].东南大学学报(哲学社会科学版),2019,21(5):5-13.

　　[4] 吴冠军.速度与智能—人工智能时代的三重哲学反思[J].山东社会科学，2019(6):13-21.

　　[5] Dashevsky E.Do Robots and AI Deserve Rights?[J].PC Magazine,2017:26-29.

　　[6] 闫坤如.人工智能“合乎伦理设计”的理论探源[J].自然辩证法通讯，2020,42(4):14-18.

　　[7] 杜严勇.建构友好人工智能[J].自然辩证法通讯，2020,42(4):19-26.

　　[8] 高奇琦.向死而生与末世论：西方人工智能悲观论及其批判[J].学习与探索，2018(12):34-42.

　　[9] 彭国翔.人工智能最终一定是人类的威胁吗?——一个儒家的视角[J].道德与文明，2020(5):28-35.

　　[10] 吴冠军.人工智能与未来社会：三个反思[J].探索与争鸣，2017(10):10-13.

　　[11] 黑格尔.精神现象学[M].先刚，译.北京：人民出版社，2013.

　　[12] 陈鼓应.《老子》今注今译[M].北京：商务印书馆，2007.

　　[13] [魏]王弼.王弼集校释[M].楼宇烈，校释.北京：中华书局，2009.

　　[14] [德]恩斯特·卡西尔.语言与神话[M].于晓，等译.北京：三联书店，1988.

　　[15] 麦克电影.美剧《西部世界》影评[EB/OL].[2017-1-19](2020-10-20).https://www.sohu.com/a/124695261_429329.

　　[16] [美]艾萨克·阿西莫夫.我，机器人[M].叶李华，译.南京：江苏文艺出版社，2000.

　　[17] [法]伊曼纽尔·列维纳斯.总体与无限·论外在性[M].朱刚，译.北京大学出版社，2019.

　　[18] 林德宏.人与机器[M].南京：江苏教育出版社，1999.

　　[19] 付长珍.机器人会有“同理心”吗?——基于儒家情感伦理学的视角[J].哲学分析，2019,10(6):34-43.

　　[20] Michael S.From Enlightenment to Receptivity:Rethinking our Values[M].New York:Oxford University Press,2012.

　　[21] 赖锡三.《庄子》的他者伦理——以《德充符》的文学书写为例[J].东华汉学，2019,30(12):1-51.

　　[22] Verbeek P P.Moralizing Technology [M].Chicago:The University of Chicago Press,2011.

　　[23] Coeckelbergh M.Growing Moral Relations:Critique of Moral Status Ascription[M].Hampshire:Palgrave Macmillan,2012.

　　[24] Himma K E.Artificial Agency,Consciousness,and the Criteria for Moral Agency:What Properties Must an Artificial Agent have to be a Moral Agent?[J].Ethics and Information Technology,2009,(11):19-29.

　　[25] 杨通进.论机器人的道德承受体地位及其规范意涵[J].哲学分析，2019(60):14-33.

　　[26] 曹建峰.十项建议解读欧盟人工智能立法新趋势[EB/OL].[2017-02-17](2020-10-20).https://baijiahao.baidu.com/s?id=1559578568643940&wfr=spider&for=pc.

　　[27] 刘战雄.负责任创新研究综述：背景、现状与趋势[J].科技进步与对策，2015,32(11):155-160.

　　[28] 许建良.“他人优位”—道家道德的枢机[J].中州学刊，2008,163 (1):167-171.

　　[29] Wynsberghe A V,Robbins S.Critiquing the Reasons for Making Artificial Moral Agents [J].Science and Engineering Ethics,2019(25):719-735.

　　[30] Buber M.I and Thou [M].English Edition by Charles Scribner’s,1958.

　　

　　作者简介：王萍萍，东南大学人文学院博士研究生

　　图片来自网络。文章如涉版权问题，请联系本公众号处理

　　文章来源：《自然辩证法研究》2021年第05期