撞一个还是撞五个 无法回避的自动驾驶伦理难题

　　随着技术的革新，自动驾驶领域的发展也是日新月异。不少厂商宣称在2020年实现高速道路上的自动驾驶，2025年实现城市道路的自动驾驶。对于生产力的提升，许多人都在欢呼雀跃。但与技术层面的跃进相比，人类社会是否在法规、理念和道德的层面上也跟上了步伐，这是个值得深思的问题。需要知道的是，与技术相比，道德和伦理在某种程度上更关乎自动驾驶的生与死。

　　

　　无法绕开的电车难题

　　谈道德伦理，谈人工智能总是离不开电车难题。在设想中，一辆失控的列车疾驰而来，前方有五个无辜的人被捆绑在铁轨上。此时你有一个扳手可以改变列车的轨道，但另一轨道上同样有一个无辜的人被捆绑在铁轨上。考虑这些状况后，你是否会改变列车的轨道？

　　

　　电车难题引申出两种主流的解读。功利主义者认为，大部分的决策都是基于“为最多的人提供最大的利益”的原则做出的，因此五个人的利益大于一个人的利益。这种思维遭到道德主义者的批判，他们认为应当把独特个人的价值作为道德评判中的最高价值，将人看作目的而非手段来对待。当然，在这个伦理试验中很难找到完全符合道德的答案。许多人的做法或许会是，什么都不做或者掷硬币。

　　人可以掷硬币，但机器不能。面对自动驾驶，电车难题有了更多的延伸。比如，自动驾驶车辆突然遇到10名闯红灯的行人并来不及刹车，而转向会撞向墙壁导致车内人员伤亡，这种情况该如何抉择？

　　业界的探讨

　　国外对于自动驾驶和人工智能的伦理研究的起步要早许多，法国心理学教授Jean-Francois Bonnefon曾经就此类问题对2000名受访者做过一个调查，调研结果显示，76%的人想要让机器做出伤害最小的决策，但与此同时，81%的人倾向于购买一辆保护自己的车。换句话说，以道德的层面大家都希望损失最小但从功利的层面又没有人希望损失的会是自己。

　　于是难题继续抛回给自动驾驶车辆的制造商们。在技术尚未完善的今天，大多数厂商选择避免发声，而奔驰则是一个例外。在2016年巴黎车展的采访中，奔驰驾驶辅助系统主管Christoph von Hugo表示奔驰的自动驾驶车辆将会在每一次决策中保护车内的乘员。“如果你知道你至少能救一个人，那么至少得救一个，救车里的那一个，同时如果你确认一个人的死亡是可以避免和预防的话，那么这就是你要做的首要任务。”

　　

　　除了交通参与者，各国政府和行业协会也纷纷加入了自动驾驶伦理的探讨。2017年，德国联邦交通部的伦理委员会率先研究提交了世界上第一份自动驾驶指导原则，这份指导原则同意给予自动驾驶系统的准入，但在安全、人类尊严、个人决策自由以及数字独立方面提出了特别要求。这份报告一共包含20条意见，其核心要点是：1、当系统引发的事故少于人类司机时，常理上需要应用自动与互联驾驶；2、财物损失优先于人身损失，在危险情况下，保护人类生命始终拥有最高优先权；3、发生不可避免的事故时，不可根据行车者的个人特征做出鉴定；4、所有的驾驶情况必须有清楚地规定，并能明确驾驶责任方是人或电脑，对此必须有记录并存储下来；5、司机必须能够自己决定驾驶数据的转交和使用。

　　从伦理委员会的指导原则可以看出，涉及到两难局面，官方是禁止将其事前编程化和标准化的。也就是说，撞谁不撞谁的决策，厂商不可以事先选择好并写入自动驾驶的程序中。

　　有关自动驾驶伦理的思考

　　随着自动驾驶的发展，这项技术的参与者已经从传统的汽车厂商、供应商扩大到市政建设、电讯提供商、传感设备制造商等等。针对未来自动驾驶的伦理问题，远光君认为，技术越发展，两难问题就越遥远。而这涉及到更精尖的感知系统、更快的通讯机制以及更多维的决策。比方说，如果路边设施能在闯红灯的路人稍一启动的瞬间就将信息传递到车辆，那么车辆躲避或刹停的几率将大大提高。因此，针对现实中的许多极端问题，我们无需刻舟求剑。与其用现在的眼光看未来的问题，不如期待技术进步来化解一个个难题。

　　

　　那么或许有人要问，实在是无法避免的交通事故那应该如何抉择？这种情况在远光君看来，尽人事听天命是最好的抉择。无论是人类还是科学技术都有一定的局限性，要在一个局限的条件下得出最完美的结论，这无异于庸人自扰。

　　无论如何，自动驾驶不是原罪，即便是遭遇两难问题也应先追究破坏交通运行规则导致两难境地的人或物。在这一点上，未来的自动驾驶应该是在基于社会共同遵循的准则下运行，从源头保障，从技术入手，这或许是电车问题的出路。