于 涵

真正有价值的悲剧不是出现在善恶之间，而是出现在两难之间。

——黑格尔

一、从“电车难题”和“摩托车困境”谈起

最早的“电车难题” (the Trolley Problem)，是英国哲学家菲莉帕·富特(Philippa Foot)于1967年提出的。难题的内容十分简洁：一辆有轨电车失去了控制，司机看见前方的轨道上有五个人。司机可以任凭电车继续前行，这样一来，这五个人一定都会被撞死(这五个人不知何故都无法离开轨道)；司机也可以将电车转向，开到一条岔道上，而这样只会撞死另一个人。那么，司机是否应当把电车开到人少的轨道上，撞死一个人，而不是五个人呢？(1)卡思卡特：《电车难题》，朱沉之译，北京大学出版社，2014年，第3-4页。以此为基础，演化出了非常多版本的“电车难题”，此处不再赘述。诺亚·古道尔(Noah Goodall)就此提出过另外一种情况：一辆自动驾驶汽车正面临迫在眉睫的撞车事故。它可以选择两个目标中的一个转向：要么是戴头盔的摩托车手，要么是没有戴头盔的摩托车手。那么，该如何做出决策呢？(2)网址：https://www.wired.com/2014/05/the-robot-car-of-tomorrow-might-just-be-programmed-to-hit-you/,访问日期：2021年5月4日。(姑且称戴头盔的人为甲，没戴头盔的人为乙，并称这一决策难题为“摩托车困境”)如果撞向甲，甲戴头盔的本意是为了保护自身安全，而现在却变成了“活靶子”，这不是在变相鼓励违反交通规则的行为吗？如果撞向乙，由于其没戴头盔，受到的伤害肯定远远高于甲，两弊相权不是应该取其轻吗？

无论是“电车难题”还是“摩托车困境”，其共同点都是当面对人类目前无法解决的伦理问题时，自动驾驶如何处理。……