钱 圆 媛

(中共中央党校(国家行政学院) 哲学教研部, 北京 100091)

一、“道德机器”对无人驾驶伦理建构的偏差

驾驶不可避免地涉及道德决定,比如,当突遇闯红灯的行人而急刹车时,驾驶员是在作一个道德抉择,将行人的现实风险转移到车内乘客上。以人工智能为核心,被认为应具备感官、认知和决策执行力，最终能像人类一样驾驶的无人驾驶汽车(autonomous vehicles/self-driving automobile),同样需要解决道德决定问题。人们担心无人驾驶汽车在难以避免的情况中会如何选择,是牺牲2名行人还是2名乘客?是撞到墙上还是从装有未知物品的盒子上碾过?进言之,谁来决定?是程序工程师还是公众?抑或通过诸如机器学习解决道德难题是否可能?

1. 基于错误设问的道德优先性排序

上述问题可谓现实版的“电车困境”(trolley dilemma)。对此,麻省理工学院媒体实验室于2014年设计出名为“道德机器”(moral machine)的实验(1)参见http:∥moralmachine.mit.edu。,通过创建一个类似游戏的平台,让公众就无人驾驶汽车应如何在“电车困境”的不同版本中对生命进行优先排序作出决定。

参与者被要求在不可避免的事故场景中,选择牺牲一方以挽救另一方,选项包括:牺牲人或动物、乘客或行人、更多生命或更少生命、男性或女性、青少年或老年、合法或非法穿越马路者、健康或不健康者、较高或较低社会职位者,在一些场景中还添加了罪犯、孕妇、医生等人物。最后的统计数据显示,全球道德偏好倾向于支持无人驾驶汽车损失更少的生命,保护儿童、孕妇,保护健康的人以及医生、运动员、经理等具有较高社会职位者;倾向于牺牲动物、罪犯、老人、不够健康的人或无家可归者[1]。……