王治钧

伊亚德·拉万（Iyad Rahwan）是叙利亚裔澳大利亚科学家，他的研究涵盖了计算机社会科学和人工智能所涉及的伦理规范等，处于计算机和社会科学的交叉领域，其中包括自动驾驶技术的伦理思考。

自动驾驶的道德困境假设

伊亚德·拉万在演讲中提出了自己的假设：在2030年的某一天，你和家人坐在一辆无人驾驶汽车里，悠闲地看着投放在车前窗屏幕上的电影。突然前方路口出现紧急情况，你的车根本停不下来。如左图，左拐，可能会撞上障碍物，车毁人亡;右拐可能会撞到等红绿灯的人群;直行会撞到路上的行人和狗。

此时，这辆车的自动驾驶技术该怎么做？又该是谁来预设这个算法呢？预设好的程序、基于某种目标算法的撞击方向、系统性的倾向，自动驾驶的技术问题就变成伦理道德问题。

刹车失灵引发的电车难题

其实上述假设是受到了电车难题的启发，这是几十年前由一群哲学家发起的对道德的考问。电车难题指的是一辆刹车失灵的电车面临铁路分叉口，一条铁轨上有5名工人，另外一条铁轨上有1名工人，如果你是扳道工或者司机，你会选择哪条路？

调查显示，大约90%的人会选择牺牲1人来拯救5个人的生命。

但是，当假设发生变化，即轨道上的5名工人可能会被电车辗轧，如果从天桥上推下1个人就可以让火车停下，你是否愿意去推这个人？这种情况下，大部分人会改变自己的选择，认为不应该有意去伤害一个人，应该让车自然行驶，即使这样会伤害到更多的人。……