李军

目前在人工智能监管方面的挑战主要来自公平性、透明性和责任认定三方面。

在开始谈论人工智能管理之前，先做一道选择题。

一辆载人的自动驾驶汽车高速接近一个路口，此时路口有十个行人正在过马路。在刹车突然失灵的情况下，汽车的自动驾驶系统应该如何选择：

1、拐向路边的固定障碍，躲避十个行人但牺牲车内一位乘客;

2、保持直行，确保车内一位乘客的安全但牺牲十个行人。

您会如何选择？我们看看公众的观点。

当美国学术期刊《科学》就这个问题进行公众调查时，76%的被调查者表示，应该选择牺牲一位乘客以保全十位行人。而且这些选择“牺牲一位乘客”的被调查者都同意以下观点：自动驾驶汽车的制造商应该把“汽车事故死亡数最小化”作为一个指导原则设计自动驾驶系统——我们且称之为“公平对待系统”。

有意思的是，当询问被调查者是否愿意购买安装“公平对待系统”的自动驾驶汽车时，大部分人表示，他们还是会选择安装“车内乘客优先系统”的汽车。

作为人工智能技术发展目前最成熟的领域之一，自动驾驶汽车遇到的选择悖论并不是特例。事实上，人工智能技术作为数字经济时代最重要的科技创新，在逐渐深入发展并成为现代社会一部分的时候，从道德与法律到监管与责任划分，无不面临着前所未有的两难选择。

欧美研究监管原则

针对这样的挑战，目前从美国、欧盟到中国，各国都在从技术、法律、行政和道德伦理等多个方面进行研究探讨，以期在不远的将来制定满足人工智能应用的监管原则。……