徐 源

早在人工智能诞生之初，科学家就开始关注并探讨人工智能可能涉及的伦理问题，包括20世纪40年代艾伦·图灵(Alan Turing)和诺伯特·维纳(Norbert Wiener)对算法涉及的伦理问题的思考。然而过了很长时间，这一话题才引起政策制定者和伦理研究者的兴趣。伦理本质上是关于道德的学问，西方近现代伦理学思想的主要渊源是亚里士多德的《尼各马可伦理学》，亚里士多德在其中探讨了道德行为的目的和各项规定。在中国，伦理被理解为事物的条理或人与人相处的道德准则。例如，西汉刘德《礼记·乐记》中提到“凡音者，生于人心者也；乐者，通伦理者也”。这里的伦理指的是事物的条理。《朱子语类》卷七二中说：“正家之道在于正伦理，笃恩义。”这里的伦理指人与人相处的各种道德准则。可见，伦理学以人类的道德问题作为研究对象，是系统化、理论化的关于道德的观念集合，属于哲学范畴。

20世纪后期，针对技术发展中的不确定性和潜在风险等问题，技术伦理学出现了。技术伦理学试图通过对技术行为进行伦理调节，来协调技术发展与人类社会中的问题。人工智能以在机器上实现类人的智能为技术目标，对人类社会影响的广泛性、不可预知性比以往任何一种技术都明显。但原生于哲学的人工智能伦理具有很强的泛意性，可操作性弱，因此伦理原则很难直接量化为技术语言。同时，人机关系的复杂性和环境的不可预测性也无法确保一般的人工智能伦理在实际中真正符合伦理效度。……