李传军

(中国人民大学 公共管理学院，北京 100872)

近年来，人工智能的发展极大地推动了经济和社会的发展，然而，随着人类对人工智能依赖程度的提高，隐私泄露、算法黑箱等人工智能的伦理风险也随之加大。人工智能所带来的不确定性和未来的超人工智能存在的失控风险(1)蒋洁：《风险视域下人工智能伦理的主旨和原则》，《信息通信技术与政策》2019年第6期。，更加需要人们从伦理的角度强化对人工智能的约束。确立人工智能伦理原则以及化解伦理原则之间的价值冲突，就成为一个极为重要的问题。

一、人工智能伦理原则的缘起

(一)人工智能伦理原则的价值

人工智能是人类的创造物，但是，与其他科技产品相比，由于人工智能的拟人性特征，它能否作为道德主体是一个需要加以认真研究的问题。一旦人工智能成为道德主体，人类的本质就要重新定义(2)庞金友：《AI治理：人工智能时代的秩序困境与治理原则》，《人民论坛·学术前沿》2018年第10期。。科学技术的发展催生了技术理性(3)张爱军、李圆：《人工智能时代的算法权力：逻辑、风险及规制》，《河海大学学报》(哲学社会科学版)2019年第6期。，技术理性在征服自然界的同时，也在征服人类，人类正在陷入技术迷失，人的主体意识逐步被消解(4)龙耘、吕山：《AI时代媒介治理的伦理体系：内涵、特征及实践原则》，《现代出版》2021年第4期。。人是一个复杂的构成，包含物理存在、精神存在和道德存在三个层次。道德存在也是人区别于动物的本质特征。……