马玉杰

摘    要：随着人工智能的广泛应用，如何确保人工智能的决策和行为符合人类的道德规范，将是未来科技发展的重点和方向。从我国发布的《新一代人工智能治理原则》中“负责任人工智能”的概念出发，提出人工智能的发展应“合乎道德责任设计”，在此基础上分析人工智能的不同道德決策路径，明确智能机器的推理过程，就此对人工智能道德决策中的信任问题进行探究，进一步确保人工智能系统的透明性和可预测性，提高公众对于人工智能技术的信任，推进人工智能与人类的和谐共存。

关键词：人工智能;合乎道德责任设计;道德决策;信任

中图分类号：B82-057            文献标识码：A            文章编号：2095-7394（2020）01-0073-06

人工智能的快速发展和大规模应用带来了一系列的伦理困扰。如何确保其决策和行为符合人类基本道德规范，获取公众的信任，成为各国人工智能设计者、生产者、应用者及社会管理者十分关注的课题。MIT的情感计算研究组主任罗莎琳德·皮卡德就说过，机器越自由，就越需要道德准则。要机器为自己的行为负责，前提是机器具有道德主体性是可能的。[1]但不容置疑，人工智能的决定权依旧在人，人工智能的设计也必须合乎道德责任的规范。

2019年6月17日，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》。这是我国在国家层面制定的首个发展人工智能治理原则，“负责任”涵盖了人工智能的基础研发层到应用层，成为贯穿我国人工智能发展的一条主线。……