李 洋 王晓敏 吴 影 周 岚 刘 星

罗德里克·费斯(Roderick Firth)[1]在1952年提出了著名的理想观察者理论，该理论主要聚焦于个体道德判断错误所引发的相关问题：个人由于错误的道德信仰、缺乏关键信息、道德偏见等限制易得出错误的道德判断，从而做出错误的道德选择。因此，设立一个全知全能、公正和无私的理想观察者，对化解道德冲突十分必要[2]。费斯的理论虽然独辟蹊径，但它更类似于一个组织结构，对于人类繁杂的日常道德判断与道德选择，理想观察者角色似乎是不可能实现的。然而，有科学家提出，在某些条件下，我们的认知和道德能力是可以分布在人工智能上的[3]，21世纪的人工智能、赛博空间和虚拟现实已经发展到前人无法想象的高度，人工智能具有理解和扩展知识的可能性，可以创建具有人类价值基础的智能顾问，帮助人类解决道德问题[4]。例如，我们通常无法做出符合自己道德目标的选择，因为情感和直觉的判断通常会取代信息的收集、反思和计算[5]，而人工智能能够摒弃人类生理构造中不利于道德决策的部分，更理性、更直接地做出道德判断。2015年，萨弗勒斯库(Savulescu)和马斯伦(Maslen)最早考虑把此想法落实在具体的技术层面，提出了“道德人工智能”理论[6]。

目前讨论的人工智能道德顾问是指利用人工智能技术为个体提供适宜的道德建议，把人工智能应用到人类道德生活。一些学者认为，人类生理能力缺陷，有时不可能由后天的道德能力训练得到改善，因为它通常根植于我们的身体机能中，如低血糖的人更容易发生偏执行为[7]、血清素低下的人更容易使用暴力[8]。……