孙福海,陈思宇,黄甫全,伍晓琪

(1.华南师范大学 教育科学学院，广东 广州 510631；2.华南师范大学 德育神经科学与人工智能实验中心，广东 广州 510631)

在计算机化早期，控制论专家诺伯特·维纳(Norbert Wiener)就指出，技术可以帮助人类成为更好的人，创造更公正的社会，但要做到这一点，人类必须控制技术[1]。历史上三大信息技术变革，最新一次就是人工智能技术。它带来诸多道德(伦理)问题。许多国家已经或正在制定人工智能领域的伦理框架。英国成立了数据伦理与创新中心[2]，旨在研究通用人工智能伦理框架。欧盟起草的《可信任人工智能伦理指南》[3]，提出了可信任人工智能框架。

人类道德依赖于人类社会文化背景下的道德标准、价值观和法律法规等规则体系，人工智能的“道德”也与之类似。研究者已经指出，人工智能在社会中的道德行为主要是规范性问题，而非描述性问题[4]。道德规范不仅可以塑造人的道德行为，同样也可以内化为人工智能的自我约束，作为立“德”之本。因此，验证智能系统是否符合现有法律框架只是第一步，更重要的是确保其能解释和运用人类道德价值观，需要弄清楚人工智能的道德意味着什么，以及系统如何遵循道德和坚持某种价值取向。

一、道德人工智能的伦理学基础

以软硬件形式存在的人工智能，通常被认为是人类的工具，但其不断增长的自主智能和交互能力，使得人工智能系统被期望承担起本属于人类的责任与义务。……