程海东 胡孝聪 陈 凡

人工智能体是指具有一定程度的自主性、智能性和社会性的人工智能系统，它们正快速融入人类的社会生活，与人类和其他智能体形成了交互关系。这一趋势引发了一个重要的问题：人工智能体是否能够具有道德属性，即能否为人工智能体实现道德建模，使其能够自主地作出道德决策？对这一问题的研究形成了两种基本立场：一是以道德实践工具论为基础，认为人工智能体不具备人类独有的内在心理状态，道德建模并不能改变这一状态，因而人工智能体只能是道德实践的工具；二是以道德实践目的论为基础，认为通过道德建模能够保证人工智能体的行为满足人类界定的某些道德标准，随着道德建模的成熟则可将其看作道德实践的主体。这种两分法的基本立场聚焦于人工智能体道德模型的内涵，即寻找人工智能体道德实践的判断标准，是否“能够作出道德行为或至少避免不道德行为的人工智能体”①J. A. Cervantes， S. López， L. F. Rodríguez， et al.， “Artificial Moral Agents： A Survey of the Current Status”，Science and Engineering Ethics， Vol. 26， No. 2， 2020， p. 505.。然而，这两种立场都忽略了人工智能体与其他智能体之间的关系和互动，面临着难以克服的技术和伦理困境。本文通过分析当前人工智能体道德建模的四种方式，并指出它们将人工智能体从道德实践中分离出来的策略导致了设计范式、道德转译、算法黑箱等技术困境以及伦理对齐等社会道德困境。在此基础上，本文提出了一种基于分布式道德机制的建模策略，将人工智能体视为分布式道德机制中的一员，从多智能体系统内各成员的互动中构建道德模型。……