王淑庆

人工智能的发展使得多主体交互①多主体交互比人机交互更为宽泛，因为它还包含人工主体间的交互。因此，涉及“人机交互”就仅仅指人与人工主体间的交互。变得越来越现实，但为了避免人工主体在多主体交互中伤害人类或其他主体，甚至让其行动更加人性化，构建人工道德能动性（artificial moral agency）则成了一个具有前瞻性的研究主题[1]19-29。在理想的意义上，构建道德上值得赞赏的人工主体（morally praiseworthy artificial agents，简称MPAA）是机器伦理的终极目标[2]251-261，它最好能让机器的“所为”与“不为”两个方面都能符合人类的道德期待。

让人工主体主动地实施道德行动以及抑制不道德行动，在很大程度上只是一种理想。所以，很多学者反对构建MPAA，他们甚至反对任何关于人工道德主体（artificial moral agent②在本文中，agent有时被翻译成主体，有时被翻译成行动者或施动者。笔者在探讨它的特性时，译成主体；而探讨它作为能够实施行动的存在物时，翻译成行动者；在与受动者（patient）相对时，则翻译成施动者。）的构想，并从各方面论证这是不可能的[3-4]。然而，也有些学者认可这是一种可以设想的远景目标，他们主张在更弱的意义上界定人工道德主体[5]349-379。笔者站在支持派的立场，认为人工道德能动性不宜过多地类比人类，而要从道德功能主义（注重机器的功能表现而非内在机制）的角度看待构建人工道德主体的意义。目前的哲学研究多数是针对的高级的MPAA，它试图让机器像人一样进行道德判断与道德推理，并进而实现较好的道德决策，这其实过于理想化。……