李 楠

一、前言

随着人工智能时代的来临，机器伦理成为研究热点。作为计算机、认知科学、哲学、社会心理学均有涉及的交叉学科，机器伦理研究的目的之一是使人工智能做出有道德的行为，换言之，使其行为可以得到伦理理由的支持。机器伦理在实践上的重要性不言而喻：在自动驾驶、机器人看护等涉及人类生命安全的领域，随着人工智能愈加强大，甚至有希望在新场景表现出自主行为，我们当然要求这些行为不仅仅是后果最优的，而是需要合乎道德，可以被人类社会在伦理上接受。让人工智能成为伦理行为主体，有工程技术方面的障碍，亦有理论方面的难题，而两方面的问题又往往相互关联。从工程设计的方向考虑，程序设计者会考虑自上而下或者自下而上的方案［1］（P565），自顶向下又称基于规则（principle based）的方案，即以某种方式将人类认可的道德准则编码为机器可以处理的产生式规则（production rules），让机器的行动方案可以考虑到伦理价值；自下而上的方案又被认为是基于实例的（case based），不预设任何理论，而是试图通过设计满足局部功能的模块，进而最终产生符合要求的行动方案，而设计过程则通过对具体测试样例的各种试错和调整来推进。

在哲学家眼中，这两个方案大致对应了元伦理学的一般论（generalism）与特殊论（particularism）之争［2］。我们都知道，哲学问题鲜有无异议的答案，不过，乐观的或者更为实际的考虑恐怕是先从容易的、争议少的地方做起来再说——先别让机器替我们决定电车难题，给老年人端水送药还可行。……