于 雪，王 前

“机器伦理”思想的价值与局限性

于 雪，王 前

“机器伦理”是当前道德哲学与人工智能领域交叉的研究方向，主要研究如何在智能机器中嵌入符合伦理原则的程序，使其能在面对道德困境时做出正确的判断和选择。机器伦理思想的发展具有内在机制，一方面是由于道德行为对象发生了由“人”到“非人”的转变，另一方面以机器为中介的人与人之间的道德关系由直接关系变为间接关系。机器伦理思想促进了技术设计伦理由隐性向显性的变化，引导技术产品“负责任”地为人类服务。同时，机器伦理思想存在着将道德行为数字化、道德行为主体模糊化以及信任机制不明确等局限性。

机器伦理；显性伦理主体；人机同构

“机器伦理”（Machine Ethics）是一个正在兴起的研究领域，它关注于如何使机器具有伦理属性。最早系统提出机器伦理这一概念的是美国学者Michael Anderson，Susan Leigh Anderson 和Chris Armen，他们于2004年发表了《走向机器伦理》（Towards Machine Ethics）一文。文中明确提出，“机器伦理关注于机器对于人类使用者和其他机器带来的行为结果”。[1]Anderson等人认为，过去对于技术与伦理问题的思考大多关注于人类是否负责任地使用了技术，以及技术的使用对人类而言有哪些福祉或者弊端。然而，很少有人关心人类应该如何负责任地对待机器。机器的智能化发展使得机器负载着越来越多的价值和责任。使机器具有伦理属性，以帮助使用者做出伦理决策，或者发展一种具有伦理意向的自动机器以实现情景判断、案例分析和实时决策的功能，已经成为当前人工智能领域研究的重点。……