古天龙 冯 旋 李 龙,2 包旭光 李云辉

1(广西可信软件重点实验室(桂林电子科技大学) 广西桂林 541004)2(暨南大学信息科学技术学院/网络空间安全学院 广州 510632)(gu@guet.edu.cn)

随着深度学习技术的快速发展和物联网的不断更新，人工智能(AI)已经广泛应用到无人驾驶、智能家居、医疗护理等诸多领域，为生活带来巨大便利.但与此同时，人机交互方式的简化使得人们对技术的依赖程度越来越深，对其控制却逐渐减弱，技术的不完善和数据的不恰当使用引发的伦理问题不断出现[1-2].为了使技术更好地为人类服务，AI系统需要具备伦理行为判别能力，理解特定社会的伦理道德规范，理解行为背后的社会、文化和伦理含义，才能在现实世界中进行大规模部署[3].

AI系统的开发应当始终秉承以人为中心、造福全人类的发展理念，为其添加伦理行为判别能力成为日益紧迫的问题[4-6].通过嵌入伦理道德规范能够使AI系统具备伦理行为的判别及执行能力，从而遵守法律和社会行为规范，是AI具备道德能力的体现.但由于伦理概念的复杂性及当前技术发展的局限性，伦理行为判别方面的技术研究面临着诸多障碍.

早期针对伦理行为判别能力的研究工作主要包括基于规则的方法[7]和基于案例的方法[8]，而这些方法普遍存在知识信息难以规则化、不具备自动获取特征表示的能力，导致模型的泛化能力并不理想.近年来，基于强化学习的方法[9]从试错或观察中学习人类的行为偏好，取得了很好的效果.虽然基于强化学习的方法行之有效，但是仍然具有以下不足之处：1)对环境变化的适应能力弱，只能适应特定领域而难以学习演示示例之外的知识；……