王楠

摘 要：文章以无人驾驶技术为例，提出机器模仿伦理性决策时的三个层次的风险，第一个层次为人-机关系风险，第二个层次为人-机-第三方关系风险，第三个层次为人-机-社会价值体系风险，同时对风险应对的进路进行梳理，从研发与研发管制、法律制度、国际协调机制三个方面进行说明。

关键词：伦理与道德；人工智能；决策

中图分类号：U463 文献标志码：A 文章编号：2095-2945（2018）32-0016-03

Abstract： Taking unmanned driving technology as an example， this paper puts forward three levels of risks in ethical decision making of machine imitation： the first level is the risk of man-machine relationship， and the second level is the risk of human-machine-third party relationship. The third level of human-machine-social value system risk， at the same time to sort out the approach to the risk response， from the R&D; and R&D; control， legal system， international coordination mechanism three aspects.

Keywords： ethics and morality； artificial intelligence； decision making

1 異于传统技术工程伦理的人工智能伦理

2017年见证了人工智能（AI）开发应用的极速成长，如果仅仅将AI视为人类技术环境中的一项正在崛起的构成要素，与人类文明进程中的各项技术要素具有相同属性的话，结合对技术史的简单回顾，或将初步认为AI的形成、发展与应用是历史的必然：自19世纪中后叶电气技术革命开启的系统自动化的探索历经百年积累，与计算科学等相关学科不断演进、互动，从计算机的诞生到互联网通信技术的全球普及，由云计算、大数据至今日AI日臻稳健成熟，不断更迭的智能算法、对无法想象的量级数据的超速处理能力正以一种前所未有的方式驱动AI在全球各个行业的应用与布局。

致力于AI与Robotics技术市场咨询的Tractica预测：由AI直接或间接应用带来的全球市场收益将由2016年的14亿美元急剧增长为2025年的368亿美元，其门户网站亦发布215项AI用例描述，横跨政府公共部门与私营部门，涉及ICT、交通运输、医疗诊断与护理、金融市场预测、消费品市场、新闻传媒、能源与制造业，甚至SNS领域（social bots）。……