摘 要 对于机器人伦理学研究，目前主要都集中于阿西莫夫提出的“机器人学三定律”，但大众媒体中的机器人形象，不论是小说还是影视，已远远超出了“三定律”所能规范和解释的范畴。相反，大众媒体中机器人的各种创新，从某种意义上说，很可能为目前机器人伦理学研究开辟更大的战场，提供更丰富的研究依据和展望。文章对大众媒体，如小说、影视等，做了大致梳理，借此为机器人伦理学研究提出新的切入点。

关键词 机器人伦理学；“机器人学三定律”；科幻小说；科幻影片；大众媒体

中图分类号 G2 文献标识码 A 文章编号 1674-6708（2019）235-0118-02

科幻作品对人类科技的推动是巨大的，其中“机器人（robot）”一词，最早就是出现在文学作品中。这一词汇诞生于荒诞剧，正式进入英语后，便成为“机器人”的专用词汇，机器人开发研究也随之而来。随着这一研究的不断深入，科学界近年来提出了一个新的概念——机器人伦理学。作为一个专业术语的“机器人伦理学”首次由Gianmarco Veruggio提出。在他的观念里，人类应该在机器人引发各类危险前找出控制方法。

Veruggio认为人类目前面临的问题不是为一大群半智能类人机器人制定道德规范，而是那些功能远远超过人类水平的高级人工智能。在他看来，机器人、仿生人、模拟大脑什么的都无关紧要，一二十年之后将要面对的真正的大问题——为超级智能开发伦理道德[1]。

这一概念如同一颗惊雷，打破了原本的平静，研究学者和研发专家就这一命题积极展开讨论并进行深入研究。

1 机器人伦理学发展

目前我国机器人伦理研究方面，一些学者表示，对于机器人伦理学，应从“安全问题”“法律和伦理问题”以及“社会问题”三大问题域来提出机器人论理学[2]。还有一些学者提出，不同文化、意识形态背景下存在使用机器人的伦理标准也不尽相同[3]。但受制于目前科学技术水平，这些无异于纸上谈兵，空有理论却得不到实际证实。

与此同时，在现实操作中，我们发现人工智能在我们的生活中日益增多，不断触发各种伦理问题。例如，新京报在2013年5月刊登了一篇题为“联合国讨论封杀‘杀人机器人”的文章。文中提到，联合国人权理事会特别调查员克里斯多夫·海因斯强烈反对这一研发项目，要求立即终止“杀人机器人”的研发和应用。但这简直就是蜉蝣撼树。大家都知道现代军事科技的一大发展趋势便是开发和应用“杀人机器人”，这一研究一定程度上代表了一个国家军事科技水平。

在这种情况下，应用伦理学研究必须认真对待机器人的道德伦理问题，这一研究也成为一个亟待开发的新领域。机器人伦理问题是一个涉及到多领域的交叉性学科，要开发研究该领域，不仅需要跨学科、多層次的人才，甚至需要联合机器人进行研究。

有研究学者从文学作品出发，对机器人伦理学研究提出了大胆的预测，认为机器人伦理有可能带领人类伦理走向新的高度。笔者在2013年发表一篇“科学小说的生命伦理探究”的文章，指出科学小说作者应秉持科学态度，对人类社会的未来做出有依据的预测，并永于承担相应的责任[4]。美国学者Susan Leigh Anderson在其“Asimovs ‘three laws of robotics and machine metaethics”一文通过分析阿西莫夫的《活了两百岁的人》，提出机器人或许可以自己发展自我伦理学，因为伦理学并不是某种可以用计算机演算的学科[5]。这两篇研究论文都为研究者带来了一个新的伦理学研究方向，即基于机器人科学小说的伦理学研究。

2 美国大众媒体中的机器人伦理发展史

从20世纪30年代开始，随着科学的迅速发展，有关机器人的科学小说数量剧增，但大多都以钢铁类机器人为主题。其中贡献最大的，非美国科幻小说作家艾萨克·阿西莫夫莫属。

阿西莫夫与著名科幻编辑坎贝尔在20世纪40年代，认为小说中机器人的“怪物”“恶魔”“毁灭者”的负面形象状况应得以改观，两人一同为机器人制定出一套基本的行为规范和道德准则，试图依靠这套标准使机器人成为人类的朋友和伙伴[6]。这套标准首先出现在阿西莫夫的小说《我，机器人》中，被命名为“机器人学三定律”：

第一定律：机器人不得伤害人类，也不得在人受到伤害时袖手旁观；

第二定律：机器人必须服从人的命令，前提是不违反第一定律；

第三定律：机器人必须保护自己，前提是不违反第一、第二定律。

值得说明的是，这三定律并非完美无暇，作为补充，阿西莫夫在后续小说作品中又补充了“第零定律”，即机器人必须以人类的整体利益不受伤害为第一前提。只有在这一前提下，其它三条定律才能成立。在这一道德准则指导下，阿西莫夫有关机器人的一系列科幻小说才得以面世。在他的笔下，机器人不是背叛人类、为害四方的恶魔，虽然这些机器人或多或少还是会受到各种心理问题的困扰，但他们一直是人类忠心耿耿的朋友和伙伴。在与人类的互动中，这些心理问题最终得到解决。而这正是阿西莫夫创作机器人系列小说故事情节的基础。

假如阿西莫夫小说的构想全部能够实现，那些钢铁机器人真有可能永远陪伴人类、臣服于人类，也根本不会出现“机器人与人类为敌”的情况了。但是，这三条定律并非完美，对此的质疑之声不绝于耳。比如波兰科学小说作家莱姆就曾提出：按西莫夫的“机器人学三定律”几乎是不可能做到的，它对技术的要求极高。比如按西莫夫在“机器人学三定律”中提到“机器人不得伤害人类”，要做到这一条，就必须为机器人的大脑程序安装一种保险装置。而这种保险装置的工作原理是基于统计学和概率学的计算的，也就是说只要一个机器人有万分之一可能性会伤害人类，为了防止这种情况出现，必须给它配备超高保险系数的保险装置，其结果只能是机器人变得呆滞[7]。可见，“三定律”并非是万能的。

而科幻小说作家总是喜欢大胆幻想，不会受困于技术条件，他们创作的机器人智能越来越高，甚至超出了人类所能控制的范围。苏姗妮·范·鲁尹的作品《我爱机器人》中，音乐天才机器人奎因因为在学校与人类孩子的接触，而引发机器人对自身身份的思考。奥尔迪斯的短篇小说《月光掠影》中象征人类进化的队伍之中，人类却越来越少，而越来越多的是机器。甚至乔治·奥威尔在其小说《1984》中就描写到穷人所读的书都是机器人写的……文学创作中的机器人形象层出不穷，正邪难辨。他们不再是人类的仆从，他们具有思考写作能力，具备独立的机器人格，要求“机器人权”……“三定律”的伦理标准越来越难以应付这些新状况。

同时，随着电影技术的发展，许多机器人形象被搬上了银幕，更为直观，也更加生动地展现给世人。比如阿西莫夫的小说《我，机器人》改编的电影《机械公敌》，影片中的机器人发生叛乱并试图控制人类。由小说《机器人会梦见电绵羊吗？》改编的影片《银翼杀手》，这里不仅有与人类一般无二的机器人，甚至还出现了人类与机器人之间的爱情。影片《机械纪元》则讲述了机器人寻求自由的历程。这些小说及影片中都涉及了统治与被统治、权利、爱情、自由等这些伦理主题。但如果仅仅展现这些故事情节，那你就低估了编剧和导演的眼光，他们试图通过影片表面所传达的故事，让观众去体会更深层次的伦理问题，人类作为机器人创造者，该如何处理由科技发展而引发的伦理道德问题，从而让科技更好地服务人类。詹姆斯·卡梅隆执导的《终结者》系列电影是公认的机器人影片的杰作，机器人正邪两派之战，在带来极大的视觉冲击的同时，也留下了巨大的思考空间——是非、正邪，本就是伦理道德之要素。这时的“机器人学三定律”已经爱莫能助。按照之前的经验以及科学的发展，人工智能机器人、甚至类人机器人在不远的将来真的出现，是否应该制定相应的伦理学标准来制约机器人，或者说制约其研发人类，如何制定这一系列的标准和条列，就成了学者需要考虑的内容。

3 大众媒体对机器人伦理的启发

鉴于对机器人伦理学研究困难之大，而确有学者借文学作品来研究伦理学，笔者在这里大胆提出一个建议：我们可以利用科学小说为实验场所，正如阿西莫夫当时的机器人学三定律，在小说中以科学为依据，发挥想象，提出可能的解决方法和策略。在所后的作品中对此加以改进和完善。

机器人、类人机器人以及半机器人已成为当今大众文化的部分。书籍，乃是文化传播最普遍和成本也较低的方式之一，最易为人们所接受；而电影产业具有全球性传播影响力。Allmovie.com网站上搜索“机器人”得到的影片有百部有余，搜索“机器人和类人機器人”得到的影片超过400部。这里面有1958年的《机器人与阿兹特克木乃伊》，也有2014年的《机器纪元》。而boxofficemojo.com网站资料显示，机器人电影也为电影公司带来了相当不错的收益。这样的成绩无不对大众产生了深远的影响力。

“人们对机器人的态度从根本上取决于对机器人的预判。由于大部分都没有真正和机器人接触过，他们对于机器人能力的认知都是通过第三方渠道，比如科学小说和影视作品。人们将自己读过小说或看过的电影中的故事情节当作自我经验。”[8]因为不论是科学小说还是科幻影片都极力地塑造出一种“真实”。这一“真实性”，也是笔者认为大众媒体中的机器人可以成为机器人伦理学研究对象的主要依据。而在这种虚构的“真实”之中，机器人的伦理道德取向和需求，也在一步步影响着机器人科技工作者的工作伦理，二者相辅相成，不可分割。

科幻作品中的机器人形象，是科幻作家们结合对科学技术合理的预测，大胆想象，并按照人类自身的形象创造出来的，满足了人类自身“造物主”的想像。人类创造的机器人思考的速度更为敏捷，学习能力更强，身体各项机能远超人类……这样的一个群里是否需要更为完善的道德规范来引领呢？答案当然是肯定的，这就需要我们学者专家去开发。从某种意义上说，科幻作品中的机器人就是我们人类的进化版，而对机器人伦理学的研究必将成为人类伦理学研究的一个重要方面。

参考文献

[1]魏郎儿.为什么爱西莫夫的三定律救不了我们[N].科学人，2014-04-26.

[2]王绍源，崔文芊.国外机器人伦理学的兴起及其问题域分析[J].未来与发展，2013（6）.

[3]王东浩.机器人论理问题探賾[J].未来与发展，2013（5）.

[4]魏兰.科学小说的生命伦理探究[J].短篇小说（原创版），2013（2）.

[5]Susan Leigh Anderson. Asimovs “three laws of robotics” and machine metaethics[J]. AI & Soc（2008）22：477–493.

[6]黄禄善.美国通俗小说史[M].南京：译林出版社，2003.

[7]星河.取代上帝和人类镜像：科幻小说中的机器人题材[J].知识就是力量，2005.

[8]Ulrike Bruckenberger， Astrid Weiss， Nicole Mirnig. The Good， The Bad， The Weird： Audience Evaluation of a “Real” Robot in Relation to SF and Mass Media[J]. Lecture Notes in Computer Science （8239），2013.