[美]杰克·巴尔金 著 刘 颖 陈瑶瑶 译

一、 弗兰肯斯坦情结

在我孩童时期，我读了艾萨克·阿西莫夫(Isaac Asimov)所有关于机器人的故事。在阿西莫夫的世界里，机器人逐渐融入社会的方方面面，它们与人类有着不同程度的相似性。但随着故事的发展，最先进的机器人在外观和形态上开始非常“人类”。

这些机器人故事中最著名的就是阿西莫夫的三大定律，它将被植入每个机器人的正电子脑中。

这三条定律如下。

第一定律：“机器人不得伤害人类，或者通过不作为而使人类受到伤害。”(1)Isaac Asimov. Runaround, in I, Robot 41, 53 (Gnome Press 1st ed. 1950).译者注：该书有中文译本，参见[美]艾萨克·阿西莫夫：《我，机器人》，叶李华译，江苏凤凰文艺出版社2013年版。另外需说明的是，本文中多次出现“laws”一词，虽然英文表述一样，但实质意义并不相同，所以在涉及阿西莫夫小说中的“laws”译为定律，但巴尔金教授所代指的“laws”译为法则。

第二定律：“机器人必须服从人类的命令，除非该命令与第一定律相抵触。”(2)See note ①， Asimov.

第三定律：“机器人必须保护自身的安全，只要这种保护不与第一或第二定律相抵触。”(3)See note ①， Asimov.

这三条定律非常有影响力，甚至直到今天，人们还在想象将它们植入到机器人(例如自动驾驶汽车)上会是什么样子，或者这种植入是否有可能实现。(4)参见Boer Deng. Machine Ethics: The Robot’s Dilemma, Nature (July 1, 2015),http://www.nature.com/news/machine-ethics-the-robot-s-dilemma-1.17881[https://perma.cc/5ht6-eefa]; Ulrike Barthelmess， Ulrich Furbach. Do We Need Asimov’s Laws?, Cornell U. Lib. 11 (2014), https://arxiv.org/ftp/arxiv/papers/1405/1405.0961.pdf [https://perma.cc/ysc2-wzyj].

作为一种令人印象深刻的文学手法，三大定律用一种有趣得多的主题取代了人们熟悉的机器人主题。更古老的主题是“弗兰肯斯坦怪物”，或后来变得很邪恶或发狂的杀手机器人的主题。在《终结者》系列电影中，该文学主题的一个例子就是，神经网络(Skynet)变得有自我意识并接管了世界。……