萧星寒

公元2044年的一天，城市的贫民窟里，一个警察正在巡逻。在一个角落，他看到了一个破烂的机器人。这在这个地区非常常见，然而，不常见的是，那个机器人正在对自己断掉的腿进行维修。这行为是明显违反规定的。警察吓坏了，掏出枪来轰掉了那机器人的脑袋……

这是由西班牙导演加贝·伊班内兹执导的科幻片《机器纪元》的开头，然后由影星安东尼奥·班德拉斯饰演的ROC科技公司旗下的保险理赔员杰克·波根开始调查此事。

为什么机器人不能修理自己？当电影公映之后，有关机器人的各种话题再度热炒，其中就有“机器人三原则”以及它的各种升级补丁版。这是科幻作家为机器人设定的一整套行为规范和道德准则，不仅受到科幻迷的追捧，甚至还影响到了真正研究机器人的那些科学家。这是科幻，也是科学。

“机器人三原则”改变机器人的黑暗形象

在电影里，那时核大战虽然结束了，但到处都是不能居住的辐射区，只有用高大的围墙圈起来的城市是人类的避难之所，然而，空气是有毒的，水也不清洁，贫富差距极其明显。在这种情况下，ROC科技公司研发的“朝圣者7 000”智能机器人迅速崛起，帮助人们处理从生到死的一切事务。机器人们任劳任怨，不辞辛苦，与此同时也遭遇种种残酷无情的对待。为了安全起见，在它们的仿生内核里，设置了两条根本原则——第一原则：必须保护人类生命；第二原则：不得对机器人进行维修和改造。

在相当长的一段时间内，这两条根本原则保护了人类已经非常脆弱的文明。但现在，有机器人违反了第二原则，这是非常危险的事情。不久，一个机器人当着波根的面自焚了，这匪夷所思的事情让波根意识到自己必须查出幕后凶手。

在早期科幻小说里，机器人的形象千篇一律：人类制造出机器人来当奴隶，机器人不堪奴役而造反，成为人类毁灭者。到20世纪50年代，机器人的这种黑暗形象才得到改变。美国科幻大师阿西莫夫为机器人建立了一套行为规范和道德准则，这就是“机器人三原则”：

一、机器人不可伤害人，或任人受到伤害而无所作为。

二、机器人应服从人的一切命令，但命令与第一定律相抵触时例外。

三、机器人必须保护自身的安全，但不得与第一、第二定律相抵触。

有了“机器人三原则”，阿西莫夫笔下的机器人就不再是“犯上作乱”的反面角色，而是人类忠实的奴仆和朋友。随着现实里机器人的用途日益广泛，阿西莫夫的“机器人三原则”越来越显示智者的光辉，以至有人称之为“机器人学的金科玉律”。

这三条原则看上去语言简洁明了，内在逻辑清晰透彻，一经推出，即受到广大读者的狂热追捧。这种狂热甚至影响到了真正研究机器人的科学家。然而，机器人三原则只具有理论价值，而不具有实践意义。

首先一点，在人工智能技术发达之后，什么样的人都可以造机器人，显然，不是谁都认可机器人三原则的，比如恐怖分子。其次，机器人的用途千种万种，只要你想得到的，没有造不出来的，比如军用机器人，不会有谁会傻到制造以“不可伤害人”为第一行事准则的军用机器人吧。

事实上，军用机器人是机器人几大运用领域中智商要求最高的，因此也是机器人技术发展最快的领域。军用机器人，生来就是杀人的，当然不可能遵守机器人三原则。为了在变化多端的战场环境中生存并执行任务，它们必须比别的种类的机器人聪明上百倍。

“机器人三原则”的升级补丁

阿西莫夫肯定也看到了“机器人三原则”的不足。在1985年，《机器人与帝国》这本书中，阿西莫夫在三原则的基础上加了一个第零原则：机器人不得伤害人类整体，或袖手旁观坐视人类整体受到伤害。

为什么后来要定出这条“第零原则”呢？比如，为了维持国家或者说世界的整体秩序，我们制定法律，必须要执行一些人的死刑，这种情况下，机器人该不该阻止死刑的执行呢？显然是不允许的，因为这样就破坏了我们维持的秩序，也就是伤害了人类的整体利益。

其他科幻作家也试图对机器人三原则进行修补。罗杰·克拉克构思的机器人原则包括七条：

元原则：机器人不得实施行为，除非该行为符合机器人原则。

第零原则：机器人不得伤害人类整体，或者因不作为致使人类整体受到伤害。

第一原则：除非违反高阶原则，机器人不得伤害人类个体，或者因不作为致使人类个体受到伤害。

第二原则：机器人必须服从人类的命令，除非该命令与高阶原则抵触。机器人必须服从上级机器人的命令，除非该命令与高阶原则抵触。

第三原则：如不与高阶原则抵触，机器人必须保护上级机器人和自己之存在。

第四原则：除非违反高阶原则，机器人必须执行内置程序赋予的职能。

繁殖原则：机器人不得参与机器人的设计和制造，除非新机器人的行为符合机器人原则。

这组“机器人七原则”要完备得多。但并非毫无问题。比如，如果机器人拥有了自我意识，拥有了与人类不相上下甚至超过人类的智慧和文明，我们还有资格为它们制定原则么？

机器纪元是我们注定的未来？

在《机器纪元》中，ROC科技公司制造出了第一种真正具有自我意识的量子电脑后，科学家们同这台没有任何限制的量子电脑交流了8天，畅所欲言，相互学习。但疑虑已经在科学家心里闪现：这台量子电脑如此聪明，或许有一天它将不再需要我们的帮助，它将自我进化。到了第9天，人机对话终止了，并不是电脑终止了与人类的对话，而是因为科学家们无法理解量子电脑。恐慌之下，科学家们意识到要将机器人限制在人类可以理解的范围内，于是他们向量子电脑下达了最后一个指令，就是编制机器人无法破解的安全原则。后来，所有的“朝圣者7 000”智能机器人的仿生内核都是以这台量子电脑为蓝本制造的，区别就在于前面说过的那两条安全原则。事实上，这两条安全原则就是机器人七原则的第一原则和繁殖原则的另一种表述。

然而，所谓原则就是拿来破坏的，在影视剧里尤其如此。出现了违反原则的机器人之后，杰克·波根开始着手调查此事。起初他和所有人一样，以为背后一定有一个机械师篡改了机器人的程序，在无意中卷入了机器人的逃亡之旅后，他惊讶地发现，整个事件的背后并没有机械师，“朝圣者7 000”智能机器人自发地违背了原则，对自身进行维修和改造。

很难解释这件事情，也许是当初第一代量子电脑埋下的后门，也可能是一种本能。但结果就是，机器人开始反叛。不，也不能说是反叛，它们只是离开城市，去往人类到不了的辐射区，继续生活。

人类不珍惜地球，将地球破坏得千疮百孔。也许机器人会是更好的继承者。人类制定，或者机器人制定的几条规则，并不能阻止这一未来的到来。

这难道是我们注定的未来？