尹传红

“你们人类只是一种被设计出来创造更多智能工具的生物机器，你们已经抵达你们物种的金字塔尖了……你们的大限已到;你们已经达成你们被设计出来时所赋予的一切使命。”在一本生动描述机器人对人类发动战争的科幻小说《机器人启示录》中，一个有着婴儿外形、看似淳朴的机器人，这样教训制造“他”的人类。近年来，类似上述的场景和话题，我们也常常能在科幻电影中触及。

现实中，史蒂芬·霍金、比尔·盖茨、埃隆·马斯克等著名人士，最近几年都曾发出警告说：人工智能可能是我们面临的最大灭绝风险。如果智能机器缺乏监管，人类将迎来一个黑暗的未来。前不久，作为新一代人工智能代表的“阿尔法狗”，继运用高超的运算能力和缜密的逻辑判断，击败世界围棋顶尖高手李世石后，又“收拾”了另一位围棋高手柯洁，再度引来了世人的惊叹和热议。有媒体在评述此事时用了一个意味深长的标题：一场没有悬念的人机大战与一个悬念重重的未来。

这后一个“悬念”，便是机器智能超越人类时的梦魇。

其实，早在计算机刚被发明出来后不久，学界就有对于“思维机器”可能存在风险的忧虑了。1951年，英国著名数学家、“计算机科学之父”阿兰·图灵提示说：“……它们可以通过互相交流来增进它们的心智。所以，到了某一个阶段，我们将不得不考虑机器控制世界这个问题了。”几年过后，美国应用数学家、信息论的创始人诺伯特·维纳也表达了一种类似的担心：“我们给予机器的任何程度的独立性都可能导致对我们自身意愿的反抗。