尹传红

打小痴迷科普科幻，书香悦读一路相伴。分享科学奇美理趣，留下探索思考印记。

前不久，一个顶尖国际研究团队的理论计算结果证明，我们很可能无法控制超级智能机器。该研究团队构想的一种理论遏制算法——通过模拟人工智能（AI）的行为并在被认为有害的情况下予以制止，已被证明是不可计算的，即任何单一算法都无法找到一个判断AI是否会对世界造成伤害的解决方案。

“一个超级智能机器控制整个世界，这听起来像是科幻小说。但是，已经有一些机器能够独立完成某些重要任务，而程序员却不完全了解它们是如何学会的。”参与此项研究的马克斯·普朗克人类发展研究所人类与机器研究专家曼努埃尔·塞布里安说，“因此，问题就出现了，这种情况是否会在某一时刻变得无法控制并对人类构成危险。”

类似的一种情形是，如果有人要为一个智能优于人类的AI系统编程，使得它可以独立学习，那么，与互联网相连的AI可能会访问人类的所有数据，可以取代现有的所有程序，并在线控制全世界所有机器。

这绝非危言耸听。曾密切观察芯片、电脑、网络的发展，以及这几个领域之间彼此影响情况的美国未来学家詹姆斯·坎顿惊叹：一个建立在全球网络上的虚拟意识已经呼之欲出了！可以说网络代表了一个连接了数百万台电脑的心智。当我们把能源、健康、安全、防卫、通信、金融、市场等越来越多的基础运作交给彼此相连的超级电脑来处理时，就越有可能会出现独立思考的电脑智能。……