尹传红

前不久，一个顶尖国际研究团队进行的理论计算结果证明：我们很可能无法控制超级智能机器。该研究团队构想的一种理论遏制算法——通过模拟人工智能（AI）的行为并在被认为有害的情况下予以制止，已被证明是不可行的，即任何单一算法都无法判断AI是否会对世界造成伤害，也无法阻止伤害的发生。

“一个超级智能机器控制整个世界，这听起来像是科幻小说。但是，已经有一些机器能够独立完成某些重要任务，而程序员却不完全了解它们是如何学会的。”马克斯·普朗克人类发展研究所的研究小组负责人曼努埃尔·塞布里安说，“因此，问题就出现了，这种情况是否会在某一时刻变得无法控制并对人类构成危险？”

类似的一种情形是：如果有人要为一个智能优于人类的AI系统编程，使它可以独立学习，那么，与互联网相连的AI可能会访问人类的所有数据，可以取代现有的所有程序，并在线控制全世界所有的机器。

这绝非危言耸听。

曾密切观察芯片、电脑、网络的发展以及这几个领域间相互影响的美国未来学家詹姆斯·坎顿惊叹：一个建立在全球网络上的虚拟意识已经呼之欲出了！就像如果Fin代表了某台电脑的心智，网络就可以说代表了一个连接了数百万台电脑的心智。当我们把能源、健康、安全、防卫、通信、金融、市场等越来越多的基础运作交给彼此相连的超级电脑来处理时，就越有可能出现独立思考的电脑智能。而全球有这么多台电脑彼此相连，其可能性是无限的……