王晓

AlphaGo与人工智能威胁论

去年3月，AlphaGo以4：1战胜李世乭，一度引发了世界范围内对于“人机大战”的狂热关注;今年1月，一个名为“MASTER”的神秘棋手60盘连胜狂扫各路棋坛高手，后被证实是AlphaGo的升级版;5月，AlphaGo以3：0战胜世界排名第一的天才棋手柯洁，“世界第一围棋高手”正式易主成为一台计算机。许多科学界与企业界的精英人士公开表示，这是AI发展的里程碑事件，纷纷寄期望于AI来解决目前企业甚至社会管理中的众多疑难问题。与此同时，包括埃隆·马斯克、斯蒂芬·霍金等人在内的许多科技界人士开始公开宣称担心AI崛起并威胁人类，与众多人工智能专家联名签署了一封禁止开发人工智能武器的公开信。

实际上，自从二战美国政府在参与研发原子弹的科学家们事先毫不知情的情况下，悍然在广岛和长崎投放了两颗原子弹之后，科学家们对于技术的发展可能会威胁世界安全甚至人类生存的反思从未停止。当时，由于机器过去的性能表现已经能够被用于调整机器的未来行为（维纳在其划时代的巨著《控制论》中将其称为“反馈”），已经出现了人们口中所说的“会学习”的机器，自动化也开始从军事领域向工商企业中渗透。自动炮火指挥仪与自动巡航导弹的出现，甚至引发了科学家们对于“按钮”战争[1]的思考：如果一台会学习的机器学会了编写让“自己按下‘按钮”的程序，它们是否会不惜一切——甚至是己方全军覆没的代价，来按下“按钮”以实现预定义的“胜利”目标？……