文/bucee

应对人工智能武器说不

文/bucee

美国参谋长联席会议副主席保罗·塞尔瓦上将曾在国会听证会上提出警告，人工智能武器会让人失去作战控制能力，甚至最终反制人类。

联想到此前诸多知名人士对人工智能潜在危险的预测，塞尔瓦将军的警告不应被忽视。而出于防患于未然之目的，各国应毫不犹豫地对人工智能武器说不。

人类或不是人工智能的对手。去年，人工智能程序AlphaGo以4：1的悬殊比分击败韩国围棋第一人李世石；2017年，在与AlphaGo的对决中，排名世界第一的天才棋手柯洁三战皆负。日本电气通信大学助教伊藤毅志认为，AlphaGo“完全达到了超越人类的水平”。在4月于北京召开的2017年全球移动互联网大会上，著名物理学家史蒂芬·霍金通过视频致开幕词强调，“我认为生物大脑能实现的东西和计算机能实现的东西之间不存在真正的差别”，而“受限于缓慢的生物进化，人类无法与人工智能竞争并可能被其取代”。事实上，早在三年前，霍金就曾对英国广播公司表示，发展全面的人工智能可能导致人类的毁灭。美国特斯拉汽车公司创始人埃隆·马斯克也形容人工智能是“恶魔”，“如果要我猜人类最大的生存威胁是什么，我想那就是人工智能”。

人工智能武器可能超出人类控制。人工智能武器属自主系统，而自主系统是人类所创造的极为复杂的自适应系统，其能通过大数据支持和反复自我学习持续提高判断、决策能力。正如AlphaGo之父杰米斯·哈萨比斯所言“AlphaGo不仅仅只是模仿其他人类选手的下法，而且还在不断创新”。……