阚志刚（梆梆安全公司首席执行官）

人工智能的保险阀
——认知安全

阚志刚（梆梆安全公司首席执行官）

0 引言

2016年初的“阿尔法狗VS李世石”围棋世界人机大战，赚足了人们的眼球。随后，微软AI聊天机器人Tay上线后竟然在一天时间内“学坏”，在引发人们大笑的同时，更隐约间暴露出一丝人工智能的安全危机。

1 来自世界最聪明大脑的警告

当全球各个行业的人们都在对人工智能满怀希望，期待藉由人工智能的力量实现领域内的突破时，这个世界上最聪明的三个大脑却似乎看到了更为遥远、而又很不乐观的画面。

2014年，剑桥大学著名理论物理学家斯蒂芬·霍金提出，人类的进化速度与人工智能相比远远不如，他警告人们，如果军事科技过度依赖于人工智能，将可能导致人类的灭亡。

电动汽车公司特斯拉、商业太空飞行公司SpaceX首席执行官埃隆·马斯克更是直白的表示，未来人类生存的最大麻烦恐怕就是人工智能了。“研究人工智能如同在召唤恶魔”，人们需要对人工智能保持万分警惕而不为过。他呼吁要对人工智能加强监管，以确保“我们不会做蠢事”。

微软公司创始人比尔·盖茨也与忧虑超级人工智能的人们处于同一阵营，他认为几十年后人工智能很可能会强大到足以令人担忧的地步。在这一点上他赞同斯蒂芬·霍金、埃隆·马斯克等人的看法，“而且我不明白为什么一些人会对此仿佛若无其事。”如果人们不能对人工智能未来的潜力严肃对待，那么《终结者》、《黑客帝国》、《生化危机》中科幻场景变为现实的可能程度将大为提升。……