王晓兰　徐艳　张庆芳　刘孝赵　蒋中

摘要：人工智能发展方兴未艾，已应用在了人类社会的很多方面。该文主要从深浅两个层次阐述人工智能的潜在风险。显而易见的风险主要是人工智能技术的兴起，将威胁到人类就业岗位，造成潜在的失业风险；另一个风险是现行法律法规对潜在的人工智能引发的各类危害没有完备的处理机制，受害的一方很难获得有效的法律应援，面临无法可依的风险。深层次的风险一是人工智能在战争中进行应用，另一个是人工智能的自我迭代超出人类的控制，发展出超级智能，都可能将人类带入到灾难的深渊。该文提出三个方面的预防对策，一是从技术上进行风险预防，即在算法设计之初就给予必要的安全性可控性设计；二是从法律法规上约束人工智能开发企业或者个人的开发权限；三是构建人工智能“全球治理”联盟，多方合作信息共享，预防潜在的人工智能公共危害事件的发生。

关键词：人工智能；风险；预防；对策

中图分类号：TP18 文献标识码：A 文章编号：1009-3044（2018）27-0182-03

1 背景

近年来，人工智能（AI：Artificial Intelligence）取得了长足发展，但其潜在风险并没有像AI的技术应用研究一樣引起广泛关注。

霍金说过，“我认为强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。”埃隆·马斯克也就人工智能发展，对人们发出过警告：超人类人工智能可能带来不可估量的利益，但是如果部署不当，则可能给人类带来相反的效果。

2015年，科学家霍金和科技企业家埃隆·马斯克，以及许多其他的人工智能专家签署了一份关于人工智能的公开信，目的是提倡就人工智能对社会所造成的影响做认真的调研。……