当前，人工智能发展进入新阶段，国务院在《新一代人工智能发展规划》（以下简称《规划》）中指出，人工智能将深刻改变人类社会生活、改变世界。推动人工智能安全发展至关重要，应着力构建安全发展战略，将人工智能安全发展提升到与人工智能科技研发、成果应用、市场推广同等重要的位置，研究制定有关法律法规和伦理准则，这不仅是深入贯彻中共十九大精神，夯实人民安全感、提升人民幸福感的重要举措，也是推进《规划》实施的必要条件。

一、需要关注的问题

人工智能发展的不确定性带来新挑战。人工智能是影响面广的颠覆性技术，可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。当前，我国人工智能安全发展需要关注的问题主要有以下几点：

（一）《规划》未提出人工智能安全发展。《规划》提出了新一代人工智能发展的基本原则，即科技引领、系统布局、市场主导、开源开放，没有将安全作为发展基本原则之一，对人工智能安全发展的重视不够。

（二）伦理研究缺乏大众参与。如果伦理研究过程中没有全社会的共同参与，没有吸纳人工智能这个特定场景下的伦理道德认识，则出台的政策和规划不易获得社会认同。

（三）舆论引导不及时。著名物理学家霍金认为，强大人工智能的崛起，对人类来说，可能是最好的事情，也可能是最糟糕的事情。……