张沛 刘媛媛

(1.中国信息通信研究院泰尔终端实验室，北京 100191；2.北京邮电大学，北京 100876；3.中国信息通信研究院政策与经济研究所，北京 100191)

0 引言

人工智能(Artificial Intelligence，AI)作为引领未来变革的战略性信息技术，在飞速发展、造福人类的同时，也带来了隐私安全、人身安全、公共安全等诸多安全风险和挑战。全球一直致力于推动AI从伦理原则、标准规范到实践落地的工作，进而达到兼顾安全与发展的治理目标，推动AI产业健康发展。AI治理已经成为全球关注焦点，当前全球各国AI治理稳步推进，我国也积极推动AI治理实践。本文主要分析国内外AI治理发展和现状、针对我国AI治理现状存在的问题提出针对性建议，对加强我国对AI治理的重视以及促进AI治理进一步落地非常重要。

1 AI治理问题和挑战

1.1 AI算法的安全和问责问题亟待解决

当前AI高速发展，相关技术和应用渗透在人类生活和各行业中，但是由于AI技术或管理缺陷也逐渐暴露出不安全、不透明、难问责等诸多问题。以深度学习为核心的AI系统和模型存在脆弱和易受攻击的缺陷[1]；深度学习采用的黑箱(Blackbox)模式导致模型具备不可解释性；不透明的决策过程使得算法责任主体难以界定。如某些应用软件利用深度伪造技术实现图像、音视频的生成或修改(AI换脸)，使不良信息内容“以假乱真”，抹黑政治人物。如果安全防护技术或措施不完善，无人驾驶汽车、机器人和其他AI装置将受到非法入侵和控制而引发安全威胁，如特斯拉、优步等自动驾驶汽车交通事故。……