陈宇飞 沈 超 王 骞 李 琦 王 聪 纪守领 李 康 管晓宏

1(智能网络与网络安全教育部重点实验室(西安交通大学) 西安 710049) 2(西安交通大学电子与信息学部 西安 710049) 3(武汉大学网络安全学院 武汉 430072) 4(清华大学网络科学与网络空间研究院 北京 100084) 5(香港城市大学计算机科学系 香港 999077) 6(浙江大学网络空间安全研究中心 杭州 310027) 7(浙江大学计算机科学与技术学院 杭州 310027) 8(乔治亚大学计算机科学系 乔治亚州雅典市 30602)

近年来人工智能技术，尤其是深度学习理论方法，取得了重大突破.在计算机视觉[1]、语音识别[2-3]、自然语言处理[4]、棋牌博弈[5]等多类任务上，人工智能技术的判断准确水平和决策能力已经追平甚至超越人类.人工智能技术已经“走出实验室，跨入工业界”[6]，迅速触及到人类生产和生活的方方面面.与此同时，人工智能技术开发日趋大众化.Caffe[7],Tensorflow[8],Torch[9],MXNet[10],PaddlePaddle[11]等开源深度学习框架提供了丰富的高级模块化函数支持，大大降低了应用的开发难度；腾讯[12]、阿里云[13]、百度[14]、谷歌[15]、微软[16]、亚马逊[17]、IBM[18]等厂商也都提供了人工智能服务，涵盖图像识别、语音识别、自动机器学习等多个方面.通过调用API接口，开发者可以实现高性能的人工智能应用.得益于理论与工具的发展，人工智能系统正大范围地部署.

然而，随着各类人工智能应用的出现和发展，其中的安全隐患也逐渐暴露出来.2018年3月发生在美国亚利桑那州的优步无人车事故中，事发时处于自动驾驶模式的无人车并没有检测到前方行人，驾驶员也……