针对深度学习模型的对抗性攻击与防御
2021-06-04李明慧江沛佩
计算机研究与发展 2021年5期
李明慧 江沛佩 王 骞 沈 超 李 琦
1(空天信息安全与可信计算教育部重点实验室(武汉大学) 武汉 430072) 2(武汉大学国家网络安全学院 武汉 430072) 3(智能网络与网络安全教育部重点实验室(西安交通大学) 西安 710049) 4(西安交通大学电子与信息学部 西安 710049) 5(清华大学网络科学与网络空间研究院 北京 100084)
随着移动互联网飞速发展、硬件设备持续升级、海量数据产生和算法不断更新,人工智能(artificial intelligence, AI)的发展已势不可挡,正逐渐渗透并深刻地改变着人类生产生活.深度学习(deep learning, DL)技术及其应用的发展令人瞩目,使强人工智能离人类生活越来越近.目前,基于深度学习的智能技术被广泛应用在人机交互、视觉处理、智能决策、自治系统、推荐系统、安全诊断与防护等各个领域.
目前,以深度学习为主要代表的人工智能开始进入产业化开发与深耕阶段,促进了各个领域的深刻变革.例如,深度学习驱动的数据分析技术已经从根本上改变了现有的视频监控、医疗健康和金融管理等系统的开发和应用.在安全领域,最新的检测防护系统能够利用深度学习技术从大规模数据资源中快速准确地提取出有用的可执行信息.
尽管深度学习被认为是深刻改变人类社会生活、改变世界的颠覆性技术,但是与任何一种先进技术发展和应用的过程类似,当面向用户的服务越来越成熟,客户资源逐渐增长,最终安全性会成为进一步广泛部署人工智能系统的最大挑战.
以深度学习为代……
登录APP查看全文
