宁庭勇 熊婕 胡永波

(云赛智联股份有限公司，上海 200233)

0 引言

纵观当今社会，人工智能(Artificial Intelligence，AI)已广泛渗透经济生产活动的各个环节。AI将催生新技术、新产品、新产业、新业态、新模式，实现社会生产力的整体跃升，推动社会进入智能经济时代。目前，我国大型企业基本都已在持续规划投入实施AI项目，已有超过10%的企业将AI与其主营业务相结合，实现产业地位的提高和经营效益的优化[1-2]。

虽然AI技术已经开始在众多行业中找到落地场景，成为助推传统业务数字化转型的重要工具，但AI技术在工程化和应用落地过程中还面临诸多挑战[3]。例如，产品能力参差不齐、缺乏行业基准和标杆、用户选型存在困难、由算法缺陷和应用安全隐患所衍生的安全事件频发等，这些问题制约了AI技术产业的深入发展。

1 人工智能领域应用面临安全考验

1.1 安全现状

根据艾瑞咨询研究院的报告[2]，过去几年AI安全研究论文呈现爆炸式增长。近两年，全球政府、学术界和工业界发布的AI安全性方面的研究论文多达3500 篇[2]，美国、中国、欧盟之间的激烈竞争预计将在可信AI竞赛中继续。

现实中的AI安全事件正在快速增长，尤其在汽车、生物识别、机器人技术和互联网行业。作为AI的早期采用者，最受关注的行业是互联网(23%)、网络安全(17%)、生物识别技术(16%)和自治(13%)[1-2]。AI行业对于现实世界的黑客攻击还没有做好充分的准备，60种最常用的机器学习(ML)模型平均至少有一个安全漏洞[4]。

1.2 芯片、算法和数据的安全可控变得十分重要

随着近5年AI渗透率在各行业的提升，AI的局限和问题逐渐暴露，如对抗样本带来的安全隐患、原理不可解释等。……