人工智能的稳定问题引起了持续而广泛的研究

人工智能作为新一轮科技革命和产业变革的重要驱动力量，正在对经济发展、社会進步、国际政治经济格局等诸方面产生重大而深远的影响。2020年人工智能产业保持平稳增长，根据IDC（互联网数据中心）测算，全球人工智能产业规模为1565亿美元，同比增长12%;根据中国信息通信研究院测算，我国人工智能产业规模达到约434亿美元，同比增长15%。人工智能在带来巨大机遇的同时，也蕴含着风险和挑战。习近平总书记高度重视人工智能治理工作，强调要“确保人工智能安全、可靠、可控”，倡议推动落实二十国集团人工智能原则，引领全球人工智能健康发展。

随着社会各界对人工智能信任问题的不断关注，安全可信的人工智能技术已成为研究领域的热点。研究的焦点主要是提升人工智能系统稳定性、可解释性、隐私保护、公平性等，这些技术构成了安全可信人工智能的基础支撑能力。

人工智能系统稳定性技术

人工智能系统面临着特有的干扰，这些干扰来自于针对数据和系统的多种攻击方式，包括中毒攻击、对抗攻击、后门攻击等。这些攻击技术既可互相独立也可以同时存在。例如，中毒攻击通过按照特殊的规则进行恶意评论等方式，向训练数据集投入干扰数据，继而影响推荐系统的准确度;对抗攻击通过在道路交通标志牌上贴上特殊设计的图案，可以误导自动驾驶系统使其错误识别路牌上的信息，进而造成交通事故;后门攻击具有隐蔽性，可能会被用于对AI供应链发动攻击。……