贾珍珍 刘杨钺

一、算法安全的兴起与时代内涵

算法安全问题的兴起，本质上是人工智能作为“智能时代”解决复杂问题的工具不断深化发展，并嵌入人类社会的深刻进程。美军加快推进深度学习技术走向应用，自2017财年开始增加了三军的深度学习研发项目，其中包括研发可用于低功耗平台的嵌入式深度学习算法与稀疏数据分析的深度学习技术，以及通过深度学习方法和人工神经网络实现目标分类等内容。2017年底，刚成立半年的美军“算法战跨职能小组”就已开发出首批4套智能算法。然而，算法并非完美无缺，也存在漏洞与安全隐患。如美军F-35战机高度依赖控制系统，在试验过程中曾暴露出的两百余项问题几乎都与软件的算法高度关联。与此同时，算法需要与实际相结合并不断探寻才能发挥巨大潜力，而这个过程中涉及的算法安全问题将直接决定算法的最终应用效果。因此，尽管算法通常是按照设定好的方式运行，但由于在解决复杂问题时涉及大量变量因素，因此，一旦失控，就有可能做出“反常”行为。

随着人工智能技术日益深度融入社会生活的各个方面，关于智能化算法可能引发的伦理、正义、安全等问题也开始受到关注。2020年9月《自然》杂志子刊《机器学习》便在其社论中提出警告，当人们试图用快速的技术和算法手段解决那些结构性、复杂性的社会问题时，将可能带来深远的负面影响。[1]凯西·奥尼尔则将具有内在伦理缺陷的有害算法模型称为“数字杀伤性武器”[2]，这种隐性的、潜移默化的伦理风险伤害性如此巨大，以至于有学者提出了“算法向善”的主张。……