张成洪，陈 刚，陆 天，黄丽华

1 复旦大学 管理学院，上海 200433 2 卡耐基梅隆大学 约翰·海因茨公共政策与管理学院，宾夕法尼亚 匹兹堡 15213

引言

近年来，人工智能(artificial intelligence,AI)技术的持续创新和广泛应用，为人们在各领域的生产实践活动提供了高效的智能化产品支持，极大地推动了人们生活方式的智慧化进程。而大数据时代丰富的数据资源更是催生了AI产业巨大的商业价值，据估算到2021年，全球范围内针对AI的投资额将从2017年的120亿美元增长至522亿美元。据数据统计网站Statista分析表明，到2025年，全球AI市场的创收额将从2017年的4 800亿美元增长至25 900亿美元。然而，近段时间以来，随着以深度学习算法为代表的“黑箱模型”取得巨大成功，学术界和产业界对增加AI可解释性的呼声日益高涨[1]。由此，一个全新的研究领域——可解释人工智能(explainable artificial intelligence,XAI)应运而生。

可解释人工智能是一套针对AI系统应用过程生成解释性内容的技术方案，致力于解决AI系统中由模型可解释性不足产生的可靠性、透明性、因果性、公平性和安全性等一系列问题[2]。可解释性的增强为AI模型更加深入和广泛的应用创造了有利条件，为大数据时代推动AI技术发展、深化AI技术应用、实现良好的人机协同和人机共生提供有利契机。

目前，可解释人工智能已经受到来自学术界、产业界和相关政府部门的热切关注，人们对发展可解释人工智能的需求日益迫切。本研究从分析可解释人工智能的兴起入手，系统总结可解释人工智能理论研究和方法研究现状，追踪可解释人工智能在不同领域的应用动态；……