江洋洋，金 伯，张宝昌

1.北京航空航天大学 图书馆，北京100191

2.北京建筑大学 国际化发展研究院，北京100044

3.北京航空航天大学 自动化科学与电气工程学院，北京100191

4.北京航空航天大学 人工智能研究院，北京100191

自然语言处理（Natural Language Processing，NLP）是一种以理论为基础的自动分析和表示人类语言的计算技术[1]。自然语言处理涉及许多研究和应用技术[2-8]，如语言建模、文本分类、机器翻译、自动问答、自动文摘等。近年来，由于深度学习（Deep Learning，DL）拥有强大的特征提取和学习能力，已逐渐成为自然语言处理领域中的主流技术。深度学习的概念最早是由Hinton 等人[9]在2006年提出的，是一门用于学习和利用“深度”人工神经网络的机器学习技术，主要算法模型包括卷积神经网络（Convolutional Neural Networks，CNN）、循环神经网络（Recurrent Neural Networks，RNN）和递归神经网络（Recursive Neural Networks，RNN）[10]。作为人工智能领域中最热门的研究方向，深度学习的迅速发展受到了学术界和工业界的广泛关注[11]。

自然语言处理被称为人工智能皇冠上的明珠，代表了人工智能的最终目标[11]。因此如何使用深度学习技术推动自然语言处理领域的发展是当前的研究热点和难点。与此同时，国内外学者高度关注该领域，并展开了大量的研究工作。尽管已有的深度学习算法模型如CNN、RNN 等在自然语言处理领域已经有较为广泛的应用，但还没有重大突破。可以说深度学习在自然语言处理领域（DL-NLP）的研究目前仍处于起步阶段，因此围绕DL-NLP的研究还有很长的路要走，以及一系列的问题需要解决。

以往的文献综述往往局限于从自身角度出发进行定性分析，未能从更加客观的“第三人”视角进行全面的定量研究。……