朱亚明，易 黎

（1.武汉邮电科学研究院，湖北武汉 430074；2.南京烽火天地通信科技有限公司，江苏 南京 210019）

在文本处理中，通常会重点关注到诸如人名、地名、组织机构名称等含有特定信息的文本单元，在自然语言处理（Natural Language Process,NLP）中被称为“命名实体”，而命名实体识别（Named Entity Recognition,NER）[1]则是专门用于识别特定命名实体的NLP 基础任务之一。

随着深度学习在各个领域的发展，如今已广泛应用于NLP 各类任务中。该文以经典模型BiLSTMCRF 为基准模型进行研究，针对中文命名实体识别的任务特性，通过引入预训练语言模型BERT 以及Lattice LSTM，在语义字向量表示及字词特征融合处理上进行改进，提升了识别精度，取得了优于基准模型及对比模型的结果。

1 概述

近年来随着深度学习的发展，其在计算机图像处理以及语音识别领域有相当优异的表现，于是NLP 学者将其引入自然语言处理的各类任务中。2011 年Collobert 等在命名实体识别任务中引入神经网络，实现特征的自动化提取，大大减小了传统统计方法的特征工程工作量[2]。此后神经网络逐渐被广泛应用到命名实体识别研究领域。文献[3]提出双向长短期记忆网络（Bi-directional Long Short Term Memory,BiLSTM）获取字级特征表示，文献[4]提出BiLSTM-CRF 结构，使用了拼写特征、内容特征、词语向量和词典特征4 种特征，实验结果表明，加入的特征能够提高识别率。文献[5]提出迭代空洞卷积神经网络（ID-CNNs）模型作为序列标注部分的编码器。序列标签解码常用的结构和方法包括多层感知机和Softmax 层输出[5]、条件随机场(Conditional Random Fields,CRF)[6-7]和RNN[8]等。总的来说，使用深度学习方法处理命名实体识别任务时，RNN-CRF结构得到了普遍应用，尤其是BiLSTM-CRF 模型，成为命名实体识别任务深度学习方法的经典模型。……