基于BERT模型的司法文书实体识别方法
2020-10-19闻英友马林涛
陈 剑, 何 涛, 闻英友, 马林涛
(东北大学 计算机科学与工程学院/东软研究院, 辽宁 沈阳 110169)
命名实体识别(named entity recognition,NER)问题是中文自然语言处理研究的一个重要领域,对于实体信息抽取[1]、关系抽取[2]、句法分析[3]、文本翻译[4]、知识图谱[5]构建等很多应用起到基础性作用.由于中文语言本身结构的特殊性,字词之间没有分隔符,实体描述方式多种多样,加大了中文命名实体识别的难度.
命名实体识别技术早期使用基于词典和规则的方法,根据词语的分布和语义规则进行计算打分,但需要人工完成复杂的特征建模.随着语料资源的丰富,基于统计学的机器学习算法广泛用于命名实体识别问题,典型应用包括隐马尔科夫模型[6]、最大熵模型[7]、条件随机场[8]、支持向量机[9]等.近年来,随着计算能力的提高及深度学习的发展,卷积神经网络、循环神经网络等方法被广泛地应用在实体识别领域.
Feng等[10]提出在嵌入词向量特征的基础上利用长短时记忆网络模型进行命名实体识别.Dong等[11]提出利用双向长短时记忆网络模型与条件随机场进行命名实体识别.Ma 等[12]提出结合双向长短期记忆模型、卷积神经网络和条件随机场,解决序列标注问题.Strubell等[13]在2017年提出迭代膨胀卷积神经网络(iterated dilated convolutional neural networks,IDCNN)来处理序列问题,IDCNN计算出每个词分类的概率,而条件随机场(conditional random field,CRF)层引入序列的转移概率.Vaswani等[14]提出基于多头自注意力机制的Transformer模型,提高了文本特征提取能力,为序列标注任务提出新的解决方法.Zhang等[15]提出……