基于联合学习的跨领域法律文书中文分词方法
2019-10-21江明奇李寿山
中文信息学报 2019年9期
江明奇,严 倩,李寿山
(苏州大学 计算机科学与技术学院,江苏 苏州 215006)
0 引言
中文分词作为中文信息处理的基础任务,其准确性直接影响其它中文信息处理任务的性能[1]。基于机器学习的方法在中文分词领域上有优异的结果。例如,最大熵(maximum entropy)模型[2]、条件随机场(conditional random field,CRF)模型[3-5]以及长短期记忆(long short-term memory,LSTM)神经网络[6]。然而,传统的方法需要大规模的分词语料以训练性能优异的分词器,分词语料的获得需要大量人工参与,所耗费的成本太高。因此,传统的方法在法律文书上不能取得较好的中文分词性能[7]。
由于法律文书中各领域的语料匮乏,学者们使用跨领域的方法进行分词性能的提升。然而,不同领域的样本有一定的差异性,因此在跨领域任务上难以直接使用不同领域的样本提升分词性能。其主要原因在于各领域的词语分布不同,当使用源领域的分词器对目标领域进行分词时,未登录词(out of vocabulary,OOV)的数目快速增加,因此该分词器在目标领域上进行中文分词时无法获得较好的性能。除此之外,法律文书中的专有名词的构词规则和通用领域不同,同一个字符在不同领域中具有不同的标签分布。例如,在法律文书中,“一审”和“二审”为常用词。其中,“审”为词尾,其标签为“E”。但该字在通用领域中情况有所不同,“审”通常以词首的形式出现,如“审稿”,其标签为“B”。
鉴于获得法律文书的各个领域的少量已标注语料的难度较小,各领域拥有相同的标注规则,本文提出了一种基于联合学习的跨领域中文分词方法。……
登录APP查看全文
