APP下载

基于联合学习的跨领域法律文书中文分词方法

2019-10-21江明奇李寿山

中文信息学报 2019年9期
关键词:方法模型

江明奇,严 倩,李寿山

(苏州大学 计算机科学与技术学院,江苏 苏州 215006)

0 引言

中文分词作为中文信息处理的基础任务,其准确性直接影响其它中文信息处理任务的性能[1]。基于机器学习的方法在中文分词领域上有优异的结果。例如,最大熵(maximum entropy)模型[2]、条件随机场(conditional random field,CRF)模型[3-5]以及长短期记忆(long short-term memory,LSTM)神经网络[6]。然而,传统的方法需要大规模的分词语料以训练性能优异的分词器,分词语料的获得需要大量人工参与,所耗费的成本太高。因此,传统的方法在法律文书上不能取得较好的中文分词性能[7]。

由于法律文书中各领域的语料匮乏,学者们使用跨领域的方法进行分词性能的提升。然而,不同领域的样本有一定的差异性,因此在跨领域任务上难以直接使用不同领域的样本提升分词性能。其主要原因在于各领域的词语分布不同,当使用源领域的分词器对目标领域进行分词时,未登录词(out of vocabulary,OOV)的数目快速增加,因此该分词器在目标领域上进行中文分词时无法获得较好的性能。除此之外,法律文书中的专有名词的构词规则和通用领域不同,同一个字符在不同领域中具有不同的标签分布。例如,在法律文书中,“一审”和“二审”为常用词。其中,“审”为词尾,其标签为“E”。但该字在通用领域中情况有所不同,“审”通常以词首的形式出现,如“审稿”,其标签为“B”。

鉴于获得法律文书的各个领域的少量已标注语料的难度较小,各领域拥有相同的标注规则,本文提出了一种基于联合学习的跨领域中文分词方法。……

登录APP查看全文

猜你喜欢

方法模型
一半模型
重尾非线性自回归模型自加权M-估计的渐近分布
学习方法
3D打印中的模型分割与打包
用对方法才能瘦
FLUKA几何模型到CAD几何模型转换方法初步研究
四大方法 教你不再“坐以待病”!
赚钱方法
捕鱼
一个相似模型的应用