基于结合词典的CNN-BiGRU-CRF网络中文分词研究
2021-08-20郭振鹏张起贵
郭振鹏,张起贵
(太原理工大学信息与计算机学院,山西晋中 030600)
中文是一种复杂的语言,中文文本中没有自然可识别的分隔符,词语间的划分较为模糊,由此学者们掀起了中文分词的研究热潮。例如,文献[1]提出了一种利用膨胀卷积神经网络DCNN(Dilated Convolutional Neural Network)进行中文分词的方法,解决了模型计算速度慢、输入特征不丰富等问题。文献[2]提出使用长短时记忆神经网络(Long Short-Term Memory,LSTM)学习中文分词的字符表示,使用CRF(Conditional Random Field)联合解码标签的方法。文献[3]提出了一种改进双向LSTM-CRF 网络的分词方法,解决了原分词模型在编码过程的记忆压缩问题。文献[4]提出了改进卷积神经网络CNN(Convolutional Neural Networks)的中文分词模型,克服了过于依赖人工处理特征的缺点,简化了模型结构,提高了分词准确率。文献[5]提出一种基于样本迁移学习的中文分词方法,增强了分词模型的领域自适应能力。然而这些基于神经网络的方法通常依赖于大量的标记句来训练模型,对于训练数据中稀缺或缺失的单词,这些方法很难正确地分割出包含该单词的句子。幸运的是,这些词中有许多在现有的中文词典中得到了很好的定义。因此,中文字典有可能提高基于神经网络的中文分词方法的性能,减少对标记数据[6]的依赖。
1 相关理论
1.1 字嵌入
在对文本进行处理时,字嵌入是较为关键的一步,通常采用将词或字表示为分布式向量。如果采用One-hot 编码,即将在该词对应位置上记为数字1,其他位置上记为数字0,这会导致生成的词向量过于稀疏,浪费不必要的内存,并且字词的语义和句法信息也不能体现出来;……
