基于CmabBERT-BILSTM-CRF的针灸古籍分词技术研究
2023-04-13钟昕妤李燕徐丽娜陈月月帅亚琦
钟昕妤 李燕 徐丽娜 陈月月 帅亚琦



摘 要: 针灸古籍中含有大量通假字、歧义词和专业术语。基于深度学习的分词方法,因静态字向量固有表示和大规模且高质量语料缺乏等问题,限制了分词性能。为缓解上述问题,提出引入预训练策略,在ALBERT模型基础上,利用大量中医古籍再训练得到CmabBERT模型,并构建CmabBERT-BILSTM-CRF融合模型运用于针灸古籍分词任务。实验结果表明,在小样本语料基础下,对比Jieba分词器、BILSTM-CRF和ALBERT-BILSTM-CRF模型,该融合模型展现了更优越的分词性能。
关键词: 针灸古籍; 分词; 序列标注; 预训练
中图分类号:TP391.1 文献标识码:A 文章编号:1006-8228(2023)04-11-05
Abstract: Acupuncture ancient books contain a large number of false words, ambiguous words and professional terms. The word segmentation method based on deep learning is limited by the inherent representation of static word vectors and the lack of large-scale and high-quality corpus. In order to alleviate the above problems, a pre-training strategy is proposed. Based on the ALBERT model, a large number of ancient Chinese medicine books are retrained to obtain the CmabBERT model, and the CmabBERT-BILSTM-CRF fusion model is constructed and applied to the word segmentation task of acupuncture ancient books. The experimental results show that compared with the Jieba word segmentation, BILSTM-CRF and ALBERT-BILSTM-CRF models, this fusion model exhibits superior word separation performance on the basis of small sample corpus.
Key words: acupuncture ancient books; word segmentation; sequence tagging; pre-training
0 引言
計算机技术应用于中医领域,可利用知识发现方法总结已有知识体系,挖掘新的知识规律。针灸作为我国中医学的重要组成部分,因其特殊的治疗效用而被广泛使用,现已成为世界上应用最广泛的传统与替代医学[1]。古籍作为针灸传承发展的重要载体,蕴藏着丰富的针灸理论知识和实践经验,是中医学爱好者的一大宝库。随着古籍数字化工作的推进,越来越多针灸古籍被转化为非格式化文本数据,亟待学者们对其进行处理,挖掘其中的宝贵知识。
分词通过界定字间界限,划分出具有意义的词汇,这是实现计算机处理针灸古籍的基础任务,亦是实体识别、关系抽取等自然语言处理(Natural Language Processing,NLP)任务的基础。而当前针灸古籍分词存在以下三个问题。
⑴ 存有较多通假字、歧义字。最新方法[2]的字向量表示为静态,无法很好地区分多义字,限制了分词性能。……
