基于BERT的唐卡文本分类研究
2022-01-21王昱
现代计算机 2021年33期
王昱
(西北民族大学数学与计算机科学学院,兰州 730030)
0 引言
唐卡(Tang ka)又叫唐喀,是藏语音译过来的词。在《藏汉大辞典》中对唐卡的解释是:“卷轴画,画有图像的布或纸,可用轴卷成一束者。”[1],而在《西藏历史文化词典》中的解释是:“唐卡是指流行于藏区的一种宗教卷轴画,通常绘于布帛与丝绢上,是西藏地方绘画的主要形式之一。”[2]唐卡从起源至今千百年以来,随着历史、宗教的发展而五光十色,其题材内容包含历史、文化、政治等领域,具有庞大的内容体系、独特的艺术价值,不仅是藏民族的百科全书,也是中华民族的骄傲。在唐卡的发展历史中,许多人研究唐卡、描述唐卡,留下大量的唐卡语料。文本分类是自然语言处理的研究热点之一,针对唐卡文本的分类,可以高效地对这些文本进行管理和配置,对后续唐卡知识图谱的构建、唐卡信息检索有积极的意义,因此具有一定的研究价值。
目前中文文本分类技术已经成熟,国内外专家针对文本分类任务的研究主要体现在文本的特征表示方法与分类算法的改进。针对文本的特征表示,文献[3]提出使用TF-IDF算法与Word2vec结合生成词向量,用于短文本的分类,但这一方法存在词与词之间的顺序和位置关系不清晰的问题。文献[4]提出一种统计共现矩阵,这一向量表示方法进行词的向量化表示,能使词的语义和语法信息蕴含在向量之中,这一特征方法被应用到多种自然语言处理任务上。文献[5]运用词向量表示方法ELMo,该模型在训练过程中使用了双向的LSTM考虑了上下文关系,较好地解决了多义词的问题,预训练+微调成为一种新的范式被大量应用在文本分类及其他自然语言处理任务上。……
登录APP查看全文
