基于朴素贝叶斯分类器的朝鲜语文本分类的研究
2011-06-28周国强崔荣一
中文信息学报 2011年4期
周国强,崔荣一
(延边大学 计算机科学与技术学科 智能信息处理研究室,吉林 延吉 133002)
1 引言
文本分类是信息处理领域中重要的研究方向之一[1]。朝鲜语在中国来说是少数民族语言,它是朝鲜族沟通意图的主要语言,在民族文化传承和发展中起着重要的作用。由于朝鲜语的词法结构和语法结构与中文有较大的差异,具有其特殊性[2],因此对朝鲜语文本的研究具有非常重要的意义。
文本分类是基于文本内容将待定文本划分到一个或多个预先定义的类中的方法,它广泛应用于信息自动检索、文本过滤和网页层次分类领域。文本分类大致可分为: 文本的向量模型表示、文本的特
征选择和分类器训练。数量巨大的训练样本和过高的向量维数是文本分类的两大难点。它们决定文本分类问题是一个时间和空间复杂度很高的学习问题。为兼顾运算时间和分类精度两个方面,不得不进行特征选择,力求在不损伤分类性能的同时来达到降维的目的。目前,许多基于统计理论和机器学习方法的技术应用于文本分类中,包括决策树、Bayes方法、神经网络、基于关联的方法、k2最近邻方法、遗传算法、粗糙集等方法[3-5]。
本文通过分析朝鲜语的特征,利用改进的基于类别分布的特征选择方法以及权重计算方法在朝鲜语文本集上进行了研究,并基于朴素贝叶斯分类器实现了对朝鲜语文本的分类。
2 特征向量
文本分类的前提是特征向量模型的建立。……
登录APP查看全文
