律佳

【摘要】随着信息技术的发展，人们已经从信息缺乏的时代过渡到信息极为丰富的数字化时代，可以获得越来越多的数字化信息，而这些信息大都是半结构化或非结构化数据，为了从中快速有效地获得自己需要的信息，我们需要研究基于内容的文本信息分类技术。

【关键词】k-元最近邻居算法；贝叶斯算法；决策树算法；支持向量机算法

1.引言

目前很多分类算法被研究者从不同角度提出，判断不同分类算法的好坏可以由准确率、速度、健壮性、可伸缩性、可解释性等几个标准来衡量。经典的分类算法在不同的领域取得成功，比如贝叶斯算法、决策树分类算法、KNN算法和支持向量机算法等。

2.文本分类算法

2.1贝叶斯（Na?ve Bayesian）算法

贝叶斯是一种概率方法，设每个数据样本用一个 维特征向量来描述n个属性的值，即：，假定有m个类，分别用表示。给定一个未知的数据样本x（即没有类标号），若朴素贝叶斯分类法将未知的样本x分配给类，则一定是

根据贝叶斯定理，由于对于所有类为常数，最大化后验概率可转化为最大化先验概率。如果训练数据集有许多属性和元组，计算的开销可能非常大，为此，通常假设各属性的取值互相独立，这样先验概式（2）可以从训练数据集求得。

根据此方法，对一个未知类别的样本x，可以先分别计算出X属于每一个类别的概率，然后选择其中概率最大的类别作为其类别。

贝叶斯定理给出了最小化误差的最优解决方法，可用于分类和预测。……