基于K-medoids聚类的贝叶斯集成算法
2021-05-11盛静文于艳丽江开忠
盛静文 于艳丽 江开忠



摘要:朴素贝叶斯分类算法由于其计算高效在生活中应用广泛。本文根据集成算法的差异性特征,聚类算法聚类点的选择方式的可变性,提出了基于K-medoids聚类技术的贝叶斯集成算法,朴素贝叶斯的泛化性能得到了提升。首先,通过样本集训练出多个朴素贝叶斯基分类器模型;然后,为了增大基分类器之间的差异性,利用K-medoids算法对基分类器在验证集上的预测结果进行聚类;最后,从每个聚类簇中选择泛化性能最佳的基分类器进行集成学习,最终结果由简单投票法得出。将该算法应用于UCI数据集,并与其他类似算法进行比较可得,本文提出的基于K-medoids聚类的贝叶斯集成算法(NBKME)提高了数据集的分类准确率。
关键词:朴素贝叶斯;分类;K-medoids聚类;集成算法
【Abstract】TheNaiveBayesclassificationalgorithmiswidelyusedinlifeduetoitscomputationalefficiency.Basedonthedifferencecharacteristicsoftheensemblealgorithmandthevariabilityoftheclusteringpointselectionmethodoftheclusteringalgorithm,thispaperproposesaBayesianensemblealgorithmbasedonK-medoidsclusteringtechnology,andthegeneralizationperformanceofNaiveBayeshasbeenimproved.Firstly,multipleNaiveBayesianclassifiermodelsaretrainedthroughthesampleset;then,inordertoincreasethedifferencebetweenthebaseclassifiers,theK-medoidsalgorithmisusedtogatherthepredictionresultsofthebaseclassifiersonthevalidationset;Finally,thebaseclassifierwiththebestgeneralizationperformanceisselectedfromeachclusterforensemblelearning,andthefinalresultisobtainedbyasimplevotingmethod.ThealgorithmisappliedtoUCIdatasetandcomparedwithothersimilaralgorithms.TheBayesianensemblealgorithmbasedonK-medoidsclustering(NBKME)proposedinthispaperimprovestheclassificationaccuracyofthedataset.
【Keywords】NaiveBayes;classification;K-medoidsclustering;ensemblealgorithm
作者简介:盛静文(1995-),女,硕士研究生,主要研究方向:机器学习、大数据;于艳丽(1993-),女,硕士研究生,主要研究方向:不平衡数据;江开忠(1965-),男,博士,副教授,主要研究方向:大数据。
0引言
分类问题在机器学习理论中占据重要地位,在监督学习中也是一个核心问题。在日常生活中,可见到很多分类问题,比如在医学方面,将病人的检查结果分为阳性和阴性,这就是一个二分类问题;在电子邮箱中,邮件的种类有3种,可能被分为垃圾邮件、广告邮件和正常邮件,这就是一个多分类问题;图像中的图像分割,最简单的方法就是对每一个像素进行分类。因此,分类问题是机器学习的基础,研究分类算法对于社会发展具有不可替代的作用。……
