APP下载

基于双向选择的伪近邻算法

2021-07-14蔡瑞光张德生

计算机工程与应用 2021年13期
关键词:分类

蔡瑞光,张德生,张 晓

西安理工大学 理学院,西安710054

分类任务就是通过训练与学习得到一个分类模型,把每个属性特征集映射到一个预先定义的类标号[1]。分类算法[2]是一种应用极其广泛的数据分析方法,在模式识别领域属于监督学习[3]。监督学习是通过一组已知类别的样本,训练出一个目标函数,利用目标函数去判断新数据的类别。近年来,各种分类算法不断被提出,例如,CART[4]、C4.5[5]、RIPPER[6]、KNN[7]、BBN[8]、ANN[9]、SVM[10]等。目前这些分类算法及其改进算法已被广泛应用于商务、医学、科学与工程等领域。然而,随着科学技术的发展和数据收集、数据存储技术的快速进步,随之而来的是数据数量和数据自身维度的大幅度增加,但是数据质量并未得到提升。因此,分类算法在数据分析上面临着更多的困难和更大的挑战,在分类准确率和算法复杂度上往往难以得到满意的结果。

KNN[11]算法是机器学习领域的一个经典算法,其有理论简单、易于实现等优点。该算法首先设置一个参数k,表示近邻样本的个数,然后根据待分类样本到每个训练样本的欧几里德距离,选取距离最近的k个样本作为近邻,最后根据多数投票原则来判断待分类样本的类标号。然而KNN 算法也有明显的不足之处:参数k的设定具有主观敏感性,分类结果受k值影响较大;k邻域中的每个近邻对分类结果的贡献都一样;决策函数只考虑单一的因素,例如多数投票原则或最短距离原则,其分类性能有待进一步提高。

针对KNN 算法存在的不足,Dudani[12]提出了一种典型的距离加权k近邻分类算法(WKNN),该算法的主要思想是不同的近邻对于分类有不同的分类贡献并且真正的近邻点应该具有更多的贡献。……

登录APP查看全文

猜你喜欢

分类
分类算一算
垃圾分类的困惑你有吗
星星的分类
我给资源分分类
垃圾分类,你准备好了吗
按需分类
教你一招:数的分类
说说分类那些事
给塑料分分类吧