赵俊杰

(安徽财经大学 工商管理学院，安徽 蚌埠 233030)

最近邻分类算法KNN(K Nearest Neighbor)是一种非参数的分类算法，在基于统计的模式识别中非常有效。对于未知和非正态分布可以获得较高的分类准确率，具有健壮性强、概念清晰等诸多优点，在许多领域都有成功的应用[1-4]。

KNN算法的关键技术是搜索模式空间找出最接近未知样本的K个训练样本，未知样本被分配到K个最近邻者中最公共的类，其近邻性用欧氏距离定义。KNN方法最大的一个缺陷是对样本库容量的依赖性较强[5]，因此不适用于小样本情况下的自动分类。此外在KNN分类算法中，确定待分类样本类别需要计算其与训练样本库中所有样本的相似度，计算量较大，甚至导致KNN算法在很多分类问题中失去实用性[6]。虽然众多学者提出了多种KNN的改进方法[7-10]，但这些方法都是建立在样本选择基础上的，即以损失分类精度换取分类的速度。为此，学者Guvenir[11]提出一种基于特征投影的K最近邻算法 KNNFP(K Nearest Neighbor on Feature Projection)。该算法首先分别计算各维特征投影的K个最近邻，然后根据投票准则确定最终的样本类别。由于各维特征值可以事先进行排序，进而可以进行最优搜索，使算法的效率大大提高。然而，因该算法事先假定每个特征对模式分类贡献相同，降低了算法本身的分类精度。

针对KNNFP算法存在的问题，本文提出一种基于特征加权的KNNFP改进算法WKNNFP(Weights KNNFP)。该算法考虑各维特征对模式分类贡献的不同，给不同的特征赋予不同的权值，提高重要特征的作用，从而提高了算法的分类精度。……