欧式距离与标准化欧式距离在k近邻算法中的比较
2020-12-23丁义杨建
丁义 杨建



摘 要: 相似性度量是综合评定两个数据样本之间差异的指标,欧式距离是较为常用的相似性度量方法之一。本文分析了欧式距离与标准化的欧式距离在KNN算法中对数据分类的影响。仿真实验结果表明,当向量之间的各维度的尺度差别较大时,标准化的欧式距离较好地改善了分类的性能。
关键词: 欧式距离;标准化欧式距离;K近邻算法
中图分类号: TP311 文献标识码: A DOI:10.3969/j.issn.1003-6970.2020.10.033
本文著录格式:丁义,杨建. 欧式距离与标准化欧式距离在k近邻算法中的比较[J]. 软件,2020,41(10):135136+140
【Abstract】: Similarity measurement is an index to evaluate the difference between two data samples. Euclidean distance is one of the most common similarity measurement methods. This paper analyzes the influence of Euclidean distance and standardized Euclidean distance on data classification in KNN algorithm. The simulation results show that the normalized Euclidean distance improves the classification performance as the scales of the dimensions between vectors differ greatly.
【Key words】: Euclidean distance; Standardized Euclidean distance; K-nearest neighbor algorithm
0 引言
K近邻(k-Nearest Neighbor,KNN)算法[1],是一种理论上比较成熟的方法,也是最简单的机器学习算法之一,获得了广泛的实际应用[2-5]。KNN算法的基本思想是,在特征空间中,如果一个样本附近的k个最邻近样本的大多数属于某一个类别,则该样本也属于这个类别。即给定一个训练数据集,对新的输入样本,在训练数据集中找到与该样本最邻近的k个样本如果这k个样本中大多数属于某一个类别,就把该输入样本分类到这个类别中。目前,KNN在分类算法中获得了广泛的应用。KNN是一种基于实例的学习算法,它不同于决策树、贝叶斯网络等算法。决策树算法是一种逼近离散函数值的方法,它首先对待分类的数据进行预处理,之后用归纳算法生成规则和决策树。贝叶斯网络又称为置信网络或信念网络,它是基于有向无环图来刻画属性之间的依赖关系的一种网络结构,使用条件概率表来描述变量的联合概率分布。……
