基于属性离散和特征度量的决策树构建算法
2021-06-21王磊刘雨刘志中齐俊艳
河南理工大学学报(自然科学版) 2021年3期
关键词:分类
王磊,刘雨,刘志中,齐俊艳
(河南理工大学 计算机科学与技术学院,河南 焦作 454000)
0 引 言
决策树算法是解决分类问题最有效的方法之一[1]。传统的基于信息熵的决策树算法如ID3[2]、C4.5[3]等,在对数据进行分类时,存在多值属性偏向、生成的决策树结构过大以及算法效率较低等问题。然而在大数据时代,数据量越来越大,场景越来越复杂,导致传统的基于信息熵的决策树算法难以满足精准分类的需求[4]。
近年来,随着计算能力提升,研究人员通过不同的特征度量方法来优化决策树的分类性能。MU Y等[5]在决策树算法的基础上引入皮尔逊相关系数,利用新的特征度量方法确定构建决策树中最优分割属性和分割点,但未能考虑到属性之间的关系;YANG S等[6]在ID3算法的基础上,引入了平衡理论函数,减少不同值属性的权重,并通过一种新的数据离散化方法对属性进行转换,解决了经典的ID3算法无法处理连续数值属性的问题;王文霞[7]针对传统C4.5算法需要多次扫描,导致运算效率低的问题,提出将连续属性的简单分裂改进为最优化节点分裂,提高了算法效率;安葳鹏等[8]在决策树C4.5算法的基础上引入肯德尔和谐系数,用于解决条件属性相关性和简化计算过程,提高了算法的性能,但是在多值属性偏向的问题上未能得到很好解决;亓常松等[9]提出条件属性离散度的概念,在时间复杂度上相比基于信息熵的方法也有所提高,但是无法对含有连续性属性的数据集进行处理,所以具有一定局限性。……
登录APP查看全文
