应用Tsallis算法和关键度度量的决策树构建
2018-11-14丛培强陈亚茹
重庆理工大学学报(自然科学) 2018年10期
关键词:关键
李 梁,丛培强,陈亚茹
(重庆理工大学 计算机科学与工程学院, 重庆 400054)
决策树是机器学习的主要方法之一,在一些领域仍在积极研究,如图像插值、语音综合[1-5]。决策树是根树结构,容易理解,并且有较好的计算结果和计算效率,其中每个非叶节点是决策节点,其表示将情况分成两个或多个子树的标准,每个分支代表当前节点1种分类情况,每个叶节点表示整个数据集1种分类情况,自根节点至每个叶节点存在1条路径,代表1种分类途径。决策树分类器是自上而下的构建过程,并进行预剪枝和后剪枝,预剪枝是在完全正确分裂训练集之前,较早地停止树的生成,后剪枝是在完全生成树结构后进行剪枝。决策树分类器通过使用节点中的条件来决定分支,从根节点向下移动到叶节点,从而为任何看不见的情况预测类别。
当前有很多文章对决策树提出了改进,徐鹏等[6]提出C4.5-K,在C4.5中引入了可调节参数K,限制信息增益率的取值范围,取得较好的性能,但是该算法只面向期货数据有较好效果;李孝伟等[7]提出了基于分类规则选取的C4.5改进算法,但对复杂样本分类问题有待进一步研究;宋广陵等[8]提出了A-CART,能产生多个子节点,但是该算法只适用于两分类问题。
决策树的核心问题是树的构建过程,也就是属性的分割问题,在过去几十年出现了一系列文献,提出了一些分割算法,其中最具代表性的如ID3、C4.5、CART等。ID3基于香农熵构建决策树;C4.5基于信息增益率,被认为是归一化的香农熵,弥补了ID3不能处理连续属性的缺陷;……
登录APP查看全文
