陈猛 洪伟

摘 要 决策树分类算法是数据挖掘的一种典型数据分析方法。本文提出一种基于C4.5的随机决策树分类器集成算法对数据集进行分类，该算法对属性选择进行随机化处理，并对集成过程进行控制，该分类器集成算法有较高的分类准确率。

关键词 集成;决策树;随机;C4.5

引言

分类是数据挖掘的一个重要分支，目前已有許多成熟的算法，如决策树、贝叶斯网络、神经网络、支持向量机等。集成分类法在同一问题上学习多个基分类器，再将其预测结果结合得出最终分类结果，它能够有效地提高预测性能，因此受到了广泛的关注[1]。

为保证模型分类效果，单个基分类器的精度要高，同时基分类器之间差异要大。本文提出了一种基于C4.5的随机决策树集成分类算法，在随机决策树的生成中对属性选择进行随机化处理，并对集成过程进行控制[2]。

本文的组织如下：第二部分介绍背景知识。第三部分介绍基于C4.5的随机决策树集成分类算法。

1知识背景

1.1 基于决策树的分类算法

在20世纪80年代初，机器学习研究者J.Ross Quinlan开发了ID3算法，算法的计算过程不需要任何领域知识和参数设置，适合于探索式知识发现。决策树归纳的学习和分类步骤简单快速，学习的模型用树形式表示，直观且易于理解，并且决策树分类一般情况下具有较好的准确率。后来Quinlan提出了C4.5[4]算法，它降低了计算复杂度，增强了计算的效率， 克服了ID3方法选择偏向取值多的属性。C4.5算法还针对连续值属性的数据进行了处理，弥补了ID3算法只能处理离散值属性数据的缺陷。……