任雪妮， 罗幼喜

(湖北工业大学理学院， 湖北 武汉 430068)

单个分类的学习效果有时候并不是很理想，为了解决这个问题，集成学习算法由此产生。集成学习并不是单指某一种分类器，而是充分利用了群体学习思想，将一个或多个弱分类器结合成一个强分类器的一种方法，其中的弱分类器可以是各种分类算法。常使用的集成学习方法有bagging和boosting(本文主要使用bagging算法)[1]。对于集成算法是否真的比单个分类器具有更高的准确性，不少学者进行了研究。David和Richard[2]使用决策树和神经网络分别研究了bagging和boosting两种集成方法，还与单个分类器方法进行比较；Michiel和Rob[3]的研究包含bagging集成在内的4种方法。这些学者发现集成学习算法的效果的确是好于单个分类器。

由于集成算法的优良性，也有不少学者使用集成算法进行实际应用，特别是在经济金融领域。Mariola等[4]采用集成方法对信用卡借款者进行了识别；Atsushi和Lutz[5]探讨了bagging方法在预测经济时间序列中的作用；Choprab和Bhilare[6]使用集成树学习方法对银行贷款数据集进行分析。

经济金融领域一直以来都受到学者们的关注。本文对经济金融领域的数据集进行分析，选择C5.0决策树、KNN和朴素贝叶斯算法作为bagging算法的基本算法，针对每个数据集，从所构造的几种bagging方法中选取预测效果最好的方法对其进行实例研究。

1 算法的基本思路及原理

1.1 Bagging算法

Step1：采用Bootstraping方法从训练集中随机进行k次抽取，每次抽取的训练集的样本个数与本文设置的原始训练集样本数相同。……