刘汉明，刘赵发，郑金萍，胡声洲

(赣南师范大学 数学与计算机科学学院，江西 赣州 341000)

1 引言

有监督的机器学习目标是利用训练集学习一个稳定且在各个方面表现都较好的分类模型，但实际情况往往不理想，大多数时候我们得到的可能是有偏模型(弱监督模型).组合方法(Ensemble Learning，也译为“集成学习”)就是组合多个弱监督模型以期得到一个更好、更全面的强监督模型.其潜在的思想是利用多个弱分类器纠正某个弱分类器得到的错误预测，以达到减小方差(如Bagging[1])、偏差(如ADBOOST[2])或改进预测(如Stacking[3])的目的.Bagging(Bootstrap aggregating)是Leo Breiman于1996提出的一种机器学习算法，它在改善弱分类器的稳定性和精度上有着重要的价值.已被成功地应用于多种形式的随机森林[4-7]、体外药物敏感性预测[8]、生物标记选择与分类[9]及同种型概率估计[10]等研究.Bagging能够提高分类器的稳定性[1]并改善其统计功效[11]，同时，它在含噪数据中，对模型的过拟合也不敏感[12].不过，Bagging的重抽样技术使得它通常要消耗比较多的算法时间，在大数据挖掘中表现不够理想.

Liu等在保持Bagging算法良好性能的前提下，对Bagging加以改进，提出了一种改进的Bagging组合方法mBagging(modified Bagging)[13-14]，并利用最大信息系数(Maximal Information Coefficeint, MIC)[15]作为基分类器进行组合，应用于全基因组关联研究(Genome-wide Association Study, GWAS)，取得了较好的效果.作者的仿真实验表明，mBagging的算法时间仅为Bagging的20%，统计功效提高了15%，同时假阳率也降为Bagging的69%[13-14].明显优于作为对比算法的PLINK[16]、BEAM[17]和BoNB[9].

2 mBagging原理

现有工作已经证明，组合分类器的预测能力通常比单个分类器好得多[11].mBagging是对Bagging的一……