APP下载

基于改进χ2统计的数据离散化算法

2012-09-28桑雨,李克秋*,闫德勤

大连理工大学学报 2012年3期

桑 雨, 李 克 秋*, 闫 德 勤

(1.大连理工大学 计算机科学与技术学院,辽宁 大连 116024;2.辽宁师范大学 计算机与信息技术学院,辽宁 大连 116029)

0 引 言

随着数据库中信息量的增加以及信息管理水平的不断提高,涌现了各种类型的数据来描述客观世界.在应用机器学习从数据中提取知识时,涉及的数据通常包括离散值(如男、女)和连续值(如身高、温度等).然而,大多数的数据挖掘、归纳学习等算法仅仅适用于使用离散化方法描述的样本,如 C4.5[1]和 AQ 算法[2]等.因此,连续属性必须进行离散化,其实质是分割连续属性的值域,转化成若干个有意义的区间,简化数据,提高分类器的学习精度.

离散化算法的类型有[3]考虑类信息的有监督类型和不考虑类信息的无监督类型;考虑整体样本的全局型和考虑部分样本的局部型;相邻区间合并的自底向上型(bottom-up)和区间分割的自顶向下型(top-down).EQW 和 EQF[3]是实现简单且计算消耗低的自顶向下无监督离散化算法.著名的自顶向下有监督离散化算法包括基于信息熵理论的算法,如Ent-MDLP[4];基于类属性相互依赖的算法,如 CACC[5].Ent-MDLP通过定义信息熵标准来最小化模型总的信息量,同时利用MDLP来决定合适的离散区间数.CACC是目前最新的基于类-属性相互依赖的离散化算法,它提出了一个启发式断点选择标准,考虑了所有样本的分布信息,并且避免了过拟合现象,产生了理想的离散化方案.著名的自底向上有监督离散化算法包括基于统计学理论的Chi2-based相关算法……

登录APP查看全文