基于选择度的分类规则学习算法
2014-12-02何田中周忠眉黄再祥
计算机工程 2014年8期
何田中,周忠眉,黄再祥
(闽南师范大学计算机科学与工程系,福建 漳州 363000)
1 概述
分类技术一直是数据挖掘技术中研究的热点之一,近年来提出了各种不同的分类技术,如:将近似求导引入分类[1],使用最近邻进行分类[2]等。为了提高不平衡数据集分类准确率,文献[3]使用KNN技术,文献[4]提出基于Boosting 技术。规则式分类一直是分类技术的重要方法之一,近年来也提出了许多规则式分类技术,如:基于DE/QDE 算法技术[5],具有多标准分类技术[6],分层模糊化规则分类技术[7],进化的规则式系统[8]等。规则式分类具有分类速度快特点,因此规则式分类技术也得到了较为广泛的应用,如:肺癌评估[9],预测蛋白质相互作用类型[10]等。规则式分类技术抽取一条新规则时,使用某种度量获取“最好”属性值添加到当前规则中。如ID3、C4.5[11]算法分别使用信息熵及信息增益来选择“最好”属性,信息熵及信息增益都是单一度量,使用它们度量属性时存在很多度量值相等的“最好”属性,导致上述算法很难选择出真正的“最好”属性。FOIL[12]算法使用FOIL 增益来度量,FOIL增益是支持数与相关度的乘积。当支持数较大时,相关度几乎不起任何作用,使用FOIL 增益也不能选择出“最好”的属性值。
规则式分类技术抽取一条新规则时,不断选择出“好”属性值添加到规则中,直到该规则置信度100%为止,然后抽取下一条规则。这种学习方法容易导致过度学习,规则的支持度小、质量不高,并且使规则抽取更为耗时。如在ID3 算法中,当节点包含的实例为同一类时,分枝结束;此时的规则置信度为100%。……
登录APP查看全文
