基于神经网络的模糊决策树改进算法
2021-11-12彭红伟颜晓玲
计算机工程与应用 2021年21期
张 敏,彭红伟,颜晓玲
大连大学 信息工程学院,辽宁 大连116622
分类问题是机器学习和数据挖掘等领域的热点问题。决策树是最基础和重要的分类算法之一,其优点在于提取的规则容易理解和解释。但在处理很多实际问题时,由于数据不确定性,需要通过一系列值的范围(概率分布)来度量属性或特征的值,使得C4.5、C5.0等传统决策树处理连续属性时出现了困难。大数据中客观存在不确定性、模糊性数据,具有精确描述特征的决策树归纳学习算法已经不适合大数据中不精确知识的自动获取。因此,将模糊理论引入决策树。
对于模糊决策树而言,树的规模在一定程度上反映树的泛化能力,树的规模越大,从树中提取的规则越复杂,而规则太复杂会导致过拟合问题[1]。在不影响分类准确率前提下,使优化后的模糊决策树尽可能小的规模显得十分重要。神经网络已被证明是执行分类任务的有效学习方法,特别是当输入高维数据,输入与输出关系复杂时,神经网络表现出良好性能[2]。研究表明神经网络模型的表示能力会随着深度的增加呈指数增长,从而提升分类能力或预测准确率,然而这一过程会消耗大量的训练时间。
近年来,国内外学者提出了很多关于神经网络与决策树的集成学习算法。Zhang等[3]提出将满意度函数与模糊函数结合,对复杂系统进行简化,在主成分分析的基础上构建神经网络预测模型。Li等[4]提出基于C4.5算法与优化的BP算法混合学习模型,以解决BP神经网络输入参数难以选择与隐含层节点问题。……
登录APP查看全文
