基于新改进的SVM不平衡数据集分类算法
2018-02-14刘悦婷李晓霞李思璇朱旭博
石河子大学学报(自然科学版) 2018年5期
刘悦婷,李晓霞,李思璇,朱旭博
(兰州文理学院传媒工程学院,甘肃 兰州 730000)
分类是对输入训练样本分析、学习后得到决策模型,然后预测未知样本,它已成为机器学习领域的重要研究方向。目前,已有众多经典算法可以实现平衡数据的良好分类效果,如支持向量机法、模糊分类算法、代价敏感学习法和决策树算法等[1]。但是,现实中许多应用领域存在明显的不均衡数据,如网络入侵、商业欺诈、文本分类等数据集[2-3],人们很重视少数类的信息。在分类判决时,传统分类器总会偏向多数类,把少数类分到多数类,导致错分率很高,分类器性能不理想[4]。因此,如何提高不平衡数据的分类性能已成为众多学者研究的热点[5]。
目前,不平衡数据分类的方法主要从数据层面和算法层面实现。数据层面完成数据预处理,包括欠采样、过采样和混合采样。欠采样是通过减少多数类样本使数据集均衡,可能造成信息丢失,降低分类器的性能[6-7]。过采样是通过复制、插值增加少数类样本使数据集均衡,但会造成过拟合,增加分类器的空间和时间消耗[8-9]。混合采样是将欠采样和过采样有效结合从而平衡数据集的分布。
算法层面是对分类算法本身进行操作,包括对传统算法的改进、众多算法的集成等。改进算法主要通过调整分类边界、改变概率密度等措施修改算法在数据集上的偏置,使得决策面偏向于少数类,提高少数类的分类性能[10]。Wang Chinheng等[11]提出先由 SVM(Support Vector Machines)确定近邻数目,再由 KNN(K-Nearest Neighbors)算法完成分类;……
登录APP查看全文