基于SMOTE采样和支持向量机的不平衡数据分类
2015-10-21曹路王鹏
五邑大学学报(自然科学版) 2015年4期
曹路,王鹏
基于SMOTE采样和支持向量机的不平衡数据分类
曹路,王鹏
(五邑大学 信息工程学院,广东 江门 529020)
不平衡数据集广泛存在,对其的有效识别往往是分类的重点,但传统的支持向量机在不平衡数据集上的分类效果不佳. 本文提出将数据采样方法与SVM结合,先对原始数据中的少类样本进行SMOTE采样,再使用SVM进行分类. 人工数据集和UCI数据集的实验均表明,使用SMOTE采样以后,SVM的分类性能得到了提升.
不平衡数据;支持向量机;SMOTE;ROC曲线
现实生活中,不平衡数据集广泛存在,如:癌症诊断、信用卡欺诈等,其中,不平衡数据集中少类样本的识别往往才是分类的重点. 在医疗诊断中,如果把一个病人误诊为正常,可能会造成严重的后果;在信用卡欺诈检测中,如果将欺诈判断为正常事件,可能带来巨大的经济损失. 传统的分类器,如支持向量机(Support Vector Machine,SVM)[1]、决策树、神经网络等均是从优化整个数据集的性能出发而设计的学习机器,对多数样本类有较高的识别率,而对少数类的识别率却很低. 因此,传统的分类方法在处理不平衡数据集时存在弊端.
为了解决不平衡数据的分类问题,研究人员主要从算法层面和数据层面来改善分类性能[2]. 算法层面主要是对现有算法的改进和提升[3-4],数据层面主要是通过重采样的技术来改善数据集的不平衡率,方法包括下采样和上采样. 下采样技术通过减少多数类样本来提高少数类样本的比例,但易因丢失多数类样本的信……
登录APP查看全文