孟东霞，李玉鑑

1.河北金融学院 信息管理与工程系，河北 保定 071051

2.北京工业大学 信息学部 计算机学院，北京 100124

1 引言

不平衡数据集指各类别数据采样数量差异较大，在分布上不平衡的集合，其在疾病的识别诊断、信用风险识别、异常天气预报、攻击检测等领域中广泛存在。其中，样本数量较少的类别被称为少数类，样本数量较多的类别是多数类。在现实的信用评估问题中，客户数据的类别分布都很不平衡，即信用差的客户样本往往要比信用好的样本少很多。在这种情况下，传统的分类模型例如神经网络、贝叶斯网络、K-近邻、支持向量机等对信用差的少数类客户的错误分类率要比信用好的多数类客户高很多，将导致企业极大的损失。因此在不平衡数据集中，提高少数类样本的分类性能是一个有意义的研究课题。

目前，主要从算法和数据两个层面解决不平衡数据集的分类问题：在算法设计上，通过改变现有算法使其分类更偏向于少数类，代价敏感学习方法[1]、提升算法[2]和集成算法；在数据层面上，通过某些策略增加少数类样本（过采样）和减少多数类样本（欠采样）以达到平衡样本分布的目的。本文采用从数据层面上增加少数类样本数量的方法平衡数据分布。

最简单的过采样方法是随机复制少数类样本，虽能从数量上达到快速增加样本数量的目的，但实际效果不够理想[3]。SMOTE算法（Synthetic Minority Over-sampling Technique）基于K近邻确定少数类样本的K个近邻，通过对少数类样本和K个近邻插值合成新的少数类样本，以增加少数类样本的数量，是目前最为典型的过采样方法[4]。……