基于分布式核的在线AUC最大化算法
2018-10-22潘志松周星宇
网络安全与数据管理 2018年10期
刘 鑫,潘志松,周星宇,白 玮,尤 峻
(1.陆军工程大学 指挥控制工程学院,江苏 南京 210007;2.陆军工程大学 通信工程学院,江苏 南京 210007)
0 引言
接收者操作特性曲线下面积(Area Under ROC Curve,AUC)[1-2]是一种重要的评价分类性能的指标,它衡量了分类器对任意正样本比任意负样本有更高决策值的概率。与常用的评价指标错分率相比,以AUC为优化目标的分类器能在不均衡数据集上获得更好的测试结果。因此AUC广泛地应用于处理类别不均衡问题,比如癌症诊断[3]和异常值检测[4]问题。
文献[5]研究了采用批处理学习算法来处理AUC最大化问题,但批处理算法训练之前需要存储所有训练数据并且在获得新样本后需要使用所有数据用于更新模型。因此传统的批处理学习算法不适用于处理大规模的流式数据。为了解决这个问题,一些研究者利用在线学习算法来高效地处理按序达到的大规模流式数据。但与传统在线算法不同,AUC最大化问题需要优化一个不同类样本间的成对损失,这样就需要存储所有接收到的训练样本。为了减少存储空间消耗,文献[6]提出了一种利用抽样来模拟历史数据的在线AUC学习方法,该方法是用两个固定大小的缓存空间来存储历史数据,并使用蓄水池抽样方法来动态更新缓存空间,在计算成对损失时只需要与缓存空间中的历史数据进行比较即可。文献[7]提出了一种利用成对平方损失来处理在线AUC最大化问题,该方法利用历史数据的均值向量和协方差矩阵的信息使得对所有数据仅需要计算一次。……
登录APP查看全文
