代价敏感大间隔分布学习机
2016-10-13周宇航周志华
计算机研究与发展 2016年9期
周宇航 周志华
(计算机软件新技术国家重点实验室(南京大学) 南京 210023)
代价敏感大间隔分布学习机
周宇航周志华
(计算机软件新技术国家重点实验室(南京大学)南京210023)
(软件新技术与产业化协同创新中心(南京大学)南京210023) (zhouyh@lamda.nju.edu.cn)
在现实生活中的很多应用里,对不同类别的样本错误地分类往往会造成不同程度的损失,这些损失可以用非均衡代价来刻画.代价敏感学习的目标就是最小化总体代价.提出了一种新的代价敏感分类方法——代价敏感大间隔分布学习机(cost-sensitive large margin distribution machine, CS-LDM).与传统的大间隔学习方法试图最大化“最小间隔”不同,CS-LDM在最小化总体代价的同时致力于对“间隔分布”进行优化,并通过对偶坐标下降方法优化目标函数,以有效地进行代价敏感学习.实验结果表明,CS-LDM的性能显著优于代价敏感支持向量机CS-SVM,平均总体代价下降了24%.
代价敏感学习;间隔分布;支持向量机;表示定理;对偶坐标下降法
在现实生活的很多应用中,对不同类别的样本错误地分类往往会造成不同程度的损失,这些损失可以用非均衡代价来刻画.例如在医疗诊断中,将病人错误地判断为健康人的代价一般比将健康人误诊为病人的代价大得多,因为前者会延误疾病的治疗,从而可能导致患者的死亡.在这样的场景中,标准的机器学习技术以最小化错误率为目标,也就隐含地假设了2种类型的分类错误造成的代价是相同的,因此训练出来的分类器就会同等地看待病人……
登录APP查看全文
