伪特权信息和SVM+
2016-12-20孙广玲
西安电子科技大学学报 2016年6期
孙广玲,董 勇,刘 志
(上海大学 通信与信息工程学院,上海 200072)
伪特权信息和SVM+
孙广玲,董 勇,刘 志
(上海大学 通信与信息工程学院,上海 200072)
针对只有部分训练样本拥有特权信息的特权学习,提出了伪特权信息及相应的SVM+.一方面,对于无特权信息的样本额外构造伪特权信息,使得这部分样本的松弛变量可在修正空间中预测,从而有效地提高了模型泛化能力.可用信息和随机特征都是有效的伪特权信息.另一方面,将真正特权信息用伪特权信息取代,使得全部训练样本的松弛变量都在惟一的修正空间中预测.在实践中发现,至少对于某些真正的特权信息和二分类问题来说,使用一个修正空间可获得更优的泛化能力.在手写数字和人脸表情识别问题上进行的实验结果显示,采用伪特权信息的SVM+具备一定的优势.
特权学习;伪特权信息;SVM+
利用特权信息的学习(Learning Using Privileged Information, LUPI)是近年来机器学习领域发展较快的一个方向[1-2].其意图在于模仿人类“教”与“学”中的一个重要现象:在学生的学习阶段,一个好的教师除了提供实例,还要提供相关的其他信息,而这些信息是在非学习阶段(学生利用学习得来的知识独立解决问题而不再依赖于教师)不可获得的,因此称为特权信息.在学习阶段提供特权信息的意义是: 相对于只提供实例,可以使学生获得更好的知识,从而提高其未来独立解决问题的能力.自然地,人们可以构建体现类似思想的机器学习模型,以使……
登录APP查看全文
