基于Universum的多视角全局和局部结构风险最小化模型
2018-12-10朱昌明梅成就周日贵魏莱章夏芬
朱昌明 梅成就 周日贵 魏莱 章夏芬
摘要:为克服传统多视角分类器无法充分最小化结构风险的不足,提出基于Universum的多视角全局和局部结构风险最小化模型。该模型采用Universum学习,利用有标签样本生成大量包含分类信息的无标签样本,从而增加分类器性能。这些信息有利于最小化结构风险。通过在Mfeat、Reuters和Corel等3个多视角数据集上的试验可以发现,该模型可以提高多视角分类器的性能,并可以更好地应用到多视角数据集的分类问题中。
关键词:
Universum学习; 多视角; 结构风险
中图分类号: TP181
文献标志码: A
Abstract:
In order to overcome the disadvantage of traditional multiview classifiers that can not fully minimize structural risk, a Universumbased multiview global and local structural risk minimization model is proposed. The model uses Universum learning, which uses labeled samples to generate a large number of unlabeled samples containing classification information so as to enhance the performances of classifiers. This information helps minimize structural risks. Experiments on three multiview data sets, i.e., Mfeat, Reuters and Corel, show that the model can improve the performance of multiview classifiers and can be better applied to the classification of multiview data sets.
Key words:
Universum learning; multiview; structural risk
0引言
多视角分类器可以用于处理多视角数据集的分类。以图1为例,假设有
一个网页数据集X,它有4个样本,每个样本是一个网页,且这4个样本被平均分为2类,一类是与科学有关的网页
[WTHX]x[WTBX]1和
[WTHX]x[WTBX]2,另一类是与艺术娱乐有关的网页
[WTHX]x[WTBX]3和
[WTHX]x[WTBX]4。对每个网页而言,有3类信息,分别是文本(text)、图像(image)和视频(video)。每类信息可以被视为样本的一个视角。若用
[WTHX]x[WTBX](v)i来表示第i个样本的第v个视角,则X(v)={
[WTHX]x[WTBX](v)1,
[WTHX]x[WTBX](v)2,
[WTHX]x[WTBX](v)3,
[WTHX]x[WTBX](v)4}表示数据集的第v个视角。因此,数据集X也可以被写为X={X(1),X(2),X(3)}。把这样的X称为多视角数据集。多视角分类器的目的在于通过学习已经标记的多视角样本的信息训练出一个分类器,对未知的多视角样本进行类别标定。针对多视角分类器的设计而提出的学习过程被称为多视角学习[1]。多视角学习如今已被广泛运用于多视角聚簇[2]、手写数字识别[3]、人类姿势识别[4]、图像识别[57]等领域,并取得了不错的成绩。
传统的多视角分类器旨在最小化结构风险,即最小化经验风险(对训练样本的识别误差)与泛化风险(对测试样本的预测误差)之和。……
