王静红,韩德林,陈洋洋

(1.河北师范大学 计算机与网络空间安全学院,河北 石家庄 050024;2. 伊利诺伊大学厄巴纳-香槟分校 信息科学学院,伊利诺伊 厄巴纳 61801)

受益于大量已标注的干净数据集,在不同的领域[1,2]中,基于数据驱动的神经网络已具有媲美人类的分类能力。当数据集包含标签噪声时,严重影响模型准确率。标签噪声也曾诱发数据对抗性中毒[3]。因此,进行模型训练前,有必要对数据集进行标签噪声评估并修改错误标签[4]。

如图1所示,在特征空间中,多个标签对应特征之间互相纠缠,导致最终分类结果出现偏差。彻底解决特征纠缠需要依靠神经网络进行特征解耦,分类函数可以缓解特征纠缠。神经网络常使用Softmax和Sigmoid作为分类函数。Sigmoid函数对每个多标签图像做N次判断,其中N为类别数量,隐式的通过对关键特征进行组合匹配,使得在多标签图像分类中的效果优于Softmax函数。但是,Sigmoid函数具有计算成本过高、需要大量高质量的标注数据、网络训练困难等缺点。在现实任务中,需要一种快速且便利的线性组合方法,降低特征纠缠对分类结果的干扰。

图1 多标签图像的标签纠缠

多标签分类和多分类问题的主要区别在于,多标签将造成输出空间呈现指数级增长。一阶算法的标签之间相互独立,无需考虑标签间相关性,直接将多标签问题分解为多个单标签子问题,为每个标签构建二分类器[5]。高阶算法假定标签具有相关性。文献[6]提出了包含标签信息的最小二乘多标签特征选择算法,并证明这一算法的收敛性。……