丁晓剑 赵银亮

(西安交通大学电子与信息工程学院 西安 710049)

1 引言

C-SVM(Support Vector Machine)起源于文献[1]提出的支持向量网络(support vector networks)。在一般的神经网络结构中，只需调节输出向量和隐藏层连接的权重向量w就可以较好地拟合训练样本，而文献[1]指出需要调节向量w和(b)才能得到最优分类超平面，但在文中并没有提到(b)存在的意义。Poggio等人[2]从核函数的正定理论分析得出如果核函数是正定的(positive definite)，在SVM优化问题中是不需要(b)的，文献[3]指出使用高斯核(gaussian kernel)等常用核函数的SVM优化问题不需要(b)。Huang等人[4]提出了优化极限学习机(Extreme Learning Machine, ELM)的分类方法，指出优化极限学习机的模型和C-SVM是等价的，决策函数倾向于通过原点，即不需要(b)的存在。文献[5]研究了(b)对C-SVM分类优化问题泛化性能的影响，在实验中验证得到无(b)C-SVM优化问题的泛化性能更好，对参数C不太敏感，计算代价更小等一系列性质。虽然ν-SVM[6,7]与C-SVM的目标优化问题不同，约束条件也不同，但两者得到的最优分类超平面是等价的，即文献[5]的结论应该适用于ν -SVM。本文首先给出无(b)ν-SVM优化问题的描述，然后给出了利用有效集方法求解无(b)ν-SVM优化问题的子优化问题求解方法，在标准数据集上的多个指标的性能分析得到了理想的效果。

2 无(b)v-SVM优化问题

给定一个含有m个样本的训练样本集{xi,，其中输入为d维向量x∈Rd，输出为y∈iiR。通常训练样本集在输入空间中是线性不可分的，需要引入映射函数φ(x)将xi映射到高维空间 φ(xi)中。训练无(b)ν-SVM分类问题等价于求解如下优化问题：

引入拉格朗日函数：

其中 αi, βi, δ为非负拉格朗日乘子。……