冯　昌　　　廖士中

(天津大学计算机科学与技术学院　天津　300350)



随机傅里叶特征空间中高斯核支持向量机模型选择

冯昌廖士中

(天津大学计算机科学与技术学院天津300350)

(changfeng@tju.edu.cn)

模型选择是支持向量机(support vector machines, SVMs)学习的关键问题.标准支持向量机学习本质上是求解一个凸二次优化问题，求解的时间复杂度为数据规模的立方级，而经典的模型选择方法往往需要多次训练支持向量机，这种模型选择方法对于中等规模的支持向量机学习计算代价已较高，更难以扩展到大规模支持向量机学习.基于高斯核函数的随机傅里叶特征近似，提出一种新的、高效的核支持向量机模型选择方法.首先，利用随机傅里叶特征映射，将无限维隐式特征空间嵌入到一个相对低维的显式随机特征空间，并推导在2个不同的特征空间中分别训练支持向量机所得到的模型的误差上界；然后，以模型误差上界为理论保证，提出随机特征空间中核支持向量机的模型选择方法，应用随机特征空间中的线性支持向量机来逼近核支持向量机，计算模型选择准则的近似值，从而评价所对应的核支持向量机的相对优劣；最后，在标杆数据集上验证所提出方法的可行性和高效性.实验结果表明，所提出的模型选择方法与标准交叉验证方法的测试精度基本相当，但可显著地提高核支持向量机模型选择效率.

模型选择；支持向量机；随机傅里叶特征；高斯核；交叉验证

支持向量机……