支持向量机核函数选择研究与仿真*

梁礼明，钟震，陈召阳

(江西理工大学电气工程与自动化学院，江西 赣州 341000)

摘要：支持向量机是一种基于核的学习方法，核函数选取对支持向量机性能有着重要的影响，如何有效地进行核函数选择是支持向量机研究领域的一个重要问题。目前大多数核选择方法不考虑数据的分布特征，没有充分利用隐含在数据中的先验信息。为此，引入能量熵概念，借助超球体描述和核函数蕴藏的度量特征，提出一种基于样本分布能量熵的支持向量机核函数选择方法，以提高SVM学习能力和泛化能力。数值实例仿真验证表明了该方法的可行性和有效性。

关键词：支持向量机；核函数；样本分布；先验信息；能量熵

中图分类号：TP181 文献标志码：A

doi:10.3969/j.issn.1007-130X.2015.06.015

收稿日期：*2014-05-18;修回日期：2014-09-18

基金项目：国家自然科学基金资助项目(5136501)；江西省自然科学基金资助项目(20132BAB203020)；江西省教育厅科学技术研究项目(GJJ13430)

作者简介:

通信地址：341000 江西省赣州市红旗大道86号江西理工大学电气工程与自动化学院

Address:School of Electrical Engineering and Automation,Jiangxi University of Science and Technology，86 Hongqi Avenue,Ganzhou 341000,Jiangxi,P.R.China

Research and simulation of kernel function selection for support vector machine

LIANG Li-ming，ZHONG Zhen，CHEN Zhao-yang

(School of Electrical Engineering and Automation,Jiangxi University of Science and Technology,Ganzhou 341000,China)

Abstract:Support vector machine (SVM)is a kind of learning method based on kernel. Kernel function selection has significant influence on the performance of SVM, so how to effectively select the kernel function is an important problem in the field of SVM research. At present most of the kernel function selection methods neither consider the characteristics of data distribution, nor make full use of the implicit prior information in the data. We introduce a concept of energy entropy; along with the super sphere description and measurement features of kernel function, we put forth a method of kernel function selection based on the energy entropy of sample distribution so as to improve the learning ability and generalization ability of SVM. Simulations on numerical examples show that the method is feasible and effective.

Key words:SVM;kernel function；sample distribution；prior information；energy entropy

1引言

支持向量机SVM(Support Vector Machine)以统计学习理论为基础，具有完备的理论基础和严格的理论体系，能够解决有限样本的学习问题[1]。由于这一方法具有许多优良特性，如较强的模型泛化能力、不会陷入局部极小点以及很强的非线性处理能力等，因而成为近年来受到广泛关注的一类学习机器方法，在诸多领域如模式识别、回归估计、数据挖掘、生物信息等均取得了成功的应用。SVM建立在结构风险最小化原则基础之上，其核心思想之一是引入核函数技术，巧妙地解决了在高维特征空间中计算的“维数灾难”等问题。……