APP下载

基于支持向量机和神经网络模型的识别

2018-02-28秦云月

电子技术与软件工程 2018年13期
关键词:支持向量机

秦云月

摘要 支持向量机( SupportVector Machines,SVM)与神经网络( Neural Network)是统计学习的代表方法。支持向量机(包含核方法)与神经网络都是非线性分类模型,而支持向量机则细分了线性与非线性的隔空间,神经网络主要是事前输入系统识别。1986年,Rummelhart与McClelland发明了神经网络的学习算法Back Propagation.之后,Vapink与1 992年提出了支持向量机。支持向量机利用核技巧把非线性问题转换为线性问题,而神经网络是多层(通常为三层)的非线性模型。近年来Hinton提出了神经网络的DeepLea ring算法,极大的提高了神经网络的能力,尽管与支持向量机有所区别,但是神经网络模式的Deep Learing在RestrictedBoltzmann Machine(非监督学习)的结构与Back Propagation(监督学习)网络的权值具有重大意义。本文旨在探讨支持向量和神经网络的概论、特点与二者的区别,为现代科技提供一点愚见。

【关键词】支持向量机 神经网络模型 发展意义算法

早期的SVM求解方法是基于统计学理论的基础上的,无论是支持向量机还是支持向量机回归都依赖于线性约束凸二次规划的求解,但是经过Vapnik、Boser、Plantt等人基于SVM算法的研究,提出了更加简化和快速的算法。目前,支持向量机的算法越来越趋于成熟,并且飞速的发展,在各个产品模块成熟而广泛的运用。神经网络是在传统统计学的基础上研究的,样本内容无穷大时的渐进理论,即样本数据趋于无穷多时的统计性质,而实际问题中样本数据往往是有限的。

1 支持向量机和神经网络的概述

1.1 含义

支持向量机(Support Vector Machine,SVM)主要是Corinna Cortes和Vapnik等人首先提出的,其旨在解决小样本、非线性及高维模式识别,并能够推广应用到函数拟合及其他机器学习问题中,还支持矢量网络和相关的学习算法的监督学习模型,表现在人脸识别、信息识别、语音识别等多个智能识别领域,对目前的人工智能领域具有重大的发展意义。

人工神经网络( Artificial NeuralNetworks,简写为ANNs)也简称为神经网络( NNs)或称作连接模型(ConnecrionModel),它主要是模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型,其实质是模拟人脑神经元的极易、联想以及反射等功能抽象出来的数字模型。

1.2 特点

1.2.1 支持向量机

(1) SVM利用内积核函数代替向高维空间的非线性映射,其基本特征是空间内最大线性,以达到学习的目的;

(2) SVM的目标是对特征空间划分最优平面,具有最大间隔使线性从可分到线性不可分,其核心方法是最大化分类边际的思想;

(3) SVM的训练结果是支持向量,借助二次规划来求解向量,在SVM分类决策中起决定作用。

(4) SVM是理论基础的小样本学习方法,本质上避开了从归纳到演绎的传统过程,实现了从训练到预报的样本“转导推理”。

(5)为了避免了“维数灾难”只有少数的支持向量是SVM的最终决策函数,凸化问题保证全局最优性。

1.2.2 神经网络

(1)具有自我学习的功能。先把许多不同的图像模板和应识别的结果输入人工神经网络,通过自学习功能,网络就会慢慢学会识别相类似的图像。并且自学习功能不仅对预测有重大意义,未来的人工神经网络模型将为人类提供经济、市场、效益等方面的预测,其应用前途和领域是很远大的,市场前景广阔。

(2)具有联想和存储功能。联想是通过人工神经网络反馈得以实现的。

(3)具有高速运算解决的能力。一个复杂问题的优化解,通常需要大计算量,而利用人工神经网络反馈型可以针对性解决问题,从而发挥出计算机的高速运算能力,快速找到优化解。

2 支持向量機的分类

2.1 线性支持向量机

支持向量机是一种监督的分类和回归方法,主要二分类即为单个SVM,针对线性可分情况,它构造的最优分类面不仅能把两类样本正确分开,而且能使每一组数据与超平面距离最近的点到达与超平面距离最大。

2.2 非线性支持向量机

现实中针对噪音的输入数据,几乎所有样本都是线性不可分的,通过非线性变化把样本映射到高维特征空间,然后进行空间线性分类,寻找最优超平面,即即将非线性可分问题转化为线性可分问题。

2.3 支持向量机回归

支持向量机回归(SVR)将回归中的情况,分类问题的样本点在分类之前已经属于哪一类,而回归问题事先不知道。

3 支持向量机与神经网络的异同

支持向量机与神经网络类似都是学习型机器,不同的是支持向量机是算法方法,而神经网络是优化解决。支持向量机的基础是理论和数学,与神经网络学习方法相比,支持向量机以下特点四个:

(1)支持向量机在保证结构风险最小选择和学习机器泛化能力具有极大优势;

(2)终端目的旨在解决优化了算法复杂度与输入向量相关问题,以到达识别、运算的目的:

(3)主要是基于有限的样本信息针对小样本情况,而不是样本数趋于无穷大时的最优解,引用核函数将输入空间中的非线性问题映射到高维特征空间中在高维空间中构造线性函数判别。

神经网络的优化目标是基于经验的风险最小化,采用的是传统统计法,不能保证网络的能够像向量机一样具有泛化能力。神经网络优劣因设计者的优劣水平而异,如果设计者在网络设计过程中竭尽所能的利用了自己的经验、先验和专业等知识,可能会得到较理想的网络结构,反之亦然。

4 结语

随着科技发展支持向量机和神经网络模型都有各自深入的发展,内在算法的进步直接表现在外在的结果上,为人类的安全又提供了深入的保障,同时促进了人工智能的发展,例如AlphaGo打败了世界围棋冠军。使得人工神经网络更加向人脑趋近,更加智能。

参考文献

[1]韩虎,任恩恩,基于粗集理论的支持向量机分类方法研究[J].计算机工程与设计.2008,28 (11): 2640-2643.

[2]张学工,关于统计学习理论与支持向量机[J].自动化学报,2000,126 (01): 32-42.

[3]吉建娇,张娇娇,许婕,刘丹丹.人工神经网络一控制系统不依赖与模型的故障诊断方法[J].科技风,2009(13):11-16.

猜你喜欢

支持向量机
基于支持向量回归机的电能质量评估
基于智能优化算法选择特征的网络入侵检测
基于改进支持向量机的船舶纵摇预报模型
基于支持向量机的金融数据分析研究
管理类研究生支持向量机预测决策实验教学研究