(云南财经大学 云南 昆明 650221)

一、机器学习概述

主流的机器学习算法包括支持向量机、神经网络、集成学习和逻辑回归。本节对这些算法的基本原理进行简要介绍。

(一)支持向量机

支持向量机(SupportVectorMachines，SVM)，其早期工作来自前苏联学者VladimirN.Vapnik和AlexanderY.Lerner在1963年发表的研究，是一类按监督学习方式对数据进行分类的广义线性分类器。其核心思想即，二维数据分布在样本空间上，由一个超平面对多维数据进行分割，这个平面叫做分类的决策边界，支持向量就是离决策边界最近的一些点，支持向量机的目的就是最大化支持向量到决策边界的距离，从而，如果数据犯错的话，分类器会尽可能的健壮。

当遇到多维或者复杂数据时，就需要引用核函数将数据转换成易于分类器理解的形式，其中最流行的一种成为径向基函数(radialbasisfunction)，利用核函数讲数据映射到高维空间，可以将在低维空间中的非线性问题转换成高维空间下的线性问题来求解。支持向量机是一个二分类器，当用其解决多分类问题时，则需要额外的方法对其进行扩展。SVM效果取决于优化参数和和函数中的参数设置。

(二)神经网络

1958年，计算科学家Rosenblatt提出了由两层神经元组成的神经网络。他给它起了一个名字——“感知器”(Perceptron)，也就是单层神经网络，它由一个输入层和输出层组成，每一个特征属于代表一个神经单元，输入层只负责传输数据，不做计算。在输出层则需要对前一层的数据进行计算，连接输入层和输出层的带有箭头的线表示一个权重，预测值则是输入和权值之间的线性加权和叠加了一个激活函数g的值，即Z=g(W*a)，在单层神经网络中，g函数使用sgn函数，也就是取符号函数。……