APP下载

支持向量机的大样本迭代训练算法

2025-08-18陈积茂

现代信息科技 2025年12期
关键词:超平面均值聚类

中图分类号:TP301.6 文献标识码:A 文章编号:2096-4706(2025)12-0085-07

Large Sample Iterative Training Algorithm for Support Vector Machine

CHEN Jimao

(Sanya Instituteof Technology, Sanya 572022, China)

Abstract: Aiming at the large sample training problem for Support Vector Machine (SVM),a new iterative training algorithmis proposed.Tobuildan initial training sample set,theK-meansclustering algorith is used tocompressthe training sample set,with each cluster centroid serving as the initial training sample set,reducing redundant information between samples toenhance trainingspeed.Toensure thetraining acuracy,theresultingcentroidistakenasthe initialsampleset, andthe boundarysamplesand misclasifiedsamples areaddedtothe initial sample setwithclassification.Anditis usedas trainingsamplesforiterativetraining until the numberof misclasifiedsamples is stable.Here,the K-means clustering SVM iterative training algorithmcanreduce thecomputational complexity while maintaining the training accuracyand improve the classification and training speed by optimization.

Keywords: Support Vector Machine; K-means clustering algorithm; iterative algorithm; Machine Learning

0 引言

支持向量机是最基本的模式识别与机器学习方法,应用相当广泛,其基本原理是用线性分类器将两类不同的信号特征数据显著分离。支持向量机的学习训练过程可转化为二次规划问题,传统优化解法需要全体训练样本同时参与运算,需耗费大量运算时间和机器内存,这对于海量训练数据显然是不能接受的。为此,大样本集学习速度的改进算法[近些年来出现两类:一类是将SVM中QP问题分解为一系列的QP问题的代数方法,如序贯最小优化算法;另一类是将SVM中最小化问题转化为求解两个凸包问题的几何方法,如循环最近点算法[3]。针对当支持向量的数量比较庞大时分类速度就会下降这一问题,Scholkopf的简约集方法[5]降低了分类时的计算量,提高了分类速度。

但遇到大样本集[时计算耗时显著增加。且在大样本集中存在冗余情况,和考虑到支持向量机分类效率和准确率仅与支持向量有关[7,因此提出了支持向量机的大样本迭代训练算法。此算法对大样本集采用K均值聚类算法压缩作为初始训练样本集,在迭代的过程中加入边界样本和错分样本更新训练样本集[8]。借助历年温度、相对湿度和降雨关系表分析,结果不难看出支持向量机的大样本迭代训练算法能够在保持训练精度的前提下,大幅提高训练和分类的速度。

1 支持向量机

1.1 线性可分的最优超平面

假设训练数据样本为 {(xi,di)}i=1N ,其中 xi 表示第 i 个样本的输入变量。……

登录APP查看全文

猜你喜欢

超平面均值聚类
龙泉务窑遗址出土白瓷、三彩陶器的科技分析
基于FCM聚类的电力用户需求响应潜力评估
用均值不等式求函数最值的几种方法探究
巧用均值不等式处理高中物理最值问题
《数学通报》问题2688的深度剖析与拓展
基于K-means的机泵群SISO传感器故障监测