基于稀疏自编码器和高斯混合模型的手写数据集分类
2021-05-11马双宝高梦圆胡江宇贾树林董玉婕
武汉纺织大学学报 2021年2期
关键词:模型
马双宝,高梦圆,胡江宇,贾树林,董玉婕
(武汉纺织大学 机械工程与自动化学院,湖北 武汉 430200)
深度学习是当今较为火热的领域之一。对于大量的样本进行学习,深度学习网络比其他的机器学习算法表现结果更为出色,但是现实生活当中并没有大量的标签数据。人类可以对新的事物只需要观察一次,在下次出现时就可以清楚地进行辨认。因此在处理小样本问题,李飞飞等人[1]在2006 年提出了one-shot问题,并且利用了贝叶斯推测方法对小样本进行分类,并取得较好成绩,成为小样本学习的开端。C. Finn,P. Abbeel 等人[2]根据元学习模型,提出了MAML 算法,根据训练不同得到的先验知识来指导新的任务,该模型取得不错的泛化能力,但是该模型需要预先训练,对参数调节具有一定要求。Oriol Vinyals 等人[3]提出了匹配网络对数据进行聚类分析,该网络可以对多个类别进行判别。Pake Snel 等人[4]提出了基于原型网络的聚类算法,它是通过新数据对原型网络的距离来衡量数据的类别的一种聚类算法。该算法只是通过简单的欧式距离作为聚类的标准,对于有些样本来说,泛化能力较差。Sachin Ravi 等人提出了基于优化的模型采用LSTM 来对小样本问题进行优化求解,但是模型复杂度过高,对样本存在过拟合问题。
上述方法均没有对样本的维度进行降维处理,小样本数据进行特征提取,由于维度过高会导致过拟合问题,而且维度过高对计算带来巨大运算问题。针对上述问题,本文采用一种基于稀疏编码器降维算法,首先对数据进行低维压缩处理,防止样本数量过少导致过拟合问题,然后利用高斯混合模型对数据进行聚类分析。……
登录APP查看全文
