山东科技大学电气与自动化工程学院 刘广秀 宋单单

基于Adaboost框架下自动编码器提升方法的文本分类

山东科技大学电气与自动化工程学院 刘广秀 宋单单

【摘要】针对文本分类问题，使用深度学习算法中的自动编码器模型网络建造Adaboost框架下的弱分类器，并且在自动编码器神经网络部分引入噪声，引入神经元间歇性工作机制，更改不同参数以及层数构造弱分类器。利用神经网络的稀疏性提高分类器的泛化性，加入Adaboost框架实现深度学习的集成算法。

【关键词】SAE；Adaboost；文本分类；激励函数

0 引言

大数据时代的到来，网络的普及，信息量呈爆炸性趋势增长，人们迫切需要一种实用性技术来有效的地组织和管理信息。从大量的信息中获取有效信息变得尤为重要。文本挖掘、自然语言处理、信息检索等技术很好地解决了信息过载时代的文本数据管理问题，文本分类技术作为这些领域的重要基础，在近年来得到了快速发展和广泛关注［1］。文本分类的方法有很多，典型的有朴素贝叶斯分类器［9］、BP神经网络分类器、K近邻算法（KNN）、支持向量机（SVM）分类器等，这些分类器在文本分类中均取得了很好的效果。并且在传统分类器的使用上，有很多学者提出了改进方案，使得分类效果有所提升。比如基于深度信念网络的文本分类器算法［10］，基于稀疏编码器的文本分类算法［7］等。深度学习作为一种新兴的多层神经网络降维算法，通过组建含有多个隐层的神经网络深层模型，对输入的高维数据逐层提取特征，以发现数据的低维嵌套结构，形成更加抽象有效的高层表示［8］。……