张菊玲 杨晓梅

摘 要：为了解决传统的基于机器学习方法的文本分类耗时耗力、不具备通用性、效果不好的问题及提高短文本分类的效果，文章提出了一种基于多类型池化的卷积神经网络分类方法。文章首先使用CNN（卷积神经网络）提取短文本的特征信息，然后利用多种类型的池化操作对提取的特征信息进行筛选，得到最终的分类依据。通过实验表明，文章提出的方法在短文本分类上要优于其他CNN分类模型和一些传统的机器学习方法。

关键词：自然语言处理;文本分类;卷积神经网络;特征提取;池化操作

0 引言

文本分类问题是自然语言处理领域中一个非常经典的问题，也是实际应用中管理文本信息的一种重要方法，并在信息过滤、信息组织管理、文本信息异常检测、语义辨析和情感分析等领域得到广泛的应用和发展。本文提出一种基于多类型池化的卷积神经网络模型对短文本进行分类，实验结果表明，基于多类型池化的神经网络结构在短文本分类上表现效果良好。

1 卷积神经网络

卷积神经网络（Convolutional Neural Network，CNN）是一种前馈神经网络，它是一种深度学习的经典方法。一般的，CNN的基本结构包括3种类型的网络层：卷积层、激活函数层、池化层。卷积层是CNN中必不可少的一种网络层，是构成卷积神经网络的基本框架。在视觉中，卷积层的输入一般是一个二维的张量I，相应的，在张量I上进行卷积操作就需要一个二维的卷积核K，设m和n分别为卷积核的长和宽，且卷积核一般小于输入张量大小，每個卷积核的参数在训练过程中都是通过BP算法^[1]优化得到的。……