高云龙 左万利 王 英 王 鑫

1(吉林大学计算机科学与技术学院 长春 130012)

2(符号计算与知识工程教育部重点实验室(吉林大学) 长春 130012)

3(长春工程学院计算机技术与工程学院 长春 130012)

(1458299660@qq.com)

句子是传递人类意见、情感等语义的一种基本的语言表示形式.在自然语言处理中，句子模型[1]是句子语义、情感分析以及句子分类的有效工具.传统句子模型的构建往往基于语言的文法(产生句子的规则)，即句法驱动的句子模型构建：根据文法，构建句子对应的分析树，从而理解句子的层次化结构.由于不同语言的句法通常并不一致，且一个句子的语义并非是句子各个部分语义的简单组合[2]，因此句法驱动的句子模型的构建往往有很大的局限性.基于深度学习网络构建的句子模型，不依赖于特定语言的句法，其输入往往为句子中每个词的词向量，神经网络根据其学习的特征函数从词向量中提取特征，所提取的特征作为原始句子的高层次的抽象，可以用于句子语义分析或者句子分类.

深度学习网络在计算机视觉、语音识别等领域中已经取得了巨大的成功[3]；在自然语言处理领域，深度学习网络虽然没有取得系统性的突破，但也得到很多研究人员的广泛关注[4].目前，在句子分类领域的大多数卷积神经网络模型(convolutional neural networks, CNNs)中，卷积层的输入特征map是通过人工选择的，虽然取得了较好的效果，但往往偏离最优值.基于以上研究，本文提出一个基于稀疏自学习卷积神……