赵金榜，秦绍伟，武 浩

(云南大学 信息学院，云南 昆明 650500)

人类社会进入信息时代以后，文本数据开始了爆发式的增长，这些文本中包含着大量有价值的信息，但由于文本信息的非结构性，对其组织和有效利用面临着很大的困难.文本分类是指根据文本从给定的标签集合中选取出合适类别标签的过程，对其后续的处理具有很重要的现实意义.对文本的分类有人工分类和自动分类两种方法，人工分类通过人工阅读对文本标注，虽然有高质量的分类结果，但费时费力成本较高；自动分类使用人工智能技术批量快速的对文本进行分类，逐渐成为研究热点.

随着文本自动分类技术在学术界和工业界的广泛研究和使用，众多的方法被应用到文本多标签分类中，包括一对多模型[1-2]、嵌入模型[3]、基于树的模型[4-6]和深度学习模型[7-19]等，其中深度学习由于具有强大的拟合能力，在多标签分类中取得了显著的成果，如卷积神经网络[7]、递归神经网络[8-9]、多重注意力网络[10]、预训练模型[11]等.在深度神经网络的基础上，进一步利用文档和标签的隐含线索可以提升模型的分类性能[12-14]，深度神经网络结合降维等方法可以处理大规模数据集[15-16]，深度神经网络结合注意力机制在文本分类中表现出了优异的性能[17-19].通过自适应的特征聚集加快模型的分类速度，这些模型对文本分类问题的建模主要集中在文档的词和标签关系之间，缺乏对文档多义性的关注，只……