张述睿，张伯政，张福鑫，杨万春

1.中国人民大学 统计学院，北京100872

2.山东众阳健康科技集团有限公司，济南250101

3.山东交通学院 理学院，济南250357

近年来，文本的多标签分类在自然语言处理领域中受到持续关注。在多标签分类中，一段文本可能同时具有多个对应的标签，例如一段文本可能表现出两种情感，一段新闻可能具有几种主题等，同时标签之间通常有一定的依赖关系。当标签空间变得非常庞大的时候，用深度学习模型进行文本分类就面临很大挑战。这主要是因为使用循环神经网络GRU[1]、LSTM[2-3]和多层感知机进行分类时，每个分类标签相互独立而无法建立标签之间的依赖关系。

在医疗临床中，电子病历的文本信息充斥着各种医学术语，且表述晦涩和含糊，因此对电子病历中的文本进行分类是很有挑战任务。同时由于很多深度学习模型的运作原理都难以解释，导致了很多医学专业人士对此类方法的不信任。陈志豪等人[4]提出使用注意力机制来建立医疗问题和答案的相互影响，Mullenbach等人[5]采用卷积神经网络来提取病例文本中的语义信息，从而预测ICD疾病分类，但这两种方法并没有考虑到标签之间的依赖关系。檀何凤等人[6]提出了一种基于标签相关性的K近邻多标签分类算法，陈文实等人[7]提出使用主题模型与LSTM分别对文本的全局特征和局部特征建模，李锋等人[8]通过结合标签特征和局部标签相关性来丰富标签信息，但这三种方法没有考虑到在结构化标签空间或在超大标签空间中的应用。……