基于BERT-GCN-ResNet的文献摘要自动分类方法
2022-04-21林丽媛刘玉良
天津科技大学学报 2022年2期
郭 羽,林丽媛,刘玉良
(天津科技大学电子信息与自动化学院,天津300222)
文献分类是图书情报学科的重要研究方向.当前的文献分类主要以《中国图书馆分类法》为依据[1],使用题名、摘要、关键词、刊名、作者和机构等信息进行分类[2].从科技文献检索的角度来说,摘要中存在文献内容的显性特征,包含着文献的观点和价值,因此,相比使用题目、关键词、刊名等文献信息,使用摘要信息进行文献分类能提高文献分类的准确率,对图书情报学科的发展具有重要意义.
文献摘要分类方法分为传统的人工方法以及机器学习和深度学习[3-4]的方法.机器学习模型的不足之处:一是贝叶斯分类器[5]在属性个数比较多或者属性关联性较大时分类效果不好;二是支持向量机算法(support vector machine,SVM)[6]对大规模训练样本难以实施,不适于解决多分类的问题.除此之外,决策树系列模型和随机森林[7-8]等方法需要足够的词语共现信息完成模型训练,而这些信息恰好是文献摘要文本所缺少的.对原始文本数据进行特征处理后,为了让计算机更好地理解自然语言,需要将处理后的数据转换为文本表示.常用的文本表征方式包括词袋模型[9]、N元模型(N-gram)、词频逆文档频率(term frequency inverse document frequency,TF-IDF)[10]、Fasttext等[11].文本表示之后,利用网络模型将获取的有效信息拟合并计算模型参数.在过去的几十年中,短文本分类技术迅猛发展,分类性能明显提升.论文摘要是一类极具研究价值的短文本数据,所以利用摘要对论文进行分……
登录APP查看全文
