APP下载

基于Spark 的快速短文本数据流分类方法

2020-07-17胡学钢李培培

计算机工程与应用 2020年14期
关键词:分类文本模型

胡 阳,胡学钢 ,2,李培培

1.合肥工业大学 计算机与信息学院,合肥 230009

2.工业安全与应急技术安徽省重点实验室,合肥 230009

1 引言

随着互联网信息技术的发展,实际应用领域产生了大量的短文本数据流,包括微博、推文和实时评论等。这些短文本数据流具有以下三个显著特点:首先每个文本都很短,没有充分的上下文语义信息,导致特征高维稀疏、信息模糊;其次,随时间推移短文本大量涌现,导致信息快速发生变化,上下文信息不对称;再者,文本流会随着时间变化而发生概念漂移现象,影响所建模型的稳定性,导致其预测精度降低。上述特点使得传统的K最邻近(KNN)、支持向量机(SVM)、逻辑回归(LR)等长文本分类方法难以直接应用,也使得已有的单机版短文本数据流分类方法面临分类精度低与时间代价高的挑战。为了解决短文本的特征稀疏性问题,已有的研究工作一方面通过外部语料库获取词与词上下文关联语料以扩充短文本,如文献[1],然而利用外部语料库丰富短文本,会使得分类器性能严重依赖于外部语料库的丰富程度,导致分类器性能不稳定。另一方面,通过挖掘短文本自身上下文关系,利用关联规则实现自扩展,如文献[2]。然而,上述技术仅适用于数据规模恒定的静态数据集,严重限制了它们在流数据上的应用。目前,流行的短文本数据流分类方法如文献[3]多采用基于滑动窗口机制划分数据块并构建集成分类器模型,从而进行更新与预测,然而,由于较大时间开销无法解决流式数据中I/O同步问题。……

登录APP查看全文

猜你喜欢

分类文本模型
一半模型
分类算一算
重尾非线性自回归模型自加权M-估计的渐近分布
在808DA上文本显示的改善
基于doc2vec和TF-IDF的相似文本识别
教你一招:数的分类
3D打印中的模型分割与打包
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
如何快速走进文本