王贵新,郑孝宗,张浩然,张小川

(1.重庆工程学院 软件学院,重庆　402260;2.重庆理工大学 计算机学院,重庆　400054)



基于Word2vec的短信向量化算法

王贵新1,郑孝宗1,张浩然1,张小川2

(1.重庆工程学院 软件学院,重庆402260;2.重庆理工大学 计算机学院,重庆400054)

摘要针对目前垃圾短信过滤效果有待提高的问题,提出一种新的短信特征提取方法。该方法采用了建立在深度学习理论基础上的最新成果和Word2vec工具。基于中文短信的内容和结构特点,利用该工具设计了一个短信向量化算法。该算法能有效地将每条短信与一个向量对应,在深度置信网络上利用该算法对垃圾短信进行分类实验。实验结果表明,推广性能比已有报道结果提高了约5%。

关键词深度置信网络;深度学习;短信;向量化

目前垃圾短信治理主要采用软件自动过滤和人工干预[1-5]。但这些学习和过滤算法目前已经不能很好适应机器学习环境,特别是深度学习算法理论的完善和应用发展,为机器学习提供了广阔空间[6]。

垃圾短信的自动过滤系统,一般采用多分类器的组合,使得分类效果更佳。在这过程中,短信特征的分析和提取是非常重要的环节[5]。本文将利用深度学习的理论工具Word2vec,研究短信特征提取的新算法,并将该算法采用深度置信网络(DBN)进行了验证,取得了较好的分类效果。

实验样本来源于以前所做垃圾短信智能分类系统项目所收集的大约有三百万条短信。处于保护个人隐私目的,该样本内容没有主、被叫号码、短信时间等信息。……