APP下载

基于中文分词的预警短信审核平台

2019-10-21陈焯坚廖镇强吴志纯何小玲谭日明

科学大众 2019年11期

陈焯坚 廖镇强 吴志纯 何小玲 谭日明

摘   要:中文分词任务,是自然语言处理中一项非常基本的任务。但由于统计中文分词方法所需要的训练样本规模比较大,中文分词任务存有比较差的领域适应性。针对此种问题,文章提出了一种中文分词方法,可以联合学习跨领域,此方法联合学习用大量的源领域样本帮助目标领域的分词,在一定程度上提升了分词的性能。有试验研究表明,在目标领域标注样本比较少的时候,文章提出的中文分词性能方法在很大程度上高于传统分词方法的中文分词性能。

关键词:中文分词;预警短信;审核

1    中文分词概述

中文分词是中文信息处理中的一项基础任务,它的准确性可以直接影响中文信息在处理任务中的性能。机器学习的方法能在中文分词领域上发挥重大的作用,例如,条件随机场(Conditional Random Field,CRF)模型、最大熵(Maximum Entropy,MaxEnt)模型以及长短期记忆(Long-Short Term Memory,LSTM)神经网络。但是,传统方法中需要大规模的分词语料来训练各方面性能优异的分词器,分词语料的得取要依靠大量人工,可以看出,耗费的成本也会特别高。

近年來发生在中国的自然灾害大多数是局部性和突发性的,因此,人们对气象服务行业更加关注。传统的气象发布方式相对单一、效率也不高,气象预警信息不能及时地发布,需要加强对气象预警信息的建设。学者们利用数据库、GIS等技术手段在预警信息的发布方面做了大量的研究,配合这些手段的运用,可以实现预警信息的发布,但是费用较高,而且使用起来也比较复杂。……

登录APP查看全文