APP下载

基于遗传算法优化综合启发式的中文网页特征提取

2014-09-13沈高峰谷淑敏

智能系统学报 2014年4期
关键词:特征提取特征文本

沈高峰 ,谷淑敏

(1.郑州轻工业学院 计算机与通信工程学院,河南 郑州 450002; 2.中原工学院信息商务学院 基础学科部,河南 郑州 450007)

特征提取在自然语言处理领域有着非常广泛的应用,是信息检索、文本分类、文本聚类以及自动文摘生成等技术的关键。由于互联网资源时刻都在不断更新,中文文本呈现出“爆炸式”增长。然而,采用传统人工方式进行特征提取的方法耗时较长,且具有一定的主观性,因此快速准确地实现中文特征提取成为中文文本处理的关键。

目前,国内外学者已提出3类特征提取方法:基于概率统计的特征提取方法、基于传统机器学习理论的特征提取方法以及基于自然语言理解的特征提取方法。基于概率统计的特征提取方法利用文本特征的统计信息进行关键词提取,如TFIDF[1]、词共现[2]等,该类方法具有简单、通用的特点,不需要复杂的训练过程,但准确率不高。基于传统机器学习理论的特征提取方法通过对大规模语料库进行学习,采用决策树[3]、贝叶斯算法[4]、最大熵模型[5]等方法对训练集进行训练,从而得到相关模型,然后再利用该模型对关键词进行提取,但该类方法较为复杂。基于自然语言理解的特征提取方法通常需要对中文文本从词、句、语义、篇章等层级进行分析,从而获得相关关键词,这类方法更加符合关键词提取的标注过程,但如何对文章进行准确的语言学分析还没有得到有效解决,该方法的抽取性能非常有限。……

登录APP查看全文

猜你喜欢

特征提取特征文本
如何表达“特征”
在808DA上文本显示的改善
基于Gazebo仿真环境的ORB特征提取与比对的研究
不忠诚的四个特征
基于doc2vec和TF-IDF的相似文本识别
一种基于LBP 特征提取和稀疏表示的肝病识别算法
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
基于MED和循环域解调的多故障特征提取
如何快速走进文本
线性代数的应用特征