基于HMM 的维吾尔语词性标注研究
2017-04-22李萍杨勇赛买提艾力任鸽
现代计算机 2017年7期
李萍,杨勇,赛买提·艾力,任鸽
(新疆师范大学计算机科学技术学院,乌鲁木齐 830054)
基于HMM 的维吾尔语词性标注研究
李萍,杨勇,赛买提·艾力,任鸽
(新疆师范大学计算机科学技术学院,乌鲁木齐 830054)
在维吾尔语与汉语的机器翻译的研究中,词性标注起到很大的作用,词性标注也是自然语言处理的基础性工作。介绍基于隐马尔可夫模型的词性标注算法和词性标注器Citar,并且将Citar标注器应用到维吾尔语上进行词性标注。为了能对维吾尔语进行词性标注,在在布朗词性标注集的基础上,定义一套适用于维吾尔语的词性标注集,采用基于隐马尔可夫模型的方法,对部分维吾尔语进行词性标注实验,经过实验表明,Citar标注器能准确对维吾尔语进行词性标注,从而表明此标注器适用于维吾尔语。
机器翻译;词性标注;隐马尔可夫模型;词性标注集;维吾尔语
0 引言
词性标注[1-3]是自然语言处理的基础,其中机器翻译[4-5]、信息抽取[6-7]、信息检索、信息识别等的研究都要在词性标注的研究基础上。词性标注是将句子中的词语标记上词性属性,词性标注的难点在于一个词在不同的语境环境可能有不同的属性,另外对于未登录词的处理也是词性标注中的一大难点。汉语中的词性标记还涉及一个分词问题,先要对句子进行分词,而像英语、维语这类的语言,其词与词之间存在空格,相比于汉语的词性标记,这类语言的词性标注相对容易些。
维吾尔语是阿尔泰语系,所有的词语由32个字母构成,但是每个字母有不同的变形,在构成不同的词语的时候其字形不一样,这种变形加大了维吾尔语词性标注的难度。……
登录APP查看全文
