拉丁化维吾尔文字特征及其基于规则的正规化
2016-05-04赛牙热依马木于斯音于苏普阿不都萨拉木达吾提
中文信息学报 2016年3期
赛牙热·依马木,于斯音·于苏普,阿不都萨拉木·达吾提
(1. 新疆大学 政治与公共管理学院,新疆 乌鲁木齐 830046;2. 新疆大学 信息科学与工程学院,新疆 乌鲁木齐 830046;3. 新疆大学 软件学院,新疆 乌鲁木齐 830046)
拉丁化维吾尔文字特征及其基于规则的正规化
赛牙热·依马木1,于斯音·于苏普2,阿不都萨拉木·达吾提3
(1. 新疆大学 政治与公共管理学院,新疆 乌鲁木齐 830046;2. 新疆大学 信息科学与工程学院,新疆 乌鲁木齐 830046;3. 新疆大学 软件学院,新疆 乌鲁木齐 830046)
结合网络上流通的拉丁化维吾尔文字特征,以拉丁化维吾尔文单词作为研究单位,首先,通过大规模文本语料库建立了固定词库、词首字母序列库、词尾字母序列库以及特殊词库等正规化规则库。然后,利用维吾尔单词中的字母序列结构特征和相邻字母上下文信息进行了拉丁化维吾尔文的正规化,同时引用最小编辑距离的方法进一步提高了正规化正确率,并用Visual C# 编程工具实现了基于规则的拉丁化维吾尔文的正规化算法。最后,给出了实验结果,并分析了结果不佳的原因及相应的对策。
维吾尔语;拉丁化维吾尔文;正规化;规则库;最小编辑距离;文字转写
前言
拉丁化维吾尔文的正规化(Normalization of Latinized Uyghur Character,NLU)已经成为在文本信息处理和拉丁化维吾尔文的规范化工作中迫切需要解决的重要任务之一。由于正在使用的拉丁化维吾尔文的书写不统一,尽管国家和新疆维吾尔自治区颁布制定了维吾尔拉丁化规范标准,但实际应用中还是存在拉丁化维吾尔文的混用现象。……
登录APP查看全文
