APP下载

网络维吾尔文判别及其文本长度下界的探讨

2012-10-15倪耀群许洪波唐慧丰程学旗

中文信息学报 2012年6期
关键词:文本语言

倪耀群,曹 鹏,许洪波,唐慧丰,程学旗

(1.中国科学院 计算技术研究所,北京100190;2.中国科学院 研究生院,北京100049;3.解放军外国语学院,河南 洛阳471003)

1 引言

1.1 维吾尔文和阿拉伯文、哈萨克文等文字共用很多字母

阿拉伯文是由28个辅音字母和12个发音符号(不包括叠音符)组成的拼音文字,世界上大约有60多个民族的文字是以阿拉伯字母为基础来书写的。为正确书写和显示这60多种文字中的专有字符,Unicode标准在阿拉伯基本字母集合(U+600~U+6FF)之外提供了阿拉伯语变形显现形式-A(U+FB50~U+FDFB)和阿拉伯语变形显现形式-B(U+FE70~U+FEFC)字符集。

中国新疆地区使用的维吾尔文、哈萨克文和柯尔克孜文都属于这类文字,以阿拉伯字母为基础书写的维文称为老维文,简写为ASU(Arabic-Script Uyghur),老维文有32个字母。而以阿拉伯字母为基础的哈萨克文有33个字母,柯尔克孜文有30个字母和一个合体字母,这些文字共用了很多字母,编码重叠较多,字符集差异很不明显。例如,哈萨克文33个字母中有21个字母的字型形状及编码与维吾尔文完全相同[1];波斯文有32个字母,其中28个是阿拉伯字母。下面列举了几种文字:

其中维文被谷歌浏览器chrome的“网页检测”识别为阿拉伯文;而谷歌翻译的“检测语言”功能,把维文识别当作“普什图语”(阿富汗的主要语言),如图1所示。

图1 谷歌翻译误将维文(《人民日报》记者深入灾区第一线采访)检测为“普什图语”

如何将维吾尔文从阿拉伯文、哈萨克文、柯尔克孜文等以阿拉伯字母为基础书写的类似文字中识别出来,是维文信息处理的一个重要研究问题。……

登录APP查看全文

猜你喜欢

文本语言
初中群文阅读的文本选择及组织
语言是刀
在808DA上文本显示的改善
基于doc2vec和TF-IDF的相似文本识别
让语言描写摇曳多姿
多向度交往对语言磨蚀的补正之道
文本之中·文本之外·文本之上——童话故事《坐井观天》的教学隐喻
論《柳毅傳》對前代文本的繼承與轉化
我有我语言
论语言的“得体”