基于词向量的英文教育文本推荐技术*
2018-11-02李浩,孙媛①
中国教育信息化 2018年20期
李 浩,孙 媛①
(1.中央民族大学 信息工程学院,北京 100081;2.国家语言资源监测与研究少数民族语言中心 北京 100081)
教学资源不再仅仅局限于纸质文本和黑板板书的方式来呈现,而是利用到了计算机技术,以Word、PDF、PowerPoint等方式呈现,使得“教”与“学”两个过程更加方便。但教学资源如何优质共享是一个亟待解决的困难[1]。教育文本种类繁多,很多学习者不能快速准确地判断是否为自己所需,这就需要一个能精准推荐的技术。
一、相关研究
随着英文信息处理技术的发展,无论是在字词信息处理研究,还是在信息处理应用开发方面,众多科研人员进行了不懈的努力和有益的探索。在基本完成以“词”为单位的研究内容后,以“句”、“段”、“篇”为主的研究也发展十分迅速。
要想进行自然语言相关方面的研究,首先需要将人类语言数字化[2]。首先提出的是词袋表示方法,但此模型向量的维度与词典的大小成线性关系,会造成维度灾难。所以提出了词向量模型,它是一种分布式词向量[3]的表达方式,同时在分布式表达时常用的有NNLM模型、C&W模型。NNLM模型求解由于其softmax层,复杂度很高,C&W模型排序目标函数不用计算复杂的softmax了,但仍然保留了全连接的隐藏层,这部分也要消耗不少计算资源。Google的Mikolov提出一种简单的语言模型word2vector模型,就是简单地把上面复杂模型中的非线性隐层去掉了。
文本推荐技术的重点在于文本相似度的计算,在一些邮件、网页文本等推荐技术中,大多数都是用经典分类算法,它们是用传统向量空间模型来表示文本。……
登录APP查看全文
