层次概念的分布式表示和学习方法综述
2023-10-21朱晓光
计算机技术与发展 2023年10期
朱晓光
(徐州工程学院 管理工程学院,江苏 徐州 221018)
0 引 言
概念表示方法是语义分析的基础问题,也是影响语言模型的结构和性能的重要因素。随着计算技术的发展,层次概念和分布式表示逐渐成为了语言模型的基础组件,并且促进了显明语义和隐含语义的相互映射[1-2]。通过结合计算语言理论和深度学习模型,各类层次概念表示方法显著提升了语言处理任务的性能,并且有助于解释和提取统计模型的语言属性[3]。相对而言,统计语言模型的层次概念结构还缺少系统性的分析,不能有效地促进自然语言处理模型的应用和拓展。因此,基于语义学理论和层次概念表示方法,该文综述了概念学习模型的表示方法和学习原理,解析了层次语义空间的计算原理和统计性质,讨论了层次概念计算模型的应用场景和研究建议。
1 语义空间的层次类型
按照层次结构的性质,语义空间可以划分为三种类型:线性空间、概率空间和文本蕴含。其中,概念的涵摄关系(Subsumption)具有不同的表示方法和分布规律。通过映射至共同的语义空间,语言资源和统计模型之间形成了相互的信息增益。
1.1 线性空间
线性空间主要刻画语义分布的几何性质。其中,分布式的概念对应于整个网络的一种稳定的激活模式。在连续的语义空间之中,若是抽象的语义场(上位词)覆盖特定的区域,则会形成层次的语义空间,如图1所示。

图1 上位词的区域中心性质
概念学习和层次聚类之中,上层节点包含较多的特征,因而会趋向于语义空间的中心区域,具有更为均匀的特征关联。……
登录APP查看全文
