基于BERT-FNN的意图识别分类
2021-07-27郑新月任俊超
计算机与现代化 2021年7期
郑新月,任俊超
(东北大学理学院,辽宁 沈阳 110004)
0 引 言
近年来,信息技术正冲击着传统产业,它为人们提供了便捷的服务,如智能机器人、智能客服、人机对话等,它们的迅速发展为用户提供了一种简单、方便的沟通方式。其中,意图识别分类是问答系统的核心任务,是提高系统整体性能的关键[1-3]。它主要利用句子的语义特征进行分类,是自然语言处理领域非常热门的研究方向和关键技术之一。
意图识别的目的在于理解某一句话的意图,基本思想是:首先根据文本语义信息,定义可能出现的意图类别,然后采用自定义的分类方法,将该语句划分到事先定义的类别中[4]。目前,意图识别分类的研究主要有3种方法。
一是基于规则、模板匹配的正则化方法。该方法针对特定问题,通过人工提取特定规则,来确定问题所属类型。如Ramanand等[5]提出了一种基于规则、模板匹配的正则化方法,将用户的消费意图进行分类。这种方法简单直接,易于解释且不需要大量的数据进行训练,但是规则制定繁琐,可扩展性不强,泛化能力差。
二是基于机器学习的方法。该方法通过对标注语料进行统计学习,把分类模型的选择和分类特征的提取作为重点研究对象[6]。常用的方法有逻辑回归、支持向量机、决策树等。陈浩辰[7]使用支持向量机和朴素贝叶斯进行意图识别分类研究。该方法首先需要构造特征工程,再对文本进行分类,导致理解文本深层的语义信息比较困难,特征的准确性无法得到保证,当数据集发生变化时,需要重新构造特征工程,时间复杂度较高,成本较高。……
登录APP查看全文
