结合胶囊网络的领域适应意图识别
2021-11-12赵鹏飞李艳玲
计算机工程与应用 2021年21期
赵鹏飞,李艳玲,林 民
内蒙古师范大学 计算机科学技术学院,呼和浩特010022
口语理解在人机对话系统任务中具有十分重要的作用。为了让机器理解用户的需求并进行反馈,口语理解通常利用三个模块对用户输入内容进行分析,分别是领域识别、意图识别和语义槽填充,其中,意图识别的准确性能够直接影响口语理解的性能。随着智能人机对话系统应用的广泛发展,例如Siri、Cortana以及智能教育系统和预订票务系统,人们逐渐体会到了人机对话系统的便利性和实用性,对于其他新领域对话系统的需求也在增加。因此,开发新领域对话系统成为当前的研究热点。在新领域开发过程中,通常很难获得可直接用于模型训练的数据和标签,这导致了训练新模型需要昂贵的代价。为了解决新领域数据不足的问题,目前通常的做法是利用迁移学习。
迁移学习能够将源任务中的知识和信息最大化地迁移到目标任务中,解决目标任务的相关问题。近年来,迁移学习在图像识别、目标检测以及跨语言翻译方面应用广泛,并在实际领域发挥作用,比如医学领域、物理领域等[1]。Wu等人[2]针对低分辨率图像分类问题,提出利用源域高分辨率图像和低分辨率图像进行模型的预训练,并将其嵌入目标任务的分类模型中,提升目标任务的分类性能。Chen等人[3]利用迁移学习的预训练模型对神经网络进行模块微调,解决跨领域的医学图像分类问题。对抗网络是实现迁移学习中领域适应的一种有效方法,胶囊网络对于小样本特征提取具有一定优势。……
登录APP查看全文
