深度学习在文本生成中的应用研究
2020-02-14郭腾州孙宝山
仪器仪表用户 2020年2期
郭腾州,孙宝山
(天津工业大学 计算机科学与技术学院,天津 300387)
早期的文本生成技术,由于受到技术的限制没能得到充分发展。文本生成就是以图像、文本、数据等作为输入,通过特定的处理、输出得到人们想要的文本的过程[1]。文本生成技术近几年发展迅速,为人们的生活提供很多便利[2]。
1 深度学习概述
1.1 深度学习介绍
深度学习是机器学习研究领域的一个新的研究方向,它被引入机器学习使其更接近最初的目标——人工智能[3]。深度学习是学习样本数据的内在规律和表示层次,这些通过学习获得的信息对解释数据有很大帮助,例如文字、图像和声音。其目标是让机器能够无限接近于人的分析学习能力[4]。目前,深度学习在语音和图像识别方面已取得显著成就[5]。
1.2 卷积神经网络(CNN)
卷积神经网络(CNN)是一种前馈神经网络,具有卷积计算和深度结构。卷积神经网络可以将特征显现出来,能将输入信息进行分类且不改变其阶层结构[6]。卷积神经网络对于图片处理具有良好的性能,其构建机制就是通过对生物的视觉模仿[7]。卷积神经网络在计算机视觉领域具有显著地位,在许多自然语言处理领域的很多任务中也起着至关重要的作用。但卷积神经网络并不是完美的,它有两个危险的缺陷就是平移不变性和池化层。

图1 卷积神经网络流程图Fig.1 Convolutional neural network flowchart

图2 递归神经网络Fig.2 Recurrent neural network
1.3 循环神经网络(RNN)
循环神经网络(RNN)是将列数据作为输入,顺着序列的传播方向进行链式递归的递归神经网络[8]。……
登录APP查看全文
