胶囊神经网络研究现状与未来的浅析
2021-02-04贺文亮朱敏玲
计算机工程与应用 2021年3期
关键词:模型
贺文亮,朱敏玲
北京信息科技大学 计算机学院,北京100101
深度学习是机器学习的一部分,随着大数据时代的到来和GPU 技术的进步,深度学习广泛应用于图像识别、图像分类、图像分割、目标检测[1]、身份认证[2]、知识图谱[3]、自然语言处理、语音识别、文本分类[4]等各个领域。与传统的机器学习算法相比,深度学习的优越性在于其卓越的准确性。从图像分类到自然语言处理,深层神经网络正被应用于不同的领域。人们对人工神经网络进行了研究,开发了不同类型的神经网络,如卷积神经网络和循环神经网络,它们已经应用于不同的应用领域。卷积神经网络的引入是神经网络重新流行的原因之一。可是研究发现它存在一个根本性的问题,即无法考虑到底层目标特征之间的空间关系。由于在卷积神经网络中,上一层神经元传递到下一层神经元中的是标量,标量没有方向,无法表示出高层特征与低层特征之间的位姿关系。另外,它的池化层会丢失大量有价值的信息,因此卷积神经网络存在较大的局限性。2017年,Geoffrey Hinton 在神经网络架构中引入了一个新概念——胶囊网络。
胶囊网络是近年来为克服卷积神经网络存在的缺陷而引入的神经网络之一,它以向量的形式来表示部分与整体之间的关系,不仅能够以特征响应的强度来表示图像,还能够表征图像特征的方向、位置等信息。同时,胶囊网络采用囊间动态路由算法,取代传统卷积神经网络中的最大池化法,避免了图像因池化导致精确位置信息的丢失。……
登录APP查看全文
