深度估计网络的可学习步长轻量化研究
2022-01-21陈迟晓甘中学
小型微型计算机系统 2022年1期
胡 坤,陈迟晓,李 伟,甘中学
(复旦大学 工程与应用技术研究院,上海 200433)
1 引 言
近年来,用深度神经网络对单目图像进行深度估计已经有了很大的发展.随着精度上升,但是网络结构却变得越来越大,如图1所示.随之而来的是对计算设备的高要求和高功耗,出现了研究与实际应用间的背离.这样的高要求使得在小型化的硬件设备(如机器人、无人机、AGV设备)上部署神经网络[1-3]变得困难.而且由于神经网络稀疏的特性,计算过程中对内存利用率不高,这对硬件资源造成了很大的浪费.因此,对深度估计神经网络的轻量化研究有着重大的应用价值.
对神经网络的轻量化工作通常可以分为两个方向:1)网络参数位宽量化;2)神经网络计算结构压缩.由于深度神经网络的参数是用32bit单精度浮点数来表示.可以将参数位宽 较高的浮点数转换为位宽低的定点数.虽然损失了一定的表示精度,但网络占用却可以大幅压缩.同时,网络参数改为定点数计算时计算效率会有所提升.

图1 深度估计网络参数总量和绝对相对误差趋势对比Fig.1 Parameters and relative absolute error trend of depth prediction network
计算结构的压缩则是根据不同任务调整网络结构.在一般的网络参数量化的研究工作中,多是对图像分类任务进行参数量化,而结构相对复杂的特征金字塔网络(FPN)结构量化工作较少.一般的图像分类任务神经网络往往结构相对简单,网络层与层之间几乎是单个特征图传递,同时由于输出的全连接层参数依赖小故对参数的精度敏感度低;……
登录APP查看全文
