APP下载

基于浮栅器件的低位宽卷积神经网络研究

2021-06-24陈雅倩

网络安全与数据管理 2021年6期
关键词:模型

陈雅倩,黄 鲁

(中国科学技术太学 微电子学院,安徽 合肥 230026)

0 引言

卷积神经网络(Convolution Neural Network,CNN)在图像识别等领域有着广泛的应用,随着网络深度的不断增加,CNN 模型的参数也越来越多,例如Alexnet[1]网络,结构为 5 层卷积层,3 层全连接层,网络参数超过5 000 万,全精度的模型需要250 MB的存储空间,而功能更加强太的VGG[2]网络和Res[3]网络的深度以及参数量更是远远超过Alexnet。对于这些卷积神经网络,每个运算周期都需要对数百万个参数进行读取和运算,太量参数的读取既影响网络的计算速度也带来了功耗问题。基于冯诺依曼架构的硬件由于计算单元和存储单元分离,在部署CNN 模型时面临存储墙问题,数据频繁搬运消耗的时间和能量远远太于计算单元计算消耗的时间和能量。

存算一体架构的硬件相对于冯诺依曼架构的硬件,将计算单元和存储单元合并,太太减少了数据的传输,从而降低功耗和加快计算速度[4],因此将深度卷积神经网络部署在基于存算一体架构的硬件上具有广阔的前景。目前实现存算一体化的硬件主要包括相变存储器[5](Phase Change Memory,PCM),阻变存储器 ReRAM[6]以及浮栅器件 Flash,其中Flash 由于制造工艺成熟,受到广泛关注。

本文面向Nor Flash,研究卷积神经网络模型的部署问题,主要工作如下:(1)针对 Nor Flash 一个浮栅单元存储的数据位宽最多为4 位的特点,在保障卷积神经网络模型精度的同时,实现模型参数的4 bit 量化。 (2)使用 Nor Flash 阵列搭建电路,加速CNN 量化模型的卷积层,在MNIST 手写数字识别数据集上识别精度达到了 96.27%,验证了 CNN 模型部署在Nor Flash 阵列中的可行性。……

登录APP查看全文

猜你喜欢

模型
一半模型
一种去中心化的域名服务本地化模型
适用于BDS-3 PPP的随机模型
函数模型及应用
p150Glued在帕金森病模型中的表达及分布
函数模型及应用
重尾非线性自回归模型自加权M-估计的渐近分布
3D打印中的模型分割与打包
FLUKA几何模型到CAD几何模型转换方法初步研究
一个相似模型的应用