APP下载

一种嵌入式计算平台的Sigmoid函数优化方法

2021-02-28林钰棽魏云龙陈琪琪邱志敏

小型微型计算机系统 2021年10期
关键词:实验

林钰棽,魏云龙,陈琪琪,张 威,邱志敏

1(福州大学 物理与信息工程学院,福州 350100) 2(华南理工大学 电子与信息学院,广州 510640) 3(中国科学院大学 中国科学院长春光学精密机械与物理研究所,长春 130033) 4(北京航空航天大学 电子信息工程学院,北京 100191)

1 引 言

人工智能及边缘计算的大规模应用,使人工神经网络(Artificial Neural Network,ANN)在端侧的应用日益广泛.端侧计算常用的处理器为嵌入式处理器,神经网络在资源受限的嵌入式处理器上的计算效率不高.Sigmoid函数是人工神经网络常用的激活函数,其计算过程需要进行指数和除法运算,其较高的计算时间复杂度和空间复杂度影响嵌入式平台的神经网络计算效率,提高Sigmoid函数计算效率是当前嵌入式计算平台提高神经网络运行效率需要解决的关键问题之一.

Sigmoid 函数主体为e指数运算,常用标准C的math库exp函数实现,分析其源码可知其实现原理为泰勒级数展开法1.为了提高精度,泰勒级数展开法往往需要高阶展开,这样增加了Sigmoid函数的运算复杂度和计算资源的消耗.为了降低Sigmoid函数运算复杂度,目前已提出了如查表法、CORDIC 算法、多项式拟合等方法.

查表法将不同x值所对应的Sigmoid函数值存储在已知存储块中,计算时根据输入变量在已存变量存储块中查找该变量对应的计算值,进而得到计算结果.随着精度的提高所需的存储资源显著增加,资源消耗高[1].CORDIC算法即坐标轴旋转数字计算方法,其本质是通过一系列与运算有关的角度基底θk来逼近……

登录APP查看全文

猜你喜欢

实验
记住“三个字”,写好小实验
记一次有趣的实验
有趣的实验
做个怪怪长实验
NO与NO2相互转化实验的改进
实践十号上的19项实验
《实验流体力学》征稿简则
我实验,我快乐