闫 贺，郭秀娟

吉林建筑大学 电气与计算机学院，长春 130118

1 概述

神经网络是通过对动物神经模拟出来的一种分布式处理信息的数学模型,最早由心理学家W·Mcculloch和数理逻辑学家W·Pitts提出,并且沿用至今.神经网络中最基本的成分是神经元模型[1].模型如图1所示.

图1 神经网络模型Fig.1 Neural network model

图1中的每一个圆圈代表一个神经元,每条线代表一个神经元的连接,神经元被分成了很多层,每个层之间都有链接,而同一层之间没有链接[2].

在动物神经网络中神经元对应人工神经网络的感知器,感知器是由输入权值、激活函数、输出组成的.一个感知器可以有多个输入x，并且带有一个权值w.激活函数有很多个选择,其中常用的为:

(1)

模型的输出为:

y=f(w*x+b)

(2)

人工神经网络的模型公式为:

y=f(∑w*x+b)

(3)

式中,w为权值;x为输入;y为输出;b是偏置项.

1986年辛顿提出了反向传播,通过误差最小得到新的权重等信息,然后更新整个网络参数.指定学习的速率λ(超参数),通过变化率和学习速率乘积得出各个权重以及偏置项在一次训练之后变化多少,以提供给第二次训练使用.这个理论的提出使神经网络的研究迎来了一轮热潮.

近几年，卷积神经网络在图像处理中的应用不断增加.由于手写文字数量庞大、种类繁多,普通的机器识别准确率很低,但卷积神经网络的出现可以解决这一问题,大大提升了准确率.手机的解锁方式层出不穷,但近几年人脸识别解锁的方案成为最流行的解锁方案,这也离不开卷积……