李小夏，李孝安

（西北工业大学 计算机学院，陕西 西安 710129）

神经网络剪枝算法就是在神经网络训练好之后，以一定的标准或者允许误差，删除不重要的网络节点以及网络中部分节点连接的算法[1]。通过剪枝算法，能够使得神经网络的结构得到简化，计算性能（如计算时间）得到优化，同时为神经网络的后期处理，比如神经网络的知识提取等要求网络功能齐全，结构简单的操作打下基础，以防止由于网络结构复杂，造成计算出现组合爆炸的问题[2]。

当前的剪枝算法大致分为3类：1）权衰减法[3]：权衰减法属于正则化方法，它通过在网络目标函数中引入表示结构复杂性的正则化项来达到降低网络结构复杂性的目的。2）灵敏度计算方法[4]：灵敏度计算方法是指在网络进行训练时或在网络训练结束后，计算节点（输入节点以及隐层节点）或连接权对网络误差的贡献（灵敏度），删除那些贡献最小的节点或权。3）相关性剪枝方法[5]：根据节点间相关性或相互作用进行剪枝，也是一种很重要的剪枝方法，最常见的做法是先判断隐节点输出之间的相关性，然后合并具有较大相关性的隐节点。

文中主要是对相关性剪枝算法进行研究，首先介绍相关性剪枝算法的思想和计算方法，然后提出新的基于误差传递的改进方案，最后通过实验建立神经网络，并对网络进行剪枝。将新的剪枝算法获得的网络与标准算法剪枝得到的网络进行对比，新算法下的网络相比于标准算法的网络的精度得到提高。……