神经网络BP算法的改进及应用研究.pdf

558 计算机技术与应用进展-2006 神经网络BP算法的改进及应用 左旭坤李国丽姜卫东 合肥工业大学电气与自动化工程学院，合肥230009 摘要：针对BP算法收敛速度慢的特点，在隐含层上加入了关联节点，改善了网络的学习速率和 适应能力。并将改进算法用于直流无刷电机调速系统的仿真实例中．仿真结果表明，改进的BP算法 可显著加速网络静}练速度，学习过程具有较好的袄敛挂和鲁棒性。 关键词：BP算法收敛速度关联节点 口 神经网络是一种基本上不依赖于模型的控制方法，它比较适用于那些具有不确定性或高度非线性的控 制对象．并且有较强的自适应和自学习功能，是智能控制的一个重要分支领域…。在形形色色的神经网络 中，BP网络是发展最成熟应用最广泛的～种前向神经网络。但是BP网络学习算法的收敛速度很慢，通常 需要上千次的迭代或者更多，这对很多要求在线实时控制的系统是不适合的。本文针对这个缺点对BP网 络进行了相应的改进，并将改进后的网络应用于直流无刷电机的调速系统仿真中，取得了良好的效果。 2 BP网络算法 BP网络属于多层前馈网络，由于它的连接权调整采用的是反向传播(Back Propagation)的学习算法， 因此被称为BP网络。其主要思想是把学习过程分为两个阶段：第一阶段(正向传播过程)，输入信息从输 入层经隐含层逐层处理并计算各单元的实际输出值：第二阶段(反向调整过程)，若在输出层不能得到期望 的输出，则逐层计算实际输出与期望输出之差即误差，以便根据此差值调整各层权值”’，其过程如图1所 示。 2．1传统的BP网络算法 以上图三层BP网络为例，i为网络输入层、j为网络隐含层、l为网络输出层。在正向传播过程中，每 层单元只接收前一层的输出信息并输出给下一层。设输入层与隐含层之间的连接权值为W，隐含层与输出 层之间的连接权值为W，那么各层神经元的输入输出满足： 隐含层输出为：Yj(t)=，1[芝w』y．(t)】 (2)。 (1)；输出层输出为；y，(≈)：，2【芝～y，(^)】 hI J=l 其中，函数，l，，2取的是sigmoid型函数，n和In分别为网络输入层和隐含层的个数。 到全局最小点的惯性系数，玎为学习的速率，相应的修正公式为： 神经网络BP算法的改进及应用 559 饥 叫 = )f2Y，=和bY，(3) 舯 一 “一毗“ 毛 岳嘲 叫．堡¨肛 毗叫篑一篑‘等，岳=”和_；』帆叭旷峨∥4) 其中：艿。=e，小e，=芝万。w。 这里的s是网络输出层神经元的个数，P．是网络的输入。 2．2改进的BP网络算法 虽然BP算法得到广泛的应用，但它也存在自身的限制与不足，主要表现在学习收敛速度太慢，不能 保证收敛到全局最小等缺点。因此，对BP网络的改进是很有必要的，特别是在实时性需要很高的控制系 统中。一种可行的改进方法是在隐含层上增加一个关联节点，关联节点中储存的是上一步中隐含层的输出 信号。这样隐层节点不仅接收来自输入层的输出信号，还接收自身的一步延时输出信号，有助于提高网络 的收敛速度。改进后的BP网络结构如图2所示。 x1 x2 xrl 图1传统BP网络结构围 图