智能控制理论及应用 第9章 径向基函数神经网络.ppt
主要内容9.1径向基函数RBF9.2正则化RBF神经网络9.3广义RBF神经网络9.4RBF神经网络仿真示例9.1径向基函数第9章9.1径向基函数径向基函数(RadialBasisFunction,RBF)是某种沿径向对称的标量函数,通常定义为样本到某一中心点之间的距离(通常是欧氏距离)的函数。高斯(Gauss)型径向基函数9.1径向基函数第9章9.1径向基函数RBF最初的工作由Powell等人在20世纪80年代完成,当时RBF被用来解决多维空间中的精确插值问题。已有学者做过实验:用不同方法对大量的各种散乱数据进行插值,径向基函数插值的结果最令人满意。可以证明,在一定条件下,径向基函数可以逼近几乎所有函数。9.3.1广义RBF神经网络的结构第9章9.3.1广义RBF神经网络的结构三层网络正则化BRF网络:隐含层节点数等于输入样本数;广义RBF网络:r个隐层节点,且rm(输入样本数)9.3.1广义RBF神经网络的结构三层网络为隐层节点对应基函数的中心和宽度第9章9.3.1广义RBF神经网络的结构课堂小练习x1c1x2c3C4w5w6o1h1h2b请写出输出o1和输入x1,x2的函数。c29.3.2广义RBF神经网络的功能1函数逼近第9章9.3.2广义RBF神经网络的功能考虑一个1-2-1的RBF网络(图9-4),隐含层及输出层参数分别如下图9-5展示了该网络在输入区间变化时网络输出曲线,可以看出网络的输出y是隐层基函数的线性组合。9.3.2广义RBF神经网络的功能第9章9.3.2广义RBF神经网络的功能图(a):隐层基函数的中心值变化的对比曲线,可以看出基函数的中心点影响曲线峰值的位置。图(b):隐层基函数宽度变化的对比曲线,从中可以看出基函数的宽度越大,基函数越宽、越平缓,反之也越窄、越抖。图(c):输出层权值变化的对比曲线,从中可以看出:输出层权值对基函数进行缩放。图(d):输出层偏置变化的对比曲线,从中可以看出:输出层偏置让网络的响应上下移动。参数变化对网络输出的影响9.3.2广义RBF神经网络的功能2模式分类(异或问题)第9章9.3.2广义RBF神经网络的功能在原坐标中无法线性可分的异或问题,在RBF网络中,经基函数映射后已经转化为线性可分模式。9.3.3广义RBF网络的学习算法*需要学习的参数第9章9.3.3广义RBF神经网络的学习算法两阶段算法阶段1:隐含层权重(均值,方差)–Kmeans算法阶段2:隐含层和输出层之间的权重–LMS方法第9章9.3.3广义RBF神经网络的学习算法9.3.3广义RBF网络的学习算法第9章9.3.3广义RBF神经网络的学习算法9.3.3广义RBF网络的学习算法例9.1K-means算法讲解此例中:K=21.基于聚类算法得到基函数的中心值第9章9.3.3广义RBF神经网络的学习算法9.3.3广义RBF网络的学习算法2.计算得到基函数的宽度9.3.3广义RBF神经网络的学习算法9.3.3广义RBF网络的学习算法第9章3.基于LMS的隐层到输出层的权值和偏置的学习LMS:前面学习过的LeastMeanSquare9.3.3广义RBF神经网络的学习算法9.3.3广义RBF网络的学习算法第9章9.4RBF神经网络仿真示例9.4RBF神经网络仿真示例第9章利用RBF神经网络通过训练逼近如下函数:9.4RBF神经网络仿真示例%清理操作clear;closeall;clc;%产生样本x=-4:0.05:4;%训练样本输入t=1.1*(1-x+2*x.^2).*exp(-x.^2/2);%训练样本目标值testx=-2:0.04:2;%测试样本输入targetx=1.1*(1-testx+2*testx.^2).*exp(-testx.^2/2);%测试样本目标值goal=1e-3;%设定网络的误差目标net1=newr