常见的BP神经网络在分类与预测中的应用.ppt

一、 BP神经网络 二、 徽章的分类 三、光催化臭氧氧化处理自来水 (2)使用S型激活函数时BP网络输入与输出关系 A. 正向传播 输入样本－－－输入层－－－各隐层－－－输出层 B. 判断是否转入反向传播阶段 若输出层的实际输出与期望的输出（教师信号）不符. C. 误差反传 误差以某种形式在各层表示－－－－修正各层单元的权值. D. 网络输出的误差减少到可接受的程度 进行到预先设定的学习次数为止 (6) 网络结构 输入层有n个神经元，隐含层有p个神经元, 输出层有q个神经元 (7) 变量定义 %以每三个月的销售量经归一化处理后作为输入 P=[0.5152 0.8173 1.0000 ; 0.8173 1.0000 0.7308; 1.0000 0.7308 0.1390; 0.7308 0.1390 0.1087; 0.1390 0.1087 0.3520; 0.1087 0.3520 0.1065; ?]; %以第四个月的销售量归一化处理后作为目标向量 T=[0.7308 0.1390 0.1087 0.3520 0.1065 0.3761]; %创建一个BP神经网络，每一个输入向量的取值范围为[0 ,1],隐含层有5个神经%元，输出层有一个神经元，隐含层的激活函数为tansig，输出层的激活函数为%logsig，训练函数为梯度下降函数. net=newff([0 1;0 1;0 1],[5,1],{tansig,logsig},traingd); net.trainParam.epochs=15000; net.trainParam.goal=0.01; %设置学习速率为0.1 LP.lr=0.1; net=train(net,P,T); (2)使用S型激活函数时BP网络输入与输出关系 1.2.3 BP神经网络模型 输出的导数 根据S型激活函数的图形可知,对神经网络进行训练，应该将net的值尽量控制在收敛比较快的范围内. 输入 输出 BP神经网络在分类与预测中的应用 一、 BP神经网络 1.1 神经网络(Artificial Neural Netwroks,简称ANN) 1.2 BP神经网络 1.2.1 BP神经网络概述 1.2.2 BP神经网络特点 1.2.3 BP神经网络模型 1.2.4 BP神经网络的标准学习算法 1.2.4 BP网络的标准学习算法 (1) 学习的过程 在外界输入样本的刺激下，不断改变网络连接的权值，以使网络的输出不断地接近期望的输出。 (2) 学习的本质 对各连接权值的动态调整 (3) 学习规则 权值调整规则，即在学习过程中网络各神经元的连接权值变化所依据的一定调整规则。 1.2.4 BP网络的标准学习算法 将误差分摊给各层的所有单元-----各层单元的误差信号 修正各单元权值 C. 学习的过程： 信号的正向传播 误差的反向传播 (4) 算法思想 A. 学习的类型 有导师学习 B. 核心思想 将输出误差以某种形式通过隐层向输入层逐层反传 1.2.4 BP网络的标准学习算法 (5) 算法核心 1.2.4 BP网络的标准学习算法 输入向量 隐含层输入向量 隐含层输出向量 输出层输入向量 输出层输出向量 1.2.4 BP网络的标准学习算法 输入层与中间层的连接权值 隐含层与输出层的连接权值 隐含层各神经元的阈值 输出层各神经元的阈值 样本数据个数 激活函数 误差函数 期望输出向量 (8) 算法步骤 1.2.4 BP网络的标准学习算法 第一步，网络初始化 给各连接权值分别赋一个区间(-1，1)内的随机数,设定误差函数e，给定计算精度值?和最大学习次数M。 第二步，随机选取第k个输入样本及对应期望输出 (8) 算法步骤 1.2.4 BP网络的标准学习算法 第三步，计算隐含层各神经元的输入和输出 (8) 算法步骤 1.2.4 BP网络的标准学习算法 第四步，利用网络期望输出和实际输出，计算误差函数对输出层的各神经元的偏导数 。 第五步， 利用隐含层到输出层的连接权值、 输出层的 和隐含层的输出计算误差函数对隐含层各神经元的偏导数 。 (8) 算法步骤 1.2.4 BP网络的标准学习算法 (8) 算法步骤 1.2.4 BP网络的标准学习算法