BP神经网络课件全文.ppt

第2部分：BP神经网络12024/11/4

主要内容一.人工神经网络基本知识生物神经网络、生物神经元人工神经网络、人工神经元人工神经网络三要素典型激活函数神经网络几种典型形式二.前馈神经网络、多层感知器、及非线性分类三.BP神经网络四.数据处理及神经网络结构的选择五.应用22

人工神经网络是生物神经网络的某种模型(数学模型)是对生物神经网络的模仿基本处理单元为人工神经元32024/11/4

1.生物神经系统与生物神经元大量生物神经元的广泛、复杂连接，形成生物神经网络(BiologicalNeuralNetwork,BNN)。实现各种智能活动生物神经元(neuron)是基本的信息处理单元42024/11/4

(1)生物神经系统生物神经元(neuron)是基本的信息处理单元,其组成：树突(dendrites),接收来自外接的信息细胞体(cellbody),神经细胞主体，信息加工轴突(axon),细胞的输出装置，将信号向外传递，与多个神经元连接突触（synapsse),神经元经突触向其它神经元（胞体或树突）传递信号52024/11/4

(2)生物神经元的基本特征神经元之间彼此连接神经元之间的连接强度决定信号传递的强弱神经元之间的连接强度可以随训练改变学习、遗忘、疲劳----神经网络中各神经元之间连接的强弱，按外部的激励信号做自适应变化兴奋与抑制信号可以起兴奋作用，也可以起抑制作用一个神经元接受信号的累积效果（综合大小，代数和）决定该神经元的状态(兴奋、抑制)每个神经元可以有一个“阈值”62024/11/4

2.人工神经网络与人工神经元72024/11/4

(1)基本的人工神经元模型McCulloch-Pitts神经元模型输入信号；链接强度与权向量；信号累积激活与抑制82024/11/4

92024/11/4

102024/11/4

112024/11/4

(1)基本的人工神经元模型122024/11/4

(2)输出函数f(2)几种常见形式的传递函数(激活函数)132024/11/4

(2)输出函数f142024/11/4

(2)输出函数f152024/11/4

162024/11/4

172024/11/4

182024/11/4

主要内容人工神经网络基本知识二.前馈神经网络、多层感知器、及非线性分类三.BP神经网络四.数据处理及神经网络结构的选择五.应用192

各神经元接受来自前级的输入，并产生输出到下一级，无反馈，可用一有向无环图表示。网络中的节点分两类：输入节点；计算节点(神经元节点)节点按层(layer)组织：第i层的输入只与第i-1层的输出相连。输入信号由输入层输入,由第一层节点输出，传向下层，……前馈：信息由低层向高层单向流动。-------------------------------------------------可见层输入层(inputlayer)输入节点所在层，无计算能力输出层(outputlayer)节点为神经元隐含层(hiddenlayer)中间层，节点为神经元1.前馈(forward)神经网络202024/11/4

具有三层计算单元的前馈神经网络结构212024/11/4

2.感知器神经网络(感知器)、感知器神经元感知器神经元单层感知器网络22

感知器神经元的传递函数单层感知网络可以实现线性分类2.感知器神经网络、感知器神经元(续)23

(1)多层感知器(MLP)的一致逼近性单个阈值神经元可以实现任意多输入的与、或及与非、或非逻辑门。任何逻辑函数可由两层前馈网络（一层计算单元）实现。三层或三层以上的前馈网络通常称为多层感知器多层感知器的适用范围大大超过单层网络。3.多层感知器（含两层以上的计算单元）242024/11/4

多层感知器示意252024/11/4

262024/11/4

当神经元的输出函数为sigmoid等函数时，三层前馈网络(含两层计算单元)可以逼近任意的多元非线性函数。272024/11/4

主要内容一.人工神经网络基本知识、神经元与感知器二.前馈神经网络、多层感知器、及非线性分类三.BP神经网络四.数据处理及神经网络结构的选择五应用282

基于阈值神经元的多层感知器不足隐含层不直接与外界连接，误差无法直接估计中间层神经元的激活