第二章：人工神经网络原理与模型.ppt

第二章 ANN基本原理与模型;神经元原理与模型;2.2.1 生物神经元的结构与功能特性 1. 生物神经元的结构 神经细胞是构成神经系统的基本单元，称之为生物神经元，简称神经元。神经元主要由三部分构成： （1）细胞体;（2）轴突;（3）树突; (如图2.2.1); 突触是神经元之间相互连接的接口部分，即一个神经元的神经末梢与另一个神经元的树突相接触的交界面，位于神经元的神经末梢尾端。突触是轴突的终端。 2. 神经元的功能特性 （1）时空整合功能。 （2）神经元的动态极化性。 （3）兴奋与抑制状态。 （4）结构的可塑性。 （5）脉冲与电位信号的转换。 （6）突触延期和不应期。 （7）学习、遗忘和疲劳。;2.2.2 人工神经网络的组成与结构 1. 人工神经网络的组成 人工神经网络（简称ANN）是由大量处理单元经广泛互连而组成的人工网络，用来模拟脑神经系统的结构和功能。而这些处理单元我们把它称作人工神经元。 人工神经网络（ANN）可看成是以人工神经元为节点，用有向加权弧连接起来的有向图。在此有向图中，人工神经元就是对生物神经元的模拟，而有向弧则是轴突—突触—树突对的模拟。有向弧的权值表示相互连接的两个人工神经元间相互作用的强弱。 ; ; 阈值型函数又称阶跃函数，它表示激活值σ和其输出f(σ )之间的关系。阈值型函数为激发函数的神经元是一种最简单的人工神经元，也就是我们前面提到的M-P模型。 线性分段函数可以看作是一种最简单的非线性函数，它的特点是将函数的值域限制在一定的范围内，其输入、输出之间在一定范围内满足线性关系，一直延续到输出为最大域值为止。但当达到最大值后，输出就不再增大。 S型函数是一个有最大输出值的非线性函数，其输出值是在某个范围内连续取值的。以它为激发函数的神经元也具有饱和特性。 双曲正切型函数实际只是一种特殊的S型函数，其饱和值是－1和1。;3.人工神经网络的结构 人工神经网络中，各神经元的不同连接方式就构成了网络的不同连接模型。常见的连接模型有: 前向网络。 从输出层到输入层有反馈的网络。 层内有互联的网络。 互联网络。;前向网络;有反馈的前向网络;层内有结合的前向网络;4. 人工神经网络的分类及其主要特征 分类 按性能分：连续型和离散型网络，或确定型和随机型网络。 按拓扑结构分：有反馈网络和无反馈网络。 按学习方法分：有教师的学习网络和无教师的学习网络。 按连接突触性质分：一阶线性关联网络和高阶非线性关联网络。;2.2 感知器ANN;2.3.1 感知器模型 感知器模型是美国学者罗森勃拉特（Rosenblatt）为研究大脑的存储、学习和认知过程而提出的一类具有自学习能力的神经网络模型，它把神经网络的研究从纯理论探讨引向了从工程上的实现。 Rosenblatt提出的感知器模型是一个只有单层计算单元的前向神经网络，称为单层感知器。;单层感知器模型;单层感知器工作原理 单层感知器可将外部输入分为两类。当感知器的输出为+1时，输入属于 类，当感知器的输出为-1时，输入属于 类，从而实现两类目标的识别。在多维空间，单层感知器进行模式识别的判决超平面由下式决定： ;单层感知器工作原理 对于只有两个输入的判别边界是直线（如下式所示）,选择合适的学习算法可训练出满意的 和 ，当它用于两类模式的分类时，相当于在高维样本空间中，用一个超平面将两类样本分开。 ;2.3.2 单层感知器学习算法思想 基于迭代的思想，通常是采用误差校正学习规则的学习算法。 可以将偏差作为神经元突触权值向量的第一个分量加到权值向量中 输入向量和权值向量可分别写成如下的形式： 令上式等于零，可得到在多维空间的单层感知器的判别超平面。 ;第一步,设置变量和参量。 为激活函数, 为网络实际输出， 为期望输出， 为学习速率， 为迭代次数， 为实际输出与期望输出的误差。 第二步,初始化 给权值向量 的各个分量赋一个较小的随机非零值，置 第三步,输入一组样本 ，并给出 它的期望输出 。 第四步,计算实际输出: 第五步,求出期望输出和实际输出求出差 根据误差判断目前输出是否满足条件，一般为对所有样本误差为零或者均小于预设的值，则算法结束，否则将n值增加1，并用下式调整权值： 然后转到第四步，进入下一轮计算过程 ;线性不可分问题 单层感知器不能表达的问题被称为线性不可分问题