神经网络算法.ppt

Hopfield网络的联想原理E=mc2EinstanNewtNewtonNewyNewyear010302040506所谓联想可以理解为从一种事物联系到与共相关事物的过程。在日常生活中。由一种事物出发，人们会非常自然地联想到与该事物密切相关或有因果关系的种种事物。在这里，我们区分两种联想形式，即。由某种代表事物(或该事物的主要特征。也可能是部分主要特征)联想到其所表示的实际事物，称自联想，由一种事物(或该事物的主要特征，也可能是部分主要特征)联想到与其密切相关的另一事物，称异联想。Hopfield网络的联想原理人工神经元网络（ANN）ArtificialNeuralNetwork生物神经元及生物神经网络什么是人工神经网络?人工神经网络就是基于模仿生物大脑的结构和功能而构成的一种信息处理系统或计算机。生物神经元及生物神经网络按照网络特性静态网络动态网络按照学习方法有导师学习无导师学习0102神经网络的分类感知器（Perceptron）感知器的非线性激励函数感知器的数学描述感知器的线性可分问题多层神经网络的典型结构多层神经网络的例子

模式分类与函数逼近神经网络的反向扩散学习算法ul,1ul,2ul,Nlul,j……u2,1u2,2u2,N2u2,j……uL,1uL,NL……输入层第一层第二层输出层u0,1u0,2u0,ju0,N0…Wl,j,i=?神经网络的反向扩散学习算法神经网络的反向扩散学习算法神经网络的反向扩散学习算法神经网络的反向扩散学习算法神经网络的反向扩散学习算法神经网络的反向扩散学习算法神经网络的反向扩散学习算法神经网络的反向扩散学习算法神经网络的反向扩散学习算法动态网络——Hopfield网络若按照神经网络运行过程中的信息流向来分类，那么所有网络都可分为前馈式网络和反馈式网络，在前一章中，主要介绍了前馈式网络通过许多具有简单处理能力的神经元的复合作用使整个网络具有复杂的非线性映射能力。在那里，着重分析了网络学习算法，研究的重点是怎样尽快地得到网络的整体非线性处理能力。在本章中，我们将集中讨论反馈式网络，通过网络神经元状态的变迁而最终稳定于某一状态而得到联想存贮或神经计算的结果。在这里，主要关心的是网络稳定性的问题，研究的重点是怎样得到和利用稳定的反馈式网络。动态网络——Hopfield网络哈波菲尔德(Hopfield)网络是得到最充分研究和广泛应用的神经网络模型之一。在众多的研究者之中。美国科学家J.J哈波菲尔德(J.JHopfield)的工作具有特别重要的意义，他为这一类网络引入了一种隐定过程，即提出了人工神经网络能量函数(也称李雅普诺夫函数)的概念使网络的运行稳定性判断有了可靠而简便的依据。Hopfield网络在联想存取及优化计算等领域得到了成功的应用，拓宽了神经网络的应用范围。另外Hopfield网络还有一个显著的优点，其与电子电路存在明显的对应关系，使得该网络易于理解和便于实现。。Hopfield网络的结构N1N2NnNn-1……N3……W21W31Wn-1,1Wn,1x1x2x3xn-1xnv1(t)v2(t)v3(t)vn-1(t)vn(t)y1y2y3yn-1ynHopfield网络的结构Hopfield网络的基本结构如图所示，N1，N2，…，Nn表示网络的n个神经元，其转移特性函数为f1，f2，…，fn。门限值为?1，?2，…，?n。对于离散型Hopfield网络，各节点一般选相同的转移特性函数，且为符号函数，即有f1(x)=f2(x)=…=fn(x)=sgn(x)为以后分析方便，我们选各节点门限值相等，且等于0，即有?1=?2=…=?n=0同时，x=(x1,x2,…,xn)，x?{-1,+1}n为网络的输出，y=(y1,y2,…,yn)，y?{-1,+1}n为网络的输出v(t)=(v1(t1),v2(t2),…,vn(tn)),v(t)?{-1,+1}n为网络在时刻t的状态，其中t?(0，1，2，…)为离散时间变量，Wij为从Ni到Nj的连接权值，Hopfield网络是对称的，即Wij=Wji，i,j?{1,2,…,n}。Hopfield网络的结构Hopfield网络为一层