神经网络课程实验三hopfield网络(Matlab).docx

实验三 Hopfield 网络学习算法的简单应用1．不同印刷版本数字8的识别实验目的加深对Hopfield 网络学习算法的理解通过实验了解Hopfield学习算法的工作原理通过上机实验掌握具体的实现方法实验原理Hopfield 网络Hopfield 网络是一种具有全互联结构的递归神经网络，其具有反馈机制的非线性动力学系统，反映了生物神经系统结构的复杂性。该网络一般分为离散型（DHNN）和连续型（CHNN）两种，其标准的网络能量函数可以表示为:.式中：是神经元i和神经元j的连接权值；是神经元i的输入阈值；和分别是神经元i和神经元j的输出值。 在满足一定条件下，能量函数的能量在网络运行过程中不断减小，最后趋于稳定的平衡状态。Hopfield 网络自提出以来，已成功应用于多个方面。网络的定义 一个 n 阶的 Hopfield 网络是一个五元组：其中：1）GF：规定 DHN(n) 拓扑结构的扩展模糊图：其中，N(GF) = {Ni(i)1in} 是非空神经元集合，每一个神经元 Ni 附有阈值 i；E(GF) = {eij1i,jn} 是边的集合，eij 是 NiNj 的边； A(GF) = (wij)nn 是联系矩阵，wij 是 NiNj 的联系效率。2）IF N(GF)：输入域。3）OF N(GF)：输出域。4）WA：工作算法，令 oi(t) {-1,1} 为 Ni 在 t 时刻的状态，o(t) =(o1(t),o2(t),…,on(t))T 为 N(GF)在 t 时刻的状态向量 (t=0,1,2,…)，则：其中，oI {-1,1}nI 1 (nI n) 和 oO {-1,1}nO 1 (nO n) 分别为 IF 和 OF 的状态向量。5) OA：自组织算法对 Hopfield 网络而言，一般情况下，IF = OF = N(GF)，即： oI = oO = o。实际上，给定神经元的阈值和神经元之间的联系效率即可唯一地确定一个Hopfield 网络，给定神经元的阈值和神经元之间的联系效率即可唯一地确定一个Hopfield 网络。因此，一个 n 阶的 Hopfield 网络可简记为：。其中：1) W = A(GF) ：DHN(n) 联系矩阵。2) =(1,2,…,n)T：DHN(n) 阈值向量N阶DHN 拓扑结构工作算法Hopfield 网络的工作模式：设 N 为 n 阶 Hopfield 网络 DHN(n) 每一时刻需要调整其状态的神经元的数量，则按 N 的数量：串行模式 (Serial Mode)：N = 1并行模式 (Parallel Mode)： N≥2.(部分并行模式和全并行模式)按每一时刻选择 DHN(n) 需要调整其状态的神经元的方式的不同，又可分为：确定模式 (Deterministic Mode)随机模式 (Random Mode)对于 Hopfield 网络的工作算法 WA： 如果在给定的离散时刻 t{0,1,2,…}，NSk (k {1,2,…,m} 的选择则是随机地，则 WA 为随机工作模式，否则，为确定性工作模式。如果 k {1,2,…,m}，|Ik| = 1，即每一个集合 NSk (k {1,2,…,m} 中只有一个神经元，则 WA 为串行模式；如果 m=1，则 WA 为全并行模式；如果 k {1,2,…,m}，1|Ik|m，则 WA 为部分并行模式。Hopfield 网络记忆或学习Hopfield 网络的运行过程是将初始状态转移至稳定状态的过程。Hopfield 网络由初始状态运行至稳定状态的过程可以被理解为神经系统的联想记忆过程。稳定状态就是 Hopfield 网络记忆的内容。外积法 (Outer Product Method) 是 Hopfield 网络综合设计方法之一。该方法源于 Hebb 学习律。Hebb 学习律：设有一个 n 维的 Hopfield 网络DHN(n)，对任意 i,j{1,2,…,n}，若 DHN(n) 的状态值 oi 和 oj 符号相同，即 DHN(n) 的神经元 Ni 和 Nj 同时处于兴奋或抑制，则它们的联系效率 wij 应该得以加强，反之， wij 应该减弱。外积法 (1)： 向量形式为：。外积法 (2)： 相应的向量形式为：实验内容以数字 8 为例，选择 N 个不同印刷字体的 8，编码后对其进行正交化，然后将其作为范例集合 Exemplar = {O(s)|s=1,2,…,N} 中的范例。编码： O(9) = (-1, -1, -1,-1,-1,1,1,…)T构造 Hopfield 网络：目标是识别 8验证范例的可识别性以及考察非范例的含噪声模式的可识别性本次实验共准备了7种不同印刷体的8，并对他们进行了逐一编码，令1代表白，-1代表黑。从而得到整合后的目标向量