第3章 神经网络控制- 网络结构(部分).pptx

第3章 神经网络控制模糊控制适合于解决用不确定性语言描述的一些推理问题，模拟了人脑利用模糊语言推理的思维形式。模糊控制在处理数值数据和学习能力方面较差。人工神经网络通过模拟人脑的结构来实现人脑信息处理功能的模拟，并应用这种模拟来解决实际问题。重点是功能模拟，如学习、识别、控制等。人工神经网络可看作用物理上可实现的器件、系统或现有的计算机来模拟人脑结构和功能的人工系统，它具有并行处理、自学习和非线性映射等能力。第1部分 网络结构3.1 神经网络概述3.2 前向神经网络3.3 动态神经网络3.4 径向基函数神经网络3.1 神经网络概述3.1.1 神经网络简介3.1.2 神经网络的发展历史3.1.3 神经网络的特点及发展趋势3.1.4 人工神经元模型3.1.5 神经网络的分类3.1.6 神经网络的运行方式3.1.7 神经网络的学习算法3.1.8 神经网络的泛化能力3.1.1 神经网络简介??3.1.2 神经网络的发展历史初创期(1943-1969)：研究成果包括形式神经元模型(MP模型)的问世(由心理学家McCmloch和数学家Pitts于1943年提出)、神经元学习规则的提出(由心理学家Hebb于1944年提出)、以及感知器模型的建立(由Rosenblatt于1957年提出)。过渡期(1970-1986)：一度陷入低潮，但未中断。研究成果包括：1976年，美国的Grossberg提出了自适应共振理论。1982年，美国加州工学院物理学家Hopfield提出了HNN模型，他引入了“计算能量函数”的概念，给出了网络的稳定性判据。1986年，Rumelhart提出了多层前向传播网络的BP学习算法。发展期(1987-今)：国内外的许多组织和研究机构发起了对神经网络的广泛探讨，并举行了许多有代表意义的学术会议，标志着神经网络的研究在世界范围内形成了又一个高潮。3.1.3 神经网络的特点及发展趋势特点分布式存储信息；(局部受损不至于整体瘫痪，鲁棒性强、容错能力强)并行处理；学习能力；(通过样本数据的训练，充分逼近任意复杂的非线性关系)信息综合能力。(能处理定量和定性信息，并协调多种信息间的联系)应用领域自动控制、信号处理、模式分类、机器人控制、智能计算、优化问题求解、联想记忆、医学诊断、编码理论、金融决策、数据挖掘等领域。待解决问题基础理论框架的研究；网络结构的最佳选择问题；学习的快速性、全局优化、分布式处理及泛化能力方面的问题；控制算法的收敛性和稳定性问题。进一步研究的热点与模糊逻辑的结合；与遗传算法的结合；与专家系统的结合；与小波分析的结合；混沌神经网络；基于粗糙集理论的神经网络。3.1.4 人工神经元模型??????????…??????????????????????3.1.5 神经网络的分类 目前，有40多种不同的网络。按网络的状态特性分连续型与离散型确定性与随机型静态与动态按逼近特性分全局逼近局部逼近按学习方式分有监督学习无监督学习强化学习等按网络连接的拓扑结构分类层次型结构互连型网络结构按网络内部的信息流向分类前向型网络递归型网络层次型结构：将神经元按功能分成若干层，如输入层、中间层(隐层)和输出层，各层顺序相连。互连型网络结构：网络中任意两个节点之间都可能存在连接路径。层次性结构1层次性结构2输出层到输入层有连接 层次性结构3层内有连接互连型网络结构1全互连互连型网络结构2局部互连前向型网络(前馈网络)：神经元分层排列，网络信息处理的方向是从输入层到各隐层再到输出层逐层进行。各神经元之间不存在反馈。感知器和误差反向传播算法中使用的网络属于这种类型。递归型网络(反馈网络)：在递归网络中所有节点都具有信息处理功能，而且每个节点既可以从外界接收输入，同时又可以向外界输出。其中，包含仅从输出到输入的标准反馈，也包含局部递归和全互连情况。信号在神经元间往返传递，最终达到某种平衡状态，还可能进入周期振荡或混沌状态。除了前向网络之外的其他网络均属此类。前向网络反馈网络1从输出层到输入层的标准反馈反馈网络2全互连反馈(画法等价) 反馈网络3局部递归3.1.6 神经网络的运行方式网络运行的两个阶段第一阶段是学习期，此时整个网络的训练样本集固定，各连接权值通过学习来修改，学习的目的是从训练数据中提取隐含的知识和规律，并以权值的形式存储于网络中供工作阶段使用；第二阶段是工作期，此时各连接权值固定，网络对实际输入做出响应，并达到最终的某种输出状态或稳态，整个网络也将相应完成某一特定任务或具有某种特定功能。注：① 前馈网络主要是函数映射，可用于模式识别和函数逼近。② 反馈网络按对能量函数的极小点的利用可分为两种：第一种是能量函数的所有极小点都起作用，可用作联想存储器；第二种只利用全局极小点，可用于求解最优化问题。3.1.7 神经网络的学习算法学习实质