第5章 人工神经网络_matlab工具箱.ppt

模式识别讲义第5章 人工神经网络;主要内容;0 引例:神经网络函数拟合(预测);matlab代码;∑;1 matlab神经网络工具箱;1.1 网络数据对象的建立;1.2 网络数据对象net的属性;net.trainParam.epochs：最大训练步数。不过当误差准则满足时，即使没达到此步数也停止训练。缺省为100。 net.trainParam.goad：网络误差准则，当误差小于此准则时停止训练，缺省为0。 net.trainFcn：训练算法。缺省为 ’trainlm’，即Levenberg-Marquardt算法。还可使用‘traingdx’，即带动量的梯度下降算法；’traincgf’，即共轭梯度法。 其它可看matlab帮助:help-contents- Neural Network Toobox- Network Object Reference; help(net.trainFcn);help newff Caution: trainlm is the default training function because it is very fast, but it requires a lot of memory to run. If you get an out-of-memory error when training try doing one of these: Slow trainlm training, but reduce memory requirements by setting net.trainParam.mem_reduc to 2 or more. (See help trainlm.) Use trainbfg, which is slower but more memory-efficient than trainlm. Use trainrp, which is slower but more memory-efficient than trainbfg. ;1.3 网络的训练;1.4 网络的泛化(预测);2 人工神经网络(ANN)简介;2.1 人工神经网络(ANN)的研究内容;2.2 ANN研究的目的和意义;2.3 人工神经网络研究的局限性;3 前馈神经网络(BP网络);3.1 前馈神经网络(BP网络)的特点;自学习和自适应能力：神经网络在训练时，能从输入、输出的数据中提取出规律性的知识，记忆于网络的权值中，并具有泛化能力，即将这组权值应用于一般情形的能力。神经网络的学习也可以在线进行。 数据融合的能力：神经网络可以同时处理定量信息和定性信息，因此它可以利用传统的工程技术（数值运算）和人工智能技术（符号处理）。 多变量系统：神经网络的输入和输出变量的数目是任意的，对单变量系统与多变量系统提供了一种通用的描述方式，不必考虑各子系统间的解耦问题。;3.2 BP网络输入/输出变量的确定;3.3 BP网络数据的预处理;3.4 BP网络隐层数的确定;3.5 BP网络隐层节点数的确定;在确定隐层节点数时必须满足下列条件： (1)隐层节点数必须小于N-1（其中N为训练样本数），否则，网络模型的系统误差与训练样本的特性无关而趋于零，即建立的网络模型没有泛化能力，也没有任何实用价值。同理可推得：输入层的节点数（变量数）必须小于N-1。 (2) 训练样本数必须多于网络模型的连接权数，一般为2~10倍，否则，样本必须分成几部分并采用“轮流训练”的方法才可能得到可靠的神经网络模型。 ;3.6 BP网络的训练算法;3.7 BP网络的学习率和冲量系数的选择;3.8 BP网络的初始连接权值;3.9 BP网络的性能和泛化能力;4 实例：多元神经网络预测;实验号;实验号; 网络分为4层。各层节点数分别为：输入层2个；第一隐层12个；第二隐层6个；输出层1个。;模型的参数;;; ;5 实验：神经网络分类