BP神经网络要点.ppt

%测试 y0=net(testx); %y0为浮点数输出。将y0量化为1或2 y00=y0; %以1.5为临界点，小于1.5为1，大于1.5为2 y00(y001.5)=1; y00(y00=1.5)=2; rat(i)=sum(y00==testy)/length(y00); trr(i)=length(tr.epoch); end %显示正确率 fprintf(正确率：\n); disp(rat); fprintf(平均正确率：\n) disp(mean(rat)) fprintf(最低正确率：\n) disp(min(rat)) 个人信贷信用评估的实现 %显示训练次数 fprintf(迭代次数：\n) disp(trr) %绘制双坐标图 [AX,H1,H2]=plotyy(1:M,rat,1:M,trr,plot,plot); %设置Y轴的范围 set(AX(1),YLim,[0.70,0.80]) set(AX(2),YLim,[0,5]) %设置线型 set(H1,LineStyle,--) set(H2,LineStyle,:) %设置Y轴标签 set(get(AX(1),Ylabel),String,正确率) set(get(AX(2),Ylabel),String,训练次数) title(BP网络的正确率与训练次数) 个人信贷信用评估的实现 个人信贷信用评估的实现 运行程序，待训练完成后显示如图： 个人信贷信用评估的实现 运算20次，可得到每一次测试的正确率及迭代次数： 个人信贷信用评估的实现 测试20次的平均正确率为75.40%，最低正确率为73.40%，迭代次数均为3次。绘制为双坐标图： 如图所示，正确率曲线大致稳定在0.74-0.76之间，迭代次数稳定在三次。使用BP神经网络对实际信用数据实现了较好的预测。在采用350份正例和150份负例作为训练样本的情况下，以75%左右的正确率成功预测了新客户的信贷信用情况。 matlab实现BP神经网络 生物神经网络 生物神经网络（Biological Neural Networks）一般指生物的大脑神经元，细胞，触点等组成的网络，用于产生生物的意识，帮助生物进行思考和行动。 什么是人工神经网络？ 人工神经网络（Artificial Netural Network，ANN）,通常简称为神经网络。它是一种类似于人类神经系统的信息处理技术，可以视为一种功能强大、应用广泛的机器学习算法。 神经网络的特点 1、自学习和自适应性 2、非线性性 3、鲁棒性与容错性 4、计算机的并行性和存储的分布性 5、分布式存储 神经网络的学习方式 有监督学习 无监督学习 Hebb学习规则 随机学习规则 竞争学习规则 Widrow -Hoff规则 神经网络的应用 1、模式分类 2、聚类 3、回归与拟合 4、优化计算 5、数据压缩 神经网络的应用 单层感知器 线性网络 BP网络 径向基网络 自组织竞争网络 反馈网络 随机神经网络 . . . . . . . . . . 神 经 网 络 模 型 神经网络一个简单例子 BP神经网络 BP（Back Propagation）网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法的神经网络，解决了多层神经网络的学习问题。在实际应用中，大约80%的神经网络模型采取了BP神经网络或BP神经网络的变化形式。 线性神经网络只能解决线性可分的问题，这与其单层网络的结构有关。BP神经网络是包含多个隐含层的网络，具备处理线性不可分的问题的能力。 BP神经网络的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层（input）、隐层(hide layer)和输出层(output layer)。 BP神经网络的特点 （1）网络有多层构成，层与层之间全连接，同一层之间的神经元无连接。 （2）BP网络的传递函数必须可微。 （3）采用误差反向传播算法进行学习。 NOTICE: 误差反向传播 反馈神经网络 反向传播：指的是误差信号反向传播，修正权值时，网络根据误差从后向前逐层进行修正。BP神经网络属于多层前向网络，工作信号始终正向流动，没有反馈结构。 反馈神经网络：其输出除了与当前的输入和网络的权值有关以外，还与网络之前的输入有关。 设计 B P 网络的方法 1、网络层数 2、输入层节点数 3、隐含层节点数 4、输出层神经元个数 5、训练方法的选择