《深度学习基础及应用》教案 第4课 构建神经网络(二).pdf
课题构建神经网络(二)
课时2课时(90min)
知识技能目标:
(1)掌握神经网络的训练流程和常用算法
(2)掌握神经网络的过拟合及其处理方法
教学目标
素质目标:
(1)了解时代新科技,激发学习兴趣和创新思维,增强民族自信心
(2)提高分析问题和解决问题的能力和自信心
教学重点:神经网络的训练流程,神经网络的欠拟合与过拟合
教学重难点
教学难点:神经网络训练的常用算法,神经网络过拟合的处理方法
教学方法案例分析法、问答法、讨论法、讲授法
教学用电脑、投影仪、多媒体课件、教材
教学过程主要教学内容及步骤
【教师】布置课前任务,和学生负责人取得联系,让其提醒同学通过APP或其他学习软件,完成课
课前任务前任务,请大家提前预习本节课要讲的知识
【学生】完成课前任务
【教师】使用APP进行签到
考勤
【学生】班干部报请假人员及原因
【教师】提出以下问题:
问题导入神经网络训练的流程是怎样的?
【学生】思考、举手回答
【教师】通过学生的回答引入要讲的知识,介绍神经网络的训练、神经网络的过拟合及其处理方法
等内容
3.3神经网络的训练
3.3.1神经网络的训练流程
神经网络的训练是指从训练数据中自动获取最优参数的过程。首先,使用训练数据进行学习,寻找
最优的权重和偏置;然后,使用测试数据评价训练得到的模型的实际能力。具体流程如下。
(1)神经网络的初始化。初始化权重w和偏置b。
(2)前向传播。根据给定的输入x、权重w和偏置b,使用前向传播算法计算得到预测值。
(3)计算损失函数。选择合适的损失函数计算预测值与真实值的差距。
传授新知(4)反向传播。通过反向传播算法求出权重和偏置的梯度,将权重和偏置沿梯度方向进行更新。
(5)重复步骤(2)~(4),直到达到迭代次数。
下面介绍前向传播算法、损失函数、反向传播算法及梯度下降算法。
3.3.2前向传播算法
前向传播算法是指神经网络向前计算最后得到预测值的过程。在神经网络中,前向传播是输入层接
收数据,并将数据传递给隐藏层进行处理,数据在隐藏层的每一层依次处理过后,最后传递给输出层进
行最后的处理并输出的过程。
1
✈【教师】通过多媒体展示“神经网络的前向传播”图片(详见教材),并介绍相关知识
图3-10所示的两层神经网络,它是由包含两个结点(x0和x1)的输入层、包含3个结点(z0、z1和z2)
的隐藏层及包含两个结点(y0和y1)的输出层组成。w(1)是输入层到隐藏层的权重,w(2)是隐藏层到
输出层的权重;b(1)和b(2)是隐藏层和输出层的偏置。
神经网络结构前向传播过程计算如下。
(1)计算隐藏层的输入:输入层的取值xi与权重w(1)的点乘加上对应的偏置b(1),计算公式如下。