深度学习案例教程 教案3.2神经网络搭建.docx

（p1）

同学们大家好，我们来学习第二节神经网络搭建

在神经网络搭建过程最核心的知识点就是前向传播算法。

(p2)

那什么是前向传播算法呢？它是forwardpropagation。

它是指神经网络向前计算的过程。

前向传播算法会涉及到神经网络的输入，神经网络的连接结构，以及每个神经元的参数，

如图，就是一个两层的神经网络。

比如说像这个X1和X2，

我们可以把它当做成绩分类的两个指标，

经过神经网络计算后。

从Y1Y2是输出成绩的类别。

那么。

在这个图中，权重和隐藏层的神经元的，它是右上角的1，它表示权重和神经元的层号。

也就是第一层的权重，以及第一层的神经元。

此外，权重的右下角有两个数字，

它们是后一层神经元和前一层神经元的索引号，比如说W12。

表示前一层的第二个神经元X2到后一层的第一个神经元的权重。

所以权重右下角是按照后一层的索引号、前一层的索引号的顺序排列。

（p3）

那么为了确定前面的内容。

现在用这个数学公式A1的一次方啊，通过加权信号和偏置。

按公式进行计算，比如说我们的A1的一次方等于啊，W11的一次方乘以X1，加上W12的一次方乘以X2加上be的一次方。

那此外如果用矩阵的乘法进行计算的话，

用这个公式来进行操作啊，比如A的一次方等于XW的1次方，加B的一次方。

隐藏层的加权信号和偏值的总和用A表示，

被激活函数转换后的信号一般用Z表示。

我们使用的sigmoid函数来进行激活函数的转换的信号。

Z1等于sigmoid(A1)

所用的激活函数，要根据求解问题的性质去决定，

比如一般回归问题可以使用恒等函数。

二元分类问题可以用sigmod的函数啊，

多元分类问题呢，我们可以使用softmax函数。

关于激活函数的更多知识我们将在后续内容中详细讲解

（p4）

在实际建模解成绩及格分类预测问题时，

首先随机初始化网络模型的权重和偏置参数，

然后每次用训练数据计算得到一个预测值，

接下来将预测值步与真实值y比较，

如果相差较大，则通过反向传播算法调整参数的取值，

以达到优化网络的目的。

这就是我们在神经网络搭建过程中

核心知识点前向传播算法的介绍。