《机器学习》课件 第11章 序列神经网络.pdf
文本预览下载声明
循环神经网络结构
循环神经网络
循环神经网络
•语言建模
•根据前几个词预测下一个词
人工神经网络是对生物神经网络的模
a)拟b)型
c)学d)好
循环神经网络
循环神经网络
•网络结构输出层
ℎ=++
1
隐藏层延迟器
−
输入层
循环神经网络
TheEnd
循环神经网络的训练
反向传播算法——链式法则
局部梯度
梯度
反向传播算法——参数更新
=−
1
训练的参数，学习率，损失函数，
为损失函数在的梯度
随时间反向传播（BPTT）
简记为
4
0
4
=
0
随时间反向传播（BPTT）
3
3=333
显示全部