《深度学习项目案例开发》课件汇总 张明 第1--8部分-深度学习概况 ---Transformer 的自然语言处理应用.pptx
深度学习基础知识;NVIDIA深度学习学院(DLI);要查看课堂笔记，请全屏显示并单击“notes”（笔记）按钮;欢迎大家！;本课程的目标;;;愉快地学习！;;我们开始吧;AI的历史;人工智能的开端;早期神经网络;专家系统;专家系统–局限性;儿童如何学习？;深度学习的革命;数据;计算能力;GPU的重要性;什么是深度学习？;深度学习彻底颠覆了传统的编程方法;传统编程;机器学习;这是一个根本性的转变;何时选择深度学习;深度学习与其他AI对比;深度学习正在如何令世界改观;计算机视觉;自然语言处理;推荐系统;强化学习;课程概述;实战练习;课程结构;课程所用平台;;第一项练习：
对手写体数字进行分类;认识神经网络;让我们开始吧！;;深度学习基础知识;;;练习回顾;数据准备;数据准备;未训练的模型;更简单的模型;更简单的模型;更简单的模型;更简单的模型;更简单的模型;更简单的模型;损失曲线;损失曲线;损失曲线;损失曲线;损失曲线;损失曲线;优化器;从神经元到网络;构建网络;构建网络;构建网络;激励函数;激励函数;激励函数;激励函数;过拟合;过拟合;过拟合;过拟合;训练数据和验证数据对比;从回归到分类;MNIST模型;MNIST模型;MNIST模型;将RMSE用于概率？;将RMSE用于概率？;多分类交叉熵;多分类交叉熵;多分类交叉熵;融会贯通;下一个练习;开始吧！;附录：梯度下降;;损失曲线;损失曲线;损失曲线;损失曲线;损失曲线;损失曲线;/DLI;深度学习基础知识;;;练习回顾;内核和卷积;调暗
;调暗
;内核和卷积;内核和卷积;内核和卷积;内核和卷积;内核和卷积;内核和卷积;步长;填充;填充;内核和神经网络;内核和神经网络;内核和神经网络;内核和神经网络;查找边缘;神经网络感知;神经网络感知;模型中的其他层;最大池化;Dropout;完整架构;开始吧！;/DLI;深度学习基础知识;;;练习回顾;练习回顾;数据增强;数据增强;图像翻转;旋转;缩放;宽度和高度偏移;单应性变换（homography）;亮度;通道偏移;模型部署;模型部署;模型部署;模型部署;我们来试一试！;/DLI;深度学习基础知识;;;复习迄今所学的概念;复习迄今所学的概念;预训练模型;预训练模型;预训练模型;下一个挑战;迁移学习;后续挑战;迁移学习;迁移学习;迁移学习;迁移学习;迁移学习;我们开始吧！;/DLI;深度学习基础知识;;;继续学习;AI领域;AI领域;AI领域;自然语言处理;
字典
;将单词转换为数字;将单词转换为数字;将单词转换为数字;将单词转换为数字;循环神经网络;
字典
;
字典
;
字典
;
字典
;
字典
;
字典
;
字典
;循环神经网络;其他架构;自编码器;自编码器;自编码器;生成式对抗网络(GAN);强化学习;思维实验和结束语;模仿火箭科学;现在开始做最后一个练习！;;构建基于Transformer的自然语言处理应用（第一部分）
NVIDIA深度学习培训中心（DLI）/dli
;;;NLP是很多应用的基础;自然语言
处理;当前支持的功能一览;Copyright?2022NVIDIACorporation.本材料是NVIDIA的专有信息，未经NVIDIA授权不得分发;;;对问题进行形式化;机器学习;机器学习;;;;;文本表征;词袋;分布式词表征;分布式假设;共现模式;共现模式;;降维;LSA/LSI;LSA/LSI;LLSA/LSI;LSA/LSI;LSA/LSI;LSA/LSI;LSA/LSI;我们是否取得了更大的进展？;截止2010年的状况;;为何不用神经网络做同样的事情？;截止2010年的状况;Word2Vec;Word2Vec;GloVe;GloVe;GloVe;GloVe;GloVe;使用嵌入向量;;;传统方法;传统方法;如何实施特征工程呢？;深度表征学习;深度表征学习;;时间循环神经网络;长短期记忆(LSTM)单元;CNN;卷积神经网络;注意力机制;对长序列的效果如何？;对长序列的效果如何？;注意力;注意力;注意力;注意力;;您只需要注意力;您只需要注意力;这本身是一项突破吗？;您只需要注意力;您只需要注意力;神经网络的嵌入;特征复用;复用NLP嵌入向量十分困难;半监督式序列学习;半监督式序列学习;半监督式序列学习;ELMo;ELMo;ULM-Fit;NLP中的迁移学习;这为全新的NLP模型奠定了基础
（将会在下节课中讨论）;实验;您只需要注意力;Bert;下节课中……;自监督、BERT及模型;;学习更多DLI课程
访问/dli;构建基于Transformer的自然语言处理应用（第二部分）
NVIDIA深度学习培训中心（DLI）/d