深度学习循环神经网络.pptx

深度学习之循环神经网络;目录 1：深度学习发展史 2：从神经网络到深度学习 3：循环神经网络基础 4：自然语言处理基础（扩充知识） ;1：深度学习发展史 ;深度学习发展史;深度学习（多层神经网络）;synapse;;;最简单的神经网络： Perceptrons;Single Layer Perceptrons;两类样本：白色和黑色 分类错误的样本用红色轮廓 目标：分类正确所有样本，直到没有红色轮廓的样本。;Single Layer Perceptrons：局限性;;;2：从神经网络到深度学习;神经网络;深度学习思想起源：人脑视觉机理; 人的视觉系统的信息处理是分级的； 高层的特征是低层特征的组合，从低层到高层的特征表示越来越抽象，越来越能表现语义或者意图； 抽象层面越高，存在的可能猜测就越少，就越利于分类；;为什么需要深度？;常见深度学习网络一览;深度学习网络按是否有监督分类：;3：循环神经网络（RNN）;递归神经网络模型;递归神经网??模型;Recurrent Neural Network;RNN发展历史;Recurrent Neural Network;Recurrent Neural Network;Recurrent Neural Network;Recurrent Neural Network;循环神经网络模型;循环神经网络模型;循环神经网络模型;循环神经网络模型;循环神经网络模型;其中： 依赖于 ，而 又依赖于 和W ，依赖关系 一直传递到 t = 0 的时刻。因此，当我们计算对于W 的偏 导数时，不能把 看作是常数项！;同样： 依赖于 ，而 又依赖于 和U 。 类似求W，当我们计算对于U 的偏导数时，也不 能把 看作是常数项！;循环神经网络模型;递归神经网络模型;4：自然语言处理基础;4.1：什么是自然语言处理？ 概念：研究人和计算机之间用自然语言进行通信的各种理论和方法;4.2：词向量;4.3：Word2Vec;4.4：工作原理;4.4：工作原理;4.4：工作原理;4.5：工作模式;4.6：实验步骤;