深度学习 课件 第五章 卷积神经网络.pptx
《深度学习》
第五章卷积神经网络
5.1卷积神经网络的生物机理
5.2卷积神经网络的原理和结构
5.3卷积层
5.4池化层
5.5激活函数
5.6空间批量归一化
5.7全连接层
5.8典型的卷积神经网络
5.9全卷积神经网络
5.10图神经网络
1of75
5.1卷积神经网络的生物机理第五章卷积神经网络
●卷积神经网络是基于神经科学的“感受野”(receptivefield)这个概念
而提出。
●感受野(receptivefield)具有局部响应的性质,该特性表明生物视觉神经
系统中的神经元只对一定范围内的刺激信号产生响应。视觉皮层对于图像
信息的处理都是经过这种局部感受野特性(空间局部性、空间方向性、信
息选择性)来进行生物响应的。
●神经网络中卷积层的设计用于模拟视觉皮层中简单细胞的活动。
●复杂细胞的一系列不变性则启发了卷积神经网络中池化单元、跨通道池化
策略(如maxout单元)等的设计。
2of75
《深度学习》
第五章卷积神经网络
5.2卷积神经网络的生物机理
5.2卷积神经网络的原理与结构
5.3卷积层
5.4池化层
5.5激活函数
5.6空间批量归一化
5.7全连接层
5.8典型的卷积神经网络
5.9全卷积神经网络
5.10图神经网络
3of75
5.2卷积神经网络的原理和结构第五章卷积神经网络
卷积ReLU池化层全连接层softmax
输入
M个b个K个
N个
图5-1典型的分类卷积网络结构
该网络中包含N个卷积块,每个卷积块中通常由卷积层和池化层组成,在所有
卷积块之后再连着K个全连接层,最后通过Softmax函数来计算类别的概率,得到
网络想要的结果。
4of75
5.2卷积神经网络的原理和结构第五章卷积神经网络
卷积神经网络发展历程
网络加深
二者结合,
VGG16VGG19MSRANet网络加深+收敛加速
增强卷积模块功能ResNet
NeocognitronInceptionV3