深度学习第二讲-卷积神经网络.pptx
DeepLearning-卷积神经网络2025.02.10
目录神经网络基础回顾卷积神经网络CNN介绍卷积神经网络原理基于CNN的图像分类实践参考资料QA
神经网络基础回顾激活函数(例如Sigmoid)单个神经元的定义构建复杂网络结构数学推导(目标函数z和成本函数J)
卷积神经网络CNN介绍传统机器学习在图像识别上的缺陷MachineLearningDeepLearningFeatureextractionClassificationFeatureextraction+ClassificationDogCat1.人工提取特征依靠经验,领域知识,成本非常高2.特征提取和学习通过不同算搞定,效果损失大无需人工提取特征,端到端自动提取特征与学习,参数上千万Input传统特征提取方法例如:识别一些拐角,圈的个数,各个方向正交曲线的交叉点个数,颜色分布,轮廓,边缘形状等等,从而获得结构信息,空间特征,形态特征,也出现了OpenCV这样高级工具
卷积神经网络CNN介绍密集全连接神经网络在图像处理上的缺陷Input密集神经网络带来的海量计算:假设输入的是50*50像素的图片(图片已经很小了),这依然有2500个像素点,RGB彩色图像有三个通道,就有2500*3=7500个像素点,也就是7500维度特征,深度比较深时候,对于计算机的计算能力,和训练模型来说都是比较困难一件事1有限特征情况下很有效,在图片这些场景下无效:(特征太多,计算海量)2.照片放缩过程,变形,旋转过程,会丢失有用信息,泛华效果变差
卷积神经网络CNN介绍卷积神经网络解决了什么问题局部感知,提取有价值特征,降低特征数据量降采样,缩小图片,不会引起形态学变化有没有一种方法即解决了密集全连接网络中海量计算问题,又保持优质的精度和泛化效果?卷积神经网络CNNCNN思想(池化pooling)(卷积convolution)
卷积神经网络CNN介绍卷积神经网络应用场景物体检测(objectrecognition),图像识别(imageclassification),风格迁移(neuralstyletransfer),行为认知(actionrecognition),姿态估计(poseestimation)
卷积神经网络原理卷积神经网络结构卷积convolution:利用局部感知原理,提取有价值特征,降低特征数据量池化pooling:降采样(subsampling),缩小图片,不会引起形态学变化全连接fullyconnected:起到“分类器”的作用,本质就是一个多层感知机网络卷积神经网络的重要组件:
t1t2t3tnt0t1t2t3tnt0卷积神经网络原理卷积-什么是卷积(convolution)t1t2t3tnt0f(t)输入信号y(t)输出信号(前n个输出累加)响应信号g(t)是衰减的输出=输入*系统“积”:t-n到t的积分(累加),”卷”:t-n到n-t的方向颠倒
卷积神经网络原理卷积-卷积的作用连续形式离散形式卷积操作在数字信号处理中主要用于滤波,能够对与自身相近的信号产生最大的响应.输入卷积叠加输入卷积叠加
卷积神经网络原理卷积-卷积有什么作用提取到特征:对于识别的特征计算出来的卷积值非常大(50*30)+(50*30)+(50*30)+(20*30)+(50*30)=6600;未提取到特征:对于不能识别的特征,计算出来的卷积值为0数据格式图像特征图过滤器(卷积核)本质:1.小块图形和过滤器长得越像,输出越强的响应。因此,图像卷积的过程本质上是在找图像中符合特定形状的图形区域2.卷积神经网络训练目的实际上就是找一组将来可以过滤有价值特征的过滤器,预测的时候用这组过滤器判断这个图像有没有符合这个过滤器的特征看到的图像
卷积神经网络原理卷积-如何计算卷积(convolution)原始图像存储表示
卷积神经网络原理不同卷积核的不同效果卷积-与过滤器卷积运算后不同抽象程度的特征图
卷积神经网络原理池化-什么是池化(pooling)作用:降采样,缩小图片,不会引起形态学变化求解:图像选定区域内的采样,减少像素信息,只保留重要信息,例如最大值,平均值
卷积神经网络原理特征拉直多维变一维(Flattern)全连接(Fullyconnected)作用:每一个神经元结点都与上一层的所有神经元相连,起到“分类器”的作用全连接(Fullyconnected)
卷积神经网络原理卷积神经网络原理回顾局部感知,提取有价值特征,降低特征数据量降采样,缩小图片,不会引起形态学变化CNN思想(池化pooling)(卷积convolution)