人工智能综合项目开发 课件 -第三章 全连接神经网络.pptx

人工智能综合项目开发;;全连接神经网络

机器学习与深度学习

机器学习

（1）机器学习简介

机器学习（MachineLearning）是从人工智能中产生的一个重要学科分支，是实现智能化的关键。如图5-1所示，机器学习是将现实中的问题抽象为数学问题，计算机通过解决此数学问题从而解决现实中的实际问题的一门学科。因此机器学习是专门研究计算机怎样模拟或实现人类的学习行为，以获取新知识或技能，再重新组织已有的知识结构使之不断改善自身的性能的一门学科技术。;图5-1机器学习

（2）机器学习定义

从广义上来说，机器学习是一种能够赋予机器学习的能力以此让它完成直接编程无法完成的功能的方法。

图5-2人与机器学习对比

如图5-2所示，人类学习过程：通过以往问题总结其中的规律，并进行归纳总结提炼为经验，当遇到新的问题时，根据以往总结的经验解决此问题。机器学习过程：通过;很多的历史数据进行模型训练，当新的数据来临时，根据训练完成的模型来预测结果。

（3）机器学习的学习形式分类

根据机器学习的学习形式可分为：有监督学习、无监督学习、半监督学习、强化学习。

有监督学习：从给定的有标注训练数据集中学习出一个函数（模型参数），当新的数据到来时可以根据这个函数预测结果。常见任务包括分类与回归。如图5-3所示，描

12表示行走速度，Y标记为1代表年轻人，标记为-1代表老年人。通过已有X的数据训练模型，最终可以实现根据新的数据分辨是年轻人还是老年人。;图5-3二分类问题

如图5-4所示，描述的是一个线性回归问题，X代表房屋的面积，Y代表房屋的价格，通过已有X的数据训练模型，最终可以实现输入新的房屋面积预测出房屋的价格。;图5-4线性回归问题

半监督学习：如图5-5所示，结合（少量的）标注训练数据和（大量的）未标注数据来进行数据的分类学习。

图5-5半监督学习

如图5-6所示，有少量马的图片有标签，剩余的都没有，然后根据标签数据对未知数据打标签做归类。;图5-6标签归类

无监督学习：如图5-7所示，没有标注的训练数据集，需要根据样本间的统???规律对样本集进行分析。常见任务如聚类等。;图5-7无监督学习

强化学习：如图5-8所示，强化学习（ReinforcementLearning，简称RL）是机器学习的一个重要分支，它的本质是解决自动进行决策，并且可以做连续决策。用于描述和解决智能体（agent）在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题。;图5-8强化学习

如图5-9所示：让计算机学着去玩FlappyBird（飞扬的小鸟），不需要设置具体的策略，比如先飞到上面，再飞到下面，只是需要给算法定一个“小目标”，比如当计算机玩的好的时候，就给它一定的奖励，它玩的不好的时候，就给它一定的惩罚，在这个算法框架下，它就可以越来越好，超过人类玩家的水平。;图5-9飞扬的小鸟

（4）机器学习应用范围

机器学习算法被广泛应用于模式识别，统计学习，数据挖掘，计算机视觉，语音识别，自然语言处理等领域，如图5-10所示。;图5-10机器学习与相关学科

从范围上来说，机器学习跟模式识别，统计学习，数据挖掘是类似的，同时，机器学习与其他领域的处理技术的结合，形成了计算机视觉、语音识别、自然语言处理等交叉学科。并且，我们通常所说的机器学习应用，应该是通用的，不仅仅局限在结构化数据，还有图像、音频等应用。;深度学习

（1）深度学习简介

深度学习（DeepLearning）是机器学习领域中一个新的研究方向，深度学习是学习样本数据的内在规律和表示层次，这些学习过程中获得的信息对诸如文字，图像和声音等数据的解释有很大的帮助。深度学习是一个复杂的机器学习算法，在语音和图像识别方面取得的效果，远远超过先前相关技术。

图5-11深度学习发展历程

由上图5-11可以明显看出深度学习（DeepLearning）在从06年崛起之前经历了两;个低谷，这两个低谷也将神经网络的发展分为了三个不同的阶段：

第一阶段：最早的神经网络（NeuralNetworks）的思想起源于1943年的MCP人工神经元模型，该模型将神经元简化为了三个过程：输入信号线性加权，求和，非线性激活（阈值法）。第一次将MCP用于机器学习的是1958年Rosenblatt发明的感知器（perceptron）算法。该算法使用MCP模型对输入的多维数据进行二分类，且能够使用梯度下降法从训练样本中自动学习更新权值。1962年，该方法被证明为能够收敛，理论与实践效果引起第一次神经网络的浪潮。

第二阶段：Hinton