人工智能基础与应用(第2版)(微课版)课件 模块3 线性回归:预测未来趋势.pptx
3-1认识机器学习模块?线性回归:预测未来趋势
目录CONTENTS机器如何学习01机器学习算法02
一.机器如何学习1.机器学习的一般流程机器通过学习,就具备了可以自主获得事物规律或解决问题的能力
一.机器如何学习2.机器学习的三要素经验数据从哪学?算法怎么学?模型学到什么?以算力作为支撑
二.机器学习算法1.监督学习所谓监督学习:是指机器在有已知输入值xi和输出值y的经验数据(样本)的情况下开展的学习。学习方法特点:(1)训练的数据有标签(label)。(2)样本的特征和标签已知。(3)学习的目的就是建立一个将输入准确映射到输出的模型。基于动物特征的猫鼠分类的监督学习
二.机器学习算法2.无监督学习无监督学习:就是指机器在学习过程中不受监督,学习模型不断提高自我认知和不断巩固,最后进行自我归纳来达到学习目的。学习方法特点:(1)无需大量的标注数据。(2)以更接近人类的学习方式不断自我发现、学习和调整。不同分类结果的无监督学习
人工智能基础与应用Thankyouverymuch!
3-2认识线性回归模块?线性回归:预测未来趋势
目录CONTENTS线性回归的数学表达式01梯度下降法03线性回归的几个概念02
一.线性回归的数学表达式定义及表达式线性回归(linearregression)是一种通过拟合自变量xi与因变量y之间的最佳线性关系,来预测目标变量的方法。如果上式中只包括一个自变量x和一个因变量y,且二者的关系可用一条直线近似表示,则这种回归分析被称为一元线性回归分析。如果回归分析中包括两个或两个以上的自变量xi,且因变量y和自变量xi之间是线性关系,则称其为多元线性回归分析。
二.线性回归的几个概念1.方差衡量误差真实值:预测值:y
二.线性回归的几个概念2.总平方和SST:衡量了所有观测值相对于整体均值的离散程度。其值越大,说明原始的样本本身具有越大的波动,这种波动反映了因变量的整体偏差。如何评价上述直线对真实值拟合的好坏程度
二.线性回归的几个概念3.拟合优度R2:称为判断系数或拟合优度。由右式可知,线性回归方程以外的其他因素引起的误差SSE越小,R2就越接近1,表示此线性回归方程可以很好地解释因变量的变化;反之,如果SSE越大,接近总体偏差SST,R2就越接近0,说明此问题可能不适合采用线性回归模型解决。尽可能最小y=+
三.梯度下降法1.定义?梯度下降法:?是一种用于求解函数最小值的优化算法。其基本思想是通过迭代的方式,沿着函数的负梯度方向逐步减小函数值,直到达到局部最小值。梯度下降法适用于求解无约束优化问题,常用于机器学习中的参数优化。损失函数L可以理解为系数b和w的函数,记为寻找损失函数L(b,w)的最小值的过程,实际就是按照某种方向,不断去微调b和w的值,一步一步尝试找到这个最小值。
Min()三.梯度下降法2.求解过程
三.梯度下降法3.线性回归解决问题一般步骤01根据问题构建一个线性回归模型,即构建一个函数。02用样本训练模型,使用梯度下降法调整模型参数,目标使损失函数最小。03重复步骤(2),直至找到损失函数的最小值。04用验证集测试模型的精度,评价指标常为均方误差MSE。05如预测结果不满意,则需要改进模型(如加大训练集、改变学习率等)。06回到步骤(2),重新训练模型,直至获得满意的模型。07利用自变量xi和满意的模型去计算预测值y,从而解决预测问题。
人工智能基础与应用Thankyouverymuch!
3-3项目1—预测二手车价格模块?线性回归:预测未来趋势
目录CONTENTS提出问题01预备知识03解决方案02任务1—准备训练集和测试集04任务3—模型的测试及评估06任务2—模型的构建与训练05
一.提出问题问题描述市面上二手车种类繁多,又涉及到汽车的诸多专业知识,对于多数人而言,购买一辆与实际价格相符、车型适中的二手车,并不是一件轻松的事情。如果能从二手车交易的历史记录中发现某种规律,如何合理评估一台二手车的预交易价格呢?让机器帮你找到这个问题的答案
二.解决方案1.问题本质二手车价格预测问题,其实是寻找二手车的基本特征(如汽车品牌、变速箱类型、已使用年限等)与价格之间的关系多元线性回归的机器学习问题
二.解决方案2.解决方案
三.预备知识1.数据归一化(1)min-max标准化(2)零均值标准化
三.预备知识2.线性回归模型如何训练1)定义模型:假设有9个自变量x(品牌、车身类型等)影响二手车的价格,模型的输出值是价格y。因此,模型的假设函数表达式如下。2)构造损失函数:?3)开始训练:初始化参数,包括参数φ、学习率和迭