无约束优化方法.ppt

********************，共轭梯度法步骤：4.5共轭梯度法第29页，共42页，星期日，2025年，2月5日，共轭梯度法步骤：4.5共轭梯度法第30页，共42页，星期日，2025年，2月5日，共轭梯度法4.5共轭梯度法第31页，共42页，星期日，2025年，2月5日4.6鲍威尔法，鲍威尔法的基本思想：直接利用迭代点的目标函数值来构造共轭方向，然后再从任一初始点出发，逐次的共轭方向作一维搜索求极值点。第32页，共42页，星期日，2025年，2月5日，共轭方向的生成：结论：从不同的两点出发，沿同一方向进行两次一维搜索，所得两个极小点的连线方向便是原方向共轭的另一方向。第八节鲍威尔法第33页，共42页，星期日，2025年，2月5日，共轭方向的生成：二维情况：任意点出发沿着x1轴方向和AB方向搜索，即可得到极小点。第八节鲍威尔法第34页，共42页，星期日，2025年，2月5日，基本POWELL法（二维）：第八节鲍威尔法第35页，共42页，星期日，2025年，2月5日基本POWELL法（n维）：1）从初始点出发，首先沿着n个坐标轴方向进行一维搜索，得到一个终点；2）由初始点和终点连线形成一个新方向，该方向排在原方向组的最后，去掉原方向组的的第一个方向，形成新的方向组；3）从上一轮的搜索终点出发沿新的搜索方向作一维搜索而得到的极小点，作为下一轮迭代的始点。4）从新的始点出发，沿着新的方向组做一维搜索。如此反复进行n轮搜索后，可找到n个共轭方向，若目标函数是正定二次型函数，则经过n轮后就可以找到极小点。第八节鲍威尔法第36页，共42页，星期日，2025年，2月5日改进POWELL法：获得新方向构成新方向组时,不是轮换地去掉原来的方向,而是经判别后,在n+1个方向中留下最接近共轭的n个方向。第八节鲍威尔法第37页，共42页，星期日，2025年，2月5日1）给定初始点，选取初始方向组，它由n个线性无关的向量组成置k=02）从出发顺次沿作一维搜索得接着以为起点，沿方向移动一个距离得到并分别求出改进POWELL算法的步骤:一轮迭代的始点一轮迭代的终点一轮迭代的反射点第38页，共42页，星期日，2025年，2月5日同时计算各中间点函数值计算n个函数值之差并找出其中最大的一个（3）根据是否满足判别条件来确定是否对原方向组进行替换。因此有第39页，共42页，星期日，2025年，2月5日，不满足判别条件，下轮迭代仍用原方向组，并以中函数值小者作为下一轮迭代的始点。满足判别条件，则下轮迭代的方向组为下一轮迭代的初始值为沿方向进行一维搜索的极小值点（4）判断是否满足收敛准则，满足为极小值点，否则，应进行下一轮迭代。第40页，共42页，星期日，2025年，2月5日，第41页，共42页，星期日，2025年，2月5日感谢大家观看第42页，共42页，星期日，2025年，2月5日**********P55**************************机械优化设计关于无约束优化方法第1页，共42页，星期日，2025年，2月5日4.1概述，数值解法：是利用已有的信息，通过计算点一步一步地直接移动，逐步逼近最后达到最优点。1）选择迭代方向即探索方向；2）在确定的方向上选择适当步长迈步进行探索第2页，共42页，星期日，2025年，2月5日，无约束优化方法可以分成两类：一类是利用目标函数的一阶或二阶导数的无约束优化方法（如最速下降法、共轭梯度法、牛顿法及变尺度法）；另一类只利用目标函数的无约束优化方法（如坐标轮换法、单形替换法及鲍威尔法等）。4.1概述第3页，共42页，星期日，2025年，2月5日，定义：最速下降法就是采用使目标函数值下降得最快的负梯度方向作为探索方向，来求目标函数的极小值的方法，又称为梯度法。最速下降法的迭代公式4.2梯度法（最速下降法）第4页，共42页，星期日，2025年，2月5日，最速下降法的迭代步骤：4.2梯