02机械优化设计第二章（哈工大—孙靖民）.ppt

三元函数 在 点处沿s方向的方向导数 当梯度方向和d方向重合时，方向导数值最大，即梯度方向是函数值变化最快方向，而梯度的模就是函数值变化率的最大值。 多元函数的梯度 海赛矩阵的特征：是实对称矩阵。 结论： 二元函数在某点取得极小值的充分条件是要求该点处的海赛矩阵为正定。 且 对于二元函数 在 处取得极值的充分必要条件是： 参见教材例题P32 3、多元函数 对于多元函数 若在 处取得极值，则 必要条件： 充分条件： 正定 或负定 当极值点x*能使f(x*)在整个可行域中为最小值时，即在整个可行域中对任一x都有f(x)=f(x*),则x*为全域最优点（全域极小点）。若f(x*)为局部可行域中的极小值而非整个可行域的最小值时，则称x*为局部最优点或相对最优点。优化的目标是全域最优点。为了判断某个极值点是否为全域最优点，研究函数的凸性是必要的。 §2-4凸集、凸函数与凸规划 函数的凸性表现为单峰性。对于具有凸性特点的函数来说，其极值点只有一个，因而该点既是局部最优亦是全域最优点。 为了研究函数的凸性，下面引入凸集的概念： 1、凸集 如果对一切 及一切满足 的实数 ，点 则称集合 为凸集，否则称为非凸集。 y x2 x1 若y是x1和x2连线上的点，则有 整理后即得 图2-8 二维空间的凸集与非凸集 凸集的性质： 若D为凸集， 为一个实数，则集合 仍是凸集； 若D和F均为凸集，则其和（或并）仍是凸集； 任何一组凸集的积（或交）仍是凸集。 图2-9凸集的性质 2、凸函数 具有凸性（表现为单峰性）或只有唯一的局部最优值亦即全域最优值的函数，称为凸函数或单峰函数。其数学定义是： 设f(x)为定义在n维欧式空间中的一个凸集D上的函数，如果对于任何实数 以及对D中任意两点x1，x2恒有： 则 为D上的凸函数，若不满足上式，则为凹函数。如式中的等号去掉，则称其为严格凸函数。 凸函数的几何意义：在函数曲线上取任意两点连成一直线段，则该线段上任一点的纵坐标值必大于或等于该点处的原函数值。 凸函数的性质 1）若f(x)为定义在凸集D上的一个凸函数，对于任意实数a0，则af(x)也是凸集D上的凸函数； 2）定义在凸集D上的两个凸函数f1(x),f2(x)，其和f1(x)+f2(x)亦为该凸集上的一个凸函数； 3）若f1(x),f2(x)为定义在凸集D上的两个凸函数， 为两个任意正数，则 仍为D上的凸函数。 3、凸性条件 （1）根据一阶导数（函数的梯度）来判断函数的凸性 设f(x)为定义在凸集R上，且具有连续的一阶导数 的函数，则f(x)在R上为凸函数的充要条件是对凸 集R内任意不同两点 、 ，下面不等式恒成立。 （2）根据二阶导数（海赛矩阵)来判断函数的凸性 设f(x)为定义在凸集R上且具有连续二阶导数的函数，则f(x)在R上为凸函数的充要条件为： 海赛矩阵在R上处处半正定。对于严格的凸函数，其充要条件为海赛矩阵为正定。 当海赛矩阵G的主子式: det(G)＞0时，矩阵正定 det(G)≥0 时，矩阵半正定 det(G)＜0时，矩阵负定 det(G)≤0时，矩阵半负定 G(x*)正定， 是 x* 为全局极小值点的充分条件； G(x*)半正定, 是 x* 为局部极小值点的充分条件； G(x*)负定， 是 x* 为全局极大值点的充分条件； G(x*)半负定, 是 x* 为局部极大值点的充分条件。 说明： 4、凸规划 对于约束优化问题 若 、 都为凸函数，则称此问题为凸规划。 凸规划的性质： 2）可行域 为凸集。 3）凸规划的任何局部最优解就是全局最优解。 1）若给定一点 ，则集合 为凸集。 不论是无约束或有约束的优化问题，在实际应用中，要证明一个优化问题是否为凸规划，一般比较困难，有时甚至比求解优化问题本身还要麻烦。尤其对一些工程问题，由于其数学模型的性态都比较复杂，更难实现。因此，在优化设计的求解中，就不必花精力进行求证，而通常是从几个初始点出发，找出几个局部最优解，从中选择目标函数值最好的解。 注意： 等式约束优化问题： 求解等式约束化问题的理