第4篇 用最优化方法解决参数估计问题.pdf

第四章第四章 用最优化方法解决用最优化方法解决 参数估计问题 华东华东理工大学学 罗娜罗娜 naluo@ecust.edu.cn 参考书目： • 曹贵平,朱中南, 戴迎春. 化工实验设计与数据处理. 华东理工 大学出版社大学出版社,, 2009.2009. 主要内容主要内容 参参数优化方法 单变量寻优方法 分割法 插值法 多变量寻优方法多变量寻优方法 最速下降法 单纯形法 参数估计的几个具体问题 11. 参数参数优化方法优化方法 参数优化问题求解方法，按其求解方式可分为两 类：间接寻优和直接寻优。 (1) 间接寻优 间接寻优就是把间接寻优就是把一个优个优化问 题题用数学方程描述出数学方程描述出 来来 ，，然后按照优化的充分必要条件用数学分析的方然后按照优化的充分必要条件用数学分析的方 法求出解析解，故又称其为解析法。 11. 参数优化方法参数优化方法 ((2)) 直接寻寻优 直接寻优法就是直接在变量空间搜索一组最佳变 量。这是一种数值方法，具体办法是，利用目标 函数在函数在一局部区域初始状态的性质和局部区域初始状态的性质和 已知数值知数值， 来确定下来确定下一步计算的点步计算的点，，这样这样一步步搜索逼近步步搜索逼近，， 最后接近最优点。 直接寻优法的思路直接寻优法的思路 (0) (1) ( n−1) (0)(0) pp (1)(1) pp pp ((nn )) ⇒⇒ * k ⎯⎯→ kk ⎯⎯→ ⎯⎯⎯→ kk kk SS ((kk (0) )) SS ((kk ((1)) )) ((nn )) ⇒⇒ * SS ((kk )) SS ((kk )) 首首 先先 估估 计计 初初 值值 k (0)(0) ，并并 计计 算算 对对 应应 的的 目标标 函 数数 (0) (0) (0) 值值SS ((kk ))；；再选择方向再选择方向 pp ；；然后在然后在pp 方向上进行方向上进行 一维搜索，得到 k (1) ，计算对应的目标函数 值 (1) ；最后检验结果，如果达到收敛要求，则 S (k ) 停止迭代停止迭代 ，否则继续迭代则继续迭代，直到符合收敛要求直到符合收敛要求。 22. 单变量寻优方法单变量寻优方法 单变量寻优方法单变量寻优方法是多变量寻优技术的基础是多变量寻优技术的基础 ，多多 变量参参数寻寻优的 算算法中常常要中常常要用到到它，，因因此单单 变量的寻优方法是解决多变量优化问题的基本 方法。本节主要介绍常用的两种单变量寻优方 法法：：分割法分割法和和插值法插值法。 分割法分割法 黄金分割法黄金分割法 分割法是单变量函数无约束极值较为有效的一种 直接搜索法。 实质上是在搜索过程中不断缩小最优点存在的区实质上是在搜索过程中不断缩小最优点存在的区 域，即通过搜索区间的逐步随小来确定最优点。 对多变量函数来说，分割法不十分有效，因为这 时消去的不是线段，而是平面、立体或多维空间 的一部分。 黄金分割法是分割法中的黄金分割法是分割法中的一种有效方法种有效方法。 分割法