数值分析--33曲线拟合与函数逼近.ppt

数据拟合的最小二乘法 /* Least Squares Method */ 仍然是已知 x1 … xm ; y1 … ym, 求一个简单易算的近似函数 P(x) ? f(x)。 但是 ① m 很大； ② yi 本身是测量值，不准确，即 yi ? f (xi) 这时没必要取 P(xi) = yi , 而要使 P(xi) ? yi 总体上尽可能小。 常见做法： ? 使 最小 /* minimax problem */ 太复杂? ? 使 最小 不可导，求解困难? ? 使 最小 /* Least-Squares method */ §1 最小二乘拟合多项式 /* L-S approximating polynomials */ 确定多项式 ，对于一组数据(xi, yi) (i = 1, 2, …, n) 使得 达到极小，这里 n m。 n a a a 1 0 ? 实际上是 a0, a1, …, an 的多元函数，即 [ ] ? = - + + + = m i i n i n i n y x a x a a a a a 1 2 1 0 1 0 ... ) , ... , , ( j 在 ? 的极值点应有 k i m i n j i j i j x y x a ? ? = = - = 1 0 ] [ 2 - = ? ? ? = = = + n j m i k i i m i k j i j x y x a 0 1 1 2 记 ? ? = = = = m i k i i k m i k i k x y c x b 1 1 , 法方程组(或正规方程组) /* normal equations */ 回归系数 /* regression coefficients */ §1 L-S Approximating Polynomials 定理 L-S 拟合多项式存在唯一 (n m)。 证明：记法方程组为 Ba = c . 则有 其中 对任意 ，必有 。 若不然，则 存在一个 使得 … 即 是 n 阶多项式 的根 则 ? B为正定阵，则非奇异，所以法方程组存在唯一解。 §1 L-S Approximating Polynomials 定理 Ba = c 的解就是 ? 的极小点。即：设 a 为解，则任意 b = (b0 b1 … bn )T 对应的多项式 必有 ? = = n j j j x b x F 0 ) ( ? ? = = = - ? - = m i m i i i i i b y x F y x P a 1 1 2 2 ) ( ] ) ( [ ] ) ( [ ) ( j j 证明： ? ? = = - - - = - m i i i m i i i y x P y x F a b 1 2 1 2 ] ) ( [ ] ) ( [ ) ( ) ( j j ? ? = = - - - + - = m i i i m i i i i i y x P y x P x P x F 1 2 1 2 ] ) ( [ ] ) ( ) ( ) ( [ ? ? = = - - + - = m i i i i i m i i i y x P x P x F x P x F 1 1 2 ] ) ( )][ ( ) ( [ 2 )] ( ) ( [ 0 注：? L-S method 首先要求设定 P(x) 的形式。若设n=m?1，则可取 P(x) 为过 m 个点的m?1阶插值多项式，这时? = 0。 ? P(x) 不一定是多项式，通常根据经验确定。 人物介绍 Weierstrass(1815-1899)德意志帝国数学家，他把严格的论证引进分析学，建立了实数理论，引进了现今分析学上通用的极限的ε-δ定义，为分析学的算术化作出重要贡献。在变分法中，他给出了带有参数的函数的变分结构，研究了变分问题的间断解。在微分几何中，研究了测地线和最小曲面；在线性代数中，建立了初等因子理论，并用来简化矩阵。Weierstrass的学生还包括H.A. Schwarz , Sonya Kovalevski（柯瓦列夫斯卡娅