第二章参数估计理论.ppt

第二章 参数估计理论 1.估计子的性能 估计子的定义 1.估计子的性能(续) 1.估计子的性能(续) 1.估计子的性能(续) 两个无偏估计(或其中一个渐进无偏估计)的性能比较： 2.Fisher信息与Cramer-Rao下界 2.Fisher信息与Cramer-Rao下界(续) 3.Bayes估计 损失函数(代价函数) 绝对损失函数 二次型损失函数 3.Bayes估计(续) 均匀损失函数 3.Bayes估计(续) 风险函数: 损失函数的数学期望 Bayes估计：使风险函数最小化的参数估计 4.最大似然估计(maximum likelyhood) 5.线性均方估计 线性均方LMS (linear mean square) 5.线性均方估计(续) 5.线性均方估计(续) 正交性原理 线性均方估计是典型的Bayes估计 6.最小二乘估计 问题 6.最小二乘估计(续) 超定方程 6.最小二乘估计(续) Gaussian-Markov定理 加权最小二乘估计 本章小结 评价参数估计好坏的问题： 采用均方误差来衡量参数估计的优劣 判断无偏估计是否最好：使用Fisher信息，满足Cramer-Rao下界 如何进行参数估计： Bayes估计（关键选什么风险函数） 最大似然估计（需知道似然函数形式） 线性均方估计（正交性原理） 最小二乘估计（若e零均值、同方差，则最小二乘法是最优的，否则要用加权最小二乘法） 习题 题2.3， 题2.6，题2.8，题2.13 * *