概率论与数理统计A7.1–7.2.ppt

第七章作业题 一般常用? 表示参数，参数? 所有可能取值组成的集合称为参数空间，常用?表示。参数估计问题就是根据样本对上述各种未知参数作出估计。 参数估计的形式有两种：点估计与区间估计。 这里如何构造统计量 并没有明确的规定，只要它满足一定的合理性即可。 例 设总体服从指数分布，由于EX=1/?， 即? =1/ EX，故? 的矩法估计为 另外，由于Var(X)=1/?2，其反函数为 因此，从替换原理来看，?的矩法估计也可取为 s 为样本标准差。这说明矩估计可能是不唯一的，这是矩法估计的一个缺点，此时通常应该尽量采用低阶矩给出未知参数的估计。 最大似然法 基本思想 选择一个参数使得实验结果具有最大概率 对数似然函数为： 对p求导并令其为0， =0 得 即为 p 的MLE . 对数似然函数为 例：设X1,X2,…Xn是取自总体X的一个样本 求 的最大似然估计. 其中 0, 解：设x1,x2,…,xn为一个样本值,似然函数 Skip 求导并令其为0 =0 从中解得 即为 的MLE . 对数似然函数为 注1：若总体分布中含有多个未知参数，则可解方程组 步 骤 做似然函数 (2)求最大值点 * * * * * * * * * P192: 1, 2, 3, 4, 6; P196: 1, 2, 3, 5. P209: 1, 3, 4, 6, 7; P214: 2, 5, 7, 9,10. 点估计 区间估计 参数估计 假设检验 统计推断 §7.1 求点估计的方法 §7.2 估计量的评价标准 §7.3 区间估计 参数估计 Ch7 （假定身高服从正态分布 ） 1.65 1.67 1.68 1.78 1.69 若估计 为1.68， 这是点估计. 这是区间估计. 若估计 在区间[1.57, 1.84]内， 假如我们要估计某校男生的平均身高. 从该总体选取容量为5的样本, 样本值为 其一 是如何给出估计，即估计的方法问题； 其二 是如何对不同的估计进行评价，即估 计的好坏评价标准。 涉及两个问题: (一) 矩估计法(简称“矩法”) 其基本思想是 用样本矩估计总体矩 . 理论依据: 它是基于一种简单的“替换”思想建立起来的一种估计方法 . 是英国统计学家 K. 皮尔逊 最早提出的 . 大数定律 理论依据: 大数定律 解: 样本矩 总体矩 的矩估计. 为 数学期望 是一阶 原点矩 例1 设总体X的概率密度为 是未知参数, 其中 X1,X2,…,Xn是取自X的样本,求参数 的矩估计. 解得: 例3 设总体 X～U(a,b)，a,b未知， X1,X2,…,Xn是取自X 的样本, 求参数 a,b 的矩估计量. 二 最大似然估计法 (最大似然法) Fisher 这个方法常归功于 英国统计学家费希尔(Fisher) . 费希尔在1922年发现了这一方法，并首先研究了这 种方法的一些性质 . 最大似然法的基本思想 看一个简单例子： 一只野兔从前方窜过 . 这一枪是谁放的？ 某位初学打猎的同学与一位经验丰富的猎人一起外出打猎 . 如果要你估计， 只听一声枪响，野兔应声倒下 . 最大似然估计原理： 当给定样本X1,X2,…Xn时，定义似然函数为： 设X1,X2,…Xn是取自总体X的一个样本，样本的联合概率密度(连续型）或联合概率函数(离散型)为 f (x1,x2,…xn; ) . f (x1,x2,…xn; ) 似然函数： 极大似然估计法就是用使 达到最 大值的 去估计 . 看作参数 的函数，它可作为 将以多 大可能产生样本值X1,X2,…Xn的一种度量 . f (X1,X2,…Xn; ) 反映实验结果的可能性大小 (Maximum Likelihood Estimation) 求最大似然估计的步骤 (1) 做似然函数 离散型： 连续型： (2) 求似然函数的最大值点 a. 列似然方程 b. 先取对数，再列似然方程 某些场合若能断定最大值在Θ内部，并且似然方程只有一解，则其解即为θ 的 MLE. 1 2 3 L(p)= P (X1=x1,…,Xn=xn; p ) 例设X1,X2,…Xn是取自总体 X~b(1, p) 的一个样本，求参数p的极大似然估计. 解：似然函数为: *