数理统计课件:估计量的评价标准.pptx
估计量的评价标准
对于同一个参数,用不同的估计方法求出的估计量可能不相同.问题:采用哪一个估计量好?一无偏性三相合性二有效性
设总体X~F(x,?),其中?为未知参数,X1,X2,…,Xn是来自该总体的样本,为?的一个估计量.估计量是一个随机变量当样本(X1,…,Xn)有观测值(x1,…,xn)时,估计值为当样本(X1,…,Xn)有观测值(y1,…,yn)时,估计值为由不同的观测结果,就会求得不同的参数估计值.因此评价一个估计量的好坏,不能仅仅依据一次试验的结果来判断,而必须根据估计量的分布从整体上来做评价.
当样本取不同的观测值时,希望相应的估计值在未知参数真值附近摆动,而它的均值与未知参数的真值的偏差越小越好.当这种偏差为0时,就导致无偏性这个标准.?
3.4.1无偏性定义3.4.1设为一参数分布族,其中Θ为参数空间.X1,X2,…,Xn是从该分布族中的某总体抽取的样本,?是总体分布中的未知参数,设为未知参数?的估计量,若对任意??Θ,都有则称为?的无偏估计.
设g(?)为待估参数,为g(?)的估计量,若对任意??Θ,都有则称为g(?)的无偏估计.
记称bn为估计的偏差.如果bn?0,则称为参数?的有偏估计.若则称为参数?的渐近无偏估计.
1无系统性偏差.2由于估计量是随机变量,故评价它是否合理,不能根据一次估计的结果,而应该根据多次反复使用这个统计量的“平均”效果来评价.由此给出无偏估计的“频率解释”.无偏性说明对于无偏估计量,单次的估计值相对于真值,可能偏大,也可能偏小,它无法说明一次估计所产生的偏差,但反复将这一估计量使用多次,平均来说其偏差为0.注意:要求估计量大量重复使用,在多次重复使用下给出接近真值θ的估计.
假定在同一个模型(同样的总体分布与样本容量)下,对同一个参数函数g(θ)用同一个无偏估计进行多次估计,记第i次估计为,由大数定律得尽管一次估计结果不一定恰好等于g(θ)但是在大量重复使用时,多次估计的算术平均值,可以任意接近g(θ).如果这一估计量只使用一次,无偏性这个概念就失去意义.无偏估计量仅在多次重复使用时才显示其优越性.
例3.4.1设总体X的k阶矩E(Xk)存在,X1,X2,…,Xn是来自总体X的样本,证明:样本k阶矩是总体k阶矩E(Xk)的无偏估计.证明:由于因此样本k阶矩是总体k阶矩的无偏估计.
则样本均值是总体均值μ的无偏估计,样本方差是总体方差σ2的无偏估计.例3.4.2设总体X的均值为EX=μ,方差为DX=σ2存在,X1,X2,…,Xn是来自总体X的样本,则
证明:
例3.4.3设X1,X2,…,Xn是来自总体X的样本,且X~N(μ,σ2),其中μ,σ2为未知参数,,x1,x2,…,xn是样本的观察值,试用极大似然估计法求参数μ,σ2的估计量,并问是否是无偏估计.由于μ和σ2的极大似然估计为解:
又由得因此是μ的无偏估计,不是σ2的无偏估计.但是是σ2的渐近无偏估计.
例3.4.4设X1,X2,…,Xn为来自总体X的样本,且X的密度函数为其中?0为未知参数,证明:因为X的分布函数为证明:和nU=n{min(X1,X2,…,Xn)}都是?的无偏估计.故是?的无偏估计
先求U的分布函数独立性
对其求导数得到U的密度函数为:即U的分布函数为
指数分布U的密度函数为由指数分布的性质知:因此,nU也是?的无偏估计.故有:
例3.4.5设X1,X2,…,Xn是来自总体X的样本,总体均值为?=EX,证明与