基于MCMC方法的贝叶斯统计推断.pdf
文本预览下载声明
基础及前沿研究 SCIENCEANDTEC帆OGYINFORMATION
CHINA
中国科技信息2012年第10期 M_y.2012
and
Fundamentalfrontierresearch
DOI:10.3969/j.issn.1001—8972.2012.10.024
基于MCMC方法的贝叶斯统计推断
赵琪
山东英才学院基础部,山东济南25001
变量以“:(∞)的一个样本儿,依次下去,得到服从分
摘要
由贝叶斯方法得到的后验分布函数H(xl经常是复杂的,高维的, 布{丌(儿Iyl,…,儿。‘.I’…,k,儿∈q}的随机变量
非标准形式的.时这种函数进行有关的积分计算通常十分困难。马 以“。(缈)的一个样本几(七=l,¨.,所一1)。
氏链蒙特卡洛(McMc)方法为解决此委问题提供7很好的思路。
关键词
马氏链蒙特卡洛(M∞恸方法;贝叶斯统计;G№抽样 以“。(脚)的一个样本‰·
定义y (M,…,虬)就是以+I(∞)的一个样本。
一.马氏链蒙特卡洛(MCMC)方法简介
马氏链紫特卡洛方法本质上是一个蒙待卡洛综合程序.它的
随机样本的产生与一条马氏链有关。其基奉思想是通过建立一个
样本y‘”,XCn归纳地得到置(础),...,x。(co)的样本y‘2、,…,Y¨’,
平锪分布为Ⅱ(x)的‘§氏链柬得到n(x)的样本,然后基于这
些样本就可以傲各种统计推断,概括起来分为以下三步: 当刀充分大时,马氏链X。(缈)分布近似于石(五,…,X。),就可以
(1)在D上选。个“合适”的马氏链.使其转移段7-P(j·),“合适”认为Y枷’是近似服从,r(^,...,吒)的一个样本。
的含义就足指石o)足其相心的平稳分柿
(2)由D上的某’点X”’出发。用‘”中的马氏链产生点序列 二.贝叶斯统计推断方法与贝叶斯公式
Ⅳ“’…….,X‘”’
(3)对某个卅和足够大的,任。函数f(x)的期望估计如下 贝叶斯统计发源于十八世纪英国学者贝叶斯。他的方法被以后的
. 1 三
‘/2志∑.f(X“’ 一些统计学家发展成一种系统的统计推断方法。到L世纪30年代已形
成贝叶斯学派,到50-60年代已发展成一个有影响的统计学派,其影
可以看出栗用MCMC方法时.构造转移核是至关莺要的,不响还在日益扩大.
同的MCMC方法iE往也就是转移核的构造片法不Iiil。基f条件分
贝叶斯学派的晟基本观点是:任一未知量曰都可看作随机变量.都
布的迭代取样是一种重要的马氏链蒙特卡洛方法.其中最著名的 可用一个概率分布去描述它,这个分布称为先验分布,记为_jr(臼)。
特殊情况是Gibbs抽样,现在已成为统计计算的标准1=具.它最吸
假设p(x10)为依赖j’参数0的条件密度酮数.我们的任务是对护作
引入的特征是其潜在的马氏链是通过分解一系列条件分布建立起
出统计决策,从城时斯的理点要分为以F凡步:
来。这就要用纠条件分布,特剔是满条件分布。 1.样本X=(x。..,以)的产生要分眄步进行。首先设想从先验
所谓满条件分布就是形如,r(xr『x一,l的条件分布.其中
分布
显示全部