基于MCMC方法的贝叶斯统计推断.pdf

基础及前沿研究 SCIENCEANDTEC帆OGYINFORMATION CHINA 中国科技信息2012年第10期 M_y．2012 and Fundamentalfrontierresearch DOI：10．3969／j．issn．1001—8972．2012．10．024 基于MCMC方法的贝叶斯统计推断 赵琪 山东英才学院基础部，山东济南25001 变量以“：(∞)的一个样本儿，依次下去，得到服从分 摘要 由贝叶斯方法得到的后验分布函数H(xl经常是复杂的，高维的， 布{丌(儿Iyl，…，儿。‘．I’…，k，儿∈q}的随机变量 非标准形式的．时这种函数进行有关的积分计算通常十分困难。马 以“。(缈)的一个样本几(七=l，¨．，所一1)。 氏链蒙特卡洛(McMc)方法为解决此委问题提供7很好的思路。 关键词 马氏链蒙特卡洛(M∞恸方法；贝叶斯统计；G№抽样 以“。(脚)的一个样本‰· 定义y (M，…，虬)就是以+I(∞)的一个样本。 一．马氏链蒙特卡洛(MCMC)方法简介 马氏链紫特卡洛方法本质上是一个蒙待卡洛综合程序．它的 随机样本的产生与一条马氏链有关。其基奉思想是通过建立一个 样本y‘”，XCn归纳地得到置(础)，．．．，x。(co)的样本y‘2、，…，Y¨’， 平锪分布为Ⅱ(x)的‘§氏链柬得到n(x)的样本，然后基于这 些样本就可以傲各种统计推断，概括起来分为以下三步： 当刀充分大时，马氏链X。(缈)分布近似于石(五，…，X。)，就可以 (1)在D上选。个“合适”的马氏链．使其转移段7-P(j·)，“合适”认为Y枷’是近似服从，r(^，．．．，吒)的一个样本。 的含义就足指石o)足其相心的平稳分柿 (2)由D上的某’点X”’出发。用‘”中的马氏链产生点序列 二．贝叶斯统计推断方法与贝叶斯公式 Ⅳ“’……．，X‘”’ (3)对某个卅和足够大的，任。函数f(x)的期望估计如下 贝叶斯统计发源于十八世纪英国学者贝叶斯。他的方法被以后的 ． 1 三 ‘／2志∑．f(X“’ 一些统计学家发展成一种系统的统计推断方法。到L世纪30年代已形 成贝叶斯学派，到50-60年代已发展成一个有影响的统计学派，其影 可以看出栗用MCMC方法时．构造转移核是至关莺要的，不响还在日益扩大． 同的MCMC方法iE往也就是转移核的构造片法不Iiil。基f条件分 贝叶斯学派的晟基本观点是：任一未知量曰都可看作随机变量．都 布的迭代取样是一种重要的马氏链蒙特卡洛方法．其中最著名的 可用一个概率分布去描述它，这个分布称为先验分布，记为_jr(臼)。 特殊情况是Gibbs抽样，现在已成为统计计算的标准1=具．它最吸 假设p(x10)为依赖j’参数0的条件密度酮数．我们的任务是对护作 引入的特征是其潜在的马氏链是通过分解一系列条件分布建立起 出统计决策，从城时斯的理点要分为以F凡步： 来。这就要用纠条件分布，特剔是满条件分布。 1．样本X=(x。．．，以)的产生要分眄步进行。首先设想从先验 所谓满条件分布就是形如，r(xr『x一，l的条件分布．其中 分布