MCMC方法的发展与现代贝叶斯的复兴——纪念贝叶斯定理发现250周年
2014-01-01刘乐平
刘乐平,高 磊,杨 娜
(天津财经大学 统计学系,天津300222)
一、引 言
1763年12月23日,理查德·普莱斯(Richard Price)在伦敦皇家学会会议上宣读了托马斯·贝叶斯的遗世之作,从此贝叶斯统计学诞生了。在整个19世纪,贝叶斯统计倍受争议和冷落,主要原因是不知道如何恰当地处理先验概率。20世纪上半叶,一个与贝叶斯统计完全不同的理论——频率统计学(Frequentist statistics)迅速发展,在统计学领域几乎占主导地位。尽管如此,贝叶斯统计思维仍在意大利的布鲁诺·菲尼蒂和英国的哈罗德·杰弗里斯等少数统计学家的努力下,得以传承[1]50-51。
现代贝叶斯运动的复兴,始于20世纪下半叶,领军人物是美国的吉米·萨维奇(Jimmy Savage)和英国的丹尼斯·林德利(Dennis Lindley),由于贝叶斯后验分布在高维计算上的困难,贝叶斯统计推断非常难以实现,贝叶斯方法的应用受到了很大的限制[2]。随着计算机信息技术的发展和贝叶斯方法的改进,特别是MCMC方法的发展、WinBUGS软件以及R语言的广泛应用,原来复杂的数值计算问题如今变得简单便捷,参数后验分布的模拟也趋于方便,现代贝叶斯分析的理论和应用又重新得到了迅速的发展[3]。
MCMC(Markov Chain Monte Carlo)方法的发展,对现代贝叶斯分析的复兴起着至关重要的作用。笔者在回顾MCMC方法发展历史的基础上,给出MCMC方法直观性的实例,并介绍R软件中MCMC的相关程序包,以此纪念贝叶斯定理250周年,因为MCMC方法和现代贝叶斯两者的发展和兴起,不仅给出了解决问题的方法,重要的是改变了考虑问题的思路。
二、MCMC方法的起源
MCMC方法起源于军事需要,来源于物理问题,理论基础是概率统计,研究手段是计算机技术。……
