大数据背景下贝叶斯模型平均的理论突破与应用前景
2016-06-29刘乐平卢志义
统计与信息论坛 2016年6期
关键词:大数据
高 磊,刘乐平,卢志义
(1.天津财经大学 大数据统计分析中心, 天津 300222; 2.天津商业大学 理学院, 天津 300134)
大数据背景下贝叶斯模型平均的理论突破与应用前景
高磊1,刘乐平1,卢志义2
(1.天津财经大学 大数据统计分析中心, 天津 300222; 2.天津商业大学 理学院, 天津 300134)
摘要:大数据统计分析过程中常面临模型比较和选择的不确定性问题。贝叶斯模型平均(BMA)方法可以通过先验和后验概率度量模型不确定性,并利用后验概率对模型的结果进行加权平均,最终得到更稳健的估计结果。在回顾贝叶斯模型平均发展历程的基础上,介绍贝叶斯模型平均的基本原理,综述其在一些难点问题上的理论进展,并介绍大数据背景下贝叶斯模型平均的应用前景。贝叶斯模型平均与复杂数据分析方法相结合,可能成为大数据研究的新思路。
关键词:大数据;模型不确定性;贝叶斯模型平均;MCMC
一、引言
在大数据的统计实践中,研究人员常常构建一组模型,然后依据模型选择准则,从中挑选 “最优”模型进行统计推断和预测。这里就有两个值得考虑的问题:第一,单从模型选择准则来分析,可能会得到几个模型对数据拟合均较好的结论。也就是说,这些模型难分伯仲,舍弃其中任何一个都令人可惜,Breiman就把这种现象称为模型选择的“罗生门效应”*《罗生门》是一部日本电影,在电影中发生了一起刑事案件,一名男性被杀,另有一名女性被强奸。案件共有四名目击者,当他们在法庭作证时,面对同样的事件,却从自身利益出发讲述了完全不同的事情经过。……
登录APP查看全文
