在R语言中实现Bayes方法对logistic的回归分析
2016-08-07李晓毅付志慧
田 薇, 李晓毅, 付志慧
(沈阳师范大学 数学与系统科学学院, 沈阳 110034)
统计学
在R语言中实现Bayes方法对logistic的回归分析
田 薇, 李晓毅, 付志慧
(沈阳师范大学 数学与系统科学学院, 沈阳 110034)
对于logistic回归分析的处理办法,一直采用的都是极大似然估计的EM算法,由于计算方法的固定及计算过程的复杂性,例如,该算法对于初值的选取要求很高,否则收敛速度很慢。Gibbs抽样法作为一种高效灵活的估计方法广泛应用于广义线性回归模型,其中Probit回归模型由于联系函数为正态分布,使得回归系数的后验分布为共轭正态,从而抽样简单快捷。而Logit模型的后验分布比较复杂,无法直接抽取。本文基于增加数据的Gibbs抽样方法,通过引入Plya-Gamma分布族的潜在变量,使得模型中的回归系数参数的满条件分布为共轭正态分布,从而回归系数的马氏链很容易构造,回归系数的估计为后验均值估计。通过一组实际数据,分别调用R语言Glm包和 BayesLogit包,并对比2种方法的估计结果,二者差别不大,表明Plya-Gamma潜变量Bayes估计法在处理logistic回归模型时的可用性、准确性。
logistic回归模型; Plya-Gamma分布; MCMC; R语言
0 引 言
logistic回归模型常用在寻找危险因素、预测、判别3个方面。由于线性回归模型只能分析连续型数据,具有很强的局限性,而实际中的logistic回归用途是极为广泛的,logistic回归几乎已经成了流行病学和医学中最常用的分析方法,logit模型在处理属性数据或分类数据方面极具优势。在估计logistic回归模型时,一般采用极大似然法。若引入合理的先验分布函数,Bayes方法对于许多模型的参数估计问题一直特别有效,对提高统计推断质量具有实际意义。……
