李楚进　张翠霞

摘 要 为避免模型出现过拟合，将自适应LASSO变量选择方法引入二元选择分位回归模型，利用贝叶斯方法构建Gibbs抽样算法并在抽样中设置不影响预测结果的约束条件‖β‖=1以提高抽样值的稳定性.通过数值模拟，表明改进的模型有更为良好的参数估计效率、变量选择功能和分类能力.

关键词 应用统计数学；分位回归；自适应LASSO； 变量选择；二元选择模型

中图分类号 O212.1 文献标识码 A

Abstract Binary quantile regression model with the adaptive LASSO penalty is proposed for overfitting problems by presenting a Bayesian Gibbs sampling algorithm to estimate parameters. In the process of sampling， the restriction on ‖β‖=1 is motivated to improve the stability of the sampling values. Numerical analysis show there are better improvements of the proposed method in parameter estimation， variable selection and classification.

Key words applied statistics & mathematics； quantile regression； adaptive LASSO； variable selection； binary regression

1 引 言

二元选择模型是一种离散选择模型，被广泛用于经济、医学、生物和教育等领域，其常见形式有线性概率模型、Probit模型和Logit模型等.这些模型均为条件均值模型，刻画的是响应变量的平均水平.当数据出现尖峰后尾或结构突变等特征时，用条件均值并不能够准确揭示变量之间的关系.Koenker和Bassett（1978）[1]系统介绍了分位回归的思想.分位回归聚焦在条件分位数上，通过变动分位水平来揭示特定情形下响应变量与解释变量的关系，挖掘的信息更加具体、丰富.特别的，Manski（1975）[2]阐述了二元选择分位回归的思想，并提出模型参数的极大得分估计.Yu和Moyeed（2001）[3]证明了在不考虑数据原始分布时，利用非对称拉普拉斯分布（ALD）来建立贝叶斯分位数回归是一种非常自然且有效的方法.Benoit和Van den Poel（2012）[4]年提出了基于ALD 的二元選择分位回归模型的贝叶斯估计方法.

为了消除因缺少重要解释变量而造成的模型偏差，通常将尽可能多的变量纳入模型，而这又可能会使模型出现过拟合问题.因此，如何从众多变……