响应变量缺失时偏线性测量误差模型的变量选择
2014-08-06杨凌霞徐修友
黄 彬,杨凌霞,徐修友
(北京化工大学理学院,北京 100029)
变量选择是回归分析中的一个重要问题.当面对高维协变量集合时,选择对响应变量具有显著解释能力的协变量子集,对于简化模型,提高模型的解释能力十分重要.一些基于惩罚的变量选择方法,如LASSO(least absolute shrinkage and selection operator)[1],SCAD(smoothly clipped absolute deviation)[2],ALASSO(adaptive LASSO)[3]通过将部分回归系数收缩至零,有效地选择出重要变量并很好地估计模型参数,同时基于SCAD和ALASSO的估计具有渐进正态性和先知性(Oracle性质[2]).另外,Ueki[4]提出了STEE(smooth-threshold estimating equations)方法进行变量选择,它的优点是易于实现,不用求解凸优化问题.
偏线性模型是一种十分灵活的半参数模型,对于该模型及其推广模型的参数估计和变量选择已经有了广泛的研究[5-13].然而,在响应变量缺失且协变量包含测量误差情况下,一个重要的问题是如何选择模型的重要变量,这个问题在文献中还没有被提及.本文主要研究偏线性模型在协变量包含测量误差且响应变量有缺失时的估计和变量选择问题.
我们将利用半参数回归替代方法[11]来处理缺失的响应变量.基于SCAD惩罚最小二乘和STEE,对偏线性模型的参数部分提出两种变量选择方法.通过选择合适的调整参数,且在一定的正则条件下,可以证明这两种变量选择方法具有渐进正态性和先知性.数值模拟研究显示,SCAD比STEE在估计精度和正确拟合模型方面更优,而STEE因不用求解凸优化问题而易于实现.
1 方 法
1.1 响应变量缺失时偏线性测量误差模型的估计
考虑偏线性模型
Y=XTβ+g(T)+ε,
(1)
这里X=(X1,…,Xp)T是……