马学俊

(中国人民大学 应用统计科学研究中心， 北京 100872)

GSIS超高维变量选择

马学俊

(中国人民大学 应用统计科学研究中心， 北京 100872)

变量选择在超高维统计模型中非常重要。Fan 和Lv基于简单相关系数提出确保独立筛选法(SIS)，但当自变量被分成组时，SIS就会失效。因为SIS只能对单个变量进行选择，不能对组变量进行选择。为此，基于边际组回归提出组确保独立筛选法(GSIS)，该方法不仅对组变量有效，对单个变量也有效，或者两者的混合也同样有效。Monte Carlo模拟结果显示，GSIS的表现优于SIS。

组确保独立筛选法；确保独立筛选法；变量选择；边际组回归

一、引 言

伴随着人类社会的发展，收集数据的种类越来越多。通常存在一种样本量n相对于变量个数p特别小的数据，或者说变量的个数远大于样本量个数的数据，如遗传、基因芯片和磁共振成像等[1]。一般地，我们假设lnp=O(nα)，其中α∈(0,1/2)，即自变量个数是样本量个数的指数倍，也称为NP(Nonpolynomial)灾难，或超高维(Ultrahigh)灾难。通常假定只有很少的自变量对于因变量产生影响，这也是统计学中经常说的“稀疏性(Sparsity)”假设。这种假定具有一定的合理性，影响某一个事物的因素也许有很多个，但是起主要作用也许只有少数几个或很少的几个因素。稀疏性的假定是处理超高维(高维)问题的基本假定。

变量选择是统计学研究的重要问题。比较常见的方法有LASSO、 SCAD、MCP、 GLASSO、GSCAD和GMCP等，但是这些方法不能处理超高维的问题[2]。为了处理超高维问题。Fan和Lv基于简单相关系数提出确保独立筛选法(Sure Independence Screening)，为了方便记为SIS[3]。……