吴炜明， 王延新

1.宁波工程学院 理学院， 浙江 宁波 315211； 2.安徽工业大学 商学院， 安徽 马鞍山 243032

大数据时代已经到来， “数据”贯穿了生活的方方面面， 在各行各业中都起着举足轻重的作用． 各个领域为了挖掘潜藏的数据价值， 对已有数据进行分析建模， 但同时也面临着真实场景过于复杂， 易出现高维数据的情况． 在变量维数p远大于样本量n的情况下， 传统低维统计分析方法往往显得力不从心． 首先模型的准确性难以得到保证， 其次在解释变量大量增加的情况下， 模型对于问题的可解释性变差， 分析的焦点被模糊， 并且在高维变量情况下， 模型的复杂度提高， 计算量增加， 存在一定的求解困难． 因此， 在建模过程中， 变量选择显得尤为重要．

高维数据变量选择最常用的方法是基于罚函数的正则化方法[1]， 它可以同时进行变量选择和参数估计． 稀疏正则化方法的一般框架为

(1)

其中：l(β)为损失函数，pλ(·)为罚函数，λ为正则化参数． 常用的正则化方法有Lasso[2]，adaptive Lasso[3]，relaxed Lasso[4]，SCAD[5]，MCP[6]等． 在实际应用中， 上述方法的正则化参数λ的调节是非常重要的， 正则化参数λ的选择决定了模型的性能． 目前常采用CV(交叉验证)[7]， GCV(广义交叉验证)[8]， AIC(赤池信息准则)[9]，BIC(贝叶斯信息准则)[8]等多种准则选择正则化参数λ， 但是每种方法都有各自的优缺点． CV方法的预测误差小， 但计算量庞大， 而且没有完整理论推导， 且解释性较差． GCV方法容易产生过拟合现象[8]， 从而不满足变量选择的一致性要求． AIC准则可以权衡估计模型的复杂……