张凌洁宝鸡文理学院



浅谈高维数据变量选择现状与方法

张凌洁
宝鸡文理学院

变量选择是统计分析理论中的重要内容，也是目前学者们研究的重点。本文在传统数据变量选择的基础上，介绍高维数据变量选择方法的研究历史和研究现状，总结已有变量选择的研究成果，并在此基础上进行了总结和展望。

高维 变量选择 稳健方法

1　变量选择方法简介

从20世纪60年代至今，变量选择的研究已有不少文献与资料。以Akaike 在1974年提出的AIC准则为标志，近几十年来，变量选择是统计学者们研究的重点，研究的方法和理论结果已经有了相对成熟的进展。

经典的变量选择包括前进法、后退法、逐步回归法、最优回归子集法等，通过AIC，BIC，Cp等从候选模型中选出一个最优子集来拟合回归模型。建立回归模型初期，引入很多相关的变量以减小模型的误差；选择对因变量有明显影响的重要变量以提高模型预测的精度和可解释性。

实际中，经典的变量选择方法，适合模型中变量个数比较少的模型。但是当变量个数增多时，需要解决的问题也随之增多。如由于要求解一个多项式复杂程度的非确定性问题，从而处理高维和海量问题时失效；对于成百上千的变量，如果我们选择过多的变量，则会使计算成本过大、变量选择估计的速度减慢以及模型选择的精准度降低，也会出现过度拟合现象；如果我们选择较少的变量，则会遗漏重要变量或选择变量不当，使结果误差较大，也失去了分析研究的意义。……