APP下载

异方差下正则化Expectile回归的变量选择

2020-06-08李顺勇卫夏利张晓琴

关键词:惩罚模型

李顺勇,卫夏利,张晓琴

(1.山西大学 数学科学学院,山西 太原 030006,2.山西财经大学 统计学院,山西 太原 030006)

0 引 言

回归是统计学中刻画数据结构常用的方法之一。在回归建模过程中,随着数据维度越来越高,变量选择发挥的作用越来越重要,一旦选入与因变量无关的自变量,估计和预测精度就会下降,模型的泛化能力将会变差。现阶段变量选择的方法已经从传统的离散最优子集回归发展到正则化框架,除已知的最小绝对收缩和选择算子(Lasso)[1]外,随着光滑削减绝对偏差(SCAD)[2]的提出,Oracle性质成为变量选择好坏的评价指标。2006年,ZOU H[3]提出自适应Lasso改进Lasso不具有Oracle性质的缺点。此外,还有常用的正则化惩罚函数,如弹性网[4]和MCP[5-6],它们在最小二乘回归中应用已有大量成果。

在实际建模中,另一个总被忽略的重要特征是异方差性[7]。传统的最小二乘回归由于对误差项的假设,使得它在处理异方差时是失效的。分位数回归[8]作为一种分析异方差的方法,在回归过程中能够探究给定自变量时因变量的整个条件分布[9]。WU Y等[10]研究了惩罚分位数回归的变量选择,并给出误差项独立同分布时估计量的渐近性质;WANG L等[11]通过超高维数据中的正则化稀疏分位数回归分析了异方差性。但分位数回归存在3个缺点,即不可微性、类高斯误差分布的无效率性和绝对值损失函数带来的计算压力。另一种检测异方差的方法是基于非对称L2范数提出的非对称最小二乘回归,也称为Expectile回归,它表现出许多优良的性质,使回归方法有了进一步的拓展和延伸[12-14]。……

登录APP查看全文

猜你喜欢

惩罚模型
一半模型
重尾非线性自回归模型自加权M-估计的渐近分布
神的惩罚
惩罚
3D打印中的模型分割与打包
FLUKA几何模型到CAD几何模型转换方法初步研究
真正的惩罚等
如此惩罚
惩罚
一个相似模型的应用