MCP-Logistic模型在银行客户流失数据的应用

2021-12-29林怡婷邓喜珊张天羽张婷婷王延新

宁波工程学院学报 2021年4期

林怡婷，蔡涛，邓喜珊，张天羽，张婷婷，王延新

（宁波工程学院理学院,浙江宁波 315211）

0 引言

大数据时代，众多数据呈现海量、高维、复杂等特点，这使得传统的统计方法受到巨大挑战。高维数据变量选择成为现代统计的前沿热点问题，解决高维数据稀疏化的最有效最常用手段是基于罚函数的正则化方法。近20年来，统计家们提出了很多罚方法同时进行变量选择和参数估计。目前较为流行使用的惩罚函数主要有Lasso、SCAD[1]、MCP[2]以及这三者的衍生。刘建伟等[3]总结了多种正则化稀疏模型，曾津等[4]介绍了多种处理高维数据的变量选择方法；他们均提到了Lasso、SCAD和MCP具有较强的变量选择能力。但Lasso方法是有偏估计，而SCAD和MCP罚方法具有无偏性、稀疏性和连续性。相对SCAD估计而言，MCP变量选择的结果更加稀疏。

Logisitc回归模型常常用于分类问题，但在高维情形下，会出现估计结果不稳定的问题。进而，基于惩罚函数的Logistic回归模型被提出并得到广泛应用，该模型可以有效克服参数估计的不稳定性和模型过拟合问题，同时进行变量选择和参数估计。

鉴于上述原因，本文提出基于MCP罚的Logistic回归模型，并以某商业银行客户流失历史数据为例探究MCP-Logistic模型选取变量的能力以及预测效果。特别地，在正则化参数选择方面，提出一种正则化参数直接给定方法，不需要预调节，极大减少了计算量。在实际数据分析中，将MCP-Logistic模型与基于Lasso、SCAD的Logistic模型以及决策树模型[5]对比，验证本文提出方法的有效性。