王 萌 王 策 栗思思 卢宇红 宋佳丽 李 康 侯 艳△

【提 要】 目的 探索基于深度学习模型联合正则化方法在小样本高维数据特征筛选中的优势。方法 通过模拟实验和实际数据分析比较深度学习模型单独及联合正则化方法在小样本高维特征筛选准确性方面的差异；采用测试集中C指数作为两种模型泛化能力评价指标。结果 在小样本研究中单纯的深度学习模型在变量之间存在复杂相关性时会表现过拟合，而深度学习模型联合正则化的方法比单独的深度学习模型在测试集中体现出防止过拟合的作用，具有更好的泛化能力。通过比较不同正则化的方法，发现深度学习联合组 lasso相比于lasso在测试集中表现出更好的泛化能力。结论 深度学习模型联合正则化的方法在小样本高维数据特征筛选中可以防止过拟合，保证外部测试具有较好的预测效果。

模型介绍

深度学习模型融合正则化方法是指在常规深度学习的输入层与第一隐藏层之间加入正则化方法，剔除对结局变量作用较小的特征组，从而进行特征筛选，以保证使用较少且重要的特征来训练深度学习模型，避免出现过拟合现象[4]。深度学习与正则化融合方法的示意图如图1所示。由于高维组学数据具有特征个数较多、样本量少、数据结构较为复杂等特点，传统的深度学习模型学习数据的特征时常常尝试兼顾所有的数据点，很容易出现过拟合现象。考虑在深度学习模型学习特征的信息前首先利用正则化方法对高维组学数据筛选出对结局变量影响较大的特征，再作为输入变量放入深度学习结构中，可能会具有更为有效的防止过拟合，同时提高模型学习效率等优点。……