陈善雄, 刘小娟, 陈春蓉,郑方园

(1.西南大学 计算机与信息科学学院,重庆 400715; 2.贵州工程应用技术学院 信息工程学院,贵州 毕节 551700)

针对Lasso问题的多维权重求解算法

陈善雄1,2*, 刘小娟1,2, 陈春蓉1,郑方园1

(1.西南大学 计算机与信息科学学院,重庆 400715; 2.贵州工程应用技术学院 信息工程学院,贵州 毕节 551700)

(*通信作者电子邮箱csxpml@163.com)

最小绝对收缩和选择算子(Lasso)在数据维度约减、异常检测方面有着较强的计算优势。针对Lasso用于异常检测中检测精度不高的问题，提出了一种基于多维度权重的最小角回归(LARS)算法解决Lasso问题。首先考虑每个回归变量在回归模型中所占权重不同，即此属性变量在整体评价中的相对重要程度不同，故在LARS算法计算角分线时，将各回归变量与剩余变量的联合相关度纳入考虑，用来区分不同属性变量对检测结果的影响;然后在LARS算法中加入主成分分析(PCA)、独立权数法、基于Intercriteria相关性的指标的重要度评价(CRITIC) 法这三种权重估计方法，并进一步对LARS求解的前进方向和前进变量选择进行优化。最后使用Pima Indians Diabetes数据集验证算法的优良性。实验结果表明，在更小阈值的约束条件下，加入多维权重后的LARS算法对Lasso问题的解具有更高的准确度，能更好地用于异常检测。

最小绝对收缩和选择算子；变量选择； 最小角回归；多元线性回归；加权

0 引言

大数据时代，数据挖掘已展现出其魅力，如何使用数理统计模型从海量数据中挖掘有效信息越来越受到业界的关注。在建立模型初期，一般会选择尽可能多的自变量(属性集)减小因缺少重要自变量而出现的模型偏差，但建模过程中需要寻找对结果变量解释力最强的自变量集合，即通过对自变量选择来提高模型的预测精度与准确度[1]。……