一种基于XGboost的异常检测算法
2021-03-24陈适宜
陈适宜



摘要:为了提高异常检测的准确性和高效性,提出了基于xgboost的异常检测算法。首先对异常检测当前遇到的挑战进行分析,指出缺少样本和模型泛化是异常检测中的难点。在此基础上设计了异常注入算法,利用3sigma原则对数据集进行扩充;然后设计特征提取器,针对正常数据和异常数据的特点设计相关特征;最后选择xgboost模型对时序数据进行异常检测。此异常检测流程提高了异常检测的准确性和泛化能力。通过在KPI公共数据集上进行实验,验证了该设计的准确性和有效性。
关键词: 异常检测; xgboost; 异常注入; 特征提取; 智能运维
中图分类号: TP311 文献标识码:A
文章编号:1009-3044(2021)02-0188-02
Abstract:In order to improve the accuracy and efficiency of anomaly detection, an anomaly detection algorithm based on xgboost is proposed. First, analyze the current challenges of anomaly detection, and point out that lack of samples and model generalization are the difficulties in anomaly detection. On this basis, an anomaly injection algorithm is designed, and the data set is expanded using the 3sigma principle; then a feature extractor is designed to design related features according to the characteristics of normal data and abnormal data; finally, the xgboost model is selected to perform anomaly detection on time series data. This anomaly detection process improves the accuracy and generalization ability of anomaly detection. Through experiments on the KPI public data set, the accuracy and effectiveness of the design are verified.
Key words:anomaly detection; xgboost;anomaly injection;feature extraction;AIOPS
計算机硬件和软件的飞速发展带来了功能强大的应用,但是由于硬件、软件和人为等原因,程序时刻都有可能发生故障。及时发现并快速介入故障,能最小化对用户体验的损害。为了能够及时发现故障,需要对系统进行连续监控,系统监控从数据分析的角度来看,即意味着需要不间断地监控大量时序数据,以检测出潜在的异常。由于需要监控的时序数据规模很大,通过人工的方式是几乎不可能的,这就要求我们使用机器学习和数据挖掘技术进行自动异常检测。
异常或者异常点是指与其他数据明显不同的数据点,异常检测旨在发现这些异常点。通常,时序数据是由一个或多个反映系统功能或业务能力的应用程序创建的,当这些应用程序发生行为异常时,就会产生异常点。……
