APP下载

基于角度的多数据流异常检测方法*

2020-06-18黄东东

计算机与数字工程 2020年4期
关键词:检测方法

黄东东 徐 建 张 宏

(南京理工大学计算机科学与工程学院 南京 210049)

1 引言

随着云计算技术以及大数据技术的发展,单个计算节点的计算能力难于快速、有效地处理大数据,所以大规模数据的计算任务越来越依靠同构计算系统,比如Map Reduce[1~3]、Bulk Synchronous Parallel(BSP)[4]等来完成。同构[4~5]计算系统运行过程中,计算节点会受到网络攻击,软件衰退[5~6]等因素影响而产生异常。因此,通过计算节点的监测数据发现异常节点对于快速的系统恢复和管理有重要作用[7]。

每个计算节点持续采集的数据可以视为一个由多个维度,如CPU、内存、I/O信息、网络等构成的高维数据流,而整个计算系统的多个节点产生的数据流则可视为多条高维数据流。针对多数据流中的异常检测一直是异常检测领域中的研究热点。面临的挑战主要包括:1)动态性[8],与传统静态数据不同,数据流异常检测的研究对象是不断输入数据的数据流,具有动态的;2)无限性[9],数据流会源源不断地输入数据,存储资源的限制使得考虑所有历史数据的可能性是不存在的;3)迁移性[8],数据流的异常检测更加注重数据流的当前数据,历史数据包含的信息价值会随着时间的推移而逐渐减弱。

数据流的异常检测的难点是如何度量多数据流间的相似性,与整体相似性较高的数据流被视为正常数据流,与整体相似性较低的则被视为异常数据流。基于不同的理论和应用,提出了不同数据流异常检测方法,主要有基于密度的异常检测[7,10,15],基于网格的异常检测[11]和基于距离的异常检测[12~16]。……

登录APP查看全文

猜你喜欢

检测方法
学习方法
小波变换在PCB缺陷检测中的应用
用对方法才能瘦
四大方法 教你不再“坐以待病”!
赚钱方法
捕鱼