APP下载

从数学的角度初步看离群点检测算法

2017-12-24王晨皓

环球市场信息导报 2017年36期
关键词:数据挖掘检测

◎王晨皓

从数学的角度初步看离群点检测算法

◎王晨皓

目前,大数据技术在全世界范围内迅猛发展,在金融、电信、交通、医疗等领域得到了广泛应用,全球包含个人电脑、平板电脑、智能手机、可穿戴终端及物联网终端等联网设备将超过500亿台,全年产生的数据总量是一个天文数字,如此数量、多样化的数据,对各行各业来说存在着巨大的潜在价值,然而由于大数据的4V特性(大体量、多样性、时效性和精确性)决定了大数据的处理和利用难度高,传统的数据分析技术无法满足应用需求,数据挖掘技术应运而生。

数据挖掘是从大量数据中提取出人们所关心的有价值的数据信息,是一门涵盖了统计学、机器学习、人工智能、图像处理、数据库等多门学科的交叉学科,其中数学理论是数据分析与研究的技术。离群点检测正是数据挖掘的重要任务之一,在完成离群点数据检测与分析的过程中,应用了大量的数学模型与数学方法,是数学方法针对数据时代新应用的特殊需求的一次新发展。

离群点检测

离群点数据是与大多数数据在某些特征空间上有所差异的数据,其产生途径大致有两种:一是人为误差或测量设备故障而产生导致的异常数据,会导致数据分析结果的错漏;二是由另外一种完全不同的机制产生的数据。第一类数据在数据分析中是没有意义的,它的存在反而会对数据分析的结果产生不良的影响,通过离群点检测技术剔除此类离群数据是进行数据挖掘的前提。……

登录APP查看全文

猜你喜欢

数据挖掘检测
探讨人工智能与数据挖掘发展趋势
基于并行计算的大数据挖掘在电网中的应用
数据挖掘技术在中医诊疗数据分析中的应用
小波变换在PCB缺陷检测中的应用
一种基于Hadoop的大数据挖掘云服务及应用
数据挖掘的分析与探索
基于GPGPU的离散数据挖掘研究