电力数据中的幂律分布特性
2013-09-29王冠男邓春宇郑亚芹
电信科学 2013年11期
王冠男,邓春宇,赵 悦,郑亚芹
(北京国电通网络技术有限公司大数据业务部 北京 100070)
1 引言
在自然界和社会生活中,经常存在这样的数据,数值在某个特征附近变化,并且变化较小,这一类数据被称为正态分布,具有很多优秀的特性,如图1(a)所示。比如人的身高、学生的考试成绩、同质群体的红细胞数以及数理统计中随机误差等都符合正态分布。在传统数据挖掘方法中,正态分布被誉为概率论里最重要的分布。
然而,随着大数据时代的到来,人们有能力处理完全数据而不是样本数据,因此,现实中很多完全数据不再符合正态分布,比如个人收入的分布、变化尺度的范围很宽,波动可以跨越很多数量级。根据这类数据可以画出一条向右偏斜并且拖着长尾巴的累积分布曲线,显然,它与正态分布曲线有显著的不同,如图1(b)所示。这种长尾分布表明,绝大多数个体的值很小,只有少数个体的值相当大。这种现象被称为长尾效应,或者重尾法则,本文研究的幂律分布是长尾分布中重要的一种[3,4]。
研究表明,90%的电力指标数据都不符合正态分布。确定数据是否为正态分布在数据的探索性分析中具有举足轻重的作用,因为正态分布是很多统计方法和数据挖掘方法所必需的条件,比如线性和非线性回归模型、因子分析、典型相关分析以及主成分分析等,甚至包括最基本的线性相关性系数的计算。若数据不符合正态分布,需要采取其他相应的办法,如数据转换或者更换分析方法,否则轻者导致模型计算结果的不准确性,严重者更会影响针对算法结果所做的决策。……
登录APP查看全文
