APP下载

关于大数据的若干思考

2014-12-21邬贺铨

中国信息化 2014年9期
关键词:数据挖掘可视化

邬贺铨

一、大数据的价值

关于大数据的定义有很多提法,维基百科给出的定义是:“大数据是指无法在容许的时间内用常规软件工具对其内容进行抓取、处理和管理的数据集合。大数据规模的标准是持续变化的,当前泛指单一数据集的大小在几十TB和数PB之间”。这是一个大众化的定义。这可能收到了大数据英文词“Big Data”中的“Big”的误导。

作者认为,大数据的价值不仅仅在于数据大,不是说数据量越大越好,数据大与价值大未必成正比。例如将一个人每分钟的身体数据记录下来,对了解该人的身体状况是有用的,但如果将他的每毫秒的身体数据都记录下来,数据量将较前者高6万倍,与按分钟记录的数据相比,其价值并不一定增加。另外,大数据的价值在于样本数的普遍性,如果统计一个人每分钟的身体状况数据与统计60个人每小时的身体状况数据相比,数据量是相等的,但后者在统计上更有意义。

其次,大数据往往是低价值密度,大数据的价值绝对值可能是大的,可是相对值是低的,大数据中多数数据可能是重复的或对我们关注的问题没有意义,忽略其中一些数据并不影响对其挖掘的结果。因此可以说大数据的价值挖掘是从沙里淘金和海里捞针。

值得关注的是,实际上对中小数据的挖掘同样值得重视。北京公交一卡通每天刷卡四千万次,地铁一千万人次,这在全世界都是最多的了,这些数据累计一年下来也不到TB,它的级别充其量就是中数据。……

登录APP查看全文

猜你喜欢

数据挖掘可视化
自然资源可视化决策系统
思维可视化
基于Power BI的油田注水运行动态分析与可视化展示
自然资源可视化决策系统
探讨人工智能与数据挖掘发展趋势
基于CGAL和OpenGL的海底地形三维可视化
“融评”:党媒评论的可视化创新
基于并行计算的大数据挖掘在电网中的应用
数据挖掘技术在中医诊疗数据分析中的应用
一种基于Hadoop的大数据挖掘云服务及应用