APP下载

基于Spark的Canopy-FCM在气象中的应用

2020-08-12勾志竟宫志宏刘布春

计算机技术与发展 2020年8期
关键词:数据挖掘

勾志竟,宫志宏,徐 梅,刘布春

(1.天津市气象信息中心,天津 300074; 2.天津市气候中心,天津 300074; 3.中国农业科学院 农业环境与可持续发展研究所,北京 100081)

0 引 言

随着科技的进步,气象部门获取数据的途径也越来越多,收集并产生的气象数据呈指数级增长。如何将数据挖掘技术应用到气象预报预测和气象灾害预测等方面[1-3],从海量的气象数据中挖掘有价值的信息,成为气象行业研究的重点。传统的数据处理方法已经不能很好地处理海量数据,挖掘数据内部规律时更为乏力,而数据挖掘算法与分布式处理框架[4]的出现为挖掘海量气象数据提供了一种新的思路。

陈正威[5]在Hadoop平台上运用预处理有向无环图和支持向量机(PDAG-SVM)算法对降水量做出预测,该方法在预测精度和预测效率上都取得了令人满意的结果;王昊等[6]提出了一种Hadoop平台下基于离散贝叶斯网络的数据挖掘改进算法,预测精度明显高于目前短期气候预测中采用的朴素贝叶斯算法;张晨阳等[7]提出基于Hadoop的计算等价类的数据约简算法与朴素贝叶斯分类算法,该并行数据挖掘方案可以有效处理海量气象数据,并具有良好的扩展性;Lv Zhenhua等[8]提出了并行K-means算法,并用于遥感图像的分类;李莉等[9]基于Spark平台提出并行K-means算法对气候区进行划分,对气象领域研究有重要现实意义。

从目前的相关研究可以看出,学者们不断对海量数据挖掘方法进行研究和优化,而聚类算法作为数据挖掘的重要方法,将其与分布式处理框架相结合[10-12]处理海量数据成为数据挖掘领域越来越活跃的研究方向。……

登录APP查看全文

猜你喜欢

数据挖掘
基于数据挖掘的船舶通信网络流量异常识别方法
探讨人工智能与数据挖掘发展趋势
数据挖掘技术在打击倒卖OBU逃费中的应用浅析
基于并行计算的大数据挖掘在电网中的应用
数据挖掘技术在中医诊疗数据分析中的应用
一种基于Hadoop的大数据挖掘云服务及应用
数据挖掘在高校图书馆中的应用
数据挖掘的分析与探索
基于GPGPU的离散数据挖掘研究
利用数据挖掘技术实现LIS数据共享的开发实践