APP下载

基于CIMISS的数据质量统计系统的设计与实现

2021-11-03许竹霞孔小怡徐娟高鹏

电子技术与软件工程 2021年18期
关键词:国家局站点气象

许竹霞 孔小怡 徐娟 高鹏

(甘肃省气象信息与技术装备保障中心 甘肃省兰州市 730020)

全国综合气象信息共享平台(China Integrated Meteorological Information Sharing System,简称CIMISS)是国家气象信息中心2009年启动建设的数据管理和服务平台,集气象数据收集、加工处理、存储管理和共享于一体,运行于国家级和31 个省级气象数据中心,管理国家级或省级数据中心全部可收集的国内外气象资料和业务产品[1]。CIMISS 系统主要包括数据收集与分发(CTS)、加工处理(DPC)、存储管理(SOD)、业务监控(MCP)及标准化的接口服务(MUSIC)五个子系统。

随着2016年CIMISS 系统的全面业务化,甘肃省气象局兰州中心气象台、西北区域气候中心、公服气象服务中心等多个单位的业务系统已与CIMISS 系统的MUSIC 接口对接,越来越多的气象核心业务系统已基于CIMISS 统一数据环境运行。因此,对于子系统CTS 的数据传输质量、时效的要求也越来越高。

气象资料传输质量是全国各个省份每月必须做的一项工作,甘肃省气象信息与技术装备保障中心每月月初,收到国家局下发的81 个国家级自动站、1253 个区域站、7 部雷达、9 个高空站等15种气象资料的传输质量后,与本省CTS 实际接收到的情况对比,手工统计、校正后,反馈至国家气象信息中心修正、上报本省观测与网络处,并下发至全省各个市州,工作量大且繁琐,耗时几乎一周的时间。另外,手工进行统计、校正大量数据时,数据的时效性和正确性较差。

甘肃省气象信息与技术装备保障中心对全省传输质量的统计是依赖于将所有传输资料的传输日志入库进行统计,每一类资料的接收及传输日志都是部署在不同的服务器上,维护人员必须保障各类气象资料在本地入库的日志信息,数据源不统一,系统维护零散。据了解,全国各省份的气象信息传输质量统计与管理五花八门,没有系统性的、智能化的统计手段。因此本文的目的是依托CIMISS的数据环境,梳理各类气象数据传输考核时效,设计开发一套数据传输质量统计系统,把业务人员从繁琐的质量统计工作中解放出来,能有更多的时间保障、维护其他核心业务工作并拓展科研工作。

1 系统总体设计与数据流程

1.1 设计目标

通过建立基于CIMISS 的数据质量统计系统,减轻业务人员计算、统计的工作量,提高气象数据质量统计的准确性和时效性,为气象保障服务提供及时、可靠的现代化信息支撑。系统设计的目标主要包括:

(1)与CIMISS 系统的CTS 监控数据实时对接:获取国家级自动站数据、区域自动站数据、高空观测数据、城镇天气预报数据、国家级无人值守自动气象站数据、公路交通气象站数据、天气雷达基数据、天气雷达PUP 产品等15 类上行气象观测数据和预报产品传输至国家级气象通信系统的传输时效。

(2)将国家局下发考核结果导入及对比分析:针对国家局下发的考核结果(TXT 格式,A、C 表)的结果导入系统,进行解析后,与甘肃省本省上报的各类气象传输结果进行对比分析,以便省、市、县业务人员实时掌握全省站点数据质量状况,也为各级管理部门及时了解气象观测数据质量状况提供重要依据。

(3)省内传输质量修订:根据国家局下发的统计结果,经过系统的自动解报和对比分析后,按照甘肃省气象与技术装备保障中心监控值班日志及各个市州局上报情况进行质量修订,并将缺报详情、异常详情进行说明。

(4)考核质量统计:根据国家局下发的各类气象资料考核站数、传输时间等规定,综合考虑发报频次、发报站点数,确定每类气象资料采集传输信息的策略,在系统中设定时间采集资料传输信息,对甘肃省气象信息传输质量统计、设备运行质量统计、上行传输时效及CIMISS 入库时效统计等,形成对应的汇总表格,并通过图表的形式进行直观展示。

1.2 设计原则

1.2.1 满足实际业务需求

系统设计从实际业务需求出发,优化业务管理现状,在需求调研和系统设计上以业务人员的实际使用为原则,兼顾长远发展性,使系统能够支撑全局工作,满足甘肃省气象信息与技术保障中心业务科管理工作的不断深化与发展,整个系统具备用户化,使系统上线即可投入业务使用。

1.2.2 充分利用已有资源

按照统一标准、立足当前、规划长远的设计原则,系统根据甘肃省气象信息与技术保障中心传输与监控室工作需要及现有环境条件开发,并充分把握发展趋势。系统在建设中充分考虑利用已有系统和数据的原则,以CIMISS 系统的收集分发及数据存储的相关数据为基础,建立实时数据库、数据统计、存储系统,实现数据传输时效存储利用。

1.2.3 软件平台、数据库接口标准化

标准规范体系是实现互联互通、信息共享、业务协同的基础。在系统建设过程中,严格按照标准规范体系中制定的相关标准,例如:信息技术标准、信息接口标准和信息服务标准等。

1.2.4 系统实用性与易用性相结合

充分考虑系统的实用性和易用性,系统的操作界面要求尽量完备和简洁友好,要充分利用图像、图表等比较直观的技术,符合气象信息业务人员的操作习惯,并能提供实时、有效、准确的数据信息。

1.2.5 系统结构遵循易管理性和扩充性

系统具有开放的接口和灵活定制的功能,能实现对业务、图层、表单、人员、权限等的灵活定制。当需求发生变化时,能在少量进行代码级、数据库级的改动情况下实现。除此之外,系统还具有强大的扩展能力,可以很方便地挂接其它已有系统和新开发的系统,并能与这些系统很好的融合,实现数据共享,能适应发展的需要。

1.3 系统总体架构

气象数据质量统计管理平台根据甘肃省气象信息与技术装备保障中心的业务需求,基于CIMISS 数据环境,利用现有的网络资源、计算资源以及存储资源,建立气象数据传输质量统计平台,总体架构如图1 所示。平台采用分层次、组件化的原则进行设计,主要分为五层:用户层、应用层、数据处理层、信息采集层、资源保障层;并且平台由基于以业务、管理等方面的标准化规范体系、运维管理体系和安全保障体系作为整体架构上的支撑和保障[2-4]。系统的用户层包括:省级用户、市级用户、县级用户,其中省级用户具有最高权限,对市、县级用户提交的数据传输时效订正说明进行审核,并具有对质量的直接订正权限;应用层包括时效监控和统计等应用;数据处理层包括时效监控信息表、统计时效表,对气象数据传输时效的计算、质量订正;信息采集层包括从CIMISS 数据环境中获取数据收集分发(CTS)的情况,并将数据存储管理于本地数据库中;资源保障层包括网络资源、计算资源、存储资源,服务器为甘肃省气象信息与技术装备包装中心的虚拟化资源池中的一台虚拟机,操作系统为64 位Microsoft Windows Server 2008R2、内存为64G、CPU 为20 核。

图1:数据质量统计系统总体架构

1.4 数据流程图

数据质量系统主要从CIMISS 的子系统CTS、SOD 以及国家局下发的质量统计结果(A、C 表)获取数据,其中CTS、SOD 采用实时同步获取的方式,国家局下发的结果统计结果报表在统一接收后进行上传解析,获取需要数据,最终将这些数据统一入本地数据库。业务网站利用上行传输质量、CIMISS 传输质量、质量传输报告的数据,通过入库时间计算及时率,缺报情况计算缺报率。质量监控由省局按国家局下发质量数据,CTS、SOD 数据库同步的数据以及各市县故障说明,进行订正并形成报表。数据流程图如图2所示。

图2:数据流程图

1.5 关键技术

(1)采用B/S 架构方式,即浏览器和服务器架构模式,这种模式将系统功能实现的核心部分集中到服务器上,使系统的开发、维护和使用得以简化。

(2)基于数据仓库的数据存储,从CIMISS 平台的Mysql 数据库中获取数据收集与分发的信息,加工处理后,存储到数据仓库中,为用户的查询和决策分析奠定基础。涉及到的基础信息数据库包括:台站信息维护库、台站考核任务分配库、考核类型配置库、国家气象信息中心下发的A、C 文件库、CTS 传输质量库、文档上传记录库。

(3)资料处理采用多线程资源处理技术,即一个进程可以有多个线程,这些线程共享该进程资源,共享数据和文件。使用多线程技术提高了CPU 的利用率。

(4)基于SOA 的企业数据总线,SOA(Service Oriented Architecture,面向服务架构)是一种组织级架构,和其它架构方法的不同之处在于SOA 提供的业务敏捷性,对业务变更能快速地进行响应。

(5)采用HTML5、CSS3 技术构建,在很大程度上提高了项目建设的美观程度,为用户提供了不一样的视觉体验。

(6)采用组件化设计,优势在于应用程序由各自独立的组件组成,这些组件的开发和部署保持相对的独立性;通过仅对这种应用程序的某些组件进行升级,从而对其进行小幅度的升级;并且组件可以在不同应用程序之间共享。

2 主要业务功能

气象数据质量统计系统实现的主要业务功能有四个方面:

(1)质量控制,主要包括A 表订正、CTS 订正、省局审核;

(2)配置管理,主要包括站点分配、台站维护、类型管理;

(3)报表管理,主要包括传输质量统计报表、传输质量运行报表、国家局统计结果修订、应急响应报表等。

2.1 质量控制

质量控制模块是数据质量统计系统的核心功能,完成A 表的订正、CTS 订正和省局审核等主要功能。

2.1.1 A 表订正

每月4日左右国家气象信息中心将上个月的全国气象数据传输质量A、C 表(TXT 格式)下发给各省,各省依据实际情况对传输质量进行订正,其中,A 表为传输质量统计应收站次、及时率、缺收站次、缺收率的统计,C 表为缺收站点及缺收时间。使用质量统计系统收到国家局下发的传输质量后,将15 类资料的A 表形成.zip的压缩包,并以本月日期命名后,在A 表订正中导入、保存,统计系统对A 表进行解析入库后。通过查询的方式在页面即可显示只有本省的15 类资料的传输质量情况,包括数据类型、标识符、日期、应收站数、应收站次等信息。在统计人员完成CTS 订正后,订正结果便一并显示在该表中,即形成A 表的订正结果表。

表1:按资料类型的站点分配表

2.1.2 CTS 订正

此模块主要实现国家气象信息中心下发的传输质量与本省CIMISS 接收气象资料的实际情况的对比分析,并根据缺报客观原因对资料接收时效进行相应订正。在类型列表中选中要订正的资料,将订正时间选择在开始时间和结束时间段内,选择时效(及时、逾限、缺收、全部)、站号或区域(省、市、县可任意选择)查询后进行批量修改。

目前,CTS 订正的工作量还是在省局,在系统完善后推广至市县,将由市县级值班人员自行填写,省局统计人员只对其上报修改的结果进行审核即可。

2.1.3 省局审核

省局审核模块完成对各市县级用户上报修改结果的审核,对客观原因造成的缺报审核通过、不符合条件的可驳回。

2.2 配置管理

配置管理模块的主要职责是完成站点信息的维护、资料类型管理以及站点分配。

2.2.1 台站维护

台站维护即站点信息表,可对站点信息进行查询、新增、修改和删除,修改的内容包括台站类型(自动站、区域站、土壤水分站、交通站、雷达站、无人自动站)、站名、站号、经纬度、所属县区,台站类型决定了在站点分配时配置资料可选的站点。目前,表中共有2345 条信息。

2.2.2 类型管理

类型管理即资料类型的新增、修改、删除,修改内容包括类型名、四级编码、标识符、状态。根据考核情况共配置16 类资料:国家级自动气象站资料、区域自动气象站资料、高空观测资料、精细化城镇天气预报产品、大气成分资料、酸雨资料、沙尘暴资料、紫外线资料、风廓线雷达资料、地面气象日照资料、地面天气站资料、雷达基数据、雷达PUP产品、自动站土壤水分资料、交通气象站资料、GNSS/MET 资料。

2.2.3 站点分配

站点分配依据每类资料的实际考核站点进行添加、删除,只需在所要配置资料的站点设置中选择对应考核的站点即可。目前系统中配置本省考核资料16 类,每类资料的站点分配如表1 所示。

2.3 报表管理

报表管理模块通过统计完成质量统计报表、国家局统计结果修订(汇总)、国家局统计结果说明、应急响应报表。

(1)质量统计报表:全省数据传输质量的最终结果是将本省收集分发信息(由CIMISS 平台的CTS 子系统Mysql 数据库中同步至数据质量统计系统)、国家局下发的考核结果以及市州局反馈的订正情况统计所得。质量统计报表分三个子表各站质量、地区质量、缺报统计,其中各站质量按照资料类型将每个站的质量情况以及每类资料的及时率列出来,地区质量每类资料按市州局统计、对每个市州局的传输情况统计,缺报统计按照资料类型将缺报站点、缺报时次统计出来。

(2)国家局统计结果修订(汇总):国家局统计结果修订通过在质量控制部分进行修正后的统计结果,检查站数、检查站次和及时站次,在给国家气象信息中心上报修正质量时提供此表。

(3)国家局统计结果说明:此模块由传输监控人员每日将每个班次出现缺报的原因记录,在给国家气象信息中心上报修正质量时要提交统计结果说明。

(4)应急响应报表:包括各站缺报、地区缺报、缺报统计,其中,各站缺报按资料类型以缺报率倒序排列,缺报最多的排在最前边,比较直观;地区缺报是以地区划分,各市州局查看各自管辖范围的资料比较方便;缺报统计是统计各类资料缺报详细的时间。此报表主要功能是快速统计国家级自动站、区域站和雷达的缺报情况,尤其在汛期启动重大气象保障应急响应时发挥作用。

3 总结

基于CIMISS 的气象数据质量统计系统满足了业务人员订正气象数据传输质量的工作,很大程度地提高了工作效率,并实现了信息化的管理。气象数据传输质量统计系统基本功能实现后投入业务试运行,借助本系统能够便捷、有效地完成每月质量修正工作,并且在汛期重大气象服务保障中能按要求及时统计国家级自动站、区域站和雷达站的数据传输情况。

但是,2019年1月8日甘肃省气象信息与技术装备保障中心完成了国内气象通信系统由CTS1.0 至CTS2.0 的切换,包括雷达流数据的切换、标准化数据格式的切换及文件级传输的切换,切换后文件级传输与标准化数据格式传输双轨运行,标准化数据格式传输单轨运行即将当来。因此,下一步的进展将考虑使用本系统进行标准化数据格式的传输质量统计,并将本系统推广至全省市、县局。

猜你喜欢

国家局站点气象
气象树
《内蒙古气象》征稿简则
基于Web站点的SQL注入分析与防范
2017~2018年冬季西北地区某站点流感流行特征分析
大国气象
主管部委与国家局的职责关系研究
——基于中美大部制内部治理结构的比较
美丽的气象奇观
首届欧洲自行车共享站点协商会召开
世界知识产权组织国际局的职能
关于做好基本药物全品种电子监管实施工作的通知