APP下载

高校大数据分析平台设计与研究

2020-04-10刘萍张蕊

现代信息科技 2020年1期
关键词:平台设计智慧校园大数据

刘萍 张蕊

摘  要:大数据技术在各行各业的作用日益凸显,高校引入相关技术可以充分挖掘历史数据蕴含的价值,为高校提高管理水平提供指引方向,为智慧校园的建设奠定坚实基础。文章通过对高校大数据开发平台服务构建的整体思路和解决方案、相关核心关键技术的分析,提出大数据分析平台在高校的应用模式,从而对大数据在智慧校园中的应用提出积极建议。

关键词:大数据;智慧校园;平台设计

中图分类号:TP311.13      文献标识码:A 文章编号:2096-4706(2020)01-0125-02

Abstract:The role of big data technology in all walks of life is increasingly prominent. The introduction of relevant technologies in colleges and universities can fully tap the value of historical data. This paper puts forward the application mode of big data analysis platform in colleges and universities through the analysis of the overall ideas,solutions and the relevant key technologies,so as to make positive suggestions for the application of big data in “smart campus”.

Keywords:big data;smart campus;platform design

0  引  言

2018年4月13日,教育部關于印发《教育信息化2.0行动计划》的通知提出了教育信息化2.0的概念,在通知里多次提及大数据概念,说明大数据技术在未来教育信息化工作中的重要地位。而高校信息化建设已开始数年,在建设过程中,学校信息化建设和管理水平得到显著提升,基于校园网的信息资源和应用系统建设不断丰富和完善,多年来积累了大量的包括业务数据、日志、音频、视频、图片、地理位置信息等不同数据源的各类数据。引入大数据技术不但可以实现这些数据的迅速流转,而且可以对数据进行甄别和分析处理,充分挖掘出其中蕴含的价值,为高校提高管理水平提供指引方向,为智慧校园的建设奠定坚实基础。

1  大数据平台的发展

高校在信息化发展的进程中,经历了网络校园、数字校园到目前的智慧校园,仍遗留一些信息化方面的缺陷,例如存在信息孤岛、没有共同数据中心等。在打造智慧校园的过程中,要打破这些壁垒,有必要引入数据存储、流转、分析处理能力和功能更加强大的大数据技术,对各类数据进行有机规划,从根本上改变学校信息孤岛的现象,构建学校“信息高速公路”。

高校的大数据平台坚持以师生服务为导向,以师生需求为引领,推动“一切流程信息化,一切业务数据化”建设,建立全新的信息化生态系统。

通过大数据平台,教务和学生管理部门可以通过数据了解历年学校教学管理和学生信息,依靠大数据平台进行数据挖掘、分析和处理,使高校学生管理人员能充分掌握学生情况,从而推动教学管理制度的改革。

通过大数据平台,可以提供相关参考数据,有效地辅助学校各级领导进行研究、决策,最终达到提升学校信息化综合服务能力的目的。

2  大数据平台架构设计

整个大数据中心架构从下往上分别是数据源层、数据采集层、大数据处理层、数据应用层,如图1所示。

数据源层主要的数据来源有结构化数据、半结构化数据和非结构化数据。结构化数据源主要是高校业务数据库、一卡通数据库、计费认证数据库等;半结构化数据源主要是各种应用和设备的日志信息,包括上网日志、Web服务器的访问日志等;非结构化数据主要是各种来自互联网的数据及相关的业务系统的数据。

数据采集层的主要功能是针对数据源层的不同数据源,使用不同的采集工具对数据进行采集,主要由Sqoop、Flume和爬虫组成。

大数据处理层主要由Hadoop或Spark框架组成。包含底层保存数据的HDFS和HBASE,往上是分布式计算资源调度组件Mesos、Yarn等,再往上是Spark或MapReduce计算引擎,最上层是各种数据处理组件。

数据应用层提供基于大数据框架的各种服务,包括整个大数据中心智能应用模块、主题数据的统计展示模块、基于机器学习算法的智能应用模块等。

3  大数据平台功能设计

3.1  平台开发管理模块

(1)平台开发管理维护模块:本模块提供了图形化可拖拽工作流形式的数据采集处理开发工具、各种数据源采集组件和各种数据加工处理组件。同时还提供数据保存组件,可以将数据保存到关系型数据库、NoSQL数据库、各种格式的文件等。此外,对开发完的工作流可以进行编辑、保存、删除、版本管理、运行时间及条件设置、运行状态监控、运行状态预警(支持以邮件、短信、微信消息等形式通知)。

(2)数据统计挖掘模块:本模块提供图形化可拖拽工作流形式的数据挖掘开发工具,提供内置的常用函数库、数据预处理组件、各种大数据分析算法组件、统计算法组件、文本处理和挖掘算法、自定义的算法组件等,其中每种算法都以可视化的组件形式提供,用户可以配置算法参数、指定数据源和数据流出目标,数据统计挖掘的工作流处理完的数据可以输出到报表,保存到各种关系型数据库。

(3)报表生成模块:本模块提供一个图形化拖拽+脚本的开发界面,可以进行报表的开发并生成各种类型的统计图,开发的报表可进行灵活部署,可以单独发布或集成到其他系统页面,同时报表可兼容各种浏览器。

(4)数据检索模块:本模块可以对大数据平台上的数据进行灵活、快速的检索。

(5)接口管理发布模块:本模块对指定数据可以进行接口发布,采用RESTful形式的接口,接口调用可以实现权限管理、访问限制等设置。

(6)大数据平台运维管理模块:本模块对大数据平台的硬件设备、软件组件和各种监控指标进行监控和报警,当事件发生或满足阈值时,可以对指定的管理人员进行包括邮件、短信、微信消息等形式的通知。同时,提供详细的日志功能,记录平台的各种操作和运行日志,并提供便捷的查詢界面,能够对各种日志进行查看、审计。

(7)权限管理模块:本模块主要是管理员对大数据数据中心的功能进行权限分配,系统管理员为整个系统的最大管理员,拥有所有权限。

3.2  主题数据展示模块

(1)数据采集工作:数据采集工作参考教育部2012人事管理信息子集,可以对人事、学生、教务、科研、财务、资产、设备、招生、就业、一卡通、图书馆等业务的数据进行采集、加工;同时,对网络设备、网络计费、审计设备等日志数据进行采集。

(2)领导驾驶舱数据展示:领导驾驶舱数据展示功能可对人事、学生、资产、科研、教学、资产设备、校情、外事、档案、办公等数据进行领导视角的统计挖掘展示。

(3)教师个人数据中心展示:教师个人数据中心展示基于教职工在各个系统中的数据,以教职工个人为中心,形成各种数据统计展示,例如:人事信息、科研成果信息、工资情况信息、教学情况信息、一卡通信息、图书借阅信息、上网信息等。

(4)学生个人数据中心展示:基于学生在各个系统中的数据,以学生个人为中心,形成各种数据统计展示,例如:个人基本信息、考试成绩信息、奖学金助学金信息、助学贷款信息、一卡通消费信息、图书借阅信息、上网信息等。

3.3  智能应用模块

(1)学生综合预警功能:通过对各种数据源中学生数据的采集、处理、分析挖掘,形成各种预警模型,可以对学生的经济困难状况、学业状况、离校状况、进校状况进行预测报警或提示,对分析结果进行报表展示,提供查询及各种类型消息推送功能等。

(2)网络安全预警功能:通过对各种网络设备的数据进行采集、处理、分析挖掘,进行各种网络安全预警模型,可对非法的网络访问、网络入侵、非法操作等进行预警,对分析结果进行报表展示,提供查询及各种类型消息推送的功能等。

4  结  论

通过对学校的多年信息化建设形成的数据进行大数据分析,除了可以提供多角度、多维度及直观的数据展示,还可以在此基础上完成跨部门和跨系统的业务流程重组和优化,建立一个具有规范业务流程、先进管理理念的分析决策系统,为学校各级领导进行研究、决策提供数据支撑。同时,学生相关的综合查询和预警功能,为学生管理提供辅助支撑,为学生提供人性化的管理与服务,还可促进高校信息化水平的提升。

总之,在高校管理中应用大数据技术,可以推动学校管理制度的创新与变革,在提升高校管理智能化的同时,为智慧校园的建设奠定坚实基础。

参考文献:

[1] 江学锋.Web下基于数据挖掘的高校辅助决策支持系统设计 [J].信息与电脑(理论版),2016(20):99-101.

[2] 代海平.大数据技术在高校学生管理中的应用 [J].智库时代,2019(38):90+92.

[3] 李玉荣.大数据视域下高校智慧校园建设的可行性路径研究 [J].信息技术与信息化,2019(8):146-148.

作者简介:刘萍(1975-),女,汉族,福建莆田人,副高级工程师,硕士研究生,研究方向:数据挖掘、智慧校园、教育信息化。

猜你喜欢

平台设计智慧校园大数据
基于B/S结构的学生公寓管理信息系统的设计与实现
“智慧校园”浪潮下大学课堂教学改革与设计
智慧校园关键技术分析与研究
基于工作流的水运应急信息管理平台设计 
MOOC时代创新区域教师培训课程建设研究
基于大数据背景下的智慧城市建设研究
智能云教学系统在计算机专业教学中的运用