大数据平台的视频分析并行处理系统设计
2021-11-03南京邮电大学电子与光学工程学院程思哲钱国明
电子世界 2021年19期
南京邮电大学电子与光学工程学院 程思哲 钱国明
视频智能分析在传统工业的安全生产监测领域有着很大的发展空间与应用潜力。随着监控视频数据量飞速增长以及视频分析算法模型精度要求越来越高,视频分析系统的低延迟和高并发成为了一个重要的挑战。本文采用Spark、Kafka、HDFS、HBase、Opencv和Yolov5等技术栈构建了一个海量视频数据分析平台,基于此平台可以实现对海量视频数据进行实时流计算。
近年来,在国家工业互联网战略的推动下,工业园区对视频智能分析系统的需求日益强烈。在企业端进行边缘计算,实时检测值班人员脱岗睡岗、未戴安全帽、受限区域违规闯入、人员超限、异常火点、异常烟雾等异常状态,便于及时进行异常状态预警及主动干预,对提高企业安全生产监测具有重要的意义。但是随着监控视频数据量快速增长以及分析精度要求越来越高,必须解决视频分析系统对低延迟和高并发的要求,目前已出现了将视频分析算法移植到大数据分布式平台的解决方案,如Jothilakshmi等人提出的使用Hadoop、MapReduce的视频分析方案,其原理是将视频流直接存储至HDFS,然后再使用MapReduce做分布式处理。这样做虽然解决了海量视频的存储问题,但是MapReduce只适合做批处理,只能定时对hdfs中的视频文件做分析,时延较大,无法做到对海量视频的实时分析。本文采用Spark、Kafka、hdfs、hbase、opencv、yolov5等构建了一个海量视频数据分析平台,基于此平台可以实现对海量视频数据进行实时流计算。
1 系统设计
1.1 系统总体架构
本系统主要分成四层分别是视频采集层、视频处理层、视频缓冲层、视频分析层、视频存储层。……
登录APP查看全文
