沈翼洲，蒋荣欣

（浙江大学数字技术及仪器研究所，杭州 310027）

面向视频监控系统的数据网关负载均衡策略

沈翼洲，蒋荣欣

（浙江大学数字技术及仪器研究所，杭州 310027）

在当前网络视频监控系统中，数据网关与摄像机采用手动关联方式，进行大规模实时转码时易使单点负载过高。针对该问题，提出一种基于负载均衡策略的自适应关联方式。设计设备休眠和迁移机制，每台网关记录设备闲置时间，将超时设备投入休眠以降低自身负载。网关调度器周期性获取各网关负载，通过引入负载预警区和二次指数平滑模型预测负载，将过载判断时机提前。过载网关根据最近调用结束优先原则结合设备活跃度选择设备进行迁移，从而间接实现负载转移。实验结果表明，在4台网关36组轮切测试环境下，该方式较手动关联可缩短42.9%的实况开始平均响应时间。

视频监控系统；数据网关；实时转码；负载均衡；设备休眠；设备迁移

DO I：10.3969/j.issn.1000-3428.2015.10.001

1 概述

随着安防规模的扩大，各网络视频监控系统间的融合已成为必然趋势。但因历史原因，各厂商在组网架构、通信协议和编解码标准上并不统一，不同终端的处理能力也不尽相同，导致不同系统之间无法互联互通［1-2］，因此，需要数据网关对不同标准的音视频流进行实时转码以及对不同系统的通信协议进行转换以实现兼容。

在大规模系统中，大量设备的实时转码已远超单台网关的处理能力，需多网关协同处理。目前，网关和设备的关联工作由管理员手动完成，其操作不仅繁琐，而且无法考虑到未来实际情况，容易造成某些网关负载过高。为了避免手动关联的局限性，本文引入负载均衡技术以实现网关与设备的自适应关联。

负载均衡技术现已被广泛应用于Web访问、云计算、虚拟机等领域，从网络层次上可分为基于内容无关的IP层均衡和内容敏感的应用层均衡［3］。前者主要分为NAT、IP隧道和直接路由，后者则名目繁多，主要有对传统调度算法的改进、组合优化理论

的移植和时间预测模型的应用等，如文献［4］针对LVS采用的加权最少连接调度算法的不足，提出基于响应时间动态修改服务器权值的任务分配方案；文献［5］采用遗传算法计算任务与虚拟机之间近似最优组合以实现负载均衡；文献［6］通过ARIMA模型预测虚拟机请求，从而减少迁移次数实现虚拟机的均衡配置。

在当前的视频监控系统中，因设备接口限制，无法通过单台设备与多个网关关联从而分散各业务的调用。为此，本文提出一种基于设备休眠和迁移的负载均衡策略，以实现网关和设备的自适应关联。

2 系统架构

单级域网络视频监控系统架构如图1所示。其中网关调度器是监控管理平台的子模块，负责网关与设备的关联和解绑、网关负载的采集与评估。

图1 视频监控系统数据网关架构

每台网关与一定数量的设备关联，通过创建设备内存对象与相应厂商提供的动态库进行绑定作为对真实设备的模拟。由此，网关将平台对设备下发的命令转换成对绑定动态库对应业务的调用，同时将设备的回复消息和实时码流封装成与平台兼容的通信协议和解码器支持的编码格式。

3 方案设计与实现

实际应用中存在大量闲置设备，其虽无业务运行但仍长期占据大量音视频通道缓存以及动态库分配的各类系统资源，对此可引入设备休眠机制以避免负载虚高。

为完成设备迁移间接实现负载转移，共需4个步骤：负载评估，过载判断，目的网关选择和设备选择与迁移，其中前三步由网关调度器完成，第4步由过载网关和目的网关共同完成。

3.1 设备休眠机制

各网关记录关联设备闲置持续时间TSi=Tcrt-Tlst，i，Tcrt表示当前时间，Tlst，i表示设备i最近一次业务调用结束时间。设闲置超时时间TSmax=μRSTmax，RSTmax为最长轮切周期，μ为倍乘系数。为了避免过多设备被投入休眠而削弱网关响应请求的能力，设置最大休眠率PSmax≥NSk/NTk，NSk表示网关k休眠设备数，NTk表示关联设备总数。设备休眠与激活流程如图2所示。

图2 设备休眠/激活流程

设备休眠采用异步处理方式，内存对象通过退出保活线程暂时断开与设备和平台的UDP连接，只保留设备句柄、套接字、存储配置等关键信息。当设备被再次激活时，只需重新登录即可直接启动业务，平台自动更新设备状态。

3.2 设备迁移机制

设备迁移机制的关键在于迁移时机的确定和迁移设备的选择。针对目前单一阈值过载判断方法具有瞬时峰值干扰和操作滞后性的缺点，采用增设预警区与预测模型相结合的方式将迁移时机提前［7］。为保证监控业务的连续性，不能存在由设备迁移造成的视频丢失，因此，只能选择当前闲置设备；考虑对缓解过载的有效性，应尽量选择调用频繁的设备，由此采用最近调用结束优先作为迁移设备的选择函数。

3.2.1 负载评估

实时转码需要进行大量计算和数据读写，是造成网关负载过高的主要原因，尤其在大规模轮切时表现最为明显，所以，CPU占用率Rcpu和内存带宽占用率 Rmembw是最直接的负载参数，两者的估算式如下：

其中，λi为各参数权重因子。

3.2.2 过载判断

调度器根据网关负载状态对其进行区域划分，如图3所示。其中，Loadmin表示网关空载时负载；Loadmax表示最高理论负载，由式（4）可知其值为1。基于节点均载的动态阈值设置［9］在系统总负载偏轻时并不能真实反映网关性能，为此，在不考虑网关异构性情况下，可根据单台网关的实测结果设置Loadalm和Loadove。

其中，Tusr为CPU用户态时间；Tsys为内核态时间；Tfree为空闲时间；Xi表示单路转码所耗带宽；l为同时转码路数；fm为内存有效数据传输频率；Mbs为总线位数。Xi由码率Si、分辨率Rsti、帧率Fi、环路滤波Olpf估算带宽以及熵编解码、量化/变换、运动补偿模块估算带宽Oetp，qt/dct，mc进行简单估计［8］。

Rcpu和Rmembw只能反映当前负载，对于总负载较低的系统无法有效区分各轻载网关，对此引入网关活跃度GAk=NAk/NTk，NAk表示网关k处于激活状态的设备数，GAk的高低与网关可承受负载的潜力成负相关。综上，网关负载GLk计算式如下：

图3 网关负载区域与阈值设置

对部署在真实场景中的单台网关测试其运行在不同轮切组情况下实况开始的平均响应时间，如图4所示。

图4 单网关多轮切组实况开始响应时间

从图4可以看出，网关负载随轮切组的增加呈现出明显的指数式增长趋势，考虑对预测的实时性要求，采用二次指数平滑模型［10］进行预测，其计算式为：

其中，Fk，t+T为网关k在t+T时刻负载的预测值；ak，t，bk，t为平滑系数分别为一次指数和二次指数平滑值；α为平滑因子。

调度器在每次采样周期内，对每个网关进行负载分析，如发现某网关负载超过 Loadalm则触发预测机制。预测模块通过式（5）计算 N个预测值，如果有P个大于 Loadove，则判断网关过载并通知过载网关启动设备迁移流程，否则等待下一次告警触发。

3.2.3 目的网关选择

调度器在判断过载后需选择一台目的网关以迁入设备。直观方法即选择负载最轻的网关，但迁移设备都是当前闲置但最近被调用的设备，短时间内迁入若干设备对目的网关负载造成的冲击虽不大，但当这些设备不久被再次调用时，负载就会显著增加，如果很快超过预警值则会再次触发迁移，容易造成迁移震荡。因此，目的网关的选择须在低负载倾向的前提下有一定的随机性，可采用轮盘赌算法［11］实现。

设网关k的逆负载RLk为对GLk的取反，定义逆负载概率PLk和累积概率SPLk，其表达式如下：

其中，m为网关总数，随机数发生器生成一个［0，1］内的随机数η，根据 η所在的累积概率区选择目的网关。

3.2.4 设备选择与迁移

针对实时转码调用最频繁的轮切业务具有周期性的特点，采用最近调用结束优先作为选择函数，但实际应用中设备调用具有时间聚集性，即用户只在短时间内对某台设备表现出兴趣，如发生交通事故路段或者被误操作的设备，显然迁移这样的设备没有意义。对此，引入设备活跃度DAi，其表达式如下：

其中，Toli表示设备i从登陆到现在的总时间；Tski，j表示设备i第j个业务的持续时间；ni表示已调用的业务总数。选择 M个最近调用结束的设备并从中选择DA最高的设备作迁移，其流程如图5所示。为保证设备迁移的原子性，过载网关发起迁移请求后不能立即删除内存对象，需等待目的网关回复后再作处理。如目的网关未加载迁入设备所属厂商的动态库则迁入失败，继续保持原状。

图5 设备选择与迁移流程

4 实验结果与分析

4.1 实验环境

因测试需大量设备形成高负载环境，在真实设备远远不足的情况下通过设备模拟软件对真实设备进行仿真，对于轮切所需的视频数据采用预先录制好的视频文件，通过对文件周而复始地读取和发送来模拟真实码流。实验搭建4台网关与监控平台相连，分别为V1～V4，每台网关初始关联100台设备，其硬件配置如表1所示。

表1 网关服务器硬件配置

4.2 实验方案

实验相关参数设置如下：最大闲置时间TSmax= 1 000 s，最大休眠率PSmax=0.4，负载权重因子λ1= 0.5，λ2=0.4，λ3=0.1，二次指数平滑因子α=0.8，每轮预测次数N=3，过载命中次数P=2，候选迁移设备数M=5；调度器采样周期Ts=3 s，单组轮切设备数4台，轮切时间间隔5 s，响应时间采样周期Tc= 5 s。实时转码统一采用MPEG2（D1分辨率、30 f/s帧率、2 M b/s码率）转H.264（D1分辨率、30 f/s帧率、1 024 Kb/s码率）。

选取单台网关，测试其在手动关联方式下运行不同数量的轮切组时实况开始的响应时间。根据系统对延时的要求，设置延时300 m s时对应的网关负载为Loadalm，500 ms时为Loadove。

对V1～V4分别创建20组、10组、4组和2组轮切，分别在手动关联和负载均衡2种方式下测试其运行不同数量轮切组时实况开始的响应时间。初始时各网关保持空载状态，然后对每台网关每隔10 s增加一组轮切，直到达到各网关预设的轮切组数。在此过程中观察各网关响应时间的变化情况，验证负载均衡策略是否实现了设备与网关的自适应关联。

4.3 结果分析

对于负载阈值的确定可参考图4，从中可以看出，实况开始的响应时间在15组轮切时接近300 m s预警值，而在17组时超过500 ms过载值，由此设置Loadalm=0.54，Loadove=0.61。

在2种方式下对V1～V 4构成的系统进行分组轮切递增测试，结果如图6所示。从中可以看出，本文方法比手动方式缩短了42.9%的响应时间。

图6 网关V1～V4手动/均衡方式轮切测试响应时间

V1在170 s附近即添加第16组轮切时2条响应曲线开始分离，与图4在17组轮切时发生过载相比有一定的提前，这是因为调度器利用预测模型判断过载所致，此后响应时间快速下降直到220 s左右开始趋向稳定，因该段时间V1一直处于过载状态，每个采样周期都会触发设备迁移，快于轮切组的添加速度，而从220 s开始负载持续低于过载值，V1进入正常区，设备迁移停止。

对于V 2～V 4，几乎都是在190 s前后开始发生分离，可知此时迁入设备开始进入下一个轮切调用周期，此后30 s内虽有设备迁入但负载均衡方式的响应时间只有轻微的上升，这是因为网关本身已处于正常或者轻载区，尚未达指数式增长的拐点。

设备迁移的最终结果表2所示，从中可以看出，V1一共迁出15台设备，其中，有1台迁入V2，5台迁入V3，9台迁入V4，该结果也基本符合目的网关基于负载大小的随机选择方法。实验结果表明，该策略能实现网关与设备的自适应关联，有效均衡了网关负载，提高了系统整体响应性能。

表2 V1～V4设备迁移结果

5 结束语

为解决网络视频监控系统中数据网关与摄像机手动关联方式在大规模实时转码时单点网关负载过高的问题，本文提出一种基于设备休眠和设备迁移的负载均衡策略，从而实现网关与设备的自适应关联。设备休眠机制通过记录设备最近调用结束时间获得闲置持续时间，将超时设备投入休眠，回收系统资源，降低单点负载；设备迁移机制通过调度器动态获取各网关负载，基于二次指数平滑模型进行过载判断，利用轮盘赌算法选择目的网关，而过载网关则采用最近调用结束优先和设备活跃度选择设备进行迁移。实验结果表明，在4台网关36组轮切测试环境下采用MPEG2转H.264实时转码，与手动关联方式相比，基于本文策略的自适应关联方式可缩短实况开始平均响应时间，对系统的整体响应性能有较大改善，达到了数据网关负载均衡的目的。

［1］ 彭顺顺，周传生，郭桃林.GB28181标准与ONVIF协议媒体播放兼容性的研究［J］.视频应用与工程，2014，38（11）：170-171.

［2］ 袁禄军.视频转码技术的研究及其应用［D］.北京：中国科学院研究生院，2005.

［3］ Gilly K，Juiz C，Puigjaner R.An Up-to-date Survey in W eb Load Balancing［J］.World Wide Web，2011，14（2）：105-131.

［4］ Lin Xiuqin，Du Zhonghan，Yang Juan.The Simple Optimization of WLC Algorithm Based on LVS Cluster System［C］//Proceedings of the 2nd IEEE International Conference on Cloud Computing and Intelligent System s.Washington D.C.，USA：IEEE Press，2012：179-282.

［5］ Hu Jinhua，Gu Jianhua，Sun Guofei，et al.A Scheduling Strategy on Load Balancing of Virtual Machine Resources in Cloud Computing Environment［C］// Proceedings of the 3rd IEEE International Symposium on Parallel Architectures，Algorithm and Programming. Washington D.C.，USA：IEEE Press，2010：89-96.

［6］ Yi Chan，Chan J，Leckie C.Analysing Virtual Machine Usage in Cloud Computing［C］//Proceedings of the 9th IEEE World Congress on Service.Washington D.C.，USA：IEEE Press，2013：370-377.

［7］ 张 创，谷建华.基于虚拟机迁移的虚拟机集群负载均衡策略研究［J］.微电子学与计算机，2014，31（4）：79-82.

［8］ 韩 笑.基于TilePro64多核处理器的3G服务器视频转码软件设计［D］.杭州：浙江大学，2012.

［9］ 程春玲，张登银，徐 玉.一种面向云计算的分态式自适应负载均衡策略［J］.南京邮电大学学报：自然科学版，2012，32（4）：53-58.

［10］ Wikipedia.Exponential Smoothing［EB/OL］.（2014-11-08）.http：//en.wikipedia.org/wiki/Exponential-smoothing.

［11］ Pencheva T，Atanassov K，Shannon A.Modelling of a Roulette Wheel Selection Operator in Genetic Algorithms Using Generalized Nets［J］.International Journal Bioautomation，2009，13（4）：257-264.

编辑 金胡考

Load Balancing Strategy of Data Gateway for Video Surveillance System

SHEN Yizhou，JIANG Rongxin
（Institute of Advanced Digital Technology and Instrumentation，Zhejiang University，Hangzhou 310027，China）

In the current network video surveillance system s，it is easy to make some gateways overload that binding gateway with camera manually under large-scale real-time transcoding.In view of this problem，an adaptive binding mode based on load balancing strategy is proposed.This mode consists of two mechanisms which are device sleeping and device migration.Gateway reduces load by itself through putting overtime idle device into sleeping state.Gateway dispatcher gets every gateway’s load timely and advances overload judging time by importing alarm region and double exponential smoothing model to predict load.Overload gateway migrates device by last-call-finish-first principle with device active degree to realize load transfer indirectly.Under the testing environment of 4 gateways and 36 patrol groups，the experimental result indicates that，compared with manual-binding mode，the proposed mode can shorten live start averageresponse time by 42.9%.

video surveillance system；data gateway；real-time transcoding；load balancing；device sleeping；device migration

沈翼洲，蒋荣欣.面向视频监控系统的数据网关负载均衡策略［J］.计算机工程，2015，41（10）：1-5.

英文引用格式：Shen Yizhou，Jiang Rongxin.Load Balancing Strategy of Data Gateway for Video Surveillance System［J］. Computer Engineering，2015，41（10）：1-5.

1000-3428（2015）10-0001-05

A

TP393

国家“863”计划基金资助项目“相控阵三维声学摄像声纳信号处理系统”（2010AA09Z104）。

沈翼洲（1989-），男，硕士研究生，主研方向：网络视频监控系统，Linux软件开发；蒋荣欣，副研究员。

2014-11-17

2014-12-09E-m ail：syz-0530@163.com