◆吴新松 白雪 邢晓东 匡常山

基于业务意图的AI智能负载均衡

◆吴新松1白雪2邢晓东2匡常山1

（1.中国电子技术标准化研究院 北京 100007；2.中国电信股份有限公司云计算分公司 北京 100093）

传统的负载均衡调度算法调度方式简单，难以实现合理的调度，常常会因为请求分配不合理导致后端实服务器负载超负荷。而目前基于后端服务器状态反馈式的负载均衡调度算法也大多只是对相关指标设置门限或采用简单加权等简单数学方式进行策略调度，不够灵活。本文提出基于AI分类推荐算法的负载均衡调度策略，实现基于业务意图的智能调度。

AI；负载均衡调度算法；轮询

随着当今互联网访问规模的增大，单台服务节点已经难以满足用户高并发访问需求。行业里一般采用负载均衡进行流量负载的方式为用户提供服务。而当前业内应用的负载均衡主要是静态负载均衡，它们的调度算法比较简单，例如四层负载均衡LVS中常见的算法有轮询（Round Robin，RR）、加权轮询（Weighted Round Robin，WRR）、最小连接数（Least Connection，LC）、源IP哈希（Source IP Hash，SH）等[1-2]，而七层Nginx中的常见算法有RR，WRR，LC，SH，URL_HASH等调度算法[3]，与四层类似。在使用静态负载均衡情形下，常常会引发负载均衡后端某台服务器资源耗尽情形，导致任务失效或节点崩溃，引起业务中断。在整个调度过程中，负载均衡不能结合后端实服务器RealServer（RS）差异因素来智能进行调度，导致前述负载均衡过早出现单点资源瓶颈，所以设计一种智能合理的动态反馈式调度算法对负载均衡系统的稳健运行特别重要。……