APP下载

RDMA技术在数据中心中的应用研究

2021-03-16涂晓军蔡立志

计算机应用与软件 2021年3期

涂晓军 孙 权,2 蔡立志

1(中国银联股份有限公司 上海 201201)

2(复旦大学 上海 200433)

3(上海计算机软件技术开发中心上海市计算机软件评测重点实验室 上海 201112)

0 引 言

RDMA即远程DMA,是最早脱胎于InfiniBand网络[1-3]的技术,主要应用于高性能科学计算中。随着云计算的兴起,RDMA技术也逐渐被应用到云数据中心具有高性能要求的场景中。

当前RDMA的使用案例主要集中于互联网企业,尤其是高性能计算领域,相应的标准组织也在积极推动,同时也出现了提供RDMA专用技术服务的公司。

国际上,微软是在数据中心大规模部署RDMA的第一家超大规模公司[4]。FaceBook主导的OCP(Open Computing Project)对于推动网络的开放解耦与RDMA的应用也做了许多的工作。

国内来看,从2016年开始,阿里巴巴就投入专项研究,以改造RDMA,提高传输性能,从网卡底层开始设计满足大规模应用的网络,基于RDMA网络技术的云存储和电商数据库服务器可以从容地应对峰值流量考验[5]。百度在2014年前后开始引入RDMA网络,先后部署了lnfinband集群和RoCEv1集群。2015年,百度分别在SZWG机房和YQ01机房大规模部署了RoCEv2集群,分别承载了深度学习、语音识别和自然语言处理等相关的机器学习任务。目前RDMA集群总体规模为600台左右,这是国内比较大的一个RoCEv2网络。京东人工智能研发团队在分布式的模型训练场景中,也使用了RDMA技术,针对模型文件的高性能传输,满足了分布式训练的需求。

RDMA对于端到端的网络传输做了多重的优化,其定位是高性能的网络技术,所带来的效果主要体现在如下几个方面:

(1) 减轻CPU负荷:通过主机侧内核旁路零拷贝以及网络对于传输控制协议的卸载,可以极大地解放主机的CPU,从侧面提升计算效率。……

登录APP查看全文