李茜萌，陈春雨，何恒翔

哈尔滨工程大学 信息与通信工程学院，黑龙江 哈尔滨 150000

近年来，以ARM 阵营为代表的嵌入式计算平台的性能高速增长带来了嵌入式产业的繁荣，ARM 芯片开始进入越来越多的平台，如无人机、平板、智能机器人。ARM 芯片内部集成了CPU、GPU、ISP 等模块，部分芯片内甚至集成了通讯基带，这种系统级芯片(system-on-a-chip，Soc)的封装特点在于大大简化了嵌入式设备的硬件研发难度的同时，为嵌入式平台带来了强大的图像、音频及其他传感器数据获取的能力[1]。在具备了可靠的数据高速获取能力之后，如何更加高速可靠地处理这些数据则对平台性能提出了更高的要求。当前，人工智能技术的第三次繁荣，其在计算机视觉(computer vision，CV)、自然语言处理(natural language processing，NLP)等领域取得了比传统算法更加优良的效果，部分领域甚至实现了大幅度的超越。但是深度学习技术对于计算力的需求极高，很多网络需要高性能的GPU 或者TPU 才能运行，无法直接将其移植至嵌入式端[2]。本系统利用现代社会已经实现完善部署的Wi-Fi 网络及蜂窝网络，将嵌入式设备需要计算的图像数据传送至云端，云端通过部署的服务器、工作站集群进行高速计算并返回结果，充分利用了嵌入式设备体积小巧、适合部署于前端的特性，以及云计算高性能、高可靠、存储容量大的特性，实现了成本及性能的最优化配置，对多种现代流行的AI 框架都能很好的兼容。大量嵌入式设备的同时接入，对系统的计算能力也提出了巨大的挑战，本文将探究一种能够解决以上矛盾的可弹性部署的分布式AI 计算架构系统。……