张贝贝

虽然业界普遍对人工智能的应用前景看好，但AI系统的部署、建设并非一件容易事。这一点在企业真正的AI实践中会表现得更为直观。

近年来，人工智能技术在图像（物体识别、人脸识别等）、自然语言（语音识别、翻译、对话机器人）、智能医疗、智能推荐（广告、新闻、视频）等领域取得了飞速发展。不但众多初创企业将人工智能研发作为扬帆起航的契机，许多传统企业也将其作为自身转型升级所必备的利器。

人工智能正在走出象牙塔，走近普通企业和大众。与此同时，人工智能技术对计算资源的需求也快速增加，因而“云计算如何服务于人工智能产业的发展”已成为公有云服务的一个新方向。

近日，由国内云服务商UCloud发起的“中立可信赖，赋能梦想者2018 Think in Cloud”峰会于北京召开。本次峰会聚集了来自互联网、企业服务、人工智能等领域的企业。在AI专场，来自UCloud的专家就如何利用公有云落地AI，UCloud如何通过AI平台赋能企业部署AI等话题进行了深入的分析和解读。

虽然业界普遍对人工智能的应用前景看好，但AI系统的部署、建设并非一件容易事。这一点在企业真正的AI实践中会表现得更为直观。

实际上，无论是初创企业想要踏上AI创新之旅，抓住人工智能发展的浪潮，还是传统企业希望借助AI之力进行企业的转型升级，AI系统的设计、部署和运维都需要提升更多的能力和多维度蓄力。

UCloud AI平台技术专家宋翔认为，在AI落地过程中可能会遇到的一些技术挑战非常多，总结下大致有三部分。

第一部分是技术环境。技术环境是一个非常大的挑战，整个技术环境涉及AI的框架，还有很多的算法库，包括一些GPU的技术库，还有各种各样的设备，以及各种各样的存储，这些交叉起来会产生一个非常复杂的环境，如何把控这个环境，使得自己的研发人员在使用这些环境的时候更便捷，这是一个挑战。

第二部分是当深入到AI系统的核心建设时，就要考虑算法兼容性、平台可用性等问题，比如系统能不能去兼容不同的AI算法，在公司业务扩张的时候，能不能做到一个业务的横向扩张或者快速地扩展，还有系统能不能是分布式的，能不能做到一些高可用或者容灾的能力。当有新的硬件和新的技术发生的时候，系统能不能快速的跟上这些新的硬件和新的技术的发展。

第三部分是投入产出比的问题。所有投资AI的人都要考虑投入产出比，如何以较小的投入得到较高的回报，比如当开展AI应用的时候，如何控制研发成本，让研发人员更关注于算法，而不是一些AI环境的部署或者资源管理。

在真正的部署实践中，企业无一例外地发现，想要走上AI之路，并非坦途大道。那么，UCloud如何解决企业实际部署落地AI过程中的一些困难呢？

平台化服务加速AI落地

据了解，早在2017年，UCloud提出了“CBA”戰略，其中“C”就是Cloud Computing（云计算），“B”是Big Data（大数据），“A”是AI（人工智能）。UAI-Inference就是UCloud布局AI的重要落地之举。具体来看，可以理解为UCloud在AI领域是一个提供AI的PaaS平台，降低AI应用的落地门槛，另一方面联合AI公司基于该平台打造行业解决方案。

UAI-Inference面向初创企业、传统企业AI转型而生，旨在提供易部署、易运维、更安全以及多AI框架支持的海量AI在线服务节点，自动实现负载均衡、扩容缩容。按实际使用量计费，普遍适用于常见的AI在线服务场景，如图像识别、自然语言处理。

在本次大会的AI论坛中，UCloud实验室负责人兼高级研发总监叶理灯进行了“基于云计算构建机器学习系统的实践”的演讲，从技术、软件架构的角度剖析了在云计算环境下面，如何基于云计算提供的服务，搭建一个高可用、低成本的机器学习系统，以加快机器学习的落地，并降低应用门槛和成本。

他提出，这几年云计算发展有两个趋势，托管的力度越来越小，从硬件到函数力度越来越小。另外对研发越来越友好。目前PaaS服务非常丰富，除了对象存储、IWS3、内存存储、快存储等，还有很多DB类的数据库服务、消息推送、用户认证等。这些服务对于研发来说是非常有利的。“推动这些发展的背后的动力我觉得有两大动力，第一是成本，第二是效率。因为不管用IaaS还是PaaS，开发者或者这个公司的负责人去维护虚拟机，还得对这个资源进行运维，不是完全的应用。所以后面这些丰富的功能的出现是为了解决资源维护，从而加速应用。”

在UCloud看来，其实最核心的方法就是要平台化。宋翔总结道：“利用公有云来做AI落地，首先享受到的是一些IaaS的服务，比如说充足的网络资源、存储资源，其次你会有一些技术的环境，比如说我有一些技术的虚拟机镜像的能力，或者容器镜像的服务，这样可以降低一定的开发应用的成本。PaaS服务就会提供更多的能力，比如说环境的分装功能，我们提供了一些基础的镜像库，也提供了一些算法的镜像库，同时PaaS服务会提供分布式系统，比如说我们提供了一站式AI训练或者AI在线服务的系统，同时也支持分布式的训练。”

对于AI机器学习系统的落地，叶理灯认为可以分为3个步骤：Build、Train、Inference。Build的意思是，根据面临的技术性的问题选定合适的算法，设定相关的参数，比如训练的深度和分类的个数。Train就是根据设定的那些参数拿出去做训练，训练之后的模型要变成在线服务，这就是Inference的过程。

大家可以看到，如果从数据流的角度来说，Inference是个很简单的过程，那么怎么构建一个系统来满足Inference特性的系统需求呢？叶理灯总结有几点。第一，无状态的需求。第二，AutoScaling（自动可扩容）。第三，高可用性。第四，高并发。第五，海量计算。基于这样的需求和背景，构建这个系统分3步来进行：第一步，建设一个底层的计算平台。第二步，上层APP管理，方便用户去管理模型。第三步，提供SDK。方便用户在不同的框架上面来使用系统。

据介绍，为了帮助客户解决AI模型训练过程面临关键的问题，UCloud AI Train平台基于UCloud性能强大的GPU云主机集群构建，为AI训练任务提供充足的计算能力。同时，提供一站式训练任务托管服务，包括自动实现计算节点调度、训练环境准备、数据上传下载以及任务容灾等功能，能够帮助用户从繁杂的GPU资源采购、管理、运维工作中解放出来。

另外，UAI Train平台按照实际计算消耗付费，不但可以降低GPU的成本投入，还可以避免闲置资源浪费。

AI发挥价值离不开行业应用

去年，UCloud与英特尔达成战略合作，双方针对数据中心的存储能力、计算能力以及网络传输、软件优化等方面实现深层次合作，不仅如此，随着云计算的普及，双方的合作也希望能给人工智能领域的发展提供新的思路和方向。UCloud与英特尔的全面合作，基于英特尔至强可扩展处理器和英特尔Caffe框架优化等相关技术和产品，帮助企业客户快速便捷部署云计算和人工智能基础设施，为UCloud最终客户带来更多价值。

人工智能一定要与行业结合，形成真正有效的行业智能，才能助力传统行业转型升级，推进人工智能与实体经济快速融合。同时人工智能技术作为新一轮产业变革的核心驱动力，也必须与各行各业融合才能发挥作用。

叶理灯表示：“人工智能只是一门技术，它不是一个行业，它一定要跟行业结合起来，渗透到行业里面去，这才是人工智能的价值所在。UCloud是一个中立平台，我们的宗旨是上不碰应用，下不碰数据。人工智能价值的产生一定要解决行业问题。”

关于应用，宋翔举例道，一家从事互联网社交的公司希望通过他们自己的图片识别的业务给自己的客户打上更多的业务标签，这样可以提升自己的精准推送的能力，他们的需求其实非常简单，他自己开发了一套图片识别的服务，他需要把这个服务变成一个高可用的在线服务，他每天会有大量的用戶图片信息发送到服务里面去，给这些图片打标签。

在使用AI平台的时候，用户就会发现有几个非常大的好处，第一个就是用户可以快速地部署AI识别服务，因为对于用户来说，整个研发团队不是很大，他在使用UCloudAI在线服务平台的时候不需要投入人去研发在线的服务平台，只需要直接用就行了。由于整个平台有大量CPU的资源供他使用，所以对于它的业务高峰来说，他完全有充足的资源来保证整个业务的稳定，最后因为UCloud整个平台是按需收费的，其实对于他们来说，每个月在这个平台上的月销也是非常低的，这样大量节约了他们使用的成本。

那么对于UColud来说，哪些是他们关注的第一梯队需要利用AI赋能的用户呢？

叶理灯认为，如果从AI的需求来看的话：第一类：纯AI的算法公司。这类公司大多因为是创业公司，可能不能储备太多资源。第二类：传统企业。传统企业都会想到用机器学习来解决效率问题，就是人工做的事情能不能用AI做。但是传统企业的软件架构能力和IT建设的能力又不足，其实这个比较适合用公有云来赋能。第三类是一些有能力的互联网公司，但是只是在某一方面有特殊需求，这类只用Pass系统就可以了。

宋翔介绍：“我们提供的思路主要是围绕客户的需求。第一个思路：一定要方便、便捷。对于落地来说，无论是传统企业还是互联网企业，我们希望他们在落地过程中，不会有太多的绊脚石，能快速地推进，因此我们提供了很多基础服务，比如说通过提供镜像、提供一些服务平台的服务，去帮助用户快速落地。第二个思路：解决痛点，成本的问题。无论部署什么系统，使用什么平台，最终都是要降低成本，提供效率，直达业务痛点的。”

本次UCloud Think in Cloud 2018于5月15日在北京富力万丽酒店圆满落幕。除了云领域的最新技术趋势解读和UCloud两大产品重磅发布，大会特别策划的AI和区块链技术专场，分享和呈现了“互联网+”时代下，云计算在大数据交换及应用、人工智能、区块链、物联网等诸多行业领域的应用与实践，也向业界传达了最前沿的技术热点与行业洞察，为开发者提供了一些启发和借鉴。