刘彦伟

京东大数据平台是京东大数据业务的基础服务平台，为京东大数据业务的实现提供一站式、自助式的大数据处理全流程解决方案。涵盖数据接入、存储、处理、分析、挖掘、可视化、机器学习等产品和服务，致力于大幅降低大数据消费门槛，帮助京东大数据业务快速落地，助力京东实践以数据为驱动的业务变革与发展。京东在大数据方向上的思考和探索非常多，今天主要和大家分享实时数仓、存储计算分离与容器化。

我针对京东大数据的业务场景和特点，对实时数仓这个领域大概做了三个分类，即实时应用、实时分析、实时数仓。关于实时应用，比如，实时大屏、京东聊吧等，京东内部用的实时报表，为京东的高层或京东业务人员提供决策支持类系统，就是非常典型的实时应用。这些实时应用类业务的技术，在业内发展得比较成熟，比如Storm、Flink、SparkStreaming等的技术框架已经非常成熟，京东基于技术框架再去落地这些应用。这些应用的特点是：门槛高。正因为用了这些比较流行的实时计算框架，京东在数据时效性上可以达到秒级的延迟。

关于实时分析，实时分析是实时应用里一个非常典型的产品。大家在访问京东App、京东网站时，当你浏览一些商品之后，京东能够根据你的实时浏览行为，为你推荐需要的产品，因为每个人在京东看到的商品或广告不一样。实时主要是体现在数据时效性上，通过实时OLAP分析平台，可以让我们的业务人员或分析师看到分钟级或秒级延迟数据。……