一种新型的Flink电子商务实时推荐系统
2021-07-24牛少彰史成洁
新一代信息技术 2021年4期
马 腾,牛少彰,史成洁
(1.北京邮电大学 计算机学院,北京 100876;2.中科院信息工程研究所,北京 100093)
0 引言
随着分布式计算和数据库技术的发展,互联网进入了大数据时代。大数据时代为人们提供了丰富的信息,同时,也在各个领域带来了巨大的机遇和挑战。解决信息过载的问题,从大量数据中提取有用的知识一直以来都广受研究者们的关注。其中,推荐系统通过为用户提供个性化服务,被认为是当前解决信息过载问题最有效的工具之一,已被广泛应用在电商网站、影视资源服务商、社交网络等各个领域。传统推荐算法主要有基于内容的推荐、协同过滤推荐、混合推荐等多种算法。交替最小二乘法(Alternating-Least-Squares,ALS)作为协同过滤推荐算法的一个分支,由于解决了协同过滤算法 中数据稀疏性的问题,在推荐系统中被广泛使用。
另一方面,现实中生成的大量数据普遍以流式无结构化或半结构化的形式存在,例如用户点击Web页面产生的行为日志等。这些数据都具有变化迅速,数据量大的特点。例如用户过了今天可能就不会对某件商品感兴趣了。而传统的推荐系统通常会在一个规定的时间间隔内更新模型,如几个小时或者数天,这就无法满足对实时性的需求。并且由于用户对某件商品的兴趣会随着时间减弱,因此传统的推荐算法的预测质量也会随之下降。
本文针对以上问题,设计了一种基于 Flink的电商实时推荐系统。该系统共分为4个模块:数据加载模块、商品特征向量计算模块、日志采集模块、实时推荐模块。……
登录APP查看全文
