陈金广，徐心仪，范刚龙

(1.西安工程大学 计算机科学学院，陕西 西安 710048；2.河南省电子商务大数据处理与分析重点实验室, 河南 洛阳 471934；3.洛阳师范学院 电子商务学院，河南 洛阳 471934)

0 引 言

随着大数据时代的到来，推荐系统作为缓解信息过载的重要技术，已经在电子商务[1]领域广泛应用。为了提供更好的个性化推荐服务，准确地预测用户对商品的评分是推荐系统需要解决的关键问题。目前推荐系统领域的研究方向主要分为基于内容[2]的推荐、基于协同过滤[3-4]的推荐和混合推荐[5-6]3种。但是，传统矩阵分解算法[7]难以适应当前复杂的环境。近年来，深度学习技术飞速发展并在图像等领域取得巨大的突破，越来越多的学者将深度学习技术应用到推荐系统中[8]。

在基于深度学习并结合文本信息的推荐方法中，关键是获取文本信息的上下文。在提取上下文特征方面，KIM等提出一种上下文感知的卷积矩阵分解模型[9]，该模型将卷积神经网络融入概率矩阵分解模型中，提高了预测评分的准确性，但在感知上下文方面存在较大欠缺。LIU等提出了基于循环神经网络(RNN)的CA-RNN模型[10]，该模型引入了具有上下文感知的输入矩阵和具有上下文感知的转移矩阵，能够较好地感知上下文，但是在联系双向上下文信息方面效果并不显著。DEVLIN等提出BERT(bidirectional encoder representation from transformers)模型[11]，该模型可以融合双向上下文信息，进一步地融合句中语义信息，从而更好地提取含有上下文信息的特征表示；在学习上下文特征方面，HOCHREITER等提出了长短时记忆网络模型(long short-term memor,LSTM)[12]，该模型只能获得与前词相关的前文信息，无法获得上下文相关信息。……