杜博亚 杨卫东

(复旦大学计算机科学与技术系 上海 201203)

0 引 言

点击率(CTR)预测在推荐系统中至关重要。用户在电商页面上点击推荐的商品，意味着推荐信息与用户偏好和需求之间存在一定的相关性。利用这种相关性数据建立点击率预测模型，如果直接使用原始商品特征和用户行为特征，往往难以奏效。因此，数据科学家通常会花费大量精力研究和实施面向推荐算法的特征工程，以期得到最佳点击率预估模型，其中一种主要手段即为特征组合的方法[1]。组合特征也称交叉特征，例如：一个三维组合特征“AND(组织=复旦，性别=男，研究方向=机器学习)”的值为1，即表示用户所属组织为复旦，性别为男且研究方向为机器学习方向。

传统的特征组合方法主要有三个缺点。首先，由于高效组合特征往往依赖于具体业务场景，数据科学家需要花费大量时间从产品数据中探索特征的潜在组成模式，然后才能提取出有意义的交叉特征，因此获取高质量的组合特征需要很高的人力成本；其次，在现实点击率预估场景中，原始特征经过编码后往往可以达到上亿维度，这使得手动特征组合变得不可行；最后，人工特征工程难以挖掘出隐藏的交叉特征，限制了推荐系统的个性化程度。因此，利用模型自动提取出高效的组合特征是一项十分有意义的工作。

对于特征组合方式，其中FM[2]将每个特征i映射到一个隐因子向量Vi=[vi1,vi2,…,viD]，组合特征通过隐因子两两内积进行交叉：f(2)(i,j)=xixj。……