《深度学习推荐系统》(第3章)阅读笔记

《深度学习推荐系统》,作者王喆,2020年3月第1版,第3章《深度学习在推荐系统中的应用》。

概述

以多层感知机MLP为核心,需要有下面的演化方向:

1、增加神经网络的层数和结构复杂度:单层神经网络模型AutoRec(自编码器推荐)、深度神经网络结构Deep Crossing(深度特征交叉);

2、丰富特征交叉方式:改变用户向量和物品向量互操作方式NeuralCF(神经网络协同过滤)、定义多种特征向量交叉操作PNN(基于积操作的神经网络);

3、组合两种不同特点、优势互补的深度学习模型,提升模型综合能力:Wide&Deep、Deep&Cross、DeepFM;

4、FM的深度学习演化版本:使用神经网络提升FM二阶部分特征交叉能力NFM(神经网络因子分解机)、利用FM结果进行网络初始化FNN(基于因子分解机支持的神经网络)、引入注意力机制的FM模型AFM(注意力因子分解机);

5、注意力机制与推荐模型结合:AFM、引入注意力机制的CTR预估模型DIN(深度兴趣网络);

6、序列模型与推荐模型结合:使用序列模型模拟用户行为兴趣演化趋势DIEN(深度兴趣进化网络);

7、强化学习与推荐模型结合:强调模型的在线学习和实时更新DRN(深度强化学习网络)。

一、AutoRec

构建$m$个用户对$n$个物品的评分的共现矩阵(未评分填默认值或者平均值),