《深度学习推荐系统》,作者王喆,2020年3月第1版,第3章《深度学习在推荐系统中的应用》。
以多层感知机MLP为核心,需要有下面的演化方向:
1、增加神经网络的层数和结构复杂度:单层神经网络模型AutoRec(自编码器推荐)、深度神经网络结构Deep Crossing(深度特征交叉);
2、丰富特征交叉方式:改变用户向量和物品向量互操作方式NeuralCF(神经网络协同过滤)、定义多种特征向量交叉操作PNN(基于积操作的神经网络);
3、组合两种不同特点、优势互补的深度学习模型,提升模型综合能力:Wide&Deep、Deep&Cross、DeepFM;
4、FM的深度学习演化版本:使用神经网络提升FM二阶部分特征交叉能力NFM(神经网络因子分解机)、利用FM结果进行网络初始化FNN(基于因子分解机支持的神经网络)、引入注意力机制的FM模型AFM(注意力因子分解机);
5、注意力机制与推荐模型结合:AFM、引入注意力机制的CTR预估模型DIN(深度兴趣网络);
6、序列模型与推荐模型结合:使用序列模型模拟用户行为兴趣演化趋势DIEN(深度兴趣进化网络);
7、强化学习与推荐模型结合:强调模型的在线学习和实时更新DRN(深度强化学习网络)。
构建$m$个用户对$n$个物品的评分的共现矩阵(未评分填默认值或者平均值),