使用飞桨探索电影推荐
在开始动手实践之前,我们先来分析一下数据集和模型设计方案。
个性化推荐算法的数据大多是文本和图像。比如网易云音乐推荐中,数据是音乐的名字、歌手、音乐类型等文本数据。抖音视频推荐中,数据是视频或图像数据。也有可能同时使用图像和文本数据,比如YouTuBe的视频推荐算法中,会同时考虑用户信息和视频类别、视频内容信息。
本次实践我们采用电影推荐数据集,它是GroupLens Research从MovieLens网站上收集并提供的电影评分数据集。包含了6000多位用户对近3900个电影的共100万条评分数据,评分均为1~5的整数,其中每个电影的评分数据至少有20条。该数据集包含三个数据文件,分别是:
- users.dat,存储用户属性信息的txt格式文件。
- movies.dat,存储电影属性信息的txt格式文件。
另外,为了验证电影推荐的影响因素,我们还从网上获取到了部分电影的海报图像。现实生活中,相似风格的电影在海报设计上也有一定的相似性,比如暗黑系列和喜剧系列的电影海报风格是迥异的。所以在进行推荐时,可以验证一下加入海报后,对推荐结果的影响。 电影海报图像在posters文件夹下,海报图像的名字以"mov_id" + 电影ID + ".png"的方式命名。由于这里的电影海报图像有缺失,我们整理了一个新的评分数据文件,新的文件中包含的电影均是有海报数据的,因此,本次实践使用的数据集在ml-1m基础上增加了两份数据:
- posters/ , 包含电影海报图像。
- new_rating.txt, 存储包含海报图像的新评分数据文件。
用户数据、电影数据和评分数据包含的特征样例如下表所示。
其中部分数据并不具有真实的含义,而是编号。年龄编号和部分职业编号的含义如下表所示。
海报对应着尺寸大约为180*270的图片,每张图片尺寸稍有差别。
图7:1号海报的图片
从样例的特征数据中,我们可以分析出特征一共有四类:
- ID类特征:UserID、MovieID、Gender、Age、Occupation,内容为ID值,前两个ID映射到具体用户和电影,后三个ID会映射到具体分档。
- 列表类特征:Genres,每个电影会有多个类别标签,内容是对应着几个ID值的列表。
- 图像类特征:Poster,内容是一张180*270的图片。
- 文本类特征:Title,内容是一段英文文本。
因为特征数据有四种不同类型,所以构建模型网络的输入层预计也会有四种子结构。
如何从上述数据中实现推荐系统呢?首先思考下,推荐系统究竟需要什么?
如果能将用户A的原始特征转变成一种代表用户A喜好的特征向量,将电影1的原始特征转变成一种代表电影1特性的特征向量。那么,我们计算两个向量的相似度,就可以代表用户A对电影1的喜欢程度。据此,推荐系统可以如此构建:
图8:推荐系统设计
这样设计的核心是两个特征向量的有效性,会决定推荐的效果。
那么,怎么获取两种有效代表用户和电影的特征向量?
首先,我们要明确什么是“有效”?对于用户评分较高的电影,电影的特征向量和用户的特征向量应该高度相似,反之则相异。
我们已经获得到大量评分样本,以此可以构建一个训练模型如下图所示。根据用户对电影的评分样本,学习出用户特征向量和电影特征向量的计算方案(红色箭头)。
第二层结构:计算向量相似度。为确保结果与电影评分可比较,两个特征向量的相似度从【0~1】缩放5倍到【0~5】。
第三层结构:计算Loss,计算缩放后的相似度【0~5】与用户对电影的真实评分【0~5】的“平方误差”。
以在训练样本上的Loss最小化为目标,即可学习出模型的网络参数,这些网络参数本质上就是从原始特征集合到特征向量的计算方法,如红色箭头所示。根据训练好的网络,我们可以计算任意用户和电影向量的相似度,进一步完成推荐。
基于上面的分析,推荐模型的网络结构初步设想如下。
图10:推荐模型的网络结构设想
将每个原始特征转变成Embedding表示,再合并成一个用户特征向量和一个电影特征向量。计算两个特征向量的相似度后,与训练样本(已知的用户对电影的评分)做损失计算。
但不同类型的原始特征应该如何变换?网络设计的细节是怎样的?我们将在后续几节结合代码实现逐一探讨,包括四个小节:
- 数据处理。将MovieLens的数据处理成神经网络理解的形式。
- 模型设计。设计神经网络模型,将离散的文字数据映射为向量。
- 配置训练参数并完成训练,提取并保存训练后的数据特征。
- 利用保存的特征构建相似度矩阵完成推荐。