【推荐系统】双塔模型中的负采样

推荐模型中双塔模型早已经普及.一个塔学用户表达.一个塔学item表达.很多双塔模型用各种各样的in-batch负采样策略.十方也是如此.往往使用比较大的batchsize,效果会比较好,但是由于内存限制,训练效率会比较低.这篇论文《Cross-Batch Negative Sampling for Training Two-Tower Recommenders》发现encoder的输出在warming up的训练过程后就比较稳定了,基于此提出一个高效负采样的方法Cross Batch Negative Sampling (CBNS),该方法充分使用了最近编码过的item embedding来加速训练过程.

CBNS

关于问题定义就不赘述了，双塔已经写了很多了，计算用户与item相似度也是用简单的点积。loss最典型的就是用sampled softmax:

提升训练效率，最好使的就是batch内负采样了，如下图(a)所示。

参考sampled softmax机制,论文修改上述公式为:

其中q(I)为采样偏差。接下来就要说到cross-batch negative sampling，这个方法可以解决in-batch负采样中，存在batch size受到gpu显存大小，从而影响模型效果。在训练过程中，我们往往认为过去训练过的mini-batches是无用废弃的，论文中则认为这些信息可以反复利用在当前负采样中因为encoder逐渐趋于稳定。论文中用下式评估item encoder特征的偏移:

如上图(b)所示，在早期学习率较大的时候，encoder编码相同item的变化是很大的，随着训练过程的推进，学习率逐渐降低，特征逐渐趋向于稳定,如下图所示

这时候我们可以充分利用稳定的embedding作为负样本。但是用历史的embedding会给梯度带来偏差，论文有证明这个偏差影响是很小的:

考虑到训练前期embedding波动较大，在warm up过程中先使用简单的in-batch内负采样,然后使用一个FIFO memory bank，存放M个历史item embedding

q(I)表示第i个item的采样概率。CBNS的softmax如下式所示:

在每次迭代结束，都会把当前mini-batch的embedding和采样概率加入memory bank.在下次训练过程中,除了使用batch内负样本,同时也会从memory bank中拉取负样本.

实验

对比不同采样策略下的表现:

以及在不同模型下验证集的召回和NDCG曲线:

同时论文还对比了M大小/负样本数对效果的影响:

往期精彩回顾




适合初学者入门人工智能的路线及资料下载
机器学习及深度学习笔记等资料打印
机器学习在线手册
深度学习笔记专辑
《统计学习方法》的代码复现专辑
AI基础下载
机器学习的数学基础专辑
黄海广老师《机器学习课程》课件合集
本站qq群851320808，加入微信群请扫码：