NoteLLM: 大语言模型在小红书推荐系统的落地应用

今天分享一篇小红书今年3月的论文，介绍了大语言模型在小红书笔记推荐场景下的落地应用，主要是围绕如何利用LLM的表征能力来生成更适用于i2i召回的文本embedding，思路简单，落地也容易，个人觉得实践价值非常高，值得学习。

NoteLLM: A Retrievable Large Language Model for Note Recommendation
https://arxiv.org/abs/2403.01744

背景

为了解决推荐中的物品冷启动问题，在召回阶段中往往会增加一路使用 内容多模态表征的i2i召回 ，这路召回由于只使用了纯内容的特征，和老物品便可以公平比较，不会产生因为新物品后验行为少而导致无法被召回的问题。

现有的多模态i2i召回方法在文本侧一般都是用一个BERT经过预训练后生成embedding然后基于embedding的相似度来进行召回，但是这样可能也会存在一些问题：

BERT表征能力不足 。相较于BERT，使用参数量更大的LLM来生成embedding可能可以学习到一些更为长尾的信息，同时仅使用Bert生成的embedding只能代表文本的语义信息，和下游推荐任务的目标存在一定的不一致；
标签类别信息利用不够充分 。一篇图文笔记的标签和类别往往代表他的中心思想，对于确定两个笔记是否相关至关重要，但现有的Bert方法只是将标签和类别视为内容的一个组成部分（实际上BERT做预训练时除了MLM任务应该也会有标题预测标签/类别这种任务，这个论述感觉站不住脚）。而文章发现，使用笔记内容生成标签和类别的过程和生成笔记的embedding十分类似，都是讲笔记的关键信息压缩成有限的内容，因此引入一个生成标签和类别的任务可能会提升最终embedding的质量。

因此，文章提出了一种多任务学习的方法，称为 NoteLLM, 使用Llama 2作为backbone，旨在生成更适用于推荐任务的文本embedding 。

具体来说，首先为每个样本构造一个统一的笔记压缩Prompt，然后使用两个预训练任务来生成更好的文本embedding。

一个任务称为 生成式对比学习 （Generative-Contrastive Learning），该任务会将笔记的内容压缩到一个特殊的token中，使用该token生成的向量便可以作为笔记的文本表征。这个任务使用了推荐中的协同过滤信号作为标签来进行对比学习，首先会统计所有笔记对的共现分数，然后使用共现分数高的笔记对视为相关性高的笔记，作为正样本，batch内负样本，用对比学习的方式进行训练，由于引入了协同过滤的信号，所以最终生成的embedding可以更适用于下游推荐任务。
另外一个任务是用笔记标题和内容来生成笔记的标签和类别，称为 协同监督微调 （Generative-Contrastive Learning），这个任务不仅可以生成标签和类别，同时，由于它和生成embedding的过程类似，都是可以提取笔记文本中的关键信息，因此，引入该任务也可以增强第一个任务生成的笔记embedding。

方法介绍

方法分为三个部分，一个输入的prompt构建和训练时用到的两个预训练任务：

笔记压缩prompt构建
生成式对比学习（Generative-Contrastive Learning）
协同监督微调（Collaborative Supervised Fine-Tuning）

笔记压缩prompt构建用来定义模型在训练时的输入，生成式对比学习和协同监督微调分别对应两个预训练任务，前者引入了推荐中的协同过滤信号作为标签进行对比学习来训练更好的文本表征，后者其实就是根据笔记内容来生成对应的标签和类别。

具体流程如下，首先在离线训练阶段，首先根据用户行为构建出很多的相关笔记对，作为训练样本，然后使用LLaMA 2作为backbone进行训练，在训练时一方面使用相关笔记对进行对比学习，另一方面还加入了一个标题和标签生成任务来提高前者embedding生成的质量，而在线则使用模型生成的笔记embedding做ANN召回相关的笔记，同时也可以生成笔记的标签和类别来辅助其他任务。

笔记压缩prompt

这里在构建prompt的时候同时考虑到了两个预训练任务，一方面为了能够借助将笔记的文本内容压缩到一个token中，再使用这个token映射的向量来进行生成式对比学习，也作为最终输出的文本表征，另一方面也想通过标签和类别生成任务，用来加强前者文本表征的能力，具体的prompt模板如下：

Prompt: [BOS] The compression word is:“[EMB]”. [EOS]

[BOS]代表句子开头，[EOS]代表句子结尾，[EMB]则代表最终要输出文本表征所对应的那个token，最终会将这个token对应的隐向量经过一个全连接层映射后得到最终的表征向量。

同时，针对类别生成和标签生成使用了不同的prompt，但是模板都是同一个，具体来说，如果是做类别生成，那么prompt就是这样的：

: Extract the note information in json format, compress it into one word for recommendation, and generate the category of the note. : {’title’: , ’topic’: , ’content’: }. : The category is: :

如果是用来做标签生成，那么prompt就是这样的：

: Extract the note information in json format, compress it into one word for recommendation, and generate topics of the note. : {’title’: , ’content’: }. : The topics are: : topics from

由于标签有很多，大模型可以不断生成，所以这里从原始标签里随机采样j个标签作为生成的内容，并且在prompt里规定了只能生成j个标签。

在prompt构建输入完成后，便可以把[EMB]这个特殊token最终输出的隐向量当成笔记的文本表征，同时也能够根据笔记的内容生成对应的标签和类别。

生成式对比学习（Generative-Contrastive Learning）

虽然大模型通过SFT和RLHF预训练之后能够表征的语义信息是非常丰富的，但是直接用在下游推荐任务中却不一定好，主要是因为大模型的预训练任务是为了获取语义信息，而下游推荐的目标却是为了点击率，两个目标存在差距，所以这个生成式对比学习就是为了在大模型的预训练中引入推荐的协同过滤信号，从而使得生成的embedding更适用于下游的推荐任务。

具体来说，首先统计一周时间窗口内每个用户点击笔记A后再点击笔记B的次数，然后算出一个共现分数，作为协同过滤的信号，计算两篇笔记共现分数的公式如下：

这里 U 是用户的个数，代表用户的点击次数，实际上就是对活跃用户进行了降权，防止某些高活用户什么笔记都点导致计算的共现分数不准确。

在计算得到所有笔记两两之间的共现分后，然后再卡阈值，将低于或高于某个阈值的笔记进行过滤，最后对于每个笔记，都会得到和其相关的笔记集合，再两两构建笔记对作为输入的正样本。

进一步，对于每个笔记，都使用这个特殊token的隐向量经过全连接层映射得到的向量作为文本表征向量，便可以采用对比学习的方式来进行学习，正样本就是构建好的相关笔记对，对应向量记作，负样本采用batch内负采样，对应向量记作，损失函数使用对比学习的Info-NCE:

相似度计算采用余弦相似度， sim(a,b)=a^\top b/(|a||b|)

通过这种方式进行训练，便可以使得LLM学到一些用户行为相关的信息，从而生成更好的文本表征服务于下游推荐任务。

顺便说一下，这个思路其实和小红书之前发的另一篇论文提到的CB2CF其实是一脉相承的，只不过另外一篇同时用了文本和图像特征，损失函数用的交叉熵。

协同监督微调（Collaborative Supervised Fine-Tuning）

这个任务实际上就是一个做标签/类别生成任务的SFT，加了协同两个字可能是因为要跟前面引入了协同过滤信号的GCL对应起来，为什么要加这样一个任务呢? 文章提到了两个原因：

只用LLM生成句子embedding有点像大炮打蚊子的感觉，没有充分发挥LLM强大的生成能力。这边猜测应该是因为生成的标签和类别还可以用于一些其他场景，比如当一些笔记缺乏标签，或者类别不正确是可以使用LLM为其补充信息。
可以提高上一步生成式对比学习生成的embedding的质量。这是由于生成标签/类别和生成笔记embedding一样，都是旨在总结整个笔记内容。所以加了这个预训练任务可能可以提高生成最终生成的embedding的质量

具体来说，在CSFT里面要同时做类别和标签预测，文章提到为了提高训练效率并防止遗忘问题，会从每个批次中选择 r 个笔记用于标签生成任务，而剩余的笔记则分配用于类别生成任务。CSFT的损失函数如下，其实就是把输出部分的token计算下loss:

最终模型的loss由两项加起来，并且用作为超参控制两个loss的权重：

实验结果

离线实验

离线实验主要是和线上的SentenceBERT基线以及其他几种用大模型生成文本嵌入的方法对比，用recall@k做评价指标，效果都要更好，结论就是：NoteLLM>=其他方法微调的LLM>>BERT微调>>LLM zero-shot

同时，通过对不同曝光水平的笔记对指标进行了拆分，发现NoteLLM在不同曝光水平的笔记上提升都较为一致，另外可以发现各个方法在低曝光笔记上的召回率都要远高于高曝光的，说明基于内容embedding的方法能够更有效地召回冷启动物品。

消融实验

文章这边也做了消融实验，分别把CSFT任务以及GCL任务去掉，以及在GCL内部对标签类别生成取不同的数据比例，结果发现就是两部分缺一不可，这里可以发现起到最关键作用的是GCL任务，类别预测和标签生成的任务好像对整体效果是可有可无的感觉，看起来只用协同过滤的目标来做对比学习也能效果很好。

在线实验

文章说做了一周的ab实验，跟之前的SentenceBERT基线相比，NoteLLM的点击率提高了16.20%，评论数量增加了1.10%，平均每周发布者数量（WAP）增加了0.41%。结果表明将LLM引入i2i推荐任务可以提高推荐性能和用户体验。此外，还观察到单日对新笔记的评论数量显着增加了3.58%。这表明LLM的引入有利于冷启动。NoteLLM最终推全上线。

总结

尽管现在LLM用来做推荐的论文层出不穷，但是真正能够落地的工作能有几个呢？目前大模型在像搜索推荐这种业务算法中最好落地的还是用来打标以及为下游任务生成可用的embedding或者其他特征，这篇文章就为后者提供了一个非常好的值得参考的范例，不仅能够生成更好的文本表征服务于下游推荐任务，也可以生成一些标签和类别可以用来辅助一些其他场景的任务，整体落地还是非常简单的

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述