LLM正在改变的推荐系统：会读商品说明的推荐器

为什么LLM进入了推荐领域

推荐系统（Recommender System）长期以来一直在学习“买了这件商品的人也买了那件商品”这类模式。这类模式称为协同信号（collaborative signal）。商品通常只用唯一编号（ID）表示，模型从编号之间共同出现的频率中读出偏好。数据多时效果很强，但编号本身并不包含用户“为什么”喜欢那件商品。

CURec（paper）把这个问题称为“语义-协同鸿沟”。也就是说，仅靠基于ID的表示或商品侧的属性信息，无法捕捉与用户偏好相关的语义，例如推荐该商品的理由。IADSR（paper）从另一个角度揭示了同样的弱点。它报告称，在过滤误点击之类的噪声时，如果只依赖协同信息，就会删除过多内容，这一问题在记录较少的商品（冷启动商品）上尤为严重。

LLM（大语言模型）能够阅读商品说明，并借助世界知识理解其含义。正如位置偏差研究（paper）所指出的，LLM无需针对具体任务训练，只凭指令就能尝试推荐（zero-shot），因此作为通用推荐工具受到关注。不过，同一研究也警告，直接把LLM拿来做推荐存在一个重要陷阱。这个陷阱将在后文讨论。

核心思路：看记录的店员与读说明的店员

打个比方，传统推荐模型是只看收银台记录的店员。“和这位顾客相似的人大多买了这个”这样的统计很准确，但刚上架的新商品没有记录，就无法推荐。LLM是读完了所有商品说明书的店员。即使是新商品，它也能只看说明就说“您喜欢登山的话，这个应该也合适”，但它不太清楚这家店的顾客实际上会把哪些东西一起买。

因此，设计的核心问题是“如何让两位店员协同工作”。大体上有两条路线。一种是把LLM当作辅助。LLM生成蕴含商品语义的嵌入（数值向量）或推荐理由等特征，最终判断由传统推荐模型做出。另一种是让LLM担任主角。把用户历史和候选放进提示词，由LLM直接选择或生成下一个商品。

两者的取舍不同。辅助方式保留了现有系统的速度和协同信号，同时加入语义，但无法充分利用LLM的推理能力。主角方式把LLM的推理直接用于判断，但难以捕捉协同信号、成本高，输出也可能不稳定。近期相当多的研究是在这两者之间寻找某个平衡点。

如何运作

先看辅助方式。IADSR（paper）分两步进行。首先，针对同一商品，分别获取传统序列推荐模型生成的协同嵌入和LLM生成的语义嵌入。接着将两者对齐（Alignment），再根据长期兴趣和短期兴趣找出用户行为历史中的噪声。在这一结构中，语义信息保住了仅凭记录判断时会被删除的冷启动商品。

CURec（paper）更进一步。它先通过后训练（Post-training）教会LLM推荐目标，使其遵循指令并用CoT（Chain-of-Thought，思维链）进行推理。用LLM生成的特征训练推荐模型，再把该推荐模型给出的用户-商品预测分数作为奖励，通过强化学习打磨LLM。这是一个由看记录的店员为读说明的店员的答案打分的闭环。

在主角方式中，第一道关卡是如何用LLM的语言表示商品。根据PauseRec研究（paper），基于LLM的生成式推荐通常用Semantic ID（把商品转换成一组简短代码token）来表示商品，但这些token在预训练中从未出现过，会干扰LLM的自然语言推理通路。DICE（paper）干脆不生成文本，而是为给定的每个候选打分，选出得分最高的一个并同时给出置信度。

发展脉络：各项研究的新贡献

位置偏差研究（paper）用真实数据揭示了LLM推荐的基本弱点。只改变提示词中候选的顺序，推荐结果就会大幅变化。作者提出了名为RISE（Ranking via Iterative SElection）的提示策略，报告称无需微调或后处理即可降低对输入顺序的敏感度、提高稳定性。

CURec（paper）和IADSR（paper）改进了辅助方式。CURec以推荐模型的分数为奖励，提升了LLM所生成理由的质量；IADSR用语义嵌入补充去噪，并在四个公开数据集上确认它可以与多种序列推荐模型配合使用。成本方面，OD-LLM（paper）结合了基于奇异值分解（SVD）的低秩压缩、分词归一化和逐层渐进对齐，报告称即使把模型大小减半，与原推荐模型相比也没有效果损失。这项研究面向的是受延迟、隐私和不稳定网络连接困扰的端侧推荐。

PauseRec（paper）重新审视了显式推理。拆解生成推理文本的多阶段训练后，发现了三个局限：世界知识的表达能力减弱，Semantic ID与自然语言token的嵌入空间错位，以及对推理文本质量敏感。因此它提出了不用文字写出思考过程的隐式推理，报告称性能比显式CoT最多高出6.22%，训练GPU时间最多减少65%，推理速度最高提升71.3%。

DICE（paper）同时瞄准生成式推荐的三个问题：可能无法锁定单个候选、受候选顺序左右、缺少置信度。它受能给出快速选择和显式置信度的决策模型Jev启发，提出了“决策原生（decision-native）推荐”。通过树结构注意力，让所有候选分支共享用户历史的计算，只需一次前向传播就能得到不受顺序影响的分数。报告称，在三个数据集上，其第一名准确率高于所有对比基线，在所测试的顺序打乱中选择保持不变，速度比生成式方法最多快约6倍。

最新动向

第一个趋势是把协同信号直接引入LLM内部。GALLM（paper）认为LLM以语言为中心进行预训练，难以捕捉用户-商品交互中的协同信号，于是在文本token和商品token之上构建了图。它把文本-文本、商品-文本以及由商品共现得出的商品-商品关系转换为轻量的注意力偏置注入模型，让LLM无需单独的图编码器就能看到协同信号。报告称在四个基准上HR@5比最强基线平均高9.76%。这相当于把收银台记录直接拿给“读说明的店员”看。

第二个趋势是不每次都重复高成本推理。rEDMRec（paper）把教师LLM的推理蒸馏为四种可编辑的经验记忆：长期偏好、短期情境、商品认知和反事实错误答案对比。之后，轻量的学生LLM无需再次调用教师LLM，只需从这些记忆中取用即可对候选排序。这一设计把在线推理成本与推理深度解耦，而且人可以查看并修改记忆，这也是一个优点。报告称在ML-1M上比第二好的基线最多提升13.3%。

第三个趋势是从社会影响的角度审计LLM推荐。医生推荐审计研究（paper）让七个模型从五位虚拟医生中选一位，分析了40,068条回答。评分从3.9提高到4.7时，选择概率上升31.4个百分点，声誉信号的影响最大。但也存在随姓名所体现的性别、种族而产生的倾斜，而且即使没有任何内容差异，仅仅被放在第一个位置，就带来相当于11美元诊费的效果。模型给出的理由中提及性别或种族的比例最高只有0.03%，这些效应在模型自身的解释中看不到。

局限与争议、实务判断标准

首先要关注的是顺序和格式问题。正如位置偏差研究（paper）和医生推荐审计（paper）所示，仅候选的排列顺序就会改变结果。生成式输出可能提到不在候选中的商品，或不给出置信度（paper）。在实务中，打乱候选顺序多次运行、确认结果是否保持，是最基本的检查；采用不受顺序影响的结构（如DICE那样对每个候选打分）则是根本对策。

第二是成本。如果LLM对每个请求都进行推理，延迟和成本都会增加。压缩（paper）、隐式推理（paper）和推理结果记忆化（paper）都是针对这一问题的答案。一般的判断是，与其把实时筛选数百万候选的第一阶段也交给LLM，不如在缩小候选范围后将其用于排序，或用于预先生成语义特征。

第三是解释的可信度。LLM推荐的吸引力之一是“会说明理由”，但医生推荐审计（paper）表明，实际影响决策的因素几乎不会出现在模型给出的理由中。作者指出，依赖模型自我解释的透明度义务可能会遗漏这类效应。在医疗、金融等对人影响重大的推荐中，应通过系统性改变属性的审计来衡量偏差，而不是看解释文字，并且需要让人参与最终判断的结构。

按何时使用来总结：商品文本丰富、记录少的新商品多，或需要展示推荐理由时，LLM的价值较大。相反，在交互数据充足、延迟要求严格的大规模排序中，把LLM作为辅助、以基于协同信号的模型为核心更稳妥。常见错误包括：凭一次运行的结果判断质量，在固定候选顺序的情况下评估，以及未经验证就把生成的解释直接展示给用户。

延伸学习

要先把握问题意识，建议先读位置偏差研究（paper）。它最直观地展示了直接让LLM做推荐时哪些地方会不稳定。接着读DICE（paper），可以看到不靠提示词技巧、而是通过模型结构解决这一问题的方法。

如果对辅助方式感兴趣，可以把IADSR（paper）和CURec（paper）一起读。前者是把语义嵌入接到现有模型上的简单形式，后者是LLM与推荐模型相互教学的闭环形式。关于生成式推荐与Semantic ID的局限，PauseRec（paper）总结得很好。

最新方向方面，可通过GALLM（paper）了解协同信号注入，通过rEDMRec（paper）了解如何降低推理成本。在投入实际服务之前，建议阅读医生推荐审计（paper），并预先思考如何衡量自己服务中的推荐让谁被看见、让谁被遮蔽。