Large Language Models Augmented Rating Prediction in Recommender System论文阅读笔记

Abstract

现存的问题：

​ 由于对推荐中的协作信息缺乏了解，它们在推荐任务（如评分预测任务）中的直接应用往往达不到最佳效果。

提出方法：

​ 在本文中，我们提出了 Large lAnguage Model Augmented Recommendation (LAMAR) 框架来解决这一局限。我们的框架将 LLM 的输出与传统推荐模型相结合，同时利用协作信息和语义信息，而不是仅仅依赖 LLM。我们通过多样化提示的组合进一步提高了推荐性能，并利用 LLMs 提取侧信息来增强传统推荐模型。

Introduction

第一段介绍什么是推荐系统以及存在的通用挑战

​ 首先，传统模型通常将特征转化为嵌入，忽略了与特征相关的文本语义信息。其次，这些系统往往缺乏侧面信息，如电影评分预测中的电影导演，这阻碍了它们取得更好的性能。

第二段介绍LLM在推荐中的应用及目标

​ 推荐系统领域缺乏标准化的基础模型，这使得在不同推荐场景之间进行知识转移具有挑战性。传统的推荐系统通常依靠训练神经网络来模拟用户偏好，而基于 LLM 的推荐则不同，它是直接提示 LLM 生成推荐。因此，我们的目标是利用 LLM 增强现有的传统推荐系统。

第三段介绍现有LLM的缺点

​ 利用 LLMs 进行推荐的局限性可归因于两个关键因素。首先，LLM 难以理解用户/物品 ID 的语义，这给基于 ID 的推荐带来了挑战。其次，由于推荐任务涉及大量候选集，因此很难在 LLMs 中纳入并充分理解协作信息。

第四段介绍提出的方法

​ 在本文中，我们提出了大型智能模型增强推荐（Large lAnguage Model Augmented Recommendation，LAMAR），这是一个通用的模型无关框架，它通过整合 LLM 来增强传统的推荐系统。LAMAR 引入了一个自适应合并模块，将这两种方法有效地结合起来，使我们能够充分利用传统推荐模型和基于 LLM 的推荐模型的优势，前者擅长理解 ID 特征和协作信息，后者擅长理解文本信息和推理。

​ 通过自适应合并模块，我们可以优化推荐系统的性能。此外，我们还采用了多样化的提示集合技术，以从 LLMs 中生成多个答案。通过平均这些答案，我们可以利用 LLM 提供的不同视角，获得更准确的结果。此外，我们还利用 LLM 的能力来提供有价值的侧面信息，从而支持传统推荐模型做出更准确的预测。通过利用 LLM 提供的额外信息，我们提高了推荐系统的准确性和有效性。

本文的贡献如下：

• 我们介绍了一种名为 LAMAR 的新颖且与模型无关的框架，该框架通过结合 LLM 增强了传统的推荐模型。通过利用 LLM 的语义信息理解和推理能力，我们的框架扩展了传统推荐模型的功能
• LAMAR 提示 LLM 生成辅助信息，从而增强传统推荐模型。此外，我们还建议使用多样化的提示集合来进一步提高 LAMAR 框架的推荐性能。

Method

​ 图 1 展示了我们提出的 LAMAR 框架的架构。与传统的推荐模型不同，我们整合了传统推荐模型和基于 LLM 的推荐模型的优势，以充分利用它们各自的优势。此外，我们还结合了多样化的提示，以进一步提高框架的性能。此外，我们促使 LLM 生成有价值的侧边信息，从而丰富了传统推荐模型。

​

利用LLM进行推荐

评级预测任务的提示构建

​ 就是提示构建，具体方式见原文

多样性提示

​ 我们采用了不同的提示来提高 LAMAR 框架的性能。通过使用不同的提示，我们可以在 LLM 中引出不同的推理路径，从而获得更可靠、更全面的结果。

​ 在我们的方法中，使用不同提示生成评分预测的过程可表示为 r = θ(p)，其中 p 表示使用的提示，θ 表示基于 LLM 的推荐模型。我们使用 k 种不同的提示，从而产生多个推荐输出：\(\begin{aligned}\{r_1=\theta(p_1),\ldots,r_k=\theta(p_k)\}\end{aligned}\)。为了整合这些多重输出并获得最终得分，我们采用了一种平均机制。具体来说，我们计算 k 个推荐结果的平均值为：\(r_{\text{LLM }}=\frac{1}{k}\sum_{i=1}^{k}r_{i}.\) 。通过对不同的推荐结果求平均值，我们可以获得更稳健、更准确的最终推荐得分。

​

侧信息增强的推荐

​ 在传统的推荐场景中，用于建模的可用数据往往是有限的。然而，聚合侧边信息可以显著提高推荐性能。为了利用边信息，我们在LAMAR框架中使用LLM。

​ 在传统的推荐模型中，我们可以将推荐过程表示为\(r = \psi(f_{\mathrm{id}},f_{\mathrm{feature}}),\)，其中ψ表示传统的推荐模型。这里，fid表示ID特性，ffeature表示附加特性。为了合并LLM提供的边信息，我们引入了记为θ的LLM。通过对LLM应用提示p‘，我们获得了侧信息fs，它捕获了与推荐任务相关的额外语义知识。因此，评级预测可以表示为\(r_{\mathrm{Rec}}=\psi(f_{\mathrm{id}},f_{\mathrm{feature}},f_{\mathrm{s}}),\)，我们用LLM生成的侧信息来增强传统的推荐模型。

自适应融合

​ 在长尾现象的背景下，具有大量交互的用户往往在传统的推荐模型中表现更好，我们在LAMAR框架内提出了一种自适应合并方法。这种自适应合并自适应地结合了基于LLM和传统推荐模型获得的结果

​ 最后的计算分数为：\(r_{u,v} = \alpha r_{\mathrm{LLM}}^{u,v}+(1 - \alpha)r_{\mathrm{Rec}}^{u,v}\)

​ 超参数 α 控制着每个推荐模型得分的权重。为了自适应地确定 α，我们会考虑用户 u 的互动次数。如果互动次数超过阈值 γ，我们会设置 α = α1。否则，我们设置 α = α2，其中 α1 < α2。

​ 这种自适应合并机制使我们能够根据用户的交互历史，动态调整基于 LLM 的模型和传统推荐模型的贡献。

Conclusion

​ 本文介绍了 LAMAR 框架，该框架利用 LLM 来增强推荐系统。我们通过将 LLM 的输出结果与传统推荐模型相结合，解决了 LLM 在理解协作信息方面的局限性。通过将传统模型提取的协作信息和 LLMs 提取的语义信息结合起来，LAMAR 提高了推荐性能。我们通过采用不同提示的集合进一步增强了基于 LLM 的推荐，从而提高了框架的有效性。此外，我们还利用 LLMs 提取了可增强传统推荐模型的辅助信息，为推荐任务提供了一种全面的方法。