论文速读|Generalization Error Bounds for Two-stage Recommender Systems with Tree Structure
论文信息：
简介：
本文讨论的是两阶段推荐系统（Two-stage Recommender Systems）在具有树结构的情况下的泛化误差界限。两阶段推荐系统在许多在线服务中扮演着重要角色，例如电子商务、数字流媒体和社交媒体等。这些系统需要从数百万或数十亿的选项中快速识别出与用户相关的项目，并个性化地满足大量用户的动态需求，同时响应延迟要低。两阶段推荐系统通常包括一个高效的检索器（retriever）和一个更精确但计算成本更高的排序器（ranker）。检索器从大型候选池中预先选择一小部分候选项，而排序器则对这些候选项进行细化和重新排序，然后呈现给用户。这种设计在效率和准确性之间取得了平衡，以满足现实世界场景的需求。
本文的动机在于提高对两阶段推荐系统泛化能力的理解，并为设计更有效的模型提供理论基础。通过分析树结构检索器和排序器的泛化误差，文章旨在揭示如何通过增加树结构中的分支数量和协调不同阶段之间的分布来增强两阶段推荐系统的泛化性能。
论文方法：
本文提出了一个基于误差分解框架的方法来分析两阶段推荐系统的泛化误差。
具体来说，文章使用Rademacher复杂度作为工具，来建立各种基于树的检索器使用束搜索时的泛化上界，以及在移位训练分布下不同排序器模型的泛化上界。
文章首先将两阶段模型的泛化误差分解为检索器和排序器的误差。
对于检索器，文章考虑了线性模型、多层感知器（MLP）和目标注意力模型等不同的树结构检索器模型，并为这些模型提供了泛化误差界限。
对于排序器，文章分析了在训练分布和推理分布不一致时排序器模型的泛化误差，并提出了通过协调分布来提高泛化性能的方法。
文章通过理论分析和实际实验来验证这些发现。实验结果表明，增加树结构检索器中的分支数量和在协调分布上训练排序器可以提高两阶段推荐系统的泛化性能。
论文实验：
根据提供的PDF文件中的Figure 1内容，该论文进行了实验来研究树结构检索器中分支数量对召回率（Recall@20）的影响。
对于Mind数据集，随着分支数量的增加，Recall@20逐渐提高，从2分支的0.178增加到32分支的0.190。
对于Movie数据集，同样观察到分支数量增加时Recall@20的提升，从2分支的0.09增加到32分支的0.13。
实验结果表明，增加树结构检索器中的分支数量可以提高召回率，从而增强检索器模型的性能。这支持了论文中的理论分析，即具有更多分支的树模型倾向于展示出更好的泛化能力。
论文链接：
https://openreview.net/pdf?id=m1a4CrRJR7
标签：检索,误差,速读,泛化,树结构,System,排序,分支 From： https://blog.csdn.net/2401_85576118/article/details/144779447