Quantitative analysis of Matthew effect and sparsity problem of recommender systems
HC Research（HC研究院）；HC Financial Service Group（HC金融服务集团）
推荐系统已经获得了巨大的商业成功。推荐技术在电子商务、在线音乐FM、在线新闻门户等领域得到了广泛的应用，然而与输入数据结构相关的一些问题对推荐系统的性能提出了严峻的挑战。其中两个问题是马太效应和稀疏性问题。马太效应严重地使推荐系统的输出偏向于受欢迎的项目。数据稀疏性问题直接影响推荐结果的覆盖率。协同过滤是一个简单的基准普遍采用的行业作为基线推荐系统的设计。了解协同过滤的底层机制是进一步优化的关键。本文对协同过滤特定上下文环境下的马太效应和稀疏性问题进行了深入的定量分析。我们比较了基于用户和基于项目的协同过滤的基本机制，并为工业推荐系统的构建者提供了见解。
2019-09-24 cs.IR cs.LG
CAM2: Conformity-Aware Multi-Task Ranking Model for Large-Scale Recommender Systems
Meta Inc.（Meta公司）
CAM2通过因果建模将用户从众行为与真实兴趣解耦，构建从众感知的多任务排序模型，在Facebook Watch上实现用户参与度提升0.50%和日活用户增长0.21%。
2023-04-17 cs.IR cs.LG
Synthetic Data-Based Simulators for Recommender Systems: A Survey
ITMO University（圣彼得堡国立信息技术机械与光学大学）；Sber AI Lab（俄罗斯联邦储蓄银行人工智能实验室）；AIRI（人工智能研究所）；Sber（俄罗斯联邦储蓄银行）
本次调查的目的是提供一个全面的概述，在该领域的建模和仿真（M &S）的用户和推荐系统之间的交互和应用程序的M&S的工业推荐引擎的性能改进的最新趋势。我们从开发实现模拟的框架（模拟器）背后的动机开始，以及将它们用于训练和测试不同类型的推荐系统（包括强化学习系统）。此外，我们提供了一个新的一致的分类现有的模拟器的基础上，他们的功能，认可，和工业的有效性，而且使研究文献中发现的模拟器的总结。除此之外，我们还讨论了模拟器的构建模块：合成数据（用户，项目，用户-项目响应）生成方法，假设实验分析方法，用于模拟质量评估的方法和数据集（包括监控和/或关闭可能的模拟与现实差距的方法），以及总结实验模拟结果的方法。最后，本调查认为，在该领域的新出现的主题和开放的问题。
2022-06-22 cs.IR cs.LG cs.PF
Incremental Learning for Personalized Recommender Systems
LinkedIn Corporation（领英公司）
无处不在的个性化推荐系统的建立是为了实现两个看似冲突的目标，以提供高质量的内容，适合个人用户的口味，并迅速适应不断变化的环境。前者需要一个复杂的机器学习模型，该模型是在大量数据上训练的;后者需要频繁更新模型。我们提出了一种增量学习解决方案，以提供训练效率和模型质量。我们的解决方案是基于序贯贝叶斯更新和二次近似。我们的重点是大规模个性化逻辑回归模型，以及对深度学习模型的扩展。本文填补了理论和实践之间的差距，解决了一些实施时出现的挑战，将增量学习大型个性化推荐系统。详细的离线和在线实验表明，我们的方法可以显着缩短训练时间，同时保持模型的准确性。该解决方案部署在LinkedIn中，并直接适用于工业规模的推荐系统。
2021-08-13 cs.IR cs.LG
Cold & Warm Net: Addressing Cold-Start Users in Recommender Systems
Tencent（腾讯）；Tsinghua University（清华大学）
针对推荐系统匹配阶段的用户冷启动问题，提出双专家门控融合、动态知识蒸馏与行为偏置建模的 Cold & Warm Net，在公开数据集和工业短视频平台均取得显著效果。
2023-09-27 cs.IR cs.LG
Learning from Negative User Feedback and Measuring Responsiveness for Sequential Recommenders
Google（谷歌）；OpenAI
本研究针对序列推荐器负反馈学习不足的问题，提出将显隐式负反馈纳入训练的“不推荐”损失函数，经工业级在线实验验证有效，并构建反事实框架实现响应度衡量，证实建模改进可提升推荐响应速度。
2023-08-23 cs.IR cs.LG
A Survey on User Behavior Modeling in Recommender Systems
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Shanghai Jiao Tong University（上海交通大学）
用户行为建模（UBM）在用户兴趣学习中起着关键作用，在推荐系统中得到了广泛的应用。用户和项目之间的关键交互模式已经被利用，这在许多推荐任务中带来了引人注目的改进。在本文中，我们试图提供一个彻底的调查这一研究课题。本文首先回顾了UBM的研究背景。然后，我们提供了一个系统的分类现有的UBM的研究工作，可以分为四个不同的方向，包括常规UBM，长序列UBM，多类型UBM，和UBM与边信息。在每一个方向，代表性的模型和他们的优点和缺点进行了全面的讨论。此外，我们详细介绍了UBM方法的工业实践，希望为现有UBM解决方案的应用价值提供见解。最后，对本研究进行了总结，并对该领域的发展前景进行了展望.
2023-02-22 cs.IR cs.LG
CoVE: Compressed Vocabulary Expansion Makes Better LLM-based Recommender Systems
Rice University（Rice大学）；Swarm & AI, University of Haifa（Swarm与AI，海法大学）；John Hopkins University（约翰霍普金斯大学）
针对LLM推荐系统未充分利用序列信息处理能力的问题，提出压缩词表扩展框架CoVE，通过为物品分配唯一ID利用LLM序列理解能力，并压缩嵌入层以适应大规模工业应用，显著提升了推荐性能。
2025-06-24 cs.IR cs.LG
Deep Multi-View Learning for Tire Recommendation
Université Lyon1（里昂第一大学）；Lizeo IT（Lizeo信息技术公司）
我们经常使用推荐系统，甚至没有注意到。他们建立了我们的个人资料，以便推荐我们最有可能感兴趣的内容。代表用户、他们与系统或产品的交互的数据可能来自不同的来源，并且具有各种性质。我们的目标是使用多视图学习方法来改进我们的推荐系统，并提高其管理多视图数据的能力。我们提出了几个国家的最先进的多视图模型应用到我们的工业数据之间的比较研究。我们的研究证明了在推荐系统中使用多视图学习的相关性。
2022-03-23 cs.IR cs.LG
RQ-Reg: A Residual-Quantization-Based Framework for Continuous Value Prediction in Recommender Systems
Kuaishou Technology（快手科技）
本文提出基于残差量化的序列学习框架，通过递归预测有序量化代码来提升连续值预测的准确性，实验表明其在推荐系统中的表现优于现有方法。
2026-09-25 cs.IR cs.LG
Diversity Regularized Interests Modeling for Recommender Systems
Alibaba Group（阿里巴巴集团）
随着电子商务的迅速发展和商品数量的不断增加，用户所面对的商品越来越多，兴趣也越来越广泛。传统的方法通过将单个用户向量和项目向量相结合来建模用户对项目的偏好，这使得用户意图建模变得越来越困难。近年来，提出了一些方法来产生多个用户兴趣向量，并取得了比传统方法更好的性能。然而，实证研究表明，从这些多利益的方法生成的向量有时是同质的，这可能会导致次优性能。本文提出了一种新的推荐系统的多样性正则化兴趣建模（DRIM）方法。我们在多兴趣提取器中应用胶囊网络来生成多个用户兴趣向量。用户的每个兴趣都应该有一定程度的区别，因此我们引入了三种策略作为多样性正则化分离器来分离多个用户兴趣向量。公共和工业数据集上的实验结果表明，该模型能够捕捉不同的用户的兴趣和所提出的方法的优越性能。
2021-03-23 cs.IR cs.LG
FORCE: A Framework of Rule-Based Conversational Recommender System
Microsoft（微软）
会话式推荐系统（CRS）近年来受到了广泛的关注。然而，现有的工作大多集中在各种深度学习模型，这在很大程度上受到大规模人工标注数据集的要求的限制。这种方法不能处理工业产品中的冷启动情况。为了缓解这个问题，我们提出了FORCE，一个基于规则的会话推荐系统框架，帮助开发人员通过简单的配置快速构建CRS机器人。我们在两个不同语言和领域的数据集上进行实验，以验证其有效性和可用性。
2022-03-18 cs.AI cs.CL cs.IR
TokenMinds: Pretrained User Tokens and Embeddings for User Understanding in Large Recommender Systems
Google DeepMind（谷歌DeepMind）
提出TokenMinds系统，通过编码器-解码器架构生成基于语义ID的离散用户令牌和稠密嵌入，实现互补优势，并在YouTube全流量部署验证其工业可行性。
2026-10-28 cs.AI cs.IR cs.LG
Cache-Augmented Inbatch Importance Resampling for Training Recommender Retriever
推荐检索器的目标是在用户查询请求时从整个项目语料库中快速检索一小部分项目，具有代表性的双塔模型使用log softmax loss进行训练。为了在现代硬件上有效地训练推荐检索器，批内采样，其中小批量中的项目被共享为负数来估计softmax函数，已经获得了越来越多的兴趣。然而，现有的基于批内抽样的策略只能用条目频率来纠正批内条目的抽样偏差，无法区分小批量中的用户查询，并且仍然会产生与softmax显著的偏差。在本文中，我们提出了一个缓存增强的批次内重要性恢复（XIR）的训练推荐检索器，它不仅提供了不同的负面用户查询批次项目，但也自适应地实现了更准确的估计softmax分布。具体来说，XIR基于一定的概率对给定的小批量训练对的项目进行重新采样，其中采用具有更频繁采样项目的缓存来增加候选项目集，目的是重用历史信息样本。XIR能够基于inbatch项目对查询相关的否定进行采样，并捕获模型训练的动态变化，从而更好地近似softmax，并进一步有助于更好的收敛。最后，我们进行实验，以验证所提出的XIR的优越性能相比，竞争对手的方法。
2022-05-30 cs.IR
Denoising Neural Reranker for Recommender Systems
University of Science and Technology of China（中国科学技术大学）；Kuaishou Technology（快手科技）
本文提出了一种去噪神经重排器（DNR），通过利用前一阶段的检索分数来改进推荐系统的两阶段检索重排框架，通过去噪、对抗训练和分布正则化等方法提升推荐效果。
2026-05-17 cs.IR
Distributed Equivalent Substitution Training for Large-Scale Recommender Systems
Tencent Inc.（腾讯公司）
我们提出了分布式等效替换（DES）训练，一种新的分布式训练框架，用于大规模推荐系统的动态稀疏特征。DES通过减少通信，首次将完全同步的训练引入到大规模推荐系统中，从而使商业推荐系统的训练收敛更快，达到更好的CTR。DES通过用计算上等价的子运算符替换权重丰富的运算符并聚合部分结果而不是直接通过网络传输巨大的稀疏权重，从而需要更少的通信。由于在大规模深度学习推荐模型（DLRM）上使用同步训练，DES实现了更高的AUC（ROC下面积）。我们成功地将DES培训应用于工业场景的多个流行DLRM。实验表明，我们的实现优于国家的最先进的基于PS的训练框架，实现高达68.7%的通信节省和更高的吞吐量相比，其他基于PS的推荐系统。
2020-05-30 cs.IR cs.LG stat.ML
Top-K Off-Policy Correction for a REINFORCE Recommender System
Google, Inc.（谷歌公司）
工业推荐系统处理非常大的动作空间--数百万个项目要推荐。此外，它们需要服务数十亿用户，这些用户在任何时间点都是唯一的，从而形成了复杂的用户状态空间。幸运的是，大量记录的隐式反馈（例如，用户点击、停留时间）可用于学习。然而，从记录的反馈中学习容易受到仅观察由先前版本的推荐器选择的推荐的反馈所引起的偏差的影响。在这项工作中，我们提出了一个通用的配方，解决这种偏见的生产前K推荐系统在YouTube上，建立了一个基于政策梯度的算法，即加强。本文的贡献是：（1）将REINFORCE扩展为具有数百万数量级动作空间的生产推荐系统;（2）应用偏离策略校正来解决从多个行为策略收集的日志反馈中学习的数据偏差;（3）提出一种新的top-K偏离策略校正来解释我们的策略一次推荐多个项目;（4）彰显探索价值。我们通过一系列的模拟和多个现场实验在Youtube上展示了我们的方法的有效性。
2021-12-15 cs.IR cs.LG stat.ML
Shallow AutoEncoding Recommender with Cold Start Handling via Side Features
DotDash Meredith；NBC Universal Peacock（NBC环球孔雀）
本文提出增强型 EASE 推荐模型，通过融合用户与物品辅助特征获得闭式解，在不引入额外偏差的前提下改善冷热启动推荐性能。
2025-05-15 cs.IR cs.LG
TranSUN: A Preemptive Paradigm to Eradicate Retransformation Bias Intrinsically from Regression Models in Recommender Systems
Taobao & Tmall Group of Alibaba, Beijing, China（阿里巴巴淘宝与天猫集团，北京，中国）
针对推荐系统回归模型中被忽视的再转化偏差，提出预防性范式TranSUN及其通用族GTS，通过内在联合偏差学习实现理论无偏，并已在淘宝App两大场景成功部署。
2025-10-13 cs.IR cs.LG
RecSim: A Configurable Simulation Platform for Recommender Systems
Google Research（谷歌研究院）；Department of Computer Science, University of Texas at Austin（德克萨斯大学奥斯汀分校计算机科学系）
我们提出RecSim，一个可配置的平台，创作的推荐系统（RS），自然支持与用户的顺序交互的模拟环境。RecSim允许创建新的环境，反映用户行为和项目结构的特定方面，在一个抽象的水平，非常适合推动当前的强化学习（RL）和RS技术在顺序交互式推荐问题的限制。环境可以很容易地配置，以改变以下假设：用户偏好和项目熟悉度;用户潜在状态及其动态;选择模型和其他用户响应行为。我们概述了RecSim如何为RL和RS研究人员和从业者提供价值，以及它如何作为学术-工业合作的工具。
2019-09-26 cs.HC cs.IR cs.LG
Performative Debias with Fair-exposure Optimization Driven by Strategic Agents in Recommender Systems
Tianjin University（天津大学）；Lenovo Research（联想研究院）；The Hong Kong University of Science and Technology（香港科技大学）
本文针对推荐系统中的数据偏差问题，提出了一种由策略智能体驱动的公平曝光优化重排序方法，通过端到端优化兼顾准确性与公平性，有效提升长尾项目可见性。
2024-06-25 cs.IR cs.LG
FORTE: A Production Framework for Feature Evaluation and Deprecation in Industrial Recommender Systems
Pinterest（Pinterest公司）
本文提出与模型无关的生产级框架FORTE，用于工业推荐系统的特征评估与弃用，通过分组消融、谱系追踪等方法在两个大规模推荐系统上验证，成功移除大量特征并提升效率、降低成本且无性能下降。
2026-10-12 cs.AI cs.LG
Context Features Are Cheap: Rank-Aware Decomposition for Efficient Feature Interaction in Recommender Systems
Taboola Israel（Taboola以色列）
提出一种秩感知分解方法，通过将上下文相关计算从每个候选一次减少为每个请求一次，在不改变模型预测的情况下显著提升工业推荐系统的吞吐量。
2026-05-24 cs.IR cs.LG
GraphSAIL: Graph Structure Aware Incremental Learning for Recommender Systems
Mila, Université de Montréal（蒙特利尔大学 Mila 研究院）；Huawei Noah’s Ark Lab Montreal Research Center（华为诺亚方舟实验室蒙特利尔研究中心）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；McGill University（麦吉尔大学）
由于通过在线服务收集信息的便利性，推荐系统现在消耗大规模数据并且在改善用户体验方面发挥更重要的作用。随着最近图神经网络（GNNs）的出现，基于GNN的推荐模型已经显示出将推荐系统建模为用户-项目二分图以学习用户和项目的表示的优势。然而，这样的模型训练是昂贵的，并且难以执行频繁的更新以提供最新的推荐。在这项工作中，我们建议更新GNN为基础的推荐模型增量，使计算时间可以大大减少，模型可以更频繁地更新。我们开发了一个图结构感知增量学习框架GraphSAIL，以解决在以增量方式训练模型时经常遇到的灾难性遗忘问题。我们的方法保留了用户的长期偏好（或项目的长期属性）在增量模型更新。GraphSAIL实现了一个图结构保存策略，该策略分别显式地保存每个节点的局部结构、全局结构和自信息。我们认为，我们的增量训练框架是第一次尝试为基于GNN的推荐系统量身定制，并证明其改进相比，其他增量学习技术在两个公共数据集。我们进一步验证了我们的框架在大规模工业数据集上的有效性。
2020-09-02 cs.IR cs.LG stat.ML
Not All Candidates are Created Equal: A Heterogeneity-Aware Approach to Pre-ranking in Recommender Systems
ByteDance Hangzhou P.R.China（字节跳动杭州中国）；ByteDance Beijing P.R.China（字节跳动北京中国）；ByteDance Shenzhen P.R.China（字节跳动深圳中国）；ByteDance Shanghai P.R.China（字节跳动上海中国）
本文提出HAP方法，通过冲突敏感采样和定制化损失设计，解决推荐系统预排序中的异质性问题，提升效果并降低计算成本。
2026-03-04 cs.AI cs.IR cs.LG
Don't Waste It: Guiding Generative Recommenders with Structured Human Priors via Multi-Head Decoding
Meta AI
通过多头解码引导生成推荐系统，利用结构化人类先验提升推荐准确性与多样性
2026-01-26 cs.IR cs.LG
Graph Exploration Matters: Improving both individual-level and system-level diversity in WeChat Feed Recommender
Tencent（腾讯）
针对微信 Feed 推荐中个体级与系统级多样性割裂的问题，提出融合检索图信息的多样性重排序与实时个性化偏好建模，并在微信看一看上线验证。
2023-05-29 cs.LG
The Environmental Impact of Ensemble Techniques in Recommender Systems
University of Siegen（锡根大学）
本研究首次系统测量集成推荐系统的能耗与碳足迹，通过93次实验发现其准确率提升0.3-5.7%时能耗增19-2549%，选择性集成策略效率优于穷举平均，为可持续算法选择提供依据。
2025-11-10 cs.IR cs.LG
Bypassing the Popularity Bias: Repurposing Models for Better Long-Tail Recommendation
Seznam.cz, a.s.（塞兹纳姆股份公司）
针对推荐系统中长尾内容发布者曝光不足的流行度偏差问题，提出重新利用工业推荐系统现有组件的方法，在保障推荐质量的同时提升弱势发布者曝光，经大规模AB实验验证有效并分享了生产应用洞见。
2024-09-17 cs.IR cs.LG
A Methodology for the Offline Evaluation of Recommender Systems in a User Interface with Multiple Carousels
Politecnico di Milano（米兰理工大学）
许多视频点播和音乐流媒体服务向用户提供由若干推荐列表组成的页面，所述推荐列表即小部件或可滑动的旋转木马，每一个都构建有特定标准（例如，最近的电视连续剧等）。寻找有效的策略来选择要显示的旋转木马是一个具有巨大工业兴趣的活跃研究课题。在这种情况下，新算法的推荐的整体质量不能通过仅仅测量其个体推荐质量来评估。相反，应在已有其他建议清单的情况下对其进行评估，以说明它们如何相互补充。这是传统的离线评估协议所不考虑的。因此，我们提出了一个离线评估协议的旋转木马设置中，一个模型的推荐质量是衡量多少，它提高了一套已经可用的旋转木马。我们报告的实验公开可用的数据集上的电影域，并注意到，根据转盘设置的排名的算法的变化。特别是，当SLIM carousel可用时，矩阵分解模型往往是首选，而基于项目的模型则会受到惩罚。我们还建议将排名指标扩展到二维旋转木马布局，以考虑已知的位置偏差，即用户不会按顺序探索列表，而是集中在屏幕的左上角。
2021-05-13 cs.IR cs.LG
Diagnosing and Mitigating Retrieval Bottlenecks in LLM-Based Cold-Start Recommendation
本文通过五领域基准测试发现，在冷启动场景下，LLM重排序器受限于检索覆盖率低（4.6-22.9%），提出LHF混合融合层作为检索侧基线，恢复17-61%的oracle覆盖空间，但端到端实验显示非LLM排序与LLM重排序之间存在不匹配。
2026-06-29 cs.IR cs.LG
Trinity: Syncretizing Multi-/Long-tail/Long-term Interests All in One
ByteDance（字节跳动）
针对推荐系统中多兴趣、长尾兴趣和长期兴趣建模的“兴趣遗忘”问题，提出统一框架Trinity，利用实时聚类和统计兴趣直方图同时缓解该问题，并在抖音部署显著提升用户体验与留存。
2024-02-05 cs.IR cs.LG
Balanced Co-Clustering of Users and Items for Embedding Table Compression in Recommender Systems
Hong Kong Baptist University（香港 Baptist 大学）；The Chinese University of Hong Kong（香港中文大学）
本文提出BACO框架，通过协同信号对用户和物品进行聚类，减少嵌入表参数，提升推荐系统效率，实验显示参数减少75%且召回率下降仅1.85%。
2026-04-20 cs.IR cs.LG
Time to Split: Exploring Data Splitting Strategies for Offline Evaluation of Sequential Recommenders
AIRI, Skoltech Moscow Russian Federation（AIRI，斯克里普钦斯基因工学院莫斯科俄罗斯联邦）；Sber AI Lab, Skoltech Moscow Russian Federation（Sber AI Lab，斯克里普钦斯基因工学院莫斯科俄罗斯联邦）；Sber AI Lab Moscow Russian Federation（Sber AI Lab，莫斯科斯克里普钦斯基因工学院俄罗斯联邦）；Sber AI Lab, HSE University Moscow Russian Federation（Sber AI Lab，莫斯科高等经济大学俄罗斯联邦）
本文系统比较了序列推荐中不同数据分割策略对离线评估的影响，发现留一法等常见策略存在时间泄漏等问题，与更现实的评估策略不一致，并提供了代码以提升可重复性。
2025-07-22 cs.IR cs.LG
Dynamic User Interest Augmentation via Stream Clustering and Memory Networks in Large-Scale Recommender Systems
Tencent Inc.（腾讯公司）
本文提出动态用户兴趣增强方法DUIA，通过基于梯度的层次聚类算法GHCA对相似用户和物品进行动态流聚类，生成增强向量以解决大规模推荐系统中用户兴趣稀疏、长尾物品和冷启动问题，并在腾讯多个工业系统中成功部署。
2025-09-23 cs.IR cs.LG
Massive Memorization with Hundreds of Trillions of Parameters for Sequential Transducer Generative Recommenders
Meta；Yale University（耶鲁大学）
本文提出VISTA框架，通过将传统目标注意力分解为两个阶段，实现对超长用户历史的记忆压缩，从而在保持训练和推理成本不变的情况下，支持数百万项的长期用户历史。
2026-03-26 cs.IR cs.LG
Large-scale Causal Approaches to Debiasing Post-click Conversion Rate Estimation with Multi-task Learning
University of California, Los Angeles（加州大学洛杉矶分校）；Alibaba Group（阿里巴巴集团）；Columbia University（哥伦比亚大学）
点击后转化率（CVR）估计是电子商务推荐系统中的一项关键任务。这个任务在工业环境下被认为是相当具有挑战性的，有两个主要问题：1）由用户自我选择引起的选择偏差，以及2）由于罕见的点击事件引起的数据稀疏。成功的转换通常具有以下顺序事件：“曝光->点击->转换”。传统的CVR估计器是在点击空间中训练的，但推理是在整个曝光空间中完成的。他们没有考虑到缺失数据的原因，并将其视为随机缺失。因此，他们的估计很可能与实际价值大不相同。此外，数据稀疏性问题也会阻碍许多工业CVR估计，通常有大的参数空间。在本文中，我们提出了两个原则性的，高效的和高度有效的CVR估计工业CVR估计，即多IPW和多DR。所提出的模型接近CVR估计从因果关系的角度来看，并占的原因，失踪不是随机的。此外，我们的方法是基于多任务学习框架和减轻数据稀疏性问题。工业级数据集上的大量实验表明，我们的方法优于最先进的CVR模型。
2020-04-04 cs.IR cs.LG
Joint Optimization of Tree-based Index and Deep Model for Recommender Systems
Alibaba Group（阿里巴巴集团）；Tsinghua University（清华大学）
大型工业推荐系统通常面临着巨大的语料库规模的计算问题。为了在响应时间限制下检索并向用户推荐最相关的项目，采用高效的索引结构是一种有效且实用的解决方案。基于树的深度模型（Tree-based Deep Model，TDM）\cite{zhu2018learning}使用树索引极大地提高了推荐的准确性。通过索引树层次结构中的项并训练满足树中的类最大堆性质的用户节点偏好预测模型，TDM提供了相对于树的对数计算复杂性。语料库的大小，使得在候选检索和推荐中能够使用任意的高级模型。在基于树的推荐方法中，树索引和用户节点偏好预测模型的质量在很大程度上决定了推荐的准确性。我们认为树索引和偏好模型的学习具有相互依赖性。我们的目的，在本文中，是开发一种方法来共同学习的索引结构和用户偏好预测模型。在我们提出的联合优化框架中，索引的学习和用户偏好预测模型在统一的性能指标下进行。此外，我们提出了一种新的层次用户偏好表示利用树索引层次。两个大规模真实数据集的实验结果表明，该方法显著提高了推荐准确率。在线A/B测试结果显示广告平台也证明了该方法在生产环境中的有效性。
2019-11-20 cs.IR cs.LG stat.ML
Explainability in Music Recommender Systems
Deezer Research（Deezer研究院）；Johannes Kepler University（约翰内斯·开普勒大学）；Linz Institute of Technology（林茨理工学院）
如今，收听录制音乐的最常见方式是通过流媒体平台，该平台提供数千万首曲目的访问。为了帮助用户有效地浏览这些大型目录，音乐推荐系统（MRS）的集成已经变得至关重要。当前现实世界的MRS通常相当复杂，并且针对推荐准确性进行了优化。它们结合了基于协同过滤和基于内容的推荐的几个构建块。这种复杂性可能会阻碍向最终用户解释推荐的能力，这对于被认为是意外或不合适的推荐尤其重要。虽然纯粹的推荐性能通常与用户满意度相关，但可解释性对其他因素（如信任和宽恕）有积极影响，这些因素最终对保持用户忠诚度至关重要。在这篇文章中，我们将讨论如何在MRS的背景下解决可解释性问题。我们提供的观点如何解释性可以改善音乐推荐算法和增强用户体验。首先，我们回顾了音乐消费者的可解释性和可解释的人工智能（XAI）的共同维度和目标，并详细说明了这些适用于或需要适应音乐消费和推荐的具体特征的程度。然后，我们将展示如何解释组件可以集成在MRS和以何种形式可以提供解释。由于解释质量的评价是从纯粹的准确性为基础的评价标准解耦，我们还讨论了音乐推荐的解释评价的要求和策略。最后，我们描述了目前的挑战，在一个大规模的工业音乐推荐系统中引入可解释性，并提供研究前景。
2022-01-25 cs.LG
A Probabilistic Framework for Temporal Distribution Generalization in Industry-Scale Recommender Systems
Shopee Pte. Ltd.（Shopee公司）；Nanyang Technological University（南洋理工大学）；Singapore Management University（新加坡管理学院）
本文提出ELBO_TDS框架，通过因果图建模和自监督变分目标提升工业级推荐系统的时间分布泛化能力，实测提升GMV 2.33%并已部署于Shopee产品搜索。
2025-11-26 cs.LG
ShuffleGate: Scalable Feature Optimization for Recommender Systems via Batch-wise Sensitivity Learning
Bilibili Inc.（哔哩哔哩公司）；Guangzhou University（广州大学）；East China Normal University（华东师范大学）
提出ShuffleGate机制，通过批量洗牌策略以可微方式估计特征重要性，统一特征选择和维度选择任务，实现极化重要性分布，避免复杂阈值调优，在四个基准上优于现有方法，并在工业部署中实现10倍维度压缩和91%训练吞吐量提升。
2026-05-29 cs.LG
How Much Are You Willing to Share? A "Poker-Styled" Selective Privacy Preserving Framework for Recommender Systems
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
大多数工业推荐系统依赖于流行的协同过滤（CF）技术，为用户提供个性化的建议。然而，CF的本质与用户隐私的想法是对立的，因为用户需要与其他人分享他们的偏好，以便与志同道合的人分组并获得准确的推荐。虽然以前的隐私保护方法已经成功，因为他们隐藏用户偏好信息在一定程度上从一个集中式推荐系统，他们也，然而，在隐私，可扩展性和准确性方面产生了显着的权衡。它们也容易受到恶意行为者的隐私侵犯。根据这些观察，我们提出了一种新的选择性隐私保护（SP2）范式，允许用户自定义定义的范围和程度，他们的个人隐私，通过标记他们的个人评级为公开（可以共享）或私人（这是从来没有共享和存储在用户设备上）。我们的SP2框架分两步工作：（i）首先，它基于用户共享的所有公共评级的总和构建初始推荐模型，（ii）然后，基于用户的私人评级在每个用户的设备上微调这个公共模型，从而最终学习更准确的模型。此外，在这项工作中，我们介绍了三种不同的算法来实现一个端到端的SP2框架，可以有效地从数千到数亿的项目。我们的用户调查显示，绝大多数用户可能会对更多的项目进行评分，以改善整体推荐，当他们可以控制哪些评分将与他人公开共享时。
2018-06-04 cs.HC cs.IR cs.LG
PIT-SUN: A Deployable Empirical Marginal Transform Framework with Expectation-Consistent Recovery for Regression in Recommender Systems
Kuaishou Technology（快手科技）
针对推荐系统中估计原始空间条件期望的问题，提出PIT-SUN框架，通过经验边际表定义相关内容，应用乘法SUN恢复估计期望，实验表明该方法在多方面有提升且部署开销小。
2026-07-10 cs.LG
Computation Resource Allocation Solution in Recommender Systems
Alibaba Group（阿里巴巴集团）
推荐系统在很大程度上依赖于不断增加的计算资源来提高其业务目标。通过部署计算密集型模型和算法，这些系统能够推断用户兴趣，并从候选集中展示某些广告或商品，以最大限度地实现其业务目标。然而，这些系统在实现其目标方面面临两个挑战。一方面，面对海量的在线请求，计算密集型模型和算法正在将其计算资源推向极限。另一方面，这些系统的响应时间被严格限制在很短的时间内，例如在我们的真实系统中为300毫秒，这也被日益复杂的模型和算法耗尽。在本文中，我们提出了计算资源分配解决方案（CRAS），最大限度地利用有限的计算资源和响应时间的业务目标。我们全面地说明了这个问题，并制定这样的问题作为一个多约束的优化问题，它可以分解成独立的子问题。为了解决子问题，我们提出了收益函数，以方便理论分析，并获得最优的计算资源分配策略。为了解决适用性问题，我们设计了反馈控制系统，以帮助我们的策略不断适应不断变化的在线环境。基于淘宝网真实数据集的大量实验验证了该方法的有效性。我们还部署我们的方法在阿里巴巴的显示广告系统。在线测试结果表明，在不增加计算成本的情况下，我们的计算资源分配方案实现了业务目标的显著改善，验证了该方法在实际工业应用中的有效性。
2021-03-03 cs.IR cs.LG cs.SY
Golden-Retriever: High-Fidelity Agentic Retrieval Augmented Generation for Industrial Knowledge Base
University of California, Merced（加州大学默塞德分校）；Western Digital Corporation（西部数据公司）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
Golden-Retriever 通过基于反思的术语识别与问题增强步骤，在文档检索前澄清领域术语和上下文，从而显著提升工业知识库中 RAG 框架的检索准确性，并在领域问答数据集上验证了其优越性能。
2024-07-20 cs.AI cs.CL cs.DL
MDL: A Unified Multi-Distribution Learner in Large-scale Industrial Recommendation through Tokenization
ByteDance Search（字节跳动搜索）；ByteDance AML（字节跳动人工智能实验室）
MDL通过统一的多分布学习框架，利用分词技术提升大规模工业推荐系统中多场景和多任务学习的性能。
2026-02-10 cs.AI cs.IR cs.LG
Training Recommender Systems at Scale: Communication-Efficient Model and Data Parallelism
University of California, Berkeley（加州大学伯克利分校）；Facebook Inc.（脸书公司）
在本文中，我们认为混合并行-一种范式，采用数据并行（DP）和模型并行（MP）-规模的大型推荐模型的分布式训练。我们提出了一种名为动态通信阈值（DCT）的压缩框架，用于通信高效的混合训练。DCT通过一个简单的硬阈值函数过滤网络中要通信的实体，只允许最相关的信息通过。对于通信高效的DP，DCT压缩在模型同步期间发送到参数服务器的参数梯度。阈值每几千次迭代仅更新一次，以减少压缩的计算开销。对于通信高效的MP，DCT结合了一种新的技术来分别压缩在前向和后向传播期间通过网络发送的激活和梯度。这是通过针对数据中的每个训练样本仅识别和更新神经网络的最相关神经元来完成的。我们在公开的自然语言处理和推荐模型和数据集上评估DCT，以及Facebook在生产中使用的推荐系统。DCT在DP和MP期间分别将通信减少至少$100\times$和$20\times$。该算法已部署在生产中，它将最先进的工业推荐模型的端到端训练时间提高了37%，而性能没有任何损失。
2021-05-21 cs.DC cs.LG stat.ML
Latent User Intent Modeling for Sequential Recommenders
Google, Inc.（谷歌公司）
顺序推荐模型是现代工业推荐系统的重要组成部分。这些模型学习基于用户在平台上的交互历史来预测用户可能与之交互的下一个项目。然而，大多数顺序浏览器缺乏对用户意图的更高层次的理解，这通常会驱动用户的在线行为。因此，意图建模对于理解用户和优化长期用户体验至关重要。我们提出了一种概率建模方法，并制定用户的意图作为潜在变量，这是推断的基础上，使用变分自编码器（VAE）的用户行为信号。然后，在给定推断出的用户意图的情况下，相应地调整推荐策略。我们通过离线分析以及在大型工业推荐平台上的现场实验证明了潜在用户意图建模的有效性。
2023-03-27 cs.IR cs.LG
Recommender systems in industrial contexts
本论文由四个部分组成：-在工业背景下推荐系统的核心功能和先决条件的分析：我们确定了四个核心功能的推荐系统：帮助做决定，帮助比较，帮助探索，帮助发现。这些功能的实现对算法推荐系统的核心选择有影响。- 介绍了自动推荐系统中的主要技术：两种最常用的算法：K-近邻方法（KNN）和快速因子分解方法。现有技术还提出了纯粹基于内容的方法，杂交技术，和经典的性能指标，用于评估推荐系统。这种最先进的技术然后给出了几个系统的概述，无论是从学术界和工业界（亚马逊，谷歌.）。- 分析了在本论文中开发的推荐系统的性能和意义：该系统Reperio是一个使用KNN方法的混合推荐引擎。我们研究了KNN方法的性能，包括所使用的相似性函数的影响。然后，我们研究了KNN方法在冷启动情况下的关键用例中的性能。- 一种分析工业环境中推荐系统性能的方法：该方法根据其核心功能评估算法策略和推荐系统的附加值。
2012-05-14 cs.IR
Persia: An Open, Hybrid System Scaling Deep Learning-based Recommenders up to 100 Trillion Parameters
Kwai Inc.（快手公司）；Kuaishou Technology（快手科技）；ETH Zürich（苏黎世联邦理工学院）
基于深度学习的模型已经主导了生产推荐系统的当前景观。此外，近年来，模型规模呈指数级增长-从谷歌2016年的10亿参数模型到最新的Facebook模型，拥有12万亿参数。模型容量的每一次跳跃都带来了显著的质量提升，这让我们相信100万亿参数的时代即将到来。然而，即使在工业规模的数据中心内，这种模型的训练也具有挑战性。这种困难来自于训练计算的惊人异质性-模型的嵌入层可能包括总模型大小的99.99%以上，这是非常内存密集型的;而其余的神经网络则越来越计算密集型。为了支持如此庞大的模型的训练，迫切需要一个高效的分布式训练系统。在本文中，我们解决了这一挑战，仔细共同设计的优化算法和分布式系统架构。具体而言，为了保证训练效率和训练精度，设计了一种新的混合训练算法，其中嵌入层和密集神经网络采用不同的同步机制;然后构建了一个支持该混合训练算法的并行推荐训练系统Persia（parallel recommendation training system with hybrid acceleration）。理论论证和实证研究多达100万亿的参数进行了论证的制度设计和实施的波斯。我们公开了Persia（在https：//github.com/PersiaML/Persia），这样任何人都可以轻松地训练一个100万亿参数规模的推荐模型。
2021-11-23 cs.DC cs.LG
A Survey of Real-World Recommender Systems: Challenges, Constraints, and Industrial Perspectives
本综述系统对比工业与学术推荐系统，提出基于物品特征的新分类，并强调用户决策及跨学科理论以弥合实践差距。
2025-09-07 cs.IR
Practitioners Versus Users: A Value-Sensitive Evaluation of Current Industrial Recommender System Design
推荐系统在缓解信息过载和支持用户的各种需求方面发挥着越来越重要的作用，消费、社交和娱乐。然而，有限的研究集中在价值观应如何广泛考虑在工业部署的推荐系统，忽视这可能是有问题的。为了填补这一空白，在本文中，我们采用价值敏感的设计，全面探讨从业者和用户如何认识到当前的行业推荐系统的不同价值。基于概念和实证调查，我们专注于五个价值：推荐质量，隐私，透明度，公平性和可信度。我们进一步对20名用户和10名从业者进行了深入的定性访谈，以深入了解他们对这些价值观的看法。我们的研究结果揭示了从业者和用户之间的价值解释，评价和实践方面的紧张关系的存在和来源，这为设计更以人为本和价值敏感的推荐系统提供了新的启示。
2022-08-27 cs.CY cs.HC cs.IR
MixFormer: Co-Scaling Up Dense and Sequence in Industrial Recommenders
ByteDance Inc.（字节跳动）
提出MixFormer统一Transformer架构，联合建模序列行为与特征交互，通过统一参数化实现稠密容量与序列长度的协同扩展，并引入用户-物品解耦策略提升工业实用性。
2026-07-03 cs.IR
IAT: Instance-As-Token Compression for Historical User Sequence Modeling in Industrial Recommender Systems
ByteDance（字节跳动）
本文提出IAT框架，通过实例压缩和下游任务结合，提升工业推荐系统性能，实现跨领域迁移和业务指标提升。
2026-04-10 cs.IR
