Two-level monotonic multistage recommender systems
University of Minnesota(明尼苏达大学);The Chinese University of Hong Kong(香港中文大学)
推荐系统学习同时为所有用户预测用户对许多项目的特定偏好或意图,基于相对少量的观察做出个性化推荐。一个核心问题是如何利用三向交互,称为单调事件链上的用户-项目-阶段依赖关系,以提高预测准确性。例如,在文章共享数据集中发生了一个单调的事件链,其中“关注”动作意味着“喜欢”动作,而“喜欢”动作又意味着“查看”动作。在这篇文章中,我们开发了一个多级推荐系统,利用两级单调属性表征的单调链的个性化预测的事件。特别是,我们推导出一个大的利润分类器的基础上,非负的添加剂的潜在因素模型的存在下,一个高比例的缺失观测,特别是在阶段之间,减少个性化预测的模型参数的数量,同时保证预测的一致性。在此基础上,我们推导出一个正则化的成本函数来学习用户在不同阶段的特定行为,将决策函数与数值和分类协变量联系起来,以模拟用户-项目-阶段的交互。在计算上,我们推导出一个算法的基础上分块坐标下降。从理论上讲,我们表明,两级单调性提高了学习的准确性相比,一个标准的方法单独对待每个阶段和一个有序的方法,只利用一级单调性。最后,该方法与现有的方法相比,在模拟和文章共享数据集。
2021-10-06 cs.IR cs.LG math.ST
Two-stage Voice Application Recommender System for Unhandled Utterances in Intelligent Personal Assistant
AWS AI;Amazon Alexa AI(亚马逊 Alexa AI)
智能个人助理(IPA)支持语音应用程序,为人们的日常任务提供便利。然而,由于语音请求的复杂性和模糊性,标准自然语言理解(NLU)组件可能无法正确处理某些请求。在这种情况下,一个简单的回复,如“对不起,我不知道”伤害了用户的体验,并限制了IPA的功能。在本文中,我们提出了一个两阶段的shortlister-reranker推荐系统匹配第三方语音应用程序(技能)未经处理的话语。在这种方法中,提出了一个技能shortlister从技能目录中检索候选技能,通过计算技能和用户请求之间的词汇和语义相似度。我们还说明了如何通过使用从基于基线规则的系统收集的观察数据来构建新系统,以及暴露偏差如何在离线和人类度量之间产生差异。最后,我们提出了两种重新标记方法,可以处理不完整的地面真相,并减轻曝光偏差。我们证明了我们提出的系统的有效性,通过广泛的离线实验。此外,我们提出了在线A/B测试结果,显示了显着提高用户体验满意度。
2021-10-19 cs.CL cs.IR cs.LG
RPAF: A Reinforcement Prediction-Allocation Framework for Cache Allocation in Large-Scale Recommender Systems
Kuaishou Technology(快手科技);Tsinghua University(清华大学)
本文提出了一种基于强化学习的两阶段框架RPAF,通过预测阶段估计缓存价值并利用松弛局部分配器与PoolRank算法解决流式分配问题,在计算预算约束下显著提升了大规模推荐系统的用户参与度。
2024-09-20 cs.IR cs.LG
MaRCA: Multi-Agent Reinforcement Learning for Dynamic Computation Allocation in Large-Scale Recommender Systems
Tsinghua University(清华大学)
MaRCA通过多智能体强化学习实现大规模推荐系统的端到端计算资源分配,提升计算效率并实现16.67%的收入增长。
2025-12-30 cs.IR cs.LG cs.MA
Building a privacy-preserving Federated Recommender system for mobile devices
Département d’informatique et de recherche opérationnelle(计算机与运筹研究部)
提出一种两阶段联邦推荐系统流水线,通过分离非敏感偏好数据与设备内敏感上下文数据,在保护隐私的同时实现移动设备上的个性化推荐。
2026-05-27 cs.IR cs.LG
In-processing User Constrained Dominant Sets for User-Oriented Fairness in Recommender Systems
Zhejiang University(浙江大学);OPPO Research Institute(OPPO研究院)
提出In-UCDS框架,通过约束支配集聚类和公平性损失处理,解决推荐系统用户导向公平性问题,并在三个数据集上验证其优于现有方法。
2023-09-04 cs.CY cs.IR cs.LG
Re-ranking With Constraints on Diversified Exposures for Homepage Recommender System
Alibaba Group(阿里巴巴集团);Nanyang Technological University(南洋理工大学)
大多数电子商务应用程序上的主页推荐以分层方式放置项目,其中不同的频道以不同的风格显示项目。现有的算法通常优化单个通道的性能。因此,设计一个推荐模型来获得最大化整个网页点击率的最优推荐列表是一个具有挑战性的问题。除了准确性目标之外,主页上的显示多样性也很重要,因为均匀的显示通常会损害用户体验。在本文中,我们提出了一个两阶段的主页推荐系统的架构。在第一阶段中,我们开发了有效的算法,用于在保持多样性的同时向适当的渠道推荐项目。这两种方法可以结合起来:具有多样性约束的用户-渠道-项目预测模型。在第二阶段,我们提供每个通道中的项目的有序列表。现有的重排序模型难以描述渠道内和渠道间项目之间的相互影响。因此,我们提出了一个深度和层次的注意力网络重新排名(DHANR)模型的网页推荐系统。分层注意力网络由项目编码器、项目级注意力层、通道编码器和通道级注意力层组成。我们的方法在离线实验中的精度,列表内平均距离(ILAD)和通道精度@k方面以及在线系统中的CTR和ILAD方面取得了显着的改善。
2021-12-12 cs.IR cs.LG
Regularized Singular Value Decomposition and Application to Recommender System
University of Texas at Arlington(德克萨斯大学阿灵顿分校)
奇异值分解(SVD)是主成分分析(PCA)的数学基础。SVD和PCA是机器学习、数据采掘、模式识别、人工智能、计算机视觉、信号处理等领域中最广泛使用的数学形式主义/分解之一。本文提出了一种正则化奇异值分解(RSVD),给出了一种有效的计算算法,并给出了一些理论分析。我们表明,虽然RSVD是非凸的,它有一个封闭形式的全局最优解。最后,我们将RSVD应用于推荐系统中,实验结果表明RSVD的性能明显优于SVD。
2018-04-13 cs.IR cs.LG stat.ML
GALA: Generative Aligned Learning for Adaptive Multimodal Representation in the Taobao Shangou Recommender System
Central South University(中南大学)
本文针对外卖推荐系统多模态融合难、语义与行为对齐不足的问题,提出三阶段流程GALA,通过生成式RL对齐阶段弥合预训练-微调差距,在淘宝商购部署后提升了订单量与AUC等指标。
2026-08-03 cs.IR cs.LG
Zero-Shot Recommender Systems
AWS AI Labs(亚马逊人工智能实验室);Rutgers University(罗格斯大学)
推荐系统(RS)的性能在很大程度上依赖于可用的训练数据的量。这给早期产品带来了一个先有鸡还是先有蛋的问题,而早期产品的数据量又依赖于RS的性能。另一方面,零样本学习承诺从旧数据集到全新数据集的某种程度的泛化。在本文中,我们探讨了零样本学习在RS中的可能性。我们开发了一种名为ZEro-Shot Recommenders(ZESRec)的算法,该算法在旧数据集上进行训练,并推广到一个新的数据集,其中既没有重叠的用户,也没有重叠的项目,这是一种对比典型的跨域RS的设置。与分类项目指数不同,即,item ID,在以前的方法中,ZESRec使用项目的自然语言描述(或描述嵌入)作为其连续索引,因此自然地推广到任何未见过的项目。在用户方面,ZESRec建立在序列RS的最新进展基础上,利用用户与项目的交互来表示用户,从而也推广到看不见的用户。我们研究了三对真实世界的RS数据集,并证明ZESRec可以成功地在这种zero-shot设置中实现推荐,为解决数据稀缺的初创公司或早期产品的鸡和蛋问题开辟了新的机会。
2021-10-12 cs.AI cs.IR cs.LG
Learning from Negative User Feedback and Measuring Responsiveness for Sequential Recommenders
Google(谷歌);OpenAI
本研究针对序列推荐器负反馈学习不足的问题,提出将显隐式负反馈纳入训练的“不推荐”损失函数,经工业级在线实验验证有效,并构建反事实框架实现响应度衡量,证实建模改进可提升推荐响应速度。
2023-08-23 cs.IR cs.LG
Representation Online Matters: Practical End-to-End Diversification in Search and Recommender Systems
Pinterest, Inc.(Pinterest公司)
本文提出端到端多样化机制,在 Pinterest 搜索与推荐系统中通过分桶检索和行列式点过程多目标优化,在改善肤色表征的同时平衡多样性与效用。
2023-05-26 cs.CY cs.IR cs.LG
Cold & Warm Net: Addressing Cold-Start Users in Recommender Systems
Tencent(腾讯);Tsinghua University(清华大学)
针对推荐系统匹配阶段的用户冷启动问题,提出双专家门控融合、动态知识蒸馏与行为偏置建模的 Cold & Warm Net,在公开数据集和工业短视频平台均取得显著效果。
2023-09-27 cs.IR cs.LG
From Gradient-Boosted Trees to Deep Recommenders: Practical Lessons from Migrating a Production Customer Support Recommender
Intuit(英图易公司)
本文介绍了将生产环境客户支持推荐系统从梯度提升树迁移到成对二元深度推荐器的实践,通过多种技术优化后,该方法在对话后期的推荐性能优于CatBoost基线。
2026-08-26 cs.AI cs.LG
Understanding and Mitigating Training Instability in Large-Scale Recommender Systems: A Cascade Perspective
Google(谷歌)
本文针对大规模短视频推荐系统训练中出现的G-W-L级联发散问题,提出了梯度控制、权重/激活稳定、损失塑形的结构化缓解框架,经实证验证可有效解决训练不稳定性问题。
2026-10-14 cs.IR cs.LG
A Collaborative Filtering-Based Two Stage Model with Item Dependency for Course Recommendation
National Taiwan University(台湾大学);University of California San Diego(加利福尼亚大学圣迭戈分校)
本文针对课程推荐中评分缺失、注册分布不均衡及课程依赖建模等挑战,提出融合课程依赖正则化的两阶段协同过滤模型与基于课程转换网络的图推荐器,在真实数据集上取得0.97的AUC。
2023-11-01 cs.IR cs.LG
Towards Principled Learning for Re-ranking in Recommender Systems
Institute for Clarity in Documentation(清晰度文献研究所);The Thørväld Group(索沃尔德集团);Inria Paris-Rocquencourt(法国国家信息与自动化研究所巴黎-罗康库尔中心);Rajiv Gandhi University(拉吉夫·甘地大学);Tsinghua University(清华大学);Palmer Research Laboratories(帕尔默研究实验室);The Kumquat Consortium(金桔联盟)
本文针对推荐系统重排序阶段缺乏指导学习与输出质量衡量原则的问题,提出了收敛一致性与对抗一致性两项原则,有效提升了通用重排序器的性能。
2025-04-05 cs.IR cs.LG
Session-based Recommender Systems: User Interest as a Stochastic Process in the Latent Space
Wroclaw Centre for Networking and Supercomputing(弗罗茨瓦夫网络与超级计算中心)
本文针对基于会话的推荐系统的数据不确定性、流行度偏差和曝光偏差问题,提出将用户兴趣视为潜在空间中的随机过程并给出模型无关实现,通过物品嵌入去偏、会话兴趣建模和假目标引入等策略,在多个数据集上验证了其缓解偏差的效果。
2025-04-14 cs.AI cs.IR cs.LG
Evaluation on Entity Matching in Recommender Systems
University of California, San Diego(加州大学圣地亚哥分校)
本文提出Reddit-Amazon-EM数据集,通过手动标注评估推荐系统中实体匹配方法,为相关研究提供可复现的资源。
2026-02-01 cs.IR cs.LG
Dynamic User Interest Augmentation via Stream Clustering and Memory Networks in Large-Scale Recommender Systems
Tencent Inc.(腾讯公司)
本文提出动态用户兴趣增强方法DUIA,通过基于梯度的层次聚类算法GHCA对相似用户和物品进行动态流聚类,生成增强向量以解决大规模推荐系统中用户兴趣稀疏、长尾物品和冷启动问题,并在腾讯多个工业系统中成功部署。
2025-09-23 cs.IR cs.LG
Debiasing Learning for Membership Inference Attacks Against Recommender Systems
Shandong University(山东大学);Alibaba Group(阿里巴巴集团);Meituan(美团);University of Amsterdam(阿姆斯特丹大学)
学习推荐系统可能会无意中泄露有关其训练数据的信息,从而导致隐私侵犯。我们调查的隐私威胁所面临的推荐系统,通过镜头的成员推理。在这样的攻击中,对手旨在推断用户的数据是否用于训练目标推荐器。为了实现这一点,以前的工作已经使用了影子推荐器来获得攻击模型的训练数据,然后通过计算用户的历史交互和推荐项目之间的差异向量来预测成员资格。现有技术的方法面临两个挑战性的问题:(1)由于阴影和目标映射器之间的间隙,攻击模型的训练数据是有偏差的,以及(2)映射器中的隐藏状态是不可观测的,导致差异向量的估计不准确。为了解决上述限制,我们提出了一个针对推荐系统的成员推断攻击的去偏学习(DL-MIA)框架,该框架有四个主要组件:(1)差异向量生成器,(2)解纠缠编码器,(3)权重估计器和(4)攻击模型。为了缩小推荐器之间的差距,设计了一种基于变分自动编码器(VAE)的解纠缠编码器来识别推荐器不变特征和特定特征。为了减少估计偏差,我们设计了一个权重估计器,为每个差异向量分配一个真值分数来表示估计精度。我们评估DL-MIA对一般的排序器和顺序排序器在三个真实世界的数据集。实验结果表明,DL-MIA算法能够有效地同时消除训练偏差和估计偏差,达到了最佳的攻击性能。
2022-06-28 cs.CR cs.IR cs.LG
Creator-Side Recommender System: Challenges, Designs, and Applications
Kuaishou Technology(快手科技)
针对推荐系统中创作者曝光不均的问题,提出创作者侧推荐系统DualRec,通过适配用户侧算法并引入用户可用性计算模块,在Kwai平台显著提升创作者体验。
2025-02-25 cs.IR cs.LG
AdaS&S: a One-Shot Supernet Approach for Automatic Embedding Size Search in Deep Recommender System
Tencent TEG(腾讯TEG);Tsinghua University(清华大学)
提出一次性超网络框架 AdaS&S,通过解耦训练与搜索、自适应采样及强化学习结合资源竞争惩罚,稳定地搜索混合嵌入尺寸,在提升推荐 AUC 的同时有效减少模型参数。
2024-11-12 cs.IR cs.LG
Poisoning Attacks to Graph-Based Recommender Systems
Iowa State University(爱荷华州立大学);Facebook, Inc.(Facebook公司)
推荐系统是许多Web服务的重要组成部分,帮助用户找到符合他们兴趣的项目。几项研究表明,推荐系统容易受到中毒攻击,攻击者将虚假数据注入给定系统,使系统根据攻击者的意愿进行推荐。然而,这些中毒攻击要么是不可知的推荐算法或优化的推荐系统,不是基于图的。与基于关联规则和基于矩阵分解的推荐系统一样,基于图的推荐系统也被部署在实践中,例如,eBay、华为应用商店。然而,如何为基于图的推荐系统设计优化的中毒攻击仍然是一个悬而未决的问题。在这项工作中,我们进行了系统的研究中毒攻击基于图的推荐系统。由于有限的资源和避免检测,我们假设可以注入到系统中的假用户的数量是有界的。关键的挑战是如何为假用户分配评分,以便将目标项目推荐给尽可能多的正常用户。为了解决这一挑战,我们将中毒攻击制定为优化问题,解决该问题决定了虚假用户的评级分数。我们还提出了解决优化问题的技术。我们评估我们的攻击,并将其与现有的攻击下的白盒(推荐算法及其参数是已知的),灰盒(推荐算法是已知的,但其参数是未知的),黑盒(推荐算法是未知的)设置使用两个真实世界的数据集。我们的研究结果表明,我们的攻击是有效的,优于现有的攻击基于图的推荐系统。例如,当1%的虚假用户被注入时,我们的攻击可以在某些情况下将目标项目推荐给580倍的正常用户。
2018-09-11 cs.CR cs.IR cs.LG
Massive Memorization with Hundreds of Trillions of Parameters for Sequential Transducer Generative Recommenders
Meta;Yale University(耶鲁大学)
本文提出VISTA框架,通过将传统目标注意力分解为两个阶段,实现对超长用户历史的记忆压缩,从而在保持训练和推理成本不变的情况下,支持数百万项的长期用户历史。
2026-03-26 cs.IR cs.LG
Towards a More Reliable Privacy-preserving Recommender System
National Taiwan University(国立台湾大学);Academia Sinica(中央研究院);National Cheng Kung University(国立成功大学)
本文提出了一个隐私保护的分布式推荐框架,安全分布式协同过滤(SDCF),以保护隐私的价值,模型和存在。也就是说,在我们的框架中,不仅用户对项目的评分,而且评分的存在以及学习的推荐模型都是保密的。我们的解决方案依赖于分布式客户端-服务器架构和两阶段随机响应算法,以及流行的推荐模型矩阵分解(MF)的实现。我们进一步证明SDCF满足差分隐私的保证,使客户端可以指定任意的隐私级别。数值评分预测和一类评分行为预测的实验表明,SDCF不会牺牲太多的准确性隐私。
2017-11-22 cs.LG
Not All Candidates are Created Equal: A Heterogeneity-Aware Approach to Pre-ranking in Recommender Systems
ByteDance Hangzhou P.R.China(字节跳动杭州中国);ByteDance Beijing P.R.China(字节跳动北京中国);ByteDance Shenzhen P.R.China(字节跳动深圳中国);ByteDance Shanghai P.R.China(字节跳动上海中国)
本文提出HAP方法,通过冲突敏感采样和定制化损失设计,解决推荐系统预排序中的异质性问题,提升效果并降低计算成本。
2026-03-04 cs.AI cs.IR cs.LG
Graph Exploration Matters: Improving both individual-level and system-level diversity in WeChat Feed Recommender
Tencent(腾讯)
针对微信 Feed 推荐中个体级与系统级多样性割裂的问题,提出融合检索图信息的多样性重排序与实时个性化偏好建模,并在微信看一看上线验证。
2023-05-29 cs.LG
The Unreasonable Effectiveness of Data for Recommender Systems
University of Siegen(锡根大学)
本文研究了训练数据规模增加时推荐系统性能的变化,发现增加数据量通常提升NDCG@10,无明显饱和点,但部分数据集和算法表现较弱。
2026-04-09 cs.IR cs.LG
Theoretical Modeling of the Iterative Properties of User Discovery in a Collaborative Filtering Recommender System
University of Louisville(路易斯维尔大学)
推荐系统中的闭环反馈是一种常见的设置,可能会导致不同类型的偏见。一些研究已经通过设计方法来减轻这些偏见对建议的影响来处理这些偏见。然而,大多数现有的研究没有考虑系统的迭代行为,其中闭环反馈回路在将不同的偏差纳入推荐步骤的几个部分中起着至关重要的作用。我们提出了一个理论框架来模拟渐进演化的不同组成部分的推荐系统内的反馈回路设置,并推导出理论界和收敛性能的量化措施的用户发现和盲点。我们还使用现实生活中的数据集验证了我们的理论研究结果,并在我们的理论框架内实证测试了基本探索策略的效率。我们的研究结果奠定了理论基础,量化反馈回路的影响和设计人工智能和机器学习算法,明确纳入反馈回路的迭代性质在机器学习和推荐过程。
2020-08-21 cs.AI cs.HC cs.IR
Deep Learning on Knowledge Graph for Recommender System: A Survey
University of Texas at Dallas(德克萨斯大学达拉斯分校);University of Maryland Baltimore County(马里兰大学巴尔的摩县分校)
最近的研究进展已经证明了知识图谱(KG)在提供有价值的外部知识以改进推荐系统(RS)方面的有效性。知识图谱能够对连接具有一个或多个相关属性的两个对象的高阶关系进行编码。借助新兴的图神经网络(GNN),可以从KG中提取对象特征和关系,这是成功推荐的重要因素。在本文中,我们对基于GNN的知识感知深度推荐系统进行了全面的调查。具体来说,我们讨论了最先进的框架,重点是它们的核心组件,即,图嵌入模块,以及它们如何解决可扩展性、冷启动等实际推荐问题,并进一步总结了常用的基准测试数据集、评估指标以及开源代码。最后,我们总结了调查,并提出了潜在的研究方向,在这个快速增长的领域。
2020-03-25 cs.AI cs.IR cs.LG
Quantum Semi-Random Forests for Qubit-Efficient Recommender Systems
Pattern Recognition Pty. Ltd.(模式识别有限公司)
针对当前量子推荐系统量子比特需求远超NISQ设备能力的问题,提出三阶段混合机器学习算法,用5个量子比特构建的量子半随机森林实现与主流方法相当的推荐性能。
2025-07-30 cs.LG quant-ph
Re-scale AdaBoost for Attack Detection in Collaborative Filtering Recommender Systems
Xi’an Jiaotong University(西安交通大学)
协同过滤推荐系统是电子商务系统的关键组成部分。实际上,CFRS由于其开放性,极易受到攻击。然而,由于攻击的规模远小于真正的用户,传统的监督学习为基础的检测方法可能太“沉闷”处理这种不平衡的分类。本文主要从以下两个方面来提高检测性能。首先,我们根据不同攻击模型的统计特性,从用户简档中提取精心设计的特征,使得难以分类的任务变得更容易执行。然后,参考re-scale Boosting(RBoosting)和AdaBoost的一般思想,我们应用AdaBoost的变体,称为re-scale AdaBoost(RAdaBoost)作为我们基于提取特征的检测方法。RAdaBoost算法与最优Boosting类算法相当,在某些困难场景下能有效提高性能。最后,在MovieLens-100 K数据集上进行了一系列的实验,并与SVM、kNN和AdaBoost等经典方法进行了比较,验证了RAdaBoost算法的有效性。
2015-06-15 cs.CR cs.IR cs.LG
Uncertainty Quantification for Fairness in Two-Stage Recommender Systems
Cornell University(康奈尔大学)
许多大规模的推荐系统由两个阶段组成。第一阶段有效地筛选完整的项目池,以获得一小部分有希望的候选项目,第二阶段模型从中筛选出最终的推荐。在本文中,我们将探讨如何确保组公平的项目在这个两阶段的架构。特别是,我们发现,现有的第一阶段推荐可能会选择一个不可挽回的不公平的候选人,这样就没有希望的第二阶段推荐提供公平的建议。为此,在不确定性量化的最新进展的动机下,我们提出了两个阈值政策选择规则,可以提供分布自由和有限样本保证公平的第一阶段的决策者。更具体地说,给定查询和项目的任何相关性模型以及每个阈值策略的相关项目的预期数量上的逐点置信下限,这两个规则找到包含来自每组项目的期望中的足够相关项目的接近最优的候选集。为了实例化的规则,我们演示了如何从潜在的部分和有偏见的用户反馈数据,这是丰富的许多大型推荐系统中得到这样的置信区间。此外,我们提供了有限样本和渐近分析如何接近两个阈值选择规则的最佳阈值。除了这种理论分析,我们的经验表明,这两个规则可以始终选择足够的相关项目,从每个组,同时最大限度地减少候选集的大小为广泛的设置。
2023-02-24 cs.IR cs.LG
Handling Heterophily in Recommender Systems with Wavelet Hypergraph Diffusion
针对推荐系统中异质性模式捕捉和用户-物品多维度交互建模难题,研究提出融合型小波超图扩散神经网络FWHDNN,通过三类编码器与多模态融合机制实现更优的推荐表示学习,性能超越现有SOTA方法。
2025-10-02 cs.AI cs.DB cs.IR
UNEX-RL: Reinforcing Long-Term Rewards in Multi-Stage Recommender Systems with UNidirectional EXecution
针对多阶段推荐系统中单智能体RL难以同时优化多阶段的问题,本文提出基于单向执行的多智能体强化学习框架UNEX-RL,通过级联信息链方法处理观测依赖和级联效应,在公开数据集和亿级用户在线系统中验证了其提升长期奖励的有效性。
2024-01-12 cs.IR
AMEIR: Automatic Behavior Modeling, Interaction Exploration and MLP Investigation in the Recommender System
Peking University(北京大学);HULU LLC(HULU有限责任公司);Alibaba Group(阿里巴巴集团)
近年来,深度学习模型在工业推荐系统中得到了广泛的应用,并提高了推荐质量。虽然任务感知推荐系统已经取得了显著的成功,但其设计通常需要领域专家的手工特征工程和架构工程。为了减轻这些人的努力,我们探索神经结构搜索(NAS)的潜力,并介绍AMEIR的自动行为建模,交互探索和多层感知器(MLP)调查的推荐系统。AMEIR的核心贡献是三级搜索空间和定制的三步搜索管道。AMEIR将完整的推荐模型划分为行为建模、交互探索、MLP聚合三个阶段,并引入了一个新的搜索空间,其中包含三个定制的子空间,覆盖了现有的大多数方法,从而可以搜索到更好的模型。为了高效地找到理想的体系结构,AMEIR在三个阶段逐步实现推荐中的一次随机搜索,并将搜索结果汇总为最终结果。进一步的分析表明,AMEIR的搜索空间可以覆盖大多数有代表性的推荐模型,这证明了我们设计的通用性。在各种场景下的大量实验表明,AMEIR优于精心手工设计的竞争基线和领先的算法复杂的NAS方法,具有较低的模型复杂度和可比的时间成本,表明所提出的方法的有效性,效率和鲁棒性。
2022-06-14 cs.IR cs.LG stat.ML
GraphSW: a training protocol based on stage-wise training for GNN-based Recommender Model
Academia Sinica(中央研究院)
近年来,研究者们利用知识图谱作为推荐系统的辅助信息来解决冷启动和稀疏性问题,提高推荐性能。现有的知识库感知推荐模型利用邻近实体的特征和结构信息来更新当前位置实体的嵌入。虽然丰富的信息是有益的后续任务,探索整个图的成本是巨大的和不切实际的。为了减少计算开销并保持特征提取的模式,KG感知推荐模型通常使用固定大小的随机邻居集,而不是KG中的完整信息。然而,这些方法中存在两个关键问题:首先,固定大小和随机选择的邻居限制了图的视图。此外,随着图特征阶数的增加,模型参数维数的增长可能导致训练过程难以收敛。为了解决上述局限性,我们提出了GraphSW,这是一种基于阶段式训练框架的策略,它在每个阶段只访问KG中实体的一个子集。在接下来的阶段中,从前一阶段学习的嵌入被提供给下一阶段的网络,并且模型可以从KG逐渐学习信息。我们在两个SOTA推荐模型RippleNet和知识图谱卷积网络(KGCN)上应用阶段式训练。此外,我们评估了六个真实世界数据集的性能,Last.FM 2011,Book-Crossing,movie,LFM-1b 2015,Amazon-book和Yelp 2018。实验结果表明,该策略可以帮助两个模型从KG中收集更多的信息,提高性能。此外,据观察,GraphSW可以帮助KGCN有效地收敛于高阶图特征。
2019-08-19 cs.IR cs.LG stat.ML
Entire Space Learning Framework: Unbias Conversion Rate Prediction in Full Stages of Recommender System
推荐系统是在线服务中必不可少的一部分,特别是对于电子商务平台。RS中的转化率(CVR)预测对于优化电子商务的GMV目标具有重要作用。然而,CVR遭受众所周知的样本选择偏差(SSB)和数据稀疏(DS)的问题。虽然现有的方法ESMM和ESM 2通过对用户行为路径进行建模来对整个空间上的所有印象样本进行训练,但是SSB和DS问题仍然存在。在实际应用中,在线推理空间是来自RS过程前一阶段的样本,而不是现有方法建模的印象空间。而且,现有的方法主要通过构建各自特定场景的行为路径来解决DS问题,忽略了电子商务平台各个场景中的行为。在本文中,我们提出了全空间学习框架:无偏转换率预测在全阶段的推荐系统,解决SSB和DS问题,通过重新制定GMV目标,以一种新的方式。具体来说,我们重建CVR的整个数据空间与样本从RS过程的前一阶段,统一训练和在线推理空间。此外,我们显式地引入购买样本从其他场景的电子商务平台在模型学习过程中。在线A/B测试和离线实验表明了该框架的优越性。我们的框架已经部署在淘宝推荐的排名阶段,每天为数亿消费者提供推荐服务。
2023-03-01 cs.IR
Neural Re-ranking in Multi-stage Recommender Systems: A Review
重排序作为多级推荐系统的最后一步,通过对输入排序列表的重新排列,直接影响到用户体验和满意度,在多级推荐系统中起着至关重要的作用。随着深度学习的发展,神经重排序已成为一个热门话题,并在工业应用中得到广泛应用。这篇综述旨在将重新排序算法整合到更广阔的图景中,并为未来的研究提供更全面的解决方案。为了这个目的,我们首先提出了一个分类的神经重新排序的当前方法。然后根据这些方法的目标,对它们的历史发展进行了描述。网络结构,个性化和复杂性也进行了讨论和比较。接下来,我们提供了主要的神经重排序模型的基准,并定量分析其重排序性能。最后,对该领域的发展前景进行了展望。本文中讨论的论文列表、基准数据集、我们的重新排名库LibRerank以及详细的参数设置可在https://github.com/LibRerank-Community/LibRerank上公开获取。
2022-04-16 cs.IR
Privacy-preserving and yet Robust Collaborative Filtering Recommender as a Service
Luxembourg Institute of Science and Technology (LIST)(卢森堡科学技术研究院(LIST))
协同过滤服务器以牺牲最终用户的隐私为代价提供有效的个性化服务。随着社会对隐私保护的日益关注和隐私保护法规的日益严格,设计一种既能保护隐私又能为隐私敏感用户提供推荐服务的鲁棒的推荐器成为一个迫切的研究挑战。我们的分析表明,现有的解决方案在几个方面存在不足,包括缺乏对最终用户的精确输出的关注和忽略相关的鲁棒性问题。在本文中,我们提供了一个通用的系统结构,潜在因素为基础的协同过滤过滤器,制定他们的模型训练和预测计算阶段,还描述了一个新的安全模型。针对务实的解决方案,我们首先展示了如何构建隐私保护,但强大的模型训练阶段的基础上现有的解决方案。然后,我们提出了两个密码协议来实现隐私保护的预测计算阶段,这取决于是否涉及额外的代理。与标准的Top-k推荐不同,作为我们隐私设计策略的结果,我们让最终用户检索预测高于阈值的未评级项目。实验结果表明,我们的新协议是相当有效的。
2019-10-09 cs.CR cs.IR cs.LG
A Comprehensive Survey on Retrieval Methods in Recommender Systems
本综述全面探讨了推荐系统中常被忽视的检索阶段,总结了改进相似度计算、增强索引机制和优化训练方法三大关键领域的现有工作,并通过公开数据集基准实验和工业案例研究,为级联推荐系统检索优化提供了基石。
2025-10-11 cs.IR
UniRec: Cross-stage Multi-Task Fusion with Preference Optimization for Cascaded Recommender Systems
Kuaishou Technology(快手科技)
针对级联推荐系统跨阶段不一致问题,提出UniRec统一融合模型,通过共享嵌入、双轴偏好对齐和属性组正则化实现跨阶段联合优化,离线优于基线,在线时长提升0.616%。
2026-10-19 cs.IR
Denoising Neural Reranker for Recommender Systems
University of Science and Technology of China(中国科学技术大学);Kuaishou Technology(快手科技)
本文提出了一种去噪神经重排器(DNR),通过利用前一阶段的检索分数来改进推荐系统的两阶段检索重排框架,通过去噪、对抗训练和分布正则化等方法提升推荐效果。
2026-05-17 cs.IR
Estimation-Action-Reflection: Towards Deep Interaction Between Conversational and Recommender Systems
推荐系统采用会话技术动态获取用户偏好,并克服其静态模型的固有局限性。一个成功的会话式推荐系统(CRS)需要正确处理会话和推荐之间的交互。我们认为,需要解决三个基本问题:1)问什么问题的项目属性,2)何时推荐项目,3)如何适应用户的在线反馈。据我们所知,缺乏一个解决这些问题的统一框架。在这项工作中,我们提出了一个新的CRS框架,名为估计-行动-反思,或CRS,它包括三个阶段,以更好地与用户交谈,以填补这一缺失的交互框架的差距。(1)估计,它建立预测模型来估计用户对项目和项目属性的偏好;(2)动作,它学习对话策略,以确定是否询问属性或推荐项目,基于估计阶段和会话历史;以及(3)反射,当用户拒绝Action阶段提出的建议时,它更新推荐模型。我们提出了两个对话的情况下,二进制和枚举的问题,并进行广泛的实验,从Yelp和LastFM的两个数据集,为每个场景,分别。我们的实验表明,与最先进的方法CRM [32]相比,显着改进,对应于更少的会话回合和更高水平的推荐命中率。
2020-02-21 cs.IR
The Deconfounded Recommender: A Causal Inference Approach to Recommendation
Columbia University(哥伦比亚大学);Netflix Inc.(奈飞公司);Mila;HEC Montréal(蒙特利尔高等商学院)
推荐的目标是向用户展示他们喜欢的项目。虽然通常被框定为预测,但推荐的精神是回答一个介入性的问题-对于每个用户和电影,如果我们“强迫”用户观看电影,评分会是多少?为此,我们开发了一种因果推荐方法,其中观看电影是一种“治疗”,用户的评级是一种“结果”。“问题是可能存在未观察到的混杂因素,这些变量影响用户观看的电影以及他们如何评价它们;未观察到的混杂因素阻碍了观察数据的因果预测。为了解决这个问题,我们开发了去基推荐器,一种使用经典推荐模型进行因果推荐的方法。在Wang & Blei [23]之后,去基推荐器涉及两个概率模型。第一个模型是用户观看的电影;它为未观察到的混杂因素提供了替代品。第二个模型模拟每个用户如何评价每部电影;它使用替代品来帮助解释混淆因素。这种两阶段方法消除了由于混淆而导致的偏倚。它改善了推荐,并在测试集上具有稳定的性能。
2019-05-27 cs.IR cs.LG stat.ML
IAT: Instance-As-Token Compression for Historical User Sequence Modeling in Industrial Recommender Systems
ByteDance(字节跳动)
本文提出IAT框架,通过实例压缩和下游任务结合,提升工业推荐系统性能,实现跨领域迁移和业务指标提升。
2026-04-10 cs.IR
Large Language Models are Not Stable Recommender Systems
University of Science and Technology of China(中国科学技术大学);BOSS Zhipin(BOSS直聘);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
针对LLM作为推荐系统因位置偏差而不稳定的问题,提出贝叶斯两阶段框架STELLA,通过探测转移矩阵模式并用熵指标校准输出,实验验证其有效性。
2023-12-25 cs.AI cs.IR
Five lessons from building a deep neural network recommender
Schibsted Media Group(施布斯特传媒集团)
推荐算法在市场中被广泛采用,以帮助用户找到他们正在寻找的项目。用户矩阵的稀疏性和市场中的冷启动问题对基于矩阵分解的推荐系统提出了挑战。为了了解用户意图并根据他们的需求定制推荐,我们使用深度学习来探索市场中可用的各种异构数据。本文总结了我们在挪威领先的市场FINN.no.上使用最先进的深度学习推荐器进行实验时学到的五个经验教训。我们设计了一个混合推荐系统,该系统采用用户生成的市场内容(包括文本、图像和Meta属性),并将其与用户行为数据(如页面浏览量和消息)相结合,为市场项目提供推荐。在我们实验的各种策略中,以下五种显示出最好的效果:分阶段训练而不是端到端训练,利用页面浏览量之外的丰富用户行为,使用用户行为作为噪声标签来训练嵌入,使用迁移学习来解决不平衡数据问题,以及在混合模型中使用注意力机制。该系统目前在FINN.no上运行,点击率约为20%,每天为超过100万名访问者提供服务。
2018-10-07 cs.IR cs.LG stat.ML
Counterfactual Inference for Eliminating Sentiment Bias in Recommender Systems
UNSW(新南威尔士大学);Macquarie University(麦考瑞大学);CSIRO’s Data61(联邦科学与工业研究组织Data61)
本文首次提出利用反事实推断分训练与推断两阶段建模并消除基于评论的推荐系统中的情感偏差,实验表明可在保持评分预测性能的同时有效缓解偏差。
2025-05-06 cs.AI cs.IR
Zero-Shot Heterogeneous Transfer Learning from Recommender Systems to Cold-Start Search Retrieval
Google Inc.(谷歌公司)
神经信息检索模型的许多最新进展,预测给定查询的前K项,直接从(查询,项)对的大型训练集学习。然而,当有许多以前看不见的(查询,项)组合时,它们通常是不够的,通常被称为冷启动问题。此外,搜索系统可能偏向于先前频繁显示给查询的项目,也称为“富人更富”(也称为“富人更富”)。反馈回路)问题。鉴于这些问题,我们观察到,大多数在线内容平台都有一个搜索和推荐系统,虽然有异构的输入空间,可以通过它们的公共输出项空间和共享的语义表示连接。在本文中,我们提出了一个新的Zero-Shot异构迁移学习框架,将学习到的知识从推荐系统组件,以改善搜索组件的内容平台。首先,它通过预测来自推荐系统的(项目,项目)相关图作为辅助任务来学习项目及其自然语言特征的表示。然后,学习的表示被转移到解决目标搜索检索任务,执行查询到项目预测,而无需在训练中看到任何(查询,项目)对。我们在世界上最大的搜索和推荐系统之一的谷歌进行在线和离线实验,并提出了结果和经验教训。我们证明了所提出的方法可以实现高性能的离线搜索检索任务,更重要的是,在高度优化的生产系统在在线实验中,实现了显着的改善相关性和用户交互。
2020-08-19 cs.IR cs.LG stat.ML
Rethinking Recommendation Paradigms: From Pipelines to Agentic Recommender Systems
University of Chinese Academy(中国科学院大学);Alibaba International Digital Commerce Group(阿里巴巴国际数字商业集团)
本文提出基于代理的推荐系统,通过将关键模块转化为代理,实现动态进化,解决传统多阶段和单模型设计的静态问题。
2026-04-09 cs.IR
Revisit Recommender System in the Permutation Prospective
推荐系统(RS)的工作有效地缓解信息过载和匹配用户的兴趣在各种网络规模的应用。大多数RS检索用户最喜欢的候选人,然后排名他们的评级分数在贪婪的方式。然而,在置换的前景,目前的RS来揭示以下两个局限性:1)他们忽略了解决的置换变量的影响内推荐的结果; 2)置换的考虑扩展潜在的解决方案空间呈指数级,目前的RS缺乏能力,以评估的置换。两者都使RS偏离了推荐的最佳排列结果和更好的用户体验。为了有效地逼近置换最优推荐结果,本文在RS的重排序阶段提出了一种新的置换框架PRS,该框架依次包括置换匹配(PMatch)和置换排序(PRank)两个阶段.具体来说,PMatch阶段的目的是获得候选列表集,在这里,我们提出了FPSA算法,通过置换明智的和面向目标的束搜索算法生成多个候选列表。之后,对于候选列表集,PRank阶段提供了一个统一的排列方式的排名标准,称为LR度量,该度量由精心设计的排列方式模型DPWN的评级得分计算。最后,具有最高LR分数的列表被推荐给用户。实证结果表明,PRS一贯和显着优于国家的最先进的方法。此外,在淘宝应用的一个热门推荐场景中成功部署后,PRS在PV指标上实现了11.0%的性能提升,在IPV指标上实现了8.7%的性能提升。
2021-04-02 cs.IR
Rank-GRPO: Training LLM-based Conversational Recommender Systems with Reinforcement Learning
University of Virginia(弗吉尼亚大学);Netflix Research(Netflix研究部);Cornell University(康奈尔大学)
Rank-GRPO通过两阶段框架提升LLM对话推荐系统的训练效果,解决排名质量下降问题。
2026-02-13 cs.IR