OCP: Orthogonal Constrained Projection for Sparse Scaling in Industrial Commodity Recommendation
JD.com Beijing China(京东北京中国)
本文提出OCP方法,通过正交约束投影优化嵌入表示,提升推荐模型的可扩展性和泛化能力,实验证明其在大规模部署中有效提升UCXR和GMV。
2026-03-19 cs.LG
M2TRec: Metadata-aware Multi-task Transformer for Large-scale and Cold-start free Session-based Recommendations
The Home Depot(家得宝);Georgia Institute of Technology(佐治亚理工学院)
基于会话的推荐系统(SBRS)已经显示出优于传统方法的性能。然而,它们在大规模工业数据集上显示出有限的可扩展性,因为大多数模型对每个项目学习一个嵌入。这会导致大量的内存需求(每个项目存储一个向量),并且在具有冷启动或不受欢迎项目的稀疏会话上性能较差。使用一个公共和一个大型工业数据集,我们的实验表明,国家的最先进的SBRS稀疏会话稀疏项目的性能较低。我们提出了M2TRec,一个元数据感知的多任务Transformer模型,用于基于会话的推荐。我们提出的方法学习了从项目元数据到嵌入的转换函数,因此是无项目ID的(即,不需要学习每个项目一个嵌入)。它集成了项目元数据来学习不同项目属性的共享表示。在推理过程中,新的或不受欢迎的项目将被分配相同的属性表示,它们与之前在训练过程中观察到的项目共享,因此将与这些项目具有相似的表示,从而能够推荐甚至冷启动和稀疏的项目。此外,M2TRec在多任务设置中进行训练,以预测会话中的下一个项目及其主要类别和子类别。我们的多任务策略使模型收敛更快,并显着提高了整体性能。实验结果表明,使用我们提出的方法在两个数据集上的稀疏项目显着的性能增益。
2022-09-23 cs.AI cs.IR cs.LG
LIGE-GR: A Smooth Leap from Ranking to Generative Recommendation in the LLM Era
Meta Platforms, Inc.(Meta平台公司)
针对LLM时代推荐系统升级难题,提出LIGE-GR框架,将逐点排序系统泛化为列表式生成,在保持兼容性的同时提升短视频推荐时长,验证于Instagram Reels和Facebook Video。
2026-09-22 cs.IR cs.LG
STEM: Unleashing the Power of Embeddings for Multi-task Recommendation
Tsinghua University(清华大学);Tencent Inc.(腾讯公司)
针对多任务推荐中共享embedding导致的负迁移问题,提出结合共享与任务特定embedding的STEM范式及STEM-Net模型,通过特定门控网络实现正迁移并显著优于现有方法。
2024-01-07 cs.IR cs.LG
Behavior Sequence Transformer for E-commerce Recommendation in Alibaba
Alibaba Search\&Recommendation Group Beijing\&Hangzhou China;Alibaba Search\&Recommendation Group
基于深度学习的方法已广泛用于工业推荐系统(RS)中。以前的作品采用嵌入和MLP范式:原始特征嵌入到低维向量中,然后将其输入到MLP中进行最终推荐。然而,大多数这些作品只是连接不同的功能,忽略了用户行为的连续性。在本文中,我们提出使用强大的Transformer模型来捕获用户的行为序列的序列信号在阿里巴巴的推荐。实验结果证明了该模型的优越性,并将其部署在淘宝网上,与两个基线相比,在线点击率(CTR)得到了显著提高。
2019-05-15 cs.IR cs.LG
Hierarchical BiGraph Neural Network as Recommendation Systems
George Mason University(乔治梅森大学)
图神经网络作为一种有前途的建模方法出现在处理在图域中最好表示的数据集的应用中。具体而言,开发推荐系统通常需要解决稀疏结构化数据,这些数据通常缺乏用户和/或项目侧的特征丰富性,并且需要在正确的上下文中进行处理以获得最佳性能。这些数据集可以直观地映射并表示为网络或图形。在本文中,我们提出了层次双图神经网络(HBGNN),一个层次的方法,使用GNN作为推荐系统,并使用一个双图框架结构化的用户项功能。我们的实验结果表明,与目前的推荐系统的方法和可移植性的竞争力的表现。
2020-07-27 cs.IR cs.LG stat.ML
Federated Collaborative Filtering for Privacy-Preserving Personalized Recommendation System
EU Cloud R&D Center of Helsinki(赫尔辛基欧盟云研发中心);Huawei Technologies(华为技术有限公司)
对用户隐私的日益关注导致了新的隐私保护机器学习范例。在联邦学习范例中,主机器学习模型被分发给用户客户端,客户端使用其本地存储的数据和模型进行推理和计算模型更新。模型更新被发送回并在服务器上聚合以更新主模型,然后重新分发给客户端。在这种范例中,用户数据永远不会离开客户端,从而大大增强了用户的隐私,这与在超出用户控制的后端服务器上收集、存储和处理用户数据的传统范例形成对比。在本文中,我们介绍,据我们所知,第一个联邦实现的协作过滤器。对模型的联邦更新基于随机梯度方法。作为机器学习中的一个经典案例研究,我们探索了一个基于用户隐式反馈的个性化推荐系统,并证明了该方法对MovieLens和内部数据集的适用性。经验验证证实了一个协同过滤器可以联合没有损失的准确性相比,一个标准的实现,从而提高了用户的隐私在一个广泛使用的推荐应用程序,同时保持推荐性能。
2019-01-29 cs.AI cs.IR cs.LG
Impression-Aware Recommender Systems
Politecnico di Milano(米兰理工学院);ContentWise;Amazon(亚马逊);Universidad Autónoma de Madrid(马德里自治大学)
本文提出印象感知推荐系统,通过系统性文献综述统一了使用印象的推荐系统框架,并指出了未来研究方向。
2024-12-17 cs.AI cs.IR cs.LG
You Do Not Need a Bigger Boat: Recommendations at Reasonable Scale in a (Mostly) Serverless and Open Stack
Coveo Labs(Coveo实验室)
我们认为,不成熟的数据管道正在阻止很大一部分行业从业者利用推荐系统的最新研究。我们提出了“合理规模”的机器学习模板数据堆栈,并展示了通过采用无服务器范式解决了多少挑战。利用我们的经验,我们详细介绍了现代开源如何在有限的基础设施工作中提供处理TB级数据的管道。
2021-07-15 cs.LG
MoToRec: Sparse-Regularized Multimodal Tokenization for Cold-Start Recommendation
MoToRec通过稀疏正则化的多模态分词方法,解决冷启动推荐中的数据稀疏性和新物品表示问题,提升推荐系统性能。
2026-03-03 cs.IR cs.LG
Centaur: A Chiplet-based, Hybrid Sparse-Dense Accelerator for Personalized Recommendations
KAIST(韩国科学技术院)
个性化推荐是支持几个重要应用领域(例如,广告、电子商务等)。稀疏嵌入层是设计建议的关键构建块,但很少注意适当加速这个重要的ML算法。本文首先提供了一个详细的个性化推荐的工作负载特征,并确定了两个显着的性能限制:内存密集型嵌入层和计算密集型多层感知器(MLP)层。然后,我们提出了Centaur,一个基于芯片的混合稀疏-密集加速器,它既解决了嵌入层的内存吞吐量挑战,又解决了MLP层的计算限制。我们实现并展示了我们的建议,英特尔HARPv 2,封装集成的CPU+FPGA设备,它显示了1.7- 17.2倍的性能加速和1.7- 19.5倍的能源效率比传统的方法改进。
2020-05-12 cs.DC cs.IR cs.LG
RecIS: Sparse to Dense, A Unified Training Framework for Recommendation Models
RecIS Team(RecIS团队)
本文提出RecIS,一个基于PyTorch的统一稀疏-稠密训练框架,通过优化稀疏组件并利用稠密组件现有技术,提升工业级推荐模型训练效率,已在阿里巴巴应用。
2025-09-25 cs.DC cs.IR cs.LG
Information filtering in sparse online systems: recommendation via semi-local diffusion
随着互联网的迅速发展,人们面临着海量的信息和选择,推荐系统被开发出来以有效地支持用户在在线系统中的决策过程。然而,许多推荐算法遭受数据稀疏性问题,即用户-对象二分网络是如此稀疏,以至于算法不能准确地为用户推荐对象。这种数据稀疏性问题使得许多著名的推荐算法性能不佳。为了解决这个问题,我们提出了一种基于半局部扩散过程的用户-对象二分网络推荐算法。在Amazon和Bookcross两个稀疏数据集上的数值模拟表明,该方法的性能明显优于现有的方法,尤其是对于那些小度用户。提出了两种个性化的半局部扩散方法,进一步提高了推荐精度。最后,我们的工作表明稀疏在线系统与稠密在线系统有着本质的不同,所有基于稠密数据的算法和结论都应该在稀疏数据下重新检验。
2013-08-14 cs.IR
Sparse-Interest Network for Sequential Recommendation
Texas A&M University(德克萨斯农工大学);Alibaba Group(阿里巴巴集团)
最近的方法在顺序推荐集中学习的整体嵌入向量从用户的行为序列的下一个项目的推荐。然而,从实证分析中,我们发现,用户的行为序列往往包含多个概念上不同的项目,而一个统一的嵌入向量主要是由一个人的最近频繁的动作。因此,如果概念上相似的项目在最近的交互中不占主导地位,则可能无法推断下一个优选项目。为此,替代解决方案是用编码用户意图的不同方面的多个嵌入向量来表示每个用户。然而,最近的多兴趣嵌入工作通常考虑通过聚类发现的少量概念,这可能无法与真实系统中的大量项目类别相比较。有效地对大量不同的概念原型进行建模是一项重要的任务,因为项目通常没有在概念上很好地聚集在细粒度上。此外,一个人通常只与一组稀疏的概念进行交互。鉴于此,我们提出了一种新的\textbf{S}解析\textbf{I}兴趣\textbf{NE}网络(SINE)的顺序推荐。我们的稀疏兴趣模块可以自适应地从大型概念池中为每个用户推断一组稀疏的概念,并相应地输出多个嵌入。给定多个兴趣嵌入,我们开发了一个兴趣聚合模块来主动预测用户的当前意图,然后使用它来显式地为下一个项目预测建模多个兴趣。在几个公共基准数据集和一个大规模工业数据集上的实证结果表明,SINE可以实现比最先进的方法有实质性的改进。
2021-02-18 cs.IR cs.LG
Sparse Autoencoders for Sequential Recommendation Models: Interpretation and Flexible Control
Sber AI Lab(Sber AI实验室);Sber AI Lab, HSE University(Sber AI实验室,霍普金斯大学)
本文提出利用稀疏自编码器改进序列推荐模型的可解释性与可控性,通过无监督学习提取更清晰的特征表示,提升推荐系统的灵活性和适应性。
2026-02-17 cs.AI cs.IR cs.LG
Sparsity Regularization For Cold-Start Recommendation
Center for Cognitive Ubiquitous Computing (CUbiC), Arizona State University(认知普适计算中心(CUbiC),亚利桑那州立大学)
近年来,生成对抗网络(GANs)被应用于冷启动推荐问题,但热用户购买行为的极端稀疏性阻碍了这些模型的训练性能。在本文中,我们引入了一种新的表示用户向量相结合的用户人口统计和用户偏好,使该模型的混合系统,它使用协同过滤和基于内容的推荐。我们的系统使用加权用户-产品偏好(显式反馈)而不是二进制用户-产品交互(隐式反馈)来建模用户购买行为。利用这一点,我们开发了一种新的稀疏对抗模型SRLGAN,用于冷启动推荐,利用稀疏的用户购买行为,确保训练稳定性,避免对温暖用户的过度拟合。我们在两个流行的数据集上评估了SRLGAN,并展示了最先进的结果。
2022-01-28 cs.IR cs.LG
Robust Aggregation for Federated Sequential Recommendation with Sparse and Poisoned Data
本文提出了一种针对稀疏和对抗性条件的联邦顺序推荐鲁棒聚合框架,通过防御感知聚合和序列正则化提升模型稳定性与用户表示可靠性。
2026-02-27 cs.IR
Understanding Internal Representations of Recommendation Models with Sparse Autoencoders
Tsinghua University(清华大学);Quan Cheng Laboratory(全成实验室)
RecSAE通过稀疏自编码器提供通用的推荐模型解释框架,提取可解释的潜在特征并验证其与人类感知的一致性。
2026-01-26 cs.IR
SPMC: Socially-Aware Personalized Markov Chains for Sparse Sequential Recommendation
处理稀疏、长尾数据集和冷启动问题一直是推荐系统面临的挑战。这些问题可以部分地通过预测来解决,而不是孤立地进行预测,而是通过利用相关事件的信息来解决;这些信息可以包括来自社会关系或最近活动序列的信号。这两种类型的附加信息都可以用于提高最先进的基于矩阵分解的技术的性能。在本文中,我们提出了新的方法,同时结合社会和顺序信息,以进一步提高推荐性能。我们证明了这些技术在处理几个大型真实数据集的稀疏性和冷启动问题时特别有效。
2017-06-16 cs.IR
Fusing Similarity Models with Markov Chains for Sparse Sequential Recommendation
个性化序列行为预测是推荐系统的一个关键任务。为了预测用户动作,例如要购买的下一个产品、要观看的电影或要访问的地方,必须考虑长期用户偏好和顺序模式(即,短期动态)。矩阵分解和马尔可夫链方法已经成为两个独立但强大的范式,分别为这两个建模。结合这些想法,导致了统一的方法,同时适应长期和短期的动态建模成对用户项目和项目项目的相互作用。尽管这些方法在处理密集数据方面取得了成功,但它们受到稀疏性问题的挑战,稀疏性问题在现实世界的数据集中很普遍。近年来,基于相似性的方法已经被提出用于(序列未知)项目推荐,在稀疏数据集上取得了令人满意的结果。在本文中,我们提出了这样的方法与马尔可夫链融合,使个性化的顺序推荐。我们在各种大型真实数据集上评估我们的方法Fossil。我们在定量上表明,Fossil优于其他算法,特别是在稀疏数据集上,在定性上表明,它捕获了个性化的动态,并能够提出有意义的建议。
2016-09-28 cs.IR
Multi-Sparse-Domain Collaborative Recommendation via Enhanced Comprehensive Aspect Preference Learning
跨域推荐(CDR)由于能够有效地解决推荐系统中的数据稀疏性问题而受到越来越多的研究者关注。然而,现有的单目标或双目标CDR方法往往遭受两个缺点,假设至少一个丰富的域和严重依赖于域不变的偏好,这是不切实际的,在现实世界中稀疏性是无处不在的,可能会降低用户偏好学习。为了克服这些问题,我们提出了一个多稀疏域协同推荐(MSDCR)模型的多目标跨域推荐。与传统的CDR方法不同,MSDCR将多个相关领域视为稀疏的,并且可以同时提高每个领域的推荐性能。我们提出了一个多域分离网络(MDSN)和一个门控方面偏好增强(GAPE)模块MSDCR增强用户的领域特定的方面的偏好在一个领域通过转移在其他领域的互补方面的偏好,在此期间,特定领域的偏好的唯一性可以通过MDSN提供的对抗性训练和互补性可以自适应地确定由GAPE。同时,我们提出了一个多领域自适应网络(MDAN)的MSDCR捕捉用户的领域不变的方面的喜好。通过结合增强的领域特定方面偏好和领域不变方面偏好,MSDCR可以全面了解用户在每个稀疏域中的偏好。最后,在真实数据集上进行的大量实验表明,MSDCR相对于现有的单域推荐模型和CDR模型具有显著的优越性。
2022-01-16 cs.IR
GCNSLIM: Graph Convolutional Network with Sparse Linear Methods for E-government Service Recommendation
针对现有GCN协同过滤方法在电子政务服务推荐中因矩阵分解框架限制而性能不佳的问题,提出结合GCN与稀疏线性方法的GCNSLIM模型,通过注入高阶协同信号并优化,提升推荐准确性与操作性能。
2023-05-15 cs.IR
SessionRec: Next Session Prediction Paradigm For Generative Sequential Recommendation
Meituan(美团);Beihang University(北京航空航天大学)
提出 SessionRec 下一会话预测范式,以层次化会话聚合和会话内排序损失替代物品级自回归推荐,并在公开数据集与美团在线 A/B 测试中验证其效果及幂律缩放规律。
2025-02-18 cs.AI cs.IR
Hierarchical Quantization with Domain-Adaptive Sparse Routing for Generative Cross-Domain Recommendation
City University of Hong Kong(香港城市大学);Kuaishou Technology(快手科技)
研究针对生成式跨域推荐的异构模式建模挑战,提出HD-Rec框架,采用分层量化与领域自适应稀疏路由技术,在三个公开基准上优于各类基线方法。
2026-08-10 cs.IR
Pre-train, Prompt and Recommendation: A Comprehensive Survey of Language Modelling Paradigm Adaptations in Recommender Systems
本文全面综述了预训练语言模型范式在推荐系统中的适应,提出基于训练策略与目标的分类法,分析了范式与输入数据类型的联系,并探讨了未来研究方向。
2023-09-12 cs.IR
Benefit from Rich: Tackling Search Interaction Sparsity in Search Enhanced Recommendation
针对搜索增强推荐中搜索交互稀疏问题,提出GSERec方法,利用LLM向量量化构建用户-代码图,通过消息传递和对比损失增强稀疏用户表示,实验验证其有效性。
2025-08-06 cs.IR
RouteRec: Behavior-Guided Sparse Routing for Sequential Recommendation
Korea Advanced Institute of Science and Technology(韩国科学技术院);Seoul National University(首尔大学)
RouteRec利用会话行为线索(交互节奏、物品组聚焦、重复与延续、流行度倾向)作为路由标准,在宏观、中观和微观范围指导专家分配,在六个数据集上平均排名1.61,优于基线4.11。
2026-10-01 cs.IR cs.LG
Simplifying Sparse Expert Recommendation by Revisiting Graph Diffusion
社区问答(CQA)网站已经成为有价值的知识库,个人通过提问和回答问题来交换信息。随着问题数量的不断增加和用户在社区内外的大量迁移,一个关键的挑战是设计有效的策略来推荐专家解决新问题。在本文中,我们提出了一个简单的图扩散专家推荐模型CQA,可以超越最先进的深度学习代表和协作模型。我们所提出的方法学习用户的专业知识,在语义和时间信息的背景下,捕捉他们不断变化的兴趣和活动水平随着时间的推移。在来自Stack Exchange网络的五个真实数据集上的实验表明,我们的方法优于有竞争力的基线方法。此外,对冷启动用户(具有有限历史记录的用户)的实验表明,与最佳基线方法相比,我们的模型实现了平均约30%的性能增益。
2022-08-04 cs.IR
Mitigating Popularity Bias in Sequential Recommendations with Sparse Prior-Regularized Objective
Sber AI Lab(Sber AI实验室);Lomonosov Moscow State University (MSU)(莫斯科国立大学);HSE University(高等经济大学)
本研究提出PR-entmax稀疏先验正则化目标,无需修改架构即可集成到现有训练流程,在多基准数据集和序列推荐架构上,可降低流行度偏差并优化相关性与去偏差的权衡。
2026-10-14 cs.IR
Coarse-to-Fine Sparse Sequential Recommendation
University of California, San Diego(加州大学圣地亚哥分校);Amazon(亚马逊)
顺序推荐的目的是从历史交互中建模动态用户行为。事实证明,自我关注的方法可以有效地捕捉短期动态和长期偏好。尽管取得了成功,但这些方法仍然难以对稀疏数据进行建模,难以在稀疏数据上学习高质量的项目表示。我们建议同时从购物意图和交互项目中建模用户动态。学习的意图是粗粒度的,并作为项目推荐的先验知识。为此,我们提出了一个从粗到细的自注意框架,即CaFe,它明确地学习粗粒度和细粒度的顺序动态。具体来说,CaFe首先从密集的粗粒度序列中学习意图,从而提供高质量的用户意图表示。然后,CaFe将意图表示融合到项目编码器输出中以获得改进的项目表示。最后,我们推断推荐项目的表示和相应的意图的基础上。在稀疏数据集上的实验表明,CaFe比最先进的自注意分类器平均高出44.03%NDCG@5。
2022-04-04 cs.AI cs.IR
MSN: A Memory-based Sparse Activation Scaling Framework for Large-scale Industrial Recommendation
ByteDance Search(字节跳动搜索);ByteDance AML(字节跳动机器学习)
MSN通过基于记忆的稀疏激活缩放框架实现大规模工业推荐中的高效个性化与性能提升。
2026-02-07 cs.IR
Multimodal Fusion And Sparse Attention-based Alignment Model for Long Sequential Recommendation
针对长序列推荐中多模态理解与用户多粒度兴趣建模的挑战,提出MUFASA模型,通过多模态融合层与稀疏注意力对齐层生成高质量表示,显著超越基线并在在线A/B测试中取得显著收益。
2025-08-13 cs.IR
On-Device Recommender Systems: A Tutorial on The New-Generation Recommendation Paradigm
本教程系统梳理端侧推荐系统的研究现状、技术分类、部署推理、端上训练、隐私安全及未来方向,以应对云端推荐的资源、网络与隐私挑战。
2023-12-18 cs.IR
RecCocktail: A Generalizable and Efficient Framework for LLM-Based Recommendation
Hefei University of Technology(合肥工业大学);University of Science and Technology of China(中国科学技术大学);Shanghai Jiao Tong University(上海交通大学);Kuaishou Inc.(快手)
针对现有LLM推荐两种范式分离的问题,提出RecCocktail框架,通过熵引导自适应融合通用与领域LoRA模块,兼具通用性与高效性,推理无额外开销,在冷热启动场景均有效。
2025-10-30 cs.IR
Data-Augmented Counterfactual Learning for Bundle Recommendation
Bundle Recommendation(BR)旨在推荐在线内容或电子商务平台上的捆绑项目,例如音乐平台上的歌单或阅读网站上的书单。一些基于图的模型在BR任务上已经达到了最先进的性能。但它们的性能仍然是次优的,因为数据稀疏问题在实际的捆绑推荐场景中往往更严重,这限制了基于图的模型进行更充分的学习。在本文中,我们提出了一种新的图学习范式称为反事实学习捆绑推荐(CLBR),以减轻数据稀疏性问题的影响,提高捆绑推荐。我们的范例包括两个主要部分:反事实数据增强和反事实约束。我们范式的主要思想在于回答反事实问题:“如果用户的交互历史发生变化,他/她会与什么交互?““如果物品与物品的关联关系发生变化,用户将与什么进行交互?“在反事实数据增强中,我们设计了一个启发式采样器来为基于图的模型生成反事实图视图,它比随机采样器具有更好的噪声控制。我们进一步提出了反事实损失来约束模型学习,以减轻增强数据中残余噪声的影响,并实现更充分的模型优化。进一步的理论分析证明了设计的合理性。在两个真实数据集上进行了大量的实验,以验证该范式的有效性。
2022-12-21 cs.IR
A Survey of Generative Search and Recommendation in the Era of Large Language Models
The Hong Kong Polytechnic University(香港理工大学);National University of Singapore(新加坡国立大学);University of Science and Technology of China(中国科学技术大学);Chinese Academy of Sciences(中国科学院);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
本文综述了大语言模型时代的生成式搜索与推荐,抽象出统一框架并分解现有工作以分析优劣,同时探讨了独特挑战、开放问题及未来信息搜寻范式。
2024-04-25 cs.CL cs.IR
Learning Sparse Representations of Multimodal Content for Enhanced Cold Item Recommendation
Queen Mary University of London(伦敦大学玛丽女王学院)
针对数字平台项目目录规模大及冷启动问题,提出利用稀疏嵌入优势,通过改进冷启动训练方法和设计预稀疏化激活技术,降低存储成本并提升冷启动推荐准确性,还展示了稀疏内容嵌入的可解释性与稳健性。
2026-07-31 cs.IR
Sparse Meets Dense: Unified Generative Recommendations with Cascaded Sparse-Dense Representations
Baidu Inc.(百度公司)
针对生成式推荐中阶段分离导致的信息损失问题,提出COBRA框架,通过级联交替生成稀疏ID与稠密向量并结合BeamFusion策略,在真实广告平台上显著提升了推荐效果。
2025-03-04 cs.AI cs.IR
Unlocking Scaling Law in Industrial Recommendation Systems with a Three-step Paradigm based Large User Model
Alibaba Group(阿里巴巴集团)
本文提出一种基于三种步骤范式的大型用户模型,通过解决工业推荐系统中的扩展定律限制,实现了可扩展的推荐性能提升。
2026-01-23 cs.IR
A Bi-Step Grounding Paradigm for Large Language Models in Recommendation Systems
针对LLM4Rec排序能力评估受限问题,提出双步接地框架BIGRec,通过微调生成物品令牌并映射实际物品,实验证明其性能优越且能处理少样本,并指出整合统计信息是未来方向。
2023-12-31 cs.IR
SVD-GCN: A Simplified Graph Convolution Paradigm for Recommendation
随着图卷积网络(GCN)的巨大成功,GCN已被广泛应用于推荐系统中,并显示出良好的性能。然而,大多数基于GCN的方法严格地坚持一个共同的GCN学习范式,并遭受两个限制:(1)有限的可扩展性,由于高计算成本和缓慢的训练收敛;(2)臭名昭著的过度平滑问题,这降低了堆叠图卷积层的性能。我们认为,上述限制是由于缺乏深入了解的GCN为基础的方法。为此,我们首先调查什么样的设计使GCN有效的建议。通过简化LightGCN,我们展示了基于GCN的方法与低秩方法(如奇异值分解(SVD)和矩阵分解(MF))之间的密切联系,其中堆叠图卷积层是通过强调(抑制)具有较大(较小)奇异值的组件来学习低秩表示。基于这一观察,我们取代了基于GCN的方法的核心设计与灵活的截断SVD,并提出了一个简化的GCN学习范式称为SVD-GCN,它只利用$K$ -最大奇异向量的建议。为了减轻过度平滑的问题,我们提出了一个重整化技巧来调整奇异值差距,从而显着改善。在三个真实数据集上的大量实验表明,我们提出的SVD-GCN不仅显著优于最先进的技术,而且分别比LightGCN和MF实现了超过100倍和10倍的加速比。
2022-09-03 cs.IR
FuXi-$γ$: Efficient Sequential Recommendation with Exponential-Power Temporal Encoder and Diagonal-Sparse Positional Mechanism
Nankai University(南开大学);Huawei Technologies(华为技术有限公司)
FuXi-γ通过指数-幂时间编码器和对角稀疏位置机制,提升序列推荐的效率和效果,实现训练和推理速度的显著提升。
2025-12-14 cs.IR
End-to-End Semantic ID Generation for Generative Advertisement Recommendation
Tencent Inc.(腾讯公司);Wuhan University(武汉大学)
本文提出UniSID框架,通过端到端优化广告数据中的嵌入和ID,直接将语义信息传递到ID空间,解决传统两阶段压缩方法的不足,并通过多粒度对比学习和基于摘要的广告重建机制提升ID的语义表达能力。
2026-05-21 cs.IR cs.LG
MERGE: Next-Generation Item Indexing Paradigm for Large-Scale Streaming Recommendation
Bytedance(字节跳动);National University of Singapore(新加坡国立大学)
MERGE通过动态聚类和层次索引结构提升大规模流媒体推荐系统的物品索引效率和性能。
2026-08-12 cs.IR
LO-FAR: A Cost-Aware Local Filter for Sparse Feature Ranking in Industrial Ad Recommendation
Meta Platforms, Inc.(Meta平台公司)
研究工业广告推荐中稀疏特征排序问题,提出仅用CPU的LO-FAR工作流程,通过轻量级局部估计器排序,在生产数据集上约两小时完成排序,保留下游归一化熵增益,证明简单局部过滤器在成本和周转约束下是实用生产选择。
2026-07-24 cs.IR
Collaborative Group-Aware Hashing for Fast Recommender Systems
Charles Darwin University(查尔斯达尔文大学);University of Electronic Science and Technology of China(电子科技大学);Agency for Science, Technology and Research, Singapore(新加坡科技研究局);Nanyang Technological University(南洋理工大学)
本文提出协同组感知哈希方法,通过整合组信息提升稀疏场景下推荐系统的精度和效率。
2025-12-23 cs.IR
Analyzing User Preference for Social Image Recommendation
随着社交媒体平台上共享的多媒体数据量的惊人增长,推荐系统已经成为减轻用户信息过载负担的重要必要条件。在这种情况下,大量的异构信息,如标签,图像内容,除了用户对项目的偏好,是非常有价值的,使有效的建议。在本文中,我们探索了一种新的混合算法称为{ \em STM},用于图像推荐。STM在稀疏表示的基础上,将图像内容分析与用户偏好结合起来考虑。STM能够解决社交网络场景中高度稀疏的用户反馈和冷启动问题的挑战。此外,我们的模型是基于经典的概率矩阵分解,可以很容易地扩展到包括其他有用的信息,如社会关系。我们评估我们的方法与一个新收集的30万社会图像数据集从Flickr。实验结果表明,稀疏主题建模的图像内容导致更有效的建议,与国家的最先进的替代品具有显着的性能增益。
2016-04-24 cs.IR
Geo-SAGE: A Geographical Sparse Additive Generative Model for Spatial Item Recommendation
随着基于位置的社交网络(LBSNs)的快速发展,空间项目推荐已成为帮助人们发现有吸引力和有趣的场所和活动的重要手段,特别是当用户外出旅游时。然而,与传统的推荐系统相比,这种推荐是非常具有挑战性的。一个用户只能访问有限数量的空间项,导致一个非常稀疏的用户-项矩阵。用户访问的大多数项目位于离他/她居住的地方很短的距离内,这使得当用户旅行到很远的地方时很难推荐项目。此外,不同地理区域的用户兴趣和行为模式可能会有很大差异。鉴于此,我们提出了地理SAGE,一个地理稀疏的空间项目推荐的可加性生成模型。Geo-SAGE通过利用空间项目的共现模式和空间项目的内容,同时考虑用户的个人兴趣和目标区域人群的偏好。为了进一步缓解数据稀疏性问题,Geo-SAGE利用地理相关性,通过一个精心设计的空间索引结构(称为空间金字塔)来平滑人群的偏好。我们进行了广泛的实验,以评估我们的Geo-SAGE模型在两个真正的大规模数据集上的性能。实验结果清楚地表明,我们的Geo-SAGE模型优于国家的最先进的两个任务的外地和家乡的建议。
2015-03-12 cs.DB cs.IR cs.SI
LazFormer: Scaling Transformers for Industrial Recommendation via Transferable Generative Pre-training
Alibaba International Digital Commerce Group(阿里巴巴国际数字商业集团)
针对工业推荐中Transformer扩展的计算消耗和负迁移问题,提出LazFormer,采用生成式预训练、可迁移残差适配器及非对称多轮训练,提升排序性能。
2026-09-15 cs.IR
Membership Inference Attack against Large Language Model-based Recommendation Systems: A New Distillation-based Paradigm
本文提出一种基于知识蒸馏的新型Membership推理攻击方法,针对大语言模型推荐系统,通过构建参考模型并提取融合特征来提升攻击效果,实验表明其在隐私攻击中具有实用性。
2026-03-19 cs.AI cs.IR
Revisiting Self-Attentive Sequential Recommendation Beyond the LLM Paradigm
NVIDIA(英伟达)
本文对比序列推荐与语言建模的熵差异,指出推荐未现扩展性源于行为数据局部规则全局异质,并重新审视自注意力范式继承假设,提出从熵结构出发比较两领域以推动未来发现。
2026-09-16 cs.IR
MindRec: A Diffusion-driven Coarse-to-Fine Paradigm for Generative Recommendation
University of Science and Technology of China(中国科学技术大学);Anhui University(安徽大学);Hong Kong University of Science and Technology(香港科技大学);MoE Key Lab of BIPC, University of Science and Technology of China(中国科学技术大学教育部生物信息学与计算智能重点实验室)
针对自回归推荐方法难获全局最优的问题,提出MindRec:受人类思维启发的扩散驱动从粗到细生成范式,基于扩散语言模型,先生成关键标记再扩展物品,结合层次类别树与Diffusion Beam Search,top-1准确率平均提升9.5%。
2025-11-18 cs.IR
Graph-based Recommendation for Sparse and Heterogeneous User Interactions
针对小型企业数据稀疏问题,提出利用异构用户-内容交互的图推荐模型,并通过遗传算法优化关系权重,在两个真实数据集上较低数据场景方法最高提升7%。
2023-01-26 cs.IR
Transfer Learning via Contextual Invariants for One-to-Many Cross-Domain Recommendation
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Visa Research(维萨研究院)
社交网络上新用户和项目的快速增长加剧了推荐系统中的灰羊用户/长尾项目挑战。从历史上看,跨域联合聚类方法已经成功地利用了密集域和稀疏域之间的共享用户和项目来提高推理质量。然而,它们依赖于共享的评级数据,并且不能扩展到多个稀疏目标域(即,一对多传输设置)。这一点,再加上越来越多的神经推荐架构的采用,促使我们开发可扩展的神经层转移方法来进行跨域学习。我们的关键直觉是指导神经协同过滤,在密集域和稀疏域之间共享域不变组件,改善稀疏域中学习的用户和项目表示。我们利用跨域的上下文不变性来开发这些共享模块,并证明了用户-项目交互上下文,即使是稀疏的交互数据,我们也可以学习信息表示空间。我们展示了我们的方法在两个公共数据集和一个来自全球支付技术公司Visa的大规模交易数据集上的有效性和可扩展性(19%的项目召回率,比为每个域训练单独的模型快3倍)。我们的方法适用于内隐和外显反馈设置。
2020-05-21 cs.IR cs.LG stat.ML