Generative Large Recommendation Models: Emerging Trends in LLMs for Recommendation
本教程综述生成式大型推荐模型的进展、挑战与方向,聚焦数据质量、缩放定律、行为挖掘及训练推理效率。
2025-02-19 cs.IR
Leveraging Memory Retrieval to Enhance LLM-based Generative Recommendation
针对LLM有限上下文窗口导致忽略用户长期兴趣的问题,提出AutoMR框架,通过存储并检索长期兴趣信息用于下一项目生成,有效提升了生成式推荐性能。
2025-04-29 cs.IR
LoopMemGR: From Behavior Logs to Evolving Memory for Generative Recommendation
Alibaba Group(阿里巴巴集团);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
该研究针对生成式推荐中系统侧记忆缺失的问题,提出LoopMemGR框架,通过维护推荐体验日志并提取多视图信号,在淘宝数据集上验证了方法的有效性。
2026-09-10 cs.IR
Unleashing the Native Recommendation Potential: LLM-Based Generative Recommendation via Structured Term Identifiers
Kuaishou Inc.(快手公司)
本文提出GRLM框架,通过结构化术语标识符提升生成推荐系统的性能和通用性。
2026-01-11 cs.IR
Generative Sequential Recommendation via Hierarchical Behavior Modeling
Tsinghua University(清华大学)
针对多行为序列推荐中序列建模不足及缺乏合适数据集的问题,提出基于仅解码器的生成式框架GAMER,通过跨层级交互层与序列增强策略捕捉行为层次依赖,并发布大规模短视频多行为数据集ShortVideoAD,实验证明其在多指标上优于现有基线。
2025-11-05 cs.IR
Generative Recommender with End-to-End Learnable Item Tokenization
本文提出端到端生成式推荐器ETEGRec,通过双编码器-解码器架构统一物品标记化与生成式推荐,并设计序列-物品对齐和偏好-语义对齐目标及交替优化技术,实现优于传统序列推荐和现有生成式基线的性能。
2025-06-04 cs.IR
Multi-Behavior Generative Recommendation
提出多行为序列生成式推荐框架 MBGen,通过交错 token 序列实现两步预测并采用位置路由稀疏架构扩展模型,在多任务上显著优于现有方法。
2024-07-30 cs.IR
The 2nd Workshop on Recommendation with Generative Models
第二届生成式模型推荐研讨会聚焦生成式模型与推荐系统融合的五大方向,为研究者提供交流平台,以推动技术创新、应对新挑战,助力下一代推荐系统发展。
2024-03-07 cs.IR
Hierarchical Quantization with Domain-Adaptive Sparse Routing for Generative Cross-Domain Recommendation
City University of Hong Kong(香港城市大学);Kuaishou Technology(快手科技)
研究针对生成式跨域推荐的异构模式建模挑战,提出HD-Rec框架,采用分层量化与领域自适应稀疏路由技术,在三个公开基准上优于各类基线方法。
2026-08-10 cs.IR
Bi-Level Optimization for Generative Recommendation: Bridging Tokenization and Generation
University of Science and Technology of China(中国科学技术大学);Beihang University(北京航空航天大学);National University of Singapore(新加坡国立大学);Upwork
本文提出BLOGER框架,通过双层优化统一分词与推荐器,解决两者间依赖关系。实验表明其在多个真实数据集上优于现有方法,且计算效率高。
2026-04-16 cs.IR
Generative Next POI Recommendation with Semantic ID
针对现有生成式POI推荐使用随机ID缺乏语义的问题,提出GNPR-SID,通过语义ID构建和生成式推荐模块,利用残差量化变分自编码器及多样性损失,在三个基准数据集上最高提升16%的推荐准确性。
2025-06-18 cs.IR
HGenPush: A Heterogeneous Generative Recommendation Architecture for Industrial Push Notification Systems
Kuaishou Technology(快手科技)
针对内容平台推荐需求,提出HGenPush架构。通过设计混合用户行为理解等模块,兼顾视频与作者推荐,采用轻量预测方法并利用用户反馈提升质量,部署后使快手日活用户显著增加。
2026-07-07 cs.IR
Cold-Starts in Generative Recommendation: A Reproducibility Study
Shandong University(山东大学);Leiden University(莱顿大学);Baidu Inc.(百度公司);University of Amsterdam(阿姆斯特丹大学)
本文研究生成推荐中的冷启动问题,通过统一的冷启动协议评估不同模型的可重复性,探讨冷启动在动态开放平台中的挑战。
2026-04-06 cs.IR
Differentiable Semantic ID for Generative Recommendation
University of Glasgow(格拉斯哥大学);Shandong University(山东大学);Amazon(亚马逊);Telefónica Scientific Research(Telefónica 科学研究);Leiden University(莱顿大学)
本文提出DIGER,通过引入Gumbel噪声和不确定性衰减策略,解决生成推荐中语义ID可微分问题,提升代码利用率和推荐效果。
2026-04-14 cs.IR
Collaborative Generative Hashing for Marketing and Fast Cold-start Recommendation
随着电子商务中数据的爆炸式增长,冷启动成为推荐系统中的一个关键问题。大多数现有的研究提出,以减轻冷启动问题也被称为混合推荐系统,学习表示的用户和项目相结合的用户项目的互动和用户/项目的内容信息。然而,以前的混合方法经常遭受低效率的在线推荐与大规模的项目,因为他们的目的是投影到连续的潜在空间中的在线推荐是昂贵的。为此,我们提出了一个协同生成哈希(CGH)框架,以提高效率,表示用户和项目的二进制代码,然后快速哈希搜索技术可以用来加快在线推荐。此外,建议CGH可以产生潜在的用户或项目的营销应用,其中生成网络的设计与最小描述长度(MDL)的原则,这是用来学习紧凑和信息的二进制代码。在两个公共数据集上的实验表明,在各种环境下的建议竞争基线的优势,并分析其在营销应用的可行性。
2020-11-02 cs.IR
Beyond Item Order: Temporal Gap Tokenization for Generative Recommendation with Semantic IDs
University of New South Wales(新南威尔士大学);Macquarie University(麦考瑞大学);CSIRO’s Data61(澳大利亚联邦科学与工业研究组织数据61实验室)
研究基于语义ID的生成式推荐,提出ChronoSID框架。从互补视角注入时间信号,一是用时间感知掩码自编码器,二是离散时间间隔为令牌与语义ID交织。实验表明其优于基线,消融研究验证组件贡献。
2026-07-07 cs.IR
PROMISE: Process Reward Models Unlock Test-Time Scaling Laws in Generative Recommendations
Kuaishou Inc.(快手科技)
PROMISE通过整合密集逐步验证和PRM引导的束搜索策略,解决生成推荐中的语义漂移问题,提升推荐准确性并实现高效部署。
2026-01-08 cs.IR
REG4Rec: Reasoning-Enhanced Generative Model for Large-Scale Recommendation Systems
Alibaba Group(阿里巴巴集团);Wuhan University(武汉大学)
REG4Rec通过构建动态语义推理路径和自我反思机制,提升大规模推荐系统的推荐质量和可靠性。
2026-02-09 cs.IR
Unified Generative Search and Recommendation
针对搜索与推荐联合建模中的性能权衡问题,本文提出统一生成式框架GenSAR,通过双重用途标识符和定制化训练策略融合语义与协同信号,在公开及商业数据集上实现了两项任务的最优性能。
2025-04-10 cs.IR
Bridging Search and Recommendation in Generative Retrieval: Does One Task Help the Other?
本文研究生成式检索中统一搜索与推荐的多任务模型是否优于单任务模型,通过联合训练对条目流行度和潜在表示进行正则化,实验证明统一模型能提升效果。
2024-10-22 cs.IR
Uncertainty-aware Generative Recommendation
University of Science and Technology of China(中国科学技术大学)
提出不确定性感知生成式推荐框架UGR,通过不确定性加权奖励、难度感知优化和显式置信度对齐,解决生成式推荐中忽视模型置信度导致的训练不稳定和决策风险问题。
2026-06-11 cs.IR
MTGR: Industrial-Scale Generative Recommendation Framework in Meituan
针对生成式推荐舍弃交叉特征导致性能下降的问题,提出基于HSTU架构的MTGR框架,保留DLRM交叉特征并通过用户级压缩等优化实现高效缩放,单样本推理FLOPs达DLRM的65倍,已部署于美团主流量场景。
2025-08-22 cs.IR
Generative Sequential Recommendation with GPTRec
本文提出GPTRec,一种基于GPT-2的生成式序列推荐模型,通过SVD Tokenisation解决大词汇量问题,并引入Next-K策略生成相互依赖的推荐列表,在MovieLens-1M上达到与SASRec相当的质量且嵌入表减少40%。
2023-06-19 cs.IR
Harmonizing Generative Retrieval and Ranking in Chain-of-Recommendation
NJUST(南京理工大学);Kuaishou Technology(快手科技)
本文提出RecoChain框架,整合生成与排序流程,通过层次语义ID预测生成候选项并基于SIM进行排序,提升推荐性能。
2026-04-28 cs.IR
Killing Two Birds with One Stone: Unifying Retrieval and Ranking with a Single Generative Recommendation Model
本文提出统一生成式推荐框架UniGRF,将检索与排序集成于单一生成模型,通过排序驱动增强和自适应加权实现同步优化,显著提升基准数据集上的推荐性能。
2025-04-23 cs.IR
What Makes a Good Semantic ID for Generative Recommendation? A Reproducibility Study
Shandong University(山东大学);University of Glasgow(格拉斯哥大学);Leiden University(莱顿大学)
本研究通过大规模可复现实验,系统探究生成式推荐中语义ID的设计因素,发现其效果非单调,无普遍最优设计,不同设计具有互补优势,为未来系统提供实用指导。
2026-09-22 cs.IR
CoST: Contrastive Quantization based Semantic Tokenization for Generative Recommendation
本文提出CoST对比量化语义分词方法,通过融合物品关系与语义信息改进生成式推荐的物品索引,并在MIND上显著提升Recall@5与NDCG@5。
2024-09-07 cs.IR
OneLive: Dynamically Unified Generative Framework for Live-Streaming Recommendation
Kuaishou Technology(快手科技);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
OneLive提出了一种动态统一的生成框架,专门针对直播场景,通过动态分词器、时间感知门控注意力机制、高效解码器架构和多目标对齐框架,解决直播推荐中的实时性和多目标挑战。
2026-02-09 cs.IR
Semantic IDs for Joint Generative Search and Recommendation
本文研究了在统一生成式模型中构建同时适用于搜索和推荐的Semantic IDs的方法,发现使用在搜索和推荐任务上微调的双编码器模型获取物品嵌入并构建统一语义ID空间,能在两项任务中实现有效平衡和优异性能。
2025-08-14 cs.IR
Accelerating Generative Recommendation via Simple Categorical User Sequence Compression
The HK PolyU(香港理工大学);Huawei(华为)
本文提出一种基于类别特征的用户序列压缩方法,有效降低生成推荐系统的计算成本并提升准确性。
2026-01-27 cs.IR
OneRec-Think: In-Text Reasoning for Generative Recommendation
Kuaishou Inc.(快手)
针对现有生成式推荐模型缺乏显式可控推理的问题,提出集成对话、推理与个性化推荐的OneRec-Think框架,通过物品对齐、推理激活和增强模块提升性能,在公共基准达SOTA且在快手部署使APP停留时间提升0.159%。
2025-11-11 cs.IR
OnePiece: The Great Route to Generative Recommendation -- A Case Study from Tencent Algorithm Competition
NJUST(南京理工大学)
本文提出统一编码器-解码器框架,验证生成推荐中ANN和自回归范式的缩放定律,发现两者损失均严格符合幂律缩放规律。
2025-12-08 cs.IR
PIT: A Dynamic Personalized Item Tokenizer for End-to-End Generative Recommendation
Beijing University of Posts and Telecommunications(北京邮电大学);Kuaishou Technology(快手科技);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
PIT通过动态个性化物品分词器实现生成推荐的端到端共进化,提升大规模工业部署中的推荐效果。
2026-02-09 cs.IR
APAO: Bridging the Training-Inference Gap in Generative Recommendation via Adaptive Prefix-Aware Optimization
DCST, Tsinghua University(清华大学计算机科学与技术系);Quancheng Laboratory(泉城实验室);AIR, Tsinghua University(清华大学智能产业研究院)
针对生成式推荐中训练与推理不一致的问题,提出自适应前缀感知优化框架,通过前缀级损失和自适应最差前缀优化策略,提升模型在束搜索下的候选保留能力。
2026-07-01 cs.IR
HGCRS: Hypergraph-Enhanced Generative Conversational Recommender System
Nanyang Technological University(南洋理工大学)
本文提出了一种统一推荐与对话生成的生成式对话推荐系统,通过单个自回归框架实现端到端优化,提升了推荐性能和对话质量。
2026-11-06 cs.IR
GPR: Towards a Generative Pre-trained One-Model Paradigm for Large-Scale Advertising Recommendation
Tencent Inc.(腾讯公司);Tsinghua University(清华大学)
GPR提出了一种单模型框架,通过统一生成方法解决广告推荐中的目标不一致和误差传播问题,提升GMV和CTCVR指标。
2026-02-12 cs.IR
Unleash the Potential of Long Semantic IDs for Generative Recommendation
Southern University of Science and Technology(南方科技大学);Xi’an Jiaotong University(西安交通大学);Nanjing University(南京大学)
ACERec通过解耦细粒度令牌化与高效序列建模,提升生成推荐中语义表达性与计算效率的平衡。
2026-08-04 cs.IR
Diffusion Models for Generative Outfit Recommendation
提出生成式穿搭推荐任务GOR及DiFashion模型,通过条件引导的扩散模型并行生成多张个性化、协调且高保真的时尚图像。
2024-05-20 cs.IR
Topology-Aware Tokenization for Generative Recommendation
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
研究针对生成式推荐中项目词元化的拓扑失真问题,提出拓扑感知词元化框架TopoTok,通过多级蒸馏方案逐步恢复拓扑,实验表明该方法有效减轻失真,优于现有词元化器,提升了生成式推荐性能。
2026-07-22 cs.IR
Reward Guided Decoding for Generative Recommendation
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络安全学院);Kuaishou Technology(快手科技);Peking University(北京大学)
研究针对生成式推荐解码受生成似然性主导与业务目标冲突的问题,提出奖励引导解码(RGD)框架,将价值引导解码公式化为KL正则化奖励最大化问题,通过引入奖励模型重塑搜索轨迹,经实验验证有效且已在快手平台部署。
2026-07-29 cs.IR
Distribution-Level Contrastive Supervision for Generative Recommendation
University of Science and Technology of China(中国科学技术大学);Upwork;The Chinese University of Hong Kong(香港中文大学);National University of Singapore(新加坡国立大学)
SODA通过分布层面的监督和对比学习,提升生成式推荐系统的性能,实现端到端可微训练。
2026-09-28 cs.IR
Generative Data Augmentation in Graph Contrastive Learning for Recommendation
针对推荐系统中稀疏交互导致嵌入学习效果差的问题,提出GDA4Rec框架,利用深度生成模型生成增强视图并提取物品补全矩阵,结合推荐、增强和对比学习的联合目标,在三个数据集上验证了有效性。
2025-10-10 cs.IR
CARD: Non-Uniform Quantization of Visual Semantic Unit for Generative Recommendation
University of Electronic Science and Technology of China(电子科技大学);Southwestern University of Finance and Economics(西南财经大学)
CARD框架通过引入视觉语义单元统一文本、视觉和协同信号,提升生成推荐中高质SID学习,同时采用非均匀量化框架解决语义分布不均问题,实验显示其优于基线方法。
2026-04-29 cs.IR
Rotate Both Ways: Time-and-Order RoPE for Generative Recommendation
本文提出时间与顺序RoPE(TO-RoPE),通过将索引和时间作为角度来源直接塑造查询-键几何,联合建模用户行为序列中的时间与顺序信息,在公开和工业数据集上显著提升生成式推荐的准确性。
2025-10-23 cs.IR
Knowledge Graph Tokenization for Behavior-Aware Generative Next POI Recommendation
针对生成式下一个POI推荐中异构信息丢失和单一行为理解不足的问题,提出KGTB框架,利用知识图谱组织数据并开发基于KG的标记器生成结构ID,同时引入多行为学习任务微调LLM,显著提升了推荐性能。
2025-09-15 cs.IR
On the Equivalence Between Auto-Regressive Next Token Prediction and Full-Item-Vocabulary Maximum Likelihood Estimation in Generative Recommendation--A Short Note
Kuaishou Technology(快手科技)
本文证明自回归下一个token预测与完整物品词汇最大似然估计在生成推荐中严格等价,为工业级推荐系统提供理论基础。
2026-04-17 cs.IR
GENPLUGIN: A Plug-and-Play Framework for Long-Tail Generative Recommendation with Exposure Bias Mitigation
本文提出即插即用框架 GENPLUGIN,通过双编码器共享解码器、对比学习、概率替换训练策略和基于检索的数据增强,缓解生成式推荐中的曝光偏差并提升长尾物品推荐质量。
2025-07-04 cs.IR
RAGR: Review-Augmented Generative Recommendation
Dalian University of Technology(大连理工大学);City University of Hong Kong(香港城市大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
本文提出RAGR,一种将评论反馈直接融入生成用户序列的新型生成推荐框架,通过混合行为-语义序列和基于直接偏好优化的任务生成对齐策略,提升推荐性能。
2026-06-16 cs.IR
A Survey on Generative Recommendation: Data, Model, and Tasks
Hefei University of Technology(合肥工业大学);National University of Singapore(新加坡国立大学)
本文综述生成推荐领域,探讨数据、模型与任务维度,分析生成模型在推荐中的应用与挑战,提出智能推荐助手的发展方向。
2026-05-09 cs.IR
SPRIG: Semantic-ID-enhanced Paths for Knowledge Graph-based Generative Recommendation
Johannes Kepler University(约翰·开普勒林茨大学);Albatross AI(信天翁人工智能);Criteo AI Lab(Criteo人工智能实验室);Linz Institute of Technology(林茨工业大学)
提出SPRIG,一种将内容派生的语义ID集成到知识图谱路径推理中的生成式推荐器,结合两者优势,在电影和音乐数据集上以更少参数和计算成本取得竞争性能。
2026-10-06 cs.IR
Collaborative Memory Augmentation for Generative Recommendation
ByteDance(字节跳动)
针对现有生成式推荐模型未利用跨用户协同信号的问题,提出OMEGA框架,通过潜在上下文压缩、协同记忆库与目标感知检索等机制,在多数据集上显著优于现有先进模型。
2026-08-04 cs.IR
MBGR: Multi-Business Prediction for Generative Recommendation at Meituan
Meituan(美团)
MBGR针对多业务场景下的生成推荐问题,通过业务感知语义ID模块、多业务预测结构和标签动态路由模块解决见锯现象和表示混淆问题,提升多业务生成能力。
2026-04-03 cs.IR
SmartGR: Hierarchy and Beam-Aware Knowledge Distillation for Generative Recommendation
Zhejiang University(浙江大学);Ant Group(蚂蚁集团)
该研究针对生成式推荐模型推理成本高的问题,提出SmartGR框架,通过层级感知SID蒸馏与束搜索感知排序蒸馏,在四个基准数据集上实现性能提升8.6%、平均推理速度提升2.39倍。
2026-08-04 cs.IR
Inductive Generative Recommendation via Retrieval-based Speculation
University of California, San Diego(加州大学圣迭戈分校)
SpecGR通过引入检索生成机制,提升生成推荐模型在归纳设置下的推荐能力与整体性能。
2025-11-21 cs.IR