On Ranking Consistency of Pre-ranking Stage
诸如广告系统之类的工业排名系统通过将多个目标聚集成一个最终目标来对项目进行排名,以满足用户需求和商业意图。级联结构,包括检索,预排名,排名阶段,通常采用,以减少计算成本。每个阶段可以针对不同的目标采用各种模型,并通过汇总这些模型的输出来计算最终目标。多阶段排名策略导致了一个新的问题-排名阶段和先前阶段的排名列表可能不一致。例如,应当被排名在排名阶段的顶部的项目可以被排名在先前阶段的底部。在本文中,我们专注于预排名和排名阶段之间的\textbf{ranking consistency}。具体来说,我们正式定义的问题的排名一致性,并提出了排名一致性分数(RCS)的评价指标。我们证明了排名的一致性对在线性能有直接的影响。与传统的主要关注各目标个体排序质量的评价方式相比,RCS考虑了融合后最终目标排序的一致性,更适合于评价。最后,从样本选择和学习算法的角度提出了几种提高排序一致性的方法。在中国最大的工业电子商务平台之一上的实验结果验证了所提出的指标和方法的有效性。
2022-11-03 cs.IR
Heterogeneous Ranking in Industrial-Scale Recommender Systems: A Case Study
Google LLC(谷歌公司)
本文针对工业级异构推荐信息流排序难题,提出HA-MoE架构与LENS框架,采用DL-AUC评估,离线与在线实验均证实其能有效管理推荐系统的异构性。
2026-07-31 cs.IR cs.LG
TGR: Advancing Industrial Recommendation from Generative-Paradigm Ranking toward Unified Generation and Reasoning
Tencent’s PCG (Platform and Content Group)(腾讯平台与内容事业群)
该研究提出TGR工业级推荐框架,通过CCFormer、BARGE、HiGR、TGR-Reason四个模块,解决传统推荐系统的缺陷,在多个场景取得显著指标提升,已部署服务数亿用户。
2026-09-02 cs.IR
Towards Large-scale Generative Ranking
本文研究生成式排序在大规模工业推荐中的可行性与有效性,提出生成式排序架构 GenRank,并在小红书探索信息流中通过在线 A/B 实验验证其以相近计算资源显著提升用户满意度。
2025-05-08 cs.IR
DSFNet: Learning Disentangled Scenario Factorization for Multi-Scenario Route Ranking
针对多场景路线排序中场景数量爆炸、高度纠缠和高容量需求等挑战,本文提出DSFNet,通过解耦场景分解网络及场景感知技术,并构建首个公开数据集MSDR,已在工业界验证其有效性。
2024-11-05 cs.IR
Beyond Self-Consistency: Loss-Balanced Perturbation-Based Regularization Improves Industrial-Scale Ads Ranking
Meta
本文提出损失平衡小扰动正则化(LSPR),在工业级广告排序中首次成功应用扰动正则化,实验表明其优于自一致性方法,并在十亿级系统中验证了可扩展性。
2025-02-05 cs.AI cs.IR cs.LG
RankMixer: Scaling Up Ranking Models in Industrial Recommenders
本文提出硬件感知的 RankMixer 特征交互架构,利用多头部 token 混合、Per-token FFN 与 Sparse-MoE 提升排序模型的 GPU 利用率和可扩展性,并在工业推荐与广告场景验证收益。
2025-07-26 cs.IR
From Language to Behavior: Scaling Sequence Transformers for Industrial Recommendation Ranking with Rec-Native Designs
ByteDance(字节跳动)
本研究针对工业推荐排序中行为序列建模的挑战,提出推荐原生Transformer框架ReST,通过双门控注意力等设计优化信号质量,分解排序结构解决计算不对称性,经测试提升广告平台AUC与核心收入指标并已部署生产。
2026-09-02 cs.AI cs.IR cs.LG
UniRank: Benchmarking Ranking Models for Unified Sequential Modeling and Feature Interaction
Anhui University(安徽大学);University of Science and Technology of China(中国科学技术大学);Tencent Inc.(腾讯公司)
本文针对排序模型统一序列建模与特征交互时面临的问题,提出UniRank基准,介绍其方法及工具包,通过在五个大规模公共数据集上对15个模型测试,为相关研究提供可重复基础,缩小研究差距,使多方受益。
2026-07-24 cs.IR
OnePiece: Bringing Context Engineering and Reasoning to Industrial Cascade Ranking System
Renmin University of China(中国人民大学);Shopee;University of Science and Technology of China(中国科学技术大学);National University of Singapore(新加坡国立大学)
本文提出OnePiece统一框架,将LLM式上下文工程与多步推理引入工业级联排序系统,通过结构化上下文、分块潜在推理和渐进式多任务训练,在Shopee搜索场景实现GMV/UU提升超2%及广告收入提升2.90%。
2025-09-22 cs.AI cs.CL cs.IR
Unifying Generative Recall and Multi-Objective Ranking in a Single Decoder-Only Sequence
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Kuaishou Technology(快手科技)
针对现代工业推荐系统将召回和排序分两阶段进行存在的问题,提出UniR²,在单个异构序列中统一生成式召回与多目标排序,利用双查询前缀因果注意力等方法,经实验验证其在大规模推荐系统中的有效性、效率及实用性。
2026-07-28 cs.IR
TokenMixer-Large: Scaling Up Large Ranking Models in Industrial Recommenders
ByteDance AML(字节跳动 AML);ByteDance(字节跳动)
TokenMixer-Large通过引入混合与反向操作、层间残差和辅助损失,提升了工业推荐系统中大型排序模型的扩展能力,实现了参数规模的显著提升和性能的显著改善。
2026-02-10 cs.IR
UNIQUE: A Unified Retrieval and Ranking System for Large-Scale Feed Recommendation
Beihang University(北京航空航天大学);Baidu Inc.(百度公司);Hong Kong Institute of AI for Science, City University of Hong Kong(香港人工智能科学研究所,香港城市大学)
针对工业信息流推荐中检索排序分离及量化不稳定问题,提出统一框架UNIQUE,采用单层扁平量化与早期融合架构,在百度多场景部署,显著提升观看时长与分发量。
2026-09-22 cs.IR
Rethinking Multi-objective Ranking Ensemble in Recommender System: From Score Fusion to Rank Consistency
Kuaishou Technology(快手科技)
本文提出HarmonRank框架,通过提升排名一致性和共同性建模,改进推荐系统中的多目标集成方法,实现性能和鲁棒性的提升。
2026-02-09 cs.IR
SWIM: Step-Wise Integrated Measure for Session-supervised List Evaluation in Generative Re-ranking
University of Science and Technology of China(中国科学技术大学);Kuaishou Technology(快手科技)
针对工业推荐系统生成式重排序的会话级动态捕捉不足问题,提出SWIM列表级评估器,结合因果掩码Transformer实现高效评估,在重排序任务中显著提升推荐参与度。
2026-08-27 cs.IR
Gryphon: A Unified Architecture for Semantic-ID Generation and Item-Level Scoring in Industrial Recommendations
Yandex
提出Gryphon架构,在生成式检索中联合训练物品级评分组件,通过直接重评分解决序列似然校准和ID碰撞问题,在工业音乐服务上Recall@1000提升3.7%,并简化候选生成流水线。
2026-06-09 cs.IR
LiRank: Industrial Large Scale Ranking Models at LinkedIn
LinkedIn(领英)
本文提出 LinkedIn 的大规模排序框架 LiRank,通过 Residual DCN、Dense Gating、Transformers 等架构改进及量化压缩技术,在 Feed、职位推荐和广告 CTR 场景中实现显著指标提升。
2024-08-07 cs.AI cs.IR cs.LG
GR2 Technical Report
Meta AI
针对工业推荐系统中重排序阶段未被充分探索、大语言模型推理能力未充分利用以及非语义标识符问题,提出GR2框架,结合语义ID中间训练、推理轨迹蒸馏和强化学习,在工业流量上取得显著提升。
2026-07-07 cs.AI cs.IR
OneRank: Unified Transformer-Native Ranking Architecture for Multi-Task Recommendation
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);Shopee Pte. Ltd.(虾皮有限公司);Nanyang Technological University(南洋理工大学)
提出OneRank,一种Transformer原生多任务排序框架,通过消除编码器-预测器分离并引入任务私有通道,实现任务专用学习并减少干扰,显著提升多任务推荐性能。
2026-06-16 cs.IR
Task-Blind No MORE: Multi-Task Information Flow in Unified Ranking Backbones
Hello Group(好未来);University of Science and Technology of China(中国科学技术大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学);Beijing Information Science and Technology University(北京信息科技大学)
针对统一排序骨干缺乏任务感知信息流的问题,提出MORE模型,在骨干内嵌入多任务信息流,通过锚定令牌实现任务协同演化,在工业数据及线上测试中全面超越基线并显著降低延迟。
2026-09-09 cs.IR
CAM2: Conformity-Aware Multi-Task Ranking Model for Large-Scale Recommender Systems
Meta Inc.(Meta公司)
CAM2通过因果建模将用户从众行为与真实兴趣解耦,构建从众感知的多任务排序模型,在Facebook Watch上实现用户参与度提升0.50%和日活用户增长0.21%。
2023-04-17 cs.IR cs.LG
DEGR: Dual Exploration-Driven Generative Re-Ranking for Adaptive Cross-Request Context Bridging
针对工业推荐系统重排序受上游供给限制的问题,提出DEGR方法,通过双探索驱动的混合优化范式实现自适应跨请求上下文桥接,在京东电商推荐系统中较SOTA方法取得UCTR最高1.22%、PV0.20%的提升。
2026-08-06 cs.IR
IntTower: the Next Generation of Two-Tower Model for Pre-Ranking System
在几毫秒内精确地对大量候选人进行评分对于工业预排名系统至关重要。现有的预排名系统主要采用\textbf{two-tower}模型,因为"用户-项目解耦架构“范例能够平衡\textit{efficiency}和\textit{effectiveness}。然而,高效率的代价是忽略了用户和项目塔之间潜在的信息交互,严重阻碍了预测的准确性。在本文中,我们证明了设计一个强调信息交互和推理效率的双塔模型是可能的。提出的模型,IntTower(简称\textit{Interaction enhanced Two-Tower}),包括轻SE,FE块和CIR模块。具体而言,轻量级Light-SE模块用于识别不同特征的重要性,并在每个塔中获得精细的特征表示。FE-Block模块执行细粒度和早期特征交互以显式地捕获用户和项目塔之间的交互信号,CIR模块利用对比交互正则化来进一步隐式地增强交互。在三个公开数据集上的实验结果表明,IntTower的性能明显优于SOTA预排名模型,甚至达到了与排名模型相当的性能。此外,我们进一步验证了IntTower在大规模广告预排名系统上的有效性。IntTower的代码是公开的\footnote{https://github.com/archersama/IntTower}
2022-10-18 cs.IR
CCFormer: Efficient Cross-Field Interaction and Hierarchical Sequence Compression for Industrial Recommendation at Tencent
Platform and Content Group, Tencent(腾讯平台与内容事业群)
CCFormer是腾讯提出的高效Transformer骨干网络,通过跨域交互与分层序列压缩技术,在工业推荐场景中取得显著性能提升,已部署于腾讯生产系统服务核心流量。
2026-10-30 cs.IR
Contextual Distillation Model for Diversified Recommendation
针对现有多样化推荐方法复杂度高、仅适用于重排序阶段的问题,提出可适配全推荐流水线的上下文蒸馏模型CDM,通过对比上下文编码与知识蒸馏学习MMR策略,经离线与快手在线实验验证其在效率与多样性上的优势。
2024-08-14 cs.IR
GCRank: A Generative Contextual Comprehension Paradigm for Takeout Ranking Model
GCRank通过生成上下文理解范式提升外卖广告排序模型的性能与实用性。
2025-10-15 cs.IR
GateDiffInt: Gate-Mediated Controllable Diffusion and Multi-Intent LLM Distillation for User Behavior Modeling
Fudan University(复旦大学);Xiaohongshu Inc.(小红书)
针对现有排序模型难以解耦结构化意图的问题,提出GateDiffInt框架,通过可控扩散与LLM蒸馏实现意图感知表示,在公开及工业数据集和线上测试中均取得显著效果。
2026-08-21 cs.IR
POEM: Partial-Order Enhanced Real-Time Sequential Modeling for Recommendation
Kuaishou Technology(快手科技)
针对实时推荐系统中用户兴趣动态漂移和工业级多阶段排序结构未被充分利用的问题,提出POEM框架,利用上游排序模块的实时多任务分数构建动态偏序序列,实现细粒度兴趣建模与系统目标一致优化,在快手线上部署取得显著提升。
2026-06-29 cs.IR
Neighbor Based Enhancement for the Long-Tail Ranking Problem in Video Rank Models
Tencent Inc(腾讯公司);Beijing Institute of Technology(北京理工大学)
排名模型在工业推荐系统、广告和搜索引擎中起着关键作用。现有的工作利用语义标签和用户-项目交互行为,例如,点击次数、浏览次数等,以预测用户兴趣和项隐藏表示,用于估计用户项偏好得分。然而,这些基于行为标签的模型遇到了很大的挑战和有效性降低时,用户-项目的交互活动是不够的,我们称之为“长尾排名问题”。现有的排名模型忽略了这个问题,但它很常见,也很重要,因为任何用户或项目一旦在短时间内不持续活跃,就可能是长尾的。在本文中,我们提出了一种新的邻居增强结构,以帮助训练的目标用户或项目的表示。它利用了相似的邻居(静态或动态相似性),并通过多级注意力操作来平衡不同邻居的权重。在著名的公共数据集MovieLens 1 M上的实验证明了该方法在基于行为标签的基线模型上的效率,在长尾用户数据集上的绝对CTR AUC增益为0.0259。
2023-02-16 cs.AI cs.IR
MSN: A Memory-based Sparse Activation Scaling Framework for Large-scale Industrial Recommendation
ByteDance Search(字节跳动搜索);ByteDance AML(字节跳动机器学习)
MSN通过基于记忆的稀疏激活缩放框架实现大规模工业推荐中的高效个性化与性能提升。
2026-02-07 cs.IR
UniScale: Synergistic Entire Space Data and Model Scaling for Search Ranking
Taobao \& Tmall Group of Alibaba Hangzhou China;Taobao \& Tmall Group of Alibaba Beijing China;Taobao \& Tmall Group of Alibaba
提出UniScale框架,通过联合数据缩放(ES$^3$样本构建系统)和模型设计(HHSFT异构层次融合Transformer),解决工业搜索中仅增大模型参数或调整架构带来的性能瓶颈,在电商搜索平台上实现购买量提升1.70%、GMV提升2.04%。
2026-08-12 cs.IR cs.LG
An Event is Worth One Token: Event Tokenization for Industrial-scale LLM Recommendation
AI at Meta(Meta AI)
该研究提出以事件为中心的AMBER方法,将交互快照压缩为事件Token,在工业级推荐基准上提升了计算-质量帕累托前沿,且事件Token可跨模型架构迁移并随容量扩展持续优化。
2026-09-07 cs.IR
Scaling Articulated Rationales for MLLM-based Recommendation
Kuaishou Technology(快手科技)
本研究提出SARA框架,将稀疏的用户可表述理由扩展为工业推荐系统的可扩展信号,通过数据引擎、MLLM对齐和排序集成,提升参与度并减少负面反馈。
2026-09-22 cs.AI cs.IR
PIER: Permutation-Level Interest-Based End-to-End Re-ranking Framework in E-commerce
Meituan(美团)
重排序是一种通过对项目之间的相互影响进行建模来重新排列排名列表,以更好地满足用户需求的方法,越来越受到学术界和行业的关注。现有的重排序方法直接以初始排序列表为输入,通过设计良好的上下文模型生成最优排列,这就带来了重排序前的评估问题。同时,评估所有候选排列在实践中带来了不可接受的计算成本。因此,为了更好地平衡效率和效果,在线系统通常使用两阶段架构,该架构首先使用一些探试法(例如波束搜索)来产生合适数量的候选排列,然后将其馈送到评估模型以获得最优排列。然而,这两个阶段的现有方法可以通过以下方面进行改进。对于生成阶段,探试法只使用逐点预测得分,缺乏有效的判断。在评估阶段,现有的上下文评估模型大多只考虑项目上下文,缺乏更细粒度的特征上下文建模。本文提出了一种新的端到端重排序框架PIER,以解决上述挑战,仍然遵循两个阶段的架构,并包含两个主要模块FPSM和OCPM。我们应用SimHash在FPSM中选择前K个候选人从全排列的基础上用户的排列级别的兴趣,在一个有效的方式。然后,我们设计了一种新的全方位的注意力机制在OCPM捕获的上下文信息的排列。最后,我们通过引入比较学习损失来联合训练这两个模块。离线实验结果表明,PIER在公共数据集和行业数据集上的性能优于基线模型,并且我们已经成功地将PIER部署在美团外卖平台上。
2023-02-06 cs.AI cs.IR
STAR: Structured Tokenization and Target-Aware Interest Representation for PCVR Prediction
Tsinghua University(清华大学);Peking University(北京大学)
针对KDD Cup 2026腾讯UniRec挑战赛,提出STAR框架,结合结构化分词与目标感知兴趣表示,经实验验证其各组件对PCVR预测的AUC有显著提升。
2026-08-19 cs.IR
Improving feature interactions at Pinterest under industry constraints
本文总结 Pinterest 在延迟、GPU 显存和可复现性等工业约束下改进 Homefeed 排序模型特征交互的挑战、策略、权衡与架构选择实验。
2024-12-02 cs.IR
DREAM Technical Report
Taobao(淘宝)
该研究针对工业推荐流水线的缺陷,提出基于智能体方法的DREAM架构,通过意图引擎、元引擎与奖励双循环优化,在淘宝测试中实现多项核心指标提升,验证了智能体元控制的可行性。
2026-08-14 cs.IR
TMallGS: Scaling Unified Feature and Sequence Modeling for Generative E-commerce Search
Southeast University(东南大学);Taobao & Tmall Group of Alibaba(阿里巴巴淘宝天猫集团);Peking University(北京大学)
研究工业搜索和排名系统中CTR预测从DLRM转向Transformer架构的问题,提出天猫GS可扩展排名架构,含分层分布校准令牌化等五个关键组件,经实验和测试,该架构提高训练吞吐量,提升UCTCVR和GMV。
2026-07-16 cs.IR
AIF: Asynchronous Inference Framework for Cost-Effective Pre-Ranking
Taobao \& Tmall Group of Alibaba Beijing China;Taobao \& Tmall Group of Alibaba
AIF通过异步推理框架提高推荐系统预排序效率,减少延迟并优化模型架构。
2025-11-20 cs.IR cs.LG
Set-to-Sequence Ranking-based Concept-aware Learning Path Recommendation
针对学习路径推荐中概念相关性建模不足的问题,提出SRC框架,通过概念感知编码、注意力解码、策略梯度优化及知识追踪辅助模块提升路径推荐效果。
2023-06-07 cs.CY cs.IR
Yambda-5B -- A Large-Scale Multi-modal Dataset for Ranking And Retrieval
Yandex
本文发布源自Yandex Music的工业级多模态数据集Yambda-5B,含47.9亿条交互及音频嵌入,并通过is_organic标志区分有机行为与推荐行为,配套全局时间划分评估协议,为推荐系统研究提供可复现的基准资源。
2025-06-01 cs.IR cs.LG
ResRank: Unifying Retrieval and Listwise Reranking via End-to-End Joint Training with Residual Passage Compression
Qwen Applications Business Group of Alibaba(阿里巴巴Qwen应用业务组)
ResRank通过端到端联合训练与残差段落压缩技术,解决传统重排序方法中输入长度增加导致的排名质量下降和推理延迟问题,实现高效且有效的检索与重排序统一。
2026-04-24 cs.AI cs.IR
MixLM: High-Throughput and Effective LLM Ranking via Text-Embedding Mix-Interaction
LinkedIn
MixLM通过文本嵌入混合交互技术,显著提升LLM排序系统的吞吐量,实现高效率的实时搜索应用部署。
2026-01-31 cs.AI cs.CL cs.IR
TransAct V2: Lifelong User Action Sequence Modeling on Pinterest Recommendation
Pinterest
TransAct V2 是 Pinterest Homefeed 的生产模型,通过利用超长用户序列、集成 Next Action Loss 函数以及采用可扩展低延迟部署方案,提升 CTR 预测和用户行为预测能力。
2025-06-02 cs.AI cs.IR