FARA: Future-aware Ranking Algorithm for Fairness Optimization
针对现有公平排序方法仅贪婪优化当前会话导致长期次优的问题,本文提出 FARA,通过 Taylor 展开分析未来曝光并采用两阶段规划联合优化相关性与公平性,理论最优且实验显著优于现有方法。
2023-08-19 cs.IR
Multi-objective Ranking via Constrained Optimization
Amazon(亚马逊);University of Washington(华盛顿大学)
在本文中,我们介绍了一个增广拉格朗日为基础的方法,将多个目标(MO)的搜索排名算法。优化生产任务是建立生产排序模型的基本要求和现实要求。所提出的方法制定MO约束优化和解决问题的流行的Boosting框架-我们的工作的一个新的贡献。此外,我们提出了一个程序来设置所有的优化参数的问题。实验结果表明,该方法成功地实现了MO标准比现有的方法更有效。
2020-02-13 cs.IR cs.LG
The Attention Market: Interpreting Online Fair Re-ranking as Manifold Optimization under Walrasian Equilibrium
University of Montreal(蒙特利尔大学);University of Amsterdam(阿姆斯特丹大学)
本文提出ManifoldRank算法,通过流形优化和Walras均衡框架,在信息检索中实现公平性与准确性的平衡。
2026-04-28 cs.IR
K-order Ranking Preference Optimization for Large Language Models
针对现有列表式方法优化偏序或全序的局限性,提出K阶排序偏好优化(KPO),通过扩展Plackett-Luce模型适应top-K排序,并支持动态确定K值与课程学习,显著提升了样本效率与噪声鲁棒性。
2025-05-31 cs.IR
Computationally Efficient Optimization of Plackett-Luce Ranking Models for Relevance and Fairness
最近的工作提出了随机Plackett-Luce(PL)排名模型作为优化相关性和公平性指标的一个强大的选择。与需要启发式优化算法的确定性模型不同,PL模型是完全可微的。理论上,它们可以通过随机梯度下降来优化排名度量。然而,在实践中,梯度的计算是不可行的,因为它需要对所有可能的项目排列进行遍历。因此,实际应用依赖于通过采样技术来近似梯度。在本文中,我们介绍了一种新的算法:PL排名,估计梯度的PL排名模型w.r.t.相关性和公平性指标。与基于策略梯度的现有方法不同,PL-排名利用PL模型和排名指标的特定结构。我们的实验分析表明,PL排名有一个更大的采样效率,是计算成本低于现有的策略梯度,从而在更高的性能更快的收敛。PL-Rank进一步使行业能够将PL模型应用于更相关和更公平的现实世界排名系统。
2021-07-07 cs.IR
CHASE: How Content Ecosystems Are Reshaped When Ranking Is the Only Target
University of California, Berkeley(加州大学伯克利分校);Zhejiang University(浙江大学)
本研究提出CHASE模拟框架,发现针对固定LLM排序信号的重复优化会使内容质量与排序一致性下降,且生态系统动态具领域依赖性,揭示了GEO的群体层面效应。
2026-09-01 cs.AI cs.IR
Scaling up Ranking under Constraints for Live Recommendations by Replacing Optimization with Prediction
Columbia University(哥伦比亚大学);Stanford University(斯坦福大学)
许多重要的多目标决策问题都可以在约束排序的框架下进行求解,并通过加权二部匹配线性规划来解决。这些优化问题中的一些,例如个性化内容推荐,可能需要实时的解决,因此必须遵守严格的时间要求,以防止消费者感知到延迟。经典的线性规划对于这样的设置计算效率太低。我们提出了一种新的方法来扩大排名的约束条件下,取代加权二分匹配优化与预测问题的算法部署阶段。我们的经验表明,建议的近似解决方案的排名问题,导致所需的计算资源大幅减少,而没有太多的牺牲,在约束合规性和实现的效用,使我们能够解决更大的约束排名问题实时,在所需的50毫秒内,比以前报道的。
2022-02-14 cs.IR cs.LG
StealthRank: LLM Ranking Manipulation via Stealthy Prompt Optimization
University of Southern California(南加州大学);Arizona State University(亚利桑那州立大学)
StealthRank提出基于能量优化与Langevin动力学的对抗攻击方法,生成隐蔽提示操纵LLM排名系统,在有效性和隐蔽性上超越现有基线,揭示关键漏洞。
2025-05-23 cs.AI cs.CL cs.IR
MISO: Model-Internal-State-Guided Optimization for Ranking Models
Meta Inc(Meta公司)
针对排序模型优化依赖昂贵试错的问题,提出利用模型内部状态的MISO工作流,在广告排序案例中提升归一化熵且减少验证运行,实现手动调优与自动搜索的折中。
2026-08-27 cs.IR
Top Rank Optimization in Linear Time
Nanjing University(南京大学);Michigan State University(密歇根州立大学)
二分排名的目的是学习一个实值排名函数,该函数将正面实例排序在负面实例之前。最近的努力,二分排名的重点是优化排名列表的顶部的排名精度。大多数现有的方法要么是优化任务特定的指标,要么是通过更多地强调与排名靠前的实例相关联的错误来扩展排名损失,从而导致在训练实例的数量上超线性的高计算成本。我们提出了一种高效的方法,名为TopPush,用于优化在顶部的准确性,具有计算复杂性线性的训练实例的数量。我们提出了一种新的分析,边界的泛化误差的排名最高的情况下,所提出的方法。实证研究表明,所提出的方法是非常有竞争力的国家的最先进的方法,是10-100倍的速度。
2014-10-06 cs.AI cs.IR cs.LG
Constraint-Aware Generative Re-ranking for Multi-Objective Optimization in Advertising Feeds
Bilibili Inc(哔哩哔哩公司)
本文提出一种面向约束的生成重排框架,通过整合序列生成与奖励估计,提升广告流中多目标优化的效率与效果。
2026-03-04 cs.IR
AgenticRecTune: Multi-Agent with Self-Evolving Skillhub for Recommendation System Optimization
Google(谷歌)
本文提出AgenticRecTune框架,通过五个智能体实现端到端配置优化,利用LLM进行最优配置空间探索,结合自演化Skillhub提升推荐系统性能。
2026-05-12 cs.AI cs.IR
Probabilistic Permutation Graph Search: Black-Box Optimization for Fairness in Ranking
University of Amsterdam(阿姆斯特丹大学)
根据不同的基本假设和观点,有几种衡量排名公平性的标准。使用REINFORCE算法的PL优化可用于优化排列上的黑盒目标函数。特别是,它可以用于优化公平措施。然而,尽管PL优化对于具有中等数量的重复会话的查询有效,但是对于具有少量重复会话的查询仍有改进的空间。在本文中,我们提出了一种新的方式来表示置换分布,置换图的概念的基础上。类似于PL,我们的分布表示,称为PPG,可用于公平性的黑盒优化。与使用逐点对数作为分布参数的PL不同,在PPG中,成对反转概率与参考排列一起构建分布。因此,参考排列可以被设置为关于目标函数的最佳采样排列,使得PPG适合于确定性和随机性排序两者。我们的实验表明,PPG,而相当于PL的较大的会话重复(即,随机排序),改进了PL以优化具有一个会话的查询的公平性度量(即,确定性排名)。此外,当准确的效用估计可用时,例如,在表格模型中,与来自学习排序模型的较低质量效用估计相比,PPG在公平性优化中的性能显著提高,导致与PL的大的性能差距。最后,成对概率使得可以施加成对约束,例如"项目$d_1$的排名应该总是高于项目$d_2$"。“这样的约束可以用来同时优化公平性度量和控制另一个目标,如排名性能。
2022-04-28 cs.IR cs.LG
Learned Ranking Function: From Short-term Behavior Predictions to Long-term User Satisfaction
Google Inc(谷歌公司);Google DeepMind(谷歌DeepMind);University of California, Davis(加利福尼亚大学戴维斯分校)
本研究提出学习型排序函数LRF,将推荐问题建模为 slate 优化问题以提升长期用户满意度,还设计了新型约束优化算法稳定多目标权衡,并已在 YouTube 部署验证。
2024-08-12 cs.AI cs.IR cs.LG
Efficient AUC Optimization for Information Ranking Applications
充分评估一个信息检索系统,以估计未来的性能是一个至关重要的任务。ROC曲线下面积(AUC)被广泛用于评价检索系统的泛化能力。然而,在许多检索系统中优化的目标函数是出错率而不是AUC值。本文提供了一种高效和有效的非线性方法来优化AUC使用加性回归树,特别强调使用多类AUC(MAUC),因为多个相关性水平被广泛用于许多排名应用。与传统的线性方法相比,非线性方法的性能在二进制相关性基准数据集上相当,并且在多相关性基准数据集上更好。
2016-04-23 cs.IR stat.ML
A Generative Re-ranking Model for List-level Multi-objective Optimization at Taobao
本文提出端到端生成式重排模型 SORT-Gen,通过有序回归估计子列表多目标值,并结合掩码驱动快速生成算法,在淘宝百亿补贴实现 CLCK 提升4.13%、GMV提升8.10%。
2025-05-12 cs.IR
RaCT: Ranking-aware Chain-of-Thought Optimization for LLMs
Santa Clara University(圣克拉拉大学);Rochester Institute of Technology(罗切斯特理工学院)
本文提出RaCT方法,通过思维链提示与SFT-RPO两阶段训练相结合,在提升LLM文本重排序性能的同时有效保留其通用推理能力。
2025-09-19 cs.IR
Marginal-Certainty-aware Fair Ranking Algorithm
排名系统在现代互联网服务中无处不在,包括在线市场、社交媒体和搜索引擎。传统的排名系统只关注如何获得更好的相关性估计。当相关性估计可用时,它们通常采用以用户为中心的优化策略,其中通过根据项目的估计相关性对项目进行排序来生成排名列表。然而,这种以用户为中心的优化忽略了一个事实,即项目提供商也从排名系统中获取效用。现有研究表明,这种以用户为中心的优化会对物品提供者造成很大的不公平,其次是对物品提供者的不公平机会和不公平的经济收益。为了解决排名公平性,已经提出了许多公平排名方法。然而,正如我们在本文中所示,这些方法可能是次优的,因为它们直接依赖于相关性估计而不知道不确定性(即,估计的相关性的方差)。为了解决这种不确定性,我们提出了一种新的边缘感知公平算法MCFair。MCFair联合优化公平性和用户效用,而相关性估计以在线方式不断更新。在MCFair中,我们首先开发了一个排名目标,包括不确定性,公平性和用户效用。然后我们直接使用排序目标的梯度作为排序得分。我们从理论上证明了基于梯度的MCFair对于上述排名目标是最优的。从经验上讲,我们发现,在半合成数据集上,MCFair是有效和实用的,与最先进的公平排名方法相比,可以提供更优越的性能。为了便于重现,我们发布了我们的代码https://github.com/Taosheng-ty/WSDM22-MCFair。
2022-12-18 cs.IR
Fast solution to the fair ranking problem using the Sinkhorn algorithm
University of Tsukuba(筑波大学);Recruit Co., Ltd(Recruit公司);Mercari, inc(Mercari公司);Hosei University(法政大学)
本文针对双边市场推荐系统中的公平排序问题,提出将原约束优化问题转化为无约束问题,并利用重复执行Sinkhorn算法的梯度上升方法实现快速求解,实验表明其速度快于商业优化软件约1000倍且排序质量高。
2024-06-11 cs.AI cs.IR math.OC
Aligning Web Query Generation with Ranking Objectives via Direct Preference Optimization
提出利用直接偏好优化(DPO)将排序信号融入查询生成,以生成高质量合成查询,提升下游检索性能,并在MS MARCO基准上验证了有效性。
2025-05-25 cs.IR
Personalized Re-ranking for Recommendation
Alibaba Group(阿里巴巴集团);Rutgers University(罗格斯大学);Kwai Inc.(快手公司)
排序是推荐系统的核心任务,其目的是为用户提供一个有序的项目列表。通常,从标记的数据集学习排名函数以优化全局性能,这为每个单独的项目产生排名分数。然而,它可能是次优的,因为评分函数单独地应用于每个项目,并且没有明确地考虑项目之间的相互影响,以及用户的偏好或意图的差异。因此,我们提出了一个个性化的重新排序模型的推荐系统。建议的重新排名模型可以很容易地部署为后续模块后,任何排名算法,直接使用现有的排名特征向量。该算法采用一种Transformer结构对推荐列表中所有项目的信息进行有效编码,从而直接优化整个推荐列表。具体地说,Transformer应用了一种自我注意力机制,该机制直接对整个列表中任何一对项之间的全局关系进行建模。我们确认,通过引入预训练的嵌入来学习不同用户的个性化编码函数,可以进一步提高性能。离线基准测试和真实在线电子商务系统上的实验结果表明,所提出的重排序模型的显着改善。
2019-07-23 cs.AI cs.IR
GoalRank: Group-Relative Optimization for a Large Ranking Model
Kuaishou Technology(快手科技);University of Chinese Academy of Sciences(中国科学院大学)
GoalRank提出一种仅生成器的单阶段排序框架,通过组相对方式利用奖励模型构建参考策略,有效提升大规模排序性能。
2026-01-27 cs.IR
DEGR: Dual Exploration-Driven Generative Re-Ranking for Adaptive Cross-Request Context Bridging
针对工业推荐系统重排序受上游供给限制的问题,提出DEGR方法,通过双探索驱动的混合优化范式实现自适应跨请求上下文桥接,在京东电商推荐系统中较SOTA方法取得UCTR最高1.22%、PV0.20%的提升。
2026-08-06 cs.IR
PT-Ranking: A Benchmarking Platform for Neural Learning-to-Rank
深度神经网络已成为研究学习排序算法方面的研究人员的首选。不幸的是,要找到实现最佳排名性能的超参数的最佳设置并不容易。因此,开发新模型并与现有方法进行公平比较变得越来越困难,特别是对于新手。在这项工作中,我们提出了PT-Ranking,这是一个基于PyTorch的开源项目,用于开发和评估使用深度神经网络作为基础来构建评分函数的学习排序方法。一方面,PT排序包括许多有代表性的学习排序方法。除了传统的优化框架通过经验风险最小化,对抗优化框架也被集成。此外,PT排名的模块化设计提供了一套构建模块,用户可以利用这些模块来开发新的排名模型。另一方面,PT排名支持基于广泛使用的数据集(例如,Yahoo!LETOR和Istella LETOR)在不同的度量方面,例如精度、MAP、nDCG、nERR。通过以指定的比率随机掩蔽地面实况标签,PT排名允许检查未标记的查询-文档对的比率在多大程度上影响不同学习排序方法的性能。我们进一步进行了一系列演示实验,以清楚地显示不同因素对神经学习排序方法的影响,如激活函数,层数和优化策略。
2020-08-31 cs.IR
Joint Optimization of Relevance and Engagement in Multi-Task Ranking for E-Commerce with Efficient LLM Supervision
DoorDash Inc.(DoorDash公司)
提出一个生产级多任务排序系统,通过序数相关头与统一价值模型联合优化相关性和参与度,并利用微调轻量级LLM生成三级序数相关标签,显著提升语义对齐同时保持核心参与目标。
2026-05-26 cs.IR
Understanding the Effects of Adversarial Personalized Ranking Optimization Method on Recommendation Quality
Polytechnic University of Bari(巴里理工大学)
推荐系统(RS)采用用户项目反馈,例如,评级,以匹配客户的个性化产品列表。top-k推荐的方法主要依赖于学习排名算法,其中,最广泛采用的是贝叶斯个性化排名(BPR),它基于成对优化方法。最近,BPR已被发现易受其模型参数的对抗性扰动。对抗性个性化排名(APR)通过对抗性训练过程增强BPR来缓解这个问题。APR在BPR上的准确性性能的经验改进导致其在几个推荐模型中的广泛使用。然而,一个被忽视的关键方面是APR的超精度性能,即,新颖性,覆盖率和放大的流行偏见,考虑到最近的结果表明,业务流程再造,APR的基石,是敏感的偏见和减少的建议新颖性的加剧。在这项工作中,我们建模的BPR和APR优化框架的学习特性,给出数学证据,当反馈数据有一个尾部分布,APR放大的流行偏见比BPR由于收到的正面更新短标题项目的数量不平衡。使用矩阵分解(MF),我们通过在两个公共数据集上进行初步实验来实证验证理论结果,以比较BPR-MF和APR-MF在准确度和超准确度指标上的性能。实验结果一致表明,新颖性和覆盖率的措施和令人担忧的放大偏见的退化。
2021-07-29 cs.AI cs.CR cs.IR
An Innovative Approach for online Meta Search Engine Optimization
Northumbria University(诺森比亚大学)
本文提出了一种方法,以确定有效的技术用于Web搜索引擎优化(SEO)。了解SEO因素,可以影响页面排名在搜索引擎是有意义的网站管理员谁希望吸引大量的用户到他们的网站。不同于以往的相关研究,在这项研究中,我们开发了一个智能的Meta搜索引擎,聚合的结果,从各种搜索引擎和排名的基础上,几个重要的SEO参数。该研究试图建立在排名算法中使用更多的SEO参数有助于检索更好的搜索结果,从而提高用户满意度。从Meta搜索引擎生成的初始结果在更好地检索到高精度的搜索结果方面优于现有的搜索引擎。
2015-09-28 cs.AI cs.IR
Proximal Ranking Policy Optimization for Practical Safety in Counterfactual Learning to Rank
University of Amsterdam(阿姆斯特丹大学);Radboud University(拉德堡德大学)
针对现有安全反事实排序学习方法适用范围有限、依赖用户行为假设的问题,提出近端排序策略优化PRPO,通过约束学习模型与安全模型的差异保障安全,实验证明其性能更优且在对抗场景下仍保持安全,为实际应用提供无条件鲁棒安全保障。
2024-09-15 cs.IR cs.LG
Seq2Slate: Re-ranking and Slate Optimization with RNNs
Google(谷歌(公司))
排序是机器学习和信息检索的核心任务。在这项任务中,向用户呈现一系列整体上吸引人的项目尤为重要。这反过来又需要考虑到项目之间的相互作用,因为直观地说,将一个项目的石板影响的决定,其他项目应该放在旁边it.In这项工作中,我们提出了一个序列到序列的排名模型称为seq2slate。在每一步,模型预测下一个“最好”的项目放置在石板给定的项目已经选择。该模型的顺序特性允许以灵活和可伸缩的方式直接捕获项目之间的复杂依赖关系。我们展示了如何以轻松获得的点击数据的形式从弱监督中端到端地学习模型。我们进一步证明了我们的方法在标准排名基准的实验中以及在现实世界的推荐系统中的有用性。
2019-03-19 cs.IR cs.LG stat.ML
Joint Optimization of Ranking and Calibration with Contextualized Hybrid Model
Alibaba Group(阿里巴巴集团)
针对点击率预测中排序损失与逐点损失直接结合会破坏 logit 含义的问题,提出 JRC 方法,通过约束预测概率为 logit 差值的函数并近似优化上下文化混合判别-生成目标,在公开、工业数据集及阿里巴巴广告平台上同时提升排序与校准能力。
2023-05-28 cs.IR cs.LG
On Softmax Direct Preference Optimization for Recommendation
National University of Singapore(新加坡国立大学);University of Science and Technology of China(中国科学技术大学);Hokkaido University(北海道大学)
提出Softmax-DPO方法,将排序信息注入语言模型推荐系统,通过多负样本和部分排序损失提升个性化推荐性能,并在三个数据集上验证其有效性。
2024-11-07 cs.AI cs.IR
Bridge the Gap between Past and Future: Siamese Model Optimization for Context-Aware Document Ranking
Ant Group(蚂蚁集团)
针对仅用历史会话数据难以捕捉动态用户意图的问题,提出含历史条件与未来感知模型的孪生优化框架,结合带动态门控的对等知识蒸馏,使推理时仅用历史数据的ForeRanker排序性能优于现有方法。
2025-05-20 cs.CV cs.IR
Are LLMs Reliable Rankers? Rank Manipulation via Two-Stage Token Optimization
National University of Singapore(新加坡国立大学);University of Southern California(南加州大学);Georgetown University(乔治城大学);Arizona State University(亚利桑那州立大学)
本文提出RAF方法,通过两阶段令牌优化生成自然语言提示,提升目标项在LLM排名中的位置,同时保持语言自然性,实验显示其在提升排名和保持自然性方面比现有方法更鲁棒。
2026-06-28 cs.AI cs.CL cs.IR
New Insights into Metric Optimization for Ranking-based Recommendation
直接优化的IR指标经常被采用的方法来设计和开发基于排名的推荐系统。遵循这种方法的大多数方法旨在优化用于评估的相同度量,假设这将导致最佳性能。然而,对这一做法的一些研究对这一假设提出了质疑。在本文中,我们深入研究了这个问题,以了解更多的影响的选择的度量,以优化性能的排名为基础的推荐系统。我们提出了一个广泛的实验研究,在不同的数据集上进行成对和列表学习排名的情况下,比较四个流行的IR指标,即RR,AP,nDCG和RBP的相对优点,当用于优化和评估的推荐系统在各种组合。对于前三个,我们遵循文献中可用的损失函数公式化的实践。对于第四个,我们提出了新的损失函数的启发RBP的成对和列表的情况。我们的研究结果证实,最好的性能确实不一定达到优化相同的指标用于评估时。事实上,我们发现RBP引发的损失至少以一致的方式表现得与其他指标一样好,并且在几种情况下提供了明显的好处。有趣的是,RBP引发的损失,虽然提高了所有用途的推荐性能,但可能会导致与用户与项目交互的活动水平相关的个人性能增益。用户越活跃,他们受益越多。总的来说,我们的研究结果挑战了当前研究实践中优化和评估相同指标的假设,并指出基于RBP的优化在推荐环境中学习排序时是一种有前途的替代方案。
2021-06-04 cs.IR
Skewness Ranking Optimization for Personalized Recommendation
Academia Sinica(中央研究院);National Chengchi University(国立政治大学)
在本文中,我们提出了一种新的优化标准,利用偏正态分布的功能,以更好地模拟个性化推荐的问题。具体而言,开发的标准借用的概念和灵活性的偏正态分布,基于此三个超参数附加到优化标准。此外,从理论上建立了该准则的最大化与偏正态分布中形状参数之间的关系,并给出了该准则与ROC曲线下面积最大化的类比和渐近分析.在一系列大规模现实世界数据集上进行的实验结果表明,我们的模型显着优于最新技术水平,并在所有测试数据集上始终产生最佳性能。
2020-05-23 cs.IR cs.LG stat.ML
Theoretical Guarantees for LT-TTD: A Unified Transformer-based Architecture for Two-Level Ranking Systems
本文提出统一两级排序的 LT-TTD 架构,结合双塔模型与 Transformer,并给出误差传播、排序质量和收敛性的理论保证,同时引入 UPQE 评估指标。
2025-05-07 cs.IR stat.ML
CaliCausalRank: Calibrated Multi-Objective Ad Ranking with Robust Counterfactual Utility Optimization
Columbia University(哥伦比亚大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Carnegie Mellon University(卡内基梅隆大学);University of Pennsylvania(宾夕法尼亚大学);Trine University(特莱恩大学);University of Michigan(密歇根大学)
CaliCausalRank通过整合训练时的尺度校准、约束多目标优化和鲁棒反事实效用估计,提升了广告排序的多目标优化性能。
2026-02-21 cs.IR cs.LG
PreferRec: Learning and Transferring Pareto Preferences for Multi-objective Re-ranking
Shenzhen University(深圳大学);Shenzhen Technology University(深圳职业技术大学)
PreferRec通过建模和迁移帕累托偏好提升多目标重排序性能,解决传统方法在用户偏好建模和跨用户知识迁移中的不足。
2026-03-23 cs.IR cs.NE
Breaking the Top-$K$ Barrier: Advancing Top-$K$ Ranking Metrics Optimization in Recommender Systems
Zhejiang University(浙江大学);Beijing Technology and Business University(北京科技与商业大学)
针对推荐系统中 NDCG@$K$ 优化难题,提出 SoftmaxLoss@$K$ 损失,结合分位数技术处理 Top-$K$ 截断并推导平滑上界,实验显示平均提升 6.03%。
2025-08-04 cs.AI cs.IR cs.LG
Test-Time Optimization of Query Embeddings with Ranking Aware Reward Maximization
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本研究提出TTT-Embed框架,将排名奖励提炼为轻量学习向量,无需访问模型权重即可优化,在多嵌入模型和MTEB任务上显著提升测试时检索效果,且具备良好泛化性,解决了灾难性遗忘问题。
2026-08-14 cs.IR
Confidence Ranking for CTR Prediction
本文提出Confidence Ranking框架,通过设计基于双模型的排序损失直接优化AUC等指标,在CTR预测任务中超越基线并已部署于京东广告精排阶段。
2023-06-28 cs.IR cs.LG
An Efficient Combinatorial Optimization Model Using Learning-to-Rank Distillation
Sungkyunkwan University(成均馆大学)
最近,深度强化学习(RL)已经证明了其在解决组合优化问题(COP)中的可行性。学习排序技术是信息检索领域的研究热点。虽然几个COP可以被公式化为输入项的优先级排序,这在信息检索中是常见的,但还没有充分探索如何将学习排序技术结合到COP的深度RL中。在本文中,我们提出了基于学习排序蒸馏的COP框架,其中通过RL获得的COP的高性能排名策略可以被蒸馏成非迭代的简单模型,从而实现低延迟的COP求解器。具体来说,我们采用近似的排名蒸馏,使基于分数的排名模型通过梯度下降学习。此外,我们使用有效的序列采样,以提高推理性能与有限的延迟。通过该框架,我们证明了一个蒸馏模型不仅可以实现与其各自的高性能RL相当的性能,而且还可以提供几倍的推理速度。我们评估的框架与几个COP,如基于优先级的任务调度和多维背包,展示了推理延迟和性能方面的框架的好处。
2021-12-24 cs.AI cs.IR cs.LG
From Token Generation to Item Ranking: Direct Generative Recommendation with Semantic IDs
Central South University(中南大学);Hong Kong Polytechnic University(香港理工大学);National University of Defense Technology(国防科技大学);City University of Macau(澳门城市大学);Griffith University(格里菲斯大学)
SimGR通过在共享潜在空间中直接建模物品层面偏好分布,缓解了基于LLM推荐中生成解码的偏差问题。
2026-08-18 cs.IR
Fast online ranking with fairness of exposure
Meta AI
随着推荐系统在对在线内容进行分类和优先级排序方面变得越来越重要,它们对商品生产商的机会或收入产生了越来越大的影响。例如,他们会影响简历推荐给哪个招聘人员,或者音乐曲目、视频或新闻文章被曝光给谁和曝光多少。这就要求推荐方法不仅要最大化用户满意度,而且要考虑项目或项目组曝光的公平性。形式上,这样的建议通常是通过最大化随机排名空间中的凹目标函数来获得的。当一个项目的总曝光量被定义为它在用户上的曝光量之和时,每个用户的最佳排名变得耦合,这使得优化过程具有挑战性。找到这些排名的现有方法或者解决批处理设置中的全局优化问题,即,这使得它们不适用于大规模,或者基于具有弱理论保证的物理学。在本文中,我们提出了第一个有效的在线算法,以优化凹目标函数的空间中的排名,适用于每一个凹和光滑的目标函数,如发现公平的曝光。基于Frank-Wolfe算法的在线变体,我们证明了我们的算法计算速度快,实时生成排名,计算成本由排序操作主导,内存效率高,并且具有很强的理论保证。与只最大化用户端性能的基线策略相比,我们的算法允许将复杂的公平性暴露标准与可忽略不计的计算开销的建议。
2022-09-13 cs.AI cs.CY cs.IR
Multi-Label Learning to Rank through Multi-Objective Optimization
National University of Singapore(新加坡国立大学);Amazon.com Inc(亚马逊公司)
学习排序(Learning to Rank,LTR)技术在当今的信息检索系统中普遍存在,尤其是在搜索排序应用中。通常用于训练排名模型的查询项相关性标签通常是人类行为的噪声测量,例如,产品搜索的产品评级。粗略测量使得地面实况排名相对于单个相关性准则是非唯一的。为了解决模糊性,需要使用许多相关性准则来训练模型,从而产生多标签LTR(MLLTR)。此外,它制定了多个目标,这些目标可能是冲突的,但同时优化是重要的,例如,在产品搜索中,可以基于产品质量和购买可能性来训练排名模型以增加收入。在这项研究中,我们利用多目标优化(MOO)方面的MLLTR问题,并采用最近开发的MOO算法来解决它。具体来说,我们提出了一个通用的框架,标签的信息可以结合在各种方式来有意义地表征目标之间的权衡。我们的框架允许任何基于梯度的MOO算法用于解决MLLTR问题。我们在两个公开的LTR数据集和一个电子商务数据集上测试了所提出的框架,以显示其有效性。
2022-07-08 cs.IR cs.LG
Optimizing Ranking Systems Online as Bandits
University of Amsterdam(阿姆斯特丹大学);Ahold Delhaize(皇家阿霍德德尔海兹集团);Microsoft(微软)
排序系统是现代检索和推荐系统的核心部分,其目标是根据用户上下文对候选项进行排序。在线优化排名系统意味着部署的系统可以服务于用户请求,例如,查询,并通过从用户交互中学习来优化排名策略,例如,次点击Bandit是一个通用的在线学习框架,可以用于我们的优化任务。然而,由于排名的独特性,在设计用于排名系统优化的强盗算法方面存在一些挑战。在这篇论文中,我们研究并提出了四个挑战的解决方案,在优化排名系统在线:有效性,安全性,非平稳性和多样化。首先,有效性与算法从交互中学习的速度有关。本文研究了有效的在线排名评估任务,提出了一种有效的在线排名评估算法。其次,部署的算法应该是安全的,这意味着算法只显示用户请求的合理内容。为了解决安全的在线学习排名问题,我们提出了BubbleRank算法。第三,当用户不断改变他们的偏好时,算法应该处理非平稳性。我们制定这个非平稳在线学习排名问题级联非平稳土匪,并提出CascadeDUCB和CascadeSWUCB算法来解决这个问题。最后,排行榜的内容应该是多样的。我们认为结果多样化的任务,并提出了CascadeHybird算法,同时考虑项目的相关性和结果多样化时,从用户交互学习。
2021-10-12 cs.IR cs.LG
Lower-Left Partial AUC: An Effective and Efficient Optimization Metric for Recommendation
University of Science and Technology of China(中国科学技术大学);National University of Singapore(新加坡国立大学)
针对Top-K指标计算昂贵而AUC等指标偏离推荐目标的问题,本文提出LLPAUC及对应逐点损失,理论与三个数据集实验验证其高效、有效且鲁棒。
2024-02-29 cs.IR cs.LG
Contextual bandits with concave rewards, and an application to fair ranking
PSL University(巴黎文理研究大学);Meta AI
我们认为上下文的强盗与凹奖励(CBCR),一个多目标的强盗问题,其中所需的权衡之间的奖励是由一个已知的凹目标函数定义的,和奖励向量取决于观察到的随机上下文。我们提出了第一个算法,可证明消失的遗憾CBCR没有限制的政策空间,而以前的作品仅限于有限的政策空间或表格表示。我们的解决方案是基于几何解释的CBCR算法作为优化算法的期望回报跨越所有随机政策的凸集。基于约束凸优化中的Frank-Wolfe分析,我们得到了一个新的减少,从CBCR遗憾的标量奖励强盗问题的遗憾。我们说明了如何应用减少现成的线性和一般的奖励函数,在非组合行动的情况下,获得算法的CBCR。出于公平的建议,我们描述了一个特殊情况下的CBCR排名和公平意识的目标,导致第一个算法的遗憾保证上下文组合土匪公平曝光。
2023-02-28 cs.AI cs.CY cs.IR
Equity of Attention: Amortizing Individual Fairness in Rankings
人物和物品的排名是从就业网站到共享经济平台的选择、匹配和推荐系统的核心。由于排名位置会影响排名主题获得的关注量,排名中的偏见可能会导致机会和资源的不公平分配,例如工作或收入。本文提出了新的措施和机制,量化和减轻不公平的偏见固有的所有排名,即位置偏见,这导致不成比例地少关注低排名的科目。我们的方法在两个重要方面不同于最近的公平排名方法。首先,现有的作品测量不公平的主题组的水平,而我们的措施捕捉不公平的个人科目的水平,并因此submenu组的不公平。其次,由于没有一个单一的排名可以实现个人的注意力公平,我们提出了一种新的机制,实现摊销的公平性,在一系列的排名中积累的注意力是成比例的积累相关性。我们制定的挑战,实现摊销的个人公平性的约束排名质量作为一个在线优化问题,并表明它可以作为一个整数线性规划来解决。我们的实验评估表明,不公平的注意力分布在排名可以是实质性的,并表明我们的方法可以提高个人的公平性,同时保持高排名质量。
2018-05-04 cs.CY cs.IR
Developing a Ranking Problem Library (RPLIB) from a data-oriented perspective
我们提出了一个改进的库的排名问题称为RPLIB。RPLIB包括以下数据和功能。(1)两个成对数据的真实和人工数据集(即,关于项目对的排序的信息)和特征数据(即,关于要被排名的每个项目的特征的向量)。这些数据集大小不等(例如,从小的$n=10$项目数据集到具有数百个项目的大数据集),应用(例如,从体育到经济数据)和来源(例如,真实的与人工生成的具有特定结构)。(2)RPLIB包含最常见的排序算法的代码,例如线性排序优化方法和Massey方法。(3)RPLIB还允许用户贡献自己的数据、代码和算法。每个RPLIB数据集都有一个相关的.JSON模型卡,其中包含附加信息,例如最佳排名的数量和集合、最佳目标值和相应的数字。
2022-06-21 cs.DB cs.DL cs.IR