COPR: Consistency-Oriented Pre-Ranking for Online Advertising
Alibaba Group(阿里巴巴集团)
针对在线广告级联架构中预排序与排序模型结果不一致的问题,提出一致性导向预排序框架COPR,通过分块采样、排序对齐模块及ΔNDCG加权机制优化ECPM排序一致性,在淘宝广告系统实现CTR和RPM显著提升。
2023-10-09 cs.IR cs.LG
TopRank: A practical algorithm for online stochastic ranking
DeepMind(深度思维);Google(谷歌);The Chinese University of Hong Kong(香港中文大学);University of Alberta(阿尔伯塔大学)
在线学习排名是一个顺序决策问题,在每一轮中,学习代理选择一个项目列表,并从用户那里收到点击形式的反馈。许多样本效率的算法已经提出了这个问题,假设一个特定的点击模型连接排名和用户行为。我们提出了一个广义的点击模型,包括许多现有的模型,包括基于位置和级联模型。我们的推广激发了一种新的在线学习算法的基础上拓扑排序,我们称之为TopRank。TopRank(a)比现有算法更自然,(b)比具有可比一般性的现有算法具有更强的后悔保证,(c)具有更有见地的证明,为许多概括敞开了大门,(d)在经验上优于现有算法。
2019-03-19 cs.LG stat.ML
Online Ranking: Discrete Choice, Spearman Correlation and Other Feedback
给定$n$对象的集合$V$,在线排名系统在每个时间步输出集合的完整排名,观察某种形式的反馈并遭受损失。我们研究的设置,其中(对抗)反馈是$V$中的一个元素,损失是位置(第0,第1,第2.)在输出的排名中的项目。更一般地说,我们研究的设置中的反馈是一个子集$U$的最多$k$元素在$V$,和损失是这些元素的位置的总和。我们提出了一个算法的预期遗憾$O(n^{3/2}\sqrt{Tk})$在一个时间范围内的$T$步骤的最佳单一的排名在事后。这通过$Ω(\sqrt{k})$的因子、$Ω(\sqrt{\log n})$的因子或通过将每轮的运行时间从二次改进为$O(n\log n)$来改进先前的算法和分析。我们还证明了一个匹配的下界。我们的技术也意味着一个改进的遗憾界在线排名聚合斯皮尔曼相关性措施,和其他更复杂的排名损失函数。
2013-10-14 cs.GT cs.LG stat.ML
Optimally Compressed Nonparametric Online Learning
U.S. Army Research Laboratory(美国陆军研究实验室);Indian Institute of Technology Kanpur(印度理工学院坎普尔分校)
基于神经网络的机器学习模型的批量训练现在已经很好地建立起来,而迄今为止的流方法主要基于线性模型。为了超越在线设置中的线性,非参数方法由于其通用性和通过凸性或贝叶斯规则稳定地结合新信息的能力而受到关注。不幸的是,当在线使用时,非参数方法遭受“维数灾难”,这妨碍了它们的用途:它们的复杂性至少与时间指数成比例。我们调查在线压缩工具,使他们的记忆控制和实现近似收敛。渐近偏差取决于压缩参数,该压缩参数权衡了存储器和精度。此外,机器人,通信,经济和电力的应用进行了讨论,以及扩展到多智能体系统。
2020-01-18 cs.LG eess.SP math.OC
COLD: Towards the Next Generation of Pre-Ranking System
Alibaba Group(阿里巴巴集团)
多级级联结构广泛存在于推荐系统、在线广告等工业系统中,通常由匹配、预排序、排序等顺序模块组成。长期以来,人们认为预排序只是排序模块的简化版本,考虑到待排序的候选集规模较大。因此,努力主要是简化排名模型,以处理在线推理计算能力的爆炸。在本文中,我们重新思考的挑战,预排名系统从算法系统协同设计的观点。本文通过对预排序模型和计算能力的联合优化,设计了一种新的预排序系统,而不是通过限制模型结构来节省计算能力,从而导致模型性能的损失。我们称之为COLD(计算能力成本感知在线和轻量级深度预排名系统)。COLD在三个方面击败了SOTA:(i)在可控计算能力成本的约束下,可以在COLD中应用具有交叉特征的任意深度模型。(ii)通过应用用于推理加速的优化技巧来显式地降低计算能力成本。这进一步为COLD提供了应用更复杂的深度模型以实现更好性能的空间。(iii)COLD模型以在线学习和服务的方式工作,使其具有出色的能力来应对数据分布偏移的挑战。自2019年以来,COLD已部署在阿里巴巴展示广告系统中几乎所有涉及预排名模块的产品中,带来了显著的改进。
2020-08-17 cs.AI cs.IR cs.LG
Does Fair Ranking Improve Minority Outcomes? Understanding the Interplay of Human and Algorithmic Biases in Online Hiring
Harvard University(哈佛大学)
排名算法被广泛应用于各种在线招聘平台,包括LinkedIn,TaskRabbit和Fiverr。先前的研究已经表明,这些平台所采用的排名算法容易出现各种不期望的偏差,从而导致公平排名算法的提出(例如,这增加了代表性不足的候选人的曝光率。然而,几乎没有研究探讨公平排名算法是否实际上改善了现实世界的结果(例如,招聘决定)。此外,对于其他因素(例如,工作环境、雇主的固有偏见)可能会影响公平排名在实践中的效力。在这项工作中,我们分析了在线招聘平台中性别偏见的各种来源,包括工作环境和雇主的固有偏见,并确定这些因素如何与排名算法相互作用,以影响招聘决策。据我们所知,这项工作首次尝试研究在线招聘背景下上述因素之间的相互作用。我们进行了一个大规模的用户研究模拟在线招聘场景的数据从任务兔子,一个流行的在线自由职业者网站。我们的研究结果表明,虽然公平的排名算法一般提高代表性不足的少数民族的选择率,其有效性在很大程度上依赖于工作环境和候选人的个人资料。
2021-04-08 cs.HC cs.LG
Learning Neural Ranking Models Online from Implicit User Feedback
University of Virginia(弗吉尼亚大学)
现有的在线学习排序(OL 2 R)解决方案仅限于线性模型,这是不足以捕捉查询和文档之间可能的非线性关系。在这项工作中,为了释放OL 2 R中表示学习的力量,我们提出直接从用户的隐式反馈(例如,点击)在飞行中收集。我们专注于RankNet和LambdaRank,由于它们在离线设置中的巨大经验成功和广泛采用,并基于使用神经切线核的神经网络的收敛分析来控制臭名昭著的探索-利用权衡。具体而言,在每轮结果服务中,仅对两个文档之间的预测排名顺序不确定的文档对进行探索;否则,将在结果排名中遵循排名器的预测顺序。我们证明了在标准假设下,我们的OL 2 R解决方案实现了间隙依赖的遗憾上限$O(\log^2(T))$,其中的遗憾是定义在$T$轮的错序对的总数。在两个公共学习排序基准数据集上对一组广泛的最先进的OL 2 R基线进行比较,证明了所提出的解决方案的有效性。
2022-01-17 cs.IR cs.LG
Online Ranking with Top-1 Feedback
University of Michigan, Ann Arbor(密歇根大学安娜堡分校)
我们考虑一个系统学习排名一组固定的$m$项目的设置。我们的目标是为具有不同兴趣的用户提供良好的项目排名,这些用户在$T$轮中与系统进行在线交互。我们考虑一种新的顶部$1$反馈模型:在每一轮结束时,只有排名靠前的对象的相关性得分被揭示。然而,系统的性能是根据整个排名列表来判断的。我们提供了一套全面的结果,在这个具有挑战性的设置下的可学习性。对于PairwiseLoss和DCG这两种常用的排序测度,我们证明了极小极大后悔是$Θ(T^{2/3})$ .此外,极小极大后悔是可以实现的,使用一个有效的策略,每轮只花$O(m \log m)$时间。同样有效的策略实现了$O(T^{2/3})$对Precision@ $k$的遗憾。令人惊讶的是,我们表明,对于这些排名措施的标准化版本,即,AUC,NDCG \& MAP,没有在线排名算法可以有次线性遗憾。
2016-03-06 cs.LG
Efficient Online Learning of Optimal Rankings: Dimensionality Reduction via Gradient Descent
National Technical University of Athens(雅典国立技术大学);Singapore University of Technology and Design(新加坡科技设计大学)
我们认为一个自然的模型,在线偏好聚合,其中首选项目集$R_1, R_2, \ldots, R_t$以及在每个$R_t$的$k_t$项目的需求,出现在网上。在没有$(R_t, k_t)$的先验知识的情况下,学习者保持排名$π_t$,目的是来自$R_t$的至少$k_t$项在$π_t$中出现高。这是偏好聚合中的一个基本问题,基于用户滚动和点击模式来对网页中的产品或新闻项进行排序。广泛研究的广义最小和集覆盖(GMSSC)问题作为上述设置的形式化模型。GMSSC是NP难的,并且无悔在线学习算法的标准应用在计算上是低效的,因为它们在排名空间中操作。在这项工作中,我们展示了如何实现低遗憾的GMSSC在多项式时间。我们采用降维排名的双随机矩阵的空间,在那里我们应用在线梯度下降。一个关键的步骤是显示如何子梯度可以有效地计算,通过解决对偶的配置LP。使用不经意的确定性和随机舍入方案,我们将双随机矩阵映射回排名,在GMSSC目标中损失较小。
2020-11-05 cs.LG
Fast online ranking with fairness of exposure
Meta AI
随着推荐系统在对在线内容进行分类和优先级排序方面变得越来越重要,它们对商品生产商的机会或收入产生了越来越大的影响。例如,他们会影响简历推荐给哪个招聘人员,或者音乐曲目、视频或新闻文章被曝光给谁和曝光多少。这就要求推荐方法不仅要最大化用户满意度,而且要考虑项目或项目组曝光的公平性。形式上,这样的建议通常是通过最大化随机排名空间中的凹目标函数来获得的。当一个项目的总曝光量被定义为它在用户上的曝光量之和时,每个用户的最佳排名变得耦合,这使得优化过程具有挑战性。找到这些排名的现有方法或者解决批处理设置中的全局优化问题,即,这使得它们不适用于大规模,或者基于具有弱理论保证的物理学。在本文中,我们提出了第一个有效的在线算法,以优化凹目标函数的空间中的排名,适用于每一个凹和光滑的目标函数,如发现公平的曝光。基于Frank-Wolfe算法的在线变体,我们证明了我们的算法计算速度快,实时生成排名,计算成本由排序操作主导,内存效率高,并且具有很强的理论保证。与只最大化用户端性能的基线策略相比,我们的算法允许将复杂的公平性暴露标准与可忽略不计的计算开销的建议。
2022-09-13 cs.AI cs.CY cs.IR
Confidence-Weighted Bipartite Ranking
Colorado State University(科罗拉多州立大学);Fort Collins, USA(美国科罗拉多州科林斯堡(此处仅作说明,按要求机构粒度为大学级别,原机构为Colorado State University,Fort Collins, USA是其所在城市和国家,按要求提取到大学级别即可,故主要机构为Colorado State University,Fort Collins, USA作为补充说明,但严格按要求,机构名称应为Colorado State University,Fort Collins, USA?但根据示例,原机构是Colorado State University, Fort Collins, USA,所以正确提取应为:{)
二分排序是一个基本的机器学习和数据采掘问题。它通常涉及AUC度量的最大化。最近,一些研究提出了在线二分排名算法,从大量的类不平衡的数据流中学习。这些方法建议线性和基于核的二分排名算法的基础上,一阶和二阶在线学习。与核化排序器不同,线性排序器是更具可扩展性的学习算法。现有的线性在线二分排序算法既缺乏对不可分数据的处理,也缺乏自适应大间隔的构造。这些限制产生不可靠的二分排名性能。在这项工作中,我们提出了一个线性在线置信加权二分排序算法(CBR),采用软置信加权学习。所提出的算法利用软置信加权学习在二分排名的框架中的相同属性。我们还开发了一个对角线变化的建议的置信加权二分排序算法处理高维数据,只保持协方差矩阵的对角元素。我们经验评估所提出的算法在几个基准和高维数据集的有效性。实验结果验证了算法的可靠性。结果还表明,我们的算法优于或至少相当于竞争在线AUC最大化方法。
2019-03-10 cs.LG
Cascading Hybrid Bandits: Online Learning to Rank for Relevance and Diversity
University of Amsterdam(阿姆斯特丹大学);Bloomberg(彭博);Ahold Delhaize(阿霍德·德尔海兹)
相关性排序和结果多样化是现代推荐系统的两个核心领域。相关性排名旨在建立一个按项目相关性降序排序的排名列表,而结果多样化则侧重于生成一个涵盖广泛主题的项目排名列表。在本文中,我们研究了一个在线学习设置,旨在推荐一个排名列表,其中包含最大化排名效用的$K$项目,即,一个列表,其中的项目是相关的,其主题是多样化的。我们将其表述为级联混合土匪(CHB)问题。CHB假设级联用户行为,其中用户从上到下浏览显示的列表,单击第一个有吸引力的项目,并停止浏览其余的。我们提出了一个混合上下文强盗的方法,称为CascadeHybrid,解决这个问题。CascadeHybrid使用两个独立的函数对项目相关性和主题多样性进行建模,并同时从用户点击反馈中学习这些函数。我们在两个真实世界的推荐数据集上进行实验来评估CascadeHybrid:MovieLens和Yahoo音乐数据集。我们的实验结果表明,CascadeHybrid优于基线。此外,我们证明了理论上的保证$n$步骤的性能,证明了CascadeHybrid的健全。
2020-08-12 cs.IR cs.LG stat.ML
Online Feature Ranking for Intrusion Detection Systems
Aalto University(阿尔托大学)
目前许多入侵检测系统的设计方法都是以静态的、非自适应的方式进行特征选择。这些方法往往忽略了网络数据的动态特性,而动态特性要求采用自适应特征选择技术。在本文中,我们提出了一种简单的技术,基于增量学习的支持向量机,以排名的功能在网络数据流模型的实时的性。两个流行的基准数据集的一些说明性的数值实验表明,我们的方法可以适应正常的网络行为和新的攻击模式,以前没有经历过的变化。
2018-06-15 cs.CR cs.LG cs.NI
Online Learning and Equilibrium Computation with Ranking Feedback
Massachusetts Institute of Technology(麻省理工学院);University of Maryland, College Park(马里兰大学 College Park 分校);Northeastern University(东北大学)
本文研究了在仅获得动作排名反馈的在线学习模型,探讨了不同排名机制下的子线性遗憾算法,并在特定条件下实现近似粗相关均衡。
2026-03-19 cs.CL cs.GT cs.LG
Do Not Wait: Learning Re-Ranking Model Without User Feedback At Serving Time in E-Commerce
Alibaba Group(阿里巴巴集团);Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);School of Information, Renmin University of China(中国人民大学信息学院)
针对电商重排序在线学习依赖延迟用户反馈的问题,提出服务时学习方法LAST,用替代模型提供指导信号、按请求临时修改模型,可无缝集成现有系统,性能优于SOTA重排序模型。
2024-06-20 cs.IR cs.LG
Production Ranking Systems: A Review
排名问题是一个数十亿美元的问题。在本文中,我们提出了几个产品质量排名系统的概述。我们表明,由于采用最有效的机器学习模型和实时的响应用户的目标相冲突,排名系统已经演变成一个系统的系统,其中每个子系统可以被视为一个组件层。我们认为这些层是数据处理,表示学习,候选人选择和在线推理。每一层都采用不同的算法和工具,每个端到端排名系统都跨越多个架构。我们的目标是让普通观众熟悉大规模排名的工作知识,所采用的工具和算法以及采用分层方法所带来的挑战。
2019-07-24 cs.IR cs.LG stat.ML
Calibrating Explore-Exploit Trade-off for Fair Online Learning to Rank
University of Virginia(弗吉尼亚大学)
在线学习排序(OL 2 R)由于其避免了离线监督排序模型学习中昂贵的相关性标注,近年来引起了广泛的研究兴趣。这样的解决方案探索未知数(例如,有意地在顶部位置上呈现所选择的结果)以改进其相关性估计。然而,这引发了对其排名公平性的关注:在OL 2 R过程中,不同类别的项目可能会受到不同的待遇。但是现有的公平排名解决方案通常需要事先了解结果相关性或执行排名器,这与OL 2 R的设置相矛盾,因此不能直接应用于保证公平性。在这项工作中,我们提出了一个通用的框架,以实现公平性定义的组曝光OL 2 R。其核心思想是校准公平控制,相关学习和在线排名质量的探索和开发。特别是,当模型正在探索一组相关反馈的结果时,我们将探索限制在随机排列的子集内,其中在反馈仍然是无偏的同时保持组间的公平性。从理论上证明了这种策略引入最小失真OL 2 R的遗憾,以获得公平。对两个公共学习排序基准数据集进行了广泛的实证分析,以证明所提出的解决方案与现有的公平OL 2 R解决方案相比的有效性。
2021-11-01 cs.IR cs.LG
RADAR: Recall Augmentation through Deferred Asynchronous Retrieval
Meta Platforms, Inc.(Meta平台公司)
提出 RADAR 框架,用离线异步全模型预排序大规模候选并作为在线高质量召回源,离线召回翻倍且在线参与度提升 0.8%。
2025-06-08 cs.IR cs.LG
Perceptron-like Algorithms and Generalization Bounds for Learning to Rank
学习排序是一个监督学习问题,其中输出空间是排序空间,而监督空间是相关性分数空间。我们对在线和批量设置下的学习排序问题都做出了理论贡献。首先,我们提出了一个类似感知器的算法,用于在线学习排名函数。我们的算法是经典的感知器算法的分类问题的扩展。其次,在批量学习的设置中,我们引入了凸排名代理的充分条件,以确保泛化界是独立于每个查询的对象的数量。当使用线性排序函数时,我们的界限成立:这是许多学习排序算法的常见做法。在开发在线算法和推广界的途中,我们提出了一个新的家庭的列表大利润率排名代理。我们的新的代理家庭是通过修改一个著名的成对大利润率排名代理,是不同的使用结构化预测框架开发的列表大利润率代理。使用建议的家庭,我们提供了一个有保证的上界的累积NDCG(或MAP)引起的损失下的感知器类算法。我们还表明,新的代理满足广义界条件。
2014-05-03 cs.LG stat.ML
Enhancing Travel Decision-Making: A Contrastive Learning Approach for Personalized Review Rankings in Accommodations
本文提出基于对比学习的个性化住宿评论排序方法,并构建超两百万条真实评论数据集,实验证明其优于多个基线,可推广至电商等领域。
2024-06-30 cs.IR cs.LG
Ranking the locations and predicting future crime occurrence by retrieving news from different Bangla online newspapers
Shahjalal University of Science and Technology(沙赫贾拉勒科技大学)
针对地方犯罪统计数据不足的问题,提出通过爬取孟加拉语在线报纸数据,结合词干提取、位置查找、余弦相似度、朴素贝叶斯和自定义模型,实现犯罪地点排名、地图定位与未来犯罪预测。
2023-05-18 cs.CY cs.IR cs.LG
Towards Off-Policy Reinforcement Learning for Ranking Policies with Human Feedback
The Pennsylvania State University(宾夕法尼亚州立大学)
本文提出离线价值排序算法VR,在统一EM框架中同时优化长期奖励和排序指标,无需在线交互即可提升推荐策略的样本效率和准确性。
2024-01-17 cs.AI cs.LG
Ranking Distillation: Learning Compact Ranking Models With High Performance for Recommender System
Simon Fraser University(西蒙弗雷泽大学)
我们提出了一种新的方法来训练排名模型,如推荐系统,这是有效的和高效的。知识蒸馏(KD)被证明是成功的图像识别,以实现有效性和效率。我们提出了一个KD技术学习排序的问题,称为\emph{ranking distillation (RD)}。具体来说,我们训练一个较小的学生模型,以学习从训练数据和较大教师模型的监督中对文档/项进行排名。学生模型实现了与大型教师模型相似的排名性能,但其较小的模型大小使在线推理更有效。RD是灵活的,因为它是正交的排名模型的教师和学生的选择。我们解决的排名问题的RD的挑战。在公共数据集和最先进的推荐模型上的实验表明,RD达到了其设计目的:使用RD学习的学生模型的模型大小不到教师模型的一半,同时实现了与教师模型相似的排名性能,并且比没有RD学习的学生模型要好得多。
2018-09-19 cs.IR cs.LG stat.ML
Optimizing E-commerce Search: Toward a Generalizable and Rank-Consistent Pre-Ranking Model
针对电商搜索精排前阶段,提出通用且排序一致的GRACE模型,通过多二分类任务和对比学习提升排序一致性与泛化性,离线AUC提升0.75%,在线CVR提升1.28%。
2024-08-21 cs.IR cs.LG
Exploration of Unranked Items in Safe Online Learning to Re-Rank
CyberAgent, Inc.(赛博艾坚特公司)
针对在线学习排序算法激进探索易损害用户体验的问题,提出基于KL-UCB选择未排序物品进行交换探索的安全OLTR算法,实验证明其在无安全违规的情况下改善了长期遗憾值。
2023-05-02 cs.IR cs.LG
Product Ranking for Revenue Maximization with Multiple Purchases
Tsinghua University(清华大学);Meituan Inc.(美团公司)
产品排名是在线零售商实现收入最大化的核心问题。为了设计合适的产品排序算法,提出了各种消费者选择模型来描述消费者在产品列表中的行为。然而,现有的工作假设每个消费者最多购买一个产品或购买产品后将继续查看产品列表,这与现实场景中的常见做法不一致。在本文中,我们假设每个消费者可以购买多种产品的意愿。为了模拟消费者的观看和购买意愿,我们设置了一个随机的注意广度和购买预算,这决定了他/她观看和购买的产品的最大数量,分别。在这种情况下,我们首先设计一个最优的排名策略时,在线零售商可以精确地模拟消费者的行为。在此基础上,我们进一步发展了基于$Õ(\sqrt{T})$的在线环境下多次购买预算UCB(MPB-UCB)算法,该算法能够同时估计消费者的行为和最大化收益。在人工和半人工数据集上的实验证明了算法的有效性。
2023-01-02 cs.LG
Residual Multi-Task Learner for Applied Ranking
Shopee Pte. Ltd.(Shopee私人有限公司);Nanyang Technological University(南洋理工大学);Shanghai University of Finance and Economics(上海财经大学)
针对电商排序中现有多任务学习方法的性能与适用性局限,本文提出轻量级框架ResFlow,通过任务网络间的残差连接实现高效跨任务信息共享,提升了排序性能并有效解决了在线与离线指标不一致问题。
2024-10-30 cs.IR cs.LG
Rethinking Personalized Ranking at Pinterest: An End-to-End Approach
Pinterest Inc.(Pinterest公司)
在这项工作中,我们提出了我们的旅程,通过端到端的学习,从原始用户的行动,彻底改变个性化的推荐引擎。我们将用户的长期兴趣编码在Pinner-Former中,Pinner-Former是一种通过新的密集所有动作损失为长期未来动作优化的用户嵌入,并通过直接从实时动作序列中学习来捕获用户的短期意图。我们进行了离线和在线实验,以验证新模型架构的性能,并解决了在生产中使用混合CPU/GPU设置服务如此复杂的模型的挑战。拟议的系统已部署在Pinterest的生产中,并在有机和广告应用程序中提供了显着的在线收益。
2022-09-18 cs.AI cs.IR cs.LG
Bridging the Gap: Unpacking the Hidden Challenges in Knowledge Distillation for Online Ranking Systems
Google LLC(谷歌有限责任公司);Google DeepMind(谷歌DeepMind);University of California, Davis(加州大学戴维斯分校)
本文针对推荐系统中知识蒸馏被忽视的数据分布偏移、教师配置寻优及标签共享等挑战,提出并在Google多个大规模视频推荐系统上评估了稳健的KD系统,在线实验证明其显著提升了学生模型性能并保障了高质量教师标签的持续生成。
2024-08-26 cs.AI cs.IR cs.LG
Variance Reduction for Heavy-Tailed Monetization Metrics in Ranking Experiments via Post-Stratification
ShareChat;Aampe;Simulacra Research
针对排序实验中重尾货币化指标方差大、统计功效低的问题,提出结合事后分层与CUPED的方差缩减框架,利用实验前协变量提升灵敏度,在ShareChat部署后以约45%的流量实现同等统计置信度。
2026-06-02 cs.LG stat.ML
Scaling User Modeling: Large-scale Online User Representations for Ads Personalization in Meta
Meta Platforms, Inc.(元平台公司)
针对Meta大规模广告系统中用户表示学习难以扩展的问题,提出SUM框架,通过上游模型生成用户嵌入供下游数百个广告模型共享,并配套SOAP平台保证新鲜度,已在生产环境验证显著效果。
2024-05-22 cs.AI cs.IR cs.LG
Online Learning to Rank with Top-k Feedback
University of Michigan(密歇根大学)
我们考虑两种设置的在线学习排名反馈限制在排名靠前的项目。该问题被转换为学习者和用户序列之间的在线游戏,经过$T$回合。在这两种设置中,学习者的目标是向用户呈现项目的排名列表。学习者的表现是根据整个排名列表和项目的真实相关性来判断的。然而,学习者在每轮结束时接收高度受限的反馈,其形式为仅最高$k$排名的项目的相关性,其中$k \ll m$。第一个设置是\emph{non-contextual},其中要排名的项目列表是固定的。第二个设置是\emph{contextual},其中项目列表以传统查询文档列表的形式变化。没有对项目和语境的相关性的生成过程进行随机假设。我们为这两种设置提供了有效的排名策略。策略实现$O(T^{2/3})$遗憾,其中遗憾是基于流行的排名措施在第一设置和排名代理人在第二设置。我们还提供了不可能的结果,某些排名措施和一定类别的代理人,当反馈仅限于排名靠前的项目,即$k=1$。我们经验证明我们的算法在模拟和真实世界的数据集上的性能。
2016-08-23 cs.LG
Learning to Rank in the Position Based Model with Bandit Feedback
Amazon(亚马逊)
个性化是许多在线体验的关键方面。特别是,内容排名通常是提供复杂个性化结果的关键组件。通常,应用监督学习排名方法,其遭受在负责产生排名的生产系统的数据汇集期间引入的偏差。为了弥补这个问题,我们利用上下文多武装匪徒。我们提出了新的扩展两个著名的算法,即LinUCB和线性汤普森采样的排名用例。为了解释生产环境中的偏差,我们采用了基于位置的点击模型。最后,我们通过在合成数据集上进行广泛的离线实验以及面向客户的在线A/B实验来证明所提出的算法的有效性。
2020-04-27 cs.LG stat.ML
The few-get-richer: a surprising consequence of popularity-based rankings
U. Pompeu Fabra(庞培法布拉大学);BGSE(巴塞罗那经济研究生院);SDU(南丹麦大学)
排名算法在从搜索引擎到推荐系统的在线平台中起着至关重要的作用。在本文中,我们确定了一个令人惊讶的结果,基于流行度的排名:报告给定信号的项目越少,它们共同吸引的整体流量的份额就越高。这种“少而富"效应出现在只有少数不同类别的物品的环境中(例如,左倾新闻源对右倾新闻源),并且基于项目的流行度对项目进行排名。我们分析表明,当人们倾向于点击排名靠前的项目,并对项目的类别有异质性的偏好时,出现了少数人更富有的效果。通过模拟,我们分析了影响的强度如何随着对环境和人类行为的假设而变化。我们还在与人类参与者的在线实验中对我们的预测进行了实验测试。我们的发现对理解错误信息的传播具有重要意义。
2019-06-14 cs.CY cs.IR cs.LG
A Multi-Objective Learning to re-Rank Approach to Optimize Online Marketplaces for Multiple Stakeholders
Expedia LPS(亿客行旅行社合作伙伴解决方案)
多目标推荐系统解决了推荐与多个可能冲突的标准相关的项目的困难任务。然而,这些系统通常被设计为解决一个单一的利益相关者的目标,通常,在在线商务中,消费者的输入和购买决策最终决定了推荐系统的成功。在这项工作中,我们解决多目标,多利益相关者,建议问题涉及一个或多个目标(S)每个利益相关者。除了消费者利益相关者之外,我们还考虑了另外两个利益相关者:提供商品和服务的供应商,以及负责通过推荐算法帮助消费者与供应商联系的中介。我们分析的多目标,多利益相关者,问题的角度来看,在线市场中介的目标是最大限度地提高其佣金通过其推荐系统。我们定义了一个多目标问题,涉及我们所有的三个利益相关者,我们解决了一个新的学习重新排名的方法,利用一个新的正则化函数的基础上的肯德尔tau相关性度量及其内核版本;给定为消费者建立的项目推荐的初始排名,我们的目标是重新排序,使得新的排序也针对次要目标进行优化,同时保持接近初始排序。我们评估我们的方法在Expedia提供的酒店推荐的真实数据集上,我们展示了我们的方法对面向业务规则的基线模型的有效性。
2017-08-03 cs.IR cs.LG
Effective and secure federated online learning to rank
School of Electrical Engineering and Computer Science(电气与计算机科学学院)
本文系统研究联邦在线学习排序(FOLTR),针对其有效性、鲁棒性、安全性及遗忘能力提出解决方案,以缩小与集中式 OLTR 的差距并拓展 FOLTR 研究版图。
2024-12-26 cs.CR cs.IR cs.LG
A Univariate Bound of Area Under ROC
ROC曲线下面积(Area under ROC,AUC)是二分类和二分排序问题的重要度量。然而,很难直接优化AUC作为学习目标,所以大多数现有的算法是基于优化替代损失AUC。这些替代损失的一个显著缺点是,它们需要在训练数据之间进行成对比较,这导致运行时间缓慢,并增加了在线学习的本地存储。在这项工作中,我们描述了一个新的替代损失的基础上重新制定的AUC风险,这不需要成对比较,但排名的预测。我们进一步表明,可以避免排名操作,并根据此代理获得的学习目标在时间和存储上具有线性复杂度。我们进行实验,以证明在线和批量算法的有效性AUC优化建议的替代损失的基础上。
2018-05-25 cs.LG stat.ML
Decoupled Entity Representation Learning for Pinterest Ads Ranking
Pinterest, Inc(Pinterest公司)
该研究提出一种上游-下游范式的解耦实体表示学习框架,通过上游模型定期学习用户与Pin嵌入并供下游广告召回、排序等任务使用,在Pinterest广告排序场景的离线在线实验均获性能提升,已上线生产系统。
2025-09-04 cs.AI cs.IR cs.LG
Online Structured Prediction via Coactive Learning
Cornell University(康奈尔大学)
我们提出协同学习作为一个学习系统和人类用户之间的交互模型,两者都有一个共同的目标,即为用户提供最大效用的结果。在每个步骤,系统(例如,搜索引擎)接收上下文(例如,查询)并预测对象(例如,排名)。如果有必要,用户通过纠正系统来做出响应,提供稍微改进的-但不一定是最佳的-对象作为反馈。我们认为,这样的反馈往往可以推断出可观察到的用户行为,例如,从点击在网络搜索。通过对用户的基数效用评估预测,我们提出了具有${\cal O}(\frac{1}{\sqrt{T}})$平均遗憾的高效学习算法,即使学习算法从未像传统的在线学习那样观察基数效用值。我们证明了我们的模型和学习算法的电影推荐任务的适用性,以及网络搜索的排名。
2012-06-27 cs.AI cs.IR cs.LG
UniRank: Unimodal Bandit Algorithm for Online Ranking
Louis Vuitton(路易威登);IRISA(法国信息与随机系统研究所);INRIA(法国国家信息与自动化研究所);Univ Rennes(雷恩大学);Ensai(法国国立统计与信息分析学院);CNRS(法国国家科学研究中心);CREST(经济与统计研究中心);Univ. Rennes 1(雷恩第一大学);Institut Universitaire de France(法兰西大学研究院)
我们解决了一个新出现的问题,这是在加权图中找到最佳的单部匹配。半强盗版本,其中在每次迭代时采样完全匹配,已经由\cite{ADMA}解决,创建了一个具有预期遗憾匹配$O(\frac{L\log(L)}Δ\log(T))$与$2L$玩家、$T$迭代和最小奖励间隙$Δ$的算法。我们分两步减少这个界限。首先,在\cite{GRAB}和\cite{UniRank}中,我们使用相应图上期望奖励的单峰属性来设计$O(L\frac{1}Δ\log(T))$中的后悔算法。其次,我们表明,通过移动的重点对主要问题“\emph{Is user $i$ better than user $j$?}”这一遗憾成为$O(L\fracΔ{\tildeΔ^2}\log(T))$,其中$\TildeΔ > Δ$来自一个更好的方式比较用户。最后通过实验验证了理论分析的正确性。
2022-08-02 cs.DS cs.LG
Optimally Pacing Budget Spending and Learning
Princeton University(普林斯顿大学);Google Research(谷歌研究院)
该研究针对对抗环境下预算约束在线学习问题,提出全信息算法,匹配已有下界,可扩展至在线资源分配,是首个能为相关任务实现o(√T)保证的算法。
2026-10-09 cs.GT cs.LG
Rankability-enhanced Revenue Uplift Modeling Framework for Online Marketing
City University of Hong Kong(香港城市大学);Tencent(腾讯);Renmin University of China(中国人民大学)
针对收入增益建模中的长尾响应分布与个体增益排序问题,提出融合 ZILN 损失、理论误差界和 listwise 排序损失的框架,并在公开、工业及 Tencent FiT 大规模场景中验证其优越性。
2024-06-12 cs.LG
An Optimal Reduction of TV-Denoising to Adaptive Online Learning
UC Santa Barbara(加州大学圣巴巴拉分校)
我们考虑从$n$噪声样本中估计一个函数的问题,该样本的离散全变差(TV)由$C_n$限定。我们揭示了与强自适应在线学习(Daniely et al,2015)的看似不同的问题的深层联系,并提供了一种$O(n \log n)$时间算法,该算法在平方误差损失下获得了$\tilde O (n^{1/3}C_n^{2/3})$的近极小极大最优速率。所得到的算法在线运行,并最佳地适应未知的平滑参数$C_n$。这导致了一个新的和更通用的替代小波为基础的方法(1)自适应估计电视有界函数;(2)在线预测电视有界的趋势,在时间序列。
2021-01-26 cs.LG math.OC stat.ML
Learning to Re-rank with Constrained Meta-Optimal Transport
Rakuten Institute of Technology, Rakuten Group, Inc.(乐天集团乐天技术研究所)
针对现有随机重排序策略计算成本高、内存消耗大且难泛化新查询的问题,提出约束元最优传输方法与Gumbel匹配采样方案,实现了快速轻量、可泛化的公平重排序,性能与传统优化方法相当。
2023-04-29 cs.LG
Online Multi-Label Classification under Noisy and Changing Label Distribution
School of Computer Science and Information Engineering, Hefei University of Technology(合肥工业大学计算机与信息工程学院);School of Computing, National University of Singapore(新加坡国立大学计算学院)
针对多标签数据流中噪声标签与标签分布变化问题,提出NCLD算法,通过局部特征图重建标签评分、无偏排序损失和分布变化检测实现鲁棒的在线多标签分类。
2024-10-03 cs.AI cs.LG
MixLM: High-Throughput and Effective LLM Ranking via Text-Embedding Mix-Interaction
LinkedIn
MixLM通过文本嵌入混合交互技术,显著提升LLM排序系统的吞吐量,实现高效率的实时搜索应用部署。
2026-01-31 cs.AI cs.CL cs.IR
PRIL: Perceptron Ranking Using Interval Labeled Data
IIIT Hyderabad(印度国际信息技术学院海得拉巴分校)
本文提出了一种利用区间标记数据学习排序分类器的在线学习算法PRIL,并证明了该算法的正确性。如果存在一个理想的分类器,使得它给出的秩总是在它的标签区间内,我们证明了它在有限步内的收敛性。然后,我们推广这个错误界结果的一般情况下。我们还提供了所提出的算法的遗憾界。我们提出了一个乘法更新算法PRIL称为M-PRIL。我们提供了它的正确性和收敛性结果。我们通过展示PRIL在各种数据集上的性能来展示PRIL的有效性。
2018-02-12 cs.LG
Revenue Maximization and Learning in Products Ranking
本文研究在线零售商在消费者注意力跨度随机且未知条件下的产品排序收益最大化问题,提出具有嵌套结构的最优排序近似算法,并设计在线学习算法实现次线性遗憾。
2025-11-09 cs.LG
pygrank: A Python Package for Graph Node Ranking
Centre for Research and Technology—Hellas(研究与技术中心—希腊);Aristotle University of Thessaloniki(塞萨洛尼基亚里士多德大学)
我们介绍pygrank,一个开源的Python包来定义,运行和评估节点排名算法。我们提供面向对象和广泛的单元测试算法组件,如图过滤器,后处理器,措施,基准测试和在线调优。计算可以委托给numpy,tensorflow或pytorch后端,并适合反向传播管道。类可以组合起来定义可互操作的复杂算法。在本文的上下文中,我们比较包与相关的替代品,并展示其灵活性和易用性的代码示例。
2021-10-18 cs.LG
Near-Optimally Teaching the Crowd to Classify
ETH Zurich(苏黎世联邦理工学院)
我们应该如何向学习者提供训练样本来教授分类规则?这是培训工人进行众包标签任务时的一个自然问题,也是由数据驱动的在线教育中的挑战激发的。我们提出了一个自然的随机模型的学习者,建模为随机切换假设的基础上观察到的反馈。然后,我们开发STRICT,一个有效的算法,选择的例子教工人。我们的解决方案greetly最大化的子模块代理目标函数,以选择的例子,以显示给学习者。我们证明了我们的策略与最优教学策略是有竞争力的。此外,对于线性分离器的特殊情况下,我们证明了可以实现指数减少错误概率。我们在Amazon Mechanical Turk上对模拟工人以及三个真实图像标注任务的实验表明了我们的教学算法的有效性。
2014-03-07 cs.LG
Addressing Time Bias in Bipartite Graph Ranking for Important Node Identification
Shenzhen University(深圳大学)
网络中的排序问题的目标是根据选定的标准将节点从最好到最差进行排序。在这项工作中,我们专注于根据其质量对节点进行排名。二分网络中节点的排序问题在实际应用中有着重要的价值。例如,可以在网上商店推广高质量的产品,或者在场地评论平台上吸引更多的人。然而,许多经典的排名算法都有一个共同的缺点:它们倾向于将旧电影的排名高于新电影,尽管一些新电影可能具有高质量。这种时间偏差源于这样一个事实,即网络中较老的节点往往比较新的节点拥有更多的连接。在这项研究中,我们开发了一种使用再平衡方法的排名方法,以减少时间偏差的二分图的排名。
2019-11-28 cs.LG cs.SI
Adversarial Attacks on Online Learning to Rank with Stochastic Click Models
Southwest University(西南大学);Oregon State University(俄勒冈州立大学);Princeton University(普林斯顿大学)
本文首次研究在线学习排序的对抗攻击,提出广义列表污染和 attack-then-quit 点击污染策略,可在随机点击模型中以次线性代价高效攻击无遗憾排序器,并通过理论与实验验证其有效性。
2023-05-30 cs.CR cs.LG
Adaptively Learning to Select-Rank in Online Platforms
Stern School of Business, New York University(纽约大学斯特恩商学院);UC Berkeley(加州大学伯克利分校);Arena Technologies(Arena科技公司);Department of Statistics, Stanford University(斯坦福大学统计系);IEDA, Hong Kong University of Science and Technology (HKUST)(香港科技大学IEDA);HKUST Shenzhen-Hong Kong Collaborative Innovation Research Institute(香港科技大学深港协同创新研究院)
本文针对在线平台异构用户的自适应排序问题,提出一种基于上下文赌博机和置信上界的排序选择算法,通过最大权重非完美匹配高效求解,实现了O(d√NKT)的累积遗憾界,并在实验上优于基线方法。
2024-06-07 cs.AI cs.LG