Doubly-Robust Estimation for Correcting Position-Bias in Click Feedback for Unbiased Learning to Rank
Radboud University（拉德堡德大学）
排名上的点击受到位置偏见的影响：通常排名较低的项目不太可能被用户检查-从而点击-尽管他们对项目的实际偏好。无偏的基于点击的学习排名（LTR）的流行方法是基于反事实的逆倾向评分（IPS）估计。与一般的强化学习相比，反事实双鲁棒（DR）估计尚未应用于基于点击的LTR在以前的文献。在本文中，我们介绍了一种新的DR估计，这是第一个DR方法专门设计的位置偏差。位置偏差的困难在于，在点击数据中无法直接观察到治疗-用户检查。作为解决方案，我们的估计器使用每个秩的预期处理，而不是现有DR估计器使用的实际处理。我们的新DR估计器比现有的IPS方法具有更强大的无偏性条件，此外，提供了巨大的方差降低：我们的实验结果表明，它需要几个数量级的数据点收敛到最佳性能。对于无偏LTR领域，我们的DR估计有助于提高最先进的性能和最强大的理论保证所有已知的LTR估计。
2022-10-30 cs.IR cs.LG
When Inverse Propensity Scoring does not Work: Affine Corrections for Unbiased Learning to Rank
除了已经得到充分研究的位置偏见之外，信任偏见是用户与排名互动中普遍存在的另一种偏见：用户更有可能错误地点击w.r.t.他们对排名高的项目的偏好，因为他们信任排名系统。虽然以前的工作已经观察到用户的这种行为，我们证明，现有的反事实学习排序（CLTR）方法不消除这种偏见，包括专门设计的方法，以减轻这种类型的偏见。此外，我们证明了逆倾向评分（IPS）原则上是无法正确的信任偏见下，非平凡的情况。我们的主要贡献是一个新的估计的基础上仿射校正：它都重新加权点击和惩罚项目显示在排名与高信任偏见。我们的估计量是第一个被证明可以消除信任偏差和位置偏差影响的估计量。此外，我们表明，我们的估计是现有的CLTR框架的推广：如果没有信任偏见是存在的，它减少到原来的IPS估计。我们的半合成实验表明，通过消除信任偏见的影响，除了位置偏见，CLTR可以近似的最佳排名系统，甚至比以前可能的。
2020-09-09 cs.IR
Unbiased LambdaMART: An Unbiased Pairwise Learning-to-Rank Algorithm
尽管点击数据在实践中广泛用于搜索系统，但到目前为止，固有的偏差（最显著的是位置偏差）阻止了其用于训练用于搜索的排名器，即，学习排序。最近，一些作者提出了新的技术称为“无偏学习排名”，它可以减少位置偏差和训练一个相对高性能的排名使用点击数据。大多数算法基于逆倾向加权（IPW）原理，首先估计每个位置处的点击偏差，然后使用学习排序算法用估计的偏差训练无偏排序器。然而，还没有一种用于成对学习排序的方法，其可以使用成对损失函数来联合地进行点击数据的去偏置和排序器的训练。在本文中，我们提出了一种新的算法，它可以联合估计的偏差在点击位置和偏差在unclick位置，并学习一个公正的排名。在基准数据上的实验表明，该算法的性能明显优于现有算法。此外，在一个商业搜索引擎上的在线A/B测试表明，我们的算法可以有效地进行去偏点击数据，提高相关性排名。
2019-02-27 cs.IR
Position bias in features
Thumbtack（图姆塔克公司）
本文研究搜索排序中基于点击率的特征，提出将逆倾向加权扩展到文档以无偏估计相关性，但指出其高方差及对位置偏差估计的依赖，建议同时使用有偏与无偏特征。
2024-02-04 cs.IR cs.LG
Reinforcement Online Learning to Rank with Unbiased Reward Shaping
在线学习排名（OLTR）旨在直接从用户交互（如点击）中获得的隐式反馈中学习排名器。然而，点击是一个有偏见的信号：具体来说，排名靠前的文档可能比排名靠后的文档吸引更多的点击（位置偏见）。在本文中，我们提出了一种新的学习算法OLTR，使用强化学习优化排名：强化在线学习排名（ROLTR）。在ROLTR中，基于分配给点击和未点击文档的奖励来估计排名器的梯度。为了消除奖励信号中包含的用户位置偏差，我们引入了无偏的奖励塑造函数，该函数利用点击和未点击文档的逆倾向评分。事实上，我们的方法也可以建模未点击的文档提供了进一步的优势，因为需要更少的用户交互来有效地训练排名器，从而提高效率。对标准OLTR数据集的实证评估表明，ROLTR实现了最先进的性能，并提供了显着优于其他OLTR方法的用户体验。为了促进我们实验的可重复性，我们在www.example.com上提供所有实验代码。
2022-01-05 cs.IR
Uncertainty Calibration for Counterfactual Propensity Estimation in Recommendation
School of Computer and Information, Hefei University of Technology（合肥工业大学计算机与信息学院）；University of Science and Technology of China（中国科学技术大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
本文提出通过预期校准误差（ECE）校准倾向性分数，以提升反事实转化率预测的准确性与可靠性。
2025-04-17 cs.AI cs.IR
Debiasing Sequential Recommendation with Time-aware Inverse Propensity Scoring
University of Technology Sydney（悉尼大学）；Curtin University（Curtin大学）；Education University of Hong Kong（香港教育大学）
本文提出时间感知逆倾向评分（TIPS）方法，通过捕捉用户行为的序列依赖性和时间动态，有效解决序贯推荐中的选择偏差和曝光偏差问题，提升推荐性能。
2026-03-05 cs.AI cs.IR
Document Similarity Enhanced IPS Estimation for Unbiased Learning to Rank
针对学习排序中的位置偏差，提出IPSsim估计器，利用文档相似性改进IPS加权，在多个数据集上显著提升无偏排序性能。
2025-07-10 cs.IR
A Control Function Framework for Mitigating Position Bias in Learning to Rank Systems
University of Illinois Chicago（伊利诺伊大学芝加哥分校）；California Polytechnic State University（加州州立大学彭塞科分校）
本文提出一种基于控制函数的两阶段方法，用于纠正学习排序中位置偏差，无需依赖点击或倾向模型，且适用于各种排序算法。
2026-08-11 cs.IR cs.LG
Bilateral Self-unbiased Learning from Biased Implicit Feedback
Sungkyunkwan University（成均馆大学）；Google Research（谷歌研究院）；Seoul National University（首尔国立大学）
隐式反馈已被广泛用于商业推荐系统的构建。因为观察到的反馈代表用户的点击日志，所以在真实相关性和观察到的反馈之间存在语义鸿沟。更重要的是，观察到的反馈通常偏向于流行项目，从而高估了流行项目的实际相关性。虽然现有的研究已经开发出无偏的学习方法，使用逆倾向加权（IPW）或因果推理，他们只专注于消除项目的流行性偏见。在本文中，我们提出了一种新的无偏推荐学习模型，即双边SElf-unbiased推荐（BISER），以消除由推荐模型造成的项目曝光偏差。具体来说，BISER由两个关键组成部分组成：（i）自逆倾向加权（SIPW），以逐渐减轻项目的偏差，而不会产生高计算成本;以及（ii）双边无偏学习（BU），以弥合模型预测中两个互补模型之间的差距，即，基于用户和项目的自动编码器，缓解SIPW的高方差。大量的实验表明，BISER始终优于国家的最先进的无偏推荐模型在几个数据集，包括大衣，雅虎！R3、MovieLens和CiteULike。
2022-07-26 cs.IR cs.LG
Learning a Product Relevance Model from Click-Through Data in E-Commerce
搜索引擎在在线电子商业系统中起着基础性的作用，帮助用户从海量的产品集合中找到自己想要的产品。相关性是电子商业搜索的基本要求，因为显示与搜索查询意图不匹配的产品会降低用户体验。由于用户查询语言和产品销售语言之间存在词汇差距，因此需要测量语义相关性，神经网络致力于解决这一任务。然而，语义相关性与点击率预测的不同之处在于没有直接的训练信号可用。以前的大多数尝试都是从廉价而丰富的用户点击数据中学习相关性模型。然而，点击行为具有噪声和误导性，它不仅受到相关性的影响，还受到价格、形象和吸引人的标题等因素的影响。因此，从点击数据中学习相关性模型具有挑战性但很有价值。在本文中，我们提出了一个新的相关性学习框架，专注于如何训练的相关性模型，从点击数据的弱监督。与以往将样本视为相关或不相关的努力不同，我们构建了更细粒度的样本进行训练。我们提出了一种新的方法来考虑不同的相关性置信度的样本，并提出了一个新的训练目标，学习一个强大的相关性模型与理想的分数分布。离线注释数据和在线A/B测试结果表明，该模型具有良好的性能和较高的计算效率。该模型已经在线部署，为淘宝网的搜索流量提供了一年多的服务。
2021-02-14 cs.IR
Ensemble Ranking Model with Multiple Pretraining Strategies for Web Search
一个有效的排序模型通常需要大量的训练数据来学习文档和查询之间的相关性。用户点击经常被用作训练数据，因为它们可以指示相关性并且收集起来很便宜，但是它们包含大量的偏差和噪声。在减轻模拟用户点击中的各种类型的偏差以基于多个特征训练有效的学习排名模型方面已经有了一些工作。然而，如何在具有真实点击数据的大规模预训练模型上有效地使用这些方法是未知的。为了减轻现实世界中的数据偏差，我们在预训练阶段引入了基于统计学的特征，改进了排名目标，添加了随机否定，并校准了倾向计算。然后，我们微调几个预训练的模型，并训练一个集成模型，以在微调阶段将来自各种预训练模型的所有预测与人类注释数据聚合在一起。我们的方法在WSDM Cup 2023的“网络搜索预训练”任务中获得第三名，比第四名的团队好22.6%。
2023-02-18 cs.IR
Analysis of Multivariate Scoring Functions for Automatic Unbiased Learning to Rank
University of Utah（犹他大学）
利用有偏点击数据优化学习排序系统已成为信息检索中的一种流行方法。由于点击数据往往是噪声和偏见，已经提出了各种方法来构建无偏学习排序（ULTR）算法的学习无偏排名模型。其中，自动无偏学习排序（AutoULTR）算法联合学习用户偏差模型（即，具有无偏排序器的倾向模型）由于其在实践中的优越性能和低部署成本而受到很多关注。尽管它们在理论和算法设计上存在差异，但现有的ULTR研究通常使用单变量排序函数对每个文档或结果进行独立评分。另一方面，上下文感知学习排名模型的最新进展表明，多变量评分函数，一起读取多个文档，并共同预测他们的排名分数，比单变量排名功能更强大的排名任务与人类注释的相关性标签。然而，这种优越的性能是否会在有噪声数据的ULTR中保持，大多是未知的。在本文中，我们调查现有的多变量评分函数和AutoULTR算法在理论上，并证明置换不变性是一个关键因素，决定是否上下文感知的学习排名模型可以应用到现有的AutoULTR框架。我们在两个大规模基准数据集上进行的合成点击实验表明，具有置换不变多变量评分函数的AutoULTR模型显著优于具有单变量评分函数和置换变量多变量评分函数的模型。
2020-08-20 cs.IR cs.LG
A Deep Recurrent Survival Model for Unbiased Ranking
位置偏差是信息检索中处理隐含但有偏差的用户反馈数据时的一个关键问题。无偏排名方法通常依赖于因果关系模型，并通过反向倾向加权来消除用户反馈的偏见。虽然实用，但这些方法仍然存在两个主要问题。首先，当推断用户点击时，上下文信息（例如已检查的文档）的影响通常被忽略。第二，只考虑了位置偏差，而忽略了用户浏览行为导致的其他问题。在本文中，我们提出了一个端到端的深度递归生存排名（DRSR），一个统一的框架，以联合建模用户的各种行为，（i）考虑排名列表中丰富的上下文信息;（ii）解决用户行为背后的隐藏问题，即，挖掘无点击查询（non-click queries）中的观察模式，对不能真实反映用户浏览意图的跟踪日志（untrusted observation）进行建模。具体来说，我们采用了一个递归神经网络来建模的上下文信息，并估计在每个位置的用户反馈的条件可能性。然后，我们将生存分析技术与概率链规则数学恢复一个用户的各种行为的无偏联合概率。DRSR可以很容易地与逐点和逐对学习目标相结合。在两个大规模工业数据集上进行的大量实验表明，与现有技术相比，我们的模型具有显着的性能增益。
2020-05-24 cs.IR
Deep Position-wise Interaction Network for CTR Prediction
点击率（CTR）预测在在线广告和推荐系统中起着重要的作用。在实践中，CTR模型的训练取决于点击数据，该点击数据本质上偏向于较高位置，因为较高位置本质上具有较高CTR。现有的方法，如固定位置推理的实际位置训练和无位置推理的逆倾向加权训练，在一定程度上缓解了偏差问题。然而，在训练和推理之间对位置信息的不同处理将不可避免地导致不一致和次优的在线性能。同时，这些方法的基本假设，即，点击概率是检查概率和相关概率的乘积，过于简化，不足以模拟位置与其他信息之间的丰富交互。在本文中，我们提出了一个深度位置明智的互动网络（DPIN），有效地结合所有候选项目和位置估计CTR在每个位置，实现离线和在线之间的一致性，以及建模的深度非线性之间的互动位置，用户，上下文和项目的限制下，服务性能。根据我们对CTR预测中位置偏差的新处理，我们提出了一种新的评价指标PAUC（position-wise AUC），适用于测量给定位置的排名质量。通过在真实世界数据集上的大量实验，我们经验性地证明了我们的方法在解决位置偏差问题上是有效的和高效的。我们还在生产中部署了我们的方法，并在严格的A/B测试中观察到了高度优化的基线在统计上的显著改善。
2021-06-17 cs.IR
LLMs for estimating positional bias in logged interaction data
针对推荐搜索系统交互数据的位置偏差及传统倾向估计的难点，提出用LLMs估计位置偏差的方法，其倾向估计稳定且能捕捉复杂布局效应，训练的IPS重排器在持平标准NDCG@10的同时提升加权NDCG@10约2%。
2025-09-03 cs.IR
CounterCLR: Counterfactual Contrastive Learning with Non-random Missing Data in Recommendation
提出CounterCLR框架，利用反事实对比学习与CauNet网络解决推荐系统中非随机缺失数据导致的选择偏差和数据稀疏问题，无需额外模型，提升泛化能力。
2024-02-08 cs.IR
Addressing Personalized Bias for Unbiased Learning to Rank
针对用户搜索与浏览差异导致的个性化偏差，本文提出用户感知逆倾向得分估计器，并从理论与实验上证明其无偏性、低方差及有效性。
2025-08-28 cs.IR
Contextual Dual Learning Algorithm with Listwise Distillation for Unbiased Learning to Rank
ICT, CAS（中国科学院信息技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
针对现有无偏排序学习方法在真实点击数据上性能不明的问题，提出带列表式蒸馏的上下文对偶学习算法CDLA-LD，同时解决位置与上下文偏置，在百度搜索日志子集数据集上验证了有效性。
2024-08-19 cs.AI cs.IR
