Marginal-Certainty-aware Fair Ranking Algorithm
排名系统在现代互联网服务中无处不在,包括在线市场、社交媒体和搜索引擎。传统的排名系统只关注如何获得更好的相关性估计。当相关性估计可用时,它们通常采用以用户为中心的优化策略,其中通过根据项目的估计相关性对项目进行排序来生成排名列表。然而,这种以用户为中心的优化忽略了一个事实,即项目提供商也从排名系统中获取效用。现有研究表明,这种以用户为中心的优化会对物品提供者造成很大的不公平,其次是对物品提供者的不公平机会和不公平的经济收益。为了解决排名公平性,已经提出了许多公平排名方法。然而,正如我们在本文中所示,这些方法可能是次优的,因为它们直接依赖于相关性估计而不知道不确定性(即,估计的相关性的方差)。为了解决这种不确定性,我们提出了一种新的边缘感知公平算法MCFair。MCFair联合优化公平性和用户效用,而相关性估计以在线方式不断更新。在MCFair中,我们首先开发了一个排名目标,包括不确定性,公平性和用户效用。然后我们直接使用排序目标的梯度作为排序得分。我们从理论上证明了基于梯度的MCFair对于上述排名目标是最优的。从经验上讲,我们发现,在半合成数据集上,MCFair是有效和实用的,与最先进的公平排名方法相比,可以提供更优越的性能。为了便于重现,我们发布了我们的代码https://github.com/Taosheng-ty/WSDM22-MCFair。
2022-12-18 cs.IR
Maximizing Marginal Fairness for Dynamic Learning to Rank
排名,特别是搜索和推荐系统中的排名,通常决定人们如何访问信息以及信息如何暴露给人们。因此,如何平衡信息披露的相关性和公平性,是现代信息披露制度的关键问题之一。由于传统的排名框架近视地将文档与其相关性进行排序将不可避免地引入不公平的结果暴露,因此最近关于排名公平性的研究主要集中在动态排名范例上,其中结果排名可以实时调整以支持组中的公平性(即,种族、性别等)。然而,现有的研究动态学习排序的公平性,往往实现整体公平的文件曝光排名列表显着牺牲的性能,结果的相关性和公平性的顶部结果。为了解决这个问题,我们提出了一个公平和公正的排名方法命名为最大边际公平(MMF)。该算法集成了无偏估计的相关性和基于价值的公平性,同时提供了一个明确的控制器,平衡选择的文件,以最大限度地提高边际相关性和公平性的前k个结果。理论和实证分析表明,与最先进的算法相比,我们的方法在相关性和公平性方面都具有优越的效率和有效性,并且在长列表公平性上有很小的妥协。
2021-02-18 cs.IR
Fairness of Exposure in Light of Incomplete Exposure Estimation
曝光的公平性是排名系统中常用的公平性概念。它基于这样一种想法,即所有项目或项目组都应获得与项目的价值或该组中项目的集体价值成比例的曝光。通常,随机排名策略用于确保曝光的公平性。以前的工作不切实际地假设,我们可以可靠地估计预期的风险,为所有项目在每个排名所产生的随机政策。在这项工作中,我们将讨论如何接近公平的曝光的情况下,政策包含的排名,由于项目间的依赖关系,我们不能可靠地估计曝光分布。在这种情况下,我们无法确定该政策是否公平。我们在本文中的贡献是双重的。首先,我们定义了一个方法称为FELIX的随机策略,避免显示排名与未知的曝光分布给用户,而不必妥协用户效用或项目公平性。第二,我们扩展的公平性的研究,暴露于前k设置,并评估FELIX在此设置。我们发现,FELIX可以显着减少未知曝光分布的排名数量,而不会降低用户效用或公平性相比,现有的公平排名方法,无论是全长和前k排名。这是开发公平排名方法的重要的第一步,因为我们对用户的行为了解不完全。
2022-05-25 cs.IR
Learn to be Fair without Labels: a Distribution-based Learning Framework for Fair Ranking
提出一种无需公平标签的基于分布的公平学习框架(DLF),用目标公平曝光分布替代缺失标签,在TREC数据集上实现更优公平性并更好权衡公平与相关性。
2024-05-28 cs.IR
Towards Measuring Fairness in Grid Layout in Recommender Systems
本文扩展线性公平排序指标至网格布局,分析不同列宽、列缩减方法及设备几何结构对提供者群体公平性测量的影响,为实践者提供布局适配的公平性评估见解。
2023-09-19 cs.IR
Comparing Fair Ranking Metrics
信息检索(IR)系统经常使用排序列表来呈现被认为与用户信息需求相关的结果。公平性是衡量这些排名的一个相对较新但重要的方面,加入了一组丰富的指标,超越了传统的准确性或实用性结构,以提供对IR系统行为的更全面的理解。在过去的几年里,已经提出了几个指标来量化排名的(不)公平性,特别是关于特定的内容提供方群体,但缺乏对这些指标的比较分析,特别是对IR。因此,在决定哪些公平性指标适用于特定场景,或评估哪些指标适用于真实数据的程度方面,指导有限。在本文中,我们描述了几个公平的排名指标,从现有的文献中的一个共同的符号,使他们的假设,目标和设计选择的直接比较,然后我们经验比较多个数据集,涵盖搜索和推荐任务。
2022-01-08 cs.IR
Fairness-aware Personalized Ranking Recommendation via Adversarial Learning
推荐算法通常基于历史用户-项目交互(例如,点击、喜欢或评级)以提供个性化的项目排名列表。由于用户偏好不同,这些交互通常不均匀地分布在不同的项目组上。然而,我们发现,推荐算法可以继承甚至放大这种不平衡的分布,导致不公平的项目组的建议。具体地说,我们形式化的概念排名为基础的统计奇偶性和机会均等的两个公平性措施的个性化排名推荐项目组。然后,我们实证表明,最广泛采用的算法之一-贝叶斯个性化排名-产生不公平的建议,这促使我们努力提出新的公平意识的个性化排名模型。去偏置模型能够在保持推荐性能的同时改进两个提出的公平性指标。在三个公共数据集上的实验表明,与最先进的替代方案相比,所提出的模型具有很强的公平性。本文是SIGIR 2020~ \cite{zhu2020measuring}论文的扩展和重组版本。在本文中,我们重新框架的个性化排名推荐系统中的“项目推荐公平性”的研究问题,并提供了更多的细节所提出的模型的训练过程和实验设置的细节。
2021-03-14 cs.IR
Computationally Efficient Optimization of Plackett-Luce Ranking Models for Relevance and Fairness
最近的工作提出了随机Plackett-Luce(PL)排名模型作为优化相关性和公平性指标的一个强大的选择。与需要启发式优化算法的确定性模型不同,PL模型是完全可微的。理论上,它们可以通过随机梯度下降来优化排名度量。然而,在实践中,梯度的计算是不可行的,因为它需要对所有可能的项目排列进行遍历。因此,实际应用依赖于通过采样技术来近似梯度。在本文中,我们介绍了一种新的算法:PL排名,估计梯度的PL排名模型w.r.t.相关性和公平性指标。与基于策略梯度的现有方法不同,PL-排名利用PL模型和排名指标的特定结构。我们的实验分析表明,PL排名有一个更大的采样效率,是计算成本低于现有的策略梯度,从而在更高的性能更快的收敛。PL-Rank进一步使行业能够将PL模型应用于更相关和更公平的现实世界排名系统。
2021-07-07 cs.IR
Overview of the TREC 2022 Fair Ranking Track
TREC Fair Ranking Track旨在为参与者提供一个平台,以开发和评估新的检索算法,这些算法可以提供对人口统计数据或属性(如种族)的公平曝光,这些数据由相关文档表示以响应搜索查询。例如,特定的人口统计或属性可以由文档主题内容或作者表示。2022年公平排名赛道采用了资源分配任务。该任务集中于支持那些希望改善中文维基百科对某个专题相关条目类内容的维基百科编辑。维基专题协调员和/或维基百科编辑搜索需要编辑的维基百科文档,以提高条目质量。2022年公平排名的目的是确保关于或以某种方式代表某些受保护特征的文档能够公平地暴露于维基百科的编辑人员,以便这些文档有公平的机会得到改进,从而在维基百科中得到良好的代表。维基百科中某些受保护特征的代表性不足可能会导致系统性偏见,对人类、社会和经济产生负面影响,特别是对弱势或受保护的社会群体。
2023-02-11 cs.IR
Overview of the TREC 2021 Fair Ranking Track
TREC Fair Ranking Track旨在为参与者提供一个平台,以开发和评估新的检索算法,这些算法可以提供对人口统计数据或属性(如种族)的公平曝光,这些数据由相关文档表示以响应搜索查询。例如,特定的人口统计或属性可以由文档的主题内容或作者表示。2021年公平排名赛道采用了资源分配任务。该任务集中于支持那些希望改善中文维基百科对某个专题相关条目类内容的维基百科编辑。维基专题协调员和/或维基百科编辑搜索需要编辑的维基百科文档,以提高条目质量。2021年公平排名的目的是确保关于或以某种方式代表某些受保护特征的文档能够公平地暴露于维基百科的编辑人员,以便这些文档有公平的机会得到改进,从而在维基百科中得到良好的代表。维基百科中某些受保护特征的代表性不足可能会导致系统性偏见,对人类、社会和经济产生负面影响,特别是对弱势或受保护的社会群体。
2023-02-21 cs.IR
User Fairness, Item Fairness, and Diversity for Rankings in Two-Sided Markets
Cornell University(康奈尔大学)
通过项目的相关性概率来对项目进行排名长期以来一直是传统排名系统的目标。虽然这最大限度地提高了传统的排名标准,但人们越来越认识到,这是一种过度简化的在线平台,不仅服务于多样化的用户群体,而且还服务于项目的生产者。特别是,排名算法应该公平地服务于所有用户群体,而不仅仅是大多数用户群体,而且它们还需要公平地分配项目之间的曝光。这些公平性的考虑可以部分地通过增加排名的多样性来满足,就像最近的几项工作所做的那样。然而,我们在本文中表明,用户公平性,项目公平性和多样性是根本不同的概念。特别是,我们发现,只考虑三个desiderata之一的算法可能无法满足,甚至损害其他两个。为了克服这个缺点,我们提出了第一个排名算法,明确执行所有三个desiderata。该算法将用户公平性和项目公平性作为一个凸优化问题进行优化。从它的解决方案,排名策略可以通过一种新的Birkhoff-von Neumann分解算法,优化多样性。除了理论分析之外,我们还在一个新的基准数据集上实证研究了所提出的排名算法如何有效地控制用户公平性,项目公平性和多样性,以及它们之间的权衡。
2021-09-12 cs.AI cs.IR
Towards FairRAG: Preventing Representational Harm in Retrieval-Augmented Generation by Enforcing Fair Exposure at Retrieval Time
Redmond High School(雷德蒙德高中)
本文研究了如何通过在检索阶段强制公平曝光来减少检索增强生成中表示性伤害,提出了一种新的公平检索排名方法,并通过实验验证了其有效性。
2026-05-11 cs.IR
Guaranteeing Accuracy and Fairness under Fluctuating User Traffic: A Bankruptcy-Inspired Re-ranking Approach
针对用户流量波动下推荐系统难以同时保障短期准确性与长期供给方公平性的问题,提出受破产问题启发的BankFair重排序方法,通过Talmud规则动态调整公平度并在线重排,在真实数据集上实现了准确性与公平性的双重提升。
2024-08-16 cs.IR
Regret-aware Re-ranking for Guaranteeing Two-sided Fairness and Accuracy in Recommender Systems
针对推荐系统中个体公平性缺失问题,提出BankFair+方法,结合遗憾理论与模糊规划实现重排序,平衡个体与提供者公平性,实验验证其优越性。
2025-04-20 cs.IR
Fair Ranking as Fair Division: Impact-Based Individual Fairness in Ranking
Cornell University(康奈尔大学)
排名已经成为双边在线市场的主要界面。许多人已经注意到,排名不仅影响用户的满意度(例如,客户、听众、雇主、旅行者),但是排名中的位置将曝光(从而经济机会)分配给排名项目(例如,文章、产品、歌曲、求职者、餐馆、酒店)。这就提出了公平性的问题,大多数现有的作品都明确地将项目暴露与项目相关性联系起来,以解决公平性问题。然而,我们认为,任何特定的选择这样一个链接功能可能是难以辩护,我们表明,由此产生的排名仍然是不公平的。为了避免这些缺点,我们开发了一种新的公理化方法,它植根于公平划分的原则。这不仅避免了选择链接函数的需要,而且更有意义地量化了暴露之外对项目的影响。我们的无嫉妒性公理和优于统一排名的公理假设,对于公平的排名政策,每个项目都应该优先于其他任何项目的排名分配,并且任何项目都不应该受到排名的不利影响。为了根据这些公理计算公平的排名策略,我们提出了一个新的排名目标相关的纳什社会福利。我们表明,该解决方案有保证,它的嫉妒免费,其优势,统一排名的每一个项目,其帕累托最优。相比之下,我们发现,传统的基于安全的公平可以产生大量的嫉妒,并有一个高度不同的项目的影响。除了这些理论结果,我们实证说明我们的框架如何控制基于影响的个人项目公平性和用户效用之间的权衡。
2022-08-30 cs.AI cs.IR cs.LG
Fairness in Ranking: A Survey
在过去的几年里,已经有很多工作将公平性要求纳入算法排名,贡献来自数据管理,算法,信息检索和推荐系统社区。在本调查中,我们对这项工作进行了系统的概述,提供了一个广泛的视角,将各个子领域的形式化和算法方法联系起来。我们工作的一个重要贡献是围绕价值框架制定一个共同的叙述,这些框架激励排名中具体的公平性增强干预措施。这使我们能够统一介绍缓解目标和算法技术,以帮助实现这些目标或确定权衡。在这项调查中,我们描述了四个分类框架的公平性增强的干预措施,沿着我们与本文调查的技术方法,讨论评估数据集,并提出技术工作的公平性在基于分数的排名。然后,我们提出的方法,将公平性的监督学习,也给最近的工作公平性的推荐和匹配系统的代表性例子。我们还讨论了公平分数为基础的排名和公平的学习排名的评估框架,并得出了一套公平排名方法的评估建议。
2022-08-12 cs.DB cs.IR
When Fair Ranking Meets Uncertain Inference
Northeastern University(东北大学);Carnegie Mellon University(卡内基梅隆大学)
研究探讨了在人口推断存在不确定性时,公平排名算法的公平性影响,指出不应使用不准确的人口推断数据作为输入。
2022-05-04 cs.CY cs.IR cs.LG
Privacy-Preserving Fair Item Ranking
世界各地的用户每天都以排名的形式访问大量的精选数据。人们已经研究了这种容易获得的社会影响,并努力提出和实施各种公平排名的概念。当前用于公平项目排名的计算方法依赖于向集中式服务器公开用户数据,这引起了用户的隐私问题。这项工作是第一个推进研究的结合生产者(项目)的公平性和消费者(用户)的隐私排名通过探索纳入隐私保护技术,特别是,差分隐私和安全的多方计算。我们的工作扩展的公平摊销注意力排名机制的隐私保护,我们评估其效果的隐私,公平性和排名质量。我们使用真实世界数据集的结果表明,我们能够有效地保护用户的隐私,减轻项目的不公平性,而不会对排名的质量做出额外的牺牲。
2023-03-06 cs.CR cs.CY cs.IR
Towards Fair RAG: On the Impact of Fair Ranking in Retrieval-Augmented Generation
Carnegie Mellon University(卡内基梅隆大学)
本文首次系统评估了融合公平感知排序的RAG系统,在七个任务上实验十二个模型,证明公平检索能维持甚至提升排序与生成质量,并带来更均衡的来源归因,为构建公平RAG系统奠定基础。
2025-07-04 cs.AI cs.CL cs.IR
Ranking of Wikipedia articles in search engines revisited: Fair ranking for reasonable quality?
本文的目的是审查激烈讨论的问题,是否排名维基百科的文章在搜索引擎是合理的文章的质量。在概述了当前维基百科信息质量的研究之后,总结了关于维基百科条目质量的扩展讨论。在此基础上,提出了一种评价维基百科条目的探试法,并将其应用于在搜索引擎检索有效性测试中得分较高的维基百科条目,并与陪审员的相关性判断进行比较。在所有测试的搜索引擎中,陪审员一致认为维基百科的结果比相应结果位置上的其他结果更好。相关性判断通常与启发式评价的结果大致一致。高相关性判断不符合启发式评估的相对低分数的情况被解释为维基百科高度信任的指标。维基百科的系统性缺陷之一在于其不连贯的用户模型。进一步调整建议的标准目录,例如对所提供的标准进行不同的加权,可以作为维基百科条目的用户模型差异化评估的起点。本文将参考文献质量评价方法应用于维基百科条目,并与搜索引擎评价问题相结合。
2011-09-05 cs.IR
On the Problem of Underranking in Group-Fair Ranking
Indian Institute of Science(印度科学学院);Microsoft Research(微软研究院)
搜索和推荐系统,例如搜索引擎、招聘工具、在线市场、新闻和社交媒体,输出内容、产品以及有时人员的排名列表。信用评级、标准化测试、风险评估只输出一个分数,但也隐含地用于排名。这种排名系统中的偏见,特别是在最高级别中的偏见,可能会加剧社会和经济不平等,歪曲观点,并加强陈规定型观念。另一方面,对少数群体的偏见纠正,如果被认为有利于群体公平的结果,而不是精英统治,可能会造成更大的伤害。在本文中,我们制定了排名不足的问题,在组公平的排名,这是没有解决在以前的工作。大多数组公平排名算法对给定的排名进行后处理并输出组公平排名。我们定义排名不足的基础上如何接近组公平的排名,每个项目是其原始的排名,并证明了一个下界的权衡同时排名不足和组公平的排名。我们给出了一个公平的排名算法,采取任何给定的排名,并输出另一个排名与同时排名不足和组公平性保证可比的下限,我们证明。我们的算法适用于任何数量的组的组公平性约束。我们的实验结果证实了排名不足和组公平性之间的理论权衡,也表明我们的算法实现了最好的两者相比,国家的最先进的基线。
2021-02-18 cs.CY cs.DS cs.IR
Optimizing Group-Fair Plackett-Luce Ranking Models for Relevance and Ex-Post Fairness
Indian Institute of Science(印度科学研究所);University of California, Berkeley(加利福尼亚大学伯克利分校);Microsoft Research, Bengaluru(微软研究院班加罗尔分院);Microsoft Research(微软研究院)
针对学习排序中仅优化相关性易引发表征损害、事前公平随机排序无法保障事后公平的问题,提出带事后表征约束的群体公平Plackett-Luce模型,在保证公平的同时提升相关性,隐式偏差场景下表现更优。
2023-08-25 cs.CY cs.IR cs.LG
Fair Ranking with Noisy Protected Attributes
Yale University(耶鲁大学)
公平排序问题,要求排序一组给定的项目,以最大限度地提高效用受组公平性约束,已受到关注的公平性,信息检索,和机器学习文献。然而,最近的作品,观察到社会显着(包括受保护)的项目属性的错误可以显着破坏现有的公平排名算法的公平性保证,并提出减轻这种错误的影响的问题。我们研究了一个模型下的公平排名问题,其中项目的社会显着属性是随机和独立扰动。我们提出了一个公平的排名框架,它结合了群体公平性的要求,以及社会显着的属性扰动的概率信息。我们提供可证明的保证,我们的框架实现的公平性和效用,并表明这是信息理论上不可能显着击败这些保证。我们的框架适用于多个非不相交的属性和一般类的公平性约束,包括比例和平等的代表性。从经验上讲,我们观察到,与基线相比,我们的算法输出具有更高公平性的排名,并且与基线相比具有类似或更好的公平性-效用权衡。
2022-11-30 cs.CY cs.DS cs.IR
FA*IR: A Fair Top-k Ranking Algorithm
在这项工作中,我们定义并解决了公平Top-k排名问题,其中我们想要从n >> k个候选者的大池中确定k个候选者的子集,最大化效用(即,选择“最佳”候选者)。我们的排名组公平性定义使用受保护组的标准概念扩展组公平性,并且基于确保前k排名的每个前缀中受保护候选者的比例在统计上保持高于给定的最小值或与给定的最小值不可区分。效用以两种方式操作:(i)包括在前$k$中的每个候选者应该比未包括的每个候选者更合格;以及(ii)对于前k中的每对候选者,更合格的候选者应该排名在上面。提出了一种有效的算法来产生公平的Top-k排名,并在现有的数据集以及本文发布的新数据集上进行了实验测试,结果表明,我们的方法在不考虑公平性标准的情况下,对效用最大化的排名产生了小的失真。据我们所知,这是第一个基于统计测试的算法,可以减轻排名列表中代表性不足的群体的代表性偏差。
2018-07-02 cs.CY cs.IR
Fairness for All: Investigating Harms to Within-Group Individuals in Producer Fairness Re-ranking Optimization -- A Reproducibility Study
本文复现生产者公平重排序方法,发现其损害群体内冷动物品,提出调节冷动物品推荐数量的修正方案,在几乎不损失准确率的同时提升子群体与群体公平性及新颖性。
2023-09-30 cs.IR
Policy Learning for Fairness in Ranking
Cornell University(康奈尔大学)
传统的学习排名(LTR)方法优化了排名对用户的效用,但它们忽略了它们对排名项目的影响。然而,人们越来越认识到,对于广泛的排名应用(例如在线市场,就业安置,入学),后者是重要的考虑因素。为了满足这一需求,我们提出了一个通用的LTR框架,可以优化广泛的效用指标(如NDCG),同时满足公平的曝光约束的项目。该框架将可学习的排名函数扩展到随机排名策略,从而提供了一种严格表达公平性规范的语言。此外,我们提供了一个新的LTR算法称为公平PG排名直接搜索空间的公平排名政策,通过政策梯度的方法。除了推导框架和算法的理论证据之外,我们还提供了模拟和真实数据集的经验结果,验证了该方法在个人和群体公平性设置中的有效性。
2019-06-26 cs.CY cs.IR cs.LG
A Tutorial On Intersectionality in Fair Rankings
Politecnico di Milano(米兰理工大学)
该研究针对算法偏见与不公平排序问题,指出多数公平感知排序方法忽视属性交叉性的局限,通过案例介绍交叉性纳入公平排序的方法,强调交叉性对实现公平的必要性。
2025-02-07 cs.CY cs.IR cs.LG
Pareto Pairwise Ranking for Fairness Enhancement of Recommender Systems
学习排序自2010年左右引入以来,是一种有效的推荐方式。著名的算法,如贝叶斯个性化排名和协作少即是多过滤,在学术界和工业界都留下了深刻的影响。然而,大多数学习排序方法专注于提高技术准确性指标,如AUC,MRR和NDCG。推荐系统的其他评价指标,如公平性,直到最近几年才在很大程度上被忽视。本文提出了一种新的学习排序算法Pareto Pairwise Ranking。我们的灵感来自贝叶斯个性化排名和幂律分布的想法。我们表明,我们的算法是有竞争力的技术精度指标评估时,与其他算法。更重要的是,在我们的实验部分中,我们证明了Pareto Pairwise Ranking是最公平的算法,与其他9个当代算法相比。
2022-12-06 cs.AI cs.IR cs.LG
Do Large Language Models Rank Fairly? An Empirical Study on the Fairness of LLMs as Rankers
Santa Clara University(圣克拉拉大学);DOCOMO Innovations, Inc.(docomo创新公司);Rochester Institute of Technology(罗切斯特理工学院)
本研究实证评估LLM排序器的公平性,利用TREC公平排序数据集分析性别和地理位置等受保护属性,从用户和内容角度揭示偏见,提供公平性基准。
2024-06-25 cs.CL cs.IR
Sampling Individually-Fair Rankings that are Always Group Fair
IISc(印度科学学院);Yale University(耶鲁大学);MSR India(微软研究院印度分院)
针对排名中的公平性问题,提出一种高效算法,从个体公平分布中采样排名,确保每个输出排名满足群体公平,且期望效用接近最优公平解,实验证明其优于现有基线。
2023-06-21 cs.CY cs.DS cs.IR
Estimation of Fair Ranking Metrics with Incomplete Judgments
University College London(伦敦大学学院);Microsoft Research(微软研究院);Max Planck Institute for Security and Privacy(马克斯·普朗克安全与隐私研究所);Boise State University(博伊西州立大学);Spotify Research(Spotify研究院)
评价搜索系统排序决策的公平性越来越受到人们的关注。这些指标通常考虑项目对特定组的成员关系,通常使用受保护的属性(如性别或种族)进行识别。迄今为止,这些度量通常假设项目的受保护属性标签的可用性和完整性。然而,受保护的个人属性很少出现,限制了公平排名度量在大规模系统中的应用。为了解决这个问题,我们提出了一个抽样策略和估计技术的四个公平的排名指标。我们制定了一个强大的和无偏的估计,甚至可以与非常有限的数量的标记项目。我们使用模拟和真实世界的数据来评估我们的方法。我们的实验结果表明,我们的方法可以估计这个家庭的公平排名指标,并提供了一个强大的,可靠的替代穷举或随机数据注释。
2021-08-11 cs.CY cs.IR cs.LG
Fairness Through Regularization for Learning to Rank
IST Austria(奥地利科学技术研究所)
鉴于近年来大量的排名应用,解决自动排名系统的公平性问题对于增加最终用户之间的信任是必要的。以前关于公平排名的工作主要集中在应用程序特定的公平概念上,通常是针对在线广告的,很少考虑学习作为过程的一部分。在这项工作中,我们将展示如何将众多的公平性概念从二进制分类转移到学习排序设置。我们的形式主义使我们能够设计方法,将公平性目标与可证明的泛化保证。一个广泛的实验评估表明,我们的方法可以大大提高排名的公平性,没有或只有很少的损失模型的质量。
2021-06-07 cs.IR cs.LG stat.ML
Fast solution to the fair ranking problem using the Sinkhorn algorithm
University of Tsukuba(筑波大学);Recruit Co., Ltd(Recruit公司);Mercari, inc(Mercari公司);Hosei University(法政大学)
本文针对双边市场推荐系统中的公平排序问题,提出将原约束优化问题转化为无约束问题,并利用重复执行Sinkhorn算法的梯度上升方法实现快速求解,实验表明其速度快于商业优化软件约1000倍且排序质量高。
2024-06-11 cs.AI cs.IR math.OC
Two-sided fairness in rankings via Lorenz dominance
Facebook AI;LAMSADE, Université PSL, Université Paris Dauphine, CNRS(LAMSADE,巴黎PSL大学,巴黎多芬大学,法国国家科学研究中心)
我们考虑的问题,产生的排名是公平的用户和项目生产者在推荐系统。我们讨论了两个通常的建议(例如,音乐或电影)和相互推荐(例如,约会)。遵循福利经济学中的分配正义概念,我们的公平概念旨在增加最贫困个体的效用,我们使用洛伦兹效率标准将其形式化。它保证排名是帕累托有效的,并且在给定的总体效用水平上,它们最大限度地将效用从较好的重新分配到较差的。我们建议通过最大化凹福利函数来生成排名,并基于Frank-Wolfe算法开发了一个高效的推理过程。我们证明,与现有的方法基于公平性约束,我们的方法总是产生公平的排名。我们的实验还表明,就整体效用而言,它以较低的成本增加了境况较差者的效用。
2021-10-28 cs.AI cs.CY cs.IR
Inference-time Stochastic Ranking with Risk Control
ByteDance Research(字节跳动研究院)
针对现有随机学习排序方法训练成本高、无法保证效用与公平性的问题,提出推理时随机排序方法ISRR,基于预训练评分函数在推理阶段实现带风险控制的随机排序,在三个数据集上以更低成本达到可比效果并提供有限样本保证。
2024-05-18 cs.CY cs.IR cs.LG
Fair ranking: a critical review, challenges, and future directions
IIT Kharagpur(印度理工学院卡哈拉格普尔分校);L3S Research Center(L3S研究中心);Universitat Pompeu Fabra(庞培法布拉大学);Competition and Markets Authority(竞争与市场管理局);Accenture Plc(埃森哲公司);Zalando Research(Zalando研究);Max Planck Institute for Software Systems(马克斯·普朗克软件系统研究所);Cornell Tech(康奈尔科技学院)
排名、推荐和检索系统广泛用于在线平台和其他社会系统,包括电子商务、媒体流、招生、演出平台和招聘。在最近的过去,围绕着使这些系统对被排名的个人、提供者或内容公平,已经开发了大量的“公平排名”研究文献。大多数文献定义了一个单一的检索实例的公平性,或作为一个简单的附加概念,随着时间的推移检索的多个实例。这项工作提供了一个关键的概述,这种文献,详细说明了这种方法错过的往往是特定于上下文的问题:高排名的位置和真正的供应商效用,溢出效应和复合效应随着时间的推移,诱导战略激励,统计不确定性的影响之间的差距。然后,我们为更全面和以影响为导向的公平排名研究议程提供了一条前进的道路,包括来自其他领域的方法学经验教训,以及更广泛的利益相关者社区在克服数据瓶颈和设计有效的监管环境方面的作用。
2022-01-29 cs.AI cs.GT cs.IR
Overview of the TREC 2019 Fair Ranking Track
Microsoft Research Montréal(微软研究院蒙特利尔分院);Boise State University(博伊西州立大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
TREC公平排名的目标是开发一个基准,用于评估检索系统对不同内容提供方的公平性,以及经典的相关性概念。作为基准测试的一部分,我们定义了标准化的公平性度量和评估协议,并发布了公平排名问题的数据集。2019年的任务重点是对给定查询的学术论文摘要进行重新排序。其目的是公平地代表在系统提交时未知的几个组的相关作者。因此,这条赛道强调了在各种群体定义中具有强大性能的系统的开发。向参与者提供来自Semantic Scholar的查询日志数据(查询、文档和相关性)。本文介绍了一个概述的轨道,包括任务的定义,数据和注释过程的描述,以及提交的系统的性能比较。
2020-03-25 cs.DL cs.IR cs.LG
Overview of the TREC 2020 Fair Ranking Track
Microsoft Research Montréal(微软研究院蒙特利尔);Boise State University(博伊西州立大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所);Montreal Institute for Learning Algorithms(蒙特利尔学习算法研究所)
本文概述了NIST TREC 2020年公平排名轨道。2020年,我们再次采用学术搜索任务,将学术文章摘要和查询的语料库提交给生产学术搜索引擎。公平排名轨道的核心目标是为不同作者群体提供公平的曝光度(群体公平框架)。我们认识到可能存在多个组定义(例如,基于人口统计学,身高,主题),并希望系统对这些具有鲁棒性。我们希望参与者开发的系统能够优化任意组定义的公平性和相关性,并且直到提交评估运行后才显示确切的组定义。轨道包含两个任务,重新排序和检索,具有共享评估。
2021-08-11 cs.CY cs.IR cs.LG
Policy-Gradient Training of Fair and Unbiased Ranking Functions
Cornell University(康奈尔大学);Tsinghua University(清华大学)
虽然隐式反馈(例如,点击、停留时间等)是学习排序的一个丰富而有吸引力的数据来源,但它可能会产生不公平的排名政策,无论是外部的还是内部的原因。外生原因通常表现为训练数据中的偏差,然后反映在学习的排名策略中,并经常导致富人越来越富的动态。此外,即使在纠正了这些偏差之后,学习算法设计的内在原因仍然可能导致排名策略不能以公平的方式在项目之间分配曝光。为了解决外源性和内源性的不公平性,我们提出了第一个学习排名的方法,同时解决介绍偏见和择优公平的曝光。具体来说,我们定义了一类摊销公平的曝光限制,可以选择基于应用程序的需求,我们展示了如何执行这些公平的标准,尽管隐式反馈数据中的选择偏差。关键的结果是一个有效的和灵活的政策梯度算法,称为FULTR,这是第一个使使用反事实估计效用估计和公平性约束。除了框架的理论依据,我们的经验表明,该算法可以学习准确和公平的排名政策,从偏见和嘈杂的反馈。
2021-05-09 cs.CY cs.IR cs.LG
Fair Matrix Factorisation for Large-Scale Recommender Systems
推荐系统受到各种要求的限制,例如排名质量,优化效率和项目公平性。项目公平性是实际系统中一个新出现的问题。项目公平性的概念要求通过考虑为用户推荐的整个排名集来控制项目的机会(例如曝光)。然而,公平性的内在本质破坏了用户和项目的优化子问题的可分性,这是传统的可扩展算法,如隐式交替最小二乘(iALS)的基本属性。因此,很少有公平意识的方法可用于大规模的项目推荐。由于从业人员缺乏简单的工具,解决不公平问题的成本将很高,或者在最坏的情况下,将被放弃。本研究借由开发一个简单且可扩充的协同过滤方法来解决现实世界中的不公平问题。我们构建了一个名为fiADMM的方法,它继承了iALS的可扩展性,并保持了可证明的收敛保证。
2022-11-19 cs.IR
The Role of Relevance in Fair Ranking
Massachusetts Institute of Technology(麻省理工学院);University of Michigan(密歇根大学);Max Planck Institute for Security and Privacy(马克斯·普朗克安全与隐私研究所)
本文研究相关性分数能否作为公平排序中的价值代理,提出其应满足的准则,并通过点击数据案例揭示偏差对公平评估和干预的影响。
2023-06-06 cs.CY cs.IR cs.LG
Calibrating Explore-Exploit Trade-off for Fair Online Learning to Rank
University of Virginia(弗吉尼亚大学)
在线学习排序(OL 2 R)由于其避免了离线监督排序模型学习中昂贵的相关性标注,近年来引起了广泛的研究兴趣。这样的解决方案探索未知数(例如,有意地在顶部位置上呈现所选择的结果)以改进其相关性估计。然而,这引发了对其排名公平性的关注:在OL 2 R过程中,不同类别的项目可能会受到不同的待遇。但是现有的公平排名解决方案通常需要事先了解结果相关性或执行排名器,这与OL 2 R的设置相矛盾,因此不能直接应用于保证公平性。在这项工作中,我们提出了一个通用的框架,以实现公平性定义的组曝光OL 2 R。其核心思想是校准公平控制,相关学习和在线排名质量的探索和开发。特别是,当模型正在探索一组相关反馈的结果时,我们将探索限制在随机排列的子集内,其中在反馈仍然是无偏的同时保持组间的公平性。从理论上证明了这种策略引入最小失真OL 2 R的遗憾,以获得公平。对两个公共学习排序基准数据集进行了广泛的实证分析,以证明所提出的解决方案与现有的公平OL 2 R解决方案相比的有效性。
2021-11-01 cs.IR cs.LG
Towards Fair Rankings: Leveraging LLMs for Gender Bias Detection and Measurement
Università della Svizzera italiana \& University of Amsterdam;University of Amsterdam The Netherland;Unviersity of Amsterdam The Netherland;University of Amsterdam
本文利用LLMs检测段落排序中的性别偏见,提出新指标CWEx并发布MSMGenderBias数据集,实验证明其比以往指标更详细且与人类标签对齐度更高,为缓解IR系统偏见提供稳健框架。
2025-06-27 cs.CL cs.IR
Fair Feed Ranking for Participatory Budgeting
University of Konstanz(康斯坦茨大学)
针对参与式预算中提案排序的公平性问题,提出FairFeed排序设计,通过透明偏好和拒绝通道提升曝光公平性,模拟显示其优于现有排序。
2026-09-25 cs.CY cs.IR
hyperFA*IR: A hypergeometric approach to fair rankings with finite candidate pool
针对现有公平排序方法未考虑有限候选池规模的问题,提出基于超几何分布的hyperFA*IR框架,通过无放回抽样建模和Monte Carlo算法准确评估并强制执行排序公平性,同时支持平权行动政策。
2025-06-17 cs.CY cs.IR stat.AP
Does Reasoning Make Search More Fair? Comparing Fairness in Reasoning and Non-Reasoning Rerankers
Johns Hopkins University(约翰霍普金斯大学);Human Language Technology Center of Excellence(语言技术卓越中心)
研究比较了推理与非推理重排序器的公平性,发现推理模型对公平性无显著影响,需进一步优化以提升公平性。
2026-03-11 cs.AI cs.IR
FairSearch: A Tool For Fairness in Ranked Search Results
排名搜索结果和推荐已经成为我们在线查找内容、产品、地点和人员的主要机制。随着招聘、选择、购买和约会越来越多地由算法介导,排名可能决定职业和商业机会、教育安置、获得福利,甚至社会和生殖成功。因此,询问搜索结果是否会降级,边缘化或排除弱势群体的个人或推广具有不受欢迎功能的产品具有社会和道德重要性。在本文中,我们提出了公平搜索,第一个公平的开源搜索API,提供公平的概念排名搜索结果。我们实现了来自公平排名文献的两个算法,即FA*IR(Zehlike等人,2017)和DELTR(Zehlike和Castillo,2018),并将它们作为Python和Java中的独立库提供。此外,我们为这两种算法实现了Elasticsearch的接口,这些接口使用了上述Java库,然后作为Elasticsearch插件提供。Elasticsearch是基于Apache Lucene的著名搜索引擎API。通过我们的插件,我们使希望确保不同风格的公平搜索结果的搜索引擎开发人员能够轻松地将DELTR和FA*IR集成到现有的Elasticsearch环境中。
2020-04-23 cs.IR
Optimizing generalized Gini indices for fairness in rankings
Meta AI Research(元人工智能研究院);LAMSADE, Université Paris Dauphine-PSL(巴黎多芬大学-PSL LAMSADE实验室)
人们越来越感兴趣的是设计推荐系统,旨在公平对待项目生产者或他们最不满意的用户。受经济学中不平等度量领域的启发,本文探讨了使用广义基尼福利函数(GGF)作为一种手段来指定推荐系统应该优化的规范标准。GGF根据个人在人口中的地位来衡量个人的权重,给予境况更差的个人更大的权重,以促进平等。根据这些权重,GGF最小化项目暴露的基尼指数,以促进项目之间的平等,或专注于最不满意的用户的特定分位数的性能。用于排名的GGF具有挑战性,因为它们是不可微的。我们解决这个挑战,利用工具,从非光滑优化和投影算子中使用的微分排序。我们使用真实数据集进行了实验,其中包含多达15k个用户和项目,这表明我们的方法在各种推荐任务和公平性标准上获得了比基线更好的权衡。
2023-03-28 cs.AI cs.CY cs.IR
Fast online ranking with fairness of exposure
Meta AI
随着推荐系统在对在线内容进行分类和优先级排序方面变得越来越重要,它们对商品生产商的机会或收入产生了越来越大的影响。例如,他们会影响简历推荐给哪个招聘人员,或者音乐曲目、视频或新闻文章被曝光给谁和曝光多少。这就要求推荐方法不仅要最大化用户满意度,而且要考虑项目或项目组曝光的公平性。形式上,这样的建议通常是通过最大化随机排名空间中的凹目标函数来获得的。当一个项目的总曝光量被定义为它在用户上的曝光量之和时,每个用户的最佳排名变得耦合,这使得优化过程具有挑战性。找到这些排名的现有方法或者解决批处理设置中的全局优化问题,即,这使得它们不适用于大规模,或者基于具有弱理论保证的物理学。在本文中,我们提出了第一个有效的在线算法,以优化凹目标函数的空间中的排名,适用于每一个凹和光滑的目标函数,如发现公平的曝光。基于Frank-Wolfe算法的在线变体,我们证明了我们的算法计算速度快,实时生成排名,计算成本由排序操作主导,内存效率高,并且具有很强的理论保证。与只最大化用户端性能的基线策略相比,我们的算法允许将复杂的公平性暴露标准与可忽略不计的计算开销的建议。
2022-09-13 cs.AI cs.CY cs.IR
Ranking with Fairness Constraints
在诸如搜索引擎、新闻馈送和推荐系统的应用中,广泛地部署排名算法来对一组项目进行排序。然而,最近的研究表明,如果不加以控制,排名算法的输出可能会导致所呈现的内容类型的多样性下降,促进刻板印象和错误的观点。为了解决这些问题,我们研究了传统排名问题的以下变体时,此外,有公平性或多样性的限制。给定一个项目集合,以及1)将项目放置在排名中特定位置的值,2)敏感属性的集合(诸如性别、种族、政治观点);以及3)约束的集合,其对于每个k,约束允许出现在排名的前k个位置中的具有每个属性的项目的数量,目标是输出在遵守约束的同时使关于原始等级质量度量的值最大化的等级。这个问题封装了各种研究良好的问题有关的二分和超图匹配的特殊情况下,原来是很难近似,即使有简单的约束。我们的主要技术贡献是快速精确和近似算法以及互补的硬度结果,一起来接近解决这个约束排名最大化问题的近似性。与以前的工作的约束匹配问题,我们的算法运行在线性时间,即使当约束的数量是大的,其近似比不依赖于约束的数量,它产生的解决方案与小的约束违反。我们的研究结果依赖于洞察约束匹配问题时,目标满足的属性,出现在常见的排名指标,如贴现累积增益,斯皮尔曼的rho或布拉德利特里。
2018-07-30 cs.CY cs.DS cs.IR
Bias vs Bias -- Dawn of Justice: A Fair Fight in Recommendation Systems
Deakin University(德克萨斯大学)
本文提出一种公平感知的重排序方法,利用现有偏见纠正推荐系统中不同物品类别和人口群体的差异,在多个敏感属性上减轻偏见,且性能几乎不下降。
2025-06-23 cs.AI cs.IR
Fair Multi-Stakeholder News Recommender System with Hypergraph ranking
imec(校际微电子中心);KU Leuven(荷语鲁汶大学)
推荐系统通常被设计为满足最终用户的需求。然而,在某些领域,用户并不是系统中唯一的利益相关者。例如,在新闻聚合网站中,用户、作者、杂志以及平台本身都是潜在的利益攸关方。大多数协同过滤推荐系统都存在受欢迎度偏差的问题。因此,如果推荐系统只考虑用户的偏好,大概它会过度代表受欢迎的提供商,而不代表不太受欢迎的提供商。为了解决这个问题,我们应该在生成的排名列表中考虑其他利益相关者。在本文中,我们证明了超图学习具有处理多利益相关者推荐任务的自然能力。超图可以对不同类型的对象之间的高阶关系进行建模,因此自然倾向于生成考虑多个利益相关者的推荐列表。我们在时间轮中形成建议,并学习调整利益相关者的权重,以随着时间的推移增加低覆盖利益相关者的覆盖率。实验结果表明,该方法能有效地克服流行度偏差,在较低的准确率下,对两个新闻数据集的作者给出更公平的推荐。
2021-02-09 cs.IR cs.LG
Contextual bandits with concave rewards, and an application to fair ranking
PSL University(巴黎文理研究大学);Meta AI
我们认为上下文的强盗与凹奖励(CBCR),一个多目标的强盗问题,其中所需的权衡之间的奖励是由一个已知的凹目标函数定义的,和奖励向量取决于观察到的随机上下文。我们提出了第一个算法,可证明消失的遗憾CBCR没有限制的政策空间,而以前的作品仅限于有限的政策空间或表格表示。我们的解决方案是基于几何解释的CBCR算法作为优化算法的期望回报跨越所有随机政策的凸集。基于约束凸优化中的Frank-Wolfe分析,我们得到了一个新的减少,从CBCR遗憾的标量奖励强盗问题的遗憾。我们说明了如何应用减少现成的线性和一般的奖励函数,在非组合行动的情况下,获得算法的CBCR。出于公平的建议,我们描述了一个特殊情况下的CBCR排名和公平意识的目标,导致第一个算法的遗憾保证上下文组合土匪公平曝光。
2023-02-28 cs.AI cs.CY cs.IR
Controlling Fairness and Bias in Dynamic Learning-to-Rank
排名是许多在线平台将用户与项目(例如新闻,产品,音乐,视频)相匹配的主要界面。在这些双边市场中,不仅用户从排名中获得效用,而且排名还决定了项目提供商(例如出版商,卖家,艺术家,工作室)的效用(例如曝光,收入)。已经注意到,如几乎所有学习排序算法所做的那样,对用户的短视地优化效用可能对项目提供者不公平。因此,我们提出了一种学习排序方法,用于明确地对项目组(例如,同一出版商的文章,同一艺术家的曲目)执行基于价值的公平保证。特别是,我们提出了一个学习算法,确保摊销组公平的概念,同时学习隐式反馈数据的排名功能。该算法采用控制器的形式,它集成了公平性和实用性的无偏估计,随着更多的数据变得可用,动态地适应两者。除了其严格的理论基础和收敛保证,我们发现经验,该算法是非常实用和强大的。
2020-05-29 cs.CY cs.IR stat.ML