On the Problem of Underranking in Group-Fair Ranking
Indian Institute of Science（印度科学学院）；Microsoft Research（微软研究院）
搜索和推荐系统，例如搜索引擎、招聘工具、在线市场、新闻和社交媒体，输出内容、产品以及有时人员的排名列表。信用评级、标准化测试、风险评估只输出一个分数，但也隐含地用于排名。这种排名系统中的偏见，特别是在最高级别中的偏见，可能会加剧社会和经济不平等，歪曲观点，并加强陈规定型观念。另一方面，对少数群体的偏见纠正，如果被认为有利于群体公平的结果，而不是精英统治，可能会造成更大的伤害。在本文中，我们制定了排名不足的问题，在组公平的排名，这是没有解决在以前的工作。大多数组公平排名算法对给定的排名进行后处理并输出组公平排名。我们定义排名不足的基础上如何接近组公平的排名，每个项目是其原始的排名，并证明了一个下界的权衡同时排名不足和组公平的排名。我们给出了一个公平的排名算法，采取任何给定的排名，并输出另一个排名与同时排名不足和组公平性保证可比的下限，我们证明。我们的算法适用于任何数量的组的组公平性约束。我们的实验结果证实了排名不足和组公平性之间的理论权衡，也表明我们的算法实现了最好的两者相比，国家的最先进的基线。
2021-02-18 cs.CY cs.DS cs.IR
Fair Ranking with Noisy Protected Attributes
Yale University（耶鲁大学）
公平排序问题，要求排序一组给定的项目，以最大限度地提高效用受组公平性约束，已受到关注的公平性，信息检索，和机器学习文献。然而，最近的作品，观察到社会显着（包括受保护）的项目属性的错误可以显着破坏现有的公平排名算法的公平性保证，并提出减轻这种错误的影响的问题。我们研究了一个模型下的公平排名问题，其中项目的社会显着属性是随机和独立扰动。我们提出了一个公平的排名框架，它结合了群体公平性的要求，以及社会显着的属性扰动的概率信息。我们提供可证明的保证，我们的框架实现的公平性和效用，并表明这是信息理论上不可能显着击败这些保证。我们的框架适用于多个非不相交的属性和一般类的公平性约束，包括比例和平等的代表性。从经验上讲，我们观察到，与基线相比，我们的算法输出具有更高公平性的排名，并且与基线相比具有类似或更好的公平性-效用权衡。
2022-11-30 cs.CY cs.DS cs.IR
Maxmin-Fair Ranking: Individual Fairness under Group-Fairness Constraints
ISI Foundation（ISI基金会）；Eurecat（Eurecat技术中心）
我们研究了一个新的问题，旨在尽量减少个人的不公平性时，强制执行组公平性约束排名的公平性。我们的建议是植根于分布最大最小公平理论，它使用随机化，以最大限度地提高预期的满意度最差的个人。我们设计了一个精确的多项式时间算法，找到最大最小公平分布的一般搜索问题（包括，但不限于，排名），并表明我们的算法可以产生的排名，同时满足给定的组公平性约束，确保最大可能的价值被带到个人。
2021-06-17 cs.AI cs.DS cs.LG
Fair Ranking as Fair Division: Impact-Based Individual Fairness in Ranking
Cornell University（康奈尔大学）
排名已经成为双边在线市场的主要界面。许多人已经注意到，排名不仅影响用户的满意度（例如，客户、听众、雇主、旅行者），但是排名中的位置将曝光（从而经济机会）分配给排名项目（例如，文章、产品、歌曲、求职者、餐馆、酒店）。这就提出了公平性的问题，大多数现有的作品都明确地将项目暴露与项目相关性联系起来，以解决公平性问题。然而，我们认为，任何特定的选择这样一个链接功能可能是难以辩护，我们表明，由此产生的排名仍然是不公平的。为了避免这些缺点，我们开发了一种新的公理化方法，它植根于公平划分的原则。这不仅避免了选择链接函数的需要，而且更有意义地量化了暴露之外对项目的影响。我们的无嫉妒性公理和优于统一排名的公理假设，对于公平的排名政策，每个项目都应该优先于其他任何项目的排名分配，并且任何项目都不应该受到排名的不利影响。为了根据这些公理计算公平的排名策略，我们提出了一个新的排名目标相关的纳什社会福利。我们表明，该解决方案有保证，它的嫉妒免费，其优势，统一排名的每一个项目，其帕累托最优。相比之下，我们发现，传统的基于安全的公平可以产生大量的嫉妒，并有一个高度不同的项目的影响。除了这些理论结果，我们实证说明我们的框架如何控制基于影响的个人项目公平性和用户效用之间的权衡。
2022-08-30 cs.AI cs.IR cs.LG
End-to-end Learning for Fair Ranking Systems
Syracuse University（雪城大学）；Georgia Institute of Technology（佐治亚理工学院）；Texas A&M University（德克萨斯A&M大学）
学习排名问题的目的是排名项目，以最大限度地暴露那些最相关的用户查询。这样的排名系统的一个理想的属性是保证指定的项目组之间的公平性的一些概念。虽然公平性最近被认为是在学习排名系统的背景下，目前的方法不能提供建议的排名政策的公平性的保证。本文针对这一差距，并介绍了智能预测和优化公平排名（SPOFR），一个集成的优化和学习框架的公平约束学习排序。端到端SPOFR框架包括约束优化子模型，并产生保证满足公平性约束的排名策略，同时允许对公平性-效用权衡进行精细控制。SPOFR显着改善目前国家的最先进的公平学习排名系统相对于既定的性能指标。
2021-11-21 cs.AI cs.LG
Sampling Individually-Fair Rankings that are Always Group Fair
IISc（印度科学学院）；Yale University（耶鲁大学）；MSR India（微软研究院印度分院）
针对排名中的公平性问题，提出一种高效算法，从个体公平分布中采样排名，确保每个输出排名满足群体公平，且期望效用接近最优公平解，实验证明其优于现有基线。
2023-06-21 cs.CY cs.DS cs.IR
Delayed Impact of Fair Machine Learning
University of California, Berkeley（加州大学伯克利分校）
机器学习中的公平性主要是在静态分类环境中研究的，而不关心决策如何随着时间的推移改变底层种群。传统观点认为，公平标准促进了它们旨在保护的那些群体的长期福祉。我们研究静态公平标准如何与幸福感的时间指标相互作用，如长期改善，停滞和利益变量的下降。我们证明，即使在一个一步反馈模型中，共同的公平标准一般不促进改善随着时间的推移，实际上可能会造成伤害的情况下，一个不受约束的目标不会。我们完全表征的延迟影响的三个标准的标准，对比这些表现出质的不同的行为的制度。此外，我们发现，一种自然形式的测量误差扩大了制度，其中公平性标准表现良好。我们的研究结果强调了测量和时间建模在公平性标准评估中的重要性，提出了一系列新的挑战和权衡。
2018-04-07 cs.LG stat.ML
Opportunistic Multi-aspect Fairness through Personalized Re-ranking
University of Colorado, Boulder（科罗拉多大学博尔德分校）；DePaul University（德保罗大学）；The Chinese University of Hong Kong（香港中文大学）
随着推荐系统变得越来越普遍，并进入了就业和住房等具有更大社会影响的领域，研究人员已经开始寻求确保此类系统产生的结果公平的方法。这项工作主要集中在开发推荐方法，其中公平性指标与推荐准确性一起被联合优化。然而，以前的工作在很大程度上忽略了个人偏好如何限制算法产生公平建议的能力。此外，除了少数例外，研究人员只考虑了相对于单一敏感特征或属性（如种族或性别）衡量公平性的场景。在本文中，我们提出了一个重新排名的方法，公平意识的建议，学习个人偏好在多个公平性的维度，并使用它们来提高提供商的公平性的推荐结果。具体来说，我们表明，我们的机会主义和度量不可知的方法实现了更好的权衡准确性和公平性比以前的重新排名的方法，并在多个公平性方面。
2020-05-21 cs.AI cs.IR cs.LG
What's in a Query: Polarity-Aware Distribution-Based Fair Ranking
Massachusetts Institute of Technology（麻省理工学院）；Georgia Institute of Technology（佐治亚理工学院）；Max Planck Institute for Security and Privacy（马克斯·普朗克安全与隐私研究所）
本文针对摊销公平排序提出基于注意力与相关性分布散度的 DistFaiR 度量，证明个体公平性可约束群体公平性，并揭示忽略查询信息会带来公平漂洗风险。
2025-02-17 cs.CY cs.LG
Policy-Gradient Training of Fair and Unbiased Ranking Functions
Cornell University（康奈尔大学）；Tsinghua University（清华大学）
虽然隐式反馈（例如，点击、停留时间等）是学习排序的一个丰富而有吸引力的数据来源，但它可能会产生不公平的排名政策，无论是外部的还是内部的原因。外生原因通常表现为训练数据中的偏差，然后反映在学习的排名策略中，并经常导致富人越来越富的动态。此外，即使在纠正了这些偏差之后，学习算法设计的内在原因仍然可能导致排名策略不能以公平的方式在项目之间分配曝光。为了解决外源性和内源性的不公平性，我们提出了第一个学习排名的方法，同时解决介绍偏见和择优公平的曝光。具体来说，我们定义了一类摊销公平的曝光限制，可以选择基于应用程序的需求，我们展示了如何执行这些公平的标准，尽管隐式反馈数据中的选择偏差。关键的结果是一个有效的和灵活的政策梯度算法，称为FULTR，这是第一个使使用反事实估计效用估计和公平性约束。除了框架的理论依据，我们的经验表明，该算法可以学习准确和公平的排名政策，从偏见和嘈杂的反馈。
2021-05-09 cs.CY cs.IR cs.LG
MANI-Rank: Multiple Attribute and Intersectional Group Fairness for Consensus Ranking
Worcester Polytechnic Institute（伍斯特理工学院）
将许多排名者的偏好结合到一个单一的共识排名中，对于从招聘、录取到贷款的后续申请至关重要。虽然群体公平性已被广泛研究的分类，群体公平性的排名，特别是排名聚合仍然处于起步阶段。最近的工作引入了用于组合排名的公平排名聚合的概念，但仅限于候选人具有单个二进制保护属性的情况，即，他们只分为两类。然而，如何创建一个代表所有排名者偏好的共识排名，同时确保公平对待具有性别、种族和国籍等多重受保护属性的候选人，仍然是一个悬而未决的问题。在这项工作中，我们是第一个定义和解决这个开放的多属性公平共识排名（MFCR）问题。作为一个基础，我们设计了新的组公平性标准的排名，称为MANI-RANK，确保公平对待由个人保护属性及其交集定义的组。利用MANI-RANK准则，我们开发了一系列的算法，首次解决MFCR问题。我们的实验研究与丰富多样的共识方案表明，我们的MFCR方法是唯一的方法来实现交叉和保护属性的公平性，同时也代表了通过许多基础排名表达的偏好。我们对优秀奖学金的真实案例研究说明了我们的MFCR方法在减轻多个受保护属性及其交叉点之间的偏差方面的有效性。这是“MANI排名：多属性和交叉组公平性共识排名”的扩展版本，将出现在ICDE 2022中。
2022-07-20 cs.CY cs.LG
When Fair Ranking Meets Uncertain Inference
Northeastern University（东北大学）；Carnegie Mellon University（卡内基梅隆大学）
研究探讨了在人口推断存在不确定性时，公平排名算法的公平性影响，指出不应使用不准确的人口推断数据作为输入。
2022-05-04 cs.CY cs.IR cs.LG
Sampling Ex-Post Group-Fair Rankings
Indian Institute of Science（印度科学学院）；Microsoft Research（微软研究院）
本文提出随机化群体公平排名的公理化定义，并设计两种采样算法，在保证事后群体公平约束的同时提升采样效率和排名效用。
2023-05-29 cs.DS cs.LG
FADE: FAir Double Ensemble Learning for Observable and Counterfactual Outcomes
Carnegie Mellon University（卡内基梅隆大学）；J. P. Morgan AI Research（摩根大通人工智能研究院）
建立公平预测的方法通常涉及公平性和准确性之间以及不同公平性标准之间的权衡，但这些权衡的性质各不相同。最近的工作旨在描述这些权衡在特定的问题设置，但这些方法往往不适应用户谁希望提高现有的基准模型的公平性，而不牺牲准确性，反之亦然。这些结果通常也限于可观察的准确性和公平性标准。我们开发了一个灵活的公平集成学习框架，允许用户有效地探索公平性-准确性空间或提高基准模型的公平性或准确性。我们的框架可以同时针对多个可观察或反事实的公平标准，它使用户能够结合大量以前训练和新训练的预测。我们提供理论保证，我们的估计收敛速度快。我们将我们的方法应用于模拟和真实数据，以及可观察和反事实的准确性和公平性标准。我们发现，令人惊讶的是，多个不公平的措施，有时可以同时最小化，对准确性的影响很小，相对于无约束的预测或现有的基准模型。
2021-09-01 cs.LG stat.ML
Optimizing Group-Fair Plackett-Luce Ranking Models for Relevance and Ex-Post Fairness
Indian Institute of Science（印度科学研究所）；University of California, Berkeley（加利福尼亚大学伯克利分校）；Microsoft Research, Bengaluru（微软研究院班加罗尔分院）；Microsoft Research（微软研究院）
针对学习排序中仅优化相关性易引发表征损害、事前公平随机排序无法保障事后公平的问题，提出带事后表征约束的群体公平Plackett-Luce模型，在保证公平的同时提升相关性，隐式偏差场景下表现更优。
2023-08-25 cs.CY cs.IR cs.LG
Does Fair Ranking Improve Minority Outcomes? Understanding the Interplay of Human and Algorithmic Biases in Online Hiring
Harvard University（哈佛大学）
排名算法被广泛应用于各种在线招聘平台，包括LinkedIn，TaskRabbit和Fiverr。先前的研究已经表明，这些平台所采用的排名算法容易出现各种不期望的偏差，从而导致公平排名算法的提出（例如，这增加了代表性不足的候选人的曝光率。然而，几乎没有研究探讨公平排名算法是否实际上改善了现实世界的结果（例如，招聘决定）。此外，对于其他因素（例如，工作环境、雇主的固有偏见）可能会影响公平排名在实践中的效力。在这项工作中，我们分析了在线招聘平台中性别偏见的各种来源，包括工作环境和雇主的固有偏见，并确定这些因素如何与排名算法相互作用，以影响招聘决策。据我们所知，这项工作首次尝试研究在线招聘背景下上述因素之间的相互作用。我们进行了一个大规模的用户研究模拟在线招聘场景的数据从任务兔子，一个流行的在线自由职业者网站。我们的研究结果表明，虽然公平的排名算法一般提高代表性不足的少数民族的选择率，其有效性在很大程度上依赖于工作环境和候选人的个人资料。
2021-04-08 cs.HC cs.LG
A Tutorial On Intersectionality in Fair Rankings
Politecnico di Milano（米兰理工大学）
该研究针对算法偏见与不公平排序问题，指出多数公平感知排序方法忽视属性交叉性的局限，通过案例介绍交叉性纳入公平排序的方法，强调交叉性对实现公平的必要性。
2025-02-07 cs.CY cs.IR cs.LG
Explainable Disparity Compensation for Efficient Fair Ranking
Rutgers, the State University of New Jersey（新泽西州立罗格斯大学）
本文提出一种易于解释的数据驱动补偿措施，通过向代表性不足群体发放加分并结合高效采样算法最小化排序差异，实现公平排序。
2024-04-19 cs.DB cs.LG
Estimation of Fair Ranking Metrics with Incomplete Judgments
University College London（伦敦大学学院）；Microsoft Research（微软研究院）；Max Planck Institute for Security and Privacy（马克斯·普朗克安全与隐私研究所）；Boise State University（博伊西州立大学）；Spotify Research（Spotify研究院）
评价搜索系统排序决策的公平性越来越受到人们的关注。这些指标通常考虑项目对特定组的成员关系，通常使用受保护的属性（如性别或种族）进行识别。迄今为止，这些度量通常假设项目的受保护属性标签的可用性和完整性。然而，受保护的个人属性很少出现，限制了公平排名度量在大规模系统中的应用。为了解决这个问题，我们提出了一个抽样策略和估计技术的四个公平的排名指标。我们制定了一个强大的和无偏的估计，甚至可以与非常有限的数量的标记项目。我们使用模拟和真实世界的数据来评估我们的方法。我们的实验结果表明，我们的方法可以估计这个家庭的公平排名指标，并提供了一个强大的，可靠的替代穷举或随机数据注释。
2021-08-11 cs.CY cs.IR cs.LG
Bipartite Ranking Fairness through a Model Agnostic Ordering Adjustment
Tsinghua University（清华大学）；Weill Cornell Medicine（威尔康奈尔医学院）；Cornell University（康奈尔大学）
针对二分排序中的公平性与性能权衡问题，提出模型无关的后处理框架 xOrder，通过动态规划优化跨受保护群体的效用加权和，在维持分类性能的同时有效实现排序公平性。
2023-07-27 cs.CY cs.LG
Two-sided fairness in rankings via Lorenz dominance
Facebook AI；LAMSADE, Université PSL, Université Paris Dauphine, CNRS（LAMSADE，巴黎PSL大学，巴黎多芬大学，法国国家科学研究中心）
我们考虑的问题，产生的排名是公平的用户和项目生产者在推荐系统。我们讨论了两个通常的建议（例如，音乐或电影）和相互推荐（例如，约会）。遵循福利经济学中的分配正义概念，我们的公平概念旨在增加最贫困个体的效用，我们使用洛伦兹效率标准将其形式化。它保证排名是帕累托有效的，并且在给定的总体效用水平上，它们最大限度地将效用从较好的重新分配到较差的。我们建议通过最大化凹福利函数来生成排名，并基于Frank-Wolfe算法开发了一个高效的推理过程。我们证明，与现有的方法基于公平性约束，我们的方法总是产生公平的排名。我们的实验还表明，就整体效用而言，它以较低的成本增加了境况较差者的效用。
2021-10-28 cs.AI cs.CY cs.IR
Fast Fair Regression via Efficient Approximations of Mutual Information
Gradient Institute（梯度研究所）
迄今为止，大多数关于算法公平性的工作都集中在离散的结果上，比如决定是否给某人贷款。在这些分类设置中，群体公平标准，如独立性，分离和充分性，可以直接通过比较子群体之间的结果率来衡量。然而，许多重要的问题需要预测实际值的结果，例如风险评分或保险费。在这样的回归设置中，测量组公平性标准在计算上是具有挑战性的，因为它需要估计条件概率密度函数之间的信息理论分歧。本文介绍了快速近似的独立性，分离性和充分性组的公平性标准的回归模型，从他们的（条件）互信息定义，并使用这种近似作为正则化的风险最小化框架内执行公平性。在真实世界的数据集上的实验表明，尽管其优越的计算效率，我们的算法仍然显示出最先进的准确性/公平性权衡。
2020-02-14 cs.LG stat.ML
Overview of the TREC 2019 Fair Ranking Track
Microsoft Research Montréal（微软研究院蒙特利尔分院）；Boise State University（博伊西州立大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
TREC公平排名的目标是开发一个基准，用于评估检索系统对不同内容提供方的公平性，以及经典的相关性概念。作为基准测试的一部分，我们定义了标准化的公平性度量和评估协议，并发布了公平排名问题的数据集。2019年的任务重点是对给定查询的学术论文摘要进行重新排序。其目的是公平地代表在系统提交时未知的几个组的相关作者。因此，这条赛道强调了在各种群体定义中具有强大性能的系统的开发。向参与者提供来自Semantic Scholar的查询日志数据（查询、文档和相关性）。本文介绍了一个概述的轨道，包括任务的定义，数据和注释过程的描述，以及提交的系统的性能比较。
2020-03-25 cs.DL cs.IR cs.LG
Overview of the TREC 2020 Fair Ranking Track
Microsoft Research Montréal（微软研究院蒙特利尔）；Boise State University（博伊西州立大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；Montreal Institute for Learning Algorithms（蒙特利尔学习算法研究所）
本文概述了NIST TREC 2020年公平排名轨道。2020年，我们再次采用学术搜索任务，将学术文章摘要和查询的语料库提交给生产学术搜索引擎。公平排名轨道的核心目标是为不同作者群体提供公平的曝光度（群体公平框架）。我们认识到可能存在多个组定义（例如，基于人口统计学，身高，主题），并希望系统对这些具有鲁棒性。我们希望参与者开发的系统能够优化任意组定义的公平性和相关性，并且直到提交评估运行后才显示确切的组定义。轨道包含两个任务，重新排序和检索，具有共享评估。
2021-08-11 cs.CY cs.IR cs.LG
Learning Fair Ranking Policies via Differentiable Optimization of Ordered Weighted Averages
University of Virginia（弗吉尼亚大学）
本文提出将基于有序加权平均的可微优化公平排序模型集成到学习排序训练中，首次实现通过OWA约束优化反向传播，以平衡公平性、用户效用与运行效率。
2024-02-07 cs.AI cs.CY cs.LG
The Role of Relevance in Fair Ranking
Massachusetts Institute of Technology（麻省理工学院）；University of Michigan（密歇根大学）；Max Planck Institute for Security and Privacy（马克斯·普朗克安全与隐私研究所）
本文研究相关性分数能否作为公平排序中的价值代理，提出其应满足的准则，并通过点击数据案例揭示偏差对公平评估和干预的影响。
2023-06-06 cs.CY cs.IR cs.LG
Contextual bandits with concave rewards, and an application to fair ranking
PSL University（巴黎文理研究大学）；Meta AI
我们认为上下文的强盗与凹奖励（CBCR），一个多目标的强盗问题，其中所需的权衡之间的奖励是由一个已知的凹目标函数定义的，和奖励向量取决于观察到的随机上下文。我们提出了第一个算法，可证明消失的遗憾CBCR没有限制的政策空间，而以前的作品仅限于有限的政策空间或表格表示。我们的解决方案是基于几何解释的CBCR算法作为优化算法的期望回报跨越所有随机政策的凸集。基于约束凸优化中的Frank-Wolfe分析，我们得到了一个新的减少，从CBCR遗憾的标量奖励强盗问题的遗憾。我们说明了如何应用减少现成的线性和一般的奖励函数，在非组合行动的情况下，获得算法的CBCR。出于公平的建议，我们描述了一个特殊情况下的CBCR排名和公平意识的目标，导致第一个算法的遗憾保证上下文组合土匪公平曝光。
2023-02-28 cs.AI cs.CY cs.IR
Gradual (In)Compatibility of Fairness Criteria
Zurich University of Applied Sciences（苏黎世应用科学大学）；University of Zurich（苏黎世大学）；University of Bern（伯尔尼大学）
不可能性结果表明，重要的公平性措施（独立性，分离性，充分性）不能同时满足合理的假设。本文探讨了我们是否可以满足和/或改善这些公平措施，同时在一定程度上。我们引入信息理论的公平措施的配方，并定义这些配方的基础上的公平程度。信息理论的公式表明未探索的三个公平措施之间的理论关系。在实验部分，我们使用信息论表达式作为正则化器，获得三个标准数据集的公平正则化预测器。我们的实验表明，a）公平性正则化直接增加公平性度量，与现有的工作一致，b）一些公平性正则化间接增加其他公平性度量，正如我们的理论研究结果所建议的那样。这确立了有可能增加同时满足某些公平度量的程度--某些公平度量是逐渐相容的。
2022-03-16 cs.LG
Calibrating Explore-Exploit Trade-off for Fair Online Learning to Rank
University of Virginia（弗吉尼亚大学）
在线学习排序（OL 2 R）由于其避免了离线监督排序模型学习中昂贵的相关性标注，近年来引起了广泛的研究兴趣。这样的解决方案探索未知数（例如，有意地在顶部位置上呈现所选择的结果）以改进其相关性估计。然而，这引发了对其排名公平性的关注：在OL 2 R过程中，不同类别的项目可能会受到不同的待遇。但是现有的公平排名解决方案通常需要事先了解结果相关性或执行排名器，这与OL 2 R的设置相矛盾，因此不能直接应用于保证公平性。在这项工作中，我们提出了一个通用的框架，以实现公平性定义的组曝光OL 2 R。其核心思想是校准公平控制，相关学习和在线排名质量的探索和开发。特别是，当模型正在探索一组相关反馈的结果时，我们将探索限制在随机排列的子集内，其中在反馈仍然是无偏的同时保持组间的公平性。从理论上证明了这种策略引入最小失真OL 2 R的遗憾，以获得公平。对两个公共学习排序基准数据集进行了广泛的实证分析，以证明所提出的解决方案与现有的公平OL 2 R解决方案相比的有效性。
2021-11-01 cs.IR cs.LG
Fair Active Ranking from Pairwise Preferences
Indian Institute of Science（印度科学学院）；Google Research（谷歌研究院）
本文提出一种公平主动排序方法，通过成对比较和公平目标函数（最小化组误差的范数）实现PACF排序，并分析样本复杂度与下界，实验验证有效性。
2024-02-05 cs.CY cs.LG
Fast online ranking with fairness of exposure
Meta AI
随着推荐系统在对在线内容进行分类和优先级排序方面变得越来越重要，它们对商品生产商的机会或收入产生了越来越大的影响。例如，他们会影响简历推荐给哪个招聘人员，或者音乐曲目、视频或新闻文章被曝光给谁和曝光多少。这就要求推荐方法不仅要最大化用户满意度，而且要考虑项目或项目组曝光的公平性。形式上，这样的建议通常是通过最大化随机排名空间中的凹目标函数来获得的。当一个项目的总曝光量被定义为它在用户上的曝光量之和时，每个用户的最佳排名变得耦合，这使得优化过程具有挑战性。找到这些排名的现有方法或者解决批处理设置中的全局优化问题，即，这使得它们不适用于大规模，或者基于具有弱理论保证的物理学。在本文中，我们提出了第一个有效的在线算法，以优化凹目标函数的空间中的排名，适用于每一个凹和光滑的目标函数，如发现公平的曝光。基于Frank-Wolfe算法的在线变体，我们证明了我们的算法计算速度快，实时生成排名，计算成本由排序操作主导，内存效率高，并且具有很强的理论保证。与只最大化用户端性能的基线策略相比，我们的算法允许将复杂的公平性暴露标准与可忽略不计的计算开销的建议。
2022-09-13 cs.AI cs.CY cs.IR
A review on ranking problems in statistical learning
Carl von Ossietzky University Oldenburg（奥尔登堡大学）
排名问题，也称为偏好学习问题，定义了一类广泛传播的统计学习问题，具有许多应用，包括欺诈检测、文档排序、医学、信用风险筛选、图像排名或媒体记忆性。在这篇文章中，我们系统地回顾了不同类型的实例排序问题，即，排序问题，需要预测的顺序的响应变量，和相应的损失函数分别。优良标准。我们讨论的困难时，试图优化这些标准。至于详细和全面的概述现有的机器学习技术来解决这样的排名问题，我们系统化现有的技术和概括相应的优化问题在一个统一的符号。我们还讨论了相应的算法的排名问题，并确定其优势和局限性。计算方面和开放的研究问题也被认为是。
2020-12-16 cs.LG math.ST stat.ML
Fair Data Adaptation with Quantile Preservation
ETH Zürich（苏黎世联邦理工学院）
分类和回归的公平性最近受到了广泛的关注，并提出了各种部分不相容的标准。可以针对给定的分类器强制执行公平性标准，或者可选地，可以调整数据以确保在数据上训练的每个分类器将遵守期望的公平性标准。提出了一种基于分位数保持的因果结构方程模型数据自适应方法。数据自适应基于数据的假定反事实模型。虽然反事实模型本身无法通过实验验证，但我们表明，即使反事实模型被错误指定，某些人口公平概念仍然得到保证。实现非因果公平概念的确切性质（如人口均等、分离或充分性）取决于基本因果模型的结构和解决变量的选择。我们描述了一种基于随机森林的数据自适应过程的实现，并展示了其在模拟和真实数据上的实际应用。
2019-11-15 cs.AI cs.LG stat.ML
Directed Criteria Citation Recommendation and Ranking Through Link Prediction
S&P Global（标普全球）
本文提出利用基于Transformer的图嵌入进行链路预测，以自动推荐和排序与新文档相关的引文，实验表明其语义表示优于其他基于内容的方法。
2024-03-18 cs.IR cs.LG cs.SI
Subverting Fair Image Search with Generative Adversarial Perturbations
Northeastern University（东北大学）；Google Research（谷歌研究院）
在这项工作中，我们将探讨交叉的公平性和鲁棒性的排名的背景下：当一个排名模型已被校准，以实现某种定义的公平性，是可能的外部对手，使排名模型的行为不公平，而无需访问模型或训练数据？为了研究这个问题，我们提出了一个案例研究，我们开发，然后攻击一个国家的最先进的，公平意识的图像搜索引擎使用的图像已被恶意修改使用生成对抗扰动（GAP）模型。这些扰动试图导致公平重新排名算法不公平地提升包含来自对手选择的子群体的人的图像的排名。我们提出了大量的实验结果表明，我们的攻击可以成功地赋予显着的不公平的优势，相对于公平排名的基线搜索结果的人从大多数类。我们证明了我们的攻击在许多变量上都是稳健的，它们对搜索结果的相关性几乎没有影响，并且在严格的威胁模型下成功。我们的研究结果强调了在野外部署公平机器学习算法的危险，当（1）实现公平所需的数据可能被恶意操纵，以及（2）模型本身对攻击不鲁棒。
2022-05-06 cs.CY cs.LG
Counterfactual Reasoning for Fair Clinical Risk Prediction
Stanford Center for Biomedical Informatics Research（斯坦福生物医学信息学研究中心）；Stanford University（斯坦福大学）
使用机器学习系统来支持医疗保健决策提出了一个问题，即由于电子健康记录中的观察数据中隐含的偏见，这些系统可能会在多大程度上引入或加剧历史上代表性不足和受虐待群体的护理差异。为了在临床风险预测模型的背景下解决这个问题，我们开发了一个增强的反事实公平标准，以将均衡赔率的组公平标准扩展到个人水平。我们这样做是因为，如果事实和反事实的结果没有差别，我们要求对一个病人和一个由改变敏感属性而产生的反事实病人做出相同的预测。我们调查了增强的反事实公平性标准在多大程度上可以应用于开发公平模型，用于观察电子健康记录数据的住院时间延长和死亡率。由于公平性准则是不明确的，没有知识的数据生成过程中，我们使用变分自编码器来执行反事实推理的背景下，假设的因果图。虽然我们的技术提供了一种在学习生成模型的背景下权衡公平性维护与预测性能降低的方法，但需要进一步的工作来评估这种方法的一般性。
2019-07-14 cs.CY cs.LG stat.ML
Multi-Weight Ranking for Multi-Criteria Decision Making
Free University of Bolzano-Bozen（博尔扎诺自由大学）
本文提出将锥分布函数转化为多权重排序工具，以同时吸收多组加权和标量化，能够检测Pareto前沿非凸部分并分析秩反转，并首次连接集合优化与基于集合的多目标优化。
2024-01-14 cs.AI cs.LG math.ST
A Ranking Approach to Fair Classification
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Saarland University（萨尔大学）
决策系统越来越多地用于招聘、入学或贷款审批等领域。通常，这些系统依赖于标记数据来训练分类模型。然而，在许多情况下，地面实况标签是不可用的，相反，我们只能访问不完美的标签作为（可能有偏见的）人为决策的结果。尽管不完美，历史决策往往包含一些有用的信息，对未观察到的真实标签。在本文中，我们专注于只有不完美的标签的情况下，提出了一个新的公平的排名为基础的决策系统的基础上，合法的功能和结果之间的单调关系。我们的方法既直观又易于实现，因此特别适合在现实世界中采用。更详细地说，我们引入了一个基于距离的决策标准，它结合了有用的信息，从历史的决定和帐户不必要的相关性之间的保护和合法的功能。通过对合成数据和真实数据的广泛实验，我们证明了我们的方法是公平的，因为a）它将理想的结果分配给最合格的个体，b）它消除了决策中的刻板印象的影响，从而优于传统的分类算法。此外，我们能够从理论上证明，我们的方法与个人公平的一个突出概念是一致的，即“相似的个人应该得到相似的对待。"
2021-07-16 cs.AI cs.LG
Group Fairness in Prediction-Based Decision Making: From Moral Assessment to Implementation
University of Zurich（苏黎世大学）；Zurich University of Applied Sciences（苏黎世应用科学大学）
确保基于预测的决策的公平性是基于统计组公平性标准。这些标准中哪一个在道德上是最合适的取决于上下文，它的选择需要伦理分析。在本文中，我们提出了一个逐步的过程，集成了三个要素：（a）根据最近提出的“公平机会均等”的一般原则，对特定情况下公平的含义进行道德评估的框架;（b）将评估结果与既定统计群体公平标准相对应，以及（c）一种用于将如此定义的公平性集成到最优决策中的方法。作为第二个贡献，我们展示了FEC原则的新应用，并表明，通过这种扩展，FEC框架涵盖了所有类型的组公平性标准：独立性，分离性和充分性。第三，我们引入了FEC原则的扩展版本，它还允许考虑公平性评估中与道德无关的元素，并链接到众所周知的公平性标准放宽。本文提出了一个框架，开发公平的决策系统在一个概念上健全的方式，结合道德和计算元素的公平预测为基础的决策在一个综合的方法。复制我们结果的数据和代码可在https://github.com/joebaumann/fair-prediction-based-decision-making上获得。
2022-10-19 cs.CY cs.LG
Debias the Black-box: A Fair Ranking Framework via Knowledge Distillation
Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司）；University of Science and Technology of China（中国科学技术大学）；Shanghai International Studies University（上海外国语大学）；Peking University（北京大学）
深度神经网络由于具有许多复杂的非线性单元，可以捕捉查询和文档之间错综复杂的交互历史信息，从而提供正确的搜索推荐。然而，服务提供商在现实环境中经常面临更复杂的障碍，例如部署成本约束和公平性要求。知识蒸馏是将一个经过良好训练的复杂模型（教师）的知识转移到一个简单的模型（学生）中，它的提出可以缓解前一种担忧，但目前最好的蒸馏方法只关注如何使学生模型模仿教师模型的预测。为了更好地促进深度模型的应用，我们提出了一个基于知识蒸馏的公平信息检索框架。该框架可以提高模型的公平性，同时大大减少模型的大小。我们在三个大型数据集上的大量实验表明，我们提出的框架可以将模型大小减少到原始大小的至少1%，同时保持其黑盒状态。在保持较高推荐有效性的同时，公平性提高了15%~46%。
2022-08-24 cs.CY cs.IR cs.LG
Fair Multi-Stakeholder News Recommender System with Hypergraph ranking
imec（校际微电子中心）；KU Leuven（荷语鲁汶大学）
推荐系统通常被设计为满足最终用户的需求。然而，在某些领域，用户并不是系统中唯一的利益相关者。例如，在新闻聚合网站中，用户、作者、杂志以及平台本身都是潜在的利益攸关方。大多数协同过滤推荐系统都存在受欢迎度偏差的问题。因此，如果推荐系统只考虑用户的偏好，大概它会过度代表受欢迎的提供商，而不代表不太受欢迎的提供商。为了解决这个问题，我们应该在生成的排名列表中考虑其他利益相关者。在本文中，我们证明了超图学习具有处理多利益相关者推荐任务的自然能力。超图可以对不同类型的对象之间的高阶关系进行建模，因此自然倾向于生成考虑多个利益相关者的推荐列表。我们在时间轮中形成建议，并学习调整利益相关者的权重，以随着时间的推移增加低覆盖利益相关者的覆盖率。实验结果表明，该方法能有效地克服流行度偏差，在较低的准确率下，对两个新闻数据集的作者给出更公平的推荐。
2021-02-09 cs.IR cs.LG
FARE: Deep Reinforcement Learning For Fair Exposure Constrained Uncertainty Aware Financial Content Personalization
FARE提出将SOV约束排序建模为深度强化学习，并引入CTR预测不确定性到策略设计，通过模块化执行层实现公平曝光，减少偏差同时最小化参与度损失。
2026-09-29 cs.AI cs.IR cs.LG
A Fair Ranking and New Model for Panoptic Scene Graph Generation
University of Augsburg（奥格斯堡大学）
本研究修正了全景场景图生成（PSGG）的错误评估协议，给出公平模型排序，证实两阶段方法具备竞争力，并提出新型两阶段模型DSFormer，在修正评估下大幅刷新SOTA。
2024-07-12 cs.CV cs.LG
Towards Efficient Pareto-optimal Utility-Fairness between Groups in Repeated Rankings
College of Engineering & Computer Science, VinUniversity（VinUniversity工程与计算机科学学院）；University of Engineering and Technology, Vietnam National University（越南国家大学工程技术大学）
本文针对重复排序中效用与群体公平性的帕累托最优平衡问题，提出基于Expohedron和外接球面松弛的高效求解方法，显著降低计算复杂度并逼近真实帕累托曲线。
2024-02-22 cs.IR cs.LG
SAR-Net: A Scenario-Aware Ranking Network for Personalized Fair Recommendation in Hundreds of Travel Scenarios
Alibaba Group（阿里巴巴集团）；The University of Sydney（悉尼大学）
阿里巴巴的旅游营销平台为Fliggy、淘宝、支付宝等数百个不同的旅游场景提供了不可或缺的作用。要为访问不同场景的用户提供个性化推荐服务，有两个关键问题需要仔细解决。首先，由于不同场景的交通特点，训练一个统一的模型来服务所有人是非常具有挑战性的。其次，在推广期间，由于人工干预，一些特定项目的曝光量会重新加权，从而产生有偏差的日志，这会使使用这些有偏差的数据训练的排名模型降级。在本文中，我们提出了一种新的场景感知排名网络（SAR-Net）来解决这些问题。SAR-Net通过两个特定的注意力模块学习用户的跨场景兴趣，从不同的场景中获取丰富的数据，分别利用场景特征和项目特征来调节用户的行为特征。然后，以前一模块的编码特征为输入，采用一个特定于机器人的线性变换层进一步提取特定于机器人的特征，接着是两组去偏专家网络，即，粮农组织特有专家和粮农组织共有专家。它们独立地输出中间结果，这些中间结果通过多场景门控模块进一步融合到最终结果中。此外，为了减轻人工干预造成的数据公平性问题，我们提出了公平系数（FC）的概念来衡量个体样本的重要性，并使用它来重新权衡去偏专家网络中的预测。在覆盖超过8000万用户和155万旅游项目的离线数据集上的实验和在线A/B测试证明了我们的SAR-Net的有效性及其优于最先进的方法。
2021-10-19 cs.AI cs.IR cs.LG
