FairSync: Ensuring Amortized Group Exposure in Distributed Recommendation Retrieval
本文提出FairSync模型，通过将分布式检索中的组公平性问题转化为受约束的分布式优化问题，在对偶空间中利用中心节点聚合历史公平性数据并周期性更新参数，有效确保了摊还组曝光并维持了高检索准确性。
2024-02-16 cs.IR
T-Retrievability: A Topic-Focused Approach to Measure Fair Document Exposure in Information Retrieval
针对现有全局可检索性指标无法准确衡量检索模型曝光偏差的问题，提出主题聚焦的T-Retrievability度量，通过局部主题组计算聚合得到更可靠的公平性评估结果。
2025-11-17 cs.IR
Understanding and Mitigating the Effect of Outliers in Fair Ranking
传统的排名系统预计将排序项目的顺序，其相关性，从而最大限度地提高其效用。在公平排序中，效用与公平作为优化目标相补充。最近的工作公平排名的重点是开发算法，以优化公平性，给定的位置为基础的曝光。相比之下，我们发现排名中的离群值可能会影响曝光率，从而对公平性产生负面影响。与基于位置的暴露相比，项目列表中的离群值可以改变检查概率，这可以导致不同的注意力分布。我们正式离群的排名，表明离群值存在于现实的数据集，并提出了眼动跟踪研究的结果，显示用户扫描顺序和项目的曝光的影响，离群值的存在。然后，我们介绍了OMIT，一种在离群值存在的情况下进行公平排名的方法。给定一个离群值检测方法，OMIT通过抑制top-k排名中的离群值来提高风险的公平分配。使用学术搜索数据集，我们表明，离群优化导致一个更公平的政策，显示更少的离群值在前k，同时保持公平和效用之间的合理权衡。
2022-01-03 cs.IR
Pareto-Optimal Fairness-Utility Amortizations in Rankings with a DBN Exposure Model
近年来，很明显，在许多领域提供的排名不仅需要对用户有用，而且还要尊重项目生产者的曝光公平性。我们考虑的问题，找到排名政策，实现这两个方面之间的帕累托最优权衡。提出了几种方法来解决它;例如，一个流行的是使用线性规划与伯克霍夫-冯诺依曼分解。然而，这些方法基于经典的基于位置的暴露模型（PBM），其假设项目之间的独立性（因此暴露仅取决于等级）。在许多应用中，这种假设是不现实的，并且社区越来越多地转向考虑包括依赖性的其他模型，例如动态贝叶斯网络（DBN）暴露模型。对于这样的模型，计算（精确）最优公平排名政策仍然是一个悬而未决的问题。我们通过利用一种新的几何方法来回答这个问题，该几何方法基于最近为PBM提出的所谓的四面体（Kletti等人，WSDM'22）。我们布局了一个新的几何对象（DBN-六面体）的结构，并提出了一个Carathéodory分解算法的复杂性$O(n^3)$，其中$n$是排名的文件的数量。这样的算法，使任何可行的预期曝光向量的分布在最$n$排名，此外，我们表明，我们可以计算整个帕累托最优的预期曝光向量具有相同的复杂性$O(n^3)$。我们的工作构成了第一个精确的算法，能够有效地找到一个帕累托最优分布的排名。它适用于广泛的公平概念，包括精英和人口公平的经典概念。我们在TREC 2020和MSLR数据集上对我们的方法进行了经验评估，并将其与帕累托最优和速度方面的几个基线进行了比…
2022-05-16 cs.IR
Scalable and Provably Fair Exposure Control for Large-Scale Recommender Systems
针对大规模推荐系统中曝光公平控制计算效率低的问题，本文提出基于iALS的曝光感知ADMM方法exADMM，通过解决公平正则化破坏子问题可分离性的挑战，实现可扩展且可证明收敛的公平曝光控制。
2024-02-22 cs.IR
A Cost-Sensitive Meta-Learning Strategy for Fair Provider Exposure in Recommendation
针对推荐系统中提供者群体曝光不均的问题，提出一种成本敏感元学习策略，在成对推荐模型中实现目标曝光公平且不损失推荐效用。
2024-01-24 cs.IR
Understanding and Mitigating Multi-Sided Exposure Bias in Recommender Systems
公平性是推荐系统中一个重要的系统级目标，是最近广泛研究的主题。这在多边推荐平台中尤其重要，在多边推荐平台中，优化效用不仅对于最终用户至关重要，而且对于其他参与者（例如希望公平表示其物品的物品卖家或生产者）也至关重要。现有的解决方案没有适当地解决建议中的多边公平性的各个方面，因为它们可能仅仅具有片面的观点（即，仅改善一方的公平性），或者没有适当地测量系统中涉及的每个参与者的公平性。在这篇论文中，我的目的是首先调查不公平的建议对系统的影响，以及这些不公平的建议如何对系统中的主要参与者产生负面影响。然后，我试图提出解决建议不公平的方法。我提出了一种评级转换技术，该技术作为构建推荐模型之前的预处理步骤，以减轻输入数据中固有的受欢迎程度偏差，从而减轻推荐列表中商品和供应商的暴露不公平性。此外，作为另一种解决方案，我提出了一个通用的基于图的解决方案，作为推荐生成后的后处理方法，以减轻推荐结果中的多边暴露偏差。对于评估，我介绍了几个度量的项目和供应商的曝光公平性，并表明这些指标更好地捕捉公平性的推荐结果。我进行了大量的实验，以评估所提出的解决方案的有效性。在不同公开数据集上的实验以及与各种基线的比较证实了所提出的解决方案在提高物品和供应商的曝光公平性方面的优越性。
2021-11-10 cs.IR
Equity vs. Equality: Optimizing Ranking Fairness for Tailored Provider Needs
Tsinghua University（清华大学）；Alibaba（阿里巴巴）
本文提出EquityRank算法，通过建模提供者对曝光和销售等关键结果的偏好，优化排序公平性，以满足不同提供者的需求。
2026-01-31 cs.IR
Measuring Item Global Residual Value for Fair Recommendation
本文针对信息流推荐中物品曝光不公及“雪球效应”，提出建模物品级全局剩余价值（GRV），并通过TaFR框架在提升推荐性能的同时实现更公平的资源分配。
2023-07-17 cs.IR
CAPRI-FAIR: Integration of Multi-sided Fairness in Contextual POI Recommendation Framework
针对POI推荐中不活跃用户推荐不准、小众POI曝光不足的多视角公平性问题，本文提出纳入供需双方公平性的后过滤方法，实验验证了线性打分模型的平衡效果及公平性权衡对模型与数据集的依赖性。
2024-08-14 cs.IR
Fairness of Exposure in Stochastic Bandits
Cornell University（康奈尔大学）
上下文强盗算法已被广泛用于在线系统（例如市场，音乐流媒体，新闻）中的推荐，在这些系统中，它们现在对哪些项目被暴露给用户产生重大影响。这就提出了对这些物品以及从这种曝光中受益的卖家、艺术家和作家的公平性的问题。我们认为，传统的强盗公式可能会导致一个不可取的和不公平的赢家通吃的风险分配。为了解决这个问题，我们提出了一个新的强盗目标，保证基于价值的公平暴露的项目，同时优化效用的用户。我们制定公平后悔和奖励后悔在这种情况下，随机多武装土匪和随机线性土匪的算法。我们证明了该算法实现了次线性公平后悔和奖励后悔。除了理论分析，我们还提供了经验证据，这些算法可以公平地分配暴露于不同的武器有效。
2021-09-12 cs.IR cs.LG
Maximizing Marginal Fairness for Dynamic Learning to Rank
排名，特别是搜索和推荐系统中的排名，通常决定人们如何访问信息以及信息如何暴露给人们。因此，如何平衡信息披露的相关性和公平性，是现代信息披露制度的关键问题之一。由于传统的排名框架近视地将文档与其相关性进行排序将不可避免地引入不公平的结果暴露，因此最近关于排名公平性的研究主要集中在动态排名范例上，其中结果排名可以实时调整以支持组中的公平性（即，种族、性别等）。然而，现有的研究动态学习排序的公平性，往往实现整体公平的文件曝光排名列表显着牺牲的性能，结果的相关性和公平性的顶部结果。为了解决这个问题，我们提出了一个公平和公正的排名方法命名为最大边际公平（MMF）。该算法集成了无偏估计的相关性和基于价值的公平性，同时提供了一个明确的控制器，平衡选择的文件，以最大限度地提高边际相关性和公平性的前k个结果。理论和实证分析表明，与最先进的算法相比，我们的方法在相关性和公平性方面都具有优越的效率和有效性，并且在长列表公平性上有很小的妥协。
2021-02-18 cs.IR
The Impact of Group Membership Bias on the Quality and Fairness of Exposure in Ranking
本文研究了群组成员身份偏差对排序质量和公平性的负面影响，提出一种基于同分布假设与摊销方法的纠正方案，能持续补偿该偏差对排序及公平性指标的不利影响。
2024-04-29 cs.IR
Joint Multisided Exposure Fairness for Recommendation
McGill University（麦吉尔大学）；Microsoft（微软）；City University of Hong Kong（香港城市大学）；Google（谷歌）
在推荐系统的背景下，曝光公平性的先前研究主要集中在个人或群体的项目暴露给系统的个人用户的差异。单个项目或项目组如何系统地暴露于用户组或甚至所有用户的问题受到的关注相对较少。然而，这种信息披露方面的系统性差异可能导致明显的社会危害，例如剥夺历史上被边缘化群体的经济机会（分配性危害）或放大性别和种族化的陈规定型观念（代表性危害）。此前，Diaz等人开发了预期曝光度量--它结合了先前为信息检索开发的现有用户浏览模型--以研究内容曝光对个人用户的公平性。我们扩展了他们提出的框架，正式形成了一个家庭的曝光公平性指标，模型的问题，共同从消费者和生产者的角度来看。具体来说，我们考虑这两种类型的利益相关者的群体属性，以识别和减轻超越个人用户和项目的公平性问题，以更系统的偏见推荐。此外，我们研究和讨论了本文提出的不同曝光公平性维度之间的关系，以及演示如何随机排名策略可以优化到所述公平性目标。
2022-04-29 cs.AI cs.IR cs.LG
A Graph-based Approach for Mitigating Multi-sided Exposure Bias in Recommender Systems
Eindhoven University of Technology（埃因霍温理工大学）；Northwestern University（西北大学）；DePaul University（德保罗大学）；University of Colorado Boulder（科罗拉多大学博尔德分校）
公平性是推荐系统中一个重要的系统级目标，是最近广泛研究的主题。公平性的一种具体形式是供应商暴露公平性，其目标是确保在向用户提供的建议中公平地覆盖所有供应商的项目。这在多利益相关者推荐场景中尤其重要，在这些场景中，不仅为最终用户优化效用，而且为其他利益相关者（例如希望公平表示其物品的物品销售商或生产商）优化效用也很重要。这种类型的供应商公平性有时是通过尝试增加聚合多样性来实现的，以减轻受欢迎的偏见，并提高推荐中长尾项目的覆盖率。在本文中，我们介绍了FairMatch，一个通用的基于图的算法，作为推荐生成后的后处理方法，以提高项目和供应商的曝光公平性。该算法迭代地将具有低可见性的高质量项目或来自具有低曝光度的供应商的项目添加到用户的最终推荐列表。在两个数据集上进行的一组全面的实验以及与最先进基线的比较表明，FairMatch在显着提高曝光公平性和总体多样性的同时，保持了可接受的建议相关性水平。
2021-07-07 cs.AI cs.IR
Unbiased Cascade Bandits: Mitigating Exposure Bias in Online Learning to Rank Recommendation
曝光偏差是推荐系统中的一个众所周知的问题，其中物品和供应商在推荐结果中的代表性不相等。当偏见随着时间的推移而放大时，这是特别有问题的，因为一些受欢迎的项目在推荐列表中反复过度代表。这种现象可以被看作是一个推荐反馈循环：系统在不同的时间点重复推荐某些项目，用户与这些项目的交互会随着时间的推移放大对这些项目的偏见。这个问题已经被广泛研究的文献中基于模型或基于邻域的推荐算法，但较少的工作已经做了在线推荐模型，如那些基于多臂Bandit算法。在本文中，我们研究了一类著名的土匪算法称为线性级联土匪曝光偏差。我们分析了这些算法处理曝光偏差的能力，并在推荐结果中为项目和供应商提供了公平的代表性。我们的分析表明，这些算法未能公平对待物品和供应商，也没有充分探索每个用户的物品空间。为了减轻这种偏见，我们提出了一个折扣因子，并将其纳入这些算法，控制在每个时间步的项目的曝光。为了证明所提出的折扣因子在减轻曝光偏差方面的有效性，我们使用三种级联强盗算法在两个数据集上进行了实验，我们的实验结果表明，所提出的方法提高了物品和供应商的曝光公平性。
2021-08-07 cs.IR
Fairness of Exposure in Rankings
排名在当今的网络世界中无处不在。当我们从在图书馆找书过渡到对产品、工作、求职者、意见和潜在的浪漫伴侣进行排名时，有一个重要的先例，即排名系统不仅对用户负有责任，而且对被排名的项目负有责任。为了解决这些往往相互冲突的责任，我们提出了一个概念和计算框架，允许制定公平性约束排名曝光分配。作为这个框架的一部分，我们开发了有效的算法来寻找排名，最大限度地提高用户的效用，同时可证明满足一个可指定的公平性概念。由于公平性目标可以应用特定的，我们展示了如何广泛的公平性约束可以使用我们的框架，包括形式的人口平等，不同的待遇，不同的影响约束。我们说明了这些约束的效果，提供实证结果的排名问题。
2018-10-17 cs.CY cs.IR
FAIR: Fairness-Aware Information Retrieval Evaluation
随着为搜索和推荐系统创建公平意识解决方案的需求不断涌现，评估此类解决方案存在着令人生畏的挑战。虽然许多传统的信息检索（IR）的指标可以捕捉的相关性，多样性和新颖性的效用相对于用户，他们不适合推断是否呈现的结果是公平的负责任的信息曝光的角度来看。另一方面，现有的公平性指标不考虑用户效用或不充分衡量它。为了解决这个问题，我们提出了一个新的度量称为公平。通过将标准IR指标和公平性度量统一到一个综合指标中，该指标为评估公平性感知的排名结果提供了一个新的视角。基于此度量，我们开发了一个有效的排名算法，联合优化用户效用和公平性。实验结果表明，我们的FAIR指标可以突出具有良好的用户效用和公平的信息暴露的结果。我们展示了FAIR如何与一组现有的效用和公平性度量相关，并证明了我们基于FAIR的算法的有效性。我们相信，我们的工作开辟了一个新的方向，追求一个衡量标准，评估和实施公平的制度。
2022-03-29 cs.IR
Enhancing New-item Fairness in Dynamic Recommender Systems
针对动态推荐系统中新物品因曝光短和交互少导致的不公平问题，提出基于强化学习的FairAgent框架，利用知识蒸馏保留旧物品推荐能力，并设计包含新物品探索、公平性和准确性三部分的奖励机制，有效提升新物品曝光与个性化公平性，同时保持高推荐准确率。
2025-04-30 cs.IR
FaiRIR: Mitigating Exposure Bias from Related Item Recommendations in Two-Sided Platforms
相关项目推荐（RIR）在当今大多数在线平台中无处不在，包括电子商务和内容流媒体网站。这些推荐不仅可以帮助用户比较与给定项目相关的项目，还可以在为单个项目带来流量方面发挥重要作用，从而决定不同项目获得的曝光度。随着越来越多的人依靠这些平台谋生，重要的是要了解不同的项目是否得到了他们想要的曝光。为此，我们在多个真实世界的RIR数据集上的实验表明，现有的RIR算法往往会导致项目的暴露分布非常偏斜，项目的质量并不能合理解释这种暴露的偏斜。为了减轻这种暴露偏倚，我们在RIR管道中引入了多种灵活干预（FaiRIR）。我们实例化这些机制与两个著名的算法构建相关的项目建议-评级SVD和item 2 vec-和现实世界的数据显示，我们的机制允许一个细粒度的控制上的曝光分布，通常在一个小的或没有成本的推荐质量，相关性和用户满意度方面进行衡量。
2022-04-01 cs.CY cs.IR
Unfair Exposure of Artists in Music Recommendation
机器学习中的公平性已经被许多研究者所研究。特别是，在推荐系统的公平性进行了调查，以确保建议符合某些标准，就某些敏感的功能，如种族，性别等，但是，往往推荐系统是多利益相关者的环境中，对所有利益相关者的公平性应该得到照顾。众所周知，推荐算法存在受欢迎程度偏差;很少有受欢迎的项目被过度推荐，这导致大多数其他项目没有得到相应的关注。这种偏见已经从用户的角度进行了调查，以及它如何使最终的建议倾向于流行的项目一般。然而，在本文中，我们调查的影响，在推荐算法中的流行偏见的项目的提供者（即实体背后的推荐项目）。使用音乐数据集进行实验，我们表明，由于算法中的一些偏见，不同受欢迎程度的艺术家群体受到系统性和一致性的不同对待。
2020-03-25 cs.IR
Overview of the TREC 2022 Fair Ranking Track
TREC Fair Ranking Track旨在为参与者提供一个平台，以开发和评估新的检索算法，这些算法可以提供对人口统计数据或属性（如种族）的公平曝光，这些数据由相关文档表示以响应搜索查询。例如，特定的人口统计或属性可以由文档主题内容或作者表示。2022年公平排名赛道采用了资源分配任务。该任务集中于支持那些希望改善中文维基百科对某个专题相关条目类内容的维基百科编辑。维基专题协调员和/或维基百科编辑搜索需要编辑的维基百科文档，以提高条目质量。2022年公平排名的目的是确保关于或以某种方式代表某些受保护特征的文档能够公平地暴露于维基百科的编辑人员，以便这些文档有公平的机会得到改进，从而在维基百科中得到良好的代表。维基百科中某些受保护特征的代表性不足可能会导致系统性偏见，对人类、社会和经济产生负面影响，特别是对弱势或受保护的社会群体。
2023-02-11 cs.IR
Interplay between Upsampling and Regularization for Provider Fairness in Recommender Systems
考虑推荐对项目提供者的影响是多方面推荐系统的任务之一。物品供应商是在线平台的关键利益相关者，他们的收入和计划受到其物品在推荐列表中的曝光度的影响。以前的工作表明，某些少数群体的供应商，其特点是一个共同的敏感属性（如，性别或种族）受到间接和无意歧视的影响不成比例。我们的研究在本文中处理的情况下，（$i$）相同的供应商是与多个项目的列表建议给用户，（$ii$）一个项目是由一个以上的供应商联合创建的，和（$iii$）预测用户项目的相关性分数有偏见地估计供应商组的项目。在这种情况下，我们评估的相关性，可见性和曝光的差异，通过模拟不同的代表性的少数群体的目录和互动。基于出现的不公平的结果，我们设计了一种治疗方法，结合观察上采样和损失正则化，同时学习用户项目相关性得分。对真实数据的实验表明，我们的处理导致较低的不同相关性。由此产生的推荐列表显示出更公平的可见性和曝光率，更高的少数项目覆盖率，以及推荐效用的可忽略损失。
2021-06-28 cs.IR
Performative Debias with Fair-exposure Optimization Driven by Strategic Agents in Recommender Systems
Tianjin University（天津大学）；Lenovo Research（联想研究院）；The Hong Kong University of Science and Technology（香港科技大学）
本文针对推荐系统中的数据偏差问题，提出了一种由策略智能体驱动的公平曝光优化重排序方法，通过端到端优化兼顾准确性与公平性，有效提升长尾项目可见性。
2024-06-25 cs.IR cs.LG
Random Isn't Always Fair: Candidate Set Imbalance and Exposure Inequality in Recommender Systems
传统上，推荐系统通过向用户返回一组项目来操作，这些项目按照与该用户的估计相关性的顺序进行排名。近年来，依赖于随机排序的方法已经被开发出来，以创建“更公平”的排名，减少向用户显示谁或什么的不平等。完全随机化--对候选项目进行随机排序，独立于估计的相关性--在很大程度上被认为是一种基线程序，可以导致最平等的暴露分布。在工业环境中，推荐系统通常通过两步过程来操作，其中首先使用计算成本低廉的方法产生候选项，然后仅对这些候选项应用完整的排名模型。在本文中，我们认为在第一步的不平等的影响，并表明，矛盾的是，完全随机化在第二步可以导致更高程度的不平等相对于确定性排序的项目估计的相关性得分。根据这一观察结果，我们提出了一个简单的后处理算法，以减少曝光不平等，当候选集有一个高水平的不平衡，当他们不工作。我们的方法的有效性都说明了模拟数据和一个共同的基准数据集用于研究公平的推荐系统。
2022-09-12 cs.IR cs.SI
Learn to be Fair without Labels: a Distribution-based Learning Framework for Fair Ranking
提出一种无需公平标签的基于分布的公平学习框架（DLF），用目标公平曝光分布替代缺失标签，在TREC数据集上实现更优公平性并更好权衡公平与相关性。
2024-05-28 cs.IR
Overview of the TREC 2021 Fair Ranking Track
TREC Fair Ranking Track旨在为参与者提供一个平台，以开发和评估新的检索算法，这些算法可以提供对人口统计数据或属性（如种族）的公平曝光，这些数据由相关文档表示以响应搜索查询。例如，特定的人口统计或属性可以由文档的主题内容或作者表示。2021年公平排名赛道采用了资源分配任务。该任务集中于支持那些希望改善中文维基百科对某个专题相关条目类内容的维基百科编辑。维基专题协调员和/或维基百科编辑搜索需要编辑的维基百科文档，以提高条目质量。2021年公平排名的目的是确保关于或以某种方式代表某些受保护特征的文档能够公平地暴露于维基百科的编辑人员，以便这些文档有公平的机会得到改进，从而在维基百科中得到良好的代表。维基百科中某些受保护特征的代表性不足可能会导致系统性偏见，对人类、社会和经济产生负面影响，特别是对弱势或受保护的社会群体。
2023-02-21 cs.IR
FARA: Future-aware Ranking Algorithm for Fairness Optimization
针对现有公平排序方法仅贪婪优化当前会话导致长期次优的问题，本文提出 FARA，通过 Taylor 展开分析未来曝光并采用两阶段规划联合优化相关性与公平性，理论最优且实验显著优于现有方法。
2023-08-19 cs.IR
A Reproducibility Study of Product-side Fairness in Bundle Recommendation
Delft University of Technology（代尔夫特理工大学）；University of Amsterdam（阿姆斯特丹大学）
本文通过三个数据集和四种先进捆绑推荐方法复现研究产品侧公平性，发现捆绑与商品层面曝光模式差异显著，且用户行为会显著影响公平性，为构建更公平的捆绑推荐系统提供依据。
2025-07-18 cs.AI cs.IR
Adaptive Autoguidance for Item-Side Fairness in Diffusion Recommender Systems
Johannes Kepler University Linz（林茨约翰·开普勒大学）；Linz Institute of Technology（林茨理工学院）
本文提出A2G-DiffRec，通过自适应自引导提升扩散推荐系统中物品层面的公平性，在牺牲少量准确率的情况下有效平衡不同流行度物品的曝光。
2026-04-24 cs.IR
Towards Long-term Fairness in Recommendation
随着推荐系统对人们生活的影响越来越大，推荐的公平性问题也越来越重要。现有的公平性推荐方法大多数都是静态或一次性的，其中受保护的项目组是固定的，该模型提供了一个基于公平性约束优化的一次性公平性解决方案。这没有考虑推荐系统的动态性质，其中诸如项目流行度之类的属性可能由于推荐策略和用户参与而随着时间而改变。例如，曾经流行的产品可能不再流行，反之亦然。因此，旨在保持不同流行度组中的项目曝光的长期公平性的系统必须及时地适应这种变化。新颖的这项工作，我们探讨了长期的公平性推荐的问题，并通过动态公平性学习来完成这个问题。我们关注的是项目在不同群体中曝光的公平性，而群体的划分是基于项目的受欢迎程度，这在推荐过程中会随着时间的推移而动态变化。针对这一问题，提出了一种基于公平性约束的强化学习推荐算法，该算法将推荐问题建模为约束马尔可夫决策过程（CMDP），使得模型能够动态调整推荐策略，以确保在环境变化时始终满足公平性要求.在几个真实数据集上的实验验证了该框架在推荐性能、短期公平性和长期公平性方面的优越性。
2021-01-10 cs.IR
The Unfairness of Multifactorial Bias in Recommendation
Delft University of Technology（代尔夫特理工大学）；University of Cambridge（剑桥大学）；Eindhoven University of Technology（埃因霍温理工大学）；University of Amsterdam（阿姆斯特丹大学）
本文研究了多因素偏见对推荐系统公平性的影响，提出基于百分位数的评分转换预处理方法，有效提升曝光公平性并减少计算成本。
2026-01-19 cs.IR
Who Benefits from RAG? The Role of Exposure, Utility and Attribution Bias
University of Glasgow, Glasgow, UK（格拉斯哥大学，格拉斯哥，英国）
本文研究RAG中查询组公平性的影响因素，发现RAG系统在不同组查询的平均准确率和改进上存在偏差，揭示了曝光、效用和归因对公平性的重要性。
2026-03-25 cs.AI cs.IR
Fast online ranking with fairness of exposure
Meta AI
随着推荐系统在对在线内容进行分类和优先级排序方面变得越来越重要，它们对商品生产商的机会或收入产生了越来越大的影响。例如，他们会影响简历推荐给哪个招聘人员，或者音乐曲目、视频或新闻文章被曝光给谁和曝光多少。这就要求推荐方法不仅要最大化用户满意度，而且要考虑项目或项目组曝光的公平性。形式上，这样的建议通常是通过最大化随机排名空间中的凹目标函数来获得的。当一个项目的总曝光量被定义为它在用户上的曝光量之和时，每个用户的最佳排名变得耦合，这使得优化过程具有挑战性。找到这些排名的现有方法或者解决批处理设置中的全局优化问题，即，这使得它们不适用于大规模，或者基于具有弱理论保证的物理学。在本文中，我们提出了第一个有效的在线算法，以优化凹目标函数的空间中的排名，适用于每一个凹和光滑的目标函数，如发现公平的曝光。基于Frank-Wolfe算法的在线变体，我们证明了我们的算法计算速度快，实时生成排名，计算成本由排序操作主导，内存效率高，并且具有很强的理论保证。与只最大化用户端性能的基线策略相比，我们的算法允许将复杂的公平性暴露标准与可忽略不计的计算开销的建议。
2022-09-13 cs.AI cs.CY cs.IR
Mitigating Exposure Bias in Online Learning to Rank Recommendation: A Novel Reward Model for Cascading Bandits
本文针对在线推荐中线性级联赌博机的曝光偏差问题，提出曝光感知奖励模型，结合隐式反馈和物品位置更新参数，在保持推荐准确性的同时提升曝光公平性，并给出理论遗憾界证明。
2024-08-08 cs.IR
Towards Measuring Fairness in Grid Layout in Recommender Systems
本文扩展线性公平排序指标至网格布局，分析不同列宽、列缩减方法及设备几何结构对提供者群体公平性测量的影响，为实践者提供布局适配的公平性评估见解。
2023-09-19 cs.IR
Fair Ranking as Fair Division: Impact-Based Individual Fairness in Ranking
Cornell University（康奈尔大学）
排名已经成为双边在线市场的主要界面。许多人已经注意到，排名不仅影响用户的满意度（例如，客户、听众、雇主、旅行者），但是排名中的位置将曝光（从而经济机会）分配给排名项目（例如，文章、产品、歌曲、求职者、餐馆、酒店）。这就提出了公平性的问题，大多数现有的作品都明确地将项目暴露与项目相关性联系起来，以解决公平性问题。然而，我们认为，任何特定的选择这样一个链接功能可能是难以辩护，我们表明，由此产生的排名仍然是不公平的。为了避免这些缺点，我们开发了一种新的公理化方法，它植根于公平划分的原则。这不仅避免了选择链接函数的需要，而且更有意义地量化了暴露之外对项目的影响。我们的无嫉妒性公理和优于统一排名的公理假设，对于公平的排名政策，每个项目都应该优先于其他任何项目的排名分配，并且任何项目都不应该受到排名的不利影响。为了根据这些公理计算公平的排名策略，我们提出了一个新的排名目标相关的纳什社会福利。我们表明，该解决方案有保证，它的嫉妒免费，其优势，统一排名的每一个项目，其帕累托最优。相比之下，我们发现，传统的基于安全的公平可以产生大量的嫉妒，并有一个高度不同的项目的影响。除了这些理论结果，我们实证说明我们的框架如何控制基于影响的个人项目公平性和用户效用之间的权衡。
2022-08-30 cs.AI cs.IR cs.LG
FARE: Deep Reinforcement Learning For Fair Exposure Constrained Uncertainty Aware Financial Content Personalization
FARE提出将SOV约束排序建模为深度强化学习，并引入CTR预测不确定性到策略设计，通过模块化执行层实现公平曝光，减少偏差同时最小化参与度损失。
2026-09-29 cs.AI cs.IR cs.LG
Query Exposure Prediction for Groups of Documents in Rankings
本文提出查询曝光预测（QEP）任务及 GEP 方法，利用文档组词汇信息预测查询下各组在排序中的曝光分布，实验显示其准确率最高比现有适配方法提升40%。
2024-01-24 cs.IR
Equity by Design? On the Trade-Offs in Fairness-Driven Recommendation in Heterogeneous Two-Sided Markets
University of Amsterdam（阿姆斯特丹大学）；Vinted
本文提出一个离线优化框架，统一分析多物品推荐、异质用户群体和业务约束下的公平性权衡，发现多推荐场景下“免费公平”消失，适度的生产者公平约束可通过多样化曝光改善业务指标。
2026-07-03 cs.GT cs.IR
Breaking User-Centric Agency: A Tri-Party Framework for Agent-Based Recommendation
University of Science and Technology of China（中国科学技术大学）；Hefei University of Technology（合肥工业大学）；Academy of Cyber（赛博研究院）
本文提出一个三方框架TriRec，用于基于代理的推荐系统，旨在协调用户效用、物品曝光和平台层面的公平性，从而提高推荐系统的准确性和公平性。
2026-08-26 cs.IR
Fairness for All: Investigating Harms to Within-Group Individuals in Producer Fairness Re-ranking Optimization -- A Reproducibility Study
本文复现生产者公平重排序方法，发现其损害群体内冷动物品，提出调节冷动物品推荐数量的修正方案，在几乎不损失准确率的同时提升子群体与群体公平性及新颖性。
2023-09-30 cs.IR
Fair Matrix Factorisation for Large-Scale Recommender Systems
推荐系统受到各种要求的限制，例如排名质量，优化效率和项目公平性。项目公平性是实际系统中一个新出现的问题。项目公平性的概念要求通过考虑为用户推荐的整个排名集来控制项目的机会（例如曝光）。然而，公平性的内在本质破坏了用户和项目的优化子问题的可分性，这是传统的可扩展算法，如隐式交替最小二乘（iALS）的基本属性。因此，很少有公平意识的方法可用于大规模的项目推荐。由于从业人员缺乏简单的工具，解决不公平问题的成本将很高，或者在最坏的情况下，将被放弃。本研究借由开发一个简单且可扩充的协同过滤方法来解决现实世界中的不公平问题。我们构建了一个名为fiADMM的方法，它继承了iALS的可扩展性，并保持了可证明的收敛保证。
2022-11-19 cs.IR
Evaluating Stochastic Rankings with Expected Exposure
我们引入了\emph{expected exposure}的概念，作为平均关注度排名项目收到来自用户的重复样本相同的查询。此外，我们主张采用平等的预期曝光原则：给定一个固定的信息需求，没有一个项目的预期曝光应该比相同相关性等级的任何其他项目更多或更少。我们认为，这一原则是可取的许多检索目标和场景，包括主题多样性和公平的排名。利用现有的检索指标的用户模型，我们提出了一个通用的评估方法，基于预期的曝光和绘制连接到相关的指标在信息检索评估。重要的是，这种方法放松了经典的信息检索假设，允许系统响应于查询产生一个\emph{distribution over rankings}，而不是一个单一的固定排名。我们研究的行为，预期的曝光度量和随机排名在各种信息访问条件，包括\emph{ad hoc}检索和推荐。我们相信，使用随机化来测量和优化预期的暴露度量为检索算法的开发和进步开辟了一个新的领域。
2020-10-20 cs.IR
Give the Long-tail More SPACE: Promoting Provider Fairness in Next POI Recommendation
School of Computer Science and Engineering, Southeast University（东南大学计算机科学与工程学院）；Department of Computer Science, Hong Kong Baptist University（香港浸会大学计算机科学系）
本研究针对下一个POI推荐中主流模型曝光集中于热门POI、长尾商家曝光不足的问题，提出模型无关框架SPACE，通过三阶段方法提升长尾POI曝光，在保证推荐准确性的同时改善提供者公平性。
2026-08-11 cs.IR
Towards Fair Personalization by Avoiding Feedback Loops
Boğaziçi University（博阿齐奇大学）
自增强反馈回路是交互式推荐系统中某些内容的过度呈现和/或呈现不足的原因和结果。这会导致错误的用户偏好估计，即高估过度呈现的内容，同时侵犯了每个替代方案的呈现权，与此相反，我们将其定义为公平的系统。我们考虑两个模型，明确纳入，或忽略系统和有限的暴露于替代品。通过模拟，我们证明，忽略系统的介绍高估了推广选项和低估了删失的替代品。简单地以有限的曝光为条件是对这些偏见的补救。
2020-12-20 cs.IR cs.LG stat.ML
Policy-Gradient Training of Fair and Unbiased Ranking Functions
Cornell University（康奈尔大学）；Tsinghua University（清华大学）
虽然隐式反馈（例如，点击、停留时间等）是学习排序的一个丰富而有吸引力的数据来源，但它可能会产生不公平的排名政策，无论是外部的还是内部的原因。外生原因通常表现为训练数据中的偏差，然后反映在学习的排名策略中，并经常导致富人越来越富的动态。此外，即使在纠正了这些偏差之后，学习算法设计的内在原因仍然可能导致排名策略不能以公平的方式在项目之间分配曝光。为了解决外源性和内源性的不公平性，我们提出了第一个学习排名的方法，同时解决介绍偏见和择优公平的曝光。具体来说，我们定义了一类摊销公平的曝光限制，可以选择基于应用程序的需求，我们展示了如何执行这些公平的标准，尽管隐式反馈数据中的选择偏差。关键的结果是一个有效的和灵活的政策梯度算法，称为FULTR，这是第一个使使用反事实估计效用估计和公平性约束。除了框架的理论依据，我们的经验表明，该算法可以学习准确和公平的排名政策，从偏见和嘈杂的反馈。
2021-05-09 cs.CY cs.IR cs.LG
Opening the Black Box: Interpretable Remedies for Popularity Bias in Recommender Systems
针对推荐系统流行度偏差导致推荐质量下降和物品曝光不公且现有缓解技术缺乏透明度的问题，提出基于稀疏自编码器（SAE）的事后方法，通过识别并调整编码流行度信号的神经元激活，在保证准确性的同时显著提升公平性，还具备可解释性与细粒度控制能力。
2025-08-24 cs.IR
Explainable Fairness in Recommendation
现有的公平性推荐研究主要集中在公平性的量化和公平推荐模型的开发上，而没有研究更实质性的问题--确定推荐模型差异的根本原因。这些信息对于推荐系统设计者理解内在的推荐机制至关重要，并为决策者提供了如何提高模型公平性的见解。幸运的是，随着可解释人工智能的快速发展，我们可以使用模型的可解释性来深入了解模型的公平性。在本文中，我们研究了可解释的公平性问题，这有助于深入了解为什么一个系统是公平或不公平的，并指导公平推荐系统的设计与更明智和统一的方法。特别是，我们专注于一个共同的设置与功能感知推荐和曝光不公平，但建议的可解释的公平性框架是一般的，可以应用到其他推荐设置和公平性定义。我们提出了一个反事实的可解释的公平性框架，称为CEF，它产生的解释模型的公平性，可以提高公平性，而不会显着损害performance. CEF框架制定了一个优化问题，学习的“最小”的输入功能的变化，改变推荐结果到一定程度的公平性。基于每个特征的反事实推荐结果，我们根据公平性-效用权衡来计算可解释性得分，以对所有基于特征的解释进行排名，并选择最高的作为公平性解释。
2022-06-06 cs.IR
What Price Fairness? Evaluating Energy - Fairness - Accuracy Trade-off in Recommender Systems
Johannes Kepler University Linz（林茨约翰内斯·开普勒大学）；ISISTAN, CONICET-UNCPBA（ISISTAN，阿根廷国家科学研究委员会-内乌肯国立大学）
本研究评估推荐系统中公平性干预的能耗成本，比较多种方法，发现公平性的绿色成本不统一，呼吁以准确性、公平性和计算成本三方权衡来评估公平感知推荐。
2026-09-09 cs.IR
Multi-FR: A Multi-objective Optimization Framework for Multi-stakeholder Fairness-aware Recommendation
如今，大多数在线服务都托管在多利益攸关方市场上，消费者和生产者可能有不同的目标。然而，传统的推荐系统主要关注于通过向每个个体推荐最相关的项目来最大化消费者的满意度。这可能导致项目的不公平暴露，从而损害生产者的利益。此外，他们并不关心来自不同人口群体的消费者是否同样满意。为了解决这些限制，我们提出了一个多目标优化框架的公平意识的建议，多FR，自适应平衡的准确性和公平性与帕累托最优保证的各个利益相关者。首先，我们提出了四个公平约束的消费者和生产者。为了以端到端的方式对整个框架进行训练，我们利用平滑排序和随机排序策略使这些公平性准则可微并且对反向传播友好。然后，我们采用多重梯度下降算法来产生一个Pareto集合的解决方案，从最小痛苦的策略选择最合适的一个。实验结果表明，多FR大大提高了多个利益相关者的最先进的方法，同时保持几乎相同的推荐精度的推荐公平性。培训效率的研究证实了我们的模型的能力，同时优化不同的公平性约束，许多利益相关者有效。
2022-08-09 cs.IR
Evaluating Fairness in Argument Retrieval
现有的商业搜索引擎通常难以表示搜索查询的不同视角。论点检索系统解决了搜索引擎的这种限制，并且提供关于用户对有争议的主题（例如，气候变化）。这种论点检索系统的有效性通常基于主题相关性和论点质量进行评估，而不考虑为论点立场（PRO或CON）显示的文档的数量通常不同。因此，系统可能会检索相关的段落，但会有偏见地暴露论点。在这项工作中，我们分析了一系列的非随机公平意识的排名和多样性指标，以评估在何种程度上，参数的立场是公平地暴露在参数检索系统。使用CLEF 2020的论点检索任务Touché的官方运行，以及合成数据来控制排名中论点立场的数量和顺序，我们表明，在主题相关性方面具有最佳有效性的系统不一定是最公平或最多样化的论点立场。我们发现（不）公平和多样性指标之间的关系揭示了如何评估组公平性-除了主题相关性-在参数检索设置。
2021-09-19 cs.IR
Proactive Guiding Strategy for Item-side Fairness in Interactive Recommendation
Chinese Academy of Sciences（中国科学院）；University of Technology Sydney（悉尼科技大学）；University of Science and Technology of China（中国科学技术大学）
HRL4PFG通过分层强化学习引导用户偏好向长尾物品倾斜，提升交互推荐的公平性和用户参与度。
2026-03-03 cs.AI cs.IR
Exposure-Aware Recommendation using Contextual Bandits
曝光偏差是推荐系统中的一个众所周知的问题，其中物品和供应商在推荐结果中的代表性不相等。当偏差随着时间的推移被放大为几个项目（例如，受欢迎的项目）在推荐列表中被反复过度表示，并且用户与这些项目的交互将随着时间的推移放大对这些项目的偏见，从而导致反馈循环。这个问题已经在基于模型或基于邻域的推荐算法的文献中得到了广泛的研究，但是在在线推荐模型上做的工作较少，例如基于top-K上下文强盗的推荐模型，其中推荐模型根据用户反馈动态更新。在本文中，我们研究了一类著名的上下文强盗算法称为线性级联强盗曝光偏差。我们分析了这些算法处理曝光偏差的能力，并为推荐结果中的项目提供了公平的表示。我们的分析表明，这些算法往往会随着时间的推移放大项目之间的暴露差异。特别是，我们观察到，这些算法不能正确地适应用户提供的反馈，并经常推荐某些项目，即使这些项目没有被用户选择。为了减轻这种偏差，我们提出了一种曝光感知（EA）奖励模型，该模型基于两个因素更新模型参数：1）用户反馈（即，点击与否），以及2）项目在推荐列表中的位置。这样，所提出的模型基于项目在推荐列表中的曝光度来控制分配给项目的效用。实验结果表明，该奖励模型在保持推荐准确率的同时，降低了曝光偏差的长期放大.
2022-09-04 cs.IR
