Adapting Static Fairness to Sequential Decision-Making: Bias Mitigation Strategies towards Equal Long-term Benefit Rate
University of Maryland, College Park（马里兰大学帕克分校）；University of Southern California（南加州大学）
针对机器学习序贯决策中的长期公平性问题，提出平等长期收益率（ELBERT）概念及偏差缓解方法ELBERT-PO，通过将长期公平性纳入MDP并简化策略梯度，在保持高实用性的同时显著降低偏差。
2024-05-28 cs.CY cs.LG
Long-term Fairness in Ride-Hailing Platform
RMIT University（皇家墨尔本理工大学）；Data61, CSIRO（联邦科学与工业研究组织Data61研究院）；University of New South Wales（新南威尔士大学）；The University of Melbourne（墨尔本大学）
针对网约车平台长期公平性不稳定的问题，提出动态马尔可夫决策过程模型，结合未来请求预测模块和多目标多智能体Q学习的定制标量化函数，在真实数据集上有效平衡了效率与公平并优于现有方法。
2024-07-25 cs.AI cs.LG
Thompson Sampling for Combinatorial Semi-bandits with Sleeping Arms and Long-Term Fairness Constraints
University of Victoria（维多利亚大学）；Southeast University（东南大学）；Harbin Institute of Technology（哈尔滨工业大学）
研究了具有长期公平性约束的组合睡眠多臂半强盗问题~（CSMAB-F）。针对该问题，采用Thompson Sampling~（TS）方法最大化总报酬，采用虚拟队列技术处理公平性约束，并设计了一种算法\emph{TS with beta priors and Bernoulli likelihoods for CSMAB-F~(TSCSF-B)}。进一步，我们证明了TSCSF-B能满足公平性约束，并且时间平均后悔的上界为$\frac{N}{2η} + O\left(\frac{\sqrt{mNT\ln T}}{T}\right)$，其中$N$是总的手臂数，$m$是每轮中能同时拉动的最大手臂数~（基数约束），$η$是公平性与奖励的权衡参数.通过放松公平性约束（即，令$η\rightarrow \infty$），该界归结为组合睡眠多臂半强盗问题TS算法的第一个与问题无关的界。最后，我们进行了数值实验，并使用一个高收视率的电影推荐应用程序，以显示所提出的算法的有效性和效率。
2020-05-14 cs.LG stat.ML
Fairness with Exponential Weights
The Alan Turing Institute（阿兰·图灵研究所）
本文提出一种基于 Hedge/Exp4 指数权重的元算法，将离散贝叶斯推断实现转化为保证逐轮精确统计公平的上下文赌博机算法，并扩展到非平稳分布与批处理分类。
2025-02-16 cs.LG
Policy Optimization with Advantage Regularization for Long-Term Fairness in Decision Systems
UC San Diego（加州大学圣迭戈分校）；UT Austin（得克萨斯大学奥斯汀分校）
长期公平性是在高风险决策环境中设计和部署基于学习的决策系统时考虑的一个重要因素。最近的工作提出了使用马尔可夫决策过程（MDP）制定决策与长期的公平性要求，在动态变化的环境中，并表现出直接部署启发式和基于规则的政策，在静态环境中工作良好的主要挑战。我们表明，与以前已知的策略相比，深度强化学习的策略优化方法可以用来找到更好的决策策略，这些策略通常可以实现更高的整体效用和更少的公平性要求。特别是，我们提出了新的方法，在政策优化的公平性要求，通过正规化的优势评估不同的行动。我们提出的方法可以很容易地施加公平性约束，而无需奖励工程或牺牲训练效率。我们在三个已建立的案例研究中进行了详细的分析，包括事件监测中的注意力分配，银行贷款审批和人口网络中的疫苗分配。
2022-10-22 cs.AI cs.CY cs.LG
A Causal Lens for Learning Long-term Fair Policies
Department of Electrical Engineering and Computer Science（电气工程与计算机科学系）；University of Arkansas（阿肯色大学）
针对现有公平感知学习多关注静态即时偏差的问题，本文在强化学习框架下用因果视角分解长期公平指标，分析其与收益公平的关联，并提出平衡多种公平概念的有效方法。
2025-06-12 cs.AI cs.LG
Striking a Balance in Fairness for Dynamic Systems Through Reinforcement Learning
University of Arkansas（阿肯色大学）
本文针对动态系统中的顺序决策公平性问题，提出将传统公平与长期公平统一纳入强化学习的算法框架，并通过三个案例验证其能在公平与效用间取得平衡。
2024-01-12 cs.AI cs.LG
Simulating Eutopia: Revisiting Long-term Fairness with Outcomes, Performativity, and Dynamics
Indian Institute of Technology Kharagpur（印度理工学院卡拉格普尔分校）；Univ. Lille（里尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
研究人工智能驱动决策制定者在信贷借贷财富过程中的长期公平性，通过形式化财富动态为能动性马尔可夫决策过程，开发Eutopia模拟器学习公平策略，测试不同算法，结果显示考虑能动性动态及公平感知效用学习效果更佳。
2026-09-29 cs.AI cs.CY cs.LG
Fairness of Exposure in Online Restless Multi-armed Bandits
Indian Institute of Technology Ropar（印度罗帕尔理工学院）；International Institute of Information Technology Hyderabad（海得拉巴国际信息技术学院）
提出首个在线非平稳多臂老虎机公平框架，按臂价值比例分配拉取次数，实现亚线性公平遗憾并验证多拉取场景有效性。
2024-02-09 cs.LG stat.ML
Fairness in Reinforcement Learning with Bisimulation Metrics
McGill University（麦吉尔大学）；Mila（米拉研究所）；DeepMind（深度思维公司）
本文建立互模拟度量与强化学习群体公平性的联系，提出利用互模拟度量学习奖励函数和观测动态的新方法，并在贷款与大学录取基准上验证其减少序列决策差异的有效性。
2024-12-31 cs.CY cs.LG
Group Fairness in Bandit Arm Selection
University of Maryland（马里兰大学）；Tulane University（杜兰大学）
我们提出了一种新的配方组公平性与偏见的反馈上下文多臂强盗（CMAB）设置。在CMAB设置中，顺序决策者必须在每个时间步，在观察每个潜在手臂拉动的一些上下文之后，从有限的手臂集合中选择要拉动的手臂。在我们的模型中，手臂基于一些受保护的特征（例如，年龄、种族或社会经济地位）。由于一些未知的社会或测量偏差，拉手臂获得的初始奖励可能会被扭曲。我们假设，在现实中，这些群体是平等的，尽管有偏见的反馈收到的代理。为了缓解这一点，我们学习了一个社会偏见术语，它既可以用来找到偏见的来源，也可以用来解决算法之外的问题。我们提供了一种新的算法，可以容纳任意数量的组的公平性的概念，并为我们的算法的遗憾提供了一个理论界。我们使用合成数据和两个真实世界的干预设置数据集来验证我们的算法，其中我们希望在各组之间公平地分配资源。
2022-02-15 cs.AI cs.LG stat.ML
Fairness and Welfare Quantification for Regret in Multi-Armed Bandits
Indian Institute of Science（印度科学学院）；Indian Institute of Technology, Kharagpur（印度理工学院克勒格布尔分校）
我们从福利主义的角度扩展了遗憾的概念。针对经典的多臂强盗（MAB）框架，通过引入一个基本的福利函数，即Nash社会福利（NSW）函数来量化强盗算法的性能.这相当于将算法的性能等同于其预期回报的几何平均值，并导致我们研究纳什遗憾，定义为-先验未知-最佳平均值（武器之间）和算法的性能之间的差异。由于新南威尔士州是已知的，以满足公平公理，我们的方法补充了平均（累积）后悔的功利考虑，其中该算法通过其预期奖励的算术平均值进行评估。这项工作开发了一个算法，给定的地平线上玩$T$，实现了纳什遗憾$O \left( \sqrt{\frac{k \log T}{T}} \right)$，这里$k$表示的武器在MAB实例的数量。因为对于任何算法，纳什后悔至少和平均后悔一样多（AM-GM不等式），所以已知的平均后悔下限也适用于纳什后悔。因此，我们的纳什遗憾保证基本上是紧的。此外，我们开发了一个任何时间算法的纳什遗憾保证$O \left( \sqrt{\frac{k\log T}{T}} \log T \right)$。
2022-05-27 cs.GT cs.LG
Inference-Time Policy Alignment for Fair Reinforcement Learning
该研究提出乘法策略塑造框架，在不更新预训练RL策略参数的情况下，于推理时提升公平性，同时保留核心任务性能，适用于各类深度RL智能体。
2026-08-04 cs.AI cs.LG
Meritocratic Fairness via $K$-Shapley Values in Budgeted Combinatorial Bandits with Full-Bandit Feedback
Indian Institute of Technology Ropar（印度理工学院罗帕尔）
本文提出一种新的预算化组合多臂老虎机框架，通过扩展Shapley值到K-Shapley值，解决了全反馈环境下个体臂贡献的计算问题，并提出了K-SVFair-FBF算法，实现了公平性与效率的平衡。
2026-08-04 cs.AI cs.LG cs.MA
Combinatorial Sleeping Bandits with Fairness Constraints
Temple University（天普大学）；Iowa State University（爱荷华州立大学）
多臂强盗（MAB）模型已被广泛用于研究许多实际优化问题（网络资源分配、广告投放、众包等）。未知参数。玩家的目标是在不确定性面前最大化累积奖励。然而，基本的MAB模型忽略了系统在许多实际应用中的几个重要因素，其中多个手臂可以同时播放，并且手臂有时可能处于“睡眠”状态。此外，确保公平性也是实践中的一个关键设计问题。为此，我们提出了一个新的组合睡眠MAB模型与公平性约束，称为CSMAB-F，旨在解决上述关键建模问题。现在的目标是最大化的回报，同时满足公平性要求的最小选择分数为每个单独的arm. To解决这个新问题，我们扩展了在线学习算法，UCB，处理开发和探索之间的关键权衡，并采用虚拟队列技术，妥善处理公平性约束。通过仔细整合这两种技术，我们开发了一种新的算法，称为学习与公平保证（LFG），CSMAB-F问题。此外，我们严格证明，不仅LFG是可行性最优的，但它也有一个时间平均遗憾上限由$\frac{N}{2η}+\frac{β_1\sqrt{mNT\log{T}}+β_2 N}{T}$，其中N是武器的总数，m是可以同时播放的武器的最大数量，T是时间范围，$β_1$和$β_2$是常数，和$η$是一个设计参数，我们可以调整。最后，我们进行了大量的模拟，以证实所提出的算法的有效性。有趣的是，仿真结果揭示了一个重要的权衡之间的遗憾和收敛到一个点，满足公平性约束的速度。
2019-11-20 cs.LG cs.PF stat.ML
Reinforcement Learning for Fair Dynamic Pricing
BBVA Data and Analytics（BBVA数据与分析（公司））
不公平的定价政策已被证明是客户对定价最负面的看法之一，并可能导致公司的长期损失。尽管动态定价模型有助于公司实现收入最大化，但应考虑公平和平等，以避免客户群体之间的不公平价格差异。本文展示了如何通过使用强化学习（RL）技术来解决动态定价问题，以便在保持收入和公平性之间平衡的同时使价格最大化。我们证明，RL提供了两个主要功能，以支持动态定价的公平性：一方面，RL是能够从最近的经验，适应复杂的市场环境的定价政策;另一方面，它提供了一个权衡短期和长期目标，从而将公平性集成到模型的核心。考虑到这两个特点，我们提出了RL的收入优化的应用程序，与公平性的额外整合作为学习过程的一部分，通过使用Jain的指数作为度量。模拟环境中的结果显示，公平性有了显着改善，同时保持了收入的优化。
2018-03-27 cs.AI cs.LG stat.ML
Fairness in Reinforcement Learning: A Survey
Stanford University（斯坦福大学）；University of Pennsylvania（宾夕法尼亚大学）
本文针对强化学习公平性研究尚不成熟的现状，梳理了该领域前沿进展，涵盖公平性的产生场景、定义、单/多智能体实现方法及应用领域，并指出RLHF公平性等待填补的研究空白。
2024-05-11 cs.AI cs.CY cs.LG
Recommendation Fairness: From Static to Dynamic
Birkbeck, University of London（伦敦大学伯贝克学院）；ByteDance AI Lab（字节跳动人工智能实验室）；University College London（伦敦大学学院）
由于需要捕捉用户不断变化的兴趣并优化他们的长期体验，越来越多的推荐系统开始将推荐建模为马尔可夫决策过程，并采用强化学习来解决这个问题。推荐系统公平性的研究不也应该从静态的评价和一次性的干预走向动态的监控和不间断的控制吗？在本文中，我们描绘了最近的发展，在推荐系统，然后讨论如何公平可以融入强化学习技术的推荐。此外，我们认为，为了在推荐公平性方面取得进一步的进展，我们可能要考虑多代理（博弈论）优化，多目标（帕累托）优化和基于模拟的优化，在随机博弈的一般框架。
2021-11-01 cs.AI cs.IR cs.LG
FairGBM: Gradient Boosting with Fairness Constraints
Feedzai（Feedzai公司）；MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）；UC Irvine（加州大学欧文分校）
表格数据在许多高风险领域很普遍，例如金融服务或公共政策。梯度提升决策树（GBDT）由于其可扩展性、性能和低训练成本而在这些设置中流行。虽然这些领域中的公平性是最重要的问题，但现有的处理中公平ML方法要么与GBDT不兼容，要么在花费相当长的时间进行训练的同时导致显著的性能损失。我们提出了FairGBM，一个双上升学习框架，用于在公平性约束下训练GBDT，与无约束的GBDT相比，对预测性能几乎没有影响。由于观测公平性指标是不可微的，我们提出了光滑凸出错率代理常见的公平性标准，使基于梯度的优化使用“代理拉格朗日”制定。我们的实现显示了相对于相关工作的训练时间的数量级加速，这是促进真实世界从业者广泛采用FairGBM的一个关键方面。
2023-03-03 cs.AI cs.CY cs.LG
Remembering to Be Fair: Non-Markovian Fairness in Sequential Decision Making
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Schwartz Reisman Institute for Technology and Society（施瓦茨·赖斯曼技术与社会研究所）；University of Waterloo（滑铁卢大学）
针对序列决策中公平性依赖历史、需过程中评估的非马尔可夫特性，本文界定其多类性质，探究记忆与公平策略构建的关联，提出可自动扩充训练数据提升强化学习公平策略合成样本效率的FairQCM算法。
2024-06-19 cs.AI cs.CY cs.LG
Fair Representation: Guaranteeing Approximate Multiple Group Fairness for Unknown Tasks
National University of Singapore（新加坡国立大学）
受数据用于不同预测任务的场景的启发，我们研究了公平表示是否可以用于保证未知任务的公平性和同时用于多个公平概念。我们认为七组公平的概念，涵盖独立，分离和校准的概念。在公平不可能结果的背景下，我们探讨近似公平。我们证明，虽然公平表示可能无法保证所有预测任务的公平性，但它确实保证了一个重要的任务子集的公平性-表示是有区别的任务。具体而言，所有七个组公平性概念是线性控制的公平性和歧视性的表示。当不同的公平概念之间存在不相容时，公平和歧视性的表示达到了近似满足所有概念的最佳点。出于我们的理论研究结果，我们建议学习公平和歧视性的表示使用借口损失自我监督学习，和最大平均离散作为一个公平的正则化。在表格，图像和人脸数据集上的实验表明，使用学习的表示，我们在学习表示时不知道的下游预测确实对七个组公平性概念变得更公平，并且根据我们的理论结果计算的公平性保证都是有效的。
2022-02-20 cs.CV cs.CY cs.LG
Fairness-aware Agnostic Federated Learning
University of Arkansas（阿肯色大学）；University of Illinois（伊利诺伊大学）
联邦学习是一种新兴的框架，它使用分布在多个设备上的训练数据构建集中式机器学习模型。以往关于联邦学习的研究主要集中在隐私保护和降低通信成本方面。然而，如何在联邦学习中实现公平性，特别是当测试数据分布与训练分布不同甚至未知时，还没有得到充分的探索和挑战。在集中式模型上引入简单的公平性约束，无法在未知测试数据上实现模型公平性。在本文中，我们开发了一个公平意识的不可知的联邦学习框架（AgnosticFair），以应对未知的测试分布的挑战。我们使用核重权函数在损失函数和公平性约束中为每个训练样本分配一个重权值。因此，基于AgnosticFair构建的集中式模型能够在未知测试数据上实现高精度和公平性的保证。此外，所建立的模型可以直接应用于本地站点，因为它保证了本地数据分布的公平性。据我们所知，这是实现联邦学习公平性的第一项工作。在两个真实数据集上的实验结果表明，在数据转移场景下，该方法在效用和公平性方面都是有效的。
2020-10-10 cs.CY cs.LG
Towards Soft Fairness in Restless Multi-Armed Bandits
Singapore Management University（新加坡管理大学）
不安多武装匪徒（RMAB）是一个框架，用于分配不确定性下的有限资源。这是一个非常有用的模式，可用于监测受益人和及时采取干预措施，以确保公共卫生环境中的最大效益（例如，确保病人在结核病环境中服药，确保孕妇收听有关良好怀孕做法的自动电话）。由于资源有限，某些社区或地区通常缺乏可产生后续影响的干预措施。为了避免饥饿在执行的干预措施在个人/地区/社区，我们首先提供了一个软公平约束，然后提供了一种方法来执行软公平约束的RMAB。软公平性约束要求，如果选择后一个手臂的长期累积回报更高，则算法在概率上永远不会偏向于一个手臂。我们的方法采用了基于softmax的值迭代方法在RMAB设置设计选择算法，管理，以满足建议的公平性约束。我们的方法，称为SoftFair，也提供了理论上的性能保证，是渐近最优的。最后，我们证明了我们的方法模拟基准的效用，并表明软公平约束可以处理没有显着牺牲的价值。
2022-07-27 cs.AI cs.CY cs.LG
Regret, stability & fairness in matching markets with bandit learners
Massachusetts Institute of Technology（麻省理工学院）
做出明智的决定-例如，在选择职业或住房时-需要了解现有的选择。这些知识通常是通过昂贵的试错来获得的，但这种学习过程可能会被竞争所破坏。在这项工作中，我们研究了竞争如何影响个人学习的长期结果。我们建立在一条工作线上，将这种设置建模为具有强盗学习者的双边匹配市场。最近的一个结果表明，这是不可能的，同时保证两个自然desiderata：稳定性和低最佳遗憾的所有代理。资源分配平台可以将这一结果作为将良好的长期结果分配给某些代理人而将不良结果分配给其他代理人的理由。我们表明，这种不可能性不一定成立。特别是，通过模拟竞争的两个额外的组成部分-即，成本和转移-我们证明，它是可以同时保证四个必要的：稳定性，低最佳遗憾，公平分配的遗憾，高社会福利。
2022-04-13 cs.GT cs.LG cs.MA
What Hides behind Unfairness? Exploring Dynamics Fairness in Reinforcement Learning
Australian Artificial Intelligence Institute, University of Technology Sydney（悉尼科技大学澳大利亚人工智能研究所）
本文通过因果视角探究强化学习中长期不公平性的来源，提出动态公平性概念以区分环境动态导致的不平等，并推导识别公式进行定量评估，实验证明其能有效解释、检测和减少不平等。
2024-04-28 cs.AI cs.CY cs.LG
Fairness Improves Learning from Noisily Labeled Long-Tailed Data
UC Santa Cruz（加州大学圣克鲁兹分校）；Riken（理化学研究所）；University of Sydney（悉尼大学）；Michigan State University（密歇根州立大学）；University of Tokyo（东京大学）；ByteDance Research（字节跳动研究院）
长尾和噪声标记的数据经常出现在现实世界的应用程序中，给学习带来了巨大的挑战。大多数以前的作品对待任何一个问题，在一个孤立的方式，并没有明确考虑两者的耦合效应。我们的经验观察表明，当数据集是带有标签噪声的长尾数据集时，这种解决方案无法始终如一地改善学习。此外，由于标签噪声的存在，现有方法没有观察到不同子群体的普遍改善;换句话说，一些子群体以伤害他人为代价享受了提高准确性的好处。基于这些观察结果，我们引入了公平正则化器（FR），其灵感来自于正则化任何两个子群体之间的性能差距。我们表明，引入的公平正则化提高了性能的子种群的尾部和整体学习性能。大量的实验证明了所提出的解决方案的有效性时，补充某些现有的流行的鲁棒性或类平衡的方法。
2023-03-22 cs.LG
Modelling the long-term fairness dynamics of data-driven targeted help on job seekers
Know-Center GmbH（知识中心有限公司）；Graz University of Technology（格拉茨技术大学）；University of Graz（格拉茨大学）
公共机构对数据驱动的决策支持的使用越来越普遍，并已影响到公共资源的分配。这引起了道德关切，因为它对少数群体和历史上受歧视的群体产生了不利影响。在本文中，我们使用一种将统计和数据驱动方法与动态建模相结合的方法来评估劳动力市场干预的长期公平效应。具体来说，我们开发和使用一个模型来调查公共就业机构，有选择地支持求职者通过有针对性的帮助所造成的决策的影响。选择谁接受什么帮助是基于数据驱动的干预模型，该模型估计个人及时找到工作的机会，并依赖于描述人口的数据，其中与劳动力市场相关的技能在两个群体之间分布不均匀（例如，男性和女性）。干预模型不完全访问个人的实际技能，并且可以通过了解个人的群体隶属关系来增强这一点，从而使用受保护的属性来提高预测准确性。我们评估这种干预模型的动态-特别是公平相关的问题和不同公平目标之间的权衡-随着时间的推移，并将其与不使用群体隶属关系作为预测特征的干预模型进行比较。我们的结论是，为了正确地量化权衡，并评估长期的公平效果，这样一个系统在现实世界中，周围的劳动力市场的仔细建模是必不可少的。
2023-02-02 cs.LG
Long-term Fairness For Real-time Decision Making: A Constrained Online Optimization Approach
针对实时决策中时变公平性约束的挑战，本文提出受约束的在线优化框架及新型算法LoTFair，在保证长期性能的同时使整体公平性违规可忽略不计。
2024-01-04 cs.CY cs.LG
The Long Arc of Fairness: Formalisations and Ethical Discourse
Technical University of Denmark（丹麦技术大学）；Technische Universität Berlin（柏林工业大学）
近年来，算法决策（ADM）的形式化和建模公平性的想法已经发展到了一个复杂的专业化点。然而，关于公平的技术（形式化）和伦理话语之间的关系并不总是明确和富有成效的。我们从另一个角度出发，回顾了现有的公平性指标，并讨论了一些常见的问题。例如，程序和分配的公平性往往是形式化的，并静态地讨论，忽视了现状的结构性先决条件和特定干预措施的下游影响。然后，我们引入动态公平建模，一个更全面的方法，重新调整正式的公平指标与伦理话语的参数。动态公平模型包括（1）道德目标，（2）量化决策程序和结果的正式指标，以及（3）中期或长期下游影响。通过将公平相关过程的这些要素置于情境中，动态公平建模阐明了以前潜在的道德方面，从而提供了一个有用的工具来导航不同公平干预之间的权衡。为了说明该框架，我们讨论了一个示例应用程序-目前欧洲努力增加公司董事会中的女性人数，例如通过配额解决方案-并提出适合我们框架的早期技术工作。
2022-03-08 cs.CY cs.LG
Achieving Long-Term Fairness in Sequential Decision Making
University of Arkansas（阿肯色大学）
在本文中，我们提出了一个框架，实现长期公平的顺序决策。通过进行硬干预和软干预，我们建议将时滞因果图上的路径特定效应作为衡量长期公平性的定量工具。然后将公平序贯决策问题转化为一个以效用为目标，以长期公平性和短期公平性为约束的约束优化问题。我们表明，这样的优化问题可以转换为表演风险优化。最后，采用重复风险最小化（RRM）进行模型训练，并从理论上分析了RRM的收敛性。实验结果表明，该算法在合成和半合成时态数据集上是有效的。
2022-04-04 cs.AI cs.LG
Long-Term Fairness Inquiries and Pursuits in Machine Learning: A Survey of Notions, Methods, and Challenges
Iowa State University（爱荷华州立大学）；Carnegie Mellon University（卡内基梅隆大学）；University of California, Santa Cruz（加州大学圣克鲁兹分校）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
针对机器学习静态公平性方法难以应对长期决策公平性、反馈循环与环境交互带来的公平偏离问题，本文综述长期公平性研究文献，提出分类体系，梳理挑战并展望未来方向。
2025-07-29 cs.AI cs.CY cs.LG
Tier Balancing: Towards Dynamic Fairness over Underlying Causal Factors
Carnegie Mellon University（卡内基梅隆大学）；University of California, Santa Cruz（加州大学圣克鲁兹分校）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
本文用DAG因果建模决策与数据分布的动态相互作用，提出面向潜在因果因素的Tier Balancing公平概念，并证明单步干预的局限及趋近长期公平的可能与不可能性。
2023-06-06 cs.LG stat.ML
Long Term Fairness for Minority Groups via Performative Distributionally Robust Optimization
University of Alberta（阿尔伯塔大学）
机器学习（ML）的公平性研究人员已经围绕几个公平性标准进行了合并，这些标准提供了ML模型公平性的正式定义。然而，这些标准有一些严重的局限性。我们确定了这些正式的公平标准的四个关键缺点，并旨在帮助解决这些问题，通过扩展表演预测，包括一个分布鲁棒的目标。
2022-07-12 cs.AI cs.LG math.OC
Equal Improvability: A New Fairness Notion Considering the Long-term Impact
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Yonsei University（延世大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
针对动态场景下公平分类器的长期影响问题，提出名为Equal Improvability的新公平性概念及三种EI正则化优化方法，以均等化不同群体中被拒绝样本在付出有限努力后的潜在接受率，有效促进了长期公平性。
2023-04-09 cs.CY cs.LG
Hidden or Inferred: Fair Learning-To-Rank with Unknown Demographics
Worcester Polytechnic Institute（伍斯特理工学院）
针对敏感人口统计信息缺失或需推断的问题，本文对比了多种公平学习排序策略，发现将公平性融入学习过程的方法在推断噪声增加时可能加剧偏差，而公平重排序策略更具鲁棒性。
2024-07-24 cs.CY cs.LG
FairSense: Long-Term Fairness Analysis of ML-Enabled Systems
Carnegie Mellon University（卡内基梅隆大学）；Case Western Reserve University（凯斯西储大学）
本文提出基于仿真的框架FairSense，通过蒙特卡洛仿真和敏感性分析检测ML使能系统中由反馈回路引起的长期不公平性，并在贷款、阿片类药物风险评分和预测性警务三个案例中验证其效用。
2025-01-03 cs.CY cs.LG cs.SE
Evaluating Causal Discovery Algorithms for Path-Specific Fairness and Utility in Healthcare
University of California Irvine（加州大学尔湾分校）；University of Orléans（奥尔良大学）
本文评估了三种因果发现算法在结构恢复和路径特定公平分解中的表现，发现Peter-Clark在合成数据中表现最佳，Fast Causal Inference在心力衰竭数据中效用最高，路径特定效应分析揭示了公平-效用比的差异。
2026-03-16 cs.AI cs.LG
Investigating the Effects of Fairness Interventions Using Pointwise Representational Similarity
MPI-SWS（马克斯·普朗克所社会科学研究院）
本文提出点式归一化核对齐（PNKA）度量，用于细粒度评估去偏方法对个体表征的影响，揭示群体公平性影响少数人群而个体公平性影响全体，并指出现有去偏方法在语言嵌入中效果不足。
2025-05-22 cs.LG
Causal Modeling for Fairness in Dynamical Systems
University of Toronto（多伦多大学）；Vector Institute（矢量研究所）
在许多应用领域-例如贷款、教育和在线零售商-当机器学习系统与动态变化的环境交互时，公平和公正问题就会出现，从而对个人和人口群体产生即时和长期影响。我们讨论因果有向无环图（DAG）作为一个统一的框架，最近的文献公平性，在这样的动态系统。我们表明，这种提法提供了几个新的调查方向的建模，因果关系的假设可以表达和操纵。我们强调在动态公平设置中计算干预量的重要性，并展示了因果假设如何使模拟（当环境动态已知时）和离线政策估计（当动态未知时）在组和个人层面上对短期和长期结果进行干预。
2020-07-06 cs.AI cs.CY cs.LG
Metric-Free Individual Fairness in Online Learning
The Hebrew University（希伯来大学）；University of Pennsylvania（宾夕法尼亚大学）；Carnegie Mellon University（卡内基梅隆大学）
我们研究了一个受个体公平约束的在线学习问题，该问题要求相似的个体得到相似的对待。与以前的工作对个人的公平性，我们不假设个人之间的相似性度量是已知的，也不假设这种措施采取一定的参数形式。相反，我们利用审计师的存在来检测违反公平性的行为，而不阐明量化措施。在每一轮中，审核员检查学习者的决定，并试图识别出被学习者不公平对待的两个人。我们提供了一个通用的减少框架，减少我们的模型中的在线分类标准的在线分类，这使我们能够利用现有的在线学习算法，以实现次线性的遗憾和违反公平的数量。令人惊讶的是，在数据独立于分布的随机设置中，我们也能够建立PAC风格的公平性和准确性泛化保证（Rothblum和Yona [2018]），尽管只能获得非常有限形式的公平性反馈。我们的公平性推广界定性地匹配Rothblum和Yona [2018]的一致收敛界，同时也提供了有意义的准确性推广保证。我们的研究结果解决了Gillen等人的一个悬而未决的问题。[2018]通过表明，即使不假设底层相似性度量的强参数形式，在未知的个人公平性约束下的在线学习也是可能的。
2022-04-23 cs.LG stat.ML
Enforcing Delayed-Impact Fairness Guarantees
Manning College of Information and Computer Sciences（曼宁信息与计算机科学学院）；University of Massachusetts（马萨诸塞大学）
最近的研究表明，看似公平的机器学习模型，当用于为影响人们生活或福祉的决策提供信息时（例如，涉及教育、就业和贷款的应用），从长远来看，可能会无意中增加社会不平等。这是因为先前的公平感知算法只考虑静态公平约束，例如平等机会或人口统计学奇偶性。然而，强制执行这类限制可能会导致对弱势个人和社区产生长期负面影响的模式。我们引入ELF（强制长期公平），这是第一个在长期或延迟影响方面提供高置信度公平保证的分类算法。我们证明了ELF返回一个不公平的解决方案的概率小于用户指定的公差和（在温和的假设下），有足够的训练数据，ELF是能够找到并返回一个公平的解决方案，如果存在的。我们的实验表明，我们的算法可以成功地减轻长期的不公平。
2022-08-24 cs.AI cs.CY cs.LG
Long-Term Fairness in Sequential Multi-Agent Selection with Positive Reinforcement
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）
该研究针对多智能体序贯选拔场景，提出多智能体公平贪心策略，验证了同分布下的长期公平收敛性，同时指出复杂演化模型下无协调行为可能损害公平，为公平决策机制设计提供参考。
2024-07-10 cs.CY cs.LG stat.ML
Fairness-aware Online Price Discrimination with Nonparametric Demand Models
Leonard N. Stern School of Business, New York University（纽约大学莱昂纳德·N·斯特恩商学院）；Department of Mathematical Sciences, Tsinghua University（清华大学数学科学系）；Department of Industrial and Enterprise Systems Engineering, University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校工业与企业系统工程系）
本文研究公平性约束下的动态差别定价问题，提出严格价格公平和软公平约束下的动态定价策略，证明最优遗憾为 $\tilde{O}(T^{4/5})$，并扩展至多客户群体等一般场景。
2023-07-28 cs.LG stat.ML
Algorithmic Tradeoffs in Fair Lending: Profitability, Compliance, and Long-Term Impact
Delhi Public School（德里公共学校）；Ruby Park Kolkata, India（加尔各答Ruby Park，印度）
本文通过合成数据模拟，比较不同公平性约束对信贷利润和违约率的影响，发现移除受保护属性在公平性和盈利能力上均优于显式干预，并识别了公平信贷盈利的经济条件。
2025-06-03 cs.AI cs.CE cs.CY
Calibrating Explore-Exploit Trade-off for Fair Online Learning to Rank
University of Virginia（弗吉尼亚大学）
在线学习排序（OL 2 R）由于其避免了离线监督排序模型学习中昂贵的相关性标注，近年来引起了广泛的研究兴趣。这样的解决方案探索未知数（例如，有意地在顶部位置上呈现所选择的结果）以改进其相关性估计。然而，这引发了对其排名公平性的关注：在OL 2 R过程中，不同类别的项目可能会受到不同的待遇。但是现有的公平排名解决方案通常需要事先了解结果相关性或执行排名器，这与OL 2 R的设置相矛盾，因此不能直接应用于保证公平性。在这项工作中，我们提出了一个通用的框架，以实现公平性定义的组曝光OL 2 R。其核心思想是校准公平控制，相关学习和在线排名质量的探索和开发。特别是，当模型正在探索一组相关反馈的结果时，我们将探索限制在随机排列的子集内，其中在反馈仍然是无偏的同时保持组间的公平性。从理论上证明了这种策略引入最小失真OL 2 R的遗憾，以获得公平。对两个公共学习排序基准数据集进行了广泛的实证分析，以证明所提出的解决方案与现有的公平OL 2 R解决方案相比的有效性。
2021-11-01 cs.IR cs.LG
Group Retention when Using Machine Learning in Sequential Decision Making: the Interplay between User Dynamics and Fairness
University of Michigan（密歇根大学）；Bilkent University（比尔肯特大学）
在来自多个人口统计组的数据上训练的机器学习（ML）模型可以继承表示差异（Hashimoto et al.，数据中可能存在的问题：该模型可能对对培训过程贡献较少的群体不太有利;这反过来又会随着时间的推移降低这些群体的人口保留率，并从长远来看加剧代表性差异。在这项研究中，我们试图了解ML决策和底层群体表示之间的相互作用，它们如何在顺序框架中演变，以及公平标准的使用如何在这一过程中发挥作用。我们表明，代表性的差距可以很容易地恶化，随着时间的推移，在一个自然的用户动态（到达和离开）模型的基础上，一个常用的客观和公平的标准作出决定时，从长远来看，导致一些群体完全从样本池减少。它强调了这样一个事实，即必须定义公平性标准，同时考虑到决策对用户动态的影响。为此，我们解释了如何选择一个适当的公平性标准的基础上，一般的用户动态模型。
2019-11-02 cs.LG stat.ML
Achieving Long-term Fairness in Submodular Maximization through Randomization
Naveen Jindal School of Management, University of Texas at Dallas（德克萨斯大学达拉斯分校纳文·金达尔管理学院）；University of North Texas（北德克萨斯大学）
研究在满足群体公平性约束下单调次模函数最大化问题，提出通过随机化计算可行集分布以实现长期公平的近似算法。
2023-04-10 cs.AI cs.DS cs.LG
Fairness in AI and Its Long-Term Implications on Society
University of Edinburgh（爱丁堡大学）；Samsung AI Center（三星人工智能中心）；University of Oxford（牛津大学）
该研究分析AI公平性缺失会形成偏见反馈循环、加剧社会风险甚至引发社会动荡，梳理现有提升策略的现实局限，探索兼顾AI效益与社会稳定的发展路径。
2023-07-19 cs.AI cs.CL cs.CV
Partial Identification Approach to Counterfactual Fairness Assessment
Columbia University（哥伦比亚大学）；Syracuse University（Syracuse大学）
针对反事实公平性度量难以从观测数据中评估的问题，本文提出基于部分识别的贝叶斯方法，以高置信度推导度量边界，并在COMPAS数据集上验证了算法，揭示了种族、年龄对再犯风险评分的不同效应。
2025-09-30 cs.AI cs.CY cs.LG
Fairness-Regularized Online Optimization with Switching Costs
School of Information（信息学院）；Rochester Institute of Technology（罗切斯特技术学院）；Electrical and Computer Engineering（电气与计算机工程）；University of California, Riverside（加州大学河滨分校）；Computing & Mathematical Sciences（计算与数学科学）；California Institute of Technology（加州理工学院）
本文提出FairOBD算法，通过引入辅助变量将长期公平性成本分解为在线成本，有效减少公平性正则化成本并促进公平结果。
2025-12-11 cs.AI cs.LG
Dynamic fairness - Breaking vicious cycles in automatic decision making
Bielefeld University（比勒费尔德大学）
近年来，机器学习技术越来越多地应用于敏感的决策过程，引起了人们对公平性的关注。过去的研究表明，由于有偏见的训练数据或有缺陷的模型假设，机器学习可能会重现甚至加剧人类偏见，从而可能导致歧视性行为。为了抵消这种有偏见的模型，研究人员提出了多种公平性的数学定义，根据这些定义可以优化分类器。然而，也有证据表明，某些公平概念产生的结果可能并不令人满意。在这方面的贡献，我们增加了这项研究，考虑决策过程中的时间。我们建立了一个理论模型，其中即使是完全准确的分类器，坚持几乎所有常见的公平性定义导致稳定的长期不平等，由于恶性循环。只有人口统计学上的平等，即在不同群体之间强制执行相同的积极决定率，才能避免这些影响，并建立一个良性循环，从而导致长期完全准确和公平的分类。
2019-02-10 cs.CY cs.LG stat.ML
Delayed Impact of Fair Machine Learning
University of California, Berkeley（加州大学伯克利分校）
机器学习中的公平性主要是在静态分类环境中研究的，而不关心决策如何随着时间的推移改变底层种群。传统观点认为，公平标准促进了它们旨在保护的那些群体的长期福祉。我们研究静态公平标准如何与幸福感的时间指标相互作用，如长期改善，停滞和利益变量的下降。我们证明，即使在一个一步反馈模型中，共同的公平标准一般不促进改善随着时间的推移，实际上可能会造成伤害的情况下，一个不受约束的目标不会。我们完全表征的延迟影响的三个标准的标准，对比这些表现出质的不同的行为的制度。此外，我们发现，一种自然形式的测量误差扩大了制度，其中公平性标准表现良好。我们的研究结果强调了测量和时间建模在公平性标准评估中的重要性，提出了一系列新的挑战和权衡。
2018-04-07 cs.LG stat.ML
Toward Structure Fairness in Dynamic Graph Embedding: A Trend-aware Dual Debiasing Approach
The Education University of Hong Kong（香港教育大学）；University of Technology Sydney（悉尼科技大学）；The Hong Kong Polytechnic University（香港理工大学）
针对动态图嵌入难以兼顾结构公平性与嵌入效果的问题，提出趋势感知的双重去偏算法FairDGE，通过联合建模连接变化与度演化趋势、定制化去偏，实现嵌入效果与公平性的同步提升。
2024-06-19 cs.LG cs.SI
How Do Fair Decisions Fare in Long-term Qualification?
University of Michigan（密歇根大学）；KTH Royal Institute of Technology（瑞典皇家理工学院）；University of California, Santa Cruz（加州大学圣克鲁兹分校）；Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）
虽然为决策提出了许多公平标准，但其对人口福祉的长期影响仍不清楚。在这项工作中，我们研究了部分观察马尔可夫决策问题设置下的人口资格和算法决策的动态。通过描述这种动态的均衡，我们分析了静态公平约束对平等和改善群体福祉的长期影响。我们的研究结果表明，静态公平性约束可以促进平等或加剧差距，这取决于资格转换的驱动因素和敏感属性对特征分布的影响。我们还考虑了可能的干预措施，可以有效地提高组资格或促进组资格的平等。我们的理论结果和实验上的静态现实世界的数据集与模拟动力学表明，我们的框架可以用来促进社会科学研究。
2020-10-21 cs.CY cs.LG
