On the Fairness of Randomized Trials for Recommendation with Heterogeneous Demographics and Beyond
推荐中的观测事件是决策的结果，因此通常被选择性地标记，即数据为非随机缺失（MNAR），这往往会对真实结果风险的估计产生较大的偏差。纠正MNAR偏倚的一般方法是进行小型随机对照试验（RCT），其中采用额外的统一政策将项目随机分配给每个用户。在这项工作中，我们专注于公平的随机对照试验在同质和异质人口统计学，特别是分析偏见的最不利的组在后者设置。考虑到随机对照试验的局限性，本文提出了一种新的无需昂贵随机对照试验的反事实稳健风险最小化（CRRM）框架，并推导了其理论泛化误差界。最后，在合成任务和真实数据集上进行了实验，验证了该方法在公平性和泛化能力上的优越性。
2021-10-04 cs.LG stat.ML
Fair Incentives for Repeated Engagement
Massachusetts Institute of Technology（麻省理工学院）；University of Southern California（南加州大学）
研究公平约束下智能体留存的货币激励优化问题，提出一种渐近最优的静态启发式策略，避免动态政策因系统类型组成变化而产生的无意歧视。
2024-07-29 cs.GT cs.LG cs.MA
Empirical observation of negligible fairness-accuracy trade-offs in machine learning for public policy
Carnegie Mellon University（卡内基梅隆大学）
在政策和社会影响环境中越来越多地使用机器学习，引起了人们对公平影响的担忧，特别是对少数民族。这些问题引起了机器学习和人工智能研究人员的极大兴趣，他们开发了新的方法并建立了提高公平性的理论界限，重点关注源数据，正则化和模型训练，或对模型分数的事后调整。然而，很少有工作研究在现实世界中的公平性和准确性之间的实际权衡，以了解这些界限和方法如何转化为政策选择和对社会的影响。我们的实证研究填补了这一空白，通过调查减少差异对准确性的影响，重点是使用机器学习的共同背景，以告知教育，心理健康，刑事司法和住房安全等资源受限项目的利益分配。在这里，我们描述的应用工作中，我们发现公平性和准确性的权衡是可以忽略不计的实践。在研究的每一个设置中，明确地关注实现公平，并使用我们提出的事后差异缓解方法，公平性得到了大幅提高，而不牺牲准确性。这一观察结果在所研究的政策背景、可用于干预的资源规模、时间和受保护群体的相对规模方面都是稳健的。这些实证结果挑战了一个普遍持有的假设，即减少差异要么需要接受一个明显的下降，准确性或开发新的，复杂的方法，使减少这些应用程序中的差异更实际。
2021-09-03 cs.CY cs.LG
Algorithmic Fairness in Performative Policy Learning: Escaping the Impossibility of Group Fairness
University of Michigan（密歇根大学）
研究预测模型影响目标分布的表演性问题，提出利用政策制定者引导人群的能力来缓解长期不平等，从而在社会分类问题中实现更强的群体公平性保证，并解决不同公平性定义间的冲突。
2024-05-30 cs.CY cs.LG stat.ML
Fairness and representation in satellite-based poverty maps: Evidence of urban-rural disparities and their impacts on downstream policy
UC Berkeley（加州大学伯克利分校）；Harvard University（哈佛大学）
该研究针对卫星贫困地图的城乡代表性差异、预测偏差及公平性问题展开，基于十国数据验证了其对政策有效性的影响，强调实际应用前需进行严格的误差与偏差分析。
2023-05-02 cs.CY cs.LG
Policy Optimization with Advantage Regularization for Long-Term Fairness in Decision Systems
UC San Diego（加州大学圣迭戈分校）；UT Austin（得克萨斯大学奥斯汀分校）
长期公平性是在高风险决策环境中设计和部署基于学习的决策系统时考虑的一个重要因素。最近的工作提出了使用马尔可夫决策过程（MDP）制定决策与长期的公平性要求，在动态变化的环境中，并表现出直接部署启发式和基于规则的政策，在静态环境中工作良好的主要挑战。我们表明，与以前已知的策略相比，深度强化学习的策略优化方法可以用来找到更好的决策策略，这些策略通常可以实现更高的整体效用和更少的公平性要求。特别是，我们提出了新的方法，在政策优化的公平性要求，通过正规化的优势评估不同的行动。我们提出的方法可以很容易地施加公平性约束，而无需奖励工程或牺牲训练效率。我们在三个已建立的案例研究中进行了详细的分析，包括事件监测中的注意力分配，银行贷款审批和人口网络中的疫苗分配。
2022-10-22 cs.AI cs.CY cs.LG
Unfair Utilities and First Steps Towards Improving Them
University of Copenhagen（哥本哈根大学）；ETH Zurich（苏黎世联邦理工学院）
本文提出将公平性作为效用函数的属性而非策略约束，定义信息价值公平性并修改效用函数以消除推断受保护属性的动机，在思想实验和COMPAS数据上验证其与直觉公平判断的一致性。
2026-09-15 cs.CY cs.LG stat.ML
Double Fairness Policy Learning: Integrating Action Fairness and Outcome Fairness in Decision-making
Department of Statistics（统计系）；Florida State University（佛罗里达州立大学）；Department of Management Science（管理科学系）；University of Miami（迈阿密大学）；London School of Economics and Political Science（伦敦政治经济学院）；Department of Decision Sciences（决策科学系）；George Washington University（乔治华盛顿大学）
本文提出双公平性学习框架，通过整合行动公平与结果公平，提升决策中的公平性并最小化价值损失。
2026-02-09 cs.LG stat.ML
Policy Learning for Fairness in Ranking
Cornell University（康奈尔大学）
传统的学习排名（LTR）方法优化了排名对用户的效用，但它们忽略了它们对排名项目的影响。然而，人们越来越认识到，对于广泛的排名应用（例如在线市场，就业安置，入学），后者是重要的考虑因素。为了满足这一需求，我们提出了一个通用的LTR框架，可以优化广泛的效用指标（如NDCG），同时满足公平的曝光约束的项目。该框架将可学习的排名函数扩展到随机排名策略，从而提供了一种严格表达公平性规范的语言。此外，我们提供了一个新的LTR算法称为公平PG排名直接搜索空间的公平排名政策，通过政策梯度的方法。除了推导框架和算法的理论证据之外，我们还提供了模拟和真实数据集的经验结果，验证了该方法在个人和群体公平性设置中的有效性。
2019-06-26 cs.CY cs.IR cs.LG
Clinical trial site matching with improved diversity using fair policy learning
IQVIA（艾昆纬）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；Amplitude（Amplitude公司）
持续的疫情凸显了可靠和有效的临床试验在医疗保健领域的重要性。进行试验的试验地点的选择主要是基于医学专业知识和接触大量患者的可行性。最近，临床试验中的多样性和包容性问题越来越重要。不同的患者群体可能会经历不同的药物/治疗效果，因此需要纳入临床试验。这些群体可能基于种族、合并症、年龄或经济因素。因此，设计一种兼顾可行性和多样性的试验地点选择方法是一个关键而紧迫的目标。在本文中，我们制定了这个问题作为一个公平性约束的排名问题。使用机器学习中的公平原则，我们学习了一个模型，该模型将临床试验描述映射到潜在试验地点的排名列表。与现有的公平性框架不同，每个试验中心的组成员资格是非二元的：每个试验中心可以访问来自多个组的患者。我们提出了公平的标准，基于人口统计学的平价，以解决这样一个多组成员的情况。我们在480个真实世界的临床试验中测试了我们的方法，并表明我们的模型产生了一系列潜在的试验地点，这些地点提供了对不同患者的访问，同时也确保了大量的入组患者。
2022-04-13 cs.CY cs.LG
Inference-Time Policy Alignment for Fair Reinforcement Learning
该研究提出乘法策略塑造框架，在不更新预训练RL策略参数的情况下，于推理时提升公平性，同时保留核心任务性能，适用于各类深度RL智能体。
2026-08-04 cs.AI cs.LG
Learning for Counterfactual Fairness from Observational Data
University of Virginia（弗吉尼亚大学）；Bytedance Research（字节跳动研究院）
针对因果模型未知导致反事实公平预测困难的问题，本文提出 CLAIRE 框架，利用反事实数据增强与不变惩罚进行表示学习，在合成及真实数据上提升公平性与预测效果。
2023-07-17 cs.CY cs.LG stat.ML
Policy-Gradient Training of Fair and Unbiased Ranking Functions
Cornell University（康奈尔大学）；Tsinghua University（清华大学）
虽然隐式反馈（例如，点击、停留时间等）是学习排序的一个丰富而有吸引力的数据来源，但它可能会产生不公平的排名政策，无论是外部的还是内部的原因。外生原因通常表现为训练数据中的偏差，然后反映在学习的排名策略中，并经常导致富人越来越富的动态。此外，即使在纠正了这些偏差之后，学习算法设计的内在原因仍然可能导致排名策略不能以公平的方式在项目之间分配曝光。为了解决外源性和内源性的不公平性，我们提出了第一个学习排名的方法，同时解决介绍偏见和择优公平的曝光。具体来说，我们定义了一类摊销公平的曝光限制，可以选择基于应用程序的需求，我们展示了如何执行这些公平的标准，尽管隐式反馈数据中的选择偏差。关键的结果是一个有效的和灵活的政策梯度算法，称为FULTR，这是第一个使使用反事实估计效用估计和公平性约束。除了框架的理论依据，我们的经验表明，该算法可以学习准确和公平的排名政策，从偏见和嘈杂的反馈。
2021-05-09 cs.CY cs.IR cs.LG
Fairness Incentives in Response to Unfair Dynamic Pricing
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；HEC Montréal（蒙特利尔高等商学院）；Université de Montréal（蒙特利尔大学）；Dalhousie University（达尔豪斯大学）；McGill University（麦吉尔大学）
本文针对企业动态定价引发的需求公平问题，设计了一个包含动态社会规划器的模拟经济体，利用多臂老虎机、上下文老虎机和强化学习生成税收与补贴政策以激励公平定价，并引入FairReplayBuffer改善RL采样，显著提升了社会福利。
2024-04-22 cs.CY cs.LG
A pipeline for enabling path-specific causal fairness in observational health data
Department of Biomedical Informatics（生物医学信息学系）；Columbia University（哥伦比亚大学）；Big Data Institute（大数据研究所）；University of Oxford（牛津大学）
本文提出了一种通用管道，用于训练能够解决直接和间接医疗偏见的因果公平机器学习模型。
2026-01-17 cs.AI cs.LG
Adapting Static Fairness to Sequential Decision-Making: Bias Mitigation Strategies towards Equal Long-term Benefit Rate
University of Maryland, College Park（马里兰大学帕克分校）；University of Southern California（南加州大学）
针对机器学习序贯决策中的长期公平性问题，提出平等长期收益率（ELBERT）概念及偏差缓解方法ELBERT-PO，通过将长期公平性纳入MDP并简化策略梯度，在保持高实用性的同时显著降低偏差。
2024-05-28 cs.CY cs.LG
Fair and Robust Estimation of Heterogeneous Treatment Effects for Policy Learning
Harvard Medical School（哈佛医学院）；Korea University（高丽大学）；Harvard University（哈佛大学）
提出公平约束下异质性处理效应非参数估计框架，具双重稳健性，刻画公平与福利权衡，经模拟与实例验证。
2023-12-20 cs.LG stat.ME stat.ML
Fairness Aware Reinforcement Learning via Proximal Policy Optimization
针对多智能体系统的奖励公平分配问题，提出融合回顾性与前瞻性惩罚分量的Fair-PPO算法，在两个测试场景中实现了优于PPO的公平性，性能比肩现有先进公平强化学习算法。
2025-09-02 cs.LG cs.MA
Equalizing Credit Opportunity in Algorithms: Aligning Algorithmic Fairness Research with U.S. Fair Lending Regulation
Brown University（布朗大学）；Arthur AI（亚瑟人工智能）
信贷是美国金融福利的重要组成部分，而获得信贷的不平等是当今人口群体之间经济差距的一个重要因素。如今，机器学习算法，有时是在替代数据上进行训练，正越来越多地被用于确定信贷的获得，但研究表明，机器学习可以编码许多不同版本的“不公平”，从而引起了人们的担忧，即银行和其他金融机构可能-可能无意中-通过使用这种技术从事非法歧视。在美国，有法律确保在贷款和负责执行这些法律的机构中不会发生歧视。然而，在计算机科学和政策领域，围绕公平信用模型的讨论往往是不一致的：公平机器学习研究往往缺乏针对现有公平贷款政策的法律和实践考虑，监管机构尚未就信用风险模型应如何利用研究界的实践和技术发布新的指导。本文旨在更好地协调对话的这些方面。我们描述了美国信贷歧视监管的现状，将公平机器学习研究的结果结合起来，以确定在贷款中使用机器学习所引起的具体公平性问题，并讨论解决这些问题的监管机会。
2022-10-05 cs.CY cs.LG
Fairness in Reinforcement Learning
University of Pennsylvania（宾夕法尼亚大学）
我们开始研究强化学习中的公平性，其中学习算法的行为可能会影响其环境和未来的奖励。我们的公平性约束要求，如果选择后一个动作的长期（折扣）奖励更高，则算法永远不会偏好一个动作。第一个结果是否定的：尽管公平性与最优策略一致，但满足公平性的任何学习算法必须花费状态数量的时间指数，以实现对最优策略的非平凡近似。然后，我们提供了一个可证明公平的多项式时间算法下的近似公平的概念，从而建立一个指数差距之间的确切和近似公平
2017-08-06 cs.LG
FairLogue: A Toolkit for Intersectional Fairness Analysis in Clinical Machine Learning Models
University of Arizona（亚利桑那大学）
本文提出Fairlogue工具包，用于在临床机器学习中评估交集公平性，通过观测和反事实框架分析种族和性别等保护属性的公平性差异。
2026-04-06 cs.LG q-bio.QM
Fairness Implications of Heterogeneous Treatment Effect Estimation with Machine Learning Methods in Policy-making
Centre for Social Research and Methods（社会研究与方法中心）；Australian National University（澳大利亚国立大学）
本文探讨因果机器学习在政策制定中的公平性，指出标准AI公平方法不适用，提出间接决策场景下的公平定义，强调需谨慎建模以避免决策偏见。
2023-09-02 cs.LG econ.EM
Fairness-aware Contextual Dynamic Pricing with Strategic Buyers
本文研究了带有公平性约束的上下文动态定价问题，考虑了买家在群体身份私密且不可观测时的战略行为，提出了一种同时实现价格公平并遏制战略行为的动态定价策略，理论分析表明该策略在T时间范围内具有O(√T + H(T))的 regret 上界，并通过实验验证了其有效性。
2026-03-14 cs.GT cs.LG stat.ML
Group Meritocratic Fairness in Linear Contextual Bandits
Istituto Italiano di Tecnologia（意大利理工学院）；University College London（伦敦大学学院）；ENSAE（法国国立统计与经济管理学院）；Institut Polytechnique de Paris（巴黎理工学院）
我们研究了线性上下文强盗问题，其中一个代理必须从一个池中选择一个候选人，每个候选人属于一个敏感组。在这种情况下，候选人的报酬在不同群体之间可能无法直接比较，例如，当代理人是雇用来自不同族裔群体的候选人的雇主，而某些群体由于歧视性偏见和/或社会不公正而获得较低的报酬时。我们提出了一个公平的概念，指出代理的政策是公平的，当它选择一个候选人与最高的相对排名，这衡量如何好的奖励是从同一组的候选人相比。这是一个非常强的公平性概念，因为相对排名不是由代理直接观察到的，而是取决于潜在的奖励模型和奖励的分配。因此，我们研究的问题，学习的政策，近似一个公平的政策的条件下，组之间的上下文是独立的，每个组的奖励分配是绝对连续的。特别是，我们设计了一个贪婪的政策，在每一轮构造一个岭回归估计所观察到的上下文奖励对，然后使用经验累积分布函数计算每个候选人的相对排名的估计。我们证明，尽管它的简单性和缺乏一个初始的探索阶段，贪婪的政策实现，日志因子和高概率，一个公平的伪遗憾的顺序$\sqrt{dT}$后，$T$轮，其中$d$是上下文向量的维度。该政策还满足人口均等在每一轮时，平均所有可能的信息选择之前。最后，我们使用模拟设置和美国人口普查数据上的实验表明，我们的政策实现了次线性公平伪遗憾也在实践中。
2022-12-20 cs.LG stat.ML
Learning Fair Policies in Multiobjective (Deep) Reinforcement Learning with Average and Discounted Rewards
UM-SJTU Joint Institute, Shanghai Jiao Tong University（上海交通大学密西根学院）；Department of Automation, Shanghai Jiao Tong University（上海交通大学自动化系）
由于自治系统的操作通常同时影响多个用户，因此其设计考虑公平性至关重要。与标准（深度）强化学习（RL）相比，我们研究了学习公平对待用户的策略的问题。在本文中，我们制定了这个新的RL问题，其中的目标函数，它编码的公平性，我们正式定义的概念，是优化的。对于这个问题，我们提供了一个理论上的讨论，我们检查的情况下，折扣奖励和平均奖励。在此分析中，我们特别得出一个新的结果，在标准RL设置，这是独立的利益：它指出了一个新的边界上的近似误差相对于最佳平均奖励的政策最优的折扣奖励。由于使用折扣奖励的学习通常更容易，因此本讨论进一步证明了通过学习折扣奖励的公平策略来找到平均奖励的公平策略。因此，我们描述了几种经典的深度强化学习算法如何适应我们的公平优化问题，并在三个不同的领域进行了广泛的实验来验证我们的方法。
2020-08-18 cs.AI cs.LG
Fair Policy Optimization in Major-Minor Weakly Coupled Markov Decision Processes
GERAD；HEC Montréal（蒙特利尔高等商学院）；MILA - Quebec AI Institute（MILA - 魁北克人工智能研究所）
针对主从弱耦合马尔可夫决策过程，提出公平策略优化框架，利用对称性归约和计数比例深度强化学习，在机器更换及出租车调度中验证了公平与可扩展性。
2026-09-30 cs.LG
Doubly Fair Dynamic Pricing
University of California, Santa Barbara（加州大学圣巴巴拉分校）
我们研究了两种类型的公平约束的在线动态定价问题：“程序公平”，这要求提出的价格是平等的期望之间的不同群体，和“实质公平”，这要求接受的价格是平等的期望之间的不同群体。一项政策，同时是程序和实质性的公平被称为“双重公平”。我们证明，双重公平政策必须是随机的，才能比向不同群体分配相同价格的最佳琐碎政策获得更高的收入。在两组设置中，我们提出了一个在线学习算法的2组定价问题，实现$\tilde{O}(\sqrt{T})$遗憾，零程序不公平和$\tilde{O}(\sqrt{T})$实质性的不公平超过$T$轮的学习。我们还证明了两个下界表明，这些结果的遗憾和不公平都是信息理论上最优的迭代对数因子。据我们所知，这是第一个在同时满足两个公平性约束的情况下学习定价的动态定价算法。
2022-09-23 cs.LG econ.EM stat.ML
A Sandbox Tool to Bias(Stress)-Test Fairness Algorithms
Carnegie Mellon University（卡内基梅隆大学）；University of Minnesota（明尼苏达大学）
由于减少ML预测中的不公平性越来越重要，Fair-ML研究人员提出了一套广泛的算法“公平性增强”补救措施。然而，大多数现有的算法是不可知的观察到的不公平的来源。因此，文献目前缺乏指导框架来指定每种算法干预可能减轻不公平的根本原因的条件。为了缩小这一差距，我们仔细研究了潜在的偏见（例如，在训练数据或设计选择中）引起观测不公平。我们提出的概念思想和第一个实现的偏见注入沙箱工具，调查各种偏见的公平后果，并评估算法补救措施的有效性，在特定类型的偏见的存在。我们称这个过程为算法干预的偏差（压力）测试。与现有的工具包不同，我们提供了一个受控的环境，可以在ML管道中反事实地注入偏见。这种程式化的设置提供了超越观察数据和无偏见基准测试公平干预的独特能力。特别是，我们可以测试一个给定的补救措施是否可以减轻注入的偏见，通过比较的预测结果后，在有偏见的设置与真正的标签在无偏见的制度，也就是说，在任何偏见注入。我们通过对合成数据的概念验证案例研究来说明我们的工具包的实用性。我们的实证分析展示了通过我们的模拟可以获得的见解类型。
2022-12-13 cs.CY cs.LG
Counterfactual Reasoning for Fair Clinical Risk Prediction
Stanford Center for Biomedical Informatics Research（斯坦福生物医学信息学研究中心）；Stanford University（斯坦福大学）
使用机器学习系统来支持医疗保健决策提出了一个问题，即由于电子健康记录中的观察数据中隐含的偏见，这些系统可能会在多大程度上引入或加剧历史上代表性不足和受虐待群体的护理差异。为了在临床风险预测模型的背景下解决这个问题，我们开发了一个增强的反事实公平标准，以将均衡赔率的组公平标准扩展到个人水平。我们这样做是因为，如果事实和反事实的结果没有差别，我们要求对一个病人和一个由改变敏感属性而产生的反事实病人做出相同的预测。我们调查了增强的反事实公平性标准在多大程度上可以应用于开发公平模型，用于观察电子健康记录数据的住院时间延长和死亡率。由于公平性准则是不明确的，没有知识的数据生成过程中，我们使用变分自编码器来执行反事实推理的背景下，假设的因果图。虽然我们的技术提供了一种在学习生成模型的背景下权衡公平性维护与预测性能降低的方法，但需要进一步的工作来评估这种方法的一般性。
2019-07-14 cs.CY cs.LG stat.ML
Learning Fair Policies for Multi-stage Selection Problems from Observational Data
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Southern California（南加州大学）；Georgia Institute of Technology（佐治亚理工学院）
本研究提出一个可加公平约束的多阶段选择框架，通过可解释线性规则和混合二元锥优化，从观测数据中学习公平策略，在UCI数据集上实现精度提升11.6%、不公平性降低38%。
2023-12-20 cs.LG math.OC
Learning Fair Pareto-Optimal Policies in Multi-Objective Reinforcement Learning
针对多目标强化学习中固定用户偏好无法提供多样化策略的问题，提出基于广义基尼福利函数的多策略方法，学习公平帕累托最优策略集。
2026-06-17 cs.AI cs.LG
Distributionally Robust Policy Evaluation and Learning for Continuous Treatment with Observational Data
City University of Hong Kong（香港城市大学）；The Hong Kong Polytechnic University（香港理工大学）
本文针对连续治疗场景下的分布偏移问题，提出基于逆概率加权并引入核函数的分布鲁棒策略评估与学习方法，通过有限样本分析保证收敛性，实验验证其有效性。
2025-01-18 cs.AI cs.LG
Counterfactually Fair Reinforcement Learning via Sequential Data Preprocessing
University of Michigan（密歇根大学）；London School of Economics（伦敦政治经济学院）
针对强化学习在医疗多阶段决策中易引发群体公平偏差的问题，提出基于反事实公平的通用序列决策框架，证明最优策略平稳性并设计序列数据预处理算法，经仿真和真实数字健康数据集验证可有效提升决策公平性与咨询服务可及性。
2025-01-14 cs.CY cs.LG stat.ME
Cooperative Multi-Agent Fairness and Equivariant Policies
Cornell University（康奈尔大学）；Cornell Tech（康奈尔科技学院）
我们通过合作多智能体学习的镜头来研究公平性。我们的工作是由经验证据，天真的团队奖励最大化产生不公平的结果，为个别团队成员的动机。为了解决多智能体环境中的公平性问题，我们引入了团队公平性，这是一种基于组的多智能体学习公平性度量。然后，我们证明了它是可能的，以加强团队的公平性，在政策优化过程中，通过将团队的联合政策转化为一个等变映射。我们将我们的多智能体学习策略称为通过等方差的公平性（Fair-E），并以经验证明其有效性。然后，我们引入公平通过等变正则化（公平ER）作为公平E的软约束版本，并表明它达到更高水平的效用比公平E和公平的结果比非等变政策。最后，我们提出了新的发现，在多代理设置的公平性效用权衡，显示权衡的幅度是依赖于代理的技能。
2022-01-19 cs.AI cs.LG cs.MA
Fair Data Pre-Processing with Imperfect Attribute Space
National University of Singapore（新加坡国立大学）
本文提出LatentPre框架，通过引入潜在属性增强公平数据处理，在不完美属性空间中实现公平与效用的平衡。
2026-03-27 cs.DB cs.LG
Long-Term Fairness in Sequential Multi-Agent Selection with Positive Reinforcement
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）
该研究针对多智能体序贯选拔场景，提出多智能体公平贪心策略，验证了同分布下的长期公平收敛性，同时指出复杂演化模型下无协调行为可能损害公平，为公平决策机制设计提供参考。
2024-07-10 cs.CY cs.LG stat.ML
Policy Learning with Observational Data
在许多领域，从业者寻求使用观察数据来学习满足应用特定约束的治疗分配策略，例如预算，公平性，简单性或其他功能形式约束。例如，策略可以被限制为基于有限的一组容易观察到的个体特征而采取决策树的形式。我们提出了一种新的方法来解决这个问题的动机半参数有效估计理论。我们的方法可用于优化二进制处理或无穷小的轻推连续治疗，并可以利用观察数据，其中因果关系的影响，确定使用各种策略，包括选择可观察变量和工具变量。鉴于分配给每个人的治疗的因果效应的双重鲁棒估计，我们开发了一个算法来选择谁来治疗，并建立强有力的保证所产生的政策的渐进功利遗憾。
2020-09-04 cs.LG econ.EM math.ST
Efficient candidate screening under multiple tests and implications for fairness
Tel Aviv University（特拉维夫大学）；Carnegie Mellon University（卡内基梅隆大学）；Amazon AI（亚马逊人工智能）；Google Research（谷歌研究院）
在招聘求职者时，雇主很少直接观察他们的潜在技能水平。相反，他们必须进行一系列的面试和/或整理其他嘈杂的信号，以估计工人的技能。传统的经济学论文提出了筛选模型，雇主通过单一的噪声信号来评估工人的技能。在本文中，我们将这种理论分析扩展到多测试设置，同时考虑伯努利和高斯模型。我们分析了最佳的雇主政策时，雇主设置一个固定数量的测试，每个候选人，当雇主可以设置一个动态的政策，分配进一步的测试自适应的基础上，从以前的测试结果。首先，我们的最优政策时，员工构成一个单一的群体，展示了一些有趣的权衡。随后，我们解决了多组设置，表明当噪声水平在各组之间变化时，出现了一个根本的不可能性，即我们不能管理相同数量的测试，候选人服从相同的决策规则，但在两组中实现相同的结果。
2019-05-27 cs.CY cs.LG stat.ML
RL-FAT: Reinforcement Learning for Fair Adversarial Training
University of Mannheim（曼海姆大学）；MPI for Informatics（马克斯·普朗克信息学研究所）
针对对抗训练存在的类别鲁棒性失衡问题，提出受强化学习启发的RL-FAT框架，结合强化驱动自适应与公平强调正则化，在提升鲁棒性的同时大幅降低类别鲁棒性失衡。
2026-09-01 cs.LG
Rethinking Algorithmic Fairness for Human-AI Collaboration
Wharton AI & Analytics Initiative, Wharton School, University of Pennsylvania（沃顿商学院人工智能与分析倡议，沃顿商学院，宾夕法尼亚大学）；Department of Operations, Information, and Decisions, Wharton School, University of Pennsylvania（运营、信息与决策系，沃顿商学院，宾夕法尼亚大学）；Department of Computer and Information Science, University of Pennsylvania（计算机与信息科学系，宾夕法尼亚大学）
本文研究了人机协作中的算法公平性，提出了对人类遵从模式具有鲁棒性的遵从鲁棒公平算法推荐概念及优化策略，并证明传统公平约束可能不适用于改善协作公平性与准确性。
2025-06-29 cs.LG stat.ML
Under the Radar -- Auditing Fairness in ML for Humanitarian Mapping
German Aerospace Center (DLR)（德国航空航天中心）；Technical University of Munich (TUM)（慕尼黑工业大学）
利用机器学习从太空进行人道主义测绘有助于决策者及时准确地识别有需要的人。然而，最近对算法决策的公平性和透明度的担忧是将这些方法应用于实践的一个重大障碍。在本文中，我们研究，如果从空间人道主义测绘方法容易在他们的预测偏见。我们绘制乡村一级的贫困和电力价格在印度的基础上夜间灯光（NTLs）与线性回归和随机森林和分析，如果预测系统地显示对预定种姓或部落社区的偏见。为了实现这一点，我们设计了一个因果关系的方法来衡量反事实的公平性的基础上倾向得分匹配。这允许将利益共同体中的村庄与合成反事实进行比较。我们的研究结果表明，贫困是系统性的高估和电力系统低估了预定部落相比，一个合成的反事实的村庄。对贱民种姓的影响则相反，因为这些种姓的贫困被低估，而电气化被高估。这些结果是一个警告信号，在人道主义绘图的各种应用中，公平问题会损害政策目标。
2021-08-04 cs.AI cs.CY cs.LG
Fair Clustering via Hierarchical Fair-Dirichlet Process
Texas A&M University（德州农工大学）
本文提出一种基于分层公平狄利克雷过程模型的公平聚类新方法，以替代传统基于目标函数优化的公平聚类框架。
2023-05-27 cs.CY cs.LG stat.ML
Fairness for Workers Who Pull the Arms: An Index Based Policy for Allocation of Restless Bandit Tasks
Harvard University（哈佛大学）
本文提出了一种基于指数的分配策略，用于在资源受限条件下公平分配异质工人的 restless 带机任务，以提高干预计划的公平性和效率。
2023-03-01 cs.AI cs.LG cs.MA
Fairness and Privacy Guarantees in Federated Contextual Bandits
IIIT, Hyderabad（印度理工学院海得拉巴分校）；IIT, Ropar（印度理工学院罗帕尔分校）
本文提出联邦公平上下文老虎机算法Fed-FairX-LinUCB及其隐私版本，通过新颖通信协议实现次线性公平遗憾，并保证差分隐私，实验验证其接近最优性能。
2024-02-05 cs.LG
Principal Fairness for Human and Algorithmic Decision-Making
Harvard University（哈佛大学）；Institute for Quantitative Social Science（定量社会科学研究所）；University of Massachusetts（马萨诸塞大学）
利用因果推理文献中的主要分层概念，我们引入了一个新的公平性概念，称为主要公平性，用于人类和算法决策。关键的想法是，人们不应该歧视那些同样受到决定影响的个人。与现有的公平性统计定义不同，主要公平性明确说明了个人可能受到决策影响的事实。此外，我们解释了如何从现有的cabetity为基础的公平标准的主要公平不同。例如，与反事实公平标准相反，主要公平考虑的是有关决定的影响，而不是受保护的利益属性的影响。我们简要地讨论了如何处理经验评估和策略学习问题下提出的主要公平标准。
2022-03-24 cs.CY cs.LG stat.ML
Offline Reinforcement Learning for Fluid Controls: Data-based Multi-observational Policy Extraction
University of Notre Dame（圣母大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）；Cornell University（康奈尔大学）
提出一种离线强化学习框架，通过传感器位置条件架构和点注意力层实现多传感器布局下的策略提取，在K-S方程和Navier-Stokes方程控制问题中验证了灵活性和有效性。
2026-07-01 cs.LG
Externally Valid Policy Evaluation Combining Trial and Observational Data
Uppsala University（乌普萨拉大学）
针对随机试验人群与目标人群差异导致的政策评估外部有效性问题，提出结合目标人群协变量数据的非参数方法，可在指定模型校准误差范围及有限样本下保证评估有效性，并通过模拟和真实数据验证。
2024-10-29 cs.LG stat.ME stat.ML
Reinforcement Learning with Stepwise Fairness Constraints
Harvard University（哈佛大学）；Carnegie Mellon University（卡内基梅隆大学）；Rutgers University（罗格斯大学）
人工智能方法用于社会重要环境，从信贷到就业再到住房，在算法决策方面提供公平性至关重要。此外，许多设置是动态的，人口响应顺序决策政策。我们介绍了逐步公平性约束的强化学习（RL）的研究，要求在每个时间步的组公平性。我们的重点是表情节RL，我们提供学习算法的政策最优性和公平违反方面的强有力的理论保证。我们的框架提供了有用的工具来研究公平性约束在顺序设置中的影响，并提出了新的挑战。
2022-11-08 cs.AI cs.CY cs.LG
Avoiding Discrimination through Causal Reasoning
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Max Planck ETH Center for Learning Systems（马克斯·普朗克-苏黎世联邦理工学院学习系统中心）；University of California, Berkeley（加利福尼亚大学伯克利分校）
最近关于机器学习公平性的工作集中在各种统计歧视标准以及它们如何权衡。这些标准中的大多数是观察性的：它们仅取决于预测因子、受保护属性、特征和结果的联合分布。虽然便于使用，但观察标准具有严重的固有局限性，这使它们无法最终解决公平问题。超越观察标准，我们框架的歧视问题的基础上保护属性的语言的因果推理。这种观点将注意力从“什么是正确的公平标准？“到“关于因果数据生成过程，我们要假设什么？“通过因果关系的镜头，我们做出了几项贡献。首先，我们清楚地阐明为什么以及何时观察标准失败，从而正式确定了之前的观点。其次，我们的方法揭示了以前被忽视的微妙之处，以及为什么它们是问题的根本。最后，我们提出了自然因果非歧视性标准，并开发算法，满足他们。
2018-01-21 cs.CY cs.LG stat.ML
Learning Fairness in Multi-Agent Systems
Peking University（北京大学）
公平对人类社会至关重要，有助于稳定和生产力。同样，公平性也是许多多智能体系统的关键。将公平性引入多智能体学习可以帮助多智能体系统变得高效和稳定。然而，学习效率和公平性的同时是一个复杂的，多目标，联合政策优化。为了解决这些困难，我们提出了FEN，一种新的分层强化学习模型。我们首先分解每个代理的公平性，并提出公平有效的奖励，每个代理学习自己的策略来优化。为了避免多目标冲突，我们设计了一个由控制器和多个子策略组成的层次结构，其中控制器通过在提供与环境交互的不同行为的子策略之间切换来最大化公平有效的回报。FEN可以以完全分散的方式进行训练，使其易于部署在现实世界的应用程序中。从经验上讲，我们表明，FEN很容易学习公平性和效率，并显着优于基线在各种多代理场景。
2019-10-31 cs.AI cs.LG cs.MA
Fairness Under Feature Exemptions: Counterfactual and Observational Measures
Carnegie Mellon University（卡内基梅隆大学）
随着ML在高度重要的领域中的使用越来越多，量化关于受保护属性的差异，例如，性别、种族等等，很重要.虽然量化差异是必不可少的，但有时职业的需要可能需要使用某些关键特征，这些特征可能需要豁免任何可以解释的差异。例如，在一个示例中，在为安全关键应用雇用软件工程师时，编码技能可能会被强烈地权衡，而姓名、邮政编码或推荐信可能仅在它们不增加差异的程度上被使用。在这项工作中，我们提出了一个信息理论分解的总差距（反事实公平的启发量化）成两个组成部分：一个非豁免组件，量化的一部分，不能占的关键功能，和豁免组件，量化剩余的差距。这种分解允许人们检查差异是否纯粹是由于关键特性引起的（灵感来自不同影响法律的业务必要性辩护），并且如果需要，还可以选择性地删除非豁免组件。我们到达这个分解通过规范的例子，导致一组理想的属性（公理），一个措施的非豁免的差距应该满足。我们提出的措施满足了所有这些要求。我们的量化连接了因果关系、辛普森悖论和信息论的部分信息分解。我们还得到了一个不可能的结果，表明没有观测措施可以满足所有的理想性质，导致我们放松我们的目标，并检查观测措施，满足其中的一些。我们进行案例研究，以显示如何可以审计/训练模型，同时减少非豁免的差距。
2021-08-06 cs.CR cs.CY cs.IT
On the Capability Separation Between World-Model Policy Learning and Imitated World-Action Models
Nanjing University（南京大学）
该研究对比了直接行为克隆策略等三类策略，明确世界-动作模型学习与直接行为克隆的能力差异，指出观测演示无法识别动作效果，干预可实现零遗憾值。
2026-08-25 cs.LG
FairGBM: Gradient Boosting with Fairness Constraints
Feedzai（Feedzai公司）；MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）；UC Irvine（加州大学欧文分校）
表格数据在许多高风险领域很普遍，例如金融服务或公共政策。梯度提升决策树（GBDT）由于其可扩展性、性能和低训练成本而在这些设置中流行。虽然这些领域中的公平性是最重要的问题，但现有的处理中公平ML方法要么与GBDT不兼容，要么在花费相当长的时间进行训练的同时导致显著的性能损失。我们提出了FairGBM，一个双上升学习框架，用于在公平性约束下训练GBDT，与无约束的GBDT相比，对预测性能几乎没有影响。由于观测公平性指标是不可微的，我们提出了光滑凸出错率代理常见的公平性标准，使基于梯度的优化使用“代理拉格朗日”制定。我们的实现显示了相对于相关工作的训练时间的数量级加速，这是促进真实世界从业者广泛采用FairGBM的一个关键方面。
2023-03-03 cs.AI cs.CY cs.LG
Socially Fair Reinforcement Learning
Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）；University of Oxford（牛津大学）
我们考虑了情景强化学习的问题，其中有多个利益相关者具有不同的奖励函数。我们的目标是输出一个政策，是社会公平的不同的奖励功能。先前的工作提出了不同的目标，一个公平的政策必须优化，包括最低福利，广义基尼福利。我们首先采取一个公理化的观点的问题，并提出四个公理，任何这样的公平的目标必须满足。我们表明，纳什社会福利是唯一的目标，唯一满足所有四个目标，而先验目标未能满足所有四个公理。然后，我们考虑问题的学习版本，其中底层模型，即马尔可夫决策过程是未知的。我们考虑的问题，最小化遗憾的公平政策最大化三个不同的公平目标-最低福利，广义基尼福利，纳什社会福利。基于乐观规划，我们提出了一个通用的学习算法，并推导出其遗憾界关于三种不同的政策。对于纳什社会福利的目标，我们还得到了一个下限的遗憾，$n$，代理的数量呈指数增长。最后，我们表明，对于最低福利的目标，可以改善遗憾的$O(H)$的一个因素，为一个较弱的概念遗憾。
2023-02-03 cs.CY cs.GT cs.LG
