Policy Learning for Fairness in Ranking
Cornell University（康奈尔大学）
传统的学习排名（LTR）方法优化了排名对用户的效用，但它们忽略了它们对排名项目的影响。然而，人们越来越认识到，对于广泛的排名应用（例如在线市场，就业安置，入学），后者是重要的考虑因素。为了满足这一需求，我们提出了一个通用的LTR框架，可以优化广泛的效用指标（如NDCG），同时满足公平的曝光约束的项目。该框架将可学习的排名函数扩展到随机排名策略，从而提供了一种严格表达公平性规范的语言。此外，我们提供了一个新的LTR算法称为公平PG排名直接搜索空间的公平排名政策，通过政策梯度的方法。除了推导框架和算法的理论证据之外，我们还提供了模拟和真实数据集的经验结果，验证了该方法在个人和群体公平性设置中的有效性。
2019-06-26 cs.CY cs.IR cs.LG
Discrimination and Class Imbalance Aware Online Naive Bayes
L3S Research Center（L3S研究中心）；Leibniz University of Hannover（汉诺威莱布尼茨大学）
大规模数据流的公平意识挖掘是当代机器学习领域日益增长且具有挑战性的问题。许多流学习算法用于在关键决策点代替人类，招聘员工、评估信用风险等。这就要求以最小的响应延迟处理大量传入的信息，同时确保公平和高质量的决策。最近的区分感知学习方法基于整体准确性进行优化。然而，总体准确性偏向于多数类;因此，最先进的方法主要通过部分或完全忽略少数类来减少歧视。在这种情况下，我们提出了一种新的适应朴素贝叶斯，以减轻歧视嵌入在流中，同时保持高预测性能的多数和少数类。该算法简单、快速，可实现多目标优化。为了处理类不平衡和概念漂移问题，提出了一种动态实例加权模块，根据实例在少数类或多数类中的隶属度，赋予新实例更高的重要性，而对过时实例的重要性降低。我们在一系列流数据集和静态数据集上进行了实验，并推断我们提出的方法在区分分数和平衡准确性方面优于现有的最先进的公平性感知方法。
2022-11-09 cs.CY cs.LG
User Fairness, Item Fairness, and Diversity for Rankings in Two-Sided Markets
Cornell University（康奈尔大学）
通过项目的相关性概率来对项目进行排名长期以来一直是传统排名系统的目标。虽然这最大限度地提高了传统的排名标准，但人们越来越认识到，这是一种过度简化的在线平台，不仅服务于多样化的用户群体，而且还服务于项目的生产者。特别是，排名算法应该公平地服务于所有用户群体，而不仅仅是大多数用户群体，而且它们还需要公平地分配项目之间的曝光。这些公平性的考虑可以部分地通过增加排名的多样性来满足，就像最近的几项工作所做的那样。然而，我们在本文中表明，用户公平性，项目公平性和多样性是根本不同的概念。特别是，我们发现，只考虑三个desiderata之一的算法可能无法满足，甚至损害其他两个。为了克服这个缺点，我们提出了第一个排名算法，明确执行所有三个desiderata。该算法将用户公平性和项目公平性作为一个凸优化问题进行优化。从它的解决方案，排名策略可以通过一种新的Birkhoff-von Neumann分解算法，优化多样性。除了理论分析之外，我们还在一个新的基准数据集上实证研究了所提出的排名算法如何有效地控制用户公平性，项目公平性和多样性，以及它们之间的权衡。
2021-09-12 cs.AI cs.IR
Fairness-aware Multiobjective Evolutionary Learning
Southern University of Science and Technology（南方科技大学）；Research Institute of Trustworthy Autonomous System（可信自主系统研究院）；Guangdong Provincial Key Laboratory of Brain-inspired Intelligent Computation（广东省类脑智能计算重点实验室）；School of Data Science, Lingnan University（岭南大学数据科学学院）
本文提出一种在模型训练期间在线动态自适应确定代表性公平性指标集的方法，将其作为多目标进化学习的优化目标，在12个基准数据集上有效缓解了不公平性并保持了高准确率。
2024-09-27 cs.AI cs.LG
Inference-time Stochastic Ranking with Risk Control
ByteDance Research（字节跳动研究院）
针对现有随机学习排序方法训练成本高、无法保证效用与公平性的问题，提出推理时随机排序方法ISRR，基于预训练评分函数在推理阶段实现带风险控制的随机排序，在三个数据集上以更低成本达到可比效果并提供有限样本保证。
2024-05-18 cs.CY cs.IR cs.LG
Online certification of preference-based fairness for personalized recommender systems
Meta AI
推荐系统正面临审查，因为它们对我们所能获得的机会的影响越来越大。目前对公平性的审计仅限于敏感群体级别的粗粒度奇偶性评估。我们建议审计无嫉妒性，这是一个与个人偏好相一致的更细粒度的标准：每个用户都应该喜欢他们的推荐。由于审计嫉妒需要估计用户的偏好超出他们现有的建议，我们投审计作为一个新的纯探索多武装土匪的问题。我们提出了一个样本效率的算法，理论上保证它不会恶化用户体验。我们还研究了在现实世界的推荐数据集上实现的权衡。
2023-03-06 cs.AI cs.CY cs.LG
Metric-Free Individual Fairness in Online Learning
The Hebrew University（希伯来大学）；University of Pennsylvania（宾夕法尼亚大学）；Carnegie Mellon University（卡内基梅隆大学）
我们研究了一个受个体公平约束的在线学习问题，该问题要求相似的个体得到相似的对待。与以前的工作对个人的公平性，我们不假设个人之间的相似性度量是已知的，也不假设这种措施采取一定的参数形式。相反，我们利用审计师的存在来检测违反公平性的行为，而不阐明量化措施。在每一轮中，审核员检查学习者的决定，并试图识别出被学习者不公平对待的两个人。我们提供了一个通用的减少框架，减少我们的模型中的在线分类标准的在线分类，这使我们能够利用现有的在线学习算法，以实现次线性的遗憾和违反公平的数量。令人惊讶的是，在数据独立于分布的随机设置中，我们也能够建立PAC风格的公平性和准确性泛化保证（Rothblum和Yona [2018]），尽管只能获得非常有限形式的公平性反馈。我们的公平性推广界定性地匹配Rothblum和Yona [2018]的一致收敛界，同时也提供了有意义的准确性推广保证。我们的研究结果解决了Gillen等人的一个悬而未决的问题。[2018]通过表明，即使不假设底层相似性度量的强参数形式，在未知的个人公平性约束下的在线学习也是可能的。
2022-04-23 cs.LG stat.ML
Secure and Confidential Certificates of Online Fairness
University of Toronto（多伦多大学）；Vector Institute（向量研究院）；Brave Software（Brave软件公司）；University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）；Imperial College London（伦敦帝国理工学院）
针对现有公平性认证缺乏可靠性与可扩展性的问题，本文提出在线公平性证书及零知识证明协议OATH，以保密方式验证模型对在线数据的群体公平性。
2025-10-27 cs.CY cs.LG
The Nonverbal Gap: Toward Affective Computer Vision for Safer and More Equitable Online Dating
University of Kansas（堪萨斯大学）；University of Maryland（马里兰大学）
本文探讨在线约会中非语言信息缺失的问题，提出以公平性为核心的研究议程，涵盖实时不适检测、互动不对称建模、知情同意互动设计及长期互动总结等能力领域，强调需建立公平评估体系和设备端处理架构以提升安全性和公平性。
2026-03-20 cs.AI cs.CV
Fairness-Regularized Online Optimization with Switching Costs
School of Information（信息学院）；Rochester Institute of Technology（罗切斯特技术学院）；Electrical and Computer Engineering（电气与计算机工程）；University of California, Riverside（加州大学河滨分校）；Computing & Mathematical Sciences（计算与数学科学）；California Institute of Technology（加州理工学院）
本文提出FairOBD算法，通过引入辅助变量将长期公平性成本分解为在线成本，有效减少公平性正则化成本并促进公平结果。
2025-12-11 cs.AI cs.LG
Trading the System Efficiency for the Income Equality of Drivers in Rideshare
Southeast University（东南大学）；New Jersey Institute of Technology（新泽西理工学院）
一些科学研究报告了基于性别，年龄，种族等人口统计学因素的拼车司机之间存在的收入差距。在本文中，我们研究了由于乘客的歧视性取消而导致的拼车司机之间的收入不平等，以及收入不平等（称为公平目标）与系统效率（称为利润目标）之间的权衡。我们提出了一个在线的bipartite匹配模型，其中乘客被假定为顺序到达后，分布事先已知。我们模型的亮点是任何一对驾驶员-乘客类型之间的接受率概念，其中类型是基于人口统计因素定义的。特别地，我们假设每个乘客可以接受或取消分配给她的司机，每一个都以一定的概率发生，该概率反映了乘客类型对司机类型的接受程度。我们构造了一个双目标线性规划作为一个有效的基准，并提出了两个基于LP的参数化在线算法。严格的在线竞争比分析，以证明我们的在线算法的灵活性和效率，在平衡两个相互冲突的目标，促进公平和利润。在真实数据集上的实验结果也证实了我们的理论预测。
2020-12-12 cs.AI cs.DS
Long-term Fairness For Real-time Decision Making: A Constrained Online Optimization Approach
针对实时决策中时变公平性约束的挑战，本文提出受约束的在线优化框架及新型算法LoTFair，在保证长期性能的同时使整体公平性违规可忽略不计。
2024-01-04 cs.CY cs.LG
Online Fairness-Aware Learning with Imbalanced Data Streams
L3S Research Center（L3S研究中心）；Leibniz University of Hannover（汉诺威莱布尼茨大学）；Carnegie Mellon University（卡内基梅隆大学）
数据驱动的学习算法在许多在线应用中被采用，其中数据随着时间的推移变得可用，如网络监控、股票价格预测、工作应用等。随着新实例的到来和旧实例的过时，底层数据分布可能会随着时间的推移而演变，从而需要模型自适应。在这种动态环境中，即所谓的数据流中，公平性感知学习不能被认为是一次性的要求，而是应该包括对数据流的持续要求。最近的公平感知流分类器忽略了类不平衡的问题，这体现在许多现实生活中的应用，并减轻歧视，主要是因为他们“拒绝”少数情况下，由于他们无法有效地学习所有类。在这项工作中，我们提出了\ours，一个在线的公平意识的方法，保持一个有效的和公平的流分类。\ours ~是一种在线提升方法，通过监控流的类别不平衡并调整其决策边界以减轻流上的歧视性结果，以在线方式改变训练分布。在8个真实世界和1个来自不同领域的具有不同类别不平衡的合成数据集上的实验表明，我们的方法优于最先进的公平感知流方法，平衡准确率（相对）提高[11.2%~ 14.2%]，gmean（相对）提高[22.6%~ 31.8%]，回忆率（相对）提高[42.5%~ 49.6%]，Kappa值为14.3%~ 25.7%，统计公平性为89.4%~ 96.6%。
2021-08-13 cs.AI cs.LG
Online Learning with Multiple Fairness Regularizers via Graph-Structured Feedback
Department of Mathematics, National University of Singapore（新加坡国立大学数学系）；Department of Computer Science, Czech Technical University（捷克技术大学计算机科学系）；Dyson School of Design Engineering, Imperial College London（伦敦帝国理工学院设计工程戴森学院）；Imperial College London（伦敦帝国理工学院）
本文针对在线决策中多重公平约束的权重自适应问题，提出了一种基于图结构反馈的赌博机算法，能够在不预先知道权重的情况下在线学习并平衡多个公平性目标。
2026-05-22 cs.AI cs.LG
Fairness-aware Online Price Discrimination with Nonparametric Demand Models
Leonard N. Stern School of Business, New York University（纽约大学莱昂纳德·N·斯特恩商学院）；Department of Mathematical Sciences, Tsinghua University（清华大学数学科学系）；Department of Industrial and Enterprise Systems Engineering, University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校工业与企业系统工程系）
本文研究公平性约束下的动态差别定价问题，提出严格价格公平和软公平约束下的动态定价策略，证明最优遗憾为 $\tilde{O}(T^{4/5})$，并扩展至多客户群体等一般场景。
2023-07-28 cs.LG stat.ML
Fairness-Aware Online Personalization
LinkedIn Corporation（领英公司）；Facebook（脸书）；Amazon AWS AI（亚马逊云科技人工智能）
在诸如贷款、招聘和大学招生等关键应用中，由于各种因素的共同作用，算法模型和技术的使用越来越多，这些因素包括无处不在的连接性，使用云计算收集、聚合和处理大量细粒度数据的能力，以及易于应用复杂的机器学习模型。通常，这些应用程序由搜索和推荐系统提供支持，而这些系统又利用个性化的排名算法。与此同时，人们越来越意识到使用这种数据驱动系统所带来的道德和法律挑战。来自不同学科的研究人员和从业者最近强调了这种系统歧视某些人群的可能性，这是由于用于学习其底层推荐模型的数据集存在偏见。我们提出了一个研究的公平性，在网上个性化设置涉及个人的排名。从一个公平的热启动机器学习模型开始，我们首先证明，如果用户在他/她的反应中有偏见，在线个性化可能会导致模型学习以不公平的方式行事。为此，我们构建了一个程式化的模型，用于生成具有潜在偏见的特征以及潜在偏见的标签的训练数据，并量化了当用户以偏见的方式响应时模型所学到的偏见程度，如在许多现实世界中的场景。然后，我们制定了公平约束下的个性化模型的学习问题，并提出了一个正则化的方法，以减轻偏见的机器学习。我们证明了我们的方法的有效性，通过广泛的模拟与不同的参数设置。代码：https://github.com/groshanlal/Fairness-Aware-Online-Personalization
2020-09-06 cs.AI cs.LG stat.ML
COPF: An Online Framework for Deployment-Stable Counterfactual Fairness in Evolving Graphs
Shanghai Jiao Tong University（上海交通大学）
针对演化图上的在线链接推荐，提出COPF框架，通过反事实暴露机会差距、显式探索和残差不可区分性审计，实现部署稳定的公平性监控与控制。
2026-05-30 cs.AI cs.LG
Fairness-Aware Online Meta-learning
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
与离线工作方式相比，在线学习有两种研究范式：（1）在线元学习（OML）在一个接一个的任务被揭示的顺序设置中学习模型参数的良好先验（或学习学习）。虽然它提供了一个次线性的遗憾界限，这种技术完全忽略了公平学习的重要性，这是人类智力的一个重要标志。(2)在线公平意识学习。此设置捕获了许多关注公平性的分类问题。但它的目标是实现zero-shot泛化，而没有任何特定于任务的适应。因此，这限制了模型适应新到达数据的能力。为了克服这些问题，弥补这一差距，在本文中，我们首次提出了一种新的在线元学习算法，即FFML，这是在不公平预防的设置。FFML的关键部分是学习在线公平分类模型的原始和对偶参数的良好先验，这些参数分别与模型的准确性和公平性相关联。该问题是制定在一个双层凹凸优化的形式。理论分析给出了损失后悔和违反累积公平约束的次线性上界。我们的实验证明了FFML的多功能性，通过将其应用于三个真实世界的数据集上的分类，并在公平性和分类准确性之间的权衡上显示出比最好的先前工作有实质性的改进
2021-08-21 cs.LG
Fairness Uncertainty Quantification: How certain are you that the model is fair?
Halıcıoğlu Data Science Institute, University of California, San Diego（加州大学圣地亚哥分校哈利乔奥卢数据科学研究所）；University of California, Davis（加州大学戴维斯分校）
针对在线 SGD 训练的 DI/DM 公平感知线性二分类器，本文证明参数渐近正态并提出在线乘子自助置信区间，将在线自助一致性理论扩展至约束优化。
2023-04-27 cs.CY cs.LG stat.ML
Online Learning with an Unknown Fairness Metric
University of Pennsylvania（宾夕法尼亚大学）
我们考虑的问题，在线学习在线性上下文的强盗设置，但其中也有强大的个人公平约束由一个未知的相似性度量。这些约束要求我们以近似相等的概率（arXiv：1104.3913）选择类似的行为或个体，这可能与优化奖励不一致，因此建模了利润和社会政策处于紧张状态的设置。我们假设我们了解一个未知的Mahalanobis相似性度量，只有弱反馈，确定违反公平性，但不量化其程度。这是为了代表一个监管者的干预，他“看到不公平就知道”，但却不能对个人阐明一个量化的公平度量。我们的主要结果是一个算法在对抗性的上下文中设置，有一些公平的违规行为，只依赖于数学上$T$，同时获得最佳的$O(\sqrt{T})$遗憾绑定到最好的公平政策。
2018-09-18 cs.LG
Fast online ranking with fairness of exposure
Meta AI
随着推荐系统在对在线内容进行分类和优先级排序方面变得越来越重要，它们对商品生产商的机会或收入产生了越来越大的影响。例如，他们会影响简历推荐给哪个招聘人员，或者音乐曲目、视频或新闻文章被曝光给谁和曝光多少。这就要求推荐方法不仅要最大化用户满意度，而且要考虑项目或项目组曝光的公平性。形式上，这样的建议通常是通过最大化随机排名空间中的凹目标函数来获得的。当一个项目的总曝光量被定义为它在用户上的曝光量之和时，每个用户的最佳排名变得耦合，这使得优化过程具有挑战性。找到这些排名的现有方法或者解决批处理设置中的全局优化问题，即，这使得它们不适用于大规模，或者基于具有弱理论保证的物理学。在本文中，我们提出了第一个有效的在线算法，以优化凹目标函数的空间中的排名，适用于每一个凹和光滑的目标函数，如发现公平的曝光。基于Frank-Wolfe算法的在线变体，我们证明了我们的算法计算速度快，实时生成排名，计算成本由排序操作主导，内存效率高，并且具有很强的理论保证。与只最大化用户端性能的基线策略相比，我们的算法允许将复杂的公平性暴露标准与可忽略不计的计算开销的建议。
2022-09-13 cs.AI cs.CY cs.IR
Online Learning Demands in Max-min Fairness
University of California, Berkeley（加州大学伯克利分校）
我们描述了一种机制，在多个用户之间的稀缺资源的分配方式，是有效的，公平的，和策略证明，但当用户不知道他们的资源需求。该机制在多轮中重复，并且用户的要求可以在每轮中改变。在每一轮结束时，用户提供关于他们收到的分配的反馈，使该机制能够随着时间的推移学习用户的偏好。这种情况在组织中的许多用户之间共享使用计算集群时很常见，其中所有团队可能都不精确地知道执行其工作所需的资源量。通过低估他们的需求，用户将收到比他们需要的少，从而无法实现他们的目标。通过夸大他们，他们可能会吸走宝贵的资源，这些资源可能对组织中的其他人有用。我们正式这个任务的在线学习公平分工，通过效率，公平性和战略的证明适用于这种设置的概念，并研究这个问题下三种类型的反馈：当用户的意见是确定性的，当他们是随机的，并遵循参数模型，当他们是随机的和非参数。我们从经典的最大-最小的公平程序，实现这些不公平的启发机制，并量化的程度，他们通过渐近速率实现。我们证实了这些见解与合成问题和网络服务任务的实验评估。
2020-12-15 cs.AI cs.LG stat.ML
Enhancing Group Fairness in Online Settings Using Oblique Decision Forests
UNC Chapel Hill（北卡罗来纳大学教堂山分校）；Google Research（谷歌研究院）；Google DeepMind（谷歌DeepMind）
提出斜决策树集成Aranyani，利用层次化树结构和参数隔离高效计算公平性梯度，在在线环境中无需额外存储和前向/反向传播即可提升群体公平性，并在5个基准上取得更优的准确性与公平性权衡。
2024-04-28 cs.LG
Online and Customizable Fairness-aware Learning
Florida International University（佛罗里达国际大学）
针对流式数据非平稳分布与偏差演变下的公平决策难题，提出含两种公平分裂准则与两种在线生长算法的新型在线决策树公平框架，实现公平性与预测性能的更优权衡。
2025-08-03 cs.AI cs.LG
Time Fairness in Online Knapsack Problems
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；University of Waterloo（滑铁卢大学）；York University（约克大学）
该研究针对在线背包问题现有最优竞争算法存在的不公平问题，提出时间公平概念，设计参数化确定性算法并开发近乎最优的学习增强算法，实现公平性与竞争性的更好权衡，数值实验性能提升显著。
2024-04-17 cs.CY cs.DS cs.LG
Fairness of Exposure in Online Restless Multi-armed Bandits
Indian Institute of Technology Ropar（印度罗帕尔理工学院）；International Institute of Information Technology Hyderabad（海得拉巴国际信息技术学院）
提出首个在线非平稳多臂老虎机公平框架，按臂价值比例分配拉取次数，实现亚线性公平遗憾并验证多拉取场景有效性。
2024-02-09 cs.LG stat.ML
Seller-side Outcome Fairness in Online Marketplaces
University of Washington（华盛顿大学）；Walmart Global Tech（沃尔玛全球技术）
针对电商平台卖家曝光不均问题，本文定义卖方结果公平性，构建奖励与公平平衡优化模型，并提出基于对偶和 bandit 理论的梯度数据驱动算法，在真实数据上提升公平性且不损害 GMV 与购买量。
2023-12-06 cs.LG math.OC
Online Multi-Class Selection with Group Fairness Guarantee
University of Alberta（阿尔伯塔大学）；University of Ottawa（渥太华大学）；Vector Institute（向量研究所）
本文提出一种基于松弛与舍入框架的随机化算法，并引入无损舍入方案与预留机制，解决在线多类选择中的群体公平问题，同时提出学习增强变体以平衡公平与效率。
2025-10-23 cs.DS cs.LG
Towards Reducing Biases in Combining Multiple Experts Online
MIT（麻省理工学院）；Univ. Rey Juan Carlos（胡安卡洛斯国王大学）
在许多现实生活中，包括工作和贷款申请，看门人必须对一个人是否适合某个特定的机会做出合理和公平的实时决定。在本文中，我们的目标是在一个在线随机决策过程中实现近似的群体公平性，我们考虑的公平性度量是均衡的赔率。我们的工作遵循经典的从专家学习方案，假设一组有限的分类器（人类专家，规则，选项等），不能修改。我们为每个标签类别以及敏感组运行算法的单独实例，其中选择每个实例的概率针对公平性和遗憾性进行了优化。我们的理论结果表明，近似相等的赔率可以实现，而不会牺牲太多的遗憾。我们还证明了该算法的性能通常使用的公平性社区的真实数据集。
2021-05-24 cs.LG stat.ML
Fairness-Aware Multi-Group Target Detection in Online Discussion
Dept. of Computer Science, The University of Texas at Austin（德克萨斯大学奥斯汀分校计算机科学系）；Department of Data, Analytics, Technology, and Artificial Intelligence, ESADE（ESADE大学数据、分析、技术和人工智能系）；The Information School, The University of Texas at Austin（德克萨斯大学奥斯汀分校信息学院）
本文研究了在线讨论中目标群体检测的公平性影响，提出了一种公平性意识的多群体目标检测方法，减少了群体间的偏见并提升了预测性能。
2026-06-18 cs.LG
Achieving Counterfactual Fairness for Causal Bandit
University of Arkansas（阿肯色大学）
在在线推荐中，客户从底层分布以顺序和随机的方式到达，并且在线决策模型基于某种策略为每个到达的个体推荐所选物品。我们研究如何在每一步推荐一个项目，以最大化预期回报，同时实现用户端公平的客户，即，共享相似简档的客户将接收相似的奖励，而不管他们的敏感属性和被推荐的项目。通过将因果推理纳入土匪和采用软干预来模拟手臂选择策略，我们首先提出了基于d-分离的UCB算法（D-UCB），以探索利用d-分离集来减少所需的探索量，以实现低累积遗憾。在此基础上，我们提出了公平因果强盗（F-UCB）实现反事实的个人公平。理论分析和实验验证了算法的有效性。
2021-09-21 cs.AI cs.CY cs.LG
Avoiding Structural Failure Modes in Tabular Fair SSL: Online Primal-Dual Allocation under Confidence Gating
College of Computer Science and Technology, Jilin University, China（吉林大学计算机科学与技术学院）；Key Laboratory of Symbolic Computation and Knowledge Engineering of the Ministry of Education, Jilin University, China（教育部符号计算与知识工程重点实验室）
针对表格公平半监督学习中的结构冲突，提出在线原始-对偶分配（OPDA）方法，通过动态调度公平性和熵稳定性惩罚，避免掩码崩溃和平凡饱和两种失效模式，在多个基准上实现非退化运行点。
2026-06-01 cs.AI cs.LG
FAHT: An Adaptive Fairness-aware Decision Tree Classifier
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；Leibniz University Hannover（汉诺威莱布尼茨大学）
自动化数据驱动的决策系统在广泛的在线和离线服务中无处不在。这些系统依赖于复杂的学习算法和可用的数据来优化决策支持辅助的服务功能。然而，人们越来越关注所采用模型的问责制和公平性，因为现有的历史数据往往具有本质上的歧视性，即，当得到正分类时，共享一个或多个敏感属性的成员的比例高于总体中的比例，这导致决策支持系统缺乏公平性。已经提出了一些公平意识的学习方法来处理这个问题。然而，这些方法将公平性作为静态问题来处理，并且不考虑底层流种群的演化。在本文中，我们引入了一个学习机制，设计一个公平的分类器在线流基于决策。我们的学习模型，FAHT（公平意识Hoeffding树），是一个著名的Hoeffding树算法的决策树感应流，也占公平的扩展。我们的实验表明，我们的算法是能够处理歧视在流媒体环境中，同时保持适度的预测性能的流。
2019-07-16 cs.AI cs.LG stat.ML
Online Restless Multi-Armed Bandits with Long-Term Fairness Constraints
Stony Brook University（石溪大学）
针对多臂赌博机缺乏公平性问题，提出RMAB-F模型与Fair-UCRL算法，在未知MDP下实现长期公平约束，并证明遗憾次线性界，计算高效且实验有效。
2023-12-22 cs.LG
Benefits of Online Tilted Empirical Risk Minimization: A Case Study of Outlier Detection and Robust Regression
MLIP Research Group, KUIS AI Center \& Department of EEE, Koç University İstanbul, Turkey
本文提出一种在线倾斜经验风险最小化方法，通过去除经典目标中的对数项保留倾斜效应，以与ERM相当的单样本计算成本在流式学习中同时实现异常值鲁棒性与少数类公平性。
2025-09-18 cs.LG stat.ML
Regularized Online Allocation Problems: Fairness and Beyond
Columbia Business School（哥伦比亚大学商学院）；Google Research（谷歌研究院）；University of Chicago Booth School of Business（芝加哥大学布斯商学院）；Google（谷歌）
具有资源约束的在线分配问题在运筹学中有着丰富的历史。在本文中，我们介绍了\emph{regularized online allocation problem}，一个变种，其中包括一个非线性正则化的总资源消耗。在这个问题中，请求会随着时间的推移重复到达，对于每个请求，决策者需要采取一个产生奖励并消耗资源的行动。我们的目标是同时最大化可加可分的回报和一个不可分的正则化的资源约束下的价值。我们的主要动机是允许决策者权衡可分离的目标，如分配的经济效率与辅助，不可分离的目标，如分配的公平或公正。我们设计了一个简单、快速的算法，并且在随机i.i.d.~和对抗性输入。特别是，我们的算法是渐近最优下随机i.i.d.当输入是对抗性的时，输入建模并获得取决于正则化器的固定竞争比。此外，该算法和分析不需要报酬函数和消费函数的凸性或凸性，这允许更大的模型灵活性。数值实验证实了所提出的算法和正则化在互联网广告应用中的有效性。
2021-11-05 cs.LG math.OC
Preventing Discriminatory Decision-making in Evolving Data Streams
Michigan Technological University（密歇根理工大学）；University of Southern California（南加州大学）；Columbia University（哥伦比亚大学）；Dalhousie University（达尔豪斯大学）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；University of Waikato（怀卡托大学）
在过去的十年里，机器学习中的偏见理所当然地受到了极大的关注。然而，大多数公平机器学习（fair-ML）解决决策系统中的偏见的工作仅仅集中在离线设置上。尽管在线系统在现实世界中广泛流行，但在识别和纠正在线设置中的偏见方面的工作严重缺乏。在线环境的独特挑战使得解决偏见比离线环境更困难。首先，流机器学习（SML）算法必须处理不断变化的实时数据流。其次，他们需要适应不断变化的数据分布（概念漂移），以便对新传入的数据做出准确的预测。在这个已经很复杂的任务中增加公平性约束并不简单。在这项工作中，我们专注于在有偏见的数据流中实现公平性的挑战，同时考虑到概念漂移的存在，每次访问一个样本。我们提出了流公平采样（$FS^2$），一种新的公平再平衡方法，能够与SML分类算法集成。此外，我们设计了第一个统一的性能公平性度量，公平性绑定效用（FBU），有效地评估和比较性能和公平性之间的权衡不同的偏见缓解方法。FBU通过一个统一和直观的评估简化了多种技术的公平性-性能权衡的比较，使模型设计者能够轻松地选择一种技术。总体而言，广泛的评估表明，我们的措施超过了其他公平的在线技术，以前在文献中报道。
2023-02-16 cs.AI cs.LG
Fair Online Resource Allocation
Columbia University, IEOR Department（哥伦比亚大学工业工程与运营研究系）；Cornell Tech（康奈尔科技学院）；Universidad de Chile（智利大学）
研究在线资源分配中的公平性问题，提出基于对偶镜像下降的算法，在批次内强制执行公平约束，实现亚线性遗憾，并通过难民数据验证了福利与公平的权衡。
2026-06-19 cs.DS cs.GT cs.LG
Trading-off price for data quality to achieve fair online allocation
Inria（法国国家信息与自动化研究所）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）；CREST（经济与统计研究中心）；ENSAE（法国国家统计与经济管理学院）；Criteo AI Lab（Criteo人工智能实验室）
本文研究无法直接观测受保护属性时的公平在线分配问题，将其建模为数据源选择的多臂老虎机与分配问题的耦合，并提出联合算法，实现 $\mathcal{O}(\sqrt{T})$ 遗憾界并支持多种公平性定义。
2023-12-04 cs.LG
FARF: A Fair and Adaptive Random Forests Classifier
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；University of Waikato（怀卡托大学）；Télécom Paris, Institut Polytechnique de Paris（巴黎高等电信学院，巴黎综合理工学院）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Carnegie Mellon University（卡内基梅隆大学）；L3S Research Center（L3S研究中心）；Leibniz University Hannover（莱布尼茨汉诺威大学）
随着人工智能（AI）在更多应用中的使用，需要考虑和减轻学习模型的偏差。大多数开发公平学习算法的工作都集中在离线设置上。然而，在许多现实世界的应用程序中，数据以在线方式出现，需要在运行中处理。此外，在实际应用中，需要考虑准确性和公平性之间的权衡，但目前的方法通常具有多个具有非平凡相互作用的超参数以实现公平性。在本文中，我们提出了一个灵活的集成算法，公平的决策，在更具有挑战性的背景下不断发展的在线设置。该算法被称为FARF（公平和自适应随机森林），基于使用在线组件分类器并根据当前分布更新它们，这也考虑了公平性和改变公平性-准确性平衡的单个超参数。在真实数据流上的实验证明了FARF的实用性。
2021-08-21 cs.AI cs.LG
DECAF: Learning to be Fair in Multi-agent Resource Allocation
Washington University in St Louis（圣路易斯华盛顿大学）
本文提出DECAF方法，将资源分配问题形式化为DECA问题，并基于双重深度Q学习设计三种策略，在多智能体资源分配中实现公平与效用的灵活在线权衡，优于现有公平MARL方法。
2025-02-06 cs.CY cs.LG cs.MA
Online Fair Division with Budget Constraints
University of Oxford（牛津大学）
研究广义分配预算约束下离散公平分配的在线变体，确定有界密度扩展条件并获近似算法，研究资源增强及刻画保证改进，还开发学习增强框架，证明其性质及单独预测边际的不足。
2026-07-28 cs.AI cs.GT cs.LG
Fairness via AI: Bias Reduction in Medical Information
University of Connecticut（康涅狄格大学）；AuCoDe；Universidade Federal de Minas Gerais（米纳斯吉拉斯联邦大学）；Meedan；University of Washington School of Medicine（华盛顿大学医学院）；Michigan State University College of Human Medicine（密歇根州立大学人类医学院）
人工智能研究中的大多数公平性都集中在揭露人工智能系统中的偏见。从更广泛的公平角度来看，人工智能可以服务于一个更大的愿望：从源头上根除社会不平等。具体来说，我们专注于健康信息的不平等，并旨在使用AI减少该领域的偏见。搜索引擎和社交媒体的人工智能算法（其中许多基于推荐系统）对在线医疗和健康信息的质量产生了巨大的影响。因此，将偏见检测和减少嵌入到这些在线提供医疗和健康内容的推荐系统中，可能会对患者的结果和健康产生巨大的积极影响。在这份立场文件中，我们提供了以下贡献：（1）我们提出了一个通过人工智能实现公平的新框架，灵感来自医学教育，社会学和反种族主义的见解;（2）我们定义了一个新术语，bisinformation，它与错误信息有关，但又与之不同，并鼓励研究人员研究它;（3）我们建议使用人工智能来研究，检测和减轻有偏见的，有害的和/或虚假的健康信息，这些信息对社会中的少数群体造成了不成比例的伤害;（4）我们提出了几个支柱，并提出了几个悬而未决的问题，以便在这个新的空间中进行调查。虽然这项工作的第（3）部分特别关注健康领域，但基本的计算机科学进步和通过人工智能减少偏见和公平的研究工作所产生的贡献在社会的各个领域都有广泛的影响。
2021-09-06 cs.AI cs.CY cs.IR
Interpolating Item and User Fairness in Multi-Sided Recommendations
Massachusetts Institute of Technology（麻省理工学院）；IBM Research（IBM研究院）
本文提出公平推荐框架FAIR及低遗憾算法FORM，通过约束优化平衡平台、物品和用户利益，在动态在线环境中实现实时学习与公平推荐，兼顾收入与公平。
2024-05-25 cs.CY cs.GT cs.IR
Long-Term Fairness with Unknown Dynamics
University of Michigan（密歇根大学）；University of California, Santa Cruz（加利福尼亚大学圣克鲁兹分校）
本文在在线强化学习框架下形式化长期公平性，提出一种通过牺牲短期激励来适应未知动态的算法，并证明其在累积损失和公平性违反上具有概率保证，实验结合演化博弈论与真实数据验证了方法的有效性。
2023-06-07 cs.LG
An Effective, Robust and Fairness-aware Hate Speech Detection Framework
Worcester Polytechnic Institute（伍斯特理工学院）
针对仇恨言论检测中数据不足、不确定性、鲁棒性和公平性等局限，提出结合数据增强、公平性处理与不确定性估计的新框架，采用 Bidirectional Quaternion-Quasi-LSTM 层并融合多平台数据集，在多种攻击场景下优于八种基线方法。
2024-09-25 cs.CL cs.LG
Learning for Counterfactual Fairness from Observational Data
University of Virginia（弗吉尼亚大学）；Bytedance Research（字节跳动研究院）
针对因果模型未知导致反事实公平预测困难的问题，本文提出 CLAIRE 框架，利用反事实数据增强与不变惩罚进行表示学习，在合成及真实数据上提升公平性与预测效果。
2023-07-17 cs.CY cs.LG stat.ML
Fairness Vs. Personalization: Towards Equity in Epistemic Utility
UC San Diego（加州大学圣迭戈分校）
本文揭示个性化推荐与常规公平性实现之间的内在冲突，提出以公平（equity）作为认知效用下的替代方案，并给出目标映射与利益相关者政策建议。
2023-09-05 cs.IR cs.LG
Face4FairShifts: A Large Image Benchmark for Fairness and Robust Learning across Visual Domains
School of New Media and Communication, Tianjin University（天津大学新媒体与传播学院）；Department of Computer Science, Baylor University（贝勒大学计算机科学系）；Electrical Engineering and Computer Science Department, University of Arkansas（阿肯色大学电子工程与计算机科学系）；NEC Laboratories America（NEC美国实验室）；School of Computing, Southern Illinois University（南伊利诺伊大学计算机学院）
针对域偏移下机器学习模型公平性与鲁棒性不足的问题，研究团队推出含10万张图像、覆盖4个视觉域的大规模人脸基准Face4FairShifts，经实验验证现有方法存在性能差距，为公平可靠AI研发提供测试平台。
2025-08-31 cs.CV cs.CY cs.LG
From Fairness to Infinity: Outcome-Indistinguishable (Omni)Prediction in Evolving Graphs
Harvard（哈佛大学）；MIT（麻省理工学院）；Microsoft Research（微软研究院）
该研究针对职业网络演化图的边形成预测问题，提出结合改进在线K29星算法与再生核希尔伯特空间理论的在线算法，实现结果不可区分性和全预测性，可优化社会福利函数损失并支持多校准预测。
2024-11-26 cs.CY cs.LG cs.SI
Fairness-Aware Ranking in Search & Recommendation Systems with Application to LinkedIn Talent Search
LinkedIn Corporation（领英公司）
我们提出了一个框架，用于量化和减轻算法偏见的机制，设计用于排名的个人，通常用作网络规模的搜索和推荐系统的一部分。我们首先提出了补充措施，以量化偏见方面的保护属性，如性别和年龄。然后，我们提出了算法计算公平意识的重新排名的结果。对于一个给定的搜索或推荐任务，我们的算法寻求实现一个期望的分布排名靠前的结果相对于一个或多个受保护的属性。我们表明，这样的框架可以量身定制，以实现公平的标准，如机会均等和人口均等取决于所需的分配的选择。我们评估所提出的算法，通过广泛的模拟在不同的参数选择，并研究了公平意识排名的偏见和效用的措施。最后，我们提出了在线A/B测试结果，从应用我们的框架对LinkedIn人才搜索的代表性排名，并讨论在实践中吸取的教训。我们的方法在不影响业务指标的情况下，极大地改善了公平性指标（具有代表性结果的搜索查询数量增加了近三倍），这为全球100%的LinkedIn Recruiter用户部署铺平了道路。我们是第一个大规模部署的框架，用于确保招聘领域的公平性，对超过6.3亿LinkedIn会员产生了潜在的积极影响。
2019-07-24 cs.IR cs.LG
Individual Fairness in Advertising Auctions through Inverse Proportionality
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of California, Berkeley（加利福尼亚大学伯克利分校）
最近的实证研究表明，即使所有广告商都以非歧视性的方式出价，在线广告也会在用户之间的广告投放中表现出偏见。我们研究广告拍卖的设计，给出公平的出价，保证产生公平的结果。根据Dwork和Ilvento（2019）和Chawla等人（2020）的工作，我们的目标是设计一个真实的拍卖，在其结果中满足“个人公平性”：非正式地说，彼此相似的用户应该获得相似的广告分配。在这个框架内，我们量化的权衡之间的社会福利最大化和公平。这项工作作出了两个概念上的贡献。首先，我们表达的公平性约束作为一种稳定性条件：任何两个用户分配乘法相似的值由所有的广告客户必须获得添加相似的分配每个广告客户。该值稳定性约束被表达为将值向量之间的乘法距离映射到对应分配之间的最大允许$\ell_{\infty}$距离的函数。标准拍卖并不满足这种价值稳定性。其次，我们引入了一类新的分配算法，称为反比例分配，实现公平和社会福利之间的一个广泛的和表达类的价值稳定性条件的接近最优的权衡。这些分配算法是真实的和先验自由的，并实现一个常数因子近似的最佳（无约束）社会福利。特别地，近似比与系统中的广告商的数量无关。在这方面，这些分配算法大大超过了以前的工作中取得的保证。我们还将我们的结果扩展到更广泛的公平概念，我们称之为子集公平。
2021-12-01 cs.GT cs.LG
Decoding Demographic un-fairness from Indian Names
Indian Institute of Technology（印度理工学院）
人口统计分类在推荐系统的公平性评估或在线网络和投票系统中的非故意偏见测量中至关重要。教育和政治等重要领域往往为社会平等的未来奠定基础，需要仔细审查，以制定政策，更好地促进受国内人口分布不平衡制约的资源分配平等。我们收集了三个公开的数据集，训练国家的最先进的分类器在性别和种姓分类领域。我们在印度上下文中训练模型，在印度，相同的名字可以有不同的样式约定（Jolly Abraham/Kumar Abhishikta在一个州可能被写为Abraham Jolly/Abishikta Kumar）。最后，我们还进行了交叉测试（在不同数据集上进行训练和测试），以了解上述模型的有效性。我们还对预测模型进行了误差分析。最后，我们试图评估现有的印度系统的偏见作为案例研究，并发现一些有趣的模式，表现在复杂的人口布局的次大陆在性别和种姓的尺寸。
2022-09-07 cs.CL cs.CY cs.DL
