Fair Few-shot Learning with Auxiliary Sets
University of Virginia（弗吉尼亚大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
针对少样本场景下公平性难以优化的问题，提出带辅助集的元学习框架，通过跨任务积累公平知识并借助辅助集迁移知识，在三个真实数据集上优于现有基线。
2023-08-28 cs.AI cs.LG
Fairness-Aware Few-Shot Learning for Audio-Visual Stress Detection
针对AI压力检测在数据稀缺场景下的性别偏见问题，提出公平感知元学习框架FairM2S，通过元训练和适应阶段的等化赔率约束等缓解偏见，在提升准确率的同时降低公平性差距，并发布SAVSD数据集支持相关研究。
2025-11-12 cs.CY cs.HC cs.LG
Towards Accuracy-Fairness Paradox: Adversarial Example-based Data Augmentation for Visual Debiasing
Beijing Jiaotong University（北京交通大学）；Peng Cheng Laboratory（鹏城实验室）
机器学习公平性关注的是在处理目标任务时对某些受保护或敏感人群的偏见。本文研究了图像分类任务背景下的去偏问题。我们对面部属性识别的数据分析表明：（1）来自不平衡的训练数据分布的模型偏差的属性和（2）对抗性示例在平衡数据分布方面的潜力。因此，我们有动机采用对抗性的例子来增加训练数据的视觉去偏。具体来说，为了确保对抗性泛化以及跨任务可移植性，我们建议将目标任务分类器训练，偏见任务分类器训练和对抗性示例生成的操作耦合起来。生成的对抗性示例通过在线平衡偏差变量的分布来补充目标任务训练数据集。仿真和真实世界的去偏实验结果表明，该解决方案的有效性，同时提高模型的准确性和公平性。初步实验进一步表明，基于对抗攻击的伪样本生成作为替代解决方案，以弥补训练数据不足的潜力。
2020-08-13 cs.CV cs.LG
Online Learning with an Unknown Fairness Metric
University of Pennsylvania（宾夕法尼亚大学）
我们考虑的问题，在线学习在线性上下文的强盗设置，但其中也有强大的个人公平约束由一个未知的相似性度量。这些约束要求我们以近似相等的概率（arXiv：1104.3913）选择类似的行为或个体，这可能与优化奖励不一致，因此建模了利润和社会政策处于紧张状态的设置。我们假设我们了解一个未知的Mahalanobis相似性度量，只有弱反馈，确定违反公平性，但不量化其程度。这是为了代表一个监管者的干预，他“看到不公平就知道”，但却不能对个人阐明一个量化的公平度量。我们的主要结果是一个算法在对抗性的上下文中设置，有一些公平的违规行为，只依赖于数学上$T$，同时获得最佳的$O(\sqrt{T})$遗憾绑定到最好的公平政策。
2018-09-18 cs.LG
FORML: Learning to Reweight Data for Fairness
Stanford University（斯坦福大学）；Apple（苹果公司）
机器学习模型被训练为最小化单个度量的平均损失，因此通常不考虑公平性和鲁棒性。在训练中忽略这些指标会使这些模型在训练数据不平衡或测试分布不同时容易违反公平性。这项工作介绍了公平优化的重新加权通过元学习（FORML），训练算法，平衡公平性和鲁棒性与准确性，通过联合学习训练样本权重和神经网络参数。该方法增加了模型的公平性，通过学习，以平衡来自过度和代表性不足的子组的贡献，通过动态重新加权的数据从用户指定的保持了一组代表的分布下，公平性是期望的。FORML改进了图像分类任务的机会公平性标准，减少了损坏标签的偏差，并通过数据压缩促进了构建更公平的数据集。这些改进是在没有预处理数据或后处理模型输出的情况下实现的，不需要学习额外的加权函数，不需要改变模型架构，并且同时保持原始预测度量的准确性。
2022-07-20 cs.CV cs.LG
Enhancing Group Fairness in Online Settings Using Oblique Decision Forests
UNC Chapel Hill（北卡罗来纳大学教堂山分校）；Google Research（谷歌研究院）；Google DeepMind（谷歌DeepMind）
提出斜决策树集成Aranyani，利用层次化树结构和参数隔离高效计算公平性梯度，在在线环境中无需额外存储和前向/反向传播即可提升群体公平性，并在5个基准上取得更优的准确性与公平性权衡。
2024-04-28 cs.LG
Fairness Warnings and Fair-MAML: Learning Fairly with Minimal Data
University of California, Irvine（加州大学欧文分校）；Haverford College（哈弗福德学院）
出于对共享和传输公平机器学习工具的公平性影响的关注，我们提出了两种算法：公平性验证和公平MAML。第一种是模型不可知的算法，它提供了可解释的边界条件，当一个经过良好训练的模型在给定域中的类似但略有不同的任务上可能表现不佳时。第二个是一个公平的元学习方法来训练模型，可以快速微调到特定的任务，从只有少数样本实例，同时平衡公平性和准确性。我们使用相关基线通过实验证明了每个模型的个体效用，并提供了我们对K-shot公平性知识的第一个实验，即在只有K个数据点的新任务上训练公平模型。然后，我们说明了这两种算法作为一种组合方法的有用性，用于从新任务的几个数据点训练模型，同时使用公平性检验作为可解释的边界条件，在这种条件下，新训练的模型可能不公平。
2019-12-05 cs.LG stat.ML
Fairness-Aware Multi-Group Target Detection in Online Discussion
Dept. of Computer Science, The University of Texas at Austin（德克萨斯大学奥斯汀分校计算机科学系）；Department of Data, Analytics, Technology, and Artificial Intelligence, ESADE（ESADE大学数据、分析、技术和人工智能系）；The Information School, The University of Texas at Austin（德克萨斯大学奥斯汀分校信息学院）
本文研究了在线讨论中目标群体检测的公平性影响，提出了一种公平性意识的多群体目标检测方法，减少了群体间的偏见并提升了预测性能。
2026-06-18 cs.LG
Metric-Free Individual Fairness in Online Learning
The Hebrew University（希伯来大学）；University of Pennsylvania（宾夕法尼亚大学）；Carnegie Mellon University（卡内基梅隆大学）
我们研究了一个受个体公平约束的在线学习问题，该问题要求相似的个体得到相似的对待。与以前的工作对个人的公平性，我们不假设个人之间的相似性度量是已知的，也不假设这种措施采取一定的参数形式。相反，我们利用审计师的存在来检测违反公平性的行为，而不阐明量化措施。在每一轮中，审核员检查学习者的决定，并试图识别出被学习者不公平对待的两个人。我们提供了一个通用的减少框架，减少我们的模型中的在线分类标准的在线分类，这使我们能够利用现有的在线学习算法，以实现次线性的遗憾和违反公平的数量。令人惊讶的是，在数据独立于分布的随机设置中，我们也能够建立PAC风格的公平性和准确性泛化保证（Rothblum和Yona [2018]），尽管只能获得非常有限形式的公平性反馈。我们的公平性推广界定性地匹配Rothblum和Yona [2018]的一致收敛界，同时也提供了有意义的准确性推广保证。我们的研究结果解决了Gillen等人的一个悬而未决的问题。[2018]通过表明，即使不假设底层相似性度量的强参数形式，在未知的个人公平性约束下的在线学习也是可能的。
2022-04-23 cs.LG stat.ML
Secure and Confidential Certificates of Online Fairness
University of Toronto（多伦多大学）；Vector Institute（向量研究院）；Brave Software（Brave软件公司）；University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）；Imperial College London（伦敦帝国理工学院）
针对现有公平性认证缺乏可靠性与可扩展性的问题，本文提出在线公平性证书及零知识证明协议OATH，以保密方式验证模型对在线数据的群体公平性。
2025-10-27 cs.CY cs.LG
Fairness-Regularized Online Optimization with Switching Costs
School of Information（信息学院）；Rochester Institute of Technology（罗切斯特技术学院）；Electrical and Computer Engineering（电气与计算机工程）；University of California, Riverside（加州大学河滨分校）；Computing & Mathematical Sciences（计算与数学科学）；California Institute of Technology（加州理工学院）
本文提出FairOBD算法，通过引入辅助变量将长期公平性成本分解为在线成本，有效减少公平性正则化成本并促进公平结果。
2025-12-11 cs.AI cs.LG
Online Restless Multi-Armed Bandits with Long-Term Fairness Constraints
Stony Brook University（石溪大学）
针对多臂赌博机缺乏公平性问题，提出RMAB-F模型与Fair-UCRL算法，在未知MDP下实现长期公平约束，并证明遗憾次线性界，计算高效且实验有效。
2023-12-22 cs.LG
Long-term Fairness For Real-time Decision Making: A Constrained Online Optimization Approach
针对实时决策中时变公平性约束的挑战，本文提出受约束的在线优化框架及新型算法LoTFair，在保证长期性能的同时使整体公平性违规可忽略不计。
2024-01-04 cs.CY cs.LG
Seller-side Outcome Fairness in Online Marketplaces
University of Washington（华盛顿大学）；Walmart Global Tech（沃尔玛全球技术）
针对电商平台卖家曝光不均问题，本文定义卖方结果公平性，构建奖励与公平平衡优化模型，并提出基于对偶和 bandit 理论的梯度数据驱动算法，在真实数据上提升公平性且不损害 GMV 与购买量。
2023-12-06 cs.LG math.OC
Online Fairness-Aware Learning with Imbalanced Data Streams
L3S Research Center（L3S研究中心）；Leibniz University of Hannover（汉诺威莱布尼茨大学）；Carnegie Mellon University（卡内基梅隆大学）
数据驱动的学习算法在许多在线应用中被采用，其中数据随着时间的推移变得可用，如网络监控、股票价格预测、工作应用等。随着新实例的到来和旧实例的过时，底层数据分布可能会随着时间的推移而演变，从而需要模型自适应。在这种动态环境中，即所谓的数据流中，公平性感知学习不能被认为是一次性的要求，而是应该包括对数据流的持续要求。最近的公平感知流分类器忽略了类不平衡的问题，这体现在许多现实生活中的应用，并减轻歧视，主要是因为他们“拒绝”少数情况下，由于他们无法有效地学习所有类。在这项工作中，我们提出了\ours，一个在线的公平意识的方法，保持一个有效的和公平的流分类。\ours ~是一种在线提升方法，通过监控流的类别不平衡并调整其决策边界以减轻流上的歧视性结果，以在线方式改变训练分布。在8个真实世界和1个来自不同领域的具有不同类别不平衡的合成数据集上的实验表明，我们的方法优于最先进的公平感知流方法，平衡准确率（相对）提高[11.2%~ 14.2%]，gmean（相对）提高[22.6%~ 31.8%]，回忆率（相对）提高[42.5%~ 49.6%]，Kappa值为14.3%~ 25.7%，统计公平性为89.4%~ 96.6%。
2021-08-13 cs.AI cs.LG
Online Multi-Class Selection with Group Fairness Guarantee
University of Alberta（阿尔伯塔大学）；University of Ottawa（渥太华大学）；Vector Institute（向量研究所）
本文提出一种基于松弛与舍入框架的随机化算法，并引入无损舍入方案与预留机制，解决在线多类选择中的群体公平问题，同时提出学习增强变体以平衡公平与效率。
2025-10-23 cs.DS cs.LG
Online Learning with Multiple Fairness Regularizers via Graph-Structured Feedback
Department of Mathematics, National University of Singapore（新加坡国立大学数学系）；Department of Computer Science, Czech Technical University（捷克技术大学计算机科学系）；Dyson School of Design Engineering, Imperial College London（伦敦帝国理工学院设计工程戴森学院）；Imperial College London（伦敦帝国理工学院）
本文针对在线决策中多重公平约束的权重自适应问题，提出了一种基于图结构反馈的赌博机算法，能够在不预先知道权重的情况下在线学习并平衡多个公平性目标。
2026-05-22 cs.AI cs.LG
Fairness-aware Online Price Discrimination with Nonparametric Demand Models
Leonard N. Stern School of Business, New York University（纽约大学莱昂纳德·N·斯特恩商学院）；Department of Mathematical Sciences, Tsinghua University（清华大学数学科学系）；Department of Industrial and Enterprise Systems Engineering, University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校工业与企业系统工程系）
本文研究公平性约束下的动态差别定价问题，提出严格价格公平和软公平约束下的动态定价策略，证明最优遗憾为 $\tilde{O}(T^{4/5})$，并扩展至多客户群体等一般场景。
2023-07-28 cs.LG stat.ML
COPF: An Online Framework for Deployment-Stable Counterfactual Fairness in Evolving Graphs
Shanghai Jiao Tong University（上海交通大学）
针对演化图上的在线链接推荐，提出COPF框架，通过反事实暴露机会差距、显式探索和残差不可区分性审计，实现部署稳定的公平性监控与控制。
2026-05-30 cs.AI cs.LG
Trading-off price for data quality to achieve fair online allocation
Inria（法国国家信息与自动化研究所）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）；CREST（经济与统计研究中心）；ENSAE（法国国家统计与经济管理学院）；Criteo AI Lab（Criteo人工智能实验室）
本文研究无法直接观测受保护属性时的公平在线分配问题，将其建模为数据源选择的多臂老虎机与分配问题的耦合，并提出联合算法，实现 $\mathcal{O}(\sqrt{T})$ 遗憾界并支持多种公平性定义。
2023-12-04 cs.LG
Online and Customizable Fairness-aware Learning
Florida International University（佛罗里达国际大学）
针对流式数据非平稳分布与偏差演变下的公平决策难题，提出含两种公平分裂准则与两种在线生长算法的新型在线决策树公平框架，实现公平性与预测性能的更优权衡。
2025-08-03 cs.AI cs.LG
Fairness of Exposure in Online Restless Multi-armed Bandits
Indian Institute of Technology Ropar（印度罗帕尔理工学院）；International Institute of Information Technology Hyderabad（海得拉巴国际信息技术学院）
提出首个在线非平稳多臂老虎机公平框架，按臂价值比例分配拉取次数，实现亚线性公平遗憾并验证多拉取场景有效性。
2024-02-09 cs.LG stat.ML
Calibrating Explore-Exploit Trade-off for Fair Online Learning to Rank
University of Virginia（弗吉尼亚大学）
在线学习排序（OL 2 R）由于其避免了离线监督排序模型学习中昂贵的相关性标注，近年来引起了广泛的研究兴趣。这样的解决方案探索未知数（例如，有意地在顶部位置上呈现所选择的结果）以改进其相关性估计。然而，这引发了对其排名公平性的关注：在OL 2 R过程中，不同类别的项目可能会受到不同的待遇。但是现有的公平排名解决方案通常需要事先了解结果相关性或执行排名器，这与OL 2 R的设置相矛盾，因此不能直接应用于保证公平性。在这项工作中，我们提出了一个通用的框架，以实现公平性定义的组曝光OL 2 R。其核心思想是校准公平控制，相关学习和在线排名质量的探索和开发。特别是，当模型正在探索一组相关反馈的结果时，我们将探索限制在随机排列的子集内，其中在反馈仍然是无偏的同时保持组间的公平性。从理论上证明了这种策略引入最小失真OL 2 R的遗憾，以获得公平。对两个公共学习排序基准数据集进行了广泛的实证分析，以证明所提出的解决方案与现有的公平OL 2 R解决方案相比的有效性。
2021-11-01 cs.IR cs.LG
Time Fairness in Online Knapsack Problems
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；University of Waterloo（滑铁卢大学）；York University（约克大学）
该研究针对在线背包问题现有最优竞争算法存在的不公平问题，提出时间公平概念，设计参数化确定性算法并开发近乎最优的学习增强算法，实现公平性与竞争性的更好权衡，数值实验性能提升显著。
2024-04-17 cs.CY cs.DS cs.LG
Towards Reducing Biases in Combining Multiple Experts Online
MIT（麻省理工学院）；Univ. Rey Juan Carlos（胡安卡洛斯国王大学）
在许多现实生活中，包括工作和贷款申请，看门人必须对一个人是否适合某个特定的机会做出合理和公平的实时决定。在本文中，我们的目标是在一个在线随机决策过程中实现近似的群体公平性，我们考虑的公平性度量是均衡的赔率。我们的工作遵循经典的从专家学习方案，假设一组有限的分类器（人类专家，规则，选项等），不能修改。我们为每个标签类别以及敏感组运行算法的单独实例，其中选择每个实例的概率针对公平性和遗憾性进行了优化。我们的理论结果表明，近似相等的赔率可以实现，而不会牺牲太多的遗憾。我们还证明了该算法的性能通常使用的公平性社区的真实数据集。
2021-05-24 cs.LG stat.ML
Avoiding Structural Failure Modes in Tabular Fair SSL: Online Primal-Dual Allocation under Confidence Gating
College of Computer Science and Technology, Jilin University, China（吉林大学计算机科学与技术学院）；Key Laboratory of Symbolic Computation and Knowledge Engineering of the Ministry of Education, Jilin University, China（教育部符号计算与知识工程重点实验室）
针对表格公平半监督学习中的结构冲突，提出在线原始-对偶分配（OPDA）方法，通过动态调度公平性和熵稳定性惩罚，避免掩码崩溃和平凡饱和两种失效模式，在多个基准上实现非退化运行点。
2026-06-01 cs.AI cs.LG
Online certification of preference-based fairness for personalized recommender systems
Meta AI
推荐系统正面临审查，因为它们对我们所能获得的机会的影响越来越大。目前对公平性的审计仅限于敏感群体级别的粗粒度奇偶性评估。我们建议审计无嫉妒性，这是一个与个人偏好相一致的更细粒度的标准：每个用户都应该喜欢他们的推荐。由于审计嫉妒需要估计用户的偏好超出他们现有的建议，我们投审计作为一个新的纯探索多武装土匪的问题。我们提出了一个样本效率的算法，理论上保证它不会恶化用户体验。我们还研究了在现实世界的推荐数据集上实现的权衡。
2023-03-06 cs.AI cs.CY cs.LG
Regularized Online Allocation Problems: Fairness and Beyond
Columbia Business School（哥伦比亚大学商学院）；Google Research（谷歌研究院）；University of Chicago Booth School of Business（芝加哥大学布斯商学院）；Google（谷歌）
具有资源约束的在线分配问题在运筹学中有着丰富的历史。在本文中，我们介绍了\emph{regularized online allocation problem}，一个变种，其中包括一个非线性正则化的总资源消耗。在这个问题中，请求会随着时间的推移重复到达，对于每个请求，决策者需要采取一个产生奖励并消耗资源的行动。我们的目标是同时最大化可加可分的回报和一个不可分的正则化的资源约束下的价值。我们的主要动机是允许决策者权衡可分离的目标，如分配的经济效率与辅助，不可分离的目标，如分配的公平或公正。我们设计了一个简单、快速的算法，并且在随机i.i.d.~和对抗性输入。特别是，我们的算法是渐近最优下随机i.i.d.当输入是对抗性的时，输入建模并获得取决于正则化器的固定竞争比。此外，该算法和分析不需要报酬函数和消费函数的凸性或凸性，这允许更大的模型灵活性。数值实验证实了所提出的算法和正则化在互联网广告应用中的有效性。
2021-11-05 cs.LG math.OC
Long-Term Fairness with Unknown Dynamics
University of Michigan（密歇根大学）；University of California, Santa Cruz（加利福尼亚大学圣克鲁兹分校）
本文在在线强化学习框架下形式化长期公平性，提出一种通过牺牲短期激励来适应未知动态的算法，并证明其在累积损失和公平性违反上具有概率保证，实验结合演化博弈论与真实数据验证了方法的有效性。
2023-06-07 cs.LG
FairJob: A Real-World Dataset for Fairness in Online Systems
Criteo AI Lab（Criteo人工智能实验室）；Université Paris Dauphine-PSL（巴黎多芬大学-PSL大学）
本研究推出符合隐私规范的真实职位推荐公平性数据集FairJob，提出敏感属性代理方案与公平效用指标计算方法，实验验证了偏差缓解技术的公平性提升效果及效用权衡。
2024-11-01 cs.AI cs.CY cs.LG
Fairness-Aware Online Personalization
LinkedIn Corporation（领英公司）；Facebook（脸书）；Amazon AWS AI（亚马逊云科技人工智能）
在诸如贷款、招聘和大学招生等关键应用中，由于各种因素的共同作用，算法模型和技术的使用越来越多，这些因素包括无处不在的连接性，使用云计算收集、聚合和处理大量细粒度数据的能力，以及易于应用复杂的机器学习模型。通常，这些应用程序由搜索和推荐系统提供支持，而这些系统又利用个性化的排名算法。与此同时，人们越来越意识到使用这种数据驱动系统所带来的道德和法律挑战。来自不同学科的研究人员和从业者最近强调了这种系统歧视某些人群的可能性，这是由于用于学习其底层推荐模型的数据集存在偏见。我们提出了一个研究的公平性，在网上个性化设置涉及个人的排名。从一个公平的热启动机器学习模型开始，我们首先证明，如果用户在他/她的反应中有偏见，在线个性化可能会导致模型学习以不公平的方式行事。为此，我们构建了一个程式化的模型，用于生成具有潜在偏见的特征以及潜在偏见的标签的训练数据，并量化了当用户以偏见的方式响应时模型所学到的偏见程度，如在许多现实世界中的场景。然后，我们制定了公平约束下的个性化模型的学习问题，并提出了一个正则化的方法，以减轻偏见的机器学习。我们证明了我们的方法的有效性，通过广泛的模拟与不同的参数设置。代码：https://github.com/groshanlal/Fairness-Aware-Online-Personalization
2020-09-06 cs.AI cs.LG stat.ML
Fast online ranking with fairness of exposure
Meta AI
随着推荐系统在对在线内容进行分类和优先级排序方面变得越来越重要，它们对商品生产商的机会或收入产生了越来越大的影响。例如，他们会影响简历推荐给哪个招聘人员，或者音乐曲目、视频或新闻文章被曝光给谁和曝光多少。这就要求推荐方法不仅要最大化用户满意度，而且要考虑项目或项目组曝光的公平性。形式上，这样的建议通常是通过最大化随机排名空间中的凹目标函数来获得的。当一个项目的总曝光量被定义为它在用户上的曝光量之和时，每个用户的最佳排名变得耦合，这使得优化过程具有挑战性。找到这些排名的现有方法或者解决批处理设置中的全局优化问题，即，这使得它们不适用于大规模，或者基于具有弱理论保证的物理学。在本文中，我们提出了第一个有效的在线算法，以优化凹目标函数的空间中的排名，适用于每一个凹和光滑的目标函数，如发现公平的曝光。基于Frank-Wolfe算法的在线变体，我们证明了我们的算法计算速度快，实时生成排名，计算成本由排序操作主导，内存效率高，并且具有很强的理论保证。与只最大化用户端性能的基线策略相比，我们的算法允许将复杂的公平性暴露标准与可忽略不计的计算开销的建议。
2022-09-13 cs.AI cs.CY cs.IR
Fairness Uncertainty Quantification: How certain are you that the model is fair?
Halıcıoğlu Data Science Institute, University of California, San Diego（加州大学圣地亚哥分校哈利乔奥卢数据科学研究所）；University of California, Davis（加州大学戴维斯分校）
针对在线 SGD 训练的 DI/DM 公平感知线性二分类器，本文证明参数渐近正态并提出在线乘子自助置信区间，将在线自助一致性理论扩展至约束优化。
2023-04-27 cs.CY cs.LG stat.ML
Online Learning Demands in Max-min Fairness
University of California, Berkeley（加州大学伯克利分校）
我们描述了一种机制，在多个用户之间的稀缺资源的分配方式，是有效的，公平的，和策略证明，但当用户不知道他们的资源需求。该机制在多轮中重复，并且用户的要求可以在每轮中改变。在每一轮结束时，用户提供关于他们收到的分配的反馈，使该机制能够随着时间的推移学习用户的偏好。这种情况在组织中的许多用户之间共享使用计算集群时很常见，其中所有团队可能都不精确地知道执行其工作所需的资源量。通过低估他们的需求，用户将收到比他们需要的少，从而无法实现他们的目标。通过夸大他们，他们可能会吸走宝贵的资源，这些资源可能对组织中的其他人有用。我们正式这个任务的在线学习公平分工，通过效率，公平性和战略的证明适用于这种设置的概念，并研究这个问题下三种类型的反馈：当用户的意见是确定性的，当他们是随机的，并遵循参数模型，当他们是随机的和非参数。我们从经典的最大-最小的公平程序，实现这些不公平的启发机制，并量化的程度，他们通过渐近速率实现。我们证实了这些见解与合成问题和网络服务任务的实验评估。
2020-12-15 cs.AI cs.LG stat.ML
Fair Online Resource Allocation
Columbia University, IEOR Department（哥伦比亚大学工业工程与运营研究系）；Cornell Tech（康奈尔科技学院）；Universidad de Chile（智利大学）
研究在线资源分配中的公平性问题，提出基于对偶镜像下降的算法，在批次内强制执行公平约束，实现亚线性遗憾，并通过难民数据验证了福利与公平的权衡。
2026-06-19 cs.DS cs.GT cs.LG
Towards Fair Disentangled Online Learning for Changing Environments
Baylor University（贝勒大学）；University of Texas at Dallas（德克萨斯大学达拉斯分校）；University of Arkansas（阿肯色大学）；University of Florida（佛罗里达大学）
针对变化环境在线学习忽视公平且全局参数更新低效的问题，提出语义与变异因子解耦算法，在群体公平约束下实现混合动静态遗憾，并给出理论保证与更优实证表现。
2023-07-17 cs.AI cs.LG
Benefits of Online Tilted Empirical Risk Minimization: A Case Study of Outlier Detection and Robust Regression
MLIP Research Group, KUIS AI Center \& Department of EEE, Koç University İstanbul, Turkey
本文提出一种在线倾斜经验风险最小化方法，通过去除经典目标中的对数项保留倾斜效应，以与ERM相当的单样本计算成本在流式学习中同时实现异常值鲁棒性与少数类公平性。
2025-09-18 cs.LG stat.ML
Comprehensive Fair Meta-learned Recommender System
University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
在推荐系统中，一个常见的挑战是冷启动问题，其中系统中的新用户的交互非常有限。为了解决这一问题，近年来，许多研究工作将元优化思想引入到推荐场景中，即仅通过过去的几个交互项来学习用户偏好。其核心思想是学习全局共享的元初始化参数为所有用户，并迅速适应到本地参数为每个用户分别。它们的目标是通过对不同用户的偏好学习来获得通用知识，从而利用学习到的先验知识和少量的训练数据快速适应未来的新用户。然而，以前的工作表明，推荐系统通常容易受到偏见和不公平。尽管元学习成功地提高了冷启动的推荐性能，但公平性问题在很大程度上被忽视了。在本文中，我们提出了一个全面的公平元学习框架，命名为CLOVER，以确保公平的元学习推荐模型。我们系统地研究了推荐系统中的三种公平性-个人公平性，反事实公平性和群体公平性，并提出通过多任务对抗学习方案来满足所有三种公平性。我们的框架提供了一个通用的训练范式，适用于不同的元学习推荐系统。我们证明了三叶草的有效性，在三个真实世界的数据集上的代表性的元学习用户偏好估计。实验结果表明，CLOVER在不降低冷启动推荐性能的前提下，实现了综合公平性。
2022-06-09 cs.IR cs.LG
Preventing Discriminatory Decision-making in Evolving Data Streams
Michigan Technological University（密歇根理工大学）；University of Southern California（南加州大学）；Columbia University（哥伦比亚大学）；Dalhousie University（达尔豪斯大学）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；University of Waikato（怀卡托大学）
在过去的十年里，机器学习中的偏见理所当然地受到了极大的关注。然而，大多数公平机器学习（fair-ML）解决决策系统中的偏见的工作仅仅集中在离线设置上。尽管在线系统在现实世界中广泛流行，但在识别和纠正在线设置中的偏见方面的工作严重缺乏。在线环境的独特挑战使得解决偏见比离线环境更困难。首先，流机器学习（SML）算法必须处理不断变化的实时数据流。其次，他们需要适应不断变化的数据分布（概念漂移），以便对新传入的数据做出准确的预测。在这个已经很复杂的任务中增加公平性约束并不简单。在这项工作中，我们专注于在有偏见的数据流中实现公平性的挑战，同时考虑到概念漂移的存在，每次访问一个样本。我们提出了流公平采样（$FS^2$），一种新的公平再平衡方法，能够与SML分类算法集成。此外，我们设计了第一个统一的性能公平性度量，公平性绑定效用（FBU），有效地评估和比较性能和公平性之间的权衡不同的偏见缓解方法。FBU通过一个统一和直观的评估简化了多种技术的公平性-性能权衡的比较，使模型设计者能够轻松地选择一种技术。总体而言，广泛的评估表明，我们的措施超过了其他公平的在线技术，以前在文献中报道。
2023-02-16 cs.AI cs.LG
Achieving Counterfactual Fairness for Causal Bandit
University of Arkansas（阿肯色大学）
在在线推荐中，客户从底层分布以顺序和随机的方式到达，并且在线决策模型基于某种策略为每个到达的个体推荐所选物品。我们研究如何在每一步推荐一个项目，以最大化预期回报，同时实现用户端公平的客户，即，共享相似简档的客户将接收相似的奖励，而不管他们的敏感属性和被推荐的项目。通过将因果推理纳入土匪和采用软干预来模拟手臂选择策略，我们首先提出了基于d-分离的UCB算法（D-UCB），以探索利用d-分离集来减少所需的探索量，以实现低累积遗憾。在此基础上，我们提出了公平因果强盗（F-UCB）实现反事实的个人公平。理论分析和实验验证了算法的有效性。
2021-09-21 cs.AI cs.CY cs.LG
FAHT: An Adaptive Fairness-aware Decision Tree Classifier
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；Leibniz University Hannover（汉诺威莱布尼茨大学）
自动化数据驱动的决策系统在广泛的在线和离线服务中无处不在。这些系统依赖于复杂的学习算法和可用的数据来优化决策支持辅助的服务功能。然而，人们越来越关注所采用模型的问责制和公平性，因为现有的历史数据往往具有本质上的歧视性，即，当得到正分类时，共享一个或多个敏感属性的成员的比例高于总体中的比例，这导致决策支持系统缺乏公平性。已经提出了一些公平意识的学习方法来处理这个问题。然而，这些方法将公平性作为静态问题来处理，并且不考虑底层流种群的演化。在本文中，我们引入了一个学习机制，设计一个公平的分类器在线流基于决策。我们的学习模型，FAHT（公平意识Hoeffding树），是一个著名的Hoeffding树算法的决策树感应流，也占公平的扩展。我们的实验表明，我们的算法是能够处理歧视在流媒体环境中，同时保持适度的预测性能的流。
2019-07-16 cs.AI cs.LG stat.ML
FARF: A Fair and Adaptive Random Forests Classifier
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；University of Waikato（怀卡托大学）；Télécom Paris, Institut Polytechnique de Paris（巴黎高等电信学院，巴黎综合理工学院）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Carnegie Mellon University（卡内基梅隆大学）；L3S Research Center（L3S研究中心）；Leibniz University Hannover（莱布尼茨汉诺威大学）
随着人工智能（AI）在更多应用中的使用，需要考虑和减轻学习模型的偏差。大多数开发公平学习算法的工作都集中在离线设置上。然而，在许多现实世界的应用程序中，数据以在线方式出现，需要在运行中处理。此外，在实际应用中，需要考虑准确性和公平性之间的权衡，但目前的方法通常具有多个具有非平凡相互作用的超参数以实现公平性。在本文中，我们提出了一个灵活的集成算法，公平的决策，在更具有挑战性的背景下不断发展的在线设置。该算法被称为FARF（公平和自适应随机森林），基于使用在线组件分类器并根据当前分布更新它们，这也考虑了公平性和改变公平性-准确性平衡的单个超参数。在真实数据流上的实验证明了FARF的实用性。
2021-08-21 cs.AI cs.LG
Simulating Biases for Interpretable Fairness in Offline and Online Classifiers
Faculdade de Engenharia da Universidade do Porto（葡萄牙波尔图大学工程学院）；Laboratory for Artificial Intelligence and Computer Science (LIACC)（人工智能与计算机科学实验室）
本文提出一个具有可控偏见注入的合成数据集生成框架，基于智能体模型模拟贷款申请中的系统性偏见，并采用二阶 Shapley 值技术解释缓解措施对分类器特征利用的影响，在离线和在线学习环境中验证了其有效性。
2025-07-14 cs.LG stat.ML
Optimizing fairness tradeoffs in machine learning with multiobjective meta-models
Boston Children's Hospital（波士顿儿童医院）
针对公平机器学习中误差与公平性的多准则冲突，本文提出多目标元模型框架，由受保护属性学习样本权重，在真实任务上获得更优权衡解集。
2023-04-21 cs.CY cs.LG cs.NE
An Effective, Robust and Fairness-aware Hate Speech Detection Framework
Worcester Polytechnic Institute（伍斯特理工学院）
针对仇恨言论检测中数据不足、不确定性、鲁棒性和公平性等局限，提出结合数据增强、公平性处理与不确定性估计的新框架，采用 Bidirectional Quaternion-Quasi-LSTM 层并融合多平台数据集，在多种攻击场景下优于八种基线方法。
2024-09-25 cs.CL cs.LG
Classification with Fairness Constraints: A Meta-Algorithm with Provable Guarantees
EPFL（洛桑联邦理工学院）
由于分类算法在各种社会环境中的部署越来越多，开发相对于数据的敏感属性公平的分类算法已经成为一个重要的问题。最近的几项工作都集中在公平性方面的一个特定的指标，建模相应的公平分类问题作为一个约束优化问题，并开发定制的算法来解决这些问题。尽管如此，仍然存在一些重要的指标，我们没有公平的分类器，并且许多上述算法没有理论保证;也许是因为由此产生的优化问题是非凸的。本文的主要贡献是一个新的元算法分类，作为输入的公平性约束的一大类，相对于多个不相交的敏感属性，并带有可证明的保证。这是通过首先开发一个大的家庭的分类问题的凸约束的元算法，然后显示，一般类型的公平性约束的分类问题，可以减少到这个家庭中的那些。我们提出的实证结果表明，我们的算法可以实现近乎完美的公平性，相对于各种公平性指标，和损失的准确性，由于施加的公平性约束往往是小的。总的来说，这项工作统一了几个以前的公平分类工作，提出了一个实用的算法与理论保证，并可以处理公平性指标，以前是不可能的。
2020-04-15 cs.AI cs.CY cs.DS
Bayesian Learning to Select Fair Classifiers
University of California, Irvine（加州大学尔湾分校）；New York University（纽约大学）；Weill Cornell Medicine（威尔康奈尔医学院）
该研究针对在线场景下需平衡预测性能与子群体公平性的分类器选择问题，将其建模为贝叶斯多臂老虎机问题并采用汤普森采样，经实证评估与理论分析验证了方法的有效性。
2026-10-14 cs.LG
Online Fair Division with Budget Constraints
University of Oxford（牛津大学）
研究广义分配预算约束下离散公平分配的在线变体，确定有界密度扩展条件并获近似算法，研究资源增强及刻画保证改进，还开发学习增强框架，证明其性质及单独预测边际的不足。
2026-07-28 cs.AI cs.GT cs.LG
A Suite of Fairness Datasets for Tabular Classification
IBM Research（IBM研究院）；Carnegie Mellon University（卡内基梅隆大学）
针对公平性机器学习研究实验评估中数据集使用过少的问题，本文引入了一套可获取20个公平性数据集及相关元数据的函数，以促进未来更严谨的实验评估。
2023-07-31 cs.AI cs.CY cs.LG
Equal Opportunity in Online Classification with Partial Feedback
The Hebrew University（希伯来大学）；University of Pennsylvania（宾夕法尼亚大学）；University of Colorado（科罗拉多大学）；University of Minnesota（明尼苏达大学）
我们研究了一个在线分类问题与部分反馈，其中个人到达一个固定的时间，但未知的分布，必须被归类为积极或消极的。我们的算法只观察到一个人的真实标签，如果他们被赋予一个积极的分类。这一设置捕捉到了许多关注公平性的分类问题：例如，在刑事累犯预测中，只有在囚犯被释放的情况下才能观察到累犯;在贷款申请中，只有在贷款被授予的情况下才能观察到贷款偿还。我们要求我们的算法在每一轮都满足常见的统计公平性约束（例如均衡假阳性或假阴性率-在Hardt et al.（2016）中作为“平等机会”引入）。我们给出了上界和下界特征的成本限制的遗憾率（并表明它是温和的），并给出了一个预言的有效算法，实现了上限。
2020-04-16 cs.LG stat.ML
Interpolating Item and User Fairness in Multi-Sided Recommendations
Massachusetts Institute of Technology（麻省理工学院）；IBM Research（IBM研究院）
本文提出公平推荐框架FAIR及低遗憾算法FORM，通过约束优化平衡平台、物品和用户利益，在动态在线环境中实现实时学习与公平推荐，兼顾收入与公平。
2024-05-25 cs.CY cs.GT cs.IR
Continuous Fair SMOTE -- Fairness-Aware Stream Learning from Imbalanced Data
Machine Learning Group Bielefeld University（比勒菲尔德大学机器学习组）
针对流式学习中类别不平衡与算法偏见并存的问题，提出公平感知预处理方法CFSMOTE，通过过采样时的情境测试与群体平衡同时解决两类问题，在保持性能的同时显著提升了多项群体公平指标。
2025-05-19 cs.AI cs.LG
Fairness Constraints: Mechanisms for Fair Classification
Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）
商业决策系统在各种各样的在线和离线服务中无处不在。这些系统依赖于复杂的学习方法和大量的数据来优化服务功能、最终用户的满意度和盈利能力。然而，人们越来越担心，即使没有意图，这些自动化的决定也会导致缺乏公平性，即，它们的结果可能不成比例地伤害（或，受益）共享一个或多个敏感属性的特定人群（例如，种族、性别）。在本文中，我们引入了一个灵活的机制，设计公平的分类器，利用一种新的直观的衡量决策边界（非）公平。我们实例化这种机制与两个著名的分类，逻辑斯谛回归和支持向量机，并显示在现实世界的数据，我们的机制允许一个细粒度的控制的公平程度，往往在一个小的成本方面的准确性。
2017-03-23 cs.LG stat.ML
Hate Speech Detection with Generalizable Target-aware Fairness
The University of Queensland（昆士兰大学）
本文提出 GetFair 方法，通过超网络生成目标特定过滤器并以对抗训练消除分类器对目标特征的虚假依赖，从而实现对未知目标群体的公平仇恨言论检测。
2024-06-11 cs.CL cs.LG
