Fairness for Image Generation with Uncertain Sensitive Attributes
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
这项工作解决了在生成过程中的公平性问题，如图像超分辨率，这需要从标准分类设置不同的定义。此外，虽然传统的群体公平定义通常是针对特定的受保护群体定义的-否认这些群体是人为的，带有历史和政治动机的事实-但我们强调，没有真实的身份。例如，南亚人和东亚人应该被视为一个单一的群体还是不同的群体？我们应该把一个种族看作一个整体，还是按性别进一步划分？选择哪些群体是有效的，谁属于他们是一个不可能的困境，对亚洲人“公平”可能需要对南亚人“不公平”。这促使引入定义，允许算法成为相关分组的\emph{oblivious}。我们定义了几个直观的概念组公平和研究他们的不兼容性和权衡。我们表明，人口均等的自然扩展是强烈依赖于分组，和\emph{impossible}，以实现闭塞。另一方面，我们引入的概念性的新定义，条件比例表征，可以通过后验抽样实现。我们的实验验证了我们的理论结果，并实现公平的图像重建使用国家的最先进的生成模型。
2021-07-02 cs.CV cs.LG stat.ML
Intersectionality: Multiple Group Fairness in Expectation Constraints
University of Oxford（牛津大学）
群体公平性是机器学习研究人员、开发人员和监管机构的重要关注点。然而，模型必须被严格限制才能被认为是公平的，这一点仍在辩论中。这项工作的重点是约束核回归，特别是决策树回归，应用于随机森林，提升树和其他集成模型的子群体的预期结果。虽然以前解决了个别的约束，这项工作解决了同时纳入多个约束的问题。所提出的解决方案不影响决策树的计算或内存复杂度的顺序，并且很容易在训练后集成到模型中。
2018-11-25 cs.AI cs.CY cs.LG
General Fair Empirical Risk Minimization
University of Genova（热那亚大学）；Amazon Web Services（亚马逊云科技）；Istituto Italiano di Tecnologia（意大利理工学院）；University College London（伦敦大学学院）
我们解决算法公平性的问题，其目标是避免敏感信息的不公平影响，在一般情况下，回归可能连续敏感属性。我们将公平经验风险最小化的框架扩展到这个一般场景，以这种方式覆盖整个标准的监督学习设置。我们的广义公平措施减少到公知的概念，在文献中的公平性。我们得到学习保证我们的方法，这意味着特别是它的统计一致性，无论是在风险和公平性的措施。然后，我们专门我们的方法，核方法，并提出了一个凸公平估计在该设置。我们测试的估计常用的基准数据集（社区和犯罪）和新的数据集收集在热那亚大学，包含5000名学生的学术生涯的信息。后一个数据集提供了一个具有挑战性的真实案例场景，即受益于我们的方法的标准回归方法的不公平行为。实验结果表明，我们的估计是有效的，在减轻准确性和公平性要求之间的权衡。
2019-12-27 cs.LG stat.ML
Mean Parity Fair Regression in RKHS
Shenzhen Research Institute of Big Data（深圳大数据研究院）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Pennsylvania State University（宾夕法尼亚州立大学）
我们研究的公平回归问题下的平均奇偶（MP）公平的概念，这要求学习函数输出的条件平均值是恒定的敏感属性。我们解决这个问题，利用再生核希尔伯特空间（RKHS）构造的功能空间，其成员保证满足公平性约束。建议的功能空间建议一个封闭形式的解决方案，自然是兼容的多个敏感属性的公平回归问题。此外，通过制定一个宽松的公平回归问题的公平性和准确性的权衡，我们得到了相应的回归函数，可以有效地实现，并提供可解释的权衡。更重要的是，在一些温和的假设下，所提出的方法可以应用于回归问题的协方差为基础的公平性的概念。在基准数据集上的实验结果表明，与几种最先进的方法相比，所提出的方法具有竞争力，甚至更优越的性能。
2023-02-21 cs.LG stat.ML
Practical Approaches for Fair Learning with Multitype and Multivariate Sensitive Attributes
University of Cambridge（剑桥大学）
重要的是要保证部署在现实世界中的机器学习算法不会导致不公平或意外的社会后果。Fair ML在很大程度上专注于在属性和目标结果都是二进制的简单环境中保护单个属性。然而，在许多实际问题中的实际应用需要同时保护多个敏感属性，这些属性通常不是简单的二进制，而是连续的或分类的。为了解决这个更具挑战性的任务，我们引入了FairCOCCO，这是一个建立在再生核希尔伯特空间上的互协方差算子上的公平性度量。这导致了两个实用的工具：第一，FairCOCCO分数，一个归一化的度量，可以量化设置中的公平性与任意类型的单个或多个敏感属性;第二，随后的正则化项，可以被纳入任意学习目标，以获得公平的预测。这些贡献解决了算法公平性文献中的关键差距，我们根据经验证明了在平衡预测能力和真实世界数据集公平性方面对最先进技术的一致改进。
2022-11-11 cs.CY cs.LG stat.ML
Toward a better trade-off between performance and fairness with kernel-based distribution matching
Google（谷歌）
由于最近的文献已经证明了分类器如何经常对某些子群体产生意外的偏见，因此将机器学习模型部署给用户需要仔细考虑社会后果。我们应该如何在现实世界的系统中解决这个问题？我们应该如何平衡核心绩效和公平性指标？在本文中，我们引入了一个MinDiff框架，用于对不同的公平性指标进行正则化分类，并分析了一种基于内核的统计依赖性测试技术。我们对学术数据集进行了深入的研究，以比较不同正则化方法实现的帕累托边界，并将我们基于核的方法应用于两个展示现实世界改进的大型工业系统。
2019-10-25 cs.LG stat.ML
A General Framework for Fair Regression
University of Oxford（牛津大学）；Northampton University（北安普顿大学）
公平性，通过它的许多形式和定义，已经成为机器学习社区面临的一个重要问题。在这项工作中，我们考虑如何将组公平性约束的核回归方法，适用于高斯过程，支持向量机，神经网络回归和决策树回归。此外，我们专注于研究将这些约束的决策树回归的影响，直接应用到随机森林和提升树等广泛流行的推理技术。我们发现，这样的模型和严格约束的预期扰动的树的叶子的数量方面的内存和计算的复杂性的顺序被保存。重要的是，该方法适用于训练模型，因此可以很容易地应用于当前使用的模型，并且只需要在训练数据上使用组标签。
2019-02-02 cs.AI cs.LG stat.ML
Kernel-based Equalized Odds: A Quantification of Accuracy-Fairness Trade-off in Fair Representation Learning
H. Milton Stewart School of Industrial and Systems Engineering（H. Milton Stewart工业与系统工程学院）；Georgia Institute of Technology（佐治亚理工学院）
本文提出基于核的均衡几率准则 $EO_k$，在公平表示学习中统一量化独立性、分离性和校准性，并在有偏与无偏条件下刻画准确率与公平性的权衡，同时给出经验统计量及其集中不等式保证。
2025-08-20 cs.LG stat.ML
Machine Learning for Medicine Must Be Interpretable, Shareable, Reproducible and Accountable by Design
本文提出医学机器学习应以可解释性、可共享性、可复现性和可问责性为设计原则，通过本质可解释模型、严格评估与生成式协作学习，构建透明可信且可临床转化的医学人工智能。
2025-08-22 cs.LG stat.ML
Learning Fair Representations for Kernel Models
Carnegie Mellon University（卡内基梅隆大学）；Determined AI
公平代表是一个强大的工具，用于建立标准，如统计平等，代理非歧视，以及学习模型中的机会平等。用于学习这些表示的现有技术通常是模型不可知的，因为它们对原始数据进行预处理，使得输出满足某些公平性标准，并且可以与任意学习方法一起使用。相比之下，我们展示了学习模型感知的公平表示的承诺，专注于基于内核的模型。我们利用经典的充分降维（SDR）框架来构造表示作为再生核希尔伯特空间（RKHS）的子空间，其成员函数保证满足公平性。我们的方法支持几个公平的标准，连续和离散数据，和多个受保护的属性。我们进一步展示了如何校准的精度权衡的RKHS的子空间之间的主要角度来表征它。最后，我们应用我们的方法来获得公平贝叶斯学习的第一个公平高斯过程（FGP）先验，并表明它与真实数据上的最先进方法相比具有竞争力，并且在某些情况下优于最先进的方法。
2020-01-20 cs.LG stat.ML
Fair Kernel Learning
新的社会和经济活动大量利用大数据和机器学习算法来推断人们的生活。应用程序包括自动课程评估，工资确定，信贷和贷款的风险评估。最近，许多政府和机构对机器学习在处理这些问题时缺乏公平、公正和道德表示担忧。事实表明，不包括性别或种族等偏向公平的敏感特征，在包括其他相关特征时，不足以减轻歧视。相反，在目标函数中包括公平性已被证明是更有效的。我们提出了新的公平回归和降维方法建立在以前提出的公平分类框架。这两种方法都依赖于使用Hilbert Schmidt独立性准则作为公平项。与以前的方法不同，这使我们能够简化问题，并同时使用多个敏感变量。用核函数代替线性公式使得该方法可以处理非线性问题。对于线性和非线性公式的解决方案减少到解决简单的矩阵求逆或广义特征值问题。这简化了针对预测误差和公平性项之间的不同折衷值的解决方案的评估。我们说明了玩具的例子中所提出的方法的有用性，并评估其性能在现实世界的数据集预测收入使用性别和/或种族歧视作为敏感变量，和避孕方法预测人口和社会经济敏感的描述符。
2017-10-16 stat.ML
Bias-inducing geometries: an exactly solvable data model with fairness implications
University College London（伦敦大学学院）；Gatsby Computational Neuroscience Unit（盖茨比计算神经科学中心）；Sainsbury Wellcome Centre（桑斯伯里惠康中心）；Scuola Internazionale Superiore di Studi Avanzati（国际高等研究学院）；Google（谷歌）；Bocconi University（博科尼大学）
本研究引入可精确求解的高维数据不平衡模型，探索数据几何结构在ML偏差产生中的作用，分析表征偏差缓解策略，发现耦合学习模型能实现更优的公平性-准确性权衡。
2024-11-29 cond-mat.dis-nn cs.LG stat.ML
A Neural Tangent Kernel Perspective of Infinite Tree Ensembles
The Graduate University for Advanced Studies, SOKENDAI（综合研究大学院大学）；National Institute of Informatics（国立信息学研究所）
在实际应用中，树集成与神经网络一样是最流行的模型之一。软树是决策树的变体。代替使用贪婪方法来搜索分裂规则，软树使用梯度方法来训练，其中整个分裂操作以可微形式制定。虽然近年来，这种软树的集合越来越多地被使用，但很少有理论工作来理解它们的行为。通过对无限软树系综的研究，引入并研究了树神经切线核（TNTK），为研究无限软树系综的行为提供了新的思路.使用TNTK，我们从理论上确定了几个非平凡的属性，如全局收敛的训练，不经意的树结构的等价性，和退化的TNTK引起的深化的树。
2022-03-21 cs.LG stat.ML
Fairness under Graph Uncertainty: Achieving Interventional Fairness with Partially Known Causal Graphs over Clusters of Variables
NTT Communication Science Laboratories（NTT通信科学实验室）
提出一种利用变量簇因果图实现干预公平性的学习框架，通过调整簇集间的最大均值差异训练模型，在有限因果图知识下平衡公平与精度。
2026-06-23 cs.LG stat.ML
Verifying Individual Fairness in Machine Learning Models
IBM Research AI（IBM研究院人工智能部门）
我们考虑的问题是否一个给定的决策模型，与结构化数据，具有个人的公平性。根据Dwork的工作，如果存在一对彼此接近的有效输入（根据适当的度量），但模型以不同的方式对待（不同的类标签，或输出差异很大），则模型是单独有偏的（或不公平的），如果不存在这样的对，则它是无偏的（或公平的）。我们的目标是构造验证证明个人公平的一个给定的模型，我们这样做，考虑适当的放松的问题。我们构造的验证是健全的，但不完整的线性分类器，核多项式/径向基函数分类。我们还报告了在公开数据集上评估我们提出的算法的实验结果。
2020-06-21 cs.AI cs.LG stat.ML
Convex Formulations for Fair Principal Component Analysis
UC Berkeley（加州大学伯克利分校）
虽然有越来越多的文献对监督学习的公平性，将公平性纳入无监督学习的问题还没有得到很好的研究。本文研究的背景下，主成分分析（PCA）的公平性。我们首先给出了降维的公平性的定义，并且我们的定义可以被解释为说，如果关于受保护类的信息（例如，种族或性别）不能从降维的数据点推断。接下来，我们开发凸优化公式，可以提高PCA和核PCA的公平性（相对于我们的定义）。这些配方是半定程序（SDP的），我们证明了我们的配方使用几个数据集的有效性。最后，我们展示了我们的方法可以用来执行一个公平的（相对于年龄）聚类的健康数据，可用于设置健康保险费率。
2018-11-12 cs.LG math.OC stat.ML
On the Complexity of Constrained Determinantal Point Processes
行列式点过程（DPPs）是量子物理和随机矩阵理论中出现的概率模型，并且最近在计算机科学中发现了许多应用。DPP定义了给定基集子集上的分布，它们表现出有趣的特性，如负相关，并且与其他模型不同，它们具有有效的采样算法。当应用于机器学习中的核方法时，DPP倾向于具有更多样化特征的给定数据的子集。然而，许多现实世界的应用需要有效的算法来从具有对子集的附加约束的DPP中采样，例如，分区或拟阵约束，这些约束对于确保采样子集上的先验、资源或公平性约束是重要的。在这样的约束设置下，是否可以有效地从DPP中采样是一个重要的问题，该问题首先在\cite{KuleszaTaskar12}的DPP调查中提出，并在机器学习文献的一些最近的作品中进行了研究。我们的论文的主要贡献是第一个决议的复杂性抽样的DPP的约束。当约束DPP的描述是一元时，我们给出了精确有效的采样算法。此外，我们证明，当约束是指定的二进制，这个问题是#P-硬通过减少计算混合判别式的问题，这意味着它可能是不太可能的，有一个FPRAS。我们的研究结果受益于通过多项式的镜头查看约束采样问题。因此，我们得到了一些算法的独立利益：1）计数时，有额外的（简洁的）预算约束的基础多面体的正规拟阵，2）评估和计算的混合特征多项式，发挥了核心作用的决议的Kadison-Singer问题，在某些特殊情况下。
2017-04-24 cs.DS math.PR stat.ML
General Frameworks for Conditional Two-Sample Testing
KAIST（韩国科学技术院）
本文研究条件双样本检验问题，提出两个通用框架：一个将任意条件独立性检验黑盒转化为条件双样本检验，另一个利用估计密度比将问题转化为边际分布比较，并通过模拟验证其有效性。
2024-10-22 cs.LG math.ST stat.ML
Spectral Algorithms for Computing Fair Support Vector Machines
UC Berkeley（加州大学伯克利分校）
分类器和评级分数倾向于隐含地编码偏差，其可能存在于训练数据中，针对受保护的类（即，年龄、性别或种族）。因此，了解如何设计分类器和分数以防止预测中的歧视是很重要的。本文开发了计算上易于处理的算法，用于设计准确但公平的支持向量机（SVM）。我们的方法对每个受保护类的协方差矩阵施加了约束，这导致了SVM公式中的非凸二次约束。我们开发迭代算法来计算公平的线性和核SVM的，解决了一系列的松弛构造使用谱分解的非凸约束。在几个数据集上的数值实验表明，它在实现高预测精度，同时确保公平的有效性。
2017-10-16 cs.LG math.OC stat.ML
Risk-averse Fair Multi-class Classification
Department of Mathematical sciences（数学科学系）；Stevens Institute of Technology（史蒂文斯理工学院）
基于一致风险度量与系统性风险理论，提出一种适用于噪声、稀缺和标签不可靠数据的风险规避多类分类框架，并通过非线性聚合的系统方法设计两阶段随机规划及正则化分解算法，同时实现公平性增强。
2026-05-27 cs.LG math.OC stat.ML
