Cluster-level Group Representativity Fairness in $k$-means Clustering
Queen’s University Belfast（贝尔法斯特女王大学）
最近，人们对开发公平聚类算法很感兴趣，这些算法试图公正地表示沿着敏感属性（如种族和性别）定义的组。我们观察到，聚类算法可以生成集群，使得不同的群体在不同的集群中处于不利地位。我们开发了一个聚类算法，建立在质心聚类范式开创的经典算法，如$k$ -手段，我们专注于减轻每个集群内的最弱势群体所经历的不公平。我们的方法使用迭代优化范式，通过将对象重新分配到集群来修改初始集群分配，从而使每个集群内的最差敏感组受益。我们证明了我们的方法的有效性，通过广泛的经验评估在现实世界的数据集上的一个新的评价指标。具体来说，我们表明，我们的方法是有效的，在提高集群级组代表性的公平性显着在低影响集群的一致性。
2022-12-29 cs.CY cs.LG
A Notion of Individual Fairness for Clustering
University of Washington（华盛顿大学）；Rutgers University（罗格斯大学）；Google（谷歌）
在公平机器学习中，特别是在公平分类中，一个常见的区别是群体公平性和个体公平性。在聚类的背景下，群体公平性近年来得到了广泛的研究，然而，聚类的个体公平性几乎没有被探索。在本文中，我们提出了一个自然的概念，个人的公平聚类。我们的概念要求每个数据点，平均而言，比任何其他集群中的点更接近自己集群中的点。我们研究了几个问题，我们提出的个人公平的概念。在消极的一面，我们表明，决定一个给定的数据集是否允许这样一个单独的公平聚类一般是NP-难的。在积极的一面，对于一个数据集躺在真正的线的特殊情况下，我们提出了一个有效的动态规划方法来找到一个单独的公平聚类。对于一般的数据集，我们调查的目的是尽量减少个人违反公平的数量，并比较它们的标准聚类方法对真实的数据集。
2020-06-08 cs.LG stat.ML
Friends in Unexpected Places: Enhancing Local Fairness in Federated Learning through Clustering
The Ohio State University（俄亥俄州立大学）；Cisco Research（思科研究）；UC, San Diego（圣地亚哥大学）
针对异构联邦学习中全局与局部公平性不一致的问题，提出基于聚类的局部公平FL新算法，通过引入新公平性度量实现局部准确率与公平性的可调平衡，无需显式干预即可达到或超越现有方法。
2025-05-30 cs.CY cs.LG
Individual Fairness for $k$-Clustering
Toyota Technological Institute at Chicago（芝加哥丰田理工学院）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
我们给出了一个局部搜索算法的$k$-中位数和$k$-手段（更一般地为任何$k$-聚类与$\ell_p$规范成本函数）从个人公平的角度。更精确地，对于大小为$n$的点集$P$中的点$x$，令$r(x)$为最小半径，使得以$x$为中心的半径为$r(x)$的球至少具有来自$P$的$n/k$点。直观地说，如果从$P$中选择一组$k$随机点作为中心，则每个点$x\in P$期望在半径$r(x)$内具有中心。单独的公平聚类为每个点$x\in P$提供这样的保证。这种公平的概念是在[Jung et al.，2019]，他们展示了如何获得关于此公平条件的近似可行的$k$聚类。在这项工作中，我们将展示如何获得公平的$k$-聚类的双准则近似：我们的解决方案的$k$-中位数（$k$-手段）成本是在一个恒定的因素的最佳公平的$k$-聚类的成本，我们的解决方案近似满足公平性条件（也在一个恒定的因素）。此外，我们补充我们的理论界限与经验评估。
2020-09-21 cs.DS cs.LG stat.ML
Guarantees for Spectral Clustering with Fairness Constraints
Rutgers University（罗格斯大学）；Georgia Tech（佐治亚理工学院）
鉴于谱聚类（SC）用于划分图数据的广泛流行，我们研究了一种受约束的SC版本，其中我们试图纳入Chierichetti等人提出的公平性概念。根据这个概念，如果每个人口统计组在每个聚类中近似地按比例表示，则聚类是公平的。为此，我们开发了规范化和非规范化约束SC的变体，并表明它们有助于在合成和真实数据上找到更公平的聚类。我们还提供了一个严格的理论分析，我们的算法上的一个自然的随机块模型，其中$h$组有很强的组间连接，但也表现出一个“自然”的聚类结构，这是公平的。我们证明，我们的算法可以恢复这种公平的聚类概率很高。
2019-05-10 cs.DS cs.LG stat.ML
Efficient Algorithms For Fair Clustering with a New Fairness Notion
Indian Institute of Technology (IIT) Ropar（印度理工学院罗巴尔分校）；Indian Institute of Technology (IIT) Hyderabad（印度理工学院海得拉巴分校）
我们重新审视公平聚类的问题，首先由Chierichetti等人提出，这要求每个受保护属性在每个簇中具有近似相等的表示;即，平衡属性。现有的解决方案，公平聚类是不可扩展的，或者没有实现聚类目标和公平性之间的最佳权衡。在本文中，我们提出了一个新的公平性的概念，我们称之为$tau$ -公平的公平性，严格概括的平衡属性，并使细粒度的效率与公平性权衡。此外，我们表明，简单的贪婪轮循算法有效地实现这种权衡。在更一般的多值保护属性的情况下，我们严格地分析了算法的理论性质。我们的实验结果表明，所提出的解决方案优于所有国家的最先进的算法，工作得非常好，即使是大量的集群。
2022-06-28 cs.AI cs.CY cs.LG
A review of clustering models in educational data science towards fairness-aware learning
L3S Research Center, Leibniz University Hannover（汉诺威莱布尼茨大学L3S研究中心）；Leibniz University Hannover（汉诺威莱布尼茨大学）；Institute for Didactics of Mathematics and Physics, Leibniz University Hannover（汉诺威莱布尼茨大学数学与物理教学研究所）；Research Institute CODE, Bundeswehr University Munich（慕尼黑联邦国防军大学CODE研究所）
本文综述了教育数据科学中的聚类模型及其公平性，重点研究应用于教育活动的公平聚类模型，以确保分析学生数据时的公平性。
2023-01-09 cs.CY cs.LG
A Pairwise Fair and Community-preserving Approach to k-Center Clustering
University of Maryland（马里兰大学）；Wellesley College（韦尔斯利学院）；Carnegie Mellon University（卡内基梅隆大学）；Northwestern University（西北大学）
聚类是机器学习中的一个基本问题，有着广泛的应用。随着机器学习作为自动化系统的后端越来越普遍，人们对公平性的担忧也随之产生。目前关于公平性的许多文献都涉及监督学习（群体公平性）中对受保护类的歧视。我们定义了一个不同的公平聚类的概念，其中两个点（或一个社区的点）变得分离的概率是由它们的成对距离（或社区直径）的递增函数所限定的。我们捕捉到这样一种情况，即数据点代表从聚集在一起获得一些好处的人。当某些点被确定性地分开时，不公平就会出现，无论是任意的还是有人打算伤害它们，就像在选区划分中那样。作为回应，我们正式定义了两种新类型的公平性的聚类设置，成对的公平性和社区保护。为了探索我们的公平性目标的实用性，我们设计了一种方法来扩展现有的$k$中心算法，以满足这些公平性的约束。对这种方法的分析证明，可以在保持公平性的同时实现合理的近似。在实验中，我们比较了我们的方法的有效性，经典的$k$中心算法/算法，并探讨最佳聚类和公平性之间的权衡。
2020-07-14 cs.DS cs.LG stat.ML
Fair Clustering Using Antidote Data
MPI-SWS（马克斯·普朗克软件系统研究所）；University of California, Davis（加利福尼亚大学戴维斯分校）
聚类算法被广泛用于许多现代数据科学应用。这促使需要使聚类算法的输出公平。传统上，聚类算法的新的公平算法变体是针对公平性的特定概念而开发的。然而，根据应用程序的上下文，可能需要采用不同的公平定义。因此，需要提出新的算法和分析的每一个组合的聚类算法和公平性定义。此外，每个新算法都需要重新实现，以便在现实世界的系统中部署。因此，我们提出了另一种方法，以组级公平性的启发，基于中心的聚类研究数据投毒攻击。我们试图用少量的数据点来增强原始数据集，称为解毒剂数据。当在这个新数据集上进行聚类时，对于所选择的聚类算法和公平性定义，输出是公平的。我们制定了一个一般的双层优化问题，可以容纳任何基于中心的聚类算法和公平的概念。然后，我们分类的方法来解决两个不同的问题设置这种双层优化。对不同聚类算法和公平性概念的广泛实验表明，我们的算法可以在许多真实世界的数据集上实现所需的公平性水平，只需添加很小比例的解毒剂数据。我们还发现，我们的算法实现较低的公平成本和竞争力的聚类性能相比，其他国家的最先进的公平聚类算法。
2021-10-22 cs.LG
Fair Clustering: A Causal Perspective
ETH Zürich（苏黎世联邦理工学院）；Columbia University（哥伦比亚大学）
针对现有公平聚类方法未考虑因果机制、优化非因果公平性可能引发直接歧视的问题，提出结合因果公平性指标的聚类方法，支持指定需最小化的指标，并在含不公平偏差的数据集上验证了有效性。
2023-12-14 cs.CY cs.LG stat.ML
Robust Fair Clustering: A Novel Fairness Attack and Defense Framework
University of California, Davis（加州大学戴维斯分校）；Brandeis University（布兰迪斯大学）
聚类算法广泛用于许多社会资源分配应用，例如贷款审批和候选人招聘等，因此，有偏见或不公平的模型输出可能会对依赖这些应用的个人产生不利影响。为此，最近提出了许多公平聚类方法来解决这个问题。由于潜在的重大危害，即使在对抗性影响下，也必须确保公平的聚类算法提供一致的公平输出。然而，公平聚类算法还没有从对抗攻击的角度进行研究。与以前的研究相比，我们试图弥合这一差距，并提出了一种新的黑箱公平性攻击对公平聚类进行鲁棒性分析。通过全面的实验，我们发现，最先进的模型是非常容易受到我们的攻击，因为它可以显着降低其公平性性能。最后，我们提出了共识公平聚类（CFC），第一个强大的公平聚类方法，将共识聚类转化为一个公平的图划分问题，并迭代学习生成公平的聚类输出。实验上，我们观察到，CFC是非常强大的建议的攻击，因此是一个真正强大的公平聚类的替代品。
2023-02-20 cs.CR cs.CY cs.LG
Proportional Fairness in Clustering: A Social Choice Perspective
Technische Universität Berlin（柏林工业大学）
本文从社会选择视角研究聚类中的比例公平，证明弱比例性聚类同时近似比例公平、个体公平与核心，并扩展至多中心偏离的更强比例代表概念。
2024-05-24 cs.CY cs.GT cs.LG
Learning to Generate Fair Clusters from Demonstrations
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
公平聚类是将相似的实体分组在一起的过程，同时满足数学上定义良好的公平性度量作为约束。由于精确模型规范的实际挑战，规定的公平性约束往往是不完整的，并作为代理的预期公平性要求，导致有偏见的结果时，系统部署。我们研究如何确定一个问题的基础上，从专家有限的示范打算公平约束。每个演示都是对数据子集的聚类。我们提出了一个算法，以确定公平性度量的示范和生成集群使用现有的现成的聚类技术，并分析其理论性质。为了扩展我们的方法，聚类算法目前不存在的新的公平性指标，我们提出了一个贪婪的聚类方法。此外，我们研究如何使用我们的方法生成可解释的解决方案。对三个真实数据集的实证评估表明，我们的方法在快速识别潜在的公平性和可解释性约束，然后用于生成公平和可解释的集群的有效性。
2021-02-08 cs.AI cs.CY cs.DS
Fair Clustering Under a Bounded Cost
University of Maryland（马里兰大学）；Wellesley College（韦尔斯利学院）
聚类是一个基本的无监督学习问题，其中数据集被划分为由度量空间中的邻近点组成的聚类。最近的一个变体，公平聚类，将颜色与代表其组成员的每个点相关联，并要求每个颜色在每个聚类中具有（近似）相等的表示以满足组公平性。在该模型中，由于在算法中强制执行公平性，聚类目标的成本增加。成本的相对增加，“公平的价格”，确实可以是无限的。因此，在本文中，我们建议把聚类目标的上限作为聚类问题的约束条件，并最大限度地提高平等的代表受到it.We考虑两个公平的目标：组功利主义的目标和组平等主义的目标，以及组leximin目标，概括了组平等主义的目标。我们推导出基本的下限近似的功利主义和平等主义的目标，并引入算法与可证明的保证。对于leximin目标，我们引入了一个有效的启发式算法。我们进一步推导出其他自然公平目标的不可能结果。最后，我们在真实世界的数据集上的实验结果证明了我们的算法的有效性。
2023-01-09 cs.DS cs.LG
Adversarial Fair Multi-View Clustering
School of Software, Dalian University of Technology（大连理工大学软件学院）
针对多视图聚类忽视公平性的问题，提出对抗性公平多视图聚类框架，通过对抗训练移除敏感信息并理论保证公平性，实验证明公平性与聚类性能俱佳。
2025-08-06 cs.LG
Fairness, Semi-Supervised Learning, and More: A General Framework for Clustering with Stochastic Pairwise Constraints
Wellesley College（韦尔斯利学院）；Carnegie Mellon University（卡内基梅隆大学）；University of Maryland, College Park（马里兰大学帕克分校）
度量聚类是从组合优化和数据采掘到机器学习和运筹学等领域的基础。然而，在各种情况下，我们可能有额外的要求或知识，不同于底层的度量，关于哪些点对应该聚集在一起。为了捕捉和分析这样的情况下，我们引入了一个新的家庭的\emph{stochastic pairwise constraints}，我们纳入几个基本的聚类目标（半径/中位数/手段）。此外，我们证明了这些约束可以简洁地建模一个有趣的应用程序集合，其中包括聚类中的\emph{Individual Fairness}和半监督学习中的\emph{Must-link}约束。我们的主要结果包括一个一般的框架，产生近似算法与可证明的保证重要的聚类目标，而在同一时间产生的解决方案，尊重随机成对约束。此外，对于某些目标，我们设计改进的结果的情况下，必须链接的约束，这也是最好的可能从理论的角度来看。最后，我们提出了实验证据，验证了我们的算法的有效性。
2021-03-02 cs.DS cs.LG
Better Algorithms for Individually Fair $k$-Clustering
Dartmouth College（达特茅斯学院）
我们研究数据聚类问题与$\ell_p$规范的目标（例如$k$ -中位数和$k$ -手段）在个人公平的背景下。数据集由$n$点组成，我们希望找到$k$中心，使得（a）目标最小化，同时（b）尊重个体公平性约束，即每个点$v$在最多$r(v)$的距离内具有中心，其中$r(v)$是$v$到其$(n/k)$ th最近点的距离。Jung、Kannan和Lutz [FORC 2020]引入了这一概念，并设计了一种聚类算法，该算法具有可证明的（近似的）公平性和$\ell_\infty$或$k$ -中心目标的客观保证。Mahabadi和Vakilian [ICML 2020]重新讨论了这个问题，给出了所有$\ell_p$ -范数的局部搜索算法。从经验上讲，他们的算法优于荣格等人。al.在成本方面有很大的差距（对于$k$ -Median和$k$ -Means），但它们在公平性方面会产生合理的损失。在本文中，我们的主要贡献是使用线性规划（LP）技术，以获得更好的算法，这个问题，在理论和实践中。我们证明，通过修改已知的LP舍入技术，得到一个最坏情况下的保证的目标，这是比MV 20更好，经验，这个目标是非常接近最佳的。此外，我们的理论公平性保证在理论上与MV 20相当，并且根据经验，我们获得了明显更公平的解决方案。虽然解决LP { \em确切}可能是禁止的，我们证明，在实践中，一个简单的稀疏化技术大大提高了…
2021-06-23 cs.CY cs.DS cs.LG
Deep Fair Discriminative Clustering
University of California - Davis（加州大学戴维斯分校）
与传统的聚类方法（如$k$ -means和谱聚类）相比，深度聚类具有学习强表示的潜力，因此具有更好的聚类性能。然而，这种强大的表示学习能力可能会通过发现受保护信息的代理人而使聚类不公平，这在我们的实验中是经验性的。在这项工作中，我们研究了一个一般的概念，二进制和多状态保护状态变量（PSV）的组级公平性。我们首先将组级公平性问题制定为整数线性规划公式，其完全么模约束矩阵意味着它可以通过线性规划有效地解决。然后，我们展示了如何将此求解器注入到一个有区别的深度聚类骨干中，从而提出了一种改进的学习算法，将聚类目标与公平目标相结合，以自适应地学习公平聚类。在真实数据集上的实验结果表明，我们的模型始终优于最先进的公平聚类算法。我们的框架显示出可喜的成果，新的聚类任务，包括灵活的公平性约束，多状态PSV和预测聚类。
2021-05-28 cs.CY cs.LG stat.ML
Accurate Fairness: Improving Individual Fairness without Trading Accuracy
State Key Laboratory of Computer Science, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所计算机科学国家重点实验室）；University of Chinese Academy of Sciences（中国科学院大学）
准确性和个体公平性对于可信的机器学习都是至关重要的，但这两个方面往往是相互不兼容的，因此增强一个方面可能会不可避免地牺牲另一个方面，从而产生真偏差或假公平的副作用。我们在本文中提出了一个新的公平标准，准确的公平性，个人的公平性与准确性。非正式地说，它要求个人和个人的类似对应方的待遇符合统一的目标，即，个人的基本事实我们证明，准确的公平性也意味着典型的组公平标准在一个联盟的类似的子种群。然后，我们提出了一个暹罗公平处理方法，以最大限度地减少准确性和公平性损失的机器学习模型下准确的公平性约束。据我们所知，这是第一次采用暹罗方法来缓解偏差。我们还提出了公平混淆矩阵为基础的指标，公平精度，公平召回，公平F1得分，量化准确性和个人公平之间的权衡。与流行的公平数据集的比较案例研究表明，我们的暹罗公平方法可以实现平均1.02%-8.78%的个人公平性正确率提高8.38%~ 13.69%，真实公平率提高10.09%~ 20.57%，公平F1分提高5.43%~ 10.01%，最先进的偏差缓解技术。这表明我们的暹罗公平方法确实可以在没有交易准确性的情况下提高个人公平性。最后，应用精确公平标准和Siamese公平方法来减轻真实携程数据集可能的服务歧视，平均公平地服务于比基线模型多112.33%的客户（具体地说，以精确公平的方式多81.29%的客户）。
2022-11-30 cs.CY cs.LG
Fairness in Visual Clustering: A Novel Transformer Clustering Approach
University of Arkansas（阿肯色大学）；Concordia University（康考迪亚大学）；Carnegie Mellon University（卡内基梅隆大学）；North Carolina A&T State University（北卡罗来纳农业技术州立大学）
本文针对无监督深度聚类中的公平性问题，提出基于聚类纯度一致性的损失函数和Cross-attention注意力机制，在提升聚类准确性的同时有效减少多个敏感属性上的人口统计偏差。
2023-09-18 cs.CV cs.LG
Fair Clustering: Critique, Caveats, and Future Directions
University of Maryland, College Park（马里兰大学帕克分校）；University of Chicago（芝加哥大学）；University of Washington（华盛顿大学）
本文批判审视公平聚类研究，指出其存在效用表征缺失、下游影响难衡量等被忽视问题，还通过示例证明公平聚类算法可能损害社会福利，并提出推动该领域更具影响力研究的方向。
2024-06-22 cs.AI cs.CY cs.DS
Individual Fairness in Hierarchical Clustering
Indian Institute of Technology, Gandhinagar（印度理工学院甘地纳格尔分校）
针对层次聚类扭曲局部相似性影响单个数据点的问题，将个体公平性要求限制在k近邻范围，刻画可行性所需松弛量并通过实验验证相关理论结果。
2026-08-27 cs.LG
COVAriance-Induced Fairness Gap Penalty for Subgroup-Fair Clustering
Department of Statistics, Seoul National University（首尔国立大学统计系）；KAIST AI（韩国科学技术院人工智能研究所）
研究在多敏感属性定义多个子群时的公平聚类问题，提出基于协方差诱导公平差距惩罚的方法，推导代理并连续松弛，扩展框架捕捉子群 - 边际公平差距，实验证明算法在成本 - 公平权衡上有竞争力且提高计算效率。
2026-07-21 cs.LG stat.ML
Fair Correlation Clustering in Forests
Humboldt University of Berlin（柏林洪堡大学）；Hasso Plattner Institute, University of Potsdam（波茨坦大学哈索·普拉特纳研究所）；University of Vienna（维也纳大学）
算法公平性的研究近年来受到越来越多的关注。这源于人们意识到，机器学习系统的输入数据中的偏差可能导致歧视性输出。对于聚类任务，公平性的最核心概念之一是Chierichetti，Kumar，Lattanzi和Vassilvitskii的形式化[NeurIPS 2017]。如果每个聚类具有与整个输入集相同的敏感属性的表现分布，则聚类被称为公平的。这是由各种应用程序所激发的，其中要聚类的对象具有不应过度表示或表示不足的敏感属性。我们讨论了这种公平的概念相关聚类的适用性。现有的文献所产生的公平相关聚类问题要么提出近似算法与穷人的近似保证或严重限制可能的敏感属性的分布（往往只有两种表现形式与1：1的比例被认为）。我们的目标是了解在这两个极端之间是否有希望获得更好的结果。为此，我们考虑限制图形类，使我们能够描述敏感属性的分布，这种形式的公平性是从复杂性的角度来看，易于处理。虽然现有的工作公平相关聚类给出了近似算法，我们专注于精确的解决方案，并调查是否有有效的可解决的情况。相关聚类的不公平版本在森林中是微不足道的，但增加公平性会产生令人惊讶的丰富复杂性。我们概述了公平相关聚类从易处理到难处理的森林的分布和类型。最令人惊讶的是，公平相关聚类困难的原因并不是公平条件的严格性。
2023-02-22 cs.CC cs.CY cs.DM
Generalized Reductions: Making any Hierarchical Clustering Fair and Balanced with Low Cost
University of Maryland（马里兰大学）
本文提出广义归约方法，将层次聚类的公平近似代价从$O(n^{5/6}poly\log(n))$改进至$O(n^δpoly\log(n))$，并支持任意层级上的公平与均衡保证。
2023-05-09 cs.DS cs.LG
Fairness in Clustering with Multiple Sensitive Attributes
Indian Institute of Technology Madras（印度理工学院马德拉斯分校）；Queen’s University Belfast（贝尔法斯特女王大学）
如果每个聚类中的敏感属性组的比例反映了数据集中的敏感属性组的比例，则可以认为聚类对预先指定的敏感属性是公平的。在本文中，我们考虑的任务，公平聚类的情况下，涉及多个多值或数值敏感属性。我们提出了一个公平的聚类方法，\textit{FairKM}（公平K均值），这是受流行的K均值聚类公式。我们概述了一个计算的公平性的概念，这是一起使用的集群的一致性目标，产生的FairKM聚类方法。我们根据经验评估我们的方法，其中我们量化了真实世界数据集上聚类的质量和公平性。我们的实验评估表明，由FairKM票价显着更好的聚类质量和公平的代表性的敏感属性组相比，从一个国家的最先进的基线公平聚类方法的集群。
2020-01-24 cs.AI cs.LG stat.ML
Deep Clustering based Fair Outlier Detection
Brandeis University（布兰迪斯大学）；Michtom School of Computer Science（米奇托姆计算机科学学院）
在本文中，我们专注于无监督离群点检测的公平性问题。传统的算法，没有一个具体的设计，算法公平性，可以隐含编码和传播数据中的统计偏差，并引起社会的关注。为了纠正这种不公平并提供一组公平的潜在离群点候选者，我们提出了基于深度聚类的公平离群点检测（DCFOD），它学习一个好的表示以实现效用最大化，同时强制可学习的表示在敏感属性上保持子群不变。考虑到聚类和离群点检测之间的耦合和互惠性质，我们利用深度聚类来发现内在的聚类结构和结构外实例。同时，对抗性训练擦除实例的敏感模式以进行公平性自适应。从技术上讲，我们提出了一种实例级加权表示学习策略来增强联合深度聚类和离群点检测，其中动态权重模块重新强调了可能的内点的贡献，同时减轻了离群点的负面影响。通过对8个数据集和17个离群点检测算法的实验表明，我们的DCFOD方法在离群点检测有效性和两种类型的公平性概念上都取得了优异的性能。
2021-06-09 cs.CY cs.LG
Incorporating Fairness in Neighborhood Graphs for Fair Spectral Clustering
Indian Institute of Technology, Guwahati, Assam, India（印度理工学院加尔各答分校）；Florida A&M University（佛罗里达农业与机械大学）
本研究提出公平的邻域图构造方法，通过在图构造早期阶段融入公平性约束，提升谱聚类的公平性，实验表明其在多个数据集上优于现有方法。
2025-12-10 cs.LG
Multi-View Fair Clustering Guided by Cross-View Sensitive Information Discrepancy
Dalian University of Technology（大连理工大学）
针对多视图聚类中不同视图敏感依赖差异被忽视的问题，提出由跨视图敏感信息差异引导的公平聚类框架，通过偏置排序非对称对齐与公平正则化，兼顾聚类质量与群体公平。
2026-09-23 cs.LG
Maxmin-Fair Ranking: Individual Fairness under Group-Fairness Constraints
ISI Foundation（ISI基金会）；Eurecat（Eurecat技术中心）
我们研究了一个新的问题，旨在尽量减少个人的不公平性时，强制执行组公平性约束排名的公平性。我们的建议是植根于分布最大最小公平理论，它使用随机化，以最大限度地提高预期的满意度最差的个人。我们设计了一个精确的多项式时间算法，找到最大最小公平分布的一般搜索问题（包括，但不限于，排名），并表明我们的算法可以产生的排名，同时满足给定的组公平性约束，确保最大可能的价值被带到个人。
2021-06-17 cs.AI cs.DS cs.LG
Towards Cohesion-Fairness Harmony: Contrastive Regularization in Individual Fair Graph Clustering
L3S Research Centre, Leibniz University Hannover（莱布尼茨汉诺威大学L3S研究中心）；University of Kurdistan（库尔德斯坦大学）；RI CODE, University of the Bundeswehr Munich（慕尼黑联邦国防军大学RI CODE）
针对传统公平图聚类牺牲簇内聚性且缺乏可解释性的问题，提出带对比公平正则化的个体公平非负矩阵三因子分解模型 iFairNMTF，实现平衡且内聚的聚类，兼顾准确性与公平性的可定制权衡，并在实验中验证了其灵活性和优越性能。
2024-02-16 cs.AI cs.IT cs.LG
UniFair: A unified fair clustering approach based on separation and compactness
University of Ioannina（伊奥安纳大学）；Archimedes/Athena Research Center（阿基米德/雅典娜研究中心）
提出UniFair框架，通过联合优化分离公平性和社会公平性，在保持聚类质量的同时减少群体差异。
2026-06-04 cs.LG
Bridging the Fairness Divide: Achieving Group and Individual Fairness in Graph Neural Networks
University of Georgia（佐治亚大学）；University of Virginia（弗吉尼亚大学）
本文提出新框架FairGI，通过个体相似性矩阵实现组内个体公平，并利用对抗学习解决群体公平问题，在图神经网络中同时实现了群体公平与组内个体公平，且保持了相当的预测准确率。
2024-04-26 cs.CY cs.LG cs.SI
Interpretable Fair Clustering
School of Software, Dalian University of Technology（大连理工大学软件学院）
本文提出了一种可解释且公平的聚类框架，通过整合公平性约束到决策树结构中，提升聚类的公平性和可解释性。
2025-11-26 cs.LG
Accelerating Spectral Clustering under Fairness Constraints
EPFL（苏黎世联邦理工学院）
本文针对带群体公平性约束的谱聚类，基于DC框架结合变量增广与ADMM型算法提出高效Fair SC方法，避免昂贵特征分解，在合成与真实数据上实现显著加速。
2025-06-09 cs.LG
Fair Clustering with Clusterlets
University of Pisa（比萨大学）；CNR（意大利国家研究理事会）
针对公平聚类中难以获得合适起始聚类的问题，提出基于 clusterlet 的模糊匹配算法，在优化经典目标的同时正则化公平性，并实证实现高公平、高内聚与低重叠。
2025-05-03 cs.AI cs.LG
Rethinking Individual Fairness in Deepfake Detection
Clarkstown High School South（Clarkstown 高中南分校）；Purdue University（普渡大学）；Carmel High School（Carmel 高中）
本研究针对深度伪造检测中个体公平性缺失的问题，发现原有个体公平原则在该场景下不成立，提出可集成到现有检测器的可推广框架，实验证明其在保持检测性能的同时显著提升个体公平性，优于现有最优方法。
2025-07-30 cs.CY cs.LG
Bias Mitigation Post-processing for Individual and Group Fairness
IBM Research（IBM研究院）；IBM Watson AI Platform（IBM沃森人工智能平台）
鉴于以前的后处理方法，以增加有偏见的分类器的预测的公平性只解决组公平性，我们提出了一种方法，以增加个人和组公平性。我们的新框架包括一个单独的偏见检测器，用于在偏见缓解算法中优先考虑数据样本，旨在提高不同影响的组公平性度量。我们在信用、就业和刑事司法等应用中的几个真实数据集上，在分类准确性、个人公平性和群体公平性的结合方面表现出了优于以往工作的性能。
2018-12-14 cs.CY cs.LG stat.ML
From Discrete to Continuous: Deep Fair Clustering With Transferable Representations
School of Information Science and Engineering, Southeast University（东南大学信息科学与工程学院）
针对现有深度公平聚类无法处理连续敏感属性且忽略表示迁移潜力的问题，提出一种基于信息瓶颈的灵活方法，在表示层面施加公平性约束，能同时处理离散与连续敏感属性，并首次实现向下游任务的可迁移性，实验证明其优于现有最先进方法。
2024-03-24 cs.CV cs.CY cs.LG
Attraction-Repulsion clustering with applications to fairness
Universidad de Valladolid（巴利亚多利德大学）；Basque Center for Applied Mathematics（巴斯克应用数学中心）；Université de Toulouse（图卢兹大学）
我们认为多样性增强聚类的问题，即开发聚类方法，产生集群，有利于多样性方面的一组受保护的属性，如种族，性别，年龄等的背景下，公平聚类，多样性起着重要作用时，公平被理解为人口均等。为了促进多样性，我们在未受保护的属性中引入扰动，以类似于物理学中带电粒子的吸引-排斥的方式来解释受保护的属性。这些扰动是通过一个易于处理的解释相异性定义的。基于吸引-排斥相异性的聚类分析惩罚了聚类中关于受保护属性的同质性，并导致多样性的改善。我们的方法，这属于预处理设置的一个优点，是它与各种各样的聚类方法和白非欧几里德数据的兼容性。我们说明了使用我们的程序与合成和真实的数据，并提供多样性，公平性和集群结构之间的关系的讨论。我们的过程是在一个R包中实现的，可以在https://github.com/HristoInouzhe/AttractionRepulsionClustering上免费获得。
2021-10-26 cs.LG stat.ML
iFlipper: Label Flipping for Individual Fairness
Georgia Institute of Technology（佐治亚理工学院）；KAIST（韩国科学技术院）
随着机器学习变得普遍，减轻训练数据中存在的任何不公平变得至关重要。在公平的各种概念中，本文重点讨论了众所周知的个人公平，即相似的个人应该得到相似的对待。虽然在训练模型（处理中）时可以提高个体公平性，但我们认为在模型训练（预处理）之前修复数据是一个更根本的解决方案。特别是，我们表明，标签翻转是一种有效的预处理技术，提高个人的公平性。我们的系统iFlipper解决了最小翻转标签的优化问题，给出了对个人公平违规的限制，当训练数据中的两个类似的例子有不同的标签时，就会发生违规。我们首先证明了这个问题是NP-困难的。然后，我们提出了一个近似的线性规划算法，并提供理论保证如何接近其结果是最优解的标签翻转的数量。我们还提出了技术，使线性规划的解决方案更优化，而不超过违规限制。在真实数据集上的实验表明，iFlipper在看不见的测试集上的个体公平性和准确性方面明显优于其他预处理基线。此外，iFlipper还可以与处理中技术相结合，以获得更好的效果。
2022-09-15 cs.CY cs.LG
Fair Correlation Clustering
Google Research（谷歌研究院）
本文研究了公平性约束下的相关聚类问题。最近已经研究了$k$ -中值和$k$ -中心聚类的公平变体，并且已经提出了使用称为公平分解的概念的近似算法。在几种重要的公平性约束条件下，我们得到了公平相关聚类的近似算法。我们的研究结果取决于通过引入一个新的组合优化问题获得相关聚类的Fairlet分解。我们定义了一个公平分解的成本类似的$k$ -中值成本，这使我们能够获得广泛的公平性约束的近似算法。我们补充我们的理论结果与我们的算法在真实的图上的深入分析，我们表明，公平的解决方案，相关聚类可以获得有限的成本增加相比，国家的最先进的（不公平的）算法。
2020-03-02 cs.AI cs.DS cs.LG
Variational Fair Clustering
Xidian University（西安电子科技大学）
我们提出了一个通用的变分框架的公平聚类，它集成了一个原始的Kullback-Leibler（KL）的公平项与一大类的聚类目标，包括原型或图形为基础。从根本上不同于现有的组合和光谱的解决方案，我们的变分多项的方法，使控制公平性和聚类目标之间的权衡水平。我们推导出一个一般的紧上界的基础上，我们的公平项，它的Lipschitz梯度性质和Pinsker不等式的凹凸分解。我们的严格上限可以与各种聚类目标联合优化，同时产生一个可扩展的解决方案，并保证收敛。有趣的是，在每次迭代中，它为每个赋值变量执行独立的更新。因此，它可以很容易地分布到大规模的数据集。这种可扩展性很重要，因为它可以探索公平性和聚类目标之间的不同权衡级别。与谱松弛不同，我们的公式不需要计算其特征值分解。我们报告全面的评估和比较，与国家的最先进的方法在各种公平的聚类基准，这表明我们的变分配方可以产生极具竞争力的解决方案的公平性和聚类目标。
2020-12-04 cs.LG stat.ML
Fair Clustering via Alignment
Department of Statistics, Seoul National University, Republic of Korea（统计系，首尔国立大学，大韩民国）；School of Law, Seoul National University, Republic of Korea（法学院，首尔国立大学，大韩民国）
提出FCA算法，通过分解公平K均值目标并交替对齐数据与优化中心，实现高效用且数值稳定的公平聚类。
2025-10-23 cs.AI cs.LG stat.ML
Metric Learning for Individual Fairness
Harvard University（哈佛大学）
最近有很多关于如何在分类中衡量或执行公平的讨论。个人公平[Dwork，Hardt，Pitassi，Reingold，Zemel，2012]要求相似的个人受到类似的待遇，这是一个非常有吸引力的定义，因为它为个人的待遇提供了强有力的保证。不幸的是，对特定于任务的相似性度量的需要阻止了其在实践中的使用。在这项工作中，我们提出了一个解决方案的问题，近似度量个人公平的基础上人类的判断。我们的模型假设我们可以访问一个人类公平仲裁者，他可以回答一组有限的关于特定任务中个体相似性的查询，没有明确的偏见，并拥有足够的领域知识来评估相似性。我们的贡献包括定义度量近似相关的个人公平，建设近似从有限数量的现实查询的仲裁员的样本的个人，和学习过程，以构建假设的度量近似推广到看不见的样本下的某些假设的距离阈值函数的可学习性。
2020-04-02 cs.CY cs.LG stat.ML
GFairHint: Improving Individual Fairness for Graph Neural Networks via Fairness Hint
University of Maryland（马里兰大学）；College of Information Studies, University of Maryland（马里兰大学信息研究学院）
针对现有图神经网络个体公平性方法无法同时兼顾性能平衡、多相似性适配、模型通用性和计算效率的问题，提出GFairHint方法，通过辅助链接预测任务生成公平性提示，在多数据集多模型上实现公平性最优且效用相当、成本更低。
2025-01-13 cs.CY cs.LG cs.SI
Fairness Evaluation in Text Classification: Machine Learning Practitioner Perspectives of Individual and Group Fairness
IBM Research（IBM研究院）；Massachusetts Institute of Technology（麻省理工学院）
减轻算法偏见是机器学习模型开发和部署中的一项关键任务。虽然有几个工具包可以帮助机器学习从业者解决公平性问题，但人们对从业者用来评估模型公平性的策略以及影响其评估的因素知之甚少，特别是在文本分类的背景下。评价模型公平性的两种常用方法是群体公平性和个体公平性。我们与机器学习从业者（n=24）进行了一项研究，以了解用于评估模型的策略。向从业者提出的问题（群体与个人公平性）影响他们认为公平的模型。与会者重点关注与低估/高估相关的风险以及与身份令牌操作相关的模型敏感性。我们发现公平性评估策略涉及个人经验或用户如何形成身份令牌组来测试模型的公平性。我们提供了交互式工具的建议，用于评估文本分类的公平性。
2023-03-01 cs.CY cs.HC cs.LG
Scalable Spectral Clustering with Group Fairness Constraints
University of Kentucky（肯塔基大学）
本文提出可扩展的公平谱聚类算法s-FairSC，通过零空间投影和Hotelling紧缩避免稠密矩阵运算，在保持与FairSC相当聚类质量的同时实现约12倍加速，并具备良好的可扩展性。
2023-04-14 cs.LG stat.ML
Impacts of Individual Fairness on Group Fairness from the Perspective of Generalized Entropy
KAIST（韩国科学技术院）；POSTECH（浦项工科大学）；Sungkyunkwan University（成均馆大学）
本文通过广义熵约束的经验风险最小化算法研究个体公平对群体公平的影响，证明其PAC可学习性，并实验发现加强个体公平并不总能提升群体公平。
2025-11-09 cs.LG
Metric-Free Individual Fairness with Cooperative Contextual Bandits
George Mason University（乔治梅森大学）
数据采掘算法越来越多地用于日常生活中各行各业的自动决策。不幸的是，正如几项研究所报告的那样，这些算法注入了来自数据和环境的偏见，导致不公平和不公平的解决方案。为了减轻机器学习中的偏差，已经提出了公平性的不同形式化，其可以被分类为群体公平性和个体公平性。群体公平性要求不同的群体应该得到类似的对待，这可能对群体中的某些人不公平。另一方面，个体公平要求相似的个体受到相似的对待。然而，个人的公平性仍然研究不足，由于其依赖于特定问题的相似性度量。我们提出了一个无度量的个人公平性和合作上下文土匪（CCB）算法。CCB算法利用公平性作为奖励并试图最大化它。将公平性视为奖励的优点是公平性标准不需要是可微的。该算法在多个真实世界的基准数据集上进行了测试。结果表明，该算法在减轻偏见，实现个人和群体的公平性的有效性。
2020-11-13 cs.LG
Unraveling Privacy Risks of Individual Fairness in Graph Neural Networks
Faculty of IT Monash University（莫纳什大学信息技术学院）；School of CIS The University of Melbourne（墨尔本大学计算机与信息系统学院）；School of ICT Griffith University（格里菲斯大学信息与通信技术学院）
本文探索图神经网络中边泄漏隐私风险与个体公平性的相互作用，发现提升公平性会加剧隐私风险，并提出基于影响函数的损失重加权与图结构扰动方法以平衡两者。
2024-03-20 cs.CY cs.LG
Proportionally Representative Clustering
UNSW Sydney（新南威尔士大学悉尼分校）；ETH Zürich（苏黎世联邦理工学院）；Northwestern University（西北大学）
聚焦无监督机器学习的质心聚类，提出‘比例代表性公平’公理，现有算法不满足该公理，设计高效算法在无约束和离散聚类问题中实现此公理，无约束算法是首个多项式时间近似算法，离散算法匹配已知最佳近似因子。
2026-07-07 cs.GT cs.LG
Causal Adversarial Perturbations for Individual Fairness and Robustness in Heterogeneous Data Spaces
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；McGill University（麦吉尔大学）
本文提出因果对抗扰动与对抗训练正则化方法，利用结构因果模型和敏感属性构建公平度量，在异构数据空间中同时提升分类器的个体公平性、对抗鲁棒性和因果意识。
2023-08-17 cs.CY cs.LG
Certification of Distributional Individual Fairness
The Alan Turing Institute（阿兰·图灵研究所）；University of Cambridge（剑桥大学）
本研究提出一种新颖的凸近似方法，显著降低了神经网络局部个体公平性认证的计算成本，并基于拟凸优化实现了对大几个数量级神经网络的分布个体公平性认证和正则化。
2023-11-20 cs.CY cs.LG
