Downstream Fairness Caveats with Synthetic Healthcare Data
Rensselaer Polytechnic Institute(伦斯勒理工学院);IBM Research(IBM研究院)
本文评估综合生成的医疗数据的偏见,并调查公平缓解技术效用公平的影响。隐私法限制对电子病历(EMR)等健康数据的访问,以保护患者隐私。尽管这些法律是必要的,但它们阻碍了研究的可重复性。合成数据是一种可行的解决方案,可以在没有隐私风险的情况下访问类似于真实医疗数据的数据。医疗保健数据集可能存在偏见,某些受保护的群体可能会比其他群体经历更糟糕的结果。由于真实数据存在偏差,综合生成的健康数据的公平性受到质疑。在本文中,我们评估了在两个医疗数据集上生成的性别和种族偏见模型的公平性。我们使用名为HealthGAN的生成对抗网络生成数据集的合成版本,并比较真实和合成模型的平衡准确性和公平性得分。我们发现,合成数据具有不同的公平性相比,真实数据和公平缓解技术的表现不同,突出表明,合成数据是没有偏见的。
2022-03-09 cs.LG
Finding Representative Group Fairness Metrics Using Correlation Estimations
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
意识到数据中嵌入的历史歧视并考虑公平性措施以减少整个预测建模流程中的偏差至关重要。考虑到文献中定义的各种公平性概念,调查指标之间的相关性和相互作用对于解决不公平性至关重要。从业者和数据科学家应该能够理解每个指标,并根据上下文、用例和法规检查它们对彼此的影响。探索用于这种检查的不同度量的组合空间是繁重的。为了减轻选择公平概念的负担,我们提出了一个框架,估计公平概念之间的相关性。因此,我们的框架确定了一组不同的和语义上不同的指标作为代表给定的上下文。我们提出了一个蒙特卡罗抽样技术计算的公平性指标之间的相关性间接和有效的扰动模型空间。使用估计的相关性,然后我们找到一个子集的代表性指标。本文提出了一种通用的方法,可以推广到任何任意一组公平性指标。我们展示了使用真实世界的基准数据集上的综合实验的建议的有效性。
2022-12-28 cs.CY cs.LG
Can Synthetic Data be Fair and Private? A Comparative Study of Synthetic Data Generation and Fairness Algorithms
Centre for the Science of Learning & Technology (SLATE), University of Bergen(学习科学与技术中心(SLATE),卑尔根大学);University of South Australia(澳大利亚南澳大利亚大学)
本研究探讨了合成数据生成与公平性算法在平衡隐私和公平性方面的效果,发现DECAF算法在隐私和公平性之间取得最佳平衡,但其预测准确性较低,而对合成数据应用预处理公平算法能进一步提升公平性。
2025-01-03 cs.AI cs.CY cs.LG
Fair4Free: Generating High-fidelity Fair Synthetic Samples using Data Free Distillation
Linköping University(林雪平大学)
针对私有或不可访问数据场景,本文提出 Fair4Free,通过教师模型学习公平表示并无数据蒸馏到小型学生模型来生成公平合成样本,在公平性、效用和合成质量上均超越现有方法。
2024-10-02 cs.AI cs.LG
Evaluating the Fairness Impact of Differentially Private Synthetic Data
Harvard University(哈佛大学);Microsoft(微软)
差分私有合成数据是一种很有前途的方法,可以最大限度地利用包含敏感信息的数据。然而,由于压制代表性不足的阶层往往需要实现隐私,这可能与公平相冲突。我们评估了四个DP合成器,并提出了实证结果表明,这些模型中的三个经常降低下游二进制分类任务的公平性结果。我们在公平性和生成的合成数据中存在的少数群体的比例之间建立了联系,并发现通过多标签欠采样方法预处理的数据训练合成器可以在不降低准确性的情况下促进更公平的结果。
2022-06-20 cs.LG
FairCauseSyn: Towards Causally Fair LLM-Augmented Synthetic Data Generation
University of California, Irvine(加州大学尔湾分校)
提出首个LLM增强的合成数据生成方法FairCauseSyn,在健康表格数据上实现因果公平,偏差小于10%,并将敏感属性偏差降低70%。
2025-06-23 cs.AI cs.LG
FairFinGAN: Fairness-aware Synthetic Financial Data Generation
University of Koblenz(科伦兹大学);Hanoi University of Science and Technology(河内科学技术大学);Banking Academy of Vietnam(越南银行学院);University of Sheffield(谢菲尔德大学)
FairFinGAN通过引入公平性约束生成公平且实用的合成金融数据,有效减少偏见并提升数据实用性。
2026-03-05 cs.LG
Proportionally Representative Clustering
UNSW Sydney(新南威尔士大学悉尼分校);ETH Zürich(苏黎世联邦理工学院);Northwestern University(西北大学)
聚焦无监督机器学习的质心聚类,提出‘比例代表性公平’公理,现有算法不满足该公理,设计高效算法在无约束和离散聚类问题中实现此公理,无约束算法是首个多项式时间近似算法,离散算法匹配已知最佳近似因子。
2026-07-07 cs.GT cs.LG
AIM-Fair: Advancing Algorithmic Fairness via Selectively Fine-Tuning Biased Models with Contextual Synthetic Data
Queen Mary University of London(伦敦玛丽女王大学)
AIM-Fair提出利用上下文感知LLM引导扩散模型生成无偏合成数据,并通过选择性微调仅更新对偏差敏感的参数,从而在无人口统计标签条件下同时提升模型公平性与效用。
2025-03-07 cs.CV cs.LG
FairTabGen: High-Fidelity and Fair Synthetic Health Data Generation from Limited Samples
University of California, Irvine(加州大学尔湾分校);TU Wien (Vienna University of Technology)(维也纳技术大学);Heidelberg University(海德堡大学)
FairTabGen通过结合上下文学习、提示整理和结构约束,以更少的数据生成高保真且公平的合成医疗数据,提升公平性的同时保持预测效用。
2026-02-18 cs.AI cs.LG
Privacy-Preserving Fair Synthetic Tabular Data
University of Manitoba(曼尼托巴大学)
针对合成表格数据中隐私与公平性难以兼顾的问题,提出基于WGAN-GP的PF-WGAN生成器,通过添加隐私和公平性约束,在效用、隐私和公平性间实现了更均衡的权衡。
2025-03-04 cs.CR cs.LG
Fairness-aware Multiobjective Evolutionary Learning
Southern University of Science and Technology(南方科技大学);Research Institute of Trustworthy Autonomous System(可信自主系统研究院);Guangdong Provincial Key Laboratory of Brain-inspired Intelligent Computation(广东省类脑智能计算重点实验室);School of Data Science, Lingnan University(岭南大学数据科学学院)
本文提出一种在模型训练期间在线动态自适应确定代表性公平性指标集的方法,将其作为多目标进化学习的优化目标,在12个基准数据集上有效缓解了不公平性并保持了高准确率。
2024-09-27 cs.AI cs.LG
Quantitative Auditing of AI Fairness with Differentially Private Synthetic Data
Institute of Information Science, Academia Sinica(学术院信息研究所)
该研究提出利用差分隐私合成数据审计AI系统公平性的框架,在保护隐私的同时实现严格的公平性评估,并在真实数据集上验证了其有效性和适用性。
2025-04-30 cs.AI cs.CY cs.LG
Generating Synthetic Fair Syntax-agnostic Data by Learning and Distilling Fair Representation
Northeastern University(东北大学)
本文提出基于知识蒸馏的公平数据生成方法,通过小型架构蒸馏潜在空间中的公平表示,在公平性、样本质量和数据效用上分别提升5%、5%和10%。
2024-08-20 cs.AI cs.LG
FairGen: Fair Synthetic Data Generation
Mastercard(万事达卡);Credgenics;GoTo Group(GoTo集团)
随着机器学习在银行、制药、教育技术等领域的日益普及,采用负责任的人工智能方法来确保模型不会不公平地歧视任何群体变得至关重要。由于缺乏干净的训练数据,生成对抗技术更适合生成合成数据,这些数据具有几种最先进的架构,这些架构在各个领域都很容易获得,从非结构化数据(如文本,图像)到结构化数据集建模欺诈检测等等。这些技术克服了诸如类不平衡、有限的训练数据、由于隐私问题而限制对数据的访问的若干挑战。专注于生成公平数据的现有工作要么适用于特定的GAN架构,要么很难在GANs之间进行调整。在本文中,我们提出了一个管道,以产生更公平的合成数据独立的GAN架构。本文提出了一种预处理算法,以识别和删除偏差诱导样本。特别是,我们声称,在生成合成数据时,大多数GANs会放大训练数据中存在的偏差,但通过删除这些偏差诱导样本,GANs本质上更关注真实的信息样本。我们在两个开源数据集上的实验评估展示了所提出的管道如何生成公平的数据,以及在某些情况下如何提高性能。
2022-12-01 cs.AI cs.CY cs.LG
Fair and Representative Subset Selection from Data Streams
University of Helsinki(赫尔辛基大学);Pompeu Fabra University(庞培法布拉大学);Eurecat(Eurecat技术中心)
我们研究的问题,从一个大的数据流中提取一个小的代表性项目的子集。在许多数据挖掘和机器学习应用中,例如社会网络分析和推荐系统,这个问题可以被公式化为最大化服从基数约束的单调子模函数$k$。在这项工作中,我们考虑设置在流中的数据项属于几个不相交的组之一,并调查的优化问题与一个额外的\emph{fairness}约束,限制选择到一个给定数量的项目从每个组。然后,我们提出了有效的算法的公平性感知的流子模块最大化问题的变体。特别是,我们首先给出了一个$ (\frac{1}{2}-\varepsilon) $近似算法,需要$ O(\frac{1}{\varepsilon} \log \frac{k}{\varepsilon}) $通过流的任何常数$ \varepsilon>0 $。此外,我们给出了一个单通流算法,具有相同的近似比的$(\frac{1}{2}-\varepsilon)$时,无限的缓冲区大小和后处理时间是允许的,并讨论如何适应更实际的设置,缓冲区大小是有界的。最后,我们证明了我们提出的算法的效率和有效性在两个现实世界的应用程序,即\emph{maximum coverage on large graphs}和\emph{personalized recommendation}。
2021-02-12 cs.DS cs.LG
Portable Causal Fairness Across Synthetic Data Generator Families
University of Washington Tacoma(华盛顿大学塔科马分校)
本研究将三种公平性定义迁移至多类合成数据生成器,验证了其通用性,提出的因果扩散主干生成公平性最优的合成数据,且对保真度影响极小,添加隐私保证不损害公平性。
2026-09-04 cs.LG
Synthetic Data Generation for Intersectional Fairness by Leveraging Hierarchical Group Structure
Univ. Lille(里尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院);Université de Montpellier(蒙彼利埃大学)
本文提出一种利用层级群体结构生成合成数据的数据增强方法,以增强分类任务的交叉性公平性,实验证明其优于传统公平性方法。
2024-05-23 cs.CL cs.LG
Where to Intervene? Benchmarking Fairness-Aware Learning on Differentially Private Synthetic Tabular Data
ÉTS Montréal(蒙特利尔高等商学院);Inria Grenoble(格勒诺布尔计算机科学及自动化研究所)
研究在差分隐私合成表格数据上公平干预的效果,以自适应迭代机制为基准,在多数据集、指标及策略下评估,比较四种管道配置,发现仅DP会降效,公平干预可部分恢复公平,后处理方法权衡更优,还开源相关内容以支持研究。
2026-07-29 cs.AI cs.CR cs.LG
Fairness-Optimized Synthetic EHR Generation for Arbitrary Downstream Predictive Tasks
University of Delaware(德克萨斯大学)
提出一种与任务和模型无关的合成EHR数据生成流水线,在保持与真实数据一致的同时减少下游任务的公平性问题,为健康AI应用提供广泛适用的公平性优化工具。
2025-06-27 cs.LG
Assessment of Differentially Private Synthetic Data for Utility and Fairness in End-to-End Machine Learning Pipelines for Tabular Data
AI for Good Research Lab, Microsoft(微软AI for Good研究实验室);Department of Electrical Engineering, University of Brasilia(巴西利亚大学电气工程系);INSITRO
本文系统评估了差分隐私合成数据在表格数据端到端机器学习流程中的效用与公平性,提出不依赖真实数据的训练评估框架,并发现基于边缘分布的生成器(尤其是MWEM PGM)优于GAN方法,可训练出接近真实数据效用的模型。
2023-10-30 cs.CR cs.LG
Fair Wasserstein Coresets
Operations Research Center, Massachusetts Institute of Technology(麻省理工学院运筹学中心);J.P.Morgan AI Research(摩根大通人工智能研究院)
针对大规模数据下游学习的公平性问题,提出公平Wasserstein核心集方法,通过多数最小化算法兼顾Wasserstein距离最小化与人口均等,在合成与真实数据上实现了有竞争力的公平性-效用权衡,还可降低大语言模型预测偏差。
2024-10-29 cs.CY cs.LG stat.ML
Learning Fair Canonical Polyadical Decompositions using a Kernel Independence Criterion
Rensselaer Polytechnic Institute(伦斯勒理工学院)
这项工作提出了学习公平的低秩张量分解正则化的典型多元分解因式分解与核希尔伯特施密特独立准则(KHSIC)。它示出,理论和经验,一个小的KHSIC之间的潜在因素和敏感功能保证近似的统计奇偶性。所提出的算法超越了最先进的算法FATR(Zhu等人,2018),在控制公平性和残差拟合之间的权衡合成和真实数据集。
2021-04-27 cs.LG stat.ML
MCRAGE: Synthetic Healthcare Data for Fairness
Emory University(埃默里大学);Rice University(莱斯大学)
针对医疗数据敏感属性不平衡导致模型对少数群体不公平的问题,提出MCRAGE方法,利用CDDPM生成高质量少数类合成EHR数据来增强数据集,有效降低下游模型偏见并提供了理论证明。
2024-03-20 cs.LG stat.ML
Bt-GAN: Generating Fair Synthetic Healthdata via Bias-transforming Generative Adversarial Networks
Linköping University(林雪平大学)
提出Bt-GAN,一种基于GAN的医疗合成数据生成器,通过信息约束生成过程解决虚假相关性,利用基于分数的加权采样保留子群体密度,在保持SOTA准确率的同时显著提升公平性。
2024-04-26 cs.AI cs.LG
A Principled Method for the Creation of Synthetic Multi-fidelity Data Sets
IBM Research Europe(IBM欧洲研究院)
多保真度和多输出优化算法在计算设计的许多领域都有积极的兴趣,因为它们允许更便宜的计算代理智能地用于帮助实验搜索高性能物种。这些算法的特征涉及通常使用分析函数或现有多保真度数据集的基准。然而,分析功能往往不代表相关的问题,而预先存在的数据集不允许系统的调查的影响,较低的保真度代理的特点。为了弥合这一差距,我们提出了一种方法,系统地生成合成的原始数据来自预先存在的数据集。这使得建设的基准都是实际的优化问题的代表,同时也允许系统的调查的影响较低的保真度代理。
2022-08-26 cs.LG stat.ML
Beyond Internal Data: Constructing Complete Datasets for Fairness Testing
Centre of Artificial Intelligence University College London(人工智能研究中心伦敦大学学院)
针对公平性测试中人口统计数据难以获取的问题,本文提出利用分离但重叠的数据集构建高保真合成完整数据,实证表明其公平性指标与真实数据一致。
2025-07-24 cs.AI cs.LG stat.ML
FaiREE: Fair Classification with Finite-Sample and Distribution-Free Guarantee
Stanford University(斯坦福大学);Peking University(北京大学);Rutgers University(罗格斯大学)
本文提出公平分类算法FaiREE,在有限样本和分布无关条件下满足多种群体公平约束并实现最优准确率,实验证明其优于现有方法。
2025-03-12 cs.LG stat.ML
Synthetic Tabular Data Generation for Class Imbalance and Fairness: A Comparative Study
Freie Universität Berlin(柏林自由大学);Universität der Bundeswehr München(慕尼黑联邦国防军大学)
本文比较研究最先进的合成表格数据生成模型与多种采样策略,以同时缓解现实表格数据中的类别和群体不平衡,并在四个数据集上验证其改善公平性与效用的效果。
2024-09-08 cs.AI cs.LG
Addressing Shortcomings in Fair Graph Learning Datasets: Towards a New Benchmark
Rensselaer Polytechnic Institute(伦斯勒理工学院);The Pennsylvania State University(宾夕法尼亚州立大学);New Jersey Institute of Technology(新泽西理工学院);Michigan State University(密歇根州立大学)
针对公平图学习数据集边信息缺失、评估不可靠的问题,本文构建含可控偏见的合成、半合成及真实数据集,并提出统一评估基准。
2024-06-18 cs.CY cs.LG
VariFace: Fair and Diverse Synthetic Dataset Generation for Face Recognition
Sony Group Corporation(索尼集团公司);Sony R&D Center China(索尼中国研发中心)
针对现有合成人脸数据集多样性不足、性能不及真实数据集的问题,提出基于扩散的两阶段流水线VariFace,通过三种方法优化标签、提升多样性并平衡权衡,所生成数据集在公平性和性能上超越现有合成方法,甚至部分超过真实数据集。
2025-04-17 cs.CV cs.LG
Data-Driven Fairness Generalization for Deepfake Detection
Florida State University(佛罗里达州立大学);Oklahoma State University(俄克拉荷马州立大学)
本文提出一种数据驱动框架,通过合成多样化人口群体数据、损失锐度感知优化和多任务学习,解决深度伪造检测中的公平性泛化问题,并在跨数据集评估中超越现有方法。
2024-12-31 cs.AI cs.CV cs.CY
FairWire: Fair Graph Generation
University of California, Irvine(加州大学欧文分校)
针对图数据中的结构性偏见,提出公平正则化器及公平图生成框架FairWire,有效缓解真实与合成图的结构性偏见。
2024-02-06 cs.CY cs.LG
CuTS: Customizable Tabular Synthetic Data Generation
ETH Zurich(苏黎世联邦理工学院)
本文提出CuTS,首个可定制表格合成数据生成框架,通过声明式统计和逻辑表达式支持差分隐私、公平性等多种需求,并利用预训练与基于规范的自动可微损失微调确保数据质量,在多个数据集上超越现有专业方法。
2024-06-02 cs.DB cs.LG cs.PL
FairX: A comprehensive benchmarking tool for model analysis using fairness, utility, and explainability
Institute for Experiential AI, Northeastern University(东北大学体验式人工智能研究院)
FairX是一个开源Python基准测试工具,统一支持公平性、效用和可解释性分析,并新增公平生成模型训练与合成数据质量评估能力,支持表格和图像数据集。
2024-09-03 cs.AI cs.LG
An Analysis of the Deployment of Models Trained on Private Tabular Synthetic Data: Unexpected Surprises
Microsoft(微软);University of Brasilia(巴西利亚大学)
分布式私有(DP)合成数据集是训练机器学习模型的强大方法,同时尊重各个数据提供者的隐私。DP对最终训练模型的公平性的影响尚未得到很好的理解。在这篇文章中,我们系统地研究了差异化私人合成数据生成对分类的影响。我们分析了模型效用和偏见的差异所造成的合成数据集,通过算法的公平性度量。我们的第一组结果表明,尽管在我们评估的所有数据合成器中,隐私和效用之间似乎存在明显的负相关关系(越隐私,越不准确),但更多的隐私并不一定意味着更多的偏见。此外,我们还评估了利用合成数据集进行模型训练和模型评估的效果。我们表明,在合成数据上获得的结果可能会错误估计实际模型的性能,当它部署在真实数据上。因此,我们主张需要定义适当的测试协议的情况下,不同的私人合成数据集用于模型训练和评估。
2021-06-15 cs.CY cs.LG stat.ML
Transitioning from Real to Synthetic data: Quantifying the bias in model
Mastercard, India(万事达卡(印度))
随着生成式建模技术的出现,合成数据及其使用已经渗透到各个领域,从图像、文本等非结构化数据到结构化数据集建模医疗结果、金融领域的风险决策等等。它克服了各种挑战,如有限的训练数据,类不平衡,由于隐私问题而限制对数据集的访问。为了确保用于自动决策目的的训练模型做出公平的决策,存在量化和减轻这些问题的先前工作。本研究的目的是建立一个平衡的偏见和公平性之间的模型训练使用合成数据。研究了合成数据生成技术的变体,以理解包括差异私有生成方案的偏差放大。通过在表格数据集上的实验,我们证明了使用合成数据训练的模型存在不同程度的偏差影响。通过公平性度量,生成较少相关特征的技术表现良好,相对于真实数据集,DPD(人口统计学奇偶性差异)、EoD(机会均等)和EoP(机会均等)分别相对下降94%、82%和88%,DRP(人口统计学奇偶性比率)相对提高24%。我们相信,我们的研究成果将有助于数据科学从业者理解使用合成数据的偏见。
2021-05-10 cs.LG
Fairness Feedback Loops: Training on Synthetic Data Amplifies Bias
University of Toronto(多伦多大学);Vector Institute(矢量研究院);University of Oxford(牛津大学)
本研究提出追踪多代模型诱导分布偏移的框架,发现其会引发性能与公平性下降等问题,同时提出算法补偿框架,通过构建代表性训练批次开展干预,为识别和缓解不公平反馈循环提供新思路。
2024-03-12 cs.LG
Spending Privacy Budget Fairly and Wisely
New York University(纽约大学);Microsoft(微软)
差别私有合成数据生成是一种改进数据获取的实用方法,是鼓励建立生产性伙伴关系的一种手段。DP固有的一个问题是“隐私预算”通常在数据集中的特征之间均匀地“花费”。这导致了与真实数据的良好统计奇偶性,但可能低估了对合成数据的预测质量至关重要的条件概率和边际。此外,预测质量的损失在数据集上可能是不均匀的,其中对应于少数群体的子集可能遭受更高的损失。在本文中,我们开发了集成方法,该方法“明智地”分配隐私预算,以最大限度地提高在DP数据上训练的模型的预测准确性,并“公平地”限制不同群体之间准确性的潜在差异,减少不平等。我们的方法是基于这样的见解,即特征重要性可以告知如何分配隐私预算,并且,进一步地,可以将每组特征重要性和公平性相关的性能目标纳入分配中。这些见解使我们的方法可以根据社会背景进行调整,使数据所有者能够生成平衡的合成数据,用于预测分析。
2022-04-27 cs.CR cs.LG
Data Augmentation via Diffusion Model to Enhance AI Fairness
Prairie View A&M University(Prairie View A&M大学);Texas A&M University System(德克萨斯农工大学系统);College of Juvenile Justice(少年司法学院);Texas Juvenile Crime Prevention Center(德克萨斯青少年犯罪预防中心)
本文研究利用扩散模型 Tab-DDPM 生成合成表格数据并结合 AIF360 样本重加权来增强人工智能公平性,实验表明该方法能有效改善二分类公平性。
2024-10-20 cs.AI cs.CY cs.LG
A Comprehensive Evaluation Framework for Synthetic Trip Data Generation in Public Transport
Division of Transport Planning, Department of Civil and Architectural Engineering, KTH Royal Institute of Technology, Stockholm, Sweden(土木与建筑系运输规划部,皇家理工学院,斯德哥尔摩,瑞典);Digital Futures, KTH Royal Institute of Technology, Stockholm, Sweden(数字未来,皇家理工学院,斯德哥尔摩,瑞典)
针对公共交通合成出行数据评估零散的问题,提出涵盖代表性、隐私、效用三维度三层级的RPU框架,基准测试12种生成方法,发现CTGAN权衡最优,为相关方法选型提供系统可复现的评估基础。
2025-10-28 cs.LG
Transferring Fairness under Distribution Shifts via Fair Consistency Regularization
University of Maryland, College Park(马里兰大学帕克分校);Boston University(波士顿大学)
在高风险任务中越来越依赖ML模型,这引起了人们对违反公平性的主要担忧。虽然有大量的工作提高了算法公平性,但大多数都是在相同的训练和测试分布的假设下进行的。然而,在许多现实世界的应用中,这样的假设往往是违反的,因为以前训练的公平模型往往部署在不同的环境中,这种模型的公平性已经被观察到崩溃。本文研究了在分布偏移下如何传递模型公平性这一在实际中普遍存在的问题。我们进行了细粒度的分析如何影响下的公平模型的不同类型的分布偏移,并发现域的变化是更具挑战性的比子种群的变化。受自训练在域转移下传递准确性的成功启发,我们推导出传递组公平性的充分条件。在此基础上,我们提出了一个以公平一致性正则化为核心的实用算法。一个合成的数据集基准,它涵盖了所有类型的分布偏移,部署的理论研究结果的实验验证。在包括图像和表格数据的合成数据集和真实数据集上的实验表明,该方法在各种分布偏移下有效地传递了公平性和准确性。
2023-01-14 cs.CY cs.LG
Using Synthetic Data to Mitigate Unfairness and Preserve Privacy in Collaborative Machine Learning
Lehigh University(利哈伊大学)
提出两阶段合成数据策略,通过双层优化和差分隐私生成合成数据,实现协作机器学习中的公平预测、隐私保护和单次通信降本。
2025-01-23 cs.CY cs.LG math.OC
FFPDG: Fast, Fair and Private Data Generation
Amazon(亚马逊公司)
针对现有GAN方法在合成数据生成中存在的偏见、高计算资源消耗及隐私问题,提出一种快速、公平、灵活且隐私的数据生成方法FFPDG,理论及实验证明其有效,且在真实场景中表现良好。
2023-06-30 cs.AI cs.LG
Towards Facilitated Fairness Assessment of AI-based Skin Lesion Classifiers Through GenAI-based Image Synthesis
DFKI GmbH(德累斯顿理工大学人工智能研究所)
本文通过生成式人工智能图像合成方法,评估AI皮肤病变分类器的公平性,验证合成图像在公平性测试中的有效性。
2025-12-22 cs.AI cs.CV cs.LG
FairDD: Fair Dataset Distillation
Zhejiang University(浙江大学)
针对数据集蒸馏加剧模型对受保护属性偏见的问题,提出FairDD框架,通过将合成数据集同步匹配原始数据集的PA分组,在保持准确率的同时显著提升了公平性。
2025-10-12 cs.AI cs.CV cs.CY
Long-Term Fair Decision Making through Deep Generative Models
University of Arkansas(阿肯色大学);Clemson University(克莱姆森大学)
本文针对序贯决策中的长期群体公平问题,提出基于时间因果图和1-Wasserstein距离的公平度量,并设计三阶段框架,利用深度生成模型生成高保真数据,以施为性风险最小化和重复梯度下降训练公平决策模型。
2024-01-20 cs.CY cs.LG
Guarantees for Spectral Clustering with Fairness Constraints
Rutgers University(罗格斯大学);Georgia Tech(佐治亚理工学院)
鉴于谱聚类(SC)用于划分图数据的广泛流行,我们研究了一种受约束的SC版本,其中我们试图纳入Chierichetti等人提出的公平性概念。根据这个概念,如果每个人口统计组在每个聚类中近似地按比例表示,则聚类是公平的。为此,我们开发了规范化和非规范化约束SC的变体,并表明它们有助于在合成和真实数据上找到更公平的聚类。我们还提供了一个严格的理论分析,我们的算法上的一个自然的随机块模型,其中$h$组有很强的组间连接,但也表现出一个“自然”的聚类结构,这是公平的。我们证明,我们的算法可以恢复这种公平的聚类概率很高。
2019-05-10 cs.DS cs.LG stat.ML
Towards Fairness and Privacy: A Novel Data Pre-processing Optimization Framework for Non-binary Protected Attributes
Heinrich Heine University(海因里希·海涅大学)
本文提出了一种基于组合优化和遗传算法的数据预处理框架,通过寻找最小化歧视的数据子集来消除数据集中的偏见,支持数据移除或合成数据等用例,在提升AI公平性的同时保护隐私,且具备高度的灵活性和高效运行时间。
2024-10-01 cs.CY cs.LG
MedEqualizer: A Framework Investigating Bias in Synthetic Medical Data and Mitigation via Augmentation
The Ohio State University(俄亥俄州立大学)
本研究评估了基于GAN的合成医疗数据在人口统计属性上的公平性,发现存在显著失衡,并提出模型无关的增强框架MedEqualizer,通过在生成前丰富代表性不足的子组来显著改善数据集的人口统计平衡。
2025-11-02 cs.LG
FAIRM: Learning invariant representations for algorithmic fairness and domain generalization with minimax optimality
Institute of Statistics and Big Data, Renmin University of China(中国人民大学统计与大数据研究院);Department of Statistics, Rutgers University(罗格斯大学统计系)
本文提出基于训练环境的不变学习方法 FAIRM,在多样性条件下兼顾算法公平性与领域泛化,并在线性模型中给出有限样本保证和极小极大最优性,实验表明其优于现有方法。
2024-04-02 cs.LG stat.ME stat.ML
Evaluating Causal Discovery Algorithms for Path-Specific Fairness and Utility in Healthcare
University of California Irvine(加州大学尔湾分校);University of Orléans(奥尔良大学)
本文评估了三种因果发现算法在结构恢复和路径特定公平分解中的表现,发现Peter-Clark在合成数据中表现最佳,Fast Causal Inference在心力衰竭数据中效用最高,路径特定效应分析揭示了公平-效用比的差异。
2026-03-16 cs.AI cs.LG
FairPFN: Transformers Can do Counterfactual Fairness
University of Freiburg(弗莱堡大学);Zuse School ELIZA(楚塞ELIZA学院);Charité(夏里特医学院);ELLIS Institute Tübingen(蒂宾根ELLIS研究院)
本文提出 FairPFN,一种基于 ICL 与 PFN、用合成公平数据预训练的 Transformer,可无需真实因果模型而从观测数据中消除受保护属性的因果影响。
2024-07-08 cs.AI cs.CY cs.LG
TABFAIRGDT: A Fast Fair Tabular Data Generator using Autoregressive Decision Trees
Research Institute CODE, Universität der Bundeswehr München, Munich, Germany(CODE研究机构,德国联邦国防军大学米伦分校);Department of Statistics, Munich Center for Machine Learning (MCML), LMU Munich, Munich, Germany(统计系,慕尼黑机器学习中心(MCML),慕尼黑大学)
提出TABFAIRGDT,一种基于自回归决策树的快速公平表格数据生成器,通过软叶子重采样减少偏见,在公平性、效用和效率上超越SOTA深度生成模型。
2025-09-24 cs.AI cs.LG