Mitigating Cognitive Biases in Multi-Criteria Crowd Assessment
Kyoto University(京都大学)
针对众包多准则评估中的认知偏差问题,构建众包评估数据集研究准则间偏差影响,并提出两种考虑准则间关系的贝叶斯意见聚合模型结构,有效减少偏差并提升聚合准确性。
2024-07-10 cs.HC cs.LG
FairFlow: Mitigating Dataset Biases through Undecided Learning
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
针对语言模型易受数据集偏差影响导致新数据性能下降的问题,提出FairFlow去偏差框架,通过扰动操作生成偏差视图结合对比目标学习鲁棒表征,在域外和难样本上优于现有方法且不影响域内性能。
2025-03-22 cs.AI cs.CL cs.LG
EqualizeIR: Mitigating Linguistic Biases in Retrieval Models
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
本文提出 EqualizeIR 框架,利用语言偏置弱学习器正则化训练鲁棒检索模型,以缓解 IR 模型因查询语言复杂度不同而产生的性能偏见,并在多个数据集上验证其能缩小性能差距并提升整体检索效果。
2025-03-22 cs.CL cs.LG
OccamNets: Mitigating Dataset Bias by Favoring Simpler Hypotheses
Rochester Institute of Technology(罗切斯特理工学院);Adobe Research(奥多比研究院);University of Rochester(罗切斯特大学)
针对数据集偏差损害深度网络泛化的问题,提出具备两种归纳偏置的OccamNets架构,通过偏好简单假设提升鲁棒性,性能优于或匹敌现有最优方法,且与现有去偏方法结合可进一步提升效果。
2024-04-15 cs.LG
Mitigating Biases for Instruction-following Language Models via Bias Neurons Elimination
Seoul National University(首尔大学);LG AI Research(LG AI研究院);University of Michigan(密歇根大学)
该研究定义并验证了偏置神经元的存在,提出 CRISPR 方法利用可解释性技术自动识别并消除指令遵循语言模型中的偏置神经元,在零样本设置下有效缓解偏置且不损失模型性能,仅消除至少三个神经元即可生效。
2024-06-05 cs.AI cs.CL cs.LG
Teacher's pet: understanding and mitigating biases in distillation
Google Research(谷歌研究院)
知识蒸馏被广泛地用作使用来自复杂教师模型的预测来改进相对简单的学生模型的性能的手段。一些作品表明,蒸馏显着提高学生的整体表现,但是,这些收益均匀所有数据分组?在本文中,我们证明了蒸馏可以损害某些子群的性能,例如,类与一些相关的样本。我们将这种行为追溯到教师分布转移到学生模型并被学生模型放大所产生的错误。为了缓解这个问题,我们提出了技术,软化教师的影响,它是不太可靠的子群。在多个图像分类基准上的实验表明,这些改进的蒸馏保持了整体准确性的提高,同时还确保了子组性能的提高。
2021-07-08 cs.LG
Investigating Biases in Textual Entailment Datasets
理解句子之间逻辑关系的能力是语言理解的一项重要任务。为了帮助完成这项任务,研究人员收集了用于机器学习和评估当前系统的数据集。然而,就像众包的视觉问答(VQA)任务一样,数据中不可避免地会出现一些偏差。在我们的实验中,我们发现只对SNLI数据集上的假设进行分类,准确率为64%。我们分析了SNLI和MultiNLI数据集的偏差程度,讨论了其含义,并提出了一种简单的方法来减少数据集的偏差。
2019-06-23 cs.CL cs.LG
Mitigating Racial Biases in Toxic Language Detection with an Equity-Based Ensemble Framework
Georgia Institute of Technology(佐治亚理工学院);The Ohio State University(俄亥俄州立大学)
最近的研究表明,在流行的有毒语言数据集中,对写非裔美国人英语的用户存在种族偏见。虽然以前的工作集中在一个单一的公平标准,我们建议使用额外的描述性公平指标,以更好地了解这些偏见的来源。我们证明了不同的基准分类器,以及两个过程中的偏见补救技术,传播种族偏见,即使在一个更大的语料库。然后,我们提出了一个新的整体框架,使用一个专门的分类器,是微调到非洲裔美国人的英语方言。我们表明,我们提出的框架大大减少了模型从这些数据集中学习到的种族偏见。我们展示了集成框架如何提高所有样本数据集的公平性指标,对分类性能的影响最小,并提供经验证据,证明其能够消除对使用非裔美国人英语的作者的注释偏见。* * 请注意,本作品可能包含冒犯性词语和短语的示例。
2021-09-27 cs.CL cs.LG
Discovering and Mitigating Visual Biases through Keyword Explanation
KAIST(韩国科学技术院);University of Michigan(密歇根大学);KRAFTON;POSTECH(浦项科技大学)
提出B2T框架,通过从错误预测图像描述中提取并验证关键词来解释视觉偏差,支持偏差发现与去偏差训练等应用,在多个数据集上有效识别已知和新颖偏差。
2024-03-27 cs.CV cs.LG
Mitigating Unwanted Biases with Adversarial Learning
Stanford University(斯坦福大学);Google(谷歌)
机器学习是用于构建准确表示输入训练数据的模型的工具。当训练数据中存在关于人口统计学群体的不期望的偏差时,经过良好训练的模型将反映这些偏差。我们提出了一个框架,包括一个变量的兴趣组,同时学习预测和对手,以减轻这种偏见。网络X的输入,这里是文本或人口普查数据,产生一个预测Y,比如一个类比完成或收入等级,而对手试图对一个受保护的变量Z(这里是性别或邮政编码)进行建模。目标是最大化预测者预测Y的能力,同时最小化对手预测Z的能力。应用于类比完成,这种方法导致准确的预测,表现出较少的刻板印象Z的证据。当应用于使用UCI Adult(Census)Dataset的分类任务时,其产生预测模型,该预测模型不会损失太多准确性,同时实现非常接近均等的几率(Hardt等人,2016)。该方法是灵活的,适用于多种定义的公平性,以及广泛的基于梯度的学习模型,包括回归和分类任务。
2018-01-22 cs.AI cs.CY cs.LG
Mitigating Biases in Collective Decision-Making: Enhancing Performance in the Face of Fake News
Université Libre de Bruxelles(布鲁塞尔自由大学);Vrije Universiteit Brussel(布鲁塞尔自由大学(荷语));FARI Institute(FARI研究所);UC Berkeley(加州大学伯克利分校);Center for Human-Compatible AI(人类兼容人工智能中心)
本研究通过收集人类识别假新闻标题的数据集,分析个体与集体偏见的影响,并评估自适应聚合算法,发现其能提升准确性并缓解偏见,促进集体智慧。
2024-03-11 cs.HC cs.LG cs.SI
Improving Fairness and Mitigating MADness in Generative Models
Rice University(莱斯大学)
本文通过设计超网络训练生成模型并引入正则化项,以缓解少数类不公平、模型自噬障碍和参数统计偏差,同时提供可扩展的超网络实现以适配现有深度生成模型。
2024-10-03 cs.LG stat.ML
Mitigating Observation Biases in Crowdsourced Label Aggregation
Kyoto University(京都大学)
众包已经被广泛用于以低成本从大量人力资源高效地获得用于监督学习的标记数据集。然而,从众包中获得高质量结果的技术挑战之一是处理由人类执行工作的事实引起的可变性和偏差,各种研究已经解决了这个问题,通过整合冗余收集的响应来提高质量。在这项研究中,我们专注于众包中的观察偏差。工人响应的频率和任务的复杂性发生变化,这可能会影响聚合结果,当它们与响应的质量相关时。我们还提出了众包响应的统计聚合方法,该方法与因果推断中使用的观测数据偏差消除方法相结合。通过使用合成和真实数据集与/不人工注入垃圾邮件和串通工人的实验,我们验证了所提出的方法提高了聚合精度存在较强的观察偏差和鲁棒性的垃圾邮件和串通工人。
2023-02-25 cs.HC cs.LG
Demographics Should Not Be the Reason of Toxicity: Mitigating Discrimination in Text Classifications with Instance Weighting
Harbin Institute of Technology(哈尔滨工业大学);Tencent CSIG(腾讯云与智慧产业事业群)
随着最近文本分类的使用激增,研究人员发现文本分类数据集中存在某些意想不到的偏见。例如,包含一些人口统计身份术语的文本(例如,“gay”、“black”)在现有的辱骂性语言检测数据集中更可能是辱骂性的。因此,使用这些数据集训练的模型可能会认为像“她让我很高兴成为同性恋”这样的句子是辱骂性的,仅仅因为“同性恋”这个词。在本文中,我们将文本分类数据集中的非预期偏差形式化为一种从非歧视分布到歧视分布的选择偏差。基于这种形式化,我们进一步提出了一个模型无关的去偏训练框架,通过使用实例加权恢复非歧视分布,除了预定义的一组人口统计身份术语外,不需要任何额外的资源或注释。实验表明,该方法可以有效地减轻非预期偏差的影响,而不会显着损害模型的泛化能力。
2020-08-20 cs.CL cs.LG stat.ML
Investigating and Mitigating Barren Plateaus in Variational Quantum Circuits: A Survey
Boise State University(博伊西州立大学)
该综述针对变分量子电路(VQCs)因量子比特数或层数增加导致梯度方差急剧消失的贫瘠高原(BPs)问题,从研究与缓解角度系统梳理文献,提出五类缓解策略分类法并对比相关综述,为BPs未来研究提供方向。
2025-02-09 cs.LG quant-ph
Mitigating Discrimination in Insurance with Wasserstein Barycenters
Université de Montréal(蒙特利尔大学);Université du Québec à Montréal(魁北克大学蒙特利尔分校)
本文针对保险定价中的歧视问题,提出利用Wasserstein重心替代简单缩放来减轻基于敏感特征的历史数据偏差,并在真实数据上验证了其有效性。
2023-06-22 cs.CY cs.LG stat.ML
Demographic Parity: Mitigating Biases in Real-World Data
Institute for Medical Bioinformatics and Biostatistics(医学生物信息学与生物统计学研究所);Philipps-Universität Marburg(马尔堡菲利普斯大学)
针对历史数据偏见会传导至招聘、贷款和量刑等决策模型的问题,本文提出与模型无关的渐近数据集构建方法,在保留分类效用的同时编码人口统计均等,并基于人口普查合成数据验证可消除显性与隐性偏见。
2023-09-27 cs.CY cs.LG
Understanding and Mitigating Annotation Bias in Facial Expression Recognition
University of California, Los Angeles(加州大学洛杉矶分校)
计算机视觉模型的性能取决于其训练数据的大小和质量。最近的研究揭示了常见图像数据集中以前未知的成分偏差,这些偏差导致模型输出偏斜,并提出了减轻这些偏差的方法。然而,大多数现有的作品假设人类生成的注释可以被认为是黄金标准和公正的。在本文中,我们揭示了这种假设可能是有问题的,并且应该特别注意防止模型学习这种注释偏差。我们专注于面部表情识别,并比较实验室控制和野生数据集之间的标签偏差。我们证明了许多表情数据集在性别之间存在显著的注释偏差,特别是在快乐和愤怒的表情方面,并且传统方法无法完全减轻训练模型中的这种偏差。为了消除表情注释偏差,我们提出了一个AU校准的面部表情识别(AUC-FER)框架,利用面部动作单元(AU),并将三重损失的目标函数。实验结果表明,该方法是更有效地消除表达式注释偏见比现有的技术。
2021-08-19 cs.AI cs.CV cs.LG
Mitigating biases in big mobility data: a case study of monitoring large-scale transit systems
Southwest Jiaotong University(西南交通大学);University of Washington(华盛顿大学);University of South Florida(南佛罗里达大学);Dongguan University of Technology(东莞理工学院)
本研究评估大规模移动数据中的偏差,提出缓解方法,并验证其在美国100多个县公共交通系统监测中的有效性,揭示COVID-19后恢复的区域差异。
2024-07-16 cs.CY cs.LG physics.soc-ph
Mitigating Label Biases for In-context Learning
EPFL(洛桑联邦理工学院);UC Irvine(加州大学欧文分校);ETH Zurich(苏黎世联邦理工学院)
本文定义了上下文学习中的三种标签偏差,并提出利用随机领域内单词估计偏差的校准方法,显著提升了GPT-J和GPT-3在多任务上的性能。
2023-08-04 cs.AI cs.CL cs.LG
Biased or Flawed? Mitigating Stereotypes in Generative Language Models by Addressing Task-Specific Flaws
Virginia Tech(弗吉尼亚理工大学)
本文提出通过指令微调解决理解缺陷,在不使用显式去偏技术的情况下,将生成模型在国籍、年龄等维度上的刻板印象输出减少超过60%,并强调区分偏见与任务缺陷的重要性。
2024-12-16 cs.CL cs.LG
Measuring and Mitigating Biases in Motor Insurance Pricing
Euro-Institut d’Actuariat Jean Dieudonné (EURIA)(让·迪厄多内欧洲精算学院(EURIA));Univ Brest(布雷斯特大学);CNRS(法国国家科学研究中心);Université du Québec à Montréal(魁北克大学蒙特利尔分校)
针对非寿险行业定价需兼顾战略、监管与伦理公平的需求,本研究提供一套用于定义、衡量和缓解汽车保险定价中伦理偏见的综合工具,并通过实际应用评估其有效性。
2024-06-20 cs.CY cs.LG stat.ML
OSCaR: Orthogonal Subspace Correction and Rectification of Biases in Word Embeddings
UCLA(加州大学洛杉矶分校);University of Utah(犹他大学)
众所周知,语言表征带有刻板偏见,因此,导致下游任务中有偏见的预测。虽然现有的方法在通过线性投影减轻偏差方面是有效的,但是这样的方法过于激进:它们不仅去除偏差,而且从词嵌入中擦除有价值的信息。我们开发了新的措施来评估特定的信息保留,证明偏见消除和信息保留之间的权衡。为了解决这一挑战,我们提出了OSCaR(正交子空间校正和整流),一种偏差缓解方法,专注于解开概念之间的偏见的关联,而不是删除概念批发。我们对性别偏见的实验表明,OSCaR是一种平衡良好的方法,可以确保语义信息保留在嵌入中,偏见也被有效地减轻。
2021-09-10 cs.AI cs.CL cs.LG
Mitigating topology biases in Graph Diffusion via Counterfactual Intervention
Purdue University(帕克大学);The Pennsylvania State University(宾夕法尼亚州立大学)
FairGDiff通过反事实干预缓解图扩散中的拓扑偏见,平衡公平性与实用性,优于现有方法。
2026-03-02 cs.AI cs.LG cs.SI
Identification and Mitigating Bias in Quantum Machine Learning
University of California, San Diego(加利福尼亚大学圣迭戈分校)
本文围绕量子机器学习中的偏差问题,系统探讨其表现形式、产生原因及识别、诊断与缓解策略,为该领域偏差治理提供研究框架。
2024-09-23 cs.AI cs.LG quant-ph
Mitigating Biases in Student Performance Prediction via Attention-Based Personalized Federated Learning
Purdue University(普渡大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
传统的基于学习的学生建模方法由于数据可用性方面的偏见而无法很好地推广到代表性不足的学生群体。在本文中,我们提出了一种方法来预测学生的表现,从他们的在线学习活动,优化推理的准确性,在不同的人口群体,如种族和性别。在联邦学习的最新基础上,在我们的方法中,单个学生子组的个性化模型是从一个全局模型中导出的,该模型通过元梯度更新在所有学生模型中聚合,该更新考虑了子组的异质性。为了更好地了解学生活动的表现,我们用一种自我监督的行为预训练方法来增强我们的方法,这种方法利用了学生行为的多种形式(例如,访问讲座视频和参与论坛),并在模型聚集阶段包括神经网络注意力机制。通过对来自在线课程的三个真实世界数据集的实验,我们证明了我们的方法在预测所有子组的学生学习成果方面比现有的学生建模基线有了实质性的改进。对由此产生的学生嵌入的视觉分析证实,我们的个性化方法确实在不同的子组中识别出不同的活动模式,与基线相比具有更强的推理能力。
2022-08-02 cs.AI cs.CY cs.LG
Mitigating Bias in RAG: Controlling the Embedder
Carnegie Mellon University(卡内基梅隆大学)
本研究通过偏见冲突理论及120个微调嵌入器实验,发现控制嵌入器偏见比提高其公平性更能有效缓解RAG系统整体偏见。
2025-02-24 cs.CL cs.LG
Investigating and Mitigating Failure Modes in Physics-informed Neural Networks (PINNs)
University of Pittsburgh(匹兹堡大学)
本文针对物理信息神经网络求解偏微分方程时面临的非凸损失景观和高阶导数导致的梯度污染问题,提出绕过高阶导数计算并采用自适应学习率的双重无约束方法,降低搜索空间维度,使非光滑解的PDEs学习成为可能。
2023-05-08 cs.LG cs.NA math.NA
FairDistillation: Mitigating Stereotyping in Language Models
KU Leuven(鲁汶大学);Leuven.AI institute(鲁汶人工智能研究所);TU Berlin(柏林工业大学);Weizenbaum Institute(魏泽鲍姆研究所)
大型预训练的语言模型正成功地用于多种语言的各种任务中。随着这种使用的不断增加,有害副作用的风险也在增加,例如通过复制和加强陈规定型观念。然而,检测和减轻这些危害通常很难做到,并且在处理多种语言或考虑不同偏见时会变得计算昂贵。为了解决这个问题,我们提出了FairDistillation:一种基于知识蒸馏的跨语言方法,在控制特定偏差的同时构建较小的语言模型。我们发现,我们的蒸馏方法不会对大多数任务的下游性能产生负面影响,并成功地减轻了刻板印象和代表性伤害。我们证明,FairDistillation可以创建更公平的语言模型在一个相当低的成本比其他方法。
2022-09-16 cs.CL cs.CY cs.LG
AIM: Attributing, Interpreting, Mitigating Data Unfairness
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);IBM Research(IBM研究院)
针对公平机器学习领域数据偏差溯源研究不足的问题,提出AIM框架,通过样本偏差准则与算法实现偏差的样本级归因解释,并设计基于最小数据编辑的策略,以极低效用损失同时缓解群体与个体不公平性。
2024-06-18 cs.AI cs.LG stat.ML
Investigating Bias with a Synthetic Data Generator: Empirical Evidence and Philosophical Interpretation
Intesa Sanpaolo S.p.A.(意大利联合圣保罗银行);Univ. of Milan-Bicocca(米兰比可卡大学)
机器学习应用在我们的社会中变得越来越普遍。由于这些决策系统依赖于数据驱动的学习,风险在于它们将系统地传播数据中嵌入的偏见。在本文中,我们建议通过引入一个框架来分析偏差,该框架用于生成具有特定类型偏差及其组合的合成数据。我们深入研究这些偏见的性质,讨论它们与道德和正义框架的关系。最后,我们利用我们提出的合成数据生成器在不同的情况下进行实验,各种偏见的组合。因此,我们分析了偏见对非缓解和缓解机器学习模型中的性能和公平性指标的影响。
2022-09-13 cs.AI cs.CY cs.LG
Discover and Mitigate Unknown Biases with Debiasing Alternate Networks
University of Rochester(罗切斯特大学);Kitware, Inc.(Kitware公司)
已经发现深度图像分类器可以从数据集中学习偏差。为了减轻偏差,大多数先前的方法需要受保护属性的标签(例如,年龄,肤色)作为全面监督,这有两个局限性:1)当标签不可用时,这是不可行的; 2)它们无法减轻未知的偏见-人类不会预先设想的偏见。为了解决这些问题,我们提出了去偏置交替网络(DebiAN),它包括两个网络-发现者和分类器。通过以替代方式进行训练,发现者尝试在没有任何偏差注释的情况下找到分类器的多个未知偏差,并且分类器旨在消除发现者识别的偏差。虽然以前的工作是根据单个偏差来评估去偏置结果,但我们创建了Multi-Color MNIST数据集,以更好地在多偏差设置中对多个偏差进行基准缓解,这不仅揭示了以前方法中的问题,而且还展示了DebiAN在同时识别和缓解多个偏差方面的优势。我们进一步在真实世界的数据集上进行了广泛的实验,表明DebiAN中的发现者可以识别人类可能难以发现的未知偏差。关于去偏置,DebiAN实现了强大的偏置缓解性能。
2022-09-07 cs.CV cs.CY cs.LG
From Bytes to Biases: Investigating the Cultural Self-Perception of Large Language Models
Darla Moore School of Business, University of South Carolina(南卡罗来纳大学达拉·摩尔商学院);ESCP Business School(欧洲工商管理学院);University of Arkansas(阿肯色大学)
本文利用 GLOBE 项目的价值观问题测试 ChatGPT 和 Bard,发现其文化自我认知最贴近英语国家及持续经济竞争力国家,并强调识别 LLM 文化偏见以避免偏见循环的重要性。
2023-12-21 cs.AI cs.CL cs.HC
Investigating Inductive Biases for Machine Learning Emulation of Sudden Stratospheric Warmings in Idealised Isca Simulations
Technical University of Denmark(丹麦技术大学);University of Cambridge(剑桥大学);University of Exeter(埃克塞特大学)
测试不同架构的归纳偏差对模拟平流层突然增温动力学的影响,发现三维垂直耦合是关键,但低预测误差不保证物理一致性。
2026-06-18 cs.LG physics.ao-ph
Language Models Get a Gender Makeover: Mitigating Gender Bias with Few-Shot Data Interventions
Carnegie Mellon University(卡内基梅隆大学)
针对预训练语言模型传播性别偏见且重新训练成本高的问题,本文提出仅用10个去偏样本进行微调的少样本数据干预方法,在尽量保持语言建模能力的同时取得优于现有基线的去偏效果。
2023-06-07 cs.CL cs.LG
ForAug: Mitigating Biases in Image Classification via Controlled Image Compositions
RPTU University Kaiserslautern-Landau(凯泽斯劳滕-兰道大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
提出ForAug方法,通过将训练图像分解为前景和背景并重新组合,显式控制物体位置、尺度和背景,打破前景-背景相关性,在ImageNet上提升最高6%准确率,并减少捷径学习行为。
2026-07-02 cs.AI cs.CV cs.LG
Detecting and Mitigating Indirect Stereotypes in Word Embeddings
University of California, Los Angeles(加州大学洛杉矶分校)
本文提出BIRM方法,通过在学习嵌入前修改词间共现概率来消除偏见属性影响,以缓解词嵌入中的间接偏见,实验证明其能降低偏见且仅轻微影响语义质量。
2023-05-23 cs.CL cs.LG
Sampling Strategies for Mitigating Bias in Face Synthesis Methods
Harokopio University of Athens(雅典哈罗科皮翁大学)
针对 StyleGAN2 生成人脸在年龄、性别上的分布偏差,提出在潜在空间直线或球体上采样的两种策略,提升低表征群体样本数并使特征分布更均匀。
2024-05-18 cs.CV cs.LG
Multi-Layer Personalized Federated Learning for Mitigating Biases in Student Predictive Analytics
Elmore Family School of Electrical and Computer Engineering, Purdue University(普渡大学埃尔莫尔家族电气与计算机工程学院);University at Buffalo (SUNY)(纽约州立大学布法罗分校);University of Florida(佛罗里达大学);School of Engineering Education, Purdue University(普渡大学工程教育学院);Manning College of Information and Computer Sciences, University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校曼宁信息与计算机科学学院)
提出多层个性化联邦学习(MLPFL),通过元梯度分布式训练全局模型并个性化各学生子群,缓解数据偏差,在知识追踪和结果预测任务中提升平均预测质量并降低子群间方差。
2024-05-28 cs.AI cs.CY cs.LG
DeepTechnome: Mitigating Unknown Bias in Deep Learning Based Assessment of CT Images
Siemens Healthcare GmbH(西门子医疗有限公司);Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希-亚历山大大学)
使用相关生物信息可靠地检测疾病对于深度学习技术在医学成像中的实际应用至关重要。我们在训练过程中针对未知偏差对深度学习模型进行去偏-而无需预先对输入进行预处理/过滤,也无需假设有关其分布或数据集中精确性质的特定知识。我们使用控制区域作为代理,携带有关偏差的信息,采用分类器模型来提取特征,并使用我们的自定义模块化DecorreLayer抑制有偏差的中间特征。我们评估我们的方法对952肺计算机断层扫描的数据集,通过引入模拟偏差w.r.t.重建核和噪声水平,并提出包括对抗性测试集的偏见减少技术的评估。在中等规模的模型架构中,应用所提出的方法从表现出强偏差的数据中学习,它几乎完美地恢复了在使用相应的无偏数据进行训练时观察到的分类性能。
2022-05-26 cs.CV cs.LG eess.IV
Phrase-Level Adversarial Training for Mitigating Bias in Neural Network-based Automatic Essay Scoring
Eötvös Lorand University(厄特沃什·罗兰大学);University of Groningen(格罗宁根大学)
本文提出一种与模型无关的短语级对抗作文生成与数据增强方法,以缓解AES模型对高频样本的偏见,并在多种神经网络评分模型上验证其稳健性与性能提升。
2024-09-07 cs.AI cs.CL cs.LG
Investigating Recurrent Transformers with Dynamic Halt
University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
本研究系统比较了两种循环Transformer增强方法(深度循环与块状时间循环),提出动态停机机制等新组合,并在LRA等诊断任务上探究归纳偏差。
2025-01-21 cs.AI cs.LG cs.NE
Mitigating Bias in Dataset Distillation
University of California, Los Angeles(加州大学洛杉矶分校)
该研究发现数据集蒸馏会放大原始数据的颜色、背景偏差、抑制损坏偏差,提出基于核密度估计样本重加权的去偏差方法,在CMNIST等数据集上性能远超现有方法,为解决蒸馏偏差放大问题提供有效方案。
2024-07-10 cs.AI cs.CV cs.LG
Investigating the Capabilities and Limitations of Machine Learning for Identifying Bias in English Language Data with Information and Heritage Professionals
University of Edinburgh(爱丁堡大学);Inria Bordeaux(波尔多信息与自动化研究院)
本文重新构建 ML 偏见问题,通过创建模型识别英语数据中的偏见而非消除它,并与信息与遗产专业人员合作评估,揭示了 ML 识别偏见的局限性,提出扩展 ML 公平性方法的混合研究路径。
2025-04-01 cs.AI cs.CL cs.CY