Detecting and Mitigating Bias by Treating Fairness as a Symmetry Operation
Nishit Singh
将偏见形式化为对称性破缺操作,通过损失正则化恢复对称性,在合成数据集上实现90%以上的违规减少,准确率成本约5%。
2026-06-02 cs.AI cs.LG
Biases in the Blind Spot: Detecting What LLMs Fail to Mention
Poseidon Research(Poseidon研究);University College London, United Kingdom(伦敦大学学院, 英国);Imperial College London, United Kingdom(伦敦帝国学院, 英国)
提出全自动黑盒流水线,通过统计测试和思维链分析,自动检测大语言模型在任务中未明确表述的偏见。
2026-05-29 cs.AI cs.LG
Towards detecting unanticipated bias in Large Language Models
Munich University of Applied Sciences(慕尼黑应用科学大学)
针对大型语言模型中研究不足的隐性、未预见偏见,本文提出结合不确定性量化与可解释 AI 方法,评估决策确定性并揭示内部过程,以提升偏见检测能力与 AI 公平性、透明度。
2024-04-03 cs.AI cs.CL cs.LG
Detecting Extratropical Cyclones of the Northern Hemisphere with Single Shot Detector
Nanjing University of Information & Science Technology(南京信息工程大学);University of California San Diego(加州大学圣迭戈分校)
在本文中,我们提出了一个基于深度学习的模型来检测北半球的热带气旋(ETC),同时开发了一种新的处理图像和生成ETC标签的工作流程。我们首先采用Bonfanti等人[1]的方法对气旋中心进行标记,并建立了三个类别的标记ETCs的标准:发展阶段,成熟阶段和衰退阶段。然后,我们提出了一个框架的标签和预处理图像在我们的数据集中。一旦图像和标签准备好作为输入,我们就创建名为Single Shot Detector(SSD)的目标检测模型,以适应数据集的格式。我们在两种设置(二进制和多类分类)上使用标记的数据集训练和评估我们的模型,同时记录结果。最后,我们取得了较高的性能检测成熟阶段的ETCs(平均平均精度为86.64%),和一个可以接受的结果检测所有三个类别的ETCs(平均平均精度为79.34%)。我们的结论是,单次检测器模型可以成功地检测不同阶段的ETC,它在未来的ETC检测在其他相关设置的应用中表现出巨大的潜力。
2021-12-01 cs.CV cs.LG physics.ao-ph
Bounded Expectation of Label Assignment: Dataset Annotation by Supervised Splitting with Bias-Reduction Techniques
Virginia Tech(弗吉尼亚理工大学);Tufts University(塔夫茨大学)
注释大型未标记数据集可能是机器学习应用程序的主要瓶颈。我们介绍了一个方案,用于推断标签的未标记的数据在一小部分的成本标记整个数据集。我们的计划,有界期望的标签分配(BELA),greenhouse查询的甲骨文(或人类labeler)和分区的数据集,以找到数据子集,大多具有相同的标签。然后,BELA可以通过每个子集中已知标签的多数投票来推断标签。BELA通过最大化正确标记示例的预期数量的下限来确定是否从子集中分割或标记。我们的方法与现有的分层标签方案不同,使用监督模型来划分数据,从而避免依赖可能无法按标签准确分组数据的无监督聚类方法。我们设计BELA的策略,以避免偏见,可以通过这种自适应分区。我们在三个数据集上评估了BELA,发现它优于现有的自适应标签策略。
2021-02-25 cs.LG stat.ML
Task-Adaptive Pseudo Labeling for Transductive Meta-Learning
Inha University(仁荷大学)
针对元学习支持集有限导致的样本偏差,本文提出直推式任务自适应伪标签方法,利用标签传播为查询集生成伪标签,并在 5-way 1-shot 分类中超越 SOTA。
2023-04-21 cs.AI cs.LG
Automated Feature Labeling with Token-Space Gradient Descent
提出一种在token-space通过梯度下降直接优化标签表示的特征标注方法,将语言模型作为判别器预测特征激活,并构建多目标优化问题,实验证明其能收敛至可解释的单token标签。
2025-04-01 cs.LG
Combining Self-labeling with Selective Sampling
Wrocław University of Science and Technology(弗罗茨瓦夫理工大学)
由于数据是驱动机器学习模型的燃料,并且访问标记数据通常很昂贵,因此半监督方法一直很受欢迎。它们能够在不需要太多专家标签的情况下获取大型数据集。这项工作结合了自我标记技术与主动学习在一个选择性的抽样方案。我们提出了一种新的方法,建立一个集成分类器。基于对于给定观察的个体基础分类器的决策的不一致性的评估,做出关于是否请求新标签或使用自标签的决策。在初步研究中,我们表明,天真的自我标记的应用程序可以通过引入对选定的类的偏见,从而导致倾斜的类分布损害性能。因此,我们也提出了减少这种现象的机制。实验结果表明,该方法与现有的选择性采样方法相比,具有更好的效果。
2023-01-11 cs.LG
From Local Geometry to Global Pseudo Labeling for Robust Positive Unlabeled Learning under Covariate Shift
U2IS, ENSTA(U2IS,ENSTA);Institut Polytechnique de Paris(巴黎政治学院);AMIAD, Pôle Recherche, Palaiseau(AMIAD,研究学院,帕莱索)
提出SPUNA框架,利用局部流形结构逐步发现偏移数据,在协变量偏移下实现正无标记学习,性能达到全监督方法水平。
2026-08-26 cs.CV cs.LG
From Biased Selective Labels to Pseudo-Labels: An Expectation-Maximization Framework for Learning from Biased Decisions
University of Michigan(密歇根大学)
针对不同亚组标签偏差不同的差异性审查问题,提出DCEM算法,通过理论分析与实验验证其在减轻偏差的同时保持判别性能。
2024-06-27 cs.LG stat.ML
Detecting Gender Bias in Course Evaluations
Chalmers University of Technology(查尔姆斯理工大学)
本文基于机器学习和NLP方法分析课程评价数据,发现学生评价内容因主考教师性别而异,并通过对比英语和瑞典语课程揭示更细微的性别偏见。
2024-04-02 cs.CL cs.LG
Detecting Racial Bias in Jury Selection
Interpretable AI(可解释人工智能公司);Cambridge(剑桥(注:此处为城市名,非机构,根据原文仅提取明确机构,原文中明确机构为Interpretable AI,Cambridge为地址部分,故修正为仅保留明确机构))
为了支持2019年美国最高法院案件“弗劳尔斯诉密西西比州”,APM报告整理了历史法庭记录,以评估该州在打击潜在陪审员时是否表现出种族偏见。该分析使用后向逐步逻辑回归得出结论,种族是一个重要因素,然而,这种选择相关特征的方法只是一种启发式方法,此外不能考虑特征之间的相互作用。我们应用最优特征选择来确定全局最优的特征子集,并确认罢工决策中存在明显的种族偏见证据。我们还使用最优分类树来分割具有相似特征和被击中概率的陪审员人口亚组,并发现其中三个亚组在罢工率方面表现出显着的种族差异,从而确定了数据集中的特定偏见领域。
2021-03-22 cs.CY cs.LG
Implementing Active Learning in Cybersecurity: Detecting Anomalies in Redacted Emails
University of Toronto(多伦多大学);Sun Life Financial Inc.(永明金融有限公司)
对电子邮件异常检测的研究通常依赖于专门准备的数据集,这些数据集可能无法充分反映行业环境中发生的数据类型。在我们的研究中,在一家大型金融服务公司,隐私问题阻止了对电子邮件和附件细节的检查(尽管主题标题和附件文件名是可用的)。这使得在由此产生的编辑电子邮件中标记可能的异常变得更加困难。另一个困难的来源是大量的电子邮件加上资源的稀缺,使得机器学习(ML)成为必要,但也需要更有效的ML模型的人工训练。主动学习(AL)已经被提出作为一种使ML模型的人类训练更有效的方法。然而,由于潜在的人类分析师不确定性,主动学习方法的实施是以人为中心的人工智能挑战,并且在诸如网络安全领域(或医疗保健、航空等)的领域中,标记任务可能进一步复杂化。标签上的错误可能会产生非常不利的后果。在本文中,我们提出的研究成果有关的应用程序的主动学习异常检测在编辑的电子邮件,比较效用不同的方法来实现主动学习在这种情况下。我们评估不同的AL策略及其对模型性能的影响。我们还研究了如何评级的信心,专家在他们的标签可以通知AL。获得的结果进行了讨论,他们的影响AL方法和模型辅助电子邮件异常筛选的专家的作用。
2023-03-03 cs.CR cs.HC cs.LG
Detecting Gender Bias in Transformer-based Models: A Case Study on BERT
University of Connecticut(康涅狄格大学);University of New Mexico(新墨西哥大学);George Mason University(乔治梅森大学);Illinois Institute of Technology(伊利诺伊理工学院);Stevens Institute of Technology(斯蒂文斯理工学院)
在本文中,我们提出了一种新的性别偏见检测方法,利用注意力地图的transformer为基础的模型。通过对注意力模块的修改,设计了性别偏见检测器; 3)将性别偏见检测器插入到模型的不同位置,以呈现性别偏见的内部流程,4)通过扫描整个维基百科(一个BERT预训练数据集)得出一致的性别偏见结论。我们观察到:1)注意力矩阵,Wq和Wk比其他模块引入更多的性别偏见(包括嵌入层)和2)偏差度在模型内部周期性地变化(注意矩阵Q,K,V,以及注意层的剩余部分(包括全连接层,剩余连接,以及层归一化模块)增强了性别偏差,而平均注意力减小了偏差)。
2021-10-15 cs.CL cs.LG
Anomaly detection and automatic labeling for solar cell quality inspection based on Generative Adversarial Network
Mondragon Unibertsitatea(蒙德拉贡大学)
工业中的质量检测应用需要朝着零缺陷制造场景发展,对生产的零件进行无损检测和100%的可追溯性。开发强大的故障检测和分类模型,从启动的线路是具有挑战性的,由于难以获得足够的代表性样本的故障模式和需要手动标记它们。这项工作提出了一种方法来开发一个强大的检测系统,针对thesepeculiarities,在太阳能电池制造的背景下。该方法分为两个阶段:在第一阶段,基于生成对抗网络(GAN)的异常检测模型。该模型能够从一开始就检测和定位太阳能电池内的异常模式,仅使用无缺陷样本进行训练,而不涉及任何手动标记。在第二阶段,随着缺陷样本的出现,检测到的异常将被用作自动生成的注释,用于全卷积网络的监督训练,该网络能够检测多种类型的故障。使用单晶电池的1873个EL图像的实验结果表明:(a)异常检测方案可以用于在非常少的可用数据的情况下开始检测特征,(b)异常检测可以用作自动标记以训练监督模型,以及(c)使用自动标签训练的监督模型的分割和分类结果与使用手动标签。
2021-07-07 cs.CV cs.LG eess.IV
ULF: Unsupervised Labeling Function Correction using Cross-Validation for Weak Supervision
University of Vienna(维也纳大学)
提出基于k折交叉验证的无监督标注函数校正算法ULF,通过模型识别并校正保留LFs的偏差来优化LFs到类别的分配,有效提升弱监督学习且无需人工标注。
2024-01-03 cs.LG
Using Machine Learning to Reduce Observational Biases When Detecting New Impacts on Mars
Jet Propulsion Laboratory, California Institute of Technology(加州理工学院喷气推进实验室);Brown University(布朗大学);ETH Zurich(苏黎世联邦理工学院)
目前对火星最近(新)撞击的清单显示出对低热惯性区域的强烈偏见。这些区域通常在视觉上是明亮的,撞击会产生黑暗的冲刷和射线,使它们更容易被发现。预计在热惯性较高的地区,撞击发生率类似,但这些撞击未被充分探测到。这项研究调查了使用一个训练有素的机器学习分类器,以增加对火星上使用CTX数据的新的影响的检测。这种方法发现了69个新的新撞击,这些撞击已经被后续的HiRISE图像证实。我们发现,检查由热惯性(TI)值划分的候选项,这只可能是由于大量的机器学习候选项,有助于减少观测偏差,增加已知的高TI影响的数量。
2022-07-12 cs.LG
That Label's Got Style: Handling Label Style Bias for Uncertain Image Segmentation
Technical University of Denmark(丹麦技术大学)
分割不确定性模型预测给定输入的合理分割的分布,它们从训练集中的注释器变化中学习。然而,在实践中,这些注释可以在它们的生成方式上系统地不同,例如通过使用不同的标记工具。这将导致数据集既包含数据可变性又包含不同的标签样式。在本文中,我们证明了在这些数据集上应用最先进的分割不确定性模型可能会导致由不同标签风格引起的模型偏差。我们提出了一个更新的建模客观条件的标签风格任意不确定性估计,并相应地修改两个国家的最先进的架构分割不确定性。我们通过大量的实验表明,该方法减少了标签风格偏差,同时提高了分割性能,增加了分割不确定性模型在野外的适用性。我们策划了两个数据集,带有不同标签样式的注释,我们将在发布时将其与我们的代码一起公开。
2023-03-28 cs.CV cs.LG
JointMatch: A Unified Approach for Diverse and Collaborative Pseudo-Labeling to Semi-Supervised Text Classification
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文提出JointMatch方法,通过自适应调整逐类阈值和双网络交叉标签互学习,解决半监督文本分类中的伪标签偏差与错误累积问题,在基准数据集上平均提升5.13%。
2023-10-23 cs.CL cs.LG
Leveraging Ensemble Diversity for Robust Self-Training in the Presence of Sample Selection Bias
Huawei Noah’s Ark Lab(华为诺亚方舟实验室);École des Ponts ParisTech(巴黎桥路学院);ENS Paris-Saclay(巴黎萨克雷高等师范学校)
针对样本选择偏差下softmax置信度过自信导致自训练失效的问题,提出基于线性分类器集成预测多样性的$\mathcal{T}$-similarity置信度,并给出理论分析与多数据集实验验证。
2024-04-03 cs.AI cs.LG stat.ML
Efficient Sequence Labeling with Actor-Critic Training
University of Alberta(阿尔伯塔大学);Google(谷歌)
序列标记的神经方法通常使用条件随机场(CRF)来建模其输出依赖关系,而递归神经网络(RNN)用于其他任务中的相同目的。我们着手建立RNN作为CRF的一个有吸引力的替代品,用于序列标记。为此,我们解决了RNN最突出的缺点之一,即它在最大似然训练中不会暴露于自己的错误。我们将输出序列的预测框定为一个顺序决策过程,其中我们使用调整的演员-评论家算法(AC-RNN)训练网络。我们全面比较了这种策略与RNN和CRF在三个结构化输出任务上的最大似然训练。所提出的AC-RNN有效地匹配了CRF在NER和CCG标记上的性能,并且在机器音译上优于CRF。我们还表明,我们的训练策略明显优于解决RNN暴露偏差的其他技术,例如计划采样和自我批评策略训练。
2018-09-30 cs.AI cs.CL cs.LG
Detecting and Mitigating Algorithmic Bias in Binary Classification using Causal Modeling
Singapore Institute of Technology(新加坡理工学院);University of Western Australia(西澳大利亚大学)
该研究针对二分类场景中的算法性别偏差问题,提出基于因果建模的检测与缓解方法,经Adult数据集验证可有效减偏差且略提准确率,方法易用可解释性强。
2023-11-09 cs.CY cs.LG
A Unified Comparison of User Modeling Techniques for Predicting Data Interaction and Detecting Exploration Bias
Washington University(华盛顿大学)
可视化分析社区已经提出了几种用户建模算法来捕获和分析用户的交互行为,以帮助用户进行数据探索和洞察生成。例如,一些可以检测探索偏差,而另一些可以预测用户将在交互发生之前与之交互的数据点。研究人员认为,这些算法可以帮助创建更智能的可视化分析工具。然而,社区缺乏对这些现有技术的严格评估和比较。因此,关于何时使用何种方法的指导有限。我们的论文试图通过比较和排名八个用户建模算法,根据他们的性能在一组不同的四个用户研究数据集,以填补这一空白。我们分析了探索偏差检测,数据交互预测和算法复杂性等措施。基于我们的研究结果,我们强调了分析用户交互和可视化起源的开放挑战和新方向。
2022-08-09 cs.HC cs.LG
Reproducing, Analyzing, and Detecting Reward Hacking in Rubric-Based Reinforcement Learning
Tsinghua University(清华大学);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Xi’an Jiaotong University(西安交通大学)
本文提出可控黑客环境CHERRL,通过注入已知偏见复现奖励黑客行为,分析其可发现性与可利用性,并探索基于智能体的自动检测方法。
2026-09-30 cs.AI cs.CL cs.LG
Black is to Criminal as Caucasian is to Police: Detecting and Removing Multiclass Bias in Word Embeddings
Microsoft AI Development Acceleration Program(微软人工智能发展加速计划);Carnegie Mellon University(卡内基梅隆大学)
在线文本--跨越体裁、领域和风格--充斥着人类的刻板印象,以公开或微妙的方式表达。在这些文本上训练的词嵌入使这些刻板印象永久化并放大,并将偏见传播到使用词嵌入作为特征的机器学习模型。在这项工作中,我们提出了一种方法来消除种族和宗教等多类设置中的词嵌入,扩展了Bolukbasi等人的工作,2016)从二进制设置,如二进制性别。接下来,我们提出了一种新的方法来评估多类去偏置。我们证明了我们的多类去偏是强大的,并保持在标准的NLP任务的功效。
2019-07-02 cs.CL cs.LG stat.ML
From Bias to Balance: Detecting Facial Expression Recognition Biases in Large Multimodal Foundation Models
Lake Wales High School(莱克威尔士高中);Thomas Jefferson Sr. High School(托马斯·杰斐逊高中);Bellarmine College Preparatory(贝拉明学院预科学校);Algoverse AI Research(Algoverse AI研究机构)
本研究评估了GPT-4o等大型多模态基础模型在面部表情识别中的种族偏见,发现黑人女性愤怒被误判为厌恶的频率更高,为开发公平FER技术奠定基础。
2024-08-27 cs.CV cs.LG
An Adaptive Sampling Framework for Detecting Localized Concept Drift under Label Scarcity
H. Milton Stewart School of Industrial & Systems Engineering(H. Milton Stewart工业与系统工程学院);Georgia Institute of Technology(佐治亚理工学院);EDF Trading(EDF交易)
针对动态工业环境中标签稀缺和局部概念漂移问题,提出结合基于残差的探索与利用及EWMA监控的自适应采样框架,在标注预算约束下高效提升了漂移检测准确性与标签效率。
2025-11-04 cs.LG stat.ML
Systematic Evaluation of Machine-Generated Reasoning and PHQ-9 Labeling for Depression Detection Using Large Language Models
Silicon Austria Labs(硅 Austria 实验室);Jiangnan University(江南大学);Stevens Institute of Technology(史蒂文斯理工学院)
本研究系统性评估大语言模型在抑郁症检测中的推理能力,通过分解任务、对比提示及人工标注揭示弱点,并利用SFT和DPO优化,其中DPO显著提升性能。
2025-05-21 cs.CL cs.LG
Detecting algorithmic bias in medical-AI models using trees
School of Industrial and Systems Engineering, Georgia Institute of Technology(佐治亚理工学院工业与系统工程学院);Department of Biomedical Informatics, Emory University School of Medicine(埃默里大学医学院生物医学信息学系);Department of Surgery, Duke University School of Medicine(杜克大学医学院外科系)
针对医疗AI决策系统的公平性需求,提出结合CART算法与一致性分数的偏见检测框架,经合成数据和医院电子病历验证,可有效识别脓毒症预测等场景下的算法偏见,助力临床医疗决策的公平公正。
2024-10-29 cs.CY cs.LG stat.AP
WeaNF: Weak Supervision with Normalizing Flows
University of Vienna(维也纳大学)
一个流行的方法,以减少需要昂贵的人工注释的大型数据集是弱监督,这引入了噪声标签,覆盖和偏见的问题。克服这些问题的方法要么依赖于判别模型,用特定于弱监督的成本函数进行训练,要么依赖于最近的生成模型,试图对自动注释过程的输出进行建模。在这项工作中,我们探索了弱监督生成建模的一个新方向:不是对注释过程的输出(标签函数匹配)进行建模,而是对标签函数覆盖的输入端数据分布(特征空间)进行生成建模。具体来说,我们通过使用归一化流来估计每个弱标记源或标记函数的密度。我们的方法的一个组成部分是多个同时匹配的标记函数的基于流的建模,因此捕获了标记函数重叠和相关性等现象。我们分析了各种常用的弱监督数据集上的有效性和建模能力,并表明弱监督规范化流与标准弱监督基线相比是有利的。
2022-05-02 cs.CL cs.LG
A Systematic Review of Machine Learning Approaches for Detecting Deceptive Activities on Social Media: Methods, Challenges, and Biases
University of Pennsylvania(宾夕法尼亚大学);Northeastern University(东北大学);New York University(纽约大学);Georgia Institute of Technology(佐治亚理工学院);University of California, Berkeley(加州大学伯克利分校)
本综述评估36项机器学习研究,识别检测社交媒体虚假信息中的选择偏倚、类别不平衡等关键偏见,并提出改进预处理与评估指标以提升模型可靠性。
2025-03-09 cs.LG stat.ML
On Adversarial Bias and the Robustness of Fair Machine Learning
National University of Singapore(新加坡国立大学);Google(谷歌)
优化预测准确性可能会以牺牲公平性为代价。为了最大限度地减少对群体的歧视,公平机器学习算法通过对模型施加公平约束,努力使模型在不同群体中的行为相等。然而,我们表明,给予不同大小和分布的组相同的重要性,以抵消训练数据中的偏差的影响,可能与鲁棒性相冲突。我们分析了基于组的公平机器学习的数据中毒攻击,重点是均衡的赔率。一个可以控制一小部分训练数据的采样或标记的对手,可以大大降低测试精度,超过他在无约束模型上所能达到的精度。对抗性采样和对抗性标记攻击也会恶化模型在测试数据上的公平性差距,即使模型在训练数据上满足公平性约束。我们通过对多个算法和基准数据集的攻击的经验评估来分析公平机器学习的鲁棒性。
2020-06-15 cs.CR cs.CY cs.LG
Detecting Lookahead Bias in LLM Forecasts
Department of Finance, CUHK Business School(CUHK商学院金融系)
提出统计程序检测大语言模型经济预测中的前瞻偏差,通过日期回忆查询估计前瞻倾向(LAP),并验证LAP与预测交互项在精度回归中的显著性,应用于新闻标题和财报电话会议预测任务。
2026-06-15 cs.LG q-fin.GN q-fin.TR
Not All Labels Are Equal: Rationalizing The Labeling Costs for Training Object Detection
TUM(慕尼黑工业大学);NVIDIA(英伟达);CALTECH(加州理工学院)
深度神经网络在目标检测方面已经达到了很高的精度,但它们的成功取决于大量的标记数据。为了减少标签依赖性,已经提出了各种主动学习策略,通常基于检测器的置信度。然而,这些方法偏向于高性能的类,并可能导致获得的数据集不是测试集数据的良好代表。在这项工作中,我们提出了一个统一的框架,主动学习,同时考虑了检测器的不确定性和鲁棒性,确保网络在所有类别中表现良好。此外,我们的方法利用自动标记来抑制潜在的分布漂移,同时提高模型的性能。在PASCAL VOC 07 +12和MS-COCO上的实验表明,我们的方法始终优于广泛的主动学习方法,在mAP上提高了7.7%,在标记成本上降低了82%。代码将在接受论文后发布。
2021-11-29 cs.CV cs.LG
Detecting critical treatment effect bias in small subgroups
本文提出一种新的方法,通过统计检验和亚组分析,评估观察性研究与随机对照试验的治疗效应差异,以提高临床决策的可靠性。
2026-04-13 cs.LG stat.ME stat.ML
Detecting and Mitigating Indirect Stereotypes in Word Embeddings
University of California, Los Angeles(加州大学洛杉矶分校)
本文提出BIRM方法,通过在学习嵌入前修改词间共现概率来消除偏见属性影响,以缓解词嵌入中的间接偏见,实验证明其能降低偏见且仅轻微影响语义质量。
2023-05-23 cs.CL cs.LG
Mitigating Class Boundary Label Uncertainty to Reduce Both Model Bias and Variance
University of Massachusetts Boston(马萨诸塞大学波士顿分校);University of Tennesee(田纳西大学)
关于决策边界的模型偏差和方差的研究在监督分类中是至关重要的。这两者之间通常存在折衷,因为分类模型的决策边界的微调以容纳更多的边界训练样本(即,更高的模型复杂度)可以提高训练精度(即,较低的偏差)但是损害了对看不见的数据的概括(即,较高的方差)。通过仅仅关注分类边界微调和模型复杂性,很难同时降低偏差和方差。为了克服这种困境,我们采取了不同的视角,并研究了一种新的方法来处理不准确性和不确定性的训练数据标签,这是不可避免的,在许多应用程序中,标签是概念和标签是由人类注释。分类过程可能会被训练数据标签的不确定性破坏;扩展边界以容纳不准确标记的点将增加偏差和方差。我们的新方法可以通过估计训练集的逐点标签不确定性并相应地调整训练样本权重来减少偏差和方差,使得具有高不确定性的样本被加权,而具有低不确定性的样本被加权。通过这种方式,不确定样本对模型的学习算法的目标函数的贡献较小,并且对决策边界施加较小的拉力。在一个真实世界的身体活动识别案例研究中,数据提出了许多标签的挑战,我们表明,这种新的方法提高了模型的性能,降低了模型的方差。
2020-02-23 cs.LG stat.ML
Detecting and Monitoring Bias for Subgroups in Breast Cancer Detection AI
University of Maryland(马里兰大学);University of Maryland School of Medicine(马里兰大学医学院);University of Maryland Institute for Advanced Computer Studies(马里兰大学高级计算机研究所)
本文评估乳腺癌检测 AI 在 EMBED 与 RSNA 2022 数据集上六类子群体的性能差异,并引入随时间漂移监测与告警机制,以发现偏见并保障跨人群有效性。
2025-02-14 cs.CV cs.LG
Image Counterfactual Sensitivity Analysis for Detecting Unintended Bias
Google(谷歌公司)
本文提出图像反事实敏感性分析框架,通过生成对抗网络操纵面部特征,度量微笑分类器预测变化,以检测和细粒度分析无意偏见,促进公平性。
2020-10-03 cs.CV cs.LG stat.ML
Detecting and Mitigating Group Bias in Heterogeneous Treatment Effects
Spotify;Munich Center for Machine Learning & LMU Munich(慕尼黑机器学习中心及慕尼黑大学);ETH Zurich(苏黎世联邦理工学院)
本文提出了一种统一的统计框架,用于检测和缓解随机实验中的群体偏差,通过收缩校正方法和统计检验,改进个性化定位决策的准确性。
2026-02-23 cs.LG econ.EM stat.ME