Rethinking Activation Functions: Reducing Bias Can Improve Learning
Peking University(北京大学);Tsinghua University(清华大学);MetaCircle
该研究指出ReLU等常用激活函数存在激活偏差,其虽加速初始学习但会导致过冲等问题,减少激活偏差虽减慢初始学习却能降低最终损失,大模型实验也验证此规律,为激活函数设计提供新方向。
2026-10-14 cs.AI cs.LG
Reducing Popularity Influence by Addressing Position Bias
Zalando SE(扎兰多公司)
该研究针对推荐系统的位置偏差问题,提出从降低流行度倾斜的视角开展位置去偏差,可均匀分配曝光互动、提升商品集合利用率,且不损害用户参与度与营收,长期利好生态各方。
2024-12-11 cs.IR cs.LG
Reducing Large Language Model Bias with Emphasis on 'Restricted Industries': Automated Dataset Augmentation and Prejudice Quantification
School of Systems and Enterprises(系统与企业学院);Stevens Institute of Technology(史蒂文斯理工学院)
本文提出一种面向数据有限的“受限行业”的自动化数据集增强去偏机制,并引入mb-index和db-index两个新指标,从模型架构和数据集两方面量化大语言模型偏见。
2024-03-20 cs.AI cs.CL cs.LG
Reducing Selection Bias in Counterfactual Reasoning for Individual Treatment Effects Estimation
University of Alberta(阿尔伯塔大学)
反事实推理是一个重要的范式,适用于许多领域,如医疗保健,经济学和教育。在这项工作中,我们提出了一种新的方法来解决这个问题的\textit{selection bias}。我们学习了两组潜在随机变量,其中一组对应于仅导致选择偏差的变量,另一组与结果预测相关。它们由自动编码器学习,其中基于Pearson相关系数(PCC)的额外正则化损失鼓励两组随机变量之间的去相关。这允许通过仅保留与估计个体治疗效果相关的潜在变量来明确减轻选择偏倚。在合成玩具数据集和基准数据集上的实验结果表明,我们的算法能够实现最先进的性能,并改善其对应的结果,没有明确的模型的选择偏差。
2019-12-19 cs.LG stat.ML
Reducing offline evaluation bias of collaborative filtering algorithms
Viadeo;Université Paris 1 Panthéon - Sorbonne(巴黎第一大学先贤祠-索邦大学)
推荐系统已经被集成到大多数大型在线系统中,以根据用户简档过滤和排名信息。因此,它会影响用户与系统交互的方式,并因此影响使用历史数据计算的推荐算法的性能评估(通过离线评估)。本文提出了一种新的应用加权离线评估,以减少这种偏见的协同过滤算法。
2015-06-12 cs.IR cs.LG stat.ML
Reducing Offline Evaluation Bias in Recommendation Systems
Viadeo;Université Paris 1 Panthéon – Sorbonne(巴黎第一大学先贤祠-索邦大学)
推荐系统已被集成到大多数大型在线系统中。他们根据用户简档对信息进行过滤和排序,使这些系统适合个人用户。这种适应过程影响用户与系统交互的方式,因此增加了使用历史数据(通过离线评估)评估推荐算法的难度。本文分析了这种评价偏差,并提出了一个简单的项目加权解决方案,减少其影响。从Viadeo专业社交网络中提取的真实世界数据的效率进行了评估。
2014-07-03 cs.IR cs.LG stat.ML
Reducing Unintended Bias of ML Models on Tabular and Textual Data
Université de Lorraine(洛林大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);LORIA(洛林计算机科学及其应用实验室)
机器学习(ML)模型中的意外偏差是必须解决的主要问题之一,以保持公众对ML的信任。在本文中,我们解决了ML模型的过程公平性,包括减少模型对敏感特征的依赖,而不影响其性能。我们重新审视了框架FixOut,它受到了“通过无意识实现公平”的方法的启发,以构建更公平的模型。我们介绍了一些改进,如自动化的FixOut的参数的选择。此外,FixOut最初是为了提高ML模型对表格数据的公平性而提出的。我们还证明了FixOut的工作流程的可行性模型的文本数据。我们提出了几个实验结果,说明了一个事实,即FixOut提高了不同分类设置的过程公平性。
2021-08-05 cs.AI cs.CY cs.LG
Reducing Bias and Variance: Generative Semantic Guidance and Bi-Layer Ensemble for Image Clustering
Institute of Big Data Science and Industry(大数据科学与产业研究院);Key Laboratory of Evolutionary Science Intelligence of Shanxi Province(山西省进化智能科学重点实验室);School of Artificial Intelligence, Shanxi University(山西大学人工智能学院)
提出GSEC框架,通过生成语义引导减少偏差、双层集成学习降低方差,在六个基准数据集上超越18种最新方法。
2026-05-23 cs.CV cs.LG
PRISM: Reducing Spurious Implicit Biases in Vision-Language Models with LLM-Guided Embedding Projection
Queen’s University(皇后大学)
提出 PRISM,一种无数据且与任务无关的去偏框架,通过 LLM 生成场景描述并利用对比式去偏损失学习嵌入投影,有效减少 CLIP 等 VLM 的虚假偏差,在 Waterbirds 和 CelebA 上优于现有方法。
2025-07-11 cs.CV cs.LG
Scaling Equilibrium Propagation to Deep ConvNets by Drastically Reducing its Gradient Estimator Bias
Université Paris-Saclay(巴黎萨克雷大学);CNRS(法国国家科学研究中心);Unité Mixte de Physique(联合物理实验室);Thales(泰雷兹集团);Mila(米拉研究所);Université de Montréal(蒙特利尔大学);Canadian Institute for Advanced Research(加拿大高等研究院);Google(谷歌)
平衡传播(EP)是一种受生物启发的反向传播时间(BPTT),由于其强大的理论保证和学习规则的空间局部性,促进了专用于学习的节能硬件的设计。然而,在实践中,EP并没有比MNIST更难扩展到视觉任务。在这项工作中,我们证明了EP的梯度估计中的偏差,这是使用有限轻推所固有的,是造成这种现象的原因,并且取消它允许通过EP训练深度ConvNets,包括具有不同的前向和后向连接的架构。这些结果突出了EP作为一种可扩展的方法来计算深度神经网络中的误差梯度,从而激励其硬件实现。
2021-01-14 cs.LG cs.NE
On the Role of Speech Data in Reducing Toxicity Detection Bias
Meta FAIR;New York University(纽约大学);University College London(伦敦大学学院);McGill University(麦吉尔大学)
该研究针对文本毒性检测的群体提及偏差问题,通过为多语言MuTox数据集制作高质量群体标注,对比语音与文本毒性分类器,发现推理阶段用语音数据可降低偏差,且改进分类器比优化转录流程更有效,同时公开发布标注并给出数据集构建建议。
2025-05-16 cs.AI cs.CL cs.LG
Reducing Sentiment Bias in Language Models via Counterfactual Evaluation
DeepMind(深度思维);University of California, Los Angeles(加州大学洛杉矶分校);University College London(伦敦大学学院)
语言建模架构的进步和大型文本语料库的可用性推动了自动文本生成的进展。虽然这导致模型能够生成连贯的文本,但它也促使模型内化训练语料库中存在的社会偏见。本文旨在量化和减少语言模型表现出的一种特殊类型的偏见:生成文本的情感偏见。给定条件情境(例如,书写提示)和语言模型,我们分析所生成的文本的情感是否(以及如何)受到敏感属性的值的变化的影响(例如,国家名称、职业、性别),在条件语境中使用一种反事实评价的形式。我们通过采用公平的机器学习文献中的个人和群体公平性指标来量化情感偏见,并证明在两个不同的语料库(新闻文章和维基百科)上训练的大规模模型表现出相当大的偏见水平。然后,我们提出嵌入和情感预测派生正则化的语言模型的潜在表示。正则化改进了公平性度量,同时保留了可比的困惑度和语义相似度。
2020-10-08 cs.CL cs.CY cs.LG
Position-Aware Parameter Efficient Fine-Tuning Approach for Reducing Positional Bias in LLMs
Amazon(亚马逊);Emory University(埃默里大学)
本文针对大语言模型处理长上下文时的位置偏差问题,提出位置感知的参数高效微调方法PAPEFT,通过数据增强和参数高效适配器促进均匀注意力分布,实验证明其能有效减少位置偏差并提升外部知识检索任务性能。
2024-04-01 cs.AI cs.CL cs.LG
What's in a Name? Reducing Bias in Bios without Access to Protected Attributes
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校);Carnegie Mellon University(卡内基梅隆大学);Microsoft Research(微软研究院);LinkedIn(领英)
有越来越多的工作提出了减轻机器学习系统中偏见的方法。这些方法通常依赖于访问受保护的属性,如种族、性别或年龄。然而,这提出了两个重大挑战:(1)受保护的属性可能不可用,或者使用它们可能不合法,以及(2)通常希望同时考虑多个受保护的属性以及它们的交集。在减轻职业分类偏见的背景下,我们提出了一种方法,用于阻止个人的真实职业和他们的名字的词嵌入的预测概率之间的相关性。这种方法利用了编码在词嵌入中的社会偏见,消除了访问受保护属性的需要。至关重要的是,它只要求在培训时而不是在部署时获得个人的姓名。我们评估我们提出的方法使用大规模的在线传记数据集的两个变化。我们发现,这两种变化同时减少了种族和性别偏见,几乎没有减少分类器的整体真阳性率。
2019-04-10 cs.CL cs.LG stat.ML
Reducing Bias in Modeling Real-world Password Strength via Deep Learning and Dynamic Dictionaries
Sapienza University of Rome(罗马大学);Stevens Institute of Technology(史蒂文斯理工学院);Institute of Applied Computing CNR(意大利国家研究委员会应用计算研究所)
密码安全性取决于对攻击者所采用的技术的深入了解。不幸的是,现实世界的对手诉诸务实的猜测策略,如字典式攻击,本质上是难以建模的密码安全性研究。为了能够代表实际的威胁,字典式攻击必须经过深思熟虑的配置和调整。然而,这一过程需要一个领域的知识和专业知识,不能轻易复制。不准确校准字典式攻击的后果是密码安全分析的不可靠性,并因严重的测量偏差而受到损害。在目前的工作中,我们引入了新一代的字典式攻击,是一贯更有弹性的配置不足。不需要监督或领域知识,这种技术自动逼近现实世界的攻击者所采用的高级猜测策略。为了实现这一目标:(1)我们使用深度神经网络来模拟对手构建攻击配置的熟练程度。(2)然后,我们介绍了动态猜测策略的字典式攻击。这些模拟专家的能力,以适应他们的猜测策略,在飞行中纳入知识对他们的目标。我们的技术能够在字典式攻击中实现更稳健和更合理的密码强度估计,最终减少对密码安全中现实威胁建模的高估。可用代码:https://github.com/TheAdamProject/adams
2021-02-26 cs.CR cs.LG
Reducing Overestimation Bias in Multi-Agent Domains Using Double Centralized Critics
Technical University of Munich(慕尼黑工业大学);Kyushu Institute of Technology(九州工业大学);RIKEN(理化学研究所);The University of Tokyo(东京大学)
许多现实世界的任务需要多个代理一起工作。多智能体强化学习(RL)方法近年来已被提出来解决这些任务,但目前的方法往往无法有效地学习策略。因此,我们调查存在的一个共同的弱点,单代理RL,即价值函数高估偏见,在多代理设置。根据我们的研究结果,我们提出了一种方法,通过使用双中心的批评,减少这种偏见。我们评估它的六个混合合作竞争的任务,显示出显着的优势,比目前的方法。最后,我们研究了多智能体方法在高维机器人任务中的应用,并表明我们的方法可以用来学习分散的策略。
2019-12-02 cs.AI cs.LG cs.MA
Bias Mitigation Framework for Intersectional Subgroups in Neural Networks
Meta AI
我们提出了一个公平意识的学习框架,减轻与受保护的属性相关的交叉子组偏见。先前的研究主要集中在通过将复杂的公平驱动约束纳入优化目标或设计专注于特定受保护属性的附加层来减轻一种偏见。我们介绍了一个简单的和通用的偏见缓解方法,防止模型学习之间的关系,保护属性和输出变量,减少它们之间的互信息。我们证明,我们的方法是有效的,在减少偏见,很少或没有下降的准确性。我们还表明,用我们的学习框架训练的模型变得因果公平,对受保护属性的值不敏感。最后,我们通过研究受保护和不受保护的属性之间的功能交互来验证我们的方法。我们证明,这些相互作用显着减少时,应用我们的偏见缓解。
2022-12-26 cs.CY cs.LG
Flipping Against All Odds: Reducing LLM Coin Flip Bias via Verbalized Rejection Sampling
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));The Chinese University of Hong Kong(香港中文大学)
针对大语言模型难以生成符合概率分布的真实样本的问题,提出言语化拒绝采样方法,通过自然语言适配经典拒绝采样机制,在无需访问模型内部的情况下大幅降低采样偏差,验证了经典概率工具嵌入LLM工作流的有效性。
2025-06-11 cs.CL cs.LG
Projection Regret: Reducing Background Bias for Novelty Detection via Diffusion Models
LG AI Research(LG人工智能研究院);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
针对扩散模型新颖性检测易受共享背景干扰的问题,提出 Projection Regret,通过测试图像与递归扩散投影的感知距离抵消背景偏差并显著提升 OOD 检测性能。
2023-12-05 cs.CV cs.LG
Reducing Text Bias in Synthetically Generated MCQAs for VLMs in Autonomous Driving
Zoox, Inc.(Zoox公司)
本文提出方法减少自动驾驶VLMs中合成生成MCQA的文本偏差,通过解耦正确答案与语言痕迹并采用课程学习策略,使模型依赖视觉基础以提升感知理解能力。
2026-01-28 cs.CL cs.LG cs.RO
Reducing the Filtering Effect in Public School Admissions: A Bias-aware Analysis for Targeted Interventions
Columbia University(哥伦比亚大学);Massachusetts Institute of Technology(麻省理工学院)
本研究采用运筹学方法,通过分析纽约市教育部数据,将弱势学生分数分布偏移建模为偏差,并证明针对中等成绩弱势学生的集中干预(如奖学金或培训)可显著降低偏差影响。
2026-06-02 cs.CY cs.LG
PRECISE: Reducing the Bias of LLM Evaluations Using Prediction-Powered Ranking Estimation
Primary contributor and corresponding author(主要贡献者及通讯作者)
提出PRECISE框架,通过结合少量人工标注与LLM判断,利用预测驱动推断(PPI)方法,在低资源下可靠估计搜索、排序和RAG系统的指标,并校正LLM偏差。
2026-01-26 cs.AI cs.CL cs.IR
Reducing Racial Bias in Facial Age Prediction using Unsupervised Domain Adaptation in Regression
University of California, San Diego(加州大学圣迭戈分校)
我们提出了一种无监督的领域自适应方法,用于根据给定的人脸图像估计某人的年龄。为了避免种族偏见在大多数公开可用的人脸图像数据集中传播到在其上训练的模型的无效性中,我们执行领域自适应以激励预测器学习对种族不变的特征,从而提高来自不同种族背景的人的面部的泛化性能。利用年龄的有序性,我们还对模型的预测施加了排名约束,并设计了我们的模型,使其将一对图像作为输入,并输出相对年龄差和第一身份相对于其他身份的排名。此外,我们实现多维缩放来检索绝对年龄从预测的年龄差异从两个标记的图像从域要适应。我们用一个带有年龄标签的公开数据集进行实验,根据种族标签将其划分为子集,并评估我们的方法在来自与模型训练的种族不同的种族的数据上的性能。此外,我们施加了一个约束,以保持相对和绝对年龄预测的合理性,另一个用于确保预测相对于输入的平滑性。我们进行了广泛的实验并比较了回归任务的各种领域自适应方法。
2021-04-05 cs.CV cs.LG
Reducing Optimism Bias in Incomplete Cooperative Games
Charles University(查理大学);Columbia University(哥伦比亚大学)
针对不完全合作博弈中因联盟价值未披露导致参与者乐观偏差、集体主张超实际大联盟价值的问题,提出优化联盟价值披露顺序的框架,从理论分析、离线/在线方法开发及实证验证三方面缩小期望与结果差距。
2024-12-04 cs.GT cs.LG
Quantifying and Reducing Bias in Maximum Likelihood Estimation of Structured Anomalies
Princeton University(普林斯顿大学);Brown University(布朗大学)
异常估计,或者说找到与数据集的其余部分不同的数据集子集的问题,是机器学习和数据采掘中的经典问题。在理论工作和应用中,假设异常具有由$\textit{anomaly family}$中的成员资格定义的特定结构。例如,在时间数据中,异常族可以是时间间隔,而在网络数据中,异常族可以是连通子图。异常估计的最突出的方法是计算异常的最大似然估计(MLE);然而,最近观察到,对于正态分布的数据,MLE是某些异常族的$\textit{biased}$估计量。在这项工作中,我们证明了在正常的均值设置,最大似然估计的偏差取决于异常家庭的大小。我们证明了,如果在异常家庭中包含的异常集的数量是次指数,那么极大似然估计是渐近无偏的。我们还提供了经验证据证明,反之亦然:如果这样的集合的数量是指数的,那么极大似然估计是渐近有偏的。我们的分析统一了一些早期的结果对特定异常家庭的MLE的偏见。接下来,我们推导出一个新的异常估计使用混合模型,我们证明了我们的异常估计是渐近无偏的,无论异常家庭的大小。我们说明了我们的估计与最大似然估计的疾病爆发和高速公路交通数据的优势。
2021-06-11 cs.IT cs.LG math.IT
Ranking Loss and Sequestering Learning for Reducing Image Search Bias in Histopathology
Ontario Tech University(安大略理工大学);Mayo Clinic(梅奥诊所)
本文针对组织病理学图像搜索中的偏置与泛化问题,提出排序损失函数和隔离学习两种方法,以匹配导向方式优化特征提取并减少机构偏置,在最大全切片图像公共数据集上验证了优于现有方法的性能。
2023-04-15 cs.AI cs.CV cs.LG
Quantifying and Reducing Stereotypes in Word Embeddings
Boston University(波士顿大学);Microsoft Research New England(微软新英格兰研究院)
优化机器学习算法以模拟训练数据的统计特性。如果输入数据反映了更广泛社会的刻板印象和偏见,那么学习算法的输出也会捕捉到这些刻板印象。在本文中,我们开始在{ \em词嵌入},一个流行的框架来表示文本数据的性别刻板印象的研究。随着它们的使用变得越来越普遍,应用程序可能会无意中放大不必要的刻板印象。我们在多个数据集上显示,嵌入包含显著的性别刻板印象,特别是在职业方面。我们创建了一个新的性别类比任务,并将其与众包相结合,以系统地量化给定嵌入中的性别偏见。我们开发了一种有效的算法,减少性别刻板印象,只使用少数训练样本,同时保留有用的几何属性的嵌入。我们在几个指标上评估了我们的算法。虽然我们专注于男性/女性的刻板印象,我们的框架可能适用于其他类型的嵌入偏见。
2016-06-20 cs.CL cs.LG stat.ML
Reducing bias and increasing utility by federated generative modeling of medical images using a centralized adversary
University of British Columbia(不列颠哥伦比亚大学);Microsoft(微软)
我们介绍了FELICIA(FEDERATED LEARNING WITH A CentralIzed Advertisement),一种支持协作学习的生成机制。特别是,我们展示了数据有限和有偏见的数据所有者如何从其他数据所有者那里受益,同时保持所有来源的数据的私密性。这是医学图像分析中的常见情况,其中隐私立法阻止数据在本地场所之外共享。FELICIA适用于生成对抗网络(GAN)架构的大家族,包括香草和条件GANs,如本工作所示。我们表明,通过使用FELICIA机制,有限的图像样本的数据所有者可以生成高质量的合成图像,具有高实用性,而数据所有者都没有提供访问其数据。共享仅通过一个中央数据库进行,该数据库只能访问合成数据。在这里,效用被定义为在真实测试集上的分类性能。我们使用基准图像数据集(MNIST,CIFAR-10)以及皮肤病变分类任务的医学图像上的几个现实的医疗保健系统上证明了这些好处。通过多个实验,我们表明,即使在最坏的情况下,将FELICIA与真实数据相结合,也能优雅地实现与真实数据相当的性能,而大多数结果显着提高了效用。
2021-08-29 cs.AI cs.CV cs.DC
The advantages of multiple classes for reducing overfitting from test set reuse
Google Brain(谷歌大脑);Simons Institute for the Theory of Computing(西蒙斯计算理论研究所);University of California, Berkeley(加州大学伯克利分校)
过度重用保持数据可能导致过拟合。然而,在今天流行的多类基准测试中,由于坚持重用,几乎没有具体的证据表明存在显著的过拟合。已知的结果表明,在最坏的情况下,揭示$k$自适应选择的分类器在大小为$n$的数据集上的准确性允许为任何二进制预测问题创建具有$Θ(\sqrt{k/n})$偏差的分类器。我们展示了一个新的上界的$\tilde O(\max\{\sqrt{k\log(n)/(mn)},k/n\})$的最坏情况下的偏见,任何攻击可以实现预测问题与$m$类。此外,我们提出了一个有效的攻击,实现了偏见的$Ω(\sqrt{k/(m^2 n)})$和改进以前的工作,二进制设置($m=2$)。我们还提出了一个效率低下的攻击,实现了$\tildeΩ(k/n)$的偏见。补充我们的理论工作,我们给压力测试多类基准新的实际攻击,旨在创建尽可能大的偏见与给定数量的查询。我们的实验表明,大量类别的预测的额外不确定性确实减轻了我们最好的攻击的效果。我们的工作扩展了理解过度拟合的发展,由于自适应数据分析多类预测问题。它还证实了一个令人惊讶的事实,即当重用测试(或保持)数据集时,多类预测问题对过拟合的鲁棒性要高得多。这就解释了为什么流行的多类预测基准,如ImageNet,可能比二进制分类文献中的直觉所暗示的寿命更长。
2019-05-24 cs.DS cs.LG stat.ML
Optimizing embedding-related quantum annealing parameters for reducing hardware bias
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
量子退火器已经被设计用于为NP难优化问题提出接近最优的解决方案。然而,目前的退火炉,例如D-Wave Systems,Inc.,受到环境噪声和硬件偏差的限制。处理这些缺陷并提高退火结果质量的一种方法是应用各种预处理技术,例如自旋反转(SR)、退火偏移(AO)或链权重(CW)。最大化这些技术的有效性涉及对大量参数执行优化,如果需要对每个新问题实例执行优化,则成本太高。在这项工作中,我们表明,上述参数优化可以为整个类的问题,给定每个实例使用先前选择的固定嵌入。具体来说,在训练阶段,我们将一个完整图的嵌入E固定在退火器的硬件上,然后运行一个优化算法来调整以下参数值:针对SR要翻转的比特集合、针对AO的特定量子比特偏移以及链权重的分布,在从该类别中随机选择的一组训练图上进行优化,其中使用E将图形嵌入到硬件上。在测试阶段,我们估计在训练阶段计算的参数对从该类中随机选择的其他图的效果如何。我们调查的最大团,最大割,和图形划分问题的不同密度的图形实例。我们的研究结果表明,与它们的默认行为相比,通过使用SR,AO和CW的优化参数,可以实现退火结果的大幅改善。
2020-12-01 cs.ET cs.LG quant-ph
Addressing Both Statistical and Causal Gender Fairness in NLP Models
University of Virginia(弗吉尼亚大学)
本文评估了NLP模型中针对性别偏见的统计与因果去偏方法,发现单一方法仅在目标指标上有效,而结合两类技术可同时降低统计和因果公平性指标上的偏见。
2024-03-30 cs.CL cs.CY cs.LG
Robot Learning in Homes: Improving Generalization and Reducing Dataset Bias
The Robotics Institute(机器人研究所);Carnegie Mellon University(卡内基梅隆大学)
近年来,解决机器人任务的数据驱动方法获得了很大的吸引力。然而,大多数现有的策略都是在策划的实验室环境中收集的大规模数据集上进行训练的。如果我们的目标是将这些模型部署在非结构化的视觉环境中,比如人们的家中,它们将无法应对数据分布的不匹配。在这种情况下,我们提出了第一个系统的努力,在收集一个大型数据集的机器人在家里抓。首先,为了扩展和并行化数据汇集,我们构建了一个低成本的移动机械手,组装成本低于3K美元。其次,使用低成本机器人收集的数据由于不完美的执行和校准误差而遭受噪声标签。为了解决这个问题,我们开发了一个框架,该框架将噪声作为一个潜在变量。我们的模型是在一系列不同环境条件下在几个房子里收集的28K抓握上训练的。我们通过在多个看不见的家中对一系列新颖物体进行物理抓取来评估我们的模型。使用我们的家庭数据集训练的模型比使用实验室收集的数据训练的基线模型显着提高了43.7%。我们的架构明确地对数据集中的潜在噪声进行建模,其性能也比没有排除噪声的架构高出10%。我们希望这一努力能激励机器人社区走出实验室,接受基于学习的方法来处理不准确的廉价机器人。
2018-07-18 cs.AI cs.CV cs.LG
Data augmentation and explainability for bias discovery and mitigation in deep learning
本文研究深度神经网络中的偏差识别与缓解,结合可解释性方法及风格迁移增强、定向增强和归因反馈三类技术,降低偏差对模型性能的影响。
2023-08-18 cs.CV cs.LG
Mitigating Source Bias for Fairer Weak Supervision
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文研究弱监督中的公平性问题,提出基于反事实公平性的源偏置缓解方法,可同时提升准确率与公平性,并在多个数据集上取得显著效果。
2023-11-29 cs.CY cs.LG stat.ML
Deep Generative Views to Mitigate Gender Classification Bias Across Gender-Race Groups
Wichita State University(威奇托州立大学)
已发表的研究表明,基于人脸的自动性别分类算法在性别种族群体中存在偏见。具体而言,女性和深肤色人群的准确率不平等。为了减轻性别分类器的偏见,视觉社区制定了几项策略。然而,这些缓解策略的有效性仅在少数种族(主要是高加索人和非洲裔美国人)中得到证实。此外,这些策略通常在偏差和分类准确性之间进行权衡。为了进一步推进最先进的技术,我们利用生成视图,结构化学习和证据学习的力量来减轻性别分类偏见。我们通过广泛的实验验证证明了我们的偏见缓解策略在提高分类准确性和减少性别种族群体偏见方面的优越性,从而在数据集内和交叉数据集评估中获得了最先进的性能。
2022-08-17 cs.AI cs.CV cs.LG