On the Importance of Architecture and Feature Selection in Differentially Private Machine Learning
University of Florida(佛罗里达大学)
我们研究了差异私有机器学习的典型工作流程中的一个陷阱。以“插入式”方式使用差分隐私学习算法--在选择使用什么特征工程操作、选择什么特征或使用什么神经网络架构时,不考虑差分隐私(DP)噪声的影响--会产生过于复杂和性能差的模型。换句话说,通过预测DP噪声的影响,可以针对相同的隐私保证训练更简单且更准确的替代模型。本文从理论和实验两个方面对这一现象进行了系统的研究。在理论方面,我们提供了一个解释性的框架,并证明了这种现象自然产生的噪音,以满足差分隐私。在实验方面,我们使用各种数据集、模型类型、任务和神经网络架构来演示这种现象在实践中是如何体现的。我们还分析了导致问题的因素,并将我们的实验见解提炼成具体的外卖,从业者在训练具有差分隐私的模型时可以遵循。最后,我们提出了隐私感知算法的特征选择和神经网络架构搜索。我们分析了它们的差分隐私特性,并对其进行了实证评估。
2022-05-13 cs.CR cs.LG
Optimal Transport Reweighting for Robust Learning under Spurious Correlations and Label Noise
Pohang University of Science and Technology (POSTECH)(浦项科技大学)
针对虚假相关与标签噪声下的子群体偏移问题,提出基于最优传输的POTER重加权框架,通过传输几何度量样本重要性,仅需单阶段ERM训练,在标准基准上实现最先进的组内最差精度。
2026-10-02 cs.AI cs.LG
Online Importance Weight Aware Updates
Cornell University(康奈尔大学);Yahoo! Research(雅虎研究院)
重要性权重量化了一个例子相对于另一个例子的相对重要性,出现在提升,不对称分类成本,减少和主动学习的应用中。在梯度下降中处理重要性权重的标准方法是通过梯度的乘法。我们首先证明了这种方法的问题时,重要性权重很大,并主张更复杂的方法来处理它们。然后,我们开发了一种方法,享有不变性:更新两次重要性权重$h$相当于更新一次重要性权重$2h$。对于许多重要的损失,当所有例子都有$h=1$时,它有一个满足标准后悔保证的封闭形式更新。我们还简要讨论了其他两个合理的方法来处理大的重要性权重。从经验上讲,这些方法在降低算法对学习率的精确设置的灵敏度的同时,以类似的计算性能产生显著更优的预测。我们将这些应用于在线主动学习,产生了一个非常快的主动学习算法,即使在存在对抗性噪声的情况下也能工作。
2011-06-18 cs.LG
A Novel Loss Function Utilizing Wasserstein Distance to Reduce Subject-Dependent Noise for Generalizable Models in Affective Computing
Vanderbilt University(范德堡大学)
针对情感计算中生理数据个体依赖噪声导致模型泛化性差的问题,提出基于Wasserstein距离的新型损失函数,调整数据权重以弱化个体噪声,在四个数据集上的类间距离指标显著优于均方误差基线。
2023-08-17 cs.AI cs.LG eess.SP
Understanding Global Feature Contributions With Additive Importance Measures
University of Washington(华盛顿大学);Microsoft Research(微软研究院)
理解复杂机器学习模型的内部工作原理是一个长期存在的问题,最近的研究主要集中在局部可解释性上。为了从全局意义上评估单个输入特征的作用,我们探索了通过与每个特征相关联的预测能力来定义特征重要性的观点。我们引入了两个概念的预测能力(基于模型的和通用的),并正式这种方法的框架的添加剂的重要性措施,它统一了众多的方法在文献中。然后,我们提出了SAGE,一个模型无关的方法,量化预测能力,同时考虑功能的相互作用。我们的实验表明,SAGE可以有效地计算,它分配更准确的重要性值比其他方法。
2020-10-27 cs.LG stat.ML
Just add noise: Debiasing tree-based variable importance in mixed data
Duke University(杜克大学)
针对树模型变量重要性偏向连续变量的问题,提出添加噪声的简单去偏方法,并结合稳定性选择实现混合数据变量选择与错误发现控制。
2026-09-15 cs.LG stat.ME stat.ML
Understanding the Curse of Horizon in Off-Policy Evaluation via Conditional Importance Sampling
Stanford University(斯坦福大学);Mila - University of Montreal(米拉研究所 - 蒙特利尔大学)
使用重要性采样(IS)的非策略策略估计器可能会在长时间域中遭受高方差,并且对利用马尔可夫决策过程结构的新IS方法特别兴奋。我们通过条件蒙特卡罗的观点分析了最流行的方法的方差。令人惊讶的是,我们发现在有限时域MDP中,每决策重要性采样或平稳重要性采样与普通重要性采样相比,没有严格的方差减少。然后,我们提供了充分的条件下,每决策或平稳估计将可证明减少方差重要性采样有限的视野。对于渐近(在地平线$T$)的情况下,我们开发的上限和下限的方差的估计产生的充分条件下,存在一个指数与。重要性采样方差与预决策估计量方差或平稳估计量方差之间的多项式间隙。这些结果有助于推进我们的理解,如果和新类型的IS估计将提高离政策估计的准确性。
2020-06-06 cs.LG stat.ML
Optimizing the Noise in Self-Supervised Learning: from Importance Sampling to Noise-Contrastive Estimation
University of Helsinki(赫尔辛基大学);Université Paris-Saclay(巴黎萨克雷大学);Inria(法国国家信息与自动化研究所);CEA(法国原子能和替代能源委员会)
自监督学习是一种越来越受欢迎的无监督学习方法,实现了最先进的结果。一种流行的方法是在分类任务中对比数据点和噪声点:这需要一个良好的噪声分布,而噪声分布是出了名的难以指定。虽然缺乏全面的理论,但人们普遍认为,最佳噪声分布在实践中应该等于数据分布,就像生成对抗网络(GANs)一样。我们在这里从经验和理论上挑战这一假设。我们转向噪声对比估计(NCE),它将这种自我监督任务作为基于能量的数据模型的估计问题。这将噪声分布的最优性与估计器的样本效率联系起来,样本效率被严格定义为其渐近方差或均方误差。在特殊的情况下,只有归一化常数是未知的,我们表明,NCE恢复家庭的重要性抽样估计的最佳噪声确实是等于数据分布。然而,在能量也是未知的一般情况下,我们证明了最佳的噪声密度是数据密度乘以基于Fisher得分的校正项。特别地,最优噪声分布不同于数据分布,并且甚至来自不同的族。然而,我们清醒地得出结论,最佳噪声可能很难从中采样,并且与选择等于数据的噪声分布相比,效率的增益可能是适度的。
2023-01-23 cs.LG stat.ML
Classification with Noisy Labels by Importance Reweighting
Faculty of Engineering and Information Technology, University of Technology, Sydney(悉尼科技大学工程与信息技术学院)
在本文中,我们研究了一个分类问题,其中样本标签是随机损坏的。在这种情况下,存在具有无噪声标签的不可观察样本。然而,在被观察到之前,真实标签以概率$ρ\in[0,0.5)$独立地翻转,并且随机标签噪声可以是类条件的。在这里,我们解决两个基本问题提出了这种情况。第一个问题是当存在标签噪声时,如何最好地使用为传统分类问题设计的丰富的替代损失函数。我们证明了任何替代损失函数可以用于分类与噪声标签通过使用重要性重新加权,一致性保证标签噪声不会最终阻碍搜索无噪声样本的最佳分类器。另一个问题是如何获得噪声率$ρ$。我们证明了该速率的上界是由噪声样本的条件概率$P(y|x)$决定的。因此,率可以估计,因为上界可以很容易地达到分类问题。在合成数据集和真实数据集上的实验结果证实了本文方法的有效性。
2015-07-18 cs.LG stat.ML
Towards Understanding Neural Machine Translation with Word Importance
The Chinese University of Hong Kong(香港中文大学);Tencent AI Lab(腾讯AI实验室)
虽然神经机器翻译(NMT)已经在各种语言对上取得了进步,但NMT的可解释性仍然不令人满意。在这项工作中,我们建议通过专注于理解NMT模型的输入-输出行为来解决这一差距。具体来说,我们通过基于梯度的方法将NMT输出归因于每个输入词来测量词的重要性。我们验证了一对夫妇的扰动操作,语言对,和模型架构的方法,证明了其优越性,识别输入的话,对翻译性能的影响更大。令人鼓舞的是,计算出的重要性可以作为NMT模型翻译不足的输入单词的指标。此外,我们的分析表明,某些句法类别的单词具有更高的重要性,而不同的语言对的类别,这可以启发更好的NMT架构的设计原则,多语言翻译。
2019-09-17 cs.CL cs.LG
Provable benefits of annealing for estimating normalizing constants: Importance Sampling, Noise-Contrastive Estimation, and beyond
Université Paris-Saclay(巴黎萨克雷大学);Inria(法国国家信息与自动化研究所);CEA(法国原子能和替代能源委员会);University of Helsinki(赫尔辛基大学);Carnegie-Mellon University(卡内基梅隆大学)
该研究针对退火法估计归一化常数的设计选择缺乏效率理论的问题,通过渐近误差分析对比估计器与分布路径的性能,证明算术路径的最优性并提出高效逼近最优路径的两步估计器。
2023-10-09 cs.LG stat.ML
Getting Better from Worse: Augmented Bagging and a Cautionary Tale of Variable Importance
University of Pittsburgh(匹兹堡大学)
随着数据的规模、复杂性和可用性不断增长,科学家们越来越依赖于黑盒学习算法,这些算法通常可以以最小的先验模型规格提供准确的预测。像随机森林这样的工具已经有了现成的成功记录,甚至提供了各种策略来分析变量之间的潜在关系。在这里,最近的见解随机森林的行为的动机,我们介绍了简单的想法,增强装袋(AugBagg),一个程序,以相同的方式操作经典装袋和随机森林,但它的操作更大,增强空间包含额外的随机生成的噪声功能。令人惊讶的是,我们证明了这种在模型中包含额外噪声变量的简单行为可以显著提高样本外预测准确性,有时甚至优于最佳调整的传统随机森林。因此,基于改进的模型准确性的变量重要性的直观概念可能存在严重缺陷,因为即使是纯粹的随机噪声也可以常规地注册为统计显著性。提供了大量的真实和合成数据的演示以及提出的解决方案。
2020-11-09 cs.LG stat.ML
Differentially Private Graph Neural Network with Importance-Grained Noise Adaption
Shanghai Jiao Tong University(上海交通大学)
本文提出NAP-GNN,一种基于自适应差分隐私的节点重要性粒度隐私保护图神经网络算法,通过拓扑感知的重要性估计、自适应私有聚合和残差连接训练,在保护节点隐私的同时提升模型准确性与隐私的权衡。
2023-08-09 cs.CR cs.LG
Learning with Symmetric Label Noise: The Importance of Being Unhinged
The Australian National University(澳大利亚国立大学);National ICT Australia(澳大利亚国家信息与通信技术研究院)
凸势最小化是事实上的二进制分类方法。然而,Long和Servedio [2010]证明了在对称标签噪声(SLN)下,线性函数类上任何凸势的最小化可以导致分类性能等同于随机猜测。这表面上表明凸损失不是SLN鲁棒的。在本文中,我们提出了一个凸的,分类校准的损失,并证明了它是SLN-鲁棒的。损失由于是负无界的而避免了Long和Servedio [2010]的结果。这种损失是铰链损失的一种变形,在铰链损失中,人们不箝位在零;因此,我们称之为非铰链损失。我们表明,最佳的unhinged解决方案是等价的强正则化SVM,是任何凸势的极限解,这意味着强L2正则化使大多数标准学习者SLN鲁棒。实验证实了非铰链损失的SLN鲁棒性。
2015-05-28 cs.LG
Constrained Instance and Class Reweighting for Robust Learning under Label Noise
Google Research(谷歌研究院)
深度神经网络在监督学习中表现出令人印象深刻的性能,这是由于它们能够很好地适应所提供的训练数据。然而,它们的性能在很大程度上取决于训练数据的质量,并且在存在噪声的情况下经常会降低。我们提出了一个原则性的方法来处理标签噪声,目的是为单个实例和类标签分配重要性权重。我们的方法通过制定一类约束优化问题,这些重要性权重产生简单的封闭形式更新。所提出的优化问题是解决每个小批量,这消除了存储和更新整个数据集的权重的需要。我们的优化框架还提供了一个理论的角度对现有的标签平滑算法,以解决标签噪声(如标签自举)。我们在几个基准数据集上评估了我们的方法,并在存在标签噪声的情况下观察到相当大的性能增益。
2021-11-09 cs.LG stat.ML
On the Importance of Noise Scheduling for Diffusion Models
Google Research(谷歌研究院)
本文实证研究噪声调度对扩散模型的影响,发现最优调度随图像尺寸变化,提出通过缩放输入数据实现跨尺寸泛化,结合 RIN 在 ImageNet 上实现 1024×1024 单阶段端到端生成。
2023-05-21 cs.CV cs.GR cs.LG
On Signal-to-Noise Ratio Issues in Variational Inference for Deep Gaussian Processes
University of Oxford(牛津大学);University College London(伦敦大学学院)
我们证明了在训练具有重要性加权变分推断的深度高斯过程(DGP)中使用的梯度估计容易受到信噪比(SNR)问题的影响。具体而言,我们表明,无论是理论上和通过一个广泛的经验评估,潜在变量的变分参数的梯度估计的SNR降低的重要性样本的数量增加。结果,如果重要性样本的数量太大,则这些梯度估计退化为纯噪声。为了解决这个问题,我们展示了如何双重重新参数化梯度估计,最初提出的训练变分自动编码器,可以适应DGP设置,所得到的估计完全补救的SNR问题,从而提供更可靠的训练。最后,我们证明了我们的修复可以导致DGP模型的预测性能的持续改善。
2021-07-21 cs.AI cs.LG stat.ME
Understanding Instance-Level Label Noise: Disparate Impacts and Treatments
University of California, Santa Cruz(加州大学圣克鲁兹分校)
本文旨在提供对过参数化模型(例如,深度神经网络)记忆实例相关噪声标签的效果的理解。我们首先量化了记忆噪声实例所造成的危害,并显示了不同的代表频率的样本实例的噪声标签的不同影响。然后,我们分析了几种流行的带噪声标签的学习解决方案如何在实例级别减轻这种伤害。我们的分析表明,现有的方法导致不同的治疗时,处理嘈杂的情况。虽然通过应用这些解决方案,较高频率的实例通常有很高的改善概率,但较低频率的实例却没有。我们的分析揭示了新的理解,当这些方法的工作,并提供了理论依据,以前报道的经验观察。这一观察结果要求我们重新思考标签噪声在实例中的分布,并呼吁对不同制度中的实例进行不同的处理。
2021-07-13 cs.LG stat.ML
Don't Waste the Noise: Importance-Guided Perturbation Allocation under Joint Global and Local Constraints
针对共享预算和局部约束下的对抗扰动分配问题,提出基于固定梯度先验的重要性引导分配机制,在不扩大预算下重分配扰动至敏感区域,显著提升攻击成功率。
2026-10-02 cs.AI cs.CV cs.LG
The Importance of Model Inspection for Better Understanding Performance Characteristics of Graph Neural Networks
Imperial College London(帝国理工学院);Aswan Heart Centre(阿斯旺心脏中心);Massachusetts General Hospital(麻省总医院);Harvard University(哈佛大学)
本文通过模型检查框架分析图神经网络在脑形状分类中的建模选择影响,揭示仅凭测试准确率不足以识别数据来源偏差和非判别性特征,为医学影像深度学习模型性能理解提供工具。
2024-05-02 cs.LG
Understanding Data Importance in Machine Learning Attacks: Does Valuable Data Pose Greater Harm?
CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全研究中心)
本文研究数据重要性对机器学习攻击脆弱性的影响,发现高价值样本在成员推断和模型窃取等攻击中更易受损,并提出将样本特征纳入成员度量以提升攻击性能,强调需设计兼顾效用与保护的防御机制。
2024-09-05 cs.CR cs.LG
Importance Reweighting for Biquality Learning
Orange Labs(奥兰治实验室);AgroParisTech(巴黎高等农业科学学院);INRAe(法国国家农业食品与环境研究院);UMR MIA-Paris(MIA-巴黎联合研究单位);Université Paris-Saclay(巴黎萨克雷大学)
弱监督学习(Weakly Supervised Learning,WSL)是近年来研究的热点领域之一,大量的论文针对不同类型的“监督缺陷”,即:质量差、非适应性和标签数量不足。关于质量,标签噪声可以是不同类型的,包括完全随机、随机或甚至非随机。所有这些类型的标签噪声在文献中单独解决,导致高度专业化的方法。本文提出了一个原始的,包容性的,弱监督学习,这导致在设计通用的方法能够处理任何类型的标签噪声的观点。为此,使用称为“双质量数据”的替代设置。它假设一个小的可信数据集的正确标记的例子是可用的,除了一个不可信的数据集的嘈杂的例子。在本文中,我们提出了一个新的重新加权方案,能够识别非损坏的例子在不可信的数据集。这允许人们使用两个数据集来学习分类器。大量的实验模拟了几种类型的标签噪声,并改变了不可信的例子的质量和数量,证明了所提出的方法优于基线和最先进的方法。
2021-09-20 cs.LG
Understanding the Importance of Single Directions via Representative Substitution
Central South University(中南大学)
理解深度神经网络(DNN)的内部表示对于解释它们的行为至关重要。单个单元的解释,即MLP中的神经元或卷积网络中的卷积核,由于其基本作用而备受关注。然而,最近的研究(Morcos et al. 2018)提出了一个违反直觉的现象,这表明具有高类别选择性的单个单元(称为可解释单元)对DNN的泛化贡献很小。在这项工作中,我们提供了一个新的视角来理解这种违反直觉的现象,当我们引入代表性替代(RS)时,这是有意义的。RS不是单独选择具有类别的单元,而是指同一层中单元表示的独立性,而没有任何注释。我们的实验表明,可解释单元具有高的RS,这对网络的泛化并不重要。RS为DNN的解释提供了新的见解,并建议我们需要关注表示的独立性和关系。
2019-01-20 cs.AI cs.CV cs.LG
CANAL: Channel-Aware Noise Allocation for Differentially Private Feature Distillation in Medical Image Segmentation
University of Alabama at Birmingham(阿拉巴马大学伯明翰分校)
针对医学图像分割中差分隐私特征蒸馏的噪声分配问题,提出基于任务梯度能量的闭式注水分配方法CANAL,实现每图像单次发布与诚实预算分割,在三个基准上优于均匀噪声。
2026-09-15 cs.CR cs.CV cs.LG
On the connection between Noise-Contrastive Estimation and Contrastive Divergence
Linköping University(林雪平大学);Chalmers University of Technology(查尔姆斯理工大学)
本文证明排序NCE和条件NCE本质上可视为最大似然估计方法,其中RNCE等价于结合条件重要性采样的ML估计,且二者均为对比散度的特例,从而打通了NCE与ML-IS、CD方法之间的联系。
2024-02-26 cs.LG stat.ML
Effective pruning of task-trained recurrent neural networks using noisy fluctuations and connection rescaling
The Harker School(哈克学校);University of California, Davis(加利福尼亚大学戴维斯分校)
本研究评估了生物学合理的无监督局部剪枝规则noise-prune,发现其在任务训练后的循环神经网络中保持任务性能的效果优于仅用连接幅度的策略,确定了其最优参数设置。
2026-11-06 cs.LG cs.NE q-bio.NC
Understanding and Utilizing Deep Neural Networks Trained with Noisy Labels
The Chinese University of Hong Kong(香港中文大学);Tencent Technology(腾讯科技)
噪声标签在现实世界的数据集中无处不在,这对鲁棒训练深度神经网络(DNN)提出了挑战,因为DNN通常具有高容量来记住噪声标签。在本文中,我们发现,测试精度可以定量表征的数据集的噪声比。特别是,在对称噪声的情况下,测试精度是噪声比的二次函数,这解释了先前发表的实验结果。基于我们的分析,我们将交叉验证应用于随机分割的噪声数据集,从而识别出具有正确标签的大多数样本。然后,我们采用协同教学策略,充分利用已识别的样本来针对有噪标签鲁棒地训练DNN。与广泛的最先进的方法相比,我们的策略始终提高了DNN在合成和真实世界训练噪声下的泛化性能。
2019-05-13 cs.LG stat.ML
Understanding the Predictability of Gesture Parameters from Speech and their Perceptual Importance
Trinity College Dublin(都柏林圣三一学院);University of California Davis(加利福尼亚大学戴维斯分校)
手势行为是人类对话的自然组成部分。许多工作都集中在消除繁琐的手动动画的需要,通过设计语音驱动的手势生成器来创建具体的会话代理。然而,这些生成器通常以黑盒方式工作,假设输入语音和输出运动之间的一般关系。由于他们的成功仍然有限,我们更详细地研究如何语音可能涉及到不同方面的手势运动。我们确定了一些参数的手势,如速度和手势的大小,并探讨其关系的语音信号的双重方式。首先,我们训练多个递归网络来从语音中预测手势参数,以了解仅从语音中建模手势属性的效果如何。我们发现,手势参数可以部分预测从语音,和一些参数,如路径长度,被预测比其他人更准确,如速度。其次,我们设计了一个感知的研究,以评估每个手势参数的重要性,产生运动,人们认为适当的讲话。结果表明,任何参数的退化都被视为负面的,但有些变化,如手形,比其他变化更有影响力。视频摘要可以在https://youtu.be/aw6-_5kmLjY上找到。
2020-10-02 cs.CV cs.HC cs.LG
Understanding Hard Negatives in Noise Contrastive Estimation
Rutgers University(罗格斯大学)
反例的选择是噪声对比估计中的一个重要问题。最近的研究发现,硬否定--模型下得分最高的不正确例子--在实践中是有效的,但它们的使用没有正式的理由。我们开发分析工具来了解硬底片的作用。具体来说,我们认为对比损失作为交叉熵损失的梯度的有偏估计,并从理论和经验上表明,设置负分布的模型分布的结果减少偏差。我们还得到了一个一般形式的分数函数,统一了文本检索中使用的各种架构。通过将硬否定与适当的评分函数相结合,我们在具有挑战性的zero-shot实体链接任务上获得了强有力的结果。
2021-04-13 cs.CL cs.LG
FAdeML: Understanding the Impact of Pre-Processing Noise Filtering on Adversarial Machine Learning
Vienna University of Technology(维也纳工业大学);Information Technology University(信息技术大学)
基于深度神经网络(DNN)的机器学习(ML)算法最近已经成为领先的ML范式,特别是对于分类任务,因为它们具有从大型数据集有效学习的卓越能力。然而,一些众所周知的攻击,如数据集中毒,对抗性示例和网络操纵(通过添加恶意节点)的发现,使人们关注基于DNN的ML系统缺乏安全性。特别地,恶意行为者可以使用这些众所周知的攻击来引起随机/有针对性的误分类,或者引起预测置信度的改变,这仅通过轻微但系统地操纵环境参数、推断数据或数据采集块来实现。然而,大多数先前的对抗攻击没有考虑通常与ML推理模块集成的预处理噪声滤波器。我们在这项工作中的贡献是表明这是一个重大的遗漏,因为这些噪声过滤器可以使大多数现有的攻击无效,这些攻击基本上依赖于引入对抗性噪声。除此之外,我们还扩展了现有技术,提出了一种新的预处理噪声过滤器感知的对抗性ML攻击,称为FadeML。为了证明所提出的方法的有效性,我们通过利用针对“德国交通标志识别基准(GTSRB)”数据集训练的“VGGNet”DNN来生成对抗攻击图像,尽管没有视觉噪声,但即使在存在预处理噪声过滤器的情况下,也会导致分类器错误分类。
2018-11-04 cs.CR cs.LG stat.ML
Understanding Neural Networks and Individual Neuron Importance via Information-Ordered Cumulative Ablation
Technical University of Munich(慕尼黑工业大学);Amazon(亚马逊);Huawei Germany(华为德国);Know-Center GmbH(Know-Center有限公司)
在这项工作中,我们研究了使用三个信息理论量-熵,类变量的互信息,以及基于Kullback-Leibler发散的类选择性度量-来理解和研究已经训练好的全连接前馈神经网络的行为。我们通过在MNIST、FashionMNIST和CIFAR-10上训练的网络中累积消融神经元,分析了这些信息理论量与测试集分类性能之间的联系。我们的结果与Morcos等人最近发表的结果相似,这表明类别选择性不是分类性能的良好指标。然而,单独观察各个层,互信息和类别选择性都与分类性能呈正相关,至少对于具有ReLU激活函数的网络来说是这样。我们提供了这种现象的解释,并得出结论,这是不明智的跨层比较建议的信息理论量。此外,我们表明,累积消融的神经元与上升或下降的信息理论量可以用来制定假设的联合行为的多个神经元,如冗余和协同作用,与低计算成本。我们还绘制连接到神经网络的信息瓶颈理论。
2021-06-09 cs.CV cs.IT cs.LG
Understanding the Effect of Noise in LLM Training Data with Algorithmic Chains of Thought
Georgia Institute of Technology(佐治亚理工学院);IBM Research(IBM研究院)
本研究通过TInt框架生成可控噪声的算法思维链数据,发现微调模型对静态噪声鲁棒但对动态噪声敏感,提示模型对静态噪声也敏感,强调应优先过滤含全局错误的动态噪声样本。
2024-02-09 cs.LG
The Dark Side of Rich Rewards: Understanding and Mitigating Noise in VLM Rewards
Google DeepMind(谷歌DeepMind)
本文发现 VLM 奖励中的假阳性噪声会损害具身智能体学习,提出基于二元互信息的 BiMI 奖励函数以缓解噪声,并在多个导航环境中显著提升了学习效率。
2025-11-08 cs.LG cs.RO
AdaDPIGU: Differentially Private SGD with Adaptive Clipping and Importance-Based Gradient Updates for Deep Neural Networks
Guangdong Provincial Key Laboratory of IRADS Beijing Normal-Hong Kong Baptist University(广东省IRADS关键实验室北京师范大学-香港 Baptist大学)
提出AdaDPIGU,一种结合重要性剪枝与自适应裁剪的差分隐私SGD框架,在MNIST和CIFAR-10上实现高精度,甚至超越非隐私基线,兼顾隐私与效用。
2025-07-09 cs.LG math.ST stat.ML
Understanding Domain Generalization: A Noise Robustness Perspective
National University of Singapore(新加坡国立大学)
本文从标签噪声视角探究域泛化算法优于经验风险最小化的原因,发现DG算法具有隐式噪声鲁棒性,但真实基准上其性能优势并不明显。
2024-03-18 cs.CV cs.LG
On the Importance of Behavioral Nuances: Amplifying Non-Obvious Motor Noise Under True Empirical Considerations May Lead to Briefer Assays and Faster Classification Processes
Rutgers the State University of New Jersey(新泽西罗切斯特州立大学);Rutgers University Center for Cognitive Science(罗切斯特大学认知科学中心);Rutgers University Center Biomedicine, Imaging and Modeling(罗切斯特大学生物医学、成像与建模中心)
本文提出一种结合面部视频微峰数据与AI人脸网格估计的情感计算平台,通过几何与非线性动力学分析在5秒短样本中保持统计功效,以区分自闭症与神经典型发育模式。
2025-08-18 cs.CV cs.LG eess.SP
Importance of Smoothness Induced by Optimizers in FL4ASR: Towards Understanding Federated Learning for End-to-End ASR
Apple(苹果公司)
本文系统研究联邦学习训练端到端ASR时优化器平滑性、CTC权重、初始化、归一化方式及FL超参数对词错误率的影响,并总结适用于端到端ASR的联邦学习最佳实践。
2023-09-22 cs.DC cs.LG cs.SD
A Guide to Feature Importance Methods for Scientific Inference
LMU Munich(慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);Leibniz Institute for Prevention Research & Epidemiology – BIPS(莱布尼茨预防研究与流行病学研究所(BIPS));University of Bremen(不来梅大学);University of Copenhagen(哥本哈根大学);University of Tübingen(蒂宾根大学);Tübingen AI Center(蒂宾根人工智能中心)
本文是一份关于科学推断中全局特征重要性方法的综合指南,通过广泛回顾并提供新证明阐明了不同FI方法的解释,为从黑盒ML模型中进行科学推断制定了具体建议并探讨了未来研究方向。
2024-08-29 cs.LG math.ST stat.ME
Beyond Noise: Understanding and Overcoming Temperature Effects in Analog DNN Inference
Heidelberg University(海德堡大学)
本研究通过实验探究温度对模拟DNN推理的影响,发现系统性非理想特性是性能下降主因,并提出硬件在环训练和温度感知校准作为最有效的缓解策略。
2026-09-15 cs.LG
On Understanding the Influence of Controllable Factors with a Feature Attribution Algorithm: a Medical Case Study
Swansea University(斯旺西大学);Nanyang Technological University(南洋理工大学)
特征属性XAI算法使其用户能够通过特征重要性计算深入了解大型数据集的底层模式。现有的特征属性算法对数据集中的所有特征进行均匀处理,这可能导致对改变特征值的后果的误解。在这项工作中,我们考虑分区功能成可控和不可控的部分,并提出了可控fActor特征属性(CAFA)的方法来计算可控功能的相对重要性。我们将CAFA应用于两个现有数据集和我们自己的COVID-19非药物控制措施数据集进行了实验。实验结果表明,使用CAFA,我们能够在解释中排除不可控特征的影响,同时保留完整的数据集进行预测。
2022-03-23 cs.AI cs.LG
Noise Robust Named Entity Understanding for Voice Assistants
Apple(苹果公司)
命名实体识别(NER)和实体链接(EL)在语音助理交互中起着重要作用,但由于与口头用户查询相关联的特殊困难而具有挑战性。在本文中,我们提出了一种新的架构,联合解决NER和EL任务,将它们结合在一个联合重新排序模块。我们表明,我们提出的框架提高了NER的准确性高达3.13%和EL的准确性高达3.6%的F1得分。所使用的特征还导致在其他自然语言理解任务中更好的准确性,例如域分类和语义解析。
2021-08-10 cs.AI cs.CL cs.LG
A Survey on the Robustness of Feature Importance and Counterfactual Explanations
J.P. Morgan AI Research(摩根大通人工智能研究院);University of Maryland(马里兰大学)
有几种方法旨在解决理解AI/ML模型行为的关键任务。可以说,其中最受欢迎的是局部解释,专注于研究单个实例的模型行为。已经提出了几种方法进行局部分析,但相对较少的努力已经进入了解,如果解释是强大的,准确地反映了基础模型的行为。在这项工作中,我们对分析两类局部解释(特征重要性和反事实解释)的鲁棒性的工作进行了调查,这两类解释在分析金融领域的AI/ML模型时被广泛使用。该调查旨在统一现有的鲁棒性定义,引入分类法来分类不同的鲁棒性方法,并讨论一些有趣的结果。最后,调查介绍了一些关于扩展目前的鲁棒性分析方法,以确定可靠的可解释性方法的指针。
2023-01-03 cs.AI cs.LG
The Importance of Online Data: Understanding Preference Fine-tuning via Coverage
Carnegie Mellon University(卡内基梅隆大学);Aurora Innovation(奥罗拉创新公司);Cornell University(康奈尔大学)
本研究通过覆盖度理论证明离线对比方法需全局覆盖条件,而在线RL仅需局部覆盖,并据此提出混合偏好优化算法HyPO,兼具性能与效率优势。
2024-07-16 cs.AI cs.CL cs.LG
Noisy Machines: Understanding Noisy Neural Networks and Enhancing Robustness to Analog Hardware Errors Using Distillation
Arm Research(Arm研究院);Arizona State University(亚利桑那州立大学)
深度学习的成功引发了人们对计算机硬件设计的兴趣,以更好地满足神经网络推理的高要求。特别地,基于电子、光学或光子器件,模拟计算硬件已经被特别地用于加速神经网络,这可以很好地实现比传统数字电子器件更低的功耗。然而,这些提出的模拟加速器受到其物理组件产生的固有噪声的影响,这使得在深度神经网络上实现高精度具有挑战性。因此,为了在模拟加速器上成功部署,必须能够训练深度神经网络,使其对网络权重中的随机连续噪声具有鲁棒性,这在机器学习中是一个新的挑战。在本文中,我们提出了噪声神经网络的理解。我们概述了一个嘈杂的神经网络如何降低学习能力的结果,其输入和输出之间的互信息的损失。为了解决这个问题,我们建议在训练过程中使用知识蒸馏结合噪声注入来实现更具噪声鲁棒性的网络,这在不同的网络和数据集(包括ImageNet)上进行了实验验证。与之前的最佳尝试相比,我们的方法实现的模型具有高达两倍的噪声容限,这是使模拟硬件适用于深度学习的重要一步。
2020-01-14 cs.AI cs.AR cs.LG
Understanding mobility in networks: A node embedding approach
Universidade Federal de Ouro Preto(奥罗普雷托联邦大学);Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学);Politecnico di Torino(都灵理工大学);Instituto Tecnológico de Aeronáutica(航空技术学院)
由于越来越多的移动设备能够连接和交换消息,我们提出了一种方法,旨在建模和分析网络中的节点移动性。我们注意到,在文献中的许多现有的解决方案依赖于拓扑测量直接计算的节点联系人的图形,旨在捕捉的概念节点的重要性方面的连接和移动模式有利于原型设计,设计和部署的移动网络。然而,每一个措施都有其特殊性,并未能概括节点的重要性,最终随着时间的推移而变化的概念。与以前的方法不同,我们的方法基于节点嵌入方法,该方法对节点在移动性和连接性模式中的重要性进行建模并揭示,同时保留其空间和时间特征。我们专注于一个基于小组会议痕迹的案例研究。结果表明,我们的方法提供了一个丰富的表示提取不同的移动性和连接模式,这可以是在移动网络中的各种应用和服务的帮助。
2021-11-11 cs.LG cs.NI cs.SI
Importance of Environment Design in Reinforcement Learning: A Study of a Robotic Environment
Budapest University of Technology and Economics(布达佩斯技术与经济大学)
对特定环境的深入理解在强化学习(RL)中至关重要。为了解决这一问题,本文研究了移动协作机器人助手的决策过程建模的马尔可夫决策过程(MDP)框架。利用非线性贝尔曼最优性方程计算了MDP的最优状态-动作组合。这个方程组可以通过Wolfram Mathematica的计算能力相对容易地求解,其中获得的最佳动作值指向最佳策略。与其他RL算法不同,该方法不近似最优行为,它给出了精确的,显式的解决方案,这为我们的研究提供了坚实的基础。有了这个,我们提供了新的见解来理解RL中的动作选择机制,通过提出各种小的修改,导致不同的最优策略的非常相同的模式。
2021-06-28 cs.AI cs.LG cs.RO
Why Are DMD Students Lazy? Understanding the Copying Behavior in Few-Step Distillation
Department of Computer Science, University of Oxford(牛津大学计算机科学系);AITHYRA, Research Institute for Biomedical AI(生物医学AI研究 institute)
本文研究分布匹配蒸馏(DMD)中高维学生模型自发复制教师噪声-数据配对的现象,通过几何自由度受限解释其成因。
2026-06-01 cs.LG
Understanding Noise-Augmented Training for Randomized Smoothing
Johns Hopkins University(约翰斯·霍普金斯大学)
本文从理论上分析随机平滑中噪声增强训练对鲁棒分类器风险的影响,证明其益处非普遍存在,并刻画了能获益的分布条件,实验验证于CIFAR-10和MNIST。
2023-05-08 cs.AI cs.LG
Investigating Layer Importance in Large Language Models
National University of Singapore(新加坡国立大学);PayPal(贝宝)
本研究通过Shapley值和层消融实验评估LLMs中各层的重要性,发现某些早期“基石层”对模型性能起主导作用,移除会导致性能崩溃退化为随机猜测,移除非基石层则影响甚微。
2024-09-22 cs.CL cs.LG
A Survey on Understanding, Visualizations, and Explanation of Deep Neural Networks
Concordia Institute for Information Systems Engineering(康考迪亚信息系统工程研究院);Concordia University(康考迪亚大学)
机器学习和信号处理领域的最新进展已经导致对深度神经网络(DNN)的广泛兴趣激增,这是由于它们对于具有重大工程重要性的不同和具有挑战性的问题具有前所未有的性能和高精度。然而,当这样的深度学习架构被用于做出关键决策时,诸如涉及人类生命的决策(例如,在控制系统和医疗应用中),理解、信任并用一个词“解释”深层模型决策背后的论点是至关重要的。在许多应用中,人工神经网络(包括DNN)被认为是黑箱系统,其不能提供关于其内部处理动作的足够线索。尽管最近已经开始了一些努力来解释深度网络的行为和决策,但可解释的人工智能(XAI)领域,其目的是推理DNN的行为和决策,仍处于起步阶段。本文的目的是全面概述DNN内部和整体行为的理解,可视化和解释。
2021-02-02 cs.AI cs.LG
Signal or Noise? Understanding Generative Models for Real-World Sensor Time Series
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Massachusetts Institute of Technology(麻省理工学院)
研究针对现实世界传感器时间序列生成模型碎片化问题,引入SensorGen大规模研究,评估五个主要家族的生成模型,发现流匹配模型性能强、信号属性重要、生成信号有实用价值。
2026-07-07 cs.AI cs.LG