Exploring Model Robustness with Adaptive Networks and Improved Adversarial Training
University of Maryland, College Park(马里兰大学帕克分校)
对抗性训练已被证明可以有效地强化网络对抗性示例。然而,所获得的鲁棒性受到网络容量和训练样本数量的限制。因此,为了构建更鲁棒的模型,通常的做法是在具有更多参数的加宽网络上进行训练。为了提高鲁棒性,我们提出了一个条件归一化模块,以适应网络在输入样本的条件。我们的自适应网络,一旦经过对抗训练,就可以在干净的验证准确性和鲁棒性方面胜过非自适应网络。我们的方法是客观不可知的,并且始终如一地改进了传统的对抗训练目标和TRADES目标。我们的自适应网络的性能也优于更大的加宽非自适应架构,这些架构具有1.5倍的参数。我们进一步介绍了对抗训练中的几个实用“技巧”,以提高鲁棒性并实证验证其效率。
2020-05-30 cs.LG stat.ML
Complementary Supervised and Self-Supervised Representations for Out-of-Distribution Graph Learning
ShanghaiTech University(上海科技大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);The Pennsylvania State University(宾夕法尼亚州立大学)
本研究提出Co-Train与Dual-Space Retrieval两个框架,利用自监督表示互补信息改进图神经网络分布外节点分类,在多个基准上优于强监督基线。
2026-10-07 cs.LG
Lagrangian Objective Function Leads to Improved Unforeseen Attack Generalization in Adversarial Training
Sharif University of Technology(谢里夫理工大学)
最近深度学习模型及其实际应用的改进引起了人们对这些模型对对抗性示例的鲁棒性的担忧。对抗性训练(AT)已被证明可以有效地达到一个鲁棒的模型来对抗训练期间使用的攻击。然而,它通常无法抵御其他攻击,即模型过度拟合训练攻击方案。在本文中,我们提出了一个简单的修改,以减轻上述问题的AT。更具体地说,我们最小化扰动$\ell_p$规范,同时最大化分类损失的拉格朗日形式。我们认为,基于该方案制作对抗性示例会增强学习模型中的攻击泛化能力。我们将最终模型的鲁棒准确性与训练期间未使用的攻击进行比较,以密切相关的最先进的AT方法。这一比较表明,我们对未知攻击的平均鲁棒准确率在CIFAR-10数据集中比相应的最先进方法高出5.9%,在ImageNet-100数据集中比相应的最先进方法高出3.2%。我们还证明了我们的攻击比其他针对不可见攻击泛化设计的攻击方案更快,并得出结论,它对大规模数据集是可行的。
2021-03-29 cs.CV cs.LG
Learning to Forget with Information Divergence Reweighted Objectives for Noisy Labels
Department of Mathematics(数学系);Texas State University(德克萨斯州立大学);School of Information Systems and Management(信息系统与管理学院);University of South Florida(佛罗里达州立大学)
针对噪声标签学习问题,提出基于信息散度邻域松弛的新目标函数ANTIDOTE,通过凸对偶重构为低计算成本的对抗训练方法,能自适应降低噪声样本影响,在多种噪声下优于同类损失函数。
2025-08-08 cs.LG stat.ML
Adversarial Training with Complementary Labels: On the Benefit of Gradually Informative Attacks
RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);The University of Sydney(悉尼大学);The University of Tokyo(东京大学);Hong Kong Baptist University(香港浸会大学)
不完全监督下的对抗性训练(AT)意义重大,但受到的关注有限。为了将AT推向更实用的场景,我们探索了一个全新但具有挑战性的设置,即,带有互补标签(CL)的AT,其指定数据样本不属于的类。然而,AT与现有的CL方法的直接组合导致一致的失败,但不是在两阶段训练的简单基线上。在本文中,我们进一步探讨了这一现象,并确定了AT与CL的潜在挑战,即棘手的对抗性优化和低质量的对抗性示例。为了解决上述问题,我们提出了一种新的使用渐进信息攻击的学习策略,该策略由两个关键部分组成:1)预热攻击(Warm-up)轻轻地提高对抗扰动预算,以减轻CL的对抗优化; 2)伪标签攻击(PLA)将渐进信息模型预测合并到校正的互补损失中。进行了大量的实验,以证明我们的方法在一系列基准数据集的有效性。该代码可在https://github.com/RoyalSkye/ATCL上公开获取。
2022-11-01 cs.CR cs.LG
How (not) to Train your Generative Model: Scheduled Sampling, Likelihood, Adversary?
Balderton Capital LLP(鲍德顿资本有限责任合伙)
深度学习研究的现代应用和进展使人们对文本和图像的生成模型产生了新的兴趣。然而,即使在今天,人们还不清楚应该使用什么样的目标函数来训练和评估这些模型。在本文中,我们提出了两个贡献。首先,我们对预定采样进行了批判,这是一种最先进的训练方法,有助于在2015年赢得MSCOCO图像字幕基准。在这里,我们表明,尽管这种令人印象深刻的经验表现,预定采样的目标函数是不适当的,并导致不一致的学习算法。其次,我们重新审视了计划抽样的目的是解决的问题,并提出了另一种解释。我们认为,当最终目标是生成自然的样本时,极大似然是一个不合适的训练目标。我们继续推导出一个理想的目标函数,用于这种情况。我们介绍了对抗训练的概括,并展示了这种方法如何在极大似然训练和我们理想的训练目标之间插值。据我们所知,这是第一个解释为什么对抗性训练倾向于产生具有更高感知质量的样本的理论分析。
2015-11-16 cs.AI cs.IT cs.LG
Adversarial Instance Generation and Robust Training for Neural Combinatorial Optimization with Multiple Objectives
LIACS, Leiden University, Leiden, The Netherlands(莱顿大学LIACS研究所,莱顿,荷兰);Eindhoven University of Technology, Eindhoven, The Netherlands(埃因霍温理工大学,埃因霍温,荷兰)
提出面向多目标组合优化问题的偏好条件深度强化学习鲁棒性框架,通过偏好对抗攻击生成困难实例并量化影响,结合硬度感知偏好选择的对抗训练提升泛化性,在MOTSP、MOCVRP、MOKP上验证了攻击与防御的有效性。
2026-06-06 cs.AI cs.LG
Learning with Hierarchical Complement Objective
National Tsing-Hua University(国立清华大学);Electronic and Optoelectronic System Research Laboratories, ITRI(工业技术研究院电子与光电系统研究实验室);Google Research(谷歌研究院)
标签层次广泛存在于许多与视觉相关的问题中,从图像分类中的显式标签层次到语义分割中的隐式标签层次。然而,最先进的方法通常部署交叉熵损失,隐含地假设类标签是排他性的,因此彼此独立。由于来自同一父类别的类通常具有一定的相似性,我们设计了一个新的训练图,称为分层互补目标训练(HCOT),它利用了标签层次结构中的信息。HCOT最大化地面真值类的概率,同时以分层方式中和其余类的概率,使模型显式地利用标签层次结构。建议的HCOT评估图像分类和语义分割任务。实验结果证实,HCOT在CIFAR-100、ImageNet-2012和PASCAL-Context中的性能优于最先进的模型。该研究进一步证明了HCOT可以应用于具有潜在标签层次结构的任务,这是许多机器学习任务的共同特征。
2019-11-17 cs.CV cs.LG
Complement Submodular Information Measures for Balanced and Robust Data Selection
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
提出互补子模信息(CSI)目标函数,通过建模子集与其补集之间的共享结构信息,实现平衡且鲁棒的数据选择,并在理论上证明其近似单调性和贪心近似保证,实验表明在鲁棒隐藏切片感知子集选择中优于经典子模目标。
2026-05-23 cs.AI cs.LG math.CO
Consensus Learning from Heterogeneous Objectives for One-Class Collaborative Filtering
Pohang University of Science and Technology (POSTECH)(浦项科技大学);University of Illinois at Urbana-Champaign (UIUC)(伊利诺伊大学厄巴纳-香槟分校)
在过去的几十年里,单类协同过滤(OCCF),许多学习目标已经研究了各种基础的概率模型的基础上。从我们的分析中,我们观察到,用不同的OCCF目标训练的模型捕获了用户-项目关系的不同方面,这反过来又产生了互补的建议。本文提出了一种新的OCCF框架,名为ConCF,利用整个训练过程中异构目标的互补性,生成一个更通用的模型。ConCF通过添加辅助头来构建给定目标模型的多分支变体,每个辅助头都是用异构目标训练的。然后,它通过整合来自头部的各种观点来产生共识,并基于共识指导头部。在整个训练过程中,头部基于它们的互补性协同进化,这再次导致迭代地生成更准确的共识。在训练之后,我们通过移除辅助头将多分支架构转换回原始目标模型,因此部署没有额外的推理成本。我们在真实世界数据集上的大量实验表明,ConCF通过利用异构目标的互补性显着提高了模型的泛化能力。
2022-02-26 cs.IR cs.LG
Revisiting semi-supervised training objectives for differentiable particle filters
Computer Science Research Centre, University of Surrey(萨里大学计算机科学研究中心)
本文针对有标签数据稀缺问题,比较了两种可微分粒子滤波器半监督训练目标,并在两个模拟环境中验证其有效性。
2024-05-02 cs.LG stat.ML
Neural Sequence Model Training via $α$-divergence Minimization
Recruit Technologies Co., Ltd.(Recruit Technologies株式会社);National Institute of Advanced Industrial Science and Technology (AIST)(日本产业技术综合研究所);Kyoto University(京都大学);Preferred Networks, Inc.(Preferred Networks公司);ATR Cognitive Mechanisms Laboratories(ATR认知机制实验室)
提出了一种新的神经序列模型训练方法,其目标函数由$α$ -散度定义。我们证明了目标函数将基于最大似然(ML)和基于强化学习(RL)的目标函数概括为特殊情况(即,ML对应于$α\to 0$,RL对应于$α\to1$)。我们还表明,目标函数的梯度可以被认为是基于ML和RL的目标梯度的混合。一个机器翻译任务的实验结果表明,最小化的目标函数与$α> 0$优于$α\to 0$,这对应于ML的方法。
2017-06-30 cs.LG stat.ML
Towards Consistency and Complementarity: A Multiview Graph Information Bottleneck Approach
Xidian University(西安电子科技大学)
图神经网络(GNNs)的实证研究一般将原始节点特征和邻接关系作为单视图输入,忽略了多个图视图的丰富信息。为了避免这个问题,多视图图分析框架已经被开发来融合视图之间的图信息。如何建模和集成共享(即一致性)和视图特定(即互补性)的信息是多视图图分析中的一个关键问题。在本文中,我们提出了一种新的多视图变分图信息瓶颈(MVGIB)的原则,以最大限度地提高协议的共同表示和意见分歧的特定视图表示。在此原则下,我们制定了共同的和特定于视图的信息瓶颈目标,通过使用互信息的约束。然而,这些目标难以直接优化,因为互信息在计算上是难以处理的。为了应对这一挑战,我们得到变分的上下界的互信息条款,然后优化变分的界限,找到近似的解决方案的信息目标。在图基准数据集上的大量实验证明了该方法的优越性。
2022-10-11 cs.AI cs.LG
Training Multimodal Systems for Classification with Multiple Objectives
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫研究所人工智能研究所 (IAIS))
我们从各种各样的感官信息中了解世界。自动化系统缺乏这种能力,因为调查集中在处理以单一形式呈现的信息上。调整架构以从多种模态中学习,创造了学习世界丰富表征的潜力-但当前的多模态系统仅对单峰方法进行了边际改进。神经网络在训练过程中学习采样噪声,结果是对不可见数据的性能下降。本研究介绍了第二个目标的多模态融合过程中学习变分推理。正则化方法在内部训练循环中实现,以控制方差,模块化结构在向层添加额外的神经元时稳定性能。这个框架进行评估的多标签分类任务与文本和视觉输入,以证明多个目标和概率的方法,以降低方差和提高泛化的潜力。
2020-08-26 cs.LG stat.ML
AdaGrid: Adaptive Grid Search for Link Prediction Training Objective
EPFL(洛桑联邦理工学院);Stanford University(斯坦福大学)
有助于机器学习模型成功的最重要因素之一是良好的训练目标。训练目标对模型的性能和泛化能力有重要影响。本文专门针对图神经网络训练目标的链接预测,这在现有的文献中还没有探讨。这里,训练目标包括负采样策略和各种超参数,例如控制如何使用训练边缘的边缘消息比。通常,这些超参数通过完全网格搜索进行微调,这非常耗时且依赖于模型。为了减轻这些限制,我们提出了自适应网格搜索(AdaGrid),它在训练过程中动态调整边缘消息比率。它与模型无关,具有高度可扩展性,具有完全可定制的计算预算。通过大量的实验,我们表明,AdaGrid可以提高性能的模型高达$1.9\%$,同时是9倍的时间效率比一个完整的搜索。总的来说,AdaGrid代表了一种有效的自动化算法,用于设计机器学习训练目标。
2022-05-08 cs.LG cs.SI
Population-Based Multi-Objective Training of Discriminators for Semi-Supervised GANs
ITIS Software, University of Malaga(ITIS软件,马拉加大学);CSAIL MIT, Cambridge, MA, USA(MIT计算机科学与人工智能实验室,剑桥,马萨诸塞州,美国)
提出基于种群的多目标进化训练策略,将半监督GAN的判别器学习建模为多目标优化问题,通过帕累托支配排序探索分类精度与真假判别之间的权衡,提升训练鲁棒性和分类准确率。
2026-07-03 cs.AI cs.CV cs.LG
Multi-objective training of Generative Adversarial Networks with multiple discriminators
INRS-EMT, Université du Québec(魁北克大学INRS-EMT分校);Desautels Faculty of Management, McGill University(麦吉尔大学德索泰尔管理学院);Quebec Artificial Intelligence Institute, Université de Montréal(蒙特利尔大学魁北克人工智能研究所)
最近的文献已经证明了通过采用一组鉴别器来训练生成对抗网络的有希望的结果,与传统的涉及一个生成器对抗一个对手的游戏相反。这种方法对损失的一些简单合并(例如算术平均)执行单目标优化。在这项工作中,我们重新审视了多个设置框架的同时最小化的损失提供了不同的模型作为一个多目标优化问题。具体来说,我们评估了多个梯度下降和超体积最大化算法在许多不同数据集上的性能。此外,我们认为,以前提出的方法和超体积最大化都可以被看作是多个梯度下降的变化,其中的更新方向可以有效地计算。我们的研究结果表明,超体积最大化提供了一个更好的折衷样本质量和计算成本比以前的方法。
2019-01-24 cs.LG stat.ML
Investigating Pre-Training Objectives for Generalization in Vision-Based Reinforcement Learning
KAIST(韩国科学技术院)
本文提出Atari-PB基准,在50款Atari游戏上预训练ResNet-50,发现学习任务无关特征的预训练目标比任务特定目标更能提升跨环境泛化能力。
2024-06-10 cs.AI cs.CV cs.LG
Softmax Dissection: Towards Understanding Intra- and Inter-class Objective for Embedding Learning
Tsinghua University(清华大学)
softmax损失及其变体被广泛用作嵌入学习的目标,特别是在人脸识别等应用中。然而,softmax损失中的类内和类间目标是纠缠在一起的,因此一个优化良好的类间目标会导致类内目标的放松,反之亦然。在本文中,我们建议将softmax损失分解为独立的类内和类间目标(D-Softmax)。使用D-Softmax作为目标,我们可以清楚地了解类内和类间目标,因此可以直接将每个部分调整到最佳状态。此外,我们发现类间目标的计算是冗余的,并提出了两个基于采样的变体D-Softmax,以减少计算成本。使用规则尺度数据进行训练,人脸验证实验表明,D-Softmax与现有的损失(如SphereFace和ArcFace)相当。通过使用大规模数据进行训练,实验表明,D-Softmax的快速变体显著加速了训练过程(例如64倍),而性能只有很小的牺牲,在性能和效率方面都优于现有的Softmax加速方法。
2020-02-12 cs.CV cs.LG
Effective Backdoor Mitigation in Vision-Language Models Depends on the Pre-training Objective
University of Washington(华盛顿大学);Carnegie Mellon University(卡内基梅隆大学);Nvidia(英伟达);University of Maryland(马里兰大学);IBM Research(IBM研究院)
本研究揭示多模态模型后门缓解方法CleanCLIP的效果高度依赖预训练目标,更强的预训练目标会使后门更难清除,为相关从业者提供了关键参考。
2025-01-11 cs.AI cs.CV cs.LG
What Drives Compositional Generalization in Visual Generative Models? The Importance of Continuous Training Objectives
University of Freiburg;Bosch Center for Artificial Intelligence;Inria, \'E cole Normale Sup \'e rieure, CNRS, PSL Research University
研究探讨了视觉生成模型中连续训练目标对组合泛化能力的影响,发现训练目标分布的离散或连续性及条件信息对泛化性能有关键作用。
2026-10-02 cs.AI cs.CV cs.LG
Automating Code-Related Tasks Through Transformers: The Impact of Pre-training
USI Università della Svizzera italiana(瑞士意大利语区大学)
Transformers在软件工程(SE)文献中已经得到普及。这些深度学习模型通常通过自我监督目标进行预训练,旨在为模型提供关于感兴趣语言的基本知识(例如,Java)。经典的预训练目标是掩码语言模型(MLM),其中来自输入的令牌的百分比(例如,Java方法)被屏蔽,模型负责预测它们。一旦预训练,然后微调模型以支持感兴趣的特定下游任务(例如,代码摘要)。虽然有证据表明预培训可以提高绩效,但对所使用的具体预培训目标的影响知之甚少。事实上,MLM只是可能的预训练目标之一,最近自然语言处理领域的工作表明,为特定的下游任务量身定制的预训练目标可能会大大提高模型的性能。在这项研究中,我们专注于自动化代码相关任务时,预训练目标对Transformers性能的影响。我们首先进行了系统的文献综述,旨在确定SE中使用的预培训目标。然后,我们使用(i)SE中通常采用的通用预训练目标和(ii)针对我们实验主题的特定代码相关任务(即bug修复,代码总结和代码完成)量身定制的预训练目标来预训练32个Transformers。我们还将预训练模型与非预训练模型进行了比较。我们的研究结果表明:(i)只有在可用的微调数据量很小的情况下,预训练才有助于提高性能;(ii)MLM目标通常足以最大限度地提高模型的预测性能,即使将其与专门针对当前下游任务的预训练目标进行比较。
2023-02-08 cs.LG cs.SE
Multi-objective Neural Architecture Search with Almost No Training
Southern University of Science and Technology(南方科技大学)
近年来,神经结构搜索(NAS)引起了学术界和工业界越来越多的关注。尽管有稳定的令人印象深刻的经验结果,大多数现有的NAS算法是计算上禁止执行,由于昂贵的迭代随机梯度下降(SGD)的训练。在这项工作中,我们提出了一种有效的替代方案,称为随机权重评估(RWE),快速估计网络架构的性能。通过只训练最后一个线性分类层,RWE将评估架构的计算成本从数小时减少到数秒。当集成到进化多目标算法中时,RWE获得了一组高效的架构,在CIFAR-10上具有最先进的性能,在单个GPU卡上的搜索时间不到两个小时。对等级相关性的消融研究和对ImageNet的迁移学习实验进一步验证了RWE的有效性。
2020-11-27 cs.CV cs.LG cs.NE
NSGA-PINN: A Multi-Objective Optimization Method for Physics-Informed Neural Network Training
Purdue University(普渡大学)
本文提出了NSGA-PINN,一个多目标优化框架的有效训练的物理信息神经网络(PINNs)。所提出的框架使用非支配排序遗传算法(NSGA-II)来实现传统的随机梯度优化算法(例如,ADAM)来有效地逃离局部极小。此外,NSGA-II算法能够在物理信息训练期间精确地满足编码到损失函数中的初始和边界条件。我们证明了我们的框架的有效性,通过应用NSGA-PINN几个普通和偏微分方程问题。特别是,我们表明,该框架可以处理具有挑战性的逆问题与噪声数据。
2023-03-07 cs.LG
Implicit Training of Energy Model for Structure Prediction
大多数深度学习研究都集中在开发新的模型和训练过程上。另一方面,训练目标通常局限于标准损失的组合。当目标与评价指标很好地一致时,这不是一个主要问题。然而,当处理复杂的结构化输出时,理想目标可能难以优化,并且通常目标作为真实目标的代理的功效可能是值得怀疑的。在这项工作中,我们认为现有的基于推理网络的结构预测方法(Tu和Gimpel 2018; Tu,Pang和Gimpel 2020)是间接学习优化能量模型参数化的动态损失目标。然后,我们探索使用基于隐梯度的技术来学习相应的动态目标。我们的实验表明,隐式学习动态损失景观是一种有效的方法,提高模型的结构预测性能。
2022-11-21 cs.AI cs.LG
Towards Linguistically Informed Multi-Objective Pre-Training for Natural Language Inference
Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);Ruhr-Universität Bochum(波鸿鲁尔大学);Rheinische Friedrich-Wilhelms Universität Bonn(莱茵兰-弗里德里希-威廉姆斯波恩大学)
我们引入了一种语言增强的Transformers预训练方法的组合。预训练的目标包括POS标注、基于语义知识图谱的同义词集预测和基于依存解析树的父类预测。与现有技术相比,我们的方法在自然语言推理任务上取得了有竞争力的结果。特别是对于较小的模型,该方法可以显著提高性能,强调智能预训练可以弥补更少的参数,并有助于构建更有效的模型。将POS标记和同义词集预测相结合会产生总体上最好的结果。
2022-12-30 cs.CL cs.LG
Training multi-objective/multi-task collocation physics-informed neural network with student/teachers transfer learnings
Columbia University(哥伦比亚大学)
本文提出了一种PINN训练框架,该框架采用(1)预训练步骤,该预训练步骤加速并提高了具有存储在点云中的辅助数据的物理信息神经网络的训练的鲁棒性,(2)改进神经网络的权重初始化的网络到网络知识传递算法,以及(3)可以改进物理-具有竞争约束的信息神经网络。我们将物理信息神经网络(PINN)的训练、迁移和多任务学习视为多目标问题,其中控制方程、边界条件、热力学不等式、对称性和不变性质等物理约束以及用于预训练的点云有时会导致冲突并需要寻求帕累托最优解。在这些情况下,通常用于处理多个约束的加权范数可能会导致性能较差,而其他多目标算法可能会随着维度的增加而扩展性较差。为了克服这一技术障碍,我们采用了向量化目标函数的概念,并修改了梯度下降方法来处理梯度冲突的问题。数值实验与PINN求解的基准边值问题进行了比较.所提出的范例的性能进行比较,对经典的等权重范数的方法。我们的数值实验表明,一些PINN实现中表现出的脆弱性和缺乏鲁棒性可以克服所提出的策略。
2021-07-24 cs.LG
Improving Robustness to Multiple Spurious Correlations by Multi-Objective Optimization
POSTECH(浦项科技大学);Department of Computer Science and Engineering, POSTECH(浦项科技大学计算机科学与工程学院);Graduate School of Artificial Intelligence, POSTECH(浦项科技大学人工智能研究生院)
本文针对多重偏差导致的多个虚假相关性问题,提出一种基于多目标优化理论的动态分组加权训练方法,并构建MultiCelebA基准,在多个数据集上验证了其优越的去偏性能。
2024-09-05 cs.CV cs.LG
Optimizing Language Models for Inference Time Objectives using Reinforcement Learning
Meta GenAI(Meta 生成式人工智能);Meta FAIR
本文提出在语言模型训练中显式优化推理时间目标(如pass@k和多数投票),并在代码生成任务上验证该方法能显著提升模型推理性能。
2025-08-17 cs.LG
Training Energy-Based Normalizing Flow with Score-Matching Objectives
National Tsing Hua University(国立清华大学);NVIDIA Corporation(英伟达公司);Samsung Research America(三星美国研究院);Georgia Institute of Technology(佐治亚理工学院)
本文提出基于能量的归一化流(EBFlow),利用分数匹配目标训练以绕过雅可比行列式计算,从而支持任意线性层并提升训练效率,实验表明其在速度和负对数似然上均优于最大似然方法。
2023-10-28 cs.LG stat.ML
Adaptor: Objective-Centric Adaptation Framework for Language Models
Masaryk University(马萨里克大学);Gauss Algorithmic(高斯算法公司)
自然语言处理研究的进展是由广泛的软件框架提供的可能性催化的。本文介绍了Adaptor库,它将传统的以模型为中心的预训练+微调步骤转换为以目标为中心的方法,通过应用选定的目标来组成训练过程。我们调查的研究方向,可以受益于增强目标为中心的实验,多任务训练,自定义目标的发展,动态培训课程,或领域自适应。Adaptor旨在简化这些研究方向在实践中的可重复性。最后,我们证明了适配器在选定的无监督领域自适应场景的实际适用性。
2022-05-20 cs.AI cs.CL cs.LG
Let the Data Decide: Supervision Analysis, Capability Trade-offs, and Adaptive Objective Routing in Continued Pre-Training via Off-Policy Distillation
Baidu Inc.(百度公司)
研究离策略蒸馏中训练数据、目标参数化和模型能力的相互作用,通过分解问题进行“目标到能力”和“数据到目标”分析,引入诊断指标量化张力,探讨自适应目标路由,表明有效路由取决于信号质量,将持续预训练重构为监督设计问题。
2026-07-21 cs.AI cs.LG
Training Over-parameterized Models with Non-decomposable Objectives
Google Research(谷歌研究院)
许多现代机器学习应用程序都有复杂而细致的设计目标,例如最大限度地减少最坏情况下的错误,满足给定的精度或召回率目标,或强制执行组公平性约束。用于优化这种不可分解目标的流行技术将问题简化为一系列成本敏感的学习任务,然后通过使用特定于示例的成本重新加权训练损失来解决每个任务。我们指出,标准的方法,重新加权的损失,将标签成本可以产生不满意的结果时,用于训练过参数化模型。作为一种补救措施,我们提出了新的成本敏感的损失,扩展了经典的logit调整的想法,以处理更一般的成本矩阵。我们的损失是经过校准的,并且可以通过教师模型中提取的标签进一步改进。通过在基准图像数据集上的实验,我们展示了我们的方法在训练具有常见鲁棒性和约束优化目标的ResNet模型方面的有效性。
2021-07-09 cs.AI cs.LG
The Mirage of Optimizing Training Policies: Monotonic Inference Policies as the Real Objective for LLM Reinforcement Learning
Tianjin University(天津大学);Alibaba(阿里巴巴)
针对LLM强化学习中训练-推理概率不一致导致的策略不稳定问题,提出单调推理策略改进(MIPI)目标及两阶段框架MIPU,通过推理侧间隙代理选择候选更新,提升推理性能与训练稳定性。
2026-06-28 cs.LG
Heterogeneous Decentralized Diffusion Models
bagel.com(Bagel公司)
提出一种异构去中心化训练框架,通过支持不同专家使用不同目标(DDPM和Flow Matching)并统一推理、预训练检查点转换以及高效架构,大幅降低计算和数据需求,使单GPU(24-48GB VRAM)即可参与训练。
2026-08-04 cs.AI cs.CV cs.LG
Thoughts on Objectives of Sparse and Hierarchical Masked Image Model
Kyushu Institute of Technology(九州工业大学)
本文针对性能优异的自监督SparK模型,提出Mesh Mask-ed新型掩码模式,并考察其在预训练图像掩码中对模型性能的影响。
2025-05-12 cs.CV cs.LG eess.IV
Generalizable Data-free Objective for Crafting Universal Adversarial Perturbations
Indian Institute of Science(印度科学学院)
机器学习模型容易受到对抗性扰动的影响:输入的微小变化可能导致输出的巨大变化。研究还表明,存在输入无关扰动,称为普遍对抗扰动,它可以改变目标模型对大多数数据样本的推断。然而,现有的方法来制作通用扰动是(i)任务特定的,(ii)需要从训练数据分布的样本,和(iii)执行复杂的优化。此外,由于数据依赖性,精心制作的扰动的欺骗能力与可用的训练数据成比例。在本文中,我们提出了一种新的,可推广的和无数据的方法来制作通用的对抗性扰动。独立于底层任务,我们的目标是通过破坏多层提取的特征来实现欺骗。因此,所提出的目标是可推广的工艺图像无关扰动跨多个视觉任务,如对象识别,语义分割,和深度估计。在黑盒攻击场景的实际设置中(当攻击者无法访问目标模型及其训练数据时),我们证明了我们的目标优于数据依赖目标来欺骗学习模型。此外,通过利用与数据分布相关的简单先验,我们的目标显着提高了精心制作的扰动的欺骗能力。我们的目标实现的显著欺骗率强调了当前深度学习模型现在面临的风险增加,因为我们的目标在多个任务中泛化,而不需要训练数据来制作扰动。为了鼓励可重复的研究,我们已经发布了我们提出的算法的代码。
2018-07-24 cs.AI cs.CV cs.LG
Forward versus Backward: Comparing Reasoning Objectives in Direct Preference Optimization
Department of Math and Computer Science(数学与计算机科学系)
本文通过直接偏好优化比较正向与反向推理目标,发现正向训练提升准确性,反向训练降低误报率,两者互补提升模型推理可靠性。
2026-01-12 cs.AI cs.LG
Cross-Lingual Supervision improves Large Language Models Pre-training
Google Research(谷歌研究院)
本文提出在大型语言模型预训练中混合自监督语言建模目标与有监督机器翻译目标并引入跨语言平行数据,并提出一种动态学习混合比例的策略,有效提升了模型的上下文学习能力。
2023-05-19 cs.CL cs.LG
Spectral Geometry of LoRA Adapters Encodes Training Objective and Predicts Harmful Compliance
Independent Researcher(独立研究员)
研究LoRA适配器的谱几何能否识别语言模型的微调目标,并预测下游行为危害。通过实验发现,LoRA权重空间几何能反映训练目标和危害合规性,但跨方法监控需单独校准。
2026-04-10 cs.LG
$(α_D,α_G)$-GANs: Addressing GAN Training Instabilities via Dual Objectives
Arizona State University(亚利桑那州立大学);IIIT Hyderabad(印度国际信息技术学院海得拉巴分校)
本研究提出双目标$(α_D,α_G)$-GANs框架,通过为生成器和判别器设置基于$α$-损失的不同目标,在理论上证明其可简化为$f$-散度最小化并推导估计误差上界,实验验证其能有效缓解GAN训练不稳定性。
2023-05-03 cs.IT cs.LG math.IT
The pretraining domain outweighs the training objective in setting the privacy-utility trade-off of differentially private medical image analysis
RWTH Aachen University(亚琛工业大学);University Hospital RWTH Aachen(亚琛工业大学医院);Stanford University(斯坦福大学);Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡弗里德里希-亚历山大大学)
本文研究了自监督预训练在差分隐私医疗图像分析中的作用,发现DINOv3初始化在DP下优于ImageNet初始化,但不如领域特定监督预训练。
2026-11-10 cs.AI cs.CV cs.LG
Efficient pre-training objectives for Transformers
University of Trento(特伦托大学);Amazon Alexa(亚马逊Alexa)
Transformer架构深刻地改变了自然语言处理,性能超过了以前所有最先进的模型。然而,众所周知的Transformer模型,如BERT、RoBERTa和GPT-2需要巨大的计算预算来创建高质量的上下文表示。在本文中,我们研究了几种有效的基于transformers的模型的预训练目标。通过在不同的任务上测试这些目标,我们确定了ELECTRA模型的哪些新功能是最相关的。我们确认,当输入不包含掩码令牌时,Transformers预训练得到改进,并且使用整个输出来计算损失减少了训练时间。此外,受ELECTRA的启发,我们研究了一个由两个模块组成的模型;一个基于统计模型的发电机和一个简单的发电机,对计算性能没有影响。此外,我们证明了在损失计算过程中消除MASK令牌并考虑整个输出是提高性能的必要选择。此外,我们表明,它是可以有效地训练BERT类模型使用的歧视性的方法,在ELECTRA,但没有一个复杂的发电机,这是昂贵的。最后,我们表明,ELECTRA受益匪浅,从一个国家的最先进的超参数搜索。
2021-04-20 cs.CL cs.IR cs.LG
On Training Targets and Objective Functions for Deep-Learning-Based Audio-Visual Speech Enhancement
Aalborg University(奥尔堡大学);Oticon A/S(奥迪康公司)
视听语音增强(AV-SE)是利用来自说话者的音频和视频信息来改善噪声环境中的语音质量和可懂度的任务。最近,已经采用深度学习技术来以监督的方式解决AV-SE任务。在这种情况下,目标的选择,即要估计的数量,以及用于训练的量化该估计的质量的目标函数,对于性能至关重要。这项工作是第一个提出了一系列不同的目标和目标函数的实验研究,用于训练基于深度学习的AV-SE系统。结果表明,直接估计掩模的方法在估计的语音质量和可懂度方面整体表现最好,尽管直接估计对数幅度谱的模型在估计的语音质量方面表现良好。
2018-11-15 cs.LG cs.SD eess.AS
Dynamical Priors as a Training Objective in Reinforcement Learning
Coimbatore Medical College Coimbatore, TN India(科伊巴托尔医学院,印度泰米尔纳德邦)
本文提出DP-RL框架,通过引入外部状态动态的辅助损失,控制强化学习策略的时间演化,促进时间结构化行为。
2026-04-23 cs.AI cs.LG
A Surrogate-Augmented Symbolic CFD-Driven Training Framework for Accelerating Multi-objective Physical Model Development
Department of Mechanical Engineering, University of Melbourne(墨尔本大学机械工程系);Research and Innovation Centre Takasago Area, Mitsubishi Heavy Industries, Ltd(三洋重工业株式会社 Takasago 区研究与创新中心)
本文提出了一种代理增强的符号CFD驱动训练框架,通过实时整合代理建模来减少多目标物理模型开发的训练成本,同时保持预测准确性。
2025-12-22 cs.LG
Efficient Multi-Objective Neural Architecture Search via Pareto Dominance-based Novelty Search
University of Information Technology(信息科技大学);Vietnam National University(越南国立大学)
本文提出MTF-PDNS方法,通过结合多个免训练指标的帕累托支配新颖性搜索提升种群多样性,在NAS中实现更广泛的架构空间探索,并在收敛速度、多样性、可迁移性和计算成本上优于传统目标驱动方法。
2024-07-30 cs.LG cs.NE
Beyond Log Likelihood: Probability-Based Objectives for Supervised Fine-Tuning across the Model Capability Continuum
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文系统研究监督微调中不同概率目标函数,发现模型能力连续体决定目标优劣:强模型端偏好先验倾向目标(如-p),弱模型端对数似然最优,并理论解释其转换机制。
2026-05-22 cs.CL cs.LG
Aligning the Pretraining and Finetuning Objectives of Language Models
Bing Core Relevance, Microsoft(微软必应核心相关性部门)
我们证明,明确对齐预训练目标的微调目标在语言模型训练显着提高微调任务的性能,并减少所需的微调的例子的最小数量。从目标对齐获得的性能裕度允许我们构建具有较小尺寸的语言模型,用于具有较少可用训练数据的任务。我们提供的经验证据,这些索赔适用于客观对齐的概念感兴趣的标签和首字母缩略词检测任务。我们发现,在客观对齐的情况下,我们的768 × 3和512 × 3 Transformer语言模型可以达到83.9%/82.5%的感兴趣概念标记准确率和73.8%/70.2%的首字母缩略词检测准确率,每个任务仅使用200个微调示例,在没有目标对齐的情况下,通过3个预训练的模型,表现优于768,分别为+4.8%/+3.4%和+9.9%/+6.3%。我们将在存在数百个或更少的训练样本的情况下微调小语言模型命名为“少数样本学习”。在实践中,通过目标对齐实现的少数示例学习不仅节省了人工标记成本,而且还可以在更实时的应用中利用语言模型。
2020-02-05 cs.CL cs.LG
Joint Optimization of Training and Inference in Federated Edge Learning via Constrained Multi-Objective Deep Reinforcement Learning
Department of Electrical and Computer Engineering, Concordia University(康科迪亚大学电气与计算机工程系);School of Automation, Guangdong University of Technology(广东工业大学自动化学院)
提出一种在线优化框架,通过约束多目标深度强化学习算法C-MOPPO联合管理资源受限边缘设备上的联邦训练和推理,以在最小化延迟和能耗的同时最大化推理精度。
2026-05-25 cs.DC cs.LG cs.NI
Pre-Training for Simulation-Based Science: A Study on Jet Foundation Model Training Objectives
Department of Physics, University of Toronto and Vector Institute(物理系,多伦多大学和向量研究所);NERSC, Lawrence Berkeley National Laboratory(NERSC,伯克利国家实验室);Institut für Experimentalphysik, Universität Hamburg(实验物理研究所,汉堡大学);Nagoya University, Kobayashi-Maskawa Institute(名古屋大学,小林昭夫研究所);Department of Particle Physics and Astrophysics, Stanford University(粒子物理与天体物理系,斯坦福大学);Fundamental Physics Directorate, SLAC National Accelerator Laboratory(基础物理局,SLAC国家加速器实验室)
本文系统比较了高能物理中基础模型的预训练方法,发现纯分类预训练在标签充足时最优,结合自监督掩码粒子建模在低标签场景下表现突出,而流匹配生成预训练对下游分类无益,但必须包含在预训练目标中才能提升生成任务。
2026-08-20 cs.LG hep-ph
A Trajectory-Based Bayesian Approach to Multi-Objective Hyperparameter Optimization with Epoch-Aware Trade-Offs
Department of Industrial Systems Engineering and Management, National University of Singapore(新加坡国立大学工业系统工程与管理系);Academy of Mathematics and System Sciences, Chinese Academy of Sciences(中国科学院数学系统科学 academy);School of Mathematical Sciences, University of Chinese Academy of Sciences(中国科学院大学数学科学学院)
针对多目标超参数优化中未充分利用迭代训练过程信息、仅在训练结束时确定权衡的问题,提出将训练轮次作为决策变量的优化问题,及基于轨迹的多目标贝叶斯优化算法,含新型采集函数与多目标早停机制,可高效识别理想权衡。
2025-05-21 cs.LG
A Study on Transformer Configuration and Training Objective
National University of Singapore(新加坡国立大学);Nanyang Technological University(南洋理工大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
本文重新审视了Transformer的常规配置,发现掩码自编码器能缓解深层训练的过平滑问题,提出更深更窄的Bamboo配置,在ImageNet和GLUE上均超越现有模型。
2023-05-18 cs.AI cs.CL cs.CV
Deep Learning with Nonsmooth Objectives
我们探讨了在人工神经网络的训练中使用基于最大范数的非光滑损失函数的可能性。我们假设,这可能会导致优越的分类结果在某些特殊情况下,训练数据是非常小的或不平衡的。我们的数值实验上进行了一个简单的人工神经网络没有隐藏层(设置立即服从标准的非光滑优化技术)似乎证实了我们的假设,基于均匀近似的方法可能更适合于数据集的可靠的训练数据,无论是有限的大小或偏见的相对集群大小。
2021-07-14 cs.LG math.OC