Identity-Free Deferral For Unseen Experts
University of Oxford(牛津大学)
IFD通过强制排列对称性,解决未见过专家的延迟决策问题,提升泛化能力并减少标注需求。
2026-03-02 cs.HC cs.LG
Differentiable Outlier Detection Enable Robust Deep Multimodal Analysis
University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
针对深度网络纯归纳式推理的局限及先验知识反向传播适配难题,提出融合显式知识图谱与可微OOD滤波层的端到端视觉-语言模型,在多下游任务上以更少样本和训练时间达到SOTA级性能。
2023-02-11 cs.AI cs.CL cs.CV
HPG-Diff: Hierarchical physics-guided diffusion with differentiable connectivity constraints for topology optimization
School of Mechanical Engineering, Beijing Institute of Technology(北京理工大学机械工程学院);Computer Science and Engineering, University of New South Wales(新南威尔士大学计算机科学与工程学院);College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部);Research Institute of Electrical Communication, Tohoku University(东北大学电气通信研究所)
研究针对深度生成模型用于拓扑优化缺乏物理引导的问题,提出HPG-Diff框架,通过分层物理引导策略和浮动材料抑制损失增强物理一致性,经定量评估和案例研究验证了该方法在降低误差和适应特定域方面的有效性。
2026-07-09 cs.CE cs.LG
Domain Generalisation for Apparent Emotional Facial Expression Recognition across Age-Groups
Facebook AI Applied Research(Facebook人工智能应用研究);University of Bristol(布里斯托大学);Imperial College London(帝国理工学院)
近年来,基于表情的表情识别技术引起了人们的广泛关注.然而,大多数方法忽略了年龄差异,并且训练针对所有年龄的通用模型。在这项工作中,我们研究了使用不同的年龄组训练明显的情绪面部表情识别模型的效果。为此,我们研究领域泛化的背景下,明显的情绪面部表情识别不同年龄组的面部图像。我们首先比较了几个领域的泛化算法的基础上的域外泛化,并观察到类条件域对抗神经网络(CDANN)算法具有最好的性能。然后,我们研究了训练过程中使用的年龄组的种类和数量对泛化到看不见的年龄组的影响,并观察到训练年龄组数量的增加往往会增加看不见的年龄组的明显情绪面部表情识别性能。我们还表明,排除在训练过程中的一个年龄组往往会影响更多的表现相邻的年龄组。
2021-10-18 cs.CV cs.LG
Disassociating performance from compositional feature learning
University of Essex(埃塞克斯大学)
本研究提出仅测试分布外性能不足以验证组合学习,需确认特征组合性,并展示即使性能近乎完美,算法仍可能无法学习正确组合特征。
2026-09-22 cs.AI cs.LG
Differentiable PAC-Bayes Objectives with Partially Aggregated Neural Networks
Centre for Artificial Intelligence(人工智能中心);University College London(伦敦大学学院);Inria(法国国家信息与自动化研究所)
我们做了三个相关的贡献,激励的挑战,训练随机神经网络,特别是在PAC贝叶斯设置:(1)我们显示如何平均在一个合奏的随机神经网络,使一类新的\emph{partially-aggregated}估计;(2)我们表明,这些导致可证明的低方差梯度估计的不可微的符号输出网络;(3)我们重新制定了这些网络的PAC贝叶斯界,以获得一个直接可优化的,可微的目标和泛化保证,而不使用代理损失或放松界。这个界限是Letarte等人(2019)在类似网络类型上的两倍。我们的经验表明,这些创新使培训更容易,并导致竞争力的保证。
2020-06-22 cs.LG stat.ML
Feature-Critic Networks for Heterogeneous Domain Generalization
National University of Defense Technology(国防科技大学);The University of Edinburgh(爱丁堡大学);Samsung AI Centre(三星人工智能中心)
众所周知的域转移问题会导致模型在部署到具有不同统计数据的新目标域时性能下降。领域自适应技术缓解了这一问题,但需要来自目标域的一些实例来驱动自适应。领域泛化是最近的热门问题,学习一个模型,泛化到看不见的领域开箱即用,和各种方法的目的是训练域不变的特征提取器,通常通过添加一些手动设计的损失。在这项工作中,我们提出了一个学习学习的方法,辅助损失,有助于泛化本身是学习。除了传统的域概括,我们考虑一个更具挑战性的设置异构域概括,其中看不见的域不共享标签空间与看到的,目标是训练的功能表示,是有用的现成的新数据和新类别。实验评估表明,我们的方法优于国家的最先进的解决方案,在这两种设置。
2019-06-08 cs.LG stat.ML
Improving Task-Parameterised Movement Learning Generalisation with Frame-Weighted Trajectory Generation
King’s College London(伦敦国王学院)
示教学习依赖于机器人学习者将其学习的模型推广到看不见的条件,因为对于人来说提供说明非平凡任务中的所有可能变化的演示集是不可行的。虽然有许多学习方法可以有效地处理观测数据的插值,但从观测数据外推提供了更大的挑战。为了解决这个问题的概括,本文提出了一种修改后的任务参数化高斯混合回归方法,认为在轨迹生成过程中的任务参数的相关性,在数据中的方差确定。所提出的方法的好处,首先探讨使用模拟达到任务数据集。在这里,它表明,所提出的方法提供了深远的,低误差的外推能力,是不同的性质,现有的学习方法。从新手用户的真实世界的操作任务收集的数据,然后被认为是,它表明,所提出的方法是能够有效地减少抓取性能误差的${\sim30\%}$和外推到看不见的把握目标在现实世界的条件下。这些结果表明,所提出的方法有利于新手用户放置较少的依赖用户提供高质量的演示数据集。
2019-03-04 cs.LG cs.RO
$μ$Flow: Leveraging Average Images for Improving Generalisation of Deepfake Faces Detectors
University of Catania(卡塔尼亚大学);University of Nottingham(诺丁汉大学)
提出仅用真实图像训练的单类深度伪造检测器$μ$Flow,通过平均图像放大生成痕迹并利用归一化流对齐特征分布,实现跨生成器类别的高泛化性能。
2026-08-17 cs.CV cs.LG
Introducing Symmetries to Black Box Meta Reinforcement Learning
DeepMind(深度思维);The Swiss AI Lab IDSIA(瑞士人工智能实验室IDSIA);USI(瑞士意大利语区大学);SUPSI(瑞士南方应用科学大学)
Meta强化学习(RL)试图从环境交互中自动发现新的强化学习算法。在所谓的黑盒方法中,策略和学习算法由单个神经网络共同表示。这些方法非常灵活,但在推广到新的、看不见的环境方面往往表现不佳。在本文中,我们将探讨对称性在元泛化中的作用。我们发现,最近一个成功的Meta RL方法,元学习基于反向传播的学习的目标表现出一定的对称性(特别是重复使用的学习规则,输入和输出排列的不变性),不存在于典型的黑盒Meta RL系统。我们假设,这些对称性可以发挥重要作用,在元概括。基于最近在黑盒监督元学习方面的工作,我们开发了一个黑盒Meta RL系统,该系统具有相同的对称性。我们通过仔细的实验表明,结合这些对称性可以使算法具有更大的能力来概括看不见的动作和观察空间,任务和环境。
2022-06-05 cs.AI cs.LG cs.NE
Exploring contrast generalisation in deep learning-based brain MRI-to-CT synthesis
University Medical Center Utrecht(乌得勒支大学医学中心)
针对脑部MRI到CT合成中模型对未见过序列泛化差的问题,本研究引入域随机化方法,在FLAIR序列上验证了其能提升图像相似度与剂量准确性,增强模型鲁棒性。
2023-03-17 cs.AI cs.LG physics.med-ph
Lost in Latent Space: Disentangled Models and the Challenge of Combinatorial Generalisation
School of Psychological Science(心理科学学院)
本文通过多数据集与训练设置实验分析解耦生成模型的组合泛化失败,发现问题主要源于编码器映射错误,并提出模型还需学习逆转数据生成过程。
2024-06-14 cs.AI cs.CV cs.LG
Factors for the Generalisation of Identity Relations by Neural Networks
City University of London(伦敦城市大学)
许多研究人员都隐含地假设神经网络学习关系,并将其推广到新的看不见的数据。然而,最近已经表明,前馈网络的推广失败的身份关系。这个问题的解决方案是建立一个电感偏置差分整流器(DR)的单位。在这项工作中,我们探讨了神经网络架构和学习过程中的各种因素,无论它们是否对神经网络在早期和中期融合架构中没有DR单元和DR单元的平等检测的概括产生影响。我们发现在实验中与合成数据的隐藏层,激活函数和数据表示的数量的影响。训练集的大小与向量的总可能集合的关系也会产生差异。然而,在50%的概率水平下,没有DR单元的准确度从未超过61%。DR单元提高了所有任务的通用性,并在Mid Fusion设置中实现了近乎完美的测试精度。因此,DR单元似乎是一种很有前途的方法,可以创建标准网络所缺乏的泛化能力。
2019-06-13 cs.LG stat.ML
Imitation Learning via Differentiable Physics
Sea AI Lab(Sea人工智能实验室);National University of Singapore(新加坡国立大学)
现有的模仿学习(IL)方法,例如逆强化学习(IRL),通常具有双循环训练过程,在学习奖励函数和策略之间交替,并且往往遭受长训练时间和高方差。在这项工作中,我们确定了可微物理模拟器的好处,并提出了一种新的IL方法,即,通过可微物理(ILD)进行模仿学习,摆脱了双环设计,在最终性能、收敛速度和稳定性方面实现了显着提高。所提出的ILD将可微物理模拟器作为物理先验纳入其计算图中进行策略学习。它通过从参数化策略中采样动作来展开动态,简单地最小化专家轨迹和代理轨迹之间的距离,并通过时间物理算子将梯度反向传播到策略中。在物理先验的情况下,ILD策略不仅可以转移到看不见的环境规范,而且可以在各种任务上产生更高的最终性能。此外,ILD自然形成单回路结构,显著提高了稳定性和训练速度。为了简化由时间物理操作引起的复杂优化景观,ILD在优化期间动态地为每个状态选择学习目标。在我们的实验中,我们表明,ILD优于国家的最先进的方法在各种连续控制任务与Brax,只需要一个专家演示。此外,ILD可以应用于具有挑战性的可变形物体操纵任务,并可以推广到看不见的配置。
2022-06-10 cs.AI cs.LG cs.RO
How Ensembles of Distilled Policies Improve Generalisation in Reinforcement Learning
Delft University of Technology(代尔夫特理工大学)
本文证明训练后策略蒸馏的泛化界,提出训练蒸馏策略集成并利用尽可能多的训练数据可提升强化学习零样本迁移的泛化性能,实验验证了该方法的有效性。
2025-10-23 cs.AI cs.LG
Unifying Multi-Domain Multi-Task Learning: Tensor and Neural Network Perspectives
Queen Mary, University of London(伦敦玛丽女王大学)
多领域学习的目的是从同时学习几个不同但相关的领域中受益。在本章中,我们提出了一个单一的框架,统一多域学习(MDL)和相关的,但更好的研究领域的多任务学习(MTL)。通过利用一个\emph{semantic descriptor}的概念,我们展示了我们的框架如何包括各种经典和最近的MDL/MTL算法的特殊情况下,不同的语义描述符编码。作为第二个贡献,我们提出了一个更高阶的概括这个框架,能够同时多任务多域学习。这种推广分别在多线性代数和门控神经网络中有两种数学等价的观点。此外,通过利用语义描述符,它为神经网络提供了零样本学习(ZNL)的能力,其中在没有任何训练数据的情况下为看不见的类生成分类器;以及zero-shot领域自适应(ZLDA),其中在没有任何训练数据的情况下为看不见的域生成模型。在实践中,这个框架提供了一个强大而易于实现的方法,可以灵活地应用于MTL,MDL,CFDL和CFDDA。
2016-11-28 cs.LG
Control of Two-way Coupled Fluid Systems with Differentiable Solvers
Technical University of Munich(慕尼黑工业大学)
我们研究使用深度神经网络来控制复杂的非线性动力系统,特别是浸入流体中的刚体的运动。我们解决了Navier-Stokes方程的双向耦合,这引起了非线性扰动,使控制任务非常具有挑战性。神经网络以无监督的方式被训练,以通过从可微模拟器学习的过程来充当具有期望特性的控制器。在这里,我们引入了一组物理上可解释的损失项,让网络学习鲁棒和稳定的交互。我们证明了在具有静态初始条件的规范设置中训练的控制器可靠地推广到变化和具有挑战性的环境,例如以前看不见的流入条件和强迫,尽管它们没有任何流体信息作为输入。此外,我们表明,我们的方法训练的控制器优于各种经典和学习的替代品的评估指标和泛化能力。
2022-06-01 cs.LG
Understanding Goal Generalisation in Sequential Reinforcement Learning
University of Cambridge(剑桥大学);Geodesic Research(Geodesic研究)
通过引入潜在策略梯度方法,研究序贯训练下强化学习代理在分布外环境中的目标泛化行为,发现显著特征驱动泛化且早期目标影响后期目标。
2026-05-22 cs.AI cs.LG
Generalisation in fully-connected neural networks for time series forecasting
CWI Amsterdam, the Netherlands(荷兰阿姆斯特丹数学与计算机科学研究院)
在本文中,我们研究的推广能力的全连接神经网络训练的背景下,时间序列预测。时间序列不满足统计学习理论中关于数据独立同分布的典型假设。一些数据生成分布的样本。我们使用输入和权重Hessians,即学习函数相对于输入的平滑度和权重空间中最小值的宽度,来量化网络推广到未知数据的能力。虽然这样的泛化度量已经在i.i.d.例如图像识别的设置,在这里,我们凭经验验证它们在时间序列预测任务中的使用。此外,我们讨论了如何可以控制的泛化能力的网络的训练过程中使用的学习率,批量大小和训练迭代次数作为控制。使用这些超参数,可以有效地控制输出函数的复杂性,而无需施加显式约束。
2019-07-27 cs.LG stat.ML
Invariance Learning in Deep Neural Networks with Differentiable Laplace Approximations
ETH Zurich(苏黎世联邦理工学院);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Imperial College London(帝国理工学院);University of Cambridge(剑桥大学)
数据增强通常用于提高深度学习的性能,方法是强制执行对输入的某些转换保留输出的知识。目前,数据增强参数是通过人工努力和昂贵的交叉验证来选择的,这使得应用于新数据集变得很麻烦。我们开发了一种方便的基于梯度的方法,用于在深度神经网络的训练期间选择没有验证数据的数据增强。我们的方法依赖于措辞数据增强作为神经网络函数的先验分布的不变性,这允许我们使用贝叶斯模型选择来学习它。这已被证明在高斯过程中有效,但尚未用于深度神经网络。我们提出了一个可微的克罗内克因子的拉普拉斯近似的边际似然作为我们的目标,它可以优化没有人的监督或验证数据。我们表明,我们的方法可以成功地恢复数据中存在的不变性,这提高了图像数据集的泛化和数据效率。
2022-10-13 cs.LG stat.ML
MetricGAN+/-: Increasing Robustness of Noise Reduction on Unseen Data
The University of Sheffield(谢菲尔德大学)
语音增强系统的训练通常不包含人类感知的知识,因此可能导致不自然的声音结果。通过预测器网络将心理声学激励的语音感知度量作为模型训练的一部分最近引起了人们的兴趣。然而,这种预测器的性能受到出现在训练数据中的度量分数的分布的限制。在这项工作中,我们提出了MetricGAN+/-(MetricGAN+的扩展,一个这样的度量激励系统),它引入了一个额外的网络-一个“去生成器”,试图通过确保在训练中观察更广泛的度量分数来提高预测网络的鲁棒性(并通过扩展生成器)。在VoiceBank-DEMAND数据集上的实验结果显示,PESQ评分相对提高了3.8%(3.05 vs 3.22 PESQ评分),并且对看不见的噪声和语音有更好的泛化能力。
2022-06-15 cs.LG cs.SD eess.AS
Learning Reasoning Strategies in End-to-End Differentiable Proving
UCL Centre for Artificial Intelligence, University College London(伦敦大学学院人工智能中心);Facebook AI Research(Facebook 人工智能研究院)
试图使深度学习模型具有可解释性、数据高效性和鲁棒性的尝试已经通过与基于规则的系统的混合取得了一些成功,例如在神经定理证明器(NTP)中。这些神经符号模型可以通过反向传播从数据中归纳出可解释的规则和学习表示,同时为其预测提供逻辑解释。然而,它们受到其计算复杂性的限制,因为它们需要考虑所有可能的证明路径来解释目标,从而使它们不适合大规模应用。我们提出了条件定理证明器(CTPs),NTPs的扩展,通过基于梯度的优化来学习最佳规则选择策略。我们证明了CTP是可扩展的,并在CLUTRR数据集上产生了最先进的结果,该数据集通过学习在较小的图上进行推理并在较大的图上进行评估来测试神经模型的系统概括。最后,CTP显示出更好的链接预测结果与其他神经符号模型相比,在标准的基准测试,同时被解释。所有源代码和数据集都可以在https://github.com/uclnlp/ctp上获得。
2020-08-24 cs.AI cs.CL cs.LG
Softmax is not Enough (for Sharp Size Generalisation)
Google DeepMind(谷歌DeepMind);University of Oxford(牛津大学)
本文揭示了softmax函数在问题规模增加时无法鲁棒近似明确函数的理论局限,证明其电路会随输入增多而分散,并提出自适应温度技术以改善推理时的明确性。
2025-05-30 cs.AI cs.IT cs.LG
Continuous Hierarchical Representations with Poincaré Variational Auto-Encoders
University of Oxford(牛津大学);DeepMind(深度思维);Microsoft Research(微软研究院)
变分自动编码器(VAE)是学习生成模型和数据嵌入的流行方法。许多真实的数据集是分层结构的。然而,传统的VAE映射数据在一个欧氏潜在空间,不能有效地嵌入树状结构。具有负曲率的双曲空间可以。因此,我们赋予VAE与庞加莱球模型的双曲几何作为一个潜在的空间,并严格推导出必要的方法,工作与两个主要的高斯概括该空间。我们的经验表明,更好的概括看不见的数据比欧几里德同行,可以定性和定量更好地恢复层次结构。
2019-11-25 cs.LG stat.ML
Differentiable SLAM-net: Learning Particle SLAM for Visual Navigation
National University of Singapore(新加坡国立大学)
同时定位与地图构建(SLAM)对于许多下游应用(例如视觉机器人导航)来说仍然具有挑战性,因为快速转弯、无特征的墙壁和较差的相机质量。我们引入了可区分SLAM网络(SLAM网)以及导航架构,使平面机器人导航在以前看不见的室内环境。SLAM-net将基于粒子滤波器的SLAM算法编码在可微计算图中,通过SLAM算法反向传播学习面向任务的神经网络组件。因为它可以为最终目标联合优化所有模型组件,所以SLAM网络在具有挑战性的条件下学习鲁棒性。我们在Habitat平台上使用不同的真实世界RGB和RGB-D数据集进行实验。SLAM-net在噪声条件下的性能明显优于广泛适应的ORB-SLAM。我们的SLAM-net导航架构大幅提高了2020年人居挑战PointNav任务的最新水平(成功率为37%至64%)。项目网址:http://sites.google.com/view/slamnet
2021-05-19 cs.AI cs.CV cs.LG
Learning to Transduce with Unbounded Memory
Google DeepMind(谷歌DeepMind);Oxford University(牛津大学)
最近,深度递归神经网络在自然语言转换问题上已经证明了强大的结果。在本文中,我们探讨了这些模型的代表性力量,使用合成语法设计表现出类似的现象,发现在真正的转导问题,如机器翻译。这些实验使我们提出了新的基于内存的递归网络,它实现了传统数据结构(如Stacks,Dockes和DeQues)的连续可微模拟。我们表明,这些架构表现出优于深度RNN的泛化性能,并且通常能够在我们的转导实验中学习底层生成算法。
2015-11-03 cs.CL cs.LG cs.NE
Value Iteration Networks
UC Berkeley(加州大学伯克利分校)
我们介绍价值迭代网络(VIN):一个完全可微的神经网络与“规划模块”嵌入其中。VIN可以学习计划,并且适合预测涉及基于计划的推理的结果,例如强化学习的策略。我们的方法的关键是一种新的可微近似值迭代算法,它可以表示为一个卷积神经网络,并使用标准的反向传播训练端到端。我们评估VIN基于离散和连续路径规划域的政策,并在自然语言为基础的搜索任务。我们表明,通过学习一个明确的规划计算,VIN政策更好地推广到新的,看不见的领域。
2017-03-20 cs.AI cs.LG cs.NE
Towards Graph Foundation Models for Dynamics in Complex Networked Systems: Lessons from Super-Spreader Identification in Multilayer Networks
Department of Artificial Intelligence, Wroc{\l}aw University of Science and Technology, Wroc{\l}aw, Poland(人工智能系,沃斯拉夫科技大学,沃斯拉夫,波兰)
本文提出图基础模型在动力学中需具备归纳跨网络泛化能力,通过仅基于合成多层网络训练的ts-net模型,在真实多层网络上实现零样本泛化,并优于传统方法。
2026-06-06 cs.LG cs.SI
Comparing supervised learning dynamics: Deep neural networks match human data efficiency but show a generalisation lag
University of Bern(伯尔尼大学);University of Tübingen(蒂宾根大学)
该研究通过构建对齐学习条件的受限监督环境,对比人类与多种深度神经网络的图像分类学习动态,发现二者数据效率相当,但DNNs存在泛化滞后,人类可直接习得可泛化表征,挑战了领域内的普遍假设。
2024-07-12 cs.AI cs.CV cs.LG
Physics-informed Reduced Order Modeling of Time-dependent PDEs via Differentiable Solvers
Department of Computer Science University of Western Ontario(计算机科学系大学西部安大略)
本文提出物理信息降阶建模($Φ$-ROM),通过将可微PDE求解器融入训练,使潜在动态符合物理规律,实现高精度泛化、长时预测和稀疏数据下的场重建,优于现有方法。
2025-10-25 cs.LG
Downbeat Tracking with Tempo-Invariant Convolutional Neural Networks
Apple Inc.(苹果公司)
人类追踪音乐重拍的能力对节奏的变化是稳健的,并且它延伸到以前从未遇到过的节奏。我们提出了一种确定性的时间扭曲操作,通过允许网络独立于节奏学习节奏模式,在卷积神经网络(CNN)中实现这种技能。与传统的深度学习方法不同,传统的深度学习方法在训练数据集中学习节奏模式,在我们的模型中学习的模式是节奏不变的,从而更好地概括节奏,更有效地利用网络容量。我们在一个合成数据集上测试泛化属性,该合成数据集是通过使用FluidSynth渲染Groove Rounds Dataset创建的,分为一个包含原始性能的训练集和一个包含使用不同SoundFonts渲染的节奏缩放版本的测试集(测试时增强)。所提出的模型几乎完美地推广到看不见的tempi(训练集和测试集的F测量值均为0.89),而可比较的传统CNN仅在训练集(0.89)上实现了类似的准确性,并在测试集上下降到0.54。所提出的模型的泛化优势扩展到真正的音乐,如GTZAN和舞厅数据集的结果所示。
2021-02-03 cs.LG cs.MM cs.SD
Towards real-world navigation with deep differentiable planners
Visual Geometry Group(视觉几何组);University of Oxford(牛津大学)
我们训练具体的神经网络来规划和导航看不见的复杂3D环境,强调现实世界的部署。规划者不需要代理或环境的先验知识,而是学习对状态转换和奖励进行建模。为了避免强化学习潜在的危险试错,我们专注于可区分的规划器,如价值迭代网络(VIN),它是从安全专家演示中离线训练的。虽然它们在小型模拟中工作得很好,但我们解决了阻碍其部署的两个主要限制。首先,我们观察到,目前的差异化规划者很难在具有高分支复杂性的环境中进行长期规划。虽然理想情况下,它们应该学会为障碍物分配较低的奖励以避免碰撞,但我们认为,对网络施加的约束不够强,无法保证网络能够为每一个可能的碰撞学习足够大的惩罚。因此,我们对值迭代施加了一个结构性约束,它显式地学习对任何不可能的行为进行建模。其次,我们扩展了该模型的工作与有限的透视相机下的平移和旋转,这是真正的机器人部署的关键。许多类似VIN的规划师假设360度或俯视图没有旋转。相比之下,我们的方法使用内存高效的晶格映射来聚合部分观测的CNN嵌入,并使用3D状态空间网格(平移和旋转)显式地对旋转动力学进行建模。我们的建议显着提高语义导航和探索几个2D和3D环境,成功的设置,否则这类方法的挑战。据我们所知,我们是第一个成功地在困难的主动视觉数据集上执行可微规划的公司,该数据集由从机器人捕获的真实图像组成。
2022-06-02 cs.AI cs.CV cs.LG
Scale-invariant scale-channel networks: Deep networks that generalise to previously unseen scales
KTH Royal Institute of Technology(KTH皇家理工学院)
处理大规模变化的能力对于许多现实世界的视觉任务至关重要。在深度网络中处理尺度的一种简单方法是在一组尺度通道中同时处理多个尺度的图像。然后,原则上,可以通过使用缩放通道之间的权重共享以及来自缩放通道的输出上的最大或平均池化来实现缩放不变性。然而,这种尺度通道网络在显著尺度范围内概括训练集中不存在的尺度的能力以前没有被探索过。在本文中,我们提出了一个系统的研究方法,通过实施不同类型的规模的渠道网络和评估他们的能力,概括到以前看不见的规模。我们开发了一种形式主义的协方差和不变性的尺度通道网络的属性进行分析,并探讨如何不同的设计选择,独特的缩放变换,影响尺度通道网络的整体性能。我们首先表明,两个先前提出的规模通道网络设计不概括以及规模不存在于训练集。我们从理论上解释和实验证明,为什么在这些情况下泛化失败。然后,我们提出了一种新类型的中央凹尺度通道架构,其中尺度通道处理具有降低的分辨率的图像的越来越大的部分。这种新型的规模渠道网络的推广非常好,提供足够的图像分辨率和边界效应的情况下。我们提出的FovMax和FovAvg网络在8的尺度范围内表现几乎相同,在单尺度训练数据上训练时也是如此,并且在小样本制度中从具有大尺度变化的数据集学习时也能提高性能。
2022-02-22 cs.CV cs.LG
The Impact of Activation Sparsity on Overfitting in Convolutional Neural Networks
University of Muenster(明斯特大学)
过拟合是训练卷积神经网络时的基本挑战之一,通常通过发散的训练和测试损失来识别。然而,激活流如何诱导过拟合的潜在动力学却知之甚少。在这项研究中,我们引入了一个基于困惑的稀疏定义,推导和可视化逐层激活措施。这些新的可解释的AI策略揭示了激活稀疏性和过拟合之间令人惊讶的关系,即在测试损失开始上升之前不久,特征提取层中稀疏性的增加。这种趋势在整个网络架构和reguralisation策略中得到保留,因此我们的措施可以用作过拟合的可靠指标,同时将网络的泛化能力与其基于损失的定义解耦。此外,我们的可微稀疏性公式可用于明确惩罚训练过程中稀疏性的出现,以便实时研究稀疏性降低对过拟合的影响。应用这种惩罚和分析激活稀疏性为众所周知的正则和常见的网络架构支持的假设,减少激活稀疏性可以有效地提高泛化和分类性能。与最近关于这一主题的其他工作一致,我们的方法揭示了对激活稀疏性和网络容量的矛盾概念的新见解,通过证明密集激活可以实现区分性特征学习,同时有效地利用深度模型的能力,而不会受到过度拟合的影响,即使在过度训练时也是如此。
2021-04-13 cs.LG
Neural Cluster First, Route Second: Capacitated Vehicle Routing via Differentiable Optimal Transport
MIT(麻省理工学院);TUM(塔尔博特大学)
本文提出神经CFRS框架,通过可微最优传输层实现一次性非自回归解决有容量车辆路径问题,理论保证了对空间对称性的抽象,并在实际应用中表现出鲁棒性和高效性。
2026-09-29 cs.AI cs.LG
Deep Transfer Learning with Ridge Regression
University of California, San Diego(加州大学圣地亚哥分校)
大量的在线数据和大量的计算资源使当前工业界和学术界的研究人员能够将深度学习的力量与神经网络结合起来。虽然使用大量数据训练的深度模型在相关领域的未知数据上表现出有希望的泛化能力,但微调的计算成本逐渐成为将学习转移到新领域的瓶颈。我们通过利用深度神经网络(DNN)产生的学习特征向量的低秩属性以及内核岭回归(KRR)中提供的封闭形式解决方案来解决这个问题。这将迁移学习从微调中解放出来,并将其替换为具有更少超参数的线性系统的集合。我们的方法是成功的监督和半监督迁移学习任务。
2020-06-11 cs.LG stat.ML
Efficient Symbolic Policy Learning with Differentiable Symbolic Expression
SKL of Processors, Institute of Computing Technology, CAS(中国科学院计算技术研究所处理器芯片全国重点实验室);Intelligent Software Research Center, Institute of Software, CAS(中国科学院软件研究所智能软件研究中心);University of Science and Technology of China, USTC(中国科学技术大学);Cambricon Technologies(寒武纪科技);Shanghai Innovation Center for Processor Technologies, SHIC(上海处理器技术创新中心);University of Chinese Academy of Sciences, UCAS(中国科学院大学)
针对深度强化学习神经网络策略复杂难部署、现有符号策略训练低效且仅适用于单任务的问题,提出基于可微符号表达式的ESPL方法,可端到端从零学习符号策略,还可扩展到元强化学习,在单任务和元强化学习中均实现更优性能与效率,兼具可解释潜力。
2023-11-02 cs.AI cs.LG
Semantic-Inductive Attribute Selection for Zero-Shot Learning
Department of Computer Science and Artificial Intelligence, University of Granada(格拉纳达大学计算机科学与人工智能系);Andalusian Research Institute in Data Science and Computational Intelligence (DaSCI)(安达卢西亚数据科学与计算智能研究所);School of Computer Science, University of Nottingham(诺丁汉大学计算机科学学院)
针对零样本学习中语义空间属性存在噪声、冗余的问题,提出归纳设置下的划分方案,结合两种互补特征选择策略,在五个基准数据集上均提升了未见类准确率,验证了语义空间冗余性与方案有效性。
2025-09-26 cs.AI cs.LG
Meta-learning for Matrix Factorization without Shared Rows or Columns
NTT Communication Science Laboratories(NTT通信科学实验室)
我们提出了一种方法,元学习知识的矩阵分解从各种矩阵,并使用的知识分解看不见的矩阵。所提出的方法使用一个神经网络,以矩阵作为输入,并生成给定矩阵的因式分解矩阵的先验分布。该神经网络是元学习的,使得当通过最大后验(MAP)估计使因子分解的矩阵适应每个矩阵时,期望的插补误差被最小化。我们使用梯度下降法的MAP估计,这使我们能够通过梯度下降步骤更新神经网络参数,因为每个梯度下降步骤是写在一个封闭的形式,是可微的反向传播的预期插补误差。所提出的方法可以从矩阵中进行元学习,即使它们的行和列不共享,并且它们的大小彼此不同。在我们对三个用户项目评级数据集的实验中,我们证明了我们提出的方法可以在使用不同的矩阵进行训练后,从有限数量的未见过矩阵中的观测值中估算缺失值。
2021-06-29 cs.AI cs.LG stat.ML
Improved Large-margin Softmax Loss for Speaker Diarisation
Cambridge University(剑桥大学)
说话人识别系统现在使用从瓶颈层中的语音段生成的嵌入,这需要对未看到的说话人具有区分性。众所周知,大间隔训练可以提高对未知数据的泛化能力,并且它在此类开集问题中的应用已经非常广泛。因此,本文介绍了一种通用的方法,没有任何近似的大余量softmax损失,以提高质量的扬声器嵌入diarisation。此外,当使用大余量softmax时,提出了一种新的简单的稳定训练的方法。最后,为了对抗重叠语音的影响,使用不同的训练裕度来减少重叠语音对创建区分性嵌入的负面影响。在AMI会议语料库上的实验表明,使用大余量softmax显著提高了说话人错误率(SER)。通过以统一的方式使用损耗的所有超参数,实现了进一步的改进,相对于基线,SER降低了24.6%。然而,通过训练具有不同裕度的重叠和单个说话者语音样本,实现了最佳结果,相对于基线,总体SER降低了29.5%。
2020-07-06 cs.CL cs.LG cs.SD
Genre-Agnostic Key Classification With Convolutional Neural Networks
Institute of Computational Perception, Johannes Kepler University(约翰内斯·开普勒大学计算感知研究所)
我们建议修改的模型结构和训练过程,最近推出的卷积神经网络的音乐键分类。这些修改使网络能够学习一个与流派无关的模型,该模型的性能优于为特定音乐风格训练的模型,而现有的工作并非如此。我们分析了三个数据集,包括不同的流派的概括能力。然后,我们评估了一些看不见的数据集上的模型,并显示其优越的性能相比,最后,我们调查了模型的性能短摘录的音频。从这些实验中,我们得出结论,模型需要考虑整个作品的谐波一致性时,分类的局部关键的短段音频。
2018-08-16 cs.LG cs.SD eess.AS
ZM-Net: Real-time Zero-shot Image Manipulation Network
Hong Kong University of Science and Technology(香港科技大学);Carnegie Mellon University(卡内基梅隆大学);Petuum Inc.(Petuum公司)
图像处理和计算机视觉中的许多问题(例如,着色、风格转换)可以被认为是在给定用户指定的引导信号的情况下将输入图像“操纵”成对应的输出图像。通用图像处理的圣杯解决方案应该能够有效地使用任何个性化信号(甚至是在训练过程中看不到的信号)来改变输入图像,例如不同的绘画和任意的描述性属性。然而,现有的方法对于同时处理多个信号(更不用说推广到看不见的信号)是低效的,或者无法处理来自其他模态的信号。在本文中,我们首次尝试解决zero-shot图像处理任务。我们把这个问题作为根据参数模型操纵输入图像,该参数模型的关键参数可以有条件地从任何引导信号(即使是看不见的)生成。为此,我们提出了Zero-shot操作网络(ZM-Net),这是一种完全可微的架构,可以联合优化图像变换网络(TNet)和参数网络(PNet)。PNet学习在给定任何引导信号的情况下为TNet生成关键变换参数,而TNet根据来自PNet的信号相关参数和来自TNet本身的信号不变参数两者执行快速zero-shot图像操纵。大量的实验表明,我们的ZM-Net可以执行高质量的图像处理条件下的不同形式的指导信号(例如,风格图像和属性)在实时的【形】(几十毫秒每幅图像),即使是看不见的信号。此外,还构建了一个包含20,000多幅风格图像的大规模风格数据集,以促进进一步的研究。
2017-03-22 cs.AI cs.CV cs.GR