Benchmarking World Models for Continual Learning on Compositional Tasks
University of Oxford(牛津大学)
针对机器人操作中的世界模型,提出组合持续学习基准,以分离知识重用与学习新任务,评估显示模块化模型优于传统方法但仍有改进空间。
2026-09-21 cs.LG cs.RO
Learning Compositional Transferability of Time Series for Source-Free Domain Adaptation
Fudan University(复旦大学);Chinese Academy of Sciences(中国科学院);Institute of Acoustics(声学研究所)
针对无源域自适应中时间序列分类的挑战,提出组合重建架构解耦可迁移性,冻结U-net粗重建加双分支细调,在3个基准上取得SOTA性能。
2025-04-21 cs.LG
Zero Experience Required: Plug & Play Modular Transfer Learning for Semantic Visual Navigation
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Meta AI
在视觉导航的强化学习中,通常为每个新任务开发一个模型,并在3D环境中从头开始用特定于任务的交互来训练该模型。然而,这个过程是昂贵的;模型需要大量的交互才能很好地泛化。此外,每当任务类型或目标模态发生变化时,都会重复此过程。我们提出了一个统一的方法,使用一种新的模块化迁移学习模型的视觉导航。我们的模型可以有效地利用来自一个源任务的经验,并将其应用于多个目标任务(例如,ObjectNav、RoomNav、ViewNav)以及各种目标模式(例如,图像、草图、音频、标签)。此外,我们的模型支持zero-shot经验学习,从而可以解决目标任务,而无需接受任何特定于任务的交互式训练。我们在多个真实感数据集和具有挑战性的任务上的实验表明,我们的方法学习速度更快,泛化能力更好,并且明显优于SoTA模型。
2022-04-29 cs.AI cs.CV cs.LG
On Conditional and Compositional Language Model Differentiable Prompting
Mila - Québec AI Institute(米拉-魁北克人工智能研究所);Polytechnique Montréal(蒙特利尔理工学院);Amazon Alexa(亚马逊Alexa);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出提示产生式系统PRopS,将任务指令或输入元数据转换为连续提示,通过模块化神经规则实现组合迁移与少样本学习,在组合泛化、可控摘要和多语言翻译上以更少可训练参数超越其他PLM适应方法。
2023-07-04 cs.CL cs.LG
Adapters: A Unified Library for Parameter-Efficient and Modular Transfer Learning
Technical University of Darmstadt(达姆施塔特工业大学);Cohere;University of Cambridge(剑桥大学);Google DeepMind(谷歌DeepMind)
本文介绍了开源库Adapters,它通过统一接口集成10种适配器方法,支持大型语言模型中参数高效且模块化的迁移学习,允许通过组合块设计复杂设置,并在NLP任务中验证了其有效性。
2023-11-18 cs.AI cs.CL cs.LG
Compositional Learning for Modular Multi-Agent Self-Organizing Networks
Nokia Bell Labs(诺基亚贝尔实验室);Nokia(诺基亚)
本文提出组合深度强化学习与组合预测决策两种组合学习方法,通过小区级和小区对级两层模块化框架,在降低模型复杂度的同时提升多智能体自组织网络的切换、吞吐量、时延、可扩展性、收敛速度、样本效率和训练安全性。
2025-06-03 cs.LG
Disentangled Representation Learning via Modular Compositional Bias
KAIST(韩国科学技术院)
针对现有解纠缠表示学习方法因因子特定策略导致的扩展性问题,提出模块化组合偏置,通过因子特定重组规则重混潜在变量,结合先验损失与组合一致性损失,仅调整混合策略即可实现属性、对象及两者的解纠缠,实验表现出竞争力并实现全局风格与对象的联合解纠缠。
2025-11-11 cs.CV cs.LG
Modularized Transfer Learning with Multiple Knowledge Graphs for Zero-shot Commonsense Reasoning
Yonsei University(延世大学);University of Edinburgh(爱丁堡大学);Google Research(谷歌研究院);Seoul National University(首尔国立大学)
常识推理系统应该能够推广到不同的推理情况。然而,大多数最先进的方法依赖于昂贵的数据注释和过拟合到特定的基准,而不学习如何执行一般的语义推理。为了克服这些缺点,zero-shot QA系统已经通过将常识知识图谱(KG)转换成用于模型训练的合成QA形式样本而显示出作为鲁棒学习方案的前景。考虑到不同常识知识库类型的增加,本文旨在将zero-shot迁移学习场景扩展到多源环境中,使不同知识库能够协同使用。为了实现这一目标,我们建议,以减轻损失的知识,从不同的知识源之间的干扰,通过开发一个模块化的变体的知识聚合作为一个新的zero-shot常识推理框架。五个常识推理基准测试的结果证明了我们的框架的有效性,提高了多个KG的性能。
2022-06-22 cs.AI cs.CL cs.LG
Independent Modular Networks
University of Adelaide(阿德莱德大学);University of South Carolina(南卡罗来纳大学)
针对单体网络忽视数据组合性及现有模块化网络角色不清、模块崩溃等问题,本文提出具有预定模块角色的独立模块化网络架构,并引入正则化以提升抗崩溃能力和分解准确率。
2023-06-02 cs.CV cs.LG
Mixtures of SubExperts for Large Language Continual Learning
研究大语言持续学习中稳定性-可塑性困境及可扩展性问题,提出子专家混合模型MoSEs,通过模块化稀疏性和组合路由,平衡困境,实现知识隔离、重组扩展及亚线性增长,实验验证其性能优于基线,为持续学习基础模型提供关键归纳偏置。
2026-07-17 cs.AI cs.CL cs.LG
Block-Operations: Using Modular Routing to Improve Compositional Generalization
Saarland University(萨尔大学)
本文提出块操作概念,通过将激活张量分割为统一块并引入 Multiplexer 组件增强前馈神经网络,实验证明其能学习任务底层过程,在组合泛化上显著优于 FNN 和 Transformer。
2024-08-01 cs.LG
Routing Networks and the Challenges of Modular and Compositional Computation
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Stanford University(斯坦福大学);IBM Research(IBM研究院)
组合性是解决组合复杂性和维数灾难的关键策略。最近的研究表明,组合解决方案可以学习,并在多个领域提供实质性的收益,包括多任务学习,语言建模,视觉问答,机器理解等。然而,当模块参数及其组成必须联合学习时,这种模型在训练期间提出了独特的挑战。在本文中,我们确定了其中的几个问题,并分析了其根本原因。我们的讨论集中在路由网络,这个问题的一般方法,并实证研究这些挑战和各种设计决策的相互作用。特别是,我们考虑算法如何决定模块组成,算法如何更新模块,以及算法是否使用正则化的影响。
2019-04-29 cs.LG cs.NE stat.ML
Modular Lifelong Reinforcement Learning via Neural Composition
University of Pennsylvania(宾夕法尼亚大学);Microsoft Research(微软研究院)
人类通常通过将复杂问题分解为更容易的子问题,然后组合子问题解决方案来解决复杂问题。这种类型的组合推理允许在处理共享部分底层组合结构的未来任务时重用子问题解决方案。在持续或终身的强化学习(RL)设置中,这种将知识分解为可重用组件的能力将使代理能够通过利用累积的组合结构快速学习新的RL任务。我们探索了一种基于神经模块的组合形式,并提出了一组RL问题,直观地承认组合解决方案。从经验上讲,我们证明,神经组成确实抓住了这个空间的问题的底层结构。我们进一步提出了一种组合终身RL方法,该方法利用累积的神经组件来加速未来任务的学习,同时通过离线RL在重放的经验上保留先前任务的性能。
2022-07-01 cs.AI cs.LG
Long-tail Recognition via Compositional Knowledge Transfer
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
在这项工作中,我们介绍了一种新的策略长尾识别,解决了尾部类的Few-Shot问题,通过培训免费的知识转移。我们的目标是将从信息丰富的常见类中获得的知识转移到语义相似但数据量大的稀有类中,以获得更强的尾类表示。我们利用的事实,类原型和学习余弦分类器提供两个不同的,互补的表示类聚类中心的特征空间,并使用注意力机制选择和重组学习分类器的功能,从常见的类,以获得更高质量的稀有类表示。我们的知识转移过程是免费培训的,减少了过度拟合的风险,并且可以将分类器不断扩展到新的类。实验表明,我们的方法可以实现显着的性能提升稀有类,同时保持强大的常见类的性能,优于直接可比的最先进的模型。
2022-04-12 cs.CV cs.LG
Modular connectivity in neural networks emerges from Poisson noise-motivated regularisation, and promotes robustness and compositional generalisation
McGovern Institute for Brain Research, Massachusetts Institute of Technology, MA 02139, U.S.A.(麦戈文脑科学研究所,麻省理工学院);K. Lisa Yang Integrative Computational Neuroscience Center in the Yang-Tan Collective(李嘉诚整合计算神经科学中心);Department of Brain and Cognitive Sciences, Massachusetts Institute of Technology, MA 02139, U.S.A.(脑科学与认知科学系,麻省理工学院);Department of Electrical Engineering and Computer Science, Massachusetts Institute of Technology, MA 02139, U.S.A.(电气工程与计算机科学系,麻省理工学院)
本研究通过受泊松噪声启发的正则化方法,揭示了神经网络中模块化连接的形成机制,并展示了其在提升鲁棒性和泛化能力方面的优势。
2025-12-05 cs.LG cs.NE physics.bio-ph
Assign and Add: A Mechanistic Study of Compositional Arithmetic
Yale University(耶鲁大学);Flatiron Institute(Flatiron研究所)
通过变量赋值和模加法任务,研究Transformer中组合泛化的机制,发现模型利用同一模加法模块处理直接和间接输入,并揭示了三阶段学习动态。
2026-05-29 cs.LG stat.ML
Modular Multimodal Classification Without Fine-Tuning: A Simple Compositional Approach
Chalmers University of Technology and University of Gothenburg(查尔姆斯理工大学和哥德堡大学);Vector Institute(向量研究所);University of Toronto(多伦多大学)
本文提出CoMET,一种无需微调的多模态分类方法,通过冻结预训练的backbone对每个模态进行处理,使用PCA压缩嵌入并输入到表格基础模型中进行预测,展示了PCA作为适配器在不同模态上的强大鲁棒性能,并提出了PALPooling来提升表示质量,实现了无需训练的多模态学习最佳结果。
2026-05-20 cs.LG
Efficient Multi-Task and Transfer Reinforcement Learning with Parameter-Compositional Framework
Horizon Robotics(地平线机器人);UC Berkeley(加州大学伯克利分校)
本文提出参数组合形式化的强化学习迁移框架,通过改进多任务训练支撑知识迁移,并在多种操作任务上验证其可提升性能与样本效率。
2023-06-02 cs.LG cs.RO
Developmentally motivated emergence of compositional communication via template transfer
University of Warsaw(华沙大学)
本文探讨了一种新的方法来实现紧急组合通信的多智能体系统。我们提出了一个培训制度,实现模板转移,跨上下文进行学习偏见的想法。在我们的方法中,首先用解纠缠的损失函数训练发送器-接收器对,然后将接收器转移到训练具有标准损失的新发送器。与其他方法(例如,obverter算法),我们的方法不需要施加诱导偏见的代理的架构。我们的实验表明,出现的组成通信地形相似性,zero-shot泛化和上下文无关性作为评价指标。所提出的方法是连接到一个重要的工作线在符号学和发展心理语言学:它支持一个猜想,成分的通信是脚手架上更简单的通信协议。
2019-10-04 cs.AI cs.LG cs.MA
Compositional Zero-Shot Domain Transfer with Text-to-Text Models
University of Cambridge(剑桥大学);Microsoft Health Futures(微软健康未来部门)
标签稀缺是提高专业领域任务性能的瓶颈。我们提出了一种新的成分迁移学习框架(DoT5域成分zero-shot T5)的zero-shot域迁移。在不访问域内标签的情况下,DoT5以多任务的方式联合学习领域知识(来自未标记的域内自由文本的MLM)和任务知识(来自更容易获得的通用领域数据的任务训练)。为了提高任务训练的可移植性,我们设计了一种名为NLGU的策略:我们同时训练NLG进行域内标签到数据的生成,这使得数据增强用于自微调,NLU用于标签预测。我们在生物医学领域和资源贫乏的放射学子域上评估DoT5,重点是NLI,文本摘要和嵌入式学习。DoT5通过多任务学习证明了组合迁移学习的有效性。特别是,DoT5在RadNLI上的zero-shot传输中的精度超过当前SOTA 7个绝对点。我们通过消融和案例研究验证了DoT5,证明其能够解决需要领域内专业知识的具有挑战性的NLI示例。
2023-03-23 cs.CL cs.LG
Colluding LoRA: A Compositional Vulnerability in LLM Safety Alignment
Mercedes-Benz Research & Development North America, USA(梅赛德斯-奔驰北美研发中心)
研究发现模块化大语言模型的安全对齐存在组合性漏洞,通过Colluding LoRA展示有害行为仅在组合状态下出现,暴露了当前单元中心防御的组合盲点。
2026-03-30 cs.CR cs.LG
Compositional Curvature Bounds for Deep Neural Networks
Johns Hopkins University(约翰斯·霍普金斯大学)
本文针对深度神经网络对对抗攻击的脆弱性问题,提出一种基于组合结构逐层传播的曲率上界解析计算方法,并将其用作可微正则化器以增强鲁棒性,在MNIST和CIFAR-10上验证了有效性。
2024-06-07 cs.CV cs.LG
Reward is not Necessary: How to Create a Modular & Compositional Self-Preserving Agent for Life-Long Learning
University of Minnesota(明尼苏达大学)
本文提出用赋能(empowerment)作为内在动机,通过算子贝尔曼方程实现层次化赋能度量,使终身学习智能体无需奖励即可自我保全并发现有利目标。
2023-11-14 cs.AI cs.LG
SCNO: Spiking Compositional Neural Operator -- Towards a Neuromorphic Foundation Model for Nuclear PDE Solving
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Indian Institute of Technology Delhi(印度理工学院德里分校);National Center for Supercomputing Applications(国家超级计算应用中心)
SCNO通过模块化架构结合脉冲与传统组件,解决神经算子在PDE求解中的三大限制,以低参数量实现高精度求解,优于传统方法。
2026-04-13 cs.AI cs.LG
Compositional Transfer in Hierarchical Reinforcement Learning
DeepMind(深度思维)
一般的强化学习算法在现实世界的机器人应用中的成功应用往往受到其高数据要求的限制。我们引入正则化分层策略优化(RHPO)来提高具有多个主导任务的域的数据效率,并最终减少所需的平台时间。为此,我们在多个级别上采用组合归纳偏差和相应的机制,用于在低级别控制器和任务以及任务调度之间共享离线策略转换数据。所提出的算法能够在并行多任务和顺序转移的情况下稳定和快速地学习复杂的现实世界的域。我们发现,调查类型的层次结构,使积极的转移,同时部分减轻负面干扰和评估的好处,额外的激励措施,有效的,成分的任务解决方案,在单一的任务域。最后,我们在为期一周的物理机器人堆叠实验中展示了相对于竞争基线的大量数据效率和最终性能增益。
2020-05-19 cs.AI cs.LG cs.RO
Detecting Defective Wafers Via Modular Networks
University of Minnesota(明尼苏达大学)
针对缺陷晶圆检测中跨产品、跨工艺泛化不足的问题,提出按制造阶段组织的模块化网络MN,通过阶段模块组合预测KQI,提升检测通用性与可解释性。
2025-01-06 cs.LG
Compositional Reasoning in Language Models under Reinforcement Learning Post-Training
Stanford University(斯坦福大学);Amazon AGI Labs(亚马逊AGI实验室)
本文提出依赖图框架形式化组合推理,通过数据结构任务发现分解到组合训练迁移的不对称性,并提供理论解释及现实工具调用基准的初步验证。
2026-09-18 cs.AI cs.LG
StylePTB: A Compositional Benchmark for Fine-grained Controllable Text Style Transfer
Carnegie Mellon University(卡内基梅隆大学)
语篇风格转换的目的是在保持源句核心意义不变的情况下,可控地生成具有目标风格变化的语篇。许多现有的风格转换基准主要集中在个人的高层次语义变化(例如,积极到消极),这使得在高层次的可控性,但不提供涉及句子结构,强调和句子的内容细粒度的控制。在本文中,我们介绍了一个大规模的基准,StylePTB,(1)成对的句子经历了21个细粒度的风格变化,跨越原子词汇,句法,语义和文本的主题转移,以及(2)多个转移的组成,允许建模细粒度的风格变化作为更复杂,更高层次的转移的构建块。通过对StylePTB上的现有方法进行基准测试,我们发现它们很难对细粒度的更改进行建模,并且更难组合多种样式。因此,StylePTB带来了新的挑战,我们希望这将鼓励未来的研究在可控的文本风格转移,组合模型,学习解开表示。解决这些挑战将是迈向可控文本生成的重要步骤。
2021-04-12 cs.AI cs.CL cs.LG
Zero-Shot Policy Transfer with Disentangled Task Representation of Meta-Reinforcement Learning
University of California, Berkeley(加州大学伯克利分校);Intrinsic Innovation LLC(Intrinsic创新有限责任公司);Tsinghua University(清华大学)
人类能够将各种任务抽象为多个属性的不同组合。这种组合性的视角对于人类的快速学习和适应至关重要,因为相关任务的先前经验可以结合起来,在新的组合设置中进行概括。在这项工作中,我们的目标是通过利用任务组合性来实现强化学习(RL)代理的零触发(zero-shot)策略泛化。我们提出的方法是一个Meta强化学习算法与解开任务表示,明确编码任务的不同方面。然后,通过推断看不见的组合任务表示,通过所获得的解纠缠,而无需额外的探索,来执行策略泛化。评估是在三个模拟任务和一个具有挑战性的现实世界的机器人插入任务。实验结果表明,该方法以zero-shot的方式实现了对不可见组合任务的策略泛化。
2022-10-01 cs.LG cs.RO
Fast Inference and Transfer of Compositional Task Structures for Few-shot Task Generalization
University of Michigan(密歇根大学);LG AI Research Center(LG人工智能研究中心);Google Research(谷歌研究院)
我们通过基于像素的游戏或模拟器之外的复杂结构来解决现实世界的问题。我们将其表述为一个Few-Shot强化学习问题,其中任务的特征在于定义了一组代理未知的子任务及其依赖关系的子任务图。与以往的元rl方法试图直接推断非结构化任务嵌入不同,我们的多任务子任务图推理器(MTSGI)首先从训练任务的子任务图中推断出常见的高级任务结构,并将其作为先验来改进测试中的任务推理。我们的实验结果表明,在二维网格世界和复杂的Web导航领域,该方法可以学习和利用共同的底层结构的任务,更快地适应看不见的任务比各种现有的算法,如Meta强化学习,层次强化学习,和其他启发式代理。
2022-05-25 cs.AI cs.LG
Compositional and Lexical Semantics in RoBERTa, BERT and DistilBERT: A Case Study on CoQA
Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
许多NLP任务都受益于从上下文化的词嵌入中转移知识,然而,转移的知识类型的图片是不完整的。本文研究了会话问答任务中语言模型所解释的语言现象类型。我们通过系统的错误分析-基本的算术(计数短语),成分语义(否定和语义角色标注),词汇语义(反义词和反义),确定了微调的RoBERTa,BERT和DistilBERT模型的问题领域。当通过多任务学习增强相关的语言知识时,模型的性能会提高。增强模型的集合在F1整体得分上提高了2.2到2.7分,在最难的问题类上提高了42.1分。结果表明,RoBERTa、BERT和DistilBERT在表征成分和词汇信息的能力上存在差异。
2020-09-17 cs.CL cs.LG
Can Transformers Jump Around Right in Natural Language? Assessing Performance Transfer from SCAN
Ecole Normale Superieure(巴黎高等师范学院);Facebook AI(脸书人工智能研究院);Pompeu Fabra(庞培法布拉大学)
尽管它们在实践中取得了成功,但现代seq2seq架构无法系统地概括几个SCAN任务。因此,尚不清楚SCAN风格的合成泛化在现实的NLP任务中是否有用。在这项工作中,我们研究的好处,这种组合带来的几个机器翻译任务。我们提出了几个有针对性的修改Transformer,大大提高了泛化能力的扫描,并选择一个仍然与香草Transformer在一个标准的机器翻译(MT)任务。接下来,我们研究其性能在低资源环境和新引入的分布转移英法翻译任务。总的来说,我们发现,改进的扫描能力的模型不直接转移到资源丰富的MT设置。相比之下,在低资源设置中,一般修改导致高达13.1%的BLEU分数w.r.t.一个普通的Transformer。同样,在引入的组合英法翻译任务中,基于准确性的度量提高了14%。这提供了实验证据表明,在SCAN中评估的合成概括在资源匮乏和域转移的情况下特别有用。
2021-09-16 cs.AI cs.CL cs.LG
Clustering units in neural networks: upstream vs downstream information
University of Pennsylvania(宾夕法尼亚大学);Mila Québec AI Institute(Mila魁北克人工智能研究所);McGill University(麦吉尔大学)
有人假设,人工神经网络中的某种形式的“模块化”结构应该对学习、组合和泛化有用。然而,定义和量化模块化仍然是一个悬而未决的问题。我们将检测功能模块的问题转化为检测功能相似单元的集群的问题。这就引出了一个问题,是什么让两个单元在功能上相似。为此,我们考虑两大类方法:那些定义相似性的基础上如何单位响应结构化的变化输入(“上游”),以及那些基于隐藏的单位激活的变化如何影响输出(“下游”)。我们进行了一项实证研究,量化模块化的隐藏层表示的简单前馈,全连接的网络,在一系列的超参数。对于每个模型,我们使用各种上游和下游措施来量化每层隐藏单元之间的成对关联,然后使用网络科学中的既定工具通过最大化其“模块化得分”来对其进行聚类。我们发现了两个令人惊讶的结果:第一,dropout极大地增加了模块化,而其他形式的权重正则化的效果更温和。其次,虽然我们观察到,通常有很好的协议内的上游方法和下游方法的集群,有一点协议的集群分配在这两个家庭的方法。这对表征学习具有重要意义,因为它表明,找到反映输入结构的模块化表征(例如解纠缠)可能是学习反映输出结构的模块化表征(例如组合性)的不同目标。
2022-03-22 cs.LG cs.NE stat.ML
Distinct Computations Emerge From Compositional Curricula in In-Context Learning
University College London(伦敦大学学院);Google Deepmind(谷歌DeepMind);CIFAR Azrieli Global Scholar(CIFAR阿齐里埃全球学者)
本研究针对上下文学习中均匀采样学习的常规方式,设计基于模幂的组合算法任务,对比子任务课程训练与直接训练的Transformer,发现课程训练能提升零样本组合推理能力与鲁棒性,且模型策略受课程设计调控。
2025-06-16 cs.AI cs.CL cs.LG
Breaking Neural Network Scaling Laws with Modularity
Massachusetts Institute of Technology(麻省理工学院)
该研究从理论上证明模块化网络在高维模块化任务上的样本复杂度与任务维度无关,而非模块化网络呈指数增长,并提出一种新学习规则以实证提升分布内外泛化能力。
2025-03-10 cs.LG stat.ML
Seeing is Believing: Brain-Inspired Modular Training for Mechanistic Interpretability
MIT(麻省理工学院)
本文提出BIMT,通过几何嵌入和连接长度代价促进神经网络模块化,使其结构肉眼可见,从而增强机制可解释性。
2023-06-06 cond-mat.dis-nn cs.AI cs.LG
On the Realization of Compositionality in Neural Networks
University of Amsterdam(阿姆斯特丹大学);University of Tübingen(图宾根大学);Universitat Pompeu Fabra(庞培法布拉大学)
我们提出了一个详细的比较两种类型的序列序列模型训练进行合成任务。这些模型在推理时在架构上是相同的,但它们的训练方式不同:我们的基线模型仅用任务成功信号训练,而另一个模型在其注意力机制(注意力引导)上接受额外的监督,这已被证明是鼓励更多组合解决方案的有效方法(Hupkes et al.,2019年)。我们首先确认,通过在Liška et al.(2019)提出的查找表任务上对模型进行训练,具有细心指导的模型确实比基线推断出更多的组合解决方案。然后,我们对两种模型类型之间的结构差异进行了深入分析,特别关注参数空间和隐藏层激活的组织,并在这两个方面发现了明显的差异。引导网络更多地关注输入的组成部分,而不是整个序列,并开发出具有特定目的的小功能神经元组,这些功能神经元组更有选择性地使用它们的门。参数热图、组件交换和图形分析的结果也表明,引导网络表现出更模块化的结构,具有少量专门的、强连接的神经元。
2019-06-06 cs.AI cs.CL cs.LG
Compositional Neural Operators for Multi-Dimensional Fluid Dynamics
Mines Paris - PSL University, Centre for Material Forming (CEMEF)(巴黎矿学院-PSL大学,材料成形中心(CEMEF));Mines Paris - PSL University, Centre for Robotics (CAOR)(巴黎矿学院-PSL大学,机器人中心(CAOR))
本文提出组合神经算子框架,通过分解复杂PDE为基础模块,提升流体动力学问题的求解效率与可解释性。
2026-05-12 cs.LG
NoEsis: Differentially Private Knowledge Transfer in Modular LLM Adaptation
Brave Research(Brave研究)
NoEsis框架结合差分隐私与混合两阶段参数高效微调,在模块化LLM适配中实现可证明隐私保证与跨域知识迁移,并在CodeXGLUE上弥补至少77%的准确率差距。
2025-04-25 cs.CR cs.LG
Compositional generalization in semantic parsing with pretrained transformers
New York University(纽约大学)
大规模的预训练将大量的知识灌输到深度神经网络中。这反过来又改善了这些模型在下游任务中的泛化行为。大规模预训练的泛化优势究竟有哪些限制?在这里,我们报告的意见,从一些简单的实验,旨在解决这个问题的背景下,涉及自然语言,扫描和COGS的两个语义解析任务。我们发现,与从头开始训练的模型相比,专门用非英语语料库,甚至用程序设计语言语料库预训练的语言模型在这些基准测试中显着提高了分布外泛化,即使这两个基准测试都是基于英语的。这证明了预先训练的表示和知识具有惊人的广泛可移植性。另一方面,使用大规模蛋白质序列预测任务进行预训练主要会恶化SCAN和COGS中的泛化性能,这表明预训练的表示不会普遍转移,并且预训练和下游域之间的相似性存在限制,以便成功转移。最后,我们表明,较大的模型更难从头开始训练,并且在相对较小的SCAN和COGS数据集上训练收敛时,其泛化精度较低,但大规模预训练的好处在较大的模型中变得更加清晰。
2022-12-22 cs.CL cs.LG cs.NE
Modular Gaussian Processes for Transfer Learning
Technical University of Denmark (DTU)(丹麦技术大学);Universidad Carlos III de Madrid(卡洛斯三世大学);Evidence-Based Behavior (eB2)(循证行为(eB2));University of Sheffield(谢菲尔德大学)
我们提出了一个基于模块变分高斯过程(GP)的迁移学习框架。我们开发了一种基于模块的方法,该方法具有良好拟合的GP字典,可以在不重新访问任何数据的情况下构建集成GP模型。每个模型的特征在于其超参数,伪输入及其相应的后验密度。我们的方法避免了不必要的数据集中,降低了不断上升的计算成本,并允许在训练后转移学习的不确定性度量。我们利用随机过程之间的库尔贝克-莱布勒散度的高维积分算子的增广,在所有稀疏变分GP下引入了一个有效的下界,具有不同的复杂性和均匀的似然分布.该方法也适用于多输出GP,学习独立模块之间的后验相关性。大量的结果说明了我们的框架在大规模和多任务实验中的可用性,并与文献中的精确推理方法进行了比较。
2021-10-26 cs.LG stat.ML
Adaptable Automation with Modular Deep Reinforcement Learning and Policy Transfer
Northeastern University(东北大学)
深度强化学习(RL)的最新进展为智能自动化创造了前所未有的机会,机器可以自主学习执行给定任务的最佳策略。然而,目前的深度强化学习算法主要专注于窄范围的任务,样本效率低下,缺乏足够的稳定性,这反过来又阻碍了它们的工业应用。本文通过开发和测试基于任务模块化和迁移学习概念的Hyper-Actor Soft Actor-Critic(HASAC)RL框架来解决这一限制。建议的HASAC的目标是提高一个代理的适应性,以新的任务,通过一个“超演员”的前任务的学习政策转移到新的任务。HASAC框架进行了测试,一个新的虚拟机器人操作基准,元世界。数值实验表明,HASAC在奖励值、成功率和任务完成时间方面优于最先进的深度RL算法。
2020-11-27 cs.AI cs.HC cs.LG
Modular Deep Q Networks for Sim-to-real Transfer of Visuo-motor Policies
Australian Centre for Robotic Vision (ACRV)(澳大利亚机器人视觉中心);Queensland University of Technology (QUT)(昆士兰理工大学)
本文提出模块化深度强化学习方法,通过在感知与控制之间引入瓶颈,实现仿真到现实的迁移,提升机器人视觉-运动协调能力。
2017-12-19 cs.AI cs.CV cs.LG