A Survey on Deep Reinforcement Learning-based Approaches for Adaptation and Generalization
Yonsei University(延世大学)
深度强化学习(Deep Reinforcement Learning,DRL)旨在创建智能代理,这些智能代理可以学习在现实环境中有效地解决复杂问题。通常,两个学习目标:适应和泛化用于基线DRL算法的性能在不同的任务和领域。本文综述了基于DRL的自适应和泛化方法的最新进展。我们首先在任务和领域的背景下制定这些目标。然后,我们回顾了这些方法下的最新工作,并讨论了未来的研究方向,通过DRL算法的适应性和泛化能力可以提高,并可能使它们适用于广泛的现实世界的问题。
2022-02-17 cs.AI cs.LG
Real2Sim or Sim2Real: Robotics Visual Insertion using Deep Reinforcement Learning and Real2Sim Policy Adaptation
National University of Singapore(新加坡国立大学)
强化学习已经在机器人任务中显示出广泛的用途,例如插入和抓取。然而,如果没有一个实际的sim2real策略,在模拟中训练的策略可能会在实际任务中失败。在sim2real策略中也有广泛的研究,但这些方法大多依赖于繁重的图像渲染,域随机化训练或调整。在这项工作中,我们解决了插入任务,使用一个纯视觉的强化学习解决方案与最低的基础设施要求。我们还提出了一种新的sim2real策略,Real2Sim,它提供了一个新的和更容易的解决方案,在政策适应。讨论了Real2Sim相对于Sim2Real的优势。
2022-06-06 cs.AI cs.RO
ADAPTER-RL: Adaptation of Any Agent using Reinforcement Learning
Queen Mary University of London(伦敦玛丽女王大学)
本文提出 ADAPTER-RL,通过在强化学习中集成适配器来提升 DRL 智能体对分布外任务的适应性,该方法兼容预训练网络与规则智能体,并在 nanoRTS 环境中验证了其训练效率与性能提升效果。
2023-11-20 cs.AI cs.LG
Offline Meta Reinforcement Learning with In-Distribution Online Adaptation
Tsinghua University(清华大学);Huazhong University of Science and Technology(华中科技大学);Peking University(北京大学)
针对离线元强化学习中离线数据与在线适应间的转移—奖励分布偏移问题,提出 IDAQ 框架,通过基于回报的不确定性量化生成分布内上下文并推断任务信念,在 Meta-World ML1 上达到最优性能。
2023-06-01 cs.AI cs.LG
Measurement-based adaptation protocol with quantum reinforcement learning in a Rigetti quantum computer
University of the Basque Country UPV/EHU(巴斯克大学(UPV/EHU));IKERBASQUE, Basque Foundation for Science(巴斯克科学基金会(IKERBASQUE));Shanghai University(上海大学);International Center of Quantum Artificial Intelligence for Science and Technology (QuArtist)(国际科学技术量子人工智能中心(QuArtist));IQM(IQM公司);Universidad de Sevilla(塞维利亚大学)
我们在Rigetti云量子计算机中提出了一种基于测量的自适应协议的实验实现,该协议具有量子强化学习。在这个几个量子比特的超导芯片上进行的实验忠实地再现了理论上的提议,为半自主量子代理迈出了第一步。这个实验为超导电路的量子强化学习铺平了道路。
2020-05-19 cond-mat.mes-hall cs.AI cs.ET
A Generalized Algorithm for Multi-Objective Reinforcement Learning and Policy Adaptation
Princeton University(普林斯顿大学)
我们介绍了一种新的算法,多目标强化学习(MORL)与线性偏好,使Few-Shot适应新的任务的目标。在MORL中,目标是学习多个竞争目标的策略,这些目标的相对重要性(偏好)对代理来说是未知的。虽然这简化了对标量奖励设计的依赖,但政策的预期回报可能会随着偏好的变化而发生显着变化,这使得学习单个模型以在不同偏好条件下产生最优政策变得具有挑战性。我们提出了一个广义版本的贝尔曼方程学习一个单一的参数表示的所有可能的偏好空间的最优策略。在初始学习阶段之后,我们的代理可以在任何给定的偏好下执行最优策略,或者用很少的样本自动推断出潜在的偏好。在四个不同领域的实验证明了我们的方法的有效性。
2019-11-06 cs.AI cs.LG
Domain Adaptation for Reinforcement Learning on the Atari
Aston University(阿斯顿大学)
深度强化学习智能体最近在各种离散和连续控制任务中取得了成功;然而,它们的训练速度可能很慢,并且需要与环境进行大量交互才能学习合适的策略。事实证明,强化学习代理没有关于世界的先验知识,没有预先存在的数据可以依赖,因此必须投入大量时间进行探索。迁移学习可以通过利用在源任务上完成的学习来帮助在目标任务上的学习来缓解一些问题。我们的工作提出了一种算法,用于初始化的隐藏功能表示的目标任务。我们提出了一个领域自适应方法来转移状态表示,并演示跨域,任务和动作空间的转移。我们利用对抗性领域自适应的想法结合对抗性自动编码器架构。我们将新策略的表示空间与预先训练的源策略对齐,从随机策略中获取目标任务数据。我们证明了这个初始化步骤在学习新的强化学习任务时提供了显着的改进,这突出了对抗性适应方法的广泛适用性;即使任务和标签/动作空间也发生了变化。
2018-12-18 cs.AI cs.LG stat.ML
Efficient Meta Reinforcement Learning for Preference-based Fast Adaptation
University of California, Los Angeles(加州大学洛杉矶分校);Institute for AI Industry Research, Tsinghua University(清华大学人工智能产业研究院);Helixon Ltd.(Helixon有限公司);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院);Beijing Institute for General Artificial Intelligence(北京通用人工智能研究院)
从几次试验中学习新的特定任务技能是人工智能面临的根本挑战。Meta强化学习(meta-RL)通过学习可转移的策略来解决这个问题,这些策略支持对看不见的任务的Few-Shot适应。尽管元强化学习最近取得了进展,但大多数现有方法都需要访问新任务的环境奖励函数来推断任务目标,这在许多实际应用中并不现实。为了弥合这一差距,我们研究了在人在回路强化学习的背景下的Few-Shot适应问题。我们开发了一种元RL算法,可以通过基于偏好的反馈实现快速策略自适应。智能体可以通过查询人类行为轨迹之间的偏好来适应新的任务,而不是使用每步的数字奖励。通过扩展技术从信息论,我们的方法可以设计查询序列,以最大限度地提高信息增益从人类的互动,同时容忍的固有错误的非专家的人类预言。在实验中,我们广泛地评估我们的方法,适应与噪声的甲骨文(ANOLE),在各种元RL基准任务,并展示了大幅改善基线算法的反馈效率和容错性。
2022-11-20 cs.AI cs.LG
Toward Deep Supervised Anomaly Detection: Reinforcement Learning from Partially Labeled Anomaly Data
Australian Institute for Machine Learning(澳大利亚机器学习研究所);The University of Adelaide(阿德莱德大学);Advanced Analytics Institute(高级分析研究所);University of Technology Sydney(悉尼科技大学)
我们考虑的问题的异常检测与一个小的部分标记的异常的例子和一个大规模的未标记的数据集。这是许多重要应用中的常见场景。现有的相关方法要么专门适合通常不跨越整个异常集的有限异常示例,要么从未标记的数据进行无监督学习。相反,我们在这里提出了一种基于深度强化学习的方法,该方法可以对标记和未标记异常的检测进行端到端的优化。该方法通过自动地与异常偏置的模拟环境交互来学习已知的异常,同时连续地将所学习的异常扩展到新的异常类别(即,未知的异常),通过主动探索未标记数据中可能的异常。这是通过联合优化小标记异常数据的利用和罕见的未标记异常的探索来实现的。在48个真实世界数据集上进行的广泛实验表明,我们的模型明显优于五种最先进的竞争方法。
2021-06-10 cs.AI cs.CR cs.CV
Efficient Adaptation of Reinforcement Learning Agents to Sudden Environmental Change
Georgia Institute of Technology(佐治亚理工学院)
针对深度强化学习在部署环境突变时难以高效适应且易遗忘先验知识的问题,本论文提出在线适应需具备优先探索采样和结构化知识选择性保留两项能力。
2025-05-15 cs.AI cs.LG
Domain Adaptation In Reinforcement Learning Via Latent Unified State Representation
尽管深度强化学习(RL)最近取得了成功,但领域自适应仍然是一个悬而未决的问题。尽管RL代理的泛化能力对于Deep RL的现实世界适用性至关重要,但zero-shot策略传输仍然是一个具有挑战性的问题,因为即使是微小的视觉变化也可能使经过训练的代理在新任务中完全失败。为了解决这个问题,我们提出了一个两阶段的强化学习代理,首先学习一个潜在的统一状态表示(LUSR),这是一致的跨多个域在第一阶段,然后在一个源域进行强化学习训练的基础上LUSR在第二阶段。LUSR的跨域一致性允许从源域获取的策略推广到其他目标域,而无需额外的训练。我们首先在具有定制操作的CarRacing游戏变体中展示了我们的方法,然后在CARLA中验证它,CARLA是一种具有更复杂和逼真视觉观察的自动驾驶模拟器。我们的研究结果表明,这种方法可以实现国家的最先进的领域自适应性能在相关的RL任务,并优于先前的方法基于潜在的表示为基础的RL和图像到图像的翻译。
2021-09-03 cs.AI cs.LG
Safe Continual Reinforcement Learning Methods for Nonstationary Environments. Towards a Survey of the State of the Art
McMaster Centre for Software Certification(麦克斯特软件认证中心);Department of Computing and Software(计算与软件系);McMaster University(麦克斯特大学)
本文综述了非平稳环境下安全持续强化学习的最新方法,探讨了理论挑战和未来发展方向。
2026-01-08 cs.AI cs.LG
Domain Adaptation of Reinforcement Learning Agents based on Network Service Proximity
Ericsson Research (Artificial Intelligence) India(爱立信研究院(人工智能)印度);Indian Institute of Technology, Kharagpur(印度理工学院卡拉格普尔分校)
针对无线网络服务动态变化,提出基于服务邻近性的域适应方法,使RL智能体无需重新训练即可快速适应新服务类型,提升计算与成本效益。
2023-03-02 cs.AI cs.LG
Reinforcement Learning -based Adaptation and Scheduling Methods for Multi-source DASH
International University - Vietnam National University(越南国家大学国际大学);Kyung Hee University(庆熙大学);Wroclaw University of Science and Technology(弗罗茨瓦夫科技大学)
针对多源DASH视频流中块乱序影响QoE的问题,提出两种结合强化学习的自适应与调度算法,经真实轨迹仿真验证了有效性。
2023-07-25 cs.AI cs.NI
Final Adaptation Reinforcement Learning for N-Player Games
TH Köln, University of Applied Sciences(科隆应用技术大学)
本文介绍了基于n元组的强化学习(RL)算法的游戏。我们提出了TD,SARSA和Q学习的新算法,这些算法可以在具有任意数量玩家的各种游戏中无缝工作。这是通过采取以玩家为中心的观点来实现的,其中每个玩家将他/她的奖励传播回前一轮。我们在所有这些算法中添加了一个名为最终适应RL(FARL)的新元素。我们的主要贡献是,FARL是在各种游戏中以玩家为中心的观点取得成功的至关重要的因素。我们报告了七个棋盘游戏的结果,其中包括1,2和3名球员,包括奥赛罗,ConnectFour和Hex。在大多数情况下,发现FARL是重要的学习一个近乎完美的播放策略。所有算法都可以在GitHub上的GBG框架中找到。
2021-11-29 cs.AI cs.LG cs.MA
VoiceTTA: Enhancing Zero-Shot Text-to-Speech via Reinforcement Learning-Based Test-Time Adaptation
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Tencent(腾讯)
提出VoiceTTA,一种基于强化学习的测试时自适应方法,通过优化可学习前缀和风格奖励,提升预训练零样本TTS模型对罕见语音风格的模仿能力。
2026-06-26 cs.AI cs.SD
TraPO: A Semi-Supervised Reinforcement Learning Framework for Boosting LLM Reasoning
Zhejiang University(浙江大学);Ant Group(蚂蚁集团)
TraPO通过结合少量标注样本与大量未标注样本,提升大语言模型在数学推理任务中的表现。
2025-12-15 cs.AI cs.LG
Gradient Imitation Reinforcement Learning for General Low-Resource Information Extraction
Tsinghua University(清华大学);Amazon(亚马逊);University of Electronic Science and Technology of China(电子科技大学);The Chinese University of Hong Kong(香港中文大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
信息抽取(Information Extraction,IE)的目的是从异构信息源中抽取结构化的信息。来自自然语言文本的IE包括诸如命名实体识别(NER)、关系抽取(RE)和事件抽取(EE)的子任务。大多数IE系统需要对句子结构、隐含语义和领域知识的全面理解才能表现良好;因此,IE任务总是需要足够的外部资源和注释。然而,获得更多的人类注释需要花费时间和精力。低资源信息抽取(LRIE)致力于使用无监督的数据,减少所需的资源和人工注释。在实践中,现有的系统要么利用自训练方案来生成伪标签,这将导致逐渐漂移问题,要么利用一致性正则化方法,这不可避免地具有确认偏差。为了减轻由于现有LRIE学习范式中缺乏反馈回路而导致的确认偏差,我们开发了梯度模仿强化学习(GIRL)方法,以鼓励伪标记数据模仿标记数据上的梯度下降方向,这可以迫使伪标记数据实现类似于标记数据的更好的优化能力。基于伪标记数据如何模仿从标记数据获得的指导性梯度下降方向,我们设计了一个奖励来量化模仿过程,并通过试错来引导伪标记数据的优化能力。除了学习范例,GIRL并不局限于特定的子任务,我们利用GIRL来解决低资源设置(半监督IE和Few-Shot IE)中的所有IE子任务(命名实体识别,关系抽取和事件提取)。
2022-11-14 cs.AI cs.CL
An Offline Adaptation Framework for Constrained Multi-Objective Reinforcement Learning
Sun Yat-sen University(中山大学)
本研究提出一种离线适配框架,无需人工设定目标偏好,仅通过演示即可隐式推断多目标强化学习的预期策略,还可扩展至满足安全约束,经实验验证效果良好。
2024-09-16 cs.AI cs.LG
Transferable Reinforcement Learning via Probabilistic Latent Embeddings and Dynamic Policy Adaptation for Sim-to-Real Deployment
Lyles School of Civil and Construction Engineering, Purdue University, West Lafayette, USA(普渡大学土木与建设工程学院);Elmore Family School of Electrical and Computer Engineering, Purdue University, West Lafayette, USA(普渡大学埃尔莫尔家庭电气与计算机工程学院)
提出一种基于概率潜在嵌入和动态策略自适应的强化学习框架,通过元学习推断环境潜在表示并动态调整风险水平,实现安全高效的Sim2Real策略迁移。
2026-05-26 cs.AI cs.LG
Lyapunov-Guided Self-Alignment: Test-Time Adaptation for Offline Safe Reinforcement Learning
Seoul National University(首尔国立大学)
本文提出SAS框架,通过自对齐机制在不重新训练的情况下实现离线安全强化学习的测试时适应,利用Lyapunov条件筛选可行轨迹并生成上下文提示,提升安全性与性能。
2026-04-29 cs.AI cs.LG
Linear Representation Meta-Reinforcement Learning for Instant Adaptation
University of California, Berkeley(加州大学伯克利分校)
本文介绍了快速线性化自适应策略(FLAP),这是一种新的Meta强化学习(元RL)方法,能够很好地外推到分布外的任务,而不需要重用训练数据,并且在测试过程中只需要少量样本就可以几乎立即适应。FLAP建立在学习策略的共享线性表示的思想之上,以便在适应新任务时,预测一组线性权重就足够了。一个单独的适配器网络与策略同时训练,这样在适配过程中,我们可以直接使用适配器网络来预测这些线性权重,而不是通过梯度下降来更新元策略,例如在MAML等现有的元RL方法中,以获得新策略。单独的前馈网络的应用不仅显著加快了自适应运行时间,而且还非常好地推广到以前的Meta-RL方法无法推广的非常不同的任务。在标准连续控制元RL基准测试上的实验表明,与现有方法相比,FLAP在分布外任务上表现出更强的性能,平均回报率高达两倍,自适应运行速度高达8倍。
2021-01-12 cs.AI cs.LG stat.ML
Sub-policy Adaptation for Hierarchical Reinforcement Learning
University of California, Berkeley(加州大学伯克利分校)
分层强化学习是解决具有稀疏回报的长期决策问题的一种很有前途的方法。不幸的是,大多数方法仍然将较低级别的技能获取过程与控制新任务中技能的较高级别的训练解耦。保持技能不变可能会导致转移设置中的显着次优。在这项工作中,我们提出了一种新的算法来发现一组技能,并不断调整它们,即使在训练新任务时也是如此。我们的主要贡献有两方面。首先,我们推导出一个新的分层策略梯度与公正的潜在依赖的基线,我们引入分层近端策略优化(HiPPO),一个有效的策略方法,训练各级的层次结构。其次,我们提出了一种训练时间抽象的方法,提高了所获得的技能对环境变化的鲁棒性。代码和结果可在sites.google.com/view/hippo-rl上获得
2020-05-13 cs.AI cs.LG cs.NE
Data-efficient Co-Adaptation of Morphology and Behaviour with Deep Reinforcement Learning
Arizona State University(亚利桑那州立大学);Facebook AI Research(脸书人工智能研究院)
人类和动物能够快速学习新的行为来解决新的任务。然而,我们经常忘记,它们也依赖于一种高度专业化的形态,这种形态与数千年来的运动控制相适应。虽然引人注目,但由于制造时间长,并且需要为每个形态重新设计适当的控制器,因此机器人中共同适应形态和行为的想法通常是不可行的。在本文中,我们提出了一种新的方法来自动和有效地适应机器人形态及其控制器。我们的方法基于深度强化学习的最新进展,特别是软演员评论算法。我们的方法的关键是利用以前测试的形态和行为来估计新的候选形态的性能的可能性。因此,我们可以充分利用可用的信息来做出更明智的决策,最终目标是实现更有效的数据协同适应(即,减少测试的形态和行为的数量)。模拟实验表明,我们的方法需要少得多的设计原型,找到良好的形态-行为组合,使这种方法特别适合未来的共同适应机器人设计在现实世界中。
2019-11-15 cs.AI cs.LG cs.NE
Towards Realizing the Value of Labeled Target Samples: a Two-Stage Approach for Semi-Supervised Domain Adaptation
Tsinghua University(清华大学);Tsinghua Shenzhen International Graduate School(清华大学深圳国际研究生院)
针对半监督域适应中少量有标注目标样本易被源域数据稀释的问题,提出将UDA与目标域半监督学习解耦的两阶段框架,并采用基于一致性学习的mean teacher完成适配,实验效果优于现有方法。
2023-04-21 cs.AI cs.CV
Bridging the Synthetic-Real Gap: Supervised Domain Adaptation for Robust Spacecraft 6-DoF Pose Estimation
SnT, University of Luxembourg(SnT,卢森堡大学)
针对航天器位姿估计中合成到真实的域差距问题,提出首个基于LIRR范式的监督域自适应框架,联合优化域不变表示与任务特定风险,在SPEED+基准上仅用5%标记目标数据即超越oracle基线,实现高效鲁棒的位姿估计。
2025-09-17 cs.AI cs.CV
VLRLA: Deployment-Time Adaptation of Vision-Language-Action Models through In-Context Reinforcement Learning
Zhejiang University(浙江大学);Westlake University(西湖大学)
针对传统VLA模型缺乏部署时渐进适配机制的问题,提出VLRLA框架,通过为VLA模型添加强化学习模块实现部署时适配,经仿真与真实实验验证其适配未见场景的能力。
2026-10-15 cs.AI cs.RO
Asymmetric Tri-training for Unsupervised Domain Adaptation
The University of Tokyo(东京大学)
在大量标记样本上训练的深层模型可以提高许多任务的准确性。重要的是将这样的模型应用到不同的领域,因为在不同的领域中收集许多标记的样本是昂贵的。在无监督领域自适应中,需要训练分类器,当提供有标记的源样本和未标记的目标样本时,该分类器在目标域上工作良好。虽然许多方法旨在匹配源样本和目标样本的分布,但简单地匹配分布并不能确保目标域上的准确性。为了学习目标域的判别表示,我们假设人工标记目标样本可以产生良好的表示。Tri-training同样利用三个分类器来为未标记的样本提供伪标签,但该方法并不假设标记来自不同domain.In本文中,我们提出了一种用于无监督领域自适应适应的非对称Tri-training方法,其中我们为未标记的样本分配伪标签,并训练神经网络,就好像它们是真正的标签。在我们的工作中,我们不对称地使用三个网络。所谓非对称,我们的意思是两个网络用于标记未标记的目标样本,一个网络由样本训练以获得目标区分表示。我们评估我们的方法数字识别和情感分析数据集。我们所提出的方法达到了最先进的性能的基准数字识别数据集的领域自适应。
2017-05-13 cs.AI cs.CV
Weak Adaptation Learning -- Addressing Cross-domain Data Insufficiency with Weak Annotator
Northwestern University(西北大学)
数据的数量和质量是数据驱动学习方法的关键因素。在某些目标问题域中,可用的数据样本不多,这可能会严重阻碍学习过程。虽然可以利用来自类似域的数据来帮助通过领域自适应,但是获得用于那些源域本身的高质量标记数据可能是困难的或昂贵的。为了解决目标领域分类问题中数据不足的挑战,我们提出了一种弱自适应学习(WAL)方法,该方法利用来自类似源领域的未标记数据、一种低成本弱注释器,该注释器基于特定于任务的启发式方法、标记规则或其他方法(尽管不准确),以及目标领域中的少量标记数据。我们的方法首先进行了理论分析的错误界的训练分类器的数据量和性能的弱注释器,然后引入了一个多阶段的弱适应学习方法,学习一个准确的分类器,通过降低错误界。我们的实验证明了我们的方法在学习一个准确的分类器有限的标记数据在目标域和未标记的数据在源域的有效性。
2021-09-21 cs.AI cs.CV cs.LG
Rethinking Unsupervised Domain Adaptation for Semantic Segmentation
Tohoku University(东北大学);RIKEN Center for AIP(理化学研究所革新智能统合研究中心)
本文从数据视角重新审视语义分割无监督域自适应的基本假设,实验表明少量标注图像即可为部分UDA方法确定超参数,且简单微调在仅有几十张标注图像时优于许多UDA方法。
2024-01-22 cs.AI cs.CV
Acted vs. Improvised: Domain Adaptation for Elicitation Approaches in Audio-Visual Emotion Recognition
Amazon(亚马逊)
开发通用自动情感识别系统的主要挑战包括标记数据的稀缺性和缺乏黄金标准参考。即使对于被标记为相同情感类别的线索,相关联的表达的可变性也可能很高,这取决于启发上下文,在即兴对话与预先定义的脚本的表演会话期间引发的情感。在这项工作中,我们把情感启发的方法作为领域知识,并探讨领域迁移学习技术在不同的情感启发方法下收集的情感话语,特别是有限的标记目标样本。我们的情感识别模型结合了梯度反转技术和熵损失函数以及软标签损失,实验结果表明,领域迁移学习方法可以用来减轻不同启发方法之间的领域失配。我们的工作提供了新的见解情感数据收集,特别是其启发策略的影响,和领域自适应的重要性,在情感识别的目标是广义系统。
2021-06-07 cs.AI cs.SD eess.AS
Multi-source Few-shot Domain Adaptation
University of California, Berkeley(加州大学伯克利分校);National University of Singapore(新加坡国立大学);Nanjing University(南京大学)
多源领域自适应(MDA)的目的是将预测模型从多个完全标记的源域转移到未标记的目标域。然而,在许多应用中,相关的标记源数据集可能不可用,并且收集源标签可能与标记目标数据本身一样昂贵。在本文中,我们研究多源Few-Shot领域自适应(MFDA):一个新的领域自适应的情况下,有限的多源标签和未标记的目标数据。正如我们所示,现有的方法往往无法学习的歧视性功能的源和目标域中的MFDA设置。因此,我们提出了一个新的框架,称为多源Few-Shot适应网络(MSFAN),它可以以非对抗的方式进行端到端的训练。MSFAN首先使用一种典型的、多域的、自监督学习来学习不仅是域不变的而且是类区分的特征。其次,MSFAN使用一个小的,标记的支持集,以加强跨域的功能一致性和域不变性。最后,利用来自多个来源的原型来学习更好的分类器。与最先进的MDA方法相比,MSFAN在MFDA上的不同域对上的平均分类准确率分别提高了20.2%,9.4%和16.2%。
2021-09-25 cs.AI cs.CV cs.LG
PARALLEL: A Prefrontal-Aligned Reinforcement inspired Approach for Language-Model Learning under Explicit Limits
PARALLEL是一种前额叶对齐的强化启发式语言模型学习方法,通过分配样本相关更新强度提升适配效率,在多任务上保留高性能且适配轨迹更稳定,支持高效稳定的部署后流式适配。
2026-08-03 cs.AI cs.CL
Meta-Multi-Agent Reinforcement Learning for Fast Adaptation of Interactive Policies with Applications to Autonomous Driving
Virginia Tech(弗吉尼亚理工大学);Georgia Tech(佐治亚理工学院)
本文提出元多智能体强化学习框架,通过马尔可夫博弈建模和元纳什均衡概念,实现自动驾驶中交互策略的快速适应,并验证其优于预训练基线。
2026-10-02 cs.AI cs.MA cs.SY
Multi-Source Domain Adaptation for Object Detection
Nankai University(南开大学);Columbia University(哥伦比亚大学);Didi Chuxing(滴滴出行)
为了减少与目标检测相关的标注劳动,越来越多的研究集中于将所学习的知识从标记的源域转移到另一个未标记的目标域。然而,现有的方法假设标记数据是从单个源域中采样的,这忽略了更一般化的场景,其中标记数据来自多个源域。对于更具挑战性的任务,我们提出了一个统一的基于Faster R-CNN的框架,称为Divide-and-Merge Spindle Network(DMSN),它可以同时增强域不变性并保持区分能力。具体来说,该框架包含多个源子网和一个伪目标子网。首先,我们提出了一个分层的特征对齐策略进行强和弱的低级别和高级别的功能,分别对齐,考虑到他们的不同效果的目标检测。其次,我们提出了一种新的伪子网学习算法,通过对不同源节点中的参数进行加权组合来逼近伪目标子集的最优参数。最后,提出了一种区域建议网络的一致性正则化方法,以便于每个子网学习更抽象的不变性。在不同适应场景下的大量实验证明了该模型的有效性。
2021-06-30 cs.AI cs.CV cs.LG
Heterogeneous-Modal Unsupervised Domain Adaptation via Latent Space Bridging
Southern University of Science and Technology(南方科技大学);SZ DJI Technology Co., Ltd(深圳大疆科技有限公司)
本文提出异构模态无监督域适应(HMUDA)设置及潜在空间桥接(LSB)框架,利用桥接域实现跨模态知识迁移,在六个基准数据集上达到语义分割任务的最优性能。
2026-10-09 cs.AI cs.CV cs.LG
How does the Combined Risk Affect the Performance of Unsupervised Domain Adaptation Approaches?
AAII(澳大利亚人工智能研究院);UTS(悉尼科技大学)
无监督领域自适应(UDA)的目的是训练一个目标分类器与标记的样本从源域和未标记的样本从目标域。经典的UDA学习边界表明,目标风险的上界由三项组成:源风险,分布差异和组合风险。基于组合风险是一个小的固定值的假设,基于此界限的方法通过仅最小化源风险和分布差异的估计来训练目标分类器。然而,当最小化两个估计量时,组合风险可能增加,这使得目标风险不可控。因此,目标分类器不能达到理想的性能,如果我们不能控制的组合风险。为了控制组合风险,关键挑战根源于目标域中标记样本的不可用性。为了解决这一关键挑战,我们提出了一种名为E-MixNet的方法。E-MixNet在标记的源样本和伪标记的目标样本上采用增强的混合,一种通用的邻近分布,以计算组合风险的代理。实验表明,该代理在最小化源风险和分布差异的同时,能有效抑制组合风险的增加。此外,我们表明,如果代理的组合风险被添加到损失函数的四个代表UDA方法,他们的性能也得到改善。
2020-12-30 cs.AI cs.CV cs.LG
Exploring Few-Shot Adaptation for Activity Recognition on Diverse Domains
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);Hunan University(湖南大学);Mercedes-Benz Tech Innovation(梅赛德斯-奔驰技术创新公司);University of Stuttgart(斯图加特大学)
本文研究活动识别的少样本领域自适应,提出包含五个数据集的新基准,并设计了利用少量标注样本作知识引导的 RelaMiX 方法,在所有数据集上达到最优性能。
2024-04-27 cs.AI cs.CV cs.RO
Learning Task Embeddings for Teamwork Adaptation in Multi-Agent Reinforcement Learning
University of Edinburgh(爱丁堡大学)
研究团队协作适应问题,提出多智能体任务嵌入(MATE)方法,通过编码器-解码器架构学习任务嵌入,使智能体团队能在有限微调下适应新任务,并验证其有效性。
2023-11-20 cs.AI cs.LG cs.MA
Parameter-efficient Adaptation of Multilingual Multimodal Models for Low-resource ASR
Indian Institute of Technology Bombay(印度孟买印度理工学院)
本文研究在低资源ASR中结合参数高效微调与纯文本适配,利用SeamlessM4T多模态模型实现跨语言迁移,在零样本设置下相对基线最高降低17% WER。
2024-10-17 cs.AI cs.CL cs.LG