Provable Risk-Sensitive Distributional Reinforcement Learning with General Function Approximation
Tsinghua University(清华大学);Microsoft Research Asia(微软亚洲研究院)
本文提出结合静态 LRM 与通用函数逼近的 RS-DisRL 框架及两种元算法,并通过 LSR、MLE 与增强 MDP 首次获得 $\widetilde{\mathcal{O}}(\sqrt{K})$ 遗憾上界。
2024-02-28 cs.LG
Distributionally Robust Multi-Task Reinforcement Learning via Adaptive Task Sampling
Computer Sciences Department(计算机科学系);University of Wisconsin – Madison(威斯康星大学麦迪逊分校)
本文提出DRATS算法,通过自适应优先采样未被解决的任务,提升多任务强化学习的数据效率和最差任务性能。
2026-05-14 cs.LG
AMAGO: Scalable In-Context Reinforcement Learning for Adaptive Agents
The University of Texas at Austin(德克萨斯大学奥斯汀分校);NVIDIA Research(英伟达研究院)
本研究提出可扩展的上下文强化学习智能体AMAGO,通过重新设计离策略上下文方法实现长序列Transformer的并行端到端训练,在元RL、长期记忆及目标条件开放世界任务中表现优异。
2024-02-01 cs.LG
Linear Mixture Distributionally Robust Markov Decision Processes
Duke University(杜克大学)
针对离动力学挑战,提出线性混合分布鲁棒MDP框架,基于混合权重参数定义不确定性集合,并给出鲁棒策略学习的元算法及其样本复杂度分析。
2025-05-23 cs.AI cs.LG cs.RO
Improving Offline RL by Blending Heuristics
Princeton University(普林斯顿大学);Boston University(波士顿大学);Broad Institute(布罗德研究所);MIT and Harvard(麻省理工学院与哈佛大学);Microsoft Research(微软研究院)
提出HUBL技术,通过混合蒙特卡洛启发式值与自举值改进离线强化学习,降低复杂度,平均提升四种先进算法在27个数据集上的策略质量9%。
2024-03-16 cs.LG
Model-Based Offline Meta-Reinforcement Learning with Regularization
Arizona State University(亚利桑那州立大学);The Ohio State University(俄亥俄州立大学)
现有的离线强化学习(RL)方法面临着一些主要的挑战,特别是学习策略和行为策略之间的分布变化。离线元强化学习正在成为解决这些挑战的一种有前途的方法,旨在从一系列任务中学习信息元策略。然而,正如我们的实证研究所示,离线元RL可以在具有良好数据集质量的任务上优于离线单任务RL方法,这表明必须在通过遵循元策略来“探索”分布外状态动作和通过接近行为策略来“利用”离线数据集之间进行微妙的平衡。受这种实证分析的启发,我们探索了基于模型的离线Meta-RL与正则化策略优化(MerPO),它学习了一个元模型,用于有效的任务结构推理和一个信息元策略,用于安全探索分布外的状态动作。特别是,我们设计了一个新的元正则化的基于模型的演员-评论(RAC)的方法内的任务政策优化,作为MerPO的关键组成部分,使用保守的政策评估和正则化的政策改进;和内在的权衡,其中实现了通过两个正则化之间的正确平衡,一个基于行为的政策和其他的元政策。我们从理论上表明,学习的政策提供了保证改善的行为政策和元政策,从而确保通过离线元RL的新任务的性能提高。实验证实了MerPO优于现有离线Meta-RL方法的性能。
2022-07-13 cs.LG
Uncertainty-based Meta-Reinforcement Learning for Robust Radar Tracking
Infineon Technologies AG(英飞凌科技股份公司);Technichal University of Munich(慕尼黑工业大学)
如今,深度学习(DL)方法往往克服了传统信号处理方法的局限性。然而,DL方法在实际应用中几乎没有应用。这主要是由于有限的鲁棒性和训练数据与测试数据之间的分布偏移。为此,最近的工作提出了不确定性机制来提高其可靠性。此外,元学习旨在提高DL模型的泛化能力。利用这一点,本文提出了一种基于不确定性的Meta-强化学习(Meta-RL)方法与分布外(OOD)检测。所提出的方法在看不见的环境中执行给定的任务,并提供有关其复杂性的信息。这是通过确定估计奖励的一阶和二阶统计量来完成的。使用有关其复杂性的信息,所提出的算法能够指出何时跟踪是可靠的。为了评估所提出的方法,我们基准它的雷达跟踪数据集。在那里,我们表明,我们的方法在看不见的跟踪场景中的峰值性能比相关的Meta-RL方法高出16%,基线性能高出35%,而检测OOD数据的F1分数为72%。这表明我们的方法对环境变化具有鲁棒性,并可靠地检测OOD场景。
2022-10-26 cs.LG eess.SP
UCB for Large-Scale Pure Exploration: Beyond Sub-Gaussianity
Technology and Operations Management Area, INSEAD, Fontainebleau, France(INSEAD技术与运营管理领域,法国Fontainebleau);Advanced Institute of Business and School of Economics and Management, Tongji University, Shanghai, China(同济大学商学院高级商学院与经济管理学院,中国上海);Department of Industrial and Systems Engineering, University of Minnesota, Minneapolis, Minnesota(明尼苏达大学工业与系统工程系,美国明尼苏达州明尼阿波利斯)
本文提出元UCB算法,用于解决大规模纯探索问题中的非亚高斯分布情况,证明其在非亚高斯条件下实现样本最优性。
2026-08-28 cs.LG stat.ML
Offline Meta-Reinforcement Learning with Online Self-Supervision
UC Berkeley(加州大学伯克利分校);University of California, Berkeley(加州大学伯克利分校)
Meta-强化学习(RL)方法可以元训练策略,这些策略适应新任务,数据数量级比标准RL少,但元训练本身成本高且耗时。如果我们可以在离线数据上进行元训练,那么我们可以重用相同的静态数据集,为不同的任务标记一次奖励,以在元测试时元训练适应各种新任务的策略。虽然这种能力将使元RL成为现实世界使用的实用工具,但离线元RL提出了在线元RL或标准离线RL设置之外的额外挑战。元RL学习一种收集数据以进行调整的探索策略,并元训练一种快速适应新任务数据的策略。由于该策略是在固定的离线数据集上进行元训练的,因此当适应通过学习的探索策略收集的数据时,它可能会表现出不可预测的行为,这与离线数据系统地不同,从而引起分布变化。我们提出了一种混合离线元RL算法,该算法使用带有奖励的离线数据来元训练自适应策略,然后收集额外的无监督在线数据,而没有任何奖励标签来桥接这种分布偏移。通过在线收集不需要奖励标签,收集这些数据可以便宜得多。我们将我们的方法与模拟机器人运动和操纵任务的离线元RL的先前工作进行了比较,发现使用额外的无监督在线数据汇集可以显著提高元训练策略的自适应能力,在一系列需要推广到新任务的具有挑战性的领域上,匹配完全在线的元RL的性能。
2022-07-07 cs.AI cs.LG cs.RO
SymmPI: Predictive Inference for Data with Group Symmetries
University of Pennsylvania(宾夕法尼亚大学)
针对现有预测推断方法依赖特定变换群不变性、适用模型与对称性场景有限的问题,提出基于分布等变变换的SymmPI方法,可适配通用群对称性与任意观测模型,在网络顶点预测等任务中表现更优。
2024-09-11 cs.LG math.ST stat.ME
Reward-free Pretraining for Reinforcement Learning via Occupancy Coverage Maximization
Computational Statistics and Machine Learning - Istituto Italiano di Tecnologia(计算统计与机器学习 - 意大利技术研究院);AI Centre, Computer Science Department, University College London(人工智能中心,计算机科学系,伦敦大学学院)
提出一种无奖励预训练方法ROVER,通过最大化状态占据测度的覆盖来学习可迁移探索策略,在稀疏奖励下游任务中快速适应。
2026-06-23 cs.LG
Distributionally robust minimization in meta-learning for system identification
IDSIA Dalle Molle Institute for Artificial Intelligence USI-SUPSI(IDSIA达摩斯人工智能研究所USI-SUPSI)
本文提出在系统辨识的元学习中使用分布鲁棒优化,优先处理高损失任务以增强最坏情况性能,减少安全关键应用中的失败。
2025-06-22 cs.AI cs.LG cs.SY
An introduction to reinforcement learning for neuroscience
Sainsbury Wellcome Centre(桑斯伯里惠康中心);University College London(伦敦大学学院);University of Cambridge(剑桥大学)
本文为神经科学中的强化学习提供了数学背景与方法导论,涵盖从经典时间差分到深度、元及分布式RL算法,并探讨了其在神经科学中的新见解与局限性。
2024-12-18 cs.LG q-bio.NC
Certifiably Robust Model Evaluation in Federated Learning under Meta-Distributional Shifts
Sharif University of Technology(谢里夫大学);University of Tehran(德黑兰大学);The Chinese University of Hong Kong(香港中文大学)
本文研究联邦学习在未知目标网络与元分布偏移下的性能认证,提出基于 Wasserstein 距离或 $f$-散度及鲁棒 DKW 不等式的可计算、隐私保护泛化界。
2025-06-07 cs.LG stat.ML
A Meta-Analysis of Distributionally-Robust Models
New York University(纽约大学)
在大规模数据集(如ImageNet)上训练的最先进的图像分类器已被证明容易受到一系列有意和偶然的分布偏移的影响。另一方面,最近出现了几个具有良好的分布外(OOD)鲁棒性的分类器,在目标任务上实现了高精度,同时在具有挑战性的基准测试中保持了分布内的精度。我们对广泛的公开发布的模型进行了荟萃分析,其中大部分是在过去12个月内发布的。通过这种元分析,我们根据经验确定了所有表现最好的OOD鲁棒模型的四个主要共性,所有这些都说明了视觉语言预训练的巨大潜力。
2022-06-15 cs.CV cs.LG
Compositional federated learning: Applications in distributionally robust averaging and meta learning
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);University of Pittsburgh(匹兹堡大学)
本文提出ComFedL算法解决组合联邦学习框架,通过将分布鲁棒FL和MAML等极小极大优化问题转化为组合优化问题,并证明其$O(1/\sqrt{T})$的收敛速率。
2023-07-26 cs.DC cs.LG math.OC
Few-shot Text Classification with Distributional Signatures
Computer Science and Artificial Intelligence Lab, MIT(麻省理工学院计算机科学与人工智能实验室);MIT-IBM Watson AI LAB, IBM Research(IBM研究院麻省理工-IBM沃森人工智能实验室)
在本文中,我们探讨元学习的Few-Shot文本分类。元学习在计算机视觉中表现出很强的性能,其中低级模式可以在学习任务中转移。然而,直接将这种方法应用于文本是具有挑战性的-词汇特征对一项任务来说是高度信息化的,但对另一项任务来说可能是微不足道的。因此,我们的模型不是仅仅从单词中学习,而是利用它们的分布签名,这些签名对相关的单词出现模式进行编码。我们的模型在元学习框架内进行训练,将这些签名映射到注意力分数,然后用于加权单词的词汇表示。我们证明,我们的模型始终优于基于词汇知识学习的原型网络(Snell等人,2017)在Few-Shot文本分类和关系分类中,在六个基准数据集上都有显著的优势(1次分类平均为20.0%)。
2020-02-18 cs.CL cs.LG
On Distributional Dependent Performance of Classical and Neural Routing Solvers
University of Hildesheim(海德堡大学)
本文提出从固定基础节点分布的子样本中学习,以缩小神经路由求解器与专业元启发式算法在路由问题上的性能差距。
2025-08-04 cs.LG
Sample Efficient Deep Reinforcement Learning via Local Planning
Google DeepMind(谷歌DeepMind);UC Berkeley(加州大学伯克利分校)
提出不确定性优先局部规划(UFLP)框架,通过将环境重置至高不确定性状态来提升深度强化学习的样本效率,并在困难探索任务(如Atari游戏《Montezuma's Revenge》)中取得超越人类的表现。
2023-07-03 cs.AI cs.LG
Design Principles of Robust Multi-Armed Bandit Framework in Video Recommendations
Amazon Prime Video(亚马逊Prime Video)
针对推荐系统中多臂老虎机方法面临的分布变化、物品互噬等挑战,本文提出鲁棒设计原则,经实验验证可有效提升模型鲁棒性,在ROC-AUC、PR-AUC上最高分别带来11.88%、44.85%的相对增益,还能缓解流行度偏差。
2023-09-24 cs.IR cs.LG
Transferable Reinforcement Learning via Probabilistic Latent Embeddings and Dynamic Policy Adaptation for Sim-to-Real Deployment
Lyles School of Civil and Construction Engineering, Purdue University, West Lafayette, USA(普渡大学土木与建设工程学院);Elmore Family School of Electrical and Computer Engineering, Purdue University, West Lafayette, USA(普渡大学埃尔莫尔家庭电气与计算机工程学院)
提出一种基于概率潜在嵌入和动态策略自适应的强化学习框架,通过元学习推断环境潜在表示并动态调整风险水平,实现安全高效的Sim2Real策略迁移。
2026-05-26 cs.AI cs.LG
Meta Learning for Causal Direction
University of Oxford(牛津大学);The Institute of Statistical Mathematics(统计数理研究所)
由于许多科学领域的固有限制,随机对照试验的不可及性一直是因果推断中的一个基本问题。在本文中,我们专注于区分因果关系的双变量设置有限的观测数据。基于Meta学习和因果推断的最新发展,我们引入了一种新的生成模型,可以在小数据环境中区分因果关系。使用包含每个数据集的分布信息的学习任务变量,我们提出了一个端到端的算法,该算法在测试时使用类似的训练数据集。我们在各种合成数据和真实数据上演示了我们的方法,并表明它能够在不同数据集大小的方向检测中保持高精度。
2021-02-22 cs.LG stat.ML
Task-Distributionally Robust Data-Free Meta-Learning
College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算机与数据科学学院);School of Cyber Science and Technology, Shenzhen Campus of Sun Yat-sen University(中山大学深圳校区网络空间安全学院);Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Department of Computer Science and AI Institute, University of Central Florida(中佛罗里达大学计算机科学系与人工智能研究所);School of Data Science, the Chinese University of Hong Kong, Shenzhen (CUHK-Shenzhen) and Secure Computing Lab of Big Data, Shenzhen Research Institute of Big Data (SBRID)(香港中文大学(深圳)数据科学学院与深圳市大数据研究院大数据安全计算实验室)
本文研究数据免费元学习的鲁棒性,发现任务分布偏移和任务分布污染两种漏洞,并提出可信DFML框架以缓解这些问题。
2026-04-10 cs.AI cs.LG
Hierarchical Programmatic Reinforcement Learning via Learning to Compose Programs
National Taiwan University(台湾大学)
本文提出分层程序化强化学习框架HPRL,通过学习元策略组合程序嵌入空间中的程序,克服LEAPS受数据集分布限制和信用分配不足的问题,在Karel领域取得优于基线的效果。
2023-05-31 cs.AI cs.LG cs.PL
A Meta Learning Approach to Discerning Causal Graph Structure
Stanford University(斯坦福大学)
我们探索了元学习的使用,通过优化分布简单性的测量来获得变量之间的因果方向。我们采用了一个随机图表示,其中包括潜在的变量,并允许更多的概括性和图形结构的表达。我们的模型能够学习复杂图形结构的因果方向指标,尽管潜在的混淆因素的影响。此外,我们探索我们的方法的鲁棒性违反我们的分布假设和数据稀缺。我们的模型对适度的数据稀缺性特别稳健,但对分布变化的稳健性较低。通过将模型预测解释为随机事件,我们提出了一个简单的集成方法分类器,以减少结果的变异性作为有偏事件的平均值。这种方法证明了推断数据分布之间因果关系的存在和方向的能力。
2021-06-06 cs.LG stat.ME
Real-Time Edge Intelligence in the Making: A Collaborative Learning Framework via Federated Meta-Learning
Arizona State University(亚利桑那州立大学)
网络边缘的许多物联网应用需要以实时的【形】方式进行智能决策。然而,边缘设备由于其有限的计算资源和有限的本地数据,通常无法单独实现实时的【形】边缘智能。为了应对这些挑战,我们提出了一个平台辅助的协作学习框架,其中模型首先通过联邦元学习方法在一组源边缘节点上进行训练,然后快速适应学习目标边缘节点上的新任务,仅使用少量样本。此外,我们研究了所提出的联邦元学习算法的收敛性在温和的条件下的节点相似性和适应性能在目标边缘。针对元学习算法在对抗攻击中的脆弱性,提出了一种基于分布式鲁棒优化的联邦元学习算法,并证明了该算法在较弱条件下的收敛性.在不同数据集上的实验表明了所提出的联邦元学习框架的有效性。
2020-05-08 cs.LG stat.ML
Addressing distributional shifts in operations management: The case of order fulfillment in customized production
ETH Zurich(苏黎世联邦理工学院);LMU Munich(慕尼黑大学)
针对定制化生产订单履约中的运营数据分布偏移,本文提出结合对抗学习与作业车间调度的数据驱动方法,并通过真实作业车间数据和大量实验验证其优于常用基线。
2023-04-24 cs.LG stat.AP
Meta-learning to Address Data Shift in Time Series Classification
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Virginia Tech(弗吉尼亚理工大学)
本文通过对比元学习与传统深度学习方法,探讨了元学习在时间序列分类中应对数据漂移的有效性,并引入SeisTask基准以促进适应学习研究。
2026-01-13 cs.AI cs.LG
Distributionally Robust Classification on a Data Budget
New York University(纽约大学)
本文提出JANuS数据集,通过受控实验证明在240万样本上训练的ResNet-50可达到与4亿样本训练的CLIP ResNet-50相当的分布鲁棒性,首次在有限数据预算下实现接近最先进的鲁棒分类。
2023-08-07 cs.CV cs.LG
A Simple Yet Effective Strategy to Robustify the Meta Learning Paradigm
College of Science, National University of Defense Technology(国防科技大学理学院);College of Systems Engineering, National University of Defense Technology(国防科技大学系统工程学院)
针对元学习中部分任务快速适应效果差的问题,提出从分布鲁棒性角度、以期望尾部风险为指标的两阶段启发式策略,提升元学习对任务分布的鲁棒性。
2023-10-01 cs.AI cs.LG
A Directional Rockafellar-Uryasev Regression
University of Padua(帕多瓦大学)
针对大数据选择偏差,提出利用元信息(偏差数量与方向)的方向性Rockafellar-Uryasev回归模型,经神经网络实现,在选举民调中验证其提升预测准确性。
2024-11-04 cs.LG stat.ML
META-Learning Eligibility Traces for More Sample Efficient Temporal Difference Learning
McGill University(麦吉尔大学)
时间差分(TD)学习是一种标准的、非常成功的强化学习方法,是学习给定策略值的算法以及学习如何改进策略的算法的核心。具有资格跟踪的TD学习提供了一种进行时间信用分配的方式,即,决定奖励的哪一部分应该被分配给在不同的先前时间发生的前驱状态,由参数$λ$控制。但是,调整此参数可能很耗时,不调整它可能会导致学习效率低下。为了提高TD学习的样本效率,我们提出了一种元学习方法来调整资格跟踪参数,在一个状态依赖的方式。该自适应是在辅助学习器的帮助下实现的,辅助学习器在线学习关于更新目标的分布信息,每步产生与通常的值学习器大致相同的计算复杂性。我们的方法可以用于在政策和离策略学习。我们证明,在一些假设下,该方法提高了更新目标的整体质量,通过最小化整体目标误差。该方法可以被看作是一个插件,也可以用来辅助预测与功能近似的元学习功能(观察)为基础的$λ$在线,甚至在控制的情况下,以协助政策的改进。我们的实证评估表明显着的性能改进,以及改进的鲁棒性所提出的算法的学习率变化。
2020-06-16 cs.AI cs.LG stat.ML
Continual Learning with Query-Only Attention
Department of Mechanical Engineering University of North Carolina at Charlotte(机械工程系北卡罗来纳大学夏洛特分校)
提出仅查询注意力机制,通过丢弃键和值保留transformer归纳偏置,显著缓解持续学习中的可塑性丧失与灾难性遗忘,并证明全注意力非捕获元学习优势所必需。
2025-11-01 cs.LG
MetaKoopman: Bayesian Meta-Learning of Koopman Operators for Modeling Structured Dynamics under Distribution Shifts
TRATON(特拉顿集团);KTH Royal Institute of Technology(瑞典皇家理工学院)
MetaKoopman作为贝叶斯元学习框架,通过学习Koopman算子先验实现分布偏移下非线性动力学的精准建模与预测,在卡车挂车系统的野外及模拟任务中表现优于现有方法,可用于鲁棒运动规划。
2026-07-30 cs.LG cs.RO cs.SY
Meta-Learning and Self-Supervised Pretraining for Real World Image Translation
MIT EECS(麻省理工学院电气工程与计算机科学系);MIT Lincoln Lab(麻省理工学院林肯实验室);MIT CSAIL & BCS(麻省理工学院计算机科学与人工智能实验室及脑与认知科学系);MIT Physics(麻省理工学院物理系)
深度学习的最新进展,特别是在硬件进步和大数据的支持下,在计算机视觉、自然语言或强化学习等广泛的计算问题上提供了令人印象深刻的结果。然而,这些改进中的许多局限于需要大量人力来收集的大规模策展数据集的问题。此外,这些模型在轻微的分布变化和低数据制度下往往概括性很差。近年来,元学习或自监督学习等新兴领域通过将深度学习扩展到半监督和Few-Shot领域,缩小了概念验证结果与机器学习实际应用之间的差距。我们遵循这一工作路线,并在最近引入的图像到图像翻译问题中探索时空结构,以便:i)制定一种新的多任务Few-Shot图像生成基准,ii)在图像翻译下游任务的对比预训练中探索数据增强。我们提出了几个基线的Few-Shot的问题,并讨论不同的方法之间的权衡。我们的代码可在https://github.com/irugina/meta-image-translation上获得。
2021-12-22 cs.CV cs.LG
Interpretable ML Under the Microscope: Performance, Meta-Features, and the Regression-Classification Predictability Gap
Department of Physics, Informatics and Mathematics, University of Modena and Reggio Emilia(摩德纳大学和雷焦艾米利亚大学物理、信息与数学系)
本文评估了16种可解释方法在216个现实世界表格数据集上的性能,揭示了回归任务中EBMs和SR的可预测性能层级,以及分类任务中无稳定层级的依赖性,同时发现可解释性模型存在训练时间增加的'可解释性税'。
2026-03-26 cs.LG
On the Difficulty of Learning a Meta-network for Training Data Selection
University of California, Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学)
针对元学习训练数据选择(MTS)在实践中表现不佳的问题,本文通过数学分析揭示了梯度信噪比低和缺乏信息特征两大障碍,并提出增大批大小和利用信息特征作为解决方案。
2026-05-30 cs.AI cs.CV cs.LG
META-Learning State-based Eligibility Traces for More Sample-Efficient Policy Evaluation
Mila(米拉研究所);McGill University(麦吉尔大学);DeepMind(深度思维)
时间差分(TD)学习是一种标准的、非常成功的强化学习方法,是学习给定策略值的算法以及学习如何改进策略的算法的核心。具有资格跟踪的TD学习提供了一种通过时间信用分配来提高样本效率的方法,即,决定奖励的哪一部分应该被分配给在不同的先前时间发生的前驱状态,由参数$λ$控制。但是,调整此参数可能很耗时,不调整它可能会导致学习效率低下。为了提高TD学习的样本效率,我们提出了一种元学习方法,用于以状态相关的方式调整资格跟踪参数。该自适应是在辅助学习器的帮助下实现的,辅助学习器在线学习关于更新目标的分布信息,每步产生与通常的值学习器大致相同的计算复杂性。我们的方法可以用于在政策和离策略学习。我们证明,在一些假设下,该方法提高了更新目标的整体质量,通过最小化整体目标误差。该方法可以被看作是一个插件,通过基于元学习特征(观察)的$λ$在线辅助函数逼近预测,甚至在控制情况下辅助策略改进。我们的实证评估表明显着的性能改进,以及改进的鲁棒性所提出的算法的学习率变化。
2020-05-16 cs.AI cs.LG
M3OOD: Automatic Selection of Multimodal OOD Detectors
University of Southern California(南加州大学)
M3OOD通过元学习框架自动选择多模态OOD检测器,有效提升不同分布偏移下的检测性能。
2026-02-20 cs.LG
Diffusion Sequence Models for Generative In-Context Meta-Learning of Robot Dynamics
University of Applied Science and Arts of Southern Switzerland, Department of Innovative Technologies, IDSIA-SUPSI(瑞士南方应用科学与艺术大学创新技术系,IDSIA-SUPSI);Università della Svizzera Italiana, Faculty of Informatics(瑞士意大利大学信息学院);Politecnico di Milano, Mechanical Department(米兰理工学院机械系)
本文提出利用扩散序列模型进行机器人动力学的生成性上下文元学习,通过对比确定性和生成性模型,展示扩散模型在分布偏移下的鲁棒性提升。
2026-04-20 cs.LG cs.RO cs.SY
Domain Generalization through Meta-Learning: A Survey
Chalmers University of Technology(查尔姆斯理工大学)
本综述探讨了元学习在解决深度神经网络分布外泛化问题中的应用,基于特征提取与分类器学习方法提出新分类法与决策图,为领域泛化模型的选择与开发提供系统指导。
2024-08-22 cs.AI cs.CV cs.LG
Detecting Concept Drift in Neural Networks Using Chi-squared Goodness of Fit Testing
Nokia Bell Labs(诺基亚贝尔实验室)
本文提出将卡方拟合优度检验作为概念漂移检测元算法,在多层感知机、卷积神经网络和Transformer推理过程中无需检查输出即可检测准确率异常下降,从而提升模型可靠性监控。
2025-05-07 cs.AI cs.LG eess.IV
Adaptive Ensemble Selection for Noisy Labels on Tabular Data
针对表格数据中的噪声标签问题,提出一种数据为中心的元模型自适应集成选择方法,通过预测检测器权重来诊断数据质量并选择清洗策略,在受控噪声基准上达到与Confident Learning相当的性能。
2026-09-29 cs.LG
Clustering-Based Validation Splits for Model Selection under Domain Shift
Institute of Sound and Vibration Research(声学与振动研究所);University of Southampton(南安普顿大学)
本文提出基于核k均值聚类和线性规划的验证集划分方法,通过最大化训练集与验证集间的MMD来提升域偏移下的模型选择性能。
2025-08-17 cs.CV cs.LG
Consistency-based Abductive Reasoning over Perceptual Errors of Multiple Pre-trained Models in Novel Environments
本文提出利用多个预训练模型减少感知误差的归纳推理方法,通过逻辑程序编码预测和错误检测规则,采用整数规划和启发式搜索算法提升预测覆盖度和一致性,实验表明在复杂分布偏移场景中性能优于单一模型和传统集成基线。
2026-03-20 cs.AI cs.CV cs.LG
Beyond Pooling: Matching for Robust Generalization under Data Heterogeneity
SUNY Buffalo(纽约州立大学布法罗分校);Lawrence Livermore National Lab(劳伦斯利弗莫尔国家实验室);SUNY Stony Brook(纽约州立大学石溪分校)
本文提出一种匹配框架,通过自适应质心选择样本并迭代优化表示分布,以在数据异质性下实现更稳健的泛化,尤其在零样本医学异常检测中取得显著提升。
2026-02-06 cs.AI cs.LG