Is Fast Adaptation All You Need?
University of Alberta（阿尔伯塔大学）；HiSilicon（海思）
基于一致性的元学习已被证明在学习模型初始化、表示和更新规则方面非常有效，这些规则允许从几个样本中快速适应。这些方法背后的核心思想是使用快速适应和泛化-两个二阶度量-作为元训练数据集上的训练信号。然而，很少有人注意到其他可能的二阶度量。在本文中，我们研究了一个不同的训练信号-鲁棒性灾难性干扰-并证明，通过指导最小化干扰学习的表示比通过最大化快速适应学习的表示更有利于增量学习。
2019-10-03 cs.LG stat.ML
Weak Adaptation Learning -- Addressing Cross-domain Data Insufficiency with Weak Annotator
Northwestern University（西北大学）
数据的数量和质量是数据驱动学习方法的关键因素。在某些目标问题域中，可用的数据样本不多，这可能会严重阻碍学习过程。虽然可以利用来自类似域的数据来帮助通过领域自适应，但是获得用于那些源域本身的高质量标记数据可能是困难的或昂贵的。为了解决目标领域分类问题中数据不足的挑战，我们提出了一种弱自适应学习（WAL）方法，该方法利用来自类似源领域的未标记数据、一种低成本弱注释器，该注释器基于特定于任务的启发式方法、标记规则或其他方法（尽管不准确），以及目标领域中的少量标记数据。我们的方法首先进行了理论分析的错误界的训练分类器的数据量和性能的弱注释器，然后引入了一个多阶段的弱适应学习方法，学习一个准确的分类器，通过降低错误界。我们的实验证明了我们的方法在学习一个准确的分类器有限的标记数据在目标域和未标记的数据在源域的有效性。
2021-09-21 cs.AI cs.CV cs.LG
When the Merge Coefficient Stops Mattering: Proximity Regularized Merging for Continual LoRA Adaptation
本文提出近邻正则化合并（PRM），通过在任务向量训练中引入近端惩罚，使顺序LoRA合并更稳健，提升AAA性能，并揭示任务向量的可合并性对持续学习效果的关键作用。
2026-09-29 cs.LG
Pando: Do Interpretability Methods Work When Models Won't Explain Themselves?
Carnegie Mellon University（卡内基梅隆大学）
Pando通过引入解释轴，评估模型在不同解释情况下的表现，发现当解释可靠时，黑盒方法表现优异；当解释缺失或误导时，梯度归因和RelP方法效果更佳。
2026-04-13 cs.AI cs.LG
CALIBUDGET: Calibration-Guided Source Allocation for Fixed-Budget Mixed-Reasoning Adaptation
School of Artificial Intelligence, Jilin University（吉林大学人工智能学院）；Key Laboratory of Symbolic Computation and Knowledge Engineering, Jilin University（吉林大学符号计算与知识工程重点实验室）
CALIBUDGET提出一种带下限保护、可靠性感知的整数分配器，通过校准分割结合模型需求与稳定性，在固定预算下优化异构数据源配额，显著提升混合推理适配性能。
2026-09-30 cs.LG
Choice of Scoring Rules for Indirect Elicitation of Properties with Parametric Assumptions
Department of Computer Science University of Illinois at Chicago（计算机科学系伊利诺伊大学香槟分校）
本文研究参数假设下间接诱导属性的评分规则选择，通过模拟和理论分析发现权重影响估计且最优配置常设零权重，并给出充分条件解释。
2025-06-22 cs.LG stat.ME stat.ML
Domain Aggregation Networks for Multi-Source Domain Adaptation
University of Alberta（阿尔伯塔大学）；Google Brain（谷歌大脑）
在许多现实世界的应用程序中，我们希望利用类似任务的多个源数据集来学习不同但相关的目标数据集的模型-例如，使用一组不同字体识别新字体的字符。虽然最近的研究已经考虑了特设的组合规则来解决这个问题，我们扩展以前的工作域差异最小化开发有限样本的泛化界，并相应地提出了一个理论上合理的优化过程。我们开发的算法，域AggRegation Network（DARN），能够在训练过程中有效地调整每个源域的权重，以确保相关域被赋予更重要的适应性。我们评估所提出的方法在现实世界的情感分析和数字识别数据集，并表明DARN可以显着优于国家的最先进的替代品。
2019-09-25 cs.LG stat.ML
Meta-Learning with Adaptive Hyperparameters
Seoul National University（首尔国立大学）
尽管它的普及，最近的一些作品的有效性MAML的问题时，测试任务是不同的训练任务，从而提出了各种任务条件的方法来改善初始化。我们没有寻找更好的任务感知初始化，而是关注MAML框架中的一个补充因素，即内环优化（或快速自适应）。因此，我们提出了一个新的权重更新规则，大大提高了快速适应过程。具体来说，我们引入了一个小型元网络，可以自适应地生成每步超参数：学习率和权重衰减系数。实验结果表明，超参数自适应学习（ALFA）是当前少样本学习方法中经常被忽视的一个重要组成部分。令人惊讶的是，使用ALFA从随机初始化进行快速自适应已经超过了MAML。
2020-12-08 cs.CV cs.LG
SWL-Adapt: An Unsupervised Domain Adaptation Model with Sample Weight Learning for Cross-User Wearable Human Activity Recognition
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；Alibaba-Zhejiang University Joint Research Institute of Frontier Technologies（阿里巴巴-浙江大学前沿技术联合研究院）
针对跨用户可穿戴活动识别中的用户差异与标注稀缺，提出 SWL-Adapt，通过元优化学习样本权重以选择性域对齐，并在三个数据集上取得最优性能。
2023-06-02 cs.CV cs.LG eess.SP
Safe Domain Adaptation for Physics: Overcoming Nuisances, Label Shifts, and Simulation Priors
该研究针对物理学中域适应的假设不成立问题，提出自适应域适应方法，通过重加权模拟事件聚焦物理不匹配，并给出无标签模型选择规则以选择近最优操作点。
2026-08-20 astro-ph.IM cs.LG physics.data-an
Unsupervised Expressive Rules Provide Explainability and Assist Human Experts Grasping New Domains
IBM Research（IBM研究院）
接近新数据可能是相当令人生畏的;你不知道你感兴趣的类别是如何在其中实现的，通常，手头没有标记的数据，领域自适应方法的性能不令人满意。为了帮助领域专家在他们的第一步进入一个新的任务，在一个新的语料库，我们提出了一个无监督的方法来揭示复杂的规则，聚类未开发的语料库的突出类别（或方面）。这些规则是人类可读的，因此提供了一个重要的成分，最近变得短缺-可解释性。每一条规则都解释了它聚集在一起的所有文本的共性。我们提出了一个广泛的评估，这些规则的有用性，在确定目标类别，以及用户研究，评估其可解释性。
2020-10-19 cs.CL cs.HC cs.LG
Fast On-Device Adaptation for Spiking Neural Networks via Online-Within-Online Meta-Learning
King’s College London（伦敦国王学院）
脉冲神经网络（SNN）最近因其低功耗特性而成为移动医疗管理和自然语言处理等应用的设备上边缘智能的机器学习模型。在这种高度个性化的用例中，重要的是模型能够仅用最少量的训练数据来适应个体的独特特征。元学习已经被提出作为一种训练模型的方法，这些模型面向快速适应新任务。SNN的少数现有元学习解决方案离线运行，需要某种形式的反向传播，这与当前的神经形态边缘设备不兼容。在本文中，我们提出了一个名为OWOML-SNN的SNN的在线内在线元学习规则，该规则可以在任务流上进行终身学习，并依赖于本地，无反向传播，嵌套更新。
2021-02-21 cs.LG cs.NE eess.SP
GUIDE: Generative Utility Inference and Decision Engine
University of Chicago（芝加哥大学）；Centaur AI Institute（Centaur AI研究所）；Carnegie Mellon University（卡内基梅隆大学）；Booth School of Business（布斯商学院）
GUIDE是一种LLM驱动的偏好引出架构，通过贝叶斯自适应采样和符号表示学习，在对话中高效推断多维用户偏好，并在投资组合优化实验中改善冷启动、降低推荐遗憾。
2026-09-14 cs.LG
An analysis of machine learning approaches for enhancing decision-making in complex discrete choice tasks
本研究分析四种机器学习模型在复杂离散选择任务中学习和预测五类选择规则的性能，发现半参数及非参数模型总体优于参数模型，孪生神经网络在能源政策偏好案例中表现最佳。
2026-08-03 cs.LG
Towards fuzzification of adaptation rules in self-adaptive architectures
Charles University, Faculty of Mathematics and Physics（查理大学数学与物理学院）；Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院）
在本文中，我们专注于利用神经网络的分析和规划阶段的自适应架构。本文所研究的激励案例涉及现有的（遗留的）自适应体系结构和它们的自适应逻辑，这些自适应逻辑由逻辑规则指定。我们进一步假设，有必要赋予这些系统基于输入和预期输出的示例进行学习的能力。解决这种需求的一个简单选择是用神经网络代替基于逻辑规则的推理。然而，这一步带来了几个问题，往往造成至少是暂时的倒退。原因是逻辑规则通常代表了一个大的和测试过的领域知识的主体，如果逻辑规则被神经网络取代，这些知识可能会丢失。此外，通用神经网络的黑盒性质混淆了系统内部的工作方式，从而引入了更多的不确定性。在本文中，我们提出了一种方法，使人们有可能赋予现有的自适应体系结构的学习能力，使用神经网络，同时保留现有的领域知识的逻辑规则。我们引入了现有的基于规则的系统和基于通用神经网络的系统之间的连续体。我们展示了如何在这个连续体中导航，并创建一个自然嵌入原始逻辑规则的神经网络架构，以及如何逐步扩展网络的学习潜力，从而控制所有软计算模型固有的不确定性。我们展示并评估了两个较大的现实用例的代表性摘录的方法。
2021-12-17 cs.AI cs.LG
TERN: A Delta-rule Memory with a Seasonal Reference and Online Adaptation for Epidemic Forecasting
Neurogica Inc.（Neurogica公司）；LTS, Inc.（LTS公司）
TERN提出一种带季节参考和在线自适应的增量规则记忆预测器，在流感基准上超越现有模型，验证了记忆机制的有效性。
2026-09-25 cs.AI cs.LG
Synaptic motor adaptation: A three-factor learning rule for adaptive robotic control in spiking neural networks
U.S. Naval Research Laboratory（美国海军研究实验室）；Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出 SMA 算法，利用经梯度下降元优化的三因子突触可塑性规则，使四足机器人仅凭机载传感实现实时在线运动适应，性能达到现有先进方法水平。
2023-06-02 cs.AI cs.LG cs.NE
Towards Cognitively-Faithful Decision-Making Models to Improve AI Alignment
Duke University（杜克大学）；IIT Delhi（德里印度理工学院）；CMU（卡内基梅隆大学）
提出一种基于公理的方法，从成对比较中学习认知忠实的决策过程，以解决标准偏好诱导方法未能捕捉人类决策认知过程的问题，并在肾脏分配任务中验证了模型的有效性。
2026-05-25 cs.LG
On Stopping Rules and Spatial Adaptation for CART
National University of Singapore（新加坡国立大学）
本文针对CART停止规则的统计作用及空间适应性问题，证明采用最小不纯度下降（MID）停止规则的CART可实现空间自适应的极小极大最优逐点速率，为CART的经验成功提供了理论基础。
2026-08-18 cs.LG math.ST stat.ML
Fuzzy-UCS Revisited: Self-Adaptation of Rule Representations in Michigan-Style Learning Fuzzy-Classifier Systems
Department of Electrical Engineering and Computer Science（电气工程与计算机科学系）；Yokohama National University（横滨国立大学）；Department of Computer Science（计算机科学系）；The State University of New York at Binghamton（布ingham顿州立大学）；The University of Electro-Communications（电子通信大学）
本文提出Adaptive-UCS，一种带自适应规则表示机制的监督式模糊分类器系统，通过进化优化模糊指示器选择清晰或模糊隶属函数，在连续空间问题上提升了分类准确性并增强了鲁棒性。
2025-05-09 cs.LG
Avoiding Over-Personalization with Rule-Guided Knowledge Graph Adaptation for LLM Recommendations
Rensselaer Polytechnic Institute（拉特兰理工学院）
提出轻量级神经符号框架，通过推理时自适应用户知识图谱抑制特征共现，引导LLM产生多样化推荐，实验证明提高新颖性且保持质量。
2025-09-08 cs.IR cs.LG
Keeping it simple: Implementation and performance of the proto-principle of adaptation and learning in the language sciences
University of Birmingham（伯明翰大学）；Numerical Algorithms Group（数值算法集团）
在本文中，我们介绍了Widrow-Hoff规则及其应用程序的语言数据。在将规则历史地置于上下文并将其置于神经启发的人工学习模型链中之后，我们解释了其原理和实现考虑。使用一些案例研究，我们说明了如何Widrow-Hoff规则提供了意想不到的机会，计算模拟的一系列语言现象，使人们有可能从一个新的角度来处理老问题。
2021-08-28 cs.CL cs.LG stat.ML
Self-Learning Cloud Controllers: Fuzzy Q-Learning for Knowledge Evolution
Imperial College London, UK（伦敦帝国学院）；IC4, Dublin City University, Ireland（IC4，都柏林城市大学）；University of Duisburg-Essen, Germany（杜伊斯堡- Essen大学）
本文提出FQL4KE自学习模糊云控制器，通过在运行时学习和修改模糊规则，使用户能通过调整优先级权重来指定控制器，而非复杂适应规则，实验表明其优于传统控制器。
2015-07-02 cs.AI cs.DC cs.LG
Automated Instruction Revision (AIR): A Structured Comparison of Task Adaptation Strategies for LLM
Eleks Ltd.（Eleks有限公司）；Ukrainian Catholic University（乌克兰天主教大学）
本文研究了基于规则归纳的自动化指令修订（AIR）方法，用于在有限任务特定示例下适应大语言模型。通过比较多种适应策略在不同基准测试中的表现，发现任务依赖性显著，无单一方法在所有情况下占优。
2026-04-10 cs.CL cs.LG
Multiple Source Domain Adaptation with Adversarial Training of Neural Networks
Carnegie Mellon University（卡内基梅隆大学）；Instituto Superior Técnico（里斯本高等理工学院）
领域自适应是近年来研究的热点，但大多数理论成果和算法都集中在单源单目标自适应设置上。在多源领域自适应问题上简单地应用这样的算法可能导致次优解。作为弥合差距的一步，我们提出了一个新的泛化界领域自适应时，有多个源域的标记实例和一个目标域的未标记的实例。与已有的界相比，新的界不需要关于目标分布的专家知识，也不需要多目标域的最优组合规则。有趣的是，我们的理论还导致了一个有效的学习策略，使用对抗性神经网络：我们展示了如何将其解释为学习特征表示，这些特征表示对多个域的变化是不变的，同时仍然对学习任务具有区分性。为此，我们提出了两个模型，我们都称之为多域对抗网络（MDAN）：第一个模型直接优化了我们的边界，而第二个模型是第一个模型的平滑近似，从而产生了一个更有效的数据和任务自适应模型。这两个模型的优化任务都是极大极小鞍点问题，可以通过对抗训练进行优化。为了证明MDAN的有效性，我们进行了大量的实验，显示出优越的适应性能的三个现实世界的数据集：情感分析，数字分类，车辆计数。
2017-10-27 cs.AI cs.LG stat.ML
Survey of Various Fuzzy and Uncertain Decision-Making Methods
本文综述了考虑不确定性的多准则决策方法，分类了任务导向的体系结构，总结了问题设置、权重获取及跨准则结构，并对比了不同解决方案，提供了选择方法的指导。
2026-03-16 cs.AI cs.CE cs.CY
