Adapting to Shifting Correlations with Unlabeled Data Calibration
Cornell Tech（康奈尔理工学院）；Weill Cornell Medicine（威尔康奈尔医学院）
针对跨站点分布偏移中不稳定特征难利用的问题，提出 GPA，通过无标签样本校准目标与混杂因素的变化相关性，提升预测准确率并优于基线。
2024-09-09 cs.LG
GCAL: Adapting Graph Models to Evolving Domain Shifts
Great Bay University（大湾区大学）
本文提出GCAL方法，通过双层优化（适应与生成记忆）解决图域适应中的持续偏移与灾难性遗忘问题，实验证明其在适应性和知识保留上优于现有方法。
2025-05-22 cs.AI cs.LG
Online Adaptation to Label Distribution Shift
Cornell University（康奈尔大学）；Facebook AI Research（Facebook 人工智能研究院）
机器学习模型在现实世界中部署时经常遇到分布偏移。在本文中，我们专注于适应标签分布偏移在线设置，测试时的标签分布是不断变化的，模型必须动态地适应它，而不观察到真正的标签。利用一种新的分析，我们表明，缺乏真正的标签并不妨碍估计的预期测试损失，这使得减少在线标签偏移适应传统的在线学习。根据这一观察，我们提出了经典的在线学习技术，如跟随领导者（FTL）和在线梯度下降（OGD）的启发自适应算法，并推导出他们的遗憾界限。我们根据经验验证我们的研究结果在模拟和现实世界的标签分布偏移，并表明OGD是特别有效和强大的各种具有挑战性的标签偏移的情况。
2022-01-05 cs.LG stat.ML
Factorizable joint shift revisited
Centre for Business Mathematics and Informatics（商业数学与信息学中心）
本文重新审视可因子化联合位移，提出适用于一般标签空间的分析框架，扩展了现有结果并分析了EM算法在类别先验概率上的扩展，同时重新审视了通用标签位移。
2026-07-08 cs.LG stat.ML
Sequential Harmful Shift Detection Without Labels
J.P. Morgan AI Research（摩根大通人工智能研究院）
提出一种无需标签即可检测生产环境中模型性能下降的分布漂移方法，利用误差估计器预测作为代理，实验证明在多种漂移下具有高检测力和误报控制。
2024-12-17 cs.LG stat.ML
Maximum Likelihood with Bias-Corrected Calibration is Hard-To-Beat at Label Shift Adaptation
Stanford University（斯坦福大学）
标签偏移是指先验类概率p（y）在训练分布和测试分布之间变化，而条件概率p（x）在训练分布和测试分布之间变化的现象。|y）保持固定。标签偏移出现在医疗诊断等环境中，其中训练用于预测给定症状的疾病的分类器必须适应疾病的基线患病率不同的情况。给定p（y）的估计|x），Saerens等人提出了一种有效的最大似然算法来校正不需要模型再训练的标签偏移，但是该算法的限制性假设是p（y| x）被校准，这对现代神经网络来说是不正确的。最近，黑箱移位学习（BBSL）和标签移位下的正则化学习（RLLS）已经成为最先进的技术，以应对分类器不输出校准概率时的标签偏移，但这两种方法都需要使用重要性权重进行模型再训练，并且都没有针对最大似然进行基准测试。在这里，我们（1）表明，结合最大似然与一种类型的校准，我们称之为偏差校正校准优于BBSL和RLLS在不同的数据集和分布偏移，（2）证明，最大似然目标是凹的，（3）介绍了一个原则性的战略，估计源域先验，提高鲁棒性差校准。这项工作表明，最大似然与适当的校准是一个强大的和有效的基线标签偏移适应;笔记本重现实验可在https://github.com/kundajelab/labelshiftexperiments
2020-06-27 cs.LG stat.ML
Adapting to Online Distribution Shifts in Deep Learning: A Black-Box Approach
Amazon（亚马逊）；University of California San Diego（加利福尼亚大学圣迭戈分校）
本文针对在线分布偏移问题提出一种黑盒元算法，通过多分辨率实例和跨时间交叉验证自动选择最佳历史注意力长度，仅需维护 O(log(T)) 个在线学习器实例即可提升任意在线学习算法在非平稳环境下的分类性能。
2025-04-09 cs.LG
Distribution-free uncertainty quantification for classification under label shift
Carnegie Mellon University（卡内基梅隆大学）
ML模型的可信部署需要适当的不确定性度量，特别是在安全关键型应用中。我们专注于不确定性量化（UQ）的分类问题，通过两个途径-预测集使用共形预测和校准的概率预测后，特设分箱-因为这些拥有分布免费保证独立同分布。数据两种常见的归纳方法超越了独立同分布。设置包括处理协变量和标签偏移。在免分配用户数量的背景下，前者已经受到关注，但后者尚未受到关注。众所周知，标签移位会损害预测，我们首先认为它也会损害UQ，因为它会降低覆盖率和校准。借助最近在解决标签偏移（为了更好的预测）方面的进展，我们研究了通过重新加权上述适形和校准程序来实现UQ的正确方法，只要来自目标分布的一些未标记数据可用。我们研究这些技术理论上在一个免费的分布框架，并展示了其出色的实际性能。
2021-07-07 cs.LG stat.ML
LoRD: Adapting Differentiable Driving Policies to Distribution Shifts
TU Dortmund University（多特蒙德工业大学）；NVIDIA Research（英伟达研究院）；Stanford University（斯坦福大学）
针对自动驾驶中分布偏移导致的性能下降和灾难性遗忘问题，提出低秩残差解码器（LoRD）与多任务微调策略，在nuPlan和exiD数据集上显著提升闭环OOD驾驶得分并减少遗忘。
2025-03-28 cs.AI cs.LG cs.RO
RLSbench: Domain Adaptation Under Relaxed Label Shift
Carnegie Mellon University（卡内基梅隆大学）；Amazon Web Services（亚马逊云科技）
本文构建涵盖视觉、表格和语言的 RLSbench 松弛标签偏移基准，评估13种域适应方法，并提出可兼容多数启发式方法的伪平衡与分类器调整两步元算法。
2023-06-05 cs.CV cs.LG stat.ML
Estimating calibration error under label shift without labels
KU Leuven（鲁汶大学）
针对实际部署中目标域标签缺失、无法估计标签偏移下校准误差的问题，提出基于带标签源分布重要性重加权的无标签校准误差估计方法，可实现一致且渐近无偏的估计，经多数据集多场景验证有效可靠。
2023-12-14 cs.CV cs.LG stat.ML
PAC Prediction Sets Under Label Shift
University of Pennsylvania（宾夕法尼亚大学）；POSTECH（浦项科技大学）
针对分布偏移下保形预测集失效问题，提出一种在标签偏移下通过估计目标域类别概率和混淆矩阵并利用高斯消元算法计算重要性权重置信区间来构建预测集的新算法，在五个数据集上验证其满足PAC保证且预测集更小更具信息量。
2023-10-19 cs.LG stat.ML
A generalized approach to label shift: the Conditional Probability Shift Model
Institute of Computer Science, Polish Academy of Sciences（波兰科学院计算机科学研究所）；Faculty of Mathematics and Information Science, Warsaw University of Technology（华沙理工大学数学与信息科学学院）
本文提出条件概率偏移（CPS）设定以解决现有协变量偏移和标签偏移无法涵盖的分布偏移问题，并基于多项回归和期望最大化算法构建通用模型CPSM，实验证明其在条件分布偏移场景下优于现有方法。
2025-03-04 cs.LG stat.ML
SIMSHIFT: A Benchmark for Adapting Neural Surrogates to Distribution Shifts
LIT AI Lab（LIT人工智能实验室）；Institute for Machine Learning, JKU Linz, Austria（机器学习研究所，JKU林茨，奥地利）；Linz Center of Mechatronics GmbH, Linz, Austria（林茨机电研究中心有限公司，林茨，奥地利）；Emmi AI GmbH, Linz, Austria（Emmi人工智能有限公司，林茨，奥地利）
本文提出SIMSHIFT基准，用于评估神经代理在分布偏移下的适应能力，并通过实验展示UDA在复杂工程模拟中的潜力。
2026-02-10 cs.CV cs.LG physics.comp-ph
Adapting to Distribution Shift by Visual Domain Prompt Generation
University of Toronto（多伦多大学）；Concordia University（康考迪亚大学）；McMaster University（麦克马斯特大学）
本文提出基于基础模型预计算特征构建知识库，并通过域提示生成器将源域知识压缩为域特定提示，结合域感知对比损失与元学习，在测试时利用少量无标签数据适应分布偏移，在多个大规模基准上取得领先性能。
2024-05-05 cs.CV cs.LG
Estimating and Explaining Model Performance When Both Covariates and Labels Shift
Stanford University（斯坦福大学）
部署的机器学习（ML）模型经常遇到与其训练数据不同的新用户数据。因此，估计给定模型在新数据上的表现是迈向可靠ML应用的重要一步。然而，这是非常具有挑战性的，因为数据分布可以以灵活的方式变化，并且我们可能没有新数据上的任何标签，这在监控设置中经常发生。在本文中，我们提出了一个新的分布移位模型，稀疏联合移位（SJS），它考虑了两个标签和一些特征的联合移位。这统一和推广了几个现有的移位模型，包括标签移位和稀疏协变量移位，其中只考虑边缘特征或标签分布移位。我们描述的数学条件下，SJS是可识别的。我们进一步提出了SEES，一个算法框架来描述SJS下的分布偏移，并在没有任何标签的情况下估计模型在新数据上的性能。我们在几个真实世界的数据集上进行了大量的实验，使用了各种ML模型。在不同的数据集和分布偏移，SEES实现了显着的（高达一个数量级）偏移估计误差的改善，超过现有的方法。
2022-09-18 cs.AI cs.LG stat.AP
PyroAdapt: Adapting Wildfire Prediction under Spatial Heterogeneity and Temporal Shift
Computer Science, Stanford University（斯坦福大学计算机科学系）；Department of Global Ecology, Carnegie Institution for Science（卡内基科学研究所全球生态系部门）
本文提出环境适应性偏好优化框架，通过构造分布对齐数据集并结合监督学习与偏好优化，提升野火预测在环境变化下的鲁棒性与极端情况下的检测能力。
2026-09-29 cs.CE cs.LG
Detecting and Correcting for Label Shift with Black Box Predictors
Carnegie Mellon University（卡内基梅隆大学）；Amazon AI（亚马逊人工智能）；UC Santa Barbara（加州大学圣巴巴拉分校）
面对训练集和测试集之间的分布偏移，我们希望检测和量化这种偏移，并在没有测试集标签的情况下校正我们的分类器。出于医学诊断的动机，疾病（目标）引起症状（观察），我们专注于标签偏移，其中标签边缘$p(y)$发生变化，但条件性$p(x| y)$不变。我们提出了黑箱偏移估计（BBSE）来估计测试分布$p(y)$。BBSE利用任意黑盒预测器在移位校正之前降低维度。虽然更好的预测器给出更严格的估计，但BBSE即使在预测器有偏差，不准确或未校准时也有效，只要它们的混淆矩阵是可逆的。我们证明了BBSE的一致性，限制其错误，并介绍了一个统计测试，使用BBSE检测移位。我们还利用BBSE来纠正分类器。实验证明，即使在自然图像的高维数据集上，也能进行准确的估计和改进的预测。
2018-07-26 cs.AI cs.LG cs.NE
AdapTable: Test-Time Adaptation for Tabular Data via Shift-Aware Uncertainty Calibrator and Label Distribution Handler
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院（KAIST））；AITRICS；Skelter Labs
针对表格数据分布偏移问题，提出新型测试时自适应框架AdapTable，通过偏移感知不确定性校准器和标签分布处理器两阶段适配模型，在多种场景验证有效，HELOC数据集性能提升达16%。
2025-02-12 cs.AI cs.LG stat.ML
ASAP: Unsupervised Post-training with Label Distribution Shift Adaptive Learning Rate
Soongsil University（顺斯大学）
本文提出ASAP方法，通过计算当前与先前无标签输出的余弦距离动态调整学习率，在无需标签和历史输入的情况下实现快速轻量的无监督模型适应，并在多个数据集上验证了其准确率和效率的提升。
2025-08-19 cs.LG
Adapting Large Multimodal Models to Distribution Shifts: The Role of In-Context Learning
University of New South Wales（新南威尔士大学）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；University of California, San Diego（加利福尼亚大学圣迭戈分校）；CSIRO’s Data61（联邦科学与工业研究组织数据61）；Australian National University（澳大利亚国立大学）；Macquarie University（麦考瑞大学）
针对大型多模态模型在分布偏移下的领域适应问题，提出基于类别条件对比不变性的上下文示例选择方法 InvariantSelectPR，显著提升了模型在医疗等基准数据集上的适应性与准确率。
2024-10-14 cs.AI cs.CV cs.LG
Adapting to noise distribution shifts in flow-based gravitational-wave inference
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Nottingham（诺丁汉大学）；Max Planck Institute for Gravitational Physics (Albert Einstein Institute)（马克斯·普朗克引力物理研究所（阿尔伯特·爱因斯坦研究所））；University of Rhode Island（罗德岛大学）；University of Tübingen（图宾根大学）；University of Maryland, College Park（马里兰大学帕克分校）
本文提出一种预测未来噪声功率谱密度的概率模型，使DINGO网络能适应引力波推断中的噪声分布偏移，仅用O2数据及O3初期单个PSD即可在O3全程37个真实事件上实现准确推断。
2022-11-16 astro-ph.IM cs.LG gr-qc
Split Conformal Prediction with Label-Shift-Adjusted Bayesian Scores
MOGAM Institute for Biomedical Research（MOGAM生物医学研究所）；CROID Research（CROID研究）；aSSIST University（aSSIST大学）
针对标签偏移下共形预测失效问题，提出标签偏移调整的贝叶斯分数（LSA分数），通过后验预测倾斜恒等式修正贝叶斯分数，在分子性质预测中生成更短区间且覆盖相当。
2026-09-14 cs.LG
C-Adapter: Adapting Deep Classifiers for Efficient Conformal Prediction Sets
本文提出 C-Adapter，通过内部保序适配器和增强非一致性分数区分度的损失，在不损失准确率的前提下提升多种分类器的保形预测集效率。
2025-03-18 cs.LG
Calibration of Time-Series Forecasting: Detecting and Adapting Context-Driven Distribution Shift
Zhejiang University（浙江大学）；State Street Technology (Zhejiang) Ltd.（道富科技（浙江）有限公司）；Salesforce Research Asia（Salesforce 亚洲研究院）
本文针对时间序列预测中由时间上下文驱动的分布偏移问题，提出通用的 Reconditionor 检测器和 SOLID 适配器框架，通过残差-上下文互信息检测偏移并进行样本级微调校准，在真实数据集上持续提升多种预测模型性能。
2024-06-11 cs.AI cs.LG
Convolutional Visual Prompt for Robust Visual Perception
Columbia University（哥伦比亚大学）
提出卷积视觉提示（CVP）方法，通过结构化设计减少可训练参数至标准提示的1%以下，实现无标签测试时适应，有效对抗过拟合并提升大规模模型在OOD任务上的鲁棒性达5.87%。
2023-10-26 cs.CV cs.LG
Adapting Contrastive Language-Image Pretrained (CLIP) Models for Out-of-Distribution Detection
Heinrich Heine University（海因里希·海涅大学）
本研究聚焦CLIP模型的OOD检测适配，提出伪标签探测方法，在5个ImageNet基准上超越SOTA，同时发现线性探测优于微调，且大参数CLIP仍难检测对抗OOD样本。
2023-11-09 cs.AI cs.CV cs.LG
Open Set Label Shift with Test Time Out-of-Distribution Reference
Australian National University（澳大利亚国立大学）；Data61 CSIRO；Data Science and AI Group, Monash University（墨尔本大学数据科学与人工智能小组）
本文针对开放集标签偏移问题，提出基于源域ID分类器和ID/OOD分类器的三阶段估计方法，无需重新训练即可将源分布上训练的ID分类器校正到目标分布，并通过实验验证了模型的有效性。
2025-05-09 cs.LG
ALDI-ray: Adapting the ALDI Framework for Security X-ray Object Detection
Concordia University（康科迪亚大学）
ALDI++通过整合自我蒸馏、特征对齐和增强训练策略，有效解决安全X射线目标检测中的领域偏移问题，实现跨领域检测性能的提升。
2025-12-02 cs.CV cs.LG
SPDIM: Source-Free Unsupervised Conditional and Label Shift Adaptation in EEG
Nara Institute of Science and Technology (NAIST)（奈良科学技术大学）；Department of Dynamic Brain Imaging, ATR（动态脑成像部门，ATR）；Center for Advanced Intelligence Project, RIKEN（先进智能项目中心，RIKEN）
SPDIM通过信息最大化原理，针对EEG中的标签偏移问题，提出了一种参数高效的流形优化方法，提升了无监督域适应的性能。
2026-03-09 cs.LG eess.SP
The Label Complexity of Useful Class-Conditional Prediction Sets under Distribution Shift
University of Washington（华盛顿大学）
研究分布偏移下类条件覆盖的标签复杂性，指出无标签方法难以兼顾有效性和效率，精确了恢复每类有效性的成本，通过骨架动作识别等案例研究表明相关现象在多模态基准上存在。
2026-10-06 cs.CV cs.LG
EGA: Adapting Frozen Encoders for Vector Search with Bounded Out-of-Distribution Degradation
Tacoma School of Engineering and Technology University of Washington（塔科马工程与技术学院华盛顿大学）
本文提出EGA方法，通过零初始化、局部三元组损失和超球面投影，解决冻结编码器在部署时面对未见类查询的问题，提升分布外场景下的标签精度。
2026-05-08 cs.AI cs.CV cs.LG
GrInAdapt: Scaling Retinal Vessel Structural Map Segmentation Through Grounding, Integrating and Adapting Multi-device, Multi-site, and Multi-modal Fundus Domains
Department of Bioengineering, University of Washington（华盛顿大学生物工程系）；Department of Electrical and Computer Engineering, University of Washington（华盛顿大学电气与计算机工程系）；Department of Ophthalmology, University of Washington（华盛顿大学眼科系）
GrInAdapt 提出一种无源多目标域适应框架，通过配准接地、多视图预测整合和源模型适应三步，并融合彩色眼底照相，显著提升多设备、多站点、多模态 OCTA 视网膜血管分割精度与鲁棒性。
2025-03-08 cs.AI cs.CV cs.LG
Combating Label Distribution Shift for Active Domain Adaptation
POSTECH（浦项科技大学）
我们考虑的问题，主动领域自适应（ADA）的未标记的目标数据，其中的子集是积极选择和标记给定的预算约束。受最近对领域自适应中源和靶之间标签分布失配的关键问题的分析的启发，我们设计了一种方法，该方法首次在ADA中解决了该问题。其核心是一种新颖的采样策略，该策略寻求最接近整个目标分布的目标数据，并且具有代表性，多样性和不确定性。采样的目标数据，然后不仅用于监督学习，但也用于匹配源和目标域的标签分布，导致显着的性能改善。在四个公共基准测试中，我们的方法在每一个适应场景中都大大优于现有方法。
2022-08-13 cs.AI cs.CV cs.LG
A Field of Experts Prior for Adapting Neural Networks at Test Time
ETH Zürich（苏黎世联邦理工学院）
在图像分析任务中，卷积神经网络（CNN）的性能通常在训练图像和测试图像之间存在与采集相关的分布偏移的情况下受到损害。最近，有人提出通过为每个测试图像微调训练的CNN来解决这个问题。这种测试时间适应（TTA）是一种有前途的和实用的策略，用于提高稳健性分布偏移，因为它既不需要机构之间的数据共享，也不需要注释额外的数据。先前的TTA方法使用辅助模型来增加从测试图像提取的输出和/或特征与训练图像的输出和/或特征之间的相似性。这些助手通常使用CNN建模，可以是特定于任务的，并且它们本身容易受到输入中的分布偏移的影响。为了克服这些问题，我们建议通过匹配测试和训练图像的特征分布来进行TTA，如由专家领域（FoE）先验建模的那样。FoEs将复杂的概率分布建模为许多简单专家分布的产物。我们使用训练任务CNN特征的1D边缘分布作为FoE模型中的专家。此外，我们计算任务CNN特征的补丁的主成分，并将PCA负载的分布视为额外的专家。我们使用来自17家诊所的数据在5个MRI分割任务（4个解剖区域中的健康组织和1个解剖结构中的病变）上验证了该方法，并使用来自3家诊所的数据在MRI配准任务上验证了该方法。我们发现，建议的FoE为基础的TTA是一般适用于多个任务，并优于所有以前的TTA病变分割方法。对于健康组织分割，所提出的方法优于其他任务不可知的方法，但以前的TTA方法是专门为分割设计的执行最好的大多数测试数据…
2022-02-10 cs.CV eess.IV stat.ML
Regime-Conditional Verification: Correctness Estimation for Adapting and Monitoring Safety Classifiers
本文提出 Regime-Conditional Verification（RCV），通过轻量级封装器适配安全分类器，在不重新训练的情况下提升策略遵守度，可检测分布偏移并仅在必要时微调，在多分类器、数据集及部署场景中表现优异。
2026-10-07 cs.AI cs.CL cs.CR
Wakeword Detection under Distribution Shifts
Alexa, Amazon（亚马逊Alexa）
我们提出了一种新的半监督学习（SSL）方法，旨在克服关键字定位（KWS）任务中出现的训练和真实世界数据之间的分布偏移。从训练数据分布的转变是现实世界的KWS任务的一个关键挑战：当一个新的模型部署在设备上时，接受的数据的门控经历了分布的转变，使得通过后续部署及时更新的问题变得困难。尽管有这种变化，我们假设标签上的边缘分布不会改变。我们利用修改后的教师/学生训练框架，标记的训练数据与未标记的数据增强。请注意，教师也不能访问新的分发版。为了有效地使用人类和教师标记数据的混合进行训练，我们开发了一种基于置信度统计的教师标记策略，以减少教师模型中标签分布的熵;然后对数据进行采样以匹配标签上的边缘分布。大规模实验结果表明，在远场音频上训练的卷积神经网络（CNN），并在从不同分布提取的远场音频上进行评估，在相等的错误拒绝率（FRR）下，错误发现率（FDR）获得了14.3%的相对改善，而在没有分布偏移的情况下，FDR获得了5%的改善。在更严重的分布偏移从远场到近场音频与一个较小的全连接网络（FCN），我们的方法实现了52%的相对改善，在FDR在相同的FRR，而产生一个20%的相对改善，在FDR的原始分布。
2022-07-13 cs.AI cs.LG cs.SD
Adapting to Latent Subgroup Shifts via Concepts and Proxies
Google Research（谷歌研究院）；Deepmind（深度思维）；Stanford University（斯坦福大学）；Gatsby Computational Neuroscience Unit（盖茨比计算神经科学中心）；University College London（伦敦大学学院）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们解决的问题，无监督域自适应时，源域不同于目标域，因为一个潜在的子群的分布的转变。当该亚组混淆所有观察数据时，协变量偏移和标签偏移假设均不适用。我们发现，最佳的目标预测可以非参数化识别的概念和代理变量的帮助下，只有在源域，和未标记的数据从目标。识别结果是建设性的，立即提出了一种算法，用于估计目标中的最佳预测。对于连续观测，当这种算法变得不切实际时，我们提出了一个特定于当前数据生成过程的潜变量模型。我们展示了该方法如何随着移位大小的变化而退化，并验证了它优于协变量和标签移位调整。
2022-12-21 cs.AI cs.LG stat.ML
Adapting to Fragmented and Evolving Data: A Fisher Information Perspective
School of Mathematics and Computer Science, Institute of Business Administration（数学与计算机科学学院，商业行政研究所）；National University of Computer and Emerging Sciences（计算机与新兴科学国立大学）
针对序贯协变量偏移，本文提出基于Fisher信息几何的无标签、固定内存在线适应框架FADE，并在七类多模态基准上验证其显著优于现有方法。
2025-07-25 cs.LG stat.ML
Adapting to the Shifting Intent of Search Queries
Princeton University（普林斯顿大学）；University of Pennsylvania（宾夕法尼亚大学）；Microsoft Research（微软研究院）
如今的搜索引擎呈现的结果往往对意图的突然转变毫无察觉。例如，查询“独立日”通常指的是美国的一个节日，但是在一部同名的主要电影上映期间，这个查询的意图突然改变了。虽然没有研究确切地量化意图转移流量的大小，但研究表明，新闻事件，季节性主题，流行文化等占所有搜索查询的50%。这篇论文表明，搜索引擎接收到的信号既可以用来确定意图发生了转变，也可以用来找到现在更相关的结果。我们提出了一个元算法，结婚的分类器与强盗算法，以实现遗憾，依赖于查询印象的数量，在一定的假设。我们提供了强有力的证据表明，这种遗憾接近于最好的实现。最后，通过一系列的实验，我们证明了我们的算法优于以前的方法，特别是随着意图转移流量的增加。
2010-07-22 cs.LG
Adapting RNN Sequence Prediction Model to Multi-label Set Prediction
Khoury College of Computer Sciences（胡里计算机科学学院）；Northeastern University（东北大学）
我们提出了一种RNN序列模型的适应性，以解决文本的多标签分类问题，其中目标是一组标签，而不是一个序列。以前的RNN模型定义了序列的概率，但没有定义集合的概率;试图获得集合概率是网络设计的事后考虑，包括预先指定标签顺序，或者以特定方式将序列概率与集合概率相关联。我们的配方是来自一个原则性的概念集概率，作为相应的置换序列的概率的总和。我们提供了一个新的训练目标，最大限度地提高这一集的概率，和一个新的预测目标，找到最可能的测试文档集。这些新的目标在理论上是有吸引力的，因为它们赋予RNN模型自由去发现最佳标签顺序，这通常是自然的顺序（但在不同的文档中不同）。我们开发了有效的程序来解决训练和预测中的计算困难。在基准数据集上的实验表明，我们在这项任务中的表现优于最先进的方法。
2019-04-11 cs.CL cs.LG
Future Gradient Descent for Adapting the Temporal Shifting Data Distribution in Online Recommendation Systems
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；The University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Meta
在线推荐模型学习的关键挑战之一是时域迁移，这会导致训练数据和测试数据分布之间的不匹配，从而导致领域泛化错误。为了克服这个问题，我们建议学习一个Meta future gradient generator，它预测未来数据分布的梯度信息以进行训练，这样推荐模型就可以像我们能够展望其部署的未来一样进行训练。与批量更新算法相比，该算法具有更小的时域领域泛化误差，该误差由局部遗憾中的梯度变化项来度量.我们通过与各种代表性基线的比较，证明了经验优势。
2022-09-02 cs.AI cs.LG
Adapting Differential Molecular Representation with Hierarchical Prompts for Multi-label Property Prediction
College of Informatics, Huazhong Agricultural University（华中农业大学信息学院）
针对传统分子性质预测方法忽略多标签复杂关联的问题，提出分层提示分子表示学习框架HiPM，通过分层编码与任务感知提示树实现多粒度任务关联建模，在多标签数据集上达SOTA性能。
2024-08-11 cs.AI cs.LG q-bio.QM
Anytime-Valid Confirmation of Label-Shift Corrections
Seungjin Choi
针对标签稀缺时预指定偏移修正的确认问题，提出基于条件e值的任意有效序贯检验方法，利用似然比乘积构造非负鞅，将常规模型监测转化为正式检验。
2026-06-15 cs.LG stat.ML
Active Learning under Label Shift
California Institute of Technology（加州理工学院）
我们解决了标签偏移下的主动学习问题：当源域和目标域的类比例不同时。我们引入了一个“中间分布”，将重要性加权和类平衡采样之间的权衡，并提出了在主动学习的组合使用。我们的方法被称为标签偏移下的中介主动学习（MALLS）。它平衡了类别平衡抽样的偏差和重要性加权的方差。我们证明样本的复杂性和泛化保证MALLS表明主动学习降低渐近样本的复杂性，即使在任意标签偏移。我们经验性地证明了MALLS可以扩展到高维数据集，并且可以在深度主动学习任务中将主动学习的样本复杂度降低60%。
2021-02-25 cs.LG stat.ML
Class Probability Matching Using Kernel Methods for Label Shift Adaptation
University of Twente（特温特大学）
针对标签偏移自适应现有方法仍用特征概率匹配的问题，提出类别概率匹配框架，结合核逻辑回归推出CPMKM算法，推导了其最优收敛速率，实验证明其性能优于现有相关算法。
2023-12-12 cs.LG stat.ML
Regularized Learning for Domain Adaptation under Label Shifts
University of California, Irvine（加州大学尔湾分校）；California Institute of Technology（加州理工学院）；Institute of Theoretical Studies, ETH Zürich（苏黎世联邦理工学院理论研究所）
我们提出了正则化学习下的标签偏移（RLLS），一个原则性和实用的域自适应算法，以纠正源和目标域之间的标签分布的变化。我们首先使用标记的源数据和未标记的目标数据来估计重要性权重，然后在加权的源样本上训练分类器。我们推导出一个泛化的目标域上的分类器是独立的（环境）数据维度，而不是只依赖于函数类的复杂性。据我们所知，这是标签移位问题的第一个推广界，其中目标域中的标签不可用。基于这个界限，我们提出了一个正则化估计的小样本制度，占估计权重的不确定性。在CIFAR-10和MNIST数据集上的实验表明，与以前的方法相比，RLLS提高了分类精度，特别是在低样本和大偏移区域。
2019-03-22 cs.LG stat.ML
Marginal Singularity, and the Benefits of Labels in Covariate-Shift
Columbia University（哥伦比亚大学）；Princeton University（普林斯顿大学）
我们提出了新的极大极小的结果，简洁地捕捉源和目标标记的数据，根据协变量移位的相对优势。也就是说，我们表明，目标标签的好处是由一个传输指数$γ$，编码如何奇异Q是本地w.r.t.有趣的是，它允许在以前的见解下似乎不可能转移的情况。事实上，我们新的极大极小分析--就$γ$而言--揭示了一系列的机制，从目标标签几乎没有好处的情况，到目标标签显著改善分类的情况。然后，我们表明，最近提出的半监督程序可以扩展到适应未知的$γ$，因此，只有当有益的标签请求，同时实现极大极小传输速率。
2020-06-16 cs.LG stat.ML
Detecting is Easy, Adapting is Hard: Local Expert Growth for Visual Model-Based Reinforcement Learning under Distribution Shift
University of Georgia（佐治亚大学）
本文研究了视觉模型强化学习在分布偏移下的适应问题，提出JEPA-Indexed Local Expert Growth方法，通过局部专家进行动作修正，提升了对偏移环境的鲁棒性。
2026-04-30 cs.LG
A General Framework for Abstention Under Label Shift
Stanford University（斯坦福大学）
在机器学习的安全关键应用中，避免对低置信度示例进行预测通常很重要。标准的弃权方法往往侧重于优化前k的准确性，但在许多应用中，准确性并不是我们感兴趣的指标。此外，标签移位（训练时间和预测时间之间的类比例的移位）在实际设置中是普遍存在的，并且现有的消除方法不能很好地处理标签移位。在这项工作中，我们提出了一个通用的框架，可以应用于优化任何感兴趣的指标，这是适应标签移位在测试时，并与任何分类器，可以校准的开箱即用。我们的方法利用了最近的报告，校准的概率估计可以用作真实类别标签的代理，从而使我们能够估计任意度量的变化，如果一个例子被弃权。我们提出了计算效率高的算法，在我们的框架下优化灵敏度在目标特异性，auROC，和加权科恩的Kappa，并引入了一种新的强基线的基础上，从先验类概率的JS分歧。合成，生物和临床数据的实验支持我们的发现。
2022-06-19 cs.LG stat.ML
Theory-inspired Label Shift Adaptation via Aligned Distribution Mixture
College of Science, National University of Defense Technology（国防科技大学理学院）；Institute of Big Data Science and Industry, Shanxi University（山西大学大数据科学与产业研究院）
针对标签偏移中直接混合分布的理论缺陷，提出对齐分布混合（ADM）框架，改进分类器训练并引入耦合权重估计与二层优化，实验验证了其在COVID-19诊断中的有效性。
2024-11-05 cs.LG stat.ML
On Target Shift in Adversarial Domain Adaptation
Duke University（杜克大学）
训练域和测试域之间的不一致性是机器学习技术推广中的一个基本问题。最近，已经提出了几种方法来通过对抗性深度学习来学习域不变特征表示。然而，标签转移，其中每个类别中的数据的百分比是不同的域之间，受到较少的关注。标签转换在许多情况下自然会出现，特别是在行为研究中，行为是自由选择的。在这项工作中，我们提出了一种名为Domain Adversarial nets for Target Shift（DATS）的方法，用于在学习域不变表示的同时解决标签移位问题。这是通过使用分布匹配来估计盲测试集中的标签比例来实现的。我们扩展这个框架来处理多个域，通过开发一个计划来增加源域最相似的目标域。实验结果表明，该框架在大的标签移位下表现良好，具有一定的实用价值。
2019-03-15 cs.LG stat.ML
A study of data and label shift in the LIME framework
KTH Royal Institute of Technology（KTH皇家理工学院）
LIME是一种流行的方法，用于通过可解释的模型来解释黑盒预测，该模型是在预测实例附近的实例上训练的。为了生成这些实例，LIME随机选择预测实例的非零特征的子集。之后，扰动实例被送入黑盒模型以获得这些实例的标签，然后用于训练可解释模型。在这项研究中，我们对LIME输出的可解释模型进行了系统的评估，这些模型是在介绍该方法的原始论文中考虑的两个用例上输出的;文本分类和对象检测。研究表明，扰动和标记阶段导致数据和标签移位。此外，我们还研究了可解释模型的偏移和保真度之间的相关性，并表明在某些情况下，偏移与保真度呈负相关。基于这些研究结果，有人认为，有必要采取一种新的抽样方法，以减轻在石灰的框架的转变。
2019-10-31 cs.LG stat.ML
Class-attribute Priors: Adapting Optimization to Heterogeneity and Fairness Objective
University of California, Riverside（加州大学河滨分校）；University of Michigan, Ann Arbor（密歇根大学安娜堡分校）；University of British Columbia（不列颠哥伦比亚大学）
本文提出 CAP 框架，依据各类别样本量、标签质量、可预测性等属性生成类别特定学习策略，以适应异质性并提升公平性、标签噪声及加权目标下的分类表现。
2024-01-25 cs.CY cs.LG stat.ML
