Failing Conceptually: Concept-Based Explanations of Dataset Shift
University of Cambridge（剑桥大学）
尽管机器学习技术在各种视觉任务上表现出色，但它们往往屈服于数据分布偏移。因此，最近的一系列工作探索了检测这些变化的技术。不幸的是，目前的技术没有解释是什么触发了变化的检测，从而限制了它们提供可操作的见解的效用。在这项工作中，我们提出了概念瓶颈移位检测（CBSD）：一种新的可解释的移位检测方法。CBSD通过识别和排名高级人类可理解的概念受变化影响的程度来提供解释。使用两个案例研究（dSprites和3dshapes），我们演示了CBSD如何准确地检测受移位影响的基本概念，并实现更高的检测精度相比，国家的最先进的移位检测方法。
2021-05-01 cs.LG
Certifying Model Accuracy under Distribution Shifts
University of Maryland（马里兰大学）
本文提出在有界 Wasserstein 分布偏移下认证模型准确率的随机化框架，支持逐样本变化的扰动预算，并用于自然图像变换、对抗分布偏移及不可学习投毒数据集的性能下界证明。
2023-07-16 cs.LG
Robustness May be More Brittle than We Think under Different Degrees of Distribution Shifts
Hong Kong University of Science and Technology（香港科技大学）；National University of Singapore（新加坡国立大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
该研究针对现有基准分布偏移程度固定易导致OOD性能评估偏差的问题，提出覆盖多偏移程度的精细评估设置，发现模型鲁棒性在不同偏移下脆弱且不一致，CLIP等大模型对微小偏移敏感，呼吁未来开展更广范围的偏移评估。
2023-12-15 cs.LG
Improving self-training under distribution shifts via anchored confidence with theoretical guarantees
Northwestern University（西北大学）
针对分布偏移下自训练置信度与准确率偏差大、现有改进方法计算成本高的问题，提出基于时序一致性的锚定置信度方法，在无额外计算开销下稳定提升自训练性能8%-16%，且有理论保证。
2024-11-01 cs.LG
Invariant Anomaly Detection under Distribution Shifts: A Causal Perspective
Institute for Machine Learning（机器学习研究所）；Department of Computer Science（计算机科学系）；ETH Zürich（苏黎世联邦理工学院）
本文从因果视角提出一种基于不变表示的正则化方法，增强异常检测模型在分布偏移下的鲁棒性，实验显示显著提升分布外性能。
2023-12-21 cs.LG
A Survey of Deep Graph Learning under Distribution Shifts: from Graph Out-of-Distribution Generalization to Adaptation
Northwestern University（西北大学）；University of Virginia（弗吉尼亚大学）；Georgia Institute of Technology（佐治亚理工学院）；Purdue University（普渡大学）
本综述系统梳理了分布偏移下的深度图学习，涵盖图OOD泛化与适应三类场景，提出模型中心与数据中心的分类法，并总结常用数据集与未来方向。
2025-03-28 cs.LG
Label-free estimation of clinically relevant performance metrics under distribution shifts
University of Bern, Switzerland（伯尔尼大学）；Department of Diabetes, Endocrinology, Nutritional Medicine and Metabolism, Inselspital, Bern University Hospital, University of Bern, Switzerland（糖尿病、内分泌学、营养医学和代谢学部门，伯尔尼大学医院，伯尔尼大学，瑞士）
针对临床场景下目标数据集无标签难评估模型性能的问题，研究推广现有方法实现混淆矩阵直接估计，经胸部X光数据测试可可靠预测临床相关计数指标，同时也揭示了现有技术的失效模式。
2025-07-30 cs.LG
Near-Optimal Linear Regression under Distribution Shift
Princeton University（普林斯顿大学）
当足够的数据来自源域，而来自目标域的标记数据很少时，迁移学习是必不可少的。我们开发估计，实现最小最大线性风险的线性回归问题下分布偏移。我们的算法涵盖了不同的迁移学习设置，包括协变量偏移和模型偏移。我们还考虑当数据是从线性或一般的非线性模型。我们表明，线性极小极大估计是在一个绝对常数的极小极大风险，甚至在非线性估计的各种源/目标分布。
2021-06-23 cs.LG stat.ML
Transferring Fairness under Distribution Shifts via Fair Consistency Regularization
University of Maryland, College Park（马里兰大学帕克分校）；Boston University（波士顿大学）
在高风险任务中越来越依赖ML模型，这引起了人们对违反公平性的主要担忧。虽然有大量的工作提高了算法公平性，但大多数都是在相同的训练和测试分布的假设下进行的。然而，在许多现实世界的应用中，这样的假设往往是违反的，因为以前训练的公平模型往往部署在不同的环境中，这种模型的公平性已经被观察到崩溃。本文研究了在分布偏移下如何传递模型公平性这一在实际中普遍存在的问题。我们进行了细粒度的分析如何影响下的公平模型的不同类型的分布偏移，并发现域的变化是更具挑战性的比子种群的变化。受自训练在域转移下传递准确性的成功启发，我们推导出传递组公平性的充分条件。在此基础上，我们提出了一个以公平一致性正则化为核心的实用算法。一个合成的数据集基准，它涵盖了所有类型的分布偏移，部署的理论研究结果的实验验证。在包括图像和表格数据的合成数据集和真实数据集上的实验表明，该方法在各种分布偏移下有效地传递了公平性和准确性。
2023-01-14 cs.CY cs.LG
Algorithmic Recourse in the Wild: Understanding the Impact of Data and Model Shifts
Harvard University（哈佛大学）；Microsoft Research（微软研究院）
随着预测模型越来越多地被用于做出各种相应的决策，人们越来越重视设计可以为受影响的个人提供追索权的算法。现有的追索算法的功能的假设下，基本的预测模型不改变。然而，由于包括数据分布偏移在内的若干原因，模型在实践中经常更新。在这项工作中，我们第一次尝试了解模型更新导致的数据分布偏移影响的最先进的算法所产生的算法资源。本文针对上述问题进行了严格的理论和实证分析。我们的理论研究结果建立了一个下限的概率追索权无效，由于模型的转变，并显示存在一个折衷的无效概率和典型的概念之间的“成本”最小化的现代追索权生成算法。我们用多个合成和真实世界的数据集进行实验，捕获不同类型的分布偏移，包括时间偏移、地理空间偏移和由于数据校正而引起的偏移。这些实验表明，由于所有上述分布偏移导致的模型更新可能会使最先进算法生成的资源无效。因此，我们的研究结果不仅暴露了以前未知的缺陷，目前的追索权生成模式，但也铺平了道路，从根本上重新思考追索权生成算法的设计和开发。
2021-06-26 cs.AI cs.LG
Statistical Properties of Robust Learning under Distributional Shifts
National University of Singapore（新加坡国立大学）；Tsinghua University（清华大学）；University College London（伦敦大学学院）
本文研究分布偏移下鲁棒学习的统计特性，推导DRO和RS在偏移目标环境中的有限样本泛化误差界，提出信息导向超参数校准并将框架应用于网络批量规模问题，为比较DRO与RS提供原则性基础。
2026-08-14 cs.LG stat.ML
Dangers of Bayesian Model Averaging under Covariate Shift
NYU（纽约大学）；Covera Health
神经网络的近似贝叶斯推理被认为是标准训练的一种鲁棒替代方案，通常在分布外数据上提供良好的性能。然而，贝叶斯神经网络（BNN）的高保真近似推理，通过全批汉密尔顿蒙特卡罗实现协变量偏移下的泛化能力差，甚至不如经典的估计。我们解释了这一令人惊讶的结果，表明贝叶斯模型的平均值在协变量偏移下实际上是有问题的，特别是在输入特征中的线性依赖性导致缺乏后验收缩的情况下。我们还展示了为什么同样的问题不会影响许多近似推理程序，或经典的最大后验概率（MAP）训练。最后，我们提出了新的先验知识，提高了BNN对许多协变量偏移源的鲁棒性。
2021-12-06 cs.LG stat.ML
Toward Calibrated Mixture-of-Experts Under Distribution Shift
Johns Hopkins University（约翰霍普金斯大学）
研究混合专家模型在分布偏移下的校准问题，提出对抗性重加权方法以改善路由聚合的校准误差，提升准确率-校准权衡。
2026-06-19 cs.AI cs.LG
Unsupervised Calibration under Covariate Shift
Stanford University（斯坦福大学）
如果概率模型的预测概率与相应的经验频率相匹配，则该概率模型被称为已校准。校准对于安全关键应用中的不确定性量化和决策非常重要。虽然分类器的校准已被广泛研究，我们发现，校准是脆弱的，很容易失去最小的协变量偏移。现有的技术，包括领域自适应技术，主要集中在预测精度上，并且在理论上和实践中都不能保证校准。在这项工作中，我们正式介绍的问题下域移位的校准，并提出了一个重要性采样为基础的方法来解决它。我们评估和讨论我们的方法在真实世界的数据集和合成数据集的有效性。
2020-06-29 cs.LG stat.ML
Time Series Prediction under Distribution Shift using Differentiable Forgetting
University of Oxford（牛津大学）；Alan Turing Institute（艾伦·图灵研究所）
时间序列预测通常由于分布偏移而变得复杂，这需要自适应模型来适应时变分布。我们框架下的时间序列预测分布偏移作为一个加权的经验风险最小化问题。经验风险中先前观测值的权重由遗忘机制确定，该机制控制用于预测模型估计的相关性和有效样本大小之间的权衡。与以前的工作相比，我们提出了一个基于梯度的学习方法的参数的遗忘机制。这加速了优化，因此允许更多的表达性遗忘机制。
2022-07-23 cs.LG q-fin.ST
Certified Learning under Distribution Shift: Sound Verification and Identifiable Structure
Lecturers in Mathematics, Government College (Autonomous), Rajahmundry, Andhra Pradesh, India, PIN:533105（安得拉邦拉贾哈姆里大学（自主）数学讲师）
本文提出了一种在分布偏移下进行认证学习的统一框架，通过显式不等式认证风险，利用可识别条件增强可解释性，并隔离失败模式与不可认证区域。
2026-02-06 cs.LG math.RA stat.ML
PAC Prediction Sets Under Covariate Shift
University of Pennsylvania（宾夕法尼亚大学）
现代机器学习面临的一个重要挑战是如何严格量化模型预测的不确定性。当基础数据分布发生变化，可能导致预测模型无效时，传达不确定性尤为重要。然而，大多数现有的不确定性量化算法在这种变化的存在下崩溃。我们提出了一种新的方法，解决了这一挑战，通过构建\emph{probably approximately correct (PAC)}预测集的存在下，协变量偏移。我们的方法侧重于从源分布（我们标记了训练样本）到目标分布（我们希望量化不确定性）存在协变量偏移的设置。我们的算法假设给定的重要性权重，该权重编码训练样本的概率在协变量偏移下如何变化。在实践中，重要性权重通常需要估计，因此，我们扩展我们的算法的设置，我们给出的重要性权重的置信区间。我们证明了我们的方法的有效性协变量偏移基于DomainNet和ImageNet。我们的算法满足PAC约束，并给出预测集的最小平均归一化大小之间的方法，总是满足PAC约束。
2022-03-16 cs.LG stat.ML
Variational Resampling Based Assessment of Deep Neural Networks under Distribution Shift
Ludwig Maximillian University of Munich（慕尼黑路德维希·马克西米利安大学）；U.S. Food and Drug Administration（美国食品药品监督管理局）；Technical University of Munich（慕尼黑工业大学）
提出了一种新的基于变分推理的递归框架，以评估深度学习模型对分布偏移的鲁棒性和泛化能力。我们使用自动编码变分贝叶斯来找到数据的潜在表示，在该表示上应用变分高斯混合模型，通过将数据集划分为不同的聚类来故意创建分布偏移。Wasserstein距离用于表征所生成的数据分割之间的分布偏移的程度。我们比较了几种流行的卷积神经网络（CNN）架构和贝叶斯CNN模型在Fashion-MNIST数据集上的图像分类，以评估它们在故意创建的分布偏移以及随机交叉验证下的鲁棒性和泛化行为。我们创建单个数据集的人工域分割的方法也可以用于建立机器学习中的新模型选择标准和评估工具，以及领域自适应和领域泛化方法的基准方法。
2019-10-27 cs.LG stat.ML
Estimating Predictive Uncertainty Under Program Data Distribution Shift
University of Texas at Dallas（德克萨斯大学达拉斯分校）
深度学习（DL）技术在各种任务的预测准确性方面取得了巨大成功，但深度神经网络（DNN）被证明即使对于异常样本也会产生高度过度自信的分数。定义良好的不确定性表明模型的输出是否应该（或不应该）被信任，因此在现实世界的场景中变得至关重要，这些场景通常涉及由于许多因素而导致的输入分布变化。现有的不确定性方法假设测试来自不同数据分布的样本会导致不可靠的模型预测，因此具有较高的不确定性得分。他们通过校准DL模型对给定输入的置信度来量化模型的不确定性，并评估计算机视觉（CV）和自然语言处理（NLP）相关任务的有效性。然而，他们的方法的可靠性可能会受到影响，在编程任务，由于不同的数据表示和转移模式。在本文中，我们首先定义了三种不同类型的分布偏移的程序数据，并建立了一个大规模的移动Java数据集。我们在我们的数据集上实现了两个常见的程序设计语言任务，以研究每个分布偏移对DL模型性能的影响。我们还提出了一个大规模的基准现有的最先进的预测不确定性编程任务，并调查其有效性下的数据分布偏移。实验表明，程序分布偏移确实会不同程度地降低DL模型的性能，现有的不确定性方法在量化程序数据集的不确定性方面都存在一定的局限性。
2021-07-23 cs.LG cs.SE
Predictor-corrector algorithms for stochastic optimization under gradual distribution shift
University of Michigan（密歇根大学）；Princeton University（普林斯顿大学）
时变随机优化问题经常出现在机器学习实践中（例如，逐步域转移，对象跟踪，策略分类）。虽然大多数问题都是在离散时间内解决的，但其基本过程通常是连续的。我们利用这种潜在的连续性，开发预测校正算法随时间变化的随机优化。我们提供的迭代，无论是在纯和嘈杂的访问查询的相关衍生物的损失函数的存在下的误差界。此外，我们表明（理论和经验在几个例子中），我们的方法优于非预测校正方法，不利用底层的连续过程。
2023-02-23 cs.LG stat.CO
Spectral Invariant Learning for Dynamic Graphs under Distribution Shifts
Tsinghua University（清华大学）；Alibaba Group（阿里巴巴集团）
针对动态图神经网络难应对谱域分布偏移的问题，提出谱不变学习框架SILD，通过傅里叶变换获取自我图轨迹谱、解耦谱掩码发现不变与可变谱模式、不变谱过滤提升泛化性，在节点分类和链路预测任务上表现更优。
2024-03-08 cs.AI cs.LG
Minimax Regret Optimization for Robust Machine Learning under Distribution Shift
Google Research（谷歌研究院）；HKUST（香港科技大学）
在本文中，我们考虑的学习场景下，学习的模型进行评估的一个未知的测试分布可能不同于训练分布（即分布偏移）。学习器可以访问一系列权重函数，使得测试分布是这些函数之一下的训练分布的重新加权，通常以分布鲁棒优化（DRO）的名义进行研究。我们考虑在经典学习理论的背景下推导遗憾界的问题，并要求所得的遗憾界对所有潜在的测试分布一致。我们表明，DRO制定不保证一致的小遗憾下分布偏移。相反，我们提出了一种替代方法，称为极小极大遗憾优化（MRO），并表明在适当的条件下，这种方法实现了所有测试分布均匀低遗憾。我们还调整我们的技术，有更强的保证时，测试分布是异构的相似性的训练数据。考虑到目前强大的机器学习方法中最坏情况风险的最佳化，我们认为MRO可以成为解决分布偏移场景的强大替代方案。
2022-02-11 cs.LG stat.ML
Trustworthy Machine Learning under Distribution Shifts
The University of Sydney（悉尼大学）
研究旨在通过提升鲁棒性、可解释性和适应性，在分布偏移下增强机器学习系统的可靠性与责任性。
2025-12-29 cs.LG stat.ML
Coverage Guarantees for Pseudo-Calibrated Conformal Prediction under Distribution Shift
Elmore Family School of Electrical and Computer Engineering, Purdue University（艾洛姆家族电气与计算机工程学院，普渡大学）
针对分布漂移下保形预测覆盖失效问题，利用伪校准和领域自适应工具，推导目标覆盖下界，并提出通过松弛参数膨胀保形阈值的方法及源调优伪校准算法，实验证明其能缓解覆盖退化。
2026-07-20 cs.LG eess.IV
Optimal Empirical Risk Minimization under Temporal Distribution Shifts
本文提出 RIDER 方法，在随机分布漂移模型下推导最优加权经验风险最小化，统一了多种常见加权方案，并在 Yearbook、股市波动率和出租车行程时长预测等任务中验证了其优于标准加权策略的样本外预测性能。
2025-07-17 cs.LG stat.ME
Characterizing Generalization under Out-Of-Distribution Shifts in Deep Metric Learning
LMU Munich（慕尼黑大学）；Heidelberg University（海德堡大学）；University of Toronto（多伦多大学）；University of Washington（华盛顿大学）；MIT（麻省理工学院）
深度度量学习（DML）旨在找到适合于zero-shot转移到先验未知测试分布的表示。然而，常见的评估协议仅测试单个固定的数据分割，其中训练和测试类被随机分配。更现实的评价应考虑具有潜在不同程度和难度的广泛的分布偏移。在这项工作中，我们系统地构建训练测试分裂的难度越来越大，并提出了ooDML基准，以表征泛化下的分布偏移在DML。ooDML旨在探索更具挑战性的多样化训练到测试分布偏移的泛化性能。基于我们的新基准，我们进行了彻底的实证分析国家的最先进的DML方法。我们发现，虽然泛化往往会不断降低难度，但随着分布偏移的增加，一些方法在保持性能方面会更好。最后，我们提出了Few-Shot DML作为一种有效的方法，以不断提高泛化响应未知的测试转移ooDML。代码可在这里：https://github.com/CompVis/Characterizing_Generalization_in_DML.
2021-11-29 cs.CV cs.LG
CrossNorm and SelfNorm for Generalization under Distribution Shifts
Amazon Web Services（亚马逊网络服务）；Rutgers University（罗格斯大学）
传统的归一化技术（例如，批量归一化和实例归一化）通常且简单地假设训练数据和测试数据遵循相同的分布。由于分布偏移在现实世界的应用中是不可避免的，使用以前的归一化方法训练好的模型在新的环境中可能表现不佳。我们能否开发新的归一化方法来提高分布偏移下的泛化鲁棒性？在本文中，我们回答了这个问题，提出了交叉规范和自规范。CrossNorm在特征图之间交换通道平均值和方差，以扩大训练分布，而SelfNorm使用注意力来重新校准统计数据，以弥合训练分布和测试分布之间的差距。CrossNorm和SelfNorm可以相互补充，尽管在统计使用方面探索了不同的方向。在不同领域（视觉和语言）、任务（分类和分割）、设置（监督和半监督）以及分布偏移类型（合成和自然）上的大量实验表明了该方法的有效性。代码可在https://github.com/amazon-research/crossnorm-selfnorm上获得
2021-08-16 cs.CV cs.LG
A Closer Look at In-Context Learning under Distribution Shifts
FAIR (Meta AI)（FAIR（Meta人工智能实验室））
本文通过线性回归任务比较Transformer与基于集合的MLPs在分布偏移下的上下文学习能力，发现Transformer更接近OLS性能且对轻微偏移更鲁棒，但两者在严重偏移下均失效。
2023-05-26 cs.LG stat.ML
Generalization vs. Specialization under Concept Shift
Princeton University（普林斯顿大学）；CUNY Graduate Center（纽约大学研究生中心）；University of Sydney（悉尼大学）
本文在热力学极限下推导了概念漂移下岭回归预测风险的精确表达式，揭示了弱/强概念漂移相变与非单调数据依赖，并通过Transformer、MNIST和FashionMNIST实验验证了理论发现。
2025-07-03 cond-mat.dis-nn cond-mat.stat-mech cs.LG
Density-Regression: Efficient and Distance-Aware Deep Regressor for Uncertainty Estimation under Distribution Shifts
Johns Hopkins University（约翰斯·霍普金斯大学）
针对深度集成方法不确定性估计存在的存储高、推理慢问题，提出单次前向传播的Density-Regression方法，证明其具备距离感知能力，实验验证其在多任务分布偏移场景下性能相当且更高效。
2024-03-07 cs.LG stat.ML
Why do classifier accuracies show linear trends under distribution shift?
Massachusetts Institute of Technology（麻省理工学院）
最近对深度学习泛化的研究发现了一个令人困惑的趋势：模型在一个数据分布上的准确度近似于另一个分布上的准确度的线性函数。我们解释了这种趋势下的一个直观的假设模型相似性，这是在以前的工作经验验证。更准确地说，我们假设两个模型在预测中一致的概率高于我们仅从其准确性水平推断的概率。然后，我们表明，一个线性趋势时，必须发生在两个分布评估模型，除非分布偏移的大小是大的。这项工作强调了理解模型相似性的价值，这可能会对分类模型的泛化和鲁棒性产生影响。
2021-02-22 cs.LG stat.ML
Estimating Generalization under Distribution Shifts via Domain-Invariant Representations
Massachusetts Institute of Technology（麻省理工学院）
当机器学习模型部署在与训练分布不同的测试分布上时，它们可能表现不佳，但高估了它们的性能。在这项工作中，我们的目标是更好地估计模型的性能下分布偏移，没有监督。为此，我们使用一组域不变预测器作为未知的真实目标标签的代理。由于所得到的风险估计的误差取决于代理模型的目标风险，我们研究了域不变表示的泛化，并表明潜在表示的复杂性对目标风险有显着影响。从经验上讲，我们的方法（1）能够自调整领域自适应模型，（2）准确地估计给定模型的目标误差下分布偏移。其他应用包括模型选择，决定提前停止和错误检测。
2020-07-06 cs.LG stat.ML
Minimax Optimal Estimation of Stability Under Distribution Shift
Decision, Risk, and Operations Division（决策、风险与运营部门）；Department of Industrial Engineering and Operations Research（工业工程与运筹学系）；Management Science and Engineering（管理科学与工程）；Columbia University（哥伦比亚大学）；Stanford University（斯坦福大学）
本文提出了一种最小最大最优稳定性估计器，用于评估系统在分布偏移下的稳定性，通过分析收敛速率和实证验证，展示了其在鲁棒性问题中的应用价值。
2024-06-25 cs.LG stat.ML
On Continuous Monitoring of Risk Violations under Unknown Shift
UvA-Bosch Delta Lab, University of Amsterdam（UvA-Bosch Delta Lab，阿姆斯特丹大学）；University of Amsterdam（阿姆斯特丹大学）；Johns Hopkins University（约翰霍普金斯大学）
本文提出一种基于“通过下注进行检验”的序贯假设检验框架，用于在未知分布漂移下实时监控风险违规并控制误报率，适用于异常检测和集合预测。
2025-06-19 cs.LG stat.ML
Mitigating Position-Shift Failures in Text-Based Modular Arithmetic via Position Curriculum and Template Diversity
Independent Researcher（独立研究者）
通过位置课程和模板多样性提升文本模运算模型对位置偏移和模板分布外的鲁棒性
2026-01-07 cs.CL cs.LG
Distribution-free uncertainty quantification for classification under label shift
Carnegie Mellon University（卡内基梅隆大学）
ML模型的可信部署需要适当的不确定性度量，特别是在安全关键型应用中。我们专注于不确定性量化（UQ）的分类问题，通过两个途径-预测集使用共形预测和校准的概率预测后，特设分箱-因为这些拥有分布免费保证独立同分布。数据两种常见的归纳方法超越了独立同分布。设置包括处理协变量和标签偏移。在免分配用户数量的背景下，前者已经受到关注，但后者尚未受到关注。众所周知，标签移位会损害预测，我们首先认为它也会损害UQ，因为它会降低覆盖率和校准。借助最近在解决标签偏移（为了更好的预测）方面的进展，我们研究了通过重新加权上述适形和校准程序来实现UQ的正确方法，只要来自目标分布的一些未标记数据可用。我们研究这些技术理论上在一个免费的分布框架，并展示了其出色的实际性能。
2021-07-07 cs.LG stat.ML
Robust Fairness under Covariate Shift
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；California Institute of Technology（加州理工学院）
对受保护群体的成员资格（种族、性别、年龄等）做出公平的预测已经成为分类算法的重要要求。现有技术从采样标记数据中导出公平模型，依赖于训练数据和测试数据从相同分布中相同且独立地抽取（iid）的假设。在实践中，当与机器学习系统交互的个体的特征改变时，在训练和测试数据集之间可能并且确实发生分布偏移。我们研究了协变量偏移下的公平性，这是对iid假设的放松，其中输入或协变量发生变化，而条件标签分布保持不变。在这些假设下，我们在具有未知标签的目标数据上寻求公平的决策。我们提出了一种方法，获得的预测，是强大的最坏情况下的目标性能，同时满足目标的公平性要求和匹配的统计特性的源数据。我们展示了我们的方法对基准预测任务的好处。
2021-02-06 cs.LG stat.ML
Distance Matters For Improving Performance Estimation Under Covariate Shift
Imperial College London（帝国理工学院）
本文提出一种基于测试样本与训练分布距离的“距离检查”方法，用于改善协变量偏移下的模型性能估计，在13个图像分类任务上取得显著提升。
2023-08-14 cs.CV cs.LG
Benchmarking Learnt Radio Localisation under Distribution Shift
Bell Labs（贝尔实验室）
部署射频（RF）定位系统总是需要付出不小的努力，特别是对于最新的学习型品种。在表征和比较学习定位器网络如何可以在真实世界RF分布偏移下在现场部署方面几乎没有先前的工作。在本文中，我们提出了RadioBench：一套8个来自最先进的学习定位器网络，利用五个新的行业级数据集来研究和基准测试其真实世界的可部署性。我们训练了10k个模型来分析这些学习过的定位器网络的内部工作原理，并揭示了它们在三个性能轴上的不同行为：（i）学习，（ii）倾向于分布偏移，以及（iii）定位。我们使用从该分析中获得的见解，在实际约束条件下为基于学习的RF定位的可部署性推荐最佳实践。
2022-10-04 cs.LG cs.NI eess.SP
Evaluating Computational Pathology Foundation Models for Prostate Cancer Grading under Distribution Shifts
Department of Medical Epidemiology and Biostatistics, Karolinska Institutet（卡罗林斯卡研究所医学流行病学与生物统计学系）；Department of Engineering Science, University of Oxford（牛津大学工程科学系）
本文评估了计算病理学基础模型在前列腺癌分级中的鲁棒性，发现跨机构转移时性能显著下降，表明大规模预训练不足以保证下游泛化能力。
2026-04-28 cs.CV cs.LG eess.IV
Estimating calibration error under label shift without labels
KU Leuven（鲁汶大学）
针对实际部署中目标域标签缺失、无法估计标签偏移下校准误差的问题，提出基于带标签源分布重要性重加权的无标签校准误差估计方法，可实现一致且渐近无偏的估计，经多数据集多场景验证有效可靠。
2023-12-14 cs.CV cs.LG stat.ML
Empirically Validating Conformal Prediction on Modern Vision Architectures Under Distribution Shift and Long-tailed Data
University of Guelph（圭尔夫大学）；Vector Institute for Artificial Intelligence（向量人工智能研究所）
本文首次在大规模数据集和模型上实证评估多种共形预测方法，揭示其在分布偏移和长尾数据下安全保障频繁失效的问题，为安全关键部署提供依据。
2023-07-03 cs.CV cs.LG stat.ML
Omitted Variable Bias in Language Models Under Distribution Shift
Carnegie Mellon University（卡内基梅隆大学）
本文研究了语言模型在分布偏移下的遗漏变量偏差问题，提出框架用于评估和优化模型在分布偏移下的性能。
2026-02-18 cs.CL cs.LG stat.ME
Understanding Multimodal LLMs Under Distribution Shifts: An Information-Theoretic Approach
Changdae Oh；Zhen Fang；Shawn Im；Xuefeng Du；Yixuan Li
本文提出首个信息论框架，通过有效互信息量化多模态大语言模型在分布偏移下的最大风险，并在61种偏移场景中实证验证了理论结果。
2025-05-25 cs.AI cs.CL cs.LG
KMM-CP: Practical Conformal Prediction under Covariate Shift via Selective Kernel Mean Matching
Siebel School of Computing and Data Science, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校西贝尔计算与数据科学学院）
本文提出KMM-CP框架，通过核均值匹配修正协变量偏移，利用RKHS矩差异控制偏差方差，提升低支持重叠区域的稳定性，实验显示覆盖差距减少超50%。
2026-03-27 cs.AI cs.LG stat.AP
Test-Time Training with Self-Supervision for Generalization under Distribution Shifts
University of California, Berkeley（加州大学伯克利分校）；University of California, San Diego（加州大学圣地亚哥分校）
在本文中，我们提出了测试时训练，一种通用的方法，用于提高预测模型的性能时，训练和测试数据来自不同的分布。我们将单个未标记的测试样本转化为自监督学习问题，在进行预测之前更新模型参数。这也自然延伸到在线流中的数据。我们简单的方法导致不同的图像分类基准的改进，旨在评估分布偏移的鲁棒性。
2020-07-01 cs.CV cs.LG stat.ML
Prediction Accuracy & Reliability: Classification and Object Localization under Distribution Shift
Continental AG（大陆集团）；Technische Universität Berlin（柏林工业大学）
研究自然分布偏移对CNN感知性能的影响，构建新数据集评估分类与定位任务，并基准测试Ensembles和MC-Dropout等不确定性量化方法，发现ConvNeXt-Tiny更鲁棒且MC-Dropout层选择依赖偏移类型与任务。
2024-09-05 cs.AI cs.CV cs.LG
Importance Weighting Correction of Regularized Least-Squares for Target Shift
Weierstrass Institute for Applied Analysis and Stochastics（魏泽萨斯应用分析与随机性研究所）
本文研究了在目标偏移下重要性加权修正正则化最小二乘法的统计行为，证明其在不改变输入空间复杂性的情况下能纠正训练-测试不匹配，并通过理论分析和实验验证了其在偏移严重性下的收敛性和鲁棒性。
2026-03-03 cs.LG math.ST stat.ML
Beyond the Training Distribution: Evaluating Predictions Under Distribution Shift and Selection Bias
Department of Statistics, University of California, Berkeley（加州大学伯克利分校统计学系）
针对协变量偏移和选择性标签共存时的模型评估问题，提出双机器学习程序估计目标风险，并通过eICU数据验证其准确性优于单独处理任一种偏差的方法。
2026-06-15 cs.LG stat.ME stat.ML
Wakeword Detection under Distribution Shifts
Alexa, Amazon（亚马逊Alexa）
我们提出了一种新的半监督学习（SSL）方法，旨在克服关键字定位（KWS）任务中出现的训练和真实世界数据之间的分布偏移。从训练数据分布的转变是现实世界的KWS任务的一个关键挑战：当一个新的模型部署在设备上时，接受的数据的门控经历了分布的转变，使得通过后续部署及时更新的问题变得困难。尽管有这种变化，我们假设标签上的边缘分布不会改变。我们利用修改后的教师/学生训练框架，标记的训练数据与未标记的数据增强。请注意，教师也不能访问新的分发版。为了有效地使用人类和教师标记数据的混合进行训练，我们开发了一种基于置信度统计的教师标记策略，以减少教师模型中标签分布的熵;然后对数据进行采样以匹配标签上的边缘分布。大规模实验结果表明，在远场音频上训练的卷积神经网络（CNN），并在从不同分布提取的远场音频上进行评估，在相等的错误拒绝率（FRR）下，错误发现率（FDR）获得了14.3%的相对改善，而在没有分布偏移的情况下，FDR获得了5%的改善。在更严重的分布偏移从远场到近场音频与一个较小的全连接网络（FCN），我们的方法实现了52%的相对改善，在FDR在相同的FRR，而产生一个20%的相对改善，在FDR的原始分布。
2022-07-13 cs.AI cs.LG cs.SD
Conformal Prediction under Levy-Prokhorov Distribution Shifts: Robustness to Local and Global Perturbations
Department of Electrical Engineering and Computer Sciences, UC Berkeley, USA（加州大学伯克利分校电子工程与计算机科学系）；Laboratory for Information and Decision Systems, MIT, USA（麻省理工学院信息与决策系统实验室）
针对共形预测在分布偏移下鲁棒性不足的问题，提出基于Lévy-Prokhorov模糊集建模分布偏移的方法，通过得分函数传播将高维偏移降为一维以量化最坏情况，构建鲁棒预测区间，实验验证了有效性。
2025-05-19 cs.LG math.ST stat.ME
Learning under random distributional shifts
Harvard Business School（哈佛商学院）；Stanford University（斯坦福大学）
本文研究随机分布偏移下的预测问题，提出结合长期结果与短期代理结果的混合方法，证明其鲁棒性，并在庇护分配和早教数据上取得显著更低的均方误差。
2023-10-30 cs.LG stat.AP stat.ME
Augmented Inverse Hybrid Weighting: Robust Inference under Deterministic and Random Distribution Shifts
该研究针对分布偏移问题，提出AIHW方法，通过分离系统偏移与残余随机扰动并权衡两类不确定性，在多站点数据集上验证其可降低均方误差、提升覆盖范围，具有良好鲁棒性。
2026-08-04 cs.LG math.ST stat.ME
Importance Weight Estimation and Generalization in Domain Adaptation under Label Shift
Purdue University（普渡大学）
本文研究范畴和一般赋范标号空间在标号移位下的推广。我们提出了一系列的方法来估计从标记源到未标记目标域的重要性权重，并提供这些估计的置信界。我们部署这些估计器，并提供在未标记的目标域的泛化范围。
2021-06-05 cs.LG
