Bayesian Uncertainty Matching for Unsupervised Domain Adaptation
Qiushi Academy for Advanced Studies, Zhejiang University（浙江大学求是高等研究院）；College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；State University of New York at Buffalo（纽约州立大学布法罗分校）；Zhejiang University School of Medicine（浙江大学医学院）
领域自适应是一种重要的技术，用于减轻由领域移位引起的性能下降，当训练和测试数据来自不同的域时。由于目标域标签的不可用，大多数现有的深度自适应方法都集中在通过对输入特征进行深度变换来匹配边缘特征分布来减少域偏移。我们表明，域移位可能仍然存在通过标签分布偏移在分类器，从而恶化模型的性能。为了缓解这个问题，我们提出了一个近似的联合分布匹配方案，利用预测的不确定性。具体来说，我们使用贝叶斯神经网络来量化分类器的预测不确定性。通过对特征和标签（通过不确定性）进行分布匹配，有效地缓解了源数据和目标数据中的标签分布不匹配，鼓励分类器跨域产生一致的预测。我们还提出了一些技术来改进我们的方法，通过自适应重新加权领域自适应损失，以实现非平凡的分布匹配和稳定的训练。在三个流行的基准数据集上与最先进的无监督领域自适应方法的比较表明了我们的方法的优越性，特别是在减轻负迁移的有效性。
2019-06-24 cs.CV cs.LG stat.ML
Fashion CUT: Unsupervised domain adaptation for visual pattern classification in clothes using synthetic data and pseudo-labels
Zalando SE（扎兰多股份公司）；Insight Centre for Data Analytics（洞察数据分析中心）；Dublin City University（都柏林城市大学）
针对服装图像分类中合成数据与真实数据间的域偏移，提出结合生成网络与分类器联合训练，并利用真实伪标签减少偏差，实现无需真实标注的视觉图案分类，性能优于现有无监督域适应方法。
2023-05-09 cs.CV cs.LG
FashionBERT: Text and Image Matching with Adaptive Loss for Cross-modal Retrieval
Alibaba Group（阿里巴巴集团）
本文研究了服装行业跨模态检索中的文本和图像匹配问题。与一般领域的匹配不同，服装匹配需要更多地关注服装图像和文本中的细粒度信息。先锋方法检测感兴趣的区域（即，RoI），并使用RoI嵌入作为图像表示。一般来说，ROI倾向于在时尚图像中表示“对象级”信息，而时尚文本倾向于描述更详细的信息，例如样式，属性。因此，ROI对于时尚文本和图像匹配来说不够细粒度。为此，我们提出了FashionBERT，它利用补丁作为图像特征。以预先训练好的BERT模型作为骨干网络，Fashion BERT学习文本和图像的高级表示。同时，我们提出了一个自适应的损失，权衡多任务学习的FashionBERT建模。两个任务（即，文本和图像匹配以及跨模态检索）被合并以评估FashionBERT。在公共数据集上，实验表明FashionBERT在性能上比基线和最先进的方法有了显着的改进。在实践中，FashionBERT被应用在一个具体的跨模态检索应用中。我们提供了详细的匹配性能和推理效率分析。
2020-05-29 cs.CV cs.IR cs.LG
KMM-CP: Practical Conformal Prediction under Covariate Shift via Selective Kernel Mean Matching
Siebel School of Computing and Data Science, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校西贝尔计算与数据科学学院）
本文提出KMM-CP框架，通过核均值匹配修正协变量偏移，利用RKHS矩差异控制偏差方差，提升低支持重叠区域的稳定性，实验显示覆盖差距减少超50%。
2026-03-27 cs.AI cs.LG stat.AP
An evaluation of Deep Learning based stereo dense matching dataset shift from aerial images and a large scale stereo dataset
Univ Gustave Eiffel（古斯塔夫·埃菲尔大学）；ENSG（法国地理学校）；IGN（法国国家地理学会）；LASTIG（地理信息科学与技术实验室）
本文针对航空影像密集匹配中真值视差图难以获取的问题，提出利用LiDAR与图像直接生成大规模多样化数据集的方法，并通过评估11种深度学习方法研究数据集偏移影响，给出有限数据下的最佳训练策略。
2024-02-19 cs.CV
How Robust is Your Fairness? Evaluating and Sustaining Fairness under Unseen Distribution Shifts
University of Texas at Austin（德克萨斯大学奥斯汀分校）；Michigan State University（密歇根州立大学）
近年来，人们越来越关注深度学习的公平性。现有的公平性感知机器学习方法主要关注分布数据的公平性。然而，在实际应用中，训练数据和测试数据之间的分布偏移是常见的。在本文中，我们首先表明，现有的方法实现的公平性可以很容易地打破轻微的分布偏移。为了解决这个问题，我们提出了一种新的公平性学习方法，称为CUrvature匹配（CUrvature MAtching），它可以实现鲁棒的公平性推广到未知分布变化的未知域。具体来说，通过匹配两个群体的损失曲率分布，CNOAA强制模型在多数群体和少数群体上具有相似的泛化能力。我们在三个流行的公平数据集上评估我们的方法。与现有的方法相比，在不牺牲整体精度或分布内公平性的情况下，在不可见的分布偏移下，CRAMA实现了优异的公平性。
2022-07-04 cs.LG
Joint Concept Matching based Learning for Zero-Shot Recognition
North Carolina State University（北卡罗来纳州立大学）
零样本学习（Zero-shot learning，简称ZRL）旨在通过只对可见对象类进行训练来识别不可见对象类，它在机器学习中越来越受到人们的关注，并取得了一些成功。大多数现有的CPDL方法通常学习视觉特征空间和语义空间之间的投影映射，并且主要由于可见类和不可见类之间的大的域间隙而容易发生投影域偏移。在本文中，我们提出了一种新的归纳性的语义模型的基础上投影视觉和语义特征到一个共同的独特的潜在空间与类特定的知识，并重建视觉和语义特征，通过这样一个独特的共同空间，以缩小域转移的差距。我们表明，所有这些限制的潜在空间，类特定的知识，重建的功能及其组合增强了对投影域移位问题的鲁棒性，并提高了泛化能力，看不见的对象类。在四个基准数据集上的综合实验表明，我们提出的方法优于最先进的算法。
2019-07-03 cs.CV
PAI-BPR: Personalized Outfit Recommendation Scheme with Attribute-wise Interpretability
IIIT Delhi（印度德里信息技术学院）；NII Japan（日本国立信息学研究所）
时尚是人类经验的重要组成部分。面试、会议、婚礼等活动往往以服装风格为基础。时尚产业的兴起及其对社会影响的影响使得服装的兼容性成为一种需求。因此，需要一个服装兼容性模型来帮助人们推荐服装。然而，由于兼容性的高度主观性，有必要考虑个性化。我们的论文设计了一个属性明智的可解释的兼容性计划与个人偏好建模，捕捉用户项目的互动，以及一般的项目项目的互动。我们的工作解决了服装搭配的解释性问题，通过定位时尚项目之间的不协调和和谐的属性。在IQON 3000（一个公开的真实世界数据集）上的大量实验结果验证了该模型的有效性。
2020-08-04 cs.CV cs.IR cs.MM
SSORN: Self-Supervised Outlier Removal Network for Robust Homography Estimation
Harbin Institute of Technology（哈尔滨工业大学）
传统的单应性估计流程包括四个主要步骤：特征检测、特征匹配、离群点去除和变换估计。最近的深度学习模型打算使用单个卷积网络来解决单应性估计问题。虽然这些模型以端到端的方式进行训练以简化单应性估计问题，但它们缺乏特征匹配步骤和/或离群值去除步骤，这些步骤是传统单应性估计管道中的重要步骤。在本文中，我们尝试构建一个深度学习模型，该模型模仿传统单应性估计管道中的所有四个步骤。特别地，特征匹配步骤使用成本体积技术来实现。为了去除成本量中的离群值，我们将离群值去除问题视为去噪问题，并提出了一种新的自监督损失来解决这个问题。在合成数据集和真实数据集上的大量实验表明，该模型优于现有的深度学习模型。
2022-08-30 cs.CV
Keep it Simple: Image Statistics Matching for Domain Adaptation
Continental Teves AG（大陆泰密克股份公司）
应用对象检测器，它既没有经过训练，也没有在接近最终应用程序的数据上进行微调，通常会导致性能大幅下降。为了克服这个问题，有必要考虑源域和目标域之间的转换。应对这种转变被称为领域自适应（DA）。在这项工作中，我们专注于无监督DA：当目标域只有未标记的图像时，在不同的数据分布中保持检测精度。最近的最先进的方法试图使用对抗训练策略来减少域间隙，这增加了性能，但同时增加了训练过程的复杂性。相比之下，我们从一个新的角度来看待这个问题，并通过仅匹配源域和目标域之间的图像统计来保持简单。我们建议将源图像的颜色直方图或均值和协方差对齐到目标域。因此，DA是在没有架构插件和额外的超参数的情况下完成的。通过评估公共数据集上不同的域转移方案，证明了这种方法的好处。与最近的方法相比，我们使用更简单的训练过程实现了最先进的性能。此外，我们表明，应用我们的技术显着减少了学习一般模型所需的合成数据的量，从而增加了模拟的价值。
2020-05-26 cs.CV cs.LG cs.RO
DistMatch: Adaptive Binning via Distribution Matching for Robust Sequential Conformal Prediction
University of California, Berkeley（加州大学伯克利分校）；University of Tokyo（东京大学）
提出DistMatch方法，利用Kolmogorov-Smirnov统计量递归划分残差以实现近似可交换性，结合在线分位数回归进行局部自适应推理，提升序列共形预测对分布偏移的鲁棒性。
2026-05-30 cs.LG
Forecasting the Past: Gradient-Based Distribution Shift Detection in Trajectory Prediction
Mercedes-Benz AG（梅赛德斯-奔驰集团）
本文提出一种自监督方法，通过在事后训练解码器预测轨迹后半部分，利用梯度的L2范数检测分布偏移，提升轨迹预测在Shifts和Argoverse数据集上的性能，并用于早期检测深度Q网络运动规划器的碰撞。
2026-04-14 cs.LG
Diagnostic Runtime Monitoring with Martingales
Princeton University（普林斯顿大学）
本文提出一种基于多个随机鞅并行部署的流式分布偏移诊断框架，可识别偏移原因以支持系统生命周期内的适当干预，并在速度、准确性和灵活性上优于现有方法。
2024-07-31 cs.LG cs.RO
Variational Resampling Based Assessment of Deep Neural Networks under Distribution Shift
Ludwig Maximillian University of Munich（慕尼黑路德维希·马克西米利安大学）；U.S. Food and Drug Administration（美国食品药品监督管理局）；Technical University of Munich（慕尼黑工业大学）
提出了一种新的基于变分推理的递归框架，以评估深度学习模型对分布偏移的鲁棒性和泛化能力。我们使用自动编码变分贝叶斯来找到数据的潜在表示，在该表示上应用变分高斯混合模型，通过将数据集划分为不同的聚类来故意创建分布偏移。Wasserstein距离用于表征所生成的数据分割之间的分布偏移的程度。我们比较了几种流行的卷积神经网络（CNN）架构和贝叶斯CNN模型在Fashion-MNIST数据集上的图像分类，以评估它们在故意创建的分布偏移以及随机交叉验证下的鲁棒性和泛化行为。我们创建单个数据集的人工域分割的方法也可以用于建立机器学习中的新模型选择标准和评估工具，以及领域自适应和领域泛化方法的基准方法。
2019-10-27 cs.LG stat.ML
Adaptive Conformal Inference Under Distribution Shift
Stanford University（斯坦福大学）
我们开发的方法，形成预测集的在线设置中的数据生成分布允许随时间变化，在一个未知的方式。我们的框架建立在共形推理的思想基础上，提供了一个通用的包装器，可以与任何黑盒方法相结合，产生看不见的标签或其分布的估计分位数的点预测。虽然以前的共形推理方法依赖于数据点是可交换的假设，但我们的自适应方法可证明在长时间间隔内实现了所需的覆盖频率，而与真实的数据生成过程无关。我们通过将分布偏移建模为单个参数的学习问题来实现这一点，该参数的最佳值随时间变化，并且必须不断重新估计。我们在两个真实世界的数据集上测试了我们的方法，自适应共形推理，发现它的预测对可见的和显著的分布变化是鲁棒的。
2021-10-28 cs.LG stat.ME stat.ML
Entropic Projection Alignment: Estimating, Explaining, and Improving Model Performance Under Distribution Shift
J.P. Morgan AI Research（摩根大通AI研究所）
提出熵投影对齐（EPA）方法，通过匹配选定矩并最小化KL散度来对齐源分布与目标分布，从而统一解决分布偏移下的性能估计、解释和改进问题。
2026-05-29 cs.AI cs.LG stat.ML
Generalization vs. Specialization under Concept Shift
Princeton University（普林斯顿大学）；CUNY Graduate Center（纽约大学研究生中心）；University of Sydney（悉尼大学）
本文在热力学极限下推导了概念漂移下岭回归预测风险的精确表达式，揭示了弱/强概念漂移相变与非单调数据依赖，并通过Transformer、MNIST和FashionMNIST实验验证了理论发现。
2025-07-03 cond-mat.dis-nn cond-mat.stat-mech cs.LG
MDiFF: Exploiting Multimodal Score-based Diffusion Models for New Fashion Product Performance Forecasting
University of Verona（维罗纳大学）
本文提出 MDiFF，一种结合基于分数的扩散模型与轻量级 MLP 的两步多模态方法，用于预测无历史数据的全新时尚产品销量，并达到当前最先进的准确性与效率。
2024-12-07 cs.CV cs.LG
Dif4FF: Leveraging Multimodal Diffusion Models and Graph Neural Networks for Accurate New Fashion Product Performance Forecasting
University of Verona（维罗纳大学）；QUALYCO S.r.l.（QUALYCO有限责任公司）
针对快时尚新品无历史数据、确定性预测模型易受域偏移影响的问题，本文提出结合多模态扩散模型与图卷积网络的两阶段预测框架Dif4FF，在标准数据集VISUELLE上取得了新品销量预测的最优效果。
2024-12-07 cs.CV cs.LG
Exchangeable deep neural networks for set-to-set matching and learning
ZOZO Research（ZOZO研究院）；The Graduate University for Advanced Studies, SOKENDAI（综合研究大学院大学）；Wakayama University（和歌山大学）；The Institute of Statistical Mathematics（统计数学研究所）
匹配两个不同的项目集，称为异构集到集匹配问题，最近受到关注的一个很有前途的问题。困难在于提取特征以匹配正确的一对不同的集合，并且还保留集合到集合匹配所需的两种类型的交换：集合对以及每个集合中的项目应该是可交换的。在这项研究中，我们提出了一种新的深度学习架构来解决上述困难，也是一个有效的集到集匹配的训练框架。我们评估的方法，通过实验的基础上两个工业应用：时尚集推荐和组重新识别。在这些实验中，我们表明，所提出的方法提供了显着的改进和结果相比，国家的最先进的方法，从而验证了我们的架构的异构集匹配问题。
2021-01-28 cs.CV cs.LG stat.ML
From Optimization to Generalization: Fair Federated Learning against Quality Shift via Inter-Client Sharpness Matching
School of Electronic Information and Communications, Huazhong University of Science and Technology（华中科技大学电子信息与通信学院）
本研究针对联邦学习中成像质量偏移导致的公平性问题，提出客户端间锐度匹配（FedISM）方法，通过锐度感知协调客户端泛化，实验证明其优于现有方法。
2024-12-18 cs.CV cs.LG
Analysis of Kernel Mean Matching under Covariate Shift
University of Alberta（阿尔伯塔大学）
在实际的监督学习场景中，训练样本和测试样本遵循不同的概率分布并不罕见，因此有必要校正采样偏差。针对一个特殊的协变量偏移问题，我们得到了核均值匹配（KMM）估计的高概率置信界，其收敛速度依赖于回归函数的一些正则性度量，也依赖于核的一些容量度量。通过比较KMM和自然插入估计，我们建立了前者的优越性，从而提供了具体的证据/理解下的协变量偏移的KMM的有效性。
2012-06-18 cs.LG stat.ML
Attribute-aware Explainable Complementary Clothing Recommendation
The University of Queensland（昆士兰大学）
现代电子商务推荐系统对时尚商品之间的混搭关系建模的要求越来越高，但也越来越具有挑战性。在进行服装匹配时，大多数现有的方法利用从时尚物品图像中提取的潜在视觉特征进行兼容性建模，这缺乏对所生成的匹配结果的可解释性，并且难以说服用户推荐。尽管最近的方法开始结合预定义的属性信息（例如，颜色、款式、长度等）对于学习项目表示和改进模型可解释性，它们对属性信息的利用仍然主要保留用于增强所学习的项目表示和经由后处理生成解释。因此，当我们试图提高推荐准确性并生成细粒度的解释时，这会产生严重的瓶颈，因为显式属性与实际推荐过程只有松散的联系。本文提出了一种新颖的属性感知的时尚推荐器（AFRec），旨在解决时尚推荐任务中的可解释性挑战。具体而言，AFRec推荐器通过明确利用从每个项目的视觉特征中提取的属性级表示来评估服装兼容性。属性作为两个时尚物品之间的桥梁，我们通过学习它们属性之间的兼容性来量化一对物品的亲和力。大量的实验表明，通过充分利用推荐过程中的显式属性，AFRec能够实现最先进的推荐准确率，同时生成直观的解释。
2021-07-04 cs.IR cs.LG
Class Probability Matching Using Kernel Methods for Label Shift Adaptation
University of Twente（特温特大学）
针对标签偏移自适应现有方法仍用特征概率匹配的问题，提出类别概率匹配框架，结合核逻辑回归推出CPMKM算法，推导了其最优收敛速率，实验证明其性能优于现有相关算法。
2023-12-12 cs.LG stat.ML
FACap: A Large-scale Fashion Dataset for Fine-grained Composed Image Retrieval
Inria, \'Ecole normale sup\'erieure, CNRS, PSL Research University；Courant Institute of Mathematical Sciences；Center for Data Science, New York University
本文提出大规模自动构建的时尚领域组合图像检索数据集FACap，并基于BLIP-2提出结合轻量级适配器和多头匹配的FashionBLIP-2模型，显著提升了细粒度时尚图像检索性能。
2025-07-08 cs.LG
Semi-supervised Compatibility Learning Across Categories for Clothing Matching
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Jiaozhou Artificial Intelligence Research, Chinese Academy of Sciences（中国科学院胶州人工智能研究院）
服装分析中的一个关键任务是研究服装产品的跨品类匹配性，它可以破解服装搭配的秘密。此任务的主要思想是将项映射到一个潜在的样式空间中，在该空间中兼容项保持接近。以前的作品试图通过最小化注释兼容项之间的距离来构建这样的转换，这需要大量的项级监督。然而，这些带注释的数据的获取成本很高，并且难以覆盖实际应用中具有各种样式的众多项目。在这种情况下，这些监督的方法无法实现令人满意的性能。在这项工作中，我们提出了一个半监督的方法来学习跨类别的兼容性。我们观察到，不同类别的分布具有内在的相似结构。因此，分布对齐得越好，这些类别之间的兼容项就越接近。为了实现对齐，我们使用无监督对抗学习来最小化分布之间的距离，以及一些注释的兼容项之间的距离，这些注释的兼容项起到锚点的作用以帮助对齐。在两个真实数据集上的实验结果证明了该方法的有效性。
2019-07-31 cs.IR cs.LG
Optimal Transport for Conditional Domain Matching and Label Shift
Criteo AI Lab（Criteo人工智能实验室）；Ecole Polytechnique（巴黎综合理工学院）；INSA de Rouen Normandie（鲁昂国立应用科学学院）；Université Technologique de Compiègne（贡比涅技术大学）；Université de Rouen Normandie（鲁昂诺曼底大学）；Université de Bretagne Sud（南布列塔尼大学）
我们解决了无监督的领域自适应的问题下设置的广义目标移位（联合类条件和标签偏移）。对于这个框架，我们从理论上表明，良好的推广，有必要学习一个潜在的表示，其中边缘和类条件分布跨域对齐。为此，我们提出了一个学习问题，最大限度地减少在源域的重要性加权损失和加权边缘之间的Wasserstein距离。对于一个适当的权重，我们提供了一个估计的目标标签的比例混合估计和最佳匹配的最佳运输。这种估计在温和的假设下具有正确性的理论保证。我们的实验结果表明，我们的方法在范围领域自适应问题，包括\emph{digits}，\emph{VisDA}和\emph{Office}的平均表现优于竞争对手。本文的代码可在\url{https://github.com/arakotom/mars_domain_adaptation}上找到。
2021-10-19 cs.LG stat.ML
Integrating Domain Knowledge into Large Language Models for Enhanced Fashion Recommendations
Santa Clara University（圣克拉拉大学）
针对传统时尚推荐方法在分布偏移下失效的问题，提出集成领域知识的时尚大语言模型FLLM，结合自动提示训练与推理阶段检索增强，在准确率、可解释性和少样本能力上优于现有模型。
2025-01-03 cs.AI cs.CL cs.IR
Label Shift Quantification with Robustness Guarantees via Distribution Feature Matching
Université Paris-Saclay（巴黎萨克雷大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；Sorbonne Université（索邦大学）；Université Paris Cité（巴黎西岱大学）
本文提出统一框架分布特征匹配（DFM）处理标签偏移下的量化学习，推导了改进的性能界限，分析了目标被污染等误设环境下的鲁棒性，并利用随机傅里叶特征原理引入了高效可扩展的核DFM版本。
2023-07-02 cs.AI cs.LG stat.ML
Matching a Desired Causal State via Shift Interventions
MIT（麻省理工学院）
将因果系统从给定的初始状态转换到期望的目标状态是一项重要的任务，渗透到包括控制理论，生物学和材料科学在内的多个领域。在因果模型中，这种转换可以通过执行一系列干预来实现。在本文中，我们考虑的问题，通过主动学习识别一个偏移干预，匹配系统的期望均值。我们定义的马尔可夫等价类，是可识别的移位干预，并提出了两个积极的学习策略，保证完全匹配所需的平均值。然后，我们推导出一个最坏情况下的下限所需的干预措施的数量，并表明这些策略是最佳的某些类的图。特别是，我们表明，我们的策略可能需要比以前考虑的方法，优化结构学习的基础因果图指数更少的干预。与我们的理论结果一致，我们还通过实验证明，与几个基线相比，我们提出的主动学习策略需要更少的干预。
2021-10-20 cs.LG stat.ME stat.ML
Efficient Principal Subspace Projection of Streaming Data Through Fast Similarity Matching
Flatiron Institute（弗莱提伦研究所）；NYU Langone Medical Center（纽约大学朗格尼医学中心）
大数据问题通常需要以流方式处理数据集，因为所有数据都可以同时使用，但总体上大于可用内存，或者因为数据本质上一次到达一个数据点，必须在线处理。在这里，我们介绍了一个计算效率高的版本的相似性匹配，在线降维的框架，增量估计流数据的顶部K维主子空间，同时在内存中只保留最后一个样本和当前样本。为了评估我们的方法的性能，我们构建并公开了一个测试套件，其中包含一个合成数据生成器和基础设施，用于在真实数据集上测试在线降维算法，以及我们的算法和具有类似目标的竞争算法的性能实现。在考虑的算法中，我们发现我们的方法是有竞争力的，在合成和真实数据上都是最好的。
2018-08-06 cs.LG stat.CO
Protected Test-Time Adaptation via Online Entropy Matching: A Betting Approach
Technion IIT（以色列理工学院）
针对测试时分布偏移问题，提出结合投注鞅检测与在线熵匹配的自训练适应框架，并基于最优传输构建自监督损失，提升偏移场景下准确率且保持无偏移时的校准性能。
2025-01-05 cs.LG stat.ML
DisRFM: Polar Riemannian Flow Matching for Structure-Preserving Graph Domain Adaptation
The Chinese University of Hong Kong（香港中文大学）；National University of Defense Technology（国防科学技术大学）；Hebei University of Technology（河北工业大学）；City University of Hong Kong（香港城市大学）
本文提出DisRFM框架，通过黎曼流匹配解决图域适应中的结构退化和优化不稳定问题，利用极坐标表示和几何感知学习提升跨域分类性能。
2026-05-07 cs.LG
Domain Adaptation with Conditional Distribution Matching and Generalized Label Shift
Microsoft Research Montreal（微软研究院蒙特利尔）；D. E. Shaw & Co.（D. E. Shaw公司）；UC Santa Barbara（加州大学圣巴巴拉分校）
对抗学习通过学习领域不变表示，在无监督的领域自适应设置中表现出良好的性能。然而，最近的工作表明，这种方法的局限性时，标签分布不同的源和目标域之间。在本文中，我们提出了一个新的假设，广义标签偏移（$GLS$），以提高对不匹配的标签分布的鲁棒性。$GLS$指出，以标签为条件，存在源域和目标域之间不变的输入表示。在$GLS$下，我们对任何分类器的传递性能提供理论保证。我们还设计了必要和充分条件$GLS$举行，通过使用域之间的相对类权重的估计和适当的重新加权的样本。我们的权重估计方法可以直接和一般地应用于现有的领域自适应（DA）算法，学习域不变的表示，与小的计算开销。特别是，我们修改三个DA算法，JAN，DANN和CDAN，并评估其性能标准和人工DA任务。我们的算法优于基础版本，对于大的标签分布不匹配有很大的改进。我们的代码可在https://tinyurl.com/y585xt6j上获得。
2020-12-11 cs.AI cs.LG stat.ML
Distribution Matching for Graph Quantification Under Structural Covariate Shift
LMU Munich（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；German Centre for Artificial Intelligence（德国人工智能研究中心）
本文提出了一种基于分布匹配的图量化方法，以应对结构性协变量偏移，改进了KDEy量化方法并优于传统方法。
2025-12-30 cs.LG stat.ML
Learning Linear Symmetries in Data Using Moment Matching
在机器学习和统计学中，通常使用来自专家知识的对称性来简化问题或提高性能，使用数据增强或惩罚等方法。在本文中，我们考虑的无监督和半监督的问题，学习这种对称分布直接从数据中的模型自由的方式。我们表明，在最坏的情况下，这个问题是困难的图自同构问题。然而，如果我们仅限于协方差矩阵具有唯一特征值的情况，则特征向量也将是对称变换的特征向量。如果我们进一步限制于寻找正交对称，那么特征值将是1或-1，问题简化为确定哪些特征向量是哪些。我们从理论上和经验上发展和比较了不同方法的有效性，选择哪些特征向量应具有特征值-1的对称变换，并讨论如何将这种方法扩展到非正交的情况下，我们有标签
2022-04-04 cs.LG math.GR stat.ML
Decentralized and Uncoordinated Learning of Stable Matchings: A Game-Theoretic Approach
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
该研究提出稳定匹配学习的博弈论框架，证明纯纳什均衡等价于稳定匹配，提出两种去中心化无协调学习算法并分析其收敛性，搭建了离散匹配学习与连续博弈均衡学习的桥梁。
2024-08-15 cs.GT cs.LG cs.MA
Adversarial Detection and Correction by Matching Prediction Distributions
Seldon Technologies Ltd（塞尔登科技有限公司）
提出了一种新的机器学习分类器的对抗性检测和校正方法，该检测器由一个自动编码器组成，该编码器使用基于原始和重建实例上分类器预测之间的Kullback-Leibler偏差的自定义损失函数进行训练，该方法是无监督的，易于训练，并且不需要任何关于潜在攻击的知识.该检测器几乎完全中和了MNIST和Fashion-MNIST上的Carlini-Wagner或SLIDE等强大攻击，并且当攻击被授予完全访问分类模型而不是防御时，对CIFAR-10仍然非常有效。我们表明，我们的方法仍然能够检测对抗性的例子，在白盒攻击的情况下，攻击者有充分的知识的模型和防御，并调查攻击的鲁棒性。该方法是非常灵活的，也可以用来检测常见的数据损坏和扰动的负面影响模型的性能。我们在CIFAR-10-C数据集上说明了这种能力。
2020-02-21 cs.LG stat.ML
Combating Distribution Shift for Accurate Time Series Forecasting via Hypernetworks
Nanchang University（南昌大学）；ETH Zurich（苏黎世联邦理工学院）；The Hong Kong Polytechnic University（香港理工大学）
时间序列预测在城市生活中有着广泛的应用，从空气质量监测到交通分析。然而，准确的时间序列预测是具有挑战性的，因为现实世界的时间序列遭受的分布偏移的问题，其中它们的统计特性随时间而变化。尽管广泛的解决方案，分布偏移领域自适应或推广，他们无法有效地在未知的，不断变化的分布偏移，这是常见的时间序列。在本文中，我们提出了超时间序列预测（HTSF），一个基于超网络的准确预测框架下的分布偏移的时间序列。HTSF以端到端的方式联合学习时变分布和相应的预测模型。具体而言，HTSF利用超层来学习分布偏移的最佳表征，生成主层的模型参数以进行准确的预测。我们将HTSF实现为一个可扩展的框架，可以合并不同的时间序列预测模型，如RNN和Transformers。在9个基准上的大量实验表明，HTSF达到了最先进的性能。
2022-07-14 cs.AI cs.LG
Warping and Matching Subsequences Between Time Series
Dept. of Computer Science, KU Leuven（卢森堡鲁文大学计算机科学系）
针对时间序列比较中缺乏定性结构分析的问题，本文提出一种简化扭曲路径的技术，以突出并可视化子序列间的偏移、压缩和振幅差异等关键变换，从而增强比较的可解释性。
2025-06-18 cs.AI cs.LG stat.ML
Strictly Batch Imitation Learning by Energy-based Distribution Matching
University of Cambridge（剑桥大学）；University of Oxford（牛津大学）；The Alan Turing Institute（艾伦·图灵研究所）；University of California, Los Angeles（加州大学洛杉矶分校）
考虑纯粹基于表现出的行为来学习策略，也就是说，没有强化信号，没有过渡动态知识，也没有与环境的进一步互动。这种“严格批量模仿学习”的问题出现在现场实验成本高昂的地方，比如医疗保健领域。一种解决方案是简单地改造现有的算法，使其在离线环境中工作。但这种方法严重依赖于政策外评估或离线模型估计，并且可能是间接和低效的。我们认为，一个好的解决方案应该能够明确参数化的政策（即尊重行动条件），隐式地学习推出动态（即利用状态边际），并-至关重要的-在一个完全离线的方式操作。为了解决这一挑战，我们提出了一种新的技术 * 基于能量的分布匹配 *（EDM）：通过识别参数化的（判别）模型的政策与（生成）的能量函数的状态分布，EDM产生一个简单而有效的解决方案，等效地最大限度地减少了占用测量的演示者和模型的模仿者之间的分歧。通过应用于控制和医疗保健设置的实验，我们说明了严格批量模仿学习的现有算法的一致性能增益。
2021-01-14 cs.LG stat.ML
The Matching Principle: When Does a Training Penalty Cover Deployment Shift?
KU Leuven（根特大学）
提出匹配原则，通过估计任务协方差矩阵并匹配惩罚矩阵的像空间，统一了多种鲁棒性方法，并在线性高斯模型中证明最优性。
2026-08-12 cs.AI cs.LG stat.ML
On the Generalization in Topology Optimization via Sensitivity-Conditioned Bernoulli Flow Matching
University of California, San Diego（加州大学圣地亚哥分校）；Max Planck Institute for Informatics（马克斯·普朗克信息研究所）
通过信息论分析，提出伪敏感性概念，并利用敏感性条件伯努利流匹配生成器在拓扑优化中实现最优的分布外泛化性能。
2026-06-01 cs.AI cs.CE cs.LG
