CrossFit: A Few-shot Learning Challenge for Cross-task Generalization in NLP
University of Southern California(南加州大学)
人类可以通过利用他们在学习先前任务时获得的知识,仅用很少的例子就有效地学习新的语言任务。在本文中,我们将探讨这种跨任务泛化能力是否以及如何获得,并进一步应用于构建跨不同NLP任务的更好的Few-Shot学习器。我们介绍CrossFit,一个研究跨任务泛化能力的问题设置,它描述了可见/不可见的任务分区,不同学习阶段的数据访问和评估协议。为了在CrossFit中实例化不同的可见/不可见任务分区并促进深入分析,我们提出了NLP Few-Shot Gym,这是一个包含160个不同的Few-Shot NLP任务的存储库,这些任务是从开放访问的NLP数据集创建的,并转换为统一的文本到文本格式。我们的分析表明,少样本学习能力上看不见的任务,可以提高通过上游学习阶段使用一组看到的任务。我们还观察到,上游学习任务的选择可以显着影响Few-Shot性能看不见的任务,要求进一步分析任务相似性和可转移性。
2021-09-30 cs.CL cs.LG
Retrieval-Based Cross-Domain Generalization in Optical Networks via Global Features
SUPSI(瑞士南部应用科学大学)
该研究提出一种基于检索的跨域QoT估计框架,利用可迁移特征表示实现零样本与少样本适应,无需重训模型,在跨域QoT数据集上的泛化性能优于传统基线及对比学习方法,为光网络自动化提供了新途径。
2026-08-04 cs.CV cs.IR cs.LG
FedAlign: Federated Domain Generalization with Cross-Client Feature Alignment
Indian Institute of Technology Bombay(印度理工学院孟买分校)
针对联邦学习中的域泛化挑战,提出FedAlign框架,通过跨客户端特征扩展与双阶段对齐模块增加特征多样性并促进域不变性,在保护隐私且低开销下提升对未见域的泛化能力。
2025-01-26 cs.AI cs.CV cs.DC
Cross-Modal Generalization: Learning in Low Resource Modalities via Meta-Alignment
Carnegie Mellon University(卡内基梅隆大学);University of Tokyo(东京大学)
自然界中有大量通过视觉、听觉、触觉和语言形式表达的概念。然而,多模式学习方面的现有进展主要集中在训练和考试时存在同一套模式的问题上,这使得在低资源模式下的学习特别困难。在这项工作中,我们提出了跨模态泛化的算法:一种学习范式,用于训练模型,该模型可以(1)在目标模态(即元学习)中快速执行新任务,以及(2)在不同的源模态上进行训练。我们研究一个关键的研究问题:我们如何才能确保泛化跨模态,尽管使用不同的源和目标模态单独的编码器?我们的解决方案基于元对齐,这是一种使用强和弱配对的跨模态数据对齐表示空间的新方法,同时确保快速泛化到不同模态的新任务。我们在3个分类任务上研究这个问题:文本到图像,图像到音频和文本到语音。我们的研究结果表明,即使新的目标模态只有几个(1-10)标记的样本,并在嘈杂的标签的存在下,在低资源的方式特别普遍的情况下,强大的性能。
2020-12-04 cs.AI cs.CL cs.CV
Cross-Domain Generalization of Multimodal LLMs for Global Photovoltaic Assessment
School of Electrical, Computer and Energy Engineering(电气、计算机与能源工程学院);Arizona State University(亚利桑那州立大学)
本研究提出利用多模态大语言模型实现跨领域泛化,用于全球光伏评估,通过结构化提示和微调在统一框架内整合检测、定位和量化,优于传统CV和Transformer基线。
2025-11-24 cs.AI cs.CV cs.LG
Boundless Across Domains: A New Paradigm of Adaptive Feature and Cross-Attention for Domain Generalization in Medical Image Segmentation
本文针对医学图像分割的领域泛化问题,提出基于跨通道注意力的领域不变表示约束和自适应特征混合方法,以生成分布外样本扩展领域范围,并在两个标准基准上验证了其优越性能。
2024-11-22 cs.AI cs.CV cs.LG
Paying Less Generalization Tax: A Cross-Domain Generalization Study of RL Training for LLM Agents
Meta Superintelligence Labs(Meta超智能实验室);FAIR at Meta(Meta的FAIR);Northwestern University(西北大学);The Ohio State University(俄亥俄州立大学);University of Pennsylvania(宾夕法尼亚大学)
本研究探讨了RL训练对LLM代理跨域泛化能力的影响,发现增加状态信息丰富度可提升泛化性能,同时指出建模选择对泛化能力的关键作用。
2026-01-26 cs.AI cs.LG
Cross-Corpora Spoken Language Identification with Domain Diversification and Generalization
Indian Institute of Technology Kharagpur(印度理工学院克勒格布尔分校);Université de Lorraine(洛林大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);LORIA(洛林信息学及其应用实验室)
这项工作解决了低资源口语识别(LID)问题的跨语料库泛化问题。我们已经进行了实验的背景下,印度LID和确定显着差的跨语料库泛化,由于语料库依赖的非语言偏见。我们对这项工作的贡献是双重的。首先,我们提出了域多样化,它使用不同的音频数据增强方法来多样化有限的训练数据。然后,我们提出了最大多样性感知级联增强的概念,并优化了增强倍数因子,以有效地多样化的训练数据。其次,我们引入了域泛化的思想,将增广方法视为伪域。为此,我们研究域不变和域感知的方法。我们的LID系统是基于国家的最先进的强调信道的注意力,传播和聚合的时间延迟神经网络(ECAPA-TDNN)架构。我们已经进行了广泛的实验,三个广泛使用的语料库印度LID研究。此外,我们进行了最后的盲评价,我们提出的方法上的VoxLingua 107语料库在野外收集的印度子集。我们的实验表明,所提出的域多样化是更有前途的常用的简单的增强方法。研究还表明,领域泛化是一个更有效的解决方案比领域多样化。我们还注意到,领域感知学习对同一语料库LID的性能更好,而领域不变学习更适合跨语料库泛化。与基本的ECAPA-TDNN相比,其提出的领域不变扩展将跨语料EER提高了5.23%。相比之下,所提出的领域感知扩展也提高了相同语料库测试场景的性能。
2023-02-10 cs.CL cs.LG cs.SD
On the limits of cross-domain generalization in automated X-ray prediction
Mila(米拉研究所);Université de Montréal(蒙特利尔大学)
这项大规模研究的重点是量化X射线诊断预测任务在多个不同数据集上的推广。我们提出的证据表明,泛化的问题不是由于图像的变化,而是标签的变化。我们研究了跨域性能,模型之间的协议,和模型表示。我们发现有趣的性能和协议之间的差异,既实现了良好的性能模型不同意在他们的预测,以及模型,同意但实现较差的性能。我们还通过规则化网络将多个数据集上的任务分组在一起并观察任务之间的变化来测试概念相似性。所有代码都可以在线获得,数据也可以公开获得:https://github.com/mlmed/torchxrayvision
2020-05-24 cs.LG eess.IV q-bio.QM
Toward cross-subject and cross-session generalization in EEG-based emotion recognition: Systematic review, taxonomy, and methods
University of Naples Federico II(那不勒斯费德里科二世大学);Polytechnic University of Turin(都灵理工大学)
该综述针对EEG情绪识别的跨被试、跨会话泛化问题,检索筛选75篇相关文献,提出ML方法分类体系,证实迁移学习效果更优,并探讨情绪模型与心理筛查的影响。
2024-08-19 cs.LG
Contrastive Domain Generalization for Cross-Instrument Molecular Identification in Mass Spectrometry
School of Electrical Engineering, Korea University, Seoul 02841, Korea(韩国大学电气工程学院)
本文提出一种跨模态对齐框架,通过将质谱直接映射到预训练化学语言模型的分子结构嵌入空间,提升跨仪器分子识别的泛化能力。
2026-01-31 cs.AI cs.LG
Temporal Domain Generalization with Drift-Aware Dynamic Neural Networks
Emory University(埃默里大学)
时间领域泛化是一个有前途但极具挑战性的领域,其目标是在时间变化的数据分布下学习模型,并根据变化的趋势泛化到不可见的数据分布。该领域的进展面临以下挑战:1)表征数据分布漂移及其对模型的影响,2)跟踪模型动态的表达能力,以及3)性能的理论保证。为了解决这些问题,我们提出了一个时间领域泛化与漂移感知动态神经网络(DRAIN)框架。具体来说,我们制定的问题到贝叶斯框架,共同模型之间的关系数据和模型动态。然后,我们建立了一个循环图生成场景来描述在不同时间点学习的动态图结构神经网络。它捕获模型参数和数据分布的时间漂移,并可以在不存在未来数据的情况下预测未来的模型。此外,我们探讨了具有挑战性的时间DG设置下的模型性能的理论保证,并提供理论分析,包括不确定性和泛化误差。最后,在几个具有时间漂移的真实基准测试上的实验证明了该方法的有效性和效率。
2023-02-09 cs.LG
Prompt Agnostic Essay Scorer: A Domain Generalization Approach to Cross-prompt Automated Essay Scoring
Nanjing University(南京大学)
交叉提示自动作文评分(AES)要求系统使用非目标提示作文来为目标提示作文打分。由于获得大量的预评分的文章,以一个特定的提示往往是困难和不现实的,跨提示AES的任务是至关重要的现实世界的AES系统的发展,但它仍然是一个未开发的研究领域。为特定目标AES设计的模型严重依赖于特定目标知识,并且在交叉提示设置中表现不佳,而当前交叉提示AES的方法要么需要一定量的标记目标提示文章,要么需要大量的未标记目标提示文章以多步方式执行迁移学习。为了解决这些问题,我们引入提示不可知论评分(PAES)交叉提示AES。我们的方法在训练过程中不需要访问标记或未标记的目标提示数据,并且是一种单阶段方法。PAES易于在实践中应用,并在自动学生评估奖(ASAP)数据集上实现了最先进的性能。
2020-08-04 cs.AI cs.CL cs.LG
Improving Cross-Corpus Speech Emotion Recognition with Adversarial Discriminative Domain Generalization (ADDoG)
自动语音情感识别为计算机提供了关键的上下文,使用户能够理解。虽然在同一数据集内训练和测试的方法已被证明是成功的,但当应用于看不见的数据集时,它们往往会失败。为了解决这个问题,最近的工作集中在对抗性方法上,以找到情感语音的更一般化的表示。然而,这些方法中的许多都存在收敛问题,并且只涉及在实验室条件下收集的数据集。在本文中,我们引入了对抗性判别领域泛化(ADDoG),它遵循一种更容易训练的“中间相遇”方法。该模型迭代地移动为每个数据集学习的表示,使其彼此更接近,从而提高了跨数据集的泛化能力。我们还引入了多类ADDoG或MADDoG,它能够同时将所提出的方法扩展到两个以上的数据集。我们的结果表明,所介绍的方法具有一致的收敛性,当不使用目标数据集的标签时,结果得到了显着改善。我们还展示了在大多数情况下,当添加目标数据集标签并考虑野外数据时,ADDoG和MADDoG如何用于改进基线最先进的方法。尽管我们的实验集中在跨语料库的语音情感,这些方法可以用来消除不必要的因素,在其他设置的变化。
2019-11-03 cs.LG cs.SD eess.AS
MIDG: Mixture of Invariant Experts with knowledge injection for Domain Generalization in Multimodal Sentiment Analysis
School of Electronics and Information Technology(电子信息学院)
MIDG通过混合不变专家和跨模态适配器,提升多模态情感分析中领域泛化的性能与语义表达能力。
2025-12-08 cs.AI cs.LG
Graph-Based Adversarial Domain Generalization with Anatomical Correlation Knowledge for Cross-User Human Activity Recognition
The University of Auckland(奥克兰大学)
本文提出 GNN-ADG 方法,通过图神经网络建模传感器解剖关联并引入对抗域泛化,以解决跨用户人体活动识别中的用户差异问题,实现无需目标用户数据的稳健泛化。
2025-05-08 cs.AI cs.LG
A Theory of Relation Learning and Cross-domain Generalization
The University of Edinburgh(爱丁堡大学);Max Planck Institute for Psycholinguistics(马克斯·普朗克心理语言学研究所);Radboud University(拉德堡德大学);University of Illinois(伊利诺伊大学)
该研究提出了一种基于类比推理的关系学习模型,能够从非关系性输入中学习结构化关系表示,并实现跨领域零样本学习。
2021-12-07 cs.AI cs.LG cs.NE
Towards Cross Domain Generalization of Hamiltonian Representation via Meta Learning
KAIST(韩国科学技术院);Center for Complex Systems, KAIST(韩国科学技术院复杂系统中心)
本文针对哈密顿动力学提出基于元学习和图神经网络的跨域泛化框架,通过学习统一哈密顿量表示,使模型能适应不同物理定律的新系统,克服了传统方法局限于单一系统域的缺陷。
2024-04-27 cs.AI cs.LG physics.comp-ph
CrossNorm and SelfNorm for Generalization under Distribution Shifts
Amazon Web Services(亚马逊网络服务);Rutgers University(罗格斯大学)
传统的归一化技术(例如,批量归一化和实例归一化)通常且简单地假设训练数据和测试数据遵循相同的分布。由于分布偏移在现实世界的应用中是不可避免的,使用以前的归一化方法训练好的模型在新的环境中可能表现不佳。我们能否开发新的归一化方法来提高分布偏移下的泛化鲁棒性?在本文中,我们回答了这个问题,提出了交叉规范和自规范。CrossNorm在特征图之间交换通道平均值和方差,以扩大训练分布,而SelfNorm使用注意力来重新校准统计数据,以弥合训练分布和测试分布之间的差距。CrossNorm和SelfNorm可以相互补充,尽管在统计使用方面探索了不同的方向。在不同领域(视觉和语言)、任务(分类和分割)、设置(监督和半监督)以及分布偏移类型(合成和自然)上的大量实验表明了该方法的有效性。代码可在https://github.com/amazon-research/crossnorm-selfnorm上获得
2021-08-16 cs.CV cs.LG
Bayesian Cross-Modal Alignment Learning for Few-Shot Out-of-Distribution Generalization
针对少样本分布外泛化困境,提出贝叶斯跨模态对齐学习方法(Bayes-CAL),通过贝叶斯微调文本表示和专用损失解耦图像特征,在二维分布偏移上取得最先进性能,且对未见类泛化更稳定。
2025-04-22 cs.CV cs.LG
CADG: A Model Based on Cross Attention for Domain Generalization
Kuaishou Technology(快手科技);Sichuan University(四川大学)
在领域泛化(DG)任务中,模型只使用来自源域的训练数据来训练,以实现对未知目标域的泛化,这将受到分布偏移问题的影响。因此,重要的是要学习一个分类器,专注于共同的表示,可以用来分类多个领域,使这个分类器可以实现高性能的一个看不见的目标领域以及。随着交叉注意在各种跨模态任务中的成功应用,我们发现交叉注意是一种强大的机制,可以将来自不同分布的特征对齐。因此,我们设计了一个称为CADG(交叉注意领域泛化)的模型,其中交叉注意起着重要的作用,以解决分布偏移问题。这样的设计使得分类器可以在多个领域中使用,从而使分类器在未知领域中具有很好的泛化能力。实验结果表明,该方法在各种领域泛化基准测试中的性能均优于其他单一模型,甚至优于一些基于集成的方法.
2023-02-13 cs.CV
Open-set Cross Modal Generalization via Multimodal Unified Representation
Zhejiang University(浙江大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
本文提出开放集跨模态泛化任务OSCMG,并设计MICU方法,通过细-粗粒度掩码多模态InfoNCE和跨模态统一拼图增强多模态统一表示对未知类别的泛化能力。
2025-07-20 cs.CV
Improve Cross-Architecture Generalization on Dataset Distillation
Shanghai Jiao Tong University(上海交通大学)
本文提出“模型池”方法,在数据集蒸馏过程中按概率分布从多样化模型池中选模,并结合知识蒸馏用于测试,以提升合成数据集跨架构泛化能力,实验证明其优于现有方法。
2024-02-20 cs.CV cs.LG
Cross-Modal-Domain Generalization Through Semantically Aligned Discrete Representations
Peter L. Reichertz Institute for Medical Informatics(汉诺威医学院彼得·L·里赫茨医学信息学研究所);Lower Saxony Center for AI and Causal Methods in Medicine (CAIMed)(下萨克森医学人工智能与因果方法中心(CAIMed))
本文提出CoDAAR框架,通过语义对齐解决跨模态泛化与模态特异性之间的平衡问题,结合离散时间对齐和语义对齐机制,在统一离散空间中实现通用跨模态表示。
2026-05-13 cs.CV
Predicting Camera Viewpoint Improves Cross-dataset Generalization for 3D Human Pose Estimation
University of California, Irvine(加州大学欧文分校)
随着大规模地面真实运动捕获数据集的出现,三维人体姿态的单目估计引起了越来越多的关注。然而,可用的训练数据的多样性是有限的,目前还不清楚在何种程度上的方法概括外的特定datasets,他们是trainedon.In这项工作中,我们进行了系统的研究的多样性和偏见存在于特定的数据集和跨数据集概括其效果在一个汇编的5姿势datasets。我们特别专注于系统的差异,相对于身体为中心的坐标系的相机视点的分布。基于这一观察,我们提出了一个辅助任务,预测相机的观点,除了姿势。我们发现,经过训练以联合预测视点和姿势的模型系统地显示出显着改善的跨数据集泛化。
2020-04-07 cs.CV
Data Augmentation Techniques for Cross-Domain WiFi CSI-based Human Activity Recognition
TU Wien(维也纳技术大学)
针对WiFi CSI人类活动识别中模型泛化能力差的问题,本研究将图像数据增强技术应用于WiFi CSI,通过收集公开数据集并基于EfficientNetV2开展消融研究,发现特定增强组合可显著提升跨场景和跨系统泛化性能。
2024-01-01 cs.AI cs.CV cs.LG
Gradient-Map-Guided Adaptive Domain Generalization for Cross Modality MRI Segmentation
ShanghaiTech University(上海科技大学);Shanghai Engineering Research Center of Intelligent Vision and Imaging(上海智能视觉与成像工程技术研究中心)
提出梯度图引导的自适应域泛化框架,结合无学习跨域表示与测试时自适应,在跨模态MRI分割中稳定优于现有方法,且对训练数据需求低。
2023-11-16 cs.CV
Revisiting Depth Completion from a Stereo Matching Perspective for Cross-domain Generalization
University of Bologna(博洛尼亚大学)
针对深度补全的域偏移问题,提出一种基于虚拟图案投影生成虚构立体对、可兼容各类立体匹配器的框架,经跨域实验验证有效,可拓展深度补全的部署场景。
2023-12-14 cs.CV
On Improving Cross-dataset Generalization of Deepfake Detectors
School of Computing(计算机学院);Wichita State University(威奇托州立大学)
深度伪造的面部操作已经造成了重大的安全风险,并引起了严重的社会问题。作为对策,最近已经提出了许多深度伪造检测方法。他们中的大多数人使用为任务预先训练的骨干卷积神经网络(CNN)架构将深度虚假检测建模为二进制分类问题。这些基于CNN的方法在深度虚假检测中表现出非常高的效率,曲线下面积(AUC)高达0.99。然而,这些方法的性能显着下降时,跨数据集进行评估。在本文中,我们将深度虚假检测描述为监督和强化学习(RL)的混合组合,以提高其跨数据集泛化性能。所提出的方法通过RL代理以特定于图像的方式为每个测试样本选择前k个增强。使用CNN获得的每个测试图像的所有增强的分类分数被一起平均,用于最终的真实或虚假分类。通过广泛的实验验证,我们证明了我们的方法在深度伪检测器的跨数据集泛化方面优于现有的已发表研究,从而获得了最先进的性能。
2022-04-08 cs.AI cs.CV cs.LG
CrossFlowDG: Bridging the Modality Gap with Cross-modal Flow Matching for Domain Generalization
National Technical University of Athens(希腊国家技术大学)
本文提出CrossFlowDG,通过无噪声的跨模态流匹配解决领域泛化中的模态差距问题,利用联合欧几里得潜在空间中的连续变换,将领域偏向的图像嵌入向领域不变的文本嵌入迁移。
2026-04-18 cs.CV
Choosing Wisely and Learning Deeply: Selective Cross-Modality Distillation via CLIP for Domain Generalization
University of Rochester(罗切斯特大学);Johns Hopkins University(约翰斯·霍普金斯大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提出SCMD方法,利用CLIP进行选择性跨模态蒸馏,通过识别难学样本并融合文本嵌入对齐特征分布,使ResNet50在多基准上达到SOTA,提升了领域泛化能力。
2024-04-22 cs.CV
X-MIC: Cross-Modal Instance Conditioning for Egocentric Action Generalization
Meta Reality Labs(元宇宙实验室);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
本文提出 X-MIC 跨模态适配框架,通过解耦时间建模与冻结视觉编码器,将文本嵌入对齐到第一人称视频,在三个数据集上显著提升了跨数据集动作泛化能力。
2024-03-28 cs.CV
Towards Cross-Platform Generalization: Domain Adaptive 3D Detection with Augmentation and Pseudo-Labeling
Dalian University of Technology(大连理工大学);Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院)
本研究提出一种基于增强与伪标签的域适应3D检测方法,在RoboSense2025挑战中取得第三名,实现了跨平台检测性能的提升。
2026-01-13 cs.CV
Language-aware Domain Generalization Network for Cross-Scene Hyperspectral Image Classification
Beijing Institute of Technology(北京理工大学);The University of Hong Kong(香港大学)
在高光谱图像分类(HSI)任务中,包含大量关于土地覆盖类别的先验知识的文本信息被忽略了。有必要探讨语言模式在HSI分类中的有效性。此外,大规模预训练图像-文本基础模型在各种下游应用中表现出了出色的性能,包括zero-shot传输。然而,大多数领域泛化方法都没有考虑挖掘语言模态知识来提高模型的泛化性能。为了弥补上述不足,提出了一种基于知识感知的领域泛化网络(LDGnet),从跨领域共享的先验知识中学习跨领域不变表示.该方法只在源域(SD)上训练,然后将模型转移到目标域(TD)。采用图像编码器和文本编码器组成的双流结构提取视觉和语言特征,设计了粗粒度和细粒度文本表示,分别提取两级语言特征。此外,语言特征作为跨领域共享语义空间,在语义空间中通过有监督的对比学习完成视觉-语言对齐。在三个数据集上进行的大量实验表明,与最先进的技术相比,所提出的方法具有优越性。
2022-09-06 cs.CV
Conserved Immune Topology Improves Pathology Foundation Model Generalization for Cross-Cancer MSI-H Prediction
该研究提出Conserved Immune Topology(CIT),一种轻量空间表示,无需标注或目标域数据,可提升病理基础模型跨癌MSI-H预测的泛化能力,在零样本跨癌迁移中使TransMIL的AUC提升0.0534
2026-09-07 cs.CV
Continual Cross-Modal Generalization
Zhejiang University(浙江大学)
本文提出持续跨模态泛化方法,通过CMoE-Adapter和伪模态重放机制,利用中介模态将新模态增量映射到共享离散码本,在保留先验知识的同时实现强跨模态泛化性能。
2025-04-01 cs.CV
Domain-Specific Bias Filtering for Single Labeled Domain Generalization
Zhejiang University(浙江大学)
传统领域泛化(CDG)利用多个标记的源数据集来训练一个不可见目标领域的可泛化模型。然而,由于昂贵的标注成本,标注所有源数据的要求很难满足在现实世界中的应用。在本文中,我们研究了一个单一的标记领域泛化(SLDG)任务,只有一个源域被标记,这是更实际和更具挑战性的CDG任务。SLDG任务中的一个主要障碍是区分度-泛化偏差:标记源数据集中的区分信息可能包含特定领域的偏差,从而限制了训练模型的泛化。为了解决这个具有挑战性的任务,我们提出了一个新的框架称为特定领域的偏见过滤(DSBF),它与标记的源数据的歧视性模型,然后过滤掉其特定领域的偏见与未标记的源数据的泛化改进。我们将过滤过程分为(1)通过基于k-means聚类的语义特征重新提取的特征提取器去偏置和(2)通过注意力引导的语义特征投影的分类器校正。DSBF统一了对标记和未标记源数据的探索,以增强训练模型的可区分性和泛化性,从而产生高度泛化的模型。我们进一步提供理论分析,以验证所提出的特定领域的偏置滤波过程。在多个数据集上进行的大量实验表明,DSBF在处理具有挑战性的SLDG任务和CDG任务方面表现出色。
2022-11-22 cs.CV
Promoting Generalization in Cross-Dataset Remote Photoplethysmography
The University of Notre Dame(圣母大学)
针对深度学习rPPG模型易学习训练数据集脉搏波特征偏差的问题,提出通过扩大训练时心率范围与变异性的数据增强方法,显著提升了模型跨数据集泛化能力,将平均绝对误差降至每分钟3次以下。
2023-05-24 cs.CV
Exploring the Limits of Vision-Language-Action Manipulations in Cross-task Generalization
The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州));The University of Hong Kong(香港大学);Sun Yat-sen University(中山大学)
本文提出AGNOSTOS仿真基准评估VLA模型的跨任务零样本泛化,并用基于LLM与动力学引导演示选择的X-ICM显著提升未见操控任务性能。
2025-10-19 cs.CV cs.RO
Towards Data-Centric Face Anti-Spoofing: Improving Cross-domain Generalization via Physics-based Data Synthesis
Nanyang Technological University(南洋理工大学);Great Bay University(大湾区大学);City University of Hong Kong(香港城市大学);Pengcheng Laboratory(鹏城实验室)
本文从数据视角出发,提出基于物理合成伪影的数据增强方法FAS-Aug和欺骗攻击风险均衡化SARE,以提升人脸活体检测模型的跨域泛化能力,并结合Vision Transformer取得最先进性能。
2024-09-04 cs.CV
Knowledge as Priors: Cross-Modal Knowledge Generalization for Datasets without Superior Knowledge
Rutgers University(罗格斯大学);University of Delaware(特拉华大学)
跨模态知识蒸馏涉及将知识从用高级模态(教师)训练的模型转移到用弱模态(学生)训练的另一个模型。现有的方法需要成对的训练样本存在于两种模态中。然而,从高级模态访问数据可能并不总是可行的。例如,在3D手部姿态估计的情况下,深度图、点云或立体图像通常比RGB图像捕获更好的手部结构,但是它们中的大多数采集起来是昂贵的。在本文中,我们提出了一种新的计划,训练学生在目标数据集的教师是不可用的。我们的主要思想是通过将知识建模为学生参数的先验知识,将从源数据集(包含来自两种模态的配对示例)中学习到的提取的跨模态知识推广到目标数据集。我们将我们的方法命名为“跨模态知识泛化”,并证明我们的方案在标准基准数据集上的3D手姿态估计具有竞争力的性能。
2020-04-01 cs.CV
Cross-view Domain Generalization via Geometric Consistency for LiDAR Semantic Segmentation
School of Aeronautic Engineering, Changsha University of Science and Technology(长沙理工大学航空工程学院);Aerospace Information Research Institute, Chinese Academy of Sciences(中国科学院航空信息研究所);School of Automation, Central South University(中南大学自动化学院);University of British Columbia(不列颠哥伦比亚大学)
CVGC通过几何一致性模块解决跨视角LiDAR语义分割中的领域泛化问题,优于现有方法。
2026-02-16 cs.CV
CrossPan: A Comprehensive Benchmark for Cross-Sequence Pancreas MRI Segmentation and Generalization
Department of Radiology, Northwestern University(西北大学放射科);Department of Electrical and Computer Engineering, Northwestern University(西北大学电气与计算机工程系);Department of Computer Science, Northwestern University(西北大学计算机科学系);Department of Gastroenterology, New York University(纽约大学消化内科部);Division of Gastroenterology and Hepatology, Mayo Clinic in Florida(佛罗里达梅奥诊所消化内科与肝病学部);Department of Computer Science, Johns Hopkins University(约翰霍普金斯大学计算机科学系);Departments of Gastroenterology and Hepatology, Northwestern University(西北大学消化内科与肝病学部)
研究揭示跨序列泛化是胰腺MRI分割临床应用的主要障碍,指出跨序列域偏移比跨中心差异更严重,且现有方法在物理驱动对比反转下效果有限,半监督学习在稳定强度分布下有提升但不稳定。
2026-04-20 cs.CV
Cross-Task Generalization via Natural Language Crowdsourcing Instructions
Allen Institute for AI(艾伦人工智能研究所);University of Washington(华盛顿大学);Arizona State University(亚利桑那州立大学)
人类(例如,crowdworkers)在解决不同任务方面具有非凡的能力,只需阅读定义它们的文本指令并查看几个示例。尽管传统的监督学习在单个数据集上取得了成功,但这种模型通常难以跨任务进行泛化(例如,问答系统不能解决分类任务)。人工智能的一个长期挑战是建立一个模型,通过理解定义它的人类可读指令来学习新任务。为了研究这个问题,我们引入了NATURAL INFORCETIONS,一个包含61个不同任务的数据集,它们的人类编写的指令,以及193k个任务实例(输入输出对)。这些指令是从用于创建现有NLP数据集的众包指令获得的,并且被映射到统一模式。使用这个元数据集,我们通过在可见的任务上训练模型并测量对其余不可见任务的泛化来测量跨任务泛化。我们采用生成式预训练语言模型来编码特定于任务的指令以及输入并生成任务输出。我们的研究结果表明,模型受益于指令时,评估的泛化看不见的任务(19%更好的模型利用指令)。然而,这些模型远远落后于估计的性能上限,表明在这一方向上还有很大的进步空间。
2022-03-14 cs.AI cs.CL cs.CV
Enhancing Cross-View Geo-Localization Generalization via Global-Local Consistency and Geometric Equivariance
School of Computer Science and Technology, Xidian University(西安电子科技大学计算机科学与技术学院);School of Artificial Intelligence, Xidian University(西安电子科技大学人工智能学院);Department of Mathematics, University of California San Diego(加州大学圣地亚哥分校数学系)
本文提出EGS框架,通过E(2)-等变CNN和虚拟超级节点图实现全局-局部一致性,增强跨视角地理定位的跨域泛化,在University-1652和SUES-200上达到最先进性能。
2025-09-25 cs.CV
CrossMed: A Multimodal Cross-Task Benchmark for Compositional Generalization in Medical Imaging
针对医学多模态LLM组合泛化能力未充分探索的问题,本文提出CrossMed基准,基于MAT模式重构四个数据集为VQA格式,评估模型在不同拆分下的性能,验证其对跨任务迁移及组合泛化评估的有效性。
2025-11-14 cs.AI cs.CV
Closing the Generalization Gap of Cross-silo Federated Medical Image Segmentation
Univ. of Pittsburgh(匹兹堡大学);NVIDIA(英伟达);Johns Hopkins University(约翰斯·霍普金斯大学)
近年来,跨筒仓联邦学习(FL)在医学影像分析领域与深度学习结合的研究引起了广泛关注,因为它可以解决数据不足、数据隐私和训练效率等关键问题。然而,从FL训练的模型和从集中式训练的模型之间可能存在泛化差距。这个重要的问题来自参与客户端中本地数据的非iid数据分布,称为客户端漂移。在这项工作中,我们提出了一种新的训练框架FedSM,以避免客户端漂移问题,并成功地缩小了泛化差距相比,集中式训练的医学图像分割任务的第一次。我们还提出了一种新的个性化FL目标制定和一种新的方法SoftPull来解决它在我们提出的框架FedSM。我们进行了严格的理论分析,以保证其收敛性优化非凸光滑的目标函数。使用深度FL的真实世界医学图像分割实验验证了我们所提出的方法的动机和有效性。
2023-02-23 cs.CV
BEV-DG: Cross-Modal Learning under Bird's-Eye View for Domain Generalization of 3D Semantic Segmentation
Xiamen University(厦门大学);Northeastern University(东北大学);Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院)
针对3D语义分割域泛化中无法访问目标域及2D-3D点像素错位问题,提出BEV-DG,通过BAF鸟瞰区域融合与BDCL域对比学习学习域无关表示,并在三种设置下大幅超越现有方法。
2023-08-12 cs.CV
Matching-space Stereo Networks for Cross-domain Generalization
Stevens Institute of Technology(斯蒂文斯理工学院);University of Bologna(博洛尼亚大学)
端到端深度网络代表了立体匹配的最新技术水平。虽然在类似于训练集的图像框架环境中表现出色,但准确性的主要下降发生在看不见的领域(例如,当从合成场景移动到真实场景时)。在本文中,我们介绍了一种新的家庭的架构,即匹配空间网络(MS网),具有改进的泛化性能。通过将基于学习的图像RGB值的特征提取替换为传统智慧的匹配函数和置信度度量,我们将学习过程从颜色空间移动到匹配空间,避免了对特定领域特征的过度专业化。在四个真实数据集上进行的大量实验结果表明,我们的建议比传统的深度架构更能泛化到看不见的环境,保持源域的准确性几乎不变。我们的代码可在https://github.com/ccj5351/MS-Nets上获得。
2020-10-14 cs.CV
PromptMono: Cross Prompting Attention for Self-Supervised Monocular Depth Estimation in Challenging Environments
Northwestern Polytechnical University(西北工业大学)
针对挑战性环境中单目深度估计困难,提出PromptMono自监督框架,利用可学习视觉提示和门控跨提示注意力模块,在Oxford Robotcar和nuScenes数据集上验证了优越性能。
2025-03-28 cs.CV
XFlowMap: Cross-Scale Generalization and Mapping of Massive Origin-Destination Data
PolyU
本文提出XFlowMap框架,用于大规模出行生成数据的跨尺度泛化与制图,通过整合跨尺度流量模式检测、自动化流量制图泛化和新的制图表示法,实现复杂出行流量结构的分析与可视化。
2026-04-23 cs.CV cs.SI
Cross-Dataset Generalization For Retinal Lesions Segmentation
针对视网膜病变分割任务中不同数据集标注差异导致的跨数据集泛化难题,研究对比了多种提升泛化的技术,给出了粗细标注数据结合的优化方案。
2024-05-14 cs.AI cs.CV
Domain Generalization with Quantum Enhancement for Medical Image Classification: A Lightweight Approach for Cross-Center Deployment
The Second Clinical College, Nanjing Medical University(南京医科大学第二临床学院)
本文提出一种轻量级量子增强域泛化框架,通过模拟多域偏移、域对抗训练和量子特征增强,提升医学图像跨中心部署的泛化能力。
2026-01-25 cs.CV
Prompt-Free Lightweight SAM Adaptation for Histopathology Nuclei Segmentation with Strong Cross-Dataset Generalization
School of Information and Communication Technology, Griffith University, QLD, Australia(信息与通信技术学院,格里菲斯大学,昆士兰,澳大利亚);School of MDP -- Clinical Medicine, Griffith University, QLD, Australia(MDP临床医学学院,格里菲斯大学,昆士兰,澳大利亚)
本文提出一种无需提示的轻量级SAM适应方法,通过多级编码器特征和残差解码实现高效准确的核分割,实验表明其在三个基准数据集上表现优异,具有强跨数据集泛化能力。
2026-03-20 cs.CV