Discriminative Adversarial Domain Generalization with Meta-learning based Cross-domain Validation
University of South Florida(南佛罗里达大学)
机器学习模型的泛化能力是指通过从一个或多个可见领域学习来泛化“不可见”领域的知识,对于在现实世界条件下开发和部署机器学习应用非常重要。领域泛化(DG)技术旨在提高机器学习模型的泛化能力,其中学习的特征表示和分类器是提高泛化能力和做出决策的两个关键因素。在本文中,我们提出了判别式对抗领域泛化(DADG)与基于元学习的跨域验证。我们提出的框架包含两个主要组件,它们协同工作以构建域广义DNN模型:(i)判别式对抗学习,它主动学习多个“可见”域上的广义特征表示,以及(ii)基于元学习的跨域验证,它通过在训练过程中应用元学习技术来模拟训练/测试域转移。在实验评估中,我们提出的方法和其他现有的方法在三个基准数据集上进行了全面的比较。结果表明,DADG始终优于强大的基线DeepAll,并且在大多数评估案例中优于其他现有的DG算法。
2022-02-16 cs.LG
Cross-Domain Generalization of Multimodal LLMs for Global Photovoltaic Assessment
School of Electrical, Computer and Energy Engineering(电气、计算机与能源工程学院);Arizona State University(亚利桑那州立大学)
本研究提出利用多模态大语言模型实现跨领域泛化,用于全球光伏评估,通过结构化提示和微调在统一框架内整合检测、定位和量化,优于传统CV和Transformer基线。
2025-11-24 cs.AI cs.CV cs.LG
Retrieval-Based Cross-Domain Generalization in Optical Networks via Global Features
SUPSI(瑞士南部应用科学大学)
该研究提出一种基于检索的跨域QoT估计框架,利用可迁移特征表示实现零样本与少样本适应,无需重训模型,在跨域QoT数据集上的泛化性能优于传统基线及对比学习方法,为光网络自动化提供了新途径。
2026-08-04 cs.CV cs.IR cs.LG
Self-Challenging Improves Cross-Domain Generalization
Carnegie Mellon University(卡内基梅隆大学)
卷积神经网络(CNN)通过激活与标签相关的主导特征来进行图像分类。当训练数据和测试数据处于相似的分布下时,它们的主要特征是相似的,这通常有助于在测试数据上表现出良好的性能。然而,当对来自不同分布的样本进行测试时,性能未得到满足,从而导致跨域图像分类的挑战。我们引入了一个简单的训练启发式,表示自适应(RSC),显着提高了CNN到域外数据的泛化。RSC迭代地挑战(丢弃)在训练数据上激活的主要特征,并迫使网络激活与标签相关的剩余特征。这个过程似乎激活适用于域外数据的特征表示,而无需事先了解新的域,也无需学习额外的网络参数。本文给出了改进跨领域泛化的RSC的理论性质和条件。实验结果表明,我们的RSC方法简单,有效和架构不可知的性质。
2020-07-05 cs.CV cs.LG
FedAlign: Federated Domain Generalization with Cross-Client Feature Alignment
Indian Institute of Technology Bombay(印度理工学院孟买分校)
针对联邦学习中的域泛化挑战,提出FedAlign框架,通过跨客户端特征扩展与双阶段对齐模块增加特征多样性并促进域不变性,在保护隐私且低开销下提升对未见域的泛化能力。
2025-01-26 cs.AI cs.CV cs.DC
Cross-Corpora Spoken Language Identification with Domain Diversification and Generalization
Indian Institute of Technology Kharagpur(印度理工学院克勒格布尔分校);Université de Lorraine(洛林大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);LORIA(洛林信息学及其应用实验室)
这项工作解决了低资源口语识别(LID)问题的跨语料库泛化问题。我们已经进行了实验的背景下,印度LID和确定显着差的跨语料库泛化,由于语料库依赖的非语言偏见。我们对这项工作的贡献是双重的。首先,我们提出了域多样化,它使用不同的音频数据增强方法来多样化有限的训练数据。然后,我们提出了最大多样性感知级联增强的概念,并优化了增强倍数因子,以有效地多样化的训练数据。其次,我们引入了域泛化的思想,将增广方法视为伪域。为此,我们研究域不变和域感知的方法。我们的LID系统是基于国家的最先进的强调信道的注意力,传播和聚合的时间延迟神经网络(ECAPA-TDNN)架构。我们已经进行了广泛的实验,三个广泛使用的语料库印度LID研究。此外,我们进行了最后的盲评价,我们提出的方法上的VoxLingua 107语料库在野外收集的印度子集。我们的实验表明,所提出的域多样化是更有前途的常用的简单的增强方法。研究还表明,领域泛化是一个更有效的解决方案比领域多样化。我们还注意到,领域感知学习对同一语料库LID的性能更好,而领域不变学习更适合跨语料库泛化。与基本的ECAPA-TDNN相比,其提出的领域不变扩展将跨语料EER提高了5.23%。相比之下,所提出的领域感知扩展也提高了相同语料库测试场景的性能。
2023-02-10 cs.CL cs.LG cs.SD
Cross-Modal Generalization: Learning in Low Resource Modalities via Meta-Alignment
Carnegie Mellon University(卡内基梅隆大学);University of Tokyo(东京大学)
自然界中有大量通过视觉、听觉、触觉和语言形式表达的概念。然而,多模式学习方面的现有进展主要集中在训练和考试时存在同一套模式的问题上,这使得在低资源模式下的学习特别困难。在这项工作中,我们提出了跨模态泛化的算法:一种学习范式,用于训练模型,该模型可以(1)在目标模态(即元学习)中快速执行新任务,以及(2)在不同的源模态上进行训练。我们研究一个关键的研究问题:我们如何才能确保泛化跨模态,尽管使用不同的源和目标模态单独的编码器?我们的解决方案基于元对齐,这是一种使用强和弱配对的跨模态数据对齐表示空间的新方法,同时确保快速泛化到不同模态的新任务。我们在3个分类任务上研究这个问题:文本到图像,图像到音频和文本到语音。我们的研究结果表明,即使新的目标模态只有几个(1-10)标记的样本,并在嘈杂的标签的存在下,在低资源的方式特别普遍的情况下,强大的性能。
2020-12-04 cs.AI cs.CL cs.CV
Automated cross-sectional view selection in CT angiography of aortic dissections with uncertainty awareness and retrospective clinical annotations
Graz University of Technology(格拉茨技术大学);Stanford University(斯坦福大学);Computer Algorithms for Médicine (Café) Laboratory(医学计算机算法(Café)实验室);University Medicine Essen(埃森大学医学院)
目的:慢性主动脉疾病(如夹层)的监测成像依赖于随时间推移在预定义的主动脉标志处获得并比较横截面直径测量值。由于缺乏坚固的工具,横截面平面的方向由训练有素的操作员手动定义。我们展示了如何手动注释定期收集在诊所可以有效地用于简化这项任务,尽管存在一个不可忽略的互操作变量的测量。影响:通过利用不完善的回顾性临床注释,可以缓解或自动化姿势不良但重复的成像任务。方法学:在这项工作中,我们结合卷积神经网络和不确定性量化方法来预测这种横截面的方向。我们使用的临床数据随机处理的11个操作员进行培训,并测试由3个独立的操作员处理的一个较小的集,以评估互操作的变异性。结果如下:我们的分析表明,手动选择横截面的特点是$10.6^\circ$和$21.4^\circ$每个角度的一致性限(LOA)为95%。我们的方法表明,与现有技术相比,$3.57^\circ$($40.2$ %)和$4.11^\circ$($32.8$ %)减少了静态误差,与人工处理相比,$5.4^\circ$($49.0$ %)和$16.0^\circ$($74.6$ %)减少了LOA。结论:这表明,预先存在的注释在临床上可以是一种廉价的资源,以减轻不适和重复的任务,如横截面提取,以监测主动脉夹层。
2021-11-22 cs.CV cs.LG eess.IV
DXM-TransFuse U-net: Dual Cross-Modal Transformer Fusion U-net for Automated Nerve Identification
The George Washington University(乔治华盛顿大学);Children’s National Hospital(国家儿童医院)
在外科手术过程中,准确的神经识别对于防止对神经组织的任何损伤至关重要。神经损伤可能会对患者造成长期的不利影响以及经济负担过重。在这项研究中,我们使用U-Net架构开发了一个深度学习网络框架,在瓶颈处使用基于Transformer块的融合模块,以从多模态光学成像系统中识别神经组织。通过独立地利用和提取每种模态的特征图,并使用每种模态信息进行跨模态交互,我们的目标是提供一种解决方案,该解决方案将进一步提高成像系统的有效性,以实现无创术中神经识别。
2022-02-27 cs.CV eess.IV
AADG: Automatic Augmentation for Domain Generalization on Retinal Image Segmentation
卷积神经网络在医学图像分割中得到了广泛的应用,并取得了良好的效果。然而,性能可能会受到训练数据(源域)和测试数据(目标域)之间的域间隙的显着影响。为了解决这个问题,我们提出了一种基于数据操作的领域泛化方法,称为自动增强领域泛化(AADG)。我们的AADG框架可以有效地对数据增强策略进行采样,这些策略可以生成新的域,并从适当的搜索空间中使训练集多样化。具体来说,我们引入了一种新的代理任务,最大限度地提高了多个增强的新领域之间的多样性,在一个单位球空间的Sinkhorn距离测量,使自动增强听话。采用对抗训练和深度强化学习来有效地搜索目标。对11个公开获取的眼底图像数据集(4个用于视网膜血管分割,4个用于视盘和杯(OD/OC)分割,3个用于视网膜病变分割)进行了全面的定量和定性实验。两个OCTA数据集的视网膜血管分割进一步参与验证跨模态泛化。我们提出的AADG具有最先进的泛化性能,并在视网膜血管,OD/OC和病变分割任务上优于现有方法。经验验证,学习到的策略是模型不可知的,可以很好地转移到其他模型。源代码可在https://github.com/CRazorback/AADG上获得。
2022-07-27 cs.CV eess.IV
CardiSort: a convolutional neural network for cross vendor automated sorting of cardiac MR images
Austin Health(奥斯汀健康);The University of Melbourne(墨尔本大学);Kings College London(伦敦国王学院);I-MED Radiology(I-MED放射科);University of Porto(波尔图大学)
目的:开发一种基于图像的自动深度学习方法,通过序列类型和成像平面对心脏MR图像进行分类,以提高临床后处理效率。方法:从4个中心和3个供应商回顾性收集多供应商心脏MRI研究。训练双头卷积神经网络(“CardiSort”)以通过成像序列(n=17)和平面(n=10)对35个序列进行分类。对单中心图像(n=234例患者)进行了单供应商培训(SVT),对多中心图像(n = 479例患者,3个中心)进行了多供应商培训(MVT)。由放射科专家在SVT和MVT的保持测试集上将模型准确性与手动地面实况标签进行比较。对来自2家供应商的3个先前未见过的磁体系统(n=80例患者)的数据进行了MVT(MVT外部)的外部确认。结果如下:在保持测试集上观察到SVT(分别为85.2%和93.2%)和MVT(分别为96.5%和98.1%)的高序列和平面准确性。MVTexternal的序列准确度为92.7%,平面准确度为93.0%。普通序列和常规心脏平面具有较高的准确性。对于代表性不足的类别和序列,观察到准确性较差,其中各中心的采集参数差异较大,例如灌注成像。结论:基于多供应商数据开发了一个深度学习网络,用于将MRI研究分类为分量序列和平面,并进行外部验证。通过改进,它有可能通过实现自动序列选择来改进工作流程,这是完全自动化后处理管道的重要第一步。
2022-04-08 cs.CV eess.IV
Comparative Analysis of Vision Transformers and Traditional Deep Learning Approaches for Automated Pneumonia Detection in Chest X-Rays
本研究比较了传统机器学习与深度学习方法在胸部X光片肺炎自动检测中的表现,发现Cross-ViT架构以88.25%准确率和99.42%召回率超越传统CNN,证明视觉Transformer是更优的诊断方向。
2025-07-11 cs.AI cs.CV cs.NE