Adversarial and Random Transformations for Robust Domain Adaptation and Generalization
National Innovation Institute of Defense Technology（国防科技创新研究院）
数据增强已被广泛用于在训练深度神经网络时提高泛化能力。最近的工作表明，使用最坏情况下的转换或对抗增强策略可以显着提高准确性和鲁棒性。然而，由于图像变换的不可微性质，必须应用诸如强化学习或演化策略的搜索算法，这对于大规模问题在计算上是不实用的。在这项工作中，我们表明，通过简单地应用随机数据增强的一致性训练，可以获得领域自适应（DA）和泛化（DG）的最先进的结果。为了进一步提高对抗样本的准确性和鲁棒性，提出了一种基于空间Transformer网络的可微对抗数据增强方法。基于组合对抗和随机变换的方法在多个DA和DG基准数据集上的性能优于最先进的方法。此外，所提出的方法显示出良好的鲁棒性腐败，这也是常用的数据集上验证。
2022-11-13 cs.CV cs.LG
Towards Adapting ImageNet to Reality: Scalable Domain Adaptation with Implicit Low-rank Transformations
ICSI（国际计算机科学研究所）；UC Berkeley（加州大学伯克利分校）；University of Jena（耶拿大学）；UMass Lowell（马萨诸塞大学洛厄尔分校）
在测试期间看到的图像通常与用于学习的图像不是来自相同的分布。当从以对象为中心的互联网图像数据库中训练分类器并试图将其直接应用于场景理解任务时，就会出现这种称为域偏移的问题。其后果往往是严重的性能下降，是分类器在现实世界中的应用的主要障碍之一。在本文中，我们展示了如何学习基于变换的领域自适应分类器在一个可扩展的方式。其关键思想是利用一个隐含的秩约束，起源于最大利润领域自适应制定，使优化易于处理。实验表明，域之间的转换可以非常有效地从数据中学习，并很容易应用到新的类别。这开始弥合大规模互联网图像收集和日常生活环境中捕获的对象图像之间的差距。
2013-08-20 cs.CV cs.LG stat.ML
Discovering and Preserving Category Correlation Knowledge via Adaptive Reciprocal Knowledge Distillation
Wuhan University of Technology（武汉理工大学）；Tongji University（同济大学）
提出自适应互惠知识蒸馏（AR-KD），通过匹配教师类别相关性矩阵与学生关系表示来简化教师输出，缓解暗知识崩溃，在CIFAR-100和ImageNet-1k上显著提升学生性能。
2026-09-15 cs.CV cs.LG
Amplitude Spectrum Transformation for Open Compound Domain Adaptive Semantic Segmentation
Indian Institute of Science（印度科学学院）；Google Research（谷歌研究院）
开放复合领域自适应（Open compound domain adaptation，OCDA）作为一种实用的自适应设置已经出现，它考虑单个标记源域与多模态未标记目标数据的复合，以便更好地推广新的未知域。我们假设，密集的中间层特征的域相关和任务相关因素的改进的解纠缠可以极大地帮助OCDA。现有技术通过在空间CNN输出上采用对抗域鉴别器来间接地尝试这一点。然而，我们发现，从深层CNN特征的基于傅立叶的幅度谱中获得的潜在特征具有更易于处理的映射和域区分。基于此，我们提出了一种新的特征空间幅度谱变换（AST）。在自适应期间，我们出于两个目的使用AST自动编码器。首先，仔细挖掘的源-目标实例对在特定层通过改变AST-潜伏进行跨域特征风格化（AST-Sim）的模拟。其次，在后面一层操作的AST的任务是通过将域内容的潜在内容固定为平均原型来规范化（AST-Norm）域内容。我们简化的自适应技术不仅没有聚类，而且没有复杂的对抗性对齐。我们在OCDA场景分割基准上实现了领先的性能。
2022-02-09 cs.CV cs.LG
Domain-shift adaptation via linear transformations
University of Alberta（阿尔伯塔大学）；Alberta Machine Intelligence Institute（阿尔伯塔机器智能研究院）
当它们的分布不同时，用来自源域（A）的数据学习的预测器$f_A : X \to Y$在目标域（B）上可能不准确。领域自适应旨在减少这种分布失配的负面影响。在这里，我们分析的情况下，其中$P_A(Y\ |\ X) \neq P_B(Y\ |\ X)$，$P_A(X) \neq P_B(X)$，但$P_A(Y) = P_B(Y)$ ;其中有仿射变换的$X$，使所有的分布相等。我们提出了一种将源域和目标域投影到低维公共空间的方法，通过（1）将域投影到每个域的经验协方差矩阵的特征向量中，然后（2）找到一个正交矩阵，使两个域的投影之间的最大平均差异最小化。对于任意仿射变换，在执行无监督领域自适应时存在固有的不可识别性问题，该问题可以在半监督情况下得到缓解。我们证明了我们的方法在模拟数据和二进制数字分类任务中的有效性，在校正数据中的域偏移时，准确率提高了48%。
2022-01-14 cs.LG
Domain Adaptation for Medical Image Segmentation using Transformation-Invariant Self-Training
University of Bern（伯尔尼大学）；Inselspital（Inselspital医院（伯尔尼大学医院））；Klagenfurt University（克拉根福大学）
提出变换不变自训练（TI-ST）方法，通过图像变换不变性识别并过滤不可靠伪标签，提升医学图像分割在目标域的半监督域适应性能。
2023-07-31 cs.CV
On Fine-Tuned Deep Features for Unsupervised Domain Adaptation
Durham University（杜伦大学）
无监督领域自适应（UDA）的基于先验特征变换的方法采用由预训练的深度模型提取的深度特征，而不针对特定领域自适应任务对它们进行微调。相比之下，基于端到端学习的方法同时优化预训练的骨干和定制的自适应模块，以学习UDA的域不变特征。在这项工作中，我们探讨了潜在的微调功能和基于UDA方法的特征变换相结合，以提高领域自适应性能。具体来说，我们将流行的渐进伪标签技术的微调框架，以提取微调功能，随后使用在一个国家的最先进的特征变换为基础的领域自适应方法SPL（选择性伪标签）。对包括ResNet-50/101和DeiT-small/base在内的多个深度模型进行了彻底的实验，以证明微调特征和SPL的组合可以在多个基准数据集上实现最先进的性能。
2022-10-25 cs.CV
Structure-Attribute Transformations with Markov Chain Boost Graph Domain Adaptation
University of Electronic Science and Technology of China（电子科学与技术大学）；School of Computer Science and Engineering（计算机科学与工程学院）；School of Computer Science（计算机科学学院）；Engineering University of Electronic Science（电子科学工程大学）
针对图域自适应中结构异质性导致分布对齐不佳的问题，提出SATMC框架，通过结构-属性变换和马尔可夫链依次对齐分布，并引入私有域信息减少机制与经验Wasserstein距离，在跨网络节点分类任务上取得更优性能。
2025-09-25 cs.LG
AdapterNet - learning input transformation for domain adaptation
IBM Research - Haifa（IBM研究院（海法））；Technion - Haifa（以色列理工学院（海法））
深度神经网络在各种机器学习任务中表现出令人印象深刻的性能。然而，它们对数据分布的变化非常敏感。通常，即使分布中的微小变化也会导致性能急剧下降。对数据进行精确的扩充可能会在一定程度上有所帮助，但在大多数情况下，无法实现数据分布的模型不变性。领域自适应的该子类可能有价值的一些示例是各种成像模态，诸如热成像、X射线、超声和MRI，其中采集参数或采集设备制造商的变化将导致相同输入的不同表示。我们的工作表明，在某些重要的情况下，标准的微调无法适应模型。我们提出了一种适应新数据源的新方法，并在定制的ImageNet基准测试中展示了近乎完美的适应性。此外，我们的方法不需要原始数据集的任何样本，它是完全可解释的，可以根据任务量身定制。
2018-11-15 cs.CV
Test-Time Adaptation to Distribution Shift by Confidence Maximization and Input Transformation
University of Freiburg（弗赖堡大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
深度神经网络通常在训练时数据分布下不太可能表现出较差的性能，例如受损坏影响的数据。以前的工作表明，测试时间适应数据移位，例如使用熵最小化，有效地提高了性能，这样的移位分布。本文重点介绍了完全测试时间适应设置，其中只需要从目标分布的未标记的数据。这允许适应任意的预训练网络。具体来说，我们提出了一种新的损失，提高了测试时的适应，解决过早收敛和不稳定的熵最小化。这是通过用非饱和代理替换熵并添加基于分批熵最大化的多样性正则化器来实现的，该正则化器防止收敛到平凡的塌陷解。此外，我们建议在网络中添加一个输入转换模块，可以部分撤销测试时间分布的变化。令人惊讶的是，这种预处理可以单独使用完全测试时自适应损失以端到端的方式学习，而无需任何目标域标签或源域数据。我们表明，我们的方法在提高公开可用的预训练图像分类器对ImageNet-C等具有挑战性的基准测试中常见腐败的鲁棒性方面优于以前的工作。
2021-06-28 cs.LG stat.ML
Deep CORAL: Correlation Alignment for Deep Domain Adaptation
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）；Boston University（波士顿大学）
深度神经网络能够从大量标记的输入数据中学习强大的表示，但是它们不能总是很好地概括输入分布的变化。已经提出了领域自适应算法来补偿由于域移位而导致的性能下降。在本文中，我们解决的情况下，目标域是未标记的，需要无监督的适应。CORAL是一种“简单得令人沮丧”的无监督领域自适应方法，它将源和目标分布的二阶统计与线性变换对齐。在这里，我们扩展CORAL来学习一个非线性变换，该变换可以调整深度神经网络（Deep CORAL）中层激活的相关性。在标准基准数据集上的实验显示了最先进的性能。
2016-07-06 cs.AI cs.CV cs.LG
Improving Domain Adaptation Through Class Aware Frequency Transformation
Indian Institute of Science（印度科学学院）
针对大域间隙下无监督域适应性能下降问题，提出基于类感知频率变换的CAFT++框架，通过低频交换和伪标签过滤提升现有UDA算法性能且计算高效。
2024-07-28 cs.CV
Unsupervised Domain Adaptation Using Approximate Label Matching
Princeton University（普林斯顿大学）；Microsoft Research（微软研究院）
领域自适应解决了当训练数据由所谓的源分布生成而测试数据由显著不同的目标分布生成时所产生的问题。在这项工作中，我们提出了近似标签匹配（ALM），一种新的无监督领域自适应技术，创建并利用测试样本上的粗略标签，然后使用这些嘈杂的标签来学习对齐源和目标样本的变换。我们表明，由ALM估计的变换具有良好的性能相比，其他方法，不使用任何类型的目标标记估计的变换。我们的模型是正则化的，要求训练的分类器从变换的目标样本区分源不能区分两者。我们用ALM对模拟数据和真实数据进行了实验，结果表明它优于该领域常用的技术。
2017-03-01 cs.AI cs.LG
DeLoRA: Decoupling Angles and Strength in Low-rank Adaptation
University of Tübingen（图宾根大学）；Tübingen AI Center（图宾根人工智能中心）；Helmholtz Munich（海德堡-穆恩医疗中心）；Technical University of Munich（慕尼黑技术大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；MDSI（慕尼黑数据科学研究所）
针对现有PEFT方法鲁棒性不足或表达能力受限的问题，提出DeLoRA方法，通过归一化缩放低秩矩阵解耦角度学习与适配强度，在多任务上实现性能与鲁棒性的双提升。
2025-05-19 cs.CL cs.CV cs.LG
AWADA: Attention-Weighted Adversarial Domain Adaptation for Object Detection
Robert Bosch GmbH（罗伯特·博世有限公司）；Fachhochschule Südwestfalen（南威斯特法伦应用科学大学）
目标检测网络已经达到了令人印象深刻的性能水平，但在特定应用中缺乏合适的数据往往限制了它在实践中。通常，利用附加数据源来支持训练任务。然而，在这些领域中，不同数据源之间的领域差距给深度学习带来了挑战。基于GAN的图像到图像风格转换通常用于缩小域间隙，但不稳定并且与目标检测任务解耦。我们提出了AWADA，一个注意力加权的对抗性领域自适应框架，用于在风格转换和检测任务之间创建一个反馈回路。通过从对象检测器建议中构建前景对象注意力图，我们将变换集中在前景对象区域上，并稳定风格转移训练。在广泛的实验和消融研究中，我们表明，AWADA达到了最先进的无监督领域自适应目标检测性能在常用的基准任务，如合成到真实，恶劣天气和跨相机适应。
2022-08-31 cs.CV
Self-Supervised Domain Adaptation with Consistency Training
我们考虑的问题无监督领域自适应的图像分类。为了从未标记的数据中学习目标域感知特征，我们通过使用某种类型的变换（特别是图像旋转）来增强未标记的数据，并要求学习者预测变换的属性，从而创建一个自我监督的借口任务。然而，所获得的特征表示可能包含大量与主任务无关的信息。为了提供进一步的指导，我们强制增强数据的特征表示与原始数据的特征表示一致。直觉上，一致性为表示学习引入了额外的约束，因此，学习的表示更有可能专注于关于主要任务的正确信息。我们的实验结果验证了所提出的方法，并展示了最先进的性能在经典的领域自适应基准。代码可在https://github.com/Jiaolong/ss-da-consistency上获得。
2020-10-15 cs.CV
On the Metrics and Adaptation Methods for Domain Divergences of sEMG-based Gesture Recognition
Nokia Bell Labs（诺基亚贝尔实验室）
本文提出了一种新的度量域分歧的方法和一种新的领域自适应时间序列分类方法。该度量属于基于概率分布的度量类，是可转换的，并且不假设存在源数据样本。2阶段方法利用改进的自回归，基于RNN的架构，具有深度/非线性变换。我们评估我们的指标和我们的模型的性能在sEMG/EMG为基础的手势识别的上下文中会话间和学科间域的变化。
2019-12-18 cs.CV cs.LG stat.ML
A Source-Free Approach for Domain Adaptation via Multiview Image Transformation and Latent Space Consistency
Department of Computer Science and Engineering, United International University（计算机科学与工程系，国际大学）；Faculty of Science and Information Technology, Charles Darwin University（科学与信息技术学院，查尔斯达尔文大学）；Faculty of Science and Technology, Charles Darwin University（科学与技术学院，查尔斯达尔文大学）
本文提出了一种无源域适应方法，通过多视图图像变换和潜在空间一致性技术，直接从目标域学习域不变特征，提升分类准确率。
2026-01-28 cs.CV
Affine Transport for Sim-to-Real Domain Adaptation
Aalto University（阿尔托大学）；University of Manchester（曼彻斯特大学）
样本有效的领域自适应是机器人学中的一个开放性问题。在本文中，我们提出了仿射运输-最佳运输的一个变种，其模型的源和目标域之间的状态转移分布之间的映射与仿射变换。首先，我们推导出仿射传输框架，然后，我们扩展的基本框架与Procrustes对齐模型任意仿射变换。我们在一些OpenAI Gym模拟环境下的模拟到模拟实验中评估了该方法，以及机器人击中机器人的模拟到真实领域自适应任务，使其在目标位置滑动并停止。在每个实验中，我们评估的结果时，每对动力学域之间转移。结果表明，仿射传输可以显着减少模型自适应误差相比，使用原始的，非适应的动力学模型。
2021-05-25 cs.LG cs.RO
Self-Supervised Learning for Domain Adaptation on Point-Clouds
Bar-Ilan University（巴伊兰大学）；NVIDIA（英伟达）
自监督学习（Self-supervised learning，SSL）是一种从未标记数据中学习有用表示的技术。它已被有效地应用于图像和视频的领域自适应（DA）。它仍然是未知的，如果以及如何可以利用它的领域自适应在3D感知问题。在这里，我们描述了SSL的DA点云的第一次研究。我们引入了一个新的家庭的借口任务，变形重建，灵感来自模拟到真实的转换中遇到的变形。此外，我们提出了一种新的训练过程标记的点云数据的MixUp方法称为点云Mixup（PCM）的动机。对用于分类和分割的领域自适应数据集的评估表明，与现有方法和基线方法相比，有很大的改进。
2022-05-13 cs.CV cs.LG eess.IV
Deep Cross-modality Adaptation via Semantics Preserving Adversarial Learning for Sketch-based 3D Shape Retrieval
由于2D草图和3D形状之间存在很大的跨模态差异，因此通过草图检索3D形状是一项非常具有挑战性的任务。为了解决这个问题，本文提出了一个新的框架来学习有区别的深度跨模态适应模型。具体来说，我们首先分别采用两个度量网络，然后是两个深度卷积神经网络（CNN），基于重要性感知度量学习方法学习特定于模态的判别特征。随后，我们显式地引入了一个跨模态转换网络来补偿两种模态之间的分歧，它可以将2D草图的特征转换到3D形状的特征空间。我们开发了一种基于对抗学习的方法来训练转换模型，通过同时增强两种模态的数据分布之间的整体相关性，并通过最小化跨模态平均差异项来减轻局部语义分歧。在SHREC 2013和SHREC 2014数据集上的实验结果清楚地表明，与最先进的方法相比，我们提出的模型具有更好的检索性能。
2018-07-04 cs.CV
Domain Adaptation for Time-Series Classification to Mitigate Covariate Shift
Fraunhofer IIS（弗劳恩霍夫集成电路研究所）；LMU Munich（慕尼黑大学）；RWTH Aachen（亚琛工业大学）
针对机器学习模型面临的领域偏移导致性能下降问题，本文提出一种两步有监督领域自适应方法，通过类别相关变换和嵌入相似度选择实现域不变表示，在多类时间序列数据集上验证了有效性。
2022-07-15 cs.AI cs.LG
Cross-Sensor Adversarial Domain Adaptation of Landsat-8 and Proba-V images for Cloud Detection
本文提出了一种跨传感器对抗域适应方法，通过减少Landsat-8和Proba-V图像间的统计差异，提升云检测模型的性能。
2020-06-10 cs.LG eess.IV
On Label Shift in Domain Adaptation via Wasserstein Distance
Monash University（莫纳什大学）；VinAI Research（VinAI研究院）；University of Michigan, Ann Arbor（密歇根大学安娜堡分校）；University of Texas, Austin（德克萨斯大学奥斯汀分校）
我们研究了一般领域自适应（DA）设置中源域和目标域之间的标签偏移问题。我们考虑将目标转换到源域，这使我们能够对齐源和目标示例。通过这些转换，我们通过最佳传输定义了两个域之间的标签偏移，并发展了理论来研究DA在各种DA设置下的性质（例如，闭集、部分集、开集和通用集）。从发达的理论的启发，我们提出了标签和数据移位减少通过最佳传输（LDROT），可以减轻数据和标签偏移同时。最后，我们进行了全面的实验，以验证我们的理论研究结果，并比较LDROT与国家的最先进的基线。
2022-03-02 cs.LG stat.ME stat.ML
Randomized Histogram Matching: A Simple Augmentation for Unsupervised Domain Adaptation in Overhead Imagery
University of Michigan（密歇根大学）；Duke University（杜克大学）；University of Montana（蒙大拿大学）
本文提出随机直方图匹配（RHM）作为一种简单高效的无监督训练增强方法，用于缓解俯视影像中的视觉域偏移问题，在建筑物分割任务上以更低复杂度取得与最先进无监督域适应方法相当或更优的性能。
2023-08-11 cs.CV
Few-Shot Domain Adaptation For End-to-End Communication
University of Wisconsin - Madison（威斯康星大学麦迪逊分校）；IMDEA Networks Institute（IMDEA网络研究所）；XaiPient（XaiPient公司）
使用自动编码器的通信系统的端到端学习问题-由使用神经网络建模的编码器、信道和解码器组成-最近已被证明是一种有效的方法。在实际采用这种学习方法时面临的挑战是，在变化的信道条件（例如，无线链路）下，需要频繁地重新训练自动编码器，以便保持低解码出错率。由于再训练既耗时又需要大量样本，因此当信道分布快速变化时，再训练变得不切实际。我们建议使用一种快速且采样效率高（Few-Shot）的领域自适应方法来解决这个问题，该方法不会改变编码器和解码器网络。与传统的训练时间无监督或半监督领域自适应不同，这里我们有一个来自源分布的训练过的自动编码器，我们希望（在测试时）只使用一个小的标记数据集来适应目标分布，而没有未标记的数据。我们专注于基于高斯混合密度网络（MDN）的生成信道模型，并提出了一个正则化的，参数有效的适应MDN使用一组仿射变换。然后，学习的仿射变换用于在解码器输入处设计最优变换以补偿分布偏移，并且有效地呈现给接近源分布的解码器输入。许多模拟的分布变化常见的无线设置，和一个真正的毫米波FPGA测试平台上的实验证明了我们的方法在适应使用很少的目标域样本的有效性。我们工作的代码可以在https://github.com/jayaram-r/domain-adaptation-autoencoder上找到。
2023-03-04 cs.IT cs.LG eess.SP
Subspace Identification for Multi-Source Domain Adaptation
Guangdong University of Technology（广东工业大学）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Carnegie Mellon University（卡内基梅隆大学）；Shantou University（汕头大学）
针对现有多源域适应方法依赖严格假设的问题，提出子空间识别理论及基于变分推断的SIG模型，引入类别感知条件对齐应对目标偏移，在多个基准数据集上性能优于现有技术。
2023-12-14 cs.LG stat.ML
Student Becomes Decathlon Master in Retinal Vessel Segmentation via Dual-teacher Multi-target Domain Adaptation
Southern University of Science and Technology（南方科技大学）；The University of Hong Kong（香港大学）；Jiaxing Research Institute, Southern University of Science and Technology（南方科技大学嘉兴研究院）
最近提出了无监督域自适应来解决具有不同分布的训练数据和测试数据之间的所谓域移位。然而，它们大多只关注单目标域适配，不能应用于多目标域的场景。在本文中，我们提出了RVMS，一种新的无监督多目标域自适应方法分割视网膜血管（RV）从多模态和多中心视网膜图像。RVMS主要由风格增强和迁移（SAT）模块和双教师知识提取（DTKD）模块组成。SAT通过贝塞尔和傅立叶变换将图像增强和聚类为源相似域和源不相似域。DTKD利用增强和转换的数据来训练两个教师，一个用于源相似域，另一个用于源不相似域。之后，知识蒸馏进行迭代提取不同领域的知识，从教师到一般的学生。采用局部相对强度变换，以区域不变的方式来描述RVs，提高教师和学生模型的泛化能力。此外，我们从现有的公开数据集构建了一个新的多模式和多中心血管分割数据集，该数据集可用于基准测试各种域自适应和域泛化方法。通过大量的实验，RVms被发现在分割RV方面非常接近目标训练的Oracle，在很大程度上优于其他最先进的方法。
2022-10-12 cs.CV eess.IV
Correlation Alignment for Unsupervised Domain Adaptation
Microsoft（微软）；National University of Singapore（新加坡国立大学）；Boston University（波士顿大学）
在本章中，我们提出了相关对齐（CORAL），一个简单而有效的方法，无监督领域自适应。CORAL通过对齐源和目标分布的二阶统计量来最大限度地减少域偏移，而不需要任何目标标签。与子空间流形方法相比，它对齐源域和目标域的原始特征分布，而不是低维子空间的基。它也比其他分布匹配方法简单得多。CORAL在标准基准数据集的广泛评估中表现出色。我们首先描述了一种解决方案，该解决方案对源特征应用线性变换，以在分类器训练之前将它们与目标特征对齐。对于线性分类器，我们建议等效地将CORAL应用于分类器权重，当分类器的数量很小时，但目标示例的数量和维度非常高时，可以提高效率。在标准领域自适应基准测试中，所得到的CORAL线性判别分析（CORAL-LDA）的性能大大优于LDA。最后，我们扩展了CORAL来学习一个非线性变换，该变换可以调整深度神经网络（DNN）中层激活的相关性。由此产生的Deep CORAL方法与DNN无缝协作，并在标准基准数据集上实现了最先进的性能。我们的代码可从以下网址获得：~ \url{https://github.com/VisionLearningGroup/CORAL}
2016-12-06 cs.AI cs.CV cs.NE
Local Consensus Enhanced Siamese Network with Reciprocal Loss for Two-view Correspondence Learning
Anhui University（安徽大学）；Fudan University（复旦大学）；Zhejiang Normal University（浙江师范大学）
本文提出局部特征一致性模块和互逆损失，将双视图对应学习扩展为孪生网络，在不增加参数的情况下提升内点分类与匹配性能，并在基准数据集上达到最先进水平。
2023-08-06 cs.CV cs.LG
Evaluation of Neural Networks Defenses and Attacks using NDCG and Reciprocal Rank Metrics
Ariel University（阿里尔大学）
本文针对对抗样本攻击与防御评估中传统分类指标区分度不足的问题，借鉴信息检索中的NDCG和倒数排名指标，提出了两种适用于多类分类任务的新颖评估指标，并在VGG19模型和ImageNet数据集上验证了其卓越的信息量和区分度。
2022-01-10 cs.CR cs.CV cs.LG
Reciprocal Co-Training (RCT): Coupling Gradient-Based and Non-Differentiable Models via Reinforcement Learning
Department of Computer and Information Science, Fordham University（福特汉姆大学计算机与信息科学系）；Department of Neurology, Mass General Brigham（麻省总医院神经科）
本文提出互惠协同训练框架，通过强化学习耦合大语言模型与随机森林分类器，实现双向适应，提升医疗数据集上两种模型的性能。
2026-06-23 cs.CL cs.LG
Connecting adversarial attacks and optimal transport for domain adaptation
ITMO University（ITMO大学）；Artificial Intelligence Research Institute（人工智能研究院）；Skolkovo Institute of Science and Technology（斯科尔科沃科学技术学院）；Eberhard Karls Universität Tübingen（蒂宾根大学）
我们提出了一种新的算法领域自适应使用最佳传输。在领域自适应中，目标是使在源域样本上训练的分类器适应目标域。在我们的方法中，我们使用最佳的运输映射目标样本的域命名为源小说。该域不同于源，但被源域分类器准确地分类。我们的主要思想是在目标域上通过c-循环单调变换生成一个源小说。如果在两个域中具有相同标签的样本是c-循环单调的，则这些域之间的最优传输映射保持类结构，这是领域自适应的主要目标。为了生成一个源小说域，我们提出了一个算法，该算法是基于我们的发现，对抗攻击是一个c-循环单调变换的数据集。我们在Digits和Modern Office-31数据集上进行了实验，并为所有适应任务实现了简单离散最优传输求解器的性能改进。
2022-06-04 cs.LG
SmartMem: Layout Transformation Elimination and Adaptation for Efficient DNN Execution on Mobile
University of Georgia（佐治亚大学）；William & Mary（威廉玛丽学院）；North Carolina State University（北卡罗来纳州立大学）；University of Texas at Arlington（德克萨斯大学阿灵顿分校）
本文提出SmartMem框架，通过消除计算算子间布局变换并优化2.5维内存布局，在18个神经网络上平均实现2.8倍至7.9倍于现有框架的加速。
2024-04-21 cs.AI cs.DC cs.LG
Model-based adaptation for sample efficient transfer in reinforcement learning control of parameter-varying systems
Institute for Software Integrated Systems（软件集成系统研究所）；Vanderbilt University（范德堡大学）
本文提出一种基于模型的控制策略转换方法作为强化学习初始化，解决了参数变化系统中的样本效率问题，在模型已知或未知时均能保证正向迁移并提升学习效率。
2023-05-20 cs.LG cs.SY eess.SY
