AutoTune: Automatically Tuning Convolutional Neural Networks for Improved Transfer Learning
Indian Institute of Information Technology Sri City（斯里城印度信息技术学院）
迁移学习通过使用在大规模数据集上训练的预训练深度网络来解决具有有限数据的特定任务。通常，在将学习到的知识从源任务转移到目标任务时，最后几层在目标数据集上进行微调（重新训练）。但是，这些层最初是为源任务设计的，可能不适合目标任务。在本文中，我们介绍了一种用于自动调整卷积神经网络（CNN）以改进迁移学习的机制。预训练的CNN层使用贝叶斯优化利用来自目标数据的知识进行调整。首先，我们通过将softmax层中的神经元数量替换为目标任务中涉及的类数量来训练基础CNN模型的最后一层。接下来，通过观察验证数据（贪婪标准）的分类性能，自动调整预训练的CNN。为了评估所提出的方法的性能，在三个基准数据集上进行实验，例如，加州理工101，加州理工256，还有斯坦福狗通过所提出的AutoTune方法获得的分类结果优于标准基线迁移学习方法，在三个数据集上分别实现$95.92\%$、$86.54\%$和$84.67\%$对CalTech-101、CalTech-256和Stanford Dogs的准确性。在这项研究中获得的实验结果表明，调整预训练的CNN层与来自目标数据集的知识承认更好的迁移学习能力。源代码可在https://github.com/JekyllAndHyde8999/AutoTune_CNN_TransferLearning上获得。
2020-12-03 cs.CV cs.LG
Benchmarking Few-shot Transferability of Pre-trained Models with Improved Evaluation Protocols
University of Electronic Science and Technology of China（电子科技大学）；Southwest Jiaotong University（西南交通大学）；Tongji University（同济大学）
本文提出FEWTRANS基准和HPE协议，揭示预训练模型选择对少样本迁移性能的主导作用，并分析全微调在避免过拟合方面的有效性。
2026-02-28 cs.CV cs.LG
LSTrans: Efficient Knowledge Transfer for Lightweight and Automated ECG Classification
School of Mechano-Electronic Engineering Xidian University Xi'an, China（机械电子工程学院 西安电子科技大学 西安中国）；School of Cyber Engineering Xidian University Xi'an, China（网络工程学院 西安电子科技大学 西安中国）；DCST, BNRist, RIIT, Institute of Internet Industry Tsinghua University Beijing, China（DCST、BNRist、RIIT、互联网产业研究院 清华大学 北京中国）
针对可穿戴设备上心电图分类计算成本高的问题，提出轻量级混合模型LSTrans，它结合一维卷积主干、Transformer编码器及知识蒸馏，在多基准数据集实验中实现诊断灵敏度与资源效率的平衡，减少内存占用和训练延迟。
2026-07-14 cs.AI cs.LG
CellStyle: Improved Zero-Shot Cell Segmentation via Style Transfer
Institute of Imaging and Computer Vision, RWTH Aachen University, Germany（成像与计算机视觉研究所，亚琛RWTH大学，德国）
CellStyle通过风格迁移技术，在无需目标数据标注的情况下提升零样本细胞分割性能。
2026-01-26 cs.CV cs.LG
Automated Detection of Dolphin Whistles with Convolutional Networks and Transfer Learning
针对海洋生态声学监测中人工分析声学数据耗时的问题，提出基于卷积神经网络的海豚哨声自动检测方法，在噪声环境下仍能有效检测并降低误检与漏检率，助力海洋生态自动监测。
2022-11-28 cs.CV cs.LG cs.SD
Interpretable Automated Machine Learning in Maana(TM) Knowledge Platform
Maana, Inc.（Maana公司）
机器学习正在成为许多工业应用开发解决方案的重要组成部分，但缺乏可解释性阻碍了快速构建、测试、部署和验证机器学习模型的广泛行业采用，因为开发机器学习解决方案的洞察力没有在结构上编码、合理化和转移。在本文中，我们描述了Maana元学习服务，一个可解释的和交互式的自动机器学习服务驻留在Maana知识平台，执行机器引导，用户辅助管道搜索和超参数调整，并生成结构化的知识的管道分析和选择的决定。该服务随Maana知识平台提供，并使用基准数据集进行验证。此外，它从管道搜索中获取知识的能力促进了各种推理任务，并转移到类似的数据科学项目。
2019-05-06 cs.AI cs.LG
Domain-specific transfer learning in the automated scoring of tumor-stroma ratio from histopathological images of colorectal cancer
University of Jyväskylä（于韦斯屈莱大学）；Oulu University Hospital（奥卢大学医院）；University of Oulu（奥卢大学）；Tampere University（坦佩雷大学）；University of Turku（图尔库大学）；Turku University Hospital（图尔库大学医院）；Hospital Nova of Central Finland（中芬兰新星医院）
本文提出基于卷积神经网络的结直肠癌组织病理图像 TSR 自动估算方法，评估领域特定迁移学习，最高三类分类准确率达 96.1%，与病理学家评估相关性为 0.57。
2022-12-30 cs.CV cs.LG q-bio.QM
KITE: A Kernel-based Improved Transferability Estimation Method
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文提出基于核的可迁移性估计方法Kite，利用中心核对齐评估预训练特征的可分离性和与随机特征的相似性，在大规模模型选择基准上显著优于现有方法。
2024-05-01 cs.LG
Automated Testing of Spatially-Dependent Environmental Hypotheses through Active Transfer Learning
Australian Centre for Field Robotics, University of Sydney（悉尼大学澳大利亚野外机器人中心）
针对户外信息采样成本高、先验数据与目标量关系未知的问题，提出结合多任务高斯过程与信息目标函数的主动迁移学习方法，可实时评估假设并高效采样，显著降低预测误差。
2024-03-07 cs.LG cs.RO
Quantum Transfer Learning Shows Improved Robustness in Low-Data Regimes
Department of Engineering Science, National Cheng Kung University, Tainan 701401, Taiwan（工程科学系，国立成功大学，台中701401，台湾）；Department of Physics, Chung Yuan Christian University, Chungli 32081, Taiwan（物理系， Chung Yuan Christian University， Chungli 32081，台湾）；Physics Division, National Center for Theoretical Sciences, Taipei 106319, Taiwan（理论科学研究中心物理组，台北106319，台湾）；Institute of Photonics Technologies, National Tsing Hua University, Hsinchu 30013, Taiwan（光电科技研究所，国立清华大学，新竹30013，台湾）
本文研究了量子模型在低数据环境下的鲁棒性，通过对比多种量子和经典架构，发现量子模型在数据有限时表现更稳定，具有更高的数据效率。
2026-05-09 cs.LG quant-ph
Automated PII Extraction from Social Media for Raising Privacy Awareness: A Deep Transfer Learning Approach
University of Arizona（亚利桑那大学）；University of Maryland（马里兰大学）；University of South Florida（南佛罗里达大学）；University of Georgia（佐治亚大学）
互联网用户在社交媒体上暴露了越来越多的个人身份信息（PII）。此类暴露的PII可能会给用户造成严重损失，告知用户他们的PII暴露对于提高他们的隐私意识并鼓励他们采取保护措施至关重要。为此，需要先进的自动化技术。虽然信息抽取（IE）技术可用于自动提取PII，但基于深度学习（DL）的IE模型减轻了对特征工程的需求并进一步提高了效率。然而，基于DL的IE模型通常需要大规模的标记数据进行训练，但由于隐私问题，PII标记的社交媒体帖子很难获得。此外，这些模型严重依赖于预先训练的词嵌入，而社交媒体中的PII通常形式不同，因此在预先训练的词嵌入中没有固定的表示。在这项研究中，我们提出了用于PII提取的深度迁移学习（DTL-PIIE）框架来解决这两个限制。DTL-PIIE将从公开的PII数据中学到的知识转移到社交媒体，以解决罕见的PII标记数据的问题。此外，我们的框架利用图卷积网络（GCN）来整合语法模式来指导PIIE，而不依赖于预先训练的词嵌入。对基准IE模型的评估表明，我们的方法优于国家的最先进的DL为基础的IE模型。我们的框架可以促进各种应用，如PII误用预测和隐私风险评估，保护互联网用户的隐私。
2021-11-11 cs.AI cs.LG cs.SI
An Improved Transfer Model: Randomized Transferable Machine
Bytedance（字节跳动）；Nanyang Technological University（南洋理工大学）
基于知识的迁移是迁移学习最有效的方法之一。现有的研究通常假设学习到的新特征表示是\emph{domain-invariant}，从而在源域上训练传递模型$\mathcal{M}$。在本文中，我们考虑了一个更现实的情况下，新的功能表示是次优和小分歧仍然存在跨域。我们提出了一个新的传输模型称为随机可传输机（RTM）来处理这样的小分歧域。具体来说，我们的工作是从现有的基于特征的传输方法中学习到的新的源数据和目标数据。其关键思想是通过使用一些噪声随机破坏新的源数据来扩大源训练数据群体，然后训练传递模型$\widetilde{\mathcal{M}}$，该模型在所有被破坏的源数据群体上表现良好。原则上，产生的破坏越多，新的目标数据被构造的源数据群体覆盖的概率就越高，因此$\widetilde{\mathcal{M}}$可以实现更好的传输性能。理想的情况是无限腐败，但这在现实中是不可行的。我们开发了一个边缘化的解决方案，使训练一个$\widetilde{\mathcal{M}}$，而不进行任何腐败，但相当于使用无限的源噪声数据种群进行训练。我们进一步提出了$\widetilde{\mathcal{M}}$的两个实例，从理论上证明了它比传统的迁移模型$\mathcal{M}$的迁移优越性。更重要的是，这两个实例化都有封闭形式的解决方案，从而实现了快速有效的训练过程。在各种实际迁移任务上的实验表明…
2022-04-21 cs.AI cs.LG
A Transfer Learning Approach for Automated Segmentation of Prostate Whole Gland and Transition Zone in Diffusion Weighted MRI
University of Toronto（多伦多大学）；Lunenfeld-Tanenbaum Research Institute, Sinai Health System（Sinai Health System 伦内菲尔德-塔嫩鲍姆研究所）；Brigham and Women’s Hospital（布莱根妇女医院）；The Hospital for Sick Children（SickKids 医院）
磁共振扩散加权成像（DWI）中前列腺全腺和移行区的分割是设计前列腺癌计算机辅助检测算法的第一步。然而，MRI采集参数和扫描仪制造的变化导致图像中前列腺组织的不同外观。卷积神经网络（CNN）已被证明是成功的各种医学图像分析任务，包括分割通常是敏感的成像参数的变化。这种敏感性导致在源队列上训练并在来自不同扫描仪的目标队列上测试的CNN的分割性能较差，因此，它限制了CNN用于跨队列训练和测试的适用性。在DWI图像中勾画前列腺全腺和移行区的轮廓耗时且昂贵。因此，重要的是使CNN能够在源域的图像上进行预训练，以最小的要求从目标域手动分割图像来分割目标域的图像。在这项工作中，我们提出了一种基于改进的U-网络架构和损失函数的迁移学习方法，用于使用在源数据集上预训练并在目标数据集上测试的CNN分割DWI中的前列腺整个腺体和过渡区。我们探索了用于微调预训练的CNN的目标数据集子集的大小对整体分割准确度的影响。我们的研究结果表明，与微调数据少至30名患者从目标域，所提出的基于迁移学习的算法可以达到骰子得分系数为0.80的前列腺全腺和过渡区分割。使用微调数据的115例患者从目标域，骰子得分系数为0.85和0.84，分别实现了整个腺体和过渡区的分割，在目标域。
2020-10-28 cs.CV cs.LG eess.IV
Automated identification of neural cells in the multi-photon images using deep-neural networks
Yonsei University College of Medicine（延世大学医学院）；Yonsei University（延世大学）
神经科学成像技术的进步产生了前所未有的神经细胞成像数据，这需要自动化处理。特别地，从双光子图像中识别细胞需要从各种材料中分割神经细胞并根据其细胞类型对分割的细胞进行分类。为了自动分割神经细胞，我们使用U-Net模型，然后使用迁移学习技术对兴奋性和抑制性神经元以及胶质细胞进行分类。对于迁移学习，我们测试了三个公共模型resnet 18，resnet 50和inceptionv 3，在将完全连接层替换为三个类之后。最好的分类性能被发现与inceptionv 3的模型。深度学习技术的拟议应用有望为神经科学大数据时代的细胞识别提供一种关键方法。
2019-09-25 cs.LG cs.SY eess.IV
Bullseye Polytope: A Scalable Clean-Label Poisoning Attack with Improved Transferability
University of California, Santa Barbara（加州大学圣巴巴拉分校）
最近关注神经网络安全性的一个来源是干净标签数据集中毒攻击的出现，其中正确标记的中毒样本被注入到训练数据集中。虽然这些有毒样本对人类观察者来说看起来是合法的，但它们包含恶意特征，这些特征会在推理过程中触发有针对性的错误分类。针对迁移学习，提出了一种可扩展、可转移的清洁标签中毒攻击方法，该方法在特征空间中创建中心靠近目标图像的中毒图像。我们的攻击Bullseye Polytope在端到端迁移学习中将当前最先进的攻击成功率提高了26.75%，同时将攻击速度提高了12倍。我们进一步将靶心多面体扩展到更实用的攻击模型，包括同一对象的多个图像（例如，从不同的角度）制作毒药样本时。我们证明，这种扩展提高了攻击的可转移性超过16%，看不见的图像（相同的对象），而不使用额外的毒药样本。
2021-03-14 cs.CR cs.LG stat.ML
Using Task Descriptions in Lifelong Machine Learning for Improved Performance and Zero-Shot Transfer
University of Pennsylvania（宾夕法尼亚大学）
任务之间的知识转移可以提高学习模型的性能，但需要准确估计任务间的关系，以确定相关的知识转移。这些任务间关系通常基于每个任务的训练数据来估计，这在终身学习环境中是低效的，其中目标是从尽可能少的数据快速学习每个连续任务。为了减轻这种负担，我们开发了一种终身学习方法的基础上耦合字典学习，利用高层次的任务描述建模的任务间的关系。我们发现，使用任务描述符提高了学习任务政策的性能，提供了理论依据的好处和经验证明，在各种学习问题的改善。仅给定新任务的描述符，终身学习者还能够通过使用耦合字典的零样本学习来准确地预测新任务的模型，从而消除了在解决任务之前收集训练数据的需要。
2017-10-10 cs.LG stat.ML
RobustSleepNet: Transfer learning for automated sleep staging at scale
Dreem（Dreem公司）
睡眠障碍的诊断依赖于多导睡眠图（PSG）记录的分析。作为该检查的初步步骤，系统地确定睡眠阶段。在实践中，睡眠阶段分类依赖于多导睡眠图信号的30秒时期的视觉检查。已经开发了许多自动方法来取代这种繁琐而昂贵的任务。尽管这些方法在特定数据集上表现出比人类睡眠专家更好的性能，但它们在睡眠诊所中仍基本未被使用。主要原因是每个睡眠诊所使用特定的PSG导联，大多数自动方法无法处理开箱即用。此外，即使PSG蒙太奇是兼容的，出版物已经表明，自动方法在具有不同人口统计的看不见的数据上表现不佳。为了解决这些问题，我们引入了RobustSleepNet，这是一种用于自动睡眠阶段分类的深度学习模型，能够处理任意PSG导联。我们在8个异构睡眠分期数据集的大型语料库上以留一数据集的方式训练和评估了该模型，以使其对人口统计学变化具有鲁棒性。当在一个看不见的数据集上进行评估时，RobustSleepNet达到了在该数据集上显式训练的模型的F1的97%。因此，RobustSleepNet开启了在任何临床设置下执行高质量开箱即用自动睡眠分期的可能性。我们进一步表明，与专门为此数据集训练的模型相比，使用一部分看不见的数据集对RobustSleepNet进行微调，使F1增加了2%。因此，微调可以用于在特定人群上达到最先进的性能水平。
2021-06-18 cs.LG eess.SP stat.ML
Transferable Neural Processes for Hyperparameter Optimization
Tencent AI Lab（腾讯人工智能实验室）；College of Information Science and Technology, Pennsylvania State University（宾夕法尼亚州立大学信息科学与技术学院）
自动化机器学习旨在自动化机器学习的整个过程，包括模型配置。在本文中，我们专注于自动超参数优化（HPO）的顺序基于模型的优化（SMBO）的基础上。虽然传统的SMBO算法在丰富的HPO试验可用时工作良好，但它们在实际应用中远非令人满意，其中在巨大数据集上的试验可能是如此昂贵，以至于期望在尽可能少的试验中返回最佳超参数配置。观察到人类专家通过尝试曾经在其他数据集上表现良好的配置来利用他们在机器学习模型中的专业知识，我们受到启发，通过转移其他数据集上历史HPO试验的知识来加速HPO。我们提出了一种端到端的高效HPO算法，称为转移神经过程（TNP），它通过在其他数据集上进行试验来实现迁移学习，使用良好的广义参数初始化模型，并学习一组初始超参数来进行评估。在大量OpenML数据集和三个计算机视觉数据集上的实验表明，该模型可以在至少一个数量级的试验中达到最先进的性能。
2019-09-10 cs.AI cs.LG stat.ML
A Multispectral Automated Transfer Technique (MATT) for machine-driven image labeling utilizing the Segment Anything Model (SAM)
针对 SAM 无法处理可见光谱外图像的问题，提出多光谱自动迁移技术 (MATT)，通过转换 RGB 图像的分割掩码实现多光谱图像的高效自动分割与标注，在大幅节省训练时间的同时仅带来极小的精度损失。
2024-02-18 cs.CV cs.LG
Improved Allergy Wheal Detection for the Skin Prick Automated Test Device
Ghent University–imec（根特大学–imec）；D2LAB, Ghent University（根特大学）；Hippo Dx；Cliniques Universitaires Saint-Luc（圣吕克大学诊所）；Klinikum rechts der Isar（伊萨尔右岸医院）；GZA Sint-Augustinus（GZA圣奥古斯丁医院）；ZOL；CHU Liège（列日大学医院）；KU Leuven（鲁汶大学）；UZ Leuven（鲁汶大学医院）；Zurich University of Applied Sciences（苏黎世应用科学大学）；AZ Herentals（赫伦塔尔斯医院）
本文针对SPAT设备在32种光照条件下采集的图像，提出神经网络分割加可解释算法的风团检测与勾画方法，在217名患者验证集上证明多光照图像显著优于单张常规光照图像。
2025-06-06 cs.CV cs.LG
Improved Object-Based Style Transfer with Single Deep Network
College of Engineering Pune Technological University（浦那工程技术大学工程学院）
本研究提出一种基于单深度卷积神经网络的对象级风格迁移方法，整合YOLOv8分割与骨干网络，简化训练部署，可实现单/多对象的风格无缝迁移并保留对象特征。
2024-04-15 cs.CV cs.LG
Improved automated lesion segmentation in whole-body FDG/PET-CT via Test-Time Augmentation
University of Copenhagen（哥本哈根大学）
许多肿瘤适应症已经使用正电子发射断层扫描（PET）和计算机断层扫描（CT）广泛量化代谢活性肿瘤。氟脱氧葡萄糖-正电子发射断层扫描（FDG-PET）经常用于临床实践和临床药物研究，以检测和测量代谢活跃的恶性肿瘤。在FDG-PET图像中使用手动或计算机辅助肿瘤分割来评估肿瘤负荷是普遍的。深度学习算法也在这一领域产生了有效的解决方案。然而，可能需要在没有机会修改该网络的情况下提高预先训练的深度学习网络的性能。我们研究了PET-CT配对中分割肿瘤的测试时间增强的潜在益处。我们应用了一个新的框架，多层次和多模式的肿瘤分割技术，可以同时考虑PET和CT数据。在这项研究中，我们使用一个可学习的测试时间增加组合来改进网络。我们在训练数据库上训练了U-Net和Swin U-Netr，以确定不同的测试时间增强如何提高分割性能。我们还开发了一个算法，找到一个最佳的测试时间增强贡献系数集。使用新训练的U-Net和Swin U-Netr结果，我们定义了一组用于测试时增强的最佳系数，并将其与预先训练的固定nnU-Net结合使用。最终的想法是在模型固定的情况下提高测试时的性能。对增强数据上具有不同比率的预测进行平均可以提高预测准确性。我们的代码将在\url{https://github.com/sepidehamiri/pet\_seg\_unet}上提供
2022-10-14 cs.CV cs.LG eess.IV
A Call for Standardization and Validation of Text Style Transfer Evaluation
RPTU Kaiserslautern-Landau（凯泽斯劳滕-兰道莱茵兰-普法尔茨工业大学）
针对TST评估不一致的问题，本文通过元分析揭示人工与自动评估在标准化和指标验证上的缺口，并提出未来研究应满足的要求。
2023-06-01 cs.CL cs.LG
Embedding Transfer with Label Relaxation for Improved Metric Learning
POSTECH（浦项科技大学）
本文提出了一种新的嵌入转移方法，将学习到的嵌入模型的知识转移到另一个。我们的方法利用源嵌入空间中样本之间的成对相似性作为知识，并通过用于学习目标嵌入模型的损失来转移它们。为此，我们设计了一个新的损失称为放松对比损失，它采用成对的相似性作为放松标签的样本间的关系。我们的损失提供了一个丰富的监督信号超越类等价，使更重要的对有助于更多的训练，并没有限制目标嵌入空间的流形。在度量学习基准上的实验表明，该方法大大提高了性能，或者有效地减少了目标模型的大小和输出维度。我们进一步表明，它也可以用来提高质量的自我监督表示和分类模型的性能。在所有的实验中，我们的方法明显优于现有的嵌入转移技术。
2021-03-27 cs.AI cs.CV cs.LG
Structural Similarity for Improved Transfer in Reinforcement Learning
Johns Hopkins University Applied Physics Lab（约翰斯·霍普金斯大学应用物理实验室）
迁移学习是开发高性能RL代理的一种越来越常见的方法。然而，如何定义源任务和目标任务之间的关系，以及这种关系如何有助于成功的转移，还没有得到很好的理解。我们提出了一种算法，称为结构相似性两个MDPS，或SS 2，计算状态相似性度量的状态在两个有限的MDPs基于先前开发的互模拟度量，并表明该措施满足的距离度量的属性。然后，通过GridWorld导航任务的实证结果，我们提供的证据表明，距离测量可以用来提高传输性能的Q-Learning代理比以前的实现。
2022-07-27 cs.LG
Description of Corner Cases in Automated Driving: Goals and Challenges
本文探讨了自动驾驶中角落情况的描述目标与挑战，强调了机器可解释描述的重要性及当前研究的不足。
2025-11-24 cs.LG cs.RO
Text Style Transfer Evaluation Using Large Language Models
RPTU Kaiserslautern-Landau（凯撒斯劳滕-兰道工业大学）
本文研究TST自动评估问题，通过多提示比较不同LLM，发现零样本LLM评分与人工评估强相关且优于传统指标，并提出提示集成以提升稳健性。
2023-09-23 cs.CL cs.LG
Renofeation: A Simple Transfer Learning Method for Improved Adversarial Robustness
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Cloud and AI（微软云与人工智能）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
通过从大规模数据集上的预训练模型进行知识转移进行微调是一种广泛传播的方法，可以有效地在小规模数据集上构建模型。在这项工作中，我们证明了最近通过重新训练最后一个线性层为迁移学习设计的对抗攻击可以成功地欺骗通过端到端微调进行迁移学习训练的模型。这引起了许多工业应用的安全问题。相比之下，使用随机初始化训练而没有传输的模型对此类攻击更具鲁棒性，尽管这些模型通常表现出低得多的准确性。为此，我们提出了噪声特征提取，这是一种新的迁移学习方法，可以从随机初始化训练网络，同时实现与微调竞争的干净数据性能。代码可在https://github.com/cmu-enyac/Renofeation获得。
2021-04-28 cs.CR cs.CV cs.LG
Improved Neural Text Attribute Transfer with Non-parallel Data
IBM Research AI（IBM 人工智能研究院）；T. J. Watson Research Center（T. J. 沃森研究中心）
使用非并行数据的文本属性传输需要能够执行内容和语言属性的分离的方法。在这项工作中，我们提出了多种改进现有的方法，使编码器-解码器框架，以应付从非并行数据的文本属性传输。我们使用两个数据集进行情感转移任务的实验。对于这两个数据集，我们提出的方法在三个评估指标中的两个方面优于强基线。
2017-12-04 cs.AI cs.CL cs.LG
DeepTriage: Automated Transfer Assistance for Incidents in Cloud Services
Microsoft（微软）
随着云服务的增长和产生高收入，这些服务的停机成本变得非常昂贵。为了减少损失和服务停机时间，一个关键的主要步骤是执行事件分类，及时将服务事件分配给正确的负责团队。不正确的分配可能会导致额外的事件重新路由，并使缓解时间增加10倍。然而，大型云服务中的自动化事件分类面临许多挑战：（1）来自大量团队的高度不平衡的事件分布，（2）输入数据或数据源的格式多种多样，（3）扩展以满足生产级要求，以及（4）获得工程师对使用机器学习建议的信任。为了应对这些挑战，我们引入了DeepTriage，这是一种智能事件转移服务，它结合了多种机器学习技术-梯度提升分类器，聚类方法和深度神经网络-用于推荐负责团队对事件进行分类。在Microsoft Azure上的真实事件上的实验结果表明，我们的服务达到了82.9%的F1分数。对于高度受影响的事件，DeepTriage的F1得分为76.3% -91.3%。我们已经应用了最佳实践和最先进的框架来扩展DeepTriage，以处理所有云服务的事件路由。DeepTriage自2017年10月以来一直部署在Azure中，每天有数千个团队使用。
2020-11-25 cs.AI cs.CL cs.DC
Toward Improved Generalization: Meta Transfer of Self-supervised Knowledge on Graphs
University of Southern California（南加州大学）
尽管图卷积网络在功能性脑活动分析中取得了显著的成功，但功能模式的异质性和成像数据的稀缺性仍然给许多任务带来了挑战。将知识从具有丰富训练数据的源域转移到目标域对于改进在稀缺训练数据上的表示学习是有效的。然而，传统的迁移学习方法往往无法推广的预训练知识的目标任务，由于领域的差异。图上的自监督学习可以增加图特征的泛化能力，因为自监督集中于不限于特定监督任务的固有图属性。针对功能磁共振成像数据的异质性和稀缺性，提出了一种新的融合元学习和自监督学习的知识转移策略。具体来说，我们在源域上执行自监督任务，并应用元学习，这大大提高了使用双层优化的模型的泛化能力，将自监督知识转移到目标域。通过对神经系统疾病分类任务的实验，我们证明了所提出的策略通过增加基于图的知识的泛化性和可转移性来显着提高目标任务的性能。
2022-12-16 cs.LG
FOLD-R++: A Scalable Toolset for Automated Inductive Learning of Default Theories from Mixed Data
The University of Texas at Dallas（得克萨斯大学达拉斯分校）
FOLD-R是一个自动化的归纳学习算法，用于学习混合（数值和分类）数据的默认规则。它为分类任务生成一个（可解释的）答案集编程（ASP）规则集。我们提出了一种改进的FOLD-R算法，称为FOLD-R++，显着提高了效率和可扩展性的FOLD-R的数量级。FOLD-R++对FOLD-R进行了改进，在编码或特征选择阶段不会损害或丢失输入训练数据中的信息。FOLD-R++算法在性能上与广泛使用的XGBoost算法具有竞争力，然而，与XGBoost不同，FOLD-R++算法产生可解释的模型。FOLD-R++在性能上也与RIPPER系统具有竞争力，但在大型数据集上，FOLD-R++优于RIPPER。我们还创建了一个强大的工具集相结合的FOLD-R++与s（CASP）-目标导向的ASP执行引擎，使预测新的数据样本使用的答案集程序生成的FOLD-R++。s（CASP）系统也为预测提供了一个理由。本文提出的实验表明，我们改进的FOLD-R++算法是一个显着的改进，比原来的设计和s（CASP）系统可以在一个有效的方式，以及进行预测。
2022-02-14 cs.LG
MetaScenes: Towards Automated Replica Creation for Real-world 3D Scans
State Key Laboratory of General Artificial Intelligence, BIGAI（通用人工智能国家重点实验室，BIGAI）；Beijing Institute of Technology（北京理工大学）；Tsinghua University（清华大学）；University of Science and Technology of China（中国科学技术大学）
本文提出MetaScenes大规模可仿真三维场景数据集和Scan2Sim多模态对齐模型，实现基于真实扫描的自动化资产替换，并通过场景合成与VLN领域迁移两个基准验证其对具身人工智能泛化和仿真到现实迁移的促进作用。
2025-05-05 cs.AI cs.CV cs.LG
Transfer-Stratified On-Policy Distillation for RL-Improved Reasoning Teachers
本研究提出迁移分层在线策略蒸馏（TS-OPD），通过按学生与教师联合成功筛选问题并路由至门控前向/反向KL，在数学推理中实现强化学习改进教师对学生模型的结构化迁移，提升宏平均正确率。
2026-10-06 cs.AI cs.LG
Learning Improved Representations by Transferring Incomplete Evidence Across Heterogeneous Tasks
Institute of Informatics
为未标记的数据获取基础事实标签可能是一个昂贵的过程，因为它通常需要容易出错的手工劳动。因此，由于手工数据标记的局限性，可用的标记数据量日益减少。可以通过执行自动标记或众包注释程序来增加标记数据样本的数量。然而，它们通常会在标签集中引入噪声或不确定性，这会导致监督式深度学习方法的性能下降。另一方面，弱监督方法在嘈杂的标签集期间仍然是鲁棒的，或者即使在少量标记数据的情况下也是有效的。在本文中，我们评估的有效性的表示学习方法，使用外部分类证据称为“证据转移”，对低量的相应的证据称为不完整的证据。证据转移是一种针对外部未知分类证据的鲁棒解决方案，这些证据可能会引入噪声或不确定性。在我们的实验评估中，证据转移被证明是有效的和强大的对不同程度的不完整性，两种类型的不完整证据。
2019-12-22 cs.AI cs.LG stat.ML
Textual Explanations for Automated Commentary Driving
UVC Partners（UVC合伙公司）；University of Oxford（牛津大学）；Oxford Robotics Institute（牛津机器人研究所）
本文提出一种改进的自动驾驶解释生成模型，通过集成词性预测和特殊标记惩罚，在BDD-X数据集上使BLEU指标比SOTA提升7.7倍，推动可解释自动驾驶发展。
2023-04-12 cs.AI cs.CL cs.HC
Forecasting in Big Data Environments: an Adaptable and Automated Shrinkage Estimation of Neural Networks (AAShNet)
Virginia Tech（弗吉尼亚理工学院）；Emory University（埃默里大学）
本文考虑在可能的非线性动态环境中改进预测，高维预测（“大数据”环境）。为了克服维数灾难并管理数据和模型复杂性，我们研究了具有跳层连接的深度神经网络的反向传播算法的收缩估计。我们明确地包括线性和非线性分量。这是一种高维学习方法，包括稀疏性L1和平滑性L2惩罚，允许在一个步骤中容纳高维和非线性。这种方法选择重要的预测因子以及神经网络的拓扑结构。我们通过结合基于梯度的优化技术来估计收缩超参数的最佳值，从而获得具有更高重现性的稳健预测。后者在某些方法中是一个问题。这在统计上是可以解释的，并且可以解开一些网络结构，通常留给黑匣子。另一个优点是，如果底层过程是线性的，则非线性部分往往会被修剪。在一个股票收益预测的应用中，所提出的方法捕捉股票之间的非线性动态，以提高预测性能。它提供了一个明显的改善，目前的单变量和多变量模型的均方根误差和实际的投资组合的表现。
2019-04-25 cs.LG econ.EM q-fin.ST
