Fine-tuning Vision Classifiers On A Budget
本文提出 Ground Truth Extension (GTX) 方法，利用朴素贝叶斯模型结合标注者准确度先验估计真实标签，在固定预算下用更少人工标签实现视觉分类器的有效微调。
2024-09-30 cs.CV cs.LG
Diffusion-Driven Two-Stage Active Learning for Low-Budget Semantic Segmentation
Ewha Womans University（梨花女子大学）；University of British Columbia（不列颠哥伦比亚大学）；Yonsei University（延世大学）；Seoul National University（首尔大学）；Amii（阿尔伯塔机器智能研究所）
本文提出一种两阶段主动学习流程，利用预训练扩散模型提取多尺度特征，结合MaxHerding和熵增强不一致性分数，在极低像素预算下实现高精度语义分割，并在四个基准上超越现有方法。
2025-10-25 cs.CV
WHERE to Generate Matters: Budget-Aware Synthetic Augmentation for Label Skewed Federated Learning
Chung-Ang University（中央大学）
研究标签倾斜联邦学习问题，提出FedEAS策略，根据客户端本地标签分布分配熵自适应生成预算，决定生成量与样本流向，在大幅减少生成预算的同时恢复准确性提升，性能优于均匀分配。
2026-07-09 cs.AI cs.CV cs.LG
ConBatch-BAL: Batch Bayesian Active Learning under Budget Constraints
Delft University of Technology（代尔夫特理工大学）
本文提出两种预算约束下的批量贝叶斯主动学习策略ConBatch-BAL，通过动态阈值或贪心选择样本，并发布两个地理定位航拍图像数据集，实验证明其能减少迭代次数和获取成本。
2025-07-07 cs.CV cs.LG
OccamView: Object-Conditioned View Selection for Frame-Budgeted Active 3D Gaussian Reconstruction
针对帧预算紧张时现有主动3D高斯重建方法易漏重建物体的问题，提出OccamView框架，通过物体条件视角选择与Geo-Floor机制优化规划，在多数据集上提升了重建表现。
2026-10-26 cs.CV cs.RO
Where Should the Gaussians Go? Reusable Label-Aware Allocation for Budget-Constrained Gaussian Splatting of Cinematic CT
Vanderbilt University（范德堡大学）
该研究针对预算受限的CT电影渲染高斯溅射，提出可复用的标签感知分配前端，其性能接近逐患者优化分配，在血管PSNR上优于均匀分配和修剪密集模型，且作为初始化可缩短优化时间。
2026-10-14 cs.CV
Best Practices in Active Learning for Semantic Segmentation
University of Freiburg（弗赖堡大学）；German Aerospace Center (DLR)（德国航空航天中心（DLR））
主动学习对于语义分割特别有意义，其中注释是昂贵的。以前的学术研究集中在已经非常多样化的数据集上，并且模型以监督的方式进行训练，具有大量的注释预算。相比之下，在许多驾驶场景中收集的数据是高度冗余的，并且大多数医疗应用都受到非常有限的注释预算的限制。本文研究了现有的各种类型的主动学习方法，用于在不同条件下跨三个维度的语义分割-数据分布w.r.t.不同的冗余水平、半监督学习的集成以及不同的标记预算。我们发现，这三个基本因素是决定性的最佳主动学习方法的选择。作为我们研究的结果，我们提供了一个全面的使用指南，以获得每种情况下的最佳性能。我们还提出了一个示例性的评估任务的驾驶场景，数据具有高冗余，展示我们的研究结果的实际意义。
2023-03-15 cs.CV
Reducing Label Effort: Self-Supervised meets Active Learning
Computer Vision Center (CVC)（计算机视觉中心）；Univ. Autònoma of Barcelona (UAB)（巴塞罗那自治大学）
主动学习是旨在通过在主动选择的信息和/或代表性样本上训练模型来减少注释工作的范例。另一种减少注释工作的范例是自训练，它以无监督的方式从大量未标记的数据中学习，并对少数标记的样本进行微调。自我训练的最新发展已经取得了非常令人印象深刻的结果，可以与某些数据集上的监督学习相媲美。目前的工作集中在这两种范式是否可以相互受益。我们研究了包括CIFAR 10、CIFAR 100和Tiny ImageNet在内的对象识别数据集，并使用了几种标签预算进行评估。我们的实验表明，自我训练是显着更有效的比主动学习在减少标记的努力，对于低的标记预算，主动学习提供没有好处的自我训练，最后，结合主动学习和自我训练是富有成效的标记预算高。当我们接近几乎一半的数据集被标记时，通过自我训练或从头开始训练的主动学习之间的性能差距就会缩小。
2021-08-25 cs.CV
Active Finetuning: Exploiting Annotation Budget in the Pretraining-Finetuning Paradigm
University of California, Berkeley（加州大学伯克利分校）；Shanghai Jiao Tong University（上海交通大学）
由于大规模数据和高标注成本，预训练-微调成为多个计算机视觉任务中的流行范例。以前的研究已经涵盖了无监督预训练和监督微调在这个范例，而很少注意到利用注释预算微调。为了填补这一空白，我们正式定义了这个新的主动微调任务，重点是在预训练微调范式中选择用于注释的样本。我们提出了一种新的方法称为ActiveFT主动微调任务，选择一个子集的数据分布类似于整个未标记的池，并保持足够的多样性，通过优化参数模型在连续空间。我们证明了地球移动器的分布之间的选定的子集和整个数据池的距离也减少了在这个过程中。大量的实验表明，ActiveFT在图像分类和语义分割方面均优于基线算法，具有领先的性能和高效性。我们的代码发布在https://github.com/yichen928/ActiveFT。
2023-03-25 cs.CV cs.LG
Active View Selection for Scene-level Multi-view Crowd Counting and Localization with Limited Labeling Budget
Shenzhen University（深圳大学）；City University of Hong Kong（香港城市大学）
该研究针对有限标注预算下场景级多视图人群计数与定位问题，提出主动视图选择方法AVS，结合视图与场景几何及下游任务预测，实现跨场景应用且性能优于现有方法。
2026-08-07 cs.CV
Embodied Active Learning under Limited Annotation and Navigation Budget for Object Detection
LAAS-CNRS, Universite de Toulouse, CNRS（法国国家科学研究中心图卢兹分部LAAS、图卢兹大学、法国国家科学研究中心）；Department of Electrical Engineering and Automation at Aalto University（阿尔托大学电气工程与自动化系）
研究在机器人导航和标注预算有限时，如何让目标检测器适应未知环境。核心方法是利用空间一致性选择样本重训检测器，实验表明该方法能在无外部监督下选图，相同预算下适应结束时检测精度最高。
2026-07-20 cs.CV cs.RO
Exploring the Possibility of TypiClust for Low-Budget Federated Active Learning
The University of Tokyo（东京大学）
本文探究低预算主动学习策略TypiClust在低预算联邦主动学习场景的有效性，验证其性能优势、对典型性分布偏移的鲁棒性及特征提取敏感性，为受限数据下的联邦主动学习提供方案。
2025-05-26 cs.AI cs.CV cs.LG
ActiveMatch: End-to-end Semi-supervised Active Representation Learning
Zhejiang University（浙江大学）；Zhejiang University-University of Illinois at Urbana-Champaign Institute（浙江大学伊利诺伊大学厄巴纳香槟校区联合学院）
半监督学习（Semi-supervised learning，SSL）是一种有效的学习框架，它可以用标记和未标记的数据来训练模型，但当缺乏足够的标记样本时，可能会产生模糊和不可区分的表示。通过人在回路，主动学习可以迭代地选择信息丰富的未标记样本进行标记和训练，以提高SSL框架中的性能。然而，大多数现有的主动学习方法依赖于预先训练的特征，这不适合端到端学习。针对SSL的不足，本文提出了一种新的端到端的表示学习方法ActiveMatch，该方法将SSL与对比学习和主动学习相结合，充分利用有限的标签。从少量带有无监督对比学习的标记数据开始作为热身，然后ActiveMatch将SSL和有监督对比学习相结合，并在训练期间主动选择最具代表性的样本进行标记，从而更好地表示分类。与具有相同数量标记数据的MixMatch和FixMatch相比，我们表明ActiveMatch实现了最先进的性能，在CIFAR-10上收集100个标签的准确率为89.24%，在收集200个标签的准确率为92.20%。
2022-08-05 cs.CV
Approximate Policy Iteration for Budgeted Semantic Video Segmentation
Oregon State University（俄勒冈州立大学）
本文制定并提出了一种解决方案预算的语义视频分割的新问题。给定一个视频，目标是在指定的时间预算内为视频中的每个像素准确地分配语义类标签。解决此类标记问题的典型方法，例如条件随机场（CRF），专注于最大化准确性，但没有提供满足时间预算的原则性方法。对于视频数据，CRF和相关方法所需的时间通常由计算跨视频的超体素的低级描述符的时间支配。我们的主要贡献是CRF模型的新预算推理框架，该框架智能地选择最有用的描述符子集，在时间预算内对超体素子集进行运行。目标是保持准确性，尽可能接近通用报告格式模型，没有时间限制，同时保持在时间预算范围内。我们的第二个贡献是学习策略的算法稀疏选择的超体素和他们的描述符预算CRF推理。这个学习算法是通过将我们的问题投射到马尔可夫决策过程的框架中，然后实例化被称为基于分类的近似策略迭代的最先进的策略学习算法而得到的。我们在多个视频数据集上的实验表明，我们的学习方法和框架能够显着减少计算时间，并在不同的预算下保持有竞争力的准确性。
2016-07-26 cs.CV
Deep Active Learning with Budget Annotation
Dedan Kimathi University of Technology（德丹·基马蒂科技大学）
几十年来收集的数字数据和目前使用信息技术产生的数据大部分是未标记的数据或没有描述的数据。未标记的数据是相对容易获得，但昂贵的标签，即使使用领域专家。最近的工作集中在使用主动学习与不确定性度量措施，以解决这个问题。虽然大多数不确定性选择策略是非常有效的，但它们没有考虑到未标记实例的信息量，并且容易查询离群值。为了应对这些挑战，我们提出了一种混合的方法计算的不确定性和信息量的实例，然后自动标签计算的实例使用预算注释器。为了降低标注成本，我们采用了最先进的预训练模型，以避免查询这些模型中已经包含的信息。我们在不同数据集上的大量实验证明了所提出的方法的有效性。
2022-07-31 cs.CV cs.LG
Learning from Spatio-temporal Correlation for Semi-Supervised LiDAR Semantic Segmentation
Yonsei University（延世大学）；KAIST（韩国科学技术院）
针对低预算半监督激光雷达分割的伪标签质量差、数据失衡问题，提出基于邻近性的标签估计与双分支结构方法，在多个数据集上实现低标注量下的性能突破，刷新半监督分割最优纪录。
2024-10-09 cs.CV
Active Label Refinement for Semantic Segmentation of Satellite Images
University of Kassel（卡塞尔大学）；German Aerospace Center（德国航空航天中心）
本文提出一种两步走的卫星图像语义分割标签优化方法：先利用众包或预训练网络等低成本手段获取初始标签，再通过主动学习策略高效修正错误标签，实验证明该方法有效提升了分割网络的性能。
2023-09-12 cs.CV
Active Learning for Structured Prediction from Partially Labeled Data
Simon Fraser University（西蒙弗雷泽大学）
我们提出了一个通用的结构化预测主动学习算法，收集标记的数据来训练一个模型，输出一组相关的标签的图像或视频。主动学习从有限的初始训练集开始，然后迭代向用户查询未标记数据上的标签并重新训练模型。我们提出了一种新的算法，选择数据标记，选择的例子，以最大限度地提高预期的信息增益的基础上的信念传播推理。这是一种通用方法，可以应用于各种任务或模型。作为一个具体的例子，我们展示了这个框架，学习识别人类的行动和视频序列中的群体活动。实验表明，我们提出的算法优于以前的主动学习方法，可以达到与完全监督方法相当的准确性，同时利用显着较少的标记数据。
2017-06-09 cs.CV
Exploiting Diversity of Unlabeled Data for Label-Efficient Semi-Supervised Active Learning
Technical University of Munich（慕尼黑工业大学）；Kyung Hee University（庆熙大学）
大型标记数据集的可用性是深度学习成功的关键组成部分。然而，在大型数据集上标注标签通常耗时且昂贵。主动学习是一个研究领域，它通过选择最重要的样本进行标记来解决昂贵的标记问题。基于多样性的采样算法被认为是主动学习的基于表示的方法的组成部分。在本文中，我们引入了一个新的基于多样性的初始数据集选择算法，选择最丰富的样本集的初始标记在主动学习设置。自监督表示学习用于在初始数据集选择算法中考虑样本的多样性。此外，我们提出了一种新的主动学习查询策略，它使用基于一致性的嵌入基于多样性的采样。该方法在基于一致性的嵌入方案中考虑了一致性信息的多样性，在半监督学习环境下可以选择更多的信息样本进行标记。对比实验表明，该方法在CIFAR-10和Caltech-101数据集上取得了令人信服的结果，与以往的主动学习方法相比，该方法利用了未标记数据的多样性。
2022-07-25 cs.CV
Continual Learning on a Diet: Learning from Sparsely Labeled Streams Under Constrained Computation
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；University of Oxford（牛津大学）
本文提出DietCL，针对计算预算受限且标注稀疏的持续学习场景，通过联合利用标注与未标注数据并精心分配计算资源，在多个大规模数据集上显著超越现有监督和半监督持续学习方法。
2024-06-08 cs.CV cs.LG
Leveraging Vision-Language Models as Weak Annotators in Active Learning
Kyushu University（九州大学）
本文提出结合细粒度人工标注与粗粒度VLM生成弱标注的主动学习框架，通过实例级标注分配和系统噪声建模，在CUB200和FGVC-Aircraft数据集上优于现有方法。
2026-05-01 cs.CV
Clarinet: A One-step Approach Towards Budget-friendly Unsupervised Domain Adaptation
Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Centre for Artificial Intelligence, University of Technology Sydney（悉尼科技大学人工智能中心）
在无监督领域自适应（UDA）中，目标域的分类器使用来自源域的大量真实标签数据和来自目标域的未标记数据进行训练。然而，在给定有限预算的情况下，在源域中收集完全真实标签数据可能是困难的。为了缓解这个问题，我们考虑了一个新的问题设置，其中目标域的分类器必须使用来自源域的互补标签数据和来自目标域的未标记数据进行训练，该目标域称为对数据库友好的UDA（BFUDA）。关键的好处是，收集补充标签源数据（BFUDA要求）的成本比收集真实标签源数据（普通UDA要求）的成本低得多。为此，提出了互补标签对抗网络（CNOINET）来解决BFUDA问题。CNOINET同时维护两个深度网络，其中一个专注于对补充标签源数据进行分类，另一个负责源到目标的分布适应。实验表明，CLARINET的性能显着优于一系列合格的基线。
2021-03-04 cs.CV cs.LG stat.ML
Label-Efficient Point Cloud Semantic Segmentation: An Active Learning Approach
South China University of Technology（华南理工大学）；I2R, A*STAR（新加坡科技研究局资讯通信研究院）
深度学习模型是用于语义点云分割的最先进方法，其成功依赖于大规模注释数据集的可用性。然而，编译这样的数据集可能非常耗时且成本高昂。在这项工作中，我们提出了一个主动学习的方法，以最大限度地提高模型的性能有限的注释预算。我们调查了适当的样本粒度下的实际注释成本测量（点击）的主动选择，并证明，超级点为基础的选择允许更有效地利用有限的预算相比，点级和实例级的选择。我们进一步利用局部一致性约束来提高基于超点的方法的性能。我们在两个基准数据集（ShapeNet和S3DIS）上对我们的方法进行了评估，结果表明，主动学习是解决语义点云分割中高注释成本的有效策略。
2021-04-12 cs.CV
HAL3D: Hierarchical Active Learning for Fine-Grained 3D Part Labeling
Amazon（亚马逊）；Simon Fraser University（西蒙菲莎大学）
HAL3D 提出首个面向细粒度三维部件标注的主动学习工具，通过分层与对称性感知的主动标注机制结合人在回路迭代反馈，在预定义分层标签测试集上达到 100% 准确率并节省 80% 标注时间。
2024-04-01 cs.CV
Towards Fewer Labels: Support Pair Active Learning for Person Re-identification
Nanjing University of Science and Technology（南京理工大学）
基于监督学习的人员再识别需要大量的人工标注数据，这在实际的再识别部署中是不适用的。在这项工作中，我们提出了一个支持对主动学习（SPAL）的框架，以降低人工标记成本的大规模的人重新识别。支持对可以提供最多的信息关系，并支持区分性特征学习。具体来说，我们首先设计了一个双重的不确定性选择策略，迭代地发现支持对，并需要人类注释。之后，我们引入了一个约束聚类算法，以传播的关系标记的支持对其他未标记的样本。此外，提出了一种混合学习策略，包括一个无监督的对比损失和监督的支持对损失学习的歧视性re-id特征表示。提出的整体框架可以有效地降低标签成本挖掘和利用关键支持对。大量的实验表明，该方法的优越性，国家的最先进的主动学习方法上的大规模的人re-id基准。
2022-04-21 cs.CV
Active Learning for Improved Semi-Supervised Semantic Segmentation in Satellite Images
Orbital Insight（轨道洞察公司）；Yale University（耶鲁大学）
遥感数据对于从监测森林火灾和森林砍伐到跟踪城市化的各种应用至关重要。这些任务中的大多数都需要模型的密集像素级注释，以便从这些卫星图像可用的有限标记数据中解析视觉信息。由于缺乏高质量的标记训练数据在这个领域，有必要集中在半监督技术。这些技术从一小组标记的示例中生成伪标签，这些示例用于增强标记的训练集。这就需要有一个高度代表性和多样性的标记训练集。因此，我们建议使用基于主动学习的采样策略来选择具有高度代表性的标记训练数据集。我们证明了我们提出的方法的有效性，现有的两个语义分割数据集包含卫星图像：UC Merced土地利用分类数据集和DeepGlobe土地覆盖分类数据集。我们报告了27%的改进mIoU与少至2%的标记数据，使用主动学习采样策略随机采样标记的训练数据的小集合。
2021-10-15 cs.CV
Active Learning with TensorBoard Projector
IBM Research AI（IBM研究人工智能）；IBM Research | Africa（IBM研究|非洲）；CSAM at University of the Witwatersrand（威特沃特斯兰德大学CSAM）
TensorBoard Projector中提供了一个基于ML的图像数据集交互式标记系统，以加快人类执行的图像注释。该工具可视化特征空间，并通过在线集成应用的标签使其直接可编辑，它是一个用于验证和管理与标签有关的机器学习数据的系统。我们提出了现实的注释仿真来评估系统设计的交互式主动学习，基于我们改进的半监督扩展的t-SNE降维。我们的主动学习工具可以显着提高标记效率相比，不确定性采样，我们表明，不到100个标签的行动通常是足够的各种专业图像数据集的良好分类。我们的贡献是独一无二的，因为它需要执行降维，特征空间可视化和编辑，交互式标签传播，低复杂性主动学习，人类感知建模，注释仿真和无监督特征提取的专业数据集在生产质量的实现。
2019-01-03 cs.CV
Pixels to Tokens: Token Space Efficient Active Learning for Low-Budget Semantic Segmentation
University of Waterloo（滑铁卢大学）；Apple（苹果公司）
提出TEAL框架，在低预算语义分割的像素级主动学习中，通过令牌空间选择与解码器网格不确定性优化，在多数据集上较基线显著提升性能。
2026-10-16 cs.CV cs.LG
Deep Active Learning: A Reality Check
Huawei Noah’s Ark（华为诺亚方舟实验室）
本文全面评估了最先进的深度主动学习方法，发现多数未超越基于熵的基线，并揭示了初始预算、预算步长及预训练等实验设置的关键影响，为未来研究提供具体建议。
2024-03-21 cs.AI cs.CV cs.LG
Active Learning with a Noisy Annotator
School of Computer Science and Engineering, The Hebrew University of Jerusalem（耶路撒冷希伯来大学计算机科学与工程学院）
针对低预算下带噪声标注的主动学习问题，提出噪声感知主动采样框架 NAS，通过识别未覆盖区域并重新采样，结合低预算噪声过滤机制，在多个视觉基准上显著提升标准主动学习方法的性能。
2025-04-06 cs.CV cs.LG
Class Balanced Dynamic Acquisition for Domain Adaptive Semantic Segmentation using Active Learning
PSL University（巴黎文理研究大学）；Stellantis（斯泰兰蒂斯）
提出类平衡动态获取（CBDA）方法解决语义分割主动学习中的类别不平衡问题，在高预算下显著提升少数类性能并超越基线。
2023-11-23 cs.CV stat.ML
Robust and Discriminative Labeling for Multi-label Active Learning Based on Maximum Correntropy Criterion
Wuhan University（武汉大学）；University of Sydney（悉尼大学）
多标签学习在许多现实世界的应用中引起了极大的兴趣。由oracle为一个实例分配多个标签是一项代价很高的任务。同时，如果不诊断有区别的标签，也很难建立一个好的模型。我们能否降低标签成本并提高同时训练多标签学习的良好模型的能力？主动学习通过查询最有价值的样本来解决训练样本较少的问题，从而以较小的代价获得更好的性能。在多标签主动学习中，人们研究了用较少的训练样本查询相关标签，或者在不诊断判别信息的情况下查询所有标签。它们都不能有效地处理测量不确定度的离群值标签。最大相关熵准则（MCC）为许多机器学习和数据采掘算法中的离群点提供了鲁棒性分析，本文将不确定性和代表性融合在一起，推导出基于MCC的鲁棒多标记主动学习算法，并提出了一种高效的交替优化方法来求解该算法。我们的方法可以消除不具有区分性的离群值标签对测量不确定度的影响。为了进一步提高信息度量的能力，我们将不确定性和代表性与未知数据的预测标签相融合。它不仅可以增强不确定性，而且可以提高多标签数据的标签信息的相似性度量。在基准多标签数据集上的实验表明，该方法的性能优于现有的方法。
2019-04-14 cs.CV cs.LG
An Exploration of Active Learning for Affective Digital Phenotyping
Stanford University（斯坦福大学）
阻碍人类行为机器学习模型广泛发展的一些最严重的瓶颈包括缺乏标记的训练数据和难以获得高质量的标签。主动学习是一种使用算法来计算地选择数据点的有用子集以使用模型不确定性和数据相似性的度量来标记的范例。我们探索自然的计算机视觉情感数据，一个特别异构和复杂的数据空间，由于固有的主观标签的主动学习。使用从自闭症儿童的治疗性智能手机游戏中获得的游戏玩法收集的帧，我们使用游戏玩法提示作为元数据来帮助主动学习过程，运行主动学习的模拟。我们发现，使用在游戏过程中产生的信息的主动学习稍微优于随机选择相同数量的标记帧。接下来，我们研究一种利用主观数据进行主动学习的方法，例如在情感计算中，并且可以为每个图像获取多个众包标签。使用儿童情感面部表情（CAFE）数据集，我们模拟了众包许多标签的主动学习过程，并发现使用众包标签分布的熵对帧进行优先级排序导致与随机帧选择相比分类交叉熵损失较低。总的来说，这些结果表明试点评估的两种新的主动学习方法的主观情感数据收集在嘈杂的设置。
2022-04-06 cs.CV cs.LG
Active label cleaning for improved dataset quality under resource constraints
Microsoft Research Cambridge（微软剑桥研究院）；Stanford University（斯坦福大学）
数据注释中的不完善，即标签噪声，对机器学习模型的训练有害，并且对模型性能的评估具有经常被忽视的混杂影响。然而，聘请专家通过完全重新注释大型数据集来消除标签噪声在资源受限的环境中是不可行的，例如医疗保健。这项工作倡导一种数据驱动的方法来优先考虑重新注释的样本-我们称之为“主动标签清洗”。我们建议根据估计的标签正确性和标签的难度，每个样本的实例进行排名，并引入一个模拟框架来评估重新标记的功效。我们在自然图像和一个新的医学成像基准上的实验表明，清理噪声标签可以减轻它们对模型训练、评估和选择的负面影响。至关重要的是，所提出的主动标签清理能够在现实条件下比典型的随机选择更有效地校正标签高达4倍，从而更好地利用专家的宝贵时间来提高数据集质量。
2022-02-10 cs.CV cs.LG
Label-Efficient Learning for Ground-Based Sky-Image Classification: A Benchmark of Transfer Learning, Active Learning, and Pseudo-Labeling on GCD
Université Paris Dauphine-PSL（巴黎第九大学）；Anglia Ruskin University（安格利亚鲁斯金大学）；Polish Academy of Sciences（波兰科学院）
本研究在GCD数据集上基准测试迁移学习、主动学习和伪标签三种策略，发现迁移学习在少量标签下即可接近全标签性能，而主动学习和伪标签增益有限。
2026-09-23 cs.CV cs.LG
Exploiting Context for Robustness to Label Noise in Active Learning
University of California, Riverside（加州大学河滨分校）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
计算机视觉中的一些工作已经证明了主动学习在新的未标记数据可用时用于适应识别模型的有效性。这些著作大多认为从注释者那里获得的标签是正确的。然而，在实际场景中，由于标签的质量取决于注释器，因此一些标签可能是错误的，这导致识别性能下降。在本文中，我们解决的问题，i）系统如何可以识别哪些查询标签是错误的，以及ii）如何多类主动学习系统可以适应标签噪声的负面影响最小化。为了解决这些问题，我们提出了一种基于噪声标签过滤的学习方法，其中利用自然数据中非常常见的相互关系（上下文）来检测错误的标签。我们构建了一个图形表示的未标记的数据来编码这些关系，并获得新的信念图时，嘈杂的标签。将新的信念与先前的关系信息进行比较，我们生成一个相异性分数来检测不正确的标签，并使用正确的标签更新识别模型，从而获得更好的识别性能。这在三个不同的应用中得到了证明：场景分类、活动分类和文档分类。
2020-10-18 cs.CV cs.LG
Box-Level Active Detection
Tsinghua University（清华大学）；BNRist（北京国家信息科学与技术研究中心）；Hangzhou Zhuoxi Institute of Brain and Intelligence（杭州卓识脑与智能研究院）；OPPO Research Institute（OPPO研究院）；Beijing University of Posts and Telecommunications（北京邮电大学）
主动学习在预算范围内选择信息丰富的样本进行标注，这在最近的目标检测中被证明是有效的。然而，广泛使用的主动检测基准进行图像级评估，这是不现实的人类工作量估计，并偏向于拥挤的图像。此外，现有方法仍然执行图像级注释，但对同一图像中的所有目标进行同等评分会导致预算浪费和冗余标签。在揭示了上述问题和局限性之后，我们引入了一个框级主动检测框架，该框架控制每个周期基于框的预算，优先考虑信息目标并避免冗余以进行公平比较和高效应用。在提出的盒级设置下，我们设计了一种新的流水线，即互补伪主动策略（ComPAS）。它以一种互补的方式利用人类注释和模型智能：一个有效的输入端委员会只查询信息对象的标签;同时，模型识别出学习良好的目标，并用伪标签进行补偿。ComPAS在统一代码库中的4种设置下始终优于10个竞争对手。仅通过标记数据的监督，它实现了VOC 0712的100%监督性能，而仅使用19%的框注释。在COCO数据集上，它比第二好的方法提高了4.3%的mAP。ComPAS还支持使用未标记的池进行训练，其中它超过了90%的COCO监督性能，减少了85%的标签。我们的源代码可在https://github.com/lyumengyao/blad上公开获取。
2023-03-23 cs.CV cs.LG
Adversarial Representation Active Learning
Stanford University（斯坦福大学）
主动学习的目标是通过查询由预言机标记的信息量最大的样本来开发标记有效的算法。设计需要更少标签的高效训练方法是一个重要的研究方向，它允许更有效地使用计算和人力资源来标记和训练深度神经网络。在这项工作中，我们展示了如何利用深度生成模型的最新进展，在使用尽可能少的标签实现最高分类精度方面超越最先进的技术。与以前的方法不同，我们的方法不仅使用标记的图像来训练分类器，而且还使用未标记的图像和生成的图像来共同训练整个模型。我们的实验表明，该方法在广泛的数据集（MNIST，CIFAR-10，SVHN，CelebA和ImageNet）上的主动学习性能明显优于现有方法。
2019-12-20 cs.CV cs.LG
Composite Active Learning: Towards Multi-Domain Active Learning with Theoretical Guarantees
Rutgers（罗格斯大学）
本文提出复合主动学习（CAL），首个通用多领域主动学习方法，通过优化上界误差分配领域预算并结合实例级查询策略，在理论和实证上优于现有方法。
2024-02-03 cs.AI cs.CV cs.LG
Deep Active Learning with Noisy Oracle in Object Detection
University of Wuppertal（伍珀塔尔大学）；Technical University of Berlin（柏林工业大学）
针对主动学习中标注预言机存在噪声的问题，提出含标签审查模块的复合目标检测框架，在同等标注预算下最高提升 4.5 mAP。
2023-09-30 cs.CV cs.LG
DSAL: Deeply Supervised Active Learning from Strong and Weak Labelers for Biomedical Image Segmentation
Nanyang Technological University（南洋理工大学）
图像分割是医学物联网（IoMT）领域中针对不同成像模式（包括显微镜和X射线）的最基本的生物医学图像处理问题之一。然而，生物医学图像的标注是知识驱动的，耗时且劳动密集型的，使得难以以有限的成本获得丰富的标签。主动学习策略的出现减轻了人类注释的负担，其仅查询训练数据的子集以进行注释。尽管受到关注，但大多数主动学习方法通常仍然需要巨大的计算成本，并且没有有效地利用未标记的数据。他们也倾向于忽视网络中的中间知识。在这项工作中，我们提出了一个深度主动半监督学习框架，DSAL，结合主动学习和半监督学习策略。在DSAL中，提出了一种基于深度监督机制的新准则，分别为强标记和弱标记选择具有高不确定性和低不确定性的信息样本。内部标准利用深度学习网络内中间特征的不一致性进行主动样本选择，这随后降低了计算成本。我们使用所提出的标准来选择强和弱标记器的样本，以集成学习的方式在每次主动学习迭代中同时产生oracle标签和伪标签，可以使用IoMT平台进行检查。在多个医学图像数据集上的大量实验表明，该方法优于最先进的主动学习方法。
2021-01-22 cs.AI cs.CV eess.IV
Combating Label Distribution Shift for Active Domain Adaptation
POSTECH（浦项科技大学）
我们考虑的问题，主动领域自适应（ADA）的未标记的目标数据，其中的子集是积极选择和标记给定的预算约束。受最近对领域自适应中源和靶之间标签分布失配的关键问题的分析的启发，我们设计了一种方法，该方法首次在ADA中解决了该问题。其核心是一种新颖的采样策略，该策略寻求最接近整个目标分布的目标数据，并且具有代表性，多样性和不确定性。采样的目标数据，然后不仅用于监督学习，但也用于匹配源和目标域的标签分布，导致显着的性能改善。在四个公共基准测试中，我们的方法在每一个适应场景中都大大优于现有方法。
2022-08-13 cs.AI cs.CV cs.LG
Just Label What You Need: Fine-Grained Active Selection for Perception and Prediction through Partially Labeled Scenes
University of Toronto（多伦多大学）；Uber ATG（优步先进技术集团）；Brown University（布朗大学）
自动驾驶汽车必须感知和预测附近行动者的未来位置，以避免碰撞和安全驾驶。一个学习过的深度学习模块通常负责这项任务，需要大规模、高质量的训练数据集。由于数据汇集通常比在该领域中标记便宜得多，因此标记哪个示例子集的决定可能对模型性能产生深远的影响。主动学习技术利用当前模型的状态来迭代地选择用于标记的示例，为这个问题提供了一个有前途的解决方案。然而，尽管这种方法很有吸引力，但对于感知和预测（P&P）问题的主动学习方法却很少有科学分析。在这项工作中，我们研究了P&P的主动学习技术，发现传统的主动学习公式不适合P&P设置。因此，我们引入泛化，确保我们的方法是成本意识，并允许细粒度的选择的例子，通过部分标记的场景。我们在真实世界的大规模自动驾驶数据集上的实验表明，细粒度选择可以提高感知，预测和下游规划任务的性能。
2021-04-08 cs.AI cs.CV cs.LG
Deep Bayesian Active Semi-Supervised Learning
Bergische Universiatät Wuppertal（伍珀塔尔贝吉施大学）
在许多应用中，生成标签信息的过程是昂贵且耗时的。我们提出了一种结合主动和半监督深度学习的新方法，以尽可能少的已知标签从深度卷积神经网络实现高泛化性能。在少量标记数据和大量未标记数据可用的情况下，我们的方法首先学习标记数据集。该初始化之后是期望最大化算法，其中进一步的训练通过以与标记数据一致的低熵拟合为目标来降低未标记数据上的分类熵。此外，该算法要求在一个特定的频率的预言机的标签的数据与熵高于一定的熵分位数。使用这个主动学习组件，我们获得了一个敏捷的标签过程，实现了高精度，但只需要少量的已知标签。对于MNIST数据集，我们报告仅使用300个标签的出错率为2.06%，使用1000个标签的错误率为1.06%。这些结果是在不采用任何特殊的网络结构或数据增强的情况下获得的。
2018-03-03 cs.CV cs.LG stat.ML
Robust Deep Learning with Active Noise Cancellation for Spatial Computing
Facebook（脸书）
本文提出了CANC，一种协同教学主动噪声消除方法，应用于空间计算，以解决用极端噪声标签训练的深度学习。深度学习算法在土地或建筑物足迹识别的空间计算中取得了成功。然而，由于空间计算和卫星图像中标签的收集方式，地面真值标签中存在大量噪声。处理极端标签噪声的现有方法进行干净的样本选择，并且不利用剩余的样本。由于数据检索的成本，这种技术可能是浪费的。我们提出的CANC算法不仅保留了高成本的训练样本，还提供了主动标签校正，以更好地提高具有极端噪声标签的鲁棒深度学习。我们证明了CANC的有效性，为空间计算的建筑足迹识别。
2020-11-16 cs.AI cs.CV cs.LG
MCAL: Minimum Cost Human-Machine Active Labeling
University of Southern California（南加州大学）；Microsoft Research（微软研究院）
如今，地面实况生成使用由基于云的注释服务注释的数据集。这些服务依赖于人工注释，这可能非常昂贵。在本文中，我们考虑混合人机标记的问题，训练分类器准确地自动标记数据集的一部分。然而，训练分类器也可能是昂贵的。我们提出了一种迭代方法，通过在每一步共同确定使用人类标记哪些样本以及使用训练的分类器标记哪些样本，来最大限度地降低总成本。我们在Fashion-MNIST、CIFAR-10、CIFAR-100和ImageNet等公知的公共数据集上验证了我们的方法。在某些情况下，我们的方法相对于人类标记整个数据集的总成本低6倍，并且总是比最便宜的竞争策略便宜。
2023-02-27 cs.CV cs.LG stat.ML
