MaxiMin Active Learning in Overparameterized Model Classes}
Wisconsin Institute of Discovery(威斯康星发现研究所);University of Wisconsin(威斯康星大学)
生成标记的训练数据集已经成为机器学习(ML)管道中的主要瓶颈。Active ML旨在通过设计学习算法来解决这个问题,这些算法可以自动和自适应地选择信息量最大的示例进行标记,这样人类的时间就不会浪费在标记不相关、冗余或琐碎的示例上。本文提出了一种新的方法,主动ML与非参数或过参数化的模型,如核方法和神经网络。在二元分类的背景下,新的方法被证明具有各种理想的属性,允许主动学习算法自动和有效地识别决策边界和数据集群。
2020-04-28 cs.AI cs.LG stat.ML
Cost-Accuracy Aware Adaptive Labeling for Active Learning
University of Texas at Austin(德克萨斯大学奥斯汀分校)
传统的主动学习算法假设一个单一的标签,产生无噪声的标签在一个给定的,固定的成本,并旨在实现最佳的泛化性能,为给定的分类器下的预算约束。然而,在许多实际环境中,不同的贴标机具有不同的贴标成本,并且可以产生不同的贴标精度。此外,给定的贴标签器可以针对不同的情况展现不同的贴标签准确度。这种设置可以被称为主动学习,具有不同的成本和准确性的不同标签器,并且它出现在许多重要的实际设置中。因此,了解如何有效地权衡不同实例的标记精度、标记成本以及训练实例的信息量,从而以最低的标记成本实现最佳的泛化性能是有益的。在本文中,我们提出了一个新的算法选择的实例,标签(及其相应的成本和标签精度),采用泛化范围的学习与标签噪声选择信息的实例和标签,以实现更高的泛化精度在较低的成本。我们提出的算法在五个UCI和一个真正的众包数据集上展示了最先进的性能。
2021-05-24 cs.LG stat.AP
SAMOSA: Sharpness Aware Minimization for Open Set Active learning
SAMOSA提出基于数据典型性的锐度感知最小化查询算法,在开放集主动学习中优先选择靠近决策边界的非典型样本,实现高达3%的准确率提升且无额外计算开销。
2025-10-24 cs.AI cs.LG
Gradient-Discrepancy Acquisition for Pool-Based Active Learning
University of Regina(里贾纳大学)
本文提出基于梯度的获取准则,用于替代不确定性采样中的不确定性度量,或整合到考虑采样点分布和标签不确定性的多样性方法中,理论和实验证明其有效性。
2026-05-15 cs.LG
Meta-Query-Net: Resolving Purity-Informativeness Dilemma in Open-set Active Learning
KAIST(韩国科学技术院);NAVER AI Lab(NAVER人工智能实验室);NAVER CLOVA
待标注的未标记数据样本不可避免地含有开集噪声。一些主动学习研究试图通过过滤掉噪声样本来处理这种开集噪声。然而,由于关注查询集中示例的纯度会导致忽略示例的信息性,因此纯度和信息性的最佳平衡仍然是一个重要的问题。为了解决开集主动学习中的信息纯度困境,本文提出了一种新的元查询网(MQ-Net),它可以自适应地找到这两个因素之间的最佳平衡。具体来说,通过利用主动学习的多轮属性,我们使用查询集而无需额外的验证集来训练MQ-Net。此外,MQ-Net通过一种新的skyline正则化有效地捕获了未标记示例之间的明显优势关系。在多个开集主动学习场景上的大量实验表明,与最先进的方法相比,所提出的MQ-Net在准确性方面提高了20.14%。
2023-01-12 cs.LG
Bayesian Generative Active Deep Learning
University of Adelaide(阿德莱德大学);University of Liverpool(利物浦大学)
深度学习模型在几个问题上表现出了出色的性能,但它们的训练过程往往需要大量的计算和人力资源来进行训练和标记,从而限制了可以解决的问题类型。因此,设计有效的训练方法,需要小标记的训练集是一个重要的研究方向,将允许更有效地利用资源。在目前的方法,旨在解决这个问题,两个特别有趣的:数据增强和主动学习。数据增强通过人工生成新的训练点来实现这一目标,而主动学习则依赖于选择未标记训练样本的“信息量最大”子集来由oracle标记。虽然在实践中是成功的,但数据增强可能会浪费计算资源,因为它不加区别地生成不能保证是信息性的样本,并且主动学习(从大的未注释集合中)选择可能不足以用于训练过程的信息性样本的小子集。在本文中,我们提出了一种贝叶斯生成主动深度学习方法,将主动学习与数据增强相结合-我们提供了理论和经验证据(MNIST,CIFAR- $\{10,100\}$和SVHN),证明我们的方法比数据增强和主动学习具有更有效的训练和更好的分类结果。
2019-04-26 cs.LG stat.ML
Adaptive Informative Path Planning Using Deep Reinforcement Learning for UAV-based Active Sensing
University of Bonn(波恩大学)
空中机器人越来越多地用于环境监测和勘探。然而,一个关键的挑战是有效地规划路径,以最大限度地提高所获得的数据的信息价值,作为一个最初未知的环境进行探索。为了解决这个问题,我们提出了一种新的方法,信息路径规划的基础上深度强化学习(RL)。结合RL和机器人应用的最新进展,我们的方法将树搜索与离线学习的神经网络相结合,预测信息传感动作。我们介绍了几个组件,使我们的方法适用于机器人任务与高维状态和大动作空间。通过在任务期间部署经过训练的网络,我们的方法可以在计算资源有限的平台上实现样本高效的在线重新规划。仿真结果表明,我们的方法与现有方法相比,运行时间减少了8- 10倍。我们使用真实世界的表面温度数据验证其性能。
2022-03-03 cs.LG cs.RO
BoostMIS: Boosting Medical Image Semi-supervised Learning with Adaptive Pseudo Labeling and Informative Active Annotation
National University of Singapore(新加坡国立大学);National University Hospital(国立大学医院);Zhejiang University(浙江大学)
本文提出了一种新的半监督学习(SSL)框架BoostMIS,该框架结合了自适应伪标记和信息主动标注,充分发挥了医学图像SSL模型的潜力:(1)BoostMIS能够根据当前学习状态自适应地利用聚类假设和未标记数据的一致性正则化。该策略可以自适应地生成从任务模型预测转换的独热“硬”标签,以更好地进行任务模型训练。(2)对于低置信度的未标记图像,我们引入了主动学习(AL)算法,通过利用虚拟对抗扰动和模型的密度感知熵来寻找信息样本作为注释候选。这些信息候选者随后被馈送到下一个训练周期,以更好地进行SSL标签传播。值得注意的是,自适应伪标记和信息主动注释形成了相互协作以提高医学图像SSL的学习闭环。为了验证所提出的方法的有效性,我们收集了转移性硬膜外脊髓压迫(MESCC)数据集,旨在优化MESCC诊断和分类,以改善专科转诊和治疗。我们在MESCC和另一个公共数据集COVIDx上对BoostMIS进行了广泛的实验研究。实验结果验证了我们的框架的有效性和普适性不同的医学图像数据集与各种国家的最先进的方法有显着的改善。
2022-03-21 cs.AI cs.CV cs.LG
ALINE: Joint Amortization for Bayesian Inference and Active Data Acquisition
ELLIS Institute Finland(芬兰ELLIS研究所);Department of Computer Science, Aalto University, Finland(芬兰阿尔托大学计算机科学系);Department of Computer Science, University of Helsinki, Finland(芬兰赫尔辛基大学计算机科学系);Department of Computer Science, University of Manchester, UK(英国曼彻斯特大学计算机科学系)
本研究提出统一框架ALINE,结合Transformer与强化学习,基于自估计信息增益实现主动数据获取与即时贝叶斯推理,可靶向参数或任务优化,在多基准测试中表现优异。
2025-10-21 cs.LG stat.ML
Test Distribution-Aware Active Learning: A Principled Approach Against Distribution Shift and Outliers
University of Oxford(牛津大学)
在MacKay(1992)的基础上,我们认为传统的基于模型的主动学习方法(如BALD)有一个根本的缺陷:它们不能直接解释输入变量的测试时间分布。这可能导致采集策略中的病态,因为对于模型参数最大信息量的可能不是对于预测最大信息量的:例如,当池集中的数据比最终预测任务的数据更分散时,或者当池和测试样本的分布不同时。为了纠正这一点,我们重新审视了一种收购策略,该策略基于最大化获得的有关未来可能预测的预期信息,将其称为预期预测信息增益(EPIG)。由于EPIG不能很好地扩展批量收购,我们进一步研究了一种替代策略,BALD和EPIG之间的混合,我们称之为联合预期预测信息增益(JEPIG)。我们考虑在各种数据集上使用贝叶斯神经网络进行主动学习,检查池集中分布偏移下的行为。
2021-11-21 cs.LG stat.ML
Active Learning for Speech Recognition: the Power of Gradients
Baidu Silicon Valley AI Lab(百度硅谷人工智能实验室)
在训练语音识别系统中,标记音频片段可能是昂贵的,并且并非所有数据都具有同等价值。主动学习的目标是只标记信息量最大的样本以降低成本。对于语音识别,置信度分数和其他基于似然的主动学习方法已被证明是有效的。然而,基于顺应性的主动学习方法仍然没有得到很好的理解。本文研究了端到端语音识别主动学习中的期望梯度长度(EGL)方法。我们证明EGL从方差减少的角度来看,并观察到EGL的信息量选择新的样本不相关的置信分数。实验表明,EGL可以减少字错误的11%,或者,减少样本的数量标记的50%,相比随机抽样。
2016-12-10 cs.CL cs.LG stat.ML
Active Sentence Learning by Adversarial Uncertainty Sampling in Discrete Space
ByteDance AI Lab(字节跳动人工智能实验室);Shanghai Jiao Tong University(上海交通大学)
句子理解的主动学习旨在发现信息丰富的未标记数据进行注释,从而减少对标记数据的需求。我们认为,典型的主动学习的不确定性抽样方法是耗时的,很难实时工作,这可能会导致无效的样本选择。我们提出了离散空间中的对抗性不确定性采样(AUSDS),以更有效地检索信息丰富的未标记样本。AUSDS将句子映射到由流行的预训练语言模型生成的潜在空间中,并通过对抗攻击发现信息丰富的未标记文本样本进行注释。与传统的不确定性采样方法相比,该方法具有超过10倍的加速比。在五个数据集上的实验结果表明,AUSDS的有效性优于强基线。
2020-10-28 cs.CL cs.LG
An Informative Path Planning Framework for Active Learning in UAV-based Semantic Mapping
University of Oxford(牛津大学);Lamarr Institute for Machine Learning and Artificial Intelligence(拉马尔机器学习与人工智能研究所)
提出一种面向无人机语义建图的主动学习信息路径规划框架,融合多种采集函数到概率地图中,指导无人机自主获取信息丰富的图像以再训练模型,实验表明能最大化模型性能并大幅减少标注工作量。
2023-09-06 cs.LG cs.RO
Multi-Robot Informative Path Planning for Active Sensing of Environmental Phenomena: A Tale of Two Algorithms
National University of Singapore(新加坡国立大学);Carnegie Mellon University(卡内基梅隆大学)
机器人环境传感和监测的一个关键问题是主动传感:一组机器人如何规划最具信息量的观察路径,以最大限度地减少建模和预测环境现象的不确定性?本文提出了两个原则性的方法,有效的信息理论的路径规划的基础上,熵和互信息标准,在现场主动传感的一个重要的广泛的类广泛发生的环境现象,称为各向异性领域。我们提出的算法是新颖的,在解决主动传感性能和时间效率之间的权衡。一个重要的实际结果是,我们的算法可以利用基于高斯过程的各向异性场的空间相关结构,以提高时间效率,同时保持接近最佳的主动传感性能。我们分析了我们的算法的时间复杂度,并证明了分析,他们的规模比最先进的算法增加规划范围的长度。我们提供了理论保证我们的算法的主动感知性能的一类勘探任务,称为样带采样,特别是,可以改善与较长的规划时间和/或较低的空间相关性沿样带。对真实世界各向异性场数据的经验评估表明,我们的算法可以执行更好或至少以及最先进的算法,而往往会导致几个数量级的计算时间少,即使当现场条件不太有利。
2013-02-05 cs.AI cs.LG cs.MA
Active Learning for Direct Preference Optimization
Adobe Research(奥多比研究院);University of California, San Diego(加利福尼亚大学圣迭戈分校)
针对直接偏好优化(DPO)中反馈选择不充分的问题,提出一个适用于在线和离线场景的主动学习框架,通过线性化 DPO 目标并计算 D-最优设计来高效收集最具信息量的偏好反馈,并从理论和实验上验证了其有效性。
2025-03-03 cs.LG stat.ML
Perturbation-based Active Learning for Question Answering
University of Arizona(亚利桑那大学)
为降低问答模型的标注成本,本研究提出一种基于扰动的主动学习采集策略,经证实其效果优于现有常用的主动学习策略。
2023-11-04 cs.AI cs.CL cs.LG
Semi-Supervised Active Learning for Semantic Segmentation in Unknown Environments Using Informative Path Planning
University of Bonn(波恩大学);University of Oxford(牛津大学)
针对未知环境下预训练语义分割模型性能受限、现有主动学习方法标注成本高的问题,提出结合信息路径规划的半监督主动学习方法,融合人工标注与伪标签,在降低标注量的同时实现接近全监督的分割性能。
2024-01-26 cs.LG cs.RO
Active learning for data streams: a survey
Technical University of Denmark(丹麦技术大学);Norwegian University of Science and Technology(挪威科技大学);Luleå University of Technology(吕勒奥理工大学)
本文综述了面向数据流的在线主动学习方法,系统梳理了实时选择最具信息量观测进行标注的各类技术,并分析了其优势、局限及面临的挑战与机遇。
2023-11-29 cs.LG stat.ME stat.ML
GALOT: Generative Active Learning via Optimizable Zero-shot Text-to-image Generation
University of Connecticut(康涅狄格大学);Illinois Institute of Technology(伊利诺伊理工学院)
本文提出GALOT框架,通过优化零样本文本到图像生成的文本输入,结合主动学习准则生成信息丰富的合成数据集,降低标注成本并显著提升模型训练效率与性能。
2024-12-18 cs.CV cs.LG
Diverse mini-batch Active Learning
Amazon Research(亚马逊研究院)
我们研究了如何减少训练监督分类模型所需的标记训练数据量的问题。我们通过利用主动学习,通过顺序选择最有利于模型的例子来接近它。对于现代深度学习模型所需的训练样本数量来说,逐个选择样本是不切实际的。我们考虑小批量主动学习设置,其中一次选择多个示例。我们提出了一种方法,既考虑到模型的例子的信息量,以及在一个小批量的例子的多样性。通过使用研究良好的K-means聚类算法,这种方法比以前提出的方法更好地扩展,并实现可比或更好的性能。
2019-01-17 cs.LG stat.ML
Active Generative Adversarial Network for Image Classification
Hitachi, Ltd. R&D Group(日立制作所研发集团);Hitachi America, Ltd.(日立美国有限公司)
足够的监督信息对于任何机器学习模型提高性能都是至关重要的。然而,标记数据是昂贵的,有时很难获得。主动学习是一种通过选择具有高概率的信息样本来从人类预言机获取数据的注释以增强性能的方法。在最近的新兴研究中,生成对抗网络(GAN)已经与主动学习相结合,以生成要提交给预言机的好候选人。在本文中,我们提出了一种新的模型,能够以更便宜的方式获得数据的标签,而无需查询Oracle。在该模型中,每个样本的一个新的奖励被设计来衡量不确定性的程度,这是从一个分类器训练与现有的标记数据。该奖励用于引导条件GAN生成具有特定标签的更高概率的信息样本。通过广泛的评估,我们已经证实了该模型的有效性,表明生成的样本能够提高流行的图像分类任务的分类性能。
2019-06-17 cs.CV cs.LG stat.ML
Online Active Model Selection for Pre-trained Classifiers
ETH Zürich(苏黎世联邦理工学院)
给定$k$预训练的分类器和一系列未标记的数据示例,我们如何主动决定何时查询标签,以便在进行少量查询的同时区分最佳模型?探讨这个问题对一系列实际情况有着深远的影响。在这项工作中,我们设计了一个在线选择性抽样方法,积极选择信息丰富的例子进行标记,并在任何一轮输出最佳模型的概率很高。我们的算法可用于在线预测任务的对抗性和随机流。我们建立了几个理论保证我们的算法,并广泛地证明了它的有效性,在我们的实验研究。
2021-04-17 cs.LG stat.ML
Active Constraint Learning in High Dimensions from Demonstrations
School of Mechanical Engineering Georgia Institute of Technology(机械工程学院佐治亚理工学院);School of Electrical and Computer Engineering Georgia Institute of Technology(电气与计算机工程学院佐治亚理工学院);Schools of Cybersecurity & Privacy and Aerospace Engineering Georgia Institute of Technology(网络安全与隐私学院及航空航天工程学院佐治亚理工学院)
本文提出了一种基于演示的高维主动约束学习算法,通过迭代生成稀疏但有信息量的演示轨迹,提升对未知约束的推断精度。
2025-12-28 cs.AI cs.LG cs.RO
Semi-Supervised Active Learning with Temporal Output Discrepancy
Baidu Research(百度研究院);Austin Peay State University(奥斯汀佩伊州立大学);Styling AI
虽然深度学习在广泛的任务中取得了成功,但它高度依赖于大量注释数据的收集,这是昂贵且耗时的。为了降低数据标注的成本,已经提出了主动学习来交互式地查询oracle以标注未标记数据集中的一小部分信息样本。受损失较高的样本通常比损失较低的样本对模型的信息量更大这一事实的启发,在本文中,我们提出了一种新的深度主动学习方法,当未标记的样本被认为包含高损失时,该方法会查询Oracle的数据注释。我们的方法的核心是一个测量时间输出离散(TOD),估计样本损失通过评估模型在不同的优化步骤给出的输出的差异。我们的理论研究表明,TOD下限的累积样本损失,因此它可以用来选择信息的未标记的样本。在此基础上,进一步提出了一种有效的无标记数据采样策略和一种无监督学习准则,通过引入无标记数据来提高模型性能。由于TOD的简单性,我们的主动学习方法是有效的,灵活的,任务不可知的。大量的实验结果表明,我们的方法取得了优于国家的最先进的主动学习方法的图像分类和语义分割任务的性能。
2021-07-29 cs.CV cs.LG
Foundation Model Makes Clustering A Better Initialization For Cold-Start Active Learning
Centre for Quantitative Medicine, Duke-NUS Medical School(杜克-新加坡国立大学医学院定量医学中心);Duke University(杜克大学)
本文提出将基础模型与聚类方法结合,利用其生成的紧凑嵌入替代原始特征,为冷启动主动学习选择初始样本,实验证明该方法在临床图像分类与分割任务中优于基线。
2024-03-27 cs.CV cs.LG
Box-Level Active Detection
Tsinghua University(清华大学);BNRist(北京国家信息科学与技术研究中心);Hangzhou Zhuoxi Institute of Brain and Intelligence(杭州卓识脑与智能研究院);OPPO Research Institute(OPPO研究院);Beijing University of Posts and Telecommunications(北京邮电大学)
主动学习在预算范围内选择信息丰富的样本进行标注,这在最近的目标检测中被证明是有效的。然而,广泛使用的主动检测基准进行图像级评估,这是不现实的人类工作量估计,并偏向于拥挤的图像。此外,现有方法仍然执行图像级注释,但对同一图像中的所有目标进行同等评分会导致预算浪费和冗余标签。在揭示了上述问题和局限性之后,我们引入了一个框级主动检测框架,该框架控制每个周期基于框的预算,优先考虑信息目标并避免冗余以进行公平比较和高效应用。在提出的盒级设置下,我们设计了一种新的流水线,即互补伪主动策略(ComPAS)。它以一种互补的方式利用人类注释和模型智能:一个有效的输入端委员会只查询信息对象的标签;同时,模型识别出学习良好的目标,并用伪标签进行补偿。ComPAS在统一代码库中的4种设置下始终优于10个竞争对手。仅通过标记数据的监督,它实现了VOC 0712的100%监督性能,而仅使用19%的框注释。在COCO数据集上,它比第二好的方法提高了4.3%的mAP。ComPAS还支持使用未标记的池进行训练,其中它超过了90%的COCO监督性能,减少了85%的标签。我们的源代码可在https://github.com/lyumengyao/blad上公开获取。
2023-03-23 cs.CV cs.LG
Active Learning in Genetic Programming: Guiding Efficient Data Collection for Symbolic Regression
Michigan State University(密歇根州立大学)
本文研究了遗传规划中主动学习的计算不确定性和多样性方法,发现结合模型集成与微分熵不确定性度量能有效选择训练数据,并利用Pareto优化平衡不确定性与相关性多样性,指导符号回归的高效数据收集。
2023-07-31 cs.LG cs.NE
Temporal Output Discrepancy for Loss Estimation-based Active Learning
Big Data Laboratory, Baidu Research(百度研究院大数据实验室);AWS AI Lab, Amazon(亚马逊AWS人工智能实验室)
虽然深度学习在广泛的任务中取得了成功,但它高度依赖于大量注释数据的收集,这是昂贵且耗时的。为了降低数据标注的成本,已经提出了主动学习来交互式地查询oracle以标注未标记数据集中的一小部分信息样本。受损失较高的样本通常比损失较低的样本对模型的信息量更大这一事实的启发,在本文中,我们提出了一种新的深度主动学习方法,当未标记的样本被认为包含高损失时,该方法会查询Oracle的数据注释。我们的方法的核心是一个测量时间输出离散(TOD),估计样本损失通过评估模型在不同的优化步骤给出的输出的差异。我们的理论研究表明,TOD下限的累积样本损失,因此它可以用来选择信息的未标记的样本。在此基础上,我们进一步提出了一种有效的无标记数据采样策略和一种无监督的主动学习学习准则。由于TOD的简单性,我们的方法是有效的,灵活的,任务不可知的。大量的实验结果表明,我们的方法取得了优于国家的最先进的主动学习方法的图像分类和语义分割任务的性能。此外,我们表明,TOD可以用来选择潜在的最高的测试精度从候选模型池的最佳模型。
2022-12-20 cs.CV cs.LG
LASSE: Learning Active Sampling for Storm Tide Extremes in Non-Stationary Climate Regimes
Massachusetts Institute of Technology(麻省理工学院)
本文提出LASSE在线主动学习方法,利用代理模型从少量水动力模拟中迭代筛选信息样本,高效识别极端风暴潮气旋,并在大型降尺度目录中以少于20%模拟实现100%精确率。
2025-01-06 cs.LG physics.ao-ph physics.geo-ph
Active Learning for Communication Structure Optimization in LLM-Based Multi-Agent Systems
University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
本文提出基于信息论的任务选择框架,通过估计任务信息量优化多智能体系统通信结构,在有限预算下提升性能并减少token使用。
2026-10-06 cs.AI cs.LG cs.MA
The Why, When, and How to Use Active Learning in Large-Data-Driven 3D Object Detection for Safe Autonomous Driving: An Empirical Exploration
University of California San Diego(加利福尼亚大学圣迭戈分校);Aalborg University(奥尔堡大学)
针对自动驾驶3D目标检测的数据不平衡、冗余等问题,本文实证探索主动学习策略,验证熵查询在nuScenes数据集上相较随机采样的优势,可高效分配标注资源、缩小类别性能差距,适用于资源受限场景。
2024-01-30 cs.CV cs.LG
Deep Active Learning with Contrastive Learning Under Realistic Data Pool Assumptions
Seoul National University of Science and Technology(首尔科学技术大学)
主动学习的目标是从未标记的数据池中识别出信息量最大的数据,使模型能够快速达到所需的准确性。这尤其有利于深度神经网络,其通常需要大量的标记样本来实现高性能。大多数现有的主动学习方法都是在理想环境中进行评估的,在理想环境中只有与目标任务相关的样本,即,分布内样本存在于未标记的数据池中。然而,从野外收集的数据池很可能包括与目标任务完全不相关的样本和/或过于模糊而无法分配单个类标签的样本,即使是对于oracle。我们认为,假设一个未标记的数据池组成的样本来自不同的分布是更现实的。在这项工作中,我们引入了新的主动学习基准,包括模糊的,任务无关的分布以及分布样本。我们还提出了一个主动学习方法,旨在获得信息的分布中的样本优先。所提出的方法利用标记和未标记的数据池,并通过对比学习构建的特征空间上的聚类选择样本。实验结果表明,所提出的方法需要更低的注释预算比现有的主动学习方法,以达到相同的准确率水平。
2023-03-25 cs.CV cs.LG
Consistency-based Active Learning for Object Detection
Nanyang Technological University(南洋理工大学);University of Central Florida(中佛罗里达大学)
主动学习的目的是通过在有限的预算下选择信息量最大的样本来提高任务模型的性能。与大多数专注于将主动学习应用于图像分类的最近的作品不同,我们提出了一种有效的基于一致性的主动学习方法用于目标检测(CALD),该方法充分探索了原始数据和增强数据之间的一致性。CALD有三个吸引人的好处。(i)CALD是通过研究现有主动学习方法的弱点而系统设计的,这些方法没有考虑到目标检测的独特挑战。(ii)CALD将盒回归和分类统一在一个单一的度量标准上,这与用于分类的主动学习方法无关。CALD还关注信息量最大的局部区域而不是整个图像,这有利于目标检测。(iii)CALD不仅测量样本选择的个体信息,而且还利用互信息来促进平衡的数据分布。大量的实验表明,CALD显着优于现有的最先进的任务不可知和检测特定的主动学习方法对一般的目标检测数据集。基于Faster R-CNN检测器,CALD在PASCAL VOC 2007、PASCAL VOC 2012和MS COCO上平均超过基线方法(随机选择)2.9/2.8/0.8 mAP。代码可在\url{https://github.com/we1pingyu/CALD}上获得
2022-04-11 cs.AI cs.CV cs.LG
Bidirectional Uncertainty-Based Active Learning for Open Set Annotation
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Peking University(北京大学)
本文提出BUAL框架,通过随机标签负学习与双向不确定性采样策略,在开放集场景下联合评估正负学习的不确定性,成功选取高信息量已知类样本,实现了最先进的主动学习性能。
2024-07-07 cs.LG
Prioritizing Informative Features and Examples for Deep Learning from Noisy Data
KAIST(韩国科学技术院)
本研究提出统一框架,通过优先级排序信息性特征与样本,分别优化含噪数据下的特征学习、主动学习标注、数据选择环节,提升深度学习流程对噪声的鲁棒性。
2024-08-12 cs.LG
Reflect then Learn: Active Prompting for Information Extraction Guided by Introspective Confusion
NUAA-MMMI(南京航空航天大学- MMMI)
本文提出APIE框架,通过反思困惑度评估,主动选择具有挑战性和信息量的样本,提升信息提取的准确性和鲁棒性。
2026-05-12 cs.AI cs.CL cs.IR
Man-recon: manifold learning for reconstruction with deep autoencoder for smart seismic interpretation
Georgia Institute of Technology(佐治亚理工学院)
如果提供足够量的标记训练数据,深度学习可以提取丰富的数据表示。然而,对于许多任务,注释数据在时间和金钱方面具有显著成本,这是由于所需的高标准的主题专业知识,例如在医学和地球物理图像判读任务中。主动学习可以为口译员识别出信息量最大的训练样本进行训练,从而提高效率。我们提出了一个主动学习方法的基础上联合学习表示监督和无监督的任务。学习的流形结构稍后被用于从无监督任务上的错误配置文件中识别与学习的流形最不相似的信息训练样本。我们验证了所提出的方法在荷兰F3区块调查的地震相分割数据集上的效率,显着优于当代方法,以实现最高的平均相交超过工会值0.773。
2022-12-15 cs.LG eess.IV