Morphological classification of astronomical images with limited labelling
Moscow State University(莫斯科国立大学);Space Research Institute of RAS(俄罗斯科学院空间研究所)
形态学分类对于简单的参数化来说是一项复杂的任务,但对于星系演化领域的研究却非常重要。未来的星系巡天(如EUCLID)将收集超过一个$10^9$星系的数据。为了获得形态学信息,人们需要参与标记星系图像,这需要大量的资金或大量的志愿者。提出了一种基于对抗自动编码器(AAE)模型的主动学习的半监督星系形态分类方法。对于二元分类问题(Galaxy Zoo 2决策树的顶级问题),我们在测试部分仅使用86万个标记动作就实现了93.1%的准确率,该模型可以轻松地扩展到任何数量的图像。我们最好的模型与额外的标记实现了95.5%的准确性。据我们所知,这是第一次AAE半监督学习模型用于天文学。
2021-04-27 astro-ph.GA cs.CV cs.LG
Deep Active Audio Feature Learning in Resource-Constrained Environments
Monash University(莫纳什大学);University of Granada(格拉纳达大学)
本文提出将特征提取融入主动学习循环并使用原始音频处理的深度主动音频特征学习框架,在多个基准音频数据集上显著减少了标注工作量,并验证了其在资源受限环境和保护生物学中的实用性。
2024-07-01 cs.CV cs.SD eess.AS
Bayesian Pseudo Labels: Expectation Maximization for Robust and Efficient Semi-Supervised Segmentation
University College London(伦敦大学学院);GSK R & D(葛兰素史克研发部)
本文研究了切分中的伪标号问题。我们的贡献是四方面的。首先,我们提出了一个新的配方的伪标签的期望最大化(EM)算法明确的统计解释。其次,我们提出了一种纯粹基于原始伪标记的半监督医学图像分割方法,即SegPL。我们证明了SegPL是一种具有竞争力的方法,可以对抗基于2D多类MRI脑肿瘤分割任务和3D二进制CT肺血管分割任务的半监督分割的最先进的一致性正则化方法。与以前的方法相比,SegPL的简单性允许更少的计算成本。第三,我们证明了SegPL的有效性可能源于其对分布外噪声和对抗攻击的鲁棒性。最后,在EM框架下,我们通过变分推理引入了SegPL的概率概括,它在训练过程中学习了伪标签的动态阈值。我们表明,SegPL与变分推理可以执行不确定性估计与黄金标准的方法深度包围。
2022-09-13 cs.AI cs.CV cs.LG
Integrating Semi-Supervised and Active Learning for Semantic Segmentation
University of Cambridge(剑桥大学);Cardiff University(卡迪夫大学)
本文提出一种结合改进半监督学习框架的新型主动学习方法,通过减少人工标注成本并提升模型性能。方法利用主动学习选择的标注数据和排除的未标注数据,通过伪标签自动校正模块提高分割精度。
2026-04-13 cs.AI cs.CV
Active Learning with Contrastive Pre-training for Facial Expression Recognition
Ingenuity Labs Research Institute(创意实验室研究所);Queen’s University(女王大学)
本文针对人脸表情识别中标注数据稀缺问题,提出先进行对比自监督预训练再进行主动学习的两步方法,在三个公开数据集上验证其相比随机采样和现有主动学习基线分别最高提升9.2%和6.7%。
2023-07-06 cs.CV
Multistep Automated Data Labelling Procedure (MADLaP) for Thyroid Nodules on Ultrasound: An Artificial Intelligence Approach for Automating Image Annotation
Duke University(杜克大学);Duke University Medical Center(杜克大学医学中心)
本研究开发了名为MADLaP的多步自动数据标注工具,通过结合自然语言处理、图像分割等模块自动标注甲状腺结节超声图像,在测试集上取得63%产出率与83%准确率,可助力扩充机器学习所需的标注数据集。
2022-06-28 cs.CV cs.LG eess.IV
SelfPrompt: Confidence-Aware Semi-Supervised Tuning for Robust Vision-Language Model Adaptation
Queen’s University, Canada(女王大学)
本文提出SelfPrompt,一种用于视觉语言模型的半监督提示微调方法,通过聚类引导的伪标签和置信度感知学习模块解决伪标签噪声问题,并在13个数据集上显著超越现有方法。
2025-01-28 cs.CV
Rapid Probabilistic Interest Learning from Domain-Specific Pairwise Image Comparisons
Council for Scientific and Industrial Research(科学与工业研究理事会)
大量的工作旨在发现用于视觉搜索和信息检索的图像兴趣或可记忆性的大型通用模型。本文认为,图像的兴趣往往是领域和用户特定的,有效的机制,了解这个特定领域的图像兴趣尽快,同时限制所需的数据标签的数量,往往是更有用的最终用户。这项工作使用成对图像比较来减少这些用户的标签负担,并引入了一种图像兴趣估计方法,该方法与最近使用成对排名损失训练的数据饥渴深度学习方法类似。在这里,我们使用一个高斯过程模型来插值图像的兴趣推断使用贝叶斯排名的方法在使用预训练的卷积神经网络提取的图像特征。结果表明,在高维图像特征空间中拟合高斯过程不仅在计算上是可行的,而且在广泛的领域中也是有效的。所提出的概率兴趣估计方法产生与不确定性配对的图像兴趣,这些不确定性可用于识别需要额外标记的图像并测量推理收敛,从而允许样本有效的主动模型训练。重要的是,概率公式允许有效的视觉搜索和信息检索时,有限的标签数据是可用的。
2020-05-22 cs.CV cs.RO
Hierarchical Point-based Active Learning for Semi-supervised Point Cloud Semantic Segmentation
Queen Mary University of London(伦敦玛丽女王大学);Chongqing University of Posts and Telecommunications(重庆邮电大学);JD Explore Academy(京东探索研究院)
针对点云语义分割标注成本高、现有主动学习方法存在信息冗余且需额外区域划分的问题,提出分层基于点的主动学习策略与半监督框架,在仅用极少量标注数据时性能接近或追平全监督基线,优于现有同类方法。
2023-08-22 cs.AI cs.CV
MyriadAL: Active Few Shot Learning for Histopathology
University of Alberta(阿尔伯塔大学)
本文提出主动小样本学习框架MAL,通过自监督对比学习、伪标签生成与优化以及结合不确定性度量的新型查询样本选择,在组织病理学数据集上以仅5%的标注预算实现了与全监督算法相当的准确率。
2024-04-25 cs.CV
Active label cleaning for improved dataset quality under resource constraints
Microsoft Research Cambridge(微软剑桥研究院);Stanford University(斯坦福大学)
数据注释中的不完善,即标签噪声,对机器学习模型的训练有害,并且对模型性能的评估具有经常被忽视的混杂影响。然而,聘请专家通过完全重新注释大型数据集来消除标签噪声在资源受限的环境中是不可行的,例如医疗保健。这项工作倡导一种数据驱动的方法来优先考虑重新注释的样本-我们称之为“主动标签清洗”。我们建议根据估计的标签正确性和标签的难度,每个样本的实例进行排名,并引入一个模拟框架来评估重新标记的功效。我们在自然图像和一个新的医学成像基准上的实验表明,清理噪声标签可以减轻它们对模型训练、评估和选择的负面影响。至关重要的是,所提出的主动标签清理能够在现实条件下比典型的随机选择更有效地校正标签高达4倍,从而更好地利用专家的宝贵时间来提高数据集质量。
2022-02-10 cs.CV cs.LG
Responsible Active Learning via Human-in-the-loop Peer Study
The University of Sydney(悉尼大学);ShanghaiTech University(上海科技大学)
已经提出了主动学习,以通过仅手动标记用于训练的代表性数据样本来减少数据注释工作。同时,最近的主动学习应用已经从云计算服务中受益匪浅,云计算服务不仅具有足够的计算资源,而且还具有将许多人包括在主动学习循环中的众包框架。然而,以前的主动学习方法总是需要将大规模未标记的数据传递到云端,这可能会引发严重的数据隐私问题。为了降低这种风险,我们提出了一种负责任的主动学习方法,即同伴学习(PSL),同时保护数据隐私和提高模型的稳定性。具体来说,我们首先引入了一个人在环师生架构,通过在客户端维护一个活跃的学习者(学生),将未标记的数据与云上的任务学习者(教师)隔离开来。在训练过程中,任务学习者指导轻量级主动学习者,然后主动学习者提供关于主动采样标准的反馈。为了进一步提高主动学习者通过大规模的未标记的数据,我们引入多个同伴学生到主动学习者,这是由一个新的学习范式,包括在类同伴研究标记的数据和类外同伴研究未标记的数据训练。最后,我们设计了一个基于差异的主动抽样标准,同伴学习反馈,利用同伴学生的变化来选择最翔实的数据,以提高模型的稳定性。大量的实验表明,所提出的PSL的优越性,在广泛的主动学习方法在标准和敏感的保护设置。
2022-11-24 cs.CV cs.LG
GALAXY: Graph-based Active Learning at the Extreme
University of Wisconsin, Madison(威斯康星大学麦迪逊分校)
针对开放世界中的极端类别不平衡问题,提出融合图主动学习与深度学习的 GALAXY 策略,以自适应选择更类别平衡的样本,并在视觉分类实验中优于现有深度主动学习方法。
2022-05-27 cs.AI cs.CV cs.LG
Consistency-Based Semi-supervised Evidential Active Learning for Diagnostic Radiograph Classification
National University of Singapore(新加坡国立大学);Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院);Singapore University of Technology and Design(新加坡科技设计大学)
深度学习方法实现了对放射学图像进行分类的最先进性能,但依赖于需要专家进行资源密集型注释的大型标记数据集。半监督学习和主动学习都可以用来减轻这种注释负担。然而,在结合半监督和主动学习方法的优点用于多标签医学图像分类方面的工作有限。在这里,我们介绍了一种新的基于一致性的半监督证据主动学习框架(CSEAL)。具体来说,我们利用基于证据理论和主观逻辑的预测不确定性来开发一种端到端的集成方法,该方法将基于一致性的半监督学习与基于不确定性的主动学习相结合。我们应用我们的方法来增强四种领先的基于一致性的半监督学习方法:伪标签,虚拟对抗训练,平均教师和NoTeacher。对多标签胸部X射线分类任务的广泛评估表明,CSEAL在两个领先的半监督主动学习基线上实现了实质性的性能改进。此外,对结果的分类分解表明,我们的方法可以用更少的标记样本大幅提高对罕见异常的准确性。
2022-09-05 cs.AI cs.CV cs.LG
Region-level Active Detector Learning
UC Berkeley(加州大学伯克利分校)
用于目标检测的主动学习通常通过以将各个检测聚集到图像级选择标准中的方式应用为分类而开发的技术来实现。这通常与昂贵的假设相结合,即选择用于标记的每个图像必须被详尽地注释。这在精心策划的视觉数据集上产生了增量改进,并在现实世界图像中出现的数据不平衡和视觉混乱中挣扎。图像级方法的替代方案在文献中令人惊讶地探索不足。在这项工作中,我们引入了一个新的策略,将以前的图像级和对象级的方法纳入一个广义的,区域级的方法,通过避免附近的冗余查询,从相同的图像,并最大限度地减少上下文切换的标签,以促进空间多样性。我们表明,这种方法显着降低了标记工作,并提高了罕见的对象搜索的现实数据与固有的类不平衡和混乱的场景。
2022-01-17 cs.CV
MoBYv2AL: Self-supervised Active Learning for Image Classification
Imperial College London(伦敦帝国理工学院);University College London(伦敦大学学院);KAIST(韩国科学技术院)
主动学习(AL)最近在深度学习(DL)模型中流行起来。这是由于高效和信息丰富的采样,特别是当学习者需要大规模标记数据集时。通常,采样和训练在添加更多批次时分阶段进行。该策略的一个主要瓶颈是模型学习到的影响整体AL选择的狭窄表示。我们提出了MoBYv2AL,一种新的自监督主动学习框架的图像分类。我们的贡献在于将最成功的自监督学习算法之一MoBY提升到AL管道。因此,我们增加了下游任务感知的目标函数,并与对比损失联合优化。此外,我们推导出一个数据分布的选择函数,从标记的新的例子。最后,我们测试和研究我们的管道的鲁棒性和性能的图像分类任务。与最近的AL方法相比,我们成功地实现了最先进的结果。可用代码:https://github.com/razvancaramalau/MoBYv2AL
2023-01-04 cs.CV
SEAL: Self-supervised Embodied Active Learning using Exploration and 3D Consistency
Facebook AI Research(Facebook AI研究院);Carnegie Mellon University(卡内基梅隆大学);UIUC(伊利诺伊大学厄巴纳-香槟分校);UC Berkeley(加州大学伯克利分校)
在本文中,我们将探讨如何在互联网图像的数据和模型的基础上构建,并使用它们来适应机器人视觉,而无需任何额外的标签。我们提出了一个框架,称为自我监督的主动学习主动学习(SEAL)。它利用在互联网图像上训练的感知模型来学习主动探索策略。该探索策略收集的观察结果使用3D一致性进行标记,并用于改进感知模型。我们构建并利用3D语义地图,以完全自我监督的方式学习动作和感知。语义图是用来计算一个内在的动机奖励训练的探索政策,并使用时空3D一致性和标签传播标记的代理观察。我们证明了SEAL框架可以用于关闭动作感知循环:它通过在训练环境中移动来提高预先训练的感知模型的目标检测和实例分割性能,并且改进的感知模型可以用于改进对象目标导航。
2021-12-02 cs.AI cs.CV cs.LG
Visual Transformer for Task-aware Active Learning
Imperial College London(帝国理工学院);KAIST(韩国科学技术院)
主动学习(AL)中基于池的采样代表了在处理深度学习模型时对信息数据进行标注的关键框架。在本文中,我们提出了一种新的管道池为基础的主动学习。与大多数以前的作品不同,我们的方法在训练过程中利用可访问的未标记示例来估计它们与标记示例的相关性。本文的另一个贡献是采用Visual Transformer作为AL管道的采样器。视觉Transformer模型标记和未标记的例子之间的非局部视觉概念依赖,这是至关重要的识别影响未标记的例子。此外,现有的方法相比,学习者和采样器的训练在一个多阶段的方式,我们建议训练他们在一个任务感知的方式,使潜在的空间转化为两个独立的任务:一个分类的标记的例子;其他区分的标签方向。我们评估了我们的工作在四个不同的具有挑战性的基准分类和检测任务,即CIFAR 10,CIFAR 100,FashionMNIST,RaFD和Pascal VOC 2007。我们广泛的实证和定性评估表明,我们的方法相比,现有的方法的优越性。可用代码:https://github.com/razvancaramalau/Visual-Transformer-for-Task-aware-Active-Learning
2021-06-07 cs.AI cs.CV
Improving Category-Aware Active Domain Adaptation via Uncertainty-Guided Region Coverage
VNU University of Engineering and Technology(越南国立大学工程技术大学)
该研究针对主动域适应中平均准确率优化导致困难类别性能下降的问题,提出不确定性引导的区域覆盖方法,在多基准上超越现有同类方法。
2026-10-14 cs.CV
A model-agnostic active learning approach for animal detection from camera traps
Machine Intelligence Lab, School of Information Technology, Deakin University(机器智能实验室,信息科技学院,德堪大学)
针对相机陷阱数据标注成本高的问题,提出一种模型无关的主动学习方法,融合目标级和图像级的不确定性与多样性进行样本选择,仅用30%训练数据即可达到与全量数据相当或更优的动物检测性能。
2025-07-09 cs.CV
Active Learning by Feature Mixing
Australian Institute for Machine Learning(澳大利亚机器学习研究所);University of Adelaide(阿德莱德大学);Idiap Research Institute(Idiap研究所);Monash University(莫纳什大学);Amazon(亚马逊)
主动学习(AL)的承诺是通过从未标记的数据池中选择最有价值的示例进行注释来降低标记成本。识别这些示例对于高维数据(例如图像,视频)和低数据状态尤其具有挑战性。在本文中,我们提出了一种新的方法,称为ALFA-Mix的批量AL。我们通过寻求对它们的表征进行干预而导致的预测不一致来识别具有明显不同特征的未标记实例。我们构建标记和未标记的实例表示之间的插值,然后检查预测的标签。我们表明,这些预测中的不一致有助于发现模型在未标记实例中无法识别的特征。我们得到一个有效的实现的基础上的封闭形式的解决方案,最佳插值引起的预测变化。我们的方法优于所有最近的AL方法在30个不同的设置上的12个基准的图像,视频和非视觉数据。这些改进在低数据状态和自我训练的视觉Transformer上尤其显着,其中ALFA-Mix分别在59%和43%的实验中优于最先进的技术。
2022-03-14 cs.CV
How useful is Active Learning for Image-based Plant Phenotyping?
Iowa State University(爱荷华州立大学)
深度学习模型已成功部署用于各种基于图像的植物表型分析应用,包括疾病检测和分类。然而,监督深度学习模型的成功部署需要大量的标记数据,由于固有的复杂性,这在植物科学(和大多数生物学)领域是一个重大挑战。具体而言,数据注释是昂贵的,费力的,耗时的,并且需要用于表型任务的领域专业知识,特别是对于疾病。为了克服这一挑战,已经提出了主动学习算法,其减少了深度学习模型所需的标记量以实现良好的预测性能。主动学习方法使用获取函数自适应地选择要注释的样本,以在固定的标记预算下实现最大(分类)性能。我们报告了四种不同的主动学习方法的性能,(1)深度贝叶斯主动学习(DBAL),(2)熵,(3)最小置信度和(4)Coreset,以及两种不同的基于图像的分类数据集的传统随机采样注释。第一个图像数据集由大豆[Glycine max L.(Merr.)]叶子属于八种不同的大豆压力和健康类,第二种由来自田间的九种不同杂草组成。对于固定的标记预算,我们观察到,对于两个数据集,具有基于主动学习的采集策略的深度学习模型的分类性能优于基于随机采样的采集。整合数据注释的主动学习策略可以帮助减轻植物科学应用中的标签挑战,特别是在需要深入领域知识的情况下。
2020-07-11 cs.CV
Active Learning under Simulated Class Imbalance and Label Shift in Binary Semantic Segmentation
Michelin, Clermont-Ferrand, 63000, France(米其林公司);Laboratoire Jean Kuntzmann, Grenoble, 38000, France(让·昆塔姆实验室)
本文研究了在模拟的类别不平衡和标签转移下,二元语义分割中的主动学习方法,通过实验验证了基于熵和核心集的选择策略在高度不平衡数据中的有效性。
2026-10-22 cs.CV stat.ML
An active curve approach for tomographic reconstruction of binary radially symmetric objects
为了研究受冲击材料的力学行为,本文提出了一种从一张射线照片中重建径向对称物体的层析成像方法。通常的断层重建算法,如广义逆或滤波反投影不能在这里应用,因为数据是非常嘈杂的和逆问题相关联的单视图断层重建是非常不稳定的。为了改善重建,我们建议在这里添加一些先验假设的照顾对象。其中一个假设是物体是二元的,因此,物体可以通过分离两种材料的曲线来描述。我们提出了一个模型,生活在BV空间,并导致一个非本地的Hamilton-Jacobi方程,通过水平集策略。数值实验进行(使用水平集方法)的合成对象。
2006-07-10 cs.CV math.OC
Reinforced active learning for image segmentation
École Polytechnique de Montréal(蒙特利尔工程学院);Mila, Quebec Artificial Intelligence Institute(米拉魁北克人工智能研究院);ElementAI(元素人工智能)
用于语义分割的基于学习的方法具有两个固有的挑战。首先,获取像素级标签既昂贵又耗时。其次,现实的分割数据集是高度不平衡的:某些类别比其他类别丰富得多,使性能偏向于最具代表性的类别。在本文中,我们感兴趣的是将人类标记工作集中在较大数据池的一个小子集上,最大限度地减少这种工作,同时最大限度地提高分割模型在保留集上的性能。提出了一种基于深度强化学习(RL)的语义分割主动学习策略。智能体学习一种策略,从一个未标记的数据池中选择一个小的信息图像区域的子集-而不是整个图像-进行标记。区域选择决策是基于正在训练的分割模型的预测和不确定性做出的。我们的方法提出了一种新的修改的深度Q网络(DQN)制定的主动学习,使其适应大规模的性质的语义分割问题。我们在CamVid中测试了概念证明,并在大规模数据集Cityscapes中提供了结果。在Cityscapes上,我们基于深度RL区域的DQN方法需要的额外标记数据比我们最具竞争力的基线少大约30%,以达到相同的性能。此外,我们发现,与基线相比,我们的方法要求更多代表性不足的类别的标签,提高了它们的性能,并有助于减轻类别不平衡。
2020-02-16 cs.CV
ActiveAugment: Online Active Learning for Augmentation Selection in Deep Learning
Pioneer Centre for AI(先锋人工智能中心);University of Copenhagen(哥本哈根大学)
ActiveAugment是将增强选择视为在线主动学习的统一框架,在多领域基准数据集上,它优于多种现有增强策略,尤其在低标注预算和医学成像场景中表现突出,具备强跨域适应性。
2026-09-01 cs.AI cs.CV