Weakly Supervised One-Shot Detection with Attention Similarity Networks
University of Augsburg(奥格斯堡大学);Imperial College London(帝国理工学院)
不以类身份为条件的神经网络模型被证明有助于类之间的知识转移,并且非常适合一次性学习任务。基于这一动机,我们进一步探索和建立了这样的模型,并提出了一种新的神经网络架构的弱监督单次检测的任务。我们的模型只以一个看不见的类的单个样本和一个更大的目标示例为条件,该目标示例可能包含也可能不包含与样本相同的类的实例。通过将暹罗相似性网络与注意力机制配对,我们设计了一个模型,该模型能够同时识别和定位在训练时看不到的类的实例。在计算机视觉和音频领域的数据集的实验中,所提出的方法大大优于弱监督单次检测任务的基线方法。
2018-06-27 cs.LG stat.ML
Weakly Supervised Disentanglement by Pairwise Similarities
University of Pittsburgh(匹兹堡大学)
最近,与深度生成模型的无监督解纠缠学习相关的研究已经非常流行。但是,不引入监管,就无法保证利益因素能够顺利收回。出于现实世界中的问题,我们提出了一个设置,用户引入弱监督提供实例之间的相似性的基础上的一个因素被解开。相似性被提供为描述一对实例是否相似的二进制(是/否)或实值标签。在变分自编码器的框架内,我们提出了一种新的潜变量弱监督解纠缠方法。实验结果表明,利用弱监督,大大提高了解纠缠方法的性能。
2020-03-11 cs.LG stat.ML
Efficient Path Prediction for Semi-Supervised and Weakly Supervised Hierarchical Text Classification
Hong Kong University of Science and Technology(香港科技大学)
层次文本分类有许多实际应用。然而,标记大量文档是昂贵的。在实践中,我们可以使用半监督学习或弱监督学习(例如,无数据分类)以降低标记成本。在本文中,我们提出了一个路径成本敏感的学习算法,利用结构信息,并进一步利用未标记和弱标记的数据。我们使用生成模型来利用大量的未标记数据,并将路径约束引入到学习算法中,以结合类层次结构的结构信息。未标记和弱标记数据的后验概率可以与路径相关分数结合。由于我们把结构敏感的成本的学习算法,以约束与类层次结构一致的分类,不需要重建不同结构的特征向量,我们可以显着降低计算成本相比,结构输出学习。在两个层次文本分类基准上的实验结果表明,该方法不仅是有效的,而且是有效的处理半监督和弱监督的层次文本分类。
2019-02-25 cs.IR cs.LG stat.ML
Weakly Supervised Grammatical Error Correction using Iterative Decoding
Google AI(谷歌人工智能)
我们描述了一种语法错误纠正(GEC)方法,该方法可以有效地利用在大量弱监督双文本上训练的模型。我们训练的Transformer序列到序列模型的维基百科修订的4 B令牌,并采用迭代解码策略,是专为松散监督性质的维基百科训练语料库。在Lang-8语料库上进行微调和集成,在CoNLL'14基准测试中得到58.3的F0.5,在JFLEG上得到62.4的GLEU。弱监督训练和迭代解码的组合即使不使用任何标记的GEC数据也在CoNLL'14上获得48.2的F0.5。
2018-10-31 cs.CL cs.LG stat.ML
Multi-Evidence Filtering and Fusion for Multi-Label Classification, Object Detection and Semantic Segmentation Based on Weakly Supervised Learning
The University of Hong Kong(香港大学)
监督目标检测和语义分割需要对象甚至像素级注释。当仅存在图像级标签时,弱监督算法实现准确预测是具有挑战性的。顶级弱监督算法实现的准确性仍然明显低于完全监督算法。在本文中,我们提出了一种新的弱监督课程学习管道多标签对象识别,检测和语义分割。在这个管道中,我们首先获得训练图像的中间对象定位和像素标记结果,然后使用这些结果以完全监督的方式训练特定于任务的深度网络。整个过程由四个阶段组成,包括训练图像中的对象定位,过滤和融合对象实例,训练图像的像素标记,以及特定任务的网络训练。为了在训练图像中获得干净的对象实例,我们提出了一种新的算法,用于过滤,融合和分类从多个解决方案机制收集的对象实例。在该算法中,我们将度量学习和基于密度的聚类过滤检测到的对象实例。实验表明,我们的弱监督流水线实现了最先进的多标签图像分类以及弱监督目标检测和非常有竞争力的结果,在弱监督语义分割的MS-COCO,PASCAL VOC 2007和PASCAL VOC 2012。
2018-02-26 cs.AI cs.CV cs.LG
Self-supervised Attention Model for Weakly Labeled Audio Event Classification
Northwestern University(西北大学);Bosch Research and Technology Center(博世研究与技术中心)
我们描述了一种新的弱标记的音频事件分类方法的基础上的自监督注意力模型。弱标记框架用于消除对昂贵的数据标记过程的需要,并且部署自监督注意力以帮助模型以与先前注意力模型相比更有效的方式区分弱标记音频片段的相关和不相关部分。我们还提出了一个高效的强监督注意力模型时,强标签。该模型也可以作为自监督模型的上限。具有自监督注意训练的模型的性能与使用强标签训练的强监督模型相当。我们表明,我们的自我监督的注意力方法是特别有益的短音频事件。我们实现了8.8%和17.6%的相对平均平均精度的改善,目前国家的最先进的系统SL-DCASE-17和平衡的AudioSet。
2019-08-07 cs.LG cs.SD eess.AS
Automatic Clustering of a Network Protocol with Weakly-Supervised Clustering
Graz University of Technology(格拉茨技术大学)
抽象是学习系统行为模型的基本部分。抽象的过程通常由领域专家手动定义。提出了一种对网络协议进行自动抽象的方法。特别是一个弱监督聚类算法被用来建立一个广泛使用的TLS协议的抽象与一个小的词汇量。为了显示所提出的方法的有效性,我们将得到的抽象消息与手动构造的(参考)抽象进行比较。通过少量的边信息(以几个带标签的示例的形式),该方法可以找到一个与引用抽象完美匹配的抽象。
2018-06-04 cs.CR cs.LG stat.ML
Weakly supervised training of pixel resolution segmentation models on whole slide images
我们提出了一种新的方法,训练像素分辨率分割模型的整个幻灯片图像在弱监督设置。该模型经过训练,以分类从幻灯片中提取的补丁。这导致训练是在有噪声的标记数据下进行的。我们用两个互补的策略来解决这个问题。首先,通过关注模型置信度较高的区域,使用模型的知识在线对补丁进行采样。其次,我们提出了一个扩展的KL分歧,是强大的噪声标签。我们在CAMELYON 16数据集上的初步实验显示了令人满意的结果。该模型能够成功分割出形态一致性较强的肿瘤区域。
2019-07-17 cs.LG eess.IV stat.ML
Weakly Supervised Learning Creates a Fusion of Modeling Cultures
Columbia University(哥伦比亚大学)
在过去的二十年里,Breiman等人(2001)提出的算法建模框架取得了巨大的成功。然而,这些黑盒模型的出色预测性能在很大程度上依赖于强有力的监督,即大量准确和精确的地面实况标签。在实践中,强监督可能是不可用的或昂贵的,这需要弱监督下的建模技术。在这篇评论中,我们总结了弱监督学习的关键概念,并讨论了该领域的一些最新进展。在弱监督下单独使用算法建模可能会导致不稳定和误导性的结果。一个有前途的方向是将数据建模文化集成到这样的框架中。
2021-06-02 cs.LG stat.AP stat.ML
Weakly-supervised Knowledge Graph Alignment with Adversarial Learning
Montréal Institute for Learning Algorithms (MILA)(蒙特利尔学习算法研究所(MILA));University of Montréal(蒙特利尔大学);HEC Montréal(蒙特利尔高等商学院);Canadian Institute for Advanced Research (CIFAR)(加拿大高等研究院(CIFAR))
本文研究了来自不同来源或语言的知识图谱的对齐问题。现有的对齐方法大多采用有指导的方法进行训练,这通常需要大量的对齐知识三元组。然而,这样大量的对齐的知识三元组在许多领域中可能是不可用的或者获得起来是昂贵的。因此,在本文中,我们建议研究以完全无监督或弱监督的方式对齐知识图谱,即,没有或只有几个对齐的三联体。我们提出了一个无监督的框架,使不同知识图谱的实体和关系嵌入与对抗学习框架对齐。此外,一个正则化项,最大化的知识图谱的嵌入之间的互信息被用来减轻模式坍塌的问题时,学习对齐功能。这样的框架可以通过利用有限数量的对齐三元组作为指导来进一步与现有的监督方法无缝集成。在多个数据集上的实验结果证明了该方法在无监督和弱监督环境下的有效性。
2019-07-06 cs.AI cs.LG stat.ML
Weakly Supervised Label Learning Flows
Motional(莫申公司);Northeast Normal University(东北师范大学);Google(谷歌公司);Snorkel AI(Snorkel AI公司)
本文提出基于归一化流的弱监督学习通用框架标签学习流(LLF),通过逆向训练条件流并在弱信号约束空间内优化所有可能标签的条件似然,避免显式估计标签,在三个弱监督任务上优于多个基线。
2024-11-25 cs.LG
Recent advances in weakly supervised learning: New supervision paradigms, assumption relaxations, and practical solutions
该文针对弱监督学习领域的实际需求,提出置信度差异分类的解决方法、更宽松假设下的互补标签学习方案,并给出部分标签学习的公平评估框架,推动了该领域的发展。
2026-08-12 cs.LG
Defect detection using weakly supervised learning
Democritus University of Thrace(德谟克利特色雷斯大学);Athena Research Centre(雅典娜研究中心)
本文研究在缺陷检测任务中弱监督学习对标注数据的需求,通过实验对比弱监督与全监督分类器,证明前者可在标注数据显著减少时达到相当性能。
2023-03-27 cs.AI cs.CV cs.LG
Proceedings of the First Workshop on Weakly Supervised Learning (WeaSuL)
欢迎来到WeaSuL 2021,第一次弱监督学习研讨会,与ICLR 2021共同举办。在这个研讨会中,我们希望推进理论,方法和工具,使专家能够表达自动数据注释的先验编码知识,这些知识可用于训练任意深度神经网络进行预测。ICLR 2021年弱监管研讨会旨在推进帮助现代机器学习方法从专家提供的知识中进行归纳的方法,并与可观察(未标记)数据进行交互。共有15篇论文被接受。所有接受的捐款都列在这些会议记录中。
2021-07-08 cs.LG
A Weakly Supervised Learning Approach based on Spectral Graph-Theoretic Grouping
University of Waterloo(滑铁卢大学)
在这项研究中,弱监督分类的谱图论分组策略,其中有限数量的标记样本和较大的未标记样本集被用来构建一个更大的注释训练集组成的强标记和弱标记的样本。强标记样本集合与未标记样本集合之间的固有关系经由谱分组来建立,其中未标记样本随后基于相关联的谱组内的强标记样本进行弱注释。一些相似性图模型的光谱分组,包括两个新的相似性图模型在这项研究中介绍,探讨其性能的背景下,弱监督分类在处理不同类型的数据。使用基准数据集以及真实EMG数据集的实验结果表明,所提出的弱监督分类方法可以提供显着的分类性能的改善,并且所提出的相似性图模型可以导致最终的学习结果,其在弱监督分类的谱分组的背景下优于或等同于现有的相似性图模型。
2015-08-03 cs.AI cs.LG
Weakly-Supervised Deep Learning for Domain Invariant Sentiment Classification
Indian Institute of Technology Gandhinagar(甘地纳加尔印度理工学院);Indian Institute of Technology Kharagpur(克勒格布尔印度理工学院)
学习一个能够很好地适应任何目标域(不同于源域)的情感分类模型的任务是一个具有挑战性的问题。大多数现有的方法都集中在通过在训练期间利用源数据和目标数据来学习公共表示。在本文中,我们介绍了一个两阶段的训练过程,该过程利用弱监督数据集来开发简单的基于提升和移位的预测模型,而无需在训练阶段暴露于目标域。实验结果表明,从源域到各种目标域的弱监督转移提供的性能非常接近于通过目标域本身的监督训练获得的性能。
2019-11-23 cs.CL cs.IR cs.LG
Reducing Label Dependency in Human Activity Recognition with Wearables: From Supervised Learning to Novel Weakly Self-Supervised Approaches
The University of Texas at Arlington(德克萨斯理工大学)
本文提出了一种新型弱自监督学习框架,通过减少标注依赖性提升可穿戴设备人体活动识别的性能和效率。
2025-12-15 cs.HC cs.LG
Weakly-supervised Discovery of Visual Pattern Configurations
University of California, Berkeley(加州大学伯克利分校)
随着弱标记数据的日益突出,对能够应对最小监督的目标检测方法的需求不断增长。我们提出了一种方法,自动识别的视觉模式的特征是一个给定的对象类的歧视性配置。我们制定的问题作为一个受约束的子模块优化问题,并证明了发现的配置在纠正错误定位和寻找信息丰富的积极和消极的训练样本的好处。总之,这些导致了具有挑战性的PASCAL VOC数据集上最先进的弱监督检测结果。
2014-06-25 cs.CV cs.LG
Region Proposals for Saliency Map Refinement for Weakly-supervised Disease Localisation and Classification
Australian Institute for Machine Learning, The University of Adelaide(阿德莱德大学澳大利亚机器学习研究所);Institute for Systems and Robotics, Instituto Superior Tecnico(高等技术学院系统与机器人研究所)
部署自动化系统从医学图像诊断疾病的挑战是需要定位诊断的疾病,以证明或解释分类决策。这一要求很难满足,因为大多数可用于开发这些系统的训练集只包含全局注释,使得疾病定位成为一种弱监督方法。为弱监督疾病分类和定位而设计的主要方法依赖于未专门针对定位进行训练的显着性或注意力地图,或者无法细化以产生准确检测的区域建议。在本文中,我们引入了一种新模型,该模型结合了区域建议和显着性检测,以克服弱监督疾病分类和定位的局限性。使用ChestX-ray 14数据集,我们证明了我们提出的模型为弱监督疾病诊断和定位建立了新的最先进技术。
2020-05-22 cs.CV cs.LG
Weakly-Supervised Temporal Localization via Occurrence Count Learning
Cardiff University(卡迪夫大学)
我们提出了一种新的时间检测和定位模型,它允许仅使用事件发生计数作为训练标签来训练深度神经网络。这个强大的弱监督框架减轻了在时态数据中注释事件位置的不精确和耗时过程的负担。与现有的方法不同,在现有的方法中,本地化是通过设计来明确实现的,我们的模型隐式地学习本地化,作为学习计数实例的副产品。这种独特的特征是模型理论性质的直接结果。我们在一些实验中验证了我们方法的有效性(音频中的击鼓和钢琴起始检测,图像中的数字检测),并证明了与完全监督的最先进方法相比的性能,尽管训练要求要弱得多。
2019-05-17 cs.LG cs.SD eess.AS
Weakly Supervised AUC Optimization: A Unified Partial AUC Approach
Nanjing University(南京大学)
提出弱监督AUC优化的统一框架WSAUC,通过最小化受污染集合上的AUC风险并引入反向偏AUC作为鲁棒训练目标,为多种弱监督场景提供通用解决方案。
2024-03-27 cs.AI cs.LG
Audio Event and Scene Recognition: A Unified Approach using Strongly and Weakly Labeled Data
Carnegie Mellon University(卡内基梅隆大学)
在本文中,我们提出了一种新的学习框架,称为监督和弱监督学习,其目标是同时从弱标记和强标记数据中学习。强标记数据可以简单地理解为完全监督的数据,其中所有标记实例都可用。在弱监督学习中,只有数据是弱标记的,这阻止了人们直接应用监督学习方法。我们提出的框架是出于这样一个事实,即少量的强标记的数据可以给相当大的改善,只有弱监督学习。本文的主要问题域焦点是音频记录中的声事件和场景检测。我们首先提出了一个天真的配方,利用标记的数据在这两种形式。然后,我们提出了一个更一般的框架监督和弱监督学习(SWSL)。基于这个框架,我们提出了一个基于图的方法SWSL。我们的主要方法是基于图上的流形正则化,其中我们表明,统一学习可以制定为一个约束优化问题,可以通过迭代凹凸过程(CCCP)来解决。我们的实验表明,我们提出的框架可以解决几个问题的音频内容分析使用弱标记的数据。
2017-02-18 cs.CV cs.LG cs.SD
Weakly-Supervised 3D Human Pose Learning via Multi-view Images in the Wild
NVIDIA(英伟达)
在野外进行单目3D人体姿态估计的一个主要挑战是获取训练数据,该训练数据包含用准确的3D姿态注释的无约束图像。在本文中,我们通过提出一种弱监督方法来解决这一挑战,该方法不需要3D注释,并学会从未标记的多视图数据中估计3D姿态,这些数据可以在野外环境中轻松获取。我们提出了一种新的端到端学习框架,可以使用多视图一致性进行弱监督训练。由于多视图一致性容易退化的解决方案,我们采用了2.5D姿态表示,并提出了一种新的目标函数,只有当训练模型的预测在所有相机视图中一致且合理时,该目标函数才能最小化。我们在两个大规模数据集(Human3.6M和MPII-INF-3DHP)上评估了我们提出的方法,在半/弱监督方法中,它达到了最先进的性能。
2020-03-17 cs.CV cs.LG
Convolutional STN for Weakly Supervised Object Localization
École de Technologie Superieure, Université du Québec(魁北克大学高等技术学院)
弱监督目标定位是一项具有挑战性的任务,其中感兴趣的目标应该在学习其外观的同时进行定位。最先进的方法通过使用最后一层的激活图来定位对象来回收标准CNN的架构。虽然这种方法很简单并且工作得相对较好,但对象定位依赖于与分类不同的特征,因此,在训练期间需要专门的定位机制来提高性能。在本文中,我们提出了一个卷积的多尺度空间定位网络,为感兴趣的对象提供准确的定位。在CUB-200-2011和ImageNet数据集上的实验结果表明,我们提出的方法为弱监督定位提供了有竞争力的性能。
2020-12-01 cs.CV cs.LG
Weakly Supervised Scalable Audio Content Analysis
Carnegie Mellon University(卡内基梅隆大学)
音频事件检测是多媒体数据内容分析的一项重要任务。当前大多数关于音频事件检测的工作是通过监督学习方法来驱动的。我们提出了一个弱监督学习框架,它可以利用大量的Web多媒体数据,显着减少注释工作和费用。具体来说,我们使用几个多实例学习算法,以表明通过弱标签的音频事件检测是可行的。我们还提出了一种新的可扩展的多实例学习算法,并表明其竞争力与其他多实例学习算法的音频事件检测任务。
2016-06-12 cs.LG cs.MM cs.SD
Understanding and Guiding Weakly Supervised Entity Alignment with Potential Isomorphism Propagation
Beijing University of Posts and Telecommunications(北京邮电大学);Huawei Co. LTD(华为公司)
本文从传播视角分析弱监督实体对齐,证明潜在对齐实体具有同构子图,并提出PipEA框架通过潜在同构传播算子提升各类聚合模型的准确率。
2024-10-12 cs.IR cs.LG
Towards Weakly-Supervised Text Spotting using a Multi-Task Transformer
AWS AI Labs(亚马逊云科技人工智能实验室)
由于联合优化文本检测和识别组件的好处,文本定位端到端方法最近在文献中获得了关注。现有的方法通常在检测和识别分支之间有明显的分离,这两个任务需要精确的注释。我们介绍TextTranSpotter(TTS),一种基于transformer的文本识别方法和第一个文本识别框架,它可以用完全和弱监督设置进行训练。通过学习每个单词检测的单个潜在表示,并使用基于匈牙利损失的新型损失函数,我们的方法消除了对昂贵的本地化注释的需求。在真实数据上仅使用文本转录注释进行训练,我们的弱监督方法与以前最先进的全监督方法相比具有竞争力的性能。当以完全监督的方式进行训练时,TextTranSpotter在多个基准测试中显示了最先进的结果。
2022-02-14 cs.CL cs.CV cs.LG
Improving weakly supervised sound event detection with self-supervised auxiliary tasks
Carnegie Mellon University(卡内基梅隆大学)
虽然多任务和迁移学习已经证明可以在有限的数据设置中提高神经网络的性能,但它们需要预先在大型数据集上对模型进行预训练。在本文中,我们专注于同时提高低数据和噪声环境中弱监督声音事件检测的性能,而不需要任何预训练任务。在这种程度上,我们提出了一个共享的编码器架构,声音事件检测作为主要任务和一个额外的辅助解码器的自我监督的辅助任务。我们在DCASE 2019任务1声学场景数据与DCASE 2018任务2声音事件数据在0,10和20 dB SNR下的混音数据集上经验性地评估了弱监督声音事件检测的拟议框架。为了确保我们保留多个声音事件的本地化信息,我们提出了一个两步注意力池机制,提供了一个时间-频率本地化的多个音频事件的剪辑。在信噪比为0、10和20 dB时,该框架的性能分别比现有的基准模型高出22.3%、12.8%和5.9%。我们进行了消融研究,以确定辅助任务和两步注意池的SED性能改善的贡献。
2021-06-12 cs.LG eess.AS
Weakly Supervised Scene Text Detection using Deep Reinforcement Learning
Hasso Plattner Institute, University of Potsdam(波茨坦大学哈索·普拉特纳学院)
具有挑战性的场景文本检测领域需要复杂的数据注释,这是耗时和昂贵的。诸如弱监管等技术可以减少所需的数据量。本文提出了一种基于强化学习的弱监督场景文本检测方法。RL代理收到的奖励由神经网络估计,而不是从地面实况标签推断。首先,我们通过几种训练优化增强了现有的监督RL文本检测方法,使我们能够缩小与基于回归的算法的性能差距。然后,我们使用我们提出的系统在现实世界的数据上进行弱监督和半监督训练。我们的研究结果表明,在弱监督环境中进行训练是可行的。然而,我们发现在半监督环境中使用我们的模型,例如,当将标记的合成数据与未注释的真实世界数据相结合时,会产生最佳结果。
2022-01-13 cs.AI cs.CV cs.LG
Segment, Select, Correct: A Framework for Weakly-Supervised Referring Segmentation
Five AI Ltd.(Five AI有限公司);University of Oxford(牛津大学)
提出一种弱监督指代分割框架,通过分割、选择、纠正三步,无需掩码标注,性能超越零样本基线16.5%,并将与全监督的差距从33%缩小至7%。
2024-08-20 cs.CV cs.LG
PARDINUS: Weakly supervised discarding of photo-trapping empty images based on autoencoders
Universidad de Jaén(哈恩大学)
针对相机陷阱空图像过滤耗时问题,提出基于自编码器的弱监督方法 PARDINUS,无需标注即可达到或超越全监督方法。
2023-12-22 cs.CV cs.LG
WARM: A Weakly (+Semi) Supervised Model for Solving Math word Problems
Flipkart(Flipkart公司);IIT Bombay(印度理工学院孟买分校);Quadeye(Quadeye公司);IBM India Research Lab(IBM印度研究实验室)
针对数学应用题求解需全量方程标注成本高的问题,提出仅用最终答案监督的弱监督模型WARM,先学生成方程再训练求解器,性能优于现有弱监督方法,还发布多语言数据集并拓展半监督版本。
2023-06-13 cs.CL cs.LG
Fast Weakly Supervised Action Segmentation Using Mutual Consistency
University of Bonn(波恩大学);Toyota Motor Europe(丰田汽车欧洲公司)
动作分割是预测视频中每一帧动作的任务。由于获得用于动作分割的视频的完整注释是昂贵的,因此只能从成绩单中学习的弱监督方法很有吸引力。在本文中,我们提出了一种新的端到端的弱监督动作分割方法的基础上的两个分支神经网络。我们的网络的两个分支预测了两个冗余但不同的动作分割表示,我们提出了一种新的相互一致性(MuCon)损失,以加强两个冗余表示的一致性。使用MuCon损失以及用于转录预测的损失,我们提出的方法实现了最先进方法的准确性,同时$14$在训练和推理期间快$20$倍。即使在完全监督的环境中,MuCon损失也是有益的。
2021-06-10 cs.CV cs.LG
Weakly Supervised Clustering by Exploiting Unique Class Count
National University of Singapore(新加坡国立大学);A*STAR(新加坡科技研究局);A*STAR Genome Institute of Singapore(新加坡科技研究局基因组研究所);Bioinformatics Institute(生物信息学研究所);Image Pervasive Access Lab (IPAL) CNRS UMI 2955(图像普适访问实验室(IPAL)法国国家科学研究中心联合研究单位2955);Singapore Eye Research Institute(新加坡眼科研究所)
提出了一种基于弱监督学习的聚类框架。作为该框架的核心,我们引入了一种新的多实例学习任务的基础上袋级标签称为唯一类计数($ucc$),这是唯一类的数量在袋内的所有实例。在这个任务中,在训练模型的过程中,不需要对包内的单个实例进行注释。我们从数学上证明,一个完美的$ucc$分类器,完美的聚类的个别实例内的袋子是可能的,即使没有注释的个别实例在训练过程中。我们构建了一个基于神经网络的$ucc$分类器,并通过实验证明,我们的弱监督$ucc$分类器框架的聚类性能与完全监督学习模型的聚类性能相当,其中所有实例的标签都是已知的。此外,我们已经测试了我们的框架在组织学淋巴结切片中的乳腺癌转移的语义分割的现实任务的适用性,并表明我们的弱监督框架的性能与完全监督的Unet模型的性能相当。
2020-01-25 cs.CV cs.LG
MAF: Multimodal Alignment Framework for Weakly-Supervised Phrase Grounding
Shanghai Jiao Tong University(上海交通大学);UNC Chapel Hill(北卡罗来纳大学教堂山分校);University of California, Berkeley(加州大学伯克利分校)
短语定位是研究从文本短语到图像区域的映射的任务。鉴于在大规模注释短语到对象数据集的困难,我们开发了一个多模态对齐框架(MAF),以利用更广泛可用的标题图像数据集,然后可以用作弱监督的形式。我们首先提出的算法,利用细粒度的视觉表示和视觉感知的语言表示模型短语对象的相关性。通过采用对比目标,我们的方法使用字幕图像对中的信息来提高弱监督场景下的性能。在广泛采用的Flickr30k数据集上进行的实验表明,与现有的弱监督方法相比,该方法有显着的改进。在视觉感知语言表示的帮助下,我们还可以将以前最好的无监督结果提高5.56%。我们进行消融研究,以表明我们的新模型和我们的弱监督策略都显着有助于我们的强大结果。
2020-10-12 cs.CL cs.CV cs.LG
Weakly Supervised Multi-Embeddings Learning of Acoustic Models
ENS(巴黎高等师范学院);EHESS(社会科学高等研究院);CNRS(法国国家科学研究中心)
我们用语音数据集上的多任务相同/不同信息训练了一个连体网络,发现可以在不损失性能的情况下为两个任务共享一个网络。第一个任务是区分两个相同或不同的单词,第二个任务是区分两个相同或不同的说话者。
2015-04-20 cs.CL cs.LG cs.SD
CAMEL: A Weakly Supervised Learning Framework for Histopathology Image Segmentation
Tsinghua University(清华大学);The Chinese PLA General Hospital(中国人民解放军总医院);Thorough Images;Fudan University(复旦大学)
组织学图像分析在癌症诊断和治疗中起着至关重要的作用。为了自动分割癌变区域,完全监督分割算法需要在像素级进行劳动密集型和耗时的标记。在这项研究中,我们提出了CAMEL,一个弱监督学习框架的组织病理学图像分割只使用图像级标签。使用基于多实例学习(MIL)的标签丰富,CAMEL将图像拆分为网格实例并自动生成实例级标签。在标签丰富之后,实例级标签被进一步分配给相应的像素,产生近似的像素级标签,并使分割模型的完全监督训练成为可能。CAMEL在CAMELYON 16和结直肠腺瘤数据集上的实例级分类和像素级分割方面与完全监督方法具有相当的性能。此外,自动标记方法的通用性可能有利于未来的弱监督学习研究的组织病理学图像分析。
2019-08-28 cs.CV cs.LG eess.IV
Affinity Mixup for Weakly Supervised Sound Event Detection
弱监督声音事件检测问题是预测弱标记数据集中声音事件的存在及其相应的起点和终点的任务。弱数据集将每个训练样本(短记录)与一个或多个当前源相关联。仅依赖卷积层和递归层的网络无法直接关联记录中的多个帧。受注意力和图神经网络的启发,我们引入了亲和度混合的概念,以合并时间级别的相似性并在帧之间建立连接。这种正则化技术使用自适应亲和矩阵混合不同层中的特征。我们提出的亲和力混合网络提高了$8.2\%$的最先进的技术事件F1分数。
2021-06-21 cs.LG cs.SD eess.AS
Weakly-Supervised Audio-Visual Segmentation
CMU(卡内基梅隆大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
针对音视频分割中像素级掩码标注成本高的问题,提出弱监督框架WS-AVS,通过多尺度多实例对比学习实现多尺度音视频对齐,在AVSBench上验证了单源和多源场景下的有效性。
2023-11-25 cs.AI cs.CV cs.LG
Multimodal-Aware Weakly Supervised Metric Learning with Self-weighting Triplet Loss
Dalian University of Technology(大连理工大学)
近年来,我们目睹了从弱监督数据中学习合适的距离度量的兴趣激增。大多数现有的方法旨在将所有相似的样本拉得更近,而将不相似的样本推得尽可能远。然而,当数据集的某些类别表现出多峰分布时,这些目标相互冲突,因此很难同时满足。此外,为了确保有效的度量,许多方法需要重复的特征值分解过程,这是昂贵的和数值不稳定的。因此,如何从弱监督数据中学习合适的距离度量仍然是一个开放但具有挑战性的问题。为了解决这个问题,在本文中,我们提出了一种新的弱监督度量学习算法,命名为Multimodal Aware weakly supervised Metric Learning(MDaML)。MDaML将数据空间划分为多个聚类,并为每个样本分配局部聚类中心和权重。然后,将其与加权三元组损失相结合,可以进一步增强局部可分性,这鼓励局部不相似样本与局部相似样本保持较大的距离。同时,MDaML将度量学习问题转化为SPD流形上的无约束优化问题,利用黎曼共轭梯度下降(RCGD)算法可以有效地求解该问题.在13个数据集上进行的大量实验验证了所提出的MDaML的优越性。
2021-02-03 cs.AI cs.LG cs.MM
Deep-learning-based Early Fixing for Gas-lifted Oil Production Optimization: Supervised and Weakly-supervised Approaches
Federal University of Santa Catarina(圣卡塔琳娜联邦大学)
本文提出基于深度学习的早期固定启发式方法求解气举采油优化中的MILP问题,通过监督与弱监督两种方式训练模型固定整数变量,将问题简化为LP,实现71.11%的运行时缩减。
2023-09-01 cs.LG math.OC
PRBoost: Prompt-Based Rule Discovery and Boosting for Interactive Weakly-Supervised Learning
Georgia Tech(佐治亚理工学院);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
弱监督学习(WSL)在解决许多NLP任务的标签稀缺性方面表现出了良好的效果,但手动设计一个全面的,高质量的标签规则集是繁琐和困难的。我们研究了交互式弱监督学习-迭代和自动地从数据中发现新的标记规则以改进WSL模型的问题。我们提出的模型,名为PRBoost,通过迭代的基于规则的规则发现和模型提升来实现这一目标。它使用boosting来识别大错误实例,然后通过提示具有规则模板的预训练LM来从中发现候选规则。候选规则由人类专家判断,接受的规则用于生成互补的弱标签并增强当前模型。对四个任务的实验表明,PRBoost的性能优于最先进的WSL基线高达7.1%,并与完全监督模型弥合了差距。我们的实施可在\url{https://github.com/rz-zhang/PRBoost}上获得。
2022-03-18 cs.CL cs.LG
Guided Anisotropic Diffusion and Iterative Learning for Weakly Supervised Change Detection
ONERA(法国航空航天研究院);Télécom ParisTech(巴黎高等电信学院)
从用户标签或公开可用的数据创建的大规模数据集对于为大规模学习算法提供训练数据已经变得至关重要。虽然这些数据集更容易获得,但数据通常是嘈杂和不可靠的,这激发了对弱监督学习技术的研究。在本文中,我们提出了一种迭代学习方法,提取有用的信息,从一个大规模的变化检测数据集产生的开放矢量数据训练一个完全卷积网络,它超越了朴素的监督学习所获得的性能。我们还提出了引导各向异性扩散算法,它改善了语义分割的结果,使用输入图像作为指导,执行边缘保持滤波,并与迭代训练方法结合使用,以改善结果。
2019-04-17 cs.CV cs.LG
A Unified Approach to Count-Based Weakly-Supervised Learning
University of California, Los Angeles(加州大学洛杉矶分校)
针对高质量标签稀缺的问题,提出基于计数的弱监督学习统一方法,通过可微、精确且高效地计算n个输出中恰好k个为真的概率,推导出计数损失惩罚模型分布偏离,在三种弱监督范式上取得最优或极具竞争力的结果。
2023-11-22 cs.AI cs.LG
Weakly-supervised segmentation of referring expressions
Inria(法国国家信息与自动化研究所);Ecole normale supérieure(巴黎高等师范学院);CNRS(法国国家科学研究中心);PSL Research University(巴黎文理研究大学)
视觉基础在图像中定位与给定指称表达相对应的区域(框或段)。在这项工作中,我们解决了图像分割从引用表达式,一个问题,到目前为止,只有在一个完全监督的设置得到解决。然而,完全监督的设置需要逐像素的监督,并且由于手动注释的费用而难以扩展。因此,我们引入了一个新的任务,弱监督图像分割的引用表达式,并提出文本接地语义分割(TSEG),学习分割掩模直接从图像级的引用表达式没有像素级的注释。我们的基于transformer的方法计算补丁文本的相似性,并在训练过程中指导分类目标与一个新的多标签补丁分配机制。得到的视觉接地模型分割图像区域对应于给定的自然语言表达式。我们的方法TSEG在具有挑战性的PhraseCut和RefCOCO数据集上展示了弱监督指代表达分割的良好结果。TSEG在Pascal VOC上的语义分割的zero-shot设置中进行评估时也显示出有竞争力的性能。
2022-05-12 cs.AI cs.CV cs.LG
LoGAN: Latent Graph Co-Attention Network for Weakly-Supervised Video Moment Retrieval
Boston University(波士顿大学);University of California, Berkeley(加州大学伯克利分校)
弱监督视频矩检索的目标是定位与给定自然语言查询最相关的视频片段,而无需在训练期间访问时间注释。之前的强监督和弱监督方法通常利用共同注意力机制来学习用于本地化的视觉语义表示。然而,虽然这样的方法倾向于集中于识别视频的元素和语言模态之间的关系,但在给定查询的语义上下文的情况下,对视频帧之间的关系上下文建模的强调较少。因此,建立在局部框架特征上的上述视觉语义表示不包含太多上下文信息。为了解决这一限制,我们提出了一个潜在的图形共同注意力网络(LoGAN),利用细粒度的逐词交互帧之间的对应关系的原因,给定的语义上下文的查询。在两个数据集DiDeMo和Charades-Sta上进行的综合实验证明了我们提出的潜在共同注意力模型的有效性,它比当前最先进的(SOTA)弱监督方法有很大的优势。值得注意的是,它甚至比DiDeMo上的强监督SOTA方法的Recall@1准确率提高了11%。
2020-03-28 cs.CV cs.LG eess.IV
Weakly Supervised Deep Functional Map for Shape Matching
LIX, École Polytechnique(巴黎综合理工学院LIX实验室(LIX, École Polytechnique))
最近已经提出了各种各样的深度功能映射,从完全监督到完全无监督,具有一系列损失函数以及不同的正则化项。然而,目前还不清楚什么是深度功能图管道的最低成分,以及这些成分是否统一或概括了所有最近在深度功能图上的工作。我们显示经验最小的组件,以获得不同的损失函数,监督以及无监督的最先进的结果。此外,我们提出了一种新的框架,设计用于全到全以及部分到全形状匹配,在几个基准数据集上实现了最先进的结果,甚至比完全监督的方法有很大的优势。我们的代码可在https://github.com/Not-IITian/Weakly-supervised-Functional-map上公开获取
2020-09-28 cs.CV cs.GR cs.LG
Polar Transformation Based Multiple Instance Learning Assisting Weakly Supervised Image Segmentation With Loose Bounding Box Annotations
Delta Micro Technology, Inc.(达美微科技公司);Shenzhen SiBright Co. Ltd.(深圳硅基仿生科技有限公司)
本文研究了基于松散限界框监督的弱监督图像分割。提出了一种基于极坐标变换的多示例学习策略,以辅助松散包围盒作为监督的图像分割。在该策略中,引入加权平滑最大值近似,以结合观察到的像素更接近极坐标变换的原点更可能属于限界框中的对象。在公共医疗数据集上使用Dice系数对所提出的方法进行了评估。结果表明其优越的性能。代码可在\url{https://github.com/wangjuan313/wsis-polartransform}上获得。
2022-03-03 cs.CV cs.LG eess.IV
Weakly Supervised Change Detection Using Guided Anisotropic Difusion
ETH Zurich(苏黎世联邦理工学院)
从众包标签或公开可用数据创建的大规模数据集对于为大规模学习算法提供训练数据至关重要。虽然这些数据集更容易获得,但数据通常是嘈杂和不可靠的,这激发了对弱监督学习技术的研究。在本文中,我们提出了原创的想法,帮助我们在变化检测的背景下利用这些数据集。首先,我们提出了引导各向异性扩散(GAD)算法,它改善了语义分割结果使用的输入图像作为指导进行边缘保持滤波。然后,我们展示了它的潜力,在两个弱监督的学习策略量身定制的变化检测。第一种策略是一种迭代学习方法,它结合了模型优化和数据清洗,使用GAD从开放向量数据生成的大规模变化检测数据集中提取有用的信息。第二个将GAD纳入一个新的空间注意力层,提高了弱监督网络的准确性,该网络经过训练,可以从图像级标签执行像素级预测。在4个不同的公共数据集上证明了对最先进技术的改进。
2021-12-31 cs.CV cs.LG eess.IV