Recovering Top-Two Answers and Confusion Probability in Multi-Choice Crowdsourcing
KAIST(韩国科学技术院)
本文针对多选择众包任务,提出一种两阶段推断算法,在恢复真实标签的同时恢复前二答案和混淆概率,并证明其达到极小极大最优收敛速率且优于现有方法。
2023-05-31 cs.HC cs.IT cs.LG
Recovering the number of clusters in data sets with noise features using feature rescaling factors
University of Hertfordshire(赫特福德大学);University College London(伦敦大学学院)
在本文中,我们介绍了三种方法重新缩放数据集,旨在提高聚类有效性指标的可能性,返回的真实数目的球形高斯聚类与额外的噪声功能。我们的方法获得的功能重新缩放因子考虑到给定的数据集的结构和直观的想法,不同的功能可能有不同程度的相关性在不同的集群。我们实验与剪影(使用平方欧几里德,曼哈顿,和p $^{th}$权力的闵可夫斯基距离),邓恩的,卡林斯基-Harabasz和Hartigan指数的数据集与球形高斯集群和没有噪声功能。我们的结论是,我们的方法确实增加了估计数据集中簇的真实数量的机会。
2016-02-22 cs.LG stat.ML
MCAL: Minimum Cost Human-Machine Active Labeling
University of Southern California(南加州大学);Microsoft Research(微软研究院)
如今,地面实况生成使用由基于云的注释服务注释的数据集。这些服务依赖于人工注释,这可能非常昂贵。在本文中,我们考虑混合人机标记的问题,训练分类器准确地自动标记数据集的一部分。然而,训练分类器也可能是昂贵的。我们提出了一种迭代方法,通过在每一步共同确定使用人类标记哪些样本以及使用训练的分类器标记哪些样本,来最大限度地降低总成本。我们在Fashion-MNIST、CIFAR-10、CIFAR-100和ImageNet等公知的公共数据集上验证了我们的方法。在某些情况下,我们的方法相对于人类标记整个数据集的总成本低6倍,并且总是比最便宜的竞争策略便宜。
2023-02-27 cs.CV cs.LG stat.ML
Recovering Loss to Followup Information Using Denoising Autoencoders
Simon Fraser University(西蒙弗雷泽大学);British Columbia Cancer Agency(不列颠哥伦比亚癌症机构)
失访是医疗保健中的一个重要问题,对研究的有效性和成本有严重影响。目前可用于恢复后续信息损失的方法受到其表达能力的限制,并且难以对高度非线性关系和复杂的相互作用进行建模。在本文中,我们提出了一个模型的基础上过完备去噪自动编码器恢复损失的后续信息。设计用于处理大量数据,各种模拟和现实生活数据集的结果表明,我们的模型在不同的数据集和失访条件下是合适的,并且在很大程度上优于最先进的方法(在某些情况下是$\ge 20\%$),同时保留了数据集用于最终分析。
2018-02-12 cs.LG stat.AP stat.ML
An Automated Approach to Collecting and Labeling Time Series Data for Event Detection Using Elastic Node Hardware
University of Duisburg-Essen(杜伊斯堡-埃森大学)
本文提出一种在物联网设备上自主标注传感器数据的嵌入式系统,通过本地轻量级标注方法减少数据传输,实验表明其音频和振动数据分类准确率高达91.67%。
2024-07-06 cs.AI cs.LG
Combining self-labeling and demand based active learning for non-stationary data streams
Bielefeld University(比勒费尔德大学)
从非平稳数据流中学习是一个研究方向,随着越来越多的流形式的数据变得可用,例如来自社交媒体,智能手机或工业过程监控的数据,该方向越来越受到关注。大多数方法都假设样本的真实情况变得可用(可能有一些延迟),并在测试然后训练方案中执行监督在线学习。虽然此假设在某些情况下可能有效,但它并不适用于所有设置。在这项工作中,我们专注于几乎没有标记的数据流,并探索自标记在逐渐漂移的数据流中的潜力。我们正式这个设置,并提出了一种新的在线$k$分类器,结合自标记和基于需求的主动学习。
2023-02-08 cs.LG
Modeling sequential annotations for sequence labeling with crowds
City University of Hong Kong(香港城市大学)
群体顺序注释可以是构建用于序列标记的大型数据集的有效且具有成本效益的方式。与标记独立实例不同,对于群体顺序注释,标签序列的质量依赖于注释者在捕获序列中每个标记的内部依赖性方面的专业知识水平。在本文中,我们提出了建模序列标注与人群(SA-SLC)。首先,开发了一个条件概率模型来联合建模顺序数据和注释者的专业知识,其中分类分布被引入到估计的可靠性,每个注释器捕获本地和非本地标签依赖顺序注释。为了加快边缘化的模型,有效的标签序列推理(VLSE)的方法,提出了从人群顺序标注获得有效的地面实况标签序列。VLSE从令牌级导出可能的地面实况标签,并在标签序列解码的前向推理中进一步修剪子路径。VLSE减少了候选标签序列的数量,并提高了可能的地面实况标签序列的质量。对自然语言处理中的多个序列标注任务的实验结果表明了该模型的有效性。
2022-09-20 cs.CL cs.LG
Recovering Governing Dynamics from Distributed Observations via Exact Spline Merging
University of California, Santa Barbara(加州大学圣塔芭芭拉分校);Dyssonance AI
本文提出一种精确分布式样条合并方法,从碎片化观测中恢复物理参数,无需共享原始数据,误差低于0.12%,并在真实海温数据上验证。
2026-09-28 cs.LG physics.comp-ph
Iterative Pseudo-Labeling with Deep Feature Annotation and Confidence-Based Sampling
University of Campinas(坎皮纳斯大学);Utrecht University(乌得勒支大学)
当大型和带注释的数据集不可用时,训练深度神经网络具有挑战性。对数据样本进行大量的手动注释是耗时、昂贵且容易出错的,特别是当需要由专家完成时。为了解决这个问题,人们越来越关注将不确定标签(也称为伪标签)传播到大量无监督样本并将其用于训练模型的技术。然而,这些技术仍然需要训练集中每个类数百个监督样本,以及具有额外监督样本的验证集来调整模型。我们改进了最近的迭代伪标记技术,深度特征注释(DeepFA),通过选择最有信心的无监督样本来迭代训练深度神经网络。我们基于置信度的采样策略只依赖于每个类几十个带注释的训练样本,没有验证集,大大减少了用户在数据注释方面的工作。我们首先确定基线的最佳配置-一个自我训练的深度神经网络-然后评估我们对不同置信度阈值的置信度DeepFA。在六个数据集上的实验表明,DeepFA已经优于自训练的基线,但信心DeepFA可以大大优于原始DeepFA和基线。
2021-09-06 cs.LG
Improving Medical Annotation Quality to Decrease Labeling Burden Using Stratified Noisy Cross-Validation
Stanford University(斯坦福大学);Google(谷歌)
随着机器学习越来越多地应用于医学成像数据,训练标签中的噪声已经成为一个重要的挑战。医学图像诊断的可变性是公认的;此外,医疗标签人员之间的训练和任务注意力的可变性可能会加剧这个问题。已经研究了用于识别和减轻低质量标签的影响的方法,但是在医学成像任务中没有很好地表征。例如,Noisy Cross-Validation将训练数据分成两半,并已被证明可以识别计算机视觉任务中的低质量标签;但它尚未专门应用于医学成像任务。在这项工作中,我们介绍分层噪声交叉验证(SNCV),噪声交叉验证的扩展。SNCV可以通过为每个示例分配质量分数来提供模型预测的置信度估计;对标签进行分层以处理类别不平衡;并识别可能的低质量标签以分析原因。我们评估了SNCV在视网膜眼底照片诊断青光眼可疑风险方面的性能,这是一项临床重要但细微差别的标记任务。使用来自先前发布的深度学习模型的训练数据,我们为每个训练样本计算连续质量分数(QS)。我们使用经过培训的青光眼专家重新标记了1,277个低QS样本;新标签在初始标签>85%的时间内与SNCV预测一致,表明低QS样本主要反映了标签错误。然后,我们量化了仅使用高QS标签进行训练的影响,表明可以用更少的示例获得强大的模型性能。通过将该方法应用于随机子采样的训练数据集,我们表明,我们的方法可以减少约50%的标签负担,同时实现不劣于在多个测试集上使用完整数据集的模型性能。
2020-09-22 cs.CV cs.LG eess.IV
Identifying through Flows for Recovering Latent Representations
Institute of Data Science(数据科学研究所);NUS Graduate School for Integrative Sciences and Engineering(新加坡国立大学综合科学与工程研究生院);National University of Singapore(新加坡国立大学)
可识别性,或恢复观察到的数据来源的真实潜在表示,事实上是表示学习的基本目标。然而,大多数深层生成模型并没有解决可识别性的问题,因此无法实现恢复生成观察结果的真正潜在来源的承诺。最近的工作提出了可识别的生成建模使用变分自编码器(iVAE)与可识别性理论。然而,由于变分近似后验和真实后验之间的KL发散难以解决,iVAE必须最大化边缘似然的证据下限(ELBO),导致理论和实践中的次优解。相比之下,我们提出了一个可识别的框架,使用基于流的模型(iFlow)估计潜在的表示。我们的方法直接最大限度地提高边际似然,允许理论上的保证可识别性,从而免除变分近似。我们推导出其优化目标的分析形式,使之有可能训练iFlow在一个端到端的方式。通过对合成数据的仿真,验证了该方法的正确性和有效性,并展示了其相对于现有方法的实用优势。
2020-04-26 cs.LG stat.ML
Recovering Clinical Utility Under Differential Privacy: Empirical Validation of Adaptive Federated Aggregation on Heterogeneous Cardiovascular Datasets
Federal Institute of Education, Science and Technology of Rio Grande do Norte (IFRN)(北里奥格兰德联邦教育、科学与技术研究所)
研究在五个真实心血管数据集上验证FedCVR框架,通过异构联邦场景和留一机构交叉验证,证明其在实际数据上保持自适应优势,F1分数达79.2%,AUC为0.96,优于标准FedAvg,验证了临床可行性。
2026-07-23 cs.AI cs.CR cs.CY
Jigsaw-CRL: Recovering Global Latent Causal Order from Fragmented Multi-Client Interventions
Tsinghua University(清华大学)
本文提出Jigsaw-CRL框架,针对多客户端仅干预部分潜在变量的碎片化场景,利用软干预下精度矩阵差异的低秩结构恢复全局潜在因果顺序,建立可识别性保证并经合成数据验证。
2026-09-01 cs.LG stat.ML
Factored Latent-Dynamic Conditional Random Fields for Single and Multi-label Sequence Modeling
School of Electrical and Electronic Engineering(电气与电子工程学院);Nanyang Technological University(南洋理工大学)
条件随机场(CRF)经常用于标记和分割序列数据。Mohammed等人(2007)在标记的CRF结构中引入了隐藏的状态变量,以便对类别标签中的潜在动态进行建模,从而提高标记性能。这种模型被称为潜在动态CRF(LDCRF)。我们提出了因子LDCRF(FLDCRF),一种结构,允许多个潜在的动态类标签相互作用。包括这样的潜在的动态相互作用导致单标签和多标签序列建模任务的标签性能的改善。我们将我们的FLDCRF模型应用于两个不同数据集的两个单标签(一个嵌套交叉验证)和一个多标签序列标记(嵌套交叉验证)实验- UCI手势相位数据和UCI机会数据。FLDCRF优于所有最先进的序列模型,即,CRF,LDCRF,LSTM,LSTM-CRF,析因CRF,耦合CRF和多标签LSTM模型。此外,基于LSTM的模型在验证数据和测试数据之间表现出不一致的性能,并且在我们的实验期间很难根据验证数据选择模型。FLDCRF提供了更简单的模型选择,验证和测试性能的一致性以及清晰的模型直觉。与LSTM相比,FLDCRF的训练速度也快得多,即使没有GPU。FLDCRF在UCI手势相位数据的单标签任务中比最佳LSTM模型突出约4%,在UCI机会数据的多标签序列标记实验中,在嵌套交叉验证测试集上平均比LSTM性能高约2%。FLDCRF的思想可以扩展到联合(多智能体交互)和异构(离散和连续)状态空间模型。
2019-11-12 cs.LG eess.SP stat.ML
Leveraging User Engagement Signals For Entity Labeling in a Virtual Assistant
Apple Inc.(苹果公司)
Siri、Cortana和Alexa等个人助理AI系统已被广泛用作通过自然语言命令完成任务的手段。然而,这些系统中的组件通常依赖于有监督的机器学习算法,该算法需要大量手工注释的训练数据,这是昂贵且耗时的。在本文中,我们描述了一个框架,利用用户参与信号(表现出积极或消极的内容响应的用户行为)自动创建粒度实体标签的训练数据增强。采用多任务学习和使用外部知识库进行验证等策略来合并参与注释数据并提高模型在序列标记任务上的准确性。我们的研究结果表明,从用户参与信号自动标记的数据中学习,在生产深度学习系统中实现了显着的准确性增益,当测量序列标记任务以及系统端到端产生的面向用户的结果时。我们相信这是第一次使用用户参与信号来帮助大规模地为序列标记任务生成训练数据,并且可以应用于实际设置中,以在几乎没有人类注释数据可用时加快新功能的部署。
2019-09-18 cs.AI cs.LG stat.ML
Uncertainty Guided Ensemble Self-Training for Semi-Supervised Global Field Reconstruction
Defense Innovation Institute, Chinese Academy of Military Science(中国人民解放军军事科学院国防科技创新研究院)
从有限的传感器中恢复出全局精确的复杂物理场是航天工程测量与控制的关键。一般的重建方法,尤其是参数较多、表征能力较强的深度学习方法,通常需要大量的标注数据,这是难以承受的。针对这一问题,本文提出了不确定性引导的嵌入式自训练算法(UGE-ST),利用大量的未标记数据来提高重构性能。首先提出了一种新的自训练框架,该框架具有集成教师和预训练学生,旨在提高伪标签的准确性并弥补噪声的影响。另一方面,提出了不确定性引导的学习,以鼓励模型专注于伪标签的高置信度区域,并减轻错误的伪标签在自训练中的影响,提高重建模型的性能。翼型压力场、速度场和飞机系统温度场重建实验表明,UGE-ST在保持监督学习精度的同时,可以节省高达90%的数据。
2023-02-23 cs.AI cs.LG
ECG-DelNet: Delineation of Ambulatory Electrocardiograms with Mixed Quality Labeling Using Neural Networks
Universitat Pompeu Fabra(庞培法布拉大学);Biomedical Research Networking Center in Bioengineering, Biomaterials and Nanomedicine (CIBER-BBN)(生物工程、生物材料与纳米医学生物医学研究网络中心(CIBER-BBN));Aragón Institute of Engineering Research(阿拉贡工程研究所);University of Zaragoza(萨拉戈萨大学)
心电图(ECG)检测和描绘是临床实践中许多任务的关键步骤,因为ECG是用于评估心脏状况的最常用的非侵入性测试。最先进的算法采用数字信号处理(DSP),这需要费力的规则适应新的形态。相比之下,深度学习(DL)算法,尤其是用于分类的算法,在学术和工业环境中越来越重要。然而,缺乏模型的可解释性和小数据库阻碍了它们的适用性。我们证明DL可以成功地应用于低解释性任务,通过嵌入ECG检测和描绘到分割框架。为此,我们适应和验证了最常用的神经网络架构的图像分割,U-网络,一维数据。该模型使用PhysioNet的QT数据库进行训练,该数据库包括105个动态ECG记录,用于单导联和多导联场景。为了缓解数据稀缺性,尝试了数据正则化技术,例如使用低质量数据标签进行预训练,执行基于ECG的数据增强以及将强模型正则化器应用于架构。模型容量的其他变化(U-Net的深度和宽度),以及最先进的添加的应用,进行了评估。以5倍交叉验证方式对这些变化进行了彻底验证。性能最好的配置达到P波,QRS波和T波的精确度分别为90.12%,99.14%和98.25%,召回率分别为98.73%,99.94%和99.88%,与基于DSP的方法相当。尽管是一种在小数据集上训练的数据饥饿技术,但基于DL的方法被证明是传统的基于DSP的ECG处理技术的可行替代方案。
2020-05-11 cs.LG eess.SP stat.ML
A Language-Agnostic Model for Semantic Source Code Labeling
Two Six Labs, LLC.(Two Six Labs有限责任公司);Sophos(Sophos公司)
近年来,由于可用源代码的快速扩展,代码搜索和理解变得更加困难。当前的工具缺乏一种方法来大规模地标记任意代码,同时保持新的程序设计语言、库和功能的最新表示。对源代码的全面标记使用户能够搜索感兴趣的文档并对其内容进行深入了解。我们使用Stack Overflow代码片段及其标签来训练一个与语言无关的深度卷积神经网络,以自动预测源代码文档的语义标签。在Stack Overflow代码片段上,我们展示了在4,508个标签的长尾列表上ROC下的平均面积为0.957。我们还在从Github检索的各种未标记源代码文档上手动验证了模型输出,我们获得了86.6%的top-1准确率。这强烈表明该模型成功地将其知识从Stack Overflow片段转移到任意源代码文档。
2019-06-03 cs.CL cs.LG cs.SE
Self-Labeling in Multivariate Causality and Quantification for Adaptive Machine Learning
California Institute for Telecommunications and Information Technology(加州电信与信息技术学院);University of California, Irvine(加州大学欧文分校)
本文扩展自标注框架至多元因果图,利用四类基本因果关系实现自主领域适配,并定量分析ITM与ESD非理想性能的影响,且通过仿真实验验证理论。
2024-04-08 cs.AI cs.LG stat.ME
Revisiting Self-Training with Regularized Pseudo-Labeling for Tabular Data
Pusan National University(釜山国立大学)
半监督学习和自监督学习的最新进展打破了人们长期以来对机器学习需要大量标记数据和未标记数据无关性的看法。虽然它已经在各种数据中取得了成功,但没有可以推广到表格数据的主要半监督学习和自监督学习方法(即大多数现有方法需要适当的表格数据集和架构)。在本文中,我们重新审视自我训练,它可以应用于任何类型的算法,包括最广泛使用的架构,梯度提升决策树,并介绍课程伪标记(一个国家的最先进的伪标记技术的图像)的表格域。此外,现有的伪标签技术不保证集群假设时,计算的置信度分数的伪标签产生的未标记的数据。为了克服这个问题,我们提出了一种新的伪标签的方法,正则化的置信度分数的基础上的伪标签的可能性,使更可靠的伪标签,位于高密度区域可以得到。我们使用各种模型和表格数据集详尽地验证了我们的方法的优越性。
2023-03-13 cs.AI cs.LG
Towards Generalizable SER: Soft Labeling and Data Augmentation for Modeling Temporal Emotion Shifts in Large-Scale Multilingual Speech
Virginia Commonwealth University(弗吉尼亚联邦大学);Nile University(尼罗大学)
本研究通过整合16个数据集、提出软标签系统及利用Whisper编码器和对比学习增强,实现了多语言语音情感时间动态建模,并在四个数据集上验证了零样本泛化能力。
2023-11-15 cs.CL cs.LG eess.AS
Measuring the Prevalence of Policy Violating Content with ML Assisted Sampling and LLM Labeling
Pinterest
本文提出了一种基于机器学习和大语言模型的系统,用于高效测量违反政策内容的普及率,通过概率抽样和多模态标注提升测量准确性。
2026-08-18 cs.LG stat.ME stat.ML
Automated Annotation of Scientific Texts for ML-based Keyphrase Extraction and Validation
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);DOE Joint Genome Institute(美国能源部联合基因组研究所)
本文针对环境基因组学等缺乏元数据的科学文本,提出两种自动文本标注方法,分别利用相关数据源关系和领域词表本体,为机器学习生成元数据验证提供标签,实验显示高达44%的标签与机器学习关键词提取算法结果匹配。
2023-11-08 cs.AI cs.IR cs.LG
A Thorough View of Exact Inference in Graphs from the Degree-4 Sum-of-Squares Hierarchy
Purdue University(普渡大学)
在图中执行推理是若干机器学习问题中的常见任务,例如,图像分割、社区发现等。对于一个给定的无向连通图,我们解决的统计问题,准确地恢复一个未知的地面真理二进制标记的节点从一个单一的损坏的观察每个边缘。这样的问题可以被公式化为布尔超立方体上的二次组合优化问题,其中之前已经示出了可以(以高概率并且在多项式时间内)精确地恢复具有相对于节点的数量增长的等周数的图的地面真实标记(例如,完全图,正则扩展器)。在这项工作中,我们应用一个强大的层次结构的松弛,被称为平方和(SoS)的层次结构,组合问题。出于经验证据的改进,在确切的可恢复性,我们集中我们的注意力在度-4 SoS放松,并着手了解这种改进的起源从图论的角度来看。我们表明,放松问题的对偶的解决方案是有关的约翰逊和Kneser图,其中的权重满足SoS约束,直观地允许输入图,以增加其代数连通性的边缘权重。最后,作为我们的分析的副产品,我们得到了一个新的Cheeger型下界的代数连通图的符号边权重。
2021-06-01 cs.AI cs.LG stat.ML
Improving Unsupervised Domain Adaptive Re-Identification via Source-Guided Selection of Pseudo-Labeling Hyperparameters
Université Paris-Saclay(巴黎-萨克雷大学);CEA(法国原子能和替代能源委员会);Normandie Univ(诺曼底大学);INSA Rouen(鲁昂国立应用科学学院);LITIS(信息处理与系统实验室)
用于重新识别(re-ID)的无监督领域自适应(UDA)是一项具有挑战性的任务:为了避免额外数据的昂贵注释,它旨在将知识从具有注释数据的领域转移到仅具有未标记数据的感兴趣领域。伪标签方法已被证明是有效的UDA重新ID。然而,这些方法的有效性在很大程度上取决于一些超参数(HP)的选择,影响通过聚类生成伪标签。在感兴趣的领域中缺乏注释使得这种选择变得重要。目前的方法简单地重复使用相同的经验值用于所有适应任务,而不管通过伪标记训练阶段改变的目标数据表示。由于这种简单化的选择可能会限制他们的表现,我们的目标是解决这个问题。我们提出了新的理论基础上的HP选择聚类UDA重新ID以及方法的自动和循环HP调整伪标记UDA聚类:HyPASS。HyPASS包括在伪标记方法中结合两个模块:(i)基于标记的源验证集的HP选择和(ii)特征区分度的条件域对齐以改进基于源样本的HP选择。在常用的人员re-ID和车辆re-ID数据集上的实验表明,与常用的经验HP设置相比,我们提出的HyPASS始终改进了re-ID中最先进的方法。
2021-11-04 cs.CV cs.LG
Propagating the prior from far to near offset: A self-supervised diffusion framework for progressively recovering near-offsets of towed-streamer data
Division of Physical Science and Engineering(物理科学与工程系);King Abdullah University of Science and Technology(国王阿卜杜勒·阿齐兹大学科学与技术学院)
本文提出一种自监督扩散框架,通过递归外推从远到近恢复拖曳线阵数据的近偏移轨迹,无需地面真实数据,提升地震数据处理效果。
2026-02-02 cs.LG physics.geo-ph
Active Transfer Prototypical Network: An Efficient Labeling Algorithm for Time-Series Data
Technical University of Munich(慕尼黑工业大学);Robert Bosch GmbH(罗伯特·博世有限公司);Bosch Rexroth AG(博世力士乐股份公司)
针对汽车时间序列数据标注成本高的问题,提出基于少样本学习的主动迁移原型网络框架,通过主动选择支持集提升学习效率,在UCI HAR/HAPT和制动数据集上以10%和5%标注量达到90%准确率。
2022-09-28 cs.LG
ICDAR 2019 Competition on Large-scale Street View Text with Partial Labeling -- RRC-LSVT
Baidu Inc(百度公司);University of Malaya(马来亚大学);South China University of Technology(华南理工大学);Computer Vision Center, Universitat Autònoma de Barcelona(巴塞罗那自治大学计算机视觉中心)
从街景图像中读取强大的文本为各种应用提供了有价值的信息。现有方法在这种具有挑战性的情况下的性能改进严重依赖于完全注释的训练数据的量,这是昂贵的和低效的获得。为了扩大训练数据的数量,同时保持标签过程的成本效益,本次比赛引入了一个新的挑战,大规模街景文本与部分标签(LSVT),提供50000和400000图像的完整和弱注释,分别。该竞赛旨在探索最先进的方法从大规模街景图像中检测和识别文本实例的能力,缩小研究基准与实际应用之间的差距。在比赛期间,共有41支队伍参加了两项建议任务,并提交了132份有效作品,文本检测和端到端文本定位。本文包括ICDAR 2019-LSVT挑战的数据集描述、任务定义、评估方案和结果总结。
2019-09-17 cs.CV cs.LG cs.MM
Classifier-Dependent Benefits of Pseudo-Labeling for Semi-Supervised Android Malware Attribution
North South University(南北大学)
本研究系统评估了六种分类器在CICMalDroid 2020数据集上的伪标签半监督学习效果,发现收益强依赖分类器类型,SVM增益最大,随机森林在低标注比例下受损,并指出约10%标注样本即可达到近最优性能。
2026-09-25 cs.LG
naPINN: Noise-Adaptive Physics-Informed Neural Networks for Recovering Physics from Corrupted Measurement
Department of Industrial Engineering(工业工程系);Seoul National University(首尔国立大学)
提出噪声自适应物理信息神经网络(naPINN),通过嵌入能量模型学习残差分布并自适应过滤异常值,从非高斯噪声和离群点损坏的测量中鲁棒恢复物理解。
2026-06-01 cs.AI cs.LG
Learning from Reduced Labels for Long-Tailed Data
China University of Mining and Technology(中国矿业大学)
针对长尾数据标注成本高且现有弱监督方法难以保留尾部样本监督信息的问题,提出精简标签(Reduced Label)标注设置及带理论保证的无偏框架,在ImageNet等数据集上性能优于现有最优弱监督方法。
2024-12-03 cs.CV cs.LG
Inference in Sparse Graphs with Pairwise Measurements and Side Information
Cornell University(康奈尔大学);University of California, Berkeley(加州大学伯克利分校)
我们考虑的统计问题,恢复一个隐藏的“地面真相”的二进制标记的顶点的一个图形的低汉明误差从嘈杂的边缘和顶点测量。我们提出了新的算法和一个尖锐的有限样本分析这个问题上的树和稀疏图,如超网格和环格的扩展性能差。我们的方法推广并改进了Globerson等人的方法。(2015),他们引入了二维网格晶格的问题。对于树,我们提供了一个简单,高效的算法,推断地面真理与最佳汉明误差具有最佳的样本复杂性,并意味着恢复结果的所有连接图。这里,边信息的存在对于获得非平凡恢复率是至关重要的。然后,我们展示了如何适应这种算法的树分解的边缘子图的某些图形家庭,如格,导致可以有效地获得的最佳恢复出错率。我们分析的重点是1)使用树分解以及边缘测量来产生一小类可行的顶点标记,以及2)应用受统计学习理论影响的分析,表明我们可以使用顶点测量从该类中推断出地面真相。我们展示了我们的方法在几个例子,包括超网格,环格,和纽曼-瓦特模型的小世界图的权力。对于二维网格,我们的结果通过在恒定高度区域获得最佳恢复而优于Globerson等人(2015)。
2018-02-27 cs.LG
Rethinking Clustering-Based Pseudo-Labeling for Unsupervised Meta-Learning
Inception Institute of Artificial Intelligence(初始人工智能研究院);University of Macau(澳门大学);Terminus Group(特斯联集团)
无监督元学习的开创性方法CACTU是一种基于聚类的伪标记方法。这种方法是模型不可知的,可以与监督算法相结合,从未标记的数据中学习。然而,它经常遭受标签不一致或有限的多样性,这导致性能不佳。在这项工作中,我们证明,这是一个集群的嵌入空间中缺乏友好的属性的核心原因。我们通过最小化类间到类内的相似性比率来解决这个问题,以提供聚类友好的嵌入功能,并通过全面的实验来验证我们的方法。请注意,尽管在我们的嵌入空间中只使用了一个简单的聚类算法(k-means)来获得伪标签,但我们取得了显着的改进。此外,我们采用了渐进的评估机制,以获得更多的多样性样本,以进一步缓解有限的多样性问题。最后,我们的方法也是模型不可知的,可以很容易地集成到现有的监督方法。为了证明它的泛化能力,我们将其集成到两个代表性的算法:MAML和EP。三个主要的Few-Shot基准测试的结果清楚地表明,所提出的方法实现了显着的改进相比,国家的最先进的模型。值得注意的是,我们的方法在两个任务中也优于相应的监督方法。
2022-09-27 cs.CV cs.LG
Automated Labeling of Intracranial Arteries with Uncertainty Quantification Using Deep Learning
Dept. of Molecular Medicine and Surgery, Karolinska Institutet(卡罗林斯卡研究所分子医学与外科部);Biomedical Imaging Center, Pontificia Universidad Católica de Chile(智利天主教大学生物医学成像中心);Department of Electrical Engineering, School of Engineering, Pontificia Universidad Católica de Chile(智利天主教大学工程学院电气工程系);Millennium Institute for Intelligent Healthcare Engineering (iHEALTH), Santiago, Chile(智利智能健康工程研究院(iHEALTH));Department of Medical Physics, Institute of Physics, University of Greifswald(格里夫斯瓦尔德大学物理研究所医学物理系);Department of Radiology, Northwestern University(西北大学放射科);Department of Neurological Surgery, Northwestern University(西北大学神经外科部);Department of Neurology, Northwestern University(西北大学神经科)
本文提出基于深度学习的自动动脉标注框架,利用3D时间飞越磁共振血管成像数据,通过三种CNN架构提升标注精度与鲁棒性,并引入不确定性量化方法增强可解释性与可靠性。
2025-09-22 cs.CV cs.LG
Cost-Sensitive Active Learning for Intracranial Hemorrhage Detection
University of California Berkeley(加州大学伯克利分校);University of California San Francisco School of Medicine(加州大学旧金山分校医学院)
用于临床应用的深度学习受到严格的性能要求,这就需要大型标记数据集。然而,标记医疗数据的巨大成本使得这一点具有挑战性。针对头部CT图像中颅内出血的检测和分割问题,建立了一个代价敏感的主动学习系统。我们表明,我们的合奏方法相比,与国家的最先进的,同时运行速度更快,使用更少的内存。此外,我们的实验是使用比以前关于这个主题的论文大得多的数据集完成的。由于标记时间在不同的示例中可能会有很大的差异,我们对标记时间进行建模并优化投资回报。我们通过在我们的大型标记数据集上选择核心集并使用来自野外的数据来增长它来验证这个想法。
2018-09-08 cs.CV cs.LG
The Data Fusion Labeler (dFL): Challenges and Solutions to Data Harmonization, Labeling, and Provenance in Fusion Energy
University of Texas, Austin, TX, USA(德克萨斯大学)
针对聚变能研究异构多模态数据整合难题,本文提出统一工作流工具dFL,可实现高效带溯源的协调融合与标注,大幅提升分析效率与标注质量,经DIII-D装置验证可支撑聚变领域数据驱动研究与实时控制。
2025-11-12 cs.LG physics.data-an physics.plasm-ph
Early Warning Prediction with Automatic Labeling in Epilepsy Patients
Huazhong University of Science and Technology(华中科技大学);Great Bay University(大湾区大学);St. Petersburg Department of the Steklov Mathematical Institute(斯捷克洛夫数学研究所圣彼得堡分部)
本文提出一种基于元学习的双层优化框架,利用癫痫患者EEG数据自动标注早期发作期噪声数据并提升骨干模型训练精度,实验表明其预测准确率显著优于LSTM和ResNet基线,且预测概率可作为高效早期预警指标。
2024-01-11 cs.LG math.DS
Improving Classification through Weak Supervision in Context-specific Conversational Agent Development for Teacher Education
University of Virginia(弗吉尼亚大学);Curry School of Education, University of Virginia(弗吉尼亚大学柯里教育学院);James Madison University(詹姆斯麦迪逊大学)
应用于会话代理开发的自然语言处理(NLP)组件的机器学习技术显示出有希望的结果,以提高会话代理可以提供的反馈的准确性和质量。开发特定于教育场景的对话代理所需的工作非常耗时,因为它需要领域专家对课堂视频等嘈杂数据源进行标记和注释。以前的注释建模方法依赖于标记数千个示例并计算注释者之间的一致性和多数投票,以便对必要的场景进行建模。这种方法虽然被证明是成功的,但忽略了标注数据点的个体注释者的优势,并且没有充分利用那些没有多数投票支持标注的示例。我们建议使用多任务弱监督方法结合主动学习来解决这些问题。这种方法比传统方法需要更少的标记,并且在精度,效率和时间要求方面比多数投票方法有显着提高(Ratner 2019)。我们证明了这种方法在谷歌拼图数据集的有效性,然后提出了一个方案,应用这种方法使用教学质量评估(IQA)来定义标签的类别。我们建议使用概率建模的注释器标记生成主动学习的例子,以进一步标记的数据。主动学习能够迭代地提高原始分类模型的训练性能和准确性。这种方法结合了最先进的弱监督和主动学习的标记技术,以优化教育领域的结果,并可进一步用于通过迁移学习减少教育领域内扩展场景的数据要求。
2020-10-23 cs.CL cs.CY cs.LG
Spatially Robust Inference with Predicted and Missing at Random Labels
本文提出了一种双稳健估计器,用于处理具有预测和缺失在随机标签的空间依赖性问题,通过交叉拟合和jackknife方法校正空间异方差性和自相关,提高置信区间的有效性。
2026-03-11 cs.LG econ.EM stat.AP
Empowering HWNs with Efficient Data Labeling: A Clustered Federated Semi-Supervised Learning Approach
Hamad Bin Khalifa University(哈马德·本·哈利法大学)
针对分层无线网络中未标注数据多、两层聚合收敛慢的问题,提出 CFSL 框架,利用专用模型生成伪标签,在准确率与延迟上显著优于现有方法。
2024-01-19 cs.LG cs.NI
Automatic Data Labeling for Software Vulnerability Prediction Models: How Far Are We?
The University of Adelaide(阿德莱德大学);Cyber Security Cooperative Research Centre(网络安全合作研究中心)
该研究定量与定性评估了最先进的自动标注软件漏洞数据D2A的质量,发现虽超50%标注有噪声,但利用其训练的预测模型在MCC和Recall上最高可提升22%和90%,揭示了自动标注数据的潜力与降噪挑战。
2024-07-25 cs.CR cs.LG cs.SE
Using In-Context Learning for Automatic Defect Labelling of Display Manufacturing Data
TCL Corporate Research(TCL企业研究院);TCL China Star Optoelectronics Technology Co., Ltd.(TCL华星光电技术有限公司)
本文提出基于上下文学习和增强SegGPT的显示面板缺陷自动标注系统,通过涂鸦标注和两阶段训练,在保持约60%自动标注覆盖率的同时显著提升IoU和召回率,达到与人工标注数据训练模型相当的性能。
2025-06-05 cs.AI cs.CV cs.LG