Emerging Semantic Segmentation from Positive and Negative Coarse Label Learning
Big Data Institute, Li Ka Shing Centre for Health Information and Discovery（大数据研究所，李嘉树健康信息与发现中心）；University of Oxford（牛津大学）；Nuffield Department of Population Health（人口健康部门）；Nuffield Department of Clinical Neurosciences（临床神经科学部门）；Department of Engineering Science（工程科学系）；School of Engineering, College of Engineering and Physical Sciences（工程学院，工程与物理科学学院）；University of Birmingham（伯明翰大学）
针对语义分割中像素级标注成本高的问题，本文提出利用含噪声的正负类粗标注，通过两个耦合CNN学习真实标签分布并引入互补标签学习，在MNIST玩具数据集、Cityscapes及视网膜图像数据集上的实验表明其优于现有最优方法，尤其在粗标注比例较小时表现突出。
2025-08-26 cs.CV cs.LG
Why Fine-grained Labels in Pretraining Benefit Generalization?
Purdue University（普渡大学）；NVIDIA（英伟达）；Google Research（谷歌研究院）
该研究针对细粒度预训练提升泛化性缺乏理论支撑的问题，提出分层多视图结构约束数据分布，证明细粒度预训练可同时学习共同与稀有特征，提升困难样本准确率，为相关实践提供理论依据。
2024-12-10 cs.CV cs.LG stat.ML
Label Cleaning Multiple Instance Learning: Refining Coarse Annotations on Single Whole-Slide Images
Johns Hopkins University（约翰斯·霍普金斯大学）；Johns Hopkins Medicine（约翰斯·霍普金斯医学院）
在病理学样本的全切片图像（WSIs）中注释癌区域在临床诊断、生物医学研究和机器学习算法开发中起着关键作用。然而，生成详尽且准确的注释是劳动密集型的、具有挑战性的并且成本高。仅绘制粗略和近似的注释是一项更容易的任务，成本更低，并且减轻了病理学家的工作量。在本文中，我们研究的问题，细化这些近似注释在数字病理学，以获得更准确的。以前的一些工作已经探索了从这些不准确的注释中获得机器学习模型，但很少有人解决细化问题，其中错误标记的区域应该被明确识别和纠正，并且所有这些都需要-通常非常大-数量的训练样本。我们提出了一种方法，名为标签清洗多实例学习（LC-MIL），细化粗注释在一个单一的WSI，而不需要外部训练数据。从具有不准确标签的WSI中裁剪的补丁在多实例学习框架内联合处理，从而减轻其对预测模型的影响并改进分割。我们在具有乳腺癌淋巴结转移、肝癌和结直肠癌样本的异质WSI集上的实验表明，LC-MIL显着细化了粗糙的注释，甚至在从单个幻灯片学习时，也优于最先进的替代方案。此外，我们展示了如何真正的病理学家绘制的注释可以有效地细化和改进所提出的方法。所有这些结果都表明LC-MIL是一种有前途的轻量级工具，可以从粗注释的病理集提供细粒度注释。
2022-06-07 cs.CV cs.LG
Hyperbolic Space with Hierarchical Margin Boosts Fine-Grained Learning from Coarse Labels
Southeast University（东南大学）；Baidu Inc.（百度公司）；AInnovation Technology Group Co., Ltd（创新技术集团有限公司）；University of Toronto（多伦多大学）；Zhejiang University（浙江大学）
针对从粗标签学习细粒度嵌入的挑战，提出将视觉嵌入映射至双曲空间，并引入分层余弦间隔机制以增强判别能力，在五个基准数据集上取得SOTA结果。
2023-11-18 cs.CV cs.LG cs.MM
Fine-grained Classes and How to Find Them
Faculty of Electrical Engineering and Computing, University of Zagreb（萨格勒布大学电气工程与计算机学院）；EPFL（洛桑联邦理工学院）
本文提出 FALCON，从仅有粗粒度标签的数据中无监督发现细粒度类别并推断层级关系，可融合多数据集学习，在图像和单细胞分类任务上显著优于基线。
2024-06-16 cs.CV cs.LG
When Is Coarse Supervision Worth It? Cost-Aware Learning under Unknown Aggregation
University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）；Carnegie Mellon University（卡内基梅隆大学）
针对未知聚合下两分辨率监督学习，提出估计与跟踪策略，推导盈亏平衡条件并证明最优性，实现成本与信息的有效平衡。
2026-09-30 cs.LG stat.ML
Resolving Multi-Modal Regression by Difference-Quotient-Based Clustering:Fast Coarse Conditional-Label Assignment
Guangdong Polytechnic Normal University（广东技术师范大学）
针对多模态回归的均值崩溃问题，提出差商聚类（DQC）方法，通过最小化簇内差异分配标签，在合成基准上取得优于随机标签和均值崩溃的最小平方误差，为后续生成优化减轻负担。
2026-08-27 cs.LG
LEARNER: Contrastive Pretraining for Learning Fine-Grained Patient Progression from Coarse Inter-Patient Labels
Carnegie Mellon University（卡内基梅隆大学）；LSUHSC Internal Medicine（LSUHSC内科）；Cosmetic Surgery Facility LLC（美容外科诊所有限公司）
LEARNER通过对比学习利用患者间粗粒度标签，学习细粒度患者内变化，提升个性化医学中的治疗响应预测性能。
2025-11-19 cs.AI cs.CV cs.LG
No Subclass Left Behind: Fine-Grained Robustness in Coarse-Grained Classification Problems
Stanford University（斯坦福大学）
在现实世界的分类任务中，每个类通常包括多个更细粒度的“子类”。由于子类标签经常不可用，仅使用粗粒度类标签训练的模型通常在不同子类中表现出高度可变的性能。这种现象被称为隐藏分层，对于部署在安全关键应用（如医学）中的模型具有重要影响。我们提出了乔治，方法来衡量和减轻隐藏分层，即使子类标签是未知的。我们首先观察到未标记的子类在深度神经网络的特征空间中通常是可分离的，并利用这一事实通过聚类技术估计训练数据的子类标签。然后，我们使用这些近似的子类标签作为一种形式的噪声监督的分布鲁棒优化目标。我们从理论上描述了乔治的性能在最坏情况下的泛化误差在任何子类。我们在真实世界和基准图像分类数据集的混合上实证验证了GEORGE，并表明与标准训练技术相比，我们的方法将最坏情况下的子类准确率提高了22个百分点，而不需要任何关于子类的先验信息。
2022-04-10 cs.CV cs.LG
Preserving Fine-Grain Feature Information in Classification via Entropic Regularization
IMT Atlantique（大西洋国立高等矿业电信学校）；CNRS（法国国家科学研究中心）
标记分类数据集意味着定义类和相关的粗略标签，这可能近似于更平滑和更复杂的地面事实。例如，自然图像可能包含多个对象，在许多视觉数据集中只有一个对象被标记，或者类可能由回归问题的离散化产生。使用交叉熵在这种粗糙标签上训练分类模型可能会粗略地切割特征空间，可能会忽略最有意义的特征，特别是丢失底层细粒度任务的信息。在本文中，我们感兴趣的是使用仅在粗粒度标签上训练的模型来解决细粒度分类或回归的问题。我们表明，标准的交叉熵可能会导致过拟合粗糙相关的功能。我们引入了一种基于熵的正则化方法，以促进训练模型的特征空间的多样性，并通过经验证明了这种方法在细粒度问题上达到更好性能的有效性。我们的研究结果是支持通过理论发展和实证验证。
2022-08-07 cs.CV cs.LG
A Coarse-to-Fine Pseudo-Labeling (C2FPL) Framework for Unsupervised Video Anomaly Detection
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学）
本文提出由粗到细伪标签（C2FPL）框架，通过分层分裂聚类和统计假设检验生成片段级伪标签，用于训练无监督视频异常检测器，在UCF-Crime和XD-Violence上优于现有OCC和US方法并接近WS方法性能。
2023-10-26 cs.CV cs.LG
Image Labels Are All You Need for Coarse Seagrass Segmentation
Queensland University of Technology（昆士兰科技大学）；CSIRO Data61（澳大利亚联邦科学与工业研究组织Data61）；Image Analytics（图像分析公司）
本文提出一种弱监督粗分割方法，利用图像级标签训练（减少25倍标注）并在推理时输出补丁级结果，通过SeaFeats与SeaCLIP集成，在DeepSeagrass和Global Wetlands数据集上分别提升F1分数6.8%和12.1%，并展示实际部署案例。
2023-09-06 cs.CV cs.LG cs.RO
Learning from Indirect Observations
The University of Tokyo（东京大学）；RIKEN AIP（理化学研究所AIP）
弱监督学习是一种通过利用低质量但大规模的监督信号来缓解标记数据稀缺性的范例。虽然现有的工作主要集中在利用某种类型的弱监督，但我们提出了一个概率框架，从间接观察中学习，用于从现实世界问题中的广泛弱监督中学习，例如，噪声标签、互补标签和粗粒度标签。我们提出了一种基于极大似然原理的通用方法，该方法具有理想的理论性质，可以直接用于深度神经网络。具体地说，对间接观测值采用真目标判别模型，间接观测值是一个完全随机或确定性地依赖于真目标的随机变量。然后，最大化给定间接观测的似然性，隐式地得到真实目标的估计量。两个新的问题设置-从多类标签比例学习和从粗粒度标签学习的综合实验，说明了我们的方法的实用性，并演示了如何整合各种来源的弱监督。
2019-10-10 cs.LG stat.ML
Coarse-to-Fine Open-Set Graph Node Classification with Large Language Models
本文提出CFC框架，利用大语言模型实现图节点的粗到细开放式分类，提升OOD检测和分类性能。
2025-12-21 cs.AI cs.LG
Coarse-to-Fine Curriculum Learning
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Semantic Machines（微软语义机器公司）
当面临学习具有挑战性的新任务时，人类通常遵循一系列步骤，这些步骤使他们能够逐步建立执行这些新任务所需的技能。然而，在机器学习中，模型通常是直接训练来解决目标任务的。受人类学习的启发，我们提出了一种新的课程学习方法，该方法将具有挑战性的任务分解为一系列更容易的中间目标，用于在处理目标任务之前预训练模型。我们专注于分类任务，并使用自动构造的标签层次结构设计的中间任务。我们在层次结构的每个级别上对模型进行训练，从粗略的标签到精细的标签，在这些级别之间传输所获得的知识。例如，模型将首先学习区分动物和物体，然后在学习分类更细粒度的类（如猫、狗、汽车和卡车）时使用这些获得的知识。大多数现有的监督学习的课程学习算法包括调度训练样本被呈现给模型的顺序。相比之下，我们的方法侧重于模型的输出空间。我们在几个已建立的数据集上评估了我们的方法，并显示出显着的性能增益，特别是在具有许多标签的分类问题上。我们还评估了一个新的合成数据集，这使我们能够研究我们方法的多个方面。
2021-06-08 cs.AI cs.LG
Auto-clustering Output Layer: Automatic Learning of Latent Annotations in Neural Networks
在本文中，我们讨论了一种不同类型的半监督设置：对所有观测值都可以使用粗略的标记，但模型必须为每个观测值学习精细的潜在注释。在文本分类、蛋白质功能预测、图像分类以及医学和基因组学研究等探索性科学研究中，可能会遇到这种情况下的问题。我们认为这种设置是同时执行监督分类（根据可用的粗标签）和无监督聚类（在每个粗标签内），并提出了一种新的输出层修改称为自动聚类输出层（ACOL），允许并发分类和聚类基于图的活动正则化（GAR）技术。由于所提出的输出层修改在输出层为每个类复制softmax节点，因此GAR允许在传统纠错学习框架上的这些副本之间进行竞争学习，以最终使神经网络能够在这种部分监督设置中学习潜在注释。我们演示了粗糙标签监督如何影响性能，并有助于传播子类之间的有用聚类信息。三个最流行的图像数据集MNIST，SVHN和CIFAR-100的比较测试严格证明了所提出的方法的有效性和竞争力。
2017-08-09 cs.LG
Towards Understanding the Effect of Pretraining Label Granularity
Purdue University（普渡大学）；Google Research（谷歌研究院）；NVIDIA（英伟达）
该研究聚焦“由细到粗”迁移学习场景，通过实验与理论分析验证细粒度预训练的优势，并结合iNaturalist 2021实验明确保障迁移效果的额外条件，为预训练标签粒度选择提供依据。
2023-10-05 cs.CV cs.LG
Fine-grained Category Discovery under Coarse-grained supervision with Hierarchical Weighted Self-contrastive Learning
Xi’an Jiaotong University（西安交通大学）；University of Massachusetts Boston（马萨诸塞大学波士顿分校）；Zhejiang University（浙江大学）；Lenovo Research（联想研究院）
新类别发现的目的是使在已知类别上训练的模型适应新类别。以前的工作只关注已知和新颖类别具有相同粒度的情况。在本文中，我们研究了一个新的实际场景称为细粒度的类别发现下粗粒度的监督（FCDC）。FCDC的目标是发现细粒度的类别，只有粗粒度的标记数据，它可以适应模型的类别不同的粒度从已知的，并减少显着的标签成本。这也是一项具有挑战性的任务，因为粗粒度类别的监督训练往往专注于类间距离（粗粒度类别之间的距离），但忽略了类内距离（细粒度子类之间的距离），这对于分离细粒度类别至关重要。针对目前大多数方法不能将知识从粗粒度层传递到细粒度层的问题，提出了一种分层加权自对比网络，通过构造一种新的加权自对比模块，并将其与监督学习分层结合.在公共数据集上的大量实验表明，我们的模型比比较方法的有效性和效率。代码和数据可在https://github.com/Lackel/Hierarchical_Weighted_SCL上获得。
2022-10-14 cs.AI cs.CL cs.LG
Coarse-To-Fine Incremental Few-Shot Learning
Huazhong University of Science and Technology（华中科技大学）
与在预设类的大规模数据集上预训练的微调模型不同，类增量学习（CIL）旨在随着时间的推移识别新的类，而不会忘记预训练的类。然而，给定的模型将受到具有更细粒度类的测试图像的挑战，例如，巴辛吉人最多被认为是狗。这样的图像形成新的训练集（即，支持集）以便希望增量模型识别Basenji（即，下一篇：作为一个basenji本文将这种由粗到细的Few-Shot（C2FS）识别的混合自然问题表述为CIL问题C2FSCIL，并提出了一种简单、有效、理论上合理的策略Knowe：一旦从粗标签中对比学习嵌入空间，就从细标签中学习、规范化和冻结分类器的权重。此外，由于CIL的目标是稳定性和可塑性的平衡，提出了新的整体性能指标。从这个意义上说，在CIFAR-100、BREEDS和tieredImageNet上，Knowe的表现优于所有最近的相关CIL/FSCIL方法，这些方法首次针对新的问题设置进行了定制。
2021-11-24 cs.CV cs.LG
Semi-Supervised Learning with Taxonomic Labels
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
我们提出的技术，将粗分类标签训练图像分类器在细粒度域。对于细粒度的领域，例如自然世界，根据生物分类法组织类别，通常可以通过较小的努力获得这样的标签。在由三个王国的810个物种组成的Semi-iNat数据集上，在使用ImageNet预训练模型的迁移学习设置中，结合门标签将物种级别的分类准确度提高了6%。使用称为FixMatch的最先进的半监督学习算法来简化分层标签结构，将性能进一步提高了1.3%。当提供详细的标签（如Class或Order）时，或者当模型从头开始训练时，相对增益更大。然而，我们发现，大多数方法是不鲁棒的存在下，域外的数据从新的类。我们提出了一种技术来选择相关的数据从一个大的收集未标记的图像的层次结构，提高了鲁棒性的指导。总体而言，我们的实验表明，半监督学习与粗分类标签是实用的训练分类器在细粒度的领域。
2021-11-23 cs.CV cs.LG
AutoMSC: Automatic Assignment of Mathematics Subject Classification Labels
FIZ-Karlsruhe（卡尔斯鲁厄专业信息中心）；University of Wuppertal（伍珀塔尔大学）；University of Konstanz（康斯坦茨大学）
数学领域和其他数学密集学科的研究论文的作者通常使用数学主题分类（MSC）方案来搜索相关文献。MSC是一个层次化的图书分类方案，允许图书馆员为出版物指定一个或多个代码。数学领域的数字图书馆以及zbMATH和Mathematical Reviews（MR）等评审服务在其工作流程中依赖这些MSC标签来组织摘要和评审过程。特别是，粗粒度的分类决定了负责实际审查过程的主题编辑。在本文中，我们调查的可行性，自动分配粗粒度的主要分类使用MSC计划，把这个问题作为一个多类分类机器学习任务。我们发现，我们的方法实现了超过77%的（F_1）-分数，这是非常接近的协议zbMATH和MR（（F_1）-分数81%）。此外，我们发现，该方法的置信度分数允许减少86%的努力相比，手动粗粒度分类的努力，同时保持81%的精度为自动分类的文章。
2020-11-09 cs.DL cs.LG
Few-Shot Upsampling for Protest Size Detection
Massachusetts Institute of Technology（麻省理工学院）；UNC Charlotte（北卡罗来纳大学夏洛特分校）
我们提出了一个新的任务和数据集的社会科学研究中的一个常见问题：“上采样”粗文档标签细粒度的标签或跨度。我们以问答的形式提出问题，答案提供细粒度的标签。我们提供了一个对社会有影响力的任务的基准数据集和基线：在美国的抗议和示威活动中确定确切的人群规模，仅提供有关抗议出席率的数量级信息，非常小的细粒度示例样本和英语新闻文本。我们评估了几个基线模型，包括基于规则和问答模型的zero-shot结果，在一小部分文档上微调的Few-Shot模型，以及使用较大的粗标记文档集的弱监督模型。我们发现，我们的基于规则的模型最初优于zero-shot预训练的Transformer语言模型，但进一步微调一个非常小的子集25个例子大大提高了样本外的性能。我们还演示了一种方法，用于微调Transformer跨度上只有粗糙的标签，执行类似于我们的基于规则的方法。这项工作将有助于提高社会科学家生成数据的能力，以了解集体行动的原因和成功。
2021-05-24 cs.CL cs.LG
PASCO (PArallel Structured COarsening): an overlay to speed up graph clustering algorithms
Inria（法国国家信息与自动化研究所）；ENS de Lyon（里昂高等师范学校）；CNRS（法国国家科学研究中心）；Central European University（中欧大学）；National Laboratory for Health Security（国家卫生安全实验室）
针对传统图聚类方法难以处理大规模图的问题，提出名为PASCO的叠加层框架，通过并行化的图粗化、聚类及最优传输合并流程，在保证结构保留和划分质量的同时提升聚类效率。
2025-06-12 cs.LG stat.ML
Coarse composition suffices: tabular in-context learning for multi-activity antimicrobial peptide profiling
Indian Institute of Technology Roorkee（印度鲁基工业学院）；Indian Institute of Science（印度科学学院）
该研究提出一种仅用序列描述符结合TabPFN的简单流程，在ESCAPE数据集上多活性抗菌肽预测性能超越主流复杂模型，且对远程同源物提升显著，推理无需结构预测。
2026-09-09 cs.LG q-bio.BM
Rethinking movie genre classification with fine-grained semantic clustering
University of Surrey（萨里大学）
电影类型分类是机器学习中一个活跃的研究领域。然而，由于可用的标签有限，在单个类型定义内的电影之间可能存在很大的语义变化。我们通过识别电影的多模态内容中的“细粒度”语义信息来扩展这些“粗”类型标签。通过利用预先训练的“专家”网络，我们学习了不同模式组合对多标签流派分类的影响。使用对比损失，我们继续微调这个“粗糙”类型分类网络，以识别所有类型标签中电影之间的高层次互文相似性。这导致了一个更“细粒度”和详细的聚类，基于语义相似性，同时仍然保留一些体裁信息。我们的方法在新引入的多模态37，866，450帧，8，800电影预告片数据集MMX-Trailer-20上进行了演示，其中包括预先计算的音频，位置，运动和图像嵌入。
2021-01-20 cs.CV cs.IR cs.LG
Utilizing coarse-grained data in low-data settings for event extraction
Graduate School of Sciences and Engineering（理工学研究生院）
为事件信息抽取系统注释文本数据是困难的、昂贵的并且容易出错。我们研究了集成粗粒度数据（文档或句子标签）的可行性，这是更可行的获得，而不是注释更多的文档。我们利用一个多任务模型与两个辅助任务，文档和句子的二进制分类，除了令牌分类的主要任务。我们进行了一系列的实验，不同的数据制度，上述整合。结果表明，虽然引入额外的粗粒度数据提供了更大的改进和鲁棒性，增益仍然是可能的，只有增加的负面文件，没有任何事件的信息。
2022-05-11 cs.CL cs.LG
FinePseudo: Improving Pseudo-Labelling through Temporal-Alignablity for Semi-Supervised Fine-Grained Action Recognition
Center for Research in Computer Vision, University of Central Florida（中佛罗里达大学计算机视觉研究中心）
本文首次研究半监督细粒度动作识别，提出基于可对齐性验证的度量学习技术，并构建协同伪标签框架FinePseudo，在多个细粒度与粗粒度数据集上显著提升性能。
2024-09-02 cs.CV cs.LG
Coarse-to-Fine Annotation Enrichment for Semantic Segmentation Learning
The University of Queensland（昆士兰大学）；University of Electronic Science and Technology of China（电子科技大学）
丰富的高质量注释数据对于语义分割学习至关重要，但获取密集的像素级地面实况既耗时又费力。粗略的注释（例如，粗糙多边形）提供了一种经济的替代方案，遗憾的是，使用该替代方案，训练阶段几乎不能产生令人满意的性能。为了以较低的时间成本生成高质量的注释数据进行准确分割，本文提出了一种新的注释丰富策略，该策略将现有的训练数据的粗注释扩展到更细的尺度。在Cityscapes和PASCAL VOC 2012基准测试上进行的大量实验表明，使用我们框架中丰富的注释训练的神经网络比使用原始粗糙标签训练的神经网络有显著的改进。这是非常有竞争力的性能，通过使用人类注释的密集注释。所提出的方法也优于其他国家的最先进的弱监督分割方法。
2018-08-22 cs.CV cs.LG
Sampling and multilevel coarsening algorithms for fast matrix approximations
IBM T. J. Watson Research Center（IBM T.J.沃森研究中心）；University of Minnesota（明尼苏达大学）
本文针对大规模稀疏矩阵及其作为大规模图表示的问题，提出基于粗化技术（可能结合随机采样）的算法，通过超图关联数据矩阵和基于列匹配的图粗化策略，理论分析了适当列匹配策略下粗化步骤的降维质量，并在标准应用和新应用中展示了方法的有效性。
2018-10-01 cs.LG cs.NA math.NA
The Advantage of Fine-Grained Training
Department of Physics, University of Turin（物理学系，都灵大学）；Department of Medical Sciences, University of Turin（医学科学系，都灵大学）
该研究探讨细粒度训练的优势，发现其效果取决于数据几何结构、标签层次关系、边界冗余、数据集规模、模型容量及过参数化程度，明确了其适用与不适用的场景。
2026-07-30 cs.LG
Puffin: Probabilistic Learning of Spatial Detail From Coarse Observations
DFKI（德国人工智能研究中心）
本文提出概率框架Puffin，利用高分辨率卫星嵌入将粗粒度社会经济变量分解为细尺度估计，在德美多类数据上验证其有效性，为统计分解提供了新方法。
2026-10-09 cs.LG
Urban Sound Tagging using Convolutional Neural Networks
FindHotel（FindHotel公司）
在本文中，我们提出了一个框架，环境声音分类在低数据的情况下（少于100个标记的例子，每个类）。我们表明，使用预训练的图像分类模型以及使用数据增强技术的结果在更高的性能比替代方法。我们将该系统应用于DCASE 2019的城市声音标记任务。目标是从原始音频数据中标记不同的噪声源。MobileNetV 2的修改形式，卷积神经网络（CNN）模型被训练以联合分类粗标签和细标签。该模型使用对数尺度梅尔频谱图作为音频数据的表示格式。混合、随机擦除、缩放和移位被用作数据增强技术。使用缩放标签的第二个模型被构建来解释注释中的人为错误。所提出的模型在排行榜上获得了第一名，精细和粗糙标签的Micro-AUPRC值分别为0.751和0.860。
2019-09-27 cs.LG cs.SD eess.AS
Parareal with a Learned Coarse Model for Robotic Manipulation
University of Leeds（利兹大学）；Technische Universität Hamburg（汉堡工业大学）
许多机器人基于模型的规划和控制算法的关键组成部分是物理预测，即在给定初始状态和控制序列的情况下预测状态序列。这个过程是缓慢的，并且是机器人规划算法的主要计算瓶颈。时间积分方法可以帮助利用并行计算来加速物理预测和规划。Parareal算法在粗串行积分器和细并行积分器之间迭代。一个关键的挑战是设计一个粗略的模型，计算成本低，但足够准确，Parareal快速收敛。在这里，我们研究使用深度神经网络物理模型作为机器人操作背景下Parareal的粗模型。在使用物理引擎Mujoco作为精细传播器的模拟实验中，我们表明，学习的粗模型比基于物理的粗模型更快地Parareal收敛。我们进一步表明，学习到的粗模型允许将Parareal应用于具有多个对象的场景，其中基于物理的粗模型不适用。最后，我们在一个真正的机器人上进行实验，并表明Parareal预测接近现实世界的物理预测机器人推动多个对象。视频在https://youtu.be/wCh2o1rf-gA。
2020-06-19 cs.LG cs.RO
Learning Structured Inference Neural Networks with Label Relations
Simon Fraser University（西蒙菲莎大学）；Zhejiang University（浙江大学）
场景图像具有多种对象和丰富的属性，可以进行不同层次的视觉分类。一个自然的图像可以被赋予描述主要组件的细粒度标签，描述高级抽象的粗粒度标签或揭示属性的一组标签。在不同概念层的这种分类可以用编码标签信息的标签图来建模。在本文中，我们使用最先进的深度学习框架来利用这些丰富的信息，并提出了一种通用的结构化模型，该模型利用不同的标签关系来提高图像分类性能。我们的方法采用了一种新的堆叠标签预测神经网络，捕获层间和层内标签语义。我们在基准图像数据集上评估了我们的方法，实证结果说明了我们模型的有效性。
2016-10-24 cs.CV cs.LG
HERMES: A Multi-Granularity Labeling Substrate for Pre-training Data Mixtures
Wizard Quant；Peking University（北京大学）；University of Science and Technology of China（中国科学技术大学）
提出HERMES层次化标注基底，通过语义变换和三级残差向量量化实现从粗到细的数据编码，支持多粒度混合策略，在1B参数、25B token预训练中揭示固定粒度无法检测的交互效应，提升16任务宏平均+0.0253。
2026-07-03 cs.AI cs.CL cs.LG
Coarse-to-Fine Entity Representations for Document-level Relation Extraction
Peking University（北京大学）；Peng Cheng Laboratory（鹏城实验室）
文档级关系抽取（RE）需要抽取句子内部和句子之间的关系。最近的工作表明，基于图的方法，通常构建一个文档级的图，捕捉文档感知的交互，可以获得有用的实体表示，从而帮助解决文档级RE。这些方法或者更多地关注整个图，或者更多地关注图的一部分，例如，目标实体对之间的路径。然而，我们发现，文档级RE可能会受益于同时关注这两个。因此，为了获得更全面的实体表示，我们提出了粗到细的实体表示模型（CFER），采用了由粗到细的策略，包括两个阶段。首先，CFER使用图神经网络来在粗略的水平上整合整个图中的全局信息。接下来，CFER利用全局信息作为指导，以精细级别选择性地聚合目标实体对之间的路径信息。在分类中，我们将两个层次的实体表示结合成更全面的表示，用于关系抽取。在两个文档级RE数据集DocRED和CDR上的实验结果表明，CFER的性能优于现有模型，并且对不均匀的标签分布具有鲁棒性。
2021-06-06 cs.CL cs.IR cs.LG
