Learning Semantic Neural Tree for Human Parsing
Institute of Software Chinese Academy of Sciences(中国科学院软件研究所);JD Finance America Corporation(京东金融美国公司);Tencent Youtu Lab(腾讯优图实验室);University at Albany, State University of New York(纽约州立大学奥尔巴尼分校)
现有的大多数人体句法分析方法都是将句法分析任务表述为语义分割,对每个语义类别都一视同仁,没有充分利用人体内在的生理结构,导致结果不准确。本文设计了一种新的语义神经树用于人体句法分析,它采用树结构对人体生理结构进行编码,并设计了一个由粗到细的级联过程,以产生准确的结果。具体地,语义神经树被设计为将人类区域分割成多个语义子区域(例如,脸,手臂和腿)的分层方式使用一个新设计的注意路由模块。同时,我们引入了语义聚合模块,结合多个层次的功能,以利用更多的上下文信息,以提高性能。我们的语义神经树可以通过带有反向传播的标准随机梯度下降(SGD)以端到端的方式进行训练。在四个具有挑战性的数据集上进行了几个实验,用于单个和多个人类解析,即,LIP、PASCAL-Person-Part、CIHP和MHP-v2等算例验证了该方法的有效性。代码可以在https://isrc.iscas.ac.cn/gitlab/research/sematree上找到。
2019-12-20 cs.CV
Deep Multiphase Level Set for Scene Parsing
Dalian University of Technology(大连理工大学);University of Adelaide(阿德莱德大学);Sichuan University(四川大学)
最近,全卷积网络(FCN)似乎是图像分割的首选架构,包括语义场景解析。然而,它是一个通用的FCN难以区分周围的对象边界的像素,因此FCN为基础的方法可能会输出解析结果与不准确的边界。同时,基于水平集的主动轮廓由于其亚像素精度而优于边界估计。但是,它们对初始设置非常敏感。为了解决这些局限性,在本文中,我们提出了一种新的深度多相水平集(DMLS)的语义场景解析方法,有效地将多相水平集到深度神经网络。所提出的方法包括三个模块,即,循环的FCN、自适应多相水平集和深度监督学习。更具体地说,循环的FCN学习具有不同上下文的输入图像的多级表示。自适应多相水平集驱动每个语义类的判别轮廓,它利用了全局和局部信息的优点。在每个时间步的循环FCN,深度监督学习被纳入模型训练。在三个公共基准上的大量实验表明,我们提出的方法实现了新的最先进的性能。
2019-10-13 cs.CV
Progressive refinement: a method of coarse-to-fine image parsing using stacked network
Nanjing University(南京大学);Jiangsu University of Science and Technology(江苏科技大学)
为了将图像解析成细粒度的语义部分,复杂的细粒度元素会给使用现成的语义分割网络带来麻烦。在本文中,对于图像解析任务,我们提出了解析图像从粗到细逐步细化的语义类。它是通过在分割网络中多次堆叠分割层来实现的。前一个分割模块对图像进行粗粒度的分析,并将分析结果反馈给下一个分割模块,为细粒度的分析提供有效的上下文线索。为了恢复小结构的细节,我们从网络的浅层添加跳过连接到细粒度的解析模块。对于网络训练,我们在groundtruth中合并类以获得粗到细的标签图,并使用这些分层监督端到端地训练堆叠网络。我们的粗到细的堆栈框架可以注入到许多先进的神经网络,以改善解析结果。在几个公共数据集上的大量测试结果表明了该方法的优越性。
2018-04-23 cs.AI cs.CV cs.MM
Semi-supervised Video Semantic Segmentation Using Unreliable Pseudo Labels for PVUW2024
ZTE(中兴通讯)
本文提出基于不可靠伪标签的半监督视频语义分割方法,通过集成教师与学生网络生成伪标签并重训学生网络,在CVPR 2024 PVUW挑战赛中取得第一名。
2024-06-02 cs.CV
Learning Dynamic Hierarchical Models for Anytime Scene Labeling
The Australian National University(澳大利亚国立大学);Data61, CSIRO(澳大利亚联邦科学与工业研究组织数据61)
随着对高效图像和视频分析的需求不断增加,场景解析的测试时间成本对于许多大规模或时间敏感的视觉应用变得至关重要。我们提出了一个动态的分层模型,随时场景标记,使我们能够实现灵活的权衡效率和精度之间的像素级预测。特别是,我们的方法结合了特征计算和模型推理的成本,并通过学习一系列图像自适应分层模型来优化任何给定测试时间预算的模型性能。我们将这种随时表示学习公式化为具有离散-连续状态-动作空间的马尔可夫决策过程。基于一种带有行动建议机制的近似策略迭代方法学习高质量的特征和模型选择策略。我们展示了我们的动态非近视随时场景解析的三个语义分割数据集上的优势,它实现了$90\%$的国家的最先进的性能,通过使用其整体成本的$15\%$。
2016-08-11 cs.CV
A Data-efficient Framework for Robotics Large-scale LiDAR Scene Parsing
The Chinese University of Hong Kong(香港中文大学);Wuhan University(武汉大学)
本文提出一种数据高效的点云理解框架,通过无监督聚类、弱标签引导的聚类合并及自监督标签传播,在有限标注下同时提升大规模LiDAR场景的语义分割、实例分割和目标检测性能。
2023-12-03 cs.CV cs.RO
OPERA: Omni-Supervised Representation Learning with Hierarchical Supervisions
Beijing National Research Center for Information Science and Technology(北京国家信息科学与技术研究中心);Tsinghua University(清华大学);PhiGent Robotics(鉴智机器人)
现代计算机视觉中的预训练-微调范例促进了自监督学习的成功,其倾向于实现比监督学习更好的可移植性。然而,随着大量标记数据的可用性,一个自然的问题出现了:如何训练一个更好的模型与自我和全监督信号?在本文中,我们提出了全方位监督的表示学习与层次监督(OPERA)作为解决方案。我们提供了一个统一的角度监督标记和未标记的数据,并提出了一个统一的框架,完全监督和自监督学习。我们为每个图像提取一组分层代理表示,并对相应的代理表示施加自监督和全监督。在卷积神经网络和视觉Transformer上的大量实验证明了OPERA在图像分类、分割和目标检测方面的优越性。代码可从以下网址获得:https://github.com/wangck20/OPERA。
2022-11-29 cs.AI cs.CV cs.LG
Applying Unsupervised Semantic Segmentation to High-Resolution UAV Imagery for Enhanced Road Scene Parsing
University of Maryland(马里兰大学)
本文提出一种无监督道路解析框架,结合视觉语言模型与SAM生成掩码,通过自监督学习与聚类生成伪标签进行迭代自训练,无需人工标注即在无人机图像上达到89.96%的mIoU。
2024-04-27 cs.CV cs.LG
Self-Correction for Human Parsing
University of Technology Sydney(悉尼科技大学);Baidu Research(百度研究院)
为细粒度语义分割任务(例如,人类解析)标记像素级掩模仍然是一项具有挑战性的任务。不同语义部分之间的模糊边界和具有相似外观的类别通常是令人困惑的,导致地面真实掩码中的意外噪声。为了解决标签噪声学习的问题,这项工作引入了一种净化策略,称为人类解析的自校正(SCHP),以逐步提高监督标签和学习模型的可靠性。特别是,从一个模型训练不准确的注释作为初始化,我们设计了一个循环学习调度器,以推断更可靠的伪掩码迭代聚合当前学习的模型与前一个最佳的在线方式。此外,这些相应校正的标签可以反过来进一步提高模型的性能。通过这种方式,模型和标签将在自校正学习周期中变得更加稳健和准确。得益于SCHP的优越性,我们在两个流行的单人人类解析基准测试,包括LIP和Pascal-Person-Part数据集上取得了最佳性能。我们的整体系统在CVPR 2019 LIP挑战赛中排名第一。代码可在https://github.com/PeikeLi/Self-Correction-Human-Parsing上获得。
2019-10-22 cs.CV cs.LG eess.IV
A Review and A Robust Framework of Data-Efficient 3D Scene Parsing with Traditional/Learned 3D Descriptors
本文提出RM3D框架,结合传统PFH描述符与学习型语义亲和度进行区域合并,在标签极少的情况下统一提升3D语义分割、实例分割和物体检测性能,并在多个基准上超越现有方法。
2023-12-03 cs.CV cs.RO
Semantic Parsing with Semi-Supervised Sequential Autoencoders
Google DeepMind(谷歌DeepMind);University of Oxford(牛津大学)
我们提出了一种新的半监督方法的序列转换,并将其应用于语义解析。无监督组件基于生成模型,其中潜在句子生成不成对的逻辑形式。我们将这种方法应用到一些语义解析任务,重点是域有限的访问标记训练数据和扩展这些数据集与综合生成的逻辑形式。
2016-09-29 cs.AI cs.CL cs.NE
Look into Person: Self-supervised Structure-sensitive Learning and A New Benchmark for Human Parsing
Sun Yat-sen University(中山大学);Carnegie Mellon University(卡内基梅隆大学);Adobe Research(Adobe 研究院);SenseTime Group (Limited)(商汤科技(有限公司))
人工句法分析因其巨大的应用潜力而引起了人们的广泛关注。然而,现有的数据集的图像和注释的数量有限,缺乏多样性的人的外观和在无约束的环境中的挑战性的情况下的覆盖。在本文中,我们介绍了一个新的基准“看人(LIP)”,使一个显着的进步,在可扩展性,多样性和难度,我们认为是至关重要的贡献,为未来的发展,以人为本的分析。这个全面的数据集包含超过50,000张精心注释的图像,带有19个语义部分标签,这些图像是从更广泛的视角,遮挡和背景复杂性中捕获的。鉴于这些丰富的注释,我们对领先的人类解析方法进行了详细的分析,深入了解了这些方法的成功和失败。此外,与现有的提高特征区分能力的努力相比,我们通过探索一种新的自监督结构敏感学习方法来解决人类解析,该方法将人类姿势结构强加到解析结果中,而无需诉诸额外的监督(即,不需要在模型训练中专门标记人类关节)。我们的自监督学习框架可以注入任何高级神经网络,以帮助从全局角度整合有关人类关节的丰富高级知识,并改善解析结果。我们的LIP和公共PASCAL-Person-Part数据集上的广泛评估证明了我们方法的优越性。
2017-07-28 cs.AI cs.CV cs.LG
Interactive Semantic Parsing for If-Then Recipes via Hierarchical Reinforcement Learning
The Ohio State University(俄亥俄州立大学);University of Washington(华盛顿大学);Microsoft Research AI(微软人工智能研究院);U.S. Army Research Lab(美国陆军研究实验室)
给定一个文本描述,大多数现有的语义解析器一次合成一个程序。然而,仅仅基于描述来产生正确的程序是相当具有挑战性的,而实际上描述往往是模糊或不完整的。在本文中,我们研究了交互式语义解析,其中代理可以问用户澄清问题,以解决歧义,通过多轮对话,对一个重要类型的程序称为“如果然后食谱。“我们开发了一个基于分层强化学习(HRL)的代理,它可以显着提高解析性能,同时向用户提出最少的问题。模拟和人类评估的结果表明,我们的代理大大优于非交互式语义解析器和基于规则的代理。
2018-11-14 cs.AI cs.CL
Compositional SVG Generation via VLM-Driven Hierarchical Semantic Parsing
Korea University(高丽大学);KAIST AI(韩国科学技术院人工智能学院)
提出VLM驱动的智能体框架,通过层次化语义解析递归分解视觉场景,生成结构完整、可编辑的SVG,并引入语义基准和指标,超越现有平面生成方法的分组质量与可编辑性。
2026-09-15 cs.AI cs.CV
Sparse3DPR: Training-Free 3D Hierarchical Scene Parsing and Task-Adaptive Subgraph Reasoning from Sparse RGB Views
针对无训练3D场景理解方法的准确性与效率问题,提出Sparse3DPR框架,通过分层平面增强场景图和任务自适应子图提取,仅需稀疏RGB输入即可提升推理性能,在Space3D-Bench和ScanQA上表现优异。
2025-11-11 cs.AI cs.CV
Distantly Supervised Question Parsing
University of Bonn(波恩大学);TU Dortmund(多特蒙德工业大学);Fraunhofer IAIS(弗劳恩霍夫应用信息技术研究所)
用于问答(QA)系统的结构化数据库的出现已经导致开发方法,其中有效地学习正确答案的问题基于问题的组成部分与数据库中的对应条目之间的链接任务。因此,解析问题,以确定其主要元素,这是所需的答案检索,变得至关重要。然而,用于QA系统的大多数数据集缺乏用于解析的黄金注释,即,标签只能以(question,formal-query,answer)的形式提供。在本文中,我们提出了一个基于强化学习的远程监督学习框架来学习问题中实体和关系的提及。我们利用所提供的正式查询来表征延迟奖励,以优化解析模型的策略梯度目标。我们的方法的实证评估表明,实体和关系链接的性能相比,最先进的显着改善。我们还表明,更准确的解析组件提高了QA系统的整体性能。
2020-03-04 cs.AI cs.LG stat.ML
Weakly Supervised Headline Dependency Parsing
Google Research(谷歌研究院);Bloomberg(彭博);Cornell University(康奈尔大学)
自20世纪30年代以来,英语新闻标题形成了一个具有独特句法特征的语域,这在语言学文献中已有记载。然而,令人惊讶的是,标题很少受到NLP句法分析社区的关注。我们的目标是弥合这一差距,通过提供第一个新闻标题语料库的通用的标注句法依赖树,这使我们能够评估现有的国家的最先进的依赖分析器的新闻标题。为了提高英语新闻标题的句法分析准确率,我们提出了一种投影方法,从未标记的新闻标题-文章引导句对中引导银训练数据。在银色标题解析上训练的模型比仅在金色注释的长格式文本上训练的模型在性能上有显着提高。最终,我们发现,虽然预计银训练数据提高了解析器的性能在不同的新闻媒体,改善是缓和的建设特质出口。
2023-01-25 cs.AI cs.CL cs.LG
Pharos-ESG: A Framework for Multimodal Parsing, Contextual Narration, and Hierarchical Labeling of ESG Report
Southwestern University of Finance and Economics(西南财经大学)
本文提出Pharos-ESG框架,通过多模态解析、上下文叙述和分层标注解决ESG报告中布局混乱和隐含层级的问题,实现结构化表示,并发布Aurora-ESG数据集以支持金融治理决策。
2026-10-30 cs.AI
Improving Semantic Parsing for Task Oriented Dialog
Facebook Conversational AI(Facebook对话式AI);Stanford University(斯坦福大学);Facebook AI Research(Facebook人工智能研究)
最近提出了使用分层表示的语义解析,用于面向任务的对话,结果很有希望[Gupta et al 2018]。在本文中,我们提出了三种不同的改进模型:上下文嵌入,集成,和成对重新排名的基础上的语言模型。我们分类的错误可能的分层表示,如错误的顶部意图,缺失的跨度或分裂跨度,并表明这三种方法纠正不同类型的错误。最好的模型结合了这三种技术,精确匹配精度比最先进的模型高出6.4%,错误减少了33%,从而在面向任务的解析(TOP)数据集上产生了新的最先进的结果。
2019-02-15 cs.AI cs.CL
Weakly Supervised Semantic Parsing with Execution-based Spurious Program Filtering
Seoul National University(首尔大学);Samsung Electronics Mobile eXperience(三星电子移动体验)
针对弱监督语义解析中的虚假程序问题,提出基于多输入执行结果表示与多数投票的领域无关过滤机制,可正交增强现有框架并显著提升性能。
2023-11-02 cs.AI cs.CL
Résumé Parsing as Hierarchical Sequence Labeling: An Empirical Study
Avature Machine Learning(Avature机器学习部门)
本文将简历解析转化为行和词元两个层级的序列标注任务,同时解决分割与提取问题,构建了多语种语料库,验证了新模型在信息提取上的有效性及生产环境部署的权衡。
2023-09-13 cs.AI cs.CL cs.IR
Intelligent Parsing: An Automated Parsing Framework for Extracting Design Semantics from E-commerce Creatives
Suning(苏宁)
针对电商创意素材设计语义提取难题,提出包含识别、预处理、智能命名与标签四层的自动化解析框架,提升下游智能创作效率,并在苏宁业务中显著提高素材曝光与点击率。
2023-12-28 cs.AI cs.CV
Unveiling the Black Box of PLMs with Semantic Anchors: Towards Interpretable Neural Semantic Parsing
Microsoft Research Asia(微软亚洲研究院)
最近流行的预训练语言模型(PLM)已经极大地改变了语义解析的范式,其中从自然语言语句到结构化逻辑形式的映射现在被公式化为Seq2Seq任务。尽管有前途的性能,以前的基于PLM的方法往往遭受幻觉的问题,由于他们忽视的结构信息包含在句子中,这基本上构成了逻辑形式的关键语义。此外,大多数作品将PLM视为一个黑盒子,其中目标逻辑形式的生成过程隐藏在解码器模块之下,这极大地阻碍了模型的内在可解释性。为了解决这两个问题,我们建议将目前的PLM与分层解码器网络。通过将第一原理结构作为语义锚,我们提出了两个新的中间监督任务,即语义锚提取和语义锚对齐,用于训练分层解码器并以自适应方式探测模型中间表示以及微调过程。我们在几个语义解析基准上进行了密集的实验,并证明了我们的方法可以始终优于基线。更重要的是,通过分析层次解码器的中间表示,我们的方法也使一个巨大的一步,在语义解析领域的PLM的内在可解释性。
2022-12-04 cs.AI cs.CL
Digestion Algorithm in Hierarchical Symbolic Forests: A Fast Text Normalization Algorithm and Semantic Parsing Framework for Specific Scenarios and Lightweight Deployment
本文提出分层符号森林消化算法(DAHSF),一种结合文本规范化与语义解析的多层框架,旨在解决深度学习模型可解释性差、数据标注成本高及本地部署困难等问题,实现特定场景下的轻量级高效应用。
2024-12-18 cs.AI cs.CL
LAGr: Labeling Aligned Graphs for Improving Systematic Generalization in Semantic Parsing
Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学);ServiceNow Research(ServiceNow研究院)
语义解析是为自然语言话语或问题产生结构化意义表示的任务。最近的研究指出,常用的序列到序列(seq2seq)语义解析器难以系统地概括,即处理需要在新环境中重新组合已知知识的示例。在这项工作中,我们表明,更好的系统化的推广,可以通过生产的意义表示(MR)直接作为一个图,而不是作为一个序列。为此,我们提出了LAGr,标签对齐图算法,通过预测一个完整的多层输入对齐图的节点和边标签,产生语义分析。强监督的LAGr算法需要对齐的图作为输入,而弱监督的LAGr使用近似MAP推理过程来推断最初未对齐的目标图的对齐。在COGS和CFQ组合泛化基准测试中,强监督和弱监督LAGr算法在基线seq2seq解析器上实现了显着改进。
2022-06-01 cs.AI cs.CL
TAPAS: Weakly Supervised Table Parsing via Pre-training
Google Research(谷歌研究院);Tel-Aviv University(特拉维夫大学)
在表上搜索自然语言问题通常被视为一项语义解析任务。为了减轻完整逻辑形式的收集成本,一种流行的方法侧重于由外延而不是逻辑形式组成的弱监督。然而,从弱监督训练语义解析器带来了困难,此外,生成的逻辑形式仅用作检索表示之前的中间步骤。在本文中,我们提出了TAPAS,一种方法,问答表不产生逻辑形式。TAPAS从弱监督中训练,并通过选择表格单元格并可选地将相应的聚合运算符应用于这种选择来预测表示。TAPAS扩展了BERT的架构,将表格编码为输入,从维基百科抓取的文本片段和表格的有效联合预训练中提取,并进行端到端的训练。我们用三个不同的语义解析数据集进行了实验,发现TAPAS通过将SQA的最新准确率从55.1提高到67.2,并与WIKISQL和WIKITQ的最新准确率相当,但具有更简单的模型架构,从而优于或媲美语义解析模型。我们还发现,迁移学习,这是微不足道的,在我们的设置,从WIKISQL到WIKITQ,产生48.7的准确性,4.2点以上的最先进的。
2020-04-21 cs.AI cs.CL cs.IR
LAGr: Label Aligned Graphs for Better Systematic Generalization in Semantic Parsing
语义解析是为自然语言句子产生结构化意义表示的任务。最近的研究指出,常用的序列到序列(seq2seq)语义解析器很难系统地概括,即处理需要在新环境中重新组合已知知识的示例。在这项工作中,我们表明,更好的系统化的推广,可以通过生产的意义表示直接作为一个图,而不是作为一个序列。为此,我们提出LAGr(标签对齐图),一个通用的框架,通过独立预测节点和边缘标签的一个完整的多层输入对齐图产生语义解析。强监督LAGr算法需要对齐的图作为输入,而弱监督LAGr使用近似最大后验推理来推断最初未对齐的目标图的对齐。实验表明,LAGr在强监督和弱监督设置下,在基线seq2seq解析器上实现了系统泛化的显着改进。
2022-06-01 cs.AI cs.CL
GraPPa: Grammar-Augmented Pre-Training for Table Semantic Parsing
Salesforce Research(赛富时研究院);Yale University(耶鲁大学);University of Edinburgh(爱丁堡大学);Facebook AI(脸书人工智能研究院)
我们提出了一种有效的预训练方法,用于表语义解析,学习文本和表格数据的联合表示中的组合归纳偏差。我们通过一个同步的上下文无关文法(SCFG)从现有的文本到SQL数据集诱导高质量的表上构建合成的问题SQL对。我们使用一种新的文本模式链接目标对合成数据预训练我们的模型,该目标预测每个问题-SQL对的SQL中表字段的语法角色。为了保持模型表示真实世界数据的能力,我们还在几个现有的表和语言数据集上包含了掩码语言建模(MLM),以规范预训练过程。在四个流行的全监督和弱监督表语义解析基准测试中,GraPPa作为特征表示层的性能明显优于Roberta-large,并在所有这些测试中建立了新的最先进的结果。
2021-05-29 cs.AI cs.CL
On the Potential of Lexico-logical Alignments for Semantic Parsing to SQL Queries
Cornell University(康奈尔大学);University of Maryland(马里兰大学);Microsoft Research(微软研究院)
用逻辑形式注释的大规模语义解析数据集使监督方法取得了重大进展。但更丰富的监管能起到更大的作用吗?为了探索细粒度的词汇级监督的实用性,我们引入了Squall,这是一个数据集,它通过手动创建的SQL等价物以及SQL和问题片段之间的对齐来丰富11,276个WikiTableQuestions英语问题。我们的注释为编码器-解码器模型提供了新的训练可能性,包括以前因缺乏对齐而无法使用的机器翻译方法。我们提出并测试了两种方法:(1)监督注意;(2)采用一个辅助目标,消除歧义的输入查询表列中的引用。在5折交叉验证中,这些策略在强基线上提高了4.4%的执行准确性。Oracle实验表明,注释比对可以支持高达23.9%的进一步准确性增益。
2020-10-21 cs.AI cs.CL
Weakly-supervised Semantic Parsing with Abstract Examples
Tel-Aviv University(特拉维夫大学)
从弱监督(表示)而不是强监督(程序)训练语义解析器在两个方面使训练复杂化。首先,在训练时需要探索潜在程序的大搜索空间以找到正确的程序。第二,虚假的程序,意外地导致一个正确的表示,增加噪音的训练。在这项工作中,我们提出,在封闭的世界中,明确的语义类型,可以大大减轻这些问题,利用一个抽象的表示,在语言的话语和程序中的令牌被提升到一个抽象的形式。我们表明,这些抽象可以定义与少数词汇规则,它们导致不同的例子之间的共享,这加剧了训练中的困难。为了测试我们的方法,我们开发了第一个语义解析器CNLVR,一个具有挑战性的视觉推理数据集,其中的搜索空间是大的,克服spuriousness是至关重要的,因为denotations要么是真的或假的,因此随机程序可能会导致一个正确的denotation。我们的方法大大提高了性能,达到82.5%的准确度,与迄今为止报道的最佳准确度相比,绝对准确度提高了14.7%。
2019-03-13 cs.AI cs.CL cs.LG
Weakly Supervised Text-to-SQL Parsing through Question Decomposition
Blavatnik School of Computer Science, Tel Aviv University(特拉维夫大学布拉瓦尼克计算机科学学院);Allen Institute for AI(艾伦人工智能研究所)
本文提出利用 QDMR 中间表示,由问题、分解结构和答案自动合成 SQL 查询,从而在零 SQL 标注下训练具有竞争力的 text-to-SQL 解析器。
2024-08-02 cs.AI cs.CL cs.DB
Topic-driven Distant Supervision Framework for Macro-level Discourse Parsing
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Soochow University(苏州大学)
针对篇章解析缺乏高质量训练语料及现有远监督方法忽略域内外任务差异的问题,提出利用主题与修辞结构关系的远监督框架,通过迁移学习和师生模型缩小域内外差距,在MCDTB和RST-DT数据集上取得最优性能。
2023-05-23 cs.AI cs.CL
On Semi-Supervised Multiple Representation Behavior Learning
University of Chinese Academy of Sciences(中国科学院大学)
提出了一种新的半监督学习(SSL)范式--半监督多表征行为学习(SSMRBL)。SSMRBL旨在解决学习用于自然语言解析的语法的困难,其中数据是自然语言文本,并且用于标记数据的“标签”是解析树和/或语法规则片段。我们称这种“标签”为复合结构标签,这需要艰苦的训练工作。SSMRBL是一种可以学习多个表示的增量式学习过程,适合于大数据时代带标签训练数据的稀缺性和学习复合结构化标签的繁重工作量。我们还提出了一个典型的SSMRBL的例子,关于行为学习的形式,对基于域的多文本摘要(DBMTS)的语法方法。DBMTS是在修辞结构理论的框架下进行工作的。SSMRBL包括两种表示:文本嵌入(用于表示文本中包含的信息)和语法模型(用于将解析表示为行为)。第一种表示是作为嵌入式数字向量学习的,称为低维空间中的影响。语法模型是以迭代的方式学习的。在此基础上,提出了一种面向领域的多文本自动摘要方法。在大规模中文数据集SogouCA上的实验结果表明,该方法即使只使用少量标记文本进行训练,也具有良好的性能。
2019-10-21 cs.AI cs.CL
Lexicon-injected Semantic Parsing for Task-Oriented Dialog
Noah’s Ark Lab, Huawei Technologies(华为技术有限公司诺亚方舟实验室);Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院)
最近,使用对话系统的分层表示的语义解析已经吸引了大量的关注。面向任务的语法分析(TOP)是一种以意图和槽作为嵌套树节点标签的树表示,已被提出用于分析用户话语。先前的TOP解析方法局限于处理看不见的动态槽值(例如,添加了新的歌曲和位置),这对于真实的对话系统来说是一个紧迫的问题。为了缓解这个问题,我们首先提出了一个新的跨度分裂表示跨度为基础的分析器,优于现有的方法。在此基础上,提出了一种新的词典注入语义分析器,该分析器将树表示的槽标签作为词典,并将词汇特征注入到分析器的跨度表示中。一个额外的插槽消歧技术涉及到从词典中删除不适当的跨度匹配的发生。我们最好的解析器在TOP数据集上产生了一个新的最先进的结果(87.62%),并证明了它对实际面向任务的对话中频繁更新的槽词典条目的适应性,而不需要重新训练。
2022-11-26 cs.AI cs.CL