Bootstrapping Multilingual Semantic Parsers using Large Language Models
Indian Institute of Technology Bombay(印度理工学院孟买分校);Google Research India(谷歌印度研究院)
尽管预先训练的多语言模型证明了跨语言泛化,但跨多种语言传输英语数据集的快速训练范式仍然是训练特定任务的多语言模型的关键机制。然而,对于许多低资源语言,可靠的翻译服务的可用性需要大量昂贵的人工注释翻译对。此外,由于特定于任务的输入文本和用于训练翻译模型的通用文本之间的域不匹配,翻译服务可能继续是脆弱的。对于多语言语义解析,我们证明了通过Few-Shot提示将英语数据集翻译成多种语言的大语言模型(LLM)所提供的有效性和灵活性。通过对两个公共数据集MTOP和MASSIVE进行广泛的比较,跨越50种语言和多个领域,我们表明,我们使用LLM翻译数据的方法在50种语言中的41种语言上优于强大的快速训练基线。我们研究的关键设计选择,使更有效的多语言数据翻译,通过提示LLM。
2023-02-11 cs.CL cs.LG
Revisiting the Practical Effectiveness of Constituency Parse Extraction from Pre-trained Language Models
Hanyang University(汉阳大学)
从预训练的语言模型中提取选区分析(CPE-PLM)是一种新的范例,其试图仅依赖于预训练的语言模型的内部知识来诱导选区分析树。虽然这种方法具有上下文学习相似的优点,但它不需要针对特定任务进行微调,但其实际效果仍然不清楚,只是它可以作为研究语言模型内部工作的探针。在这项工作中,我们在数学上重新制定CPE-PLM,并提出了两个先进的集成方法为它量身定制,证明了新的解析范式可以通过引入一组异构PLM结合使用我们的技术与常见的无监督解析器竞争。此外,我们探讨了一些场景中,CPE-PLM生成的树实际上是有用的。具体来说,我们表明,CPE-PLM是更有效的比典型的监督解析器在Few-Shot设置。
2022-09-15 cs.CL
A survey of cross-lingual features for zero-shot cross-lingual semantic parsing
Georgia Institute of Technology(佐治亚理工学院);Samsung AI Center(三星人工智能中心);University of Edinburgh(爱丁堡大学)
利用语料库来训练英语语义分析器,已经在该领域取得了重大进展。不幸的是,对于英语以外的语言,注释是稀缺的,所以是发达的解析器。然后我们会问:一个用英语训练的解析器可以应用于它没有被训练过的语言吗?为了回答这个问题,我们探索zero-shot跨语言语义解析,其中我们训练可用的从粗到细的语义解析器(Liu et al.,2018)使用跨语言词嵌入和英语中的通用依赖关系,并在意大利语,德语和荷兰语上进行测试。并行意义库(一个多语言语义图库)的结果表明,当与其他词汇特征结合使用时,通用依赖特征显着提高了性能,但在对输入进行编码时,直接对UD结构进行建模则不会。
2019-08-27 cs.CL
On Robustness of Prompt-based Semantic Parsing with Large Pre-trained Language Model: An Empirical Study on Codex
CSIRO’s Data61(澳大利亚联邦科学与工业研究组织数据61研究所);Monash University(莫纳什大学)
本文针对大型提示式代码语言模型Codex的对抗鲁棒性开展首次实证研究,发现SOTA代码语言模型易受精心构造的对抗样本攻击,并提出无需大量标注数据或计算资源即可提升鲁棒性的方法。
2026-11-16 cs.CL
Look-up and Adapt: A One-shot Semantic Parser
Carnegie Mellon University(卡内基梅隆大学);LAER AI, Inc.(LAER AI公司)
计算设备近来已经变得能够经由自然语言与它们的终端用户交互。然而,它们只能在有限的“支持”话语域中运行,并且在面对域外话语时会严重失败,这主要是由于它们的语义分析器的限制。在本文中,我们提出了一种语义解析器,通过学习一个通用的策略,通过适应看到的话语的逻辑形式来解析一个看不见的话语,而不是从头开始学习生成一个逻辑形式,从而概括出域外的例子。我们的分析器保持一个内存组成的一个代表性的子集,看到的话语与他们的逻辑形式配对。给定一个看不见的话语,我们的解析器的工作原理是从内存中查找一个类似的话语,并调整其逻辑形式,直到它适合看不见的话语。此外,我们提出了一个数据生成策略,用于构建不同领域的话语逻辑形式对。我们的研究结果显示,与基线相比,在两种不同的评估设置下,单次解析的性能提高了68.8%。
2019-10-27 cs.CL cs.LG
A Few-Shot Semantic Parser for Wizard-of-Oz Dialogues with the Precise ThingTalk Representation
Stanford University(斯坦福大学)
以前的尝试,以建立有效的语义解析器的巫师奥兹(WOZ)的对话遭受困难,在获得高质量的,手动标注的训练集。仅基于对话合成的方法是不够的,因为从基于状态机的模型生成的对话是真实对话的差的近似。此外,以前提出的对话状态表示是模糊的,缺乏建立一个有效的代理所需的精度。本文提出了一种新的对话表示和一个样本有效的方法,可以预测精确的对话状态在WOZ会话。我们扩展了ThingTalk表示,以捕获代理正确响应所需的所有信息。我们的训练策略是样本高效的:我们结合了(1)稀疏采样整个对话空间的少量数据和(2)覆盖由简洁的基于状态的对话模型生成的对话子集空间的合成数据。扩展的ThingTalk语言的完整性证明了一个完全可操作的代理,这也是用于训练数据合成。我们证明了我们的方法在MultiWOZ 3.0上的有效性,MultiWOZ 3.0是ThingTalk中MultiWOZ 2.1数据集的重新注释。ThingTalk可以代表98%的测试回合,而模拟器可以模拟85%的验证集。我们训练上下文语义分析器使用我们的策略,并获得79%的回合逐回合精确匹配的准确率重新标注的测试集。
2022-04-08 cs.CL
A Reproducible Universal Dependencies-Style Pipeline for Katharevousa Greek Parliamentary Text
Hamad Bin Khalifa University(哈马德·本·卡立夫大学);Universidad Austral(阿维拉大学)
针对Katharevousa希腊语,提出一种可复现的通用依赖风格解析管道,结合OCR重建、LLM辅助标注、自动验证和模型比较,显著提升解析性能并开源全部资源。
2026-05-30 cs.CL
Neural-Bayesian Program Learning for Few-shot Dialogue Intent Parsing
Hong Kong Polytechnic University(香港理工大学);WeBank Co Ltd(微众银行有限公司)
针对跨场景对话意图解析需大量特征工程与数据标注的痛点,提出少样本场景下的DI-Parser模型,通过多源数据元学习与少样本能力提升性能,优于现有最优模型,具备工业应用价值。
2024-10-08 cs.CL cs.LG
Zero-Shot Semantic Parsing for Instructions
Technion, IIT(以色列理工学院)
我们考虑一个zero-shot语义解析任务:将指令解析成组合逻辑形式,在训练期间没有看到的域中。我们提出了一个新的数据集,其中包含来自7个应用程序域(例如日历或文件管理器)的1,390个示例,每个示例由一个三元组组成:(a)应用程序的初始状态,(b)在该状态的上下文中执行的指令,以及(c)执行指令后的应用程序状态。我们介绍了一种新的训练算法,旨在训练语义解析器的例子从一组源域,使它能够有效地解析指令从一个未知的目标域。我们将我们的算法集成到Pasupat和Liang(2015)的浮点解析器中,并进一步用特征和逻辑形式候选过滤逻辑来增强解析器,以支持zero-shot自适应。我们的实验与各种zero-shot适应设置证明了大量的性能增益超过非适应的解析器。
2019-11-20 cs.CL cs.LG
Discrete Prompt Optimization via Constrained Generation for Zero-shot Re-ranker
Korea Advanced Institute of Science and Technology(韩国高等科学技术研究院)
针对零样本重排序器中提示优化未被探索的问题,提出无需参数更新的离散提示优化方法Co-Prompt,通过指标引导PLM生成最优提示,显著提升重排序性能与可解释性。
2023-05-23 cs.AI cs.CL cs.IR
An Empirical Revisiting of Linguistic Knowledge Fusion in Language Understanding Tasks
HKUST(香港科技大学);The University of Hong Kong(香港大学)
虽然语言知识出现在大规模的语言模型预训练,最近的工作试图明确纳入人类定义的语言先验到特定任务的微调。将来自解析器的句法或语义知识注入语言模型已经在许多语言理解任务上显示出改进。为了进一步研究结构语言先验的有效性,我们进行了用平凡的图或树替换解析的图或树的实证研究(很少携带语言知识,例如,平衡树)。在完全监督和Few-Shot设置中,使用平凡图进行编码可以实现有竞争力甚至更好的性能。它揭示了增益可能不显着归因于显式的语言先验,而是融合层带来的更多的特征交互。因此,我们呼吁注意使用平凡图作为必要的基线,设计先进的知识融合方法在未来。
2022-10-24 cs.CL
Meta-Learning a Cross-lingual Manifold for Semantic Parsing
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
本地化语义解析器以支持新语言需要有效的跨语言泛化。最近的研究发现,机器翻译或zero-shot方法取得了成功,尽管这些方法很难模拟母语人士如何提问。我们考虑如何有效地利用最小的注释的例子在新的语言的Few-Shot跨语言的语义解析。我们引入一阶Meta学习算法来训练一个语义分析器,使其在跨语言迁移过程中具有最大的样本效率。我们的算法使用高资源的语言来训练分析器,同时优化低资源语言的跨语言泛化。ATIS上六种语言的结果表明,我们的泛化步骤的组合产生准确的语义解析器采样$\le$ 10%的源训练数据在每个新的语言。我们的方法还使用英语在Spider上训练了一个竞争模型,并将其推广到中文,同样采样$\le$ 10%的训练数据。
2022-09-27 cs.CL
Constrained Reasoning Chains for Enhancing Theory-of-Mind in Large Language Models
HKUST(香港科技大学);Amazon(亚马逊)
提出零样本提示方法CCoToM,利用领域知识和ToM维度间因果关系,通过构建显式推理链并施加约束,提升LLMs在复杂及非叙事场景下的心智理论推理能力,大幅超越现有方法。
2024-09-20 cs.CL
Grounded Adaptation for Zero-shot Executable Semantic Parsing
University of Washington(华盛顿大学);Facebook AI Research(脸书人工智能研究院)
我们提出了接地适应Zero-shot可执行语义解析(GAZP),以适应现有的语义解析器新的环境(例如,新的数据库模式)。GAZP将前向语义解析器与后向话语生成器相结合,在新的环境中合成数据(如话语和SQL查询),然后选择循环一致的例子来适应解析器。与通常在训练环境中合成未经验证的示例的数据增强不同,GAZP在新环境中合成输入-输出一致性得到验证的示例。在Spider、Sparc和CoSQL zero-shot语义解析任务上,GAZP改进了基线解析器的逻辑形式和执行精度。我们的分析表明,GAZP在训练环境中优于数据增强,性能随着GAZP合成数据量的增加而增加,并且周期一致性是成功适应的核心。
2021-02-01 cs.AI cs.CL cs.DB
Decoupling Structure and Lexicon for Zero-Shot Semantic Parsing
Tel-Aviv University(特拉维夫大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
在新领域中快速构建语义解析器是会话接口的基本挑战,因为当前的语义解析器需要昂贵的监督,并且缺乏推广到新领域的能力。在本文中,我们介绍了一种zero-shot方法来进行语义解析,该方法可以解析看不见的领域中的话语,同时只在其他源领域中的示例上进行训练。首先,我们将话语映射到一个抽象的、独立于域的逻辑形式,它表示逻辑形式的结构,但包含插槽而不是KB常量。然后,我们通过词汇对齐分数和全局推理将插槽替换为KB常量。我们的模型在Overnight数据集中的7个域上达到了53.4%的平均准确率,远远好于其他zero-shot基线,并且与在超过30%的目标域示例上训练的解析器一样好。
2018-09-22 cs.AI cs.CL
Zero-Shot Cross-lingual Semantic Parsing
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
最近的跨语言语义解析工作已经成功地将机器翻译应用于将分析器本地化到新的语言。然而,这些进步都是以高质量的机器翻译系统和单词对齐工具为前提的。我们删除这些假设,并研究跨语言语义解析作为一个zero-shot问题,没有并行数据(即,话语-逻辑形式对)的新语言。我们提出了一个多任务的编码器-解码器模型来转移解析知识,以额外的语言只使用英语逻辑形式配对数据和域中的自然语言语料库在每一个新的语言。我们的模型鼓励语言无关的编码,通过联合优化逻辑形式生成与辅助目标设计的跨语言潜在的表示对齐。我们的解析器的性能明显高于基于预防的基线,在某些情况下,与监督的上限竞争。
2022-03-07 cs.CL
Joint On-line Learning of a Zero-shot Spoken Semantic Parser and a Reinforcement Learning Dialogue Manager
University of Avignon(阿维尼翁大学)
尽管最近在对话系统的设计方面取得了许多进展,但真正的瓶颈仍然是获取训练其组件所需的数据。与许多其他语言处理应用程序不同,对话系统需要与用户进行交互,因此使用预先记录的数据开发它们是复杂的。在以前的作品的基础上,在线学习是追求在这里作为一个最方便的方式来解决这个问题。数据汇集、注释和在学习算法中的使用在单个过程中执行。主要的困难是:引导一个初始的基本系统,并控制用户端的额外成本水平。考虑到性能良好的解决方案可以直接用于语音识别和合成,本研究仅侧重于学习口语语言理解和对话管理模块。联合学习的几个变种进行了调查和测试与用户试验,以确认整体在线学习后,只需几百个训练对话,可以超越基于专家的系统。
2018-10-01 cs.CL cs.LG
Fine-tuned LLMs Know More, Hallucinate Less with Few-Shot Sequence-to-Sequence Semantic Parsing over Wikidata
Stanford University(斯坦福大学)
本研究提出面向Wikidata的少样本序列到序列语义解析器,构建WikiWebQuestions基准,微调LLaMA实现强基线,结合GPT-3提升问答覆盖率,在QALD-7数据集上F1值超SOTA3.6%。
2023-11-05 cs.CL
Global Reasoning over Database Structures for Text-to-SQL Parsing
Tel-Aviv University(特拉维夫大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
最先进的语义解析器依赖于自回归解码,每次发出一个符号。当针对在训练时未观察到的复杂数据库(zero-shot)进行测试时,由于解码的局部性质,解析器通常很难在新数据库中选择正确的数据库常量集。在这项工作中,我们提出了一个语义解析器,全局原因的输出查询的结构,使更多的上下文知情的选择数据库常量。我们使用消息传递通过图神经网络软选择一个子集的数据库常量的输出查询,条件的问题。此外,我们训练一个模型来排名查询的基础上,全球对齐的数据库常量的问题的话。我们将我们的技术应用于当前最先进的Spider模型,这是一个具有复杂数据库的zero-shot语义解析数据集,准确率从39.4%提高到47.4%。
2019-08-29 cs.CL
Meta-Learning for Domain Generalization in Semantic Parsing
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
构建可应用于新领域并生成在训练中看不到的程序的语义解析器的重要性早已得到认可,并且测试域外性能的数据集变得越来越可用。然而,很少或根本没有注意到促进领域泛化的学习算法或目标,几乎所有现有的方法都依赖于标准的监督学习。在这项工作中,我们使用一个元学习框架的目标zero-shot领域泛化的语义解析。我们应用模型不可知的训练算法,模拟zero-shot解析构建虚拟训练和测试集不相交的领域。学习目标利用了这样一种直觉,即提高源域性能的梯度步骤也应该提高目标域性能,从而鼓励解析器推广到看不见的目标域。在英文Spider和中文Spider数据集上的实验结果表明,元学习目标显著提高了基线解析器的性能。
2021-04-12 cs.CL
Exploiting Diversity for Natural Language Parsing
将机器学习方法应用于计算语言学问题的流行产生了大量可训练的自然语言处理系统。大多数感兴趣的问题都有一系列现成的产品或可下载的代码,它们使用各种技术实现了解决方案。在这些解决方案是独立开发的,它是观察到,他们的错误往往是独立分布。本文关注的是如何利用这种情况下,在一个样本问题域,宾州树库风格的分析。机器学习社区提供了用于组合分类器输出的技术,但是解析器输出比分类更结构化和相互依赖。为了解决这一矛盾,两个新的策略结合解析器使用:学习控制解析器之间的切换和构建一个混合解析从多个解析器的输出。现成的解析器并不是为了在协作集成中表现良好而开发的。提出了两种技术,用于产生一个合奏的解析器,合作。所有的集成成员都是使用相同的底层解析器归纳算法创建的,并且用于产生互补解析器的方法仅受所选择的算法的松散约束。
2000-06-05 cs.CL
The Parser Already Knows: Lightweight Bias Correction in Constrained Decoding
该研究针对语法约束解码中刚性屏蔽扭曲模型分布的问题,利用增量解析的语法状态提出轻量级离线 logit 校正,在几乎不增加开销的情况下优于基线方法,兼顾了语言模型的概率完整性与语法一致性。
2026-10-08 cs.CL cs.LG
CHORUS: Zero-shot Hierarchical Retrieval and Orchestration for Generating Linear Programming Code
School of Computing, Queen’s University, Ontario, Canada(计算学院,皇后大学,安大略省,加拿大)
CHORUS通过分层分块、两阶段检索与结构化推理的RAG框架,显著提升开源LLM从自然语言生成Gurobi线性规划代码的性能,在NL4Opt-Code上超越或匹敌GPT3.5/GPT4。
2025-05-02 cs.AI cs.CL
Energy-based Models are Zero-Shot Planners for Compositional Scene Rearrangement
Carnegie Mellon University(卡内基梅隆大学)
提出用能量函数表示语言空间约束并经梯度下降推断目标布局,使机器人能零样本泛化执行长组合式场景重排指令。
2024-01-23 cs.AI cs.CL cs.CV
Token-Oriented Object Notation vs JSON: A Benchmark of Plain and Constrained Decoding Generation
本文比较了TOON与JSON在生成任务中的表现,发现TOON在特定条件下更高效,但受限于提示开销,而JSON在简单结构中表现更优。
2026-02-08 cs.AI cs.CL
AutoQA: From Databases To QA Semantic Parsers With Only Synthetic Training Data
Stanford University(斯坦福大学)
我们提出了AutoQA,一种方法和工具来生成语义解析器,回答数据库上的问题,没有手动的努力。给定一个数据库模式及其数据,AutoQA会自动生成一个大的高质量问题集,用于涵盖不同数据库操作的培训。它使用自动释义结合基于模板的分析,以找到不同部分的语音属性的替代表达式。它还使用了一种新的过滤自动释义器来生成整个句子的正确释义。我们将AutoQA应用于Schema2QA数据集,并在自然问题上进行测试时获得了62.9%的平均逻辑形式准确率,仅比使用专家自然语言注释和从crowdworkers收集的释义数据训练的模型低6.4%。为了演示AutoQA的通用性,我们还将其应用于隔夜数据集。AutoQA实现了69.8%的答案准确率,比最先进的zero-shot模型高出16.4%,仅比使用人类数据训练的相同模型低5.2%。
2021-06-08 cs.CL
PoeTone: A Framework for Constrained Generation of Structured Chinese Songci with LLMs
PoeTone框架通过约束生成和评估方法,提升LLM在生成结构化中文词中的表现,实现正式符合度提升5.88%。
2026-02-18 cs.CL cs.LG
Precise Robot Command Understanding Using Grammar-Constrained Large Language Models
Industrial and Manufacturing Engineering, Florida State University(佛罗里达州立大学工业与制造工程系)
本文提出一种结合语法驱动NLU系统和微调LLM的混合模型,通过两阶段过程确保生成的指令在机器人可读的JSON格式中有效,提升工业人机协作的安全性和效率。
2026-04-05 cs.CL cs.RO
Beyond Repetition: Text Simplification and Curriculum Learning for Data-Constrained Pretraining
Samsung R&D Institute Philippines(三星菲律宾研发中心)
针对数据受限预训练,本文利用原文与 LLM 简化文本的平行语料比较多种复杂度课程,发现加入简化数据整体优于重复暴露,且小模型适合由易到难、大模型适合交错排序。
2025-09-29 cs.AI cs.CL
Speak to your Parser: Interactive Text-to-SQL with Natural Language Feedback
University of Maryland, College Park(马里兰大学帕克分校);Microsoft Research(微软研究院)
我们研究了带有自然语言反馈的语义分析校正任务。给定一个自然语言话语,大多数语义解析系统将该问题作为一次性翻译,其中话语被映射到对应的逻辑形式。在本文中,我们研究了一个更具交互性的场景,人类可以进一步与系统进行交互,提供自由形式的自然语言反馈,以纠正系统时,它产生的初始话语的不准确的解释。我们专注于自然语言的SQL系统和构造,SPLASH,一个数据集的话语,不正确的SQL解释和相应的自然语言的反馈。我们比较了各种参考模型的校正任务,并表明,将这样一个丰富的反馈形式,可以显着提高整体语义解析的准确性,同时保留了灵活性的自然语言的互动。虽然我们估计人类校正准确率为81.5%,但我们的最佳模型仅达到25.1%,这为未来的研究留下了很大的差距。SPLASH可在https://aka.ms/Splash_dataset上公开获得。
2020-06-01 cs.CL
Information Extraction Using the Structured Language Model
本文提出了一种数据驱动的方法来信息抽取(视为模板填充)使用结构化语言模型(SLM)作为统计分析器。模板填充的任务被转换为使用SLM的约束解析。该模型是从一组用帧/槽标签和跨度注释的句子中自动训练的。培训分阶段进行:首先,训练受约束的句法分析器,使得对训练数据的分析满足指定的语义跨度,然后,丰富非终端标签以包含语义信息,最后,在从前一阶段得到的分析树上训练受约束的句法+语义分析器。尽管使用的训练数据量很小,但该模型的性能优于为MiPad -个人信息管理-任务手动编写的简单语义语法的槽级准确性。
2001-08-29 cs.CL cs.IR
One-Shot Safety Alignment for Large Language Models via Optimal Dualization
University of Pennsylvania(宾夕法尼亚大学)
本文提出通过最优对偶化将带约束的RLHF安全对齐转化为等价无约束问题,预优化具有闭式解的光滑凸对偶函数,从而避免原始-对偶迭代,并据此设计了MoCAN和PeCAN两种高效稳定的一次性安全对齐算法。
2024-11-22 cs.AI cs.CL cs.LG
SmBoP: Semi-autoregressive Bottom-up Semantic Parsing
Tel Aviv University(特拉维夫大学);Allen Institute for AI(艾伦人工智能研究所)
近年来,用于语义解析的事实标准解码方法是使用自顶向下的深度优先遍历对目标程序的抽象语法树进行自回归解码。在这项工作中,我们提出了一种替代方法:半自回归自自底向上的【形】解析器(SmBoP),在解码步骤$t$构建高度$\leq t$的顶部$K$子树。我们的解析器享有自顶向下自回归解析相比,几个好处。从效率的角度来看,自自底向上的【形】解析允许并行解码特定高度的所有子树,导致对数运行时复杂度而不是线性的。从建模的角度来看,自自底向上的【形】的解析器在每一步都学习有意义的语义子程序的表示,而不是语义空洞的部分树。我们将SmBoP应用于Spider,一个具有挑战性的zero-shot语义解析基准测试,并表明SmBoP导致解码时间的2.2倍加速和训练时间的$\sim$ 5倍加速,与使用自回归解码的语义解析器相比。SmBoP在Spider上获得了71.1的表示准确度,建立了一个新的最先进的技术,以及69.5的精确匹配,与自回归RAT-SQL+GraPPa的69.6精确匹配相当。
2021-04-11 cs.CL
Zero-shot Dependency Parsing with Pre-trained Multilingual Sentence Representations
Amazon Alexa AI(亚马逊Alexa AI);University of Groningen(格罗宁根大学)
我们调查是否现成的深双向句子表示训练的大规模多语言语料库(多语言BERT),使无监督的通用依赖分析器的发展。这种方法只利用多种语言的单语语料库的混合,不需要任何翻译数据,使其适用于低资源语言。在我们的实验中,我们在使用单个系统的同时,在共享任务的所有六种真正低资源语言中,都优于最好的CoNLL 2018语言特定系统。然而,我们也发现,(i)分析准确率仍然变化显着时,改变训练语言和(ii)在一些目标语言zero-shot转移失败的所有测试条件下,提出了对整个方法的“通用性”的关注。
2019-10-12 cs.CL
Using Grammar Masking to Ensure Syntactic Validity in LLM-based Modeling Tasks
针对大语言模型建模时句法易出错、复杂文法下提示工程效果有限的问题,提出语法掩码方法,通过约束解码限制输出符合给定文法,实验证明其可显著提升多类LLM的建模正确率,降低对精细提示的依赖。
2024-07-09 cs.AI cs.CL cs.SE
Uni-Parser: Unified Semantic Parser for Question Answering on Knowledge Base and Database
Salesforce Research(Salesforce研究院);Yale University(耶鲁大学)
将自然语言问题解析成可执行的逻辑形式是对诸如知识库(KB)或数据库(DB)之类的结构化数据执行问答的有用且可解释的方式。然而,现有的语义解析方法不能适应这两种模式,因为它们遭受的逻辑形式候选人的指数增长,很难推广到看不见的数据。在这项工作中,我们提出了Uni-Parser,一个统一的语义解析器的问答(QA)的知识库和数据库。我们引入原语(KB中的关系和实体,DB中的表名、列名和单元值)作为框架中的基本元素。基元的数量随着KB和DB中检索到的关系的数量而线性增长,这使我们无法处理指数逻辑形式的候选者。我们利用生成器来预测最终的逻辑形式,通过改变和组合具有不同操作(例如选择,在哪里,计数)的顶级原语。通过对比基元排序器对搜索空间进行充分的修剪,生成器能够捕获基元的组合,从而增强了其泛化能力。我们在多个KB和DB QA基准测试中更有效地获得了有竞争力的结果,特别是在组合和zero-shot设置中。
2022-11-09 cs.AI cs.CL cs.PL
GRID: Grammar-Railed Decoding for Enterprise SQL Generation
evolutionID GmbH(进化ID有限公司)
研究针对企业SQL生成需求,提出GRID语法约束解码引擎,通过特定方式确定令牌掩码,编译角色访问控制,有四个保证。经实验,Rust内核降低掩码时间,在Spider上约束解码提升模型可执行率,还具备审计跟踪和篡改检测功能。
2026-07-15 cs.AI cs.CL cs.FL
Localizing Open-Ontology QA Semantic Parsers in a Day Using Machine Translation
Stanford University(斯坦福大学)
我们提出了语义解析器本地化(SPL),一个工具包,利用神经机器翻译(NMT)系统本地化一个新的语言的语义解析器。我们的方法是:(1)通过使用从公共网站上抓取的本地实体来增强机器翻译的数据集,自动生成目标语言的训练数据;(2)添加Few-Shot增强的人工翻译句子,并训练一个新的XLMR-LSTM语义解析器;(3)在使用人工翻译的自然话语上测试模型。我们评估我们的方法的有效性,通过扩展现有的能力Schema 2 QA,英语问答(QA)系统在开放的网络上,10个新的语言的餐厅和酒店域。我们的模型实现了酒店领域的整体测试准确率在61%到69%之间,餐厅领域的整体测试准确率在64%到78%之间,这与在黄金英语数据和验证集的一些示例上训练的英语解析器获得的69%和80%相比是有利的。我们表明,我们的方法优于以前的国家的最先进的方法超过30%的酒店和40%的餐厅与本地化本体的语言测试的子集。我们的方法使任何软件开发人员能够在不到24小时的时间内利用机器翻译为新领域的QA系统添加新的语言功能。
2020-10-10 cs.CL cs.LG
How to Unleash the Power of Large Language Models for Few-shot Relation Extraction?
Zhejiang University(浙江大学);AZFT Joint Lab for Knowledge Engine(AZFT知识引擎联合实验室)
该研究针对大语言模型在少样本关系抽取中缺乏系统探索的问题,基于GPT-3.5实验验证上下文学习与数据生成方法,提出任务相关指令和模式约束数据生成策略,在四个数据集上取得少样本SOTA结果并开源代码。
2023-06-09 cs.AI cs.CL cs.DB
Cross-TOP: Zero-Shot Cross-Schema Task-Oriented Parsing
Amazon Alexa AI(亚马逊Alexa人工智能部门);The Ohio State University(俄亥俄州立大学)
深度学习方法已经能够对日益复杂的话语进行面向任务的语义解析。然而,单个模型通常仍然被单独地训练和部署用于每个任务,需要用于每个任务的标记的训练数据,这使得支持新任务具有挑战性,即使在单个业务垂直(例如,食品订购或旅行预订)。在本文中,我们描述了跨TOP(跨模式面向任务的解析),一个zero-shot方法复杂的语义解析在一个给定的垂直。通过利用来自相同垂直的用户请求共享词汇和语义相似性的事实,训练单个跨模式解析器来服务垂直内的任意数量的任务,无论是可见的还是不可见的。我们表明,交叉TOP可以实现高精度的一个以前看不见的任务,而不需要任何额外的训练数据,从而提供了一个可扩展的方式来引导语义解析器的新任务。作为这项工作的一部分,我们发布了FoodOrdering数据集,这是一个面向任务的解析数据集,在食物订购垂直领域,话语和注释来自五个模式,每个模式来自不同的餐厅菜单。
2022-06-10 cs.CL cs.LG
Substructure Distribution Projection for Zero-Shot Cross-Lingual Dependency Parsing
Toyota Technological Institute at Chicago(芝加哥丰田工业大学)
我们提出了子结构分布投影(SubDP),一种技术,项目的分布结构在一个域到另一个域,分别通过投影子结构分布。然后可以使用投影分布作为软银标签来训练目标域的模型。我们评估SubDP的zero-shot跨语言依存句法分析,依赖弧作为子结构:我们预测的依赖弧分布在源语言(S)的目标语言(S),和训练一个目标语言解析器,以适应产生的分布。当英语树库是涉及人类努力的唯一注释时,SubDP实现了比Universal Advertisements v2.2的所有先前工作更好的未标记附件分数(Nivre等人,2020)测试集在八种不同的目标语言,以及最好的标记附件分数的六个八种语言。此外,SubDP改进了zero-shot跨语言依存句法分析,50)监督的双文本对,跨更广泛的目标语言。
2021-10-16 cs.CL
UDapter: Language Adaptation for Truly Universal Dependency Parsing
University of Groningen(格罗宁根大学)
多语言依存句法分析的最新进展使真正的通用语法分析器的想法更接近现实。然而,跨语言干扰和有限的模型能力仍然是主要障碍。为了解决这个问题,我们提出了一种新的多语言任务适应方法的上下文参数生成和适配器模块的基础上。这种方法允许通过语言嵌入来学习适配器,同时跨语言共享模型参数。它还允许一个简单而有效的整合现有的语言类型学功能到解析网络。由此产生的解析器,UDBACK,优于强大的单语和多语言的基线上的大多数高资源和低资源(zero-shot)的语言,显示出成功的建议的适应方法。我们的深入分析表明,通过类型特征共享软参数是成功的关键。
2020-10-06 cs.CL
Parameterizing Context: Unleashing the Power of Parameter-Efficient Fine-Tuning and In-Context Tuning for Continual Table Semantic Parsing
Southeast University(东南大学)
针对持续表格语义解析中少样本过拟合和灾难性遗忘问题,提出融合PEFT与ICT的师生框架,通过冻结主干微调提示规避遗忘,利用ICT获取上下文并压缩至提示,无需存储样本,性能优于主流基线。
2023-10-07 cs.CL
End-to-End Cross-Domain Text-to-SQL Semantic Parsing with Auxiliary Task
University of Waterloo(滑铁卢大学);The University of Hong Kong(香港大学);AWS AI Labs(亚马逊云科技人工智能实验室)
在这项工作中,我们专注于跨域的文本到SQL的语义解析任务中的两个关键组成部分:模式链接和值填充。为了鼓励模型学习更好的编码能力,我们提出了一个列选择辅助任务,通过使用显式学习目标来赋予编码器相关匹配能力。此外,我们提出了两个值填充方法,建立桥梁,从现有的zero-shot语义解析器到现实世界的应用程序,考虑到大多数现有的解析器忽略的值填充在合成SQL。通过在Spider上的实验,我们提出的框架在数据库内容不可用时提高了执行精度和精确集匹配精度,详细的分析为未来的工作提供了指导。
2021-06-17 cs.CL
DAMP: Doubly Aligned Multilingual Parser for Task-Oriented Dialogue
Georgia Institute of Technology(佐治亚理工学院);Google Assistant(谷歌助手);Stanford University(斯坦福大学)
针对多语言语义解析迁移效率低的问题,提出双重对齐多语言解析器DAMP,通过对比对齐预训练和约束对抗对齐微调,大幅提升零样本性能,在多个基准上超越现有模型。
2023-05-26 cs.CL cs.LG
Learning to Simulate Natural Language Feedback for Interactive Semantic Parsing
George Mason University(乔治梅森大学);Meta AI;The University of Edinburgh(爱丁堡大学)
针对交互式语义解析依赖昂贵人工反馈的问题,提出NL反馈模拟任务及质量评估器,在text-to-SQL上证明其可低资源生成高质量反馈并提升纠错性能。
2023-06-04 cs.CL
Few-Shot Semantic Parsing for New Predicates
Monash University(莫纳什大学)
在这项工作中,我们调查的问题,语义解析在少样本学习设置。在这种情况下,每个新谓词都有话语-逻辑形式对。当k= 1时,最先进的神经语义解析器在基准数据集上的准确率低于25%。为了解决这个问题,我们建议i)应用指定的元学习方法来训练模型; ii)使用对齐统计来正则化注意力分数; iii)在预训练中应用平滑技术。因此,我们的方法在一次和两次拍摄设置中始终优于所有基线。
2021-01-26 cs.AI cs.CL cs.LG
Correcting Semantic Parses with Natural Language through Dynamic Schema Encoding
Fidelity Investments, AI Center of Excellence(富达投资人工智能卓越中心)
本文提出利用自然语言反馈和动态模式编码纠正text-to-SQL解析错误,通过分离语义与句法困难,仅一轮纠正即可将解析准确率最多提升26%,并验证T5-base可零样本纠正T5-large的错误。
2023-05-31 cs.CL
Few-Shot Domain Adaptation for Named-Entity Recognition via Joint Constrained k-Means and Subspace Selection
Université de Brest(布雷斯特大学);Université Paris-Saclay(巴黎萨克雷大学);Data Analytics Solutions, SCOR(SCOR数据分析解决方案部);INSA Rennes(雷恩国立应用科学学院);IRISA(IRISA研究所);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Université de Rennes(雷恩大学)
针对小样本命名实体识别跨领域迁移标注需求高的问题,提出结合约束k-means与领域判别子空间选择的弱监督方法,利用少量标注加大量无标注数据,在多个英文数据集上取得当前最优效果。
2024-12-12 cs.CL
BIPro: Zero-shot Chinese Poem Generation via Block Inverse Prompting Constrained Generation Framework
Zhipu. AI(智谱AI)
本文提出BIPro分块逆向提示约束生成框架,通过修订和重写两种方法模拟人类写作过程,使GLM-10B-Chinese在零样本中文传统诗歌生成上超越GPT-4及领域专用系统,显著缩小与人类文学作品的差距。
2024-11-20 cs.CL
Target Language-Aware Constrained Inference for Cross-lingual Dependency Parsing
University of California, Los Angeles(加州大学洛杉矶分校);University of Southern California(南加州大学)
以前的跨语言依存句法分析的工作往往侧重于捕捉源语言和目标语言之间的共性,而忽略了利用语言的语言特性来促进迁移的潜力。在本文中,我们表明,弱监督的语言知识的目标语言,可以大大提高跨语言的基于图的依赖分析器。具体来说,我们探讨了几种类型的语料库语言统计数据,并将它们编译成语料库的约束,以指导在测试期间的推理过程。我们采用两种技术,拉格朗日松弛和后验正则化,进行推断与语料库统计约束。实验结果表明,拉格朗日松弛和后验正则化推理分别提高了15和17个目标语言的性能。这些改进对于具有与源语言不同的词序特征的目标语言尤其重要。
2019-09-03 cs.CL
Interactive Semantic Parsing for If-Then Recipes via Hierarchical Reinforcement Learning
The Ohio State University(俄亥俄州立大学);University of Washington(华盛顿大学);Microsoft Research AI(微软人工智能研究院);U.S. Army Research Lab(美国陆军研究实验室)
给定一个文本描述,大多数现有的语义解析器一次合成一个程序。然而,仅仅基于描述来产生正确的程序是相当具有挑战性的,而实际上描述往往是模糊或不完整的。在本文中,我们研究了交互式语义解析,其中代理可以问用户澄清问题,以解决歧义,通过多轮对话,对一个重要类型的程序称为“如果然后食谱。“我们开发了一个基于分层强化学习(HRL)的代理,它可以显着提高解析性能,同时向用户提出最少的问题。模拟和人类评估的结果表明,我们的代理大大优于非交互式语义解析器和基于规则的代理。
2018-11-14 cs.AI cs.CL
Semantic Parsing in Limited Resource Conditions
Monash University(莫纳什大学);School of Information Technology(信息技术学院)
本论文探讨了数据和计算资源受限条件下的语义解析挑战,提出了利用自动数据整理、知识迁移、主动学习和持续学习等技术的综合解决方案。
2023-09-14 cs.AI cs.CL
Parsing the Switch: LLM-Based UD Annotation for Complex Code-Switched and Low-Resource Languages
Arizona State University(亚利桑那州立大学);Universidade da Coruña, CITIC(科鲁纳大学,CITIC)
本文提出基于LLM的BiLingua Parser标注流水线,结合少样本提示与专家审核,为西—英、西—瓜拉尼语码转换文本生成UD标注并发布语料,LAS最高达95.29%。
2025-06-08 cs.AI cs.CL