Description of the Odin Event Extraction Framework and Rule Language
University of Arizona（亚利桑那大学）
本文档描述了Odin框架，这是一个独立于领域的平台，用于开发基于规则的事件提取模型。Odin的目标是强大（规则语言允许对复杂的语法结构进行建模）和健壮（从句法分析错误中恢复，语法模式可以自由地与表面的基于标记的模式混合），同时保持简单（一些领域语法可以在几分钟内启动并运行）和快速（Odin在现实世界的领域中处理超过100个句子/秒，超过200条规则）。在这里，我们包括Odin规则语言的完整定义，以及Scala语言中Odin API的描述，它允许将这些规则应用于任意文本。
2015-09-24 cs.CL
Attending To Syntactic Information In Biomedical Event Extraction Via Graph Neural Networks
Monash University, Malaysia（莫纳什大学（马来西亚））；Monash University, Australia（莫纳什大学（澳大利亚））
针对生物医学事件抽取中依赖路径信息不完整的问题，提出用图卷积网络嵌入完整依赖图邻接矩阵，显著提升性能并略超现有最优模型。
2025-01-21 cs.CL
pyBART: Evidence-based Syntactic Transformations for IE
Allen Institute for AI（艾伦人工智能研究所）；Bar Ilan University（巴伊兰大学）
句法依赖性可以被高精度地预测，并且对于机器学习和基于模式的信息抽取任务都是有用的。然而，其效用可以得到改善。这些句法依赖性被设计为准确地反映句法关系，并且它们不使语义关系显式化。因此，这些表示缺乏内容词之间的许多显式连接，这对于下游应用程序是有用的。像English Enhanced UD这样的提案通过使用额外的显式弧扩展通用依赖树来改善这种情况。但是，它们不适用于Python用户，并且覆盖范围也有限。我们介绍了一个广泛的覆盖面，数据驱动和语言健全的转换，使事件结构和许多词汇关系明确。我们提出了pyBART，一个易于使用的开源Python库，用于将英语UD树转换为增强的UD图或我们的表示。该库可以作为一个独立的包工作，也可以集成在spaCy NLP管道中。当在基于模式的关系抽取场景中进行评估时，我们的表示比增强型UD获得更高的抽取分数，同时需要更少的模式。
2020-06-04 cs.CL
Syntactically Robust Training on Partially-Observed Data for Open Information Extraction
Tsinghua University（清华大学）；University of California, San Diego（加利福尼亚大学圣迭戈分校）
开放式信息抽取模型在充分的监督下显示出有希望的结果。然而，这些模型面临着一个根本性的挑战，即与现实世界相比，训练数据的语法分布是部分可观察的。在本文中，我们提出了一个语法上强大的训练框架，使模型能够在基于不同释义生成的语法丰富的分布上进行训练。针对释义过程中知识变形的问题，提出了基于语义相似度匹配和句法树遍历的知识还原算法。该训练框架可普遍应用于其他句法部分可观测域。基于所提出的框架，我们构建了一个新的评估集，称为CaRB-AutoPara，这是一个与真实世界设置一致的语法多样的数据集，用于验证模型的鲁棒性。实验结果表明，该模型的性能随着句法分布差异的增加而下降，而我们的框架给出了一个鲁棒的边界。源代码可在https://github.com/qijimrc/RobustOIE上公开获得。
2023-01-17 cs.AI cs.CL cs.LG
A Sentence Simplification System for Improving Relation Extraction
University of Passau（帕绍大学）
在这篇演示论文中，我们提出了一种文本简化方法，旨在提高最先进的开放式关系抽取（RE）系统的性能。由于句法复杂的句子往往对当前的Open RE方法构成挑战，我们开发了一个简化框架，该框架通过将单个句子作为输入并使用一组基于句法的转换规则来执行预处理步骤，以创建更容易为随后应用的Open RE系统处理的文本输入。
2017-03-27 cs.CL
Comparison of Syntactic Parsers on Biomedical Texts
Luxembourg Center for Contemporary and Digital History, University of Luxembourg（卢森堡大学卢森堡当代与数字历史中心）；Luxembourg Center for Systems Biomedicine, University of Luxembourg（卢森堡大学卢森堡系统生物医学中心）
句法分析是以信息抽取为目的的自动文本分析中的重要环节。句法分析的质量在很大程度上决定了文本挖掘结果的查全率和查准率。在本文中，我们评估了几个流行的句法分析器在生物医学文本挖掘中的应用性能。
2020-08-17 cs.CL
Temporal Information Extraction for Question Answering Using Syntactic Dependencies in an LSTM-based Architecture
University of Massachusetts Lowell（马萨诸塞大学洛厄尔分校）
在本文中，我们提出了一套简单的，统一的架构LSTM为基础的模型，以恢复不同种类的时间关系，从文本。使用实体之间的最短依赖路径作为输入，使用相同的架构来提取句子内，跨句子和文档创建时间关系。一种“双重检查”技术在分类中颠倒实体对，提高了对阳性案例的回忆，减少了相反类之间的错误分类。一个有效的修剪算法解决全局冲突。在QA-TempEval（SemEval 2015任务5）上进行评估，我们提出的技术大大优于最先进的方法。
2017-10-05 cs.CL cs.IR
Silver Syntax Pre-training for Cross-Domain Relation Extraction
IT University of Copenhagen（哥本哈根信息技术大学）；University of Turku（图尔库大学）；LMU Munich（慕尼黑大学）
本文针对跨域关系抽取数据标注成本高的问题，提出利用句法结构与语义的亲和性，通过高精度句法分析器自动获取最短依赖路径上的句法关系作为预训练数据，在无额外标注下于六种跨域设置中五种优于基线。
2023-05-18 cs.CL
SERC: Syntactic and Semantic Sequence based Event Relation Classification
IIIT-Delhi（印度德里信息技术学院）；Adobe Systems（Adobe系统公司）
时间和因果关系在确定事件之间的依赖关系方面起着重要作用。对事件之间的时间和因果关系进行分类有许多应用，例如生成事件时间轴、事件摘要、文本蕴涵和问答。时间关系和因果关系密切相关，相互影响。因此，我们提出了一个联合模型，结合了时间和因果关系的功能来执行因果关系分类。我们使用文本的句法结构来识别文本中两个事件之间的时间和因果关系。我们从文本中提取词性标记序列、依存标记序列和词序列。我们提出了一个基于LSTM的时间和因果关系分类模型，该模型捕捉了三个编码特征之间的相互关系。在四个流行的数据集上对我们的模型进行评估，在时间和因果关系分类方面取得了令人满意的结果。
2021-11-09 cs.CL
Syntactic-GCN Bert based Chinese Event Extraction
Shanghai University of Finance and Economics（上海财经大学）
随着信息技术的快速发展，在线平台（例如，新闻门户和社交媒体）每时每刻都产生大量的网络信息。因此，从社会流中提取事件的结构化表示至关重要。通常，现有的事件提取研究利用模式匹配、机器学习或深度学习方法来执行事件提取任务。然而，由于中文语言的独特性，中文事件抽取的性能不如英文。在本文中，我们提出了一个集成的框架来执行中文事件提取。所提出的方法是一个多通道输入的神经框架，集成了语义特征和句法特征。语义特征由BERT体系结构捕获。词性（POS）特征和依存句法分析（DP）特征分别通过轮廓嵌入和图卷积网络（GCN）来捕获。我们还在真实世界的数据集上评估了我们的模型。实验结果表明，该方法的性能明显优于基准方法。
2021-12-18 cs.AI cs.CL cs.IR
Construction of a Syntactic Analysis Map for Yi Shui School through Text Mining and Natural Language Processing Research
Hebei University（河北大学）
本研究针对易水学派中医古籍非结构化文本，基于条件随机场构建实体关系抽取模型，结合TF-IDF和神经网络依存句法分析提取关键实体并可视化语法关系，为构建知识图谱奠定基础。
2024-02-16 cs.CL
Building a comprehensive syntactic and semantic corpus of Chinese clinical texts
School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院）；Ricoh Software Research Center (Beijing)（理光软件研究所（北京））；School of Software, Harbin University of Science and Technology（哈尔滨理工大学软件学院）；Medical Records Room, the Second Affiliated Hospital of Harbin Medical University（哈尔滨医科大学附属第二医院病案室）
目的：建立一个涵盖中文临床文本句法和语义标注的综合语料库，提供相应的标注指南和方法，并开发基于标注语料库的标注工具，为临床领域中文文本的研究提供基线。材料与方法：提出一种迭代标注方法，用于训练标注人员和制定标注指南。然后，通过使用标注质量保证措施，建立了一个全面的语料库，包括词性标注、句法标注、实体标注、断言标注和关系标注。以标注者间一致性（IAA）评价标注质量，并在此基础上开发了中文临床文本处理与信息抽取系统（CCTPIES）。结果如下：句法语料库包括138篇中文临床文档，包含47，424个标记和2553个完整的解析树;语义语料库包括992篇文档，标注了39，511个实体及其断言和7695个关系。IAA评价表明，该综合语料库质量良好，系统模块有效。讨论内容：标注语料库为临床领域中文文本的自然语言处理研究做出了重要贡献。然而，这个语料库有一些局限性。应引入一些额外类型的临床文本以提高语料库覆盖率，并应利用主动学习方法来提高标注效率。结论：本研究提出了临床中文文本的标注原则和标注方法，并构建了一个包含NLP模块的综合语料库，为进一步研究NLP技术在临床中文文本中的应用奠定了基础。
2016-11-08 cs.CL
Supporting Medical Relation Extraction via Causality-Pruned Semantic Dependency Forest
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Software Chinese Academy of Sciences（中国科学院软件研究所）；University Of Electronic Science And Technology Of China（电子科技大学）
医学关系抽取任务旨在抽取医学文本中实体之间的关系。传统的关系抽取方法通过探索句法信息取得了令人印象深刻的成功，例如，依赖树然而，1-最好的依赖树的医疗文本产生的域外分析器的质量是相对有限的，使医疗关系抽取方法的性能可能会下降。为此，我们提出了一种基于因果解释理论的医学文本语义和句法信息联合建模方法。我们生成的依赖森林组成的语义嵌入的1-最好的依赖树。然后，采用特定于任务的因果解释器对依赖森林进行剪枝，并将剪枝后的依赖森林输入到所设计的图卷积网络中，为下游任务学习相应的表示.从经验上讲，基准医疗数据集上的各种比较证明了我们的模型的有效性。
2022-08-29 cs.CL
Grammatical Case Based IS-A Relation Extraction with Boosting for Polish
Institute of Computer Science Polish Academy of Sciences（波兰科学院计算机科学研究所）
基于模式的IS-A关系抽取方法严重依赖于所谓的赫斯特模式。这些是用自然语言表示类的实例枚举的方法。虽然这些词汇句法模式证明是非常有用的，但它们可能无法捕捉文本中表达的所有分类关系。因此，在本文中，我们描述了一种新的方法，IS-A关系抽取模式，它使用形态句法注释以及语法情况的名词短语，构成实体参与IS-A关系。我们还描述了一种方法，用于增加提取的关系，我们称之为伪子类提升，它具有潜在的应用在任何基于模式的关系抽取方法。实验进行了约0.5亿波兰语的网络文档的语料库。
2016-05-10 cs.CL cs.IR
Does constituency analysis enhance domain-specific pre-trained BERT models for relation extraction?
Université Paris-Saclay, INRAE, MaIAGE（巴黎-萨克雷大学，法国国家农业食品与环境研究院，应用数学与计算机科学、基因组学与环境研究单位）；Université Paris-Saclay, CNRS, Laboratoire interdisciplinaire des sciences du numérique（巴黎-萨克雷大学，法国国家科学研究中心，数字科学跨学科实验室）
近年来，人们对关系抽取进行了大量的研究。BioCreative VII的DrugProt跟踪为关系抽取系统的开发和评估提供了一个手动注释的语料库，其中研究了化学品和基因之间的相互作用。我们描述了我们用于提交的集成系统，该系统通过多数投票结合了微调的bioBERT，sciBERT和const-bioBERT模型的预测。我们特别测试了语法信息对BERT关系抽取的贡献。我们观察到，向BERT添加基于成分的句法信息提高了准确率，但降低了召回率，因为在训练集中很少看到的关系不太可能被注入句法信息的BERT模型预测。我们的代码可以在线获取[https：//github.com/Maple177/drugprot-relation-extraction]。
2021-11-25 cs.AI cs.CL cs.LG
Parser Extraction of Triples in Unstructured Text
Wipro Limited（威普罗有限公司）
网络包含大量非结构化文本的存储库。我们调查的机会，建立一个知识图谱从这些文本源。我们生成了一组三元组，可用于知识收集和集成。我们定义了一个语言编译器的架构，使用OpenNLP解析器处理主谓宾三元组。我们实现了一个深度优先的搜索遍历的POS标记的语法树附加谓词和对象的信息。解析器能够更高精度和更高召回率地提取跨连接边界的句法关系。我们能够提取ReVerb正确提取的2-2.5倍。这些抽取被用于各种语义Web应用和问答中。我们验证了在CtrudeWeb数据集上提取50，000个三元组。
2018-11-06 cs.AI cs.CL cs.LG
Information Extraction Using the Structured Language Model
本文提出了一种数据驱动的方法来信息抽取（视为模板填充）使用结构化语言模型（SLM）作为统计分析器。模板填充的任务被转换为使用SLM的约束解析。该模型是从一组用帧/槽标签和跨度注释的句子中自动训练的。培训分阶段进行：首先，训练受约束的句法分析器，使得对训练数据的分析满足指定的语义跨度，然后，丰富非终端标签以包含语义信息，最后，在从前一阶段得到的分析树上训练受约束的句法+语义分析器。尽管使用的训练数据量很小，但该模型的性能优于为MiPad -个人信息管理-任务手动编写的简单语义语法的槽级准确性。
2001-08-29 cs.CL cs.IR
A Joint Model for Definition Extraction with Syntactic Connection and Semantic Consistency
University of Oregon（俄勒冈大学）；Adobe Research（奥多比研究院）；VinAI Research（VinAI研究院）
定义抽取是信息抽取领域的一个重要研究课题，旨在从非结构化文本中识别术语及其相应的定义。该任务可以被形式化为句子分类任务（即，是否包含术语定义对）或顺序标记任务（即，（三）界定术语和定义的界限）。DE以前的工作只集中在两种方法之一，未能对两个任务之间的相互依赖关系进行建模。在这项工作中，我们提出了一种新的模型DE，同时执行两个任务，在一个单一的框架中受益于他们的相互依赖性。我们的模型具有深度学习架构，以利用输入句子的全局结构以及术语和定义之间的语义匹配，从而提高DE的表示向量的质量。除了句子分类和顺序标记之间的联合推理之外，所提出的模型与DE的先前工作的根本不同之处在于先前工作仅采用了输入句子的局部结构（即，词与词之间的关系），并且尚未考虑术语和定义之间的语义重叠。为了实现这些新的想法，我们的模型提出了一个多任务学习框架，该框架采用图卷积神经网络，并预测术语和定义之间的依赖路径。我们还寻求在全球范围内（即，增加整个句子和术语/定义的表示之间的语义一致性）和局部（即，促进术语的表示和定义之间的相似性）。
2020-04-29 cs.AI cs.CL
Global alignment for relation extraction in Microbiology
MaIAGE, INRAE, Université Paris-Saclay（巴黎-萨克雷大学、法国国家农业食品与环境研究院、MaIAGE）；Limsi, CNRS, Université Paris-Saclay（巴黎-萨克雷大学、法国国家科学研究中心、Limsi）
我们研究了一种基于全局对齐和句法信息的文本关系抽取方法。结合SVM，该方法在两个RE任务上具有与LSTM相当甚至更好的性能。
2021-11-25 cs.CL cs.LG q-bio.OT
Introducing Syntactic Structures into Target Opinion Word Extraction with Deep Learning
University of Oregon（俄勒冈大学）；Adobe Research（奥多比研究院）；VinAI Research（越南人工智能研究院）
有针对性的观点词提取（TOWE）是基于体的情感分析（ABSA）的一个子任务，其目的是为句子中的给定体词找到观点词。尽管它们在TOWE上取得了成功，但当前的深度学习模型未能利用在先前研究中已被证明对TOWE有用的句子的句法信息。在这项工作中，我们建议将句子的句法结构纳入TOWE的深度学习模型中，利用基于句法的意见可能性得分和单词之间的句法连接。我们还引入了一种新的正则化技术，以提高基于TOWE中单词之间的表示差异的深度学习模型的性能。提出的模型进行了广泛的分析，并实现了最先进的性能在四个基准数据集。
2020-10-26 cs.CL
Syntactic Scaffolds for Semantic Structures
Carnegie Mellon University（卡内基梅隆大学）；Google AI Language（谷歌AI语言部门）；University of Washington（华盛顿大学）；Google DeepMind（谷歌DeepMind）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
我们介绍的句法支架，一种方法，将句法信息到语义任务。语法脚手架避免了运行时昂贵的语法处理，只在训练过程中使用树库，通过多任务目标。我们在PropBank语义、框架语义和共指消解方面的基础上进行了改进，在这三项任务上都取得了有竞争力的性能。
2018-08-30 cs.CL
Semantic and Syntactic Enhanced Aspect Sentiment Triplet Extraction
National Engineering Research Center for Big Data Technology and System（国家大数据技术与系统工程研究中心）；Huazhong University of Science and Technology（华中科技大学）；University of Montreal（蒙特利尔大学）；Mila（米拉人工智能研究所）
Aspect Sentiment Triplet Extraction（ASTE）是一种从句子中提取三元组的方法，每个三元组包括一个实体，其相关的情感，以及解释情感原因的观点跨度。现有的研究大多采用多级流水线的方式来解决这一问题，这种方式忽略了这三个元素之间的互信息，并且存在误差传播的问题。在本文中，我们提出了一个语义和句法增强方面的情感三元组提取模型（S3 E2），充分利用三元组元素之间的句法和语义关系，并共同提取它们。具体来说，我们为ASTE的任务设计了一个图-序列双重表示和建模范式：我们用图表示句子中单词对之间的语义和句法关系，并通过图神经网络（GNNs）对其进行编码，以及通过LSTM对原始句子进行建模以保留顺序信息。在这种情况下，我们进一步应用一个更有效的推理策略提取三胞胎。在四个基准数据集上的广泛评估表明，S3 E2显着优于现有的方法，这证明了我们的S3 E2的优越性和灵活性，在端到端的方式。
2021-06-07 cs.CL
Graph Transformer Networks with Syntactic and Semantic Structures for Event Argument Extraction
University of Oregon（俄勒冈大学）；VinAI Research（越南人工智能研究院）
事件论元提取（EAE）的目标是找到给定事件触发词的每个实体提及的角色。在以前的工作中已经表明，句子的句法结构有助于EAE的深度学习模型。然而，在这样的现有工作的一个主要问题是，他们未能利用句子的语义结构，以诱导有效的表征EAE。因此，在这项工作中，我们提出了一种新的模型EAE，利用图Transformer网络（GTN）的句子的句法和语义结构，学习更有效的句子结构EAE。此外，我们引入了一种新的归纳偏差的基础上的信息瓶颈，以提高推广的EAE模型。进行了大量的实验，以证明所提出的模型的好处，导致国家的最先进的EAE标准数据集上的性能。
2020-10-26 cs.CL
Frame-Semantic Parsing with Softmax-Margin Segmental RNNs and a Syntactic Scaffold
Carnegie Mellon University（卡内基梅隆大学）；Google DeepMind（谷歌DeepMind）；University of Washington（华盛顿大学）
我们提出了一个新的，高效的框架语义分析器，标签语义参数的框架谓词。使用强调召回的分段RNN的扩展构建，我们的基本系统实现了有竞争力的性能，而无需调用任何语法解析器。然后，我们介绍了一种方法，只在训练过程中使用来自Penn Treebank的短语句法注释，通过多任务目标;在训练或测试时不需要解析。这种“语法脚手架”提供了一种比传统的语法流水线更便宜的替代方案，并实现了最先进的性能。
2017-06-29 cs.CL
Graph based Neural Networks for Event Factuality Prediction using Syntactic and Semantic Structures
University of Oregon（俄勒冈大学）
事件真实性预测（EFP）是对句子中所提到的事件发生的程度进行评估的任务。在这一任务中，句法和语义信息对于识别重要的上下文词至关重要。以前的工作EFP只结合这些信息在一个简单的方式，不能充分利用他们的协调。在这项工作中，我们介绍了一种新的基于图的神经网络的EFP，可以更有效地整合语义和句法信息。我们的实验证明了所提出的EFP模型的优势。
2019-07-07 cs.CL
A Survey of Syntactic-Semantic Parsing Based on Constituent and Dependency Structures
Tianjin University（天津大学）
句法和语义解析是自然语言处理领域的一个主要研究课题，已经有几十年的研究历史。本文旨在对这一主题进行简要的概述。解析社区包括许多任务，这些任务很难被完全覆盖。在这里，我们集中在两个最流行的形式化分析：成分分析和依存句法分析。成分句法分析主要针对句法分析，而依存句法分析可以同时处理句法和语义分析。本文简要回顾了成分句法分析和依存句法分析的代表性模型，以及具有丰富语义的依存图句法分析。此外，本文还对跨领域、跨语言和联合句法分析模型、句法分析器的应用以及句法分析语料库的开发等相关问题进行了综述。
2020-06-19 cs.CL
Explaining Away Syntactic Structure in Semantic Document Representations
ETH Zürich（苏黎世联邦理工学院）
大多数生成式文档模型作用于词袋输入，试图专注于语义内容，从而部分放弃句法信息。我们认为，它是更可取的，以保持原来的词序完整，而明确的句法结构，而不是。我们提出了对神经变分文档模型的扩展（Miao等人，2016年），它正是这样做的，以分离本地（语法）上下文从全局（语义）表示的文件。我们的模型建立在变分自编码器框架上，定义了一个基于下一个词预测的生成文档模型。我们将我们的方法命名为序列感知变分自编码器，因为与其前身相比，它对真实的输入序列进行操作。在一系列的实验中，我们观察到更强的时事性的学习表示，以及增加的鲁棒性语法噪声在我们的训练数据。
2018-06-05 cs.CL
Transferring Semantic Roles Using Translation and Syntactic Information
The George Washington University（乔治华盛顿大学）；Columbia University（哥伦比亚大学）
我们的论文解决了资源贫乏的语言使用监督注释通过并行数据从资源丰富的语言的语义角色标注的注释投影的问题。我们提出了一种传输方法，采用信息源和目标的句法依赖关系，以及字对齐密度，以提高迭代自举方法的质量。我们的实验产生了一个$3.5$绝对标记的F-分数的改进，一个标准的注释投影方法。
2017-10-03 cs.CL
Generating Sentences from Disentangled Syntactic and Semantic Spaces
Nanjing University（南京大学）；ByteDance AI Lab（字节跳动人工智能实验室）；University of Waterloo（滑铁卢大学）
变分自动编码器（VAE）由于其潜在空间的正则化特性，在自然语言生成中得到了广泛的应用。然而，从连续潜在空间生成句子并没有显式地对句法信息进行建模。在本文中，我们提出了从分离的句法和语义空间生成句子。我们提出的方法通过使用线性化的树序列在VAE的潜在空间中显式地建模句法信息，从而获得更好的语言生成性能。此外，在分离的句法和语义潜在空间中采样的优势使我们能够执行新的应用，例如无监督的释义生成和句法转换生成。实验结果表明，我们提出的模型在各种任务中取得了类似或更好的性能，与国家的最先进的相关工作。
2019-07-06 cs.CL
Organization and Independence or Interdependence? Study of the Neurophysiological Dynamics of Syntactic and Semantic Processing
Institut des sciences cognitives-Marc Jeannerod CNRS/University of Lyon（马克·让纳罗德认知科学研究所（法国国家科学研究中心/里昂大学））；CAMS EHESS-CNRS（高等社会科学研究院-法国国家科学研究中心认知人类学研究所）；Rutgers, The State University of New Jersey（罗格斯大学新泽西州立大学）
在这篇文章中，我们提出了一个多变量模型来确定不同的句法，语义和形式（表面结构）的过程中的理解简单的短语。该模型适用于在阅读任务期间记录的EEG信号。结果表明，神经语言过程的层次优先顺序：形式，然后是句法，最后是语义过程。我们还发现：（a）动词是短语句法加工的核心，（b）短语内部的句法运动与以人为中心的参照系所产生的语义加工之间的相互作用。多变量模型的特征向量提供了分离独特的语言过程和/或突出它们的相互作用的电极时间曲线。这些发现与不同的语言学理论的一致性进行了讨论。
2018-04-16 cs.CL
Enhancing Automatic Term Extraction with Large Language Models via Syntactic Retrieval
Korea University（韩国大学）
本文提出一种基于句法相似性的检索提示策略，在少样本设置下利用大型语言模型进行自动术语抽取，实验证明该方法能提升F1分数并强调了句法线索的重要性。
2025-06-26 cs.CL cs.IR
Syntactic and semantic classification of verb arguments using dependency-based and rich semantic features
Università di Roma “La Sapienza”（罗马第一大学）
语料库模式分析（CPA）是Semeval 2015年任务15的主题，旨在创建一个系统，帮助词典编纂者使用CPA注释过程构建英语动词的含义词典。CPA解析是这个注释过程的子任务之一，也是本报告的重点。一个监督的机器学习方法已经实现，其中来自解析树和语义特征来自WordNet和词嵌入的语法特征。结果表明，这种方法表现良好，即使与数据稀疏性问题，表征数据集，并可以获得更好的结果比其他系统的利润约4%的f-score。
2016-04-19 cs.CL
Generating Sense Embeddings for Syntactic and Semantic Analogy for Portuguese
Federal University of São Carlos（圣卡洛斯联邦大学）
词嵌入是在低维连续空间中表示词或概念的数值向量。这些向量能够捕获有用的句法和语义信息。Word2Vec、GloVe和FastText等传统方法有一个严重的缺点：它们为每个单词生成一个单一的向量表示，忽略了歧义单词可能具有不同含义的事实。在本文中，我们使用的技术来生成意义嵌入，并提出了第一个实验进行葡萄牙语。我们的实验表明，意义向量优于传统的词向量在句法和语义类比任务，证明这里生成的语言资源可以提高葡萄牙语的NLP任务的性能。
2020-01-21 cs.CL
Combining semantic and syntactic structure for language modeling
用于语音识别的结构化语言模型已经被证明可以弥补n元模型的弱点。然而，所有当前的结构化语言模型的局限性在于它们没有考虑非中心词之间的依赖关系。我们发现，非中心词的依赖关系有助于显着改善字的出错率，并在语义和语法注释数据训练的面向数据的解析模型可以利用这些依赖关系。本文还包含了第一个DOP模型训练的最大似然重新估计过程，解决了以前的DOP模型的一些理论缺陷。
2001-10-24 cs.CL
Joint Universal Syntactic and Semantic Parsing
Johns Hopkins University（约翰霍普金斯大学）；Microsoft Research（微软研究院）；University of Rochester（罗切斯特大学）
虽然已经进行了许多尝试来联合解析语法和语义，但是一个域中的高性能通常是以另一个域中的性能为代价的。这种权衡与大量的研究相矛盾，这些研究集中在语法-语义接口的丰富交互上。我们探索了多个模型架构，使我们能够利用通用分解语义（UDS）数据集中包含的丰富的语法和语义注释，共同解析通用分解和UDS，以获得两种形式主义的最先进的结果。我们分析的语法和语义的联合模型的行为，发现在语法语义接口的语言学理论支持的模式。然后，我们调查联合建模推广到多语言环境的程度，在那里我们发现8种语言的相似趋势。
2021-04-12 cs.CL
A Topological Approach to Compare Document Semantics Based on a New Variant of Syntactic N-grams
Biocomplexity Institute University of Virginia（弗吉尼亚大学生物复杂性研究所）
本文提供了一个新的角度来思考和利用句法n-gram（sn-gram）。Sn-gram是一种非线性n-gram，在许多NLP任务中发挥着重要作用。因此，引入sn-gram来比较文档语义是一个有吸引力的应用，很少有研究报告在这方面取得了进展。然而，当我们继续在这个应用程序中，我们发现三个主要的问题：缺乏意义，是敏感的词序和未能捕捉间接的句法关系。为了解决这些问题，我们提出了一个新的变体的sn-元命名为广义短语（GP）。然后，基于GP，我们提出了一种拓扑方法，命名为DSCoH，计算文档语义相似度。DSCoH已经在文档语义比较和文档聚类任务上进行了广泛的测试。实验结果表明，DSCoH可以优于最先进的嵌入式方法。
2021-03-08 cs.CL
From syntactic structure to semantic relationship: hypernym extraction from definitions by recurrent neural networks using the part of speech information
Southwest University（西南大学）
上下义关系是语义网络中的重要组成部分。从定义中识别上位词是自然语言处理和语义分析中的一项重要任务。虽然像WordNet这样的公共词典适用于常见单词，但它在特定领域场景中的应用有限。现有的上位词提取工具要么依赖于特定的语义模式，要么专注于词的表示，这都表现出一定的局限性。
2020-12-07 cs.AI cs.CL
Mapping Semantic & Syntactic Relationships with Geometric Rotation
TELUS Digital（TELUS数字公司）
RISE通过几何旋转方法在多语言嵌入空间中实现话语层面语义-语法转换的一致映射，支持线性表示假设。
2026-02-25 cs.CL
Generating event descriptions under syntactic and semantic constraints
University of Rochester（罗切斯特大学）；Georgia Institute of Technology（佐治亚理工学院）
本文全面评估了在句法和语义约束下生成事件描述的三种方法，发现自动生成方法虽略逊于专家手动生成，但所产出的描述质量足以用于下游的标注与分析。
2024-12-24 cs.CL
A new semantically annotated corpus with syntactic-semantic and cross-lingual senses
Université Paris-Est（巴黎-埃松大学）
本文构建了一个包含20个法语多义动词实例的新语义标注语料库，每个实例标注了三种义项：平行语料中的英语翻译、法语计算词典（Lexicon-Grammar表）条目以及两者的组合细粒度义项。
2026-05-27 cs.CL
Content Differences in Syntactic and Semantic Representations
The Edmond and Lily Safra Center for Brain Sciences（埃德蒙与莉莉·萨夫拉脑科学中心）；School of Computer Science and Engineering（计算机科学与工程学院）；Hebrew University of Jerusalem（希伯来大学）
句法分析在语义解析中起着重要的作用，但其作用的本质仍然是一个争论不休的话题。由于缺乏句法和语义图式之间的实证比较研究，这一争论一直受到限制，这阻碍了基于目标图式和构式细节的句法分析方法的发展。我们针对这一差距，并采取通用的自主性（UD）和UCCA作为测试案例。在排除了常规或形式主义的差异后，我们发现大多数内容分歧可以归因于：（1）UCCA对场景和非场景的区分;（2）UCCA对主要关系、次要关系和参与者的区分;（3）对多词表达的不同处理;（4）对小句间连接的不同处理。我们进一步讨论长尾的情况下，这两个计划采取明显不同的方法。最后，我们表明，所提出的比较方法可用于细粒度的评估UCCA解析，突出的挑战和潜在的改进来源。这些方案之间的实质性差异表明，语义解析器可能会使下游文本理解应用程序受益，而不仅仅是其句法对应程序。
2019-05-01 cs.CL
Syntax Role for Neural Semantic Role Labeling
Shanghai Jiao Tong University（上海交通大学）
语义角色标注（SRL）致力于识别句子的语义谓词-论元结构。以往基于传统模型的研究表明，句法信息对自主学习成绩有显著的影响;然而，句法信息的必要性受到了最近一些神经SRL研究的挑战，这些研究表明，在没有句法主干的情况下，句法信息的表现令人印象深刻，并表明句法信息对于神经语义角色标注变得不那么重要，特别是当与最近的深度神经网络和大规模预训练的语言模型配对时。尽管有这个概念，神经SRL领域仍然缺乏一个系统的和全面的调查，在SRL的相关性的句法信息，无论是依赖和单语和多语设置。本文旨在量化句法信息在深度学习框架中对神经SRL的重要性。我们介绍了三个典型的SRL框架（基线），基于序列，基于树，基于图，这是伴随着两类利用句法信息：基于语法修剪和基于语法特征。在CoNLL-2005、2009和2012基准测试中对所有可用语言进行了实验，结果表明神经SRL模型在一定条件下仍然可以受益于句法信息。此外，我们还展示了句法对神经SRL模型的定量意义，并使用现有模型进行了彻底的实证调查。
2020-09-12 cs.CL
Underutilization of Syntactic Processing by Chinese Learners of English in Comprehending English Sentences, Evidenced from Adapted Garden-Path Ambiguity Experiment
本研究通过改编花园路径实验，发现中国英语学习者在理解英语句子时存在句法加工利用不足，并识别出部分与完全两种类型，为提升其句子理解水平的新型解析方法奠定基础。
2024-12-21 cs.CL
A Multi-view Discourse Framework for Integrating Semantic and Syntactic Features in Dialog Agents
针对现有多轮对话模型忽略话语交互或同等对待所有话语的问题，本文提出语篇感知框架，通过MCCA和CCA两步法整合语义与句法特征，在Ubuntu语料库上提升响应选择效果。
2025-04-12 cs.CL
Automatic semantic role labeling on non-revised syntactic trees of journalistic texts
University of São Paulo（圣保罗大学）
语义角色标注（Semantic Role Labeling，SRL）是一种自然语言处理任务，能够检测句子中描述的事件以及这些事件的参与者。对于巴西葡萄牙语（BP），最近有两项研究得出结论，在新闻文本中执行SRL。[1]使用PropBank.Br语料库获得了79.6的F1-measure分数，该语料库具有手动修改的句法树，[8]，而不使用树库进行训练，对于相同的语料库获得了68.0的F1-measure分数。然而，使用手动修改的语法树，这项任务并不代表一个真正的应用场景。本文的目标是使用一个更大的和平衡的BP新闻文本语料库，评估SRL在修改和未修改的句法树上的性能。首先，我们已经证明[1]的系统在更大的语料库上也比[8]的系统表现得更好。第二，在未修改的句法树上训练的SRL系统比在金标准数据上训练的系统在未修改的树上表现得更好。
2017-04-10 cs.CL
Syntax-Semantics Interaction Parsing Strategies. Inside SYNTAGMA
本文讨论了SYNTAGMA，一个基于规则的自然语言处理系统解决棘手的问题，句法歧义减少和词义消歧，以及提供创新和原始的解决方案，成分生成和约束管理。为了深入了解它是如何运作的，该系统的总体架构和组件，以及它的词汇，语法和语义资源进行了描述。在此基础上，本文提出了一种通过句法和语义信息的相互作用进行选择性句法分析的机制，从而使句法分析器对输入文本进行连贯而准确的解释。
2016-01-21 cs.CL
Semantic Graphs for Syntactic Simplification: A Revisit from the Age of LLM
Department of Computing Science（计算机科学系）；University of Alberta（阿尔伯塔大学）
本文重新审视语义图在句法简化中的作用，提出基于 AMR 的 AMRS$^3$ 方法及 AMRCoC 提示策略，证明语义图在 LLM 时代仍具竞争力与独特优势。
2024-07-04 cs.CL
Semantic Parsing: Syntactic assurance to target sentence using LSTM Encoder CFG-Decoder
University of Sao Paulo - USP（圣保罗大学）；Institute of Mathematics and Statistics - IME（数学与统计学院）
语义解析可以定义为将自然语言句子映射成其含义的机器可解释的形式化表示的过程。使用LSTM编码器-解码器神经网络的语义解析已经成为很有前途的方法。然而，自然语言的人工自动翻译并不为生成的句子提供语法性保证，这样的保证对于实际情况是特别重要的，在实际情况中，如果句子不符合语法，则数据库查询可能导致要害差错。在这项工作中，我们提出了一个神经架构称为编码器CFG解码器，其输出符合给定的上下文无关文法。结果表明，任何实现这种架构显示其正确性，并提供基准精度水平优于文献。
2018-07-18 cs.CL
Graph-Induced Syntactic-Semantic Spaces in Transformer-Based Variational AutoEncoders
Idiap Research Institute（伊迪亚普研究所）；University of Manchester（曼彻斯特大学）；CRUK Manchester Institute（英国癌症研究中心曼彻斯特研究所）
本文针对基于Transformer的VAE（Optimus），提出通过图与序列模型集成及低秩算子注入多潜在表示，实现句法-语义空间分离，缓解信息丢失，提升语言建模与生成性能。
2023-11-14 cs.CL
Word learning and the acquisition of syntactic--semantic overhypotheses
Massachusetts Institute of Technology（麻省理工学院）
儿童在学习第一语言时面临着多种归纳问题：如何学习单词的含义，以及如何根据句法规则从这些单词中构建有意义的短语。我们考虑如何儿童可能会解决这些问题，有效地解决他们共同的，通过计算模型，学习语法和语义的多字的话语在一个接地的参考游戏。我们选择了一个经过充分研究的实证案例，在该案例中，儿童意识到将单词的句法和语义属性联系起来的模式--基本名词选择的属性往往与形状相关，而前置形容词往往指的是其他属性，例如颜色。我们发现，儿童应用这种归纳偏见准确地反映了儿童导向的语音统计，并在我们的计算模型中诱导类似的偏见捕捉儿童的行为在一个经典的形容词学习实验。我们的模型结合了这种偏见，也证明了一个明确的数据效率在学习中，相对于一个基线模型，学习没有形成语法敏感的过度假设的词义。因此，解决一个更复杂的联合推理问题可能会使语言习得的整个问题变得更容易，而不是更难。
2018-05-14 cs.CL
BenchCLAMP: A Benchmark for Evaluating Language Models on Syntactic and Semantic Parsing
Microsoft Semantic Machines（微软语义机器）；Scaled Cognition（规模化认知）
本文提出 BenchCLAMP 基准，通过提供上下文无关文法和受约束解码接口，评估语言模型在句法和语义解析任务上的性能，发现受约束的编码器-解码器模型能超越现有最先进方法。
2024-01-10 cs.CL
Neural Extractive Text Summarization with Syntactic Compression
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
最近的神经网络摘要方法主要是基于选择的提取或基于生成的抽象。在这项工作中，我们提出了一个基于联合提取和句法压缩的单文档摘要的神经模型。我们的模型从文档中选择句子，根据选区分析识别可能的压缩，并使用神经模型对这些压缩进行评分，以生成最终摘要。对于学习，我们构建了Oracle提取压缩摘要，然后通过这种监督来学习我们的两个组件。在CNN/Daily Mail和New York Times数据集上的实验结果表明，根据ROUGE的评估，我们的模型实现了强大的性能（与最先进的系统相当）。此外，我们的方法优于现成的压缩模块，人工和手动评估表明，我们的模型的输出通常保持语法。
2019-09-09 cs.CL
A Study on How Attention Scores in the BERT Model are Aware of Lexical Categories in Syntactic and Semantic Tasks on the GLUE Benchmark
Seoul National University（首尔大学）
本研究探讨了BERT模型在GLUE基准任务微调中，注意力分数如何随词汇类别变化，证实了语义任务增强实词注意力、句法任务增强虚词注意力，并发现了与任务无关的词汇类别偏好层。
2024-03-25 cs.CL
Semantic Role Labeling as Syntactic Dependency Parsing
Cornell University（康奈尔大学）；Bloomberg L.P.（彭博有限合伙公司）
我们减少（跨度为基础的）PropBank风格的语义角色标注（SRL）的任务，语法依存句法分析。我们的方法是由我们的实证分析，表明三个常见的句法模式占98%以上的SRL注释的英语和汉语数据的动机。基于这一观察，我们提出了一个转换方案，通过联合标签，允许高度准确地恢复到原始格式的依赖树表示包SRL注释。这种表示使我们能够训练统计依赖解析器来解决SRL和实现竞争力的性能与当前的最先进的状态。我们的研究结果表明，在编码语义角色关系的句法依赖树的承诺在其句法域的地方，并指出潜在的进一步整合的句法方法到语义角色标注在未来。
2020-10-21 cs.AI cs.CL
