Cross-domain Chinese Sentence Pattern Parsing
Beijing Language and Culture University(北京语言大学);Tsinghua University(清华大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));Beijing Jiaotong University(北京交通大学)
本文针对中文句式解析器跨领域能力不足的问题,提出在自训练框架中利用大语言模型结合源领域句法规则与目标领域句子动态生成训练数据,实验表明其在教材和新闻领域上F1值超越规则基线1.68个百分点。
2024-04-08 cs.AI cs.CL
Training Naturalized Semantic Parsers with Very Little Data
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Amazon Alexa AI(亚马逊Alexa人工智能部门)
语义解析是一个重要的NLP问题,特别是对于Alexa和Google Assistant等语音助手。最先进的(SOTA)语义解析器是基于大语言模型的seq 2seq架构,这些模型已经在大量文本上进行了预训练。为了更好地利用预训练,最近的工作探索了语义解析的重新表述,其中输出序列本身是自然语言句子,但在自然语言的受控片段中。这种方法提供了强大的结果,特别是对于Few-Shot语义解析,这是在实践中的关键重要性,我们的论文的重点。我们通过引入一种自动化方法来推进这一工作,该方法通过利用少量的未注释数据(通常很容易获得)来提供非常显著的额外改进。我们的方法是基于一种新的合成四种技术:联合训练与辅助无监督任务;约束解码;自我训练;和释义。我们表明,这种方法提供了新的SOTA Few-Shot性能的隔夜数据集,特别是在非常低的资源设置,和非常引人注目的Few-Shot结果的一个新的语义解析数据集。
2022-05-04 cs.CL
QUDSELECT: Selective Decoding for Questions Under Discussion Parsing
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Peking University(北京大学)
针对流水线式 QUD 解析难以兼顾理论准则的问题,提出联合训练框架 QUDSELECT,通过多候选选择性解码与准则评分提升结构预测性能。
2024-08-02 cs.CL
Can an Old Dog Be Taught New Tricks? Taking LLMs Beyond Sentence Level Translation
探讨能否让大语言模型超越逐句翻译范式,提出基于RAG的PAT系统,通过与语料库结合让大语言模型进行全文翻译生成草稿,经评估发现其能朝重新表述发展,但提升重新表述有效性仍需更多工作,还讨论了相关设计与评估等要点。
2026-07-16 cs.CL
LLMs Underperform Graph-Based Parsers on Supervised Relation Extraction for Complex Graphs
University of Bologna(博洛尼亚大学);Dalhousie University(达尔豪斯大学)
本文研究了大型语言模型在复杂图结构下的关系抽取性能,发现基于图的解析器在复杂图中表现更优,主要贡献是验证了图解析器在复杂场景下的优势。
2026-04-09 cs.AI cs.CL
End-to-End Argument Mining over Varying Rhetorical Structures
FRC CSC RAS(俄罗斯科学院联邦研究中心计算机科学与控制)
针对修辞结构差异导致的论证解析不一致问题,提出利用RST修辞树和释义结构增强的深层依存解析模型,实现端到端论证挖掘,并在双语Microtexts语料库上验证有效。
2024-01-20 cs.CL
GPT Assisted Annotation of Rhetorical and Linguistic Features for Interpretable Propaganda Technique Detection in News Text
Technological University Dublin(都柏林理工大学);SFI Centre for Research Training in Machine Learning(SFI机器学习研究培训中心);School of Computer Science(计算机学院);Artificial Intelligence and Cognitive Load Research Lab(人工智能与认知负荷研究实验室)
本研究将22种修辞语言特征编码并借助RhetAnn工具人工标注,结合GPT-3.5微调实现低成本可解释宣传技巧检测,效果媲美GPT-4且成本降低十倍。
2024-07-16 cs.AI cs.CL
Modelling and Classifying the Components of a Literature Review
Knowledge Media Institute, The Open University(开放大学知识媒体研究所);The Open University(开放大学);Department of Business and Law, University of Milano Bicocca(米兰Bicocca大学商学院)
本文提出了一种新的注释方案和评估方法,用于对文献综述中的句子进行修辞角色分类,并评估了多种大型语言模型的表现。
2026-02-09 cs.AI cs.CL cs.HC
Robustness Evaluation of Two CCG, a PCFG and a Link Grammar Parsers
University of Joensuu(约恩苏大学)
解析器中的健壮性指的是处理异常现象的能力。如果解析器处理的是正常输入范围之外的现象,那么它就是健壮的。本文报告了一系列的鲁棒性评估的国家的最先进的解析器,我们集中在一个方面的鲁棒性:它的能力,分析句子包含拼写错误的单词。我们提出了两种措施的鲁棒性评估的基础上比较语法输入句子和他们的嘈杂的同行分析器的输出。在本文中,我们使用这些措施来比较四个评估的解析器的整体鲁棒性,我们提出了一个分析的解析器的性能下降,错误水平的增加。我们的研究结果表明,性能通常下降几十个百分点的单位时,解析器与文本包含拼写错误。当它在我们专门构建的443个句子的测试集上进行测试时,实验中最好的解析器(C&C解析器)能够分别为60.8%,34.0%和14.9%的语法和不语法句子返回完全相同的解析树,其中有一个,两个或三个拼写错误的单词。
2008-01-24 cs.CL
Bilingual Rhetorical Structure Parsing with Large Parallel Annotations
FRC CSC RAS(俄罗斯科学院联邦研究中心计算机科学中心);ISP RAS(俄罗斯科学院信息学问题研究所)
针对跨语言篇章解析中平行数据有限及RST应用不一致的问题,该研究为英文GUM RST语料库引入平行俄文标注,提出端到端RST解析器,在英俄语料库上取得最先进结果,并首次评估了跨语言端到端RST解析的潜力。
2024-09-23 cs.CL
Parsing Natural Language Sentences by Semi-supervised Methods
Charles University in Prague, Faculty of Mathematics and Physics(布拉格查理大学数学与物理学院)
我们提出了我们的工作,半监督分析的自然语言句子,侧重于多源跨语言迁移的非词汇化依赖分析器。我们首先评估了树库标注风格对句法分析性能的影响,重点是介词附加风格。然后,我们提出了KLcpos3,一个经验的语言相似性度量,设计和调整源解析器加权多源去词汇化解析器转移。最后,我们介绍了一种新的资源组合方法,基于训练的解析器模型的插值。
2015-06-16 cs.CL
Abstract Generation based on Rhetorical Structure Extraction
我们开发了一个基于修辞结构抽取的日文摘要自动生成系统。该系统首先提取修辞结构,句子之间的修辞关系的化合物,然后在提取的结构中删除不太重要的部分,以生成所需长度的摘要。对生成的摘要的评估表明,它包含了最多74%的原始文本中最重要的句子。该系统现在被用作一个典型的交互式文档检索系统的文本浏览器。
1994-11-17 cmp-lg cs.CL
Towards Effective Sentence Simplification for Automatic Processing of Biomedical Text
Arizona State University(亚利桑那州立大学)
生物医学文章特有的句子的复杂性对自然语言解析器提出了挑战,自然语言解析器通常在非技术文本的大规模语料库上进行训练。我们提出了一个文本简化过程,生物医学,旨在降低句子的复杂性,在生物医学摘要,以提高处理后的句子的句法分析器的性能。句法分析通常是文本挖掘管道中的第一步。因此,性能的任何改进都会对所有处理步骤产生连锁反应。我们评估我们的方法使用语料库的生物医学句子注释的句法链接。我们的实证结果表明,当处理简化的句子,而不是原来的句子在语料库中的Charniak-McClosky分析器和4.23%的链接语法分析器的2.90%的改善。
2010-01-24 cs.CL
Context-Preserving Text Simplification
University of St.Gallen(圣加仑大学);University of Passau(帕绍大学);University of Manchester(曼彻斯特大学)
我们提出了一个上下文保持文本简化(TS)的方法,递归地分裂和重组复杂的英语句子简化句子的语义层次结构。使用一组语言学原则的转换模式,输入的句子被转换成一个层次表示的核心句子和伴随的上下文,通过修辞关系连接的形式。因此,相对于以前提出的句子分割方法,通常不考虑话语层面的方面,我们的TS方法保留了输出中的分解成分的语义关系。与RST-DT中包含的注释的比较分析表明,我们能够以89%的精度捕获分裂句子之间的上下文层次结构,并且对于它们之间的修辞关系的分类,平均精度达到69%。
2021-05-24 cs.CL
A Biologically Plausible Parser
Columbia University(哥伦比亚大学);Google Research(谷歌研究院)
我们描述了一个解析器的英语生物学合理的神经元和突触,并通过大会演算,最近提出的计算框架的认知功能。我们证明,该设备是能够正确地解析合理的非平凡的句子。虽然我们的实验需要相当简单的句子在英语中,我们的结果表明,解析器可以扩展到我们已经实现的,包括大部分语言的几个方向。例如,我们提出了一个简单的俄语版本的解析器,并讨论了如何处理递归,嵌入和一词多义。
2021-08-04 cs.CL
Fostering User Engagement: Rhetorical Devices for Applause Generation Learnt from TED Talks
IBM Almaden Research Center(IBM阿尔马登研究中心)
每个演讲者在发表公共演讲时面临的一个问题是如何吸引听众的注意力或让他们参与其中。因此,许多会话分析的研究都致力于这一问题,并提出了一些定性的结构,这些结构可以有效地引起听众的掌声。为了定量地研究这些提议,在这项研究中,我们分析了2,135个TED演讲的记录,特别关注演讲者为赢得掌声而使用的修辞手段。通过回归分析,我们识别并解释了24种修辞格作为受众接受的触发因素。我们进一步建立了模型,可以recognize鼓掌唤起句,并总结了这项工作的潜在影响。
2017-04-17 cs.CL
Joint Span Segmentation and Rhetorical Role Labeling with Data Augmentation for Legal Documents
Technical University of Munich(慕尼黑工业大学)
法律判决书的切分和修辞角色标注在判决书的检索和相关任务中起着至关重要的作用,包括案例摘要、语义搜索、论点挖掘等。在这项工作中,我们重新制定的任务在跨度水平识别跨度的多个连续的句子,共享相同的修辞角色标签通过分类分配。我们采用半马尔可夫条件随机场(CRF),共同学习跨度分割和跨度标签分配。我们进一步探讨了三种数据增强策略,以缓解法律专业领域的数据稀缺性,其中单个文档往往很长,注释成本很高。我们的实验表明,在CRF基线的跨度级预测指标与半马尔可夫CRF模型的改善。这种好处取决于文档中是否存在多个句子跨度。
2023-02-13 cs.CL cs.IR
One model, two languages: training bilingual parsers with harmonized treebanks
Universidade da Coruña(拉科鲁尼亚大学)
我们介绍了一种方法来训练词汇化的语法分析器,使用双语语料库,通过合并不同语言的协调树库,产生的语法分析器,可以分析句子中的任何一个学习的语言,甚至句子混合。我们在Universal Departments Treebanks上测试了这种方法,并使用MaltParser和MaltOptimizer进行了训练。结果表明,这些双语解析器是超过竞争力,因为大多数组合不仅保持准确性,但有些甚至实现了显着的改善,相应的单语解析器。初步的实验也表明,该方法是有前途的代码转换和更多的语言时,添加的文本。
2016-05-19 cs.CL
RST-style Discourse Parsing Guided by Document-level Content Structures
Texas A&M University(得克萨斯农工大学)
针对现有RST解析流水线因缺乏文档级内容结构知识导致预测大型文本跨度篇章关系性能较低的问题,提出一种结合源自News Discourse Profiling任务的结构感知句子表示的新流水线,仅加入少量额外层即在多项RST解析指标上取得优异性能。
2023-09-08 cs.CL
Yara Parser: A Fast and Accurate Dependency Parser
Columbia University(哥伦比亚大学);Yahoo Labs(雅虎实验室)
相关分析器是自然语言处理中最重要的工具之一,因为它们在诸如信息检索、机器翻译和知识获取等下游任务中有许多重要的应用。我们介绍了Yara Parser,一个基于弧渴望算法和束搜索的快速准确的开源依赖解析器。它在标准WSJ测试集上达到了93.32的未标记准确率,这使它成为顶级依赖解析器之一。最快的时候,Yara在贪婪模式下每秒可以解析大约4000个句子(1束)。当优化准确性时(使用64个波束和Brown聚类特征),Yara每秒可以解析45个句子。解析器可以在任何语法依赖树库上训练,并提供不同的选项,以使其更灵活和可调的特定任务。它以Apache 2.0版许可证发布,可用于商业和学术目的。解析器可以在https://github.com/yahoo/YaraParser上找到。
2015-03-24 cs.CL
An improved parser for data-oriented lexical-functional analysis
我们提出了一个LFG-DOP解析器,它使用片段从LFG注释的句子来解析新的句子。在Verbmobil和Homecentre语料库上的实验表明:(1)Viterbi n best搜索比MonteCarlo搜索快100倍,而两者都达到了相同的精度;(2)对于LFG-DOP,DOP假设的分析精度随着片段大小的增加而增加;(3)LFG-DOP的相对频率估计比折扣频率估计性能差;(4)LFG-DOP的性能明显优于Tree-DOP,仅在树结构上进行评价。
2000-09-27 cs.CL
Consistent CCG Parsing over Multiple Sentences for Improved Logical Reasoning
Nara Institute of Science and Technology(奈良先端科学技术大学院大学);Ochanomizu University(御茶之水女子大学);Artificial Intelligence Research Center, AIST(日本产业技术综合研究所人工智能研究中心)
在基于形式逻辑的文本蕴涵识别方法中,使用组合范畴语法(CCG)解析器来解析输入前提和假设以获得它们的逻辑公式。在这里,重要的是语法分析器处理句子的一致性;未能识别出相似的句法结构会导致它们之间的谓词论元结构不一致,在这种情况下,后续的定理证明注定要失败。在这项工作中,我们提出了一个简单的方法来扩展现有的CCG解析器来解析一组句子一致,这是实现与马尔可夫随机场(MRF)的句间建模。当与现有的基于逻辑的系统相结合,我们的方法总是在英语和日语的RTE实验显示出改善。
2018-04-19 cs.CL
Contextual Semantic Parsing using Crowdsourced Spatial Descriptions
Institute for Artificial Intelligence, University of Leeds(利兹大学人工智能研究所)
我们描述了一个上下文解析器的机器人命令树库,一个新的众包资源。与以前的语义分析器,选择最可能的解析,我们认为不同的问题,解析使用额外的情景上下文之间的歧义消除不同的阅读句子。我们表明,多个语义分析可以搜索使用动态规划通过与空间规划师的互动,指导解析过程。我们能够通过排除与空间上下文不兼容的早期分析来解析接近线性时间的句子。我们报告了34%的准确率上限,因为我们的规划器正确处理了10,000个句子中的3,394个空间上下文。然而,我们的解析器实现了96.53%的精确匹配分数内的句子识别的规划器的子集进行解析,相比之下,82.14%的非上下文解析器。
2014-05-01 cs.CL
SETUP: Sentence-level English-To-Uniform Meaning Representation Parser
Amherst College(阿默斯特学院)
本文提出两种英语到统一意义表示(UMR)的解析方法,其中一种微调了现有的抽象意义表示解析器,另一种利用了通用依赖关系转换器。所提出的最佳模型SETUP在AnCast和SMATCH++评分上分别达到84和91,显示出在自动UMR解析中的显著提升。
2026-05-19 cs.CL
Identifying Domain Adjacent Instances for Semantic Parsers
University of Washington(华盛顿大学);Google Inc.(谷歌公司)
当一个句子的语义不能在语义解析器的输出模式中表示时,解析将不可避免地失败。这些实例的检测通常被视为域外分类问题。然而,还有一种更微妙的场景,其中测试数据是从同一个域中提取的。除了形式化这个问题的域邻接,我们提出了各种基线,可以用来解决它的比较。我们还提出了一个新的简单的句子表示,强调意想不到的话。这种方法提高了在域内和域相邻实例上运行的下游语义解析器的性能。
2018-08-26 cs.CL
Recognizing Bangla Grammar using Predictive Parser
Khulna University of Engineering and Technology (KUET)(库尔纳工程技术大学)
我们描述了孟加拉语的上下文无关文法(CFG),因此我们提出了一个基于该文法的孟加拉语语法分析器。我们的方法是非常普遍适用于孟加拉语句子和方法被广泛接受的语法分析的语言。建议的分析器是一个预测分析器,我们构造的分析表识别孟加拉语语法。使用解析表,我们认识到孟加拉语句子的语法错误时,没有在解析表中的终端条目。如果一种自然语言可以被成功地解析,那么从这种语言进行语法检查就成为可能。该方案是基于自顶向下的分析方法,我们已经避免了左递归的CFG使用左分解的想法。
2012-01-10 cs.CL
Strongly Incremental Constituency Parsing with Graph Neural Networks
Princeton University(普林斯顿大学)
将句子解析成语法树可以使NLP中的下游应用受益。基于转换的解析器通过在状态转换系统中执行动作来构建树。它们在计算上是高效的,并且可以利用机器学习来预测基于部分树的动作。然而,现有的基于转换的解析器主要基于移位-归约转换系统,这与人类已知的解析句子的方式不一致。心理语言学研究表明,人类的解析是强烈的增量:人类通过在每一步添加一个标记来生长一个解析树。在本文中,我们提出了一种新的过渡系统称为附加并置。它是强增量的;它使用一棵树表示一个部分句子;每个动作只向部分树中添加一个标记。基于我们的转换系统,我们开发了一个强增量解析器。在每一步中,它使用图神经网络对部分树进行编码,并预测动作。我们在Penn树库(PTB)和中文树库(CTB)上对我们的解析器进行了评估。在PTB上,它优于仅用选区树训练的现有解析器;并且它的性能与使用依赖树作为附加训练数据的最先进解析器相当。在CTB上,我们的解析器建立了一个新的技术状态。代码可以在https://github.com/princeton-vl/attach-juxtapose-parser上获得。
2020-10-27 cs.CL
A Fast Unified Model for Parsing and Sentence Understanding
Stanford Linguistics(斯坦福大学语言学系);Stanford NLP Group(斯坦福大学自然语言处理组);Stanford AI Lab(斯坦福大学人工智能实验室);Stanford Symbolic Systems(斯坦福大学符号系统学系);Stanford Electrical Engineering(斯坦福大学电气工程系);Stanford Computer Science(斯坦福大学计算机科学系)
树结构神经网络在解释句子的含义时利用了有价值的句法分析信息。然而,它们存在两个关键的技术问题,使得它们在大规模NLP任务中缓慢而笨拙:它们通常对解析的句子进行操作,并且它们不直接支持批量计算。我们解决这些问题,通过引入堆栈增强解析器解释器神经网络(SPINN),它结合了解析和解释在一个单一的树序列混合模型,通过集成树结构的句子解释到线性序列结构的移位-归约解析器。我们的模型支持批处理计算的速度比其他树结构模型高达25倍,其集成的解析器可以操作未解析的数据,精度损失不大。我们在斯坦福大学NLI蕴涵任务上对其进行了评估,并表明它显着优于其他编码模型。
2016-07-29 cs.CL
A Statistical Parsing Framework for Sentiment Classification
Beihang University(北京航空航天大学);Microsoft Research(微软研究院)
在这篇文章中,我们提出了一个统计分析框架,用于情感分类。不同于以往的作品,采用句法分析结果的情感分析,我们开发了一个统计分析器,直接分析句子的情感结构。我们证明了情感分析中的复杂现象(例如,否定、强化和对比)可以以统一和概率的方式与简单和直接的情感表达相同地处理。我们制定的情感语法上上下文无关文法(CFGs),并提供了一个正式的描述的情感分析框架。我们开发的解析模型,以获得可能的情感分析树的句子,从极性模型提出了推导出的情感强度和极性,和排名模型是专门选择最好的情感树。我们训练的解析器直接从句子的例子注释只有情感极性标签,但没有任何句法注释或极性注释的成分在句子内。因此,我们可以很容易地获得训练数据。特别是,我们训练一个情感分析器,S.分析器,从大量的评论句子与用户的评级作为粗略的情感极性标签。在现有基准数据集上进行的大量实验表明,与基线情感分类方法相比,该方法有显着的改进。
2015-03-05 cs.CL
SynGEC: Syntax-Enhanced Grammatical Error Correction with a Tailored GEC-Oriented Parser
Soochow University(苏州大学)
这项工作提出了一种语法增强的语法错误纠正(GEC)的方法命名为SynGEC,有效地将依赖语法信息到GEC模型的编码器部分。这个想法的关键挑战是,现成的解析器在处理不合语法的句子时是不可靠的。为了应对这一挑战,我们建议建立一个量身定制的面向GEC的解析器(GOPar)使用并行GEC训练数据作为支点。首先,我们设计了一个扩展的语法表示方案,使我们能够表示语法错误和语法在一个统一的树结构。然后,我们通过投影目标正确句子的分析树来获得源错误句子的分析树。最后,我们用这样的投影树训练GOPar。对于GEC,我们采用图卷积网络来编码GOPar产生的源端语法信息,并将它们与Transformer编码器的输出融合。在主流英文和中文GEC数据集上的实验表明,我们提出的SynGEC方法一致且大幅优于强基线,并取得了有竞争力的性能。我们的代码和数据都可以在https://github.com/HillZhang1999/SynGEC上公开获取。
2022-10-22 cs.CL
CERD: A Comprehensive Chinese Rhetoric Dataset for Rhetorical Understanding and Generation in Essays
School of Computer Science and Technology, East China Normal University(华东师范大学计算机科学与技术学院);Shanghai Institute of AI for Education, East China Normal University(华东师范大学上海人工智能教育研究院);Department of Chinese Language and Literature, East China Normal University(华东师范大学中文系);Microsoft Research Asia(微软亚洲研究院)
本文提出中文议论文修辞数据集CERD,涵盖4个粗粒度和23个细粒度修辞类别及五个关联子任务,实验证明大语言模型在多任务联合微调下表现最佳,为修辞研究建立了基准。
2024-09-29 cs.CL
Linear-Time Constituency Parsing with RNNs and Dynamic Programming
最近,基于跨度的选区解析已经通过使用双向RNN对“跨度”进行建模,用非常简单的模型实现了具有竞争力的准确性。然而,Stern et al(2017 a)的最小跨度解析器保持了当前最先进的准确性,它是一个以立方时间运行的图表解析器,$O(n^3)$,对于较长的句子和超出句子边界的应用程序(如端到端话语解析和联合句子边界检测和解析)来说太慢了。我们提出了一个线性时间选区解析器与RNN和动态规划使用图结构的堆栈和束搜索,它运行在时间$O(n b^2)$,其中$b$是波束的大小。通过集成立方体修剪,我们进一步将其加速到$O(n b\log b)$。与图表解析基线相比,这种线性时间解析器在Penn Treebank上的长句解析速度要快得多,在话语解析上要快几个数量级,并且在Penn Treebank上实现了单模型端到端系统中最高的F1精度。
2018-05-21 cs.CL
How Ethos and Pathos Appeals Resonate in Reader Interpretations of Social Media Messages
Warsaw University of Technology(华沙理工大学);KU Leuven(鲁汶大学);Ghent University(根特大学)
研究通过分析社交媒体句子及其人类解读,发现30%的解读偏离原文,修辞性内容引发更大变异性,且原文中的道德和情感诉求可预测读者对作者的态度。
2026-07-02 cs.CL
Learning a natural-language to LTL executable semantic parser for grounded robotics
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);CBMM(大脑、思维与机器研究中心)
儿童通过观察语言在语境中的使用情况并尝试自己使用语言,显然很容易习得母语。他们这样做没有费力的注释,负面的例子,甚至直接更正。我们通过训练一个接地的语义解析器,向可以做同样事情的机器人迈出了一步,该解析器可以发现可用于执行自然语言命令的潜在语言表示。特别是,我们专注于困难的领域的命令与时间方面,其语义,我们捕捉线性时序逻辑,LTL。我们的解析器是用成对的句子和执行以及执行器来训练的。在训练时,解析器假设输入的意义表示为LTL中的公式。三种相互竞争的压力使语法分析器能够从语言中发现意义。首先,任何假设的句子含义必须足够宽松,以反映所有注释的执行轨迹。其次,执行者--一个预先训练好的端到端LTL规划者--必须发现观察到的轨迹很可能是意义的执行。最后,生成器重建原始输入,鼓励模型找到保存有关命令的知识的表示。这些共同确保了含义既不太笼统也不太具体。我们的模型泛化良好,能够解析和执行机器生成和人类生成的命令,具有几乎相同的准确性,尽管人类生成的句子在开放词典中更加多样和复杂。这里提出的方法不是特定的LTL:它可以应用于任何领域,句子的含义可以假设和执行者可以验证这些含义,从而打开了大门,许多应用程序的机器人代理。
2021-03-17 cs.CL
Left-to-Right Dependency Parsing with Pointer Networks
Universidade da Coruña(拉科鲁尼亚大学);FASTPARSE Lab(FASTPARSE实验室);LyS Group(LyS研究组);CITIC(CITIC研究中心)
我们提出了一种新的过渡为基础的算法,直接从左到右的句子通过建立$n$附件,与$n$的输入句子的长度。与Ma等人最近的堆栈指针解析器类似。(2018),我们使用指针网络框架,给定一个单词,可以直接指向句子中的位置。然而,我们的从左到右的方法比原来的自上而下的堆栈指针解析器(不需要堆栈)更简单,并且将转换序列长度减少了一半,从2个$n$ -1操作减少到$n$。这导致二次非投射解析器的运行速度是原始解析器的两倍,同时在全监督单模型依赖解析器中实现了迄今为止英语PTB数据集(96.04%UAS,94.43%LAS)的最佳准确性,并在大多数测试语言中改进了前自顶向下转换系统。
2019-03-20 cs.CL
Incremental Parsing with Minimal Features Using Bi-Directional LSTM
Oregon State University(俄勒冈州立大学)
最近,用于解析的神经网络方法已经在很大程度上自动化了个体特征的组合,但仍然依赖于从人类语言直觉创建的(通常是大量的)原子特征,并且潜在地省略了重要的全局上下文。为了进一步将特征工程减少到最低限度,我们使用双向LSTM句子表示来建模只有三个句子位置的解析器状态,它自动识别整个句子的重要方面。该模型在英语贪婪依赖解析器中取得了最先进的结果。我们还介绍了一种新的过渡系统,选区解析,不需要二进制化,并与上述架构,实现国家的最先进的结果之间的贪婪解析器为英语和中文。
2016-06-21 cs.CL
A Linear Observed Time Statistical Parser Based on Maximum Entropy Models
本文提出了一种自然语言的统计分析器,获得了分析准确率-大约87%的精度和86%的召回-这超过了华尔街日报域上以前发表的最好的结果。解析器本身需要很少的人工干预,因为它用来做出解析决策的信息是以简洁和简单的方式指定的,并且在最大熵框架下以全自动的方式组合。分析器在测试句子上观察到的运行时间与句子长度成线性关系。此外,解析器返回一个句子的几个得分解析,本文表明,从20个最高得分解析中挑选最佳解析的方案可以产生93%的精确度和召回率的显着更高的准确率。
1997-06-11 cmp-lg cs.CL
An efficiency dependency parser using hybrid approach for tamil language
National Engineering College(国立工程学院)
自然语言处理是一个非常活跃的研究领域。句法分析是语言分析系统的重要工具之一,其目的是预测句子中词与词之间的结构关系。许多研究人员已经开发了很多语言工具,但准确性还没有达到人类的期望水平,因此研究仍然存在。机器翻译是自然语言处理的主要应用领域之一。在一种语言到另一种语言的翻译中,句子的结构识别起着关键的作用。本文介绍了一种混合方法来解决句子中给定词之间的关系识别问题。在现有的系统是使用基于规则的方法,这是不适合在巨大的数据量。机器学习方法适合于处理大量的数据,也可以通过学习和训练系统来获得更好的准确性。该方法以泰米尔语句子作为输入,并产生一个依赖关系的结果作为一个树状结构,使用混合的方法。该工具对研究人员非常有帮助,并有望提高现有方法的质量。
2014-03-21 cs.CL
Natural Language Parsing as Statistical Pattern Recognition
传统的自然语言解析器是基于重写规则系统开发的一个艰巨的,耗时的方式由语法学家。语法学家的大部分努力都致力于消除歧义的过程,首先假设规则,这些规则规定了歧义句中的词之间的成分类别和关系,然后寻找这些规则的例外和纠正。在这项工作中,我提出了一个自动的方法来获得一个统计分析器从一组分析的句子,它利用了一些初始的语言输入,但避免了陷阱的迭代和看似无穷无尽的语法开发过程。基于分布派生和基于语言的语言特征,该解析器获得一组统计决策树,该决策树在给定输入句子的解析树空间上分配概率分布。这些决策树利用大量的上下文信息,可能包括句子中的所有词汇信息,以产生消歧过程的高度准确的统计模型。通过将消歧标准选择基于熵减少而不是人类直觉,这种解析器开发方法能够在制定个体消歧规则时考虑比人类语法学家更多的句子。在实验之间的分析器,获得使用这个统计框架,和语法学家的基于规则的分析器,开发了十年的时间,都使用相同的训练材料和测试句子,决策树分析器显着优于语法分析器的准确性措施,语法学家试图最大化,实现了78%的准确性相比,基于语法的分析器的69%。
1994-05-05 cmp-lg cs.CL
An Incremental Parser for Abstract Meaning Representation
University of Edinburgh(爱丁堡大学);University of Padua(帕多瓦大学)
语义表示(AMR)是一种自然语言的语义表示,其嵌入与传统任务相关的注释,诸如命名实体识别、语义角色标注、词义消歧和共指消解。我们描述了一个基于转换的AMR解析器,它在线性时间内从左到右解析句子。我们进一步提出了一个测试套件,评估有助于比较AMR解析器的特定子任务,并表明我们的解析器在LDC2015E86数据集上与最先进的解析器竞争,并且在恢复命名实体和处理极性方面优于最先进的解析器。
2017-04-10 cs.CL
CSynGEC: Incorporating Constituent-based Syntax for Grammatical Error Correction with a Tailored GEC-Oriented Parser
Institute of Artificial Intelligence(人工智能研究院);School of Computer Science and Technology(计算机科学与技术学院);Soochow University(苏州大学)
最近,Zhang等人(2022)提出了一种语法感知的语法错误纠正(GEC)方法,称为SynGEC,表明将输入句子的定制的基于依赖性的语法合并到GEC中是非常有益的。这项工作考虑了另一种主流语法形式主义,即,基于成分的语法。通过借鉴SynGEC的成功经验,我们首先提出了一个扩展的基于成分的句法计划,以适应错误的语法句子。然后以并行GEC数据为支点,自动获取语法错误句子的选区树,训练面向GEC的选区分析器。对于语法编码,我们采用图卷积网络(GCN)。实验结果表明,我们的方法,命名为CSynGEC,产生了很大的改善强基线。此外,我们研究了GEC的基于成分和基于依赖性的语法的集成:1)模型内组合,这意味着使用单独的GCN来编码两种语法以在单个模型中解码; 2)模型间组合,这意味着收集和选择由不同模型预测的编辑以实现最终校正。我们发现,前一种方法提高了召回率,而后者提高了精度,并导致更好的F0.5值。
2022-11-15 cs.CL
AMR Parsing with Action-Pointer Transformer
Harvard University(哈佛大学);IBM Research(IBM研究(部))
摘要语义表示分析是一个语义到图形的预测任务,目标节点没有显式地与句子标记对齐。然而,由于图节点在语义上基于一个或多个句子标记,因此可以导出隐式对齐。基于转换的解析器从左到右对句子进行操作,以有限的表达能力为代价通过对齐来捕获这种归纳偏差。在这项工作中,我们提出了一个过渡为基础的系统,结合了硬注意的句子与目标端的动作指针机制,从节点表示和地址对齐解耦源令牌。我们在一个单一的Transformer架构中通过简单的修改对转换和指针机制进行建模。解析器状态和图结构信息使用注意头有效地编码。我们表明,我们的动作指针的方法导致增加的表现力,并取得了很大的收益(+1.6点)对最好的基于transition的AMR解析器在非常相似的条件。在不使用图重新分类的情况下,我们的单一模型在AMR 2.0上产生了第二好的Smatch得分(81.8),使用银数据和集成解码进一步提高到83.4。
2021-05-18 cs.CL
Parser for Abstract Meaning Representation using Learning to Search
University of Maryland(马里兰大学)
我们开发了一种新的技术来解析英语句子抽象意义表示(AMR)使用SEARN,学习搜索的方法,通过建模的概念和关系学习在一个统一的框架。我们评估了我们的解析器在多个数据集从不同的领域,并显示出2%至6%的绝对改善,比最先进的。此外,我们表明,使用最频繁的概念给我们一个基线,是强于国家的最先进的概念预测。我们计划发布我们的解析器供公众使用。
2015-10-26 cs.CL
Genie: A Generator of Natural Language Semantic Parsers for Virtual Assistant Commands
Stanford University(斯坦福大学);Salesforce, Inc.(赛富时公司)
为了理解不同的自然语言命令,如今的虚拟助手需要使用大量劳动密集型的手动注释语句进行训练。本文介绍了一种方法和Genie工具包,可以处理新的复合命令,大大减少手动工作。我们提倡用虚拟助手程序设计语言(VAPL)形式化虚拟助手的能力,并使用神经语义解析器将自然语言翻译成VAPL代码。Genie只需要一小部分真实的输入句子来验证神经模型。开发人员编写模板来合成数据; Genie使用众包释义和数据增强以及合成数据来训练语义解析器。我们还提出了设计原则,使VAPL语言服从自然语言翻译。我们将这些原则应用于修改Almond虚拟助手使用的语言ThingTalk。我们使用Genie来构建第一个语义解析器,该解析器可以支持带有未加引号的自由形式参数的复合虚拟助手命令。Genie在真实用户输入上达到62%的准确率。我们展示了精灵的一般性表现出19%和31%的改进,比以前的艺术水平的音乐技能,聚合功能,和访问控制。
2019-04-18 cs.CL
Hybrid Oracle: Making Use of Ambiguity in Transition-based Chinese Dependency Parsing
MOE Key Laboratory of Computational Linguistics(教育部计算语言学重点实验室);School of Electronics Engineering and Computer Science(电子工程与计算机科学学院);Peking University(北京大学)
在基于转换的依赖分析器的训练中,使用预言机来预测句子及其黄金树的转换序列。然而,过渡系统可能会表现出模糊性,即可能有多个正确的过渡序列形成黄金树。我们建议利用该属性训练神经依赖解析器,并提出了混合预言。新的预言机给出了解析状态的所有正确转换,这些转换用于交叉熵损失函数以提供更好的监督信号。它还用于为一个句子生成不同的转换序列,以更好地探索训练数据,提高解析器的泛化能力。实验结果表明,在中文依存句法分析中,使用混合预言机训练的句法分析器的性能优于使用传统预言机训练的句法分析器。我们从语言学的角度进行分析。该代码可在https://github.com/lancopku/nndep上获得。
2018-02-06 cs.CL
GP: Context-free Grammar Pre-training for Text-to-SQL Parsers
OneConnect Financial Technology Big Data Lab(平安金融科技大数据实验室)
提出了一种新的文本到SQL分析方法-语法预训练(GP),以解码问题和数据库之间的深层关系。首先,为了更好地利用数据库中的信息,在被识别为一列的问题词后面添加一个随机值,并将新句子作为模型输入。其次,在参考原编码的基础上,对解码器部分的向量初始化进行了优化,使其能够关注问题信息。最后,采用一种新的方法,称为洪水水平,以获得非零的训练损失,可以推广更好的结果。通过使用GRAPPA和RAT-SQL模型对句子进行编码,我们在跨DB Text-to-SQL数据集spider上实现了更好的性能(72.8 dev,69.8 test)。实验表明,该方法在训练过程中易于收敛,具有良好的鲁棒性。
2021-04-16 cs.CL
Jointly Learning Sentence Embeddings and Syntax with Unsupervised Tree-LSTMs
University of Cambridge(剑桥大学);DeepMind(深度思维)
我们介绍了一个神经网络,表示句子组成的话,根据诱导二叉分析树。我们使用Tree-LSTM作为我们的组合函数,沿着完全可微的自然语言图表解析器发现的树结构应用。我们的模型同时优化了组合函数和解析器,从而消除了Tree-LSTM通常需要的外部提供的解析树。因此,它可以被看作是一个基于树的RNN,相对于解析树来说是无监督的。由于它是完全可微的,我们的模型很容易用现成的梯度下降方法和反向传播进行训练。我们证明,与各种监督Tree-LSTM架构相比,它在文本蕴涵任务和反向字典任务上实现了更好的性能。
2017-05-25 cs.CL
Sentences with Gapping: Parsing and Reconstructing Elided Predicates
Stanford University(斯坦福大学);Uppsala University(乌普萨拉大学)
有间隔的句子,如Paul likes coffee and Mary tea,缺少一个显性谓词来表示两个或多个论元之间的关系。这样的句子的表面句法表示通常由解析器产生得很差,并且即使正确,也不能很好地适合于下游自然语言理解任务,例如通常被设计为从具有规范子句结构的句子中提取信息的关系抽取。在本文中,我们提出了两种方法来解析到一个通用的消隐图表示,显式编码的省略材料与额外的节点和边缘。我们发现,这两种方法可以重建省略材料的依赖树,具有高精度时,解析器正确预测存在的差距。我们进一步证明,我们的方法之一,可以适用于其他语言的基础上对瑞典语的案例研究。
2018-04-18 cs.CL
A Unified Linear-Time Framework for Sentence-Level Discourse Parsing
Nanyang Technological University(南洋理工大学);Salesforce Research Asia(Salesforce亚洲研究院)
本文根据修辞结构理论,提出了一个有效的语篇分析神经网络框架。我们的框架包括一个话语切分器,以确定基本的话语单位(EDU)在一个文本中,和一个话语分析器,构建一个自上而下的方式话语树。分割器和解析器都是基于指针网络的,并且在线性时间内运行。我们的分割器产生的$F_1$得分为95.4,我们的解析器在聚合标记(关系)度量上获得了81.7的$F_1$得分,超过了以前的方法,并且在两个任务上都接近人类协议(98.3和83.0 $F_1$)。
2019-06-12 cs.AI cs.CL
A Rhetorical Analysis Approach to Natural Language Processing
Dr. Michael M. Krop Senior High School(迈克尔·M·克罗普博士高级中学)
这项研究的目标是找到一种方法,通过以更人性化的方式处理语言来扩展计算机的功能,并展示这种方法的强大功能。本研究提出了一种新的方法,修辞分析,解决问题的自然语言处理(NLP)。与以前的方法相比,修辞分析的主要好处是它不需要积累大量的训练数据,但可以用来解决NLP领域内的许多问题。用修辞分析研究的NLP问题是作者识别问题-基于其修辞策略预测一段文本的作者,选举预测-基于总统就职演说中的修辞策略预测总统候选人连任竞选的获胜者,自然语言生成-让计算机生成包含修辞策略的文本,以及文档摘要。研究结果表明,基于修辞分析的作者识别系统可以100%地预测正确的作者,基于修辞分析的连任预测器可以55%地预测连任竞选的正确获胜者,基于修辞分析的自然语言生成系统可以输出与莎士比亚风格相似度高达87.3%的文本,基于修辞分析的文档摘要系统可以提取出高度相关的句子。总体而言,本研究表明修辞分析可以是一个有用的方法来解决问题的NLP。
2013-01-16 cs.CL stat.ML
Many Languages, One Parser
Carnegie Mellon University(卡内基梅隆大学);University of Washington(华盛顿大学);Pompeu Fabra University(庞培法布拉大学)
我们训练了一个多语种的依存句法分析模型,并使用它来分析几种语言的句子。解析模型使用(i)多语言词簇和嵌入;(ii)标记级语言信息;以及(iii)语言特定特征(细粒度POS标签)。这种输入表示使解析器不仅能够在多种语言中有效地解析,而且还能够基于语言共性和类型相似性来概括跨语言,从而使其更有效地从有限的注释中学习。我们的解析器的性能在一系列数据场景中优于强基线,包括当目标语言有一个大的树库,一个小的树库,或没有树库的训练。
2016-07-26 cs.CL
Arabic Sentence Segmentation Across Genres and Punctuation Conditions
Mohamed bin Zayed University of Artificial Intelligence(莫扎德·本·泽德人工智能大学);New York University Abu Dhabi(纽约大学阿布扎比分校)
针对阿拉伯语标点歧义和不一致导致的句子分割难题,构建跨8种体裁的语料库AraSEG,评估LLM、轻量编码器和依存解析器,发现轻量模型在困难设置下优于LLM,且准确分割能显著提升下游依存解析。
2026-09-01 cs.CL
Scope-enhanced Compositional Semantic Parsing for DRT
Georgetown University(乔治城大学);University of Amsterdam(阿姆斯特丹大学);Saarland University(萨尔大学);University of Groningen(格罗宁根大学)
针对现有seq2seq模型在DRT解析中准确率随句子复杂度下降、难生成合规表征的问题,提出基于新型量词辖域预测机制的组合式神经符号AMS解析器,可稳定输出合规结果,复杂句子解析表现更优。
2024-10-09 cs.CL
Automatic Inference of Minimalist Grammars using an SMT-Solver
MIT(麻省理工学院)
我们介绍(1)一种新的最简语法(MG),编码为一个系统的一阶逻辑公式,可以使用SMT求解器进行评估,和(2)一个新的程序推断最简语法使用这个解析器。这个过程的输入是一个句子序列,这些句子已经用语义角色标签(将参数连接到谓词)和主谓一致等句法关系进行了注释。该过程的输出是一组最简语法,其中的每一个都能够解析输入序列中的句子,使得对句子的解析具有与在该句子的注释中指定的那些句法关系相同的句法关系。我们将此过程应用到一组句子注释的句法关系和评估的推断语法使用成本函数的启发,最小描述长度原则和子集原则。推断的语法,这些成本函数的某些组合是最佳的,与当代理论的句法。
2019-05-08 cs.CL