SLFNet: Generating Semantic Logic Forms from Natural Language Using Semantic Probability Graphs
School of Computer Science and Technology, University of Science and Technology of China(中国科学技术大学计算机科学与技术学院)
SLFNet通过引入依存句法先验、语义概率图和多头SLF注意力机制,解决序列到序列语义解析中的“顺序问题”,在多个数据集上取得领先性能。
2024-03-29 cs.CL
Object-oriented semantics of English in natural language understanding system
Institute of Cybernetics of NAS of Ukraine(乌克兰国家科学院控制论研究所)
提出了一种解决自然语言理解问题的新方法。所考虑的知识领域是人们的社会行为。英语句子被翻译成语义数据库的一组谓词,这些谓词描述人、职业、组织、项目、动作、事件、消息、机器、事物、动物、动作的位置和时间、对象之间的关系、思想、因果关系、抽象对象。有一个知识库,包含对象(功能和结构),动作(动机和原因)和操作的语义描述。
2011-09-27 cs.CL
Wikipedia-based Semantic Interpretation for Natural Language Processing
Technion—Israel Institute of Technology(以色列理工学院)
自然语言语义的充分表示需要访问大量的常识和特定领域的世界知识。该领域以前的工作是基于纯粹的统计技术,没有利用背景知识,有限的词典知识库,如WordNet,或巨大的手工努力,如CYC项目。在这里,我们提出了一种新的方法,称为显式语义分析(ESA),不受限制的自然语言文本的细粒度语义解释。我们的方法表示的含义在一个高维空间的概念来自维基百科,存在的最大的百科全书。我们明确地表示任何文本的含义在维基百科为基础的概念。我们评估我们的方法对文本分类和计算自然语言文本片段之间的语义相关度的有效性。使用ESA的结果显着改善了在这两个任务的现有技术的先前状态。重要的是,由于使用自然概念,ESA模型很容易向人类用户解释。
2014-01-15 cs.CL
Correcting Semantic Parses with Natural Language through Dynamic Schema Encoding
Fidelity Investments, AI Center of Excellence(富达投资人工智能卓越中心)
本文提出利用自然语言反馈和动态模式编码纠正text-to-SQL解析错误,通过分离语义与句法困难,仅一轮纠正即可将解析准确率最多提升26%,并验证T5-base可零样本纠正T5-large的错误。
2023-05-31 cs.CL
On the Evaluation of Semantic Phenomena in Neural Machine Translation Using Natural Language Inference
Johns Hopkins University(约翰斯·霍普金斯大学);Massachusetts Institute of Technology(麻省理工学院)
我们提出了一个过程,调查在何种程度上产生的神经机器翻译(NMT)系统的句子表示编码不同的语义现象。我们使用这些表示作为特征来训练一个基于现有语义注释的数据集重铸的自然语言推理(NLI)分类器。在应用这个过程中的一个代表性的NMT系统,我们发现它的编码器似乎最适合支持推理的语法语义接口,相比,回指解析需要世界知识。最后,我们讨论的优点和潜在的不足,现有的过程中,以及如何可以改进和扩展为一个更广泛的框架,用于评估语义覆盖。
2018-05-06 cs.CL
Logical analysis of natural language semantics to solve the problem of computer understanding
Institute of Cybernetics of NAS of Ukraine(乌克兰国家科学院控制论研究所)
一个面向对象的方法来创建一个自然语言理解系统被认为是。理解程序是建立在谓词演算基础上的形式系统。Horn的子句被用作格式良好的公式。推理是以归结原则为基础的。自然语言的句子是从典型谓词集合的角度来表示的。这些谓词描述物理对象和过程、抽象对象、范畴以及对象之间的语义关系。具体断言的谓词保存在数据库中。为了描述物理对象、抽象概念和过程的类的语义,应用了知识库。所提出的自然语言句子的表示是语义网。这种网的节点是典型的谓词。这种方法是透视,首先,这种典型化的节点基本上有利于形成的处理算法和对象的描述,其次,算法的有效性增加(特别是对于大量的节点),第三,描述的语义的话,spectropedic知识被使用,这基本上允许扩展类解决的问题。
2013-08-07 cs.CL
Semantic Parsing Natural Language into SPARQL: Improving Target Language Representation with Neural Attention
语义解析是将自然语言句子映射成其意义的形式化表示的过程。在这项工作中,我们使用神经网络的方法来转换自然语言句子到查询的本体数据库中的SPARQL语言。这种方法不依赖于手工规则,高质量的词典,手工构建的模板或其他手工制作的复杂结构。我们的方法是基于向量空间模型和神经网络。该模型基于两个学习步骤。第一步生成自然语言和SPARQL查询的句子的向量表示。第二步使用此向量表示作为神经网络(具有注意力机制的LSTM)的输入,以生成能够编码自然语言和解码SPARQL的模型。
2018-03-12 cs.CL
Convex Polytope Modelling for Unsupervised Derivation of Semantic Structure for Data-efficient Natural Language Understanding
The Chinese University of Hong Kong(香港中文大学);SpeechX Limited(SpeechX有限公司)
自然语言理解(NLU)的常用方法通常依赖于大量的注释数据或手工编写的规则,这是费力的并且不适应领域扩展。我们最近提出了一个凸多面体模型为基础的框架,显示了巨大的潜力,在自动提取语义模式,利用原始的对话语料库。提取的语义模式可以用来生成语义框架,这是必不可少的,在协助自然语言理解任务。本文进一步深入研究了CPM模型,并在各个层次上可视化了其高度的可解释性和透明度。我们表明,该框架可以利用语料库中的语义框架相关功能,揭示话语的潜在语义结构,并以最小的监督提高最先进的NLU模型的性能。我们在ATIS(Air Travel信息系统)语料库上进行了实验。
2022-01-25 cs.CL
Semantic robust parsing for noun extraction from natural language queries
本文介绍了如何强大的解析技术可以卓有成效地应用于建立一个查询生成模块,这是一个流水线的NLP架构的一部分,旨在处理自然语言查询在一个受限的域。我们想表明,语义鲁棒性代表了这些NLP系统中的一个关键问题,在这些系统中,由于各种因素(例如,嘈杂的环境,低质量的语音识别模块等),更有可能具有部分和病态的话语。以及在需要成功地(即使是部分地)提取一些有意义的信息的情况下。
1999-09-02 cs.CL
Training Naturalized Semantic Parsers with Very Little Data
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Amazon Alexa AI(亚马逊Alexa人工智能部门)
语义解析是一个重要的NLP问题,特别是对于Alexa和Google Assistant等语音助手。最先进的(SOTA)语义解析器是基于大语言模型的seq 2seq架构,这些模型已经在大量文本上进行了预训练。为了更好地利用预训练,最近的工作探索了语义解析的重新表述,其中输出序列本身是自然语言句子,但在自然语言的受控片段中。这种方法提供了强大的结果,特别是对于Few-Shot语义解析,这是在实践中的关键重要性,我们的论文的重点。我们通过引入一种自动化方法来推进这一工作,该方法通过利用少量的未注释数据(通常很容易获得)来提供非常显著的额外改进。我们的方法是基于一种新的合成四种技术:联合训练与辅助无监督任务;约束解码;自我训练;和释义。我们表明,这种方法提供了新的SOTA Few-Shot性能的隔夜数据集,特别是在非常低的资源设置,和非常引人注目的Few-Shot结果的一个新的语义解析数据集。
2022-05-04 cs.CL
NL-EDIT: Correcting semantic parse errors through natural language interaction
University of Maryland(马里兰大学);Microsoft Research(微软研究院)
我们研究语义解析中的交互式设置中,用户纠正错误与自然语言反馈。我们提出了NL-EDIT,一个模型,用于解释自然语言反馈的交互环境中生成一个序列的编辑,可以应用到初始解析,以纠正其错误。我们表明,NL-EDIT可以提高现有的文本到SQL解析器的准确性高达20%,只有一个回合的校正。我们分析了该模型的局限性,并讨论了改进和评估的方向。本文中使用的代码和数据集可在http://aka.ms/NLEdit上公开获取。
2021-03-26 cs.CL
SyGNS: A Systematic Generalization Testbed Based on Natural Language Semantics
The University of Tokyo(东京大学);RIKEN(理化学研究所);Keio University(庆应义塾大学);Tohoku University(东北大学)
最近,深度神经网络(DNN)在语义上具有挑战性的NLP任务中取得了巨大的成功,但目前还不清楚DNN模型是否可以捕获组成意义,这些意义方面已经在形式语义学中研究了很长时间。为了研究这个问题,我们提出了一个基于自然语言语义(SyGNS)的系统泛化测试平台,其挑战是将自然语言句子映射到多种形式的范围含义表示,旨在解释各种语义现象。使用SyGNS,我们测试神经网络是否可以系统地解析句子,涉及新的组合的逻辑表达式,如量词和否定。实验表明,Transformer和GRU模型可以泛化到与给定训练实例在形式上相似的量词、否定词和修饰词的不可见组合,但不能泛化到其他组合。我们还发现,当意义表征的形式更简单时,对未知组合的泛化性能更好。SyGNS的数据和代码可在www.example.com上公开获取。
2021-06-02 cs.CL
SemAttack: Natural Textual Attacks via Different Semantic Spaces
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Alibaba Group(阿里巴巴集团);Microsoft Research(微软研究院)
最近的研究表明,预先训练的语言模型(LM)容易受到文本对抗攻击。然而,现有的攻击方法要么遭受低攻击成功率或未能有效地搜索在指数大扰动空间。我们提出了一个高效和有效的框架SemAttack通过构建不同的语义扰动函数来生成自然的对抗文本。特别地,SemAttack优化了约束在通用语义空间上的所生成的扰动,所述通用语义空间包括错别字空间、知识空间(例如,WordNet)、上下文化语义空间(例如,BERT聚类的嵌入空间)或这些空间的组合。因此,生成的对抗性文本在语义上更接近原始输入。大量的实验表明,最先进的(SOTA)大规模LM(例如,DeBERTa-v2)和防御策略(例如,FreeLB)仍然容易受到SemAttack的攻击。我们进一步证明了SemAttack是通用的,并且能够为不同的语言生成自然的对抗文本(例如,英语和汉语),攻击成功率高。人类的评估也证实了我们生成的对抗性文本是自然的,几乎不会影响人类的表现。我们的代码可在https://github.com/AI-secure/SemAttack上公开获取。
2022-06-11 cs.CL
Semantic Diversity in Dialogue with Natural Language Inference
UC Berkeley(加州大学伯克利分校)
生成多样化的,有趣的回应闲聊会话是一个问题的神经会话代理。本文对提高对话生成的多样性做出了两个实质性贡献。首先,我们提出了一种新的度量,它使用自然语言推理(NLI)来衡量一组模型的会话响应的语义多样性。我们使用一个已建立的框架(Tevet和Berant,2021)来评估这个指标,并发现了强有力的证据表明NLI多样性与语义多样性相关。具体来说,我们表明,矛盾关系是更有用的中性关系,用于测量这种多样性,并将NLI模型的信心达到国家的最先进的结果。其次,我们演示了如何迭代地提高语义多样性的采样集的响应,通过一个新的生成程序称为多样性阈值生成,这导致平均137%的增加NLI多样性相比,标准的生成程序。
2022-05-03 cs.CL
Semantic Parsing Natural Language into Relational Algebra
Northeastern University(东北大学)
数据库自然接口(NLIDB)是近几十年来国内外研究的热点问题之一。NLIDB的核心是一个语义解析器,用于将自然语言转换为SQL。传统NLP方法的解决方案侧重于通过中间逻辑形式进行语法规则模式学习和配对。虽然这些方法在某些特定的数据库和解析任务上提供了可接受的性能,但它们很难推广和扩展。另一方面,神经深度学习的最新进展似乎为构建通用NLIDB系统提供了一个有希望的方向。与传统方法不同,这些神经方法将解析问题视为序列到序列的学习问题。在本文中,我们实验了几个序列到序列的学习模型,并评估其性能的一般数据库解析任务。
2021-06-25 cs.CL
Using Answer Set Programming in an Inference-Based approach to Natural Language Semantics
在基于推理的自然语言语义方法中使用答案集编程
2006-07-18 cs.AI cs.CL
Evaluating Semantic Accuracy of Data-to-Text Generation with Natural Language Inference
Charles University, Faculty of Mathematics and Physics(查理大学数学与物理学院);Institute of Formal and Applied Linguistics(形式与应用语言学研究所)
评估数据到文本(D2T)生成的一个主要挑战是测量所生成文本的语义准确性,即检查输出文本是否包含输入数据支持的所有且唯一事实。我们提出了一种新的度量标准,用于评估基于自然语言推理(NLI)预训练的神经模型的D2T生成的语义准确性。我们使用NLI模型在两个方向上检查输入数据和输出文本之间的文本蕴涵,允许我们揭示遗漏或幻觉。使用简单模板将输入数据转换为NLI的文本。我们在两个最近的D2T数据集上的实验表明,我们的度量在识别错误的系统输出时可以达到很高的准确性。
2020-11-21 cs.CL
Automatic Debate Evaluation with Argumentation Semantics and Natural Language Argument Graph Networks
Centre for Argument Technology, University of Dundee(邓迪大学论证技术中心);VRAIN, Universitat Politècnica de València(瓦伦西亚理工大学VRAIN研究所)
针对辩论标注数据不足导致自动评估困难的问题,本文融合论证理论、Transformer 与神经图网络,提出混合式自动辩论评估方法并验证其有效性。
2024-01-21 cs.CL
Compositional Generalization and Natural Language Variation: Can a Semantic Parsing Approach Handle Both?
Google Research(谷歌研究院)
序列到序列模型擅长处理自然语言变化,但已被证明与分布外的组合泛化的斗争。这激发了具有更强成分偏差的新的专门架构,但这些方法中的大多数仅在合成生成的数据集上进行了评估,这些数据集并不代表自然语言的变化。在这项工作中,我们问:我们可以开发一个语义解析的方法,既处理自然语言的变化和组成的概括?为了更好地评估这种能力,我们提出了新的非合成数据集的训练和测试分裂。我们证明,强大的现有方法在广泛的评估中表现不佳。我们还提出了NQG-T5,这是一种混合模型,将高精度的基于语法的方法与预训练的序列到序列模型相结合。它在非合成数据上的几个合成泛化挑战方面优于现有方法,同时在标准评估方面也与最先进的方法竞争。虽然还远远没有解决这个问题,我们的研究突出了多样的评价和开放的挑战,处理组合泛化和自然语言变化的语义解析的重要性。
2021-06-01 cs.CL
Genie: A Generator of Natural Language Semantic Parsers for Virtual Assistant Commands
Stanford University(斯坦福大学);Salesforce, Inc.(赛富时公司)
为了理解不同的自然语言命令,如今的虚拟助手需要使用大量劳动密集型的手动注释语句进行训练。本文介绍了一种方法和Genie工具包,可以处理新的复合命令,大大减少手动工作。我们提倡用虚拟助手程序设计语言(VAPL)形式化虚拟助手的能力,并使用神经语义解析器将自然语言翻译成VAPL代码。Genie只需要一小部分真实的输入句子来验证神经模型。开发人员编写模板来合成数据; Genie使用众包释义和数据增强以及合成数据来训练语义解析器。我们还提出了设计原则,使VAPL语言服从自然语言翻译。我们将这些原则应用于修改Almond虚拟助手使用的语言ThingTalk。我们使用Genie来构建第一个语义解析器,该解析器可以支持带有未加引号的自由形式参数的复合虚拟助手命令。Genie在真实用户输入上达到62%的准确率。我们展示了精灵的一般性表现出19%和31%的改进,比以前的艺术水平的音乐技能,聚合功能,和访问控制。
2019-04-18 cs.CL
UniPSDA: Unsupervised Pseudo Semantic Data Augmentation for Zero-Shot Cross-Lingual Natural Language Understanding
Alibaba Group(阿里巴巴集团)
针对跨语言表示学习中浅层无监督数据缺乏全局上下文语义的问题,提出三阶段聚类的无监督伪语义数据增强机制UniPSDA,通过多语系知识替换句子关键成分并去偏,在多类零样本跨语言理解任务上提升性能。
2024-06-24 cs.CL
Logical Semantics, Dialogical Argumentation, and Textual Entailment
LIRMM, Univ Montpellier, CNRS(蒙彼利埃大学 LIRMM 实验室、法国国家科学研究中心)
在这一章中,我们引入了一个新的一阶经典逻辑的对话系统,它接近于自然语言论证,并证明了它关于通常的经典有效性的完备性。我们将我们的对话系统与第二作者开发的Grail语法和语义分析器相结合,以解决自动文本蕴涵问题,也就是说,我们用它来决定一个句子是否是一个简短的文本的结果。这项工作,它连接自然语言语义和论证与对话逻辑,可以被视为一个推理的观点自然语言语义的一步。
2020-08-17 cs.CL
Learning Executable Semantic Parsers for Natural Language Understanding
Stanford University(斯坦福大学)
为了构建问答系统和自然语言接口,语义解析已经成为一种重要而强大的范例。语义分析器将自然语言映射为逻辑形式,这是许多重要语言现象的经典表示。现代的转折是,我们对从数据中学习语义解析器感兴趣,这引入了一个新的统计和计算问题层。本文列出了统计语义解析器的组件,并强调了关键的挑战。我们将看到,语义解析是逻辑和统计世界的丰富融合,这种融合将在未来的自然语言理解系统中发挥不可或缺的作用。
2016-03-22 cs.AI cs.CL
Bridging Natural Language Processing and Psycholinguistics: computationally grounded semantic similarity datasets for Basque and Spanish
本文构建了融合语料库与知识库的巴斯克语及欧洲西班牙语言语相似性数据集,通过心理语言学特征控制名词对并提供文本、Wordnet和混合嵌入三类相似性度量。
2023-04-20 cs.CL
Semantically Conditioned LSTM-based Natural Language Generation for Spoken Dialogue Systems
Cambridge University Engineering Department(剑桥大学工程系)
自然语言生成(NLG)是口语对话的重要组成部分,它对可用性和感知质量都有重要影响。大多数常用的NLG系统使用规则和语法,并且倾向于生成刚性和风格化的响应,而没有人类语言的自然变化。它们也不容易扩展到覆盖多个领域和语言的系统。提出了一种基于语义控制的长短期记忆(LSTM)结构的统计语言生成器。LSTM生成器可以通过使用简单的交叉熵训练标准联合优化句子规划和表面实现来从未对齐的数据中学习,并且可以通过从输出候选中采样来轻松实现语言变化。在两个不同的测试域中的客观评价表明,与以前的方法相比,该方法提高了性能。人类评委在信息量和自然性方面对LSTM系统的评分更高,总体上比其他系统更喜欢它。
2015-08-26 cs.CL
Fuzzy Generalised Quantifiers for Natural Language in Categorical Compositional Distributional Semantics
Czech Technical University(捷克技术大学);University College London(伦敦大学学院);Queen Mary University of London(伦敦玛丽女王大学)
最近的工作组合分布模型表明,双代数有限维向量空间可以用来治疗广义量词的自然语言。这种技术需要在幂集上构造向量空间,因此计算成本很高。在本文中,我们克服了这个问题,考虑模糊版本的量词沿线的扎德,在许多值的关系的范畴内。我们表明,这一类是一个具体的实例组成的分布模型。我们表明,在这个模型中得到的语义是等价的Zadeh的模糊量词的语义。因此,我们现在能够处理模糊量化,而不需要幂集构造。
2021-09-23 cs.CL
Dependency-based Hybrid Trees for Semantic Parsing
Singapore University of Technology and Design(新加坡科技设计大学)
本文提出了一种新的基于依赖关系的混合树模型用于语义解析,它将自然语言话语转换为机器可解释的语义表示。与以前的最先进的模型不同,语义信息被解释为在我们的联合表示中的自然语言单词之间的潜在依赖关系。这样的依赖信息可以捕获语义和自然语言词之间的交互。我们将神经元组件集成到我们的模型中,并提出了一个有效的动态编程算法来执行易处理的推理。通过对八种语言的标准多语言GeoQuery数据集进行广泛的实验,我们证明了我们所提出的方法能够在多种语言中实现最先进的性能。分析还证明了使用我们的新的依赖性为基础的表示的有效性。
2018-09-01 cs.CL
Jointly Learning Semantic Parser and Natural Language Generator via Dual Information Maximization
University of Southern California(南加州大学);The Hong Kong Polytechnic University(香港理工大学);Northeastern University(东北大学)
语义解析的目的是将自然语言(NL)的话语转化为正式的意义表示(MR),而NL生成器实现了相反的:产生一个NL描述一些给定的MR。尽管这种内在的联系,这两个任务往往是单独研究在以前的工作。在本文中,我们通过一个联合学习框架对这两个任务的二元性进行建模,并证明了它对提高这两个任务的性能的有效性。具体地说,我们提出了一种新的方法的双重信息最大化(DIM),以规范的学习过程中,DIM经验最大化的变化下限的预期联合分布的NL和MR。我们进一步扩展DIM的半监督设置(SemiDIM),它利用未标记的数据的两个任务。在对话管理和代码生成(和摘要)的三个数据集上的实验表明,在监督和半监督设置中,DIM可以一致地提高语义解析和NL生成的性能。
2019-06-13 cs.CL
Learning to Simulate Natural Language Feedback for Interactive Semantic Parsing
George Mason University(乔治梅森大学);Meta AI;The University of Edinburgh(爱丁堡大学)
针对交互式语义解析依赖昂贵人工反馈的问题,提出NL反馈模拟任务及质量评估器,在text-to-SQL上证明其可低资源生成高质量反馈并提升纠错性能。
2023-06-04 cs.CL
Neural Network Models for Paraphrase Identification, Semantic Textual Similarity, Natural Language Inference, and Question Answering
Ohio State University(俄亥俄州立大学)
在本文中,我们分析了几种用于句子对建模的神经网络设计(及其变体),并在八个数据集上广泛比较了它们的性能,包括释义识别,语义文本相似性,自然语言推理和问答任务。尽管这些模型中的大多数都声称具有最先进的性能,但原始论文通常只报告一两个选定的数据集。我们提供了一个系统的研究,并表明(i)通过LSTM编码上下文信息和句子间交互是至关重要的,(ii)Tree-LSTM并没有像之前声称的那样有帮助,但令人惊讶地提高了Twitter数据集的性能,(iii)增强型顺序推理模型是迄今为止最适合较大数据集的模型,而成对词交互模型在可用数据较少时实现了最佳性能。我们将我们的实现作为开源工具包发布。
2018-08-23 cs.CL
Semantic Unification A sheaf theoretic approach to natural language
University of Oxford(牛津大学);Queen Mary University of London(伦敦玛丽女王大学)
语言是语境的,层理论为语境建模提供了一个高层次的数学框架。我们将展示如何层理论可以模拟的上下文性质的自然语言和如何胶合可以用来提供一个全球性的话语语义,把本地的逻辑语义的话语内的每个句子。我们引入了一个对应于语篇表征结构基本形式的预层结构。在此背景下,我们制定了一个概念的语义统一-胶合的话语部分的意义成一个连贯的整体-作为一种形式的层理论胶合。我们用一些例子来说明这个想法,它可以用来表示照应参考的决议。我们还讨论了多值胶合,使用分布函子描述,它可以用来表示多个胶合是可能的情况下,我们可能需要使用定量措施对它们进行排名。献给吉姆·兰贝克,在他90岁生日之际。
2014-03-13 cs.CL
Semantic Abstraction for Natural Language Inference: a Methodological Framework for Discovering and Compensating Semantic Knowledge and Reasoning Gaps in Large Language Models
Centro de Investigación en Ciencias, Universidad Autónoma del Estado de Morelos(莫雷洛斯州自治大学科学研究中心)
针对LLM在自然语言推理中的语义知识缺口,提出基于语义兼容性/不兼容性的抽象框架,通过重构词汇语义关系提升准确率超10%,强调结构化知识而非数据规模。
2026-09-23 cs.CL
Question Answering in a Natural Language Understanding System Based on Object-Oriented Semantics
Institute of Cybernetics of NAS of Ukraine(乌克兰国家科学院控制论研究所)
提出了一种面向文本信息输入和逻辑处理的计算机系统中的问答算法。所考虑的知识域是人的社会行为。该系统的数据库包括自然语言句子的内部表示和补充信息。回答{ \it Yes}或{ \it No}是针对一般问题形成的。含有疑问词或疑问词组的特殊疑问句可以用来确定主语、宾语、地点、时间、原因、目的和行为或事件的方式。答案生成基于人、组织、机器、事物、地点和时间的识别算法。所提出的问答算法可以在与文本处理(犯罪学、商业操作、医学、文档系统)密切相关的信息系统中实现。
2011-11-18 cs.CL
A New Semantic Theory of Natural Language
形式语义学和分布语义学是自然语言处理中两个重要的语义框架。认知语义学属于认知语言学运动,它建立在当代认知科学的基础之上。每个框架都能处理一些意义现象,但没有一个能满足应用程序提出的所有要求。建立一个统一的语义理论来描述所有重要的语言现象具有重要的理论意义和实践意义,然而,尽管近年来人们进行了许多尝试,但迄今为止还没有一个理论能够实现这一目标。本文介绍了一种新的语义理论,它有可能描述自然语言的大多数重要意义现象,并满足哲学分析和自然语言处理应用的大多数必要要求。该理论以信息的统一表示为基础,构建了一种称为认知模型的数学模型,以组合的方式解释自然语言表达式。它接受了认知语义学的经验假设,克服了形式语义学和分布语义学的大部分缺点。然而,该理论不是现有理论的简单组合,而是对经典逻辑和形式语义学的广泛概括。它继承了形式语义学几乎所有的优点,并为对象和事件提供尽可能细的描述内容,描述内容代表了人类认知的结果。
2017-09-10 cs.CL cs.LO
The Semantic Ladder: A Framework for Progressive Formalization of Natural Language Content for Knowledge Graphs and AI Systems
Leibniz Institute for the Analysis of Biodiversity Change (LIB)(莱布尼茨生物多样性变化分析研究所)
本文提出语义阶梯框架,通过逐步形式化自然语言内容,解决自然语言与形式化模型之间的表示差异问题,支持知识图谱和AI系统的可扩展性和互操作性。
2026-03-23 cs.CL cs.DB
Stress-Testing Neural Models of Natural Language Inference with Multiply-Quantified Sentences
Stanford Symbolic Systems Program(斯坦福大学符号系统项目);Stanford Linguistics(斯坦福大学语言学系)
使用自然主义语料库对深度学习模型进行语义的标准评估,在它们能够告诉我们的关于学习表示的保真度方面是有限的,因为语料库很少有很好的语义复杂性度量。为了克服这一限制,我们提出了一种方法,用于生成数据集的多重量化的自然语言推理(NLI)的例子中,语义的复杂性,可以精确的特点,我们用这种方法来表明,各种常见的架构NLI不可避免地无法编码的关键信息,只有一个模型与强制词汇对齐避免这种破坏性的信息丢失。
2018-10-30 cs.CL
Cornell SPF: Cornell Semantic Parsing Framework
Cornell University(康奈尔大学)
Cornell语义解析框架(SPF)是一个学习和推理框架,用于将自然语言映射到其含义的形式化表示。
2016-10-08 cs.CL
Natural Language Semantics and Computability
CNRS(法国国家科学研究中心);LaBRI(波尔多计算机科学实验室);Université de Montpellier(蒙彼利埃大学);LIRMM(蒙彼利埃计算机科学、机器人学与微电子学实验室)
本文是对自然语言语义可计算性的反思。它不包含自然语言的形式语义中的新模型或新结果:它是对当前在自然语言语义中使用的逻辑模型和算法的计算分析,定义为语句到逻辑公式的映射-公式,因为语句可能是二义性的。我们认为,只要可能世界语义被排除在外,可以计算一个给定的语句的语义表示(S),包括词汇意义的方面。我们还讨论了这个过程的算法复杂性。
2016-05-13 cs.AI cs.CC cs.CL
Inference and Plausible Reasoning in a Natural Language Understanding System Based on Object-Oriented Semantics
Institute of Cybernetics of NAS of Ukraine(乌克兰国家科学院控制论研究所)
本文提出了面向文本信息输入和语义处理的计算机系统中的推理算法。当直接比较问题和数据库中的对象不能给出结果时,这种推理对于逻辑问题是必要的。以下类别的问题被认为是:检查的假设的人和非典型的行动,确定的人和情况下的非典型的行动,规划行动,确定事件的原因和状态的人。为了形成一个答案,演绎和似是而非的推理都被使用。由于所考虑的知识领域是人的社会行为,所以合情推理是基于社会心理规律的。所提出的推理和似然推理的算法可以在与文本处理(犯罪学、商业操作、医学、文档系统)密切相关的计算机系统中实现。
2012-02-01 cs.CL
Monads for natural language semantics
对语义现象的解释往往涉及意义类型的扩展和对构成规则的修正。单子的概念允许许多这样的帐户-意向性,变量绑定,量化和焦点-被统一和组合地陈述。
2002-05-17 cs.CL cs.PL
A Semantic-Layer-Mediated Agent for Natural Language to SQL over Heterogeneous Enterprise Databases
DAQUV Corp.(DAQUV公司);Chungbuk National University(忠北大学);BigDataLabs, Co., Ltd.(BigDataLabs有限公司)
提出一种通过语义层中介的NL2SQL智能体,利用语义模型查询(SMQ)解耦语义与物理SQL,在Spider2-snow基准上达到94.15%执行准确率,排名第三。
2026-07-01 cs.CL
Probing Natural Language Inference Models through Semantic Fragments
Allen Institute for AI(艾伦人工智能研究所);Indiana University(印第安纳大学)
最先进的语言理解模型是否已经具有或能够容易地学习布尔协调、量化、条件句、比较句和单调性推理(即,在上下文中进行词替换的推理)?虽然这种现象涉及自然语言推理(NLI),并超出了基本的语言理解,目前还不清楚他们在现有的NLI基准捕捉和有效地学习模型的程度。为了研究这一点,我们建议使用语义片段-系统生成的数据集,每个数据集针对不同的语义现象-用于探测和有效地提高语言模型的这种能力。这种创建挑战数据集的方法允许直接控制目标语言现象的语义多样性和复杂性,并导致模型语言行为的更精确表征。我们的实验,使用8个这样的语义片段的库,揭示了两个显着的发现:(a)国家的最先进的模型,包括BERT,这是预先训练的现有NLI基准数据集在这些新的片段表现不佳,即使这里探讨的现象是NLI任务的核心。(b)另一方面,只需几分钟的额外微调-通过精心选择的学习率和新的“接种”变体-基于BERT的模型可以掌握所有这些逻辑和单调性片段,同时保持其在已建立的NLI基准上的性能。
2019-12-02 cs.CL
AllenNLP: A Deep Semantic Natural Language Processing Platform
Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
本文介绍了AllenNLP,一个研究自然语言理解中深度学习方法的平台。AllenNLP旨在支持那些希望快速轻松地构建新颖的语言理解模型的研究人员。它构建在PyTorch之上,允许动态计算图,并提供(1)一个灵活的数据API,用于处理智能填充和填充,(2)对文本处理中的常见操作进行高级抽象,以及(3)一个模块化和可扩展的实验框架,使做好科学变得容易。它还包括用于核心语义问题(例如,语义角色标注(Palmer等人,2005))和语言理解应用(例如机器理解(Rajpurkar等人,2016))。AllenNLP是艾伦人工智能研究所的工程师和研究人员正在进行的开源工作。
2018-05-31 cs.CL
UNL Based Bangla Natural Text Conversion - Predicate Preserving Parser Approach
East West University(东西湖大学)
通用网络语言(UNL)是一种声明性的形式语言,用于表示从自然语言文本中提取的语义数据。本文提出了一种新的方法来转换孟加拉语自然语言文本到UNL使用的方法称为谓词保持解析器(PPP)技术。PPP同步执行文本的形态、句法和语义以及词法分析。这种分析产生了一个语义网一样的结构表示使用UNL。我们演示了孟加拉语文本分析PPP技术后,产生UNL文件,然后可以翻译成任何其他合适的自然语言促进机会,通过UNL开发一个通用的语言翻译方法。
2012-06-02 cs.CL
QA-Noun: Representing Nominal Semantics via Natural Language Question-Answer Pairs
Hebrew University of Jerusalem(耶路撒冷希伯来大学);Bar-Ilan University(巴伊兰大学);Ariel University(阿里尔大学)
针对现有基于问答的语义方法未充分解决名词中心语义的问题,提出QA-Noun框架,通过9个问题模板捕捉名词显式句法与隐式上下文角色,发布数据集与集成模型,实现句子意义统一分解,提升语义分解粒度与覆盖度。
2025-11-16 cs.CL
A Holistic Natural Language Generation Framework for the Semantic Web
University of Paderborn(帕德博恩大学);University of Leipzig(莱比锡大学)
随着语义Web数据的不断增长,非语义Web专家对这些数据的需求也越来越大。实现这一目标的一种方法是将语义Web的语言翻译成自然语言。我们提出了LD2NL,一个语义Web的三种关键语言,即,RDF、OWL和SPARQL。我们的框架是基于一个自下而上的方法来动词化。我们在一项有86人的开放式调查中评估了LD2NL。我们的研究结果表明,我们的框架可以生成接近自然语言,可以很容易地被非专家理解的动词。因此,它使非领域专家解释语义Web数据的准确率超过91%的领域专家。
2019-11-04 cs.CL cs.DB
A Diagrammatic Calculus for a Functional Model of Natural Language Semantics
DI ENS(巴黎高等师范学院计算机科学系);Yale University(耶鲁大学)
针对传统指称语义表达能力不足的问题,本文提出基于范畴的类型与效应系统及图解演算,以区分句法等价表达式的语义并高效计算句子指称。
2025-07-23 cs.CL cs.PL
A Multilingual FrameNet-based Grammar and Lexicon for Controlled Natural Language
University of Gothenburg(哥德堡大学);University of Latvia(拉脱维亚大学)
Berkeley FrameNet是基于框架语义学理论的英语词汇语义资源库。它已被广泛用于自然语言处理应用程序中,并启发了许多语言的框架网的开发。我们提出了一种方法论的方法来提取和生成一个计算多语言的基于FrameNet的语法和词汇。该方法利用FrameNet标注语料库自动提取一组跨语言语义-句法配价模式。基于伯克利框架网和瑞典框架网的数据,所提出的方法已经实现了语法框架(GF),一个类别的语法形式主义专门为多语言语法。语法和词典的实现由FrameNet的设计支持,在GF资源语法库已经提供的语际语法API之上提供框架语义抽象层,语际语义API(应用程序编程接口)。对习得的语法和词汇的评价表明了该方法的可行性。此外,我们说明了如何在两个不同的多语言控制的自然语言的应用程序中利用基于FrameNet的语法和词典。所生成的资源在开源许可证下可用。
2015-11-12 cs.CL
Two Discourse Driven Language Models for Semantics
University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
自然语言理解通常需要深入的语义知识。扩展以前的建议,我们建议,语义知识的一些重要方面可以建模为一个语言模型,如果在适当的抽象级别。我们开发了两种不同的模型,捕捉语义框架链和话语信息,同时抽象的具体提到的谓词和实体。对于每个模型,我们研究了四个实现:一个“标准”N元语言模型和三个有区别地训练的“神经”语言模型,生成语义框架的嵌入。质量的语义语言模型(SemLM)进行评估,既内在的,使用困惑和叙事完形填空测试和extramples-we表明,我们的SemLM有助于提高性能的语义自然语言处理任务,如共指消解和话语分析。
2016-06-27 cs.CL
Static and Dynamic Vector Semantics for Lambda Calculus Models of Natural Language
Queen Mary University of London(伦敦玛丽女王大学);Tilburg University(蒂尔堡大学)
语言的向量模型基于语言的上下文方面,单词的分布以及它们如何在文本中共同出现。真值条件模型专注于语言的逻辑方面,单词的组成属性以及它们如何组成句子。在真值条件方法中,一个句子的指称决定了它的真值条件,它可以被认为是一个真值,一组可能世界,一个上下文变化势,或类似的。在向量模型中,词在上下文中的共现程度决定了词的含义有多相似。在本文中,我们把这两个模型结合起来,并开发了一个向量语义的基础上简单类型的λ演算模型的自然语言的语言。我们提供了两种类型的向量语义:一个静态的,使用熟悉的技术从真理条件的传统和动态的基础上的一种形式的动态解释的启发海姆的上下文变化的潜力。我们展示了如何动态模型可以应用到一个语料库和一个句子之间的蕴涵,我们提供的例子。
2018-10-26 cs.CL
Attributes as Semantic Units between Natural Language and Visual Recognition
ICSI(国际计算机科学研究所)
在计算机视觉和自然语言处理领域取得了令人印象深刻的进展。然而,为这些非常不同的模式找到最佳互动点仍然是一个挑战。在本章中,我们将讨论属性如何使我们能够在两种模态之间交换信息,并以这种方式导致语义层面上的交互。具体来说,我们讨论了属性如何允许使用从语言资源中挖掘的知识来识别新的视觉类别,我们如何生成关于图像和视频的句子描述,我们如何在视觉内容中建立自然语言,最后,我们如何回答关于图像的自然语言问题。
2016-04-12 cs.CL cs.CV
Higher-Order Coloured Unification and Natural Language Semantics
在本文中,我们表明,高阶有色统一-一种形式的统一开发的自动定理证明-提供了一个通用的理论建模的解释过程和其他来源的语言,非语义信息之间的接口。特别是,它提供了(Dalrymple,Shieber和Pereira,1991年)的分析所要求的主要发生限制的一般理论。
1996-05-02 cmp-lg cs.CL
Visualizing RNN States with Predictive Semantic Encodings
Simon Fraser University(西蒙弗雷泽大学)
递归神经网络是一种有效和流行的工具,用于建模序列数据,如自然语言文本。然而,它们的深层性质和大量参数对那些打算精确研究它们如何工作的人构成了挑战。我们提出了一种视觉技术,它在递归神经网络中隐藏状态的语义背后提供了一种高层次的直觉。这种语义编码允许在整个模型中对隐藏状态进行比较,而不依赖于它们的内部细节。所提出的技术显示在概念可视化工具,这是证明可视化的语言建模的自然语言处理任务。
2019-08-01 cs.CL
We went to look for meaning and all we got were these lousy representations: aspects of meaning representation for computational semantics
University of Gothenburg(哥德堡大学)
在本文中,我们研究了不同的含义表示,通常用于不同的自然语言应用程序的今天,并讨论了他们的局限性,无论是在方面的自然语言的意义,他们是建模和方面的应用程序,他们被使用。
2021-09-10 cs.CL