A Note On Higher Order Grammar
HOLTRAN Technology Ltd(HOLTRAN科技有限公司)
高阶语法(HOG)中的语法-音系学和语法-语义学接口都被表达为高阶逻辑(HOL)中的公理理论,即一种语言完全根据单个逻辑系统中的可证明性来定义。这种优雅架构的一个重要含义是,有效表达式的含义不是由单个甚至几个"离散"项(在歧义的情况下)表示的,而是由一组"连续"的逻辑等价项表示的。本说明致力于对这一观察的精确表述和证明。
2009-10-03 cs.CL
Scaling Synthetic Logical Reasoning Datasets with Context-Sensitive Declarative Grammars
Univ. Lille(里尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工大学);UMR 9189 - CRIStAL(UMR 9189 - CRIStAL(国家信息、自动化与数字科学研究所联合研究单位-里尔科学技术与人工智能研究中心))
针对现有逻辑推理数据集生成方法存在的偏向性与扩展性问题,本文提出带上下文敏感规则的通用声明式框架,结合语义约束与精细表述生成一阶逻辑问题,用小模型在FOLIO数据集上取得超GPT-4 12%的SOTA准确率。
2024-06-16 cs.CL
Macro Grammars and Holistic Triggering for Efficient Semantic Parsing
Stanford University(斯坦福大学)
为了从标注中学习语义分析器,学习算法必须在组合上大的逻辑形式空间中搜索与标注的标注一致的逻辑形式。我们提出了一种新的在线学习算法,搜索速度更快的训练进展。这两个关键思想是使用宏语法来缓存迄今为止发现的有用逻辑形式的抽象模式,以及基于句子相似性来有效地检索最相关的模式的整体触发。在WikiTableQuestions数据集上,我们首先扩展了现有模型的搜索空间,将最先进的准确率从38.7%提高到42.7%,然后使用宏语法和整体触发来实现11倍的加速和43.7%的准确率。
2017-08-31 cs.CL
Constructive Type-Logical Supertagging with Self-Attention Networks
Utrecht University(乌得勒支大学)
我们提出了一个新的应用程序的自我注意网络语法归纳。我们提出了一个注意力为基础的supertagger的一个精致的类型逻辑语法,训练建设类型归纳。除了实现高的整体类型准确性,我们的模型能够学习语法的类型系统的语法及其指称语义。这提升了词汇化语法超标注者通常所做的封闭世界假设,大大增强了其泛化潜力。这一点可以通过它对稀疏词类型的足够准确性以及它正确构建训练期间从未见过的复杂类型的能力来证明,据我们所知,这是尚未完成的。
2019-05-31 cs.CL cs.LG
On Implementing an HPSG theory -- Aspects of the logical architecture, the formalization, and the implementation of head-driven phrase structure grammars
本文介绍了HPSG理论的形式化和实现所涉及的一些方面。在此基础上,对Carpenter(1992)和King(1989,1994)的逻辑结构作为HPSGII(Pollard and Sag 1994)的基础的有效性进行了简要的比较。在HPSGII架构和各种计算系统(ALE,巨魔,CUF和TFS)中表达HPSG理论的可能性进行了讨论。除了对可能性进行形式表征外,本文还考察了具有一定语言理据的约束条件的具体选择,即词汇、结构许可和语法原则。本文以Hinrichs和Nakazawa(1994)提出的一个德语理论的ALE实现为例,并在附录中给出了ALE文法。
1994-08-31 cmp-lg cs.CL
Formalising Type-Logical Grammars in Agda
Utrecht University(乌得勒支大学)
近年来,使用证明助手来形式化和推理数学和程序设计语言的兴趣越来越大。类型逻辑语法与函数式编程中使用的类型论和系统密切相关,是下一个应用这种好奇心的完美候选者。使用证明助手的优点是,它们允许人们对自己的类型逻辑系统编写形式验证的证明,并且任何理论一旦实现,就可以立即计算。缺点是,在许多情况下,形式证明是作为事后的想法编写的,是不完整的,或者使用迟钝的语法。这使得验证过的证明往往比纸笔证明更难阅读,而且几乎从未直接发表过。在本文中,我们将尝试通过实例来弥补这一点。具体地说,我们使用Agda模型的Lambek-Grishin演算,语法逻辑与丰富的词汇表的类型形成的操作。然后,我们提出了一个验证的程序,在这个系统中的削减消除。然后,我们简要地概述了CPS的翻译证明在Lambek-Grishin演算程序在Agda。最后,我们将把我们的系统用于分析一个简单的例句。
2017-09-03 cs.CL cs.LO
On the Vocabulary of Grammar-Based Codes and the Logical Consistency of Texts
Institute of Computer Science, Polish Academy of Sciences(波兰科学院计算机科学研究所)
本文从信息论的两个方面对自然语言中的Zipf-Mandelbrot定律作了新的解释。首先,我们构造了一类新的基于文法的码,其次,我们研究了强非遍历平稳过程的性质。共同讨论的动机是用一个简单的非正式陈述来证明一个命题:如果一个长度为$n$的文本以重复的方式描述$n^β$独立的事实,那么在$n$上的适当条件下,该文本至少包含$n^β/\log n$不同的词。在形式陈述中,采用了两个建模假设。首先,单词被理解为文本的最短基于语法的编码的非终结符符号。其次,文本被假定为是由一个有限能量强非遍历源,而事实是二进制IID变量可预测的移位不变的方式。
2011-02-07 cs.CL cs.IT math.IT
How to enumerate trees from a context-free grammar
本研究提出一种基于配对函数建立CFG推导与自然数双射的树枚举算法,可用于自然逻辑语言表达式编号,还能推广至更通用推导形式及树上类Lempel-Ziv编码场景。
2023-04-30 cs.CL
Semantic Construction Grammar: Bridging the NL / Logic Divide
Cycorp, Inc.(Cycorp 公司)
在本文中,我们讨论语义构造语法(SCG),在过去几年中开发的系统,以促进自然语言和逻辑表示之间的翻译。最重要的是,SCG被设计为支持各种不同的表示方法,从那些非常接近NL结构(例如所谓的“逻辑形式”)的方法,到那些与NL结构完全不同的方法,具有更高阶和高元关系。语义约束和检查表示是不可或缺的NL理解与SCG的过程中,很容易进行,由于SCG的集成与Cyc的知识库和推理引擎。
2021-12-10 cs.AI cs.CL
A Compositional Treatment of Polysemous Arguments in Categorial Grammar
本文讨论了范畴语法中标准逻辑规则(功能应用和抽象)的扩展,以处理某些特定的多义现象。我们借鉴了生成词典理论,提出了{ \em强制}机制,紧挨着一个丰富的名词性词汇语义结构{ \em感受质结构}。在以前的论文中,我们介绍了强制的框架{ \em sign-based}范畴语法和传统的弗雷格组合的影响进行了调查。在本文中,我们将详细阐述这一想法,主要致力于引入一个新的语义维度。在当前版本的符号为基础的范畴语法只有两个表示派生:韵律的一个(形式)和逻辑的一个(建模),在这里,我们还介绍了一个更详细的词汇语义表示。这些额外的知识将用来解释像{ \em转喻\/}这样的语言现象。
1995-09-10 cmp-lg cs.CL
Universal Higher Order Grammar
HOLTRAN Technology Ltd(HOLTRAN科技有限公司)
我们研究的类语言,可以完全定义在扩展的排序类型论(Ty_n)的可证明性,通过嵌入音系的逻辑,而不引入特殊类型的句法实体。这类语言被证明与逻辑封闭语言的类完全一致,逻辑封闭语言可以被认为是从表达式到逻辑等价的Ty_n项集合的函数。对于由有限规则集或规则模式描述的逻辑封闭语言的一个特定子类,我们找到了构造一个包含有限数目公理或公理模式的紧致Ty_n表示的有效方法。所提出的形式主义的特点是一些有用的功能,无法在一个语言模型的两个组件的架构。通过上下文类型对形式主义进行进一步的专门化和扩展,可以有效地解释内涵和动态语义。
2011-02-25 cs.AI cs.CL
Semantic Parsing with Candidate Expressions for Knowledge Base Question Answering
Pohang University of Science and Technology(浦项科技大学)
本文提出基于候选表达式增强的语义解析器,用于知识库问答,通过引入子类型推断和联合类型规则提升解析效率和准确性。
2025-12-31 cs.CL
Symbolic Priors for RNN-based Semantic Parsing
Xerox Research Centre Europe(施乐欧洲研究中心);CNRS(法国国家科学研究中心);LORIA(洛林计算机科学及其应用实验室)
基于递归神经网络(RNN)的Seq2seq模型最近在用于问答的语义解析领域中受到了很多关注。虽然原则上它们可以直接在成对(自然语言话语,逻辑形式)上进行训练,但它们的性能受到可用数据量的限制。为了缓解这个问题,我们建议利用各种来源的先验知识:良好的形式的逻辑形式是由加权上下文无关文法建模的可能性,某些实体存在于输入话语也存在于逻辑形式的加权有限状态自动机建模。语法和自动机通过一个有效的交集算法结合在一起,形成RNN的软指南(“背景”)。我们在Overnight数据集的扩展上测试了我们的方法,并表明它不仅在RNN基线上有很大的改进,而且基于丰富的手工特征集,它的性能优于非RNN模型。
2018-09-20 cs.CL
Encoding Phases using Commutativity and Non-commutativity in a Logical Framework
LORIA(洛林计算机科学及其应用实验室);INRIA Nancy Grand Est(法国国家信息与自动化研究所南锡大东部分部);Université Nancy 2(南锡第二大学);INPL(洛林国立理工学院)
本文提出了一种扩展的最简范畴文法(MCG),用于编码乔姆斯基相位.这些文法是基于部分交换逻辑(PCL)的,并编码Stabler的最简文法(MG)的性质。MCG的第一个实现是同时使用非交换属性(尊重话语中的线性词序)和交换属性(对不同成分的特征进行建模)。在这里,我们建议将Chomsky相位与逻辑的非交换张量积相加。然后,我们可以只使用框架的逻辑属性来解释PIC。
2011-08-25 cs.AI cs.CL cs.LO
Graph Algorithms for Improving Type-Logical Proof Search
CNRS(法国国家科学研究中心);INRIA Futurs(法国国家信息与自动化研究所未来分部)
证明网(Proof nets)是类型逻辑语法中各种证明的图论表示。尽管在图论中有这个基础,但对于使用图论算法进行类型逻辑证明搜索的关注相对较少。在本文中,我们将着眼于几种方法,其中标准的图论算法可以用来限制搜索空间。特别是,我们将提供一个O(n4)算法,用于在证明搜索的任何阶段选择最佳公理链接,以及一个O(kn3)算法,用于选择k个最佳证明候选人。
2008-05-15 cs.CL
A Transition-based Parser for Unscoped Episodic Logical Forms
University of Rochester(罗切斯特大学)
“情节逻辑:无作用域的逻辑形式”(EL-ULF)是一种语义表示,它捕捉了谓词-论元结构以及情节逻辑形式主义中更具有挑战性的语言方面。我们提出了第一个学习的方法,用于将句子解析成ULF,使用越来越多的注释示例。这些结果为今后的改进提供了坚实的基础。我们的方法学习一个序列到序列模型,用于预测修改后的缓存过渡系统内的过渡动作序列。我们评估的有效性类型语法为基础的限制,一个字到符号的词典,并在这项任务中的过渡系统状态功能。我们的系统可在https://github.com/genelkim/ulf-transition-parser上获得。我们还在https://www.cs.rochester.edu/u/gkim21/ulf/resources/上提供了第一个官方注释的ULF数据集。
2021-03-15 cs.CL
Delimited continuations in natural language: quantification and polarity sensitivity
创建语言学理论就像创建一门程序设计语言:人们通常设计一个类型系统来描述可接受的话语,并设计一个指称语义来解释对其行为的观察。通过这种联系,编程语言中的定界连续概念可以帮助分析自然语言现象,如量化和极性敏感性。使用逻辑元语言,其语法包括控制操作符,其语义涉及评估顺序,这些分析可以用直接风格而不是延续传递风格来表达,这些现象可以被认为是计算的副作用。
2004-04-05 cs.CL cs.PL
Extracting and Learning a Dependency-Enhanced Type Lexicon for Dutch
Utrecht University(乌得勒支大学)
本论文关注的是类型逻辑语法及其作为句子句法和语义推理工具的实用性。重点是缩小到荷兰语,表现出很大程度的词序变化的语言。为了克服由于这种可变性而产生的困难,本文探索并扩展了基于乘法直觉线性逻辑的类型语法,不可知的词序,但丰富的装饰,旨在减少其证明理论的复杂性。然后实现了一种将依赖性注释的句子转换为类型序列的算法,用具体的数据驱动的词法类型填充类型逻辑。两个实验上运行的语法实例化。第一个是关于神经结构的类型分配过程的可学习性。一个新的应用程序的自我关注的序列转导模型的建议,相反,既定的做法,它构造类型归纳内化的类型形成语法,从而表现出超出了预先指定的类型词汇的概括性。第二个围绕着一个演绎分析系统,可以解决结构歧义咨询字和类型的信息,初步结果表明,优秀的计算效率和性能。
2019-09-10 cs.CL
Language Models can be Logical Solvers
Peking University(北京大学);Microsoft Azure AI(微软Azure人工智能)
本文提出LoGiPT,一种直接模拟逻辑求解器推理过程并严格遵守其语法的新语言模型,通过新构建的指令调优数据集微调,在两个公开演绎推理数据集上优于现有求解器增强模型和少样本提示方法。
2023-11-10 cs.AI cs.CL
Multi-dimensional Type Theory: Rules, Categories, and Combinators for Syntax and Semantics
我们调查的可能性建模的语法和语义的自然语言的约束,或规则,施加的多维类型论Nabla。我们明确考虑的唯一多重性是两个,即语法的一个维度和语义的一个维度,但一般的观点是重要的。例如,语用学问题可以作为额外的层面来处理。解决的主要问题之一是相当复杂的剧目的操作,存在于传统的蒙塔古语法的概念范畴之外。对于语法,我们使用了一个类语法沿着Lambek线。对于语义,我们使用受自然逻辑工作启发的所谓词汇和逻辑组合子。Nabla提供了一个简洁的解释和一个可扩展演算作为实现的基础。
2004-08-15 cs.AI cs.CL cs.LO
A polynomial time algorithm for the Lambek calculus with brackets of bounded order
National Research University Higher School of Economics(国立研究型大学高等经济学院);Steklov Mathematical Institute of RAS(俄罗斯科学院斯捷克洛夫数学研究所);Universitat Politècnica de Catalunya(加泰罗尼亚理工大学);University of Pennsylvania(宾夕法尼亚大学)
Lambek演算是范畴语法的逻辑基础,是语法作为逻辑、句法分析作为演绎的语言学范式。Pentus(2010)给出了一个多项式时间算法,用于确定允许空前件的Lambek演算中有界深度公式的可证明性。Pentus的算法基于证明网的列表化。带括号的Lambek演算是带括号模态的Lambek演算的保守扩展,适用于句法域的建模。本文给出了一个允许空前件的括号型Lambek演算的可证性算法。我们的算法运行在多项式时间的公式深度和括号嵌套深度都有界。它结合了Pentus风格的表格化证明网与自动机理论的括号处理。
2017-12-18 cs.CL cs.DS cs.FL
Interpreting Negation in GPT-2: Layer- and Head-Level Causal Analysis
研究通过自建数据集分析GPT-2处理否定语义的机制,定义Negation Effect Score衡量模型区分肯定与否定的能力,发现否定信号集中在特定中间层注意力头中,通过激活修补和消融实验验证其因果关系。
2026-03-12 cs.CL