Learned Construction Grammars Converge Across Registers Given Increased Exposure
University of Canterbury(坎特伯雷大学);University of Sheffield(谢菲尔德大学)
本文测量了增加曝光的影响,学习的构造语法是否收敛到共享表示时,从不同的寄存器的数据进行训练。语域影响构式的使用频率,有些构式在正式场合常见,但在非正式场合却不常见。我们期望,一个语法归纳算法暴露于不同的寄存器将获得不同的结构。在多大程度上增加曝光导致特定于寄存器的语法的收敛?本文的实验模拟了12种语言(一半是日耳曼语,一半是罗曼语)的语言学习,语料库代表三个寄存器(Twitter,维基百科,Web)。这些模拟随着暴露量的增加而重复,从10万到200万字,以测量暴露对语法收敛的影响。结果表明,增加接触确实会导致所有语言的语法趋同。此外,在不断增加的暴露量中,登记册通用结构的共同核心保持不变。
2021-10-12 cs.CL
Minimalist Grammars and Minimalist Categorial Grammars, definitions toward inclusion of generated languages
Nancy Université(南锡大学);INRIA Nancy-Grand Est(法国国家信息与自动化研究所南锡-大东部分部)
Stabler提出了Chomskyan Minimalist Program,Chomsky 95 with Minimalist Grammars(MG,Stabler 97)的一个实现。这一框架继承了悠久的语言传统。但是如果使用Curry-Howard同构,语义演算就更容易添加。最简范畴语法(MCG)是基于Lambek演算的扩展,混合逻辑,被引入来提供一个理论上有动机的语法-语义接口,Amblard 07。在这篇文章中,我们给出了完整的定义MG与代数树描述和MCG,并采取第一步向证明其生成的语言。
2011-08-25 cs.CL
Harmonic Grammar, Optimality Theory, and Syntax Learnability: An Empirical Exploration of Czech Word Order
Johns Hopkins University(约翰斯·霍普金斯大学)
这项工作提出了一个系统的理论和经验比较的主要算法,已经提出了学习谐波和优化理论语法(HG和OT,分别)。通过比较学习算法,我们也能够比较密切相关的OT和HG框架本身。实验结果表明,额外的表现力的HG框架在OT提供的性能增益的任务预测的表面词序的捷克语句子。我们比较了感知器与经典的渐进学习算法(GLA),它学习OT语法,以及流行的最大熵模型。除了表明感知器在理论上是有吸引力的,我们的工作还表明,它学习的HG模型的性能接近在一个保持的测试集上的预测精度的上限,并且它能够准确地建模观察到的变化。
2017-02-19 cs.CL
LLM Agents as Computational Typologists
University of British Columbia(不列颠哥伦比亚大学);University of Waterloo(滑铁卢大学);Vector Institute(矢量研究院)
本文提出AUTOTYPOLOGIST,一种基于LLM的智能体,通过检索语法章节、分析IGT并采用ReAct工作流,实现基于证据的类型学分析,在特征编码和假设检验任务中展现潜力,但仍需专家验证。
2026-09-09 cs.CL
Semantic RL with Action Grammars: Data-Efficient Learning of Hierarchical Task Abstractions
Einstein Center for Neurosciences Berlin(柏林爱因斯坦神经科学中心);Technical University Berlin(柏林工业大学);Imperial College London(帝国理工学院)
分层强化学习算法已经成功地应用于具有稀疏奖励信号的时间信用分配问题。然而,国家的最先进的算法需要手动规范的子任务结构,一个样本效率低下的探索阶段或缺乏语义可解释性。另一方面,人类可以有效地检测由周围环境引起的层次子结构。有人认为,这种推理过程普遍适用于语言,逻辑推理以及运动控制。因此,我们提出了一个认知启发的强化学习架构,它使用语法归纳来识别子目标策略。通过将政策轨迹视为从环境的政策条件语言中采样的句子,我们在无监督语法推理的帮助下识别分层成分。由此产生的一组时间抽象被称为动作语法(Pastra & Aloimonos,2012),并将符号和连接主义方法统一到强化学习中。它可以用来促进有效的模仿、迁移和在线学习。
2019-09-23 cs.AI cs.CL cs.LG
DT-grams: Structured Dependency Grammar Stylometry for Cross-Language Authorship Attribution
Universität Innsbruck(因斯布鲁克大学)
跨语言的作者归属问题依赖于翻译,使使用单一语言的功能,或语言无关的特征提取方法。直到最近,缺乏数据集的这个问题阻碍了后者的发展,和单一语言的解决方案进行机器翻译语料库。在本文中,我们提出了一种新的独立于语言的功能,作者分析依赖图和通用部分的语音标签的基础上,被称为DT-gram(依赖树图),这是通过选择特定的子部分的依赖图的句子。我们通过对双语作者的未翻译数据集进行跨语言作者归属来评估DT-gram,结果表明,平均而言,它们在五种不同语言对中的宏观平均F1得分比以前的方法高出0.081。此外,通过提供不同特征集的结果进行比较,我们为以前未翻译的跨语言作者归属任务提供了一个基线。
2021-06-10 cs.CL
Reinforcement Learning of Minimalist Numeral Grammars
Brandenburgische Technische Universität Cottbus – Senftenberg(科特布斯-森夫滕堡勃兰登堡工业大学)
语音控制的用户界面方便了外行人操作设备和家庭功能。最先进的语言技术扫描声学分析的语音信号以寻找相关的关键字,这些关键字随后被插入到语义槽中以解释用户的意图。为了开发适当的认知信息和通信技术,简单的槽填充应取代话语意义转换器(UMT)的基础上的语义分析器和\emph{mental lexicon},包括句法,语音和语义特征的语言正在考虑。这个词汇必须在与用户交互的过程中由认知主体获得。我们概述了一个强化学习算法的英语数字的句法形态和算术语义的收购,最低限度的语法(MG),最近的计算实现生成语言学的基础上。数字单词由教师以话语意义对(UMP)的形式呈现给智能体,其中意义被编码为来自合适的术语代数的算术术语。由于MG通过推理规则编码普遍的语言能力,从而将先天的语言知识与偶然获得的词汇分开,因此我们的方法将生成语法和强化学习结合起来,从而可能解决仍然悬而未决的Chomsky-Skinner争议。
2019-06-11 cs.AI cs.CL
Principles of semantic and functional efficiency in grammatical patterning
Department of Translation and Language Sciences(翻译与语言科学系);Universitat Pompeu Fabra(庞培法布拉大学)
本研究将语义编码与一致性可预测性统一为认知约束下的信息论目标,证明语法组织源自感知属性,并揭示语法优先促进高效语言处理而非语义编码。
2025-06-20 cs.CL
Left-corner Methods for Syntactic Modeling with Universal Structural Constraints
SOKENDAI Graduate University for Advanced Studies(综合研究大学院大学)
本论文的主要目标是识别更好的句法约束或偏向,即独立于语言,但在句子处理过程中也有效地利用。我们专注于一个特殊的句法结构称为中心嵌入,这是很好的研究,在心理语言学,并指出,造成特殊的理解困难。由于人们使用语言作为沟通的工具,人们希望避免这种复杂的结构,以提高沟通效率。从计算的角度来看,中心嵌入与左角解析算法密切相关,左角解析算法可以捕获正在构建的解析树的中心嵌入程度。这种联系表明,左上角的方法可以是一种工具,利用普遍的句法约束,人们避免产生中心嵌入结构。我们通过一些理论和实证研究,广泛地探索了中心嵌入和左角方法的实用性。我们的主要任务是无监督语法归纳。在这个任务中,算法的输入是一组句子,模型试图从中提取它们的显著模式作为语法。这是一个特别困难的问题,尽管我们预计通用约束可能有助于提高性能,因为它可以有效地限制模型可能的搜索空间。我们建立的模型,有效地制表的搜索空间除了那些涉及中心嵌入到一个特定的程度,通过扩展的左角解析算法。我们研究了我们的方法在许多树库上的有效性,并证明了我们的约束往往会导致更好的解析性能。因此,我们得出结论,左上角的方法是特别有用的面向语法的系统,因为它可以有效地利用语言中固有的普遍约束。
2016-08-01 cs.CL
Verbal behavior without syntactic structures: beyond Skinner and Chomsky
Cornell University(康奈尔大学)
了解语言意味着什么?自乔姆斯基革命以来,对这个问题的一个流行的回答是:拥有一种专门许可某些句法结构的生成语法。几十年过去了,对于任何一种语言来说,甚至连一种近似的语法都没有形成;语法是普遍的、天生特定的观点已经证明是徒劳的;试图说明如何从经验中学习语法的努力总是失败的。为了走出这一僵局,我们必须重新发现语言在多大程度上与其他人类行为一样:动态的、社会的、多模态的、模式化的和有目的的,其目的是促进他人和自我的可取行为(或思想)。最近的心理学,计算,神经生物学和进化的见解的形成和结构的行为可能会指向我们对语言的一个新的,可行的帐户。
2023-03-11 cs.CL q-bio.NC
SYNTAGMA. A Linguistic Approach to Parsing
SYNTAGMA是一个基于规则的句法分析系统,分为两个层次:通用的句法分析引擎和特定语言的语法。解析引擎是一个独立于语言的程序,而语法和语言特定的规则和资源是作为文本文件给出的,包括一个组成结构列表和一个词汇数据库与词义相关的功能和约束。由于其理论背景主要是Tesniere的语法元素,语法强调论元结构(配价)在约束满足中的作用,并允许水平边界,例如处理协调。Pro、迹、空语类等概念源于生成语法,一些解决方案虽然是自主研究的结果,但与管辖约束理论接近。这些属性允许SYNTAGMA管理复杂的语法配置和分析工程中众所周知的弱点。一个重要的资源是语义网络,它用于消歧任务。解析过程遵循自下而上的规则驱动策略。它的行为是可以控制和微调的。
2016-01-21 cs.CL
Reasoning over Grammar: Can Synthetic Linguistic Reasoning Traces Enhance Low-Resource Machine Translation?
ELLIS Institute Finland(芬兰ELLIS研究所);University of Turku(图尔库大学);Center for Information and Language Processing, LMU Munich(慕尼黑大学信息与语言处理中心);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本文提出自动生成语言推理轨迹的方法,通过上下文学习、监督微调和强化微调评估其对低资源机器翻译的影响,发现推理轨迹在推理时指导效果显著,但作为训练数据收益有限。
2026-09-01 cs.CL
Question Type, Cognitive Load, and CEFR Alignment: Evaluating LLM-Generated EFL Grammar Drill Exercises
Kyoto University(京都大学);Ritsumeikan University(立命馆大学)
本研究通过分析日本初中生在语法练习应用中的日志数据,评估了LLM生成的EFL学习内容的教学可行性,揭示了不同问题模态对表现的影响,并验证了CEFR-J语法框架的难度层级。
2026-07-14 cs.CL cs.CY
Minimally Supervised Written-to-Spoken Text Normalization
Google(谷歌)
在诸如文本到语音(TTS)或自动语音识别(ASR)的语音应用中,\emph{text normalization}指的是从\emph{written}表示转换成文本将如何是\emph{spoken}的表示的任务。在所有真实世界的语音应用程序中,文本规范化引擎都是手工开发的。例如,可以使用手工构建的语法来列举在给定语言中说出给定标记的可能方式,并且使用统计模型来选择上下文中最适当的发音。在这项研究中,我们研究了在文本规范化引擎中使用或多或少特定于语言的领域知识的权衡。在数据最丰富的场景中,我们可以访问精心构建的手工构建的规范化语法,对于任何给定的token,该语法都会为该token生成一组所有可能的动词化。我们还假设了一个语料库对齐的书面-口语话语,从中我们可以训练一个排名模型,选择适当的动词化为给定的上下文。作为精心构造的语法的替代品,我们还考虑了一种具有语言通用规范化\emph{covering grammar}的场景,其中开发人员只需要提供一组特定于该语言的词汇项。作为对齐语料库的替代,我们还考虑了一种情况,其中只有口语侧,并且通过用反向规范化语法组成口语侧来“幻觉化”相应的书面侧。我们调查的准确性的文本规范化引擎在这些情况下。我们报告的实验结果英语和俄语。
2016-09-21 cs.CL
An Abstract Machine for Unification Grammars
这项工作描述了一个抽象的机器,Amalia,语言形式主义ALE,这是基于类型化的特征结构的设计和实现。这种形式主义是计算语言学中最广泛接受的形式主义之一,并已用于各种语言学理论中的语法设计,最著名的是HPSG。Amalia由数据结构和一组指令组成,由从语法形式主义到抽象指令的编译器和抽象指令的(便携式)解释器增强。每个指令的效果都是使用可以在普通硬件上执行的低级语言定义的。抽象机器方法的优点是双重的。从理论的角度来看,抽象机器给语法形式主义一个定义明确的操作语义。这确保了使用我们的系统指定的语法被赋予了明确定义的含义。例如,在给定独立定义的情况下,它可以正式验证HPSG编译器的正确性。从实用的角度来看,Amalia是第一个采用基于类型化特征结构的统一语法的直接编译方案的系统。amalia的使用大大提高了现有系统的性能。为了在实际应用中测试机器,我们使用Amalia作为开发平台,为希伯来语的一个片段开发了一个小规模的基于HPSG的语法。这是HPSG首次应用于闪族语言。
1997-09-23 cmp-lg cs.CL
Non-crossing dependencies: least effort, not grammar
Universitat Politècnica de Catalunya (UPC)(加泰罗尼亚理工大学)
零假设(在统计学意义上)的使用在硬科学中很常见,但在理论语言学中却不常见。这里的零假设,低频率的句法依赖交叉预期的任意排序的话被拒绝。结果表明,这将需要星依赖结构,这是不切实际的和过于限制。人类大脑资源有限的假设被重新审视。更强的零假设,考虑到实际的依赖长度的可能性交叉。这些假设表明,当依赖性缩短时,交叉可能会减少。一个假设的基础上的压力,以减少依赖长度是更吝啬的原则,最大限度地减少交叉或语法禁令,是完全脱离一般和非语言原则的经济。
2014-11-10 cs.CL cs.SI physics.soc-ph
Transformers are uninterpretable with myopic methods: a case study with bounded Dyck grammars
Tsinghua University(清华大学);Carnegie Mellon University(卡内基梅隆大学)
本文以有界 Dyck 文法学习任务为例,通过理论证明和实验表明 Transformer 的最优解在注意力模式上可近乎随机化,从而说明仅检查单个注意力头或权重矩阵的近视可解释性方法不可靠。
2023-12-03 cs.CL cs.LG stat.ML
Geometry of Language
Eindhoven University of Technology(埃因霍温理工大学)
在这篇文章中,我们提出了一个关于语言的新观点,结合了各种来源的思想,但混合在一个新的合成。正如在最简纲领中一样,问题在于我们是否能够制定一种优雅的形式主义、一种普遍的语法或一种解释人类语言能力的重要方面的机制,而这反过来又可以被认为是人类各种语言进化和部署的自然倾向。我们描述了这样一种机制,它不同于现有的逻辑和语法的方法,其几何性质。我们的主要贡献是探索句子识别发生的假设,形成链的令牌代表的话,然后匹配这些链与预先存在的链表示语法词序。标记的对齐链产生二维和三维复合物。由此产生的模型提供了一个替代的微妙的规则,传统上使用范畴语法形式化的介绍。
2023-03-09 cs.CL
Universal Syntactic Structures: Modeling Syntax for Various Natural Languages
本文提出一种新的句法表示建模方法,旨在揭示所有自然语言共有的通用句法结构,并通过分析英语和韩语语料库展示其普遍性,进而探讨关键期假说和普遍语法等理论,以加深对人脑语言机制的理解。
2023-12-28 cs.CL
Distilling Text into Circuits
Quantinuum, Quantum Compositional Intelligence, Oxford(Quantinuum,量子组合智能,牛津);Oxford University, Department of Computer Science(牛津大学计算机科学系)
本文关注的是自然语言中的意义结构。早些时候,一个名为DisCoCirc的框架被勾画出来,它(1)是组合和分布的(a.k.a.(2)适用于一般文本;(3)捕捉意义之间的语言“联系”(参见语法)(4)随着文本的进展更新词义;(5)构建句子类型;(6)适应歧义。在这里,我们意识到DisCoCirc是英语的一个重要片段。当传递到DisCoCirc的文本电路时,一些“语法官僚主义”被消除,也就是说,DisCoCirc显示出很大程度的语言间和语言内独立性。也就是说,独立于不同语言之间不同的词序惯例,以及独立于许多短句与少数长句的选择。这种语言间的独立性意味着我们的文本循环应该延续到其他语言,而不像类别语法的语言特定类型。因此,文本回路是“文本的实际内容”的精益结构,也就是说,文本中的含义在几个表达层之间的内部运作(参见。单词、句子、文本),并可能捕捉到语法之下真正普遍的东西。消除语法官僚主义也解释了为什么DisCoCirc:(8)适用于语言之外,例如空间,视觉和其他认知模式。虽然人类无法通过文字电路进行口头交流,但机器可以。我们首先定义一个“混合语法”的英语片段,即一个有目的的,最小的语法形式主义需要获得文本电路。然后,我们详细的翻译过程,使所有的文本生成的语法产生一个文本电路。相反,对于任何通过自由组合生成元而获得的文本回路,存在一个产生它的文本(具有混合语法)。因此:(9)文本回路对于文本…
2023-01-25 cs.AI cs.CL cs.LO
Learning Bounded Context-Free-Grammar via LSTM and the Transformer:Difference and Explanations
University of California San Diego(加州大学圣地亚哥分校);Facebook AI Research(Facebook人工智能研究院);University of California, Berkeley(加州大学伯克利分校)
长短期记忆(LSTM)和Transformers是两种用于自然语言处理任务的流行神经架构。理论结果表明,两者都是图灵完备的,可以表示任何上下文无关语言(CFL)。在实践中,经常观察到Transformer模型比LSTM具有更好的表示能力。但其中的原因却鲜为人知。我们研究了LSTM和Transformer之间的实际差异,并基于它们的潜在空间分解模式提出了一种解释。为了实现这一目标,我们引入了一个oracle训练范式,它强制分解LSTM和Transformer的潜在表示,并监督相应CFL的下推自动机(PDA)的转换。通过强制分解,我们证明了LSTM和Transformer在学习CFL方面的性能上限是接近的:它们都可以模拟堆栈并执行堆栈操作以及状态转换。然而,缺乏强制分解导致LSTM模型无法捕获堆栈和堆栈操作,同时对Transformer模型产生轻微影响。最后,我们将PDA原型上的实验与真实的句法分析任务相结合,再次验证了本文的结论
2022-03-23 cs.CL
Towards Language Agnostic Universal Representations
Microsoft(微软)
当一个双语学生学习解决数学中的应用题时,我们希望学生能够用学生流利的两种语言解决这些问题,即使数学课只用一种语言教授。然而,机器学习中的当前表示是依赖于语言的。在这项工作中,我们提出了一种方法,通过学习语言不可知的表示,从而允许在一种语言中训练模型,并以zero shot方式应用于不同的语言,从而将语言与问题解耦。我们通过从语言学中汲取灵感并将普遍语法形式化为优化过程来学习这些表示(Chomsky,2014; Montague,1970)。我们通过展示使用语言不可知表示在单一语言上训练的模型在其他语言中达到非常相似的准确性来展示这些表示的能力。
2018-09-23 cs.CL cs.LG stat.ML
Fill it up: Exploiting partial dependency annotations in a minimum spanning tree parser
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
依存句法分析的无监督模型通常需要大量干净的、未标记的数据以及黄金标准的词性标记。添加间接监督(例如语言共性和规则)可以有所帮助,但我们表明,获得少量的直接监督-在这里,部分依赖注释-提供了一个强大的零和完全监督之间的平衡。我们适应无监督的ConvexMST依赖解析器学习部分依赖表示的图形片段语言。与不到24小时的总注释,我们获得了7%和17%的绝对改善,在未标记的依赖分数为英语和西班牙语,分别相比,相同的解析器,只使用通用语法约束。
2016-11-26 cs.CL
Individual Biases, Cultural Evolution, and the Statistical Nature of Language Universals: The Case of Colour Naming Systems
City University London(伦敦城市大学);Sapienza Università di Roma(罗马大学);Institute for Scientific Interchange (ISI)(科学交流研究所(ISI));SONY Computer Science Lab (SONY-CSL)(索尼计算机科学实验室(SONY-CSL));CNR-ISC(意大利国家研究委员会复杂系统研究所(CNR-ISC))
语言普遍性一直被认为是一种先天的普遍语法。另一种解释是,语言共性在每种语言中独立出现,以回应共同的认知或感知偏见。最近的计算模型表明,这可能是这种情况下,集中在颜色命名模式的普遍属性的范例,并产生与实验数据定量一致的结果。在这里,我们调查的作用,个人的感知偏见的框架模型。我们研究了偏见的结构如何以及在多大程度上影响相应的语言普遍模式。我们表明,一组扬声器的文化历史介绍了人口的具体限制,对压力的统一所产生的个人偏见,我们澄清这两种力量之间的相互作用。
2015-06-23 cs.CL cs.MA physics.soc-ph
Automatic Extraction of Rules Governing Morphological Agreement
Carnegie Mellon University(卡内基梅隆大学);George Mason University(乔治梅森大学)
建立语言的描述文法是语言文档化和保存的一个必不可少的步骤。然而,与此同时,这是一项繁琐、耗时的任务。在本文中,我们采取步骤自动化这一过程,设计一个自动化的框架,从原始文本中提取一个简明的,人类和机器可读的格式的第一遍语法规范。我们专注于提取规则描述协议,在世界上许多语言的语法的核心形态句法现象。我们将我们的框架应用于Universal Advertisement项目中包含的所有语言,并取得了可喜的成果。使用跨语言迁移,即使在感兴趣的语言中没有专家注释,我们的框架也提取了语法规范,该语法规范几乎等同于使用大量黄金标准注释数据创建的语法规范。我们通过人类专家对我们的框架产生的规则进行评估来证实这一发现,其平均准确率为78%。我们在https://neulab.github.io/lase/上发布了一个界面来演示提取的规则。
2020-10-06 cs.CL
Grammar-Forced Translation of Natural Language to Temporal Logic using LLMs
Department of Electrical and Computer Engineering, University of Florida, Gainesville, Florida(电子与计算机工程系,佛罗里达大学,盖恩斯维尔,佛罗里达);Knight Foundation School of Computing and Information Sciences, Florida International University, Miami, Florida(骑士基金会计算与信息科学学院,佛罗里达国际大学,迈阿密,佛罗里达)
本文提出GraFT框架,通过限制输出标记集提升自然语言到时序逻辑的翻译准确率和领域外翻译能力。
2025-12-18 cs.AI cs.CL
A Data-Driven Approach to Idiomaticity Based on Experts' Criteria in Theoretical Linguistics
Tyumen State University(塔戈尔大学);Aston University(阿斯顿大学)
基于理论语言学专家标注的16项标准,分析286个多词表达的习语性分布,发现无绝对习语表达,词汇标准影响最大。
2026-05-31 cs.CL
Scaling limit of the Random Language Model
Department of Physics, Toronto Metropolitan University(物理系,多伦多 Metropolitan 大学)
研究随机语言模型在隐藏符号数趋于无穷、语法温度趋于零的标度极限下的相变行为,发现规则使用在临界值x_c=1/8处发生凝聚转变,并推导出熵等可观测量的标度律。
2026-11-13 cond-mat.dis-nn cond-mat.stat-mech cs.CL
LuxBank: The First Universal Dependency Treebank for Luxembourgish
University of Luxembourg(卢森堡大学)
本文介绍 LuxBank,首个卢森堡语通用依存树库,建立标注指南,支持句法分析、工具开发及语言模型训练,促进西日耳曼语系研究。
2024-11-07 cs.CL
MaiBaam: A Multi-Dialectal Bavarian Universal Dependency Treebank
Center for Information and Language Processing, LMU Munich(慕尼黑大学信息与语言处理中心);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心);IT University of Copenhagen(哥本哈根信息技术大学)
本文构建了首个多方言巴伐利亚语UD树库MaiBaam,含1.5万词元,覆盖多体裁与三国方言,揭示其与德语的形态句法差异,并公开数据与基线结果以促进研究。
2024-03-15 cs.CL
Network statistics on early English Syntax: Structural criteria
ICREA(加泰罗尼亚研究与高级研究机构);Universitat Pompeu Fabra(庞培法布拉大学)
本文包括对网络在英语语言习得研究中的作用的反思,以及从儿童话语中注释自由言论语料库的实用标准的收集。在理论层面上,本文的主要观点是句法网络应该被解释为句法机器使用的结果。因此,这种机制的内在特征不能直接从(已知的)网络属性中获得。相反,人们可以看到的是它的使用的全球模式,因此,对潜在语法的力量和组织的全球看法。本文从更实际的角度出发,探讨了如何从句法关系的投射中构建网络。回想一下,与成人语法相反,早期儿童语言没有一个明确的结构概念。为了克服这样的困难,我们制定了一套系统的标准,假设选区层次结构和语法的基础上词汇主题关系。最后,我们得到的是一个定义良好的语料库注释,它使我们能够i)对结构的大小进行统计,ii)从句法关系中构建一个网络,我们可以在这个网络上执行复杂性的标准度量。我们还提供了一个详细的例子。
2007-04-30 cs.CL
Is Structure Dependence Shaped for Efficient Communication?: A Case Study on Coordination
The University of Tokyo(东京大学);NINJAL(日本国立国语研究所)
本文以并列结构为例,通过设计三种人工语言并量化其通信效率,发现具有结构依赖缩减操作的语言通信效率显著优于反事实语言,证明结构依赖性可由高效通信压力解释。
2024-10-14 cs.CL
Distributional Semantics and Linguistic Theory
Universitat Pompeu Fabra(庞培法布拉大学);Catalan Institution for Research and Advanced Studies (ICREA)(加泰罗尼亚高等研究院)
分布语义学提供了多维的,分级的,经验诱导的词表示,成功地捕捉了自然语言中的许多方面的意义,如在计算语言学的大量工作所示,但它在理论语言学的影响迄今为止是有限的。这篇评论提供了一个重要的讨论的文献分布语义学,强调的方法和结果,是相关的理论语言学,在三个领域:语义变化,一词多义和组成,和语法语义接口(具体来说,接口的语义与句法和派生形态)。该评论旨在促进语言的理论和计算方法的更大的交叉施肥,作为一种手段,以提高我们对语言如何工作的集体知识。
2020-03-18 cs.CL
Recognizing Syntactic Errors in the Writing of Second Language Learners
本文介绍了一个智能教学系统的识别部分,该系统旨在帮助外语使用者学习标准英语。该系统对学习者的语法进行建模,该系统的实例化是针对美国手语(ASL)的签名者而定制的。我们讨论了该系统的理论动机,在实施中遇到的各种困难,以及我们用来克服这些问题的方法。我们捕获不合语法的方法涉及使用错误规则(也称为“错误产生”)。但是,直接添加一些错误规则会导致解析器出现严重的性能问题。例如,美国手语使用者有很强的倾向于放弃代词和助动词“to be”。能够将这些解释为句子会导致每个句子可能解析的数量激增。如果不加以控制,这种爆炸将极大地妨碍系统的性能。我们讨论如何通过考虑特定人群的期望来处理这一问题(其中一些在我们独特的用户模型中被捕获)。在词汇习得过程的不同阶段,词汇项的不同表征通过使用错误规则来建模,从而避免了对多个词典的需要。语法评估其正确诊断协议的问题,在实际的句子产生的ASL母语的能力。
1998-05-29 cmp-lg cs.CL
Theoretical Analysis of Byte-Pair Encoding
Freie Universität Berlin(柏林自由大学)
本文分析了Byte-Pair Encoding (BPE)的优化问题,证明其APX完全性,并给出0.333至0.625的近似因子,首次为BPE的压缩效用提供严格理论保证。
2026-11-03 cs.CL cs.DS