利用依赖信息的随机自然语言生成

依赖长度最小化：难题与承诺

Dependency length minimization: Puzzles and Promises

在最近一期的PNAS中，Futrell等人声称他们对37种语言的研究首次给出了依赖长度最小化的大规模跨语言证据，这是一种夸大，忽略了以前类似的研究。此外，该研究似乎没有注意到诸如体裁的一致性等因素，这削弱了DLM具有普遍性的论点的有效性。另一个问题是，这项研究将基线随机语言设置为投射，这未能真正揭示自然语言和随机语言之间的差异，因为投射性是许多自然语言的重要特征。最后，文章认为，尽管缺乏明确的统计比较，但“中心语词尾和依存长度之间存在明显的关系”，这使得这一结论相当仓促和不恰当。

带随机扰动的隐树学习与可微动态规划

Learning Latent Trees with Stochastic Perturbations and Differentiable Dynamic Programming

我们将投影依赖树视为概率模型中的潜在变量，并以有利于下游任务的方式诱导它们，而不依赖于任何直接的树监督。我们的方法依赖于Gumbel扰动和可微动态规划。与以前的潜在树学习方法不同，我们随机采样全局结构，我们的解析器是完全可微的。我们说明了它的有效性情感分析和自然语言推理任务。我们还研究了它的合成结构诱导任务的性质。消融研究强调的重要性，随机性和约束潜在的结构是投影树。

作为心理语言学主体的RNNs：句法状态和语法依赖

RNNs as psycholinguistic subjects: Syntactic state and grammatical dependency

递归神经网络（RNN）是自然语言序列建模的最新技术。然而，它仍然知之甚少的语法特性的自然语言，他们隐含地学习和表示作为优化语言建模目标的结果。在这里，我们部署了受控心理语言学实验的方法，以阐明RNN行为在多大程度上反映了增量句法状态和语法依赖表示，这些都是人类语言行为的特征。我们广泛测试了两个公开的长短期记忆（LSTM）英语序列模型，并学习和测试了一个新的日语LSTM。我们证明，这些模型表示和维护增量语法状态，但他们并不总是以同样的方式概括人类。此外，我们的模型没有学习适当的语法依赖配置许可反身代词或负极性项目。

StructFormer: Joint Unsupervised Induction of Dependency and Constituency Structure from Masked Language Modeling

There are two major classes of natural language grammar -- the dependency grammar that models one-to-one correspondences between words and the constituency grammar that models the assembly of one or several corresponded words. While previous unsupervised parsing methods mostly focus on only inducing one class of grammars, we introduce a novel model, StructFormer, that can simultaneously induce dependency and constituency structure. To achieve this, we propose a new parsing framework that can jointly generate a constituency tree and dependency graph. Then we integrate the induced dependency rel…

一种混合的依存句法分析方法：将规则和形态学与深度学习相结合

A Hybrid Approach to Dependency Parsing: Combining Rules and Morphology with Deep Learning

完全数据驱动的、基于深度学习的模型通常被设计为独立于语言的，并且已经被证明在许多自然语言处理任务中是成功的。然而，当所研究的语言是低资源和训练数据量不足时，这些模型可以受益于基于自然语言语法的信息的集成。我们提出了两种方法依存句法分析，特别是对有限的训练数据的语言。我们的第一种方法将最先进的基于深度学习的解析器与基于规则的方法相结合，第二种方法将形态信息纳入解析器。在基于规则的方法中，由规则做出的解析决策被编码并与输入单词的矢量表示连接，作为深度网络的附加信息。基于形态学的方法提出了不同的方法，包括词的形态结构到解析器网络。在IMST-UD Treebank上进行了实验，结果表明，通过基于规则的句法分析系统和形态分析，将目标语言的显性知识整合到神经句法分析器中，可以获得更准确的注释，从而提高了句法分析的附加得分。所提出的方法是为土耳其语开发的，但也可以适用于其他语言。

越南语依存句法分析的错误分析

Error Analysis for Vietnamese Dependency Parsing

在自然语言处理的不同应用中，都需要进行依存句法分析。在本文中，我们提出了一个彻底的错误分析依存句法分析的越南语，使用两个国家的最先进的解析器：MSTParser和MaltParser。错误分析的结果为进一步提高越南语依存句法分析的性能提供了参考。

基于迁移神经网络的联合POS标记和依存句法分析

Joint POS Tagging and Dependency Parsing with Transition-based Neural Networks

虽然词性标注和依存句法分析被认为是密切相关的，但现有的手工特征模板联合建模工作存在特征稀疏和不完整的问题。在本文中，我们提出了一种联合使用基于转换的神经网络的词性标注和依存句法分析的方法。三个基于神经网络的分类器被设计用于解决移位/归约、标记和标记冲突。实验表明，我们的方法显着优于以前的方法联合词性标注和依存句法分析在各种自然语言。

A Survey of Unsupervised Dependency Parsing

Syntactic dependency parsing is an important task in natural language processing. Unsupervised dependency parsing aims to learn a dependency parser from sentences that have no annotation of their correct parse trees. Despite its difficulty, unsupervised parsing is an interesting research direction because of its capability of utilizing almost unlimited unannotated text data. It also serves as the basis for other research in low-resource parsing. In this paper, we survey existing approaches to unsupervised dependency parsing, identify two major classes of approaches, and discuss recent trends. …

并发词汇化依赖语法分析：ParseTalk模型

Concurrent Lexicalized Dependency Parsing: The ParseTalk Model

本文介绍了一种面向对象的并发自然语言分析的语法模型。语法知识的完整词汇分布是建立在面向中心语的配价和依赖概念的基础上的，而继承机制用于捕获词汇概括。底层并发计算模型依赖于Actor范式。我们考虑建立依赖关系和歧义处理的消息传递协议。

Monotonicity Marking from Universal Dependency Trees

Dependency parsing is a tool widely used in the field of Natural language processing and computational linguistics. However, there is hardly any work that connects dependency parsing to monotonicity, which is an essential part of logic and linguistic semantics. In this paper, we present a system that automatically annotates monotonicity information based on Universal Dependency parse trees. Our system utilizes surface-level monotonicity facts about quantifiers, lexical items, and token-level polarity information. We compared our system's performance with existing systems in the literature, inc…

单位依赖图及其在应用题解题中的应用

Unit Dependency Graph and its Application to Arithmetic Word Problem Solving

数学应用题为一系列涉及数量推理的自然语言理解问题提供了自然抽象，例如解释选举结果、伤亡新闻和报纸的金融部分。与量相关的单位通常提供支持这种推理的必要信息。本文提出了一种原则性的方法来捕获和推理单位，并展示了它如何有利于算术字问题求解器。本文提出了单位依赖图（UDG）的概念，它提供了一个紧凑的表示在给定的问题中提到的数字之间的依赖关系。引入UDG消除了单元提取系统的脆弱性，并允许一种自然的方式来利用关于单元兼容性的领域知识来解决应用题。我们引入了一个分解模型，用于以最少的附加注释诱导UDG，并使用它通过约束推理框架来增强（Roy和Roth 2015）的算术单词问题求解器中使用的表达式。我们表明，引入UDG的解决方案的错误减少了10%以上，超过了所有现有的系统解决算术字问题。此外，它还使系统更健壮地适应新的词汇表和方程形式。

基于超标记特征的越南语转换依存句法分析

Vietnamese transition-based dependency parsing with supertag features

依存句法分析是近年来的一个研究热点，在自然语言处理中有着广泛的应用。在本文中，我们提出了一种有效的方法来改善依存句法分析利用超标记的功能。我们使用基于转换的依存句法分析进行了实验，因为它可以利用丰富的功能。对越南依赖树库的实证评估表明，使用黄金超级标签的标记附件评分提高了18.92%，使用自动超级标签的标记附件评分提高了3.57%。

通过依赖预测和信息流控制提高关系抽取的跨域性能

Improving Cross-Domain Performance for Relation Extraction via Dependency Prediction and Information Flow Control

关系抽取（RE）是信息抽取和自然语言处理中的一项基本任务。相关树已被证明是一个非常有用的信息源，为这项任务。当前用于关系抽取的深度学习模型主要通过沿着依赖树的结构引导它们的计算来利用这种依赖信息。这种方法的一个潜在问题是它可能会阻止模型捕获语法结构之外的重要上下文信息，并导致较差的跨领域泛化。本文介绍了一种在RE中使用依赖树的新方法，用于联合预测依赖关系和语义关系的深度学习模型。我们还提出了一种新的机制来控制信息流的模型的基础上输入实体提及。我们在基准数据集上的大量实验表明，该模型明显优于现有的RE方法。

基于结构化提示模板的依存句法分析

Dependency Parsing with the Structuralized Prompt Template

提出一种仅依赖编码器模型和文本到文本训练方式的依存句法分析方法，通过结构化提示模板捕获依存树结构信息，在实验中优于传统模型且适应多种预训练模型。

基于知识蒸馏的隐式词序重排用于跨语言依存句法分析

Implicit Word Reordering with Knowledge Distillation for Cross-Lingual Dependency Parsing

针对跨语言依存句法分析中的词序差异问题，提出 IWR-KD 框架，通过词序重排教师向句法分析学生蒸馏隐式重排能力，并在31种语言上验证其优于竞争方法。

依存句法分析的基础算法（附修正）

A Fundamental Algorithm for Dependency Parsing (With Corrections)

本文提出一种逐词附加的依存句法分析基础算法，其最坏情况复杂度为$O(n^3)$，但仅在句子较短时出现，并模拟了人脑解析特性。

一个混合波斯语情感分析框架：基于依赖语法的规则和深度神经网络的集成

A Hybrid Persian Sentiment Analysis Framework: Integrating Dependency Grammar Based Rules and Deep Neural Networks

社交媒体拥有关于公众舆论的宝贵、大量和非结构化的信息，可用于改进产品和服务。然而，对这些数据的自动分析需要对自然语言有深刻的理解。现有的情感分析方法主要基于词的共现频率，这在大多数实际情况下是不够的。在这项工作中，我们提出了一种新的混合框架，用于波斯语中的概念级情感分析，该框架集成了语言规则和深度学习来优化极性检测。当一个模式被触发时，框架允许情感从单词流向基于符号依赖关系的概念。当没有模式被触发时，框架切换到其子符号对应物，并利用深度神经网络（DNN）来执行分类。所提出的框架优于最先进的方法（包括支持向量机和逻辑回归）和DNN分类器（长短期记忆和卷积神经网络），分别有10-15%和3-4%的利润率，使用基准波斯语产品和酒店评论语料库。

基于图的汉语分词与依存句法分析联合模型

A Graph-based Model for Joint Chinese Word Segmentation and Dependency Parsing

汉语分词和依存句法分析是汉语自然语言处理的两个基本任务。依存句法分析是在词级上定义的。因此分词是依存句法分析的前提，这使得依存句法分析容易产生错误传播，无法直接利用预先训练好的字符级语言模型（如BERT）。本文提出了一个基于图的汉语分词和依存句法分析的集成模型。与以往的基于过渡的关节模型不同，我们提出的模型更加简洁，从而减少了特征工程的工作量。本文提出的基于图的联合模型在中文分词和依存句法分析两个方面都取得了较好的性能。此外，当结合BERT时，我们的模型可以大大减少联合模型和基于黄金分割词的模型之间的依存句法分析的性能差距。我们的代码可在https://github.com/fastnlp/JointCwsParser上公开获取。

Probing for Labeled Dependency Trees

Probing has become an important tool for analyzing representations in Natural Language Processing (NLP). For graphical NLP tasks such as dependency parsing, linear probes are currently limited to extracting undirected or unlabeled parse trees which do not capture the full task. This work introduces DepProbe, a linear probe which can extract labeled and directed dependency parse trees from embeddings while using fewer parameters and compute than prior methods. Leveraging its full task coverage and lightweight parametrization, we investigate its predictive power for selecting the best transfer l…

一种使用混合方法的泰米尔语高效依赖分析器

An efficiency dependency parser using hybrid approach for tamil language

自然语言处理是一个非常活跃的研究领域。句法分析是语言分析系统的重要工具之一，其目的是预测句子中词与词之间的结构关系。许多研究人员已经开发了很多语言工具，但准确性还没有达到人类的期望水平，因此研究仍然存在。机器翻译是自然语言处理的主要应用领域之一。在一种语言到另一种语言的翻译中，句子的结构识别起着关键的作用。本文介绍了一种混合方法来解决句子中给定词之间的关系识别问题。在现有的系统是使用基于规则的方法，这是不适合在巨大的数据量。机器学习方法适合于处理大量的数据，也可以通过学习和训练系统来获得更好的准确性。该方法以泰米尔语句子作为输入，并产生一个依赖关系的结果作为一个树状结构，使用混合的方法。该工具对研究人员非常有帮助，并有望提高现有方法的质量。

Efficient Sampling of Dependency Structures

Probabilistic distributions over spanning trees in directed graphs are a fundamental model of dependency structure in natural language processing, syntactic dependency trees. In NLP, dependency trees often have an additional root constraint: only one edge may emanate from the root. However, no sampling algorithm has been presented in the literature to account for this additional constraint. In this paper, we adapt two spanning tree sampling algorithms to faithfully sample dependency trees from a graph subject to the root constraint. Wilson (1996)'s sampling algorithm has a running time of $\ma…

用于探索和使用依赖分析的Monte Carlo边缘

Monte Carlo Syntax Marginals for Exploring and Using Dependency Parses

依存句法分析的研究，近年来取得了显着的进展，通常集中在提高单树预测的准确性。然而，歧义是自然语言语法所固有的，并且传达这种歧义对于错误分析和更好地通知下游应用是重要的。在这项工作中，我们提出了一个过渡采样算法，从基于过渡的解析模型定义的解析树的完整联合分布中进行采样，并演示了在概率依赖分析中使用的样本。首先，我们定义了依赖路径预测的新任务，推断句子的一部分的句法子结构，并提供了对这项任务的性能的第一次分析。其次，我们证明了我们的Monte Carlo语法边际分析和校准的错误分析方法的实用性。最后，我们使用这种方法来传播解析的不确定性的两个下游信息抽取应用程序：识别被警察杀害的人和语义角色分配。

I3rab: A New Arabic Dependency Treebank Based on Arabic Grammatical Theory

Treebanks are valuable linguistic resources that include the syntactic structure of a language sentence in addition to POS-tags and morphological features. They are mainly utilized in modeling statistical parsers. Although the statistical natural language parser has recently become more accurate for languages such as English, those for the Arabic language still have low accuracy. The purpose of this paper is to construct a new Arabic dependency treebank based on the traditional Arabic grammatical theory and the characteristics of the Arabic language, to investigate their effects on the accurac…

基于Web文本的省略识别中文依存树库的构建

Building an Ellipsis-aware Chinese Dependency Treebank for Web Text

Web 2.0带来了大量用户产生的数据，这些数据揭示了一个人的思想、经验和知识，这些数据是信息抽取和知识库构建等许多任务的重要来源。然而，文本的口语化特征对当前更适应语言形式的自然语言处理技术提出了新的挑战。省略是一种常见的语言现象，特别是在口语中，当人们从语境中理解某些词时，省略了它们，这阻碍了依存句法分析的提高，而依存句法分析对于依赖句子意义的任务具有重要意义。为了促进这一领域的研究，我们发布了一个包含319个微博的中文依存关系树库，其中包含572个句子，并保留了遗漏和上下文。

域外依存句法分析的半监督方法

Semi-Supervised Methods for Out-of-Domain Dependency Parsing

依存句法分析是自然语言处理的重要任务之一，它为文本分配句法树。由于依赖语料库的广泛可用性以及解析和机器学习技术的改进，基于监督学习的系统的解析准确性已经得到显著提高。然而，由于监督学习的性质，这些句法分析系统高度依赖于人工标注的训练语料库。它们在域内数据上工作得相当好，但在域外文本上测试时，性能显着下降。为了弥补域内和域外之间的性能差距，本文研究了三种用于域外依存句法分析的半监督技术，即协同训练、自训练和依存语言模型。我们的方法使用容易获得的未标记的数据，以提高域外解析的准确性，而不需要昂贵的语料库注释。在多个英文领域和多语种数据上的测试结果表明，该算法在句法分析准确率上有很好的提高。总的来说，这项工作进行了调查的半监督方法域外依存句法分析，在那里我扩展和比较了一些重要的半监督方法在一个统一的框架。这些技术之间的比较表明，自训练的作品同样以及合作训练域外解析，而依赖语言模型可以提高域内外的准确性。

一种有效的依赖性引导的命名实体识别

Efficient Dependency-Guided Named Entity Recognition

命名实体识别（NER）是从文本中提取具有语义意义的命名实体及其语义类的关键技术，是关系抽取和事件抽取等自然语言处理（NLP）下游任务的重要组成部分。另一方面，依赖树也传递关键的语义级信息。之前已经表明，这些信息可以用于提高NER的性能（Sasano和Kurohashi 2008，Ling和Weld 2012）。在这项工作中，我们研究如何更好地利用依赖树传达的结构化信息，以提高NER的性能。具体来说，与仅利用依赖信息来设计局部特征的现有方法不同，我们表明，在构建NER模型时可以利用依赖树的某些全局结构化信息，其中这些信息可以提供指导性学习和推理。通过大量的实验，我们表明，我们提出的新的依赖性引导的NER模型与基于传统的半马尔可夫条件随机场的模型进行竞争，同时需要显着更少的运行时间。

ThaiTrees：跨领域的泰语句法依存树

ThaiTrees: Thai Syntactic Dependency Trees Across Domains

针对泰语缺乏大规模自动解析语料库的问题，构建了包含3.42亿词符、覆盖多领域的ThaiTrees语料库，并开发了可复现的清洗、处理与解析流程，支持句法分布研究。\n

Combining Improvements for Exploiting Dependency Trees in Neural Semantic Parsing

The dependency tree of a natural language sentence can capture the interactions between semantics and words. However, it is unclear whether those methods which exploit such dependency information for semantic parsing can be combined to achieve further improvement and the relationship of those methods when they combine. In this paper, we examine three methods to incorporate such dependency information in a Transformer based semantic parser and empirically study their combinations. We first replace standard self-attention heads in the encoder with parent-scaled self-attention (PASCAL) heads, i.e…

Dependency Parsing with Bottom-up Hierarchical Pointer Networks

Dependency parsing is a crucial step towards deep language understanding and, therefore, widely demanded by numerous Natural Language Processing applications. In particular, left-to-right and top-down transition-based algorithms that rely on Pointer Networks are among the most accurate approaches for performing dependency parsing. Additionally, it has been observed for the top-down algorithm that Pointer Networks' sequential decoding can be improved by implementing a hierarchical variant, more adequate to model dependency structures. Considering all this, we develop a bottom-up-oriented Hierar…

依存句法分析中非交叉图族的通有公理化

Generic Axiomatization of Families of Noncrossing Graphs in Dependency Parsing

我们提出了一个简单的编码未标记的非交叉图，并显示其潜在的对应物如何帮助我们代表几个家庭的有向和无向图中使用的语法和语义解析的自然语言作为上下文无关的语言。在潜在编码中，纯粹基于禁止模式来分离这些族，从而消除了在推理算法中区分非交叉图族的需要：当搜索空间可以在解析器输入中控制时，一个算法适用于所有族。

基于距离的自注意网络在自然语言推理中的应用

Distance-based Self-Attention Network for Natural Language Inference

注意力机制已经被用作辅助手段来帮助RNN或CNN。然而，Transformer（Vaswani等人，2017年）最近记录了机器翻译的最新性能，仅使用注意力就大大减少了训练时间。受Transformer的启发，定向自注意网络（Shen et al.，2017年），一个完全基于注意力的句子编码器，被提出。通过使用句子中的前向和后向信息，它在各种数据下都表现出良好的性能。但在他们的研究中，根本没有考虑单词之间的距离，这是学习局部依赖以帮助理解输入文本上下文的重要特征。我们提出了基于距离的自注意力网络，它通过使用一个简单的距离掩码来考虑词的距离，以便在不失去注意力固有的全局依赖建模能力的情况下对局部依赖进行建模。我们的模型在NLI数据上表现出了良好的性能，并记录了SNLI数据的最新结果。此外，我们还证明了我们的模型在长句或文档中具有优势。

依赖树中的随机交叉

Random crossings in dependency trees

有人假设，真正的句法依赖树中的交叉数量相当少，这是依赖长度最小化压力的副作用。在这里，我们回答了一个相关的重要研究问题：什么会是预期的交叉数，如果一个句子的自然顺序丢失，取而代之的是随机排序？我们表明，这个数字只依赖于依赖树的顶点数（句子长度）和二阶矩约为零的顶点度。期望的交叉数对于星形树是最小的（交叉是不可能的），对于线性树是最大的（交叉数是序列长度的平方的数量级）。

具有依赖闭合的类型感知检索增强生成用于可执行工业优化建模

Type-Aware Retrieval-Augmented Generation with Dependency Closure for Solver-Executable Industrial Optimization Modeling

本文提出一种类型感知检索增强生成方法，通过强制依赖闭合确保工业优化建模的可执行性，有效解决大型语言模型在复杂工程优化中的执行难题。

Informal Persian Universal Dependency Treebank

This paper presents the phonological, morphological, and syntactic distinctions between formal and informal Persian, showing that these two variants have fundamental differences that cannot be attributed solely to pronunciation discrepancies. Given that informal Persian exhibits particular characteristics, any computational model trained on formal Persian is unlikely to transfer well to informal Persian, necessitating the creation of dedicated treebanks for this variety. We thus detail the development of the open-source Informal Persian Universal Dependency Treebank, a new treebank annotated w…

面向爪哇语依存句法分析的跨语言迁移学习

Cross-lingual Transfer Learning for Javanese Dependency Parsing

针对爪哇语标注数据不足的问题，本文基于Universal Dependencies比较TL与HTL，发现引入中间语言的HTL可使UAS和LAS较基线均提升10%。

解析为归约

Parsing as Reduction

我们把短语表示句法分析归结为依存句法分析。我们的减少是基于一个新的中间表示，“头有序依赖树”，表现出同构的组成树。通过编码顺序信息的依赖标签，我们表明，任何现成的，可训练的依赖分析器可以用来产生成分。当这个解析器是非投射的时候，我们可以以一种非常自然的方式执行不连续的解析。尽管我们的方法很简单，但实验表明，所得到的解析器与强大的基线相当，例如伯克利英语解析器和SPMRL-2014共享任务中的最佳单个系统。结果是特别引人注目的不连续解析的德国，我们超越了目前的艺术水平的一个很大的差距。

作为无监督依存语法的句法可替代性

Syntactic Substitutability as Unsupervised Dependency Syntax

本文提出一种与理论无关的新方法，通过在语言模型注意力分布中建模句法可替代性来归纳无监督依存结构，显著提升了长距离主谓一致解析的召回率并展现出跨设置泛化能力。

Sort by Structure: Language Model Ranking as Dependency Probing

Making an informed choice of pre-trained language model (LM) is critical for performance, yet environmentally costly, and as such widely underexplored. The field of Computer Vision has begun to tackle encoder ranking, with promising forays into Natural Language Processing, however they lack coverage of linguistic tasks such as structured prediction. We propose probing to rank LMs, specifically for parsing dependencies in a given language, by measuring the degree to which labeled trees are recoverable from an LM's contextualized embeddings. Across 46 typologically and architecturally diverse LM…

Enhancing Word-Level Semantic Representation via Dependency Structure for Expressive Text-to-Speech Synthesis

Exploiting rich linguistic information in raw text is crucial for expressive text-to-speech (TTS). As large scale pre-trained text representation develops, bidirectional encoder representations from Transformers (BERT) has been proven to embody semantic information and employed to TTS recently. However, original or simply fine-tuned BERT embeddings still cannot provide sufficient semantic knowledge that expressive TTS models should take into account. In this paper, we propose a word-level semantic representation enhancing method based on dependency structure and pre-trained BERT embedding. The…

On the Importance of Karaka Framework in Multi-modal Grounding

Computational Paninian Grammar model helps in decoding a natural language expression as a series of modifier-modified relations and therefore facilitates in identifying dependency relations closer to language (context) semantics compared to the usual Stanford dependency relations. However, the importance of this CPG dependency scheme has not been studied in the context of multi-modal vision and language applications. At IIIT Hyderabad, we plan to perform a novel study to explore the potential advantages and disadvantages of CPG framework in a vision-language navigation task setting, a popular …

基于高效大规模特征选择的集成语义依存句法分析

Integrative Semantic Dependency Parsing via Efficient Large-scale Feature Selection

语义解析，即，诸如句子的实例化谓词-论元结构的意义表示的自动推导在自然语言的深度处理中起着关键作用。与所有其他顶级的语义依存句法分析系统不同，它们必须依赖于管道框架来链接一系列子模型，每个子模型专门用于特定的子任务，本文中介绍的系统将所有内容集成到一个模型中，希望在保持有竞争力的性能的同时，为实际应用程序实现理想的完整性和实用性。这种综合的方法处理语义解析作为一个词对分类问题，使用最大熵分类器。我们利用参数候选的自适应修剪和大规模特征选择工程来允许该领域迄今为止使用的最大特征空间，它在CoNLL-2008共享任务的评估数据集上实现了最先进的性能，除了一个顶级管道系统之外，证实了其可行性和有效性。

使用预训练的解析器改进自然语言推理

Improving Natural Language Inference with a Pretrained Parser

我们介绍了一种新的方法，将语法到自然语言推理（NLI）模型。我们的方法使用来自预训练的依赖解析器的上下文标记级向量表示。像其他上下文嵌入器一样，我们的方法广泛适用于任何神经模型。我们用四个强NLI模型（可分解注意力模型，ESIM，BERT和MT-DNN）进行了实验，并在三个NLI基准测试中显示出一致的准确性优势。

巧干而非苦干：SOV语言中依赖长度的高效最小化

Work Smarter...Not Harder: Efficient Minimization of Dependency Length in SOV Languages

针对SOV语言依赖长度最小化的认知机制不明的问题，提出将短动词前成分移至主动词旁的最小努力策略，经7种SOV语言大规模语料验证，揭示了有限理性在语言决策与演化中的作用。

Codeswitched Sentence Creation using Dependency Parsing

Codeswitching has become one of the most common occurrences across multilingual speakers of the world, especially in countries like India which encompasses around 23 official languages with the number of bilingual speakers being around 300 million. The scarcity of Codeswitched data becomes a bottleneck in the exploration of this domain with respect to various Natural Language Processing (NLP) tasks. We thus present a novel algorithm which harnesses the syntactic structure of English grammar to develop grammatically sensible Codeswitched versions of English-Hindi, English-Marathi and English-Ka…

Unsupervised Vision-Language Parsing: Seamlessly Bridging Visual Scene Graphs with Language Structures via Dependency Relationships

Understanding realistic visual scene images together with language descriptions is a fundamental task towards generic visual understanding. Previous works have shown compelling comprehensive results by building hierarchical structures for visual scenes (e.g., scene graphs) and natural languages (e.g., dependency trees), individually. However, how to construct a joint vision-language (VL) structure has barely been investigated. More challenging but worthwhile, we introduce a new task that targets on inducing such a joint VL structure in an unsupervised manner. Our goal is to bridge the visual s…

用于自然语言推理的随机应答网络

Stochastic Answer Networks for Natural Language Inference

本文提出了一种随机回答网络（SAN）来研究自然语言推理中的多步推理策略。该模型不是直接预测给定输入的结果，而是保持一个状态并迭代地改进其预测。我们的实验表明，SAN达到了最先进的结果在三个基准：斯坦福自然语言推理（SNLI）数据集，多流派自然语言推理（MultiNLI）数据集和Quora问题对数据集。

可解释的多模态基于方面的情感分析与依赖引导的大语言模型

Explainable Multimodal Aspect-Based Sentiment Analysis with Dependency-guided Large Language Model

本文提出了一种基于依赖引导的大语言模型的多模态情感分析方法，通过生成可解释的自然语言解释来提升情感分类的准确性。

从POS标记到依存句法分析的生物医学事件抽取

From POS tagging to dependency parsing for biomedical event extraction

背景资料：鉴于从生物医学研究出版物中提取关系或事件以支持知识捕获和合成的重要性，以及该信息抽取任务对句法信息的强烈依赖性，了解哪些方法对生物医学文本的句法处理具有最高性能是有价值的。结果如下：我们在两个基准生物医学语料库GENIA和CRAFT上进行了一项实证研究，比较了最先进的传统基于特征的模型和基于神经网络的模型，用于词性（POS）标记和依存句法分析这两个核心自然语言处理任务。据我们所知，最近没有在生物医学背景下进行这种比较的工作;具体来说，没有对这些数据的神经模型进行详细分析。实验结果表明，在一般情况下，神经模型优于基于特征的模型在两个基准生物医学语料库GENIA和CRAFT。我们还进行了面向任务的评估，以调查这些模型在下游应用程序的生物医学事件提取的影响，并表明，更好的内在解析性能并不总是意味着更好的外在事件提取性能。结论：我们已经提出了一个详细的实证研究比较传统的基于特征的和基于神经网络的模型的POS标记和依存句法分析在生物医学的背景下，还调查了分析器的选择的生物医学事件提取下游任务的影响。数据和材料的可用性：我们在https://github.com/datquocnguyen/BioPosDep上提供重新训练的模型

梵语数据驱动依存句法分析的神经网络方法

Neural Approaches for Data Driven Dependency Parsing in Sanskrit

数据驱动的依存句法分析方法在过去的几十年里一直是自然语言处理领域的研究热点。然而，梵语仍然缺乏一个强大的纯数据驱动的依赖解析器，可能除了Krishna（2019）。这主要是由于缺乏特定于任务的标记数据和语言的形态丰富的性质。在这项工作中，我们评估了四种不同的数据驱动的机器学习模型，最初提出了不同的语言，并比较其性能的梵文数据。我们用2个基于图和2个基于转换的解析器进行实验。我们比较了每个模型在低资源环境中的性能，使用1,500个句子进行训练。此外，由于我们关注的是每个模型的学习能力，因此我们没有将任何梵语特定的特征显式地并入模型中，而是使用每篇论文中的默认设置来获得特征函数。在这项工作中，我们分析了使用域内和域外测试数据集的解析器的性能。我们还调查了单词排序的影响，在这些系统中提供的句子作为输入，通过分析诗句和相应的散文顺序（anvaya）句子。

印地语中依存长度最小化的有限理性解释

A bounded rationality account of dependency length minimization in Hindi

针对印地语词序偏好，研究提出仅将最短动词前成分邻近主要动词的最小努力策略，证明其比全局依存长度最小化更符合语料证据。

基于cleanNLP的自然语言处理数据模型

A Tidy Data Model for Natural Language Processing using cleanNLP

cleanNLP包提供了一组快速工具，用于将文本语料库转换为一组规范化的表。底层的自然语言处理管道利用了斯坦福大学的CoreNLP库，为用英语、法语、德语和西班牙语编写的文本提供了许多注释任务。注释器包括标记化、词性标注、命名实体识别、实体链接、情感分析、依存句法分析、共指消解和信息抽取。

基于随机权重平均的不确定性感知自然语言推理

Uncertainty-Aware Natural Language Inference with Stochastic Weight Averaging

本文提出在自然语言理解任务中利用SWAG进行贝叶斯不确定性建模，应用于自然语言推理，有效提升预测准确率并与人类标注分歧相关，凸显了不确定性建模的重要性。

AMUSE：面向关联数据问答的多语言语义解析

AMUSE: Multilingual Semantic Parsing for Question Answering over Linked Data

在RDF数据上回答自然语言问题的任务近年来受到了广泛的关注，特别是在一系列QALD基准的背景下。该任务包括将自然语言问题映射到可执行形式，例如SPARQL，以便可以从给定的KB中提取答案。到目前为止，提出的大多数系统都是i）单语的，ii）依赖于一组硬编码的规则来解释问题并将其映射到SPARQL查询中。我们提出了第一个多语言QALD管道，该管道从训练数据中导出一个模型，用于将自然语言问题映射为逻辑形式作为概率推理。特别是，我们的方法学会了映射通用的句法依赖表示的语言独立的逻辑形式的基础上DUDES（依赖性为基础的未充分指定的话语表示结构），然后映射到SPARQL查询作为确定性的第二步。我们的模型建立在依赖于从依赖图和相应的语义表示中提取的特征的因子图上。我们依靠近似推理技术，特别是马尔可夫链蒙特卡罗方法，以及样本排名使用排名目标更新参数。我们的重点在于开发的方法，克服词汇差距，并提出了一种新的组合机器翻译和词嵌入的方法，为此目的。作为我们方法的概念证明，我们在英语，德语和西班牙语的QALD-6数据集上评估了我们的方法。

句法结构的普适拓扑规律性

Universal Topological Regularity of Syntactic Structures

该研究分析124种语言的依存树，发现其拓扑偏离随机性，提出由增量式语法编码和次线性优先依附模型自然产生，无需直接优化交际。