Previous works of negation understanding mainly focus on negation cue detection and scope resolution, without identifying negation subject which is also significant to the downstream tasks. In this paper, we propose a new negation triplet extraction (NTE) task which aims to extract negation subject along with negation cue and scope. To achieve NTE, we devise a novel Syntax&Semantic-Enhanced Negation Extraction model, namely SSENE, which is built based on a generative pretrained language model (PLM) {of Encoder-Decoder architecture} with a multi-task learning framework. Specifically, the given sentence's syntactic dependency tree is incorporated into the PLM's encoder to discover the correlations between the negation subject, cue and scope. Moreover, the semantic consistency between the sentence and the extracted triplet is ensured by an auxiliary task learning. Furthermore, we have constructed a high-quality Chinese dataset NegComment based on the users' reviews from the real-world platform of Meituan, upon which our evaluations show that SSENE achieves the best NTE performance compared to the baselines. Our ablation and case studies also demonstrate that incorporating the syntactic information helps the PLM's recognize the distant dependency between the subject and cue, and the auxiliary task learning is helpful to extract the negation triplets with more semantic consistency.
Improving Pre-trained Language Models with Syntactic Dependency Prediction Task for Chinese Semantic Error Recognition
Harbin Institute of Technology（哈尔滨工业大学）；iFLYTEK Research（讯飞研究院）
现有的中文文本错误检测主要集中在拼写和简单的语法错误。这些错误已被广泛研究，对人类来说相对简单。相反，汉语的语义错误研究不足，而且更加复杂，人类不容易识别。本文的任务是汉语语义错误识别（CSER），一个二元分类任务，以确定一个句子是否包含语义错误。目前的研究还没有有效的方法来解决这个问题。本文继承了BERT的模型结构，设计了多个与句法相关的预训练任务，使模型能够学习句法知识。我们的预训练任务考虑依赖结构的方向性和依赖关系的多样性。由于目前尚缺乏针对CSER的公开数据集，本文首次建立了一个高质量的CSER数据集--汉语语义可接受性语料库（Corpus of Chinese Linguistic Semantic Acceptability，CoCLSA）。在CoCLSA上的实验结果表明，我们的方法优于通用的预训练模型和语法注入模型。
GiLT: Augmenting Transformer Language Models with Dependency Graphs
School of Information Science and Technology, ShanghaiTech University（信息科学与技术学院，上海科技大学）；Shanghai Engineering Research Center of Intelligent Vision and Imaging（智能视觉与成像上海工程研究中心）
A Case Study on Pros and Cons of Regular Expression Detection and Dependency Parsing for Negation Extraction from German Medical Documents. Technical Report
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；Oldenburg University（奥尔登堡大学）
Use of Modality and Negation in Semantically-Informed Syntactic MT
U.S. Dept. of Defense（美国国防部）；University of Maryland（马里兰大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；Carnegie Mellon University（卡内基梅隆大学）；BBN Technologies（BBN科技公司）
School of Cyber Science and Technology, Beihang University（北京航空航天大学网络空间科学与技术学院）；University of Shantou（汕头大学）；China Academic of Electronics and Information Technology（中国电子科技集团公司电子科学研究院）；Shijiazhuang Tiedao Univerisity（石家庄铁道大学）；Guizhou University（贵州大学）；Guangxi Normal University（广西师范大学）；Kunming University of Science and Technology（昆明理工大学）；Hangzhou Innovation Institute of Beihang University（北京航空航天大学杭州创新研究院）
Separating Surface Order and Syntactic Relations in a Dependency Grammar
本文提出了将依赖树与词序解耦，使得表面排序不是通过遍历依赖树来确定的。我们开发了一个\emph{word order domain structure}的概念，它是链接的，但在结构上不同的语法依赖树。该建议的结果在词汇化，声明性，和正式的词序精确的描述，功能缺乏以前的建议依赖语法。相反，其他词汇化的方法，词序，我们的建议不需要词汇歧义排序的替代品。
Multi-Task Learning by using Contextualized Word Representations for Syntactic Parsing of a Morphologically Rich Language
VTT Technical Research Centre of Finland Ltd.（芬兰VTT技术研究中心有限公司）；University of Konstanz（康斯坦茨大学）；Al-Khawarizmi Institute of Computer Science（花剌子密计算机科学研究所）；University of Engineering and Technology（工程技术大学）；Umm Al-Qura University（乌姆·库拉大学）；Copenhagen University（哥本哈根大学）
Multilingual Irony Detection with Dependency Syntax and Neural Models
Università degli Studi di Torino（都灵大学）；Universitat Politècnica de València（瓦伦西亚理工大学）；Università degli Studi di Cagliari（卡利亚里大学）；Université de Toulouse（图卢兹大学）
Edge-Enhanced Graph Convolution Networks for Event Detection with Syntactic Relation
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；Beijing University of Posts and Telecommunications（北京邮电大学）
On the relation between dependency distance, crossing dependencies, and parsing. Comment on "Dependency distance: a new perspective on syntactic patterns in natural languages" by Haitao Liu et al
Universidade da Coruña（拉科鲁尼亚大学）
Liu et al.（2017）全面介绍了人类语言中依赖距离的研究。虽然这篇文章是关于这个复杂主题的非常丰富和有用的报告，但在这里我将扩展计算语言学（特别是自然语言处理）研究可以告知DDM研究的一些具体问题，反之亦然。这些方面在Liu等人的文章或其他地方没有进行太多的探索，可能是由于两个研究团体之间的重叠很少，但它们可能会为提高我们对人类语言进化的理解提供有趣的见解，大脑处理和理解语言的机制，以及构建有效的计算机系统来实现这一目标。
我们的目标是跨语言机器阅读理解（MRC）的任务，在直接zero-shot设置，通过合并的句法特征，从普遍的相似性（UD），我们使用的关键特征是每个句子内的句法关系。虽然以前的工作已经证明了有效的语法引导的MRC模型，我们建议采用句间的句法关系，除了基本的句内关系，进一步利用在多句输入的MRC任务的句法依赖。在我们的方法中，我们建立了句子间依赖图（ISDG）连接依赖树，以形成跨句子的全局句法关系。然后，我们提出了ISDG编码器，编码的全球依赖图，通过一跳和多跳依赖路径明确地解决句子间的关系。在三个多语言MRC数据集（XQuAD，MLQA，TyDiQA-GoldP）上的实验表明，我们的编码器只在英语上训练，能够提高所有14个测试集的zero-shot性能，覆盖8种语言，平均提高高达3.8 F1 / 5.2 EM，某些语言的5.2 F1 / 11.2 EM。进一步的分析表明，这种改进可以归因于对跨语言一致性句法路径的关注。
A computational psycholinguistic evaluation of the syntactic abilities of Galician BERT models at the interface of dependency resolution and training time
Centro Singular de Investigación en Tecnoloxías Intelixentes (CiTIUS)（智能技术单一研究中心（CiTIUS））；Universidade de Santiago de Compostela（圣地亚哥德孔波斯特拉大学）
