We present a system that allows a user to search a large linguistically annotated corpus using syntactic patterns over dependency graphs. In contrast to previous attempts to this effect, we introduce a light-weight query language that does not require the user to know the details of the underlying syntactic representations, and instead to query the corpus by providing an example sentence coupled with simple markup. Search is performed at an interactive speed due to an efficient linguistic graph-indexing and retrieval engine. This allows for rapid exploration, development and refinement of syntax-based queries. We demonstrate the system using queries over two corpora: the English wikipedia, and a collection of English pubmed abstracts. A demo of the wikipedia system is available at: https://allenai.github.io/spike
Bootstrapping Relation Extractors using Syntactic Search by Examples
Allen Institute for AI(艾伦人工智能研究所);Bar Ilan University(巴伊兰大学)
自然语言处理中神经网络的出现带来了监督式关系抽取的实质性改进。然而,获得足够数量的训练数据仍然是一个关键挑战。在这项工作中,我们提出了一个引导训练数据集的过程,可以由非NLP专家快速执行。我们利用搜索引擎的语法图(如Shlain et al.(2020)),它揭示了一个友好的例子语法。我们使用这些来获得积极的例子,通过搜索的句子,在句法上类似于用户输入的例子。我们将这种技术应用于TACRED和DocRED的关系,并表明所得到的模型与手动注释数据和从远程监督获得的数据上训练的模型具有竞争力。该模型还优于使用NLG数据增强技术训练的模型。使用NLG方法扩展基于搜索的方法进一步改善了结果。
Syntactic Patterns Improve Information Extraction for Medical Search
King’s College London(伦敦国王学院);University of Pennsylvania(宾夕法尼亚大学);Northeastern University(东北大学);Rutgers University-Camden(罗格斯大学卡姆登分校);Google Inc.(谷歌公司)
Adversarial Example Generation with Syntactically Controlled Paraphrase Networks
Allen Institute of Artificial Intelligence(艾伦人工智能研究所);UMass Amherst(马萨诸塞大学阿默斯特分校);Carnegie Mellon University(卡内基梅隆大学);Toyota Technological Institute at Chicago(芝加哥丰田理工学院);University of Washington(华盛顿大学)
Query Generation for Patent Retrieval with Keyword Extraction based on Syntactic Features
Amsterdam Business School, University of Amsterdam(阿姆斯特丹大学阿姆斯特丹商学院);European Patent Office(欧洲专利局);Institute of Informatics, University of Amsterdam(阿姆斯特丹大学信息学院)
Automatic Correction of Syntactic Dependency Annotation Differences
University of Arizona(亚利桑那大学)
数据集之间的注释不一致可能会导致低资源NLP的问题,与资源丰富的语言相比,噪声或不一致的数据无法轻松替换。在本文中,我们提出了一种自动检测依存句法分析语料库之间的注释不匹配的方法,以及三个相关的自动转换不匹配的方法。所有这三种方法都依赖于将新语料库中的未见过示例与现有语料库中的类似示例进行比较。这三种方法包括使用现有语料库中最频繁的示例标签的简单词汇替换,考虑更广泛的示例池的基于GloVe嵌入的替换,以及基于BERT嵌入的替换,使用上下文化的嵌入来提供针对我们特定数据进行微调的示例。然后,我们通过重新训练两个依赖解析器来评估这些转换- Stanza(Qi et al. 2020)和Parsing as Tagging(PaT)(Vacareanu et al. 2020)-转换和未转换的数据。我们发现,在许多情况下,应用我们的转换会产生更好的性能。观察到的两个解析器之间的一些差异。Stanza有一个更复杂的架构,采用二次算法,因此训练的时间更长,但它可以用更少的数据更好地泛化。PaT解析器具有更简单的体系结构和线性算法,加快了训练时间,但需要更多的训练数据才能达到相当或更好的性能。