The quality of a knowledge graph directly impacts the quality of downstream applications (e.g. the number of answerable questions using the graph). One ongoing challenge when building a knowledge graph is to ensure completeness and freshness of the graph's entities and facts. In this paper, we introduce ODKE, a scalable and extensible framework that sources high-quality entities and facts from open web at scale. ODKE utilizes a wide range of extraction models and supports both streaming and batch processing at different latency. We reflect on the challenges and design decisions made and share lessons learned when building and deploying ODKE to grow an industry-scale open domain knowledge graph.
Analyzing the Influence of Knowledge Graph Information on Relation Extraction
Universität Hamburg, Department of Informatics, Semantic Systems, Germany(汉堡大学信息学院语义系统研究所,德国);Leuphana Universität Lüneburg, Institute for Information Systems, Artificial Intelligence(吕贝克大学信息学院人工智能研究所)
Exploring the Suitability of Semantic Spaces as Word Association Models for the Extraction of Semantic Relationships
University of Westminster(威斯敏斯特大学);Oakland University(奥克兰大学)
随着自然语言处理(Natural Language Processing,NLP)技术的不断发展,语义关系的提取成为近年来的研究热点。这项工作的主要动机是这样一个事实,即建立知识图谱(KG)和基地(KB),作为智能应用程序的一个关键组成部分,是一个永无止境的挑战,因为新的知识需要收获,而旧的知识需要修改。目前,从文本中提取关系抽取的方法主要是神经模型,这些神经模型在大型语料库的机器学习中进行某种远程(弱)监督,无论是否咨询外部知识源。在本文中,我们实证研究和探索使用经典语义空间和模型的新想法的潜力,例如,词嵌入,用于提取词关联,结合关系抽取方法。我们的目标是使用这些词关联模型,以加强目前的关系抽取的方法。我们认为,这是第一次尝试这种研究的结果应该在一定程度上阐明这些词的关联模型可以使用,以及最有前途的类型的关系,以考虑提取。
Multimodal Learning on Graphs for Disease Relation Extraction
Beijing Institute of Technology(北京理工大学);University of Southern California(南加州大学);Tsinghua University(清华大学);Harvard T.H.Chan School of Public Health(哈佛陈曾熙公共卫生学院);Harvard Medical School(哈佛医学院);Broad Institute of MIT and Harvard(麻省理工学院和哈佛大学博德研究所);Harvard Data Science Initiative(哈佛数据科学研究院)
Few-shot Continual Relation Extraction via Open Information Extraction
Hanoi University of Science and Technology(河内科技大学);Oraichain Labs Inc.(Oraichain实验室公司);VinAI Research(VinAI研究院);Bytedance(字节跳动);VNU University of Engineering and Technology(越南国家大学工程技术大学);University of Oregon(俄勒冈大学)
Domain Knowledge Empowered Structured Neural Net for End-to-End Event Temporal Relation Extraction
Information Sciences Institute, University of Southern California(南加州大学信息科学研究所);Department of Computer Science, University of Southern California(南加州大学计算机科学系);Department of Computer Science, University of California, Los Angeles(加州大学洛杉矶分校计算机科学系)
Universal Information Extraction with Meta-Pretrained Self-Retrieval
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Xiaomi AI Lab, Xiaomi Inc.(小米公司小米人工智能实验室)
Knowledge-guided Convolutional Networks for Chemical-Disease Relation Extraction
School of Computer Science and Technology, Dalian University of Technology(大连理工大学计算机科学与技术学院);School of Foreign Languages, Dalian University of Technology(大连理工大学外国语学院);School of Mathematical Sciences, Dalian University of Technology(大连理工大学数学科学学院)
背景资料:从非结构化文本中自动提取化学-疾病关系对于疾病治疗和药物开发具有重要意义。与此同时,生物医学专家已经建立了许多高度结构化的知识库(KBs),其中包含有关化学品和疾病的先验知识。先验知识为CDR提取提供了强有力的支持。如何充分利用它是值得研究的问题。结果:本文提出了一种新的模型,称为“知识引导卷积网络(KCN)”,利用先验知识的CDR提取。该模型首先从知识库中学习包括实体嵌入和关系嵌入的知识表示。然后,使用实体嵌入来控制上下文特征向具有门控卷积的化学疾病对的传播。在此基础上,通过共享注意池,利用关系嵌入进一步获取加权上下文特征。最后,包含额外知识信息的加权上下文特征用于CDR提取。在BioCreative V CDR数据集上的实验表明,所提出的KCN达到了71.28%的F1分数,这优于大多数最先进的系统。结论:本文提出了一种新的CDR提取模型KCN,以充分利用先验知识。实验结果表明,KCN可以有效地集成先验知识和上下文的性能提高。
Knowledge-aware Attention Network for Protein-Protein Interaction Extraction
School of Computer Science and Technology, Dalian University of Technology(大连理工大学计算机科学与技术学院);School of Foreign Languages, Dalian University of Technology(大连理工大学外国语学院);School of Mathematical Sciences, Dalian University of Technology(大连理工大学数学科学学院)
从已发表的科学文献中提取蛋白质-蛋白质相互作用(PPI)为精准医学工作提供了额外的支持。然而,目前的许多PPI提取方法需要大量的特征工程,不能充分利用知识库(KB)中的先验知识。知识库包含了大量的实体和关系的结构化信息,因此在PPI抽取中起着关键作用。本文提出了一种知识感知的注意力网络(KAN)融合蛋白质-蛋白质对的先验知识和上下文信息的PPI提取。该模型首先采用对角禁用的多头注意力机制编码上下文序列以及从知识库中学习的知识表示。然后,一个新的多维注意力机制被用来选择的功能,可以最好地描述编码的上下文。在BioCreative VI PPI数据集上的实验结果表明,该方法能够获得序列中不同单词之间的知识感知依赖关系,并获得新的性能。
Improving Neural Protein-Protein Interaction Extraction with Knowledge Selection
School of Computer Science and Technology, Dalian University of Technology(大连理工大学计算机科学与技术学院);School of Mathematical Sciences, Dalian University of Technology(大连理工大学数学科学学院)
从已发表的科学文献中提取蛋白质-蛋白质相互作用(PPI)为精准医学工作提供了额外的支持。同时,知识库(KBs)包含了大量的蛋白质实体及其关系的结构化信息,这些信息可以编码在实体和关系嵌入中,以帮助PPI提取。然而,必须有选择地使用蛋白质-蛋白质对的先验知识,以便它适用于不同的背景。本文提出了一种知识选择模型(KSM)融合选择的先验知识和上下文信息的PPI提取。首先,两个Transformers根据每个蛋白质嵌入分别编码蛋白质对的上下文序列。然后,将两个输出馈送到相互关注以捕获针对蛋白质对的重要上下文特征。然后,利用上下文特征通过知识选择器提取关系嵌入。最后,所选择的关系嵌入和上下文特征连接PPI提取。在BioCreative VI PPI数据集上的实验表明,KSM通过添加知识选择实现了新的最先进的性能(38.08%F1分数)。
Graph Neural Network-Based Entity Extraction and Relationship Reasoning in Complex Knowledge Graphs
Shanghai Jiao Tong University(上海交通大学);San Francisco State University(旧金山州立大学);Stevens Institute of Technology(史蒂文斯理工学院);New York University(纽约大学);Tulane University(杜兰大学);Columbia University(哥伦比亚大学)
Leveraging Prior Knowledge for Protein-Protein Interaction Extraction with Memory Network
School of Computer Science and Technology, Dalian University of Technology(大连理工大学计算机科学与技术学院)
从生物医学文献中自动提取蛋白质-蛋白质相互作用(PPI)为精准医学工作提供了额外的支持。本文提出了一种新的基于记忆网络的PPI提取模型(MNM),利用记忆网络的蛋白质-蛋白质对的先验知识。所提出的MNM捕获重要的上下文线索相关的知识表示从知识库中学习。先验知识的实体嵌入和关系嵌入都能有效地改进PPI提取模型,从而在BioCreative VI PPI数据集上实现新的最先进性能。本文还表明,在外部存储器上的多个计算层优于具有本地存储器的长短期记忆网络。