Exploiting Transitivity Constraints for Entity Matching in Knowledge Graphs
Utrecht University(乌得勒支大学)
知识图谱中实体匹配的目标是使用某种相似性度量来识别引用相同现实世界对象的实体。实体匹配的结果可以看作是一组被解释为相同关系的实体对。然而,所识别的一组对可能无法满足一些结构属性,特别是传递性,这是预期从相同的关系。在这项工作中,我们表明,一个特设的强制执行的传递性,即采取传递闭包,对确定的一组实体对可能会显着降低精度。因此,我们提出了一种方法,从一个给定的相似性度量开始,生成一组实体对,这些实体对被识别为引用相同的现实世界的对象,并应用集群编辑算法来执行传递性,而不添加许多虚假的链接,从而提高整体性能。
2021-04-22 cs.AI cs.DL cs.SI
Survey on English Entity Linking on Wikidata
Universität Hamburg(汉堡大学);University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);HITeC Hamburg e.V.(汉堡信息技术中心)
维基数据是一个经常更新的、社区驱动的、多语言的知识图谱。因此,维基数据是实体链接的一个有吸引力的基础,这一点从最近发表论文的增加中可以看出。本次调查主要关注四个主题:(1)存在哪些维基数据实体链接数据集,它们的使用范围有多广,以及它们是如何构建的?(2)维基数据的特征对实体链接数据集的设计是否重要?如果是,如何重要?(3)当前的实体链接方法如何利用维基数据的特定特征?(4)现有的实体链接方法没有利用维基数据的哪些特征?这项调查显示,当前维基数据特定的实体链接数据集在注释方案上与其他知识图谱(如DBpedia)的方案没有区别。因此,自然适合维基数据的多语言和时间相关数据集的潜力并没有被提升。此外,我们表明,大多数实体链接方法使用维基数据的方式与任何其他知识图谱错过了利用维基数据的特定特征,以提高质量的机会。几乎所有的方法都使用特定的属性,如标签,有时还使用描述,但忽略了超关系结构等特征。因此,仍然有改进的空间,例如,通过包括超关系图嵌入或类型信息。许多方法还包括来自维基百科的信息,这些信息很容易与维基数据结合,并提供维基数据所缺乏的有价值的文本信息。
2021-12-03 cs.AI cs.CL cs.LG
Principles for Developing a Knowledge Graph of Interlinked Events from News Headlines on Twitter
University of Dayton(代顿大学);Knoesis Research Center(Knoesis研究中心)
在链接开放数据上发布的不断增长的数据集主要包含百科信息。然而,缺乏从非结构化实时源中提取的高质量的结构化和语义注释的数据集。在本文中,我们提出的原则,开发一个知识图谱的相互关联的事件使用的情况下,在Twitter上发布的新闻标题,这是一个实时和多事件的新鲜信息源研究。我们表示包含从选择背景数据模型、事件注释(即,事件识别和分类)、实体注释以及最终互连事件。国家的最先进的是限于特定领域的情况下识别和分类的事件,而本文发挥的作用,开发一个知识图谱的相互关联的事件的领域不可知的路线图。
2018-08-06 cs.AI cs.CL cs.IR
AutoETER: Automated Entity Type Representation for Knowledge Graph Embedding
Beihang University(北京航空航天大学);Hikvision Research Institute(海康威视研究院);Pengcheng Laboratory(鹏城实验室)
知识图谱嵌入(KGE)的最新进展允许在连续向量空间中表示实体和关系。一些传统的KGE模型利用额外的类型信息,可以提高实体的表示,但完全依赖于显式类型或忽略特定于各种关系的不同类型表示。此外,现有的方法都不能同时推断出对称、反转和复合的所有关系模式以及1-N、N-1和N-N关系的复杂性质。为了探索任何KG的类型信息,我们开发了一个新的KGE框架与自动实体类型表示(AutoETER),学习每个实体的潜在类型嵌入,将每个关系视为两个实体的类型之间的转换操作,具有关系感知的投影机制。特别是,我们设计的自动类型表示学习机制是一个可插拔的模块,可以很容易地与任何KGE模型。此外,我们的方法可以建模和推断所有的关系模式和复杂的关系。在四个数据集上的实验表明,该模型在链接预测任务上的性能优于现有的基线模型,并且类型聚类的可视化清晰地解释了类型嵌入,验证了该模型的有效性.
2020-10-06 cs.AI cs.CL
ClusterEA: Scalable Entity Alignment with Stochastic Training and Normalized Mini-batch Similarities
Zhejiang University(浙江大学);Aalborg University(奥尔堡大学)
实体对齐的目的是在不同的知识图谱中找到等价的实体。基于嵌入的方法近年来主导了EA任务。这些方法面临的问题来自嵌入向量的几何属性,包括hubness和隔离。为了解决这些几何问题,许多归一化方法已被采用的EA。然而,越来越大的规模的KG渲染EA模型很难采用规范化过程,从而限制了它们在现实世界中的应用。为了应对这一挑战,我们提出了ClusterEA,这是一个通用框架,能够通过利用具有高实体等效率的小批量标准化方法来扩展EA模型并增强其结果。QuantiterEA包含三个组件来对齐大规模KG之间的实体,包括随机训练,QuantiterSampler和SparseFusion。它首先以随机的方式为EA训练一个大规模的Siamese GNN,以产生实体嵌入。在此基础上,提出了一种新的用于高度重叠小批量采样的随机采样器策略。最后,QuarterEA结合了SparseFusion,它对局部和全局相似性进行归一化,然后融合所有相似性矩阵以获得最终的相似性矩阵。在EA基准测试上使用真实数据集进行的广泛实验提供了对所提出的框架的深入了解,并表明它能够在Hits@1方面超过最先进的可扩展EA框架多达8倍。
2022-06-06 cs.AI cs.CL cs.DB
Entity Decomposition with Filtering: A Zero-Shot Clinical Named Entity Recognition Framework
The Ohio State University(俄亥俄州立大学);Translational Data Analytics Institute, The Ohio State University(俄亥俄州立大学转化数据分析研究所);College of Pharmacy, The Ohio State University(俄亥俄州立大学药学院)
本文针对开放NER LLM在临床实体上的性能差异,提出EDF框架,通过分解实体子类型并过滤结果,在零样本临床NER中实现跨模型、数据集和实体类型的一致提升。
2025-02-19 cs.AI cs.CL
Nested Named Entity Recognition from Medical Texts: An Adaptive Shared Network Architecture with Attentive CRF
University of Science and Technology of China(中国科学技术大学);Tsinghua University(清华大学)
在医学信息处理中,识别有用命名实体是一个重要的研究课题,它的研究将推动医学领域的研究发展。深度学习方法在医学命名实体识别(NER)中取得了良好的效果。然而,我们发现,现有的方法面临着巨大的挑战时,处理嵌套命名实体。在这项工作中,我们提出了一种新的方法,简称为ASAC,以解决由嵌套现象,其中的核心思想是不同类别的实体识别之间的依赖性建模所造成的困境。该方法包含两个关键模块:自适应共享(AS)部分和注意条件随机场(ACRF)模块。前一部分自动为每个任务分配自适应权重,以在多层网络中实现最佳识别精度。后一个模块采用注意力操作来建模不同实体之间的依赖关系。通过这种方式,我们的模型可以通过捕捉不同类别实体之间的隐含区别和关系来学习更好的实体表示。在公开数据集上的实验验证了该方法的有效性。此外,我们还进行了消融分析,以深入了解我们的方法。
2022-11-09 cs.AI cs.CL
Learning "O" Helps for Learning More: Handling the Concealed Entity Problem for Class-incremental NER
Fudan University(复旦大学);DataGrand Information Technology (Shanghai) Co., Ltd.(上海达观数据科技有限公司)
针对类别增量NER中未标注实体被当作“O”造成的混淆问题,提出实体感知对比学习与基于距离的重标注策略,并在新基准上最高提升10.62%。
2023-07-24 cs.AI cs.CL
Interactive Spatiotemporal Token Attention Network for Skeleton-based General Interactive Action Recognition
Sun Yat-sen University(中山大学);Tencent Technology (Shenzhen) Co., Ltd.(腾讯科技(深圳)有限公司);Peking University(北京大学)
针对交互动作识别中主体多样性问题,提出ISTA-Net,通过交互式时空Token统一表示多主体动作,结合多头自注意力与3D卷积联合建模时空与交互关系,并引入主体重排消除顺序依赖,在四个数据集上优于现有方法。
2023-07-14 cs.AI cs.CV cs.RO
Capturing Knowledge of Emerging Entities From Extended Search Snippets
University of Dayton(代顿大学);University of Leipzig(莱比锡大学)
Google和其他搜索引擎通过表示概括关于用户提供的实体的相关事实的知识卡来表征实体搜索。然而,知识卡仅限于具有Wiki页面或在诸如Freebase之类的百科全书中有条目的某些实体。目前的实体仅限于非常受欢迎的实体,与新兴实体相比要少得多。尽管在搜索结果中有关于新兴实体的知识,但还没有方法来捕获、抽象、总结、融合和验证关于它们的碎片化知识。因此,在本文中,我们开发的方法来捕捉两种类型的知识的新兴实体从一个语料库扩展从一个给定的新兴实体的前n个搜索片段。第一种知识将新兴实体的角色识别为,例如,他/她是谁?第二类是与新兴实体密切相关的实体。作为测试平台,我们考虑了20个新兴实体和20个流行实体的集合作为基础事实。我们的方法是一种基于文本分析和实体嵌入的无监督方法。我们的实验研究表明,有前途的结果,超过$87\%$识别实体和$75\%$对他们进行排名的准确性。此外,伴随类型的$87\%$可识别。我们的测试平台和源代码可以在Github https://github.com/sunnyUD/research_source_code上找到。
2021-03-17 cs.AI cs.IR
Navigating Taxonomic Expansions of Entity Sets Driven by Knowledge Bases
University of Calabria(卡拉布里亚大学);University of Cyprus(塞浦路斯大学)
本文提出了一种基于逻辑的框架,通过扩展图结构实现由知识库驱动的实体集分类扩展,并通过高效推理任务支持局部增量导航。
2026-09-23 cs.AI cs.LO
NERetrieve: Dataset for Next Generation Named Entity Recognition and Retrieval
Bar-Ilan University(巴伊兰大学);Allen Institute for AI(艾伦人工智能研究所)
本文认为LLM未终结NER研究,提出NERetrieve数据集支持三项进阶任务:细粒度交叉实体识别、零样本实体抽取及零样本实体检索,并提供400万段落、500类实体的大型语料库以推动研究。
2023-10-22 cs.AI cs.CL cs.IR
A Boundary Regression Model for Nested Named Entity Recognition
Guizhou University(贵州大学);Xian’an Jiaotong University(西安交通大学);University of Massachusetts Boston(马萨诸塞大学波士顿分校)
识别命名实体(NE)通常作为分类问题来进行,该分类问题预测句子中的词或NE候选的类标签。在浅层结构中,分类特征被加权以支持预测。神经网络的最新发展已经采用了将分类特征映射为连续表示的深层结构。这种方法展开了一个密集的空间饱和的高阶抽象语义信息,预测是基于分布式特征表示。在本文中,NE在句子中的位置表示为连续值。然后引入一个回归操作来回归句子中的NE边界。在边界回归的基础上,设计了一个支持嵌套NE识别的边界回归模型。它是一个多目标学习框架,同时预测NE候选的分类得分并细化其在句子中的空间位置。它具有解决嵌套网元和支持边界回归定位网元在一个句子的优势。通过共享预测和定位参数,该模型使更强大的非线性函数逼近器,以提高模型的鉴别力。实验证明了嵌套NE识别\footnote{Our codes to implement the BR model are available at: \url{https://github.com/wuyuefei3/BR}.}的最新性能。
2022-01-30 cs.AI cs.CL
From Zero to Hero: Harnessing Transformers for Biomedical Named Entity Recognition in Zero- and Few-shot Contexts
Institute for Artificial Intelligence Research and Development of Serbia(塞尔维亚人工智能研究与发展研究所);Bayer A.G.(拜耳公司)
本文提出一种基于二元词元分类的零样本和少样本生物医学命名实体识别方法,通过预训练学习语义关系,使用微调PubMedBERT模型在极少参数下取得优于以往Transformer且媲美GPT3的性能。
2024-08-25 cs.AI cs.CL cs.IR
Merging datasets through deep learning
IBM Research(IBM研究院);Yeshiva University(叶史瓦大学)
合并数据集是数据分析的关键操作。合并的一个常见要求是连接同一实体具有不同表面形式的列(例如,一个人的名字可以表示为“Douglas Adams”或“Adams,Douglas”)。类似地,本体对齐可能需要识别相同实体的不同表面形式,特别是当本体独立开发时。然而,数据管理系统当前限于基于字符串相等或至多使用字符串相似性来执行合并。我们提出了一种基于深度学习模型执行合并的方法。我们的方法依赖于(a)创建一个深度学习模型,将实体的表面形式映射到一组向量中,使得同一实体的替代形式在向量空间中最接近,(b)使用最近邻算法对这些向量进行索引,以找到可能连接在一起的形式。为了建立这些模型,我们必须适应技术从度量学习由于数据的特点,具体来说,我们描述了新的样本选择技术和损失函数,为这个问题的工作。为了评估我们的方法,我们使用维基数据作为基础事实,并从大约110万人的名字(20万个身份)和13万公司名称(7万个身份)的数据集构建模型。我们开发的模型允许连接的精度为0.75 - 0.81,召回率为0.74 - 0.81。我们使模型可用于在多个数据集中对齐人员或公司。
2018-09-05 cs.AI cs.LG stat.ML
JaMIE: A Pipeline Japanese Medical Information Extraction System
Kyoto University(京都大学);Nara Institute of Science and Technology(奈良先端科学技术大学院大学)
我们提出了一个开放访问的自然语言处理工具包,日本医疗信息抽取。我们首先提出了一个新的关系注释模式,调查日本医疗报告中的医疗和医疗实体之间的时间关系。我们通过分别注释两种不同类型的报告来试验实际的注释场景。我们设计了一个管道系统,由三个部分组成,用于识别医疗实体,分类实体模态和提取关系。实验结果表明,该模型具有较好的分析性能,标注质量较好,标注策略有效,并体现了最新上下文嵌入模型的优越性。
2021-11-08 cs.AI cs.CL
Fine-Grained Entity Typing for Domain Independent Entity Linking
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
神经实体链接模型非常强大,但存在过度拟合其训练领域的风险。对于这个问题,一个域的特征不仅在于文本的类型,甚至还在于实体的特定分布等特定因素,因为神经模型往往会通过记忆数据集中频繁实体的属性来过拟合。我们解决的问题,建立强大的实体链接模型,有效地推广,不依赖于标记的实体链接数据与特定的实体分布。我们的方法不是直接预测实体,而是对细粒度的实体属性进行建模,这可以帮助消除甚至密切相关的实体之间的歧义。我们从Wikipedia分类中获得大量的类型(数万个),并使用Wikipedia中的超链接提及来远程标记数据并训练实体类型模型。在测试时,我们使用此类型模型对提及进行分类,并使用软类型预测将提及链接到最相似的候选实体。我们在CoNLL-YAGO数据集上评估我们的实体链接系统(Hoffart等人,2011),并表明我们的方法优于以前的域独立的实体链接系统。我们还在来自WikilinksNED数据集的更难的设置中测试了我们的方法(Eshel等人,2017),其中所有提及实体对在测试时间期间是不可见的。结果表明,我们的方法比数据集上最先进的神经模型更好地推广。
2020-01-08 cs.AI cs.CL cs.LG
Deep Learning Based Named Entity Recognition Models for Recipes
Infosys Centre of Artificial Intelligence, IIIT-Delhi(IIIT-德里 Infosys 人工智能中心);Department of Computational Biology, IIIT-Delhi(IIIT-德里 计算生物学系);Department of Computer Science, IIIT-Delhi(IIIT-德里 计算机科学系)
本文构建了手动标注、增强和机器标注三个食谱食材短语数据集,系统比较统计方法、深度学习微调和LLM少样本提示,发现微调spaCy-transformer效果最佳,宏F1超过95%。
2024-06-06 cs.AI cs.CL cs.IR
A Unified Approach to Entity-Centric Context Tracking in Social Conversations
Google Research(谷歌研究院)
在人与人的对话中,上下文跟踪处理识别重要实体并跟踪其属性和关系。这是一个具有挑战性的问题,包括几个子任务,如槽标记,共指消解,解决复数提及和实体链接。我们处理这个问题作为一个端到端的建模任务,其中的会话上下文是由一个实体存储库,包含迄今为止提到的实体引用,它们的属性和它们之间的关系。存储库逐轮更新,因此即使对于长时间的对话,也可以提高训练和推理的计算效率。本文从两个方面为这一框架的研究奠定了基础。首先,我们发布了Contrack,这是一个大规模的人与人对话语料库,用于使用人和位置注释进行上下文跟踪。它包含超过7000个对话,平均每个对话有11.8个回合,5.8个实体和15.2个引用。其次,我们开源了一个用于上下文跟踪的神经网络架构。最后,我们比较了这个网络的最先进的方法,它所包含的子任务和报告的结果所涉及的权衡。
2022-04-26 cs.AI cs.CL
Entity Embeddings with Conceptual Subspaces as a Basis for Plausible Reasoning
Cardiff University(卡迪夫大学)
概念空间是概念知识的几何表示,其中实体对应于点,自然属性对应于凸区域,并且空间的维度对应于显著特征。虽然概念空间能够为各种认知现象提供优雅的模型,但迄今为止,缺乏构建此类表示的自动化方法限制了它们在人工智能中的应用。为了解决这个问题,我们提出了一种方法,学习向量空间嵌入的实体从维基百科和约束这种嵌入,使相同的语义类型的实体位于一些低维子空间。我们实验证明这些子空间的有用性(近似)概念空间表示,除其他外,重要的功能可以建模为方向和自然属性往往对应于凸区域。
2017-10-25 cs.AI cs.CL
PAI at SemEval-2023 Task 2: A Universal System for Named Entity Recognition with External Entity Information
Ping An Life Insurance Company of China, Ltd.(中国平安人寿保险股份有限公司)
针对低上下文和噪声场景下的细粒度命名实体识别挑战,提出融合维基百科外部实体信息的通用NER系统,在MultiCoNER II的13个赛道中取得多项领先成绩。
2023-05-10 cs.AI cs.CL
MC-DRE: Multi-Aspect Cross Integration for Drug Event/Entity Extraction
The University of Sydney(悉尼大学);The University of Western Australia(西澳大学);The University of Manchester(曼彻斯特大学)
本文提出 MC-DRE 多方面交叉整合框架,融合语义、句法与医学语境编码,并通过键值、注意力和前馈三种交叉机制提升药物实体/事件抽取性能。
2023-08-15 cs.AI cs.CL
Doctoral Advisor or Medical Condition: Towards Entity-specific Rankings of Knowledge Base Properties [Extended Version]
University of Trento(特伦托大学)
在维基数据等知识库中,可以为实体断言大量属性,从通用属性(如姓名和出生地)到高度专业特定或背景特定的属性(如博士生导师或医疗状况)。在这个大集合中确定偏好或排名是一项挑战,例如编辑优先级或自然语言生成。大多数以前的方法来排名知识库属性是纯粹的数据驱动,也就是说,正如我们所展示的,错误的频率为兴趣。在这项工作中,我们已经开发了一个人类注释的数据集的350对知识库属性的固定实体之间的偏好判断。从这个集合中,我们分离出一个人类表现出高水平一致性(平均87.5%)的配对子集。然而,我们发现,基线和最先进的技术在预测人类对这一子集的偏好方面仅达到61.3%的精度。然后,我们分析是什么导致一个属性被评为比另一个属性更重要,并确定至少有三个因素起作用,即(i)一般频率,(ii)适用于类似实体和(iii)属性和实体之间的语义相似性。我们通过实验分析了每个因素的贡献,并表明解决所有三个因素的技术组合在任务上达到了74%的精度。该数据集可在www.kaggle.com/srazniewski/wikidatapropertyranking上获得。
2017-09-20 cs.AI cs.CL cs.DB
Another Generic Setting for Entity Resolution: Basic Theory
Bennyoun等人的\cite{BGSWW}将实体解析(ER)问题视为匹配和合并被判断为表示相同现实世界对象的实体记录的通用过程。他们将匹配和合并实体记录的函数视为黑盒,并引入了四个重要的属性,这些属性可以实现高效的通用ER算法。在本文中,我们将研究的属性匹配和合并功能共享,模型匹配和合并黑盒ER在部分广群,匹配和合并功能满足的属性的基础上,并表明,部分广群提供了另一个通用的设置ER。当部分广群满足幂等结合和悬链线结合时,定义了部分广群上的自然偏序。给定一个偏广群上的偏序,最小上界和相容性($LU_{pg}$和$CP_{pg}$)性质等价于恒等性、交换性、结合性和表示性,并且当偏序运算的定义域是自反的时,偏序必须是我们定义的自然偏序.部分广群的连通分支和团覆盖可以约化部分广群的连通分支,如果非交换部分广群具有部分幂等半群类结构,则它可以同态映射到交换部分广群.在不需要任何条件的递归生成的部分广群$(P,D,\circ)$中,我们所关心的ER是$P$中的全部元素。如果$(P,D,\circ)$满足Idemonary和Catenary结合性,则ER是$P$中的最大元素,它们是满元素并且形成\cite{BGSWW}中定义的ER。此外,在这种情况下,由于存在传递的二进制顺序,我们认为ER是``排序,选择和查询在一个随机生成的部分广群中的元素。"
2023-03-12 cs.AI cs.DB cs.DM
Narrative-UFET: Narrative Generation for Ultra-Fine Entity Typing
University of Colorado Boulder(科罗拉多大学博尔德分校)
提出Narrative-UFET方法,通过自动生成短叙事扩展超细粒度实体类型,利用叙事上下文改善长尾类型识别,其中类型变化变体提供更强信号。
2026-10-06 cs.AI cs.CL
EmbeddingTree: Hierarchical Exploration of Entity Features in Embedding
Visa Research(维萨研究)
本文提出 EmbeddingTree 层次化嵌入探索算法及交互式可视化工具,将实体特征语义与嵌入向量关联,支持特征去噪、注入及未见实体嵌入生成,并在工业级商户数据和公开 30Music 数据集上验证了有效性。
2023-08-02 cs.AI cs.LG
Is 'Hope' a person or an idea? A pilot benchmark for NER: comparing traditional NLP tools and large language models on ambiguous entities
Department of Humanities University of Turin(人文学院 特林姆大学)
本研究构建了小规模NER基准,对比三种传统NLP工具与三种LLM在歧义实体识别上的表现,发现LLM在上下文敏感实体上更优,而传统工具在结构化标签上更稳定,为模型选择提供了参考。
2025-09-15 cs.AI cs.CL
DEXTER: Deep Encoding of External Knowledge for Named Entity Recognition in Virtual Assistants
Apple(苹果公司)
本文提出DEXTER系统,通过深度编码外部知识并结合搜索与间接标注技术,在虚拟助手噪声输入下将NER错误率降低约6%,并提升语义解析性能。
2021-08-15 cs.AI cs.CL cs.LG