DHGE: Dual-View Hyper-Relational Knowledge Graph Embedding for Link Prediction and Entity Typing
School of Computer Science, Beijing University of Posts and Telecommunications（北京邮电大学计算机学院）
提出双视图超关系知识图谱结构DH-KG及嵌入模型DHGE，首次定义链接预测和实体类型标注任务，构建两个数据集，实验表明模型优于基线，并应用于高血压治疗。
2023-03-31 cs.AI cs.CL cs.LG
Denoising Enhanced Distantly Supervised Ultrafine Entity Typing
Baidu Research（百度研究院）
最近，远程监督（DS）超精细实体分类的任务受到了极大的关注。然而，DS数据是有噪声的，并且经常遭受缺失或错误的标签问题，导致低精度和低召回率。本文提出了一种新的具有去噪能力的超精细实体分类模型。具体来说，我们建立了一个噪声模型来估计输入上下文和噪声类型标签上的未知标签噪声分布。利用噪声模型，可以通过从输入中减去估计的噪声来恢复更可信的标签。此外，我们提出了一个实体分类模型，它采用双编码器架构，在去噪数据上进行训练。最后，噪声模型和实体分类模型被迭代地训练以相互增强。我们在Ultra-Fine实体类型数据集和OntoNotes数据集上进行了广泛的实验，并证明了我们的方法显着优于其他基线方法。
2022-10-18 cs.CL
Corpus-level Fine-grained Entity Typing Using Contextual Information
Center for Information and Language Processing（信息与语言处理中心）；University of Munich（慕尼黑大学）
本文讨论了语料库级实体类型化的问题，即，从大型语料库推断出实体是诸如“食物”或“艺术家”之类的类的成员。我们感兴趣的实体类型化的应用是知识库完成，具体来说，就是学习实体是哪个类的成员。我们提出FIGMENT来解决这个问题。图1是基于嵌入的，并且组合（i）基于实体的聚合上下文信息进行评分的全局模型和（ii）首先对实体的个体出现进行评分然后聚合评分的上下文模型。在我们的评估中，FIGMENT大大优于依赖于由开放的信息抽取系统获得的关系的实体分类方法。
2016-06-25 cs.CL
Ultra-Fine Entity Typing with Weak Supervision from a Masked Language Model
HKUST（香港科技大学）；Instacart（因斯塔卡特）
最近，人们努力通过使用更丰富和超精细的类型集合来扩展细粒度的实体类型，并且标记包括代词和名词性名词的名词短语，而不仅仅是命名的实体提及。这种超精细实体分类任务的一个关键挑战是，人类注释的数据非常稀缺，现有的远程或弱监督方法的注释能力非常有限。为了解决这个问题，在本文中，我们建议通过使用BERT掩蔽语言模型（MLM）来获取用于超细实体分类的训练数据。给定一个句子中的提及，我们的方法为BERT MLM构造一个输入，以便它预测提及的上下文相关上位词，这些上位词可以用作类型标签。实验结果表明，在这些自动生成的标签的帮助下，超细实体分类模型的性能可以得到大幅提高。我们还表明，我们的方法可以应用于改进传统的细粒度实体类型执行简单的类型映射后。
2021-06-08 cs.CL
Improving Fine-grained Entity Typing with Entity Linking
HKUST（香港科技大学）；Tencent Technology (SZ) Co., Ltd.（腾讯科技（深圳）有限公司）
细粒度的实体类型是一个具有挑战性的问题，因为它通常涉及相对较大的标记集，并且可能需要理解实体提及的上下文。在本文中，我们使用实体链接来帮助细粒度的实体类型分类过程。我们提出了一个深度神经模型，它根据上下文和从实体链接结果中获得的信息进行预测。在两个常用数据集上的实验结果证明了该方法的有效性。在这两个数据集上，它实现了超过5%的绝对严格精度提高。
2019-09-26 cs.CL
Does Your Model Classify Entities Reasonably? Diagnosing and Mitigating Spurious Correlations in Entity Typing
University of Southern California（南加州大学）
实体分类的目的是预测一个或多个描述句子中特定提及类型的单词。由于从表面模式到标注实体标签的捷径和有偏见的训练，现有的实体分类模型受到虚假相关性的问题。为了全面研究实体分型方法的可信度和可靠性，我们首先系统地定义了不同类型的模型偏差，这些偏差主要反映在虚假的相关性上。特别是，我们确定了六种类型的现有的模型偏差，包括提及上下文偏差，词汇重叠偏差，命名实体偏差，代词偏差，依赖偏差和过度概括偏差。为了减轻模型偏差，我们引入了一个反事实的数据增强方法。通过用去偏见的对应物来增强原始训练集，模型被迫完全理解句子并发现实体类型的基本线索，而不是依赖于虚假的相关性来寻找捷径。在UFET数据集上的实验结果表明，我们的反事实数据增强方法有助于提高不同实体类型模型的泛化能力，在原始测试集和去偏测试集上都具有更好的性能。
2022-10-26 cs.CL
E2EET: From Pipeline to End-to-end Entity Typing via Transformer-Based Embeddings
The University of Western Australia（西澳大学）
实体分类（Entity Typing，ET）是识别语料库中每个实体的语义类型的过程。与命名实体识别不同，句子中的每个标记都标有零个或一个类标签，ET涉及用一个或多个类标签标记每个实体。现有的实体分类模型，在提到的水平，是有限的，由两个关键因素：他们不使用最近提出的上下文相关的嵌入，并在固定的上下文窗口上训练。因此，它们对窗口大小的选择很敏感，并且无法包含整个文档的上下文。鉴于这些缺点，我们建议将上下文使用基于transformer的嵌入用于提及级模型，以及使用Bi-GRU的端到端模型来消除对窗口大小的依赖。一项广泛的消融研究表明，上下文嵌入的有效性，提及级模型和竞争力，我们的端到端模型的实体类型。
2020-03-23 cs.CL
Fine-grained Entity Typing through Increased Discourse Context and Adaptive Classification Thresholds
Johns Hopkins University（约翰斯·霍普金斯大学）
细粒度实体类型化是指为实体提及分配细粒度语义类型的任务。我们提出了一种神经架构，它学习分布式语义表示，利用更大量的语义上下文-文档和句子级别的信息-比以前的工作。我们发现，额外的上下文提高了性能，通过利用自适应分类阈值得到进一步的改善。实验表明，我们的方法不依赖于手工制作的功能实现了最先进的结果在三个基准数据集。
2018-04-21 cs.CL
EnCore: Fine-Grained Entity Typing by Pre-Training Entity Encoders on Coreference Chains
Cardiff University（卡迪夫大学）
针对细粒度实体类型标注人工标注成本高、共指链接噪声大的问题，提出EnCore方法，采用两种现成系统共预测的共指链接预训练实体编码器，刷新了细粒度实体类型标注基准最优性能并提升传统实体抽取效果。
2024-01-27 cs.CL
Noise Mitigation for Neural Entity Typing and Relation Extraction
LMU Munich（慕尼黑大学）
在本文中，我们解决了两种不同类型的噪音在信息抽取模型：噪音从远程监督和噪音从管道输入功能。我们的目标任务是实体类型和关系抽取。对于第一种噪声类型，我们引入了基于神经网络模型的多实例多标签学习算法，并首次将其应用于细粒度实体分类。这使我们的模型具有与使用全局实体嵌入的最先进的监督方法相当的性能。对于第二种噪声类型，我们提出了改进将噪声实体类型预测集成到关系抽取中的方法。我们的实验表明，概率预测比离散预测更鲁棒，并且两个任务的联合训练表现最好。
2017-01-10 cs.CL
Continuous Prompt Tuning Based Textual Entailment Model for E-commerce Entity Typing
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Saleforce Research（赛富时研究院）；Huski Inc（哈士奇公司）
电子商业的爆炸式增长导致了对产品标题的处理和分析的需求，如产品标题中的实体键入。然而，电子商业中的快速活跃导致了新实体的快速涌现，这是一般实体分型难以解决的问题。此外，电子商业中的产品标题与一般领域的文本数据具有很大的语言风格。为了处理产品标题中的新实体，解决电子商务领域产品标题的特殊语言风格问题，提出了基于连续提示微调的假设融合嵌入文本蕴涵模型，用于电子商业实体分类。首先，我们将实体键入任务重新表述为文本蕴涵问题，以处理训练过程中不存在的新实体。其次，我们设计了一个自动生成文本蕴涵假设的模型，该模型采用连续提示微调的方法，可以在不需要人工设计的情况下生成更好的文本蕴涵假设。第三，利用BERT嵌入和二阶BERT嵌入与两层MLP分类器的融合嵌入，解决了电子商业中产品标题语言风格与一般领域不同的问题。为了分析每个贡献的效果，我们比较了实体类型和文本蕴涵模型的性能，并对连续提示微调和融合嵌入进行了消融研究。我们还评估了不同提示模板初始化对连续提示微调的影响。我们表明，我们提出的模型提高了约2%的平均F1分数相比，基线BERT实体分型模型。
2022-11-04 cs.CL
FGNET-RH: Fine-Grained Named Entity Typing via Refinement in Hyperbolic Space
UNSW（新南威尔士大学）；The Hong Kong University of Science and Technology（香港科技大学）
细粒度命名实体类型（FG-NET）旨在根据上下文将实体提及分类为各种实体类型（通常为数百种）。虽然远程监督是获取监督训练数据的最常见方式，但它带来了标签噪声，因为它为实体提及分配类型标签而不管提及上下文。在处理标签噪声的尝试中，FG-NET上的领先研究假设细粒度实体类型数据具有欧几里得性质，这限制了现有模型对抗标签噪声的能力。考虑到细粒度类型层次结构呈现层次结构的事实，这使得双曲空间成为对FG-NET数据建模的自然选择。在这项研究中，我们提出了FGNET-RH，一个新的框架，受益于双曲几何结合图形结构，以执行实体类型的性能增强的方式。FGNET-RH最初使用LSTM网络来编码与上下文相关的提及，后来它形成一个图来提取/细化双曲空间中的提及编码。最后，细化的提及编码用于实体类型化。使用不同基准数据集的实验表明，FGNET-RH在严格准确性方面将FG-NET的性能提高了3.5%。
2022-06-18 cs.CL
Multi-Multi-View Learning: Multilingual and Multi-Representation Entity Typing
Microsoft Research（微软研究院）；LMU Munich（慕尼黑大学）
知识库（KBs）在NLP中至关重要。我们采用多视图学习来提高知识库中实体类型信息的准确性和覆盖率。我们依赖于两个元视图：语言和表示。对于语言，我们考虑来自维基百科的高资源和低资源语言。对于表示，我们考虑基于实体的上下文分布的表示（即，关于其嵌入），关于实体的名称（即，在其表面形式）和它的描述在维基百科。这两种元视图语言和表示可以自由组合：每对语言和表示（例如，德语嵌入，英语描述，西班牙语名称）是一个独特的观点。我们的实验上的实体类型与细粒度的类证明了多视图学习的有效性。我们发布了MVET，一个我们创建的大型多视图-特别是多语言-实体类型数据集。单语言和多语言细粒度实体类型系统可以在这个数据集上进行评估。
2018-10-24 cs.AI cs.CL
Path-Based Attention Neural Model for Fine-Grained Entity Typing
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；School of Computer Science, University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校计算机科学学院）
细粒度实体类型化的目标是为自由文本中的实体引用分配以层次结构排列的类型。传统的基于远程监督的方法采用结构化数据源作为弱监督，不需要人工标注数据，但忽略了自动标注训练语料中的标签噪声。尽管最近的研究使用了许多特征来在训练之前修剪错误的数据，但它们遭受错误传播并带来了很大的复杂性。在本文中，我们提出了一个端到端的打字模型，称为基于路径的注意力神经模型（PAN），通过利用类型的层次结构来学习噪声鲁棒性能。实验证明了其有效性。
2018-01-09 cs.CL
PIE: a Parameter and Inference Efficient Solution for Large Scale Knowledge Graph Embedding Reasoning
Ant Group（蚂蚁集团）
知识图谱（KG）的嵌入方法，映射的实体和关系的唯一嵌入在KG已显示出良好的结果，在许多推理任务。然而，密集实体和稀疏实体的相同嵌入维度将导致过度参数化（稀疏实体）或拟合不足（密集实体）。通常，设置较大的维度以获得更好的性能。同时，推理时间随着遍历和比较所有实体的实体数量呈对数线性增长。当处理大量实体时，参数和推理都成为挑战。因此，我们提出了PIE，一个\textbf{p}算法和\textbf{i}参考\textbf{e}有效的解决方案。受张量分解方法的启发，我们发现将实体嵌入矩阵分解为低秩矩阵可以在保持相当性能的同时减少一半以上的参数。为了加速模型推理，我们提出了一个自监督的辅助任务，它可以被看作是细粒度的实体类型。通过随机掩蔽和恢复实体的连接关系，任务学习实体和关系的共现。利用细粒度的类型，我们可以过滤不相关的实体在推理过程中，并得到可能的次线性时间要求的目标。在链接预测基准测试上的实验证明了所提出的关键能力。此外，我们证明了所提出的解决方案的有效性在开放图基准的大规模挑战数据集WikiKG90Mv2，并实现了最先进的性能。
2022-05-05 cs.AI cs.CL
MZET: Memory Augmented Zero-Shot Fine-grained Named Entity Typing
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Google Research（谷歌研究院）
命名实体类型化（Named Entity Typing，NET）是一种在上下文中为实体指定特定语义类型的分类任务。然而，随着实体类型的规模和粒度的不断增大，以往的研究很少关注新出现的实体类型。在本文中，我们提出了MZET，一种新的内存增强的FNET（细粒度NET）模型，以处理不可见的类型在一个zero-shot的方式。MZET结合了字符级，单词级和上下文级信息来学习实体提及表示。此外，MZET将语义和层次结构纳入实体类型表示中。最后，通过记忆组件，该模型之间的关系实体提到和实体类型，MZET转移知识从看到的实体类型的zero-shot的。在三个公共数据集上进行的大量实验表明，MZET获得了出色的性能，超过了最先进的FNET神经网络模型，Micro-F1和Macro-F1得分提高了7%。
2020-11-02 cs.CL
Cluster-based Mention Typing for Named Entity Disambiguation
Boğaziçi University（博阿齐奇大学）
本文提出基于聚类的提及类型标注方法，利用维基百科上下文聚类生成类型，辅助命名实体消歧，在多个测试集上达到或超越最先进水平。
2021-09-23 cs.CL
Generative Entity Typing with Curriculum Learning
Fudan University（复旦大学）；Fudan-Aishu Cognitive Intelligence Joint Research Center（复旦-爱数认知智能联合研究中心）
实体类型化的目的是为给定文本中提到的实体分配类型。传统的基于分类的实体类型化范式存在两个不可克服的缺点：1）无法将实体分配给预定义类型集之外的类型; 2）难以处理Few-Shot和zero-shot情况，即许多长尾类型只有很少甚至没有训练实例。为了克服这些缺点，我们提出了一种新的生成实体类型（GET）的范例：给定一个实体提到的文本，多个类型的实体在文本中扮演的角色生成与预先训练的语言模型（PLM）。然而，PLM倾向于在对实体类型数据集进行微调之后生成粗粒度的类型。此外，我们只有异构的训练数据，其中包括一小部分人工注释的数据和大部分自动生成的低质量数据。为了解决这些问题，我们采用课程学习（CL）训练我们的GET模型上的异构数据，其中的课程可以自我调整与自定进度的学习，根据其理解的类型粒度和数据的异构性。我们在不同语言和下游任务的数据集上进行了大量的实验，证明了我们的GET模型优于最先进的实体类型模型。该代码已在https://github.com/siyuyuan/GET上发布。
2022-10-18 cs.AI cs.CL
Semantic Relation Classification via Bidirectional LSTM Networks with Entity-aware Attention using Latent Entity Typing
Hanyang University（汉阳大学）
对句子中实体对之间的语义关系进行分类是自然语言处理的一项重要任务。大多数以前的关系分类模型依赖于由NLP工具获得的高级词汇和句法特征，如WordNet，依赖解析器，词性（POS）标记器和命名实体识别器（NER）。此外，基于注意力机制的最新神经模型没有充分利用实体的信息，而实体的信息可能是关系分类的最关键特征。为了解决这些问题，我们提出了一种新的端到端的递归神经模型，它结合了一个实体感知的注意力机制与潜在的实体类型（LET）的方法。我们的模型不仅有效地利用了实体及其潜在类型作为特征，而且通过可视化应用于我们的模型和LET结果的注意力机制，使其更具可解释性。在SemEval-2010 Task 8（最流行的关系分类任务之一）上的实验结果表明，我们的模型在没有任何高级特征的情况下优于现有的最先进的模型。
2019-01-23 cs.CL
Zero-Shot Open Entity Typing as Type-Compatible Grounding
University of Illinois, Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Pennsylvania（宾夕法尼亚大学）；Bloomberg LP（彭博有限合伙企业）
实体类型化的问题主要是以监督学习的方式来研究的，大多数情况下使用特定于任务的注释（对于粗糙类型），有时使用远程监督（对于精细类型）。虽然这些方法在数据集内具有很强的性能，但它们通常缺乏跨文本类型传输和推广到新类型分类的灵活性。在这项工作中，我们提出了一个zero-shot实体类型的方法，不需要注释的数据，可以灵活地识别新定义的类型。给定一个类型分类定义为布尔函数的FREEBASE“类型”，我们地面一个给定的提到一组类型兼容的维基百科条目，然后推断目标提到的类型使用的推理算法，利用这些条目的类型。我们评估我们的系统在广泛的数据集，包括标准的细粒度和粗粒度的实体类型数据集，也在生物领域的数据集。我们的系统被证明是具有竞争力的最先进的监督NER系统，并优于他们的域外数据集。我们还表明，我们的系统显着优于其他zero-shot精细打字系统。
2019-07-07 cs.CL
Context-aware Entity Typing in Knowledge Graphs
Huazhong University of Science and Technology（华中科技大学）；Beijing Institute of Technology（北京理工大学）
知识图实体分类的目的是推断知识图谱中实体的缺失类型，这是一个重要但尚未充分研究的问题。本文提出了一种新的方法，该任务利用实体的上下文信息。具体来说，我们设计了两种推理机制：i）N2 T：独立地使用实体的每个邻居来推断其类型; ii）Agg 2 T：聚合实体的邻居来推断其类型。这些机制将产生多个推理结果，并使用指数加权池方法来生成最终的推理结果。此外，我们提出了一种新的损失函数，以减轻训练过程中的假阴性问题。两个真实世界的KG上的实验证明了我们的方法的有效性。本文的源代码和数据可以从https://github.com/CCIIPLab/CET获得。
2021-09-16 cs.CL
Hierarchical Entity Typing via Multi-level Learning to Rank
Johns Hopkins University（约翰斯·霍普金斯大学）
我们提出了一种新的分层实体分类方法，包括在训练和预测过程中的本体结构。在训练中，我们的新的多级学习排名损失根据类型树将积极类型与消极兄弟姐妹进行比较。在预测期间，我们定义了一个从粗到细的解码器，该解码器基于已经预测的父类型在本体的每个级别限制可行的候选。我们在多个数据集上达到了最先进的水平，特别是在严格的准确性方面。
2020-04-05 cs.CL
Fine-Grained Named Entity Typing over Distantly Supervised Data Based on Refined Representations
UNSW（新南威尔士大学）；DGUT（东莞理工学院）
细粒度命名实体分类（FG-NET）是自然语言处理（NLP）中的一个关键组件。它旨在将实体提及分类为广泛的实体类型。由于大量的实体类型，远程监督被用来收集用于该任务的训练数据，其不考虑上下文而嘈杂地将类型标签分配给实体提及。为了减轻嘈杂的标签，现有的方法FGNET上的实体提到完全独立于彼此的分析和分配类型标签的基础上提到特定的上下文。这对于高度重叠和嘈杂的类型标签是不够的，因为它阻碍了信息跨越句子边界。为此，我们提出了一个边缘加权的注意图卷积网络，它通过在结束分类之前参加语料库级别的上下文线索来细化嘈杂的提及表示。实验结果表明，该模型优于现有的研究高达10.2%和8.3%的相对分数分别为宏观f1和微观f1。
2020-04-07 cs.CL
Fine-Grained Entity Typing in Hyperbolic Space
Heidelberg Institute for Theoretical Studies（海德堡理论研究所）
我们如何表示实体类型的大型类型库存中的层次信息？我们研究了双曲嵌入的能力，以捕捉层次关系的上下文和他们的目标类型在一个共享的向量空间中提到。我们在两个数据集上进行评估，并研究了两种不同的技术来创建一个大型的分层实体类型库存：从专家生成的本体和自动挖掘类型共现。我们发现，双曲模型在某些情况下，但不是所有情况下，其欧几里德对应产生的改进。我们的分析表明，这种几何形状的充分性取决于类型库存的粒度和层次关系的推断方式。
2019-06-06 cs.CL
All Entities are Not Created Equal: Examining the Long Tail for Ultra-Fine Entity Typing
University of Colorado Boulder（科罗拉多大学博尔德分校）
本文研究了预训练语言模型在超细实体类型化任务中处理长尾实体的局限性，提出新的启发法近似预训练分布，并发现依赖参数知识的方法在长尾实体上表现不佳，而融合知识的方法能部分弥补不足。
2026-09-14 cs.CL
Interpretable Entity Representations through Large-Scale Typing
Department of Computer Science（计算机科学系）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
在用于自然语言处理的标准方法中，文本中的实体通常被嵌入具有预训练模型的密集向量空间中。以这种方式产生的嵌入在输入到下游模型时是有效的，但它们需要最终任务的微调，并且从根本上难以解释。在本文中，我们提出了一种方法来创建实体表示，是人类可读的，并实现高性能的实体相关的任务开箱即用。我们的表示是向量，其值对应于细粒度实体类型的后验概率，表示类型模型决定实体属于相应类型的置信度。我们使用细粒度实体类型化模型获得这些表示，该模型在监督的超细实体类型化数据（Choi et al. 2018）或来自维基百科的远程监督示例上进行训练。在涉及识别实体身份的实体探测任务中，我们在无参数下游模型中使用的嵌入在训练模型中与基于ELMo和BERT的嵌入相比具有竞争力的性能。我们还表明，它是可能的，以减少我们的类型集的大小在特定领域的学习为基础的方式。最后，我们表明，这些嵌入可以事后修改，通过少量的规则，将领域知识和提高性能。
2020-10-13 cs.CL cs.LG
Fine-Grained Entity Typing with High-Multiplicity Assignments
University of California, Berkeley（加州大学伯克利分校）
随着实体类型系统变得更丰富、更细粒度，我们预计分配给给定实体的类型数量会增加。然而，大多数细粒度的类型化工作都集中在表现出较低类型多样性的数据集上。在本文中，我们认为，如维基百科，具有半开放类型系统的数据源中固有的高多样性制度。我们引入了一个集预测的方法来解决这个问题，并表明我们的模型优于非结构化的基线上一个新的基于维基百科的细粒度打字语料库。
2017-04-25 cs.AI cs.CL cs.IR
From Ultra-Fine to Fine: Fine-tuning Ultra-Fine Entity Typing Models to Fine-grained
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；South China University of Technology（华南理工大学）
本文提出先用超细实体类型数据训练广覆盖模型，再以少量新类型模式标注样本微调，从而在少样本 FET 中超越弱监督方法。
2023-12-11 cs.CL
Modeling Label Correlations for Ultra-Fine Entity Typing with Neural Pairwise Conditional Random Field
DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
超精细实体分类（UFET）旨在预测广泛的类型短语，正确描述句子中提到的给定实体的类别。大多数最近的作品独立地推断每个实体类型，忽略类型之间的相关性，例如，当一个实体被推断为总统时，它也应该是一个政治家和领导人。为此，我们使用一个无向图模型称为成对条件随机场（PCRF）制定的UFET问题，其中的类型变量不仅是单一的影响，输入，但也成对地涉及到所有其他类型的变量。我们使用各种现代骨干实体类型计算一元潜力，并从类型短语表示，既捕获先前的语义信息，促进加速推理派生成对的潜力。我们使用平均场变分推理对非常大的类型集进行有效的类型推断，并将其展开为神经网络模块，以实现端到端的训练。UFET上的实验表明，Neural-PCRF始终优于其骨干，成本很低，并导致与基于交叉编码器的SOTA相比具有竞争力的性能，同时速度快数千倍。我们还发现Neural- PCRF在具有较小类型集的广泛使用的细粒度实体类型化数据集上有效。我们将Neural-PCRF打包为网络模块，可以轻松插入多标签类型分类器，并在https://github.com/modelscope/adaseq/tree/master/examples/NPCRF上发布。
2022-12-03 cs.CL
Multi-view Contrastive Learning for Entity Typing over Knowledge Graphs
Shanxi University（山西大学）；Cardiff University（卡迪夫大学）；University of Edinburgh（爱丁堡大学）
本文提出MCLET方法，通过多视图生成编码、跨视图对比学习和混合专家预测模块，将聚类粗粒度知识融入实体与类型表示，有效推断知识图谱中缺失的实体类型，性能优于现有方法。
2023-10-18 cs.AI cs.CL
Few-Shot Fine-Grained Entity Typing with Automatic Label Interpretation and Instance Generation
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们研究的问题，Few-Shot细粒度实体类型（FET），其中只有几个注释的实体提到的上下文是每个实体类型。最近，通过将实体类型分类任务公式化为“填空”问题，在Few-Shot场景中，基于优化的调优表现出优于标准微调的性能。这允许有效利用预训练语言模型（PLM）的强大语言建模能力。尽管当前基于语义的调优方法取得了成功，但仍然存在两个主要挑战：（1）提示中的动词化器是手动设计的，或者是从外部知识库构建的，而不考虑目标语料库和标签层次结构信息;（2）当前方法主要利用PLM的表示能力，但尚未探索通过广泛的通用域预训练获得的生成能力。在这项工作中，我们提出了一个新的框架，由两个模块组成的Few-Shot FET：（1）实体类型标签解释模块自动学习相关的类型标签的词汇表，通过联合利用Few-Shot实例和标签层次结构，和（2）基于类型的上下文实例生成器产生新的实例的基础上给定的实例，以扩大训练集更好的泛化。在三个基准数据集上，我们的模型明显优于现有方法。代码可以在https://github.com/teapot123/Fine-Grained-Entity-Typing上找到。
2022-06-28 cs.CL
Type-enriched Hierarchical Contrastive Strategy for Fine-Grained Entity Typing
Tencent Inc.（腾讯公司）
细粒度实体分类（FET）的目的是推断文本中提到的实体的特定语义类型。FET的现代方法主要集中在学习某种类型的外观。而且很少有作品直接对类型差异进行建模，即让模型知道一种类型与其他类型的不同程度。为了缓解这个问题，我们提出了一个类型丰富的层次对比策略FET。我们的方法可以直接建模层次类型之间的差异，提高区分多粒度相似类型的能力。一方面，我们将类型嵌入到实体上下文中，使类型信息直接可感知。另一方面，在层次结构上设计了一种有约束的对比策略，直接对类型差异进行建模，可以同时感知不同粒度的类型之间的可兼容性。三个基准测试，BBN，OntoNotes，和FIGER的实验结果表明，我们的方法实现了显着的性能FET有效地建模类型的差异。
2022-08-22 cs.CL
Ontology Enrichment for Effective Fine-grained Entity Typing
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本研究提出OnEFET，通过为本体节点添加实例与主题信息并训练蕴含模型，实现零样本细粒度实体类型识别，无需人工标注，性能大幅超越现有零样本方法并接近监督方法。
2023-10-11 cs.CL
Hierarchical Losses and New Resources for Fine-grained Entity Typing and Linking
UMass Amherst（马萨诸塞大学阿默斯特分校）；Chan Zuckerberg Initiative（陈·扎克伯格倡议）
从原始文本到实体和细粒度类型的知识库的提取通常被视为实体和类型标签的平面集合的预测，忽略了策划本体中包含的类型和实体的丰富层次结构。以前的尝试，将层次结构产生的好处很少，并限于浅本体。本文提出了使用实和复双线性映射来集成分层信息的新方法，在实体链接和细粒度实体类型化中对平面预测进行了实质性改进，并在基准FIGER数据集上实现了端到端模型的最新结果。我们还提出了两个新的人类注释数据集，其中包含广泛而深入的层次结构，我们将向社区发布，以鼓励在这一方向上的进一步研究：MedMentions，PubMed摘要的集合，其中246 k提及已映射到大规模的UMLS本体;和TypeNet，将Freebase类型与WordNet层次结构对齐，以获得近2k实体类型。在所有三个数据集上的实验中，我们都显示出了层次意识训练的实质性收益。
2018-07-13 cs.CL
Label Noise Reduction in Entity Typing by Heterogeneous Partial-Label Embedding
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Army Research Laboratory（美国陆军研究实验室）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
当前的细粒度实体分类系统结合现有的知识库使用远程监督来为实体提及分配类别（类型标签）。然而，这样从知识库获得的类型标签通常是有噪声的（即，对于实体提及的本地上下文不正确）。我们定义了一个新的任务，标签噪声减少实体分型（LNR），是正确的类型标签（类型路径）的训练样本的自动识别，给定的候选类型标签集通过远程监督与给定的类型层次结构。单个实体提及的未知类型标签和实体类型之间的语义相似性为解决LNR任务提出了独特的挑战。我们提出了一个通用的框架，称为PLE，共同嵌入实体提到，文本功能和实体类型到同一个低维空间，在该空间中，对象的类型是语义接近有类似的表示。然后，我们使用学习的嵌入以自顶向下的方式估计每个训练样本的类型路径。我们制定了一个全球性的目标，学习嵌入文本语料库和知识库，它采用了一种新的边缘为基础的损失，是强大的噪声标签和忠实的模型类型相关性来自知识库。我们在三个公共类型数据集上的实验证明了PLE的有效性和鲁棒性，与次优方法相比，准确率平均提高了25%。
2016-02-17 cs.CL cs.LG
Ultra-Fine Entity Typing
Paul G. Allen School of Computer Science & Engineering, University of Washington（华盛顿大学保罗·G·艾伦计算机科学与工程学院）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
我们引入了一个新的实体类型任务：给定一个提到实体的句子，目标是预测一组自由形式的短语（例如摩天大楼，词曲作者或犯罪分子），这些短语描述了目标实体的适当类型。这种表述方式允许我们在大范围内使用一种新型的远距离监督：中心词，它表明它们出现在名词短语中的类型。我们表明，这些超细类型可以众包，并引入新的评估集，比现有的基准更加多样化和细粒度。我们提出了一个可以预测开放类型的模型，并使用多任务目标进行训练，该目标将我们的新头词监督与实体链接的先前监督相结合。实验结果表明，我们的模型在不同粒度下预测实体类型是有效的;它在现有的细粒度实体类型基准上达到了最先进的性能，并为我们新引入的数据集设置了基线。我们的数据和模型可从以下网站下载：http://nlp.cs.washington.edu/entity_type
2018-07-13 cs.AI cs.CL cs.LG
Fine-Grained Entity Typing for Domain Independent Entity Linking
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
神经实体链接模型非常强大，但存在过度拟合其训练领域的风险。对于这个问题，一个域的特征不仅在于文本的类型，甚至还在于实体的特定分布等特定因素，因为神经模型往往会通过记忆数据集中频繁实体的属性来过拟合。我们解决的问题，建立强大的实体链接模型，有效地推广，不依赖于标记的实体链接数据与特定的实体分布。我们的方法不是直接预测实体，而是对细粒度的实体属性进行建模，这可以帮助消除甚至密切相关的实体之间的歧义。我们从Wikipedia分类中获得大量的类型（数万个），并使用Wikipedia中的超链接提及来远程标记数据并训练实体类型模型。在测试时，我们使用此类型模型对提及进行分类，并使用软类型预测将提及链接到最相似的候选实体。我们在CoNLL-YAGO数据集上评估我们的实体链接系统（Hoffart等人，2011），并表明我们的方法优于以前的域独立的实体链接系统。我们还在来自WikilinksNED数据集的更难的设置中测试了我们的方法（Eshel等人，2017），其中所有提及实体对在测试时间期间是不可见的。结果表明，我们的方法比数据集上最先进的神经模型更好地推广。
2020-01-08 cs.AI cs.CL cs.LG
Improving Distantly-supervised Entity Typing with Compact Latent Space Clustering
Zhejiang University（浙江大学）；University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；iFLYTEK Research（科大讯飞研究院）；University of Southern California（南加州大学）
近年来，远程监控技术在细粒度实体分类（FET）方面取得了巨大的成功。尽管它在减少手动标记工作方面效率很高，但它也带来了处理错误实体类型标签的挑战，因为远程监督以上下文不可知的方式分配标签。现有的工作缓解了这个问题，部分标签损失，但通常遭受确认偏差，这意味着分类器适合自己给定的伪数据分布。在这项工作中，我们建议使用紧凑潜在空间聚类（CLSC）来正则化远程监督模型，以绕过这个问题并有效地利用噪声数据。我们提出的方法首先动态地构建不同实体提及的相似性图，通过标签传播来推断噪声实例的标签。基于推断的标签，提及嵌入相应地更新，以鼓励具有接近语义的实体提及在嵌入空间中形成紧凑的聚类，从而导致更好的分类性能。在标准基准测试上进行的大量实验表明，我们的CLSC模型始终优于最先进的远程监督实体类型系统。
2019-04-13 cs.AI cs.CL
Building a Fine-Grained Entity Typing System Overnight for a New X (X = Language, Domain, Genre)
Rensselaer Polytechnic Institute（伦斯勒理工学院）；Information Sciences Institute（信息科学研究所）
最近的研究表明，细粒度实体类型化取得了很大的进展。大多数现有的方法需要预先定义一组类型和训练的多类分类器从一个大的标记数据集的基础上的多层次的语言特征。因此，它们仅限于某些领域、体裁和语言。在本文中，我们提出了一个新的无监督实体分类框架相结合的符号和分布语义。我们从学习每个实体提及的一般嵌入开始，使用语言结构组成特定上下文的嵌入，将提及链接到知识库并学习其相关的知识表示。然后，我们开发了一种新的联合层次聚类和链接算法类型的所有提及使用这些表示。这个框架不依赖于任何注释数据，预定义的类型模式或手工制作的功能，因此它可以快速适应新的领域，流派和语言。此外，它在整合语言结构方面具有很大的灵活性（例如，抽象意义表示（AMR），依赖关系），以改善特定的上下文表示。对类型（新闻和论坛）的实验表明，与从大量标记数据中训练的最先进的监督打字系统相比，性能相当。各种语言（英语，中文，日语，豪萨语和约鲁巴语）和领域（一般和生物医学）的结果证明了我们的框架的可移植性。
2016-03-10 cs.AI cs.CL
Prompt-Learning for Fine-Grained Entity Typing
Tsinghua University（清华大学）；Alibaba Group（阿里巴巴集团）；Seoul National University（首尔国立大学）
作为调整预训练语言模型（PLMs）以适应特定任务的一种有效方法，人工学习近年来受到了研究者的广泛关注。通过使用\textit{cloze}风格的语言提示来刺激PLM的通用知识，自动学习可以在一系列NLP任务上取得有希望的结果，例如自然语言推理，情感分类和知识探测。在这项工作中，我们研究了在完全监督，Few-Shot和zero-shot场景中细粒度实体类型化的学习应用。我们首先通过构建面向实体的动词化器和模板并进行掩码语言建模来开发一个简单有效的机器学习管道。此外，为了解决zero-shot制度，我们提出了一个自我监督的策略，进行分布级优化，自动总结实体类型的信息。在完全监督、Few-Shot和zero-shot设置下，对三个细粒度实体类型化基准（最多86个类）进行了广泛的实验，结果表明，自学习方法的性能显著优于微调基线，特别是当训练数据不足时。
2021-08-24 cs.AI cs.CL
Probing Pre-trained Auto-regressive Language Models for Named Entity Typing and Recognition
Deezer Research（Deezer研究院）
尽管命名实体识别（NER）的语言模型的令人印象深刻的结果，他们的推广到不同的文本体裁，不断增长的实体类型集，和新的实体仍然是一个挑战。在每个新案例中收集数千个注释进行训练或微调是昂贵且耗时的。相比之下，人类可以通过一些简单的指令轻松识别命名实体。受此启发，我们挑战对大型数据集的依赖，并在元学习设置中研究NER的预训练语言模型。首先，我们在zero-shot传输场景中测试命名实体类型（NET）。然后，我们通过给出几个推理实例来执行NER。我们提出了一种方法来选择看到的和罕见的/看不见的名字时，只能访问预先训练的模型，并报告这些组的结果。结果显示：自回归语言模型作为元学习者可以很好地执行NET和NER，特别是对于常规或见过的名字;对于特定实体类型经常出现的名字不规则性可以成为有效的可利用线索;具有对模型来说是外来的单词的名字对结果具有最负面的影响;在Few-Shot NER中，模型似乎更多地依赖于名字而不是上下文线索。
2022-04-27 cs.CL
Entity Type Prediction Leveraging Graph Walks and Entity Descriptions
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；SAP SE（思爱普）；University of Mannheim（曼海姆大学）
知识图谱（KG）中的实体类型信息，如DBpedia，Freebase等，往往是不完整的，由于自动生成或人工策展。实体类型化是分配或推断KG中实体的语义类型的任务。本文提出了\textit{GRAND}，一种新的实体分类方法，利用RDF2vec中的不同图遍历策略以及文本实体描述。RDF2vec首先生成图遍历，然后使用语言模型来获取图中每个节点的嵌入。本研究表明，步行生成策略和嵌入模式对实体打字任务的绩效有显着影响。所提出的方法优于基准数据集DBpedia和FIGER的细粒度和粗粒度类的KG实体类型的基线方法。结果表明，顺序感知的RDF2vec变体与文本实体描述的上下文嵌入的组合实现了最佳结果。
2022-07-29 cs.AI cs.CL
AsyncET: Asynchronous Learning for Knowledge Graph Entity Typing with Auxiliary Relations
University of Southern California（南加州大学）；National University of Singapore（新加坡国立大学）
针对知识图谱实体类型预测中单一辅助关系表达能力有限的问题，提出引入多个辅助关系并采用异步学习方案AsyncET，交替更新实体与类型嵌入，显著提升性能且降低模型大小和时间复杂度。
2023-08-30 cs.AI cs.CL
Recall, Expand and Multi-Candidate Cross-Encode: Fast and Accurate Ultra-Fine Entity Typing
ShanghaiTech University（上海科技大学）；Shanghai Engineering Research Center of Intelligent Vision and Imaging（上海智能视觉与成像工程研究中心）
超精细实体分型（UFET）预测极其自由形式的类型（例如，总统、政治家）提及给定实体（例如，乔·拜登（Joe Biden）。最先进的（SOTA）方法使用基于交叉编码器（CE）的架构。CE将提及（及其上下文）与每个类型连接起来，并将这些对输入到预先训练的语言模型（PLM）中，以对其相关性进行评分。它在提及和类型之间带来了更深层次的交互，以达到更好的性能，但必须执行N（类型集大小）向前传递来推断单个提及的类型。因此，当类型集很大时，CE在推理中非常慢（例如，对于UFET，N = 10 k）。为此，我们建议以recall-expand-filter方式执行实体类型化。召回和扩展阶段修剪大型类型集，并为每次提及生成K个（K通常小于256）最相关的类型候选。在过滤器阶段，我们使用一种名为MCCE的新模型，在一次前向传递中同时对这K个候选项进行编码和评分，以获得最终的类型预测。我们研究了MCCE的不同变体，广泛的实验表明，MCCE在我们的范式下达到了超精细实体类型的SOTA性能，并且比交叉编码器快数千倍。我们还发现MCCE在细粒度（130种类型）和粗粒度（9种类型）实体类型化方面非常有效。我们的代码可在\url{https://github.com/modelscope/AdaSeq/tree/master/examples/MCCE}上获得。
2022-12-18 cs.AI cs.CL
EPPAC: Entity Pre-typing Relation Classification with Prompt AnswerCentralizing
关系分类（RC）的目的是预测在给定的上下文中的一对主语和宾语之间的关系。最近，提示微调方法在RC中已经实现了高性能。然而，现有的提示微调方法具有以下问题：（1）众多类别降低RC性能;（2）手动设计的提示需要密集劳动。为了解决这些问题，本文提出了一种新的范例，实体预类型化的关系分类与提示答案集中（EPPAC）。EPPAC中的实体预绑定是为了解决第一个问题，使用一个双层框架，在RC之前预先类型化实体，并提出了快速回答集中，以解决第二个问题。大量的实验表明，我们提出的EPPAC优于国家的最先进的方法TACRED和TACREV的14.4%和11.1%，分别。该代码在补充材料中提供。
2022-03-08 cs.AI cs.CL
Calibrated Seq2seq Models for Efficient and Generalizable Ultra-fine Entity Typing
Carnegie Mellon University（卡内基梅隆大学）；Megagon Labs（Megagon 实验室）
本文提出 CASENT 校准 seq2seq 模型，利用约束束搜索与新型概率校准实现超细粒度实体类型标注，在 UFET 及五个领域数据集上显著提升效果、校准性、推理速度与零/少样本泛化能力。
2023-11-01 cs.CL
BoningKnife: Joint Entity Mention Detection and Typing for Nested NER via prior Boundary Knowledge
Peking University（北京大学）；Microsoft Azure AI（微软Azure人工智能）；Harbin Institute of Technology（哈尔滨工业大学）；Microsoft Research（微软研究院）
命名实体识别是自然语言处理中的一项关键任务，但大多数方法只针对平面实体，而忽略了许多场景中常见的嵌套结构。现有的嵌套实体识别方法大多遍历所有子序列，不仅代价高，效率低，而且没有很好地考虑对嵌套实体有重要意义的边界知识。在本文中，我们提出了一个联合实体提及检测和分类模型，通过先验边界知识（BoningKnife），以更好地处理嵌套NER提取和识别任务。BoningKnife由两个模块组成，MentionTagger和TypeClassifier。MentionTagger更好地利用边界知识，而不仅仅是实体开始/结束，以改善对嵌套级别和更长跨度的处理，同时生成高质量的提及候选项。TypeClassifier利用两级注意力机制来解耦不同嵌套级别的表示，并更好地区分实体类型。我们共同训练两个模块共享一个共同的表示和一个新的双信息关注层，这导致改进的表示集中在实体相关的信息。在不同数据集上的实验表明，我们的方法优于以前的最先进的方法，并取得86.41，85.46和94.2 F1分数ACE 2004，ACE 2005和NNE，分别。
2021-07-20 cs.CL
Cross-Lingual Fine-Grained Entity Typing
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
跨语言预训练模型的增长使NLP工具能够快速推广到新的语言。虽然这些模型已被应用于涉及实体的任务，但它们明确预测这些实体跨语言的类型学特征的能力尚未建立。在本文中，我们提出了一个统一的跨语言细粒度实体类型模型，能够处理超过100种语言，并分析了该模型的能力，以推广到语言和实体在训练过程中看不见。我们在从多语言维基百科超链接收集的跨语言训练数据（训练语言）上训练这个模型。在推理过程中，我们的模型采用特定语言（测试语言，可能不是训练语言）中的实体提及和上下文，并预测该实体的细粒度类型。泛化到新的语言和看不见的实体是这种实体类型设置的基本挑战，因此我们将评估重点放在这些设置上，并与简单而强大的字符串匹配基线进行比较。实验结果表明，我们的方法优于基线上看不见的语言，如日语，泰米尔语，阿拉伯语，塞尔维亚语和波斯语。此外，我们的方法大大提高了基线上看不见的实体（即使是看不见的语言）的性能，并且人类评估显示出在这些设置中预测相关类型的强大能力。
2021-10-15 cs.CL cs.LG
Automatic Noisy Label Correction for Fine-Grained Entity Typing
Huazhong University of Science and Technology（华中科技大学）；Pingan Property & Casualty Research（平安产险研究院）；Singapore Management University（新加坡管理大学）
细粒度实体分类（FET）的目标是根据上下文为实体提及分配适当的语义类型，这是各种实体利用应用程序的基本任务。当前的FET系统通常建立在大规模弱监督/远距离注释数据上，这些数据可能包含大量噪声，从而严重阻碍FET任务的性能。虽然先前的研究在自动识别FET中的噪声标签方面取得了很大的成功，但它们通常依赖于一些在现实世界应用中可能不可用的辅助资源（例如预定义的层次类型结构，人类注释的子集）。在本文中，我们提出了一种新的方法来自动校正噪声标签的FET没有外部资源。具体而言，它首先通过根据模型输出的logits估计标签为正或负的后验概率来识别潜在的噪声标签，然后通过在剩余的干净标签上训练鲁棒模型来重新标记候选噪声标签。两个流行的基准测试的实验证明了我们的方法的有效性。我们的源代码可以从https://github.com/CCIIPLab/DenoiseFET获得。
2022-05-10 cs.CL
COTET: Cross-view Optimal Transport for Knowledge Graph Entity Typing
School of Computer and Information, Shanxi University（山西大学计算机与信息学院）；School of Computer Science and Informatics, Cardiff University（卡迪夫大学计算机科学与信息学院）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
针对知识图谱实体类型推断，提出跨视图最优传输方法COTET，融合粗粒度聚类与细粒度类型知识，通过多视图编码、最优传输对齐和混合池化预测，有效提升推断性能。
2024-05-22 cs.AI cs.CL cs.LG
Multi-level Representations for Fine-Grained Typing of Knowledge Base Entities
Center for Information and Language Processing（信息与语言处理中心）；LMU Munich（慕尼黑大学）
实体是自然语言的基本元素。在本文中，我们提出了在三个互补层次上学习实体的多级表示的方法：字符（提取的实体名称中的字符模式，例如，通过神经网络）、词（实体名称中的词嵌入）和实体（实体嵌入）。我们调查了每个级别的最先进的学习方法，发现了很大的差异，例如，对于深度学习模型，传统的ngram特征和快速文本的子字模型（Bojanowski等人，2016）;对于word 2 vec（Mikolov等人，2013）;以及对于次序感知模型wang 2 vec（Ling et al.，2015年，在实体层面。我们证实实验，每个级别的表示贡献的互补信息和联合表示的所有三个级别提高了现有的嵌入基础上的基线细粒度实体打字的大幅度。此外，我们表明，从实体描述中添加信息，进一步提高了实体的多层次表示。
2017-01-16 cs.AI cs.CL
KCAT: A Knowledge-Constraint Typing Annotation Tool
Zhejiang University（浙江大学）；iFLYTEK Research（科大讯飞研究院）；University of Southern California（南加州大学）
细粒度实体分类是一项艰巨的任务，它会受到从远程监控中提取的噪声样本的影响。数千个手动注释的样本可以实现比以前的远程监督方法生成的数百万个样本更好的性能。然而，人类很难区分和记忆成千上万的类型，因此很难进行大规模的人类标记。在本文中，我们介绍了知识约束类型标注工具（KCAT），这是有效的细粒度实体类型标注。KCAT通过实体链接将候选类型的大小减小到人类可接受的范围内，并提供多步类型化方案来修改实体链接结果。此外，KCAT提供了一个高效的注释器客户端来加速注释过程，并提供了一个全面的管理器模块来分析众包注释。实验表明，KCAT能显著提高标注效率，标注时间消耗随着类型集规模的扩大而缓慢增加。
2019-06-13 cs.AI cs.CL
OntoType: Ontology-Guided and Pre-Trained Language Model Assisted Fine-Grained Entity Typing
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Virginia Tech（弗吉尼亚理工大学）
本文提出无需标注的本体引导 FET 方法 OntoType，通过集成多个 PLM 提示候选并结合自然语言推理进行上下文类型解析，在三个数据集上超过零样本 SOTA 与 ChatGPT。
2024-06-11 cs.CL
Seed-Guided Fine-Grained Entity Typing in Science and Engineering Domains
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）；IBM Almaden Research Center（IBM阿尔马登研究中心）
本文针对科学与工程领域标注数据稀缺问题，提出SEType方法，仅利用类型名称和少量种子实体，通过预训练语言模型扩充弱监督并训练文本蕴含模型，实现对已见和未见实体类型的细粒度分类。
2024-02-20 cs.CL cs.SE
