PARADE: A New Dataset for Paraphrase Identification Requiring Computer Science Domain Knowledge
Texas A&M University(得克萨斯农工大学)
我们提出了一个新的基准数据集称为PARADE的释义识别,需要专门的领域知识。PARADE包含在词汇和句法级别上重叠很少但基于计算机科学领域知识在语义上等价的释义,以及在词汇和句法级别上重叠很大但基于该领域知识在语义上不等价的非释义。实验表明,最先进的神经模型和非专家的人类注释器在PARADE上的性能都很差。例如,微调后的BERT达到了0.709的F1分数,这远低于其在其他释义识别数据集上的性能。PARADE可以作为对测试包含领域知识的模型感兴趣的研究人员的资源。我们免费提供我们的数据和代码。
2020-10-08 cs.CL
Attribute-Consistent Knowledge Graph Representation Learning for Multi-Modal Entity Alignment
Beihang University(北京航空航天大学);National Computer Network Emergency Response Technical Team/Coordination Center of China(国家计算机网络应急技术处理协调中心);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);Zhongguancun Lab(中关村实验室)
提出属性一致知识图谱表示学习框架ACK-MMEA,通过多模态属性统一化构建ACKGs并结合关系感知图神经网络与联合对齐损失,有效弥补上下文间隙,在多模态实体对齐任务中取得优异性能。
2023-04-04 cs.CL
Exploring Large Language Models for Product Attribute Value Identification
Free University of Bozen-Bolzano(波尔扎诺自由大学);Wonder Technology Srl;LMU Munich(慕尼黑大学)
本文探索大型语言模型(如LLaMA和Mistral)作为产品属性值识别(PAVI)的数据高效替代方案,提出两步提示、上下文学习和指令微调策略,在基准上显著提升零样本性能。
2024-09-19 cs.CL cs.IR
ManTIME: Temporal expression identification and normalization in the TempEval-3 challenge
The University of Manchester(曼彻斯特大学)
本文介绍了一个时间表达识别和规范化系统,ManTIME,开发的TempEval-3的挑战。识别阶段结合了条件随机场的使用以及后处理识别管道,而归一化阶段使用NorMA(一种开源的基于规则的时间归一化器)进行。我们调查的性能变化与不同的功能类型。具体而言,我们表明,在识别任务中使用基于WordNet的功能会对整体性能产生负面影响,并且在使用地名词典,浅层解析和命题名词短语标签的形态特征上没有统计学显著差异。在测试数据上,最佳运行在鉴定阶段达到0.95(P)、0.85(R)和0.90(F1)。归一化精度为0.84(类型属性)和0.77(值属性)。令人惊讶的是,使用银数据(单独或除了金注释的数据之外)并没有提高性能。
2013-04-30 cs.CL
LAURA: Knowledge Distillation for Interpretable Ambiguous Clause Identification in Legal Contracts
University of New South Wales (UNSW)(新南威尔士大学)
LAURA通过知识蒸馏和IRAC-Unlearning提示技术,将教师大语言模型知识迁移至小型开放权重模型,实现法律合同歧义条款的可解释识别,兼顾识别性能与可解释性。
2026-09-30 cs.CL
KE-QI: A Knowledge Enhanced Article Quality Identification Dataset
Soochow University(苏州大学);Baidu Inc.(百度公司)
由于每时每刻都有许多不同质量的文章产生,筛选优秀的文章并将其提交给社交媒体是一项非常紧迫的任务。据我们所知,在识别高质量文章方面缺乏数据集和成熟的研究工作。因此,我们进行了一些调查,并最终确定了7个客观指标来注释10 k文章的质量。在注释过程中,我们发现高质量文章的许多特征(例如,背景)更多地依赖于广泛的外部知识,而不是文章的内部语义信息。针对这一问题,本文将提取的文章实体与百度百科链接,提出了知识增强的文章质量识别(KE-QI)数据集。为了更好地利用外部知识,我们提出了一种复合模型,通过门单元融合文本和外部知识信息来分类文章的质量。我们在KE-QI上的实验结果表明,通过初始化预训练的Node 2 Vec模型,我们的模型达到了大约78\%的$F_1$,优于其他基线。
2022-08-24 cs.CL
Leveraging Lora Fine-Tuning and Knowledge Bases for Construction Identification
Sichuan International Studies University(四川外国语大学)
本研究通过LoRA微调和知识库结合,提升大型语言模型对英语双宾结构的识别能力,实验显示微调模型在性能上优于原生模型和理论驱动的RAG系统。
2026-01-19 cs.CL
Multi-Task Identification of Entities, Relations, and Coreference for Scientific Knowledge Graph Construction
University of Washington(华盛顿大学)
我们介绍了一个多任务的设置,识别和分类的实体,关系,并在科学文章中的共指集群。我们创建了SciERC,一个包含所有三个任务的注释的数据集,并开发了一个统一的框架,称为科学信息提取器(SciIE),用于共享跨度表示。多任务设置减少了任务之间的级联错误,并通过共指链接利用跨句子关系。实验表明,我们的多任务模型优于以前的模型在科学信息抽取,而不使用任何特定领域的功能。我们进一步表明,该框架支持科学知识图谱,我们用它来分析科学文献中的信息的建设。
2018-08-29 cs.CL
LearnDA: Learnable Knowledge-Guided Data Augmentation for Event Causality Identification
Institute of Automation, CAS(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);Beijing Baidu Netcom Science Technology Co., Ltd(北京百度网讯科技有限公司)
现代事件因果关系识别模型主要基于监督学习,容易出现数据缺失问题。不幸的是,现有的NLP相关的增强方法不能直接产生这项任务所需的可用数据。为了解决数据缺乏的问题,我们引入了一种新的方法来增加训练数据的事件因果关系识别,通过迭代生成新的例子和分类事件因果关系的双重学习框架。一方面,我们的方法是知识引导的,它可以利用现有的知识库来生成格式良好的新句子。另一方面,我们的方法采用了双重机制,这是一个可学习的增强框架,可以交互式地调整生成过程,以生成任务相关的句子。在EventStoryLine和Cause-TimeBank上的实验结果表明:1)该方法可以为ECI增加合适的任务相关训练数据; 2)该方法在EventStoryLine和Cause-TimeBank上的性能优于已有方法(F1值分别为+2.5和+2.1点)。
2021-06-03 cs.CL
N-Gram Cluster Identification During Empirical Knowledge Representation Generation
本文综述了当前技术文本知识抽取的研究现状。特别是,在识别和生成的语义表示的经验技术的使用被认为是。关键的一步是发现有用的n-gram和这些n-gram的集群之间的相关性。
1994-12-05 cmp-lg cs.CL
COSMIC: COmmonSense knowledge for eMotion Identification in Conversations
University of Michigan(密歇根大学);Singapore University of Technology and Design(新加坡科技设计大学);CIC, Instituto Politécnico Nacional(墨西哥国立理工学院计算研究中心)
在本文中,我们解决的任务,话语水平的情感识别会话中使用常识知识。我们提出了COSMIC,一个新的框架,它结合了不同的常识元素,如心理状态,事件和因果关系,并建立在它们的基础上,以学习参与对话的对话者之间的互动。目前最先进的方法往往遇到困难,在上下文传播,情感转移检测,并区分相关的情感类。通过学习不同的常识表示,COSMIC解决了这些挑战,并在四个不同的基准会话数据集上实现了情感识别的最新结果。我们的代码可在https://github.com/declare-lab/conv-emotion上获得。
2020-10-06 cs.CL
Reflection-based Word Attribute Transfer
Nara Institute of Science and Technology(奈良先端科学技术大学院大学)
词嵌入可以用来改变词的属性,包括词的性别,它通常代表诸如国王-男人+女人=女王之类的类比关系。为了以这种基于类比的方式将国王转换为王后,我们基于国王是男性的知识减去差向量man-woman。然而,开发这样的知识对于单词和属性来说是非常昂贵的。在这项工作中,我们提出了一种新的方法,字属性转移反射映射的基础上,没有这样的类比操作。实验结果表明,该方法可以在不改变不具有目标属性的词的情况下,转移给定词的词属性。
2020-07-07 cs.CL
Simple and Effective Knowledge-Driven Query Expansion for QA-Based Product Attribute Extraction
Rakuten Institute of Technology(乐天技术研究所);Rakuten Group Inc.(乐天集团);Institute of Industrial Science(工业科学研究所);the University of Tokyo(东京大学)
电子商务网站属性值提取的一个关键问题是如何处理大量不同产品的属性。虽然这个挑战部分地解决了问答(QA)的方法,找到一个给定的查询(属性)的产品数据中的值,它不工作,有效地为罕见的和模糊的查询。因此,我们提出了简单的知识驱动的查询扩展的基础上可能的答案(值)的查询(属性)的基于QA的AVE。我们从训练数据中检索查询(属性)的值以扩展查询。我们用知识丢弃和知识令牌混合两种技巧来训练模型,模拟测试中价值知识的不完全性。在AliExpress数据集的清理版本上的实验结果表明,我们的方法提高了AVE的性能(+6.08宏F1),特别是对于罕见和模糊的属性(分别为+7.82和+6.86宏F1)。
2022-06-28 cs.AI cs.CL
JarKA: Modeling Attribute Interactions for Cross-lingual Knowledge Alignment
Key Laboratory of Data Engineering and Knowledge Engineering of Ministry of Education, Renmin University of China(教育部数据工程与知识工程重点实验室,中国人民大学);Information School, Renmin University of China(中国人民大学信息学院);Renmin University of China(中国人民大学);Key Laboratory of Data Engineering and Knowledge Engineering of Ministry of Education(教育部数据工程与知识工程重点实验室);Information School(信息学院);Ministry of Education(教育部)
抽象的。跨语言知识对齐是构建全面的知识图谱(KG)的基石,它可以使各种知识驱动的应用程序受益。由于KG的结构通常是稀疏的,实体的属性可能在对齐实体中起重要作用。然而,KG之间的属性的异质性阻止了准确地嵌入和比较实体。为了解决这个问题,我们建议对属性之间的交互进行建模,而不是全局嵌入一个具有所有属性的实体。我们进一步提出了一个联合框架来合并从属性和结构推断的路线。实验结果表明,该模型优于最先进的基线高达38.48%HitRatio@1。结果还表明,我们的模型可以推断属性,关系和值之间的对齐,除了实体。
2020-02-29 cs.AI cs.CL
A Knowledge-Driven Approach to Classifying Object and Attribute Coreferences in Opinion Mining
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Amazon AI(亚马逊人工智能)
分类和解析对象的共指(例如,产品名称)和属性(例如,产品方面)对于提高意见挖掘性能是至关重要的。然而,这项任务是具有挑战性的,因为人们经常需要考虑特定领域的知识(例如,iPad是一款平板电脑,具有方面分辨率),以识别固执己见的评论中的共指。此外,为每个领域编译一个手工制作和策划的特定领域知识库是非常耗时和艰巨的。本文提出了一种自动挖掘和利用特定领域知识对对象和属性共指进行分类的方法。该方法从未标记的评论数据中提取特定领域的知识,并训练知识感知神经共指分类模型,以利用(有用的)领域知识和一般常识知识来完成任务。在涉及五个领域(产品类型)的真实数据集上的实验评估表明了该方法的有效性。
2021-07-17 cs.AI cs.CL
TACLR: A Scalable and Efficient Retrieval-based Method for Industrial Product Attribute Value Identification
Xianyu of Alibaba(阿里严选);Singapore Management University(新加坡管理大学);Hangzhou City University(杭州城市学院)
TACLR首次将产品属性值识别建模为检索任务,通过分类感知对比学习和自适应推理,有效处理隐式与分布外值,支持大规模工业部署,并已在闲鱼平台成功应用。
2025-06-03 cs.AI cs.CL cs.IR
Learning High-order Structural and Attribute information by Knowledge Graph Attention Networks for Enhancing Knowledge Graph Embedding
Tencent Inc(腾讯公司)
知识图谱表示学习的目标是将实体和关系编码到一个低维的嵌入空间中。最近的许多工作已经证明了知识图谱嵌入知识图谱完成任务的好处,如关系抽取。然而,我们注意到:1)现有方法只考虑实体间的直接关系,无法表达实体间的高阶结构关系; 2)这些方法只利用KG的关系三元组,而忽略了大量编码丰富语义信息的属性三元组。为了克服这些局限性,本文提出了一种新的知识图谱嵌入方法,命名为KANE,这是最近的发展的启发图卷积网络(GCN)。KANE在图卷积网络的框架下,能够高效、清晰、统一地捕捉知识群的高阶结构和属性信息。三个数据集的实证结果表明,KANE显着优于七个国家的最先进的方法。进一步的分析验证了我们的方法的有效性和注意力机制带来的好处。
2019-10-10 cs.AI cs.CL
Identifying and Explaining Discriminative Attributes
University of Manchester(曼彻斯特大学)
识别一个词的意思的中心是什么以及是什么将它与其他词区分开来是一项基本的自然语言推理任务。本文描述了一个显式的词向量表示模型(WVM),以支持鉴别属性的识别。本文的一个核心贡献是定量和定性比较分析不同类型的数据源和知识库的建设可解释和明确的WVM:(i)知识图谱建立从字典定义,(ii)实体属性关系图来自图像和(iii)常识知识图谱。使用详细的定量和定性分析,我们证明了这些数据源具有互补的语义方面,支持创建明确的语义向量空间。显式向量空间使用判别属性识别任务进行评估,显示出与任务中最先进的系统相当的性能(F1得分= 0.69),同时提供完整的模型透明度和可解释性。
2019-09-05 cs.AI cs.CL
Knowledge-guided Open Attribute Value Extraction with Reinforcement Learning
North Carolina State University(北卡罗来纳州立大学);Fudan University(复旦大学)
面向新实体的开放属性值抽取是一项重要而又具有挑战性的任务。许多以前的工作制定的问题作为一个\textit{question-answering}(QA)的任务。虽然来自网络语料库的文章集合提供了关于新兴实体的更新信息,但检索到的文本可能是嘈杂的,不相关的,从而导致不准确的答案。有效地过滤掉噪声文章以及糟糕的答案是提高抽取准确率的关键。知识图谱(KG)包含关于实体的丰富的、组织良好的信息,为解决这一挑战提供了良好的资源。在这项工作中,我们提出了一个知识引导的强化学习(RL)框架的开放属性值提取。根据KG中的相关知识,我们训练了一个深度Q网络来顺序比较提取的答案,以提高提取的准确性。该框架适用于不同的信息抽取系统。我们的实验结果表明,我们的方法优于基线的16.5 - 27.8%。
2020-10-19 cs.CL cs.IR
A Framework for Leveraging Partially-Labeled Data for Product Attribute-Value Identification
KnowDis AI(诺迪斯人工智能公司);Indian Institute of Technology, Delhi(德里印度理工学院)
提出 GenToC 模型,通过标记增强生成模型与 token 分类直接利用部分标注数据提取属性-值对,提升数据质量并训练高效 NER 模型,在 IndiaMART 平台实现准确率 89.5% 及 20.2% 的识别量增长。
2024-11-18 cs.AI cs.CL cs.IR
NewsClaims: A New Benchmark for Claim Detection from News with Attribute Knowledge
UIUC(伊利诺伊大学厄巴纳-香槟分校);CU Boulder(科罗拉多大学博尔德分校);QCRI-HBKU(哈马德·本·哈利法大学卡塔尔计算研究所);DARPA(美国国防高级研究计划局);CMU(卡内基梅隆大学);Amazon(亚马逊)
声明检测和验证对于新闻理解至关重要,并且已经成为减轻新闻中的错误信息和虚假信息的有前途的技术。然而,大多数现有的工作都集中在索赔句子分析,而忽略了额外的关键属性(例如,权利要求和与权利要求相关联的主要对象)。在这项工作中,我们提出了NewsClaims,一个新的基准属性感知索赔检测在新闻领域。我们扩展的索赔检测问题,包括提取额外的属性相关的每个索赔和释放889索赔注释超过143篇新闻文章。NewsClaims旨在对新兴场景中的索赔检测系统进行基准测试,这些场景包括具有很少或没有训练数据的未知主题。为此,我们看到,zero-shot和基于基准的基线在该基准上显示出有希望的性能,同时仍然大大落后于人类性能。
2022-11-23 cs.AI cs.CL
Personal Attribute Prediction from Conversations
Nankai University(南开大学)
个人知识库(PKB)对许多应用程序至关重要,例如基于Web的聊天机器人和个性化推荐。包含丰富个人知识的会话可以被视为填充PKB的主要来源。给定一个用户、一个用户属性和一个会话系统中的用户话语,我们的目标是预测用户的个人属性值,这有助于丰富PKB。然而,以往的研究存在三个问题:(1)需要人工标注的话语用于模型训练;(2)嵌入在话语和外部资源中的个人属性知识未得到充分利用;(3)预测一些困难的个人属性的性能不令人满意。在本文中,我们提出了一个框架DSCGN的基础上预先训练的语言模型与噪声鲁棒的损失函数预测个人属性的对话,而不需要任何标记的话语。我们产生两类监督,即,通过挖掘嵌入在未标记的话语和外部资源中的个人属性知识来微调语言模型,经由远程监督策略的文档级监督和经由标签猜测方法的上下文化单词级监督。在两个真实世界的数据集上进行了广泛的实验(即,职业数据集和爱好数据集)显示,我们的框架在nDCG和MRR方面与所有12个基线相比获得了最佳性能。
2022-08-29 cs.AI cs.CL
GraphProfiler: Source-Linked Sensitive Attribute Inference via Personal Knowledge Graphs
RMIT University(皇家墨尔本理工大学)
GraphProfiler提出基于LLM的可审计画像器,将用户帖子构建为源关联个人知识图谱,将属性预测解析为可引用的图谱记录和源文本,在SynthPAI和PANDORA基准上分别达到86.7%和84.6%的攻击成功率,并支持针对性的隐私缓解。
2026-09-14 cs.CL cs.CR
EVI: Multilingual Spoken Dialogue Tasks and Dataset for Knowledge-Based Enrolment, Verification, and Identification
PolyAI Limited(PolyAI有限公司)
基于知识的身份验证对于提供个性化和注重隐私的服务的面向任务的口语对话系统至关重要。此类系统应能够根据其个人信息(如邮政编码、姓名和出生日期)登记(E)、验证(V)和识别(I)新用户和经常性用户。在这项工作中,我们正式确定了三个认证任务及其评估协议,并提出了EVI,这是一个具有挑战性的多语言口语数据集,包含英语,波兰语和法语的5,506个对话。我们提出的模型设定了第一个有竞争力的基准,探讨了口语对话的多语言自然语言处理的挑战,并为未来的研究设定了方向。
2022-04-28 cs.CL cs.LG
SAKE: Towards Editing Auditory Attribute Knowledge of Large Audio-Language Models
本文提出SAKE基准,用于评估大型音频-语言模型中听觉属性知识的编辑方法,发现多数方法在可靠性上表现良好,但在听觉泛化和多模态知识传播方面存在不足,细调模态连接器比直接编辑LLM更稳健。
2026-03-15 cs.AI cs.CL cs.SD
Hierarchical Knowledge Distillation on Text Graph for Data-limited Attribute Inference
Pennsylvania State University(宾夕法尼亚州立大学);Wright State University(莱特州立大学)
针对社交媒体文本属性推断中标注数据有限且文本图内存开销大的问题,本文提出基于文本图的少样本学习模型,通过流形学习构建文本图并引入层次知识蒸馏,显著提升了少样本属性推断性能。
2024-01-10 cs.CL cs.LG cs.SI
Recurrent Knowledge Identification and Fusion for Language Model Continual Learning
The Hong Kong Polytechnic University(香港理工大学);Tsinghua University(清华大学);Peking University(北京大学);University of Illinois at Chicago(伊利诺伊大学香槟分校)
提出Recurrent-KIF框架,通过内外循环迭代执行知识识别与融合,动态估计参数重要性,有效缓解大语言模型持续学习中的灾难性遗忘并增强知识迁移。
2025-05-30 cs.AI cs.CL cs.LG