Weakly- and Semi-supervised Evidence Extraction
Carnegie Mellon University(卡内基梅隆大学)
对于许多预测任务,利益相关者不仅需要预测,还需要支持人类可以用来验证其正确性的证据。然而,在实践中,标记支持证据的附加注释可能仅可用于少数训练样本(如果有的话)。在本文中,我们提出了新的方法,结合少量的证据注释(强半监督)与丰富的文档级标签(弱监督)的证据提取任务。评估两个分类任务的特点证据注释,我们发现,我们的方法优于基线适应我们的任务的可解释性文献。我们的方法产生了巨大的收益,只有几百个证据注释。用于复制我们工作的代码和数据集可在https://github.com/danishpruthi/evidence-extraction上获得。
2020-11-03 cs.CL cs.LG
Weakly Supervised Medication Regimen Extraction from Medical Conversations
College of Information and Computer Sciences(信息与计算机科学学院);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Abridge AI Inc.(Abridge人工智能公司)
从医疗对话中自动提取药物方案(MR)不仅可以提高回忆率,帮助患者完成护理计划,还可以减轻医生的文档负担。在本文中,我们专注于提取频率,路线和变化的跨度,对应于对话中讨论的药物。我们首先描述带注释的医患对话的独特数据集,然后提出一个弱监督模型架构,可以使用有噪分类数据执行跨度提取。该模型利用分类模型内部的注意力瓶颈来执行提取。我们的实验与几个变种的注意力评分和投影功能,并提出了一种新的基于变换的注意力评分功能(TASCore)。与加法评分加softmax投影的基线相比,TASCore和Fusedmax投影的拟议组合实现了最长公共子串F1的10点增加。
2020-10-11 cs.CL cs.IR cs.LG
Rapid Adaptation of BERT for Information Extraction on Domain-Specific Business Documents
University of Waterloo(滑铁卢大学)
从业务文档(如合同、报表和文件)中自动提取重要内容元素的技术有可能使业务操作更加高效。这个问题可以制定为一个序列标签的任务,我们证明了适应BERT两种类型的商业文件:监管文件和财产租赁协议。这个问题的某些方面使它比“标准”信息抽取任务更容易,而其他方面使它更困难,但总的来说,我们发现适量的注释数据(少于100个文档)足以达到合理的准确性。我们将我们的模型集成到一个端到端的云平台中,该平台提供了一个易于使用的注释接口以及一个推理接口,允许用户上传文档并检查模型输出。
2020-02-05 cs.CL cs.IR cs.LG
Weakly supervised information extraction from inscrutable handwritten document images
Google Research(谷歌研究院)
针对手写处方信息抽取受OCR错误、数据稀缺及标注成本高的问题,提出仅用弱标签定位药品行+合成数据训练的领域语言模型的弱监督方法,药品名抽取性能超现有最优方法2.5倍。
2023-06-12 cs.CL cs.CV
Weakly-Supervised Questions for Zero-Shot Relation Extraction
University of Alberta(阿尔伯塔大学)
零次关系抽取(Zero-Shot Relationship Extraction,ZRE)是关系抽取的任务,其中训练集和测试集没有共享的关系类型。这个非常具有挑战性的领域是对模型泛化能力的很好测试。以前的ZRE方法将关系抽取重新定义为问答(QA),允许使用预先训练的QA模型。然而,这种方法需要为每个新关系手动创建黄金问题模板。在这里,我们放弃了这些黄金模板,而是学习一个可以为看不见的关系生成问题的模型。我们的技术可以成功地将关系描述转换为相关的问题,然后利用这些问题来生成正确的尾部实体。在尾部实体提取方面,我们在不使用黄金问题模板的情况下,比以前的最先进水平高出16个F1点以上。在RE-QA数据集,其中没有以前的基线关系抽取存在,我们提出的算法来在0.7 F1点的系统,使用黄金问题模板。我们的模型在FewRel和Wikipedia L数据集上的表现也优于最先进的ZRE基线,这表明QA模型不再需要模板问题来匹配专门为ZRE任务定制的模型的性能。我们的实现可以在https://github.com/fyshelab/QA-ZRE上获得。
2023-02-09 cs.AI cs.CL cs.LG
Summarizing Opinions: Aspect Extraction Meets Sentiment Prediction and They Are Both Weakly Supervised
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
我们提出了一个神经框架,用于从在线产品评论中进行意见总结,该框架是知识贫乏的,只需要轻度监督(例如,以产品域标签和用户提供的评级的形式)。我们的方法结合了两个弱监督组件来识别突出的意见,并从多个评论中形成提取摘要:在多任务目标下训练的方面提取器,以及基于多实例学习的情感预测器。我们引入了一个意见摘要数据集,其中包括来自六个不同领域的产品评论的训练集,以及具有黄金标准方面注释,显着性标签和意见摘要的人类注释开发和测试集。自动评估显示,与基线相比,我们的意见摘要有了显着的改进,一项大规模的研究表明,根据多个标准,我们的意见摘要是人类法官的首选。
2018-08-27 cs.AI cs.CL cs.LG
QUEACO: Borrowing Treasures from Weakly-labeled Behavior Data for Query Attribute Value Extraction
Amazon.com Inc(亚马逊公司);Georgia Institute of Technology(佐治亚理工学院);Hong Kong University of Science and Technology(香港科技大学)
我们研究了查询属性值抽取问题,其目的是从用户查询中识别出具有不同表面形式属性值的命名实体,然后将其转换为形式规范形式。该问题包括两个阶段:{命名实体识别(NER)}和{属性值规范化(AVN)}。然而,现有的工作只关注NER阶段,而忽略了同样重要的AVN。为了弥补这一缺陷,本文提出了一个统一的电子商务搜索查询属性值抽取系统QUEACO,它包括两个阶段。此外,通过利用大规模的弱标记行为数据,我们进一步提高了提取性能与更少的监督成本。具体来说,对于NER阶段,QUEACO采用了一种新颖的教师-学生网络,其中在强标记数据上训练的教师网络生成伪标签来细化弱标记数据以训练学生网络。同时,教师网络可以通过反馈学生在强标签数据上的表现来动态地适应,以最大限度地消除来自弱标签的噪声监督。对于AVN阶段,我们还利用弱标记的查询到属性的行为数据来将来自查询的表面形式属性值规范化为来自产品的规范形式。在一个真实的大规模电子商务数据集上的实验证明了QUEACO的有效性。
2021-09-05 cs.AI cs.CL cs.IR
ArgFuse: A Weakly-Supervised Framework for Document-Level Event Argument Aggregation
Indian Institute of Technology, Kharagpur(印度理工学院克勒格布尔分校)
大多数现有的信息抽取框架(Wadden等人,2019; Veysehet等人,2020年)专注于业务级任务,几乎无法从给定文档中捕获合并信息。在我们努力从冗长的文本记录中生成精确的文档级信息框架时,我们引入了信息聚合或参数聚合的任务。更具体地说,我们的目标是过滤不相关和冗余的参数提到,在句子级别提取和呈现文档级别的信息框架。已经观察到大多数现有工作解决了文档级事件变元提取的相关任务(Yang等人,2018 a; Zheng等人,2019 a)和显著实体识别(Jain等人,2020年),使用监督技术。为了消除大量标记数据的依赖性,我们使用弱监督技术探索信息聚合的任务。特别是,我们提出了一个提取算法与多个筛子,采用主动学习策略,有效地工作在低资源设置。对于这项任务,我们已经注释了我们自己的测试数据集,包括131个文档信息框架,并发布了代码和数据集,以进一步研究这个新领域的前景。据我们所知,我们是第一个用英语为这项任务建立基线结果的机构。我们的数据和代码可在https://github.com/DebanjanaKar/ArgFuse上公开获取。
2021-06-21 cs.CL
MobIE: A German Dataset for Named Entity Recognition, Entity Linking and Relation Extraction in the Mobility Domain
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
我们提出了MobIE,德语数据集,这是人类注释的20个粗粒度和细粒度的实体类型和实体链接信息的地理上不确定的实体。该数据集由3,232个社交媒体文本和91K令牌的交通报告组成,并包含20.5K注释实体,其中13.1K链接到知识库。数据集的一个子集是人类注释的七个移动性相关的,n元关系类型,而其余的文件是使用弱监督标记方法与Snorkel框架实现注释。据我们所知,这是第一个结合了NER,EL和RE注释的德语数据集,因此可以用于这些基本信息抽取任务的联合和多任务学习。我们在https://github.com/dfki-nlp/mobie上公开了Mobie。
2022-03-28 cs.CL
Hyperbolic Disentangled Representation for Fine-Grained Aspect Extraction
Academia Sinica(中央研究院)
从用户评论中自动识别突出方面对于意见分析特别有用。在利用弱监督方法方面取得了重大进展,这种方法只需要一小部分种子词来训练方面分类器。然而,总有改进的余地。首先,没有弱监督方法充分利用单词之间的潜在层次结构。第二,每个种子词表示应该具有不同的潜在语义,并且当它表示不同的方面时应该是不同的。在本文中,我们提出了HDAE,双曲线解纠缠方面提取器,其中双曲线方面分类器捕获单词的潜在层次结构,和方面解纠缠表示模型的不同潜在语义的每个种子词。与之前的基线相比,HDAE在亚马逊产品评论和餐厅评论数据集上分别实现了18.2%和24.1%的平均F1性能提升。此外,嵌入式可视化体验表明HDAE是利用种子词的更有效方法。一项消融研究和一项病例研究进一步证明了所提出的组件的有效性
2021-12-16 cs.AI cs.CL
Domain-Adapted Pre-trained Language Models for Implicit Information Extraction in Crash Narratives
Department of Technology, Management and Economics, Technical University of Denmark(技术、管理与经济系,丹麦技术大学);Department of Mechanics and Maritime Sciences, Chalmers University of Technology(机械与航海科学系,查尔姆斯理工大学);Department of Computer Science and Engineering, Chalmers University of Technology(计算机科学与工程系,查尔姆斯理工大学)
针对碰撞叙述中隐式信息提取,通过LoRA和BERT微调紧凑型预训练语言模型,在CISS数据集上超越GPT-4o,且仅需少量训练资源。
2025-10-10 cs.CL
Cross-media Structured Common Space for Multimedia Event Extraction
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Columbia University(哥伦比亚大学);Dataminr(Dataminr公司)
我们介绍了一个新的任务,多媒体事件提取(M2E2),其目的是从多媒体文档中提取事件及其参数。我们开发了第一个基准,并收集了245多媒体新闻文章的数据集,广泛注释的事件和参数。我们提出了一种新的方法,弱对齐结构化嵌入(WASE),编码结构化表示的语义信息从文本和视觉数据到一个共同的嵌入空间。这些结构通过采用弱监督训练策略跨模态对齐,这使得能够在没有明确的跨媒体注释的情况下利用可用资源。与单模态最先进的方法相比,我们的方法在文本事件参数角色标注和视觉事件提取上分别获得了4.0%和9.8%的绝对F分数增益。与最先进的多媒体非结构化表示相比,我们在多媒体事件提取和参数角色标记上分别获得了8.3%和5.0%的绝对F分数增益。通过利用图像,我们提取的事件提及比传统的纯文本方法多21.4%。
2020-05-05 cs.CL cs.CV cs.LG
Simultaneously Self-Attending to All Mentions for Full-Abstract Biological Relation Extraction
关系抽取中的大多数工作通过查看包含单个实体对提及的单个句子内的短跨度文本来形成预测。这种方法通常不考虑跨提及的交互,需要对每个提及对进行冗余计算,并且忽略跨句子边界表达的关系。生物学文本中常见的文档(而不是句子)级注释加剧了这些问题。作为回应,我们提出了一个模型,同时预测在一个文件中的所有提及对之间的关系。我们使用一个高效的自我注意编码器对整个论文摘要进行成对预测。所有对提及分数允许我们通过聚合提及以形成实体对表示来执行多实例学习。我们通过联合训练来预测命名实体并添加弱标记数据的语料库,进一步适应没有提及级别注释的设置。在两个Biocreative基准数据集上的实验中,我们在Biocreative V Chemical Disease Relation数据集上实现了最先进的性能,用于没有外部KB资源的模型。我们还引入了一个新的数据集的数量级大于现有的人类注释的生物信息抽取数据集和更准确的比远程监督的替代品。
2018-02-28 cs.CL
A Domain-Specific Curated Benchmark for Entity and Document-Level Relation Extraction
University of Padova(帕多瓦大学)
本文提出GutBrainIE基准,用于生物医学领域实体和文档级关系提取,通过精细标注和多任务设计提升IE方法的评估与开发
2026-02-04 cs.CL
WebRED: Effective Pretraining And Finetuning For Relation Extraction On The Web
Google Brain(谷歌大脑);Google(谷歌公司)
关系抽取用于填充对许多应用程序很重要的知识库。用于训练关系抽取模型的现有数据集要么由于远程监督而遭受噪声标签,要么限于某些域,要么太小而无法训练高容量模型。这限制了关系抽取的下游应用。因此,我们介绍:WebRED(Web关系抽取数据集),一个强监督的人类注释数据集,用于从万维网上发现的各种文本中提取关系,由约110 K个示例组成。我们还描述了我们用来收集~ 200 M示例作为此任务的预训练数据的方法。我们表明,将大型弱监督数据集上的预训练与小型强监督数据集上的微调相结合,可以获得更好的关系抽取性能。我们为这个新的数据集提供了基线,并提出了一个案例,人类注释的重要性,提高性能的关系抽取从网络上找到的文本。
2021-02-18 cs.CL cs.IR
ReactIE: Enhancing Chemical Reaction Extraction with Weak Supervision
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出 ReactIE,通过结合文本频繁模式与专利合成数据的弱监督预训练,在标注稀缺条件下提升化学反应抽取性能,实验表明其优于所有现有基线。
2023-07-04 cs.CL
AREG: Adversarial Resource Extraction Game for Evaluating Persuasion and Resistance in Large Language Models
Department of Computer Science and Engineering(计算机科学与工程系);Islamic University of Technology(伊斯兰技术大学)
AREG通过对抗性资源提取游戏评估大型语言模型的说服与抗性能力,发现两者弱相关且存在系统性防御优势。
2026-02-18 cs.CL
DocRED: A Large-Scale Document-Level Relation Extraction Dataset
Tsinghua University(清华大学);Tencent Inc.(腾讯公司)
文档中的多个实体通常表现出复杂的句间关系,并且不能被现有的关系抽取(RE)方法很好地处理,现有的RE方法通常集中于为单个实体对提取句内关系。为了加速文档级RE的研究,本文引入了一个基于Wikipedia和Wikidata构建的新数据集DocRED,它具有以下三个特点:(1)DocRED同时标注命名实体和关系,是目前最大的人工标注的纯文本文档级RE数据集;(2)DocRED需要阅读文档中的多个句子,通过综合文档的所有信息来提取实体并推断它们的关系;(3)除了人工标注的数据,我们还提供了大规模的远程监督数据,这使得DocRED可以用于监督和弱监督场景。为了验证文档级RE的挑战,我们实现了最近的国家的最先进的RE方法,并对DocRED这些方法进行了彻底的评估。实证结果表明,DocRED是现有的RE方法的挑战,这表明,文档级RE仍然是一个开放的问题,需要进一步的努力。在对实验结果进行详细分析的基础上,我们讨论了未来研究的多个有前途的方向。
2019-08-09 cs.CL
Weakly-Supervised Visual-Retriever-Reader for Knowledge-based Question Answering
Arizona State University(亚利桑那州立大学)
基于知识的视觉问答(VQA)要求在回答问题时,除了图像的内容外,还需要使用外部知识。一个主要用于评估基于知识的VQA的数据集是OK-VQA,但它缺乏用于检索的金标准知识语料库。现有工作利用不同的知识库(例如,ConceptNet和Wikipedia)获取外部知识。由于不同的知识基础,很难公平地比较模型的性能。为了解决这个问题,我们收集了一个自然语言知识库,可用于任何VQA系统。此外,我们提出了一个可视化检索器阅读器管道,以接近基于知识的VQA。视觉检索器旨在检索相关知识,视觉阅读器试图根据给定的知识预测答案。我们介绍了使用文本和图像检索知识的各种方法以及两种阅读器风格:分类和提取。检索者和阅读者都在监督不力的情况下接受了培训。我们的实验结果表明,一个好的检索器可以显着提高读者的性能上的OK-VQA的挑战。代码和语料库在https://github.com/luomancs/retriever\_reader\_for\_okvqa.git中提供
2021-09-09 cs.CL
Enhancing Generative Information Extraction with Two-step Validation: A Product Attribute Use Case
Computer Science Institute, Ruhr West University of Applied Sciences(鲁尔西应用科学大学计算机科学学院)
针对数字产品护照领域标注数据稀缺问题,提出集成PLM模块的两步验证生成式信息抽取方法,可提升LLM对低显著性实体的抽取性能,中型模型表现接近大型模型,最小型开源模型效果有限,还开发了对应演示应用。
2026-07-30 cs.CL
Attention based Sentence Extraction from Scientific Articles using Pseudo-Labeled data
DA-IICT
在这项工作中,我们提出了一个弱监督的句子提取技术,以确定重要的句子在科学论文中,是值得列入摘要。我们提出了一种新的基于注意力的深度学习架构,该架构联合学习以识别重要内容,以及指示值得总结的句子的提示短语。我们提出了一种新的上下文嵌入技术,用于使用主题模型确定给定论文的焦点,并将其与基于LSTM的序列编码器联合使用,以学习句子单词的注意力权重。我们使用ACL anthology公开提供的文章集合进行实验。我们的系统实现了更好的性能,在几个ROUGE指标方面,相比几个国家的最先进的提取技术。它还生成了更连贯的摘要,并保留了文件的整体结构。
2018-02-13 cs.AI cs.CL cs.IR
Extracting Dataset Mentions in Forced Displacement and FCV Documents: A Weakly Supervised Framework with LLM-Based Label Refinement
Development Data Group(发展数据局);Office of the World Bank Group Chief Statistician(世界银行集团首席统计学家办公室);The World Bank(世界银行);World Bank UNHCR Joint Data Center(世界银行-联合国难民署联合数据中心)
提出一种弱监督框架,利用LLM精化标签,从强迫流离失所与FCV文献中提取数据集提及,在1,706段落基准上实现74.1%精确率和70.5%召回率,为数据使用分析提供基础。
2026-09-14 cs.AI cs.CL cs.IR
Weakly Supervised Reasoning by Neuro-Symbolic Approaches
College of Computer Science, Sichuan University(四川大学计算机学院);University of Alberta(阿尔伯塔大学)
本文提出神经符号方法,将符号潜在结构与神经网络结合,通过强化学习或松弛形式实现弱监督推理,并在表格查询、句法、信息抽取和规则推理等任务中验证有效性。
2023-09-19 cs.AI cs.CL cs.LG
Unsupervised Term Extraction for Highly Technical Domains
IBM Research(IBM研究院)
术语抽取是知识发现平台中的一项信息抽取任务。开发能够在非常多样化和潜在的高技术领域中推广的术语提取器是具有挑战性的,因为需要深入专业知识的领域的注释是稀缺且昂贵的。在本文中,我们描述了一个商业知识发现平台,目标是高度技术领域,如制药,医疗和材料科学的术语提取子系统。为了能够跨领域进行泛化,我们引入了一个完全无监督的注释器(UA)。它通过将来自子词标记化的新颖形态信号与术语到主题和术语内相似性度量相结合来提取术语,这些相似性度量使用通用域预训练的重复编码器来计算。注释器用于实现弱监督设置,其中transformer模型在通过在大型未标记语料库上运行UA生成的训练数据上进行微调(或预训练)。我们的实验表明,我们的设置可以提高预测性能,同时减少CPU和GPU上的推理延迟。我们的注释器为所有注释不可用的情况提供了一个非常有竞争力的基线。
2022-10-24 cs.AI cs.CL cs.LG
Extreme Extraction: Only One Hour per Relation
University of Washington(华盛顿大学)
信息抽取(IE)旨在从自然语言文本中自动生成大型知识库,但进展缓慢。监督学习需要大量的人工注释,而无监督和弱监督方法无法提供有竞争力的准确性。因此,IE的大多数现场应用以及领先的TAC-KBP系统都依赖于大量的人工工程。即使是“极端”的方法,如弗里德曼等人2011年报道的方法,每个关系需要大约10个小时的专家劳动。本文展示了如何将这种努力减少一个数量级。我们提出了一个新的系统,InstaRead,简化创作与合奏的方法:1)编码提取规则的表达和组合表示,2)引导用户有前途的规则的基础上语料库统计和挖掘的资源,和3)引入一个新的交互式开发周期,提供即时反馈-即使在大型数据集。实验表明,专家可以在一个小时内创建高质量的提取器,甚至NLP新手也可以编写好的提取器。这些提取器等于或优于通过远程监督和最先进的远程监督方法获得的提取器。
2015-06-21 cs.AI cs.CL cs.IR
How Knowledge Graph and Attention Help? A Quantitative Analysis into Bag-level Relation Extraction
National University of Singapore(新加坡国立大学);Nanyang Technological University(南洋理工大学);Virginia Tech(弗吉尼亚理工大学)
知识图谱和注意力机制在弱监督方法中引入和选择有用信息的有效性已经得到证明。然而,仅提供定性分析和消融研究作为证据。在本文中,我们贡献了一个数据集,并提出了一个范式,定量评估的影响,注意力和KG袋级关系抽取(RE)。我们发现:(1)更高的注意力准确度可能会导致更差的性能,因为它可能会损害模型提取实体提及特征的能力;(2)注意力的性能在很大程度上受到各种噪声分布模式的影响,这与真实世界的数据集密切相关;(3)KG增强的注意力确实提高了RE性能,但不是通过增强注意力,而是通过引入实体先验;以及(4)注意力机制可能加剧训练数据不足的问题。基于这些发现,我们表明,与三个最先进的基线相比,RE模型的直接变体可以在两个真实世界的数据集上实现显着改善(平均6% AUC)。我们的代码和数据集可在https://github.com/zig-kwin-hu/how-KG-ATT-help上获得。
2021-07-26 cs.AI cs.CL
MEGClass: Extremely Weakly Supervised Text Classification via Mutually-Enhancing Text Granularities
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Virginia Tech(弗吉尼亚理工大学)
MEGClass提出一种极弱监督文本分类方法,通过联合利用文档中最具类别指示性的词和句子,实现粗粒度与细粒度上下文信号的互增强,并以迭代反馈方式优化类别表示和微调预训练分类器,在七个基准数据集上优于现有弱监督方法。
2023-10-29 cs.AI cs.CL
From Large to Tiny: Distilling and Refining Mathematical Expertise for Math Word Problems with Weakly Supervision
Guangdong University of Technology(广东工业大学)
本文提出两阶段蒸馏与精炼框架,从 LLM 构建并补全问题-方程对以弱监督训练小型 MWP 模型,在 Math23K 和 Weak12K 上显著提升且成本远低于 ChatGPT。
2024-03-21 cs.CL
Leveraging Customer Feedback for Multi-modal Insight Extraction
Amazon(亚马逊)
本文提出一种在潜在空间融合图像与文本的多模态方法,结合弱监督数据生成技术,有效提取客户反馈中的可操作洞察,在F1分数上超越基线14分。
2024-10-13 cs.AI cs.CL cs.CV
GEGA: Graph Convolutional Networks and Evidence Retrieval Guided Attention for Enhanced Document-level Relation Extraction
School of Software, Henan University(河南大学软件学院);China Mobile Research Institute(中国移动研究院);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
针对文档级关系抽取中证据相关性弱及长距离多实体复杂关系抽取不足的问题,提出 GEGA 模型,用图神经网络引导证据注意力并结合多尺度证据检索,在三个基准上全面超越现有 SOTA。
2024-09-08 cs.AI cs.CL
Relation Extraction with Fine-Tuned Large Language Models in Retrieval Augmented Generation Frameworks
Freie Universitaet Berlin(柏林自由大学);Fraunhofer Institute FOKUS(弗劳恩霍夫应用研究促进协会福库斯研究所)
本研究将微调后的大语言模型集成到检索增强生成(RAG)框架中开展关系抽取,解决句子级隐式关系识别难题,在多个基准数据集上取得超越既往方法的性能表现。
2024-06-24 cs.AI cs.CL
A Weakly-Supervised Iterative Graph-Based Approach to Retrieve COVID-19 Misinformation Topics
University of Pennsylvania(宾夕法尼亚大学)
2019冠状病毒病大流行伴随着“信息流行病”-社交媒体上准确和不准确的健康信息。在动态变化的信息环境中检测错误信息是具有挑战性的;由于需要大量的人力来检查帖子的内容和来源,因此识别相关的关键字和帖子是艰巨的。我们的目标是通过引入弱监督迭代基于图的方法来检测与错误信息相关的关键字、主题和主题,以COVID-19为重点,从而降低此过程的资源成本。我们的方法可以成功地检测特定的主题,从一般的错误信息相关的种子词在一些种子文本。我们的方法利用基于BERT的词图搜索(BWGS)算法,该算法建立在基于上下文的神经网络嵌入检索错误信息相关的职位。我们利用潜在狄利克雷分配(LDA)主题建模获得错误信息相关的主题从文本返回的BWGS。此外,我们提出了基于BERT的多方向词图搜索(BMDWGS)算法,利用更大的启动上下文信息的错误信息提取。除了对我们的方法进行定性分析外,我们的定量分析还表明,与低数据资源环境中的常见基线相比,BWGS和BMDWGS在提取错误信息相关内容方面是有效的。提取这些内容有助于发现普遍存在的误解和担忧,并促进精确的公共卫生信息宣传活动,以改善健康行为。
2022-05-19 cs.CL cs.HC cs.SI
AE-smnsMLC: Multi-Label Classification with Semantic Matching and Negative Label Sampling for Product Attribute Value Extraction
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Rakuten Institute of Technology(乐天技术研究所);Rakuten Group Inc.(乐天集团株式会社)
针对电子商务中仅弱标注属性值而无位置信息的场景,本文提出一种结合语义匹配与负标签采样的多标签分类模型,在真实数据集上验证了其有效性与优越性。
2023-10-11 cs.CL cs.IR cs.LG
Weakly Supervised Veracity Classification with LLM-Predicted Credibility Signals
The University of Sheffield(谢菲尔德大学)
本文提出Pastel,一种利用LLM提取可信度信号并弱监督预测内容真实性的方法,在四个数据集上显著优于零样本检测,并接近监督式最先进系统的性能。
2024-11-04 cs.AI cs.CL cs.LG