EIVEN: Efficient Implicit Attribute Value Extraction using Multimodal LLM
Amazon(亚马逊);University of Illinois Chicago(伊利诺伊大学芝加哥分校);Washington University in St. Louis(圣路易斯华盛顿大学)
针对电商多模态隐式属性值提取的标注依赖、相似值混淆等问题,提出数据与参数高效的生成框架EIVEN,结合预训练多模态LLM与对比学习技术,构建首批相关开源数据集,在更少标注下实现性能显著提升。
2024-04-13 cs.AI cs.CL cs.CV
MADIAVE: Multi-Agent Debate for Implicit Attribute Value Extraction
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
MADIAVE通过多智能体辩论框架提升隐式属性值提取的准确性和鲁棒性,适用于多模态电子商务场景。
2026-01-15 cs.AI cs.CL
ImPaKT: A Dataset for Open-Schema Knowledge Base Construction
Google Research(谷歌研究院)
大语言模型已经迎来了语义解析的黄金时代。seq2seq范例允许开放模式和抽象属性以及关系抽取,只需要少量的微调数据。语言模型预训练同时使自然语言推理、自由文本中的蕴涵推理和隐含推理取得了长足的进步。这些进步促使我们构建ImPaKT,一个开放模式信息抽取的数据集,由来自C4语料库的大约2500个文本片段组成,在购物领域(产品购买指南),用提取的属性,类型,属性摘要(从特质文本中发现属性模式),复合和原子属性之间的多对一关系以及含义关系进行专业注释。我们发布这些数据,希望它将有助于微调语义解析器的信息抽取和知识库建设在各种领域。我们通过对数据集子集上的开源UL2语言模型进行微调,从产品购买指南语料库中提取一组隐含关系,并对所得预测进行人工评估,来评估这种方法的功能。
2022-12-21 cs.CL
Breaking the Autoregressive Chain: Hyper-Parallel Decoding for Efficient LLM-Based Attribute Value Extraction
Amazon.com, Inc.(亚马逊公司);McGill University(麦吉尔大学);Mila - Quebec AI Institute(魁北克AI研究所);Int. Lab. Learning Systems(学习系统国际实验室)
本文提出超并行解码方法,通过利用共享内存和计算实现批量并行,提升属性值提取任务的效率,减少推理成本和时间,适用于多种独立输出结构的场景。
2026-04-29 cs.AI cs.CL
Product Information Extraction using ChatGPT
University of Mannheim(曼海姆大学);Northeastern University(东北大学)
本文探讨ChatGPT在零样本和少样本提示下从文本产品描述中提取属性/值对的潜力,发现其性能与预训练语言模型相当,但所需训练数据和微调计算量大幅减少。
2023-06-23 cs.CL cs.IR
Visual Search Augmented Chain-of-Thought Reasoning for Attribute Value Extraction from Product Videos
Virginia Tech(弗吉尼亚理工大学);Amazon(亚马逊)
针对产品视频属性值提取,提出无需训练的ViS-CoT流水线,结合视觉聚类、搜索和交错思维链推理,在VideoAVE数据集上使多个视频VLM平均提升17.91个百分点micro-F1。
2026-09-09 cs.CL cs.CV
ImplicitAVE: An Open-Source Dataset and Multimodal LLMs Benchmark for Implicit Attribute Value Extraction
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Carnegie Mellon University(卡内基梅隆大学)
针对现有AVE数据集忽略隐式属性值、缺乏图像且不公开的问题,提出ImplicitAVE多模态数据集,并基准测试多种MLLMs,发现隐式提取仍具挑战性。
2024-07-19 cs.AI cs.CL cs.CV
LLM-Ensemble: Optimal Large Language Model Ensemble Method for E-commerce Product Attribute Value Extraction
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Walmart Global Tech(沃尔玛全球科技)
针对不同大语言模型在电商属性值抽取任务中各有优劣的问题,提出迭代学习权重的LLM-ensemble集成算法,理论最优且高效安全,在沃尔玛内部数据上优于单模型,已上线并提升多项业务指标。
2024-06-20 cs.AI cs.CL cs.IR
De Jure: Iterative LLM Self-Refinement for Structured Extraction of Regulatory Rules
The Vanguard Group, Inc.(先锋集团)
De Jure通过四个阶段自动提取结构化监管规则,无需人工标注或领域知识,提升监管文本处理的效率和可追溯性。
2026-04-02 cs.AI cs.CL cs.LG
Blu-WERP (Web Extraction and Refinement Pipeline): A Scalable Pipeline for Preprocessing Large Language Model Datasets
BluBridge Research(BluBridge研究机构)
Blu-WERP是一种用于提升大语言模型训练数据质量的高效预处理流程,通过优化Common Crawl WARC文件,显著提高了模型性能和效率。
2025-11-22 cs.CL cs.LG
AI-PAVE-Br: Leveraging Large Language Models for Enhanced Product Attribute Value Extraction through a Golden Set Approach
LuizaLabs – Center of Excellence in Artificial Intelligence(LuizaLabs人工智能卓越中心);Department of Computing and Informatics – Mackenzie Presbyterian University(计算与信息学系-麦金西 Presbyterian大学);Institute of Mathematics and Computer Sciences - University of São Paulo(数学与计算机科学研究所-圣保罗大学)
针对巴西电商产品数据爆炸和复杂性,提出AI-PAVE-Br系统,利用大语言模型和精心标注的黄金集,显著提升葡萄牙语产品属性值提取的准确性。
2026-06-24 cs.AI cs.CL cs.LG
Cog-TiPRO: Iterative Prompt Refinement with LLMs to Detect Cognitive Decline via Longitudinal Voice Assistant Commands
Computer Science, University of Massachusetts, Boston, MA, USA(计算机科学,马萨诸塞大学,波士顿,马萨诸塞州,美国);School of Medicine, University of North Carolina, Chapel Hill, NC, USA(医学院,北卡罗来纳大学,夏洛特,北卡罗来纳州,美国)
本研究提出Cog-TiPRO框架,结合LLM迭代提示优化、HuBERT声学特征提取与iTransformer时序建模,通过纵向分析老年人居家语音助手指令检测认知衰退,MCI检测准确率达73.80%,较基线提升27.13%。
2025-09-03 cs.AI cs.CL
Agentic schema-guided extraction of materials process knowledge from scientific literature
TIB Leibniz Information Centre for Science and Technology(莱布尼茨科学技术信息中心)
提出SciKGExtract框架,结合大语言模型抽取、化学归一化与智能体细化,从原子层沉积文献中提取工艺知识,显著提升抽取F1分数,验证了化学规范化与智能体验证的互补作用。
2026-10-06 cond-mat.mtrl-sci cs.AI cs.CL
AdaTag: Multi-Attribute Value Extraction from Product Profiles with Adaptive Decoding
University of Southern California(南加州大学);University of Oklahoma(俄克拉荷马大学)
产品属性值的自动提取是电子商务平台中一项重要的使能技术。这个任务通常使用序列标记架构建模,并有几个扩展来处理多属性提取。之前的一系列工作通过单独的解码器或完全单独的模型构建了特定于属性的模型。然而,这种方法限制了不同属性之间的知识共享。其他贡献使用一个单一的多属性模型,用不同的技术来嵌入属性信息。但是,在所有属性之间共享整个网络参数会限制模型捕获特定于属性的特征的能力。在本文中,我们提出了AdaTag,它使用自适应解码来处理提取。我们通过一个超网络和一个混合专家(MoE)模块,用预训练的属性嵌入来参数化解码器。这允许为不同的属性动态生成单独的但语义相关的解码器。这种方法有利于知识共享,同时保持每个属性的特殊性。我们在真实世界的电子商务数据集上的实验表明,与以前的方法相比,我们的方法有明显的改进。
2021-06-04 cs.CL
Not Just Plain Text! Fuel Document-Level Relation Extraction with Explicit Syntax Refinement and Subsentence Modeling
Tsinghua University(清华大学);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
文档级关系抽取(DocRE)旨在识别单个文档中实体之间的语义标签。DocRE的一个主要挑战是从长文本中挖掘关于特定实体对的决定性细节。然而,在许多情况下,即使在手动标记的支持证据中,也只有一小部分文本携带所需的信息。为了更好地捕捉和利用有指导意义的信息,我们提出了一种新的显式syntAx细化和子句mOdeliNg为基础的框架(LARSON)。通过引入额外的句法信息,LARSON可以对任意粒度的子句进行建模,并有效地筛选出有指导意义的子句。此外,我们将精炼的语法到文本表示,进一步提高了性能的LARSON。在三个基准数据集(DocRED,CDR和GDA)上的实验结果表明,LARSON显著优于现有方法。
2023-02-13 cs.CL
EAVE: Efficient Product Attribute Value Extraction via Lightweight Sparse-layer Interaction
Google(谷歌)
针对多属性产品信息需重复提取导致的效率问题,提出EAVE,通过缓存重型上下文表示并结合轻型编码器与稀疏层交互,在长上下文、多属性场景下显著提速且性能几乎无损。
2024-06-10 cs.CL
Applications of BERT Based Sequence Tagging Models on Chinese Medical Text Attributes Extraction
Tsinghua-iFlytek Joint Laboratory(清华大学科大讯飞联合实验室)
我们将中文医学文本属性抽取任务转化为序列标注或机器阅读理解任务。基于BERT预训练模型,我们不仅尝试了广泛使用的LSTM-CRF序列标记模型,还尝试了其他序列模型,如CNN,UCNN,WaveNet,SelfAttention等,这些模型达到了与LSTM+CRF相似的性能。这揭示了传统的序列标记模型。由于不同序列标记模型的重点方面差异很大,因此将这些模型集成在一起会增加最终系统的多样性。通过这样做,我们的系统在中文医学文本属性提取任务(CCKS 2019任务1的子任务2)上取得了良好的性能。
2020-08-22 cs.CL
Multimodal Attribute Extraction
University of California(加利福尼亚大学);Diffbot(Diffbot公司)
信息抽取的主要目标是从非结构化数据中获取结构化信息。然而,大多数现有的方法只关注文本,忽略了其他类型的非结构化数据,如图像,视频和音频,其中包括越来越多的部分在Web上的信息。为了解决这个缺点,我们提出了多模态属性提取的任务。给定关于实体的非结构化和半结构化上下文信息的集合(例如文本描述或视觉提示),任务是提取实体的底层属性。在本文中,我们提供了一个数据集,其中包含超过200万个产品项目的混合媒体数据,以及700万个描述项目的属性-值对,这些项目可用于以弱监督方式训练属性提取器。我们提供了各种各样的基线,这些基线展示了个体信息模式对解决任务的相对有效性,以及研究人类的表现。
2017-11-29 cs.CL
Reasoning with Latent Structure Refinement for Document-Level Relation Extraction
Singapore University of Technology and Design(新加坡科技设计大学);Università della Svizzera italiana(提契诺大学)
文档级关系抽取需要在文档的多个句子中整合信息,并捕获句子间实体之间的复杂交互。然而,有效地汇总文件中的相关信息仍然是一个具有挑战性的研究问题。现有的方法构造静态文档级图的基础上的语法树,共引用或从非结构化文本的依赖建模。与以前的方法,可能无法捕获丰富的非本地的相互作用进行推理,我们提出了一种新的模型,通过自动诱导潜在的文档级图,使跨句子的关系推理。我们进一步开发了一个细化策略,使模型能够增量聚合多跳推理的相关信息。具体来说,我们的模型在大规模文档级数据集(DocRED)上获得了59.05的F1分数,比以前的结果有了显著改善,并且在CDR和GDA数据集上也产生了新的最先进的结果。此外,大量的分析表明,该模型能够发现更准确的句间关系。
2020-07-28 cs.CL
Multimodal Joint Attribute Prediction and Value Extraction for E-commerce Product
JD AI Research(京东人工智能研究院)
产品属性值在很多电子商业场景中都是必不可少的,比如客服机器人、产品推荐、产品检索等。而在现实世界中,产品的属性值往往是不完整的,并随着时间的推移而变化,这极大地阻碍了实际应用。在本文中,我们提出了一种多模态方法,以联合预测产品属性和提取价值的文本产品描述的帮助下的产品图像。我们认为,产品属性和价值是高度相关的,例如,在给定产品属性的条件下,将更容易提取值。因此,我们从多个方面对属性和值之间的相互作用联合建模属性预测和值提取任务。此外,产品形象对我们的任务有不同的产品属性和价值观的影响。因此,我们选择性地从产品图像中提取有用的视觉信息来增强我们的模型。我们标注了一个包含87,194个实例的多模态产品属性值数据集,该数据集上的实验结果表明,显式建模属性和值之间的关系有助于我们的方法建立它们之间的对应关系,并且有选择地利用视觉产品信息是必要的任务。我们的代码和数据集将向公众发布。
2020-09-15 cs.CL
Hybrid Generative-Tagging Decoding for Efficient Product Attribute-Value Extraction
Amazon(亚马逊)
针对电商产品属性-值抽取的痛点,提出混合生成-标记解码模型,结合标记与生成策略,在不损失精度的前提下提升属性覆盖、正确对数量并降低延迟。
2026-10-16 cs.CL
Two-Stage Prompt Optimization for Few-Shot Relation Extraction: From Reasoning-Guided Search to Gradient-Guided Refinement
University of Arizona(亚利桑那大学)
提出两阶段框架,结合推理和梯度优化自动优化提示,在少样本关系抽取任务中取得最优性能。
2026-06-28 cs.AI cs.CL
Attribute Extraction from Product Titles in eCommerce
WalmartLabs(沃尔玛实验室)
本文提出了一种命名实体提取系统,用于检测沃尔玛等电子商务零售商的产品名称中的属性。在如此短的文本片段中缺乏句法结构使得提取属性值成为一个具有挑战性的问题。我们发现,结合序列标记算法,如条件随机场和结构化感知器与策划的规范化方案产生一个有效的系统,从标题中提取产品属性值的任务。为了使讨论具体化,我们将从一个特定的属性-品牌的角度来说明系统的机制。我们还讨论了一个属性提取系统的重要性,在零售网站与大型产品目录的背景下,比较我们的方法,其他潜在的方法来解决这个问题,并结束了我们的系统提取属性的性能的讨论。
2016-08-15 cs.CL cs.IR
MAVE: A Product Dataset for Multi-source Attribute Value Extraction
Google Research(谷歌研究院);Google(谷歌)
属性值提取是指从产品信息中识别感兴趣的属性值的任务。产品属性值在许多电子商务场景中是必不可少的,例如客户服务机器人,产品排名,检索和推荐。而在现实世界中,产品的属性值往往是不完整的,并随着时间的推移而变化,这极大地阻碍了实际应用。在本文中,我们介绍了MAVE,一个新的数据集,以更好地促进产品属性值提取的研究。MAVE由来自亚马逊页面的220万件产品组成,其中包含1257个独特类别的300万个属性值注释。MAVE有四个主要和独特的优势:首先,MAVE是最大的产品属性值提取数据集的属性值的例子的数量。其次,MAVE包括来自产品的多源表示,它捕获了具有高属性覆盖率的完整产品信息。第三,MAVE表示相对于以前的数据集覆盖的属性和值的更多样化的集合。最后,MAVE提供了一个非常具有挑战性的zero-shot测试集,正如我们在实验中所展示的那样。我们进一步提出了一种新的方法,有效地提取多源产品信息的属性值。我们进行了广泛的实验与几个基线,并表明MAVE是一个有效的数据集属性值提取任务。zero-shot属性提取也是一个非常具有挑战性的课题。数据可在{ \it \url{https://github.com/google-research-datasets/MAVE} }获取。
2021-12-16 cs.CL cs.IR
Multi-Attribute Relation Extraction (MARE) -- Simplifying the Application of Relation Extraction
FH Aachen, University of Applied Sciences(亚琛应用技术大学);University of Kassel(卡塞尔大学)
自然语言理解的关系抽取使创新和鼓励新的业务概念成为可能,并促进新的数字化决策过程。当前的方法允许提取具有固定数量的实体作为属性的关系。提取具有任意数量属性的关系需要复杂的系统和昂贵的关系触发器注释来帮助这些系统。我们引入多属性关系抽取(MARE)作为一个无约束的问题制定两种方法,促进了显式的映射从业务用例的数据注释。避免复杂的注释约束简化了关系抽取方法的应用。评估比较我们的模型,目前国家的最先进的事件提取和二进制关系抽取方法。我们的方法相比,这些一般的多属性关系的提取显示出改进。
2021-11-17 cs.AI cs.CL cs.IR
Knowledge-guided Open Attribute Value Extraction with Reinforcement Learning
North Carolina State University(北卡罗来纳州立大学);Fudan University(复旦大学)
面向新实体的开放属性值抽取是一项重要而又具有挑战性的任务。许多以前的工作制定的问题作为一个\textit{question-answering}(QA)的任务。虽然来自网络语料库的文章集合提供了关于新兴实体的更新信息,但检索到的文本可能是嘈杂的,不相关的,从而导致不准确的答案。有效地过滤掉噪声文章以及糟糕的答案是提高抽取准确率的关键。知识图谱(KG)包含关于实体的丰富的、组织良好的信息,为解决这一挑战提供了良好的资源。在这项工作中,我们提出了一个知识引导的强化学习(RL)框架的开放属性值提取。根据KG中的相关知识,我们训练了一个深度Q网络来顺序比较提取的答案,以提高提取的准确性。该框架适用于不同的信息抽取系统。我们的实验结果表明,我们的方法优于基线的16.5 - 27.8%。
2020-10-19 cs.CL cs.IR
Exploring Generative Models for Joint Attribute Value Extraction from Product Titles
IIT Kharagpur(印度理工学院克勒格布尔分校);TCS Research(塔塔咨询服务研究院)
产品的属性值是任何电子商务平台的重要组成部分。属性值提取(AVE)处理从产品的标题或描述中提取产品的属性及其值。在本文中,我们建议使用生成框架来解决AVE任务。我们提出了两种类型的生成范式,即,基于词序列和基于位置序列,通过制定AVE任务作为一个生成问题。我们在两个数据集上进行实验,其中生成方法实现了新的最先进的结果。这表明,我们可以使用所提出的框架AVE任务,而无需额外的标记或特定于任务的模型设计。
2022-08-15 cs.CL cs.IR
Getting To Know You: User Attribute Extraction from Dialogues
Center for Artificial Intelligence Research (CAiRE)(人工智能研究中心(CAiRE));The Hong Kong University of Science and Technology(香港科技大学)
用户属性为用户理解提供了丰富而有用的信息,但结构化和易于使用的属性通常很少。在本文中,我们利用对话与会话代理,其中包含用户信息的强烈建议,自动提取用户属性。由于没有现有的数据集可用于此目的,我们应用远程监督训练我们提出的两阶段属性提取器,它超越了人类评价的几个检索和生成基线。同时,我们讨论了潜在的应用(例如,个性化推荐和对话系统),并指出当前的局限性,以便对未来的工作有所启发。
2019-08-13 cs.AI cs.CL
SCIR: A Self-Correcting Iterative Refinement Framework for Enhanced Information Extraction Based on Schema
Yushen Fang, Jianjun Li, Mingqian Ding, Chang Liu, Xinchi Zou, Wenqi Yang(作者)
SCIR框架通过自校正迭代细化方法,有效降低信息提取的训练成本并提升准确性,实现跨任务的高效信息提取。
2025-12-13 cs.AI cs.CL
VideoAVE: A Multi-Attribute Video-to-Text Attribute Value Extraction Dataset and Benchmark Models
Virginia Tech(弗吉尼亚理工大学)
本文提出首个公开的视频到文本电商属性值提取数据集VideoAVE,涵盖14个领域172个属性,并设计CLIP-MoE过滤系统保证数据质量,通过多模型基准评估揭示该任务仍具挑战性。
2025-08-15 cs.CL cs.CV
Simple and Effective Knowledge-Driven Query Expansion for QA-Based Product Attribute Extraction
Rakuten Institute of Technology(乐天技术研究所);Rakuten Group Inc.(乐天集团);Institute of Industrial Science(工业科学研究所);the University of Tokyo(东京大学)
电子商务网站属性值提取的一个关键问题是如何处理大量不同产品的属性。虽然这个挑战部分地解决了问答(QA)的方法,找到一个给定的查询(属性)的产品数据中的值,它不工作,有效地为罕见的和模糊的查询。因此,我们提出了简单的知识驱动的查询扩展的基础上可能的答案(值)的查询(属性)的基于QA的AVE。我们从训练数据中检索查询(属性)的值以扩展查询。我们用知识丢弃和知识令牌混合两种技巧来训练模型,模拟测试中价值知识的不完全性。在AliExpress数据集的清理版本上的实验结果表明,我们的方法提高了AVE的性能(+6.08宏F1),特别是对于罕见和模糊的属性(分别为+7.82和+6.86宏F1)。
2022-06-28 cs.AI cs.CL
Hallucination-Resistant Relation Extraction via Dependency-Aware Sentence Simplification and Two-tiered Hierarchical Refinement
Shanghai Jiao Tong University(上海交通大学);University of California San Diego(加州大学圣地亚哥分校);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Alibaba Group(阿里巴巴集团)
DEPTH通过依赖感知句子简化和双层级层次精炼提升关系抽取的准确性,将幻觉率降低至7.9%,F1分数提升9.3%。
2026-02-01 cs.AI cs.CL
Evaluating Structured Output Robustness of Small Language Models for Open Attribute-Value Extraction from Clinical Notes
Saint Mary’s University(圣玛丽大学);York University(约克大学)
本研究比较了小型语言模型在临床笔记属性-值抽取中生成JSON、YAML和XML输出的可解析性,发现JSON最优,并提出了格式选择与提示设计的实用建议。
2025-07-02 cs.CL cs.IR
Distinctive-attribute Extraction for Image Captioning
Korea Electronics Technology Institute(韩国电子技术研究院)
图像描述是一个开放的研究课题,随着深度神经网络的发展而不断发展。研究中采用了卷积神经网络(CNN)和递归神经网络(RNN)来计算图像特征并生成自然语言描述。在以前的工作中,可以通过将附加信息应用到RNN中来生成涉及语义描述的字幕。在这种方法中,我们提出了一个独特的属性提取(DAE),明确鼓励重要的意义,以产生一个准确的标题描述的整体意义的图像与他们独特的情况。具体地说,训练图像的字幕进行分析的词频逆文档频率(TF-IDF),和分析的语义信息进行训练,以提取独特的属性推断字幕。所提出的方案进行评估的挑战数据,它提高了客观的性能,同时更详细地描述图像。
2018-07-25 cs.CL cs.CV
Multilingual Attribute Extraction from News Web Pages
ISP RAS(俄罗斯科学院信息学与自动化研究所);MSU(莫斯科国立大学)
本文构建了一个六语言新闻网页属性提取数据集,通过微调MarkupLM和DOM-LM两种预训练模型,实现了优于现有开源工具的多语言新闻属性自动提取效果。
2025-02-04 cs.CL cs.IR
Simplified DOM Trees for Transferable Attribute Extraction from the Web
University of California, Los Angeles(加州大学洛杉矶分校);Google(谷歌)
一直有一个稳定的需要,精确地提取结构化的知识,从网络(即HTML文档)。给定一个网页,提取结构化对象以及各种感兴趣的属性(例如,价格,出版商,作者和书籍的流派)可以促进各种下游应用,例如大规模知识库构建,电子商务产品搜索和个性化推荐。考虑到每个网页都是从HTML DOM树中渲染出来的,现有的方法将问题描述为DOM树节点标记任务。然而,它们要么依赖于计算上昂贵的视觉特征工程,要么无法对树节点之间的关系进行建模。在本文中,我们提出了一种新的可转移的方法,简化的DOM树属性提取(DOM),有效地检索有用的上下文为每个节点,利用树结构来解决这个问题。我们研究了两个具有挑战性的实验设置:(i)垂直内的Few-Shot提取,和(ii)跨垂直的fewshot提取领域外的知识,以评估我们的方法。在SWDE公共数据集上进行的大量实验表明,在F1得分上,RSDOM比最先进的(SOTA)方法高出1.44%。我们还发现,利用来自不同垂直(垂直交叉提取)的知识是非常有用的,并有助于进一步击败SOTA 1.37%。
2021-01-07 cs.CL cs.LG
PAM: Understanding Product Images in Cross Product Category Attribute Extraction
Emory University(埃默里大学);Amazon(亚马逊)
了解产品属性对于改善消费者的在线购物体验具有重要作用,并且是构建产品知识图谱的重要组成部分。现有的方法大多集中在从文本描述中提取属性或利用产品图像中的视觉信息,如形状和颜色。与以前的作品中考虑的输入相比,产品图像实际上包含了更多的信息,由丰富的文字和视觉线索的混合物表示,精心设计的布局给客户留下深刻印象。这项工作提出了一个更具包容性的框架,充分利用这些不同的方式进行属性提取。受视觉问答中最近工作的启发,我们使用基于Transformer的序列到序列模型来融合产品文本、光学字符识别(OCR)标记和在产品图像中检测到的视觉对象的表示。通过训练解码器预测产品类别和属性值,并根据产品类别调整其输出,该框架进一步扩展了使用单个模型跨多个产品类别提取属性值的能力。该模型提供了一个统一的属性提取解决方案,希望在电子商务平台,提供了众多的产品类别与不同的身体的产品属性。我们评估了两个产品属性的模型,一个具有许多可能的值,一个具有一小部分可能的值,超过14个产品类别,发现与使用纯文本特征的现有方法相比,该模型可以在召回率上获得15%的增益,在F1得分上获得10%的增益。
2021-06-08 cs.CL cs.CV cs.LG
Deep Recurrent Neural Networks for Product Attribute Extraction in eCommerce
Walmart Labs(沃尔玛实验室)
从产品标题中提取准确的属性质量是通过丰富的分面搜索为电子商务客户提供有价值的在线购物体验的重要组成部分。我们展示了深度递归网络在这一领域的潜力,主要是双向LSTM和双向LSTM-CRF等模型,无论是否有注意力机制。与以前的基准测试相比,这些测试提高了整体F1分数(More等人)。至少0.0391,展示了97.94%的总体准确率,94.12%的召回率和0.9599的F1得分。这使我们实现了对产品重要方面或属性的显著覆盖,这不仅显示了深度递归模型在以前的机器学习基准测试中的功效,而且大大增强了在线购物时的整体客户体验。
2018-03-29 cs.AI cs.CL
AE-smnsMLC: Multi-Label Classification with Semantic Matching and Negative Label Sampling for Product Attribute Value Extraction
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Rakuten Institute of Technology(乐天技术研究所);Rakuten Group Inc.(乐天集团株式会社)
针对电子商务中仅弱标注属性值而无位置信息的场景,本文提出一种结合语义匹配与负标签采样的多标签分类模型,在真实数据集上验证了其有效性与优越性。
2023-10-11 cs.CL cs.IR cs.LG
Enhancing Generative Information Extraction with Two-step Validation: A Product Attribute Use Case
Computer Science Institute, Ruhr West University of Applied Sciences(鲁尔西应用科学大学计算机科学学院)
针对数字产品护照领域标注数据稀缺问题,提出集成PLM模块的两步验证生成式信息抽取方法,可提升LLM对低显著性实体的抽取性能,中型模型表现接近大型模型,最小型开源模型效果有限,还开发了对应演示应用。
2026-07-30 cs.CL
Progressive Fashion Attribute Extraction
Myntra Designs Pvt Ltd(Myntra设计私人有限公司)
从穿着服装/时尚配饰的人的图像中提取时尚属性是一个非常困难的多类分类问题。大多数情况下,由于注释成本过高,即使是时尚目录也没有标记所有细粒度的属性。使用时尚物品的图像,使用单个模型对所有类型的属性(颈部设计细节、袖子细节等)运行多类属性提取,需要对缺失和模糊标记的数据具有鲁棒性的分类器。在这项工作中,我们提出了一种渐进的训练方法,用于这种多类分类,其中从属性中学习的权重针对同一时尚文章(例如,连衣裙)的另一个属性进行微调。我们在训练过程中逐步从基础网络中为每个属性分支网络。虽然它可能有许多标签,一个图像不需要有所有可能的标签的时尚文章存在于it. We还比较我们的方法,多标签分类,并证明使用我们的方法在整体分类精度的改进。
2019-06-29 cs.CL cs.CV cs.IR
VERGE: Verification-Enhanced Refinement for Grounded Extraction of Early-Onset Colorectal Cancer Symptoms in Clinical Notes
Southern Methodist University(南卫理公会大学);UT Southwestern Medical Center(德克萨斯大学西南医学中心)
本研究开发了VERGE智能体工作流,通过验证-优化循环提取临床笔记中的早发性结直肠癌预警症状及家族史风险,在4033条标注数据上较基线方法提升了性能,仅需1.5%人工审核。
2026-09-07 cs.CL
Knowledge-Enhanced Multi-Label Few-Shot Product Attribute-Value Extraction
Virginia Polytechnic Institute and State University(弗吉尼亚理工学院暨州立大学);Rakuten Institute of Technology, Rakuten Group Inc.(乐天集团乐天技术研究所)
针对商品新属性-值对标注稀缺问题,提出知识增强注意力框架 KEAF,利用标签描述、类别信息、混合注意力与动态阈值实现多标签小样本抽取,并在两个数据集上超过现有 SOTA。
2023-08-16 cs.CL cs.IR
Code-MIE: A Code-style Model for Multimodal Information Extraction with Scene Graph and Entity Attribute Knowledge Enhancement
Key Laboratory of Aerospace Information Security and Trusted Computing, Ministry of Education, School of Cyber Science and Engineering, Wuhan University(航天信息安全部与可信计算重点实验室,教育部,武汉大学计算机科学与工程学院);University of Oxford(牛津大学);Wuhan Second Ship Design and Research Institute(武汉第二船舶设计研究所);China United Network Communications Co., Ltd. Research Institute(中国联合网络通信有限公司研究院)
本文提出Code-MIE框架,通过统一代码理解和生成解决多模态信息提取问题,引入实体属性、场景图和文本参数,提升结构化信息提取性能。
2026-03-21 cs.CL
OpenTag: Open Attribute Value Extraction from Product Profiles [Deep Learning, Active Learning, Named Entity Recognition]
University of Utah(犹他大学)
缺失属性值的提取是从自由文本输入中找到描述感兴趣属性的值。过去大多数关于提取缺失属性值的相关工作都是在封闭世界假设下进行的,其中可能的值集是预先已知的,或者使用值字典和手工制作的特征。我们如何发现我们以前从未见过的新属性值?我们能在有限的人工注释或监督下做到这一点吗?我们研究这个问题的背景下,产品目录,往往有许多感兴趣的属性缺失值。在这项工作中,我们利用产品配置文件信息,如标题和描述,以发现产品属性的缺失值。我们为这个提取问题开发了一个新的深度标记模型OpenTag,其贡献如下:(1)我们将问题形式化为一个序列标记任务,并提出了一个利用递归神经网络的联合模型(具体来说,双向LSTM)来捕获上下文和语义,以及条件随机场(CRF)来执行标记一致性,(2)提出了一种新的注意力机制,为模型的决策提供可解释的解释;(3)提出了一种新的采样策略,探索主动学习,以减少人工注释的负担。OpenTag不像以前的作品那样使用任何字典或手工制作的功能。在不同领域的真实数据集上进行的大量实验表明,OpenTag与我们的主动学习策略一起从最少150个注释样本中发现新的属性值(注释工作量减少了3.3倍),F值高达83%,优于最先进的模型。
2018-10-06 cs.AI cs.CL cs.IR
QUEACO: Borrowing Treasures from Weakly-labeled Behavior Data for Query Attribute Value Extraction
Amazon.com Inc(亚马逊公司);Georgia Institute of Technology(佐治亚理工学院);Hong Kong University of Science and Technology(香港科技大学)
我们研究了查询属性值抽取问题,其目的是从用户查询中识别出具有不同表面形式属性值的命名实体,然后将其转换为形式规范形式。该问题包括两个阶段:{命名实体识别(NER)}和{属性值规范化(AVN)}。然而,现有的工作只关注NER阶段,而忽略了同样重要的AVN。为了弥补这一缺陷,本文提出了一个统一的电子商务搜索查询属性值抽取系统QUEACO,它包括两个阶段。此外,通过利用大规模的弱标记行为数据,我们进一步提高了提取性能与更少的监督成本。具体来说,对于NER阶段,QUEACO采用了一种新颖的教师-学生网络,其中在强标记数据上训练的教师网络生成伪标签来细化弱标记数据以训练学生网络。同时,教师网络可以通过反馈学生在强标签数据上的表现来动态地适应,以最大限度地消除来自弱标签的噪声监督。对于AVN阶段,我们还利用弱标记的查询到属性的行为数据来将来自查询的表面形式属性值规范化为来自产品的规范形式。在一个真实的大规模电子商务数据集上的实验证明了QUEACO的有效性。
2021-09-05 cs.AI cs.CL cs.IR
ZS-BERT: Towards Zero-Shot Relation Extraction with Attribute Representation Learning
National Taiwan University(国立台湾大学);National Cheng Kung University(国立成功大学)
虽然关系抽取是知识获取和表示中的一项重要任务,并且新生成的关系在现实世界中很常见,但在预测在训练阶段无法观察到的看不见的关系方面所做的努力较少。在本文中,我们制定了zero-shot关系抽取问题,将可见和不可见的关系的文本描述。我们提出了一种新的多任务学习模型,zero-shot BERT(ZH-BERT),直接预测看不见的关系,而无需手工制作的属性标签和多个成对分类。给定由输入句子和它们之间关系的描述组成的训练实例,Escher-BERT学习两个函数,通过联合最小化它们之间的距离和对所看到的关系进行分类,将句子和关系描述投影到嵌入空间中。基于这两个函数生成未见关系和新句子的嵌入,使用最近邻搜索来获得未见关系的预测。在两个著名的数据集上进行的实验表明,EST-BERT可以比现有的方法至少提高13.54%的F1得分。
2021-04-10 cs.CL cs.IR cs.LG
PLAtE: A Large-scale Dataset for List Page Web Extraction
University of Virginia(弗吉尼亚大学);University of Utah(犹他大学);Amazon(亚马逊)
针对半结构化网页信息抽取缺乏大规模训练数据集的问题,研究者推出聚焦购物评论页的PLAtE基准数据集,含5万余商品与15万余属性,还适配了三种SOTA模型并对比其性能优劣。
2023-06-15 cs.CL cs.IR cs.LG
Multi-Modal Attribute Extraction for E-Commerce
Rakuten Group, Inc.(乐天集团股份有限公司)
为了改善用户在浏览在线市场提供的无数选项时的体验,拥有组织良好的产品目录至关重要。其中一个关键因素是产品属性的可用性,如颜色或材料。然而,在我们关注的一些市场上,如Rake-Ichiba,属性信息往往不完整甚至缺失。这个问题的一个有希望的解决方案是依靠在大型语料库上预先训练的深度模型来预测非结构化数据的属性,例如产品描述性文本和图像(本文中称为模态)。然而,我们发现,这种方法实现令人满意的性能并不简单,而是几个改进的结果,我们在本文中讨论。我们提供了一个详细的描述,我们的方法,属性提取,从调查强单模态方法,建立一个坚实的多模态模型结合文本和视觉信息。我们的多模态架构的一个关键组成部分是一种新的方法来无缝地结合模态,这是由我们的单模态调查的启发。在实践中,我们注意到这种新的模态合并方法可能会遇到模态崩溃问题,即,它忽略了一种模式。因此,我们进一步提出了一个缓解这个问题的基础上原则性的正则化方案。在Rake-Ichiba数据上的实验为我们的方法的好处提供了经验证据,该方法也已成功部署到Rake-Ichiba。我们还报告了公开数据集的结果,表明我们的模型与最近的几个多式联运和单峰基线相比具有竞争力。
2022-03-07 cs.CL cs.CV cs.LG
Counts@IITK at SemEval-2021 Task 8: SciBERT Based Entity And Semantic Relation Extraction For Scientific Data
Indian Institute of Technology Kanpur (IIT Kanpur)(印度理工学院坎普尔分校)
本文介绍了SemEval 2021任务8(MeasEval)系统。MeasEval是一种新的跨度提取、分类和关系抽取任务,专注于查找量、这些量的属性和附加信息,包括相关的测量实体、属性和测量上下文。我们提交的系统在排行榜上排名第五(团队排名),由SciBERT和[CLS]令牌嵌入和CRF层组成。我们还在Quantity(tied)和Unit子任务中排名第一,在MeasuredEntity,Modifier和Quantifies子任务中排名第二,在Quantifier子任务中排名第三。
2021-04-03 cs.CL
Schema-Guided Hierarchical Information Extraction and Semantic Evaluation Using Generative AI
该研究提出模式引导的生成式AI框架,可零样本提取分层结构化信息并自动语义评估,在NICE文档上F1超90%,速度为人类专家30倍,具通用性与可迁移性。
2026-08-07 cs.AI cs.CL
Killing One Bird with Two Stones: Model Extraction and Attribute Inference Attacks against BERT-based APIs
Zhejiang University(浙江大学);Monash University(蒙纳士大学);Sony AI(索尼人工智能);Microsoft Research Asia(微软亚洲研究院)
大数据的收集和可用性,以及预先训练模型的进步(例如,BERT、XLNET等)已经彻底改变了从文本分类到文本生成的现代自然语言处理任务的预测性能。这允许企业通过将微调的基于BERT的模型封装为API来提供机器学习即服务(MLaaS)。然而,基于BERT的API存在一系列安全和隐私漏洞。例如,先前的工作已经通过提取模型制作的对抗性示例利用了基于BERT的API的安全问题。然而,基于BERT的API通过提取的模型的隐私泄漏问题还没有得到很好的研究。另一方面,由于基于BERT的API的高容量,微调后的模型很容易被过度学习,但从提取的模型中可能泄露什么样的信息仍然是未知的。在这项工作中,我们首先提出了一个有效的模型窃取攻击,其中对手几乎可以窃取基于BERT的API(目标/受害者模型),只查询有限数量的查询,以弥补这一差距。我们进一步开发了一种有效的属性推断攻击,可以推断出基于BERT的API所使用的训练数据的敏感属性。我们在各种现实设置下对基准数据集进行了广泛的实验,验证了基于BERT的API的潜在漏洞。此外,我们证明了两种有前途的防御方法对我们的攻击变得无效,这需要更有效的防御方法。
2021-12-26 cs.CL cs.CR cs.LG
JPAVE: A Generation and Classification-based Model for Joint Product Attribute Prediction and Value Extraction
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Beihang University(北京航空航天大学);The Hong Kong Polytechnic University(香港理工大学)
针对电商产品属性值抽取现有方法依赖位置信息、泛化与零样本能力不足的问题,提出多任务模型JPAVE,结合生成/分类与复制、注意力机制,适配两类场景,在公开数据集上性能优于基线且泛化性更强。
2023-11-07 cs.AI cs.CL
Boosting Multi-Modal E-commerce Attribute Value Extraction via Unified Learning Scheme and Dynamic Range Minimization
University of Science and Technology Beijing(北京科技大学);Tencent(腾讯)
本文提出一种通过统一学习方案和动态范围最小化提升多模态电商属性值提取的新方法,解决单模态预训练参数利用不足、图像描述选择不当及属性预测范围过大问题,在电商基准上取得优于现有技术的性能。
2023-04-06 cs.CL cs.CV cs.MM