Knowledge-Aware Reasoning over Multimodal Semi-structured Tables
IIIT Hyderabad(印度国际信息技术学院海得拉巴分校);IIT Guwahati(印度古瓦哈蒂印度理工学院);UCLA(加利福尼亚大学洛杉矶分校);UNC Chapel Hill(北卡罗来纳大学教堂山分校);UPenn(宾夕法尼亚大学)
本文研究AI模型在多模态结构化表格上的知识感知推理能力,提出包含图像与文本融合的新数据集MMTabQA,实验表明当前模型在多模态输入整合、视觉上下文理解及跨图像比较上仍面临重大挑战,为该领域提供了稳健的评估基准。
2024-08-25 cs.CL cs.CV
AudioScape-TTA: A Structured Soundscape Benchmark for Fine-Grained Text-to-Audio Evaluation
针对现有TTA评估基准缺乏细粒度语义洞察的问题,提出AudioScape-TTA基准及基于评分标准的评估框架,通过2258个音频-文本对等数据验证TTA模型的多项局限,其评估更贴合人类判断。
2026-08-06 cs.AI cs.SD
InstanceCap: Improving Text-to-Video Generation via Instance-aware Structured Caption
Nanjing University(南京大学);ByteDance(字节跳动);Nankai University(南开大学)
针对现有视频字幕细节不足、存在幻觉等影响文本到视频生成质量的问题,研究提出实例感知结构化字幕框架InstanceCap,构建InstanceVid数据集,实验证明其性能优于以往模型,提升了字幕与视频的保真度并减少幻觉。
2024-12-12 cs.AI cs.CV
PASemiQA: Plan-Assisted Agent for Question Answering on Semi-Structured Data with Text and Relational Information
Ant Group(蚂蚁集团)
提出PASemiQA,一种利用规划辅助的LLM智能体,联合处理半结构化数据中的文本与关系信息,以提升问答准确性和可靠性。
2025-02-28 cs.AI cs.CL
DataWords: Getting Contrarian with Text, Structured Data and Explanations
Textician
我们的目标是使用自由文本和结构化数据的组合来构建分类模型。为此,我们用文本语句DataWords表示结构化数据,以便将类似的数据项映射到同一个语句中。这允许仅使用文本建模算法对文本和结构化数据的混合进行建模。有几个例子说明,通过首先运行提取工具(命名实体识别),然后将输出转换为DataWords,并在模型构建和分类之前将DataWords添加到原始文本中,可以提高文本分类性能。这种方法还允许我们在自由文本和结构化数据方面对推论进行解释。
2022-02-17 cs.AI cs.CL cs.LG
Learning Structured Representations of Entity Names using Active Learning and Weak Supervision
IBM Research(IBM研究(IBM Research))
实体名称的结构化表示对于许多与实体相关的任务是有用的,例如实体规范化和变体生成。在没有上下文和外部知识的情况下学习实体名称的隐式结构化表示特别具有挑战性。在本文中,我们提出了一种新的学习框架,结合主动学习和弱监督来解决这个问题。我们的实验评估表明,该框架可以从十几个标记的示例中学习高质量的模型。
2020-10-30 cs.AI cs.CL
Structured Case-based Reasoning for Inference-time Adaptation of Text-to-SQL parsers
Indian Institute of Technology Bombay(印度理工学院孟买分校)
用于语义解析的推理时自适应方法对于利用来自新观察到的域的示例而无需重复微调是有用的。现有方法通常通过简单地在Seq-to-Seq模型中在编码器的输入处级联来自新域的输入-输出示例对(情况)来使解码器偏置。这种方法不能充分利用案例中逻辑形式的结构。我们提出了StructCBR,一个结构化的基于案例的推理方法,它利用子树级的逻辑形式的情况下,候选输出之间的相似性,从而更好的解码器的决定。对于适应文本到SQL模型看不见的模式的任务,我们表明,开发的情况下,通过StructCBR的结构化方式的例子提供了一致的性能改进,在五个不同的数据库之前的推理时间适应方法。据我们所知,我们是第一个尝试文本到SQL模型的推理时间适应,并利用子查询之间的可训练结构化相似性。
2023-01-10 cs.AI cs.CL
Joint Event and Temporal Relation Extraction with Shared Representations and Structured Prediction
University of Southern California(南加州大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
我们提出了一个联合的事件和时间关系抽取模型与共享的表示学习和结构化预测。所提出的方法有两个优点比现有的工作。首先,它通过允许事件和关系模块共享相同的上下文嵌入和神经表示学习器来改进事件表示。其次,它避免了传统的管道系统中的错误传播,利用结构化推理和学习方法来分配事件标签和时间关系标签联合。实验结果表明,该方法在事件抽取和时态关系抽取两个方面均优于现有系统,在两个基准数据集上的端到端F1分别提高了10%和6.8%.
2020-09-15 cs.AI cs.CL
Topic Segmentation in the Wild: Towards Segmentation of Semi-structured & Unstructured Chats
Microsoft Corporation(微软公司);University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校);University of Maryland(马里兰大学)
基于语义结构将文档或会话分解为多个连续的片段是NLP中一个重要且具有挑战性的问题,它可以帮助许多下游任务。然而,目前的主题分割工作往往集中在结构化文本的分割。在本文中,我们全面分析了最先进的主题分割模型对非结构化文本的泛化能力。我们发现:(a)目前在大型结构化文本语料库(如Wiki-727 K)上进行预训练的策略无助于向非结构化文本的转移。(b)仅使用目标非结构化域的相对较小的数据集从头开始训练,可以显著改善分割结果。
2022-11-27 cs.AI cs.CL
Unifying Structured Data as Graph for Data-to-Text Pre-Training
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
本文将多种结构化数据统一为图格式,提出结构增强Transformer预训练方法,通过位置矩阵和注意力矩阵编码图结构信息,在六个基准数据集上验证了有效性。
2024-01-02 cs.AI cs.CL
Emergent Structured Representations Support Flexible In-Context Inference in Large Language Models
College of Computer Science and Artificial Intelligence(计算机科学与人工智能学院);Fudan University(复旦大学);Shanghai, China(中国上海)
研究揭示大型语言模型在上下文推理中通过结构化表示动态构建和利用潜在表示,为灵活适应的计算过程提供新见解。
2026-04-20 cs.AI cs.CL
Evaluating Discourse in Structured Text Representations
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
语篇结构对于理解文本是不可或缺的,并且在许多NLP任务中很有帮助。学习话语的潜在表征是获取昂贵的标记话语数据的一个有吸引力的替代方案。Liu和Lapata(2018)提出了一种用于文本分类的结构化注意力机制,该机制在文本上生成一棵树,类似于一棵文本话语树。我们详细研究了这个模型,并对其他与话语相关的任务和数据集进行了评估,以评估结构化注意是否能提高最终任务的性能,以及它是否能捕捉到文本的话语结构。我们发现学习的潜在树几乎没有结构,而是专注于词汇线索;即使在获得更具结构化的树与建议的模型修改,树仍然远远不能捕捉话语结构时,从现有的话语分析器的话语依赖树相比。最后,消融研究表明,结构化注意提供的好处很少,有时甚至损害性能。
2019-06-10 cs.CL
D-SCoRE: Document-Centric Segmentation and CoT Reasoning with Structured Export for QA-CoT Data Generation
City University of Hong Kong(香港城市大学);University of Warwick(华威大学);Sun Yat-sen University(中山大学)
D-SCoRE通过文档中心分割与推理生成高质量QA-CoT数据,提升领域适应微调性能。
2026-02-06 cs.AI cs.CL
The Structured Output Benchmark: A Multi-Source Benchmark for Evaluating Structured Output Quality in Large Language Models
JigsawStack, Inc.(JigsawStack公司);New Delhi, India(印度新德里);San Francisco, CA, USA(美国旧金山);Durgapur, WB, India(印度德里邦杜格apur)
本文提出SOB基准,用于评估大型语言模型在多源数据中的结构化输出质量,通过文本、图像和音频三种模态的测试数据,发现模型在结构合规性上表现良好,但价值准确性在不同数据源中差异显著。
2026-04-28 cs.AI cs.CL
Deep Graph Convolutional Encoders for Structured Data to Text Generation
University of Edinburgh(爱丁堡大学);University of Amsterdam(阿姆斯特丹大学)
以前大多数关于从图结构数据生成神经文本的工作都依赖于标准的序列到序列方法。这些方法将输入图线性化以馈送到递归神经网络。在本文中,我们提出了一种替代的编码器的基础上图卷积网络,直接利用输入结构。我们报告了两个图到序列数据集的结果,这些数据集经验性地显示了显式编码输入图结构的好处。
2018-10-23 cs.CL
BoundRL: Efficient Structured Text Segmentation through Reinforced Boundary Generation
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);Amazon Web Services(亚马逊网络服务)
本文提出BoundRL,一种高效处理长结构化文本的分段与标签预测方法,通过强化学习优化文档重建和语义对齐,减少输出token并降低幻觉风险,实验证明其在复杂提示下优于其他基线方法。
2026-04-16 cs.CL
On Linearizing Structured Data in Encoder-Decoder Language Models: Insights from Text-to-SQL
University of California, San Diego(加利福尼亚大学圣迭戈分校)
本文以 Text-to-SQL 为背景分析 T5 对结构化数据的线性化处理,揭示其可学习模式链接与语法预测,并发现节点编码特性及模态融合冗余带来的压缩空间。
2024-04-03 cs.AI cs.CL
A Graph Representation of Semi-structured Data for Web Question Answering
Tsinghua University(清华大学);Microsoft(微软);Simon Fraser University(西蒙弗雷泽大学)
Web上丰富的半结构化数据,如基于HTML的表格和列表,为商业搜索引擎提供了丰富的问答(QA)信息源。与Web文档中的纯文本段落不同,Web表格和列表具有内在的结构,表格和列表中的各个元素之间具有语义相关性。许多现有的研究将表格和列表视为带有文本片段的平面文档,并且没有很好地利用隐藏在结构中的语义信息。在本文中,我们提出了一种新的图形表示的Web表格和列表的基础上,系统的分类组件的半结构化数据,以及它们之间的关系。我们还开发了用于QA任务的图模型的预训练和推理技术。在一个商业引擎上采集的多个真实数据集上的实验验证了该方法的有效性。我们的方法比最先进的基线提高了F1分数3.90分。
2020-10-14 cs.AI cs.CL
PVminerLLM: Structured Extraction of Patient Voice from Patient-Generated Text using Large Language Models
Yale University(耶鲁大学);Texas State University(德克萨斯州立大学)
PVminerLLM通过监督微调的大语言模型从患者生成的文本中提取结构化患者声音,实现高精度的F1分数,为健康公平性和护理协调提供新的分析工具。
2026-03-06 cs.AI cs.CL
High Recall Data-to-text Generation with Progressive Edit
POSTECH(浦项科技大学);Graduate School of Artificial Intelligence(人工智能研究生院)
数据到文本(D2T)生成是从结构化输入生成文本的任务。我们观察到,当相同的目标句子被重复两次,Transformer(T5)的模型生成的输出由结构化的输入不对称的句子。换句话说,这些句子在长度和质量上都不同。我们称这种现象为“不对称生成”,并在D2T生成中利用这一点。一旦生成了不对称的句子,我们就在输出的第一部分添加一个不重复的目标。当这经过渐进式编辑(ProEdit)时,召回增加。因此,这种方法比编辑之前更好地覆盖了结构化输入。ProEdit是一种简单但有效的方法来提高D2T生成的性能,它在ToTTo数据集上实现了最新的结果
2022-08-09 cs.AI cs.CL
Logical Inference for Counting on Semi-structured Tables
The University of Tokyo(东京大学)
最近,自然语言推理(NLI)任务已被研究的半结构化表,没有严格的格式。虽然神经方法在各种类型的NLI中取得了很高的性能,包括半结构化表格和文本之间的NLI,但它们仍然难以执行数字类型的推理,例如计数。为了处理数字类型的推理,我们提出了一个逻辑推理系统的半结构化表格和文本之间的推理。我们使用逻辑表示作为表格和文本的意义表示,并使用模型检验来处理文本和表格之间的数值类型的推理。为了评估我们的系统可以在多大程度上进行推理与数值比较,我们做了一个评估协议,侧重于半结构化的表格和文本之间的数字理解英语。我们表明,与当前的神经方法相比,我们的系统可以更鲁棒地在需要数值理解的表格和文本之间进行推理。
2022-04-25 cs.CL
ASET: Ad-hoc Structured Exploration of Text Collections [Extended Abstract]
TU Darmstadt(达姆施塔特工业大学)
在本文中,我们提出了一个新的系统称为ASET,允许用户进行结构化的探索,在一个特设的方式的文本集合。ASET的主要思想是使用一种新的两阶段方法,首先使用现有的提取器(如命名实体识别器)从文本中提取信息块的超集,然后根据用户的嵌入请求将提取匹配到结构化表定义。在我们的评估中,我们表明,ASET因此能够从现实世界的文本集合中提取高质量的结构化数据,而无需预先设计提取管道。
2022-03-09 cs.CL cs.DB
Efficient Text Classification Using Tree-structured Multi-linear Principal Component Analysis
University of Southern California(南加利福尼亚大学)
本文提出了一种新的文本数据降维方法--树结构多线性主成分分析(TMPCA)。与传统的文本降维方法处理词级表示不同,TMPCA技术降低了输入序列和句子的维数,以简化后续的文本分类任务。数学和实验表明,TMPCA工具需要更低的复杂性(因此,更少的计算能力)比普通的主成分分析(PCA)。此外,它是由实验结果表明,支持向量机(SVM)的方法应用于TMPCA处理的数据实现了可比的或更好的性能比最先进的递归神经网络(RNN)的方法。
2018-02-24 cs.CL
Augmenty: A Python Library for Structured Text Augmentation
本文介绍基于 spaCy 的 Python 库 Augmenty,支持文本与标注联合增强、增强器灵活组合及自定义增强器,服务于 NER、词性标注和依存分析等任务。
2023-12-09 cs.CL
MURMUR: Modular Multi-Step Reasoning for Semi-Structured Data-to-Text Generation
UNC Chapel Hill(北卡罗来纳大学教堂山分校);Meta AI
对大语言模型的简化使得文本多步推理最近取得了重大进展。然而,当应用于从半结构化数据(例如,图或表),但是这些方法通常遭受低语义覆盖、幻觉和逻辑不一致。我们提出了MURMUR,一个神经符号模块化的方法,从半结构化的数据与多步推理的文本生成。MURMUR是一种最佳优先搜索方法,它使用以下方法生成推理路径:(1)具有特定语言和逻辑技能的神经和符号模块,(2)其产生式规则定义模块有效组合的语法,以及(3)评估每个推理步骤质量的价值函数。我们进行实验的两个不同的数据到文本生成任务,如WebNLG和LogicNLG。这些任务在数据表示(图形和表格)方面有所不同,并涵盖多种语言和逻辑技能。MURMUR在最近的Few-Shot基线(如直接提示和思想链提示)上获得了显着改进,同时还在域外数据上实现了与微调的GPT-2相当的性能。此外,人工评估表明,MURMUR生成高度忠实和正确的推理路径,与直接提示相比,在LogicNLG上的逻辑一致性摘要增加了26%。
2022-12-16 cs.AI cs.CL cs.LG
Utilizing the World Wide Web as an Encyclopedia: Extracting Term Descriptions from Semi-Structured Texts
在本文中,我们提出了一种方法来提取的技术术语的描述,从网页,以利用万维网作为一个百科全书。我们使用语言模式和HTML文本结构来提取包含术语描述的文本片段。我们还使用了一个语言模型来丢弃无关的描述,和聚类方法来总结结果的描述。我们通过实验证明了我们的方法的有效性。
2000-11-02 cs.CL
Order-Planning Neural Text Generation From Structured Data
University of Waterloo(滑铁卢大学)
从结构化数据生成文本(例如,表)对于诸如问答和对话系统的各种自然语言处理任务是重要的。在最近的研究中,研究人员使用神经语言模型和编码器-解码器框架来生成表到文本。然而,这些基于神经网络的方法在文本生成期间不对内容的顺序进行建模。当一个人根据给定的表格写摘要时,他或她可能会在措辞之前考虑内容顺序。例如,在传记中,一个人的国籍通常在传记中的职业之前提到。在本文中,我们提出了一个订单规划文本生成模型,捕捉不同领域之间的关系,并利用这种关系,使生成的文本更加流畅和光滑。我们在WikiBio数据集上进行了实验,并在BLEU,ROUGE和NIST分数方面实现了比以前方法更高的性能。
2017-09-01 cs.AI cs.CL cs.IR
Structured Prompt Optimization for Few-Shot Text Classification via Semantic Alignment in Latent Space
Northwestern University(西北大学);Syracuse University(雪城大学);University of Toronto(多伦多大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Purdue University(普渡大学)
本文提出通过潜在空间语义对齐的结构化提示优化方法,解决少样本文本分类中的语义冲突和标签模糊问题,提升分类性能和跨任务适用性。
2026-02-27 cs.CL
Structure-CLIP: Towards Scene Graph Knowledge to Enhance Multi-modal Structured Representations
Zhejiang University(浙江大学);Netease Inc.(网易公司)
针对现有多模态预训练模型结构化表示能力不足的问题,提出整合场景图知识的Structure-CLIP框架,通过场景图引导负样本构建和知识增强编码器,在相关数据集上取得SOTA性能并兼顾通用表示能力。
2023-12-13 cs.AI cs.CL cs.MM
Knowledge Distillation with Structured Chain-of-Thought for Text-to-SQL
本文提出Struct-SQL框架,通过结构化思维链知识蒸馏提升小型语言模型在文本到SQL任务中的性能,实现8.1%的准确率提升。
2026-03-11 cs.AI cs.CL cs.DB
Predicting Text Preference Via Structured Comparative Reasoning
Cornell University(康奈尔大学);Google(谷歌公司);Georgia Institute of Technology(佐治亚理工学院)
本文提出SC提示方法,通过生成结构化中间比较并利用成对一致性比较器筛选一致比较,减少幻觉并提升推理一致性,使LLMs在文本偏好预测任务中达到最先进性能。
2024-07-01 cs.CL
NOPE-HYPE: A Structured Simulation Workflow for Robust Speech-to-Text Across Diverse Acoustic Environments
IISER Bhopal(印度科学教育与研究院博帕尔分院);IIT Bombay(印度理工学院孟买分校);IIT Roorkee(印度理工学院鲁尔基分校)
NOPE-HYPE提出结合可控环境模拟器、PSD覆盖缩减和超参数搜索的结构化训练工作流,提升语音转文本在多样声学环境中的鲁棒性。
2026-09-10 cs.AI cs.CL cs.LG
Structured Prompt Optimization Meets Reinforcement Learning for Global and Local Interpretability over Complex Text
Carnegie Mellon University(卡内基梅隆大学);Amazon(亚马逊)
提出eXTC框架,通过结构化提示优化、基于SOP的推理蒸馏和强化学习扩展,在分类性能和解释质量上显著优于现有范式。
2026-06-02 cs.AI cs.CL cs.LG
Top-Down Tree Structured Text Generation
Fudan University(复旦大学);New York University Shanghai(上海纽约大学)
文本生成是自然语言处理任务中的基本构建块。现有的序列模型直接在文本序列上执行自回归,并且难以生成复杂结构的长句。本文提出了一种简单的方法,把句子生成的树生成任务。通过显式建模的语法结构的组成语法树和执行自上而下,广度优先的树生成,我们的模型适当地修复依赖关系,并执行隐式的全局规划。这与基于过渡的深度优先生成过程相反,深度优先生成过程在解析时难以处理不完整的文本,并且在规划中也不包含未来的上下文。我们在两个生成任务和一个句法分析任务上的初步结果表明,这是一个有效的策略。
2018-08-14 cs.CL
Structured prediction models for RNN based sequence labeling in clinical text
University of Massachusetts(马萨诸塞大学);Bedford VAMC and CHOIR(贝德福德退伍军人医疗中心与CHOIR)
序列标记是一种广泛应用于非结构化自然语言数据的命名实体识别和信息抽取的方法。在临床领域,序列标记的一个主要应用涉及从电子健康记录叙述中提取医学实体,例如药物、适应症和副作用。在这个领域的序列标记,提出了自己的一套挑战和目标。在这项工作中,我们尝试了各种基于CRF的结构化学习模型和递归神经网络。我们扩展了先前研究的LSTM-CRF模型与显式建模的成对电位。我们还提出了一个近似版本的跳链CRF推理与RNN潜力。我们使用这些方法进行结构化预测,以提高准确的短语检测各种医疗实体。
2016-08-01 cs.CL
TAG-EQA: Text-And-Graph for Event Question Answering via Structured Prompting Strategies
University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
针对大语言模型事件推理能力不足的问题,提出融合因果事件图的TAG-EQA提示框架,通过多策略多模态配置验证,无需微调即可提升事件问答准确率。
2025-10-01 cs.CL
Structured Summarization: Unified Text Segmentation and Segment Labeling as a Generation Task
Meta AI
文本分割的目的是将文本划分为连续的、语义连贯的片段,而片段标记处理为每个片段生成标签。过去的工作已经成功地解决了文档和对话的分割和标记问题。这可以通过特定于任务的管道、监督和无监督学习目标的组合来实现。在这项工作中,我们提出了一个单一的编码器-解码器神经网络,可以处理长文档和对话,同时训练分割和段标记使用标准的监督。我们成功地展示了一种方法来解决组合任务作为一个纯粹的生成任务,我们称之为结构化摘要。我们将相同的技术应用于文档和会话数据,并且在高资源和低资源设置下,我们展示了跨数据集的分割和标记的最新性能。我们的研究结果建立了一个强有力的情况下,考虑文本分割和段标记作为一个整体,并走向通用的技术,不依赖于领域的专业知识或特定任务的组件。
2022-09-28 cs.CL
RDF-Based Structured Quality Assessment Representation of Multilingual LLM Evaluations
Leipzig University of Applied Sciences(莱比锡应用科学大学)
提出基于RDF的框架评估多语言LLM在知识冲突下的质量,通过四种上下文条件捕获响应并分析知识泄露与多语言一致性,实验验证了词汇表在28个问题研究中的充分性。
2025-04-30 cs.AI cs.CL cs.IR
Learning Structured Natural Language Representations for Semantic Parsing
University of Edinburgh(爱丁堡大学);IBM T.J. Watson Research(IBM T.J. Watson研究院)
我们介绍了一个神经语义解析器,转换自然语言的话语中间表示形式的谓词参数结构,这是诱导与过渡系统,随后映射到目标域。语义解析器使用带注释的逻辑形式或它们的表示进行端到端的训练。我们在各种数据集上获得了有竞争力的结果。归纳的谓词-论元结构揭示了用于语义解析的表征类型,以及这些表征与语言动机表征的不同之处。
2017-06-14 cs.CL
Behavior Structformer: Learning Players Representations with Structured Tokenization
King(金氏集团)
本文提出 Behavior Structformer,通过结构化分词将追踪事件转为稠密 token 并结合 Transformer 序列化处理,显著提升用户行为建模效果。
2024-06-07 cs.CL cs.LG
VisTIRA: Closing the Image-Text Modality Gap in Visual Math Reasoning via Structured Tool Integration
Microsoft AI(微软人工智能)
VisTIRA通过结构化工具集成框架,解决图像形式数学问题的推理难题,改进视觉数学推理能力,实验表明工具监督和OCR定位能有效缩小模态差距。
2026-03-17 cs.AI cs.CL cs.LG
Improved Semantic Representations From Tree-Structured Long Short-Term Memory Networks
Stanford University(斯坦福大学);MetaMind Inc.(MetaMind公司)
由于其随时间推移保留序列信息的卓越能力,长短期记忆(LSTM)网络(一种具有更复杂计算单元的递归神经网络)在各种序列建模任务上获得了很好的结果。到目前为止,我们唯一探索过的LSTM底层结构是线性链。然而,自然语言表现出自然地将单词组合成短语的句法属性。我们介绍了Tree-LSTM,这是LSTM对树结构网络拓扑的推广。Tree-LSTM在两个任务上优于所有现有系统和强大的LSTM基线:预测两个句子的语义相关性(SemEval 2014,任务1)和情感分类(斯坦福情感树库)。
2015-05-30 cs.AI cs.CL cs.LG
StrucTexT: Structured Text Understanding with Multi-Modal Transformers
Baidu Inc.(百度公司);Beijing University of Posts and Telecommunications(北京邮电大学);Taikang Insurance Group(泰康保险集团)
视觉丰富文档(VRD)上的结构化文本理解是文档智能的重要组成部分。由于虚拟现实中内容和布局的复杂性,结构化文本的理解一直是一个具有挑战性的任务。大多数现有的研究将这个问题分解为两个子任务:实体标记和实体链接,这需要在令牌和段级别上对文档的上下文有全面的理解。然而,很少有工作一直关注的解决方案,有效地从不同层次的结构化数据提取。本文提出了一个统一的框架名为StructTexT,这是灵活和有效的处理这两个子任务。具体地说,在Transformer的基础上,我们引入了一个分段标记对齐的编码器来处理不同粒度级别的实体标记和实体链接任务。此外,我们设计了一种新的预训练策略,具有三个自监督任务,以学习更丰富的表示。StructTexT使用现有的掩蔽视觉语言建模任务和新的句子长度预测和成对框方向任务来整合跨文本、图像和布局的多模态信息。我们评估了我们的方法在段级和标记级的结构化文本理解,并显示它优于最先进的同行,在FUNSD,SROIE和EPHOIE数据集上具有显着优越的性能。
2021-11-08 cs.CL cs.CV
SR-LLM: Rethinking the Structured Representation in Large Language Model
Westlake University(西湖大学);KMind Technology Co., Ltd.(科明科技有限公司);Tianjin University(天津大学);Beijing Jiaotong University, Weihai(北京交通大学威海校区);University of Toronto(多伦多大学);Tencent AI Lab(腾讯AI实验室)
针对大语言模型零样本集成结构化表示效果不佳的问题,提出SR-LLM框架,从免训练(提示词自然语言描述)和微调两种方案集成结构化表示,在多数据集上取得提升,首次证明结构化表示可大幅增强LLM推理能力。
2025-02-20 cs.CL
Is Clinical Text Enough? A Multimodal Study on Mortality Prediction in Heart Failure Patients
本研究比较了文本、结构化数据和多模态方法在心力衰竭患者短期死亡预测中的表现,发现实体层面的表示能提升预测性能,而监督多模态融合表现最佳。
2026-04-02 cs.CL
Application of Deep Learning in Generating Structured Radiology Reports: A Transformer-Based Technique
Shiraz University(设拉子大学);Shiraz University of Medical Sciences(设拉子医科大学)
由于临床实践和研究所需的放射学报告是以自由文本叙述形式编写和存储的,因此难以提取相关信息以供进一步分析。在这些情况下,自然语言处理(NLP)技术可以促进自动信息抽取和自由文本格式到结构化数据的转换。近年来,基于深度学习(DL)的模型已被用于NLP实验,并取得了可喜的成果。尽管基于人工神经网络(ANN)和卷积神经网络(CNN)的DL模型具有显著的潜力,但是这些模型在临床实践中实施时面临一些限制。Transformers是另一种新的深度学习体系结构,它被越来越多地应用于改进过程。因此,在这项研究中,我们提出了一个基于转换器的细粒度命名实体识别(NER)架构的临床信息抽取。我们收集了88腹盆腔超声报告的自由文本格式和注释的基础上,我们开发的信息模式。文本到文本转换Transformer模型(T5)和Scifive(T5模型的预训练特定于领域的适配)用于微调,以提取实体和关系,并将输入转换为结构化格式。在这项研究中,我们基于变换器的模型优于先前应用的方法,例如基于ROUGE-1,ROUGE-2,ROUGE-L和BLEU得分分别为0.816,0.668,0.528和0.743的ANN和CNN模型,同时提供可解释的结构化报告。
2022-09-25 cs.AI cs.CL cs.LG
GT2Vec: Large Language Models as Multi-Modal Encoders for Text and Graph-Structured Data
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Amazon(亚马逊公司);Michigan State University(密歇根州立大学);University of Washington(华盛顿大学);University of Michigan(密歇根大学)
针对现有方法难以充分利用图与文本模态异质性的问题,提出GT2Vec框架,通过MLP适配器和对比学习利用大型语言模型联合编码文本与图数据,在三类任务的六个数据集上持续优于基线,有效提升联合嵌入质量。
2025-02-11 cs.CL
Towards Improving Interpretability of Language Model Generation through a Structured Knowledge Discovery Approach
City University of Hong Kong(香港城市大学);City University of Hong Kong Shenzhen Research Institute(香港城市大学深圳研究院);Tencent AI Lab(腾讯AI实验室)
本文提出了一种任务无关的结构化知识猎手,通过结合语言模型的生成能力与知识猎手的高保真度,提升语言模型生成文本的可解释性,并在多个数据集上验证了其有效性。
2025-11-28 cs.AI cs.CL cs.DB
Neural Text Generation from Structured Data with Application to the Biography Domain
EPFL(洛桑联邦理工学院);Facebook AI Research(Facebook人工智能研究院)
本文介绍了一种用于概念到文本生成的神经模型,该模型可扩展到大型,丰富的领域。我们使用维基百科上的一个新的传记数据集进行实验,该数据集比现有资源大一个数量级,样本超过70万。该数据集也更加多样化,拥有40万词汇,而Weathergov或Robocup只有几百个单词。我们的模型建立在最近的工作条件神经语言模型的文本生成。为了处理大词汇量,我们扩展了这些模型,将固定词汇与复制动作混合,将特定于样本的单词从输入数据库转移到生成的输出句子。我们的神经模型显著优于经典Kneser-Ney语言模型,适应于此任务近15 BLEU。
2016-09-23 cs.CL
Enhancing Incremental Summarization with Structured Representations
University of British Columbia(英属哥伦比亚大学);Google Deepmind(谷歌DeepMind)
本研究提出结构化知识表示($GU_{json}$)和Chain-of-Key策略($CoK_{json}$)以增强增量式摘要生成,分别提升性能40%/14%和7%/4%,有效缓解信息过载。
2024-07-21 cs.CL
Hierarchical Structured Model for Fine-to-coarse Manifesto Text Analysis
School of Computing and Information Systems(计算与信息系统学院);The University of Melbourne(墨尔本大学)
选举宣言记录了政党的意图、动机和观点。它们经常被用来分析一个政党在特定问题上的精细立场,以及一个政党在左-右光谱中的粗粒度定位。在本文中,我们提出了一个两阶段的模型,自动执行这两个层次的分析清单。在第一步中,我们采用分层多任务结构化深度模型来预测细粒度和粗粒度位置,在第二步中,我们使用概率软逻辑对粗粒度位置进行事后校准。我们的经验表明,所提出的模型优于国家的最先进的方法,在这两个粒度使用来自12个国家的清单,写在10种不同的语言。
2018-05-08 cs.CL
DART: Open-Domain Structured Data Record to Text Generation
Yale University(耶鲁大学);Salesforce Research(Salesforce研究院);Penn State University(宾夕法尼亚州立大学);The University of Hong Kong(香港大学);MIT(麻省理工学院)
我们提出了DART,一个开放域结构的数据记录到文本生成数据集,超过82 k个实例(DART)。Data-to-Text注释可能是一个代价高昂的过程,特别是在处理结构化数据的主要来源和包含重要结构的表时。为此,我们提出了一个过程中提取语义三元组的表,编码其结构,利用表标题和表标题之间的语义依赖关系。我们的数据集构建框架有效地合并异构源开放域语义解析和基于对话行为的意义表示任务,利用技术,如:树本体注释,问答对陈述句转换,谓词统一,所有最小的后期编辑。我们对DART进行了系统的评估,并在WebNLG 2017上展示了最新的最先进的结果,以表明DART(1)对现有的数据到文本数据集提出了新的挑战,(2)促进了领域泛化。我们的数据和代码可以在https://github.com/Yale-LILY/dart上找到。
2021-04-12 cs.CL
MORTY: Structured Summarization for Targeted Information Extraction from Scholarly Articles
L3S Research Center, Leibniz University Hannover(莱布尼茨汉诺威大学L3S研究中心);Leibniz Information Centre for Science and Technology(莱布尼茨科学技术信息中心)
由于学术论文的篇幅很长,文本、图表和引文中隐藏着大量的隐含信息,因此从学术论文中提取信息抽取是一项具有挑战性的任务。学术信息抽取在数字图书馆和知识管理系统的探索、存档和策展服务中有各种应用。我们提出MORTY,一个信息抽取技术,创建结构化摘要的文本从学术文章。我们的方法将文章的全文压缩为一个分段的文本片段,称为结构化摘要。我们还提出了一个相当大的学术数据集,结合了从学术知识图谱和相应的公开可用的科学文章中检索到的结构化摘要,我们公开发表这些文章作为研究社区的资源。我们的研究结果表明,结构化摘要是一个合适的方法,有针对性的信息抽取,补充其他常用的方法,如问答和命名实体识别。
2022-12-11 cs.CL cs.IR
UnifiedSKG: Unifying and Multi-Tasking Structured Knowledge Grounding with Text-to-Text Language Models
The University of Hong Kong(香港大学);Carnegie Mellon University(卡内基梅隆大学);University of Waterloo(滑铁卢大学);UC Berkeley(加州大学伯克利分校);ServiceNow Research(ServiceNow研究院);Stanford University(斯坦福大学);Salesforce Research(赛富时研究院);UIUC(伊利诺伊大学厄巴纳-香槟分校);Google Research(谷歌研究院);Facebook AI Research(脸书人工智能研究院);University of Edinburgh(爱丁堡大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所);University of Washington(华盛顿大学);Shanghai AI Lab(上海人工智能实验室);Yale University(耶鲁大学);George Mason University(乔治梅森大学);Penn State University(宾夕法尼亚州立大学)
结构化知识基础(SKG)利用结构化知识来完成用户请求,例如数据库上的语义解析和知识库上的问答。由于SKG任务的输入和输出是异构的,它们被不同的群体分开研究,这限制了对SKG的系统性和兼容性研究。在本文中,我们通过提出UnifiedSKG框架来克服这一限制,该框架将21个SKG任务统一为文本到文本格式,旨在促进系统的SKG研究,而不是仅限于单个任务,领域或数据集。我们使用UnifiedSKG对不同尺寸的T5进行基准测试,结果表明,T5在必要时进行简单修改后,几乎在所有21项任务上都实现了最先进的性能。我们进一步证明了多任务前缀调优提高了大多数任务的性能,大大提高了整体性能。UnifiedSKG还促进了对zero-shot和few-shot学习的研究,我们表明T0,GPT-3和Codex在SKG的zero-shot和少样本学习中挣扎。我们还使用UnifiedSKG对SKG任务中的结构化知识编码变体进行了一系列对照实验。UnifiedSKG可轻松扩展到更多任务,并且在https://github.com/hkunlp/unifiedskg上开源。
2022-10-18 cs.CL