Few-Shot Table-to-Text Generation with Prototype Memory
University of Cambridge(剑桥大学)
神经表格到文本生成模型在一系列任务上取得了显着进展。然而,由于神经模型的数据饥渴性质,它们的性能强烈依赖于大规模的训练样本,限制了它们在现实世界应用中的适用性。为了解决这个问题,我们提出了一个新的框架:原型生成(P2G),表到文本生成下的Few-Shot的情况下。该框架利用检索到的原型,这是共同选择的IR系统和一个新的原型选择器,以帮助模型弥合表格和文本之间的结构差距。在三个基准数据集上的实验结果表明,所提出的框架显着提高了模型在各种评估指标的性能。
2021-08-31 cs.CL
TabGenie: A Toolkit for Table-to-Text Generation
Charles University(查理大学);University of Groningen(格罗宁根大学)
针对数据集异构性限制研究的问题,提出TabGenie工具包,通过统一的表格到文本生成框架支持数据集探索、预处理与分析,提供Web界面、命令行工具及Python绑定,促进系统调试与输出比较。
2023-02-27 cs.CL
LoFT: Enhancing Faithfulness and Diversity for Table-to-Text Generation via Logic Form Control
Yale University(耶鲁大学);Zhejiang University(浙江大学)
逻辑表格到文本(LT 2 T)生成的任务是从表格中生成逻辑上忠实的句子。目前该领域存在两个挑战:1)忠实性:如何生成给定表格内容的事实上正确的句子; 2)多样性:如何生成在表格上提供不同视角的多个句子。这项工作提出了LoFT,它利用逻辑形式作为事实验证器和内容规划器来控制LT 2 T的生成。LogicNLG数据集上的实验结果表明,LoFT是第一个同时解决不忠和缺乏多样性问题的模型。我们的代码可在https://github.com/Yale-LILY/LoFT上公开获取。
2023-02-06 cs.CL
Learning to Reason for Text Generation from Scientific Tables
Technische Universität Darmstadt(达姆施塔特工业大学)
在本文中,我们介绍了SciGen,这是一个新的挑战数据集,用于推理感知的数据到文本生成任务,由科学文章及其相应描述的表格组成。描述科学表格超出了表格内容的表面实现,需要对表格值进行推理。SciGen的独特性质是:(1)表格大多包含数值,(2)相应的描述需要算术推理。因此,SciGen是第一个评估生成模型对复杂输入结构的算术推理能力的数据集,即,科学文章中的表格。我们研究了SciGen上最先进的数据到文本生成模型的有效性,并使用通用指标和人工评估来评估结果。我们的研究结果和分析表明:(a)虽然人类喜欢推理来描述科学表格,但最先进的模型在这项任务上的能力受到严重限制;(b)虽然添加更多的训练数据可以改善结果,但它不是推理感知文本生成的解决方案;(c)这项任务的主要瓶颈之一是缺乏适当的自动评估指标。用于人体评价的数据、代码和注释将在https://github.com/UKPLab/SciGen上提供。SciGen为推理感知文本生成和评估的未来研究开辟了新的途径。
2021-04-16 cs.CL
Few-Shot Table-to-Text Generation with Prefix-Controlled Generator
Shanghai Jiao Tong University(上海交通大学)
神经表格到文本生成方法是数据饥饿的,限制了它们对低资源现实世界应用的适应。以往的工作大多采用预训练的语言模型(PLM)来生成流畅的表格摘要。然而,由于PLM的不受控制的性质,它们通常包含幻觉内容。此外,表和序列之间的拓扑差异很少被研究。最后但并非最不重要的一点是,在PLM上使用少量实例进行微调可能会导致过度拟合和灾难性遗忘。为了缓解这些问题,我们提出了一种基于前缀的方法,前缀控制生成器(即,PCG),用于Few-Shot表格到文本生成。我们为PLM预先添加了一个特定于任务的前缀,以使表结构更好地适应预先训练的输入。此外,我们生成一个特定于输入的前缀来控制生成的文本的实际内容和词序。对Wikibio数据集的不同领域(人类,书籍和歌曲)的自动和人工评估都显示出比基线方法有实质性的改进。
2022-08-23 cs.CL
The Challenge of Achieving Attributability in Multilingual Table-to-Text Generation with Question-Answer Blueprints
The University of Edinburgh(爱丁堡大学)
本文扩展含QA蓝图的多语言TaTA数据集并微调序列到序列模型,发现蓝图仅改善英文设置,未能提升多语言表格到文本生成的可归因性。
2025-03-29 cs.AI cs.CL cs.LG
PixT3: Pixel-based Table-To-Text Generation
HiTZ Center - Ixa(HiTZ中心 - Ixa)
本文提出PixT3,一种基于像素的多模态表格到文本生成模型,通过将表格视为视觉输入避免线性化问题,采用自监督学习增强结构感知,在ToTTo和Logic2Text基准上表现优异。
2024-06-03 cs.CL
FreshTab: Sourcing Fresh Data for Table-to-Text Generation Evaluation
Charles University(查理大学);Faculty of Mathematics and Physics(数学与物理学院);Institute of Formal and Applied Linguistics(形式与应用语言学研究所)
FreshTab从维基百科即时生成多语言表格到文本基准,解决LLM数据污染和领域不平衡问题,发现领域平衡基准更具挑战性。
2025-10-15 cs.CL
Attend, Memorize and Generate: Towards Faithful Table-to-Text Generation in Few Shots
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Huazhong University of Science and Technology(华中科技大学)
Few-Shot表格到文本生成是使用有限的数据组成流畅和忠实的句子来传达表格内容的任务。尽管已经做出了许多努力,通过微调强大的预训练语言模型来生成令人印象深刻的流畅句子,但所生成内容的忠实性仍然需要改进。为此,本文提出了一种新的方法Attend,Exclusize和Generate(称为AMG),灵感来自人类的文本生成过程。AMG(1)采用基于表槽级和传统的逐词级注意的新策略,兼顾表结构和自然语言信息,关注上下文的多粒度性;(2)动态记忆表槽分配状态;(3)根据上下文和记忆分配状态生成忠实句子。在三个领域(即,人类,歌曲和书籍)的Wiki数据集显示,与几个最先进的基线相比,我们的模型可以生成更高质量的文本,无论是流畅性还是忠实性。
2022-03-01 cs.CL
Handling Divergent Reference Texts when Evaluating Table-to-Text Generation
Carnegie Mellon University(卡内基梅隆大学);Google Research(谷歌研究院)
用于从半结构化数据(表)生成文本的自动构建数据集(如WikiBio)通常包含与相应半结构化数据中的信息不同的参考文本。我们发现,仅依赖于参考文本的指标,如BLEU和ROUGE,显示与人类判断的相关性差时,这些参考分歧。我们提出了一个新的度量标准,PANGOLD,它将参考和生成的文本中的n元语法与半结构化数据对齐,然后计算它们的精确度和召回率。通过对WikiBio的表到文本模型的大规模人类评估研究,我们表明,PANEL与人类判断的相关性优于现有的文本生成指标。我们还调整和评估了Wiseman等人(2017)提出的基于信息抽取的评估,并表明PAdom与它具有可比的相关性,同时更容易使用。我们表明,PANEL也适用于当参考文本是从人类使用的数据从WebNLG挑战。
2019-06-03 cs.CL
Table-to-Text Generation with Effective Hierarchical Encoder on Three Dimensions (Row, Column and Time)
Harbin Institute of Technology(哈尔滨工业大学)
虽然用于表到文本生成的Seq2Seq模型已经取得了显著的进展,但是在一维中对表表示进行建模是不够的。这是因为(1)表由多个行和列组成,这意味着对表进行编码不应仅依赖于一维序列或记录集,以及(2)大多数表是时间序列数据(例如NBA比赛数据、股票市场数据),这意味着当前表的描述可能受到其历史数据的影响。为了解决上述问题,我们不仅考虑同一行中的其他记录来对每个表格单元格进行建模,还通过在同一列中的其他单元格的上下文中或分别使用历史(时间维度)数据来对每个表格单元格进行建模来丰富表格的表示。此外,我们开发了一个表格单元格融合门,根据每个维度的表示的显著性,将行,列和时间维度的表示组合成一个稠密向量。我们在ROTOWIRE上评估了我们的方法,ROTOWIRE是NBA篮球比赛的基准数据集。自动和人工评估结果都证明了我们的模型的有效性,在BLEU中比最先进的模型提高了2.66。
2019-09-05 cs.CL
HeLM: Highlighted Evidence augmented Language Model for Enhanced Table-to-Text Generation
School of Computer Science, Fudan University(复旦大学计算机科学学院);Shanghai Key Lab of Intelligent Information Processing, Fudan University(复旦大学智能信息处理上海市重点实验室);Netease Games AI Lab(网易游戏AI实验室);School of Data Science, Fudan University(复旦大学数据科学学院);ShanghaiTech University(上海科技大学)
本研究提出HeLM方法,通过突出表格行证据并微调LLaMA2,在FetaQA和QTSumm数据集上实现了表格到文本生成的最优性能,同时增强了可解释性。
2024-04-27 cs.CL
Sketch and Refine: Towards Faithful and Informative Table-to-Text Generation
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
表到文本生成是指从键值表生成描述性文本。传统的自回归方法虽然能够生成高流畅度的文本,但存在覆盖率低和忠实度差的问题。为了缓解这些问题,我们提出了一种新的基于自回归和非自回归生成(SANA)的两阶段方法。我们的方法包括:(1)使用自回归指针网络生成骨架,从源表中选择关键标记;(2)基于编辑的非自回归生成模型,通过迭代插入和删除操作生成文本。非自回归模型通过整合骨架中的硬约束,提高了生成过程对源表的覆盖率,从而提高了生成过程的可信度。我们对WikiPerson和WikiBio数据集进行自动和人工评估。实验结果表明,我们的方法优于以前的国家的最先进的方法在自动和人工评价,特别是覆盖率和忠实度。特别是,我们在WikiPerson中实现了99.47的PARENT-T召回率,比现有的最佳结果提高了10个点以上。
2021-05-31 cs.CL
Key Fact as Pivot: A Two-Stage Model for Low Resource Table-to-Text Generation
Peking University(北京大学);Tencent Inc(腾讯公司);Beijing Institute of Big Data Research(北京大数据研究院)
表到文本生成的目的是将结构化数据转换为非结构化文本。现有的方法大多采用编码器-解码器框架来学习变换,这需要大规模的训练样本。然而,缺乏大型并行数据是许多领域的主要实际问题。在这项工作中,我们考虑的情况下,低资源表到文本生成,只有有限的并行数据。我们提出了一种新的模型,将生成分为两个阶段:关键事实预测和表面实现。它首先从表中预测关键事实,然后用关键事实生成文本。关键事实预测的训练需要较少的标注数据,而表面实现可以使用伪并行语料库进行训练。我们在传记生成数据集上评估我们的模型。我们的模型可以在只有$1,000$并行数据的情况下获得$27.34$ BLEU评分,而基线模型只能获得$9.71$ BLEU评分的性能。
2019-08-08 cs.CL
Plan-then-Seam: Towards Efficient Table-to-Text Generation
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
表格到文本生成的目的是自动生成文本,帮助人们方便地获取表格中的显著信息。最近的作品明确地将生成过程分解为内容规划和表面生成阶段,分别采用两个自回归网络。然而,由于自回归解码的不可并行性质和两个网络的冗余参数,它们在计算上是昂贵的。在本文中,我们提出了第一个完全非自回归的表到文本模型(计划,然后缝,PTS),产生其输出与一个单一的网络并行。PTS首先用一种新的反思指针预测器编写并校准待生成内容的一个计划,然后将该计划作为拼接的上下文来解码描述。这两个步骤共享参数并迭代执行以捕获令牌相互依赖性,同时保持并行解码。在两个公共基准上的实验表明,PTS在推理时间上获得了3.0~5.6倍的加速,减少了50%的参数,同时保持了与强大的两阶段表到文本竞争对手相当的性能。
2023-02-28 cs.CL
Learning Better Representation for Tables by Self-Supervised Tasks
表格文本生成的目的是自动生成自然文本,帮助人们方便地获取表格中的重要信息。虽然神经网络模型在表到文本方面取得了显著的进展,但仍存在一些被忽视的问题。第一,许多表格中记录的数值实际上大多是数字。现有的方法并没有对这些词进行特殊的处理,仍然把它们看作是自然语言文本中的词。其次,训练数据集中的目标文本可能包含冗余信息或输入表中不存在的事实。这可能会给一些基于内容选择和规划以及辅助监管的方法带来错误的监管信号。为了解决这些问题,我们提出了两个自我监督的任务,数字排序和重要性排序,以帮助学习更好的表表示。前者作用于列维度,以帮助将数字的大小属性合并到表表示中。后者作用于行维度,并帮助学习重要性感知的表表示。我们在广泛使用的数据集ROTOWIRE上测试了我们的方法,该数据集由NBA比赛统计数据和相关新闻组成。实验结果表明,与这两个自监督任务一起训练的模型可以生成包含更突出和组织良好的事实的文本,即使没有建模上下文选择和规划。并且我们在自动度量上实现了最先进的性能。
2021-03-30 cs.CL
Tree-of-Text: A Tree-based Prompting Framework for Table-to-Text Generation in the Sports Domain
National Yang Ming Chiao Tung University
本文提出Tree-of-Text框架,通过三阶段生成过程提升表格到文本生成的精度与效率,在多个体育数据集上表现优异。
2026-04-29 cs.AI cs.CL cs.HC
Towards Zero-Shot Personalized Table-to-Text Generation with Contrastive Persona Distillation
DAMO Academy, Alibaba(阿里巴巴达摩院)
本文提出零样本个性化表格到文本生成方法S2P-CPD,通过潜在空间融合与对比式人设蒸馏,在无需对齐三元组训练数据的情况下同时保持内容保真度和个性化表达。
2023-04-18 cs.CL
ReTAG: Reasoning Aware Table to Analytic Text Generation
Singapore University of Technology and Design(新加坡科技设计大学);Google Research(谷歌研究院)
ReTAG提出一种表格与推理感知模型,利用向量量化在结构感知序列到序列模型中可控地注入多种分析性推理,以提升表格到文本生成的分析性与忠实性,并在ToTTo和InfoTabs上超越最先进基线。
2023-10-30 cs.AI cs.CL
Facts-and-Feelings: Capturing both Objectivity and Subjectivity in Table-to-Text Generation
Indian Institute of Technology Bombay(印度理工学院孟买分校)
本文提出首个包含主观性的多体裁表格到文本生成数据集Ta2TS,并通过微调与提示方法对比不同语言模型,验证其在捕捉主观性与事实一致性方面的表现。
2024-06-15 cs.CL
Automatic Logical Forms improve fidelity in Table-to-Text generation
HiTZ Basque Center for Language Technology(HiTZ巴斯克语言技术中心);University of the Basque Country UPV/EHU(巴斯克大学(UPV/EHU))
本文提出 TlT 框架,通过自动生成逻辑形式再生成文本,证明自动 LF 可将表格到文本生成的保真度提升 30 分,并指出内容选择是首要挑战。
2024-01-09 cs.CL
Improving User Controlled Table-To-Text Generation Robustness
University of Edinburgh(爱丁堡大学);The Hong Kong Polytechnic University(香港理工大学)
在这项工作中,我们研究了用户控制的表到文本的生成,用户探索的内容在一个表中选择单元格和阅读的自然语言描述自动产生的自然语言发生器。这样的生成模型通常从仔细选择的单元选中单元组合(干净单元选择)学习;然而,在实践中,用户可能选择意外的、冗余的或不相干的单元组合(有噪声的单元选择)。在实验中,我们发现,模型表现良好的测试集来自相同的分布作为训练数据,但其性能下降时,现实的嘈杂的用户输入进行评估。我们提出了一个微调制度,额外的用户模拟嘈杂的细胞选择。使用所提出的机制进行微调的模型在用户嘈杂的测试用例中获得4.85个BLEU点,在干净的测试用例中获得1.4个BLEU点;并在ToTTo数据集上实现了相当的最先进性能。
2023-02-20 cs.CL
Table-to-text Generation by Structure-aware Seq2seq Learning
Key Laboratory of Computational Linguistics, Ministry of Education(教育部计算语言学重点实验室);School of Electronics Engineering and Computer Science, Peking University(北京大学电子工程与计算机科学学院)
表到文本生成的目的是为一个事实表生成一个描述,这个事实表可以被看作是一组字段值记录。为了同时对表的内容和结构进行编码,我们提出了一种新的结构感知的seq2seq架构,该架构由具有双重注意力的字段门控编码器和描述生成器组成。在编码阶段,我们通过字段门及其相应的字段值更新LSTM单元的单元内存,以便将字段信息合并到表表示中。在解码阶段,提出了包含词级注意和字段级注意的双重注意力机制,对生成的描述与表之间的语义相关性进行建模。我们在\texttt{WIKIBIO}数据集上进行实验,该数据集包含来自维基百科的超过70万个传记和相应的信息框。注意力可视化和案例研究表明,我们的模型是能够生成连贯的和信息丰富的描述的基础上全面理解的内容和结构的表。自动评估也显示我们的模型远远优于基线。这个工作的代码可以在https://github.com/tyliupku/wiki2bio上找到。
2017-11-27 cs.AI cs.CL
Medical Scientific Table-to-Text Generation with Human-in-the-Loop under the Data Sparsity Constraint
Genentech Inc(基因泰克公司);Pangaea Data Limited(泛大陆数据有限公司)
临床前和临床领域的结构化(表格)数据包含有关个人的有价值的信息,高效的表格到文本摘要系统可以大大减少将这些数据压缩到报告中的手动工作。然而,在实践中,该问题受到数据缺乏、数据稀疏以及最先进的自然语言生成模型(包括T5、PEGASUS和GPT-Neo)无法产生准确可靠的输出的严重阻碍。在本文中,我们提出了一种新的表到文本的方法,并解决了这些问题,一个新的两步架构,这是通过自动校正,复制机制和合成数据增强增强。研究表明,该方法从结构化数据中选择突出的生物医学实体和值,并提高了复制表格值的精度(绝对值增加高达0.13),以生成一致和准确的文本,用于分析验证报告和毒理学报告。此外,我们还展示了一个轻量级的适应所提出的系统,以新的数据集进行微调,只有40\%的训练样本。我们的模型的输出是由人类专家在人在环的情况下进行验证。
2022-07-13 cs.CL
Investigating Table-to-Text Generation Capabilities of LLMs in Real-World Information Seeking Scenarios
Yale University(耶鲁大学);Allen Institute for AI(艾伦人工智能研究所);Technical University of Munich(慕尼黑工业大学)
本文通过四个数据集探究LLM在真实信息寻求场景中的表格到文本生成、自动评估与反馈生成能力,发现GPT-4表现优异,而开源模型与GPT-4仍有显著差距。
2023-10-30 cs.CL
Table-to-Text Generation with Pretrained Diffusion Models
Moscow Institute of Physics and Technology(莫斯科物理技术学院);Artificial Intelligence Research Institute (AIRI)(人工智能研究所(AIRI))
本研究将预训练扩散模型适配于表格到文本生成任务,通过实验分析采样策略、预测聚合方法及预训练等影响,发现扩散模型能平衡质量与多样性,且结合MBR聚合与严格长度约束可获最高质量。
2024-09-10 cs.CL
Towards Faithfulness in Open Domain Table-to-text Generation from an Entity-centric View
Peking University(北京大学);Chinese Academy of Sciences(中国科学院);University of Chinese Academy of Sciences(中国科学院大学);Pengcheng Laboratory(鹏城实验室)
在开放域表到文本生成中,我们注意到不忠实生成通常包含不能与任何输入表记录对齐的幻觉内容。因此,我们试图评估代忠诚度与两个实体为中心的指标:表记录覆盖率和幻觉实体的比例在文本中,这两个都被证明有很强的协议与人类的判断。然后基于这些指标,定量分析了训练数据质量与生成逼真度之间的相关性,指出了实体信息在忠实生成中的潜在用途。基于这些发现,我们提出了两种忠实生成方法:1)通过结合辅助实体信息进行增强训练,包括基于增强计划的模型和无监督模型; 2)基于忠实度排名的训练实例选择。我们表明,这些方法通过自动和人工评估提高了完整数据集设置和少样本学习设置中的生成保真度。
2021-02-17 cs.AI cs.CL
Generating Titles for Web Tables
Stanford University(斯坦福大学);Google(谷歌)
描述性标题为解释从网页中提取的表格提供了重要的上下文,并且是基于表格的Web应用程序的关键组件。先前的方法已经尝试通过选择与表格相关联的现有文本片段来产生标题。然而,这些方法受限于它们对先验存在的合适标题的依赖。在我们的用户研究中,我们观察到标题的相关信息往往分散在页面上,并且通常-超过80%的时间-不会逐字出现在页面的任何地方。我们建议,而不是序列到序列的应用程序神经网络模型作为一个更普遍的手段,产生高质量的标题。这是通过提取许多具有潜在相关信息的文本片段,将其编码到输入序列中,并在解码器中使用复制和生成机制来平衡生成标题的相关性和可读性来实现的。我们通过对样本Web表格的人工评估来验证这种方法,并报告说,虽然仅具有复制机制或仅具有生成机制的序列模型很容易被简单的基于选择的基线所超越,但具有这两种功能的模型表现优于所有模型,接近众包标题的质量,同时训练不到一万个示例。据我们所知,所提出的技术是第一个考虑表格标题的文本生成方法,并建立了一个新的艺术状态。
2019-06-05 cs.CL cs.LG stat.ML
Diversity Enhanced Table-to-Text Generation via Type Control
IBM Research AI(IBM研究院人工智能部门)
本文针对表格到文本生成中输出多样性不足的问题,提出基于逻辑类型的类型控制生成模型,并在两个Logical NLG数据集上验证其在类型可控性、质量及事实性-多样性权衡方面优于现有最强基线。
2023-05-30 cs.CL
Ta-G-T: Subjectivity Capture in Table to Text Generation via RDF Graphs
Department of Computer Science and Engineering(计算机科学与工程系);Indian Institute of Technology Bombay(印度理工学院孟买)
本文提出 Ta-G-T 三阶段流水线,利用 RDF 三元组、叙述聚合与主观性注入,使小型微调 T5 在表格到文本生成中兼顾事实准确与主观表达。
2025-07-25 cs.CL
Variational Template Machine for Data-to-Text Generation
Fudan University(复旦大学);ByteDance AI Lab(字节跳动人工智能实验室)
如何从组织在表中的结构化数据生成描述?使用神经编码器-解码器模型的现有方法通常缺乏多样性。我们认为,一个开放的模板集是至关重要的,以丰富短语建设和实现不同的世代。学习这样的模板是禁止的,因为它通常需要一个大型的配对<table,description>语料库,这是很少可用的。本文探讨的问题,自动学习可重用的“模板”从配对和非配对的数据。我们提出了变分模板机(VTM),一种新的方法来生成文本描述的数据表。我们的贡献包括:a)我们仔细设计了一个特定的模型架构和损失,以明确地解开文本模板和语义内容信息,在潜在的空间,和b)我们利用小的并行数据和大的原始文本没有对齐的表,以丰富模板学习。在不同领域的数据集上的实验表明,VTM能够在保持良好的流畅性和质量的同时生成更多的数据集。
2020-02-13 cs.CL
Few-Shot Table-to-Text Generation with Prompt Planning and Knowledge Memorization
针对少样本表格到文本生成中知识不足与表文拓扑差异问题,提出 PromptMize,通过提示规划和无标注领域知识记忆提升文本忠实度与生成质量。
2023-08-17 cs.AI cs.CL
Adapting Knowledge for Few-shot Table-to-Text Generation
School of Electronic Information and Electrical Engineering, Shanghai Jiao Tong University(上海交通大学电子信息与电气工程学院);John Hopcroft Center for Computer Science, Shanghai Jiao Tong University(上海交通大学约翰·霍普克罗夫特计算机科学中心);Institute of Geographic Sciences and Natural Resources Research(地理科学与资源研究所)
针对少样本表格到文本生成中领域知识不足的问题,提出AKG框架,通过适配无标签领域知识弥合表格与文本的拓扑差异,在三个NLG数据集上实现更优的流畅性与准确性。
2024-03-27 cs.CL
Order-Planning Neural Text Generation From Structured Data
University of Waterloo(滑铁卢大学)
从结构化数据生成文本(例如,表)对于诸如问答和对话系统的各种自然语言处理任务是重要的。在最近的研究中,研究人员使用神经语言模型和编码器-解码器框架来生成表到文本。然而,这些基于神经网络的方法在文本生成期间不对内容的顺序进行建模。当一个人根据给定的表格写摘要时,他或她可能会在措辞之前考虑内容顺序。例如,在传记中,一个人的国籍通常在传记中的职业之前提到。在本文中,我们提出了一个订单规划文本生成模型,捕捉不同领域之间的关系,并利用这种关系,使生成的文本更加流畅和光滑。我们在WikiBio数据集上进行了实验,并在BLEU,ROUGE和NIST分数方面实现了比以前方法更高的性能。
2017-09-01 cs.AI cs.CL cs.IR
Towards Controlled Table-to-Text Generation with Scientific Reasoning
Shanghai Jiao Tong University(上海交通大学);IGSNRR, Chinese Academy of Sciences(中国科学院地理科学与资源研究所)
本文提出面向科学表格数据、符合用户偏好的表格到文本生成新任务,构建含高亮单元格和领域知识库的CTRLSciTab数据集,并设计新架构,实验表明大型模型仍难以准确对齐用户偏好。
2023-12-08 cs.CL
Improving Logical-Level Natural Language Generation with Topic-Conditioned Data Augmentation and Logical Form Generation
Tokyo Institute of Technology(东京工业大学);University of Electronic Science and Technology of China(电子科技大学)
逻辑自然语言生成,即,由于生成的低保真度,生成可以由结构化表逻辑地包含的文本描述一直是一个挑战。\citet{chen2020logic2text}通过对中间逻辑程序进行注释来控制生成内容和语义,提出了将表感知逻辑形式的任务转化为文本生成(Logic 2 text)的方法。然而,尽管现实世界中有大量的表实例,但与文本描述配对的逻辑形式需要昂贵的人工注释工作,这限制了神经模型的性能。为了缓解这一问题,我们提出了主题条件数据增强(TopicDA),它利用GPT-2直接从表中生成不成对的逻辑形式和文本描述。我们进一步介绍了逻辑表单生成(LG),这是Logic 2 text的一个双重任务,需要根据表的文本描述生成有效的逻辑表单。我们还提出了一种半监督学习方法,联合训练一个Logic 2 text和LG模型的标记和增强数据。这两种模型通过反向翻译提供额外的监督信号,从而相互受益。在Logic 2 text数据集和LG任务上的实验结果表明,我们的方法可以有效地利用增强的数据,并大大优于监督基线。
2021-12-12 cs.CL
eC-Tab2Text: Aspect-Based Text Generation from e-Commerce Product Tables
University of Engineering and Technology (UTEC)(工程技术大学(UTEC));University of Alberta(阿尔伯塔大学)
本文构建电商领域数据集 eC-Tab2Text,并基于产品表格微调 LLM 生成属性相关评论,实验表明其在准确性、忠实性和流畅性上均有显著提升。
2025-02-20 cs.AI cs.CL cs.DB
Text-to-Table: A New Way of Information Extraction
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);ByteDance(字节跳动)
我们研究了一种新的信息抽取问题集,称为文本到表格。在文本到表格中,给定一个文本,创建一个或多个表格来表达文本的主要内容,而模型是从文本-表格对数据中学习的。问题设置与IE的现有方法不同。首先,可以从长文本到具有复杂结构的大表格进行提取。其次,提取完全是数据驱动的,不需要显式地定义模式。据我们所知,还没有以前的工作,研究这个问题。在这项工作中,我们将文本到表形式化为序列到序列(seq 2seq)问题。我们首先采用从预训练的语言模型微调的seq 2seq模型来执行任务。我们还开发了一种新的方法seq 2seq的方法,利用表生成中的两个额外的技术:表约束和表关系嵌入。我们认为文本到表作为一个逆问题的研究表到文本,并利用现有的四个表到文本数据集在我们的实验文本到表。实验结果表明,香草seq 2seq模型可以优于基线方法使用关系抽取和命名实体提取。结果还表明,我们的方法可以进一步提高vanilla seq 2seq模型的性能。我们进一步讨论了拟议任务的主要挑战。代码和数据可在https://github.com/shirley-wu/text_to_table上获得。
2022-03-16 cs.CL
TableFormer: Robust Transformer Modeling for Table-Text Encoding
Georgia Institute of Technology(佐治亚理工学院);Google Assistant(谷歌助手)
表格理解是自然语言理解的一个重要方面。现有的表格理解模型需要表格结构的线性化,其中行或列顺序被编码为不必要的偏差。这种虚假的偏见使模型容易受到行和列顺序扰动。此外,以前的工作没有彻底建模的表结构或表文本对齐,阻碍了表文本的理解能力。在这项工作中,我们提出了一个强大的和结构感知的表格文本编码架构TableFormer,表格结构偏见完全通过学习的注意力偏见。TableFormer(1)严格不改变行和列的顺序,(2)由于其表格归纳偏差,可以更好地理解表格。我们的评估表明,TableFormer在SQA,WTQ和TabFact表推理数据集的所有设置中均优于强基线,并在SQA上实现了最先进的性能,特别是在面对答案不变的行和列顺序扰动时(比最佳基线提高6%),因为以前的SOTA模型在面对此类扰动时性能下降4% - 6%,而TableFormer不受影响。
2022-05-03 cs.CL
Representations for Question Answering from Documents with Tables and Text
Google Research(谷歌研究院);University of Washington(华盛顿大学)
Web文档中的表是普遍存在的,可以直接用于回答Web上搜索的许多查询,从而促进了它们在问答中的集成。表格中提供的信息通常很简洁,很难用标准语言表示来解释。另一方面,表格通常出现在文本上下文中,例如描述表格的文章。使用来自项目的信息作为附加上下文可以潜在地丰富表表示。在这项工作中,我们的目标是改善问答从表中提炼表表示从周围的文本信息的基础上。我们还提出了一种有效的方法来结合文本和基于表格的预测,从完整的文档中的问答,获得显着的改进自然问题数据集。
2021-01-26 cs.CL
Towards Table-to-Text Generation with Pretrained Language Model: A Table Structure Understanding and Text Deliberating Approach
University of Science and Technology of China(中国科学技术大学);Baidu Research(百度研究院);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Guangzhou HKUST Fok Ying Tung Research Institute(广州香港科技大学霍英东研究院)
虽然神经表到文本方法已经取得了显着的进展,泛化问题阻碍了这些模型的适用性,由于有限的源表。大规模预训练的语言模型听起来像是解决这些问题的一个有前途的解决方案。然而,如何通过充分利用表格信息来为预训练模型提供动力,从而有效地弥合结构化表格和文本输入之间的差距,仍然没有得到很好的探索。此外,另一个挑战是将审议机制整合到文本到文本的预训练模型中,以解决表到文本的任务仍然很少研究。为了实现基于预训练语言模型的表到文本生成,提出了一种表结构理解和文本审议方法,即TASD。具体而言,我们设计了一个三层的多头注意力网络,以实现与预训练的语言模型的帮助下,表结构感知的文本生成模型。此外,采用了多遍解码器框架,以提高抛光生成的文本表描述的能力。在两个公共数据集上的实证研究和人工评价验证了该方法可以为不同类型的表格生成忠实和流畅的描述性文本。
2023-01-05 cs.AI cs.CL
Text-Tuple-Table: Towards Information Integration in Text-to-Table Generation via Global Tuple Extraction
HKUST(香港科技大学);Fudan University(复旦大学)
针对文本到表格生成缺乏信息整合基准与方法的问题,本文构建 LiveSum 数据集,并提出无需训练的 $T^3$ 全局元组抽取流水线,显著提升 LLM 的跨数据集表现。
2024-12-05 cs.CL
Is This a Bad Table? A Closer Look at the Evaluation of Table Generation from Text
Adobe Research(奥多比研究院)
本文提出 TabEval 评估策略,通过将表格分解为原子陈述并用蕴含度量与真实陈述比较来捕捉表格语义,并在包含 1,250 个维基百科表格的数据集上验证其与人类判断的相关性优于现有指标。
2024-11-23 cs.CL
TTQA-RS- A break-down prompting approach for Multi-hop Table-Text Question Answering with Reasoning and Summarization
University of Florida(佛罗里达大学)
本文提出TTQA-RS模型,通过分解提示、检索增强生成和表格-文本摘要,结合推理与子问题答案,在多跳表格-文本问答任务上以开源LLM取得最优性能。
2024-09-30 cs.CL cs.IR
gTBLS: Generating Tables from Text by Conditional Question Answering
Georgia Institute of Technology(佐治亚理工学院)
本文提出两阶段方法 gTBLS,通过推断表格结构并利用条件问答微调因果语言模型生成表格,支持零样本配置,在多个数据集上显著优于先前方法。
2024-03-21 cs.CL cs.IR cs.LG
Tables as Texts or Images: Evaluating the Table Reasoning Ability of LLMs and MLLMs
University of Michigan(密歇根大学);University of Cambridge(剑桥大学);Westlake University(西湖大学)
本文首次系统评估LLMs在文本与图像两种表格表示下的推理能力,通过多基准比较不同提示策略和数据格式,揭示了表示方式与提示对表格任务性能的影响。
2024-10-17 cs.AI cs.CL cs.CV
Answering Numerical Reasoning Questions in Table-Text Hybrid Contents with Graph-based Encoder and Tree-based Decoder
Institute of Automation, CAS(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);Beijing Academy of Artificial Intelligence(北京智源人工智能研究院)
在现实世界的问答场景中,表格和文本相结合的混合形式越来越受到人们的关注,其中数值推理问题是最典型和最具挑战性的问题之一。现有的方法通常采用编码器-解码器框架来表示混合内容并生成答案。然而,它不能捕捉编码器端的数值、表模式和文本信息之间的丰富关系。解码器使用一个简单的预定义的操作分类器,这是不够灵活,以处理不同的表达式的数值推理过程。针对这些问题,本文提出了一种基于\textbf{T}语言的\textbf{G}增强型\textbf{H}混合表-文本\textbf{N}数值推理模型(\textbf{RegHNT}).它将表-文本混合内容上的数字问答建模为表达式树生成任务。此外,我们提出了一种新的关系图建模方法,模型之间的对齐问题,表格和段落。我们验证了我们的模型上公开的表-文本混合QA基准(TAT-QA)。建议的RegHNT显着优于基线模型,并实现国家的最先进的结果。我们在https://github.com/lfy79001/RegHNT公开发布了源代码和数据(2022-05-05)。
2022-10-20 cs.CL
Logical Inference for Counting on Semi-structured Tables
The University of Tokyo(东京大学)
最近,自然语言推理(NLI)任务已被研究的半结构化表,没有严格的格式。虽然神经方法在各种类型的NLI中取得了很高的性能,包括半结构化表格和文本之间的NLI,但它们仍然难以执行数字类型的推理,例如计数。为了处理数字类型的推理,我们提出了一个逻辑推理系统的半结构化表格和文本之间的推理。我们使用逻辑表示作为表格和文本的意义表示,并使用模型检验来处理文本和表格之间的数值类型的推理。为了评估我们的系统可以在多大程度上进行推理与数值比较,我们做了一个评估协议,侧重于半结构化的表格和文本之间的数字理解英语。我们表明,与当前的神经方法相比,我们的系统可以更鲁棒地在需要数值理解的表格和文本之间进行推理。
2022-04-25 cs.CL
Multi-modal Retrieval of Tables and Texts Using Tri-encoder Models
deepset
开放域抽取式问答通过首先检索候选文本,然后从这些候选文本中提取答案,在文本数据上工作得很好。然而,有些问题不能仅通过文本来回答,而是需要存储在表格中的信息。在本文中,我们提出了一种方法来检索文本和表格相关的问题,共同编码文本,表格和问题到一个单一的向量空间。为此,我们基于相关工作中的文本和表格数据集创建了一个新的多模态数据集,并比较了不同编码模式的检索性能。我们发现,Transformer模型的密集向量嵌入在六个评估数据集中的四个上优于稀疏嵌入。比较不同的密集嵌入模型,每个问题,文本和表格都有一个编码器的三编码器,与问题有一个编码器,文本和表格都有一个编码器的双编码器相比,提高了检索性能。我们将新创建的多模态数据集发布给社区,以便它可以用于训练和评估。
2021-10-19 cs.CL cs.IR
SCITAT: A Question Answering Benchmark for Scientific Tables and Text Covering Diverse Reasoning Types
Harbin Institute of Technology(哈尔滨工业大学);iFLYTEK Research(讯飞研究院);National University of Singapore(新加坡国立大学)
针对现有科学问答数据集推理类型有限且忽视表格与文本关联的问题,提出SciTaT基准,并设计结合多种推理方法的CaR基线,在SciTaT上平均提升12.9%。
2024-12-16 cs.CL
Texts or Images? A Fine-grained Analysis on the Effectiveness of Input Representations and Models for Table Question Answering
Bosch Center for Artificial Intelligence(博世人工智能中心);Hochschule der Medien(媒体高等学校);University of Augsburg(艾格斯堡大学)
针对表格问答中文本/图像输入表示与模型的效果差异缺乏细粒度对比的问题,本文构建新基准开展受控研究,发现最优组合随设置变化,提出动态选择表格表示的FRES方法,平均性能提升10%。
2025-05-20 cs.CL
Reasoning over Hybrid Chain for Table-and-Text Open Domain QA
Langboat Technology(澜舟科技);Sun Yat-sen University(中山大学);Microsoft Research(微软研究院);Beihang University(北京航空航天大学)
表格式和文本式问答要求系统在考虑表格结构以及表格和文本之间的联系的情况下对异构信息执行推理。在本文中,我们提出了一个ChAin为中心的推理和预训练框架(CARP)。CARP利用混合链模型描述了问答中表与文本之间的显式中间推理过程。我们还提出了一种新的以链为中心的预训练方法,以增强预训练模型在识别跨模态推理过程和缓解数据稀疏问题方面的能力。该方法通过合成维基百科中的伪异构推理路径并生成相应的问题来构建大规模推理语料库。在一个大规模的表格和文本的开放领域的问答基准测试平台OTT-QA上,我们对系统进行了测试,结果表明,我们的系统达到了最先进的性能。进一步的分析表明,显式混合链提供了显着的性能改善和解释的中间推理过程,和链为中心的预训练,提高性能的链提取。
2022-01-15 cs.CL
TableDART: Dynamic Adaptive Multi-Modal Routing for Table Understanding
The University of Queensland, Australia(昆士兰大学);Griffith University, Australia(格里菲斯大学);University of Notre Dame, USA(诺丁汉大学)
TableDART通过动态选择文本、图像或融合视角,提升表格理解的准确性和效率,避免昂贵的多模态模型微调。
2026-02-11 cs.AI cs.CL cs.LG
Towards More Effective Table-to-Text Generation: Assessing In-Context Learning and Self-Evaluation with Open-Source Models
Zuse Institute Berlin(柏林朱塞研究所)
本研究探讨了开源语言模型中上下文学习策略在表到文本生成任务中的有效性,并评估了基于思维链的LLM自我评估方法,发现提供示例能显著提升生成效果,但当前LLM自我评估与人类判断的对齐度仍需改进。
2024-10-15 cs.AI cs.CL cs.LG