Two are Better than One: Joint Entity and Relation Extraction with Table-Sequence Encoders
Zhejiang University(浙江大学);Singapore University of Technology and Design(新加坡科技设计大学)
命名实体识别和关系抽取是两个重要的基本问题。联合学习算法已经被提出来同时解决这两个任务,并且其中许多将联合任务转换为表格填充问题。然而,他们通常专注于学习单个编码器(通常学习表格形式的表示),以捕获同一空间内两个任务所需的信息。我们认为,它可以是有益的,设计两个不同的编码器,以捕捉这样两种不同类型的信息在学习过程中。在这项工作中,我们提出了新的{ \em表序列编码器},其中两个不同的编码器-表编码器和序列编码器的设计,以帮助对方在表示学习过程。我们的实验证实了具有{ \em two}编码器优于{ \em one}编码器的优点。在几个标准数据集上,我们的模型显示出比现有方法的显着改进。
2020-10-08 cs.CL
Exploring the Impact of Table-to-Text Methods on Augmenting LLM-based Question Answering with Domain Hybrid Data
School of Computer Science and Engineering, Southeast University(东南大学计算机科学与工程学院);Department of Computer Science, The University of Manchester(曼彻斯特大学计算机科学系)
本文构建表到文本增强 LLM 问答框架,并在真实工业混合数据上比较 Markdown、模板、TPLM 与 LLM 四种方法对 DSFT 和 RAG 的效果。
2024-04-09 cs.CL
How Can Context Help? Exploring Joint Retrieval of Passage and Personalized Context
IBM Research AI(IBM研究院人工智能部门);Rensselaer Polytechnic Institute(伦斯勒理工学院)
针对个性化上下文融入文档对话系统研究不足的问题,提出上下文感知段落检索任务,构建专用数据集并提出PCAS方法,实验证明其在段落检索和相关上下文识别上均优于基线,可为该方向研究提供支撑。
2023-08-26 cs.AI cs.CL cs.IR
Metric-Type Identification for Multi-Level Header Numerical Tables in Scientific Papers
Tokyo Institute of Technology(东京工业大学);National Institute of Advanced Industrial Science and Technology (AIST)(日本产业技术综合研究所(AIST))
在科学论文中,数值表被广泛用于表示实验结果。对于表的理解,度量类型对于区分表中的数字至关重要。我们介绍了一个新的信息抽取任务,从多层次的标题数字表的度量类型识别,并提供了一个数据集提取的科学论文组成的标题表,标题,和度量类型。然后,我们提出了两个联合学习的神经分类和生成方案,具有基于指针生成器和基于BERT的模型。我们的研究结果表明,联合模型可以处理在报头和报头外的度量类型识别问题。
2021-02-01 cs.CL
Fan Out or Relay? Ownership-Aware Routing for LLM Agents Querying Siloed Tables
University of California San Diego(加利福尼亚大学圣迭戈分校)
针对LLM智能体查询孤立表的场景,提出所有权感知路由(OAR)方法,其在多数设置下准确率不劣于最优固定协议,在特定数据集上还优于所有固定协议。
2026-10-14 cs.AI cs.CL cs.MA
Table Pre-training: A Survey on Model Architectures, Pre-training Objectives, and Downstream Tasks
Microsoft(微软)
由于大量的表格可以很容易地从网页、电子表格、PDF和各种其他文档类型中收集,因此在文本和图像的成功之后,已经提出了一系列表格预训练框架,并且它们已经在各种任务上实现了新的技术水平,例如表格问答、表格类型识别、列关系分类、表格搜索、公式预测、为了充分利用未标记表中的监督信号,设计和评估了各种预训练目标,例如,对单元值进行去噪,预测数值关系,以及隐式执行SQL。为了最好地利用(半)结构化表格的特性,已经探索了各种表格语言模型,特别是具有专门设计的注意力机制的表格语言模型。由于表格通常与自由格式文本一起出现并相互作用,表格预训练通常采用表格-文本联合预训练的形式,这引起了多个领域的重要研究兴趣。本次调查旨在全面回顾不同的模型设计、预培训目标和表前培训的下游任务,并进一步分享我们对现有挑战和未来机遇的想法和愿景。
2022-04-29 cs.CL cs.IR
Exploring the Robustness of Language Models for Tabular Question Answering via Attention Analysis
Rensselaer Polytechnic Institute(拉特盖尔理工学院);Microsoft(微软)
该研究通过注意力分析,探究上下文学习、模型规模等因素对LLMs表格问答鲁棒性的影响,发现指令微调及更大模型可提升鲁棒性,但存在数据污染问题,且注意力分散变化与性能下降相关,为改进表格理解LLMs提供方向。
2025-08-26 cs.AI cs.CL
Multi-modal Retrieval of Tables and Texts Using Tri-encoder Models
deepset
开放域抽取式问答通过首先检索候选文本,然后从这些候选文本中提取答案,在文本数据上工作得很好。然而,有些问题不能仅通过文本来回答,而是需要存储在表格中的信息。在本文中,我们提出了一种方法来检索文本和表格相关的问题,共同编码文本,表格和问题到一个单一的向量空间。为此,我们基于相关工作中的文本和表格数据集创建了一个新的多模态数据集,并比较了不同编码模式的检索性能。我们发现,Transformer模型的密集向量嵌入在六个评估数据集中的四个上优于稀疏嵌入。比较不同的密集嵌入模型,每个问题,文本和表格都有一个编码器的三编码器,与问题有一个编码器,文本和表格都有一个编码器的双编码器相比,提高了检索性能。我们将新创建的多模态数据集发布给社区,以便它可以用于训练和评估。
2021-10-19 cs.CL cs.IR
Open-WikiTable: Dataset for Open Domain Question Answering with Complex Reasoning over Table
KAIST(韩国科学技术院);Amazon(亚马逊)
针对现有表格开放域问答数据集忽视表格结构、仅处理单单元格答案的问题,提出Open-WikiTable数据集,基于WikiSQL和WikiTableQuestions构建,要求复杂推理,同时提供文本答案和SQL查询,支持阅读器与解析器方法。
2023-05-12 cs.CL
Automated tabulation of clinical trial results: A joint entity and relation extraction approach with transformer-based language representations
University College London(伦敦大学学院)
循证医学是医疗保健专业人员在做出决策时参考最佳证据的实践,构成了现代医疗保健的基础。然而,它依赖于劳动密集型的系统评价,领域专家必须从数千篇出版物中汇总和提取信息,主要是随机对照试验(RCT)结果,并将其纳入证据表。本文研究了自动化的证据表生成的问题分解在两个语言处理任务:\textit{named entity recognition},它确定文本中的关键实体,如药品名称,和\textit{relation extraction},映射它们的关系,将它们分离成有序的元组。我们专注于从已发表的RCT摘要报告的研究结果的句子的自动制表。作为联合提取管道的一部分,开发了两个深度神经网络模型,使用了迁移学习和基于transformer的语言表示的原理。为了训练和测试这些模型,开发了一个新的金标准语料库,包括来自六个疾病领域的近600个结果句子。这种方法表现出了显著的优势,我们的系统在多个自然语言处理任务和疾病领域表现良好,并且在训练过程中看不到的疾病领域中表现良好。此外,我们还证明了这些结果是可以通过训练我们的模型来实现的,只要训练200个例句。最终的系统是一个概念证明,证据表的生成可以是半自动化的,代表着向完全自动化的系统评价迈出了一步。
2021-12-10 cs.AI cs.CL
Topic Transferable Table Question Answering
IBM Research(IBM研究院);Indian Institute of Technology, Bombay(印度理工学院孟买分校)
弱监督表问答(TableQA)模型通过使用预训练的BERT Transformer来联合编码问题和表以产生针对问题的结构化查询,从而实现了最先进的性能。然而,在实际环境中,TableQA系统部署在表语料库的主题和单词分布非常不同的BERT的预训练语料库。在这项工作中,我们模拟了实际的主题转移的情况下,设计新颖的挑战基准WikiSQL-TS和WikiTQ-TS,包括在五个不同的话题组,基于流行的WikiSQL和WikiTableQuestions数据集的train-dev-test分裂。我们的经验表明,尽管对大型开放域文本进行了预训练,但当对看不见的主题进行评估时,模型的性能会显着下降。作为回应,我们提出了T3 QA(主题可转移表问答)的一个实用的自适应框架,包括:(1)主题特定的词汇注入到BERT,(2)一个新的文本到文本的Transformer生成器(如T5,GPT 2)基于自然语言问题生成管道集中在生成特定的训练数据,和(3)一个逻辑形式ranker。我们表明,T3 QA为我们的主题转移基准提供了一个相当好的基线。我们相信,我们的主题分割基准将带来更适合实际部署的健壮的TableQA解决方案。
2021-09-15 cs.AI cs.CL
MultiTabQA: Generating Tabular Answers for Multi-Table Question Answering
University of Amsterdam(阿姆斯特丹大学);Elsevier(爱思唯尔)
本文提出多表问答任务及 MultiTabQA 模型,通过构建大规模 SQL-表格答案预训练数据集并引入表格专用评估指标,在多个数据集上超越现有单表问答模型,实现跨表推理与表格答案生成。
2023-05-24 cs.AI cs.CL
Plugging Schema Graph into Multi-Table QA: A Human-Guided Framework for Reducing LLM Reliance
Chalmers University of Technology(查尔姆斯理工大学)
本文提出一种基于图的框架,利用人工整理的关系知识减少对大语言模型的依赖,有效解决多表问答中复杂表格模式链接的问题。
2025-10-15 cs.AI cs.CL
FinRule-Bench: A Benchmark for Joint Reasoning over Financial Tables and Principles
FinRule-Bench是一个评估金融表与原则联合推理能力的基准,通过三个任务测试模型在规则验证、识别和多违规诊断中的表现,揭示LLMs在高风险金融分析中的局限性。
2026-03-11 cs.AI cs.CE cs.LG
Exploring Rewriting Approaches for Different Conversational Tasks
Adobe Research(奥多比研究部门)
本文系统比较了改写与融合两种方法在不同对话任务中的效果,发现查询改写最适合对话问答,而融合方法更适合数据分析助手生成可视化,且融合在长短对话中均优于改写。
2025-02-28 cs.CL
End-to-End Table Question Answering via Retrieval-Augmented Generation
Rensselaer Polytechnic Institute(伦斯勒理工学院);IBM TJ Watson Research Center(IBM托马斯·J·沃森研究中心)
大多数现有的端到端的表格问答(表格QA)模型包括一个两阶段的框架,检索器从语料库中选择相关的表格候选人和读者从表格候选人中找到正确的答案。即使读者模型的准确性显着提高与最近的transformer为基础的方法,这样的框架的整体性能仍然遭受使用传统的信息检索技术作为检索器的准确性差。为了缓解这个问题,我们引入了T-RAG,一个端到端的表QA模型,其中非参数密集向量索引与BART(一个参数序列到序列模型)联合微调以生成答案令牌。对于任何自然语言问题,T-RAG利用统一的管道自动搜索表格语料库,直接从表格单元格中定位正确答案。我们将T-RAG应用于最近的开放域表QA基准测试,并证明了微调的T-RAG模型能够在端到端表QA和表检索任务中实现最先进的性能。
2022-03-30 cs.CL
Summarizing and Exploring Tabular Data in Conversational Search
Bloomberg(彭博社);Carnegie Mellon University(卡内基梅隆大学);University of Stavanger(斯塔万格大学)
表格数据为搜索查询的重要部分提供答案。然而,在对话式搜索系统中,背诵整个结果表是不切实际的。我们建议生成自然语言摘要作为答案来描述表中包含的复杂信息。通过众包实验,我们构建了一个新的面向对话的开放域表格摘要数据集。它包括带注释的表格摘要,不仅回答问题,还帮助人们探索表格中的其他信息。我们利用这个数据集来开发自动表摘要系统作为SOTA基线。根据实验结果,我们确定的挑战,并指出未来的研究方向,这个资源将支持。
2020-07-10 cs.CL cs.IR
JoinGR: Learning to Traverse Join Graphs for Table Retrieval
Arizona State University(亚利桑那州立大学);Adobe Research India(Adobe 印度研究院)
提出JOINGR,一种利用数据库连接图进行表检索的方法,通过遍历连接边聚合分数,在BIRD、Spider和BEAVER基准上表现优异,并展现出跨域可迁移性。
2026-10-02 cs.AI cs.CL cs.DB
STable: Table Generation Framework for Encoder-Decoder Models
Snowflake(雪花公司)
类似数据库的表的输出结构,由按名称可识别的水平行和垂直列结构化的值组成,可以覆盖广泛的NLP任务。在此constatation,我们提出了一个框架,文本到表的神经模型适用于问题,如提取行项目,联合实体和关系抽取,或知识库人口。我们提出的基于置换的解码器是一种广义的顺序方法,它可以从表中的所有单元格中提取信息。训练最大化表内容在因子分解顺序的所有随机排列中的预期对数似然。在内容推理过程中,我们利用模型的能力,通过搜索可能的排序来以任何顺序生成单元格,以最大限度地提高模型的置信度,并避免其他顺序模型容易出现的大量错误积累。实验表明,该框架具有很高的实用价值,它在几个具有挑战性的数据集上建立了最先进的结果,比以前的解决方案高出15%。
2022-10-12 cs.CL cs.LG
Same Content, Different Representations: A Controlled Study for Table QA
The University of Texas at Dallas(德克萨斯大学达拉斯分校);Megagon Labs(Megagon实验室)
本研究通过受控实验探讨了表格表示对问答性能的影响,发现不同方法在结构化与半结构化数据间存在性能差异,强调了表示在表格问答中的核心作用。
2026-02-06 cs.CL
Efficient Table Retrieval and Understanding with Multimodal Large Language Models
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);AWS(亚马逊网络服务)
TabRAG通过多模态大语言模型实现高效表格检索与理解,显著提升检索召回率和答案准确率。
2026-02-07 cs.AI cs.LG
TabJoinBench: A Benchmark for Joinable Table Discovery
Arizona State University(亚利桑那州立大学)
TabJoinBench是一个用于评估语义、关系和混合数据湖场景中可连接表发现方法的基准,通过可组合扰动构建查询-候选对并保留可靠真实标注,支持可复现比较。
2026-10-02 cs.AI cs.CL cs.DB
Efficient Joinable Table Discovery in Data Lakes: A High-Dimensional Similarity-Based Approach
NEC Corporation(日本电气股份有限公司);Osaka University(大阪大学);Nagoya University(名古屋大学)
本文提出PEXOSO框架,通过高维向量嵌入和相似性连接,结合枢轴过滤与分区技术,在数据湖中高效发现可连接表,识别更多有意义结果并支持数据增强。
2021-03-29 cs.AI cs.DB cs.IR
PEARL: Front-Loading Relational Chains for Multi-Hop Table Retrieval
Korea University(韩国延世大学)
PEARL是无需训练的多表格检索框架,通过前置化关系链实现垂直划分的子表格编码,在3跳查询的R@2指标上最高提升30.05%,性能优于现有方法。
2026-09-01 cs.IR
Correlation Sketches for Approximate Join-Correlation Queries
本文提出连接-相关性查询以支持关系数据增强,并设计了一种草图索引方法和多种评分策略,高效发现可连接且相关的数据列,实验证明其具有高准确率和高质量排序。
2021-04-07 cs.DB cs.DS cs.IR
Table Enrichment System for Machine Learning
数据科学家一直面临着如何在表格数据不足的情况下提高预测准确性的问题。我们提出了一个表丰富系统,通过添加外部属性(列)从数据湖丰富查询表,并提高机器学习预测模型的准确性。我们的系统有四个阶段,连接行搜索,任务相关的表选择,行和列对齐,特征选择和评估,有效地创建一个丰富的表为给定的查询表和指定的机器学习任务。我们展示了我们的系统与Web用户界面显示表丰富的用例。
2022-04-18 cs.IR
REaR: Retrieve, Expand and Refine for Effective Multitable Retrieval
Indian Institute of Technology Guwahati(印度技术学院古瓦哈提分校);Massachusetts Institute of Technology(麻省理工学院);Arizona State University(亚利桑那州立大学);University of Pennsylvania(宾夕法尼亚大学)
提出无需LLM的三阶段多表检索框架REAR,通过分离语义相关性与结构可连接性,在复杂表问答数据集上显著提升检索质量与下游SQL执行,性能媲美LLM增强系统且成本更低。
2025-11-02 cs.IR
Table Search Using a Deep Contextualized Language Model
Lehigh University(里海大学);Zhuiyi Technology(追一科技)
预训练的上下文语言模型,如BERT,在各种自然语言处理基准测试中取得了令人印象深刻的结果。预训练模型利用多个预训练任务和大规模训练语料库,可以捕捉复杂的句法词语关系。在本文中,我们使用的深度上下文语言模型BERT的特设表检索的任务。我们研究如何编码表内容考虑到BERT的表结构和输入长度限制。我们还提出了一种方法,结合了以前的文献表检索的功能,并共同训练他们与BERT。在公共数据集上的实验中,我们证明了我们的最佳方法可以在不同的评估指标下以较大的幅度优于以前的最先进的方法和BERT基线。
2020-05-26 cs.CL cs.IR cs.LG
Improving Table Retrieval with Question Generation from Partial Tables
提出QGpT方法,利用大语言模型从表格局部片段生成合成问题并联合嵌入,以增强表格与用户查询的语义对齐,无需嵌入整表即可显著提升密集和后期交互检索器的检索性能。
2025-08-08 cs.IR
NLCTables: A Dataset for Marrying Natural Language Conditions with Table Discovery
针对现有表格发现方法依赖查询表格或关键词导致结果冗余的问题,提出nlcTD任务及nlcTables基准数据集,通过自然语言条件细化搜索,评估显示现有方法性能差距显著。
2025-04-22 cs.IR
The Evolution of Embedding Table Optimization and Multi-Epoch Training in Pinterest Ads Conversion
Pinterest Inc.(Pinterest公司)
本文针对 Pinterest 广告转化模型中大型嵌入表收敛慢和多轮训练过拟合问题,提出频率自适应学习率方法,并与嵌入重新初始化进行离线对比。
2025-05-08 cs.CE cs.IR cs.LG