Diversity Enhanced Table-to-Text Generation via Type Control
IBM Research AI（IBM研究院人工智能部门）
本文针对表格到文本生成中输出多样性不足的问题，提出基于逻辑类型的类型控制生成模型，并在两个Logical NLG数据集上验证其在类型可控性、质量及事实性-多样性权衡方面优于现有最强基线。
2023-05-30 cs.CL
Table-to-Text: Describing Table Region with Natural Language
Harbin Institute of Technology（哈尔滨工业大学）；Microsoft Research（微软研究院）；Beihang University（北京航空航天大学）；Microsoft AI and Research（微软人工智能与研究事业部）
在本文中，我们提出了一个生成模型来生成描述表区域的自然语言句子，例如，一连该模型将表中的行映射为连续向量，然后利用表的语义生成自然语言句子。为了处理表中出现的罕见单词，我们开发了一种灵活的复制机制，可以选择性地复制输出序列中表中的内容。大量的实验证明了模型的准确性和复制机制的权力。在两个合成数据集WIKIBIO和SIMPLEQUESTIONS上，我们的模型将当前最先进的BLEU-4评分分别从34.70提高到40.26和从33.32提高到39.12。此外，我们还介绍了一个开放域数据集WIKITABLETEXT，其中包含4，962个表的13，318个解释性句子。我们的模型达到了BLEU-4评分38.23，优于基于模板和基于语言模型的方法。
2018-05-29 cs.AI cs.CL
Logic2Text: High-Fidelity Natural Language Generation from Logical Forms
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）；Intel AI（英特尔人工智能）
以前的工作自然语言生成（NLG）从结构化数据主要集中在表面水平的记录序列的描述。然而，对于复杂的结构化数据，例如，对于多行表，NLG系统通常期望从跨记录的逻辑推断描述感兴趣的事实。如果只提供表，现有的模型很难产生可控的和高保真的逻辑生成。在这项工作中，我们制定了逻辑级NLG从逻辑形式生成，以获得可控，高保真，忠实的一代。我们提出了一个新的大规模数据集，\textsc{Logic2Text}，10,753描述涉及常见的逻辑类型与底层的逻辑形式配对。其逻辑形式表现为自由模式的多样化图结构，这对模型的语义理解能力提出了很大的挑战。我们在（1）全监督训练和（2）Few-Shot设置上进行了实验，提供了数百个配对的例子;我们比较了几种流行的生成模型并分析了它们的性能。我们希望我们的数据集可以鼓励研究建立一个先进的NLG系统，能够自然，忠实和人性化的生成。数据集和代码可在https://github.com/czyssrs/Logic2Text上获得。
2020-09-24 cs.CL
On the Potential of Lexico-logical Alignments for Semantic Parsing to SQL Queries
Cornell University（康奈尔大学）；University of Maryland（马里兰大学）；Microsoft Research（微软研究院）
用逻辑形式注释的大规模语义解析数据集使监督方法取得了重大进展。但更丰富的监管能起到更大的作用吗？为了探索细粒度的词汇级监督的实用性，我们引入了Squall，这是一个数据集，它通过手动创建的SQL等价物以及SQL和问题片段之间的对齐来丰富11，276个WikiTableQuestions英语问题。我们的注释为编码器-解码器模型提供了新的训练可能性，包括以前因缺乏对齐而无法使用的机器翻译方法。我们提出并测试了两种方法：（1）监督注意;（2）采用一个辅助目标，消除歧义的输入查询表列中的引用。在5折交叉验证中，这些策略在强基线上提高了4.4%的执行准确性。Oracle实验表明，注释比对可以支持高达23.9%的进一步准确性增益。
2020-10-21 cs.AI cs.CL
MURMUR: Modular Multi-Step Reasoning for Semi-Structured Data-to-Text Generation
UNC Chapel Hill（北卡罗来纳大学教堂山分校）；Meta AI
对大语言模型的简化使得文本多步推理最近取得了重大进展。然而，当应用于从半结构化数据（例如，图或表），但是这些方法通常遭受低语义覆盖、幻觉和逻辑不一致。我们提出了MURMUR，一个神经符号模块化的方法，从半结构化的数据与多步推理的文本生成。MURMUR是一种最佳优先搜索方法，它使用以下方法生成推理路径：（1）具有特定语言和逻辑技能的神经和符号模块，（2）其产生式规则定义模块有效组合的语法，以及（3）评估每个推理步骤质量的价值函数。我们进行实验的两个不同的数据到文本生成任务，如WebNLG和LogicNLG。这些任务在数据表示（图形和表格）方面有所不同，并涵盖多种语言和逻辑技能。MURMUR在最近的Few-Shot基线（如直接提示和思想链提示）上获得了显着改进，同时还在域外数据上实现了与微调的GPT-2相当的性能。此外，人工评估表明，MURMUR生成高度忠实和正确的推理路径，与直接提示相比，在LogicNLG上的逻辑一致性摘要增加了26%。
2022-12-16 cs.AI cs.CL cs.LG
Evaluating the Logical Reasoning Ability of ChatGPT and GPT-4
Westlake University（西湖大学）；Zhejiang University（浙江大学）；Nanyang Technological University（南洋理工大学）；Fudan University（复旦大学）
该研究通过多个逻辑推理基准及自建分布外数据集测试ChatGPT和GPT-4的推理能力，发现二者在知名数据集表现较好但新数据集和分布外场景性能下降，同时发布了LogiEval基准套件。
2023-05-05 cs.AI cs.CL
TabFact: A Large-scale Dataset for Table-based Fact Verification
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Tencent AI Lab（腾讯人工智能实验室）
根据给定的证据来验证语篇假设是否成立的问题，也称为事实验证，在自然语言理解和语义表示的研究中起着重要的作用。然而，现有的研究主要局限于处理非结构化证据（例如，自然语言句子和文档、新闻等），而在结构化证据（例如表格、图形和数据库）下的验证仍然未被充分探索。本文主要研究半结构化数据作为证据的事实验证问题。为此，我们构建了一个名为TabFact的大规模数据集，其中包含16 k个Wikipedia表作为118 k个人类注释的自然语言语句的证据，这些语句被标记为ENTANOW或REFUTED。TabFact具有挑战性，因为它涉及软语言推理和硬符号推理。为了解决这些推理挑战，我们设计了两种不同的模型：表BERT和潜在程序算法（LPA）。Table-BERT利用最先进的预训练语言模型将线性化的表和语句编码为连续向量以进行验证。LPA将语句解析为程序，并针对表执行它们，以获得返回的二进制值进行验证。这两种方法都达到了类似的准确性，但仍然远远落后于人类的表现。我们还进行全面的分析，以展示未来的巨大机会。数据集的数据和代码见\url{https://github.com/wenhuchen/Table-Fact-Checking}。
2020-06-14 cs.AI cs.CL
Table-to-Text Natural Language Generation with Unseen Schemas
Peking University（北京大学）；Google AI（谷歌人工智能）；University of California Santa Barbara（加州大学圣巴巴拉分校）
传统的表到文本自然语言生成（NLG）任务侧重于从训练集中已经看到的模式生成文本。这个限制限制了它们对真实世界场景的推广性，在真实世界场景中，输入表的模式可能是无限的。在本文中，我们提出了一个新的任务表到文本NLG与看不见的模式，其具体目的是测试NLG的泛化输入表的属性类型，从来没有出现在训练。为此，我们为此任务构建了一个新的基准数据集。为了处理看不见的属性类型的问题，我们提出了一个新的模型，首先对齐看不见的表模式，看到的，然后生成文本更新的表表示。新基准的实验评估表明，我们的模型优于基线方法的大幅度。此外，与标准数据到文本设置的比较显示了我们提出的任务的挑战和独特性。
2019-11-09 cs.CL
WikiTableEdit: A Benchmark for Table Editing by Natural Language Instruction
Peking University（北京大学）
针对不规则表格难以通过代码编辑的问题，本文提出 WikiTableEdit 基准，基于 WikiSQL 自动构建超20万条自然语言表格编辑实例，并评估多个代表性 LLM。
2024-03-05 cs.AI
HiTab: A Hierarchical Table Dataset for Question Answering and Natural Language Generation
Shanghai Jiao Tong University（上海交通大学）；Microsoft Research Asia（微软亚洲研究院）；Carnegie Mellon University（卡内基梅隆大学）；Xi’an Jiaotong University（西安交通大学）
表通常是用层次结构来创建的，但现有的表推理工作主要集中在平面表上，而忽略了层次表。层次表通过层次索引以及计算和语义的隐式关系挑战现有方法。这项工作提出了HiTab，一个自由和开放的数据集，研究问答（QA）和自然语言生成（NLG）的层次表。HiTab是由大量统计报告（分析）和维基百科页面构建的跨领域数据集，具有独特的特点：（1）几乎所有表格都是分层的，（2）NLG的目标句子和QA问题都是从分析师和报告专业人员撰写的原始，有意义和多样化的描述性句子中修改的。(3)为了揭示统计分析中复杂的数值推理，我们提供了实体和数量对齐的细粒度注释。HiTab提供了10，686个QA对和描述性句子，在3，597个表格上进行了良好的注释数量和实体对齐，广泛覆盖了表格层次结构和数值推理类型。针对层次结构，我们设计了一种新的层次感知的逻辑形式的表上的符号推理，这表明了高效率。针对复杂的数值推理，我们提出了部分监督训练，给出了实体和数量对齐的注释，这有助于模型在很大程度上减少QA任务中的虚假预测。在NLG任务中，我们发现实体和数量对齐也有助于NLG模型在条件生成设置中生成更好的结果。最先进的基线的实验结果表明，该数据集提出了一个强大的挑战和未来的研究有价值的基准。
2022-03-26 cs.CL cs.IR
Towards Controlled Table-to-Text Generation with Scientific Reasoning
Shanghai Jiao Tong University（上海交通大学）；IGSNRR, Chinese Academy of Sciences（中国科学院地理科学与资源研究所）
本文提出面向科学表格数据、符合用户偏好的表格到文本生成新任务，构建含高亮单元格和领域知识库的CTRLSciTab数据集，并设计新架构，实验表明大型模型仍难以准确对齐用户偏好。
2023-12-08 cs.CL
Modeling Comparative Logical Relation with Contrastive Learning for Text Generation
East China Normal University（华东师范大学）；Shanghai Institute of Artificial Intelligence for Education, ECNU（华东师范大学上海人工智能教育研究院）；School of Computer Science and Technology, ECNU（华东师范大学计算机科学与技术学院）；Xiaohongshu Inc（小红书公司）；Alibaba Group（阿里巴巴集团）
针对现有数据到文本生成忽略深层比较逻辑关系的问题，本文提出CLRG新任务与基于CoLo的对比学习生成方法，构建了CLRD数据集，实验证明该方法在自动和人工评估中均表现优异。
2024-08-15 cs.CL
TableQA: a Large-Scale Chinese Text-to-SQL Dataset for Table-Aware SQL Generation
Zhuiyi Technology（追一科技）
近年来，利用数据驱动的方法如深度神经网络将自然语言解析为相应的SQL（NL 2SQL）引起了人们的广泛关注。现有的NL 2SQL数据集假设条件值应该精确地出现在自然语言问题中，并且查询在给定表的情况下是可回答的。然而，这些假设在实际场景中可能会失败，因为用户可能会对表中的相同内容使用不同的表达式，并且在不了解表中内容的情况下查询表外的信息。因此，我们提出了TableQA，一个大规模的跨领域的自然语言到SQL数据集在中国的语言，包括64,891个问题和20,311个独特的SQL查询超过6,000表。与查询NL 2SQL数据集不同，TableQA不仅需要很好地泛化到不同问题和表模式的SQL骨架，而且还需要泛化到各种条件值的表达式。实验结果表明，在WikiSQL上具有95.1%条件值准确率的最先进模型在TableQA上仅获得46.8%的条件值准确率和43.0%的逻辑形式准确率，表明所提出的数据集具有挑战性和必要性。提出了两种表感知的方法来缓解这个问题，端到端方法在条件值和逻辑形式任务上获得了51.3%和47.4%的准确率，分别提高了4.7%和3.4%。
2020-06-10 cs.AI cs.DB cs.LG
Logical Inference for Counting on Semi-structured Tables
The University of Tokyo（东京大学）
最近，自然语言推理（NLI）任务已被研究的半结构化表，没有严格的格式。虽然神经方法在各种类型的NLI中取得了很高的性能，包括半结构化表格和文本之间的NLI，但它们仍然难以执行数字类型的推理，例如计数。为了处理数字类型的推理，我们提出了一个逻辑推理系统的半结构化表格和文本之间的推理。我们使用逻辑表示作为表格和文本的意义表示，并使用模型检验来处理文本和表格之间的数值类型的推理。为了评估我们的系统可以在多大程度上进行推理与数值比较，我们做了一个评估协议，侧重于半结构化的表格和文本之间的数字理解英语。我们表明，与当前的神经方法相比，我们的系统可以更鲁棒地在需要数值理解的表格和文本之间进行推理。
2022-04-25 cs.CL
Compositional Semantic Parsing on Semi-Structured Tables
Stanford University（斯坦福大学）
问答语义解析的两个重要方面是知识源的广度和逻辑组合的深度。虽然现有的工作从一个方面到另一个方面，本文同时通过一个新的任务在两个方面取得了进展：使用问答对作为监督，在半结构化表格上回答复杂的问题。核心挑战来自两个复合因素：更广泛的领域导致一组开放式的关系，更深层次的组合性导致逻辑形式空间的组合爆炸。我们提出了一个逻辑形式驱动的解析算法引导强类型约束，并表明它获得了显着的改善自然基线。为了进行评估，我们在维基百科表格上创建了一个包含22，033个复杂问题的新数据集，该数据集可供公众使用。
2015-08-03 cs.CL
LogicalFactChecker: Leveraging Logical Operations for Fact Checking with Graph Module Network
Sun Yat-sen University（中山大学）；Microsoft Research（微软研究院）；Harbin Institute of Technology（哈尔滨工业大学）；Microsoft Search Technology Center Asia（微软亚洲搜索技术中心）
验证文本语句的正确性不仅需要语义推理的意义的话，但也象征性的推理逻辑运算，如计数，最高级，聚合等，在这项工作中，我们提出了LogicalFactvalues，一个神经网络的方法，能够利用逻辑运算的事实检查。它在TABBACT上实现了最先进的性能，TABBACT是一个大规模的基准数据集，用于验证带有半结构化表的文本语句。这是通过基于Transformer架构的图形模块网络实现的。使用文本语句和表格作为输入，LogicalFactTable自动导出一个程序（也称为以语义解析的方式对语句进行分析（例如，逻辑形式）。然后构建一个异构图，不仅捕获表和程序的结构，而且捕获不同模态的输入之间的连接。这样的图揭示了语句、表和程序中每个词的相关上下文。该图用于在基于Transformer的架构中获得单词的图形增强上下文表示。在此之后，一个程序驱动的模块网络被进一步引入，以利用程序的层次结构，其中语义组合性是动态建模的程序结构与一组功能特定的模块。烧蚀实验表明，异质图和模块网络是重要的，以获得强有力的结果。
2020-04-28 cs.CL
TAPAS: Weakly Supervised Table Parsing via Pre-training
Google Research（谷歌研究院）；Tel-Aviv University（特拉维夫大学）
在表上搜索自然语言问题通常被视为一项语义解析任务。为了减轻完整逻辑形式的收集成本，一种流行的方法侧重于由外延而不是逻辑形式组成的弱监督。然而，从弱监督训练语义解析器带来了困难，此外，生成的逻辑形式仅用作检索表示之前的中间步骤。在本文中，我们提出了TAPAS，一种方法，问答表不产生逻辑形式。TAPAS从弱监督中训练，并通过选择表格单元格并可选地将相应的聚合运算符应用于这种选择来预测表示。TAPAS扩展了BERT的架构，将表格编码为输入，从维基百科抓取的文本片段和表格的有效联合预训练中提取，并进行端到端的训练。我们用三个不同的语义解析数据集进行了实验，发现TAPAS通过将SQA的最新准确率从55.1提高到67.2，并与WIKISQL和WIKITQ的最新准确率相当，但具有更简单的模型架构，从而优于或媲美语义解析模型。我们还发现，迁移学习，这是微不足道的，在我们的设置，从WIKISQL到WIKITQ，产生48.7的准确性，4.2点以上的最先进的。
2020-04-21 cs.AI cs.CL cs.IR
Neural Multi-Step Reasoning for Question Answering on Semi-Structured Tables
Department of Computer Science ETH Zurich（苏黎世联邦理工学院计算机科学系）；ETH Zurich（苏黎世联邦理工学院）；Switzerland（瑞士）
近年来，由于神经网络方法的日益流行，自然语言处理任务的进展获得了动力。在本文中，我们探讨了用于回答半结构化表上操作的多步推理问题的深度学习技术。这里的挑战来自于问题所表达的逻辑组合性的水平，以及领域的开放性。我们的方法是弱监督的，在问答表三元组上训练，而不需要中间的强监督。它执行两个阶段：首先，机器可理解的逻辑形式（程序）是根据[Pasupat和Liang，2015]的工作从自然语言问题中生成的。第二，使用单词和字符卷积神经网络将逻辑形式和问题的释义嵌入到联合学习的向量空间中。神经评分函数进一步用于对问题的最可能的逻辑形式（解释）进行排名和检索。我们最好的单个模型在WikiTableQuestions数据集上达到了34.8%的准确率，而我们模型的最佳集合将这项任务的最先进分数推高到38.7%，从而略微超过了工程特征评分基线以及Neelakantan等人的神经程序员模型，2016年]。
2018-03-22 cs.CL
Answering Conversational Questions on Structured Data without Logical Forms
Google Research（谷歌研究院）
我们提出了一种新的方法来回答基于结构化对象（如知识库或表）的顺序问题，而不使用逻辑形式作为中间表示。我们使用基于Transformer架构的图神经网络模型将表编码为图。然后使用指针网络从编码图中选择答案。此模型适用于处理围绕结构化数据的会话，其中选择问题答案的注意力机制也可用于解析会话引用。我们证明了这种方法的有效性与竞争的结果顺序问答（SQA）任务（Iyyer等人，2017年）。
2019-08-30 cs.CL
Compositionality for Presuppositions over Tableaux
表格起源于逻辑语言的一种决策方法。它们也可以被扩展以获得一种结构，该结构根据对出现在句子中的原子公式的真值分配来阐明一组句子中的所有信息。在此采用这一办法。在这样的结构上，提供了组合规则，用于从逻辑语句的原子子公式及其预设中获得逻辑语句的预设。规则是基于经典的逻辑语义，它们被证明是建立在自然语言句子中观察到的行为与{ \em，如果\ldots然后}，{ \em和}和{ \em或}的预设模型。这种方法的优点，现有的框架的前提进行了讨论。
1995-05-05 cmp-lg cs.CL
From Tables to Quantified Statements: Evaluating LLM Inference Generation through Executable Verification
University of Illinois Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
本研究提出STAT-TO-TEXT任务，利用LLM从统计表格生成量化推理，并通过可执行Python代码验证，发现更大模型（如GPT-OSS-120B）在忠实度、覆盖率和多样性上表现更优。
2026-09-22 cs.CL
Discrete Word Embedding for Logical Natural Language Understanding
MIT-IBM Watson AI Lab（麻省理工-IBM沃森人工智能实验室）；IBM Research（IBM研究院）
我们提出了一个无监督的神经模型，用于学习单词的离散嵌入。与现有的离散嵌入不同，我们的二进制嵌入支持类似于连续嵌入的向量算术运算。我们的嵌入表示每个词作为一组命题语句描述的过渡规则在经典/CIPPS规划形式主义。这使得嵌入直接兼容的象征性，国家的最先进的经典规划求解器。
2020-10-15 cs.AI cs.CL
Logical Reasoning over Natural Language as Knowledge Representation: A Survey
Nanyang Technological University（南洋理工大学）；University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文综述了以自然语言作为知识表示、预训练语言模型作为推理器的逻辑推理新范式，涵盖其优势、基准、挑战及未来方向，该范式有效缓解了形式表示的瓶颈并优于端到端神经方法。
2024-02-16 cs.AI cs.CL
API-Assisted Code Generation for Question Answering on Varied Table Structures
Carnegie Mellon University（卡内基梅隆大学）
本文提出统一TableQA框架，将多样表格表示为多索引Pandas数据框，用Python程序查询并支持自定义API调用，在四个不同结构表格数据集上显著超越现有最优系统。
2023-10-23 cs.AI cs.CL
Do Natural Language Explanations Represent Valid Logical Arguments? Verifying Entailment in Explainable NLI Gold Standards
University of Manchester（曼彻斯特大学）；Idiap Research Institute（IDIAP研究所）
可解释NLP的一个新兴研究方向是创建富含人工注释解释和原理的数据集，用于构建和评估具有逐步推理和解释生成功能的模型。虽然人类注释的解释被用作推理的基础事实，但缺乏对其一致性和严谨性的系统评估。为了给NLI解释金标准（XGS）提供一个关键的质量评估，我们提出了一个系统的解释方法，命名为解释蕴涵验证（EEV），以量化人类注释的逻辑有效性。EEV在三个主流数据集上的应用揭示了一个令人惊讶的结论，即大多数解释，虽然表面上看起来连贯，但代表逻辑上无效的论点，从不完整到包含明显可识别的逻辑错误。这一结论证实了解释的推理性质仍然缺乏形式化和理解，并且有必要在这一研究领域开展额外的工作，以改善解释金标准的构建方式。
2021-05-15 cs.AI cs.CL
NeuralLog: Natural Language Inference with Joint Neural and Logical Reasoning
Rose-Hulman Institute of Technology（罗斯-霍曼理工学院）；Indiana University（印第安纳大学）
基于深度学习（DL）的语言模型在自然语言推理（NLI）的各种基准测试中实现了高性能。在这个时候，象征性的方法NLI受到较少的关注。这两种方法（符号和DL）都有其优点和缺点。然而，目前，没有方法将它们结合在一个系统中来解决NLI的任务。为了融合符号学习和深度学习方法，我们提出了一个名为NeuralLog的推理框架，它利用基于单调性的逻辑推理引擎和神经网络语言模型进行短语对齐。我们的框架模型的NLI任务作为一个经典的搜索问题，并使用束搜索算法搜索最佳推理路径。实验表明，我们的联合逻辑和神经推理系统提高了NLI任务的准确性，并可以在SICK和MED数据集上达到最先进的准确性。
2021-06-10 cs.AI cs.CL
AutoPrep: Natural Language Question-Aware Data Preparation with a Multi-Agent Framework
Renmin University of China（中国人民大学）；University of Arizona（亚利桑那大学）；Tsinghua University（清华大学）
提出AutoPrep，一种基于大语言模型的多智能体框架，通过规划器、程序员和执行器协同完成问题感知的数据准备，以提升表格问答的准确性和上下文相关性。
2025-07-09 cs.AI cs.CL
Discovering a Shared Logical Subspace: Steering LLM Logical Reasoning via Alignment of Natural-Language and Symbolic Views
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Computer & Information Science and Engineering, University of Florida（佛罗里达大学计算机与信息科学与工程系）
本文提出通过对齐自然语言和符号视角的逻辑子空间来提升LLM的多步逻辑推理能力，通过实验验证该方法在四个基准测试中提升了准确率并具备良好的泛化能力。
2026-04-21 cs.CL
MERIt: Meta-Path Guided Contrastive Learning for Logical Reasoning
Shandong University（山东大学）；National University of Singapore（新加坡国立大学）
逻辑推理对自然语言理解至关重要。以往的研究要么采用基于图的模型来整合关于逻辑关系的先验知识，要么通过数据增强将符号逻辑引入神经模型。然而，这些方法严重依赖于带注释的训练数据，并且因此由于数据集稀疏而遭受过拟合和差的泛化问题。为了解决这两个问题，在本文中，我们提出MERIt，元路径引导的对比学习方法的逻辑推理的文本，进行自我监督的预训练丰富的未标记的文本数据。两个新的策略作为我们的方法不可或缺的组成部分。特别地，设计了一种基于元路径的策略来发现自然文本中的逻辑结构，然后采用反事实数据增强策略来消除预训练导致的信息捷径。在两个具有挑战性的逻辑推理基准上的实验结果，即，ReClor和LogiQA证明，我们的方法优于SOTA基线，具有显着的改进。
2022-03-01 cs.AI cs.CL
Large Language Models are Complex Table Parsers
School of Computer Science（计算机学院）；Fudan University（复旦大学）；Academy for Engineering Technology（工程技术研究院）；Shanghai Children’s Hospital of Fudan University（复旦大学附属儿科医院）；National Children’s Medical Center（国家儿童医学中心）
针对现有GPT相关问答研究忽略复杂表格问答挑战的问题，本文提出将复杂表格重构为元组并优化提示模板的方法，增强GPT-3.5的层级结构感知能力，在HiTAB和AIT-QA数据集上均取得SOTA性能。
2023-12-13 cs.AI cs.CL
Identifying Implicit Premises for Logical Reconstruction of Argument Graphs
University College London（伦敦大学学院）
本文针对论证图逻辑重构中省略式论证的隐含前提问题，提出神经符号管道方法，结合大型语言模型生成隐含前提并评估，用于证明陈述间的逻辑关系。
2026-08-20 cs.AI cs.CL
Natural language understanding for logical games
Department of Computer Science, Technical University of Cluj-Napoca（克卢日-纳波卡技术大学计算机科学系）
我们开发了一个能够自动解决自然语言的逻辑难题的系统。我们的解决方案是由一个解析器和一个推理模块。解析器将文本转换为一阶逻辑（FOL），而MACE 4模型查找器用于计算给定FOL理论的模型。我们还赋予我们的软件代理提供是/否的答案与每个难题相关的自然语言问题的能力。此外，根据解释人工智能（XAI），代理可以支持其答案，提供证明的图形表示。使用推理来进行自然语言理解（NLU）而不是机器学习的优点在于，用户可以获得推理链的解释。我们说明了系统如何执行各种类型的自然语言难题，包括382骑士和无赖难题。这些功能与80.89\%的整体性能率一起，使所提出的解决方案的改进后，类似的解决方案的自然语言理解的难题域。
2021-10-01 cs.AI cs.CL cs.LO
A Tableau Calculus for Pronoun Resolution
我们提出了一个表演算推理片段的自然语言。我们专注于代词决议的问题，并在其中复杂的自动定理证明自然语言处理的方式。提出了一种在演绎过程中显式操纵上下文信息的方法，其中代词在演绎过程中根据此上下文进行解析。因此，代词解析和演绎可以以这样一种方式交错，即代词只有在演绎规则许可的情况下才被解析;这有助于我们避免完全代词消歧的组合复杂性。
2000-09-21 cs.AI cs.CL
Robust and Explainable Identification of Logical Fallacies in Natural Language Arguments
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）；armasuisse Science and Technology（瑞士联邦国防采购局科学技术部）；Cyber-Defence Campus（网络防御园区）
本文构建检测、粗粒度与细粒度分类的三阶段逻辑谬误评估框架，结合可解释推理、知识注入、数据增强和课程学习，系统评估模型鲁棒性并开源代码数据。
2023-09-25 cs.AI cs.CL
Learning to Reason via Mixture-of-Thought for Logical Reasoning
UMD（马里兰大学）；Yale University（耶鲁大学）
针对 LLM 训练仅依赖单一推理模态的问题，本文提出融合自然语言、代码和真值表的 MoT 两阶段框架，在 FOLIO 与 ProofWriter 上最高提升平均准确率 11.7 个百分点。
2025-06-09 cs.CL
Declarative Question Answering over Knowledge Bases containing Natural Language Text with Answer Set Programming
Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；Arizona State University（亚利桑那州立大学）
虽然近年来基于机器学习（ML）的方法已经成为开发端到端问答系统的流行方法，但是当需要额外的知识来正确回答问题时，这样的系统经常会遇到困难。所提出的替代方案涉及将问题和自然语言文本翻译成逻辑表示，然后使用逻辑推理。然而，当文本的大小变得更大时，这种替代方法就不起作用了。为了解决这个问题，我们提出了一种方法，在自然语言文本中编写的前提进行逻辑推理。所提出的方法使用答案集编程（ASP）的最新功能来调用执行简单文本蕴涵的外部NLP模块（可能基于ML）。为了测试我们的方法，我们开发了一个语料库的生存周期问题的基础上，并表明，我们的系统实现了$18\%$性能增益相比，标准MCQ求解器。
2019-05-01 cs.AI cs.CL
Which Programming Language and What Features at Pre-training Stage Affect Downstream Logical Inference Performance?
The University of Tokyo（东京大学）
本研究在相同条件下从头预训练模型，发现使用编程语言训练的模型在逻辑推理和指令遵循上优于自然语言模型，且抽象语法树深度也影响推理性能。
2025-06-28 cs.AI cs.CL
OmniTab: Pretraining with Natural and Synthetic Data for Few-shot Table-based Question Answering
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Azure AI（微软Azure人工智能部门）
表格中的信息可以是文本的重要补充，使得基于表格的问答（QA）系统具有很大的价值。处理表的内在复杂性通常会给模型设计和数据注释增加额外的负担。在本文中，我们的目标是开发一个简单的基于表的QA模型，以最小的注释工作。基于表格的QA需要问题和表格之间的对齐以及对多个表格元素执行复杂推理的能力，基于这一事实，我们提出了一种杂食性的预训练方法，该方法消耗自然数据和合成数据来赋予模型这些相应的能力。具体来说，给定免费提供的表，我们利用检索将它们与基于掩码的预训练的相关自然句子配对，并通过转换从表中采样的SQL进行QA损失的预训练来合成NL问题。我们在Few-Shot和完整设置下进行了广泛的实验，结果清楚地表明了我们的模型OmniTab的优越性，最好的多任务处理方法在128次拍摄和完整设置下分别实现了16.2%和2.7%的绝对增益，也在WikiTableQuestions上建立了一个新的最先进的模型。详细的消融和分析揭示了自然和合成数据的不同特征，为杂食预训练的未来方向提供了光明。代码、预训练数据和预训练模型可在https://github.com/jzbjyb/OmniTab上获得。
2022-07-08 cs.CL
TableQuery: Querying tabular data with natural language
Saama（萨玛）；Activeloop（活跃循环）；Oregon State University（俄勒冈州立大学）
本文介绍了TableQuery，这是一种使用预训练的深度学习模型来查询表格数据的新工具，用于回答自由文本的问题。针对表格数据的问答的现有深度学习方法具有各种局限性，例如必须将整个表格作为输入馈送到神经网络模型中，这使得它们不适合大多数现实世界的应用。由于真实世界的数据可能包含数百万行，因此可能无法完全放入内存中。此外，数据可以存储在实时更新的实时数据库中，并且每次更新时将整个数据库串行化为神经网络友好格式是不切实际的。在TableQuery中，我们使用针对自由文本问答预先训练的深度学习模型，将自然语言查询转换为结构化查询，可以针对数据库或电子表格运行。这种方法消除了将整个数据装入内存以及序列化数据库的需要。此外，针对自由文本问答预训练的深度学习模型可以在HuggingFace Model Hub（7）等平台上轻松获得。TableQuery不需要重新训练;当新训练的问答模型具有更好的性能时，它可以替换TableQuery中的现有模型。
2022-01-27 cs.AI cs.CL cs.DB
Logical Parsing from Natural Language Based on a Neural Translation Model
Beihang University（北京航空航天大学）
语义解析已经成为自然语言接口和问答系统的重要和强大的范例。传统的语义分析方法依赖于高质量的词典、手工编写的语法和语言特征，这些都受到应用领域或表示的限制。在本文中，我们提出了一种通用的方法来学习的表示的基础上Seq2Seq模型增强注意力机制。我们将输入序列编码为向量，并使用动态规划来推断候选逻辑形式。我们利用相似的话语应该具有相似的逻辑形式这一事实来帮助减少搜索空间。在我们的学习策略下，Seq2Seq模型可以逐渐学习带有噪声的映射。采用课程学习，使学习更加顺畅。我们测试我们的方法在算术域，这表明我们的模型可以成功地推断出正确的逻辑形式，并学习单词的含义，组合性和操作顺序的同时。
2017-05-09 cs.CL
TALENT: Table VQA via Augmented Language-Enhanced Natural-text Transcription
Johns Hopkins University（约翰霍普金斯大学）；Purdue University（普渡大学）；University at Albany（阿尔巴尼大学）
针对表格视觉问答中大型VLM计算成本高、小型VLM精度不足的问题，提出TALENT框架，利用小型VLM生成OCR文本与自然语言叙述，结合LLM推理，并构建ReTabVQA数据集，以更低成本达到或超越大型VLM的性能。
2025-10-08 cs.CL
Towards Robustness of Text-to-SQL Models Against Natural and Realistic Adversarial Table Perturbation
Beihang University（北京航空航天大学）；Microsoft Research Asia（微软亚洲研究院）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
Text-to-SQL解析器对对抗性扰动的鲁棒性在提供高度可靠的应用程序方面起着至关重要的作用。沿着这条线的以前的研究主要集中在扰动的自然语言的问题方面，忽略了表的可变性。基于此，我们提出了对抗表扰动（ATP）作为一种新的攻击范式来衡量文本到SQL模型的鲁棒性。根据这一主张，我们策划了ADVETA，这是第一个具有自然和现实ATP的鲁棒性评估基准。所有经过测试的最先进的模型在ADVETA上都经历了戏剧性的性能下降，揭示了模型在现实世界实践中的脆弱性。为了防御ATP，我们构建了一个系统的对抗性训练样本生成框架，该框架专为更好地将表格数据上下文化而量身定制。实验表明，我们的方法不仅带来了最好的鲁棒性改善表侧扰动，但也大大增强了对NL侧扰动的模型。我们在https://github.com/microsoft/ContextualSP上发布了我们的基准测试和代码。
2022-12-20 cs.CL
Logical Structure as Knowledge: Enhancing LLM Reasoning via Structured Logical Knowledge Density Estimation
Huzhou University（湖州大学）；Zhejiang Key Laboratory of Intelligent Education Technology and Application（浙江智能教育技术与应用重点实验室）；Banbu AI Foundation（Banbu AI基金会）；Baichuan Inc（白川公司）；University of Edinburgh（爱丁堡大学）；Zhejiang University（浙江大学）
本文提出通过结构化逻辑知识密度估计提升LLM推理能力，通过增强逻辑密度而非扩大数据量来提高模型认知潜力。
2026-02-12 cs.AI cs.CL cs.LG
Chain-of-Query: Unleashing the Power of LLMs in SQL-Aided Table Understanding via Multi-Agent Collaboration
Rice University（里士大学）；Samsung Electronics America（三星电子美国分公司）；Warner Bros. Discovery（华纳兄弟发现）
链式查询通过多智能体协作提升SQL辅助表格理解的准确性与有效性
2025-11-30 cs.AI cs.CL cs.DB
A Neural-Symbolic Approach to Natural Language Understanding
Shanghai Jiaotong University（上海交通大学）；ByteDance（字节跳动）
由预先训练的语言模型授权的深度神经网络在自然语言理解（NLU）任务中取得了显着的成果。然而，当需要逻辑推理时，它们的性能会急剧恶化。这是因为NLU原则上不仅依赖于深度神经网络擅长的类比推理，还依赖于逻辑推理。根据双加工理论，类比推理和逻辑推理分别由人脑中的系统1和系统2完成。受该理论的启发，我们提出了一个新的框架NLU称为神经符号处理器（NSP），它执行基于神经处理的类比推理和基于神经和符号处理的逻辑推理。作为一个案例研究，我们进行了两个NLU任务，问答（QA）和自然语言推理（NLI），当数值推理（一种逻辑推理）是必要的实验。实验结果表明，我们的方法显着优于国家的最先进的方法在这两个任务。
2022-10-21 cs.CL
Rule2Text: Natural Language Explanation of Logical Rules in Knowledge Graphs
University of Texas at Arlington（德克萨斯理工大学）
针对知识图谱逻辑规则难被人类理解的问题，本研究探索用大语言模型生成其自然语言解释，提取多数据集规则并检验多种提示策略，经评估验证了方法的有效性，相关资源已公开。
2025-07-31 cs.AI cs.CL cs.LG
Autoformalizing Natural Language to First-Order Logic: A Case Study in Logical Fallacy Detection
Stanford University（斯坦福大学）；X, the moonshot factory（X moonshot工厂）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；ETH Zürich（苏黎世联邦理工学院）；University of Toronto（多伦多大学）
本文提出NL2FOL框架，利用大语言模型将自然语言逐步自动形式化为一阶逻辑，并结合SMT求解器进行逻辑推理，在无需微调或标注数据的情况下于逻辑谬误检测任务中取得强劲表现且提供可解释性。
2025-03-06 cs.AI cs.CL cs.LG
Neural Enquirer: Learning to Query Tables with Natural Language
The University of Hong Kong（香港大学）；Noah’s Ark Lab, Huawei Technologies（华为技术有限公司诺亚方舟实验室）
我们提出了神经查询器作为一个神经网络架构，执行一个自然语言（NL）查询的知识库（KB）的答案。基本上，Neural Enquirer找到查询的分布式表示，然后在知识库表上执行它，以获得答案作为表中的一个值。与语义解析器端到端训练中的类似努力不同，Neural Enquirer是完全“神经化”的：它不仅给出了查询和知识库的分布式表示，而且还将组合查询的执行实现为一系列可区分的操作，中间结果（由不同级别的表的注释组成）保存在多层内存中。神经查询器可以通过梯度下降进行训练，不仅可以从头开始学习控制组件和语义解析组件的参数，还可以学习表和查询词的嵌入。培训可以以端到端的方式进行，但需要更强的指导，例如，神经查询器是构建神经网络系统的一步，该系统试图通过在现实世界中执行来理解语言。我们的实验表明，Neural Enquirer可以学习在具有丰富结构的表上执行相当复杂的NL查询。
2016-01-21 cs.AI cs.CL cs.LG
Example-Based Optimization of Surface-Generation Tables
本文给出了一种方法，它将一个逻辑文法“倒置”，并从逻辑形式的角度而不是从单词串的角度来显示它。LR编译技术被用来允许递归下降生成算法执行“函子合并”，就像LR解析器执行前缀合并一样。这是对语义头驱动的生成器的改进，导致搜索空间更小。语义先行的数量可以变化，并且可以自动找到表大小和所产生的不确定性之间的适当折衷点。这可以通过移除与训练语料库的示例足够接近的输入的所有虚假不确定性以及其他输入的大部分，同时保持完整性来完成。
1996-05-29 cmp-lg cs.CL
Towards Logically Sound Natural Language Reasoning with Logic-Enhanced Language Model Agents
Royal Holloway, University of London（伦敦大学皇家霍洛威学院）
针对LLMs在开放式任务中易出现逻辑错误的问题，提出逻辑增强框架LELMA，通过自动形式化将自然语言推理转化为逻辑表示以验证和优化推理，实验表明该框架有效提升了错误检测准确率与推理正确性。
2025-05-29 cs.AI cs.CL cs.GT
Beyond Natural Language Plans: Structure-Aware Planning for Query-Focused Table Summarization
IRLab, University of Amsterdam（阿姆斯特丹大学IR实验室）
针对自然语言规划歧义缺结构、难转可执行程序且多表任务扩展性差的问题，提出结构化规划TaSoF和三阶段SPaGe框架，显式捕获依赖，在单多表基准上均优于现有模型。
2025-07-30 cs.CL
Can GRPO Boost Complex Multimodal Table Understanding?
School of Advanced Technology, Xi’an Jiaotong-Liverpool University（西安交通大学利物浦大学先进科技学院）；Department of Computer Science, University of Liverpool（利物浦大学计算机科学系）；Information Hub, Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）信息中心）；University of Southern California（南加州大学）；Duke Kunshan University（杜克大学昆山分校）
本文提出Table-R1框架，通过预热、感知对齐GRPO和提示-完成GRPO三阶段提升多模态表格理解性能，优于SFT和GRPO。
2026-03-26 cs.CL
PulseBench-Tab: A Multilingual Benchmark for Table Extraction with Graph-Based Evaluation
Pulse AI；Georgia Institute of Technology（佐治亚理工学院）；S&P Global, Enterprise Data Organization（S&P全球企业数据部门）
提出包含9种语言、1820个标注表格的多语言基准PulseBench-Tab，并设计基于单元格邻接有向图的新评估指标T-LAG，通过最优二分匹配统一衡量结构和内容保真度。
2026-04-21 cs.CL cs.IR
CLTR: An End-to-End, Transformer-Based System for Cell Level Table Retrieval and Table Question Answering
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM TJ Watson Research Center（IBM托马斯·J·沃森研究中心）
我们提出了第一个端到端的，基于transformer的表格问答（QA）系统，该系统以自然语言问题和大量的表格语料库作为输入，以检索最相关的表格，并定位正确的表格单元格来回答问题。我们的系统，CLTR，扩展了目前国家的最先进的QA表模型，建立一个端到端的表QA架构。该系统已经成功地解决了许多现实世界的表QA问题，一个简单的，统一的管道。我们提出的系统还可以在复杂的表格上生成候选列和行的热图，并允许用户快速识别正确的单元格来回答问题。此外，我们还介绍了两个新的开放域基准测试，E2E_WTQ和E2E_GNQ，由76,242个表上的2,005个自然语言问题组成。这些基准测试旨在验证CLTR，并适应未来的表检索和端到端表QA研究和实验。我们的实验表明，我们的系统是目前国家的最先进的模型上的表检索任务，并产生有前途的结果端到端的表QA。
2021-06-09 cs.CL
