Tables provide valuable knowledge that can be used to verify textual statements. While a number of works have considered table-based fact verification, direct alignments of tabular data with tokens in textual statements are rarely available. Moreover, training a generalized fact verification model requires abundant labeled training data. In this paper, we propose a novel system to address these problems. Inspired by counterfactual causality, our system identifies token-level salience in the statement with probing-based salience estimation. Salience estimation allows enhanced learning of fact verification from two perspectives. From one perspective, our system conducts masked salient token prediction to enhance the model for alignment and reasoning between the table and the statement. From the other perspective, our system applies salience-aware data augmentation to generate a more diverse set of training instances by replacing non-salient terms. Experimental results on TabFact show the effective improvement by the proposed salience-aware learning techniques, leading to the new SOTA performance on the benchmark. Our code is publicly available at https://github.com/luka-group/Salience-aware-Learning .
PASTA: Table-Operations Aware Fact Verification via Sentence-Table Cloze Pre-training
Renmin University of China（中国人民大学）；Qatar Computing Research Institute（卡塔尔计算研究所）；Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
事实验证最近吸引了大量的研究关注，例如，在新闻业、市场营销和政策制定方面，网上的错误信息和虚假信息可以动摇一个人的观点，影响一个人的行动。虽然事实核查通常是一项艰巨的任务，但在许多情况下，虚假陈述可以很容易地根据对具有可靠信息的表格的分析来揭穿。因此，基于表格的事实验证最近已经成为一个重要的和不断增长的研究领域。然而，由于缺乏可用于预训练语言模型（LM）以了解常见表操作（例如聚合列或比较元组）的数据集，因此进展有限。为了弥补这一差距，在本文中，我们介绍了PASTA，一个新的国家的最先进的框架，基于表格的事实验证通过预训练与合成的表格完形填空题。特别是，我们设计了六种类型的常见的表完形填空任务，包括过滤，聚合，最高级，比较，顺序，和唯一的，基于此，我们合成了一个大型语料库，由120万个表对从WikiTables。PASTA使用最近预训练的LM DeBERTaV 3，并在我们的语料库上进一步预训练它。我们的实验结果表明，PASTA实现了新的国家的最先进的性能基于表的事实验证基准：TabFact和SEM-TAB-FACTS。特别是，在包含多个操作的TabFact复杂集上，PASTA的表现大大优于先前的最新技术水平4.7分（85.6% vs. 80.9%），并且PASTA和人类在小型TabFact测试集上的表现之间的差距缩小到仅1.5分（90.6% vs. 92.1%）。
Table-Text Alignment: Explaining Claim Verification Against Tables in Scientific Papers
National Institute of Informatics, Japan（日本信息机构国家研究所）；The University of Tokyo, Japan（日本东京大学）；National Taiwan University（台湾国立大学）；JFLI, CNRS, Nantes Université, France（法国CNRS-纳antes大学联合研究所）
Encoded but Not Routed: Explaining the Table-Chart Gap in Scientific Claim Verification
The University of Tokyo（东京大学）；NII LLMC（日本信息处理学会LLMC）；National Institute of Informatics（日本信息处理研究所）；University of Göttingen（哥廷根大学）；Inria, LS2N, Nantes Université（法国国家信息与自动化技术研究院（Inria）、LS2N实验室、南特大学）
Are Large Language Models Table-based Fact-Checkers?
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
Exploring Generative Process Reward Modeling for Semi-Structured Data: A Case Study of Table Question Answering
University of Augsburg（奥格斯堡大学）；Institut für Maschinelle Sprachverarbeitung, University of Stuttgart（斯图加特大学机械语言处理研究所）；Bosch Center for Artificial Intelligence（博世人工智能中心）
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）；School of Artificial Intelligence, Jilin University（吉林大学人工智能学院）；School of Data Science, Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）数据科学学院）
TAPAS at SemEval-2021 Task 9: Reasoning over tables with intermediate pre-training
Google Research, Zürich（谷歌研究院（苏黎世））
我们介绍了TAPAS对使用表格进行声明验证和证据发现的共享任务的贡献（SemEval 2021任务9，Wang等人（2021））。SEM TAB FACT任务A是一个分类任务，识别一个陈述是否被给定表格的内容所包含，中性或反驳。我们采用Eisenschlos et al.（2020）的二元TAPAS模型来完成这项任务。我们学习了两个二元分类模型：第一个模型预测一个语句是中性的还是非中性的，第二个模型预测它是蕴含的还是反驳的。由于共享任务训练集只包含蕴涵或反驳的例子，我们生成人工中性的例子来训练第一个模型。两个模型都使用MASKLM目标、中间反事实和合成数据进行预训练（Eisenschlos等人，2020）和TABBACT（Chen等人，2020年），一个大表蕴涵数据集。我们发现，人工中性示例在训练第一个模型时有些有效，达到68.03的测试F1，而大多数基线为60.47。对于第二阶段，我们发现中间数据和TABBACT的预训练比MASKLM预训练改善了结果（68.03 vs 57.01）。
ClimateViz: A Benchmark for Statistical Reasoning and Fact Verification on Scientific Charts
University of Oxford（牛津大学）；Qilu University of Technology(Shandong Academy of Sciences)（齐鲁工业大学（山东科学院））；Hong Kong University of Science and Technology（香港科学大学）；Hong Kong University of Science and Technology (Guangzhou)（香港科学大学（广州））
