TAROT: Task-Adaptive Refinement of LLM-prior Graphs for Few-shot Tabular Learning
Jilin University(吉林大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
提出TAROT框架,通过构建并精炼任务自适应语义图,利用LLM先验和GNN编码特征语义关系,提升小样本表格学习性能。
2026-06-11 cs.AI cs.LG
Beyond Importance Scores: Interpreting Tabular ML by Visualizing Feature Semantics
Stanford University(斯坦福大学);Demystify AI
随着机器学习(ML)模型越来越广泛地用于做出关键决策,可解释性正在成为一个活跃的研究课题。表格数据是医疗保健和金融等各种应用中最常用的数据模式之一。大多数用于表格数据的现有可解释性方法仅报告特征重要性分数-局部(每个示例)或全局(每个模型)-但它们不提供特征如何相互作用的解释或可视化。我们通过引入特征向量来解决这个限制,这是一种为表格数据集设计的新的全局可解释性方法。除了提供特征重要性之外,特征向量还通过直观的特征可视化技术发现特征之间的内在语义关系。我们的系统实验证明了这种新方法的经验效用,将其应用到几个真实世界的数据集。我们还为特征向量提供了一个易于使用的Python包。
2021-11-30 cs.LG stat.ML
Towards Interpretable Deep Neural Networks for Tabular Data
Marburg University(马尔堡大学)
本文提出XNNTab架构,通过稀疏自编码器学习语义特征并赋予人类可解释性,实现表格数据预测的可解释性与高性能。
2026-03-26 cs.LG
Hierarchical Synthetic Tabular Data Generation: A Hybrid Top-Down and Bottom-Up Framework
University of Southern California(南加州大学)
提出一种层次化混合自上而下和自下而上(H-TDBU)框架,通过解耦语义结构与随机纹理,结合结构驱动的逻辑约束和轻量级表格生成器,在弱多模态金融基准上提升合成数据的语义一致性和统计保真度。
2026-07-15 cs.LG
UTOPIA: Unlearnable Tabular Data via Decoupled Shortcut Embedding
University of Electronic Science and Technology of China(电子科学与技术大学);Independent Researcher(独立研究者);University of Science and Technology of China(科学技术大学);Nanyang Technological University(南洋理工大学)
UTOPIA通过解耦的快捷嵌入方法,实现对敏感表格数据的不可学习保护,有效阻止未经授权的模型训练。
2026-02-10 cs.LG
Learning Semantic Annotations for Tabular Data
University of Oxford(牛津大学);The Alan Turing Institute(艾伦·图灵研究所);University of Oslo(奥斯陆大学);The University of Edinburgh(爱丁堡大学)
表格数据(如Web表格)的有用性主要取决于对其语义的理解。本文主要研究不含Meta数据的表的列类型预测。与传统的基于词汇匹配的方法不同,我们提出了一种深度预测模型,它可以充分利用表的上下文语义,包括由混合神经网络(HNN)学习的表局部性特征,以及由知识库(KB)查找和查询应答算法学习的列间语义特征。
2019-05-30 cs.DB cs.IR cs.LG
GReaTER: Generate Realistic Tabular data after data Enhancement and Reduction
针对表格数据生成中语义不足、多表关联难的问题,提出GReaTER框架,通过语义增强和跨表连接优化LLM的表格数据生成效果,性能优于GReaT框架。
2025-03-19 cs.LG
ReTabAD: A Benchmark for Restoring Semantic Context in Tabular Anomaly Detection
LG AI Research, Seoul, South Korea(LG人工智能研究实验室,首尔,韩国);Sungkyunkwan University, Suwon, South Korea(成均馆大学,水原,韩国)
针对现有表格异常检测基准缺乏语义上下文的问题,提出ReTabAD基准,通过丰富结构化文本元数据并集成零样本LLM框架,验证了语义上下文能提升检测性能和可解释性。
2026-05-28 cs.AI cs.LG
LLMs as Feature Engineers for Text-and-Tabular Prediction
Teads
本文提出一个迭代框架,利用LLM自动从文本中提取可解释特征用于表格预测,通过错误反馈加速特征发现,并在多数据集上提升性能与可解释性。
2026-09-21 cs.LG
Semantic Classification of Tabular Datasets via Character-Level Convolutional Neural Networks
New Knowledge(新认知)
提出了一种基于“自动机器学习“(AutoML)的字符级卷积神经网络(CNN),用于对表格数据中的列进行语义分类。首先使用包含一组基类的模拟数据来学习一组初始权重。然后,在迁移学习范例中使用来自CKAN存储库的手工标记的数据,以使初始权重适应问题的更复杂的表示(例如,更多的类)。在这样做的过程中,现实的数据缺陷被学习,并且所处理的类的集合可以从具有减少的标记数据和计算能力要求的基本集合扩展。结果表明,这种方法的有效性和灵活性在三个不同的领域:语义分类的表格数据,年龄预测从社交媒体帖子,和电子邮件垃圾邮件分类。除了提供迁移学习在自然语言处理(NLP)中有效性的进一步证据外,我们的实验还表明,在没有额外元数据的情况下,在字符级别分析语言的语义结构,网络结构、报头等-可以为类型分类、垃圾邮件分类和社交媒体年龄预测提供有竞争力的准确性。我们提出了我们的开源工具包SIMON,语义推理建模的本体,它实现了这种方法在一个用户友好的和可扩展/并行化的方式的首字母缩写。
2019-01-24 cs.CL cs.LG
Towards Benchmarking Foundation Models for Tabular Data With Text
Department of Computer Science, University of Freiburg, Freiburg, Germany(弗赖堡大学计算机科学系);Prior Labs, Freiburg, Germany(Prior实验室);ELLIS Institute, Tubingen, Germany(图宾根ELLIS研究所)
针对现有表格数据基准缺乏文本列的问题,提出消融式策略将文本纳入传统表格流程,并手动整理真实数据集对最先进的表格基础模型处理文本的能力进行基准测试。
2025-07-10 cs.LG
Feature-aware Modulation for Learning from Temporal Tabular Data
School of Artificial Intelligence, Nanjing University, China(人工智能学院,南京大学);National Key Laboratory for Novel Software Technology, Nanjing University, China(新型软件技术国家重点实验室,南京大学)
本文提出了一种面向特征的时间调制机制,通过调节特征表示的统计属性来平衡泛化性和适应性,有效应对时序表格数据中的时间偏移问题。
2025-12-03 cs.LG
TaBERT: Pretraining for Joint Understanding of Textual and Tabular Data
Carnegie Mellon University(卡内基梅隆大学);Facebook AI Research(脸书人工智能研究院)
近年来,用于基于文本的自然语言理解任务的预训练语言模型(LM)蓬勃发展。这样的模型通常在自由形式的NL文本上训练,因此可能不适合于像结构化数据上的语义解析这样的任务,其需要对自由形式的NL问题和结构化表格数据(例如,数据库表)。在本文中,我们提出了TaBERT,这是一个预训练的LM,它可以联合学习NL句子和(半)结构化表的表示。TaBERT在2600万个表格及其英语上下文的大型语料库上进行训练。在实验中,使用TaBERT作为特征表示层的神经语义解析器在具有挑战性的弱监督语义解析基准WikiTableQuestions上取得了新的最佳结果,同时在文本到SQL数据集Spider上表现出色。该模型的实施将在http://fburl.com/TaBERT上提供。
2020-05-17 cs.CL cs.LG
FORESTLLM: Large Language Models Make Random Forest Great on Few-shot Tabular Learning
Microsoft Research Asia(微软亚洲研究院)
FORESTLLM结合决策森林的结构归纳偏见和LLM的语义推理能力,通过语义分割和上下文推理机制,在少样本表格学习中实现高性能。
2026-01-16 cs.LG
Bridging Textual and Tabular Data for Cross-Domain Text-to-SQL Semantic Parsing
Salesforce Research(赛富时研究院)
我们提出了BRIDGE,一个强大的顺序体系结构建模之间的依赖关系的自然语言问题和关系数据库跨DB语义解析。BRIDGE以标记序列表示问题和DB模式,其中字段的子集使用问题中提到的单元格值进行扩充。混合序列由BERT编码,具有最少的后续层,并通过BERT中微调的深度注意力实现文本数据库上下文化。结合具有模式一致性驱动的搜索空间修剪的指针生成器解码器,BRIDGE在流行的跨DB文本到SQL基准测试中获得了最先进的性能,Spider(71.1\% dev,67.5\%测试与集成模型)和WikiSQL(92.6\% dev,91.9\%测试)。我们的分析表明,BRIDGE有效地捕获了所需的跨模态依赖关系,并有可能推广到更多的文本数据库相关的任务。我们的实现可在\url{https://github.com/salesforce/TabularSemanticParsing}上获得。
2020-12-31 cs.AI cs.CL cs.DB
CTG-KrEW: Generating Synthetic Structured Contextually Correlated Content by Conditional Tabular GAN with K-Means Clustering and Efficient Word Embedding
Indian Institute of Technology Kharagpur(印度理工学院克勒格布尔分校);Missouri University of Science and Technology(密苏里科技大学)
本文提出CTG-KrEW框架,结合K-Means聚类和词嵌入改进CTGAN,以高效生成语义连贯的合成表格数据,并在Upwork数据集上验证其效果,显著降低CPU时间和内存占用。
2024-09-03 cs.CL cs.LG
Table Foundation Models: on knowledge pre-training for tabular learning
Inria Saclay(法国国家科学研究中心萨克雷分部);Institut Polytechnique de Paris(巴黎高等理工学院);New York University(纽约大学);Fundamental Technologies
本文提出表格基础模型TARTE,利用字符串捕获语义将表格转化为知识增强向量表示,在大型关系数据上预训练,可微调或与其他学习器结合,推动了最先进预测性能并改善了预测与计算的权衡。
2025-06-30 cs.LG
Revisiting Nearest Neighbor for Tabular Data: A Deep Tabular Baseline Two Decades Later
School of Artificial Intelligence, Nanjing University(南京大学人工智能学院);The Ohio State University(俄亥俄州立大学)
本文重访经典方法邻域成分分析(NCA),通过结合SGD、深度表示和训练随机性等现代技术,使其在300个数据集上性能媲美CatBoost,优于现有深度表格模型。
2025-03-03 cs.LG
PTab: Using the Pre-trained Language Model for Modeling Tabular Data
Beijing Academy of Artificial Intelligence(北京人工智能研究院);Beijing Jiaotong University(北京交通大学)
表格数据是信息时代的基础,已经得到了广泛的研究。最近的研究表明,基于神经的模型是有效的学习上下文表示的表格数据。有效的上下文表征的学习需要有意义的特征和大量的数据。然而,目前的方法往往无法正确地学习上下文表示的功能没有语义信息。此外,由于数据集之间的差异,很难通过混合表格数据集来扩大训练集。为了解决这些问题,我们提出了一种新的框架PTab,使用预训练的语言模型来建模表格数据。PTab通过三个阶段的处理来学习表格数据的上下文表示:模态转换(MT),掩蔽语言微调(MF)和分类微调(CF)。我们使用预训练模型(PTM)初始化我们的模型,该模型包含从大规模语言数据中学习的语义信息。因此,上下文表征可以有效地学习在微调阶段。此外,我们可以自然地混合文本化的表格数据来扩大训练集,以进一步提高表示学习。我们评估PTAB八个流行的表格分类数据集。实验结果表明,与最先进的基线(例如XGBoost)相比,我们的方法在监督设置中实现了更好的平均AUC得分,并且在半监督设置下优于对应的方法。我们目前的可视化结果表明,PTab具有良好的基于实例的可解释性。
2022-09-15 cs.AI cs.LG
MacrOData: New Benchmarks of Thousands of Datasets for Tabular Outlier Detection
Carnegie Mellon University(卡内基梅隆大学);Technical University of Dortmund(多特蒙德技术大学)
提出大规模表格异常检测基准MacrOData,包含2446个数据集,覆盖真实与合成异常,支持全面鲁棒的评估。
2026-06-16 cs.LG
Where Do Flow Semantics Reside? A Protocol-Native Tabular Pretraining Paradigm for Encrypted Traffic Classification
State Key Laboratory of Networking and Switching Technology(网络与交换技术国家重点实验室);Beijing University of Posts and Telecommunications(北京邮电大学)
本文提出一种协议原生的表格预训练范式,解决加密流量分类中传统序列模型的语义丢失问题,通过FlowSem-MAE在保持字段边界和时间模式方面取得显著优势。
2026-05-09 cs.AI cs.CR cs.LG
Make Still Further Progress: Chain of Thoughts for Tabular Data Leaderboard
School of Artificial Intelligence, Nanjing University, China(人工智能学院,南京大学);National Key Laboratory for Novel Software Technology, Nanjing University(新型软件技术国家重点实验室,南京大学)
针对表格模型性能随数据集波动、传统集成缺乏实例自适应的问题,提出基于LLM的上下文内集成框架与CoT²提示策略,通过最近邻和外部模型预测构建上下文实现动态推理,在多数据集上优于基线和标准集成方法。
2025-05-19 cs.LG
SHAP Distance: An Explainability-Aware Metric for Evaluating the Semantic Fidelity of Synthetic Tabular Data
The University of Tokyo(东京大学);Infomart Corporation(Infomart公司)
本文提出SHAP距离,一种基于SHAP归因的度量方法,用于评估合成表格数据的语义保真度,通过捕捉特征重要性变化和尾部效应,弥补传统方法的不足。
2025-11-17 cs.AI cs.CY cs.LG
State-Space Models for Tabular Prior-Data Fitted Networks
L3S Research Center, Leibniz University Hannover, Hannover, Germany(L3S研究所以及汉诺威莱布尼茨大学);University of Applied Sciences Rosenheim, Rosenheim, Germany(罗斯海姆应用科学大学);Technical University of Munich, Munich, Germany(慕尼黑技术大学)
本文提出使用双向线性时间结构状态空间模型Hydra替代Transformer,以减少顺序依赖性并提升表格数据预训练模型的预测性能。
2025-12-11 cs.LG
LLMs on Tabular Data with Limited Semantics: Evidence from Industrial Car Retrofit Prediction
Technical University of Munich(慕尼黑工业大学);BMW Group(宝马集团)
研究在工业表格数据中,LLM(嵌入、直接分类、混合堆叠)与经典树集成方法的对比,发现LLM在语义受限时效果有限,但嵌入和混合方法仍有价值。
2026-06-16 cs.AI cs.LG stat.ML
Unlocking the Transferability of Tokens in Deep Models for Tabular Data
Nanjing University(南京大学);Peking University(北京大学)
本文提出TabToken方法,通过对比学习正则化特征token,解决表格数据中预训练模型与目标任务特征集差异问题,实现跨异构特征的知识迁移并提升模型判别能力。
2023-10-23 cs.LG
TabFM-Auto: Self-Evolving Pipelines for Tabular Foundation Models
Google Research(谷歌研究院);University of Southern California(南加州大学);Google DeepMind(谷歌DeepMind);Harvard University(哈佛大学);University of Texas at Austin(德克萨斯大学奥斯汀分校)
TabFM-Auto将表格基础模型TabFM与语言模型智能体结合,通过迭代优化数据清洗、特征工程等流水线步骤,在TabArena基准的51个数据集上取得前五名,并将TabFM的Elo评分从1785提升至2013,且流水线可迁移至其他模型。
2026-09-30 cs.LG
Schema-Adaptive Tabular Representation Learning with LLMs for Generalizable Multimodal Clinical Reasoning
Beijing University of Posts and Telecommunications(北京邮电大学);Boston University(波士顿大学);University of Southern California(南加州大学);GDIIST;Renyixun Health Technology Co., Ltd.(仁心迅健康科技有限公司)
本文提出基于LLM的Schema自适应表格表示学习方法,通过将结构化变量转换为语义自然语言并编码,实现零样本跨schema对齐,结合表格和MRI数据在多模态 dementia 诊断中取得优于临床基准的性能。
2026-04-12 cs.AI cs.LG
Towards Universal Tabular Embeddings: A Benchmark Across Data Tasks
Technical University of Darmstadt(达姆施塔特工业大学);IBM Research(IBM研究院)
该研究推出统一基准TEmBed,在四个表示层级评估多种表格模型,明确模型选择取决于任务和层级,为表格嵌入应用及通用模型开发提供指导。
2026-11-02 cs.DB cs.LG
Personalized Product Search Ranking: A Multi-Task Learning Approach with Tabular and Non-Tabular Data
Walmart Global Tech(沃尔玛全球技术)
本文提出一种基于多任务学习的个性化产品搜索排序模型架构,整合表格与非表格数据并利用预训练TinyBERT,结合可扩展相关性标注机制,显著提升了模型性能。
2025-08-13 cs.AI cs.CL cs.IR
SeBA: Semi-supervised few-shot learning via Separated-at-Birth Alignment for tabular data
Jagiellonian University, Faculty of Mathematics and Computer Science(雅盖隆大学数学与计算机科学学院);AGH University of Krakow(克拉科夫AGH大学)
针对表格数据中稀缺标记数据的半监督少样本学习问题,提出SeBA方法,通过分离出生对齐框架消除对数据增强的依赖,提升特征-标签关系,实验证明其在多数基准数据集上达到最优性能。
2026-08-14 cs.LG
SkillTFM: Gated Skill Evolution for Training-Free Adaptation of Tabular Foundation Models
SkillTFM是一种无训练系统,通过可验证可扩展的技能库将表格基础模型的适应转向技能门控演化,在电价预测等任务中提升了AUC,且在不同骨干网络上均有效。
2026-08-07 cs.LG
SwitchTab: Switched Autoencoders Are Effective Tabular Learners
Amazon Buyer Risk Prevention(亚马逊买家风险防范)
本文提出SwitchTab,一种用于表格数据的自监督方法,通过非对称编码器-解码器框架解耦数据对的互信息特征和显著特征,生成更具代表性的嵌入,在下游任务中表现卓越且能增强传统分类方法性能。
2024-01-04 cs.LG
TabSTAR: A Tabular Foundation Model for Tabular Data with Text Fields
Technion - IIT(技术学院-理工学院)
针对现有表格学习方法多采用静态目标无关文本表示、效果受限的问题,提出含语义目标感知表示的表格基础模型TabSTAR,通过解冻预训练文本编码器、输入目标标记实现迁移学习,在多基准分类任务上取得SOTA,预训练具数据集数量缩放定律。
2025-10-29 cs.CL cs.LG
TabCausal: Pretraining Across Causal Environments for Tabular Causal Discovery
Nanjing University(南京大学)
提出TabCausal,一种通过动态任务构建策略在多样化因果环境中进行大规模预训练的因果发现基础模型,在合成和语义基准上优于现有方法。
2026-08-19 cs.LG
RFOD: Random Forest-based Outlier Detection for Tabular Data
National University of Singapore;Huazhong University of Science \& Technology;Harbin Institute of Technology (Shenzhen)
针对混合类型表格数据,提出基于随机森林的RFOD框架,通过逐特征条件重构和单元级评分聚合,实现高精度、可解释的异常检测。
2025-10-09 cs.DB cs.LG
Weight-Informed Self-Explaining Clustering for Mixed-Type Tabular Data
School of Computing, National University of Singapore(新加坡国立大学计算机学院);School of Intelligence Science and Engineering, Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳)智能科学与工程学院)
本文提出WISE框架,通过二进制编码与填充对齐异构特征,结合LOFO策略和两阶段加权聚类,提升混合类型表格数据的聚类质量和可解释性。
2026-04-07 cs.LG
Identifying the Units of Measurement in Tabular Data
University of Edinburgh(爱丁堡大学);Alan Turing Institute(阿兰·图灵研究所)
我们考虑在每行包含数值和单位符号的数据列中识别测量单位的问题,例如,“5.2升”“7品脱”在这种情况下,我们试图识别列的维度(例如体积),并将单位符号与从知识图谱获得的有效单位(例如升、品脱)相关联。下面我们介绍PUC,这是一种概率单位规范化器,可以准确识别测量单位、提取定量数据列的语义描述并规范化其条目。我们提出了第一个混乱的现实世界的表格数据集注释的测量单位,这可以使和加速在这一领域的研究。我们在这些数据集上的实验表明,PUC比现有的解决方案取得了更好的结果。
2021-11-23 cs.DB cs.LG
Leveraging Data Recasting to Enhance Tabular Reasoning
IIIT Hyderabad(印度海得拉巴国际信息技术学院);Google Research(谷歌研究院);University of Utah(犹他大学)
创建具有挑战性的表格推理数据对于学习复杂推理至关重要。以前的工作主要依赖于两种数据生成策略。第一种是人工注释,它产生语言多样的数据,但难以扩展。第二类创造是合成发电,这是可扩展的,成本效益高,但缺乏创造性。在这项研究中,我们提出了一个框架,半自动重铸现有的表格数据,利用这两种方法的好处。我们利用我们的框架,建立表格NLI实例,从五个数据集,最初打算像table 2 text创建,表格Q/A,和语义解析的任务。我们证明,重铸的数据可以作为评估基准,以及增强数据,以提高性能的表格NLI任务。此外,我们还研究了在zero-shot场景中对重铸数据进行训练的模型的有效性,并分析了不同重铸数据集类型的性能趋势。
2022-11-23 cs.AI cs.CL cs.IR
Deep Feature Embedding for Tabular Data
Guangdong Provincial Key Laboratory of Interdisciplinary Research and Application for Data Science(广东省数据科学交叉研究与应用重点实验室);Beijing Normal University-Hong Kong Baptist University United International College(北京师范大学-香港浸会大学联合国际学院)
本文提出一种基于轻量级深度神经网络的表格数据特征嵌入框架,分别针对数值特征和类别特征设计深度变换与参数化嵌入方法,以捕获复杂语义关系并减少特征工程,实验验证了其有效性。
2024-08-30 cs.AI cs.LG
TabSCM: A practical Framework for Generating Realistic Tabular Data
Federal Institute for Occupational Safety and Health (BAuA)(联邦职业安全与健康研究所);School of Computation, Information and Technology, Technical University of Munich(计算、信息与技术学院,慕尼黑技术大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
TabSCM通过保留因果依赖生成真实表格数据,结合条件扩散模型和梯度提升树提高生成质量,同时在多个数据集上优于现有方法,提升解释性和因果鲁棒性。
2026-04-24 cs.LG
DANets: Deep Abstract Networks for Tabular Data Classification and Regression
Zhejiang University(浙江大学);Huazhong University of Science and Technology(华中科技大学);University of Notre Dame(圣母大学);Zhejiang University School of Medicine(浙江大学医学院)
表格数据在现实世界的应用中无处不在。虽然许多常用的神经组件(例如,卷积)和可扩展神经网络(例如,ResNet)已经由机器学习社区开发,其中很少有对表格数据有效的,并且很少有设计针对表格数据结构进行充分定制。在本文中,我们提出了一种新的和灵活的神经元组件的表格数据,称为抽象层(AbstLay),学习显式分组相关的输入功能,并生成更高层次的功能语义抽象。此外,我们设计了一种结构重新参数化的方法来压缩学习的AbstLay,从而降低了计算复杂性的参考阶段的一个明确的保证金。使用AbstLays构建一个特殊的基本块,并通过堆叠这些块来构建一个用于表格数据分类和回归的深度抽象网络(DANets)家族。在DANets中,引入了一个特殊的快捷路径来从原始表格特征中获取信息,以帮助不同级别的特征交互。在7个实际表格数据集上的综合实验表明,本文提出的AbstLay和DANets对表格数据的分类和回归是有效的,且计算复杂性优于同类方法.此外,我们评估了DANet的性能增益,因为它深入,验证了我们的方法的可扩展性。我们的代码可在https://github.com/WhatAShot/DANet上获得。
2022-09-07 cs.AI cs.LG
SubTab: Subsetting Features of Tabular Data for Self-Supervised Representation Learning
AstraZeneca(阿斯利康)
自监督学习已经被证明在学习有用的表示方面非常有效,然而大部分成功都是在数据类型(如图像、音频和文本)中实现的。成功主要是通过增强利用数据中的空间,时间或语义结构。然而,这种结构可能不存在于医疗保健等领域常用的表格数据集中,这使得难以设计有效的增强方法,并阻碍了表格数据设置的类似进展。在本文中,我们介绍了一个新的框架,子集功能的表格数据(SubTab),把任务的学习从表格数据到一个多视图表示学习问题,通过划分输入功能到多个子集。我们认为,从其功能的子集,而不是其损坏的版本在自动编码器设置的数据重建可以更好地捕捉其潜在的表示。在这个框架中,联合表示可以表示为测试时子集的潜变量的集合,我们称之为协作推理。我们的实验表明,SubTab在表格设置中的MNIST上实现了98.31%的最先进(SOTA)性能,与基于CNN的SOTA模型相当,并且在其他三个真实世界数据集上超过了现有的基线。
2021-10-27 cs.LG stat.ML
Position: Foundation Models for Tabular Data within Systemic Contexts Need Grounding
SAP SE(SAP公司)
本文提出语义链接表和SLT基础模型,通过双阶段训练实现表格数据在操作上下文中的接地,强调操作知识对自主代理的重要性。
2026-01-17 cs.AI cs.DB cs.LG
TableNet: Deep Learning model for end-to-end Table detection and Tabular data extraction from Scanned Document Images
TCS Research(塔塔咨询服务公司研究院)
随着移动电话和扫描仪广泛用于拍摄和上传文档,提取非结构化文档图像(如零售收据、保险索赔表和财务发票)中的信息的需求变得越来越迫切。实现这一目标的一个主要障碍是,这些图像通常包含表格形式的信息,从表格子图像中提取数据提出了一系列独特的挑战。这包括准确检测图像内的表格区域,以及随后从检测到的表格的行和列中检测和提取信息。虽然在表检测方面已经取得了一些进展,但提取表内容仍然是一个挑战,因为这涉及到更细粒度的表结构(行和列)识别。先前的方法已经尝试使用两个单独的模型来独立地解决表检测和结构识别问题。在本文中,我们提出了TableNet:一种用于表格检测和结构识别的新型端到端深度学习模型。该模型利用表检测和表结构识别的孪生任务之间的相互依赖性来分割出表和列区域。这之后是从所识别的表格子区域中基于语义规则的行提取。在公开可用的ICDAR 2013和Marmot Table数据集上对所提出的模型和提取方法进行了评价,获得了最新的结果。此外,我们还证明了提供额外的语义特征进一步提高了模型性能,并且该模型具有跨数据集的迁移学习。本文的另一个贡献是为Marmot数据提供额外的表结构注释,目前只有表检测的注释。
2020-01-06 cs.CV cs.LG eess.IV
Not All Features Deserve Attention: Graph-Guided Dependency Learning for Tabular Data Generation with Language Models
Technical University of Munich(慕尼黑工业大学)
针对LLM生成表格数据时自注意力过度分散的问题,提出GraDe方法,通过图引导动态学习稀疏依赖,优先关键特征交互,在复杂数据集上性能提升达12%。
2025-09-08 cs.CL cs.LG
TablEye: Seeing small Tables through the Lens of Images
TablEye通过将表格数据转换为图像以利用图像域先验知识,在少样本表格学习中超越TabLLM和STUNT,显著提升AUC和准确率。
2023-07-04 cs.AI cs.LG
Entity Linking in Tabular Data Needs the Right Attention
Heriot-Watt University(赫瑞-瓦特大学);Amazon Alexa(亚马逊Alexa)
理解表格数据的语义含义需要实体链接(EL),以便将每个单元格值与知识库(KB)中的真实实体相关联。在这项工作中,我们专注于端到端的解决方案EL的表格数据,不依赖于事实查找在目标KB。表格数据包含异构和稀疏的上下文,包括列标题、单元格值和表格标题。我们使用各种模型进行实验,为要链接的每个单元格值生成一个矢量表示。我们的研究结果表明,它是至关重要的,以适用于注意力机制以及注意力面具,使该模型可以只关注最相关的上下文,避免信息稀释。最相关的上下文包括:同行单元格、同列单元格、标题和标题。然而,对于这样一个复杂的模型,计算复杂性随着表格数据的大小成二次方地增长。我们通过引入表格实体链接精简版模型(TELL)来实现恒定的内存使用,该模型仅基于单元格的值、表头和表标题来生成单元格的矢量表示。TELL在维基百科表格上达到了80.8%的准确率,仅比最先进的二次内存使用模型低0.1%。
2022-07-05 cs.CL cs.DB cs.LG
Towards Cross-Table Masked Pretraining for Web Data Mining
Zhejiang University(浙江大学)
针对现有Web表格预训练多局限于单表的问题,提出跨表预训练框架CM2与pMTM预训练目标,构建真实表格数据集,实验验证其性能达SOTA且可提升下游任务效果。
2024-02-01 cs.LG
Generalized Context in Cross Attention for Transfer Learning of Disjoint Tabular Data
Tennessee State University(田纳西州立大学);North Carolina Agricultural and Technical State University(北卡罗来纳农工州立大学)
本文针对不相交表格数据迁移学习的共享特征假设不切实际的问题,提出CATTLE方法,通过Transformer投影权重捕获广义上下文实现跨域注意力迁移学习,在十组数据集上优于九种基线方法,取得平均排名2.9、平均AUROC提升3.7%的效果。
2026-08-31 cs.LG
Beyond the Stitching Assumption: A Unified Framework for Multimodal Synthetic Data Evaluation via Semantic Quantization
Santa Clara University(圣克拉拉大学);eBay Inc.(eBay公司)
针对多模态合成数据被分别评估且拼接破坏后指标仍高的问题,提出基于语义量化的投影评估器,用置换对照检测跨模态依赖,实验验证其有效性并支持显式跨模态评估。
2026-09-22 cs.CL cs.LG
H-STAR: LLM-driven Hybrid SQL-Text Adaptive Reasoning on Tables
Virginia Tech(弗吉尼亚理工大学);Arizona State University(亚利桑那州立大学);University of Pennsylvania(宾夕法尼亚大学)
本文提出LLM驱动的H-STAR算法,通过两阶段过程结合符号与语义推理进行表格推理,在多个数据集上显著优于现有方法。
2025-04-07 cs.AI cs.CL cs.DB
Iterative Policy Refinement through Semantic Rollout Analysis
Carnegie Mellon University(卡内基梅隆大学);Meta
提出闭环框架,利用LLM分析策略回滚的表格数据,迭代精化结构化策略,无需人工指令,在赛车和开门任务上性能提升最高15%,计算量减少75%。
2026-10-02 cs.AI cs.LG
CACTI: Leveraging Copy Masking and Contextual Information to Improve Tabular Data Imputation
UCLA(加州大学洛杉矶分校)
CACTI 通过中位数截断复制掩码训练策略融合缺失模式与列名、文本描述等上下文信息,在多种缺失条件下显著提升表格数据插补性能,平均 $R^2$ 较次优方法提高 7.8%。
2025-06-02 cs.LG stat.ML