Intellecta Cognitiva: A Comprehensive Dataset for Advancing Academic Knowledge and Machine Reasoning
Bud Ecosystem Inc(Bud生态系统公司)
本文提出综合数据集Intellecta,通过整合80.1亿合成数据与35.2亿教科书数据,并借助Mixtral-8x7B-Instruct-v0.1模型,增强语言模型的认知处理、高级推理与教育话语能力。
2024-04-13 cs.AI cs.CL
Learning Deductive Reasoning from Synthetic Corpus based on Formal Logic
Hitachi, Ltd. Research and Development Group(日立制作所研发集团)
本文提出基于形式逻辑的合成语料FLD,训练语言模型获得可泛化的演绎推理能力,并验证其有效性,同时作为基准揭示LLM纯逻辑推理的挑战。
2023-11-14 cs.AI cs.CL cs.LG
CausalDS: Benchmarking Causal Reasoning in Data-Science Agents
Department of Statistics University of Michigan(统计学系密歇根大学)
介绍用于评估数据科学智能体因果推理的CausalDS基准,由含观测数据的结构因果模型和合成自然语言故事构成场景,导出跨越Pearl三个层级的任务,联合评估符号因果推理、数据科学等多方面能力。
2026-10-15 cs.AI cs.CL cs.LG
OmnixR: Evaluating Omni-modality Language Models on Reasoning across Modalities
Google DeepMind(谷歌DeepMind);University of Maryland, College Park(马里兰大学帕克分校);Google(谷歌)
本文提出OmnixR评估套件,包含合成与真实多模态数据集,用于测试GPT-4o等全模态语言模型的跨模态推理能力,实验发现现有模型在整合多模态信息时仍面临挑战。
2024-10-16 cs.AI cs.CL cs.MM
ReasTAP: Injecting Table Reasoning Skills During Pre-training via Synthetic Reasoning Examples
Yale University(耶鲁大学);Zhejiang University(浙江大学);Penn State University(宾夕法尼亚州立大学)
对表格数据进行推理需要理解表格结构和广泛的表格推理技能。当前具有特定于表的架构和预训练方法的模型在理解表结构方面表现良好,但它们仍然难以处理需要各种表推理技能的任务。在这项工作中,我们开发了ReasTAP,以表明高级表推理技能可以在预训练期间注入模型,而无需复杂的特定于表的架构设计。我们定义了7种表格推理技巧,如数值运算、时间比较和合取。每个推理技巧都与一个示例生成器相关联,该示例生成器根据采样模板在半结构化表上合成问题。我们将表格预训练任务建模为序列生成任务,并预训练ReasTAP以生成合成示例的精确答案。ReasTAP在四个基准上进行评估,涵盖三个下游任务,包括:1)用于表问答的WikiSQL和WTQ; 2)用于表事实验证的TabFact;以及3)用于忠实表到文本生成的LogicNLG。实验结果表明,ReasTAP在所有基准测试中都达到了新的最先进的性能,并在低资源设置上有了显着的改进。我们的代码可在https://github.com/Yale-LILY/ReasTAP上公开获取。
2022-10-22 cs.CL
LongFaith: Enhancing Long-Context Reasoning in LLMs with Faithful Synthetic Data
IDEA Research, International Digital Economy Academy(IDEA研究院,国际数字经济学院);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));DataArc Tech Ltd.(DataArc科技有限公司);Hithink RoyalFlush Information Network Co., Ltd(Hithink皇家Flush信息网络有限公司)
提出LongFaith流水线,通过整合真实数据和基于引用的推理提示合成忠实长上下文推理指令数据集,显著提升了LLM在长上下文推理与问答任务上的性能。
2025-05-29 cs.CL
Synthetic Data Generation for Training Diversified Commonsense Reasoning Models
University of Liverpool(利物浦大学);University of Sheffield(谢菲尔德大学);Amazon(亚马逊)
本文提出两阶段方法生成首个合成数据集CommonSyn,提升生成多样性和质量,适用于不同规模的大语言模型。
2026-04-18 cs.CL
Synthetic Prompting: Generating Chain-of-Thought Demonstrations for Large Language Models
Tsinghua University(清华大学);Microsoft Research Asia(微软亚洲研究院);Microsoft(微软)
大语言模型可以通过使用思维链提示来执行各种推理任务,思维链提示通过逐步演示来引导它们找到答案。然而,提示的质量取决于给模型的演示,并且手工创建其中的许多是昂贵的。我们引入合成提示,一种利用一些手工制作的示例来提示模型自己生成更多示例的方法,并选择有效的演示来引发更好的推理。我们的方法在向后和向前过程之间交替,以生成新的示例。后向过程生成与采样推理链匹配的问题,使得问题是可解的和清晰的。正向过程为问题产生更详细的推理链,提高了示例的质量。我们评估我们的方法的数值,符号和算法推理任务,并表明它优于现有的提示技术。
2023-02-01 cs.CL
MathSmith: Towards Extremely Hard Mathematical Reasoning by Forging Synthetic Problems with a Reinforced Policy
MathSmith通过生成合成问题提升LLM的数学推理能力,采用强化学习优化问题难度和推理复杂性。
2026-03-08 cs.CL
Reasoning over Grammar: Can Synthetic Linguistic Reasoning Traces Enhance Low-Resource Machine Translation?
ELLIS Institute Finland(芬兰ELLIS研究所);University of Turku(图尔库大学);Center for Information and Language Processing, LMU Munich(慕尼黑大学信息与语言处理中心);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本文提出自动生成语言推理轨迹的方法,通过上下文学习、监督微调和强化微调评估其对低资源机器翻译的影响,发现推理轨迹在推理时指导效果显著,但作为训练数据收益有限。
2026-09-01 cs.CL
KORMo: Korean Open Reasoning Model for Everyone
KAIST(韩国科学技术院);SeoulTech(首尔科技大学)
该研究构建了基于68.74%合成韩语数据的108亿参数双语模型KORMo-10B,证明合成数据可稳定支持长期预训练,且双语微调使韩语推理接近母语水平,并完全开源以促进低资源多语言模型发展。
2025-10-10 cs.CL
CLIPPER: Compression enables long-context synthetic data generation
University of Maryland, College Park(马里兰大学 College Park 分校);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
CLIPPER通过先压缩书籍为章节大纲和摘要再生成声明,解决了长上下文合成数据生成难题,构建19K数据集并微调模型,使叙事声明验证准确率从28%提升至76%,创下NoCha榜单新纪录。
2025-08-05 cs.CL
CECOR: Correction-oriented synthetic data construction for factual error correction
Tianjin University(天津大学)
提出CECoR框架,通过分解与注入范式合成高质量训练数据,结合两阶段学习策略,有效提升多跳事实错误纠正的准确性和鲁棒性。
2026-06-01 cs.CL
Can LLM Graph Reasoning Generalize beyond Pattern Memorization?
University of Washington(华盛顿大学);Xi’an Jiaotong University(西安交通大学);University of Notre Dame(圣母大学);Tsinghua University(清华大学)
该研究提出NLGift基准评估LLM图推理泛化能力,发现现有模型在简单模式上泛化尚可,但在推理和现实世界模式上表现不佳,并探索了三种改进策略,指出超越模式记忆仍是开放问题。
2024-10-11 cs.CL
LLM Reasoning for Machine Translation: Synthetic Data Generation over Thinking Tokens
Inria Paris(巴黎研究所)
本研究探讨大型推理模型在机器翻译中使用思考令牌的效果,发现其无益,但结合翻译特定提示的中间令牌可提升性能,建议教师模型改进翻译或扩展语料库更有效。
2025-10-13 cs.CL
Facilitating Long Context Understanding via Supervised Chain-of-Thought Reasoning
University of Rochester(罗切斯特大学);PAII Inc.(PAII公司);University of California, Merced(加州梅尔德大学)
本文提出基于属性的代理推理框架PAI,通过生成包含中间推理步骤的合成数据集LongFinanceQA,提升LLMs在金融领域的长上下文理解能力。
2025-12-01 cs.CL
Generating Logically Consistent Synthetic Supply Chain Data with LLM-Driven Knowledge Graph Reasoning
Department of Engineering, University of Cambridge(剑桥大学工程系);The Alan Turing Institute(艾伦·图灵研究所)
针对合成供应链数据需保持操作逻辑一致性的问题,提出TabKG框架,通过构建列关系知识图谱并利用多LLM集成验证关系,结合潜在扩散模型生成逻辑一致的表格数据。
2026-05-26 cs.CL
From Templates to Natural Language: Generalization Challenges in Instruction-Tuned LLMs for Spatial Reasoning
Computational Linguistics, Department of Linguistics University of Potsdam(乌特雷赫特大学语言学系计算语言学部);German Research Center for Artificial Intelligence (DFKI), Berlin(德国人工智能研究中心(DFKI)柏林)
本文研究指令微调大语言模型在空间定位任务中从合成指令向人类自然语言指令泛化的挑战,发现模型在简单任务上表现良好但在复杂任务上性能显著下降,并通过错误分析揭示了泛化差距。
2025-08-18 cs.CL
From Emotion Classification to Emotional Reasoning: Enhancing Emotional Intelligence in Large Language Models
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文通过合成情绪链式思维数据提升大语言模型的情感推理能力,实验表明微调后模型在情绪理解与意识评估上显著提升。
2026-01-04 cs.CL
Enhancing Logical Reasoning in Large Language Models through Graph-based Synthetic Data
McGill University(麦吉尔大学);Mila - Québec AI Institute(米拉-魁北克人工智能研究所)
本研究探索基于图的合成数据作为训练信号,通过监督微调增强LLM在归纳与空间推理任务上的能力,且不影响其他基准表现。
2024-12-16 cs.CL cs.LG
MathDebugger: Detecting and Diagnosing Errors in Synthetic Mathematical Data
Peking University(北京大学);Beijing Institute of Technology(北京理工大学);Nanjing University(南京大学);Ant Group(蚂蚁集团)
MathDebugger是用于评估模型检测诊断合成数学数据错误的基准,含6000个标注实例,评估发现模型在该任务上表现不足,错误类型信息可提升修正效果,为数学数据质量控制提供支撑。
2026-08-06 cs.CL
CoT-Self-Instruct: Building high-quality synthetic prompts for reasoning and non-reasoning tasks
FAIR at Meta(Meta的FAIR)
该研究提出CoT-Self-Instruct合成数据生成方法,通过思维链推理规划加自动指标过滤生成高质量数据,在可验证推理与不可验证指令遵循任务的多个基准上均优于现有方案。
2025-09-03 cs.AI cs.CL
Language Models Are Greedy Reasoners: A Systematic Formal Analysis of Chain-of-Thought
Center for Data Science, New York University(纽约大学数据科学中心)
大语言模型(LLM)在给出思维链提示(具有中间推理步骤的示例)的情况下显示出了卓越的推理能力。现有的基准通过评估数学推理等下游任务的准确性来间接测量推理能力。然而,目前还不清楚这些模型是如何获得答案的,以及它们是否依赖于简单的数学推理,而不是生成的思维链。为了系统地探索LLM的推理能力,我们提出了一个新的合成问答数据集称为PrOntoQA,其中每个例子都是从一阶逻辑表示的合成世界模型生成的。这使我们能够将生成思维链解析为符号证明以进行形式分析。我们对InstructGPT和GPT-3的分析表明,LLM非常有能力做出正确的个人演绎步骤,因此通常能够推理,即使在虚构的环境中。然而,他们在证明计划方面有困难:当有多个有效的演绎步骤可用时,他们无法系统地探索不同的选项。
2023-03-02 cs.CL
Exploring Mathematical Extrapolation of Large Language Models with Synthetic Data
ByteDance(字节跳动);East China Normal University(华东师范大学)
本文通过新提出的算术谜题问题,利用高质量合成数据微调 open-llama-3B 模型,显著提升了大型语言模型在多步数学推理任务上的表现,并在领域外数据集上展现出良好的泛化能力。
2024-06-04 cs.CL
Neural Module Networks for Reasoning over Text
University of Pennsylvania(宾夕法尼亚大学);Allen Institute for AI(艾伦人工智能研究所);University of California, Berkeley(加利福尼亚大学伯克利分校);University of California, Irvine(加利福尼亚大学欧文分校)
对需要对文本进行多步推理的组合问题进行推理是具有挑战性的,特别是当它们涉及离散的符号操作时。神经模块网络(NMN)学习解析由可学习模块组成的可执行程序等问题,在合成视觉QA领域表现良好。然而,我们发现,这是具有挑战性的学习这些模型的非合成问题的开放域文本,其中一个模型需要处理的多样性自然语言,并执行更广泛的推理。我们通过以下方式扩展NMN:(a)引入对一段文本进行推理的模块,以概率和可区分的方式对数字和日期进行符号推理(例如算术、排序、计数);以及(b)提出一种无监督的辅助损失,以帮助提取与文本中的事件相关的论点。此外,我们表明,有限数量的精确获得的问题程序和中间模块输出监督提供了足够的归纳偏差准确的学习。我们提出的模型在DROP数据集的一个子集上的表现明显优于最先进的模型,该数据集构成了我们的模块所涵盖的各种推理挑战。
2020-02-15 cs.CL
MuSR: Testing the Limits of Chain-of-thought with Multistep Soft Reasoning
The University of Texas in Austin(德克萨斯大学奥斯汀分校)
本文提出MuSR数据集,通过神经符号算法生成多步软推理任务的自然语言叙事,评估并揭示了LLM及思维链等技术在复杂推理中的能力差距。
2024-03-23 cs.CL
Vision-Language Reasoning for Geolocalization: A Reinforcement Learning Approach
本文提出Geo-R,一种基于强化学习的无检索地理定位框架,通过链式区域生成可解释的监督,提升定位准确性与可解释性。
2026-01-05 cs.CL
PaD: Program-aided Distillation Can Teach Small Models Reasoning Better than Chain-of-thought Fine-tuning
Tsinghua University(清华大学);Shanghai Jiao Tong University(上海交通大学)
本文提出程序辅助蒸馏(PaD),通过引入推理程序替代思维链并进行自动错误检查、错误注入和逐步束搜索,有效提升小模型的推理能力,使其在参数和数据规模更小的情况下超越部分大型模型及基线。
2024-03-20 cs.CL
How to Fine-Tune a Reasoning Model? A Teacher-Student Cooperation Framework to Synthesize Student-Consistent SFT Data
Shanghai AI Laboratory(上海人工智能实验室);Dalian University of Technology(大连理工大学);Nanjing University(南京大学)
本文提出TESSY框架,通过交替生成风格和非风格标记,解决教师生成数据与学生分布之间的风格差异问题,提升推理模型性能。
2026-04-21 cs.CL
BRIEF: Bridging Retrieval and Inference for Multi-hop Reasoning via Compression
Fudan University(复旦大学);University of California, Los Angeles(加州大学洛杉矶分校)
本文提出 BRIEF,用开源模型构造原子命题合成摘要,将检索文档压缩为稠密证据以支持多跳 RAG,在 HotpotQA 上显著提升压缩率与问答性能。
2025-02-15 cs.CL
Characterizing Model Behavior Under Synthetic Data Training: An Empirical Study Across Scales and Mixing Ratios
Independent Research Collaboration(独立研究者)
本研究通过Pythia模型套件在五个任务上的受控实验,系统考察了合成数据比例对模型性能、校准和输出特征的影响,发现20%以内性能稳定、超过30%退化加速,且大模型更鲁棒,为合成数据预算提供了实用指导。
2025-10-01 cs.CL
Probing for Long-Horizon Deductive Reasoning Capabilities in Language Models with Prolog
King Saud University(沙特国王大学);Massachusetts Institute of Technology(麻省理工学院)
该研究构建了Prolog长推理测试平台ProloNg,探究前沿LLM的长程演绎推理能力,发现其性能随推理深度增加大幅下降,深度超10时多数模型接近随机水平。
2026-10-09 cs.CL
Consistency Training by Synthetic Question Generation for Conversational Question Answering
Sharif University of Technology(谢里夫理工大学);AI Group(人工智能组)
针对对话式问答中无关历史干扰推理的问题,提出模型无关的CoTaH方法,通过合成问题增强历史数据并结合一致性训练提升鲁棒性,引入新基线验证了其在长历史上下文问题上的效果提升。
2024-04-17 cs.CL
Evaluating the Capabilities of Multi-modal Reasoning Models with Synthetic Task Data
MIT Lincoln Laboratory(麻省理工学院林肯实验室)
本文提出基于高分辨率文本到图像生成的多模态推理评估数据合成框架,构建上下文相关异常检测数据集,并揭示SOTA VQA模型在该任务上显著弱于标准VQA。
2023-06-01 cs.CL cs.LG
Mining Hidden Thoughts from Texts: Evaluating Continual Pretraining with Synthetic Data for LLM Reasoning
NEC Corporation(日本电气株式会社)
本文提出 Reasoning CPT,利用合成数据重建文本背后的隐藏思维过程,并在 Gemma2-9B 与 MMLU 上验证其跨领域推理提升和迁移效果。
2025-05-15 cs.CL cs.LG
Learning from Synthetic Data Improves Multi-hop Reasoning
Cornell University(康奈尔大学);University of Cambridge(剑桥大学);Stanford University(斯坦福大学)
本研究通过规则生成的合成数据提升LLM多跳推理能力,发现合成数据能有效训练模型组成知识,从而在现实问答任务中表现更优。
2026-03-02 cs.AI cs.CL cs.LG
FRIDA to the Rescue! Analyzing Synthetic Data Effectiveness in Object-Based Common Sense Reasoning for Disaster Response
University of Maryland, College Park(马里兰大学学院市分校);Army Research Lab(陆军研究实验室);Oak Ridge Associated Universities(橡树岭关联大学);University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
针对救灾场景机器人难以部署大模型的问题,提出FRIDA流水线,通过领域专家与语言学家协作制作少样本提示生成合成数据微调小模型,消融实验表明仅用物体物理状态和功能数据训练的模型效果更优,可少数据注入物理常识。
2025-09-03 cs.AI cs.CL
EMCEE: Improving Multilingual Capability of LLMs via Bridging Knowledge and Reasoning with Extracted Synthetic Multilingual Context
Yonsei University(延世大学)
提出EMCEE框架,通过从LLM自身提取并融合语言特定知识,结合推理输出,显著提升多语言任务性能,尤其在低资源语言上平均提升31.7%。
2026-05-29 cs.AI cs.CL
SynAdapt: Learning Adaptive Reasoning in Large Language Models via Synthetic Continuous Chain-of-Thought
Tencent Inc.(腾讯公司)
针对离散思维链推理耗时高、现有连续思维链方法存在局限的问题,提出SynAdapt框架,通过合成连续思维链对齐大语言模型,并结合难度分类器自适应触发难题重思考,实现最优准确率-效率权衡。
2025-08-01 cs.AI cs.CL
MIND: Math Informed syNthetic Dialogues for Pretraining LLMs
NVIDIA(英伟达);Carnegie Mellon University(卡内基梅隆大学);Boston University(波士顿大学)
提出MIND方法,基于OpenWebMath生成合成对话构建MIND-OWM语料库,通过引入知识差距和重构原始数据,显著提升LLM的数学推理及多任务性能。
2025-04-25 cs.AI cs.CL
Retrieval-Reasoning Large Language Model-based Synthetic Clinical Trial Generation
Institute for Clarity in Documentation(清晰文档研究所);Inria Paris-Rocquencourt(巴黎- Rocquencourt 国家信息与自动化研究所);Rajiv Gandhi University(拉吉夫·甘地大学);Tsinghua University(清华大学);Palmer Research Laboratories(帕勒实验室);University of Chicago(芝加哥大学);Stanford University(斯坦福大学);Purdue University(普渡大学);University of Southern California(南加州大学)
本文提出基于检索-推理框架的合成临床试验生成方法,利用LLM生成标注二元结果的合成试验报告,通过检索模块和推理模块提升生成质量,实验证明合成数据可有效增强真实数据集并提升临床试验预测性能。
2026-03-25 cs.CL cs.LG
CHIMERA: Compact Synthetic Data for Generalizable LLM Reasoning
University of Virginia(弗吉尼亚大学);Apple(苹果公司);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
CHIMERA通过紧凑的合成数据集提升LLM跨领域推理能力,提供丰富推理轨迹和结构化覆盖,实现高效训练和评估。
2026-10-21 cs.AI cs.CL
TARGA: Targeted Synthetic Data Generation for Practical Reasoning over Structured Data
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室);University of California, Santa Barbara(加州大学圣巴巴拉分校);University of Oxford(牛津大学)
TARGA框架通过逐层扩展与跨层组合动态生成高相关性合成数据,无需人工标注即可提升语义解析在KBQA任务上的少样本推理性能,仅用7B模型即显著超越闭源非微调方法。
2024-12-27 cs.AI cs.CL
SD-MAR: Multi-image Analytical Reasoning via Synthetic Data and Reinforcement Learning
Stevens Institute of Technology(史蒂文斯理工学院);AGI Foundations for AWS(AWS的通用人工智能基金会);Amazon Web Services (AWS)(亚马逊网络服务公司)
研究针对视觉语言模型在多图像分析推理任务中的局限,提出SD-MAR框架,通过合成数据和强化学习训练评估模型。该框架构建场景生成任务,采用GRPO-lite与BDA训练。实验表明能提升域内准确率,保持或提高域外泛化能力,还改进了模型逻辑连贯性和解释质量。
2026-07-17 cs.CL cs.CV
Constructing Synthetic Instruction Datasets for Improving Reasoning in Domain-Specific LLMs: A Case Study in the Japanese Financial Domain
Nomura Research Institute, Ltd.(摩根士丹利研究机构)
本研究提出了一种通用方法,通过构建合成指令数据集提升领域特定大语言模型的推理能力,并在金融领域进行了验证。
2026-03-02 cs.AI cs.CL cs.LG
Lessons from Studying Two-Hop Latent Reasoning
Apollo Research(Apollo研究机构);UK AI Security Institute(英国人工智能安全研究所);UC Berkeley(加州大学伯克利分校);TruthfulAI
研究通过双跳问答任务揭示LLM潜在推理能力,发现模型在合成事实组合上表现不足,但能处理混合事实场景,强调避免误判推理能力的必要性。
2025-11-23 cs.AI cs.CL
Scoring Verifiers: Evaluating Synthetic Verification for Code and Reasoning
NVIDIA Santa Clara, CA 15213, USA(英伟达圣克拉拉分校)
本研究提出将现有编码基准转换为评分排序数据集的方法,配套多维度评估指标,发布四个新基准,实验证实推理可提升测试用例生成效果、增加测试用例数能提高合成验证准确率。
2025-07-30 cs.AI cs.CL cs.LG
RL on Incorrect Synthetic Data Scales the Efficiency of LLM Math Reasoning by Eight-Fold
Carnegie Mellon University(卡内基梅隆大学);Google DeepMind(谷歌DeepMind);MultiOn
该研究针对LLM数学推理中合成数据训练效果不稳定的问题,提出基于逐步骤错误负样本的训练方法,等价于优势加权RL,可消除虚假相关性,将合成数据训练效率提升8倍。
2024-06-20 cs.CL cs.LG
Reasoning-Driven Synthetic Data Generation and Evaluation
EPFL(瑞士联邦理工学院洛桑);Google(谷歌);Google Deepmind(谷歌DeepMind)
本文提出Simula框架,通过无种子、代理化方法生成大规模合成数据,提供可解释且可控的生成流程,验证了其在多种数据集上的有效性,为合成数据机制设计和大规模生成评估提供指导。
2026-03-31 cs.AI cs.CL cs.LG
Synthetic Data Generation & Multi-Step RL for Reasoning & Tool Use
Department of Computer Science Stanford University(计算机科学系 斯坦福大学)
针对大型语言模型在复杂推理与智能体任务中的多步交互需求,提出逐步强化学习(SWiRL)方法,通过迭代生成多步推理与工具使用数据并进行子轨迹分解、过滤与优化,显著提升了多步问答及数学推理任务的准确率,并展现出良好的跨任务泛化能力。
2025-04-28 cs.AI cs.CL cs.LG
MathGenie: Generating Synthetic Data with Question Back-translation for Enhancing Mathematical Reasoning of LLMs
The Chinese University of Hong Kong(香港中文大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
针对开源大模型数学推理弱于闭源模型的问题,提出MathGenie方法通过解答增强与问题回译生成合成数据,训练的MathGenieLM系列模型在多个数学推理基准上达到开源最优。
2024-09-11 cs.AI cs.CL
WorldSense: A Synthetic Benchmark for Grounded Reasoning in Large Language Models
Meta;LAMSADE, Université Paris Dauphine-PSL(巴黎第九大学-巴黎文理研究大学LAMSADE实验室);EHESS(法国高等社会科学研究院);Mila, Université de Montréal-DIRO(蒙特利尔大学计算机与运筹学系Mila研究所)
提出合成基准WorldSense评估LLMs的接地推理能力,发现GPT3.5、GPT4和Llama2-chat在少对象时仍出错且存在响应偏差,微调虽能改善但无法泛化至约束问题空间外。
2023-11-27 cs.AI cs.CL
TripletCLIP: Improving Compositional Reasoning of CLIP via Synthetic Vision-Language Negatives
Arizona State University(亚利桑那州立大学);University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
TripletCLIP通过合成困难负样本对,增强CLIP的组合推理能力,在SugarCrepe上提升超9%,并改进零样本分类与检索。
2024-11-04 cs.CL cs.CV
Unveiling Transformers with LEGO: a synthetic reasoning task
Microsoft Research(微软研究院)
我们提出了一个综合推理任务,乐高(学习平等和组操作),封装的问题,以下的推理链,我们研究了如何学习这个任务的Transformer架构。我们特别关注数据效果,例如预训练(在看似无关的NLP任务上)和数据集组成(例如,在训练和测试时不同的链长度),以及架构变体,如权重绑定层或添加卷积组件。我们研究了经过训练的模型最终是如何成功完成任务的,特别是,我们设法了解了一些注意力头部以及信息在网络中的流动方式。特别是,我们已经确定了一个新的\emph{association}模式,全球只关注相同的令牌。基于这些观察,我们提出了一个假设,即由于某些结构化注意力模式,预训练有助于乐高任务,并且我们通过实验验证了这一假设。我们还观察到,在一些数据制度的训练Transformer找到“捷径”的解决方案,以遵循链的推理,这阻碍了模型的鲁棒性,此外,我们提出了方法来防止它。我们的结构化注意力模式的研究结果的动机,我们提出了乐高注意力模块,香草注意力头的下降,在替代品。这种架构上的改变显著地减少了Flop,并在大规模预训练中保持甚至\emph{improves}模型的性能。
2023-02-17 cs.AI cs.CL cs.LG