MAWARITH: A Dataset and Benchmark for Legal Inheritance Reasoning with LLMs
Hamad Bin Khalifa University, Qatar（卡塔尔哈马德比内卡菲大学）；Nazarbayev University, Kazakhstan（哈萨克斯坦纳扎尔巴耶夫大学）
提出MAWARITH数据集，包含12,500个阿拉伯语继承案例，支持端到端的伊斯兰继承推理，并设计MIR-E多阶段评估指标，实验显示商业模型达90%而开源模型低于50%。
2026-06-16 cs.CL
QU-NLP at QIAS 2025 Shared Task: A Two-Phase LLM Fine-Tuning and Retrieval-Augmented Generation Approach for Islamic Inheritance Reasoning
Qatar University（卡塔尔大学）
本文提出通过 LoRA 微调 Fanar-1-9B 并结合 RAG 流程解决伊斯兰继承推理问题，在 QIAS 2025 子任务 1 中取得 85.8% 准确率，超越多个前沿模型，证明领域微调加检索增强可提升中等规模阿拉伯语 LLM 的推理能力。
2025-08-20 cs.CL
QIAS 2026: Overview of the Shared Task on Islamic Inheritance Reasoning
Hamad bin Khalifa University（哈马德·本·哈利法大学）；Nazarbayev University（纳扎尔巴耶夫大学）
本文介绍 QIAS 2026 共享任务，评估大语言模型在伊斯兰继承领域的复杂推理能力，基于 MAWARITH 数据集，使用 MIR-E 多步指标评估，16 支队伍参与，结果显示该任务对当前模型极具挑战性。
2026-06-15 cs.CL
The Storyteller in the Model: Narrative Pattern Inheritance, Escalation Dynamics, and Alignment Governance in LLMs
探讨大语言模型训练中是否吸收人类写作叙事模式并致输出漂移，通过文献综述和跨论文分析发现三个关键模式，包括复制训练数据模式、出现潜在特征及微调带来意外变化，指出叙事漂移是未监测的升级途径，需专门监测工具。
2026-07-24 cs.AI cs.CL
Islamic Large Language Models: From Knowledge Acquisition to Trustworthy and Hallucination-Resistant AI
Paris Dauphine University（巴黎多芬纳大学）
综述伊斯兰大语言模型领域，提出构建可信、抗幻觉的伊斯兰AI需结合阿拉伯语NLP、检索增强生成、教法学派推理及专家评估等关键技术。
2026-06-16 cs.CL
BA-LoRA: Bias-Alleviating Low-Rank Adaptation to Mitigate Catastrophic Inheritance in Large Language Models
本文提出BA-LoRA，通过引入一致性、多样性及SVD项正则化，缓解低秩适应中的灾难性继承问题，提升模型鲁棒性和公平性。
2026-06-27 cs.CL cs.LG
Understanding and Mitigating the Bias Inheritance in LLM-based Data Augmentation on Downstream Tasks
The Chinese University of Hong Kong（香港中文大学）；Carnegie Mellon University（卡内基梅隆大学）；Institute of Science Tokyo（东京科学大学）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；UC Santa Barbara（加利福尼亚大学圣巴巴拉分校）；William & Mary（威廉玛丽学院）
本文首次系统研究LLM数据增强中的偏差继承现象，通过10个任务和6种偏差类型的实验揭示其影响机制，并提出基于token、mask和loss的三种缓解策略。
2025-02-10 cs.AI cs.CL cs.LG
CVPD at QIAS 2025 Shared Task: An Efficient Encoder-Based Approach for Islamic Inheritance Reasoning
University of the Basque Country UPV/EHU（巴斯克大学UPV/EHU）；Institute of Applied Sciences and Intelligent Systems – CNR（应用科学与智能系统研究所 – CNR）；Laboratory of LESIA, University of Biskra（LESIA实验室，比斯克拉大学）；Sorbonne University Abu Dhabi, UAE（阿布扎赫尔索邦大学）
本文提出一种基于阿拉伯语编码器和注意力相关性评分的轻量级框架，用于伊斯兰继承法多项选择题推理，在QIAS 2025数据集上以69.87%的准确率实现了高效、设备端可部署的推理，并量化了与大型语言模型（最高87.6%）之间的性能-效率权衡。
2025-09-05 cs.CL cs.LG
Dynamic Experts Search: Enhancing Reasoning in Mixture-of-Experts LLMs at Test Time
Zhejiang University（浙江大学）；Nanyang Technological University（南洋理工大学）
本文提出Dynamic Experts Search（DES），通过在推理时动态控制MoE激活专家数并继承配置，以零额外成本生成多样且稳定的推理路径，在多类基准上优于TTS基线。
2025-09-26 cs.AI cs.CL cs.LG
Marco-o1 v2: Towards Widening The Distillation Bottleneck for Reasoning Models
Alibaba International Digital Commerce（阿里巴巴国际数字商业集团）；Tsinghua University（清华大学）；Monash University（墨尔本大学）
针对小模型蒸馏长思维链数据时面临的学习困难和过度思考偏见，本文提出利用MCTS构建树状CoT数据，并结合思维长度平衡、细粒度DPO等CoT感知方法增强SFT与RL，有效减少幻觉并显著提升模型推理性能。
2025-05-31 cs.AI cs.CL cs.LG
On Reality and the Limits of Language Data: Aligning LLMs with Human Norms
University of Cambridge（剑桥大学）；Monash University（莫纳什大学）
本文通过新型ART测试比较GPT-3与人类规范，揭示LLM在部分常识关系上表现不足，提出结合符号世界接地以提升物理世界理解。
2023-05-09 cs.AI cs.CL cs.LG
Unifying Structure Reasoning and Language Model Pre-training for Complex Reasoning
Fudan University（复旦大学）；ShanghaiTech University（上海科技大学）
本文提出融合显式结构推理与语言预训练的统一框架，通过构建结构化查询并在PLM语义表示空间上逐步推理，提升模型跨结构复杂推理、少样本迁移及KG模态推理能力。
2023-07-15 cs.CL
Tiered Reasoning for Intuitive Physics: Toward Verifiable Commonsense Language Understanding
University of Michigan（密歇根大学）；Michigan State University（密歇根州立大学）
大规模的、预先训练的语言模型（LM）在广泛的语言理解任务上已经实现了人类水平的性能。然而，仅基于最终任务表现的评估对机器在语言理解和推理方面的真正能力几乎没有帮助。在本文中，我们强调的重要性，评估的基础推理过程中，除了最终性能。为了实现这一目标，我们引入了直观物理分层推理（TRIP），这是一种具有密集注释的新型常识推理数据集，可以对机器的推理过程进行多层评估。我们的实证结果表明，虽然大型LM可以实现高端的性能，但它们很难用有效的支持证据来支持它们的预测。TRIP数据集和我们的基线结果将激励对常识推理的可验证评估，并促进未来的研究，以开发更好的语言理解和推理模型。
2022-05-10 cs.CL
Hierarchical Chain-of-Thought: Enhancing LLM Reasoning Performance and Efficiency
Huawei Technologies Canada, Canada（华为技术加拿大公司，加拿大）
本文提出层次化思维链提示方法，通过分层步骤规划与执行提升复杂多步推理的准确率和效率，实验显示在多种模型和任务中平均准确率提升6.2%。
2026-07-13 cs.CL
CounterBench: Evaluating and Improving Counterfactual Reasoning in Large Language Models
Rutgers University（罗格斯大学）；Case Western Reserve University（凯斯西储大学）
本文提出CounterBench基准数据集，评估大型语言模型在反事实推理中的表现，并提出CoIn方法提升其能力。
2026-04-11 cs.CL
Large Language Models Perform Diagnostic Reasoning
National Taiwan University（台湾大学）
该研究提出DR-CoT提示方法，将思维链提示扩展至医学自动诊断推理，仅用两个示例即可让通用大语言模型的诊断准确率较标准提示提升15%，域外场景下提升18%，验证了恰当提示可激发大模型的专家知识推理能力。
2023-07-18 cs.CL
Mol-R1: Towards Explicit Long-CoT Reasoning in Molecule Discovery
针对显式长思维链模型在分子发现领域知识密集型任务中能力受限的问题，提出Mol-R1框架，通过PRID蒸馏策略构建数据集并结合MoIA迭代训练，显著提升了基于文本的分子生成性能。
2025-08-11 cs.CL
AR-LSAT: Investigating Analytical Reasoning of Text
Sun Yat-sen University（中山大学）；Fudan University（复旦大学）；Microsoft Research（微软研究院）；SINOVATION VENTURES（创新工场）
分析推理是一项重要且具有挑战性的任务，它要求系统分析涉及一组特定环境的场景，并对其进行推理以得出结论。在本文中，我们研究了文本分析推理的挑战，并介绍了一个由1991年至2016年法学院入学考试的问题组成的新数据集。我们分析了做好这项任务需要什么样的知识理解和推理能力。此外，为了解决这个推理挑战，我们设计了两个不同的基线：（1）基于转换器的方法，它利用了最先进的预训练语言模型和（2）分析推理机（ARM），一个逻辑级推理框架提取符号知识（例如，参与者，事实，逻辑函数）来推导合法的解决方案。在我们的实验中，我们发现基于transformer的模型很难解决这个任务，因为它们的性能接近随机猜测，而ARM通过利用符号知识和可解释的推理步骤实现了更好的性能。结果表明，这两种方法仍然远远落后于人类的表现，这留下了进一步的研究空间。
2021-04-15 cs.CL
DRP: Distilled Reasoning Pruning with Skill-aware Step Decomposition for Efficient Large Reasoning Models
University of Maryland, Baltimore County（马里兰大学巴尔的摩分校）；Arizona State University（亚利桑那州立大学）
本文提出DRP框架，结合推理时剪枝与调优-based知识蒸馏，提升大推理模型的效率与准确性，在数学推理任务中实现显著的token效率提升。
2026-04-24 cs.CL
Implicit Reasoning in Transformers is Reasoning through Shortcuts
Fudan University（复旦大学）
本文通过在多步数学推理数据上训练GPT-2并进行解析实验，发现语言模型的隐式推理能力源于捷径学习，仅在固定模式数据上训练时才能涌现并泛化，而在非固定模式数据上则过拟合特定模式、缺乏泛化，且该局限性同样存在于最先进的大语言模型中。
2025-06-02 cs.CL
Conceptual and Unbiased Reasoning in Language Models
University of Pennsylvania（宾夕法尼亚大学）；Tencent AI Lab（腾讯AI实验室）
本文提出概念化框架以分析并提升大语言模型的抽象概念推理能力，发现现有模型相比直接推理下降9%-28%，并通过生成相似推理路径问题与自我精炼技术使性能提升8%-11%，从而构建更稳健且更少依赖归纳偏置的推理系统。
2024-03-30 cs.CL
Causal Reasoning in Large Language Models: A Knowledge Graph Approach
GraphLab（格拉夫实验室）；George Washington University（乔治华盛顿大学）；AI Convergence（人工智能融合中心）；Hankuk University of Foreign Studies（韩国外国语大学）
本文提出一种基于知识图谱的随机游走因果推理方法，通过在常识问答任务中利用图谱节点连接提供信息与推理结构，显著提升了大型语言模型的推理能力与性能。
2024-10-15 cs.CL
LocAgent: Graph-Guided LLM Agents for Code Localization
Yale University（耶鲁大学）；University of Southern California（南加州大学）；Stanford University（斯坦福大学）；All Hands AI
提出LocAgent框架，通过将代码库解析为有向异构图以捕获代码结构与依赖关系，引导LLM智能体进行多跳推理实现精准代码定位，在降低86%成本的同时达到SOTA性能并提升下游任务解决率。
2025-04-29 cs.AI cs.CL cs.SE
Fusing Bidirectional Chains of Thought and Reward Mechanisms A Method for Enhancing Question-Answering Capabilities of Large Language Models for Chinese Intangible Cultural Heritage
针对非遗领域大模型微调中的偏差、错误继承与遗忘问题，提出在 ICH-Qwen 上融合双向思维链和加权奖励机制的训练方法，并验证其问答性能、消融效果与跨领域泛化能力。
2025-06-10 cs.AI cs.CL
Is Large Language Model Performance on Reasoning Tasks Impacted by Different Ways Questions Are Asked?
Department of Computer Science, Iowa State University（计算机科学系，爱荷华州立大学）
本研究探讨了不同提问方式对大型语言模型推理任务准确性的影响，发现问题类型显著影响模型表现，选项数量和用词选择也会影响最终答案选择的准确性。
2026-04-27 cs.AI cs.CL
Thinking in Many Modes: How Composite Reasoning Elevates Large Language Model Performance with Limited Data
PhiLabs；Quantiphi Inc（Quantiphi公司）
本文提出复合推理方法，让大语言模型动态组合演绎、归纳、溯因等多种推理风格，在科学和医学问答任务上超越链式思维及DeepSeek-R1风格推理，并展现出更好的样本效率与领域自适应能力。
2025-09-26 cs.AI cs.CL
Are LLMs the Master of All Trades? : Exploring Domain-Agnostic Reasoning Skills of LLMs
University of Pennsylvania（宾夕法尼亚大学）
大语言模型（LLM）像人类一样推理的潜力一直是机器学习社区中备受争议的话题。然而，人类的推理能力是多方面的，可以以各种形式出现，包括类比，空间和道德推理等。这一事实提出了一个问题，即LLM是否可以在所有这些不同的领域中表现同样出色。本研究旨在通过直接使用或借鉴现有类比和空间推理数据集的实验，研究LLM在不同推理任务中的表现。此外，为了评估LLM像人类一样推理的能力，他们的表现是在更开放的自然语言问题上进行评估的。我的研究结果表明，法学硕士擅长类比和道德推理，但在空间推理任务上表现得很熟练。我相信这些实验对于为LLM的未来发展提供信息至关重要，特别是在需要多样化推理专业知识的背景下。通过揭示LLM的推理能力，这项研究旨在推动我们对它们如何更好地模仿人类认知能力的理解。
2023-03-22 cs.AI cs.CL
Exploring the Role of Reasoning Structures for Constructing Proofs in Multi-Step Natural Language Reasoning with Large Language Models
Ingenuity Labs Research Institute（Ingenuity Labs 研究院）；NEC Laboratories America（美国 NEC 实验室）
本文研究通用大语言模型能否通过上下文学习利用少量示例中的结构来更好地构建多步推理的证明结构，提出结构感知演示与结构感知剪枝方法，实验证明二者均能提升模型性能。
2025-01-30 cs.AI cs.CL
ReasonAny: Incorporating Reasoning Capability to Any Model via Simple and Effective Model Merging
Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；National University of Singapore（新加坡国立大学）；Renmin University of China（中国人民大学）；Tongji University（同济大学）
ReasonAny通过对比梯度识别解决推理与领域性能崩溃问题，有效融合推理能力与领域专长，提升多领域模型性能。
2026-01-09 cs.AI cs.CL
The Price of Thought: A Multilingual Analysis of Reasoning, Performance, and Cost of Negotiation in Large Language Models
Computational Linguistics, Department of Linguistics University of Potsdam（波恩-博兹恩大学语言学系）；German Research Center for Artificial Intelligence (DFKI), Berlin（德国人工智能研究中心（DFKI））；Free University of Bozen-Bolzano（博兹恩-博尔扎诺自由大学）
本研究分析了多语言环境下大型语言模型谈判能力的表现与成本，发现启用推理能提升谈判效果但增加计算成本，且开源模型在多语言谈判中倾向于使用英语推理。
2026-01-09 cs.AI cs.CL
No Universal Prompt: Unifying Reasoning through Adaptive Prompting for Temporal Table Reasoning
University of Utah（犹他大学）；Arizona State University（亚利桑那州立大学）；University of California Riverside（加州大学河滨分校）；University of Pennsylvania（宾夕法尼亚大学）
本研究针对LLM在时序表格推理中缺乏通用最优提示方法的问题，提出了受人类推理启发的自适应提示框架SEAR，动态适应上下文并整合结构化推理，在各类表格上超越基线方法，并发现统一表格表示能增强模型推理。
2025-08-07 cs.AI cs.CL
Can a Lightweight Multimodal Model Estimate LLM Reasoning Performance? A Study for Compute-Optimal Document Inference
Phi Labs（菲实验室）；Quantiphi（宽梯斐科技）
本研究提出轻量级多模态模型DRB，基于新基准BudgetDoc实现文档任务中LLM推理预算的动态分配，在降低成本的同时多数情况下达到或优于固定最大预算的性能，具备跨模型泛化潜力。
2026-08-20 cs.AI cs.CL
STaR: Bootstrapping Reasoning With Reasoning
Stanford University（斯坦福大学）；Google Research（谷歌研究院）
逐步生成“思想链”原理可以提高语言模型在复杂推理任务（如数学或常识问答）中的性能。然而，诱导语言模型的基本原理生成目前需要构建大量的基本原理数据集或牺牲准确性，仅使用Few-Shot推理。我们提出了一种技术，迭代地利用少量的理由的例子和一个大的数据集没有理由，引导的能力，连续执行更复杂的推理。这种技术，“自学推理者”（STaR），依赖于一个简单的循环：生成理由来回答许多问题，并给出一些理由示例;如果生成的答案是错误的，则再次尝试生成一个理由，给出正确的答案;微调最终产生正确答案的所有理由;重复。我们表明，STaR显着提高了多个数据集上的性能相比，模型微调，直接预测最终答案，并执行微调30个$\times$更大的最先进的语言模型CommensenseQA。因此，STaR让模型通过从自己生成的推理中学习来改进自己。
2022-05-20 cs.AI cs.CL cs.LG
Cost of Reasoning in non-English Languages: A Case Study on Japanese
研究训练日语推理模型的可行性，开发Qwen - 3 - Swallow - 8B的日语推理变体并用GRPO训练，在多基准测试中发现推理语言控制可行，但性能与英语推理基线相当，在日本文化基准上表现不如基线模型。
2026-07-14 cs.AI cs.CL cs.LG
Complexity-Based Prompting for Multi-Step Reasoning
University of Edinburgh（爱丁堡大学）；Allen Institute for AI（艾伦人工智能研究所）
我们研究了促使大规模语言模型执行多步推理的任务。现有的工作表明，当提示与思维链（CoT），描述中间推理步骤走向最终答案的短句序列，大语言模型可以生成新的推理链和预测新的输入的答案。一个核心问题是，哪些推理示例是最有效的提示。在这项工作中，我们提出了基于复杂性的提示，一个简单而有效的多步推理的例子选择方案。我们表明，提示具有较高的推理复杂性，即，具有更多推理步骤的链，在强基线上的多步推理任务上实现了更好的性能。我们进一步扩展了我们的基于复杂性的标准，从提示（选择输入）到解码（选择输出），我们从模型中抽取多个推理链，然后从复杂推理链（而不是简单链）中选择大多数生成的答案。当用于提示GPT-3和Codex时，我们的方法大大提高了多步推理的准确性，并在三个数学基准（GSM 8 K，MultiArith和MathQA）和两个BigBenchHard任务（Date Understanding和Penguins）上实现了新的最先进（SOTA）性能，平均精度提高了+5.3和+18。与现有的例子选择方案，如手动调整或检索为基础的选择，选择基于推理的复杂性是直观的，易于实现，和注释效率。进一步的结果证明了格式扰动和分布偏移下复杂提示的性能增益的鲁棒性。
2023-01-30 cs.AI cs.CL cs.LG
Like trainer, like bot? Inheritance of bias in algorithmic content moderation
University of Oxford（牛津大学）；University College London（伦敦大学学院）
互联网已成为“网络公众”表达意见和进行辩论的中心媒介。冒犯性的评论和人身攻击可能会抑制这些空间的参与。自动内容审核旨在使用机器学习分类器来克服这个问题，这些分类器是在手动注释的大型文本语料库上训练的。虽然这样的系统可以帮助鼓励更多的民间辩论，但它们必须在内在规范上保持稳定的边界，并受制于提供训练数据的人类评分员的特殊规范。平台实施这些措施的一个重要目标可能是确保它们不会不适当地偏向或反对特定的犯罪规范。本文提供了一些探索性的方法，通过这些方法可以测量算法内容审核系统的规范性偏差，通过使用现有的标记为犯罪的评论数据集的案例研究。我们训练分类器标记的不同的人口子集（男性和女性）的意见，以了解这些群体之间的犯罪概念的差异可能会影响不同的测试集上的结果模型的性能。最后，我们讨论了一些道德的选择面临的算法适度系统的实施者，考虑到各种所需的水平之间的讨论参与者的观点的多样性。
2017-07-05 cs.CL cs.CY cs.LG
NT5?! Training T5 to Perform Numerical Reasoning
University of California（加利福尼亚大学）；Google Research（谷歌研究院）
文本数值推理（NRoT）提出了独特的挑战，现有的预训练目标没有很好地解决。我们探索了五个顺序训练计划，这些计划适应了NRoT的预训练T5模型。我们的最终模型改编自T5，但在三个数据集上进行了进一步的预训练，旨在加强NRoT和一般阅读理解所需的技能，然后在文本离散推理（DROP）数据集上进行微调。训练将DROP调整后的F1表现（以数字为中心的分数）从45.90提高到70.83。我们的模型接近GenBERT（72.4），这是一个自定义的BERT-Base模型，使用相同的数据集，具有更多的参数。我们表明，训练T5多任务框架与多个数值推理数据集的难度增加，良好的性能DROP可以实现，而无需手动工程分布式和符号模块之间的分区功能。
2021-05-14 cs.CL
Do Vision-Language Models Truly Perform Vision Reasoning? A Rigorous Study of the Modality Gap
College of Computing and Data Science, Nanyang Technological University, Singapore（南洋理工大学计算机与数据科学学院，新加坡）；Alibaba-NTU Global e-Sustainability CorpLab (ANGEL)（阿里巴巴-国立大学全球可持续发展公司实验室（ANGEL））；Tongyi Lab, Alibaba Group, China（阿里云实验室，阿里巴巴集团，中国）
本文通过CrossMath基准测试，发现视觉-语言模型在文本输入时表现优异，但加入图像信息后推理性能下降，表明其推理主要依赖文本空间，而非真实视觉证据。
2026-04-17 cs.CL cs.CV
InfoCausalQA:Can Models Perform Non-explicit Causal Reasoning Based on Infographic?
本研究提出InfoCausalQA基准，通过定量与语义因果推理任务评估视觉语言模型基于信息图的因果推断能力，发现当前模型表现显著低于人类，凸显多模态AI在因果推理上的不足。
2025-08-13 cs.AI cs.CL
How Do Latent Reasoning Methods Perform Under Weak and Strong Supervision?
Amazon（亚马逊公司）；Michigan State University（密歇根州立大学）
本文研究了在弱监督和强监督下潜在推理方法的表现，发现存在捷径行为和潜在空间探索问题，并揭示了监督强度与推理能力之间的权衡。
2026-02-25 cs.AI cs.CL cs.LG
