The Complexity of Limited Belief Reasoning -- The Quantifier-Free Case
Fudan University(复旦大学);Australian National University(澳大利亚国立大学);University of New South Wales(新南威尔士大学)
认知逻辑的经典观点是,主体知道其知识库的所有逻辑结果。这种逻辑全知的假设通常是不现实的,并且使得推理在计算上难以处理。避免逻辑全知全能的一种方法是将推理限制在一定的信念水平,这直观地衡量了推理的深度。“本文研究了具有置信水平的推理的计算复杂性。首先,我们表明,虽然推理仍然听话,如果水平是恒定的,复杂性跳跃到PSPACE完成-也就是说,超越经典推理-当信仰水平是输入的一部分。然后,我们进一步细化的图片使用参数化的复杂性理论,研究如何信念水平和非逻辑符号的数量影响的复杂性。
2018-05-08 cs.AI cs.LO
On the cost-complexity of multi-context systems
Delft University of Technology(代尔夫特理工大学)
多上下文系统提供了一个强大的框架,建模信息聚合系统具有异构推理组件。然而,执行这些措施可能会产生不可忽视的成本。在这里,我们专注于这种系统的成本复杂性。为此,我们引入了成本感知的多上下文系统,考虑到执行单个上下文的语义运算符所产生的成本的非单调多上下文系统框架的扩展。我们制定了成本复杂性的概念,在MCS的一致性和推理问题。随后,我们提供了一系列的结果,逐步越来越多的约束类的MCS,最后介绍了一个增量成本降低算法解决的推理问题,确定MCS。
2014-05-28 cs.AI
Bridging Reasoning to Learning: Unmasking Illusions using Complexity Out of Distribution Generalization
Department of Computer Engineering(计算机工程系);Sharif University of Technology(沙里夫技术大学)
本文提出复杂度分布外泛化框架,以统一推理与学习,通过复杂度压力揭示系统2式推理的幻觉,并给出跨技术栈的实践建议。
2025-10-06 cs.AI cs.LG
On the Empirical Complexity of Reasoning and Planning in LLMs
National University of Singapore(新加坡国立大学)
本文通过6项推理任务的实验案例,将CoT与ToT的性能优势联系到样本与计算复杂性原则,揭示任务分解及树结构在困难推理任务中的作用。
2024-06-18 cs.AI cs.LG
Reasoning Depth and Environment Complexity: A Controlled Study of RLVR Data Allocation across Logical Reasoning Tasks
Kyoto University(京都大学);University of Tokyo(东京大学);NII LLMC(日本信息处理学会LLMC);RIKEN(理化学研究所)
通过将推理空间划分为深度和复杂度两个维度,并考虑四种推理形式,在合成知识图谱环境中进行受控实验,发现联合深度-复杂度覆盖优于单轴策略,不同推理家族对RLVR覆盖的反应非均匀,且均匀混合优于分阶段课程。
2026-09-09 cs.AI cs.CL
On the Complexity of Semantic Integration of OWL Ontologies
我们提出了一个新的机制,OWL本体集成使用语义导入关系。与标准的OWL导入相比,我们不需要考虑导入本体的所有公理进行推理任务,而只需要考虑它们在所选签名上的逻辑含义。这个属性在许多本体集成场景中是很自然的,特别是当本体的数量很大的时候。在本文中,我们研究了推理的复杂性与语义导入关系的本体,并建立了严格的复杂性范围内的各种片段的OWL。
2017-05-12 cs.AI
Complexity-Based Prompting for Multi-Step Reasoning
University of Edinburgh(爱丁堡大学);Allen Institute for AI(艾伦人工智能研究所)
我们研究了促使大规模语言模型执行多步推理的任务。现有的工作表明,当提示与思维链(CoT),描述中间推理步骤走向最终答案的短句序列,大语言模型可以生成新的推理链和预测新的输入的答案。一个核心问题是,哪些推理示例是最有效的提示。在这项工作中,我们提出了基于复杂性的提示,一个简单而有效的多步推理的例子选择方案。我们表明,提示具有较高的推理复杂性,即,具有更多推理步骤的链,在强基线上的多步推理任务上实现了更好的性能。我们进一步扩展了我们的基于复杂性的标准,从提示(选择输入)到解码(选择输出),我们从模型中抽取多个推理链,然后从复杂推理链(而不是简单链)中选择大多数生成的答案。当用于提示GPT-3和Codex时,我们的方法大大提高了多步推理的准确性,并在三个数学基准(GSM 8 K,MultiArith和MathQA)和两个BigBenchHard任务(Date Understanding和Penguins)上实现了新的最先进(SOTA)性能,平均精度提高了+5.3和+18。与现有的例子选择方案,如手动调整或检索为基础的选择,选择基于推理的复杂性是直观的,易于实现,和注释效率。进一步的结果证明了格式扰动和分布偏移下复杂提示的性能增益的鲁棒性。
2023-01-30 cs.AI cs.CL cs.LG
Semantic-Aware Logical Reasoning via a Semiotic Framework
Huazhong University of Science and Technology(华中科技大学);La Trobe University(拉筹伯大学)
本文提出LogicAgent框架,结合自动推演与反思验证,解决逻辑复杂性与语义复杂性的交互问题,通过RepublicQA基准验证其在抽象命题和逻辑深度上的表现,实现SOTA性能。
2026-04-22 cs.AI
Deconstructing Spatial Complexity: Hierarchical Decomposition for LLM Spatial Reasoning
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
提出一种层次任务分解方法,结合MCTS引导的组相对策略优化(M-GRPO),通过改进中间状态选择和规划能力,显著提升LLM在导航、规划和策略游戏等空间任务中的表现。
2026-05-27 cs.AI
Prompt Complexity Dilutes Structured Reasoning: A Follow-Up Study on the Car Wash Problem
Independent Researcher(独立研究者)
研究探讨STAR推理在复杂提示环境中的有效性,发现结构化推理在孤立测试中表现优异,但在复杂提示中效果下降,提示复杂性稀释了结构化推理。
2026-03-07 cs.AI
A Parameterized Complexity View on Description Logic Reasoning
Institute for Logic, Language and Computation(逻辑、语言与计算研究所);University of Amsterdam(阿姆斯特丹大学)
描述逻辑是一种知识表示语言,它被设计成在表达性和计算易处理性之间取得平衡。许多不同的描述逻辑已经被开发出来,并且这些逻辑的许多计算问题由于它们的计算复杂性而被研究。然而,基本上所有的复杂性分析的推理问题的描述逻辑使用的经典复杂性理论的一维框架。参数化复杂性理论的多维框架能够提供推理问题复杂性的更详细的图像。在本文中,我们认为,参数化复杂性的框架有很多可以提供的描述逻辑推理问题的复杂性分析-当一个人需要一个渐进的和前瞻性的观点参数化的复杂性工具。我们通过三个案例研究来证实我们的论点。第一个案例研究的问题是概念可满足的逻辑ALC关于近无环的TBox。第二个案例研究关注ALC概念的可满足性,其参数由联合算子的出现次数和完全存在量化的出现次数来确定。第三个案例研究从参数化复杂性的角度对数据复杂性结果进行了批判性的审视。这三个案例研究代表了描述逻辑问题的参数化复杂性方法的广泛应用。
2018-08-11 cs.AI cs.CC cs.LO
Task Complexity Matters: An Empirical Study of Reasoning in LLMs for Sentiment Analysis
School of Computing and Information Systems, Singapore Management University(新加坡管理学院);Research and Development, Mastercard(麦star公司)
研究通过评估7种模型家族在不同粒度的情感分析数据集上的表现,发现推理效果高度依赖任务复杂性,二分类任务性能下降,多类情感识别性能提升,且少量样本学习在多数情况下优于零样本学习。
2026-02-27 cs.AI cs.CL
Reasoning Models Reason Well, Until They Don't
University of Washington(华盛顿大学);Purdue University(普渡大学)
本研究通过新数据集DeepRD揭示大型推理模型在推理复杂性增加时性能骤降且无法泛化,尽管在现有基准上表现优异,但真实世界长尾案例存在失败风险。
2025-10-25 cs.AI cs.CL
A Complexity Map of Probabilistic Reasoning for Neurosymbolic Classification Techniques
IRT SystemX;CentraleSupélec(中央高等电力学院)
本文针对神经符号分类中的概率推理问题,构建统一形式化框架并汇编复杂度图谱,以刻画多种技术的可扩展性边界。
2025-01-23 cs.AI cs.CC cs.LG
Heuristic Reasoning on Graph and Game Complexity of Sudoku
LATTIS(LATTIS实验室);INSA(法国国立应用科学学院);University of Toulouse(图卢兹大学)
数独问题近年来在世界范围内得到了广泛的应用,引起了计算智能界的极大关注。数独问题通常被认为是可满足性问题或约束满足问题。在本文中,我们建议把重点放在基本的图形结构的数独问题。首先,我们将数独形式化为一个图。在此基础上提出了一种基于启发式推理的求解算法。证明了相关的r-归约定理、推理定理及其性质,为数独求解系统的开发提供了形式化的基础。为了评价数独谜题的难度水平,提出了一种基于图结构和信息论的数独谜题复杂度定量度量方法。实验结果表明,所有的难题可以快速解决使用所提出的启发式推理,并提出的游戏复杂性度量可以区分难题的难度水平很好。
2009-03-09 cs.AI cs.GT cs.SC
The Complexity of Reasoning with Global Constraints
LIRMM, CNRS/U. Montpellier(法国国家科学研究中心/蒙彼利埃大学 朗格多克信息学、机器人学与微电子实验室);C and UCC(科克大学 约束计算中心);Izmir University of Economics(伊兹密尔经济大学);NICTA and UNSW(澳大利亚国家信息与通信技术研究院 新南威尔士大学)
约束传播是约束编程成功的关键技术之一。为了减少搜索,与每个约束相关联的快速算法修剪变量的域。对于全局(或非二进制)约束,这种传播的成本可能比二进制约束的二次成本大得多。因此,我们研究的计算复杂性的推理与全局约束。我们首先讨论了一些与约束传播有关的重要问题。我们表明,这样的问题是棘手的一般,并确定不同问题的易处理性和难处理性之间的依赖关系。然后,我们演示了如何使用计算复杂性的工具,可以在设计和分析特定的全局约束。特别是,我们说明了如何可以使用计算复杂性来确定何时应执行较低级别的局部一致性,何时约束可以安全地推广,何时分解约束将减少修剪量,以及何时组合约束是易处理的。
2009-03-06 cs.AI cs.CC
Evolutionary Task Discovery: Advancing Reasoning Frontiers via Skill Composition and Complexity Scaling
Georgia Institute of Technology(佐治亚理工学院)
本文提出EvoTD框架,通过结构化进化算子在算法技能与复杂性属性的双轴流形上进行数据合成,提升模型推理能力,并在不同架构和规模上实现稳定泛化。
2026-05-12 cs.AI cs.LG
GSM-Infinite: How Do Your LLMs Behave over Infinitely Increasing Context Length and Reasoning Complexity?
Carnegie Mellon University(卡内基梅隆大学);Meta AI
针对现有基准缺乏定量评估LLMs处理长复杂上下文推理能力的问题,本文开发可生成无限难度算术题的GSM-Infinite基准,评估发现LLMs推理性能随复杂度呈S型下降、计算量指数增长仅获线性性能提升,为研究其推理局限提供测试平台。
2025-02-07 cs.AI cs.CL
GeoGramBench: Benchmarking the Geometric Program Reasoning in Modern LLMs
Li Auto Inc.(利亚特公司)
GeoGramBench通过评估现代大语言模型在几何程序推理中的能力,揭示了其在空间推理任务中的显著不足。
2026-02-10 cs.AI
The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity
Apple(苹果公司)
通过问题复杂性分析,研究揭示大规模推理模型在不同复杂度任务中的表现差异及局限性。
2025-11-20 cs.AI cs.CL cs.LG
Advancing Algorithmic Approaches to Probabilistic Argumentation under the Constellation Approach
Institute of Software Technology, Graz University of Technology(格拉茨工业大学软件技术研究所)
本文研究星座方法下概率论证推理的高复杂度问题,区分两类计数任务的复杂度,并提出基于树分解动态规划的完全外延概率计算算法,实验显示其具有应用前景。
2024-07-06 cs.AI
On the Complexity of Counterfactual Reasoning
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
研究了结构因果模型上反事实推理的计算复杂性,证明在树宽和因果树宽框架下反事实推理不比关联或干预推理更难,并扩展至多世界及部分指定模型。
2023-05-19 cs.AI cs.CC cs.LG
When Does In-Context Search Help? A Sampling-Complexity Theory of Reflection-Driven Reasoning
The Hebrew University(希伯来大学)
研究上下文搜索何时有用,通过将其建模为对推理轨迹的近似推理分析采样复杂性,表明反思能定位早期错误时可指数级改进,收益稳健可学习,还在强化学习抽象下验证了理论预测。
2026-07-09 cs.AI cs.CL
Finding the Minimal Parameter Budget for Implicit Reasoning: A Data Complexity Driven Scaling Law for Language Models
University of California, Berkeley(加州大学伯克利分校);University of Cambridge(剑桥大学);University of Washington(华盛顿大学);University of Toronto(多伦多大学);University of Tokyo(东京大学)
本文通过控制合成环境中的预训练实验,发现语言模型隐式推理所需的最小参数预算与图搜索熵之间存在缩放定律,并确定了每参数最多可处理约0.008比特信息的容量上限。
2026-06-05 cs.AI cs.CL
TriViewBench: Controlled Complexity Scaling for Multi-View Structural Reasoning in MLLMs
School of Intelligence Science and Technology, Nanjing University(南京大学智能科学与技术学院);National Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室)
提出TriViewBench基准,通过合成3D场景控制物体数量和遮挡,评估18个多模态大模型在多视图推理中的能力层次和性能退化,发现跨视图空间表示是瓶颈。
2026-06-25 cs.AI cs.CV
Reasoning about Reasoning: BAPO Bounds on Chain-of-Thought Token Complexity in LLMs
Microsoft Research, Redmond, WA(微软研究院,西雅图,华盛顿)
通过扩展BAPO模型,证明二元多数、三元组匹配和图可达性三个任务需要Ω(n)个思维链令牌,实验验证了线性缩放与理论下界一致。
2026-05-27 cs.AI cs.FL cs.LG
Comment on The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity
该研究指出Shojaee等人关于大型推理模型在复杂规划谜题上准确率崩溃的结论源于实验设计缺陷,纠正偏差后模型在汉诺塔任务上准确率显著提升,强调AI推理评估需严谨实验设计。
2025-06-16 cs.AI cs.LG
Proof Complexity of Symbolic QBF Reasoning
CNRS(法国国家科学研究中心);Univ. Artois(阿尔图瓦大学);TU Wien(维也纳工业大学)
我们介绍和调查量化布尔公式(QBF)的符号证明系统的有序二元决策图(OBDDs)。这些系统捕获执行符号量词消去的QBF求解器,并因此承认有界路径宽度和量词复杂性的公式的简短证明。因此,我们从标准子句证明系统中获得指数分离,特别是(长距离)QU-Resolution和IR-Calc。我们进一步开发了一个下界技术的符号QBF证明系统的基础上,从通信复杂性的战略提取,升降机已知的下界。这使我们能够推导出强大的下界对符号QBF证明系统是独立的变量排序的基础OBDDs,并举行,即使证明系统被允许访问一个NP-预言。
2021-04-06 cs.AI cs.CC cs.LO
Counting Complexity for Reasoning in Abstract Argumentation
TU Dresden(德累斯顿工业大学);TU Wien(维也纳工业大学);University of Potsdam(波茨坦大学)
在本文中,我们考虑计数和投影模型计数的各种语义的抽象论证中的扩展。当要求预测计数时,我们感兴趣的是计算给定论证框架的扩展的数量,而当限制于预测论证时相同的多个扩展仅计为一个预测扩展。当用无向论证图的树宽参数化问题时,我们建立了经典复杂性结果和参数化复杂性结果。为了获得上界计数投影扩展,我们引入了新的算法,利用小树宽的无向论证图的输入实例的动态规划(DP)。我们的算法运行在时间上的两倍或三倍指数的树宽度取决于所考虑的语义。最后,我们考虑指数时间假设(ETH),建立有界树宽算法计数扩展和投影扩展的下界。
2018-11-28 cs.AI cs.LO
On the Complexity and Properties of Preferential Propositional Dependence Logic
Artificial Intelligence Group, University of Hagen(汉内斯大学人工智能小组);Theoretical Computer Science, Leibniz University Hannover(汉诺威莱比锡大学理论计算机科学);Department of Mathematics and Statistics, University of Helsinki(赫尔辛基大学数学与统计学系)
本文研究命题依赖逻辑中的 KLM 风格偏好推理,刻画其满足 System P 的条件,分析与团队命题逻辑的差异,并给出模型表示及两种表示下的复杂性结果。
2025-05-13 cs.AI cs.LO
Complexity in finitary argumentation (extended version)
Department of Mathematics, University of Wisconsin-Madison(威斯康星大学麦迪逊分校数学系);Department of Humanistic Research and Innovation, University of Bari(巴里大学人文研究与创新系)
针对无限抽象论证框架(AFs)计算难处理的问题,研究无限但有限AFs(每个论证仅被有限个攻击)的复杂性,发现有限性不自动降复杂度,但基于可接受性语义有显著组合约束可大幅降复杂度,平衡表达性与可处理性。
2025-08-23 cs.AI math.LO
Bridging the Arithmetic Gap: The Cognitive Complexity Benchmark and Financial-PoT for Robust Financial Reasoning
Tele-Communication Technology Bureau, Xinhua News Agency(新华社通信技术局)
本文提出认知复杂性基准和金融-PoT框架,通过架构解耦提升金融推理的鲁棒性,使Qwen3-235B模型在复杂任务中的准确率显著提高。
2026-01-29 cs.AI cs.CL
Parameterized Argumentation-based Reasoning Tasks for Benchmarking Generative Language Models
Bernoulli Institute of Mathematics, Computer Science and Artificial Intelligence, University of Groningen(伯努利数学、计算机科学和人工智能研究所,格罗宁根大学);Department of Information and Computing Sciences, Utrecht University(信息与计算科学系,乌得勒支大学)
本文提出一种参数化论证推理基准方法,通过动态生成不同复杂度的证人证言推理谜题评估生成式语言模型,发现当前最先进模型在低复杂度下即频繁出错,揭示其推理能力脆弱,为法律领域负责任AI设计提供依据。
2025-05-02 cs.AI cs.LG
Characterising equilibrium logic and nested logic programs: Reductions and complexity
Universidad Politécnica de Madrid(马德里理工大学);Technische Universität Wien(维也纳技术大学)
平衡逻辑是一种非单调推理的方法,它扩展了逻辑程序的稳定模型和答案集语义。特别是,它包括嵌套逻辑程序的一般情况下,任意布尔组合是允许在头部和身体的规则,作为特殊类型的理论。在本文中,我们提出了多项式减少的主要推理任务与平衡逻辑和嵌套的逻辑程序到量化命题逻辑,扩展经典命题逻辑的原子公式的量化是允许的。我们不仅为决策问题提供约简,而且为平衡逻辑和嵌套逻辑程序的中心语义概念提供约简。特别是,我们的编码映射一个给定的决策问题到一些公式,后者是有效的,正是在前者举行。我们在这里处理的基本任务是一致性问题,勇敢推理和怀疑推理。此外,我们还提供了编码测试等价的理论或程序下的不同概念的等价性,即普通,强,一致等价。对于所有考虑的推理任务,我们分析了它们的计算复杂性,并给出了严格的复杂性界限。
2009-06-13 cs.AI cs.LO
A Distributed Approach to LARS Stream Reasoning (System paper)
Technische Universität Wien(维也纳技术大学)
流推理系统是为从可能无限的动态数据流中做出复杂决策而设计的。流推理的现代方法通常使用独立的求解器执行计算,这些求解器随着数据流的新部分被推送而增量地更新其内部状态并返回结果。然而,随着输入数据的速率和决策问题的复杂性的增长,这种方法的性能迅速下降。这个问题在流处理领域已经被认识到,在流处理领域,系统变得分布式,以便分配云提供的大量计算资源。在本文中,我们提出了一种分布式的方法来流推理,可以有效地分裂计算不同的求解器之间的数据流通信的结果。此外,为了增加分布式系统的吞吐量,我们建议一个基于间隔的LARS语言的语义,这使得网络流量显着减少。执行的评估表明,分布式流推理显着优于现有的独立LARS求解器时,决策问题的复杂性和传入数据的速率正在增加。正在考虑接受逻辑程序设计的理论与实践。
2019-07-29 cs.AI
A Logic for Reasoning about Evidence
Cornell University(康奈尔大学)
我们引入了一个逻辑推理的证据,基本上认为证据作为一个功能,从以前的信念(观察前)后的信念(观察后)。我们提供了一个健全的和完整的公理化的逻辑,并考虑到决策问题的复杂性。虽然逻辑中的推理主要是命题,但我们允许变量表示数字和量化。这种表达能力似乎是捕捉证据的重要属性所必需的
2014-07-27 cs.AI
Complexity of Arithmetic in Warded Datalog+-
TU Vienna(维也纳工业大学);University of Oxford(牛津大学)
Warded Datasheet +-在规则头中使用存在量词扩展了基于逻辑的语言Datasheet。高级推理任务需要潜在规则,例如,本体论推理Warded Datasheet +-的理论效率保证不包括对数据分析至关重要的扩展,例如算术。此外,尽管算术对于常见的数据分析场景具有重要意义,但没有识别出任何使用算术扩展的Datatron+语言的可判定片段。我们通过定义一种新的语言来缩小这一差距,该语言扩展了Warded Datasheet +-算术并证明了其P-完备性。此外,我们提出了一个有效的推理算法,我们新定义的语言和证明描述性的复杂性结果,最近推出的数据库片段与整数运算,从而关闭一个开放的问题。我们为高度表达的Datatron+语言奠定了理论基础,这些语言结合了高级递归规则和算法的力量,同时保证了现代AI系统(如知识图谱)中应用程序的高效推理算法。
2022-02-10 cs.AI cs.DB
When Counterfactual Reasoning Fails: Chaos and Real-World Complexity
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Mohammed VI Polytechnic University, UM6P(穆罕默德六世理工大学(UM6P))
本文在结构因果模型框架下实证研究反事实序列估计的局限性,发现模型不确定性低或存在混沌动力学等现实假设会导致预测轨迹与真实轨迹严重偏离,警示在混沌与不确定情境中应用反事实推理需谨慎。
2025-04-10 cs.AI cs.LG
Transformer Encoder Satisfiability: Complexity and Impact on Formal Reasoning
University of Kaiserslautern-Landau, RPTU Kaiserslautern(凯撒斯劳滕-兰道大学,RPTU凯撒斯劳滕);University of Kassel(卡塞尔大学)
本文分析 Transformer 编码器可满足性问题的复杂度,证明一般情形下不可判定,而量化 TE 可判定但具 NEXPTIME 难度,并探讨其对形式推理的影响。
2025-02-25 cs.AI cs.CC cs.LG
A Multivariate Complexity Analysis of Qualitative Reasoning Problems
Linköpings Universitet(林雪平大学)
定性推理是人工智能的一个重要分支,其中人们用定性关系而不是数值关系来描述关系。许多这样的推理任务,例如,Allen的区间代数可以在$2^{O(n \cdot \log n)}$时间内求解,但单指数运行时间$2^{O(n)}$目前还远远达不到。在本文中,我们考虑通过由细粒度参数$n$(例如,变量的数量)和预期相对较小的粗粒度参数$k$。我们引入了$f(k) \cdot 2^{O(n)}$中可解问题的类FPE和XE,分别是$f(k)^n$和时间,并证明了这些类的几个基本性质。我们继续通过研究时间推理问题和(1)表明,有效宽度$k$的偏序时间问题是可解的$16^{kn}$时间,因此包括在XE,和(2)的网络一致性问题的艾伦的区间代数没有间隔重叠超过$k$其他是可解的$(2nk)^{2k} \cdot 2^{n}$时间,并包括在FPE。我们的多元方法是在没有办法限于这些特定的问题,并可能是一个普遍有用的方法获得单指数算法。
2022-09-30 cs.AI cs.CC
The Complexity Ceiling Benchmark: A Multi-Domain Evaluation of Sequential Reasoning Under Depth Scaling
提出复杂性天花板基准(CCB),通过控制任务语义内容、仅改变推理深度N,评估语言模型在三个结构不同领域中的顺序推理衰减,发现几何级数衰减和领域天花板差异,并引入跟踪级指标TFBC。
2026-06-28 cs.AI cs.CL
When Do Program-of-Thoughts Work for Reasoning?
本文提出 CIRS 衡量代码结构与逻辑复杂度对 LLM 推理能力的影响,并设计自动合成分层算法用于数学指令生成和代码数据过滤。
2023-12-18 cs.AI cs.CL cs.LG
NPHardEval: Dynamic Benchmark on Reasoning Ability of Large Language Models via Complexity Classes
School of Information, University of Michigan(密歇根大学信息学院);Department of Computer Science, Rutgers University(罗格斯大学计算机科学系)
研究提出NPHardEval基准,通过900道覆盖至NP-Hard复杂度类别的算法问题动态评估LLMs推理能力,采用每月更新机制防止过拟合,为模型推理能力提供严格客观的评估。
2024-02-12 cs.AI cs.CC cs.CL
QMFOL: Benchmarking Large Language Model Reasoning via Quantifiable Monadic First-Order Logic Test Case Generation
Huazhong University of Science and Technology(华中科技大学);Nanyang Technological University(南洋理工大学);Hubei University(湖北大学);East China Normal University(华东师范大学);National University of Singapore(新加坡国立大学)
提出QMFOL框架,通过可控制复杂度的合取/析取模式生成一元一阶逻辑推理任务,并构建包含2880个实例的基准QMFOLBench,评估显示逻辑复杂度增加导致性能下降和计算开销上升。
2026-06-19 cs.AI cs.SE
How Well do LLMs Compress Their Own Chain-of-Thought? A Token Complexity Approach
Columbia Business School(哥伦比亚大学商学院)
本研究首次系统探讨了LLM推理长度与性能的关系,提出“token复杂度”概念以量化准确率与压缩的信息论极限,发现现有提示压缩策略远未达理论上限,并强调自适应压缩的重要性。
2025-04-01 cs.AI cs.CL
Overcoming Multi-step Complexity in Multimodal Theory-of-Mind Reasoning: A Scalable Bayesian Planner
Dartmouth College(达特茅斯学院);Honda Research Institute USA(本田美国研究院)
本文提出了一种可扩展的贝叶斯理论思维规划器,通过分步贝叶斯更新分解理论思维推理,利用弱到强控制使小语言模型专精于理论思维似然估计,并将其推理行为转移给大语言模型,从而在多模态理论思维基准测试中实现4.6%的准确率提升。
2026-05-09 cs.AI cs.CL
A Fine-Grained Complexity View on Propositional Abduction -- Algorithms and Lower Bounds
Department of Computer and Information Science, Linköping University(链接öping大学计算机与信息科学系);Department of Computer Science and Informatics, Jönköping University(约翰·索姆大学计算机科学与信息学系)
本文以知识库变量数 n 为参数研究命题溯因的细粒度复杂性,给出 Σ^P_2、NP 与 coNP 完全片段的改进算法,并在(强)指数时间假设下证明多个下界。
2025-05-15 cs.AI cs.CC
The Hardness of Reasoning about Probabilities and Causality
Institute of Theoretical Computer Science, University of Lübeck(吕贝克大学理论计算机科学研究所);Saarland University(萨尔大学)
从计算复杂性角度研究概率与因果推理形式语言,引入新复杂性类succ$\exists$R并证明相关可满足性问题对其完备,揭示了更强的算法局限性。
2023-05-16 cs.AI cs.CC
Redundancy in Logic III: Non-Mononotonic Reasoning
给出了限制理论和缺省理论的冗余性结果。特别是,建立一个给定的理论是否是冗余的复杂性。
2005-10-12 cs.AI cs.CC cs.LO
Adaptive Overclocking: Dynamic Control of Thinking Path Length via Real-Time Reasoning Signals
Huawei Technologies Co., Ltd.(华为技术有限公司)
针对大型推理模型因固定推理预算导致的过度思考问题,提出自适应超频方法,利用词元级不确定性与输入复杂度实时动态调整超参数 $α$,并通过混合自适应控制在多个数学基准上实现更优的准确率-延迟权衡。
2025-09-21 cs.AI cs.LG
Technical Note: Exploring Σ^P_2 / Π^P_2-hardness for Argumentation Problems with fixed distance to tractable classes
我们研究的复杂性,推理抽象论证框架接近图类,允许有效的推理方法,即\非循环、非偶、二元和对称AF类之一。在这项工作中,我们表明,某些推理问题的多项式层次结构的第二个层次上仍然保持其完整的复杂性时,仅限于固定距离的上述图形类之一的实例。
2012-01-02 cs.AI cs.CC
MemReread: Enhancing Agentic Long-Context Reasoning via Memory-Guided Rereading
Soochow University(苏州大学);Peking University(北京大学)
MemReread通过记忆引导重读机制,在线性处理文档片段时避免二次检索,实现非线性推理并保持文档理解的逻辑流,通过强化学习框架提升长上下文推理任务性能。
2026-10-12 cs.AI cs.CL
The Kinetics of Reasoning: How Chain-of-Thought Shapes Learning in Transformers?
The University of Chicago(芝加哥大学);Amazon Web Services(亚马逊网络服务)
思想链(CoT)监督可以大大提高Transformer的性能,但模型学习遵循CoT并从中受益的机制仍然知之甚少。我们调查这些学习动态通过镜头grokking预训练Transformers器上的符号推理任务与可调的算法复杂性和可控的数据组成,以研究其泛化。模型在两种设置下进行训练:(i)仅产生最终答案,以及(ii)在回答之前发出明确的CoT轨迹。我们的研究结果表明,虽然CoT通常可以提高任务性能,但它的好处取决于任务的复杂性。为了量化这些影响,我们用三参数逻辑曲线对对数训练步骤的准确性进行了建模,揭示了学习速度和形状如何随任务复杂性、数据分布和CoT监督的存在而变化。我们还发现了一个短暂的跟踪不忠诚阶段:在训练的早期,模型通常会在跳过或反驳CoT步骤的同时产生正确的答案,然后再将其推理轨迹与答案对齐。从经验上讲,我们(1)证明CoT加速了泛化,但不能克服算法复杂度较高的任务,例如查找列表交集;(2)引入一个动力学建模框架来理解Transformer学习;(3)将跟踪忠实性描述为在训练过程中出现的动态属性;(4)显示CoT机械地改变了内部Transformer计算。
2025-10-28 cs.AI cs.LG
Reasoning About Common Knowledge with Infinitely Many Agents
完整的公理化和指数时间的决策过程中提供的推理知识和共同知识时,有无穷多个代理。结果表明,只要我们可以检查某些集合差异G-G '的基数,那么对于无限多个代理人的知识和常识的推理并不比有限多个代理人时更困难,其中G和G'是代理人的集合。由于我们的复杂性的结果是独立的基数的集合G所涉及的,他们代表了以前的结果的改进,即使涉及的代理集是有限的。此外,我们的研究结果清楚地表明,在何种程度上的问题的复杂性和完整性取决于所涉及的代理集是如何表示的。
1999-09-21 cs.AI cs.LO