Partial Reasoning in Language Models: Search and Refinement Guided by Uncertainty
Advanced Knowledge Center for Immersive Technologies (AKCIT)(沉浸式技术高级知识中心);Federal University of Goiás, Brazil(巴西戈亚斯联邦大学);OATML, University of Oxford(牛津大学OATML)
PREGU通过监控输出熵并在不确定时触发局部搜索,提升语言模型在多步骤推理任务中的性能。
2026-01-17 cs.AI
Sequential Probabilistic Uncertainty Estimation for Parallel Multi-Agent Reasoning Systems
Rutgers University(罗格斯大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Vanderbilt University(范德堡大学);Columbia University(哥伦比亚大学)
针对并行多智能体推理系统,提出轻量级无需训练的SAUCE不确定性估计器,通过序贯推断系统级信念,在多个基准上优于现有基线。
2026-10-08 cs.AI
WebUncertainty: Dual-Level Uncertainty Driven Planning and Reasoning For Autonomous Web Agent
Hefei University of Technology(合肥工业大学);Academy of Cyber, CETC Group(中国电子科技集团 Cyber 学院)
本文提出WebUncertainty框架,通过双层不确定性驱动的自适应规划和蒙特卡洛树搜索机制,提升自主网络代理在动态交互和长周期任务中的规划与推理能力。
2026-04-21 cs.AI
Credal Valuation Networks for Machine Reasoning Under Uncertainty
RMIT University(皇家墨尔本理工大学);Trinity College Dublin(都柏林圣三一学院);Defence Science and Technology Group(国防科学技术集团)
当代事业为机器推理和人工智能在以不确定性、敌意和大量数据为特征的情况下的广泛应用提供了无限的机会。本文开发了一个评估网络作为一个图形系统,用于在不确定性下进行更高层次的融合和推理,以支持人类操作员。估值是(不确定的)知识和收集的数据的数学表示,表示为信用集,定义为不精确概率理论框架中的相干区间概率。基本操作与这样的credal集,组合和边缘化,定义为满足公理的赋值代数。一个实际的实施方案的信用评估网络进行了讨论,并证明其效用的一个小规模的例子。
2022-08-04 cs.AI
Reasoning under Uncertainty: Some Monte Carlo Results
George Mason University(乔治梅森大学)
一系列的蒙特卡洛研究进行比较的行为下的不确定性推理的一些替代程序。几个贝叶斯,线性模型和默认推理程序的行为进行了检查的背景下,不断增加的校准误差水平。最有趣的结果是,贝叶斯程序倾向于输出比其他技术更极端的后验信念值(后验信念接近0.0或1.0),但线性模型相对不太可能输出对错误结论的强有力支持。此外,会计证据项目之间的概率依赖性是重要的贝叶斯和线性更新程序。
2013-03-20 cs.AI
Modeling Uncertainty and Imprecision in Nonmonotonic Reasoning using Fuzzy Numbers
Indian Statistical Institute(印度统计研究所);Jadavpur University(贾达普大学)
为了处理推理中的不确定性,区间值逻辑被发展起来。但是,统一的区间不能捕捉区间中不同值的置信度差异。为了解决这个问题,三角形和梯形模糊数被用作真值集以及传统的区间。在定义于$[0,1]$上的模糊数集合上定义了基于前序的真值和知识序。基于这一增强的认知状态集,开发了一个答案集框架,并适当定义了逻辑连接词。这种框架在规则可能包含例外的非单调环境下,对具有模糊和不确定信息的知识表示和推理是有效的。
2020-01-03 cs.AI
Learning More by Training Less: Uncertainty-Guided Progressive Contraction for Efficient Reasoning Post-Training
National University of Singapore(新加坡国立大学);Nanjing University(南京大学);Fudan University(复旦大学);The University of Sydney(悉尼大学);The Chinese University of Hong Kong(香港中文大学);Nanyang Technological University(南洋理工大学)
本研究针对大型语言模型推理后训练成本过高问题,提出不确定性引导渐进收缩框架,仅用全数据SFT 0.22%的优化预算,在保持或提升推理性能的同时实现训练加速,且泛化性良好。
2026-10-12 cs.AI
ChainUQ: Reasoning Consistency-Aware Uncertainty Quantification for Large Language Models
Florida State University(佛罗里达州立大学)
ChainUQ提出推理一致性感知的不确定性量化框架,通过对齐感知轻量级模块和一致性校准器,提升LLM响应级置信度可靠性,在AUROC和ECE上显著改善且可迁移。
2026-09-23 cs.AI
Reasoning in Non-Probabilistic Uncertainty: Logic Programming and Neural-Symbolic Computing as Examples
University of Bremen(不来梅大学);City University London(伦敦城市大学);University of Edinburgh(爱丁堡大学);University of Luxembourg(卢森堡大学);University of Amsterdam(阿姆斯特丹大学)
本文旨在实现两个目标:表明概率不是处理不确定性的唯一方法(甚至还有一些不确定性是由于概率方法无法解决的原则性原因);并提供证据证明基于逻辑的方法可以很好地支持不确定性推理。对于后者的要求,两个范例:逻辑编程与Kleene语义建模推理的话语中的信息,对预期模型的状态的事务的解释,和神经符号实现的输入/输出逻辑处理不确定性在动态规范的上下文中。
2017-03-01 cs.AI
SELFDOUBT: Uncertainty Quantification for Reasoning LLMs via the Hedge-to-Verify Ratio
Independent Researcher(独立研究员);Zillow Group(Zillow集团)
SELFDOUBT是一种单次通过的不确定性框架,通过从推理轨迹中提取行为信号解决推理大语言模型的不确定性量化问题,其核心信号Hedge-to-Verify比率能检测推理轨迹中的不确定性标记及自我检查行为,适用于任何私有API的部署。
2026-04-07 cs.AI
Scalable Uncertainty Reasoning in Knowledge Graphs
University of Stuttgart, Stuttgart, Germany(斯图加特大学)
本文提出模块化框架,通过定制技术处理知识图谱中不确定性三个层次:概率属性值、概率三元组存在性和不完整模式知识,旨在平衡语义精度与计算可行性。
2026-05-15 cs.AI
Learning and Reasoning for Robot Sequential Decision Making under Uncertainty
SUNY Binghamton(纽约州立大学宾汉姆顿分校);University of Indianapolis(印第安纳波利斯大学)
机器人经常面临需要多个动作的复杂任务,其中顺序决策(SDM)功能变得必要。这项工作的关键贡献是一个机器人SDM框架,称为LCORPP,支持同时的能力,监督学习被动状态估计,自动推理与人类知识的陈述,并规划下实现长期目标的不确定性。特别是,我们使用一个混合推理范式来完善的状态估计,并提供信息先验的概率规划。在实验中,移动机器人的任务是估计人类的意图,使用他们的运动轨迹,声明性的上下文知识,和人机交互(基于对话和基于运动)。结果表明,在效率和准确性,我们的框架表现优于其无学习和无推理的办公环境。
2019-12-10 cs.AI
Probabilistic Inference and Probabilistic Reasoning
University of Rochester(罗切斯特大学)
不确定性至少以两种方式进入人类的推理和推断。我们有理由假设,这些不同的不确定性用途在自动推理中也会发挥作用。
2013-03-27 cs.AI
Process, Structure, and Modularity in Reasoning with Uncertainty
Oregon State University(俄勒冈州立大学)
不确定性管理的计算机制必须支持交互式和增量式的问题制定、推理、假设检验和决策。然而,目前大多数不确定性推理系统主要集中在推理,并提供更大的问题没有支持。我们提出了一种计算方法的不确定性管理提供了直接支持的动态,增量方面的这项任务,而在同一时间允许直接表示的证据关系的结构。同时,我们表明,这种方法响应于Heckerman和Horvitz [Heck87]的模块化问题。本文强调这种方法的能力的例子。另一篇论文[D'Am89]详细介绍了所涉及的表示和算法。
2013-03-27 cs.AI
Action Networks: A Framework for Reasoning about Actions and Change under Uncertainty
Rockwell Science Center(罗克韦尔科学中心)
这项工作提出了行动网络作为一个语义上有充分依据的框架推理下的行动和变化的不确定性。行动网络为概率因果网络增加了两个基本元素:可控变量和持久变量。可控变量允许将动作表示为直接设置域中特定事件的值,但要遵守前提条件。持久性变量提供了一个持久性的规范模型,根据这个模型,变量的状态和决定其值的因果机制都随着时间的推移而持续存在,除非受到动作(或其后果)的干预。行动网络还允许不同的方法来量化因果关系中的不确定性,这超出了传统的概率量化。本文介绍了最近的成果和工作进展。
2013-02-27 cs.AI
A Unified Framework for Nonmonotonic Reasoning with Vagueness and Uncertainty
Indian Statistical Institute(印度统计研究所);Jadavpur University(贾达夫普尔大学)
针对模糊和不确定信息下的非单调推理问题,提出了一种区间值模糊答案集规划方法。$[0,1]$的子区间集被认为是真值空间。使用基于前序的真值和知识排序对区间进行排序。基于前序的排序是基于双格的排序的增强版本。该系统可以表示和推理优先规则,规则与例外。提出了一种计算答案集的迭代法。利用差分方程的概念,给出了一类逻辑程序迭代终止的充分条件。
2020-08-05 cs.AI
Trace Length is a Simple Uncertainty Signal in Reasoning Models
University of Southern California(南加州大学);Stanford University(斯坦福大学);Apple(苹果公司)
本研究表明推理轨迹长度是大型推理模型中简单且有用的置信度估计器,其效果与言语化置信度等零样本方法相当且互补,并揭示了推理后训练从根本上改变了轨迹长度与准确率的关系,确立了轨迹长度作为实用置信度度量的地位。
2025-10-12 cs.AI
Deliberative Reasoning Network: An Uncertainty-Driven Paradigm for Belief-Tracked Inference with Pretrained Language Models
DRN通过不确定性最小化范式提升预训练语言模型的逻辑推理能力,实现高准确率和强泛化性能。
2026-01-21 cs.AI
UPAIR: Diagnosing Reasoning States via Uncertainty-Progress Alignment for Selective Intervention
University of Science and Technology of China(中国科学技术大学)
研究大型推理模型测试时的“过度思考”问题,提出相位动量对齐假设并构建认知能量模型,引入PUMA框架,通过分层诊断架构区分主动探索与被动停滞,在多基准实验中优于现有基线,实现更好的准确性-效率权衡和跨域泛化。
2026-08-12 cs.AI
Unlocking Exploration in RLVR: Uncertainty-aware Advantage Shaping for Deeper Reasoning
Kuaishou Technology(快手科技)
本文提出UCAS方法,通过不确定性感知的优势塑造提升RLVR中的推理能力,解决探索效率低和熵崩溃问题,实验表明在多个数学推理基准上表现优异。
2026-04-16 cs.AI
A Neuro-Symbolic Framework for Reasoning under Perceptual Uncertainty: Bridging Continuous Perception and Discrete Symbolic Planning
The University of Hong Kong(香港大学);Guangzhou College of Commerce(广州商学院)
针对AI系统中连续感知与离散符号推理的连接挑战,提出一种神经符号框架,通过概率符号状态提取与不确定性感知规划器实现感知到规划的不确定性建模与传播,在桌面机器人操纵任务中取得优于POMDP基线的性能,且具通用性。
2025-11-18 cs.AI
Sycophancy Mitigation Through Reinforcement Learning with Uncertainty-Aware Adaptive Reasoning Trajectories
University of California, Davis(加州大学戴维斯分校);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Virginia Tech(弗吉尼亚理工大学);Meta AI;Adobe Research(Adobe研究)
本文提出SMART框架,将谄媚行为视为推理优化问题,通过不确定性感知的自适应蒙特卡洛树搜索和基于进展的强化学习两阶段方法,在保持模型通用能力的同时显著减少谄媚行为。
2025-09-20 cs.AI
Uncertainty Under the Curve: A Sequence-Level Entropy Area Metric for Reasoning LLM
本文提出序列级 Entropy Area Score(EAS),通过整合模型自身 token 级预测熵衡量推理型 LLM 生成不确定性,并在数据选择中优于 Pass Rate 过滤。
2025-08-28 cs.AI
Analysis and Extension of the Evidential Reasoning Algorithm for Multiple Attribute Decision Analysis with Uncertainty
Northwestern Polytechnical University(西北工业大学)
在多属性决策分析(MADA)问题中,往往需要处理具有不确定性的评价信息。证据推理方法是处理此类MADA问题的有效方法之一。作为证据推理方法的核心,Yang等人首先提出了一个原始的证据推理(ER)算法,然后他们对ER算法进行了改进,以满足所提出的四个合成公理,而这四个公理是一个合理的聚集过程所需要满足的。然而,到目前为止,这两种ER算法的本质区别以及综合公理的合理性仍然不清楚。本文在Dempster-Shafer理论(DST)框架下对ER算法进行了分析,证明了原ER算法遵循可靠性折扣和组合方案,而改进的ER算法遵循重要性折扣和组合方案。进一步揭示了这四个综合公理并不是检验一个属性聚合算法合理性的有效准则。在此基础上,提出了一种扩展的ER算法,该算法综合考虑了属性的可靠性和重要性,为不确定性MADA提供了一种更通用的属性聚合方案.以摩托车性能评估问题为例说明了该算法的有效性。
2019-03-28 cs.AI
Know What You Know: Metacognitive Entropy Calibration for Verifiable RL Reasoning
EGPO通过整合内在不确定性提升强化学习推理性能,实现稳定且不确定性的策略优化。
2026-02-26 cs.AI
Quantifying Consistency in LLM Logical Reasoning via Structural Uncertainty
AWS Generative AI Innovation Center(AWS生成式AI创新中心)
提出结构不确定性框架,通过自偏好排序的稳定性评估LLM推理一致性,在逻辑和数学任务中与答案分散度互补,提升不可靠实例识别。
2026-06-17 cs.AI
Uncertainty Reasoning for Probabilistic Petri Nets via Bayesian Networks
University of Duisburg-Essen(杜伊斯堡-埃森大学);University of Leicester(莱斯特大学)
本文利用扩展贝叶斯网络的不确定性推理Petri网,发射的过渡是概率。特别地,贝叶斯网络被用作概率分布的符号表示,对观察者关于网络中令牌的知识进行建模。观察者可以通过监测成功和失败的步骤来研究网络。贝叶斯网的更新机制是通过放松一些限制,导致模块化贝叶斯网,可以方便地表示和修改。对于每一个符号表示,问题是如何从模块化贝叶斯网络中获得信息-在这种情况下是边际概率分布。我们展示了如何做到这一点,通过推广已知的变量消除方法。以疾病传播(SIR模型)和社交网络中的信息扩散为例,说明了该方法的有效性。我们已经实现了我们的方法,并提供了运行时的结果。
2020-09-30 cs.AI
Towards Agents That Know When They Don't Know: Uncertainty as a Control Signal for Structured Reasoning
Novo Nordisk(诺和制药);University of Oxford(牛津大学)
针对大语言模型智能体在多表结构化数据推理中过度自信的问题,提出融合检索与摘要不确定性的感知智能体,通过GRPO强化学习及推理过滤提升事实性与校准度,在多组学任务中效果显著。
2025-09-02 cs.AI
Seeing and Reasoning with Confidence: Supercharging Multimodal LLMs with an Uncertainty-Aware Agentic Framework
University College London(伦敦大学学院);National Health Service(英国国家医疗服务体系);University of Surrey(萨里大学);Samsung AI Centre(三星人工智能中心);Queen Mary University of London(伦敦玛丽女王大学)
本文提出免训练框架SRICE,通过将不确定性量化与外部视觉工具集成到多模态大语言模型中,实现可靠的智能体推理,在多个数据集上平均提升4.6%并优于部分微调方法。
2025-03-11 cs.AI
Quantifying and Understanding Uncertainty in Large Reasoning Models
Department of Computer Science, Iowa State University(爱荷华州立大学计算机科学系)
本文提出了一种量化推理-答案结构不确定性的新方法,并开发了基于Shapley值的统一解释框架,通过理论分析和实验验证了方法的有效性。
2026-04-15 cs.AI cs.LG
Enrichment of Qualitative Beliefs for Reasoning under Uncertainty
Huazhong Univ of Sci. and Tech.(华中科技大学);University of New Mexico(新墨西哥大学);ONERA(法国航空航天研究院)
本文论述了丰富的定性信念功能下的不确定性推理和组合信息表示的自然语言通过语言标签。在这项工作中,两种可能的丰富(定量和/或定性)的语言标签被认为是和运营商(加法,乘法,除法等)处理他们提出和解释。我们将它们表示为$qe$ -算子,$qe$代表“定性富集”算子。这些算子可以看作是最近在DSmT中提出的经典定性算子($q$ -算子)的直接推广。$q$ -算子也在本文中进行了详细的证明。语言标记的数量富集是$[0,\infty)$中的一个数值支持度,而语言标记的质量富集是在一个有限的有序语言值集合中取值。定量富集不如定性富集精确,但预计更接近人类专家在表达具有支持度的语言标签时可以轻松提供的内容。给出了两个简单的例子来说明如何融合的定性丰富的信念分配。
2007-09-11 cs.AI
Uncertainty and Incompleteness
General Electric Corporate Research and Development(通用电气公司研究与开发中心)
使用缺省逻辑的两个主要困难是它们的棘手性和在多个扩展中选择的问题。我们提出了一种方法,这些问题的基础上整合非单调推理与合理的推理的基础上三角规范。先前提出的不确定性推理系统(RUM)在非循环图上执行不确定单调推理。我们已经扩展了RUM允许非单调的推论和周期内的非单调规则。通过限制非单调循环的大小和复杂性,我们仍然可以进行有效的推理。不确定性度量为在多个违约中做出决定提供了基础。讨论了寻找最佳默认值的不同算法和启发式方法。
2013-03-27 cs.AI
Improving reasoning at inference time via uncertainty minimisation
Aarhus University(奥胡斯大学)
通过在单个思想层面最大化自我确定性,提升推理能力并实现高效推理时间扩展。
2026-03-07 cs.AI
GAM-Agent: Game-Theoretic and Uncertainty-Aware Collaboration for Complex Visual Reasoning
Sun Yat-sen University(中山大学);Princeton University(普林斯顿大学);Snap Inc.(Snap公司)
该研究提出GAM-Agent博弈论多智能体框架,通过基础感知智能体与关键验证智能体的非零和博弈及不确定性感知协作,在四个视觉推理基准上显著提升了中小及强规模VLM的性能,为可靠可解释多模态推理提供了新路径。
2026-08-12 cs.AI
Alleviating Hallucination in Reasoning Tasks with Training-Free Uncertainty-Guided Steering
Qualcomm AI Research(高通人工智能研究院);UC Santa Barbara(加州大学圣塔芭芭拉分校)
提出无需训练的USteer机制,利用置信度梯度调整层激活,在推理时引导生成低不确定性输出,从而减少幻觉并提升准确性。
2026-11-10 cs.AI
Inference-Time Conformal Reasoning with Valid Factuality Control for Large Language Models
Machine Learning, ICML(机器学习,国际机器学习大会)
提出推理时保形推理框架,将保形预测集成到推理图生成中,通过图级不确定性校准生成停止阈值,实现有效事实性控制。
2026-06-28 cs.AI
SymboUQ: Symbolic Uncertainty Quantification for Spatial Reasoning in LLMs
SymboUQ是面向LLMs空间推理的符号化不确定性量化框架,通过区分可符号性与语义确定性,整合三类分数估计最终答案可靠性,在五个空间推理基准的四个冻结LLM骨干上,使AUROC相对提升约8%、Brier损失相对降低7%。
2026-08-11 cs.AI
ReCBM: Uncertainty-Gated Relational Reasoning for Concept Bottleneck Models
本文针对概念瓶颈模型(CBMs)在不可靠概念状态下鲁棒推理不足的问题,提出ReCBM框架,引入语义概念关系并以不确定性调节概念贡献,在多数据集实验中验证了其在概念异常场景下的性能与紧凑概念子集提取能力。
2026-08-12 cs.AI cs.CV
ChemAU: Harness the Reasoning of LLMs in Chemical Research with Adaptive Uncertainty Estimation
Fudan University(复旦大学);The Chinese University of Hong Kong(香港中文大学)
针对大语言模型在化学推理中易产生幻觉且现有不确定性估计不够精确的问题,本文提出ChemAU框架,通过按推理步骤位置自适应估计不确定性,精准识别知识空白并借助领域模型补充化学专业知识,从而显著提升推理准确性与不确定性估计性能。
2025-06-01 cs.AI q-bio.QM
Dealing with uncertainty in fuzzy inductive reasoning methodology
U.P.I.I.C.S.A.
本研究的目的是在模糊归纳推理(FIR)方法的背景下,开发一种不确定性策略下的推理。FIR算法是由G.克利尔它是一种基于系统行为而不是结构知识的数据驱动方法。它是一个非常有用的工具,为那些系统的建模和预测,没有以前的结构知识。FIR推理基于从可用数据合成的模式规则。模式规则库的大小可能非常大,使得预测过程相当困难。为了减少模式规则库的大小,可以从模式规则集开始自动提取经典Sugeno模糊规则。Sugeno规则库尽可能多地保留模式规则知识。在这个过程中,一些信息丢失,但鲁棒性大大增加。在预测过程中,可以使用模式规则库或Sugeno模糊规则库。当计算资源使得有可能处理整个模式规则库或当提取的模糊规则由于与原始数据相关联的不确定性而不够准确时,第一选项是期望的。在第二种选择中,预测过程是通过经典的Sugeno推理系统来完成的。如果与数据相关的不确定性很小,则使用Sugeno模糊规则库获得的预测将非常准确。本文提出了一种混合模式/模糊规则的策略来处理不确定性的方式,最好的两个角度。通过所谓的误差模型来识别数据空间中具有较高不确定性的区域。在这些领域的预测过程中,利用混合模式/模糊规则计划,而确定的不确定性较低的地区只使用Sugeno模糊规则库。所提出的策略被应用到一个真正的生物医学系统,即,控制心血管系统的中枢神经系统。
2012-10-19 cs.AI
When Modalities Conflict: How Unimodal Reasoning Uncertainty Governs Preference Dynamics in MLLMs
Peking University(北京大学);Provable Responsible AI and Data Analytics (PRADA) Lab(可证明负责任的人工智能和数据分析实验室);King Abdullah University of Science and Technology(卡布斯大学);South China University of Technology(华南理工大学);Tsinghua University(清华大学);University of Georgia(佐治亚大学);MBZUAI(马克斯·普朗克人工智能研究所)
本文提出将多模态大模型解决模态冲突的模态跟随行为分解为相对推理不确定性和固有模态偏好,通过可控数据集和熵指标揭示模态跟随概率随相对不确定性单调递减的规律,并探查逐层预测解释了模型在平衡点附近的振荡机制。
2025-11-04 cs.AI
Incidence Calculus: A Mechanism for Probabilistic Reasoning
University of Edinburgh(爱丁堡大学)
专家系统需要自动化不确定性的机制。有时这些机制需要服从概率推理的性质。一个纯粹的数字机制,像目前为止提出的那些,不能提供一个概率逻辑与真值功能连接词。我们提出了一种替代机制,发病率演算,这是基于一个表示的不确定性使用的点集,这可能代表的情况下,模型或可能的世界。关联演算确实提供了一个具有真值函数连接词的概率逻辑。
2013-03-27 cs.AI
Learning from Self-Generated Responses: Reliability--Uncertainty Self-Distillation for Reasoning
George Mason University(乔治梅森大学)
该研究提出RUSD方法,利用大语言模型自身的解题尝试,通过结合判定可靠性与学生预测不确定性加权蒸馏损失,在11个推理基准上显著提升了Qwen3系列模型的推理准确率。
2026-10-13 cs.AI
Understanding Reasoning in LLMs through Strategic Information Allocation under Uncertainty
Microsoft Research(微软研究院);KAIST(韩国科学技术院);Seoul National University(首尔国立大学)
本文提出一个信息论框架,将推理分解为程序推进和认知外化(不确定性标记级外化),证明零散外化能在无显式错误触发时恢复收敛,并通过实验表明小规模SFT即可调控该能力,从而将推理重新定义为不确定性下的策略信息分配。
2026-05-26 cs.AI cs.LG
Helicase: Uncertainty-Guided Supply Chain Knowledge Graph Construction with Autonomous Multi-Agent LLMs
Department of Engineering, University of Cambridge(剑桥大学工程系);The Alan Turing Institute(艾伦·图灵研究所)
提出Helicase,一种基于多智能体大语言模型的自主系统,通过不确定性引导的迭代验证和知识图谱构建,解决供应链中需要多跳推理的结构化推断问题,并引入SCQA基准评估。
2026-05-26 cs.AI
Combining Symbolic and Numeric Approaches to Uncertainty Management
Oregon State University(俄勒冈州立大学)
一个完整的方法来推理下的不确定性需要支持增量和交互式的制定和修订,以及推理,模型的问题域能够代表我们的不确定性。我们提出了一个混合推理方案,它结合了符号和数值方法的不确定性管理,为这些任务提供高效和有效的支持。混合动力是基于符号技术改编自基于假设的真理维护系统(ATMS),结合数字方法改编自Dempster/Shafer理论的证据,在鲍德温的支持逻辑编程系统的扩展。通过将ATMS视为用于不确定性计算的符号代数系统来实现杂交。除了动态地确定假设空间的能力之外,该技术还具有用于执行具有数字确定性估计的推理的传统方法的几个主要优点,包括改进的依赖和部分独立证据的管理,更快的命题推理的运行时评估,从多个视角查询命题的确定性值的能力,以及递增地扩展或修改领域模型的能力。
2013-03-27 cs.AI
Reasoning about Uncertainty: Do Reasoning Models Know When They Don't Know?
Princeton University(普林斯顿大学)
本文研究推理语言模型的不确定性量化,发现其普遍过度自信且推理越深越严重,并提出内省式UQ方法,证明部分模型可通过反思思维链改善校准。
2025-07-18 cs.AI cs.CL
Quantum Abduction: A New Paradigm for Reasoning under Uncertainty
Stake Lab, University of Molise(斯泰克实验室,莫利塞大学)
量子反向推理通过非经典范式模拟人类在不确定性下的多线索推理,实现动态综合而非排除,适用于历史谜团、文学、医学和科学理论变革等领域。
2025-12-21 cs.AI
TokUR: Token-Level Uncertainty Estimation for Large Language Model Reasoning
Rutgers University(罗格斯大学);UIUC(伊利诺伊大学厄巴纳-香槟分校);Amazon(亚马逊);Red Hat AI Innovation(红帽AI创新)
本文提出TokUR框架,通过引入低秩随机权重扰动生成令牌级不确定性分布,提升大语言模型在数学推理中的可靠性和可解释性。
2026-04-11 cs.AI cs.CL cs.LG
Probability is Not Enough: Exploring and Counting Divergent Tokens for Reasoning Uncertainty Quantification in LLMs
College of Computer Science and Software Engineering, Shenzhen University(深圳大学计算机与软件学院);Tsinghua University(清华大学);Behavioral and Spatial AI Lab, Peking University & Tongji University(北京大学与同济大学行为与空间人工智能实验室)
本文提出分歧令牌置信度(DTC)框架,通过计数两模型解码时强烈分歧的令牌来量化LLM推理不确定性,无需训练,在数学基准上显著提升校准性能。
2026-09-30 cs.AI
Plausibility and probability in deductive reasoning
Carleton University(卡尔顿大学);Harvard John A. Paulson School of Engineering and Applied Sciences(哈佛大学约翰·A·保尔森工程与应用科学学院)
我们考虑哥德尔和其他人所评论的关于未经证明的数学陈述的理性不确定性问题。使用贝叶斯启发的参数,我们建立了一个规范的模型,公平的赌注下演绎的不确定性,从概率和算法的理论。我们评论连接到Zeilberger的概念“半严格的证据”,特别是固有的主观性将存在。我们还讨论了金融观点与模型的套利交易者有有限的计算资源。
2019-12-16 cs.AI
Map Learning with Indistinguishable Locations
Brown University(布朗大学)
几乎所有的空间推理问题都涉及这样或那样的不确定性。不确定性是由于测量距离和角度时使用的传感器不准确而产生的。我们称之为方向不确定性。当一个地点被错误地确定为另一个地点时,在合并空间信息时也会产生不确定性。我们称之为认知不确定性。在构建空间表示(地图)的导航目的的大多数问题涉及方向和识别的不确定性。在本文中,我们表明,一类特殊的空间推理问题,涉及建设的表示,大规模的空间可以有效地解决,即使在存在方向和识别的不确定性。我们特别关注由于确认不确定性而产生的问题。
2013-03-27 cs.AI
Towards Label-Free Biological Reasoning Synthetic Dataset Creation via Uncertainty Filtering
Novo Nordisk(诺华制药);University of Oxford(牛津大学)
针对生物领域湿实验标签稀缺问题,提出基于不确定性过滤的无标签合成思维链数据创建方法,利用模型置信度筛选高质量数据,提升监督微调性能并缩小与真实标签训练的差距。
2025-10-07 cs.AI cs.LG
Towards Trustworthy Knowledge Graph Reasoning: An Uncertainty Aware Perspective
Vanderbilt University(范德堡大学);University of Oregon(俄勒冈大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校);Air Force Research Lab(空军研究实验室)
本文提出不确定性感知的知识图谱推理框架UAG,通过保形预测和错误率控制模块为KG-LLM推理提供理论保证,在实现任意预定义覆盖率的同时平均将预测集大小缩减40%。
2024-10-20 cs.AI cs.CL