Reasoning in Non-Probabilistic Uncertainty: Logic Programming and Neural-Symbolic Computing as Examples
University of Bremen(不来梅大学);City University London(伦敦城市大学);University of Edinburgh(爱丁堡大学);University of Luxembourg(卢森堡大学);University of Amsterdam(阿姆斯特丹大学)
本文旨在实现两个目标:表明概率不是处理不确定性的唯一方法(甚至还有一些不确定性是由于概率方法无法解决的原则性原因);并提供证据证明基于逻辑的方法可以很好地支持不确定性推理。对于后者的要求,两个范例:逻辑编程与Kleene语义建模推理的话语中的信息,对预期模型的状态的事务的解释,和神经符号实现的输入/输出逻辑处理不确定性在动态规范的上下文中。
2017-03-01 cs.AI
What Breaks Knowledge Graph based RAG? Benchmarking and Empirical Insights into Reasoning under Incomplete Knowledge
University of Oslo(奥斯陆大学);Bosch Center for AI(博世人工智能中心);University of Stuttgart(斯图加特大学);Amazon(亚马逊公司);University of Oxford(牛津大学);The University of Manchester(曼彻斯特大学);University of Southampton(南安普顿大学)
本文提出BRINK基准测试,揭示了当前KG-RAG方法在知识不完整时推理能力有限,依赖内部记忆且泛化能力各异。
2026-01-12 cs.AI
MemeLogos: Knowledge-Driven Retrieval-Augmented Reasoning for Harmful Meme Detection
Beijing University of Posts and Telecommunications(北京邮电大学);School of Artificial Intelligence, Beijing Normal University(北京师范大学人工智能学院);College of Electrical Engineering, Zhejiang University(浙江大学电气工程学院);Zhongguancun Academy(中关村学院);China Telecommunications Corporation(中国电信集团有限公司)
针对现有有害表情包检测方法难以捕获可复用危害性知识与推理机制的问题,本文提出知识驱动的MemeLogos框架,通过星形知识图谱与多阶段推理提升检测性能与可解释性,实验验证其效果优于现有方法。
2026-11-19 cs.AI
KnowPath: Knowledge-enhanced Reasoning via LLM-generated Inference Paths over Knowledge Graphs
University of Science and Technology of China(中国科学技术大学);Zhejiang University of Technology(浙江工业大学)
KnowPath利用LLM内部知识引导外部知识图谱中的可解释子图探索,融合内外知识以增强推理,实验验证其有效性。
2025-05-24 cs.AI
Defeasible Reasoning with Knowledge Graphs
W3C/ERCIM
本文提出一种面向不完美知识的可废止推理表示法与模型,将其与论证理论关联,并探讨了声明式推理策略语法及大语言模型时代符号化方法的前景。
2023-09-22 cs.AI
Fact-Tree Reasoning for N-ary Question Answering over Knowledge Graphs
Nankai University(南开大学);Sichuan University(四川大学);University of Innsbruck(因斯布鲁克大学)
在问答(QA)任务中,为了在知识图谱(KG)上进行更高效、更可解释的答案推理,近年来多跳推理框架得到了广泛的研究。然而,多跳推理是不适用于回答n元的事实问题,由于其线性推理的性质。我们发现有两个可行的改进:1)将基本推理单元从实体或关系升级为事实; 2)将推理结构从链升级为树。在此基础上,提出了一种新的事实树推理框架,通过将问题转化为事实树,并对其进行迭代事实推理来预测正确答案。通过对本文引入的n元事实KGQA数据集的综合评价,我们证明了所提出的事实树推理框架具有预期的高答案预测精度的优势。此外,我们还评估了两个二进制KGQA数据集上的事实树推理框架,并表明我们的方法也有很强的推理能力相比,几个优秀的基线。这项工作对探索复杂的推理场景有直接的影响,并提供了一个初步的基线方法。
2022-03-14 cs.AI
MMCOMET: A Large-Scale Multimodal Commonsense Knowledge Graph for Visual Reasoning
University of Sydney(悉尼大学);University of Melbourne(墨尔本大学);University of Edinburgh(爱丁堡大学);The University of Sydney(悉尼大学)
MMCOMET是一种大规模多模态常识知识图谱,通过整合视觉、物理和社会知识,提升了复杂推理任务如图像描述和叙事生成的性能。
2026-11-11 cs.AI
Neural, Symbolic and Neural-Symbolic Reasoning on Knowledge Graphs
Renmin University of China(中国人民大学)
知识图谱推理是支持信息抽取、信息检索和推荐等机器学习应用的基本组成部分。由于知识图谱可以被看作是知识的离散符号表示,因此知识图谱上的推理可以自然地利用符号技术。然而,符号推理是不容忍的歧义和噪音的数据。相反,深度学习的最新进展促进了知识图谱上的神经推理,这对模糊和噪声数据具有鲁棒性,但与符号推理相比缺乏可解释性。考虑到这两种方法的优点和缺点,最近的努力已经取得了这两种推理方法相结合。在这篇综述中,我们深入研究了知识图谱上的符号推理、神经推理和混合推理的发展。我们调查两个具体的推理任务,知识图完成和知识图谱上的问答,并解释他们在一个统一的推理框架。我们还简要讨论了知识图谱推理的未来发展方向。
2021-03-31 cs.AI cs.LO
KompaRe: A Knowledge Graph Comparative Reasoning System
University of Illinois at Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校)
推理是从知识图谱中利用有价值的洞察力、知识和模式的基本能力。现有的工作主要集中在逐点推理,包括搜索、链接预测、实体预测、子图匹配等,本文介绍了知识图谱上的比较推理,旨在推断多条线索的共性和不一致性。我们设想,比较推理将补充和扩展现有的逐点推理知识图谱。详细地说,我们开发KompaRe,第一个原型系统,提供比较推理能力,在大型知识图谱。我们提出了系统的体系结构和核心算法,包括知识段提取,成对推理和集体推理。实证评估表明,拟议的KompaRe的功效。
2020-11-06 cs.AI cs.LG
Knowledge Reasoning Language Model: Unifying Knowledge and Language for Inductive Knowledge Graph Reasoning
The Key Laboratory of Knowledge Engineering with Big Data (the Ministry of Education of China), Hefei University of Technology, China(合肥工业大学大数据知识工程教育部重点实验室);School of Computer Science and Information Engineering, Hefei University of Technology, China(合肥工业大学计算机与信息学院);Nanjing University of Science and Technology, China(南京理工大学);China Unicom Digital Technology Co., Ltd., Beijing, China(联通数字科技有限公司);China Unicom Internet of Things Co., Ltd., Nanjing, China(联通物联网有限责任公司);Shandong Inspur Science Research Institute, Jinan, China(山东浪潮科学研究院);Griffith University, Australia(格里菲斯大学)
本文提出KRLM,通过统一语言模型知识与知识图谱上下文,解决归纳知识图谱推理中的知识扭曲和生成幻觉问题,实验表明其在25个真实数据集上表现优异。
2026-04-07 cs.AI cs.CL
Neural Probabilistic Logic Learning for Knowledge Graph Reasoning
Beijing University of Posts and Telecommunications(北京邮电大学);Jiaxing University(嘉兴大学)
本文提出神经概率逻辑学习框架NPLL,通过评分模块增强嵌入网络表达能力,并结合基于变分推断的马尔可夫逻辑网络提升可解释性,在多个基准数据集上显著提高了知识图谱推理的准确性与质量。
2024-07-04 cs.AI cs.LG
Knowledge Pyramid: A Novel Hierarchical Reasoning Structure for Generalized Knowledge Augmentation and Inference
Northwestern Polytechnical University(西北工业大学)
本文针对知识图谱推理中低层知识导致泛化不足的问题,提出知识金字塔框架,通过从低层知识提取高层知识并在多层层次化知识图谱中进行推理,在医学数据集上验证了其能提升推理性能与泛化能力,尤其在少样本场景下准确率显著提高。
2024-01-17 cs.AI cs.IR
On Exploring the Reasoning Capability of Large Language Models with Knowledge Graphs
Singapore Management University(新加坡管理大学);National Sun Yat-sen University(国立中山大学)
本文研究大语言模型利用预训练知识图谱进行推理的能力,通过四类任务验证其记忆回忆与上下文推断表现,并识别出内容幻觉和本体幻觉两类问题。
2023-12-01 cs.AI cs.CL
Reliable Reasoning Path: Distilling Effective Guidance for LLM Reasoning with Knowledge Graphs
The Hong Kong Polytechnic University(香港理工大学)
针对大语言模型知识不足、易幻觉且难处理复杂问题的缺陷,提出结合LLM语义与知识图谱结构信息、带反思模块的RRP框架,可即插即用增强LLM推理,在两个公开数据集上达SOTA。
2025-06-12 cs.AI cs.CL
MMKGR: Multi-hop Multi-modal Knowledge Graph Reasoning
Soochow University(苏州大学);Monash University(莫纳什大学);The University of Queensland(昆士兰大学)
多模态知识图谱(MKG)不仅包括关系三元组,还包括相关的多模态辅助数据(即,文本和图像),这增强了知识的多样性。然而,自然的不完全性极大地阻碍了MKG的应用。为了解决这个问题,现有的研究采用基于嵌入的推理模型来推断丢失的知识融合后的多模态特征。然而,这些方法的推理性能受到以下问题的限制:(1)多模态辅助特征融合效果不佳;(2)缺乏复杂的推理能力,无法进行多跳推理,从而无法推断出更多的缺失知识。为了克服这些问题,我们提出了一种新的模型,称为MMKGR(多跳多模态知识图谱推理)。具体而言,该模型包含以下两个组成部分:(1)一个统一的门-注意力网络,旨在通过充分的注意力交互和降噪来生成有效的多模态互补特征;(2)一个互补特征感知强化学习方法,提出通过执行多跳推理过程来预测丢失的元素,基于组件(1)中获得的特征。实验结果表明,MMKGR优于国家的最先进的方法在MKG推理任务。
2022-09-03 cs.AI cs.DB
Learning by Applying: A General Framework for Mathematical Reasoning via Enhancing Explicit Knowledge Learning
University of Science and Technology of China(中国科学技术大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
数学推理是通用人工智能的关键能力之一,它要求机器从解决问题中掌握数学逻辑和知识。然而,就在推理过程中学习和应用的知识而言,现有的方法并不透明(因此不可解释)。在本文中,我们提出了一个通用的学习应用(LeAp)框架,以增强现有的模型(骨干)在一个原则性的方式通过显式知识学习。在LeAp中,我们在一个新的问题-知识-表达范式中进行知识学习,知识编码器从问题数据中获取知识,知识解码器将知识应用于表达推理。学习到的数学知识,包括词-词关系和词-算子关系,形成了一个显性的知识图谱,将知识的“学”与“用”有机地连接起来。此外,对于问题的解决,我们设计了一个语义增强模块和推理增强模块,应用知识,以提高问题的理解和符号推理能力的任何骨干,分别。从理论上证明了LeAp自主学习机制的优越性。在三个真实数据集上的实验表明,LeAp提高了所有骨干的性能,学习准确的知识,并实现了更可解释的推理过程。
2023-02-11 cs.AI cs.CL cs.LG
Logical Reasoning over Natural Language as Knowledge Representation: A Survey
Nanyang Technological University(南洋理工大学);University of Texas at Dallas(德克萨斯大学达拉斯分校)
本文综述了以自然语言作为知识表示、预训练语言模型作为推理器的逻辑推理新范式,涵盖其优势、基准、挑战及未来方向,该范式有效缓解了形式表示的瓶颈并优于端到端神经方法。
2024-02-16 cs.AI cs.CL
Incorporating Connections Beyond Knowledge Embeddings: A Plug-and-Play Module to Enhance Commonsense Reasoning in Machine Reading Comprehension
School of EECS, Peking University(北京大学电子工程与计算机科学学院);Peng Cheng Laboratory(鹏城实验室)
传统的机器阅读理解(MRC)已经通过模式匹配得到了很好的解决,但常识推理的能力仍然是人类和机器之间的差距。以前的方法通过预训练的知识图谱嵌入(KGE)丰富单词表示来解决这个问题。然而,它们对知识图谱(KG)中节点之间的大量连接的利用有限,这些连接可能是构建常识推理链的关键线索。在本文中,我们提出了一个即插即用的模块来存储连接信息的常识推理(PIECER)。除了用知识嵌入丰富单词表示外,PIECER还构建了一个联合查询-通道图,通过单词之间面向知识的连接来明确地指导常识推理。此外,PIECER具有很高的通用性,因为它可以插入到任何MRC模型的合适位置。实验结果ReCoRD,一个大规模的公共MRC数据集,需要常识推理,PIECER介绍了稳定的性能改善四个代表性的基础MRC模型,特别是在低资源设置。
2021-03-26 cs.AI cs.CL
Towards Large-Scale Interpretable Knowledge Graph Reasoning for Dialogue Systems
University of California, Santa Barbara(加州大学圣巴巴拉分校);Amazon Alexa AI(亚马逊Alexa人工智能部门)
如今,与语音助手交互的用户需要以非常特定的方式表达他们的请求,以获得适当的响应。这限制了用户体验,部分原因是对话平台缺乏推理能力,以及需要大量劳动的手工规则。提高用户体验和减轻设计人员的手工劳动的一种可能的方法是建立一个端到端的对话系统,该系统可以在感知用户的话语的同时自己进行推理。在这项工作中,我们提出了一种新的方法,将知识推理能力纳入对话系统在一个更可扩展和推广的方式。我们提出的方法允许一个单一的Transformer模型直接在大规模的知识图谱上行走,以生成响应。据我们所知,这是第一个工作,有Transformer模型产生的反应,通过推理可微知识图谱。我们调查的推理能力,所提出的方法在面向任务和特定领域的聊天对话。实验结果表明,该方法可以有效地将知识图谱整合到具有完全可解释推理路径的对话系统中。
2022-03-20 cs.AI cs.CL
Towards Trustworthy Knowledge Graph Reasoning: An Uncertainty Aware Perspective
Vanderbilt University(范德堡大学);University of Oregon(俄勒冈大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校);Air Force Research Lab(空军研究实验室)
本文提出不确定性感知的知识图谱推理框架UAG,通过保形预测和错误率控制模块为KG-LLM推理提供理论保证,在实现任意预定义覆盖率的同时平均将预测集大小缩减40%。
2024-10-20 cs.AI cs.CL
Knowledge Aware Conversation Generation with Explainable Reasoning over Augmented Graphs
Baidu Inc.(百度公司)
研究了两类知识,即来自知识图谱的三元组和来自文档的文本,用于知识感知的开域会话生成,其中图谱路径可以为知识选择决策缩小顶点候选,文本可以为响应生成提供丰富的信息.知识图谱与文本的融合可能会产生相互增强的优势,但这方面的研究较少。为了解决这一挑战,我们提出了一个知识意识聊天机三个组件,一个增强的知识图谱与三元组和文本,知识选择器,知识意识的响应生成器。对于图上的知识选择,我们将其表述为多跳图推理问题,以有效地捕获会话流,与以前的工作相比,这是更可解释和灵活的。为了充分利用将我们的图与其他图区分开来的长文本信息,我们使用机器阅读理解技术改进了最先进的推理算法。我们证明了我们的系统在两个数据集上与最先进的模型相比的有效性。
2019-09-03 cs.AI cs.CL
Walk Wisely on Graph: Knowledge Graph Reasoning with Dual Agents via Efficient Guidance-Exploration
Peking University(北京大学)
针对多跳推理中奖励稀疏和长路径推理困难的问题,提出基于分层强化学习的双智能体模型FULORA,通过高层智能体在简化图上的高效引导与低层智能体在原图上的探索,有效提升了知识图谱推理性能,尤其在长距离推理上表现优异。
2024-12-18 cs.AI cs.LG
Discover Important Paths in the Knowledge Graph Based on Dynamic Relation Confidence
Zhejiang University of Technology(浙江工业大学);Zhejiang Police College(浙江警察学院)
现有的大多数知识图谱通常都不完整,可以通过一些推理算法进行补充。基于路径特征的推理方法因其具有较强的可解释性而被广泛应用于知识图谱的推理与补全领域。然而,基于路径特征的推理方法仍然存在以下几个方面的问题:路径搜索效率低,稀疏任务的路径不足,部分路径对推理任务没有帮助。为了解决上述问题,本文提出了一种DC-Path方法,该方法结合动态关系置信度等指标对路径特征进行评价,进而指导路径搜索,最后进行关系推理。实验结果表明,与现有的关系推理算法相比,该方法能从知识图谱中选择出当前推理任务中最具代表性的特征,对当前关系推理任务取得更好的性能。
2022-11-02 cs.AI cs.LG
KG-Reasoner: A Reinforced Model for End-to-End Multi-Hop Knowledge Graph Reasoning
Department of Computer Science and Engineering(计算机科学与工程系)
本文提出KG-Reasoner,通过强化学习整合多步推理至LLM的'思考'阶段,实现动态探索推理路径,实验表明其在多跳和知识密集型推理任务中表现优异。
2026-04-14 cs.AI cs.CL
Knowledge-based Analogical Reasoning in Neuro-symbolic Latent Spaces
TCS Research(塔塔咨询服务公司研究院)
类比推理问题挑战了连接主义和符号AI系统,因为这些系统需要结合背景知识、推理和模式识别。虽然符号系统摄取明确的领域知识并执行演绎推理,但它们对噪声敏感,并且需要将输入映射到预设的符号特征。另一方面,连接主义系统可以直接摄取丰富的输入空间,如图像,文本或语音,即使有噪声输入也能识别模式。然而,联结主义模型努力包括演绎推理的明确领域知识。在本文中,我们提出了一个框架,结合了神经网络的模式识别能力与符号推理和背景知识解决一类类比推理问题的属性集和可能的关系,他们是已知的先验。我们从“神经算法推理”方法[DeepMind 2020]中获得灵感,并通过以下方式使用特定于问题的背景知识:(i)基于问题的符号模型学习分布式表示;(ii)训练反映问题中所涉及关系的神经网络转换;最后(iii)训练从图像到分布式表示的神经网络编码器(i)。这三个要素使我们能够使用神经网络作为操纵分布式表示的基本函数来执行基于搜索的推理。我们在RAVENs Progressive Matrices中的视觉类比问题上测试了这一点,并实现了与人类表现相竞争的准确性,并且在某些情况下,优于最初的端到端基于神经网络的方法。虽然最近的神经模型在规模上训练产生SOTA,但我们新的神经符号推理方法是解决这个问题的一个有希望的方向,并且可以说是更通用的,特别是对于领域知识可用的问题。
2022-09-19 cs.AI cs.LG
Towards Loosely-Coupling Knowledge Graph Embeddings and Ontology-based Reasoning
Technische Universität Berlin(柏林工业大学);Sapienza University of Rome(罗马第一大学)
知识图谱完成(又名~链接预测),即~从知识图谱推断缺失信息的任务是在诸如产品推荐和问答的许多应用中广泛使用的任务。知识图谱嵌入和/或规则挖掘和推理的现有技术方法是数据驱动的,因此仅基于输入知识图谱包含的信息。这导致不令人满意的预测结果,使得这种解决方案不适用于关键领域,如医疗保健。为了进一步提高知识图谱完成的准确性,我们提出将知识图谱嵌入的数据驱动能力与源于专家或蕴涵机制的特定于领域的推理(例如,OWL2)。通过这种方式,我们不仅可以利用输入知识图谱中可能不包括的领域知识来提高预测精度,而且还允许用户插入他们自己的知识图谱嵌入和推理方法。我们的初步结果表明,我们提高了香草知识图谱嵌入的MRR精度高达3倍,并优于混合解决方案,结合知识图谱嵌入与规则挖掘和推理高达3.5倍MRR。
2022-07-04 cs.AI cs.DB cs.LG
Modularized Transfer Learning with Multiple Knowledge Graphs for Zero-shot Commonsense Reasoning
Yonsei University(延世大学);University of Edinburgh(爱丁堡大学);Google Research(谷歌研究院);Seoul National University(首尔国立大学)
常识推理系统应该能够推广到不同的推理情况。然而,大多数最先进的方法依赖于昂贵的数据注释和过拟合到特定的基准,而不学习如何执行一般的语义推理。为了克服这些缺点,zero-shot QA系统已经通过将常识知识图谱(KG)转换成用于模型训练的合成QA形式样本而显示出作为鲁棒学习方案的前景。考虑到不同常识知识库类型的增加,本文旨在将zero-shot迁移学习场景扩展到多源环境中,使不同知识库能够协同使用。为了实现这一目标,我们建议,以减轻损失的知识,从不同的知识源之间的干扰,通过开发一个模块化的变体的知识聚合作为一个新的zero-shot常识推理框架。五个常识推理基准测试的结果证明了我们的框架的有效性,提高了多个KG的性能。
2022-06-22 cs.AI cs.CL cs.LG
Multimodal Analogical Reasoning over Knowledge Graphs
Zhejiang University(浙江大学);AZFT Joint Lab for Knowledge Engine(知识引擎AZFT联合实验室);National University of Singapore(新加坡国立大学)
类比推理是人类认知的基础,在各个领域都占有重要地位。然而,以往的研究主要集中在单模态类比推理,忽视了结构知识的利用。值得注意的是,认知心理学的研究表明,来自多模态来源的信息总是比单一模态来源带来更强大的认知转移。为此,我们介绍了多模态类比推理知识图谱,这需要多模态推理能力的背景知识的帮助下,新的任务。具体来说,我们构建了一个多模态类比推理数据集(MARS)和一个多模态知识图谱MarKG。我们使用多模态知识图谱嵌入和预训练的Transformer基线进行评估,说明了所提出的任务的潜在挑战。基于结构映射理论,我们提出了一种新的模型无关的多模态类比推理框架--Transformer(MarT),该框架具有更好的性能。代码和数据集可在https://github.com/zjunlp/MKG_Analogy上获得。
2023-03-01 cs.AI cs.CL cs.CV
Know-Evolve: Deep Temporal Reasoning for Dynamic Knowledge Graphs
Georgia Institute of Technology(佐治亚理工学院)
具有时间戳的大规模事件数据的可用性已经引起了包含每个边缘的时间信息的动态演化的知识图谱。在这种动态知识图谱中随着时间的推移进行推理还没有很好地理解。为此,我们提出了Know-Evolve,这是一种新型的深度进化知识网络,它可以随着时间的推移学习非线性进化的实体表示。事实(边缘)的发生被建模为多变量点过程,其强度函数由基于学习的实体嵌入计算的该事实的分数调制。我们在两个大规模的真实世界数据集上展示了各种关系学习方法的显着改进性能。此外,我们的方法有效地预测发生或复发时间的事实,这是新的相比,在多关系设置先前的推理方法。
2017-06-21 cs.AI cs.CL cs.LG
SMORE: Knowledge Graph Completion and Multi-hop Reasoning in Massive Knowledge Graphs
Stanford University(斯坦福大学);Google Brain(谷歌大脑);UC Berkeley(加州大学伯克利分校)
知识图谱(KG)以头-关系-尾三元组的形式捕获知识,并且是许多AI系统中的重要组成部分。KG上有两个重要的推理任务:(1)单跳知识图谱完成,其涉及预测KG中的各个链接;以及(2)多跳推理,其中目标是预测哪些KG实体满足给定的逻辑查询。基于嵌入的方法通过首先计算每个实体和关系的嵌入,然后使用它们来形成预测来解决这两个任务。然而,现有的可扩展KG嵌入框架仅支持单跳知识图谱完成,不能应用于更具挑战性的多跳推理任务。在这里,我们提出了可扩展的多hOp推理(SMORE),第一个通用的框架,单跳和多跳推理在KG。使用单机SMORE可以在Freebase KG(86 M实体,338 M边)中执行多跳推理,这是以前考虑的KG的1,500倍。SMORE的运行时性能的关键是一个新的双向拒绝采样,实现了在线训练数据生成的复杂性的平方根减少。此外,SMORE利用异步调度,重叠基于CPU的数据采样,基于GPU的嵌入计算,以及频繁的CPU-GPU IO。SMORE增加了吞吐量(即,训练速度)是先前多跳KG框架的2.2倍,具有最小的GPU内存需求(2GB用于在86 M节点Freebase上训练400-dim嵌入),并实现了与GPU数量接近线性的加速。此外,在更简单的单跳知识图谱完成任务SMORE上,在单GPU和多GPU设置上实现了与最先进的框架相当甚至更好的运行时性能。
2021-11-01 cs.AI cs.DB cs.DC
Overcoming Knowledge Discrepancies: Structuring Reasoning Threads through Knowledge Balancing in Interactive Scenarios
Ferdinand Steinbeis Institute(费尔迪南·斯坦贝茨研究所)
针对交互式推理中知识差异和推理线索低效问题,本文提出两阶段ReT-Eval框架,通过图神经网络提取知识结构并结合大语言模型内在知识,再以奖励引导剪枝生成有效推理线索,实验证明其优于现有模型。
2025-08-16 cs.AI
Uncertain Reasoning Using Maximum Entropy Inference
TRW(TRW公司)
在不确定信息的推理中使用最大熵推理通常由信息论论证来证明。本文讨论了一个可能的反对这种信息理论的理由,并说明它可以满足。然后,我比较了最大熵推理与某些其他目前流行的方法不确定推理。在进行这样的比较时,我们必须区分关于信念程度的静态理论和动态理论:静态理论关注的是在给定时间内信念程度的一致性条件;而动态理论关注的是人们的信念程度应该如何根据新信息而变化。指出最大熵推理是一种动态的推理理论,而概率论是一种静态的推理理论,将最大熵推理与概率论相结合,可以得到一个完整的不确定推理理论。我认为,这个总的理论比其他不确定推理的理论有更好的基础。
2013-03-27 cs.AI
Argument Graph Uncertainty: Quantifying Uncertainty from the Logical Structure of Reasoning Chains
Fraunhofer Heinrich-Hertz-Institut(弗劳恩霍夫海因里希·赫兹研究所)
本研究提出 Argument Graph Uncertainty 框架,通过分析推理链的逻辑结构量化不确定性,在 GPQA 等数据集上优于基线方法,可作为不确定性集成的互补组件。
2026-10-14 cs.AI
Decoupling Knowledge and Reasoning in LLMs: An Exploration Using Cognitive Dual-System Theory
本文提出受双系统认知理论启发的认知归因框架,通过快速与慢速思考模式解耦LLM的知识检索和推理调整,并在3个数据集、15个模型上揭示领域差异、缩放效应及层位分布。
2025-07-24 cs.AI
REAL: Resolving Knowledge Conflicts in Knowledge-Intensive Visual Question Answering via Reasoning-Pivot Alignment
University of Science and Technology of China(中国科学技术大学);Tsinghua University(清华大学)
提出REAL框架,通过推理枢轴对齐和引导解码,解决知识密集型视觉问答中因开放域检索引起的知识冲突问题。
2026-05-30 cs.AI
Multi-hop Reasoning and Retrieval in Embedding Space: Leveraging Large Language Models with Knowledge
Wayne State University(韦恩州立大学)
本文提出EMBRAG框架,通过生成基于知识图谱的逻辑规则并在嵌入空间中推理,提升知识图谱问答任务的鲁棒性和准确性。
2026-02-25 cs.AI
Inferring Substitutable and Complementary Products with Knowledge-Aware Path Reasoning based on Dynamic Policy Network
East China Normal University(华东师范大学)
对于推荐系统来说,为一个给定的产品推断出可替代和互补的产品是一个重要的和基本的问题。为了实现这一目标,现有的方法利用知识图谱来学习更多的证据进行推理,但由于缺乏优雅的决策策略,它们往往会遭受无效推理。为此,本文提出了一种新的知识感知路径推理(Knowledge-Aware Path Reasoning,KAPR)模型,该模型利用动态策略网络对知识图谱进行显式推理,从而推断出可替代和互补关系。我们的贡献可以突出为三个方面。首先,我们将此推理场景建模为马尔可夫决策过程,以实现知识图谱上的知识感知路径推理。其次,我们整合结构化和非结构化的知识,以提供足够的证据作出准确的决策。第三,我们在一系列真实世界的数据集上评估我们的模型,与最先进的方法相比,实现了具有竞争力的性能。我们的代码发布在www.example.com flower/kapr/tree/master上。
2021-10-07 cs.AI
Learning and Reasoning for Robot Sequential Decision Making under Uncertainty
SUNY Binghamton(纽约州立大学宾汉姆顿分校);University of Indianapolis(印第安纳波利斯大学)
机器人经常面临需要多个动作的复杂任务,其中顺序决策(SDM)功能变得必要。这项工作的关键贡献是一个机器人SDM框架,称为LCORPP,支持同时的能力,监督学习被动状态估计,自动推理与人类知识的陈述,并规划下实现长期目标的不确定性。特别是,我们使用一个混合推理范式来完善的状态估计,并提供信息先验的概率规划。在实验中,移动机器人的任务是估计人类的意图,使用他们的运动轨迹,声明性的上下文知识,和人机交互(基于对话和基于运动)。结果表明,在效率和准确性,我们的框架表现优于其无学习和无推理的办公环境。
2019-12-10 cs.AI
Exact Reasoning Under Uncertainty
Stanford University(斯坦福大学)
本文的重点是设计专家系统,以支持决策在复杂的,不确定的环境。在这种情况下,我们的研究表明,严格的概率表示,使决策理论推理的使用,是非常可取的,最近提出的替代方案(例如,模糊集理论和Dempster-Shafer理论)。此外,我们还讨论了语言的影响图和相应的方法-决策分析-使决策理论被有效地和高效地用作决策辅助。最后,我们使用RACHEL,一个系统,帮助不孕夫妇选择医疗,说明决策分析的方法,作为专家决策系统的基础。
2013-03-27 cs.AI
Thinking Fast and Laterally: Multi-Agentic Approach for Reasoning about Uncertain Emerging Events
NVIDIA(英伟达)
针对不确定性下的预判与因果推理问题,提出多智能体框架SALT,通过智能体间动态通信、长距离横向信息流结合细粒度信念管理实现横向思考式System-2推理,在流式复杂推理任务上表现优于单智能体系统。
2024-12-10 cs.AI
Process, Structure, and Modularity in Reasoning with Uncertainty
Oregon State University(俄勒冈州立大学)
不确定性管理的计算机制必须支持交互式和增量式的问题制定、推理、假设检验和决策。然而,目前大多数不确定性推理系统主要集中在推理,并提供更大的问题没有支持。我们提出了一种计算方法的不确定性管理提供了直接支持的动态,增量方面的这项任务,而在同一时间允许直接表示的证据关系的结构。同时,我们表明,这种方法响应于Heckerman和Horvitz [Heck87]的模块化问题。本文强调这种方法的能力的例子。另一篇论文[D'Am89]详细介绍了所涉及的表示和算法。
2013-03-27 cs.AI
Robot Representation and Reasoning with Knowledge from Reinforcement Learning
University of Science and Technology of China(中国科学技术大学);SUNY Binghamton(纽约州立大学宾汉姆顿分校);UT Austin(德克萨斯大学奥斯汀分校)
强化学习(RL)代理旨在通过与环境交互来学习,并且不是为使用声明性知识进行表示或推理而设计的。知识表示和推理(KRR)范式在陈述性KRR任务中很强,但不具备从这些经验中学习的能力。在这项工作中,我们将逻辑概率KRR与基于模型的RL相结合,使代理能够同时使用声明性知识进行推理并从交互经验中学习。来自人类和RL的知识被统一起来,并用于在潜在的新环境下动态计算特定于任务的规划模型。实验进行了使用移动机器人工作的对话,导航和交付任务。结果表明,显着的改进,与现有的基于模型的RL方法。
2018-11-22 cs.AI
Edit Knowledge, Not Just Facts via Multi-Step Reasoning over Background Stories
Aalto University(阿莱大学);Amazon.com(亚马逊公司);System 2 AI(系统2人工智能)
提出将知识更新视为推理问题,通过背景故事引入新知识、自生成多跳问题训练和知识蒸馏,使模型在多步推理中灵活运用新信息。
2026-09-03 cs.AI
KnowledgeBerg: Evaluating Systematic Knowledge Coverage and Compositional Reasoning in Large Language Models
University of Groningen(Groningen大学);LIACS, Leiden University(莱顿大学LIACS)
提出KnowledgeBerg基准,通过4800道选择题评估大模型在知识宽度和推理深度上的系统性覆盖与组合推理能力,发现现有模型存在严重不足。
2026-06-01 cs.AI
UPAIR: Diagnosing Reasoning States via Uncertainty-Progress Alignment for Selective Intervention
University of Science and Technology of China(中国科学技术大学)
研究大型推理模型测试时的“过度思考”问题,提出相位动量对齐假设并构建认知能量模型,引入PUMA框架,通过分层诊断架构区分主动探索与被动停滞,在多基准实验中优于现有基线,实现更好的准确性-效率权衡和跨域泛化。
2026-08-12 cs.AI
Do LLMs Exhibit Coherent Knowledge Structures in Mathematical Reasoning? A Perspective from Knowledge Space Theory
ETH Zürich(苏黎世联邦理工学院);ETH AI Center(ETH人工智能中心)
本研究基于知识空间理论构建框架,对比8款LLM与人类学习者,发现LLM无类人连贯知识结构,彼此间知识结构也不一致,且结构缺陷难以被常规评估检测。
2026-09-07 cs.AI
Hybrid-DMKG: A Hybrid Reasoning Framework over Dynamic Multimodal Knowledge Graphs for Multimodal Multihop QA with Knowledge Editing
Hybrid-DMKG通过动态多模态知识图谱实现多跳问答中的准确推理,提升对知识更新的鲁棒性。
2025-11-30 cs.AI
Event-Object Reasoning with Curated Knowledge Bases: Deriving Missing Information
Arizona State University(亚利桑那州立大学)
我们研究的更广泛的目标是制定关于知识库(如AURA)的为什么和如何问题的答案。当我们使用许多可用的知识库进行推理时,我们面临的一个问题是有时会丢失所需的信息。这种情况的示例包括部分缺失关于下一子事件、第一子事件、最后子事件、事件结果、事件输入、事件目的地和事件中涉及的原材料的信息。在许多情况下,人们可以通过推理恢复部分缺失的知识。在本文中,我们给出了一个正式的定义如何丢失的信息可以恢复,然后给出了一个ASP实现它。然后,我们讨论了这方面的含义,回答为什么和如何的问题。
2013-06-20 cs.AI
A Framework for Knowledge Management and Automated Reasoning Applied on Intelligent Transport Systems
Ericsson Research(爱立信研究院)
一般来说,网络物理系统,特别是智能交通系统(ITS)使用异构数据源与解决问题的专业知识相结合,以便做出可能导致某种形式的行动的关键决策,例如,驾驶员通知,交通灯信号的改变和制动,以防止事故。目前,决策过程的主要部分是由人类领域的专家,这是耗时,繁琐和容易出错。此外,由于知识拥有的固有性质,这种决策过程不能轻易复制或重复使用。因此,需要通过向计算系统提供领域知识的正式表示和处理该知识的一组方法来自动化推理过程。在本文中,我们提出了一个知识模型,可以用来表达两个声明性的知识系统的组件,它们的关系和它们的当前状态,以及程序知识表示可能的系统行为。此外,我们介绍了一个框架的知识管理和自动推理(KMARF)。KMARF背后的思想是基于知识库中的形式化推理专业知识自动选择适当的问题求解器,并将问题定义转换为相应的格式。这种方法可以自动推理,从而降低运营成本,并实现跨不同领域的知识和方法的可重用性。我们说明了交通规划用例的方法。
2017-01-11 cs.AI
Sycophancy Mitigation Through Reinforcement Learning with Uncertainty-Aware Adaptive Reasoning Trajectories
University of California, Davis(加州大学戴维斯分校);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Virginia Tech(弗吉尼亚理工大学);Meta AI;Adobe Research(Adobe研究)
本文提出SMART框架,将谄媚行为视为推理优化问题,通过不确定性感知的自适应蒙特卡洛树搜索和基于进展的强化学习两阶段方法,在保持模型通用能力的同时显著减少谄媚行为。
2025-09-20 cs.AI
Chain-of-Knowledge: Integrating Knowledge Reasoning into Large Language Models by Learning from Knowledge Graphs
Fudan University(复旦大学)
本文提出Chain-of-Knowledge框架,通过知识图谱规则挖掘构建KnowReason数据集,并引入试错机制缓解规则过拟合,从而提升大语言模型的知识推理与通用推理能力。
2024-06-30 cs.AI cs.CL
Benchmarking Safety Risks of Knowledge-Intensive Reasoning under Malicious Knowledge Editing
School of Computer Science(计算机科学学院)
本文提出EditRisk-Bench,通过整合恶意场景和多级推理任务,系统评估知识编辑对推理行为的影响,揭示恶意知识编辑导致错误推理的风险因素。
2026-05-11 cs.AI cs.CR
Decoupling Reasoning and Knowledge Injection for In-Context Knowledge Editing
Tsinghua University(清华大学)
针对上下文知识编辑中新知识注入与模型推理纠缠导致冲突的问题,提出DecKER框架,通过生成掩码推理路径并结合混合检索与模型验证解耦推理与知识编辑,在多跳问答基准上显著提升了推理一致性与准确性。
2025-05-31 cs.AI cs.CL
Tracking the Limits of Knowledge Propagation: How LLMs Fail at Multi-Step Reasoning with Conflicting Knowledge
EPFL(苏黎世联邦理工学院);Stony Brook University(石溪大学)
TRACK基准测试揭示了LLMs在存在冲突知识的多步骤推理中因无法有效整合更新信息而性能下降的问题。
2026-01-21 cs.AI cs.CL