Using Tree-Decomposable Structures to Approximate Belief Networks
Louisiana State University（路易斯安那州立大学）
树结构已被证明为传播信念提供了一个有效的框架[Pearl，1986]。本文研究了寻找最优逼近树的问题。三个二元变量的星分解方案[Lazarsfeld，1966; Pearl，1986]被证明可以增强支持树结构的概率分布类，这种结构被称为树可分解结构。对数评分规则被发现是一个适当的最优性标准，以评估不同的树可分解的结构。最接近于实际的信念网络的结构的特性，确定使用对数规则，贪婪和精确的技术来找到最佳的近似。
2013-03-06 cs.AI
Faithful Approximations of Belief Functions
National University of Singapore（新加坡国立大学）
提出并研究了置信函数近似的概念基础。它基于一致性和紧密性的要求。研究了最佳逼近问题。不幸的是，计算的最佳近似原来是棘手的。因此，提出了各种探试法，并在其准确性和计算速度方面进行了实验评估。这些方法相比，早期提出的近似的置信函数。
2013-01-23 cs.AI
Finding Approximate POMDP solutions Through Belief Compression
Massachusetts Institute of Technology（麻省理工学院）；Carnegie Mellon University（卡内基梅隆大学）；Stanford University（斯坦福大学）
标准价值函数方法寻找部分可观测马尔可夫决策过程（POMDPs）的政策，通常被认为是棘手的大型模型。这些算法的棘手性在很大程度上是在整个信念空间上计算精确的最优策略的结果。然而，在现实世界的POMDP问题，计算最优策略的完整的信念空间往往是不必要的良好的控制，即使是复杂的政策类的问题。控制器所经历的信念通常位于嵌入在高维信念空间中的结构化的低维子空间附近。找到仅针对该子空间的最优价值函数的良好近似比计算完整的价值函数容易得多。我们介绍了一种新的方法来解决大规模POMDPs通过降低信仰空间的维数。我们使用指数族主成分分析（Collins，Dasgupta和Schapire，2002）来表示稀疏的，高维的信念空间，使用信念状态的小集合的学习特征。然后，我们仅根据低维信念特征进行规划。通过在这个低维空间中进行规划，我们可以找到POMDP模型的策略，这些策略比传统技术可以处理的模型大几个数量级。我们演示了使用该算法的合成问题和移动机器人导航任务。
2011-10-04 cs.AI
On Heuristics for Finding Loop Cutsets in Multiply-Connected Belief Networks
针对多连通信度网络中求最小环割集的问题，提出了一种新的启发式算法。我们将此算法与[Suemmondt和Cooper，1988]中提出的算法进行比较。我们提供了这些算法的性能上的下限相对于彼此和相对于最佳的。我们证明，这个问题的启发式算法凸轮可以保证产生循环割集内的一个恒定的差异，从最佳的。我们讨论了基于随机生成的网络的实验结果，并讨论了未来的工作和开放的问题。
2013-03-27 cs.AI
Independence, Conditionality and Structure of Dempster-Shafer Belief Functions
Institute of Computer Science, Polish Academy of Sciences（波兰科学院计算机科学研究所）
Several approaches of structuring (factorization, decomposition) of Dempster-Shafer joint belief functions from literature are reviewed with special emphasis on their capability to capture independence from the point of view of the claim that belief functions generalize bayes notion of probability. It is demonstrated that Zhu and Lee's {Zhu:93} logical networks and Smets' {Smets:93} directed acyclic graphs are unable to capture statistical dependence/independence of bayesian networks {Pearl:88}. On the other hand, though Shenoy and Shafer's hypergraphs can explicitly represent bayesian network…
2017-07-12 cs.AI
Belief-Calibrated Multi-Agent Consensus Seeking for Complex NLP Tasks
Shandong University（山东大学）；VU Amsterdam（阿姆斯特丹自由大学）；Leiden University（莱顿大学）
针对多智能体共识寻求中忽视内部信念矛盾与协作对象选择不当的问题，提出BCCS框架，通过选择最优协作者并校准共识判断，在MATH和MMLU上分别提升2.23%和3.95%准确率。
2025-10-07 cs.AI
Restricted Value Iteration: Theory and Algorithms
Washington University（华盛顿大学）；Hong Kong University of Science & Technology（香港科技大学）
值迭代是一种寻找POMDPs近似最优策略的常用算法。由于需要考虑整个置信空间，这需要解决大量的线性规划，因此效率低下。本文研究了限制于信念子集的值迭代问题。我们表明，连同适当选择的信念子集，限制值迭代产生接近最优的政策，我们给出了一个条件，以确定是否一个给定的信念子集将带来节省空间和时间。我们还将限制值迭代应用于两类有趣的POMDPs，即信息POMDPs和近可辨别的POMDPs。
2011-06-30 cs.AI
Aligning Probabilistic Beliefs under Informative Missingness: LLM Steerability in Clinical Reasoning
Department of Biomedical Informatics（生物医学信息学系）
本文研究LLM能否利用信息性缺失进行预测推理，通过分析三种提示方法发现，尽管结构引导和上下文学习可提升概率对齐，但需精心干预才能利用信息性缺失。
2026-03-18 cs.AI
Optimal Belief Approximation
Max-Planck-Institut für Astrophysik（马克斯·普朗克天体物理研究所）；Ludwig-Maximilians-Universität München（慕尼黑大学）
在贝叶斯统计中，概率分布表示信念。然而，对于许多问题的信念不能计算分析和近似的信念是必要的。我们寻求一个损失函数来量化传达一个给定的近似值有多"尴尬"。我们复制并讨论了一个旧的证明，表明只有一个排名的要求下，（1）最好的排名近似是非近似的信念和（2）排名判断近似只通过他们的预测的实际结果。在推导中获得的损失函数等于归一化时的Kullback-Leibler散度。这种损失函数在文献中经常使用。然而，似乎有混乱的正确顺序，其功能的论点，近似和非近似的信念，应该使用。正确的顺序可确保通信的接收者只被剥夺最少量的信息量。我们希望这个基本推导能解决这个明显的混淆。例如，当用高斯分布近似置信时，通过矩匹配给出最优逼近。这与许多建议的计算方案相反。
2017-08-03 cs.AI math.ST physics.data-an
Predictive Coding Enhances Meta-RL To Achieve Interpretable Bayes-Optimal Belief Representation Under Partial Observability
University of Washington（华盛顿大学）；Allen Institute for Neural Dynamics（神经动态研究院）；Google DeepMind（谷歌DeepMind）
本研究受神经科学预测编码启发，将自监督预测模块引入元强化学习，以促进部分可观测环境下可解释的贝叶斯最优信念表示学习，实验证明该方法在表示质量、策略学习和泛化上均优于传统元强化学习。
2025-10-24 cs.AI q-bio.NC
Towards Optimal Performance and Action Consistency Guarantees in Dec-POMDPs with Inconsistent Beliefs and Limited Communication
Technion - Israel Institute of Technology（技术学院-以色列理工学院）
本文提出了一种去中心化框架，用于在具有不一致信念和有限通信的Dec-POMDPs中实现最优联合行动选择，提供行动一致性和性能的概率保证，并在需要时触发通信。
2025-12-23 cs.AI cs.MA cs.RO
D2A-BSP: Distilled Data Association Belief Space Planning with Performance Guarantees Under Budget Constraints
Technion - Israel Institute of Technology（以色列理工学院）
在模糊和感知混淆的环境中，未解决的数据关联导致机器人和环境状态的多模态假设。为了避免灾难性的结果，当在这种模糊的环境中操作时，在信念空间规划（BSP）中推理数据关联是至关重要的。然而，明确地考虑所有可能的数据关联，假设的数量随着规划范围呈指数增长，并且确定最佳动作序列很快变得棘手。此外，在硬预算约束下，必须修剪一些不可忽略的假设，实现性能保证至关重要。在这项工作中，我们提出了一种计算效率高的新方法，只利用一个提取的子集的假设来解决BSP问题，同时推理数据关联。此外，为了提供性能保证，我们推导出相对于最优解的误差界。然后，我们展示了我们的方法在一个非常别名的环境中，我们设法显着减少计算时间，而不影响解决方案的质量。
2022-07-17 cs.AI
Dempsterian-Shaferian Belief Network From Data
Institute of Computer Science, Polish Academy of Sciences（波兰科学院计算机科学研究所）
Shenoy和Shafer {Shenoy：90}证明了对于Dempster-Shafer理论和概率论，存在有效地计算联合置信分布的边缘（通过所谓的局部计算）的可能性，只要联合分布可以分解（因式分解）成置信网络。存在许多算法用于将概率联合信念分布从数据分解成baidu（信念）网络。例如，Spirtes，Gaviour和Schein{Spirtes：90 b}提出了一个猜想，即直接依赖测试和头对头会议测试足以以Pearl的d-分离概念{Geiger：90}适用的方式从数据中对网络进行分类。本文旨在将Spirtes，Gaviour和Scheines {Spirtes：90 b}方法转移到Dempster-Shafer理论（DST）的基础上。为此，利用{Klopotek：93 b}中开发的DST的频率论解释。DST的条件性的一个特殊的概念被引入，并证明了行为相对于珍珠的d-分离{盖革：90}的方式与条件概率（虽然一些差异，如非唯一性是显而易见的）。在此基础上，开发了类似于{Spirtes：90 b}的算法。引入了部分定向图的概念，并在此图中定义了p-d-分离的概念。如果直接相关检验和头对头会议测试被用来定向的POG，那么它的p-d-分离被证明是等效的Pearl的d-分离的任何兼容的DAG。
2018-06-06 cs.AI
Discriminated Belief Propagation
好的差错控制码的近最佳解码通常是一项困难的任务。然而，对于某种类型的（足够）好的代码，存在具有接近最佳性能的有效解码算法。这些代码通过具有低复杂度网格表示的组成代码的组合来定义。他们的解码算法是（循环）信念传播的一个实例，并且基于组成信念的迭代转移。由此，置信度由在组成网格中计算的符号概率给出。即使采用了接近最佳性能的弱组成码，即，编码器/解码器对（几乎）达到信息理论容量。然而，（loopy）的信念传播只执行一个相当特定的代码集，这限制了它的适用性。在本文中，迭代译码的推广。建议传递更多的值，而不仅仅是组成信念。这是通过独立调查代码空间的部分获得的信念的转移来实现的。这导致了鉴别器的概念，其用于在某些区域内提高解码器分辨率并定义鉴别符号信念。结果表明，这些信念近似的整体符号概率。这导致迭代规则（低于信道容量）通常仅允许整体解码问题的解。通过高斯近似，该算法的低复杂度的版本。此外，该方法然后可以应用于宽范围的信道映射，而没有显著的复杂性增加。
2007-10-29 cs.AI cs.IT math.IT
Complexity of stochastic branch and bound methods for belief tree search in Bayesian reinforcement learning
最近有很多关于强化学习的贝叶斯方法的工作，表现出接近最佳的在线性能。这些方法面临的主要障碍是，在大多数感兴趣的问题中，最优解涉及在无限大的树中进行规划。然而，可以获得每个树节点的值的随机上下界。这使我们能够使用随机分支定界算法来有效地搜索树。本文提出了两个这样的算法，并在这种情况下，他们的复杂性。
2009-12-26 cs.AI cs.LG
Commitment Hierarchies under Intent Revision: A Belief-Revision Account of Salvage in Tool-Use Agents
Georgia Institute of Technology（佐治亚理工学院）
本研究提出通过一次性修订分类与确定性决策传播，使工具使用智能体在用户中途改变意图时实现成本最优的打捞，比重启便宜43%且保持100%正确率。
2026-09-30 cs.AI
Toward negotiable reinforcement learning: shifting priorities in Pareto optimal sequential decision-making
Machine Intelligence Research Institute（机器智能研究所）；UC Berkeley, Center for Human Compatible AI（加州大学伯克利分校人类兼容人工智能中心）
现有的多目标强化学习（MORL）算法不考虑具有不同信念的玩家产生的目标。具体地说，考虑两个具有不同信念和效用函数的参与者，他们可以合作建造一台代表他们采取行动的机器。需要一个表示来表示机器的策略将在多大程度上优先考虑每个玩家的利益。假设球员已经达到了他们的情况的共同知识，本文推导出一个递归，任何帕累托最优策略必须满足。从递归中可以得到两个定性的观察结果：机器必须（1）使用每个参与者自己的信念来评估一个行动对该参与者的效用函数有多好，以及（2）随着时间的推移，它分配给每个参与者的预期效用的相对优先级，与参与者的信念预测机器输入的程度成正比。观察结果（2）代表了与朴素的线性效用聚合（如海萨尼的效用定理和现有的MORL算法）的实质性分歧，这里表明，代表不同信念的参与者进行帕累托最优顺序决策是不够的。
2017-05-13 cs.AI cs.GT cs.LG
Belief Tree Search for Active Object Recognition
University of California San Diego（加州大学圣迭戈分校）
主动对象识别（AOR）已被视为一个无监督学习问题，其中对象检测的最佳轨迹是未知的，并且要通过减少标签不确定性度量或使用强化学习进行训练来发现。这些方法无法保证其解决方案的质量。在本文中，我们把AOR作为一个部分可观察的马尔可夫决策过程（POMDP），并找到接近最优的政策训练数据使用相应的信念马尔可夫决策过程（MDP）的信念树搜索（BTS）。AOR然后减少到从训练集上的接近最优的策略到测试集的知识转移的问题。我们训练一个长短期记忆（LSTM）网络，以预测训练集推出时的最佳下一步行动。我们sho，建议AOR方法推广到熟悉的对象，也到新的对象的新的看法。我们将这种监督方案与引导策略搜索进行了比较，发现与引导策略方法相比，LSTM网络达到了更高的识别准确率。我们进一步研究优化观察函数，以增加最优策略的总收集奖励。在AOR中，观测函数仅近似已知。我们提出了一个基于梯度的方法更新这个近似的观察功能，以增加任何政策的总回报。我们发现，通过优化观测函数和重新训练监督LSTM网络，测试集上的AOR性能显着提高。
2017-08-13 cs.AI cs.CV
GLST: Global-Local Spatio-Temporal Memory Decomposition Framework for Online Chained-Goal Navigation
Stanford University（斯坦福大学）；University of California, Berkeley（加利福尼亚大学伯克利分校）；NVIDIA（英伟达公司）
针对在线链式目标导航的记忆需求冲突问题，提出GLST记忆分解框架，结合目标条件奖励平衡探索与利用，经仿真和真实机器人实验验证性能优于基线方法。
2026-10-14 cs.AI cs.RO
Off-Belief Learning
Facebook AI Research（脸书人工智能研究院）
Dec-POMDPs中的标准问题设置是自我博弈，其目标是找到一组最佳的策略。通过自我游戏学习的策略可能会采用任意的约定，并隐含地依赖于基于对其他代理行为的脆弱假设的多步推理，因此在测试时与人类或独立训练的代理配对时会失败。为了解决这个问题，我们提出了信念偏离学习（OBL）。在每个时间步，OBL代理遵循一个策略$π_1$，该策略在假设过去的动作由给定的固定策略（$π_0$）执行，但假设未来的动作将由$π_1$执行的情况下进行优化。当$π_0$是均匀随机的，OBL收敛到一个最优的政策，不依赖于推理的基础上其他代理的行为（最优接地政策）。OBL可以在层次结构中迭代，其中一个级别的最佳策略成为下一个级别的输入，从而以受控的方式引入多级认知推理。与现有的方法，这可能会收敛到任何均衡的政策，OBL收敛到一个独特的政策，使其适合于zero-shot协调（ZSC）。OBL可以通过虚构的转换机制扩展到高维设置，并且在玩具设置和基准人类AI & ZSC问题Hanabi中表现出强大的性能。
2021-08-18 cs.AI cs.LG
Online POMDP Planning via Simplification
Department of Computer Science（计算机科学系）；Department of Aerospace EngineeringTechnion - Israel Institute of Technology（以色列理工学院航空航天工程系）；Technion - Israel Institute of Technology（以色列理工学院）；Technion - Israel Institute of Technology, Haifa 32000, Israel（以色列理工学院（海法））
在本文中，我们考虑在线规划部分可观察域。解决相应的POMDP问题是一个非常具有挑战性的任务，特别是在在线设置。我们的主要贡献是一种新的算法方法，简化的信息理论信念空间规划（SITH-BSP），其目的是加快POMDP规划考虑信念依赖的奖励，而不影响解决方案的准确性。我们这样做是通过数学联系的简化元素的问题，以相应的对应的原始问题。具体来说，我们专注于信念简化，并使用它来制定相应的原始信念依赖奖励的界限。在计算最优策略的过程中，这些界限又被用来在信念树上执行分支修剪。我们进一步引入了自适应简化的概念，同时重新使用不同简化级别之间的计算，并利用它来修剪，在每个级别的信念树，所有分支，但一个。因此，我们的方法是保证找到原问题的最佳解决方案，但与实质性的加速。作为第二个关键的贡献，我们推导出新的分析界微分熵，考虑到基于采样的信念表示，我们相信是自己的利益。我们验证我们的方法在模拟中使用这些界限和简化对应于减少样本的数量，表现出显着的计算加速，同时产生最佳的解决方案。
2021-05-11 cs.AI cs.RO
A sequential transit network design algorithm with optimal learning under correlated beliefs
Seoul National University（首尔大学）；New York University Tandon School of Engineering（纽约大学坦登工程学院）
本文提出一种人工智能驱动的序贯公交网络设计算法，结合最优学习在数据有限条件下逐步扩展路线，并通过比较三种学习策略验证了考虑相关性的探索优于贪婪选择。
2024-01-27 cs.AI cs.CY
Exploring Parallelism in Learning Belief Networks
已经表明，一类概率领域模型不能正确地学习几个现有的算法，采用一个单一的链接前瞻搜索。当使用多链路前瞻搜索时，学习算法的计算复杂性增加。我们研究了如何使用并行性来解决学习这些模型的复杂性增加，并加快在大型域的学习。提出了一种并行处理的学习任务分解算法。进一步的任务分解用于均衡处理器之间的负载，以提高加速和效率。为了从非常大的数据集学习，我们提出了一个重组的可用处理器，通过文件的缓慢数据访问可以被快速内存访问所取代。我们在并行计算机上的实现证明了算法的有效性。
2013-02-06 cs.AI cs.LG
Belief Propagation for Min-cost Network Flow: Convergence and Correctness
MIT（麻省理工学院）
消息传递类型算法（诸如所谓的置信传播算法）作为用于解决各种优化和推理问题的有吸引力的算法，最近在统计、信号处理和机器学习社区中获得了大量关注。作为一个分散的，易于实现和经验上成功的算法，BP值得关注的理论观点，在这里没有太多的是已知的，在现阶段。为了填补这一空白，我们考虑的能力限制的最小成本网络流问题的背景下，在运筹学领域的经典问题的BP算法的性能。我们证明了BP算法在伪多项式时间内收敛到最优解，条件是问题的最优解是唯一的且问题输入是整数。此外，我们提出了一个简单的修改BP算法，它给出了一个完全多项式时间随机近似计划（FPRAS）为同一问题，不再需要的唯一性的最优解。这是第一次证明BP具有完全多项式的运行时间。因此，我们的研究结果提供了一个理论上的理由，BP作为一个有吸引力的方法来解决一类重要的优化问题的可行性。
2012-07-11 cs.AI cs.DM
Factor Graph Optimization of Error-Correcting Codes for Belief Propagation Decoding
The Blavatnik School of Computer Science（布拉瓦尼克计算机科学学院）；Tel Aviv University（特拉维夫大学）
首次提出基于梯度的数据驱动方法设计稀疏码，通过学习因子图在置信传播解码下实现局部最优，解码性能比现有流行码高出数个数量级。
2024-10-10 cs.AI cs.IT cs.LG
