Probabilistic Planning via Heuristic Forward Search and Weighted Model Counting
Technion - Israel Institute of Technology（以色列理工学院）；University of Innsbruck（因斯布鲁克大学）
提出了一种新的无观测概率规划算法。我们的算法，称为Probabilistic-FF，扩展了启发式的前向搜索机制的一致性FF的问题与概率的不确定性的初始状态和动作的影响。具体而言，Probabilistic-FF结合了Conformant-FF技术与（加权）CNF中的加权模型计数的强大机制，用于优雅地定义搜索空间和启发式函数。我们的评估Probabilistic-FF显示其良好的可扩展性，在一系列的概率域，构成了几个数量级的改进，在这方面的以前的结果。我们使用一个有问题的情况下，指出主要的开放问题，以解决进一步的研究。
2011-10-31 cs.AI
Probabilistic Verification of Recurrent Neural Networks for Single and Multi-Agent Reinforcement Learning
TU Wien（维也纳技术大学）；Massachusetts Institute of Technology（麻省理工学院）
本文提出RNN-ProVe框架，通过策略驱动采样和统计误差界估计，为递归神经网络策略提供更精确的概率保证，适用于部分可观测的单智能体和多智能体强化学习任务。
2026-05-14 cs.AI
Inference in Probabilistic Logic Programs using Weighted CNF's
概率逻辑程序是其中一些事实用概率注释的逻辑程序。几个经典的概率推理任务（如MAP和计算边际）还没有得到很多关注，这种形式主义。本文的贡献是，我们开发了有效的推理算法，这些任务。这是基于概率逻辑程序以及查询和证据到加权CNF公式的转换。这使我们能够将推理任务减少到经过充分研究的任务，例如加权模型计数。为了解决这些问题，我们采用了最先进的方法。我们考虑多种方法的转换程序，以及加权CNF的推理。由此产生的方法进行了实验评估，并显示出改善后，国家的最先进的概率逻辑编程。
2012-02-14 cs.AI
Characterizing Statistical Separability in TP-CRIV for Probabilistic AI Models
Tohoku University（东北大学）
本研究针对概率AI模型的TP-CRIV，表征其统计可分性，关联匹配与非匹配证明者的逐挑战行为和验证级可分性，通过LLM实验验证了理论与经验AUC的一致性，为第三方验证提供统计基础。
2026-10-15 cs.AI cs.CR
Rational Verification for Probabilistic Systems
Monash University（莫纳什大学）；University of Oxford（牛津大学）；University of Kaiserslautern（凯泽斯劳滕大学）
理性验证是确定在多智能体系统中，在系统中的智能体理性行动的假设下，通过选择共同形成博弈论均衡的策略，将持有哪些时间逻辑属性的问题。以前在这方面的工作主要集中在确定性系统。在本文中，我们发展的理论和算法的合理性验证概率系统。我们专注于并发随机游戏（CSG），它可以用来模拟复杂的多智能体环境中的不确定性和随机性。在定性概率环境下，研究了非合作博弈和合作博弈的理性验证问题。在前一种情况下，我们认为LTL性质满足的纳什均衡的游戏，在后一种情况下，LTL性质满足的核心。在这两种情况下，我们表明，问题是2 EXPTIME-完全的，因此不困难比简单得多的验证问题的模型检验LTL性能的系统建模为马尔可夫决策过程（MDPs）。
2021-07-26 cs.AI cs.GT cs.LO
Probabilistic Verification of Fairness Properties via Concentration
University of Pennsylvania（宾夕法尼亚大学）；MIT（麻省理工学院）
随着机器学习系统越来越多地用于做出现实世界的法律和财务决策，我们开发算法来验证这些系统不歧视少数群体至关重要。我们设计了一个可扩展的算法来验证公平性规范。我们的算法获得了强大的正确性保证的基础上自适应浓度不等式，这样的不等式使我们的算法自适应地采取样本，直到它有足够的数据来做出决定。我们在一个名为VeriFair的工具中实现了我们的算法，并证明了它可以扩展到大型机器学习模型，包括一个深度递归神经网络，它比之前验证的最大神经网络大五个数量级以上。虽然我们的技术只提供概率保证，由于使用随机样本，我们表明，我们可以选择的错误概率是非常小的。
2019-12-30 cs.AI
A Scalable Approach to Probabilistic Neuro-Symbolic Robustness Verification
Department of Computer Science and Leuven.AI KU Leuven Belgium（比利时列日大学计算机科学系）；Department of Computing Imperial College London UK（伦敦帝国学院计算机系）
针对概率神经符号推理系统的鲁棒性形式化验证难题，分析其精确求解的$\text{NP}^{\text{PP}}$-完全复杂度，提出首个基于松弛的近似验证方法，在基准测试中可扩展性指数级优于现有方案，且可用于大维度自动驾驶场景的安全验证。
2025-07-29 cs.AI
Probabilistic Verification of Voice Anti-Spoofing Models
本文提出PV-VASM，一种用于验证语音反伪装模型鲁棒性的概率框架，通过估计不同生成技术下的误分类概率，提供理论上限和实验验证，提升模型的安全性。
2026-03-12 cs.AI cs.SD
Tight Verification of Probabilistic Robustness in Bayesian Neural Networks
Imperial College London（伦敦帝国学院）；King’s College London（伦敦国王学院）
本文针对贝叶斯神经网络概率鲁棒性验证难题，提出利用迭代扩展和梯度搜索安全权重的两种算法，可结合任意验证器，并在 MNIST、CIFAR10 上将界限较 SoA 最紧致提升达 40%。
2024-02-28 cs.AI cs.FL cs.LG
Inference and learning in probabilistic logic programs using weighted Boolean formulas
KU Leuven（鲁汶大学）
概率逻辑程序是其中一些事实用概率注释的逻辑程序。本文研究了如何经典的推理和学习任务，从图形模型社区可以处理概率逻辑程序。概率逻辑程序以前没有真正解决过几个这样的任务，如计算给定证据的边缘和从（部分）解释中学习。本文的第一个贡献是为各种推理任务提供了一套有效的算法。它基于程序和查询以及证据到加权布尔公式的转换。这使我们能够将推理任务减少到经过充分研究的任务，例如加权模型计数，可以使用图形模型和知识编译文献中已知的最先进的方法来解决。第二个贡献是一个算法的参数估计的学习从解释设置。该算法采用期望最大化，并建立在顶部开发的推理算法。所提出的方法进行了实验评估。结果表明，推理算法提高了概率逻辑程序设计的最新水平，并且确实可以从解释中学习概率逻辑程序的参数。
2013-04-25 cs.AI cs.LG cs.LO
ScenicProver: A Framework for Compositional Probabilistic Verification of Learning-Enabled Systems
University of California, Santa Cruz（加州大学圣克鲁兹分校）；University of Michigan（密歇根大学）；University of California, Berkeley（加州大学伯克利分校）
本文提出ScenicProver框架，基于Scenic语言通过组合化分析、假设-保证契约和多源证据系统结合，解决学习使能CPS在复杂环境下的验证难题，并在相同预算下提供比单体测试更强的概率保证。
2026-11-03 cs.AI cs.LG cs.LO
Probabilistic Runtime Verification, Evaluation and Risk Assessment of Visual Deep Learning Systems
UiT: The Arctic University of Norway（UiT：北极大学）；Simula Research Laboratory（Simula研究实验室）
提出一种通过估计分布偏移概率并构建二叉树来计算网络准确性的概率运行时验证方法，在多个数据集上优于传统评估，误差在0.01-0.1之间，并可用于医学分割的风险评估。
2025-09-23 cs.AI cs.LG
Weighted Positive Binary Decision Diagrams for Exact Probabilistic Inference
Radboud University Nijmegen（拉德堡德大学奈梅亨分校）
最近的工作加权模型计数已非常成功地应用于贝叶斯网络的概率推理问题。概率分布被编码成布尔范式并编译成目标语言，以便更有效地表示条件概率之间表达的局部结构。我们表明，进一步的改进是可能的，通过利用知识，在编码阶段丢失，并将其纳入编译器的启发可满足性模理论。变量之间的约束被用作背景理论，这使我们能够优化香农分解。我们提出了一种新的语言，称为加权正二进制决策图，通过使用这种分解变体，以减少尺寸的算术电路，从而降低概率推理的成本。
2016-10-18 cs.AI cs.LO
Probabilistic Verification of Neural Networks Against Group Fairness
Singapore Management University（新加坡管理大学）；Huawei Singapore（华为新加坡）；Chinese Academy of Science（中国科学院）
公平性是神经网络的一个重要问题，它被应用于具有重要社会意义的应用中。最近，已经有了关于改进神经网络的公平性的多次尝试，其焦点在于公平性测试（例如，生成个体歧视性实例）和公平性训练（例如，通过强化培训提高公平性）。在这项工作中，我们提出了一种方法来正式验证神经网络的公平性，重点是基于独立性的公平性，如组公平性。我们的方法建立在用于从用户提供的神经网络（即，前馈神经网络或递归神经网络），其保证便于声音分析。学习的马尔可夫链不仅允许我们验证（具有可能近似正确性保证）神经网络是否公平，而且还有助于敏感性分析，这有助于理解为什么违反公平性。我们证明了我们的分析结果，神经权重可以优化，以提高公平性。我们的方法已被评估与多个模型在基准数据集上训练，实验结果表明，我们的方法是有效的和高效的。
2021-07-18 cs.AI cs.CY cs.LG
Multi-Agent Verification and Control with Probabilistic Model Checking
University of Oxford（牛津大学）
本文综述了概率模型检验与博弈论结合以验证多智能体交互的进展，并探讨其在人工智能、机器人等领域的应用及未来挑战。
2023-08-05 cs.AI cs.LO
Efficient and Sound Probabilistic Verification for AI Agents
Google DeepMind（谷歌DeepMind）；Google（谷歌）；University of Pennsylvania（宾夕法尼亚大学）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
提出基于分布鲁棒优化的框架，为AI智能体在复杂数字环境中的概率策略违规提供可靠上界，无需独立性假设，在终端和工具调用智能体基准上优于现有方法。
2026-06-19 cs.AI cs.CR
ProTIP: Probabilistic Robustness Verification on Text-to-Image Diffusion Models against Stochastic Perturbation
WMG, University of Warwick（华威大学WMG学院）；University of Liverpool（利物浦大学）
针对文本生成图像扩散模型鲁棒性评估的现有方法局限，提出带统计保障的概率鲁棒性定义及ProTIP框架，通过序贯分析与自适应集中不等式降本提效，可用于防御方法排序。
2024-07-12 cs.AI cs.CV cs.LG
A Formal Tool for Verification of Probabilistic Spiking Neural Networks Based on Quotient Abstractions
Université Côte d'Azur, CNRS, I3S（法国大学皮特里特-德阿祖尔大学、国家科学研究中心、I3S研究所）
针对脉冲神经网络状态空间爆炸问题，提出权重离散化商抽象模型，并开发集成设计与验证的工具CogSpike，通过形式化保证实现指数级状态空间缩减。
2026-06-23 cs.AI cs.FL cs.NE
Verification of ML Systems via Reparameterization
Oracle Labs（甲骨文实验室）；Boston College（波士顿学院）；University of Pittsburgh（匹兹堡大学）；IMDEA Software Institute（IMDEA软件研究所）
随着机器学习越来越多地用于基本系统，减少或消除严重错误的发生率非常重要。越来越多的研究已经开发出机器学习算法，这些算法具有关于性能、鲁棒性或公平性的正式保证。然而，这些算法的分析通常是复杂的，并且在实践中实现这样的系统引入了错误的空间。证明助手可以用于通过构造排除此类错误的机器检查的正确性证明来正式验证机器学习系统。然而，在证明助手内部关于概率性声明的推理仍然具有挑战性。我们展示了如何一个概率程序可以自动表示在一个定理证明使用的概念\emph{reparameterization}，以及如何一些繁琐的证明可测性可以自动生成的概率程序。为了证明这种方法足够广泛，可以处理不同类型的机器学习系统，我们验证了统计学习理论的经典结果（决策树桩的PAC可学习性），并证明贝叶斯假设检验中使用的零模型满足称为人口统计学平价的公平性标准。
2020-07-14 cs.AI cs.LG stat.ML
Propagation of~Interval Belief Structures and~Imprecise Copulas for~Neural Network Verification
LIX, CNRS, École polytechnique, Institut Polytechnique de Paris（LIX、CNRS、巴黎高等学院、巴黎理工研究院）
提出结合区间信念结构与不精确Copula的框架，用于神经网络在输入分布和依赖结构不确定下的定量验证，通过混合不精确Copula体积推导前向传播方法，提供概率安全属性的可靠上下界。
2026-06-29 cs.AI cs.LO math.PR
Exploiting Structure in Weighted Model Counting Approaches to Probabilistic Inference
Autodesk Canada（欧特克加拿大公司）；University of Waterloo（滑铁卢大学）
以往的研究表明，将贝叶斯网络编码成SAT公式，然后使用回溯搜索算法进行加权模型计数可以是精确推理的有效方法。在本文中，我们提出了改进这种方法的贝叶斯网络与噪声或噪声最大的关系-两个关系，在实践中被广泛使用，因为它们可以显着减少的概率需要指定的数量。特别是，我们提出了两个SAT编码的噪声或和两个编码的噪声最大值，利用结构或语义的关系，以提高时间和空间效率，我们证明了编码的正确性。我们在大规模真实和随机生成的贝叶斯网络上对我们的技术进行了实验评估。在这些基准测试中，我们的技术对于具有噪声OR/MAX关系的网络和扩展到更大的网络的最佳先前方法的加速高达两个数量级。此外，我们的技术扩展了加权模型计数方法，用于精确推断以前难以处理的网络。
2014-01-16 cs.AI
AgentGuard: Runtime Verification of AI Agents
JetBrains Research, The Netherlands（JetBrains研究院，荷兰）
针对自主智能体行为不可预测、传统验证失效的问题，本文提出 AgentGuard 运行时验证框架，通过 I/O 事件抽象、在线学习 MDP 与概率模型检查实现动态定量保证。
2025-09-28 cs.AI cs.SE
Approximate Weighted First-Order Model Counting: Exploiting Fast Approximate Model Counters and Symmetry
KU Leuven（鲁汶大学）；Czech Technical University in Prague（布拉格捷克理工大学）
我们研究了对称加权一阶模型计数任务，并提出了ApproxWFOMC，一种新的随时有效地限制加权一阶模型计数在存在一个未加权的一阶模型计数预言的方法。该算法适用于各种一阶概率表示的推理，如马尔可夫逻辑网络和概率逻辑程序。对于许多应用程序来说，至关重要的是，我们对输入句子的形式没有任何假设。相反，我们的算法利用固有的对称性的问题施加基数约束的一个句子的字面量的可能的真实接地的数量。实现一阶模型计数预言在实践中使用近似散列为基础的模型计数器ApproxMC 3，我们展示了我们的算法如何优于现有的近似和精确技术的推断一阶概率模型。我们还对生成的边界提供PAC保证。
2020-01-15 cs.AI cs.LO
Probabilistic Modeling of Spiking Neural Networks with Contract-Based Verification
Université Côte d'Azur（法国蔚蓝海岸大学）；I3S（信息科学与工程研究所）；CNRS（法国国家科学研究中心）；Centre Inria d'Université Côte d'Azur（法国蔚蓝海岸大学Inria中心）
针对脉冲神经网络的全局反应要求验证难题，提出可表达基础神经束与连接结构的参数化建模框架，支持转换为现有模型检测器和模拟器开展实验，为形式化验证奠定基础。
2025-06-16 cs.AI cs.FL
A stochastically verifiable autonomous control architecture with reasoning
University of Sheffield（谢菲尔德大学）
本文提出一种具有推理能力的随机可验证自主控制架构LISA，通过将系统抽象为DTMC和MDP模型，实现代理与环境的概率验证，提升设计与运行时的验证效率。
2016-11-10 cs.AI cs.RO cs.SE
