Context-specific Credibility-aware Multimodal Fusion with Conditional Probabilistic Circuits
Department of Computer Science , TU Darmstadt(德累斯顿技术大学计算机科学系);Air Force Research Lab(空军研究实验室)
提出C$^2$MF框架,利用条件概率电路建模实例级源可靠性,通过KL散度度量上下文特定信息可信度,在跨模态冲突下提升预测准确率高达29%。
2026-06-29 cs.LG
Tractable Regularization of Probabilistic Circuits
University of California, Los Angeles(加州大学洛杉矶分校)
概率电路(PC)是概率建模的一个很有前途的途径。它们结合了概率图模型(PGMs)和神经网络(NN)的优点。然而,至关重要的是,它们是易于处理的概率模型,支持许多概率推理查询(如边缘和MAP)的有效和精确计算。此外,由于PC是结构化的计算图,它们可以利用深度学习风格的参数更新,这大大提高了它们的可扩展性。然而,这一创新也使PC容易出现过拟合,这在许多标准基准测试中已经观察到。尽管存在丰富的正则化技术的PGM和NN,他们是不够有效时,应用到PC。相反,我们重新考虑了PC的正则化,并提出了两种直观的技术,数据软化和熵正则化,这两种技术都利用了PC的易处理性,并且仍然具有作为计算图的有效实现。具体来说,数据软化提供了一种原则性的方法来以封闭形式在数据集中添加不确定性,这隐含地规范了PC参数。为了从软化的数据集中学习参数,PC只需要线性时间,因为它们的易处理性。在熵正则化中,由PC编码的分布的确切熵可以直接正则化,这对于大多数其他密度估计模型也是不可行的。我们表明,这两种方法一致地提高了各种各样的PC的泛化性能。此外,当与简单的PC结构配对时,我们在20个标准离散密度估计基准中的10个上获得了最先进的结果。
2021-06-04 cs.LG
On the Relationship Between Monotone and Squared Probabilistic Circuits
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
本文证明单调电路与平方概率电路在表达能力上不可比较,并提出Inception PCs统一两者,采用复数参数,在表格和图像数据集上优于二者。
2025-02-24 cs.AI cs.LG
Probabilistic Generating Circuits
University of California Los Angeles(加州大学洛杉矶分校);Washington University in St. Louis(圣路易斯华盛顿大学)
生成函数广泛应用于组合学和概率论中,它将函数值编码为多项式的系数。在本文中,我们探讨了它们作为一个易于处理的概率模型的使用,并提出了概率生成电路(PGC)的有效表示。PGC比许多现有的易处理的概率模型,包括决定点过程(DPP),概率电路(PC),如和-积网络,和易处理的图形模型更严格的表达效率。我们认为,PGCs不仅是一个理论框架,统一了截然不同的现有模型,但也显示出巨大的潜力,在现实数据建模。我们展示了一个简单的类的PGC,不平凡的PC和DPP的简单组合,并获得竞争力的性能上的一套密度估计基准。我们还强调PGCs的连接到强瑞利分布的理论。
2021-06-11 cs.AI cs.LG
Scaling Probabilistic Circuits via Data Partitioning
TU Darmstadt(达姆施塔特工业大学);Hessian Center for AI (hessian.AI)(黑森人工智能中心);Eindhoven University of Technology(埃因霍温理工大学);University of Bremen(不来梅大学);German Research Center for AI (DFKI)(德国人工智能研究中心)
本文提出联邦电路(FCs)框架,通过递归划分分布式数据集在多机环境扩展概率电路,首次将横向、纵向和混合联邦学习统一为密度估计问题,并在大规模数据集上验证了其扩展能力和分类任务中的通用性。
2025-03-11 cs.LG
Solving Marginal MAP Exactly by Probabilistic Circuit Transformations
UCLA(加州大学洛杉矶分校)
概率回路(Probabilistic Circuit,PC)是一类易于处理的概率模型,它允许对诸如边缘和最可能解释(Most Probable Explanation,MPE)之类的查询进行高效的、通常是线性时间的推理。然而,边际地图,这是许多决策问题的核心,仍然是一个很难查询的PC,除非他们满足高度限制性的结构约束。在本文中,我们开发了一个修剪算法,删除部分PC无关的边际MAP查询,缩小PC,同时保持正确的解决方案。这种修剪技术是如此有效,我们能够建立一个边缘MAP求解器的基础上,完全迭代变换电路-没有搜索是必需的。我们实证证明了我们的方法在现实世界的数据集上的有效性。
2022-03-04 cs.AI cs.LG
Explainability Methods for Hardware Trojan Detection: A Systematic Comparison
Electrical, Computer, and Systems Engineering(电子工程与系统工程)
本文针对硬件木马检测中的可解释性方法进行系统性比较,探讨领域感知属性分析、基于案例的推理和特征归因技术在硬件安全应用中的性能差异。
2026-07-14 cs.LG
An efficient probabilistic hardware architecture for diffusion-like models
Extropic Corp.(Extropic公司);Department of Electrical Engineering and Computer Science(电气工程与计算机科学系);Massachusetts Institute of Technology(麻省理工学院)
本文提出了一种高效的概率硬件架构,通过全晶体管设计在硬件层面实现强大的去噪模型,使设备在低能耗下达到与GPU相当的性能。
2025-12-10 cs.AI cs.LG
Lie Group Diffusion Models for Hardware-Aware Quantum Circuit Synthesis
Stanford University(斯坦福大学)
提出李群扩散模型,结合SU(2)流形几何和硬件约束,通过电路骨架选择器和扩散模型生成量子电路,在哈密顿模拟任务中优于基线,并支持定制化约束。
2026-06-28 cs.LG quant-ph
On the Relationship Between Probabilistic Circuits and Determinantal Point Processes
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
将概率模型扩展到大型现实问题和数据集是机器学习中的一个关键挑战。这项工作的核心是开发易处理的概率模型(TPM):模型的结构保证有效的概率推理算法。目前的贸易和预防机制是分散的:存在各种各样的贸易和预防机制,它们有不同的长处和短处。两个最突出的TPM类是决定点过程(DPP)和概率电路(PC)。本文首次系统地研究了它们之间的关系。我们提出了一个统一的分析和共享的语言来讨论DPP和PC。然后,我们建立了理论上的障碍,这两个家庭的统一,并证明,有情况下,DPPs没有紧凑的表示为一类PC。我们关闭统一这些听话的模型的中心问题的观点。
2020-06-26 cs.AI cs.LG
Integrating Transformations in Probabilistic Circuits
Institute for Artificial Intelligence(人工智能研究所);University of Bremen(不来梅大学);Institute for Statistics(统计学研究所)
针对概率电路预测局限,提出基于独立成分分析的变换集成方法,扩展联合概率树,在7个基准及机器人数据上以更少参数获更高似然,支持高效采样与近似推断。
2023-10-06 cs.LG stat.ML
Understanding and Improving Adversarial Robustness of Neural Probabilistic Circuits
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文分析神经概率电路的对抗鲁棒性仅取决于属性识别模型,并提出首个鲁棒版本RNPC,通过类级集成推理提升对抗鲁棒性,同时保持高准确率。
2025-09-24 cs.AI cs.LG
Credibility-Aware Multi-Modal Fusion Using Probabilistic Circuits
Erik Jonsson School of Engineering & Computer Science, The University of Texas at Dallas(德克萨斯大学达拉斯分校埃里克·琼森工程与计算机科学学院);Air Force Research Laboratory(空军研究实验室);TU Darmstadt(达姆施塔特工业大学)
本文提出一种基于概率电路的可信度感知多模态融合方法,通过推理查询评估各模态可靠性,在保持性能的同时实现可信度推断。
2024-07-17 cs.AI cs.LG
Probabilistic Neural Circuits
Örebro University(厄勒布鲁大学)
针对概率电路(PCs)表达能力弱于神经网络的问题,提出概率神经电路(PNCs),在可处理性与表达力间取得平衡,理论上可解释为贝叶斯网络的深度混合,实验证明其是强大的函数逼近器。
2024-03-10 cs.AI cs.LG cs.NE
Tractable Representation Learning with Probabilistic Circuits
Technische Universität Darmstadt(达姆施塔特工业大学);University of Texas, Dallas(德克萨斯大学达拉斯分校);University of Edinburgh(爱丁堡大学);Universität Bremen(不来梅大学);University of Texas at Dallas(德克萨斯大学达拉斯分校)
提出自动编码概率电路 APCs,通过联合建模数据与概率嵌入实现端到端表示学习,在重建、嵌入质量及缺失数据鲁棒性上优于现有方法。
2025-07-26 cs.AI cs.LG
Probabilistic Circuits with Constraints via Convex Optimization
University of Technology of Compiègne(贡比涅技术大学)
提出一种通过凸优化将概率命题逻辑约束整合到概率电路(PC)中的方法,无需重训模型即可输出满足约束的新PC,在数据稀缺时提升性能并保障机器学习公平性。
2024-03-19 cs.AI cs.LG
Scaling Continuous Latent Variable Models as Probabilistic Integral Circuits
Eindhoven University of Technology(埃因霍温理工大学);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
本文针对概率积分电路仅支持树形结构且数值求积训练内存开销大的问题,提出基于任意变量分解的DAG构建流程、张量化训练方法及神经功能共享技术,实验证明QPC优于传统概率电路。
2025-02-05 cs.AI cs.LG
Probabilistic Circuits for Cumulative Distribution Functions
University of California Los Angeles(加州大学洛杉矶分校);Aalto University(阿尔托大学)
本文研究概率电路在计算累积分布函数(CDF)与概率质量/密度函数(PMF/PDF)之间的表示等价性,证明在二元、有限离散及连续变量情形下均可通过多项式时间或仅修改叶子节点实现高效转换。
2024-08-08 cs.AI cs.LG
A Unified Framework for Human-Allied Learning of Probabilistic Circuits
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
针对概率电路在数据稀缺领域忽视知识密集型学习的问题,提出一种统一框架,将领域知识系统整合到参数学习中,实验证明其性能优于纯数据驱动方法。
2024-12-18 cs.AI cs.LG
Hardware-efficient tractable probabilistic inference for TinyML Neurosymbolic AI applications
Aalto University, Department of Electronics and Nanoengineering(艾尔沃斯大学电子与纳米工程系)
本文提出一个软硬件协同框架,通过训练硬件高效的确定性可处理概率电路并进行n次根压缩,在TinyML硬件上实现神经符号AI推理,在FPGA上显著降低资源占用并在ESP32上实现4.67倍加速。
2025-07-07 cs.LG cs.PF
Geometry-Aware Probabilistic Circuits via Voronoi Tessellations
University of California, Berkeley(加州大学伯克利分校)
针对概率电路因数据无关混合权重而无法捕捉数据流形局部几何结构的问题,提出通过Voronoi剖分将几何结构直接融入求和节点,并开发近似推理框架和精确推理条件,最后引入可微松弛实现梯度学习,在密度估计任务上验证了有效性。
2026-05-30 cs.AI cs.LG
Causal Neural Probabilistic Circuits
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提出因果神经概率电路(CNPC),通过结合神经属性预测器和从因果图编译的因果概率电路,支持遵循因果依赖的精确干预推理,从而提升概念瓶颈模型在干预下的分类准确率。
2026-06-02 cs.AI cs.LG
Probabilistic Graph Circuits: Deep Generative Models for Tractable Probabilistic Inference over Graphs
Artificial Intelligence Center, Czech Technical University(捷克技术大学人工智能中心)
本文提出概率图电路 PGC,以在图上实现精确高效的概率推理,并比较不同置换不变性策略在异常检测与分子图生成中的效果。
2025-03-15 cs.AI cs.LG
Bayesian Structure Scores for Probabilistic Circuits
Eindhoven University of Technology(埃因霍温理工大学);KU Leuven(鲁汶大学);Graz University of Technology(格拉茨理工大学)
概率回路(PC)是概率分布的一种重要表示,具有易处理的推理。虽然PC中的参数学习被严格研究,但结构学习往往更多地基于数学而不是原则性目标。在本文中,我们开发了贝叶斯结构分数的确定性PC,即,边缘化参数的结构似然,这是众所周知的严格的目标,结构学习的概率图模型。当在贪婪割集算法中使用时,我们的分数有效地防止过拟合,并产生快速且几乎无超参数的结构学习器,将其与以前的方法区分开来。在实验中,我们在训练时间和模型拟合之间取得了良好的权衡。此外,贝叶斯分数的原则性解锁PC的适应框架,如结构预期最大化。
2023-02-23 cs.AI cs.LG stat.ML
Soft Learning Probabilistic Circuits
University of Technology of Compiègne(贡比涅技术大学)
本文提出名为SoftLearn的新学习过程,通过软聚类替代LearnSPN的硬聚类方法来诱导Probabilistic Circuits,实验证明其在多数情况下能获得更优似然和样本。
2024-03-21 cs.AI cs.LG
Circuit realization and hardware linearization of monotone operator equilibrium networks
University of Sydney(悉尼大学)
本文证明电阻-二极管网络的端口行为对应于ReLU单调算子均衡网络的解,并提出硬件线性化方法实现网络在硬件中的直接训练,通过器件级电路仿真验证。
2026-10-08 cs.LG cs.NE cs.SY
AttackGNN: Red-Teaming GNNs in Hardware Security Using Reinforcement Learning
Texas A&M University(德克萨斯农工大学);University of Delaware(特拉华大学)
本文提出首个针对硬件安全中GNN技术的红队攻击框架AttackGNN,利用强化学习生成对抗性电路,在IP盗版、硬件木马、逆向工程和硬件混淆四类任务上均实现100%攻击成功率。
2024-02-26 cs.CR cs.LG
HyperSPNs: Compact and Expressive Probabilistic Circuits
Stanford University(斯坦福大学)
概率电路(ProbabilityCircuit,PC)是一类生成模型,它允许计算其概率分布的精确似然和边缘。PC既有表现力又易于处理,是离散密度估计任务的热门选择。然而,大型PC容易受到过拟合的影响,并且只有少数正则化策略(例如,dropout,weight-decay)已经被探索。我们提出了HyperSPN:一个新的范例产生的混合权重的大型PC使用一个小规模的神经网络。我们的框架可以被看作是一个软的权重共享策略,它结合了大型模型的更大的表现力与更好的泛化和小模型的内存占用属性。我们展示了我们的正则化策略在最近文献中介绍的两个最先进的PC系列-RAT-SPN和EiNET-上的优点,并在离散和连续域中的一套密度估计基准上证明了两种模型的泛化改进。
2021-12-02 cs.AI cs.LG
Optimal Transport for Probabilistic Circuits
Arizona State University(亚利桑那州立大学)
本文提出一种针对概率电路的新型最优传输框架,通过限制耦合测度为概率电路并求解系列线性规划,实现Wasserstein距离计算及参数估计。
2025-06-17 cs.AI cs.LG math.OC
Strudel: Learning Structured-Decomposable Probabilistic Circuits
University of California Los Angeles(加州大学洛杉矶分校)
概率电路(PC)将概率分布表示为计算图。在这些图上强制执行结构属性可以保证几个推理场景变得易于处理。在这些属性中,结构化可分解性是一个特别有吸引力的属性:它可以有效和精确地计算复杂逻辑公式的概率,并可以用来推理某些预测模型在缺失数据下的预期输出。本文提出了Strudel,一个简单,快速和准确的学习算法的结构可分解的PC机。与之前学习结构化可分解PC的工作相比,Strudel在更少的迭代中提供了更准确的单个PC模型,并在构建PC集合时显着扩展学习。它通过利用PC的另一个结构属性(称为确定性)以及在混合组分之间共享相同的计算图来实现这种可扩展性。我们在标准密度估计基准和具有挑战性的推理场景中展示了这些优势。
2020-09-02 cs.AI cs.LG
Bio-inspired Learning and Decision-Making with Probabilistic In-Memory Computing Hardware: Part 1
CEA-List(法国原子能委员会电子与信息技术实验室);VERSES AI Research Lab(VERSES AI研究实验室);PRAESC AI;TU Wien(维也纳工业大学)
本文提出基于生物噪声动力学的概率内存计算框架,通过随机采样实现贝叶斯推理与学习,并指出模拟内存硬件天然适配大规模能效高的概率计算。
2026-09-11 cs.AI cs.LG
Scaling Probabilistic Circuits via Monarch Matrices
Department of Computer Science, University of California, Los Angeles(加州大学洛杉矶分校计算机科学系);Department of Computer Science, Stanford University(斯坦福大学计算机科学系)
针对概率电路现有扩展方法无法同时利用稀疏性与硬件效率的问题,提出基于Monarch矩阵的稀疏结构化参数化方法,同时实现最优生成性能与更低计算开销。
2025-06-14 cs.LG stat.ML
Sparse Probabilistic Graph Circuits
Artificial Intelligence Center, Czech Technical University, Prague, Czech Republic(人工智能中心、捷克技术大学、布拉格、捷克共和国)
为解决概率图电路在稠密图上$\mathcal{O}(n^2)$的复杂度问题,提出稀疏概率图电路(Sparse PGCs),直接在稀疏图表示上运行将复杂度降至$\mathcal{O}(n + m)$,在保留精确推理能力的同时提升了效率并在药物设计指标上匹配了不可解模型。
2025-08-11 cs.AI cs.LG
Investigating Quantum Circuit Designs Using Neuro-Evolution
Rochester Institute of technology(罗切斯特技术学院)
本文提出EXAQC方法,通过神经进化技术自动设计和训练参数化量子电路,提升量子计算的可扩展性和硬件适应性。
2026-02-03 cs.LG cs.NE
Neural Probabilistic Circuits: Enabling Compositional and Interpretable Predictions through Logical Reasoning
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);College of William and Mary(威廉与玛丽学院)
提出神经概率电路(NPC),通过属性识别与概率电路逻辑推理实现组合式可解释预测,三阶段训练,理论误差有界,在四个基准上性能媲美黑盒模型且可解释性更强。
2025-01-20 cs.AI cs.LG
The Expressivity Boundary of Probabilistic Circuits: A Comparison with Large Language Models
School of Computing, National University of Singapore(新加坡国立大学计算机学院);Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院);School of Intelligence Science and Technology, Peking University(北京大学智能科学与技术学院)
本文比较概率电路与大语言模型在自回归框架下的表现,发现概率电路通过logit空间参数化和结构分解可缩小表达性差距,但其在异质依赖拓扑下仍存在表达限制。
2026-05-13 cs.AI cs.LG
Leveraging Probabilistic Circuits for Nonparametric Multi-Output Regression
TU Darmstadt(达姆施塔特工业大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Aalto University(阿尔托大学);Centre for Cognitive Science TU Darmstadt(达姆施塔特工业大学认知科学中心);Hessian Center for AI (hessian.AI)(黑森人工智能中心(hessian.AI))
受高斯过程(GP)的专家近似领域的最新进展的启发,我们提出了一种基于专家的方法,使用单输出GP专家的大规模多输出回归。采用通过概率电路编码的单输出GP的深度结构化混合物,使我们能够准确地捕获多个输出维度之间的相关性。通过递归地划分协变量空间和输出空间,我们模型中的后验推理简化为对单输出GP专家的推理,这只需要以观察结果的一小部分为条件。我们表明,在我们的模型中可以准确有效地进行推理,它可以捕获输出维度之间的相关性,因此,通常优于不包含输出间相关性的方法,如在负对数预测密度方面的几个数据集上所示。
2021-08-01 cs.LG stat.ML
Understanding the Distillation Process from Deep Generative Models to Tractable Probabilistic Circuits
Tsinghua University(清华大学);University of California, Los Angeles(加州大学洛杉矶分校);Peking University(北京大学);Beijing Institute for General Artificial Intelligence(北京通用人工智能研究院)
概率电路(ProbabilityCircuits,PC)是用于支持各种推理任务(例如,计算边际概率)。为了在复杂的现实世界任务中实现这种推理能力,Liu等人(2022)提出从不太容易处理但更具表达力的深度生成模型中提取知识(通过潜在变量分配)。然而,目前还不清楚是什么因素使这种蒸馏工作良好。在本文中,我们从理论和实证上发现,PC的性能可以超过它的教师模型。因此,我们不是从最具表现力的深度生成模型执行蒸馏,而是研究教师模型和PC应该具有哪些属性,以实现良好的蒸馏性能。这导致了一个通用的算法改进,以及其他数据类型的特定于现有的潜在变量蒸馏管道。从经验上讲,我们在具有挑战性的图像建模基准测试中的表现远远优于SoTA TPM。特别地,在ImageNet 32上,PC实现了每维4.06比特,这仅落后于变分扩散模型0.34比特(Kingma等人,2021年)。
2023-02-16 cs.AI cs.LG
Sparse Probabilistic Circuits via Pruning and Growing
UCLA(加州大学洛杉矶分校)
概率电路(PC)是一种易于处理的概率分布表示,允许精确和有效地计算似然和边缘。最近在提高PC的规模和表现力方面取得了重大进展。然而,PC训练性能随着模型大小的增加而趋于稳定。我们发现,在现有的大型PC结构的大部分容量是浪费:全连接的参数层,只有稀疏使用。我们提出了两个操作:修剪和增长,利用PC结构的稀疏性。具体地,修剪操作移除PC的不重要的子网络用于模型压缩,并且具有理论保证。增长操作通过增加潜在空间的大小来增加模型容量。通过交替应用修剪和增长,我们增加了有意义地使用的容量,使我们能够显着扩展PC学习。从经验上讲,与其他PC学习器和不太容易处理的深度生成模型(如基于流的模型和变分自编码器(VAE))相比,我们的学习器在MNIST系列图像数据集和Penn Tree Bank语言数据上实现了最先进的可能性。
2022-11-22 cs.AI cs.LG
Probabilistic Circuits for Variational Inference in Discrete Graphical Models
Stanford University(斯坦福大学)
离散图模型的变分方法的推理是困难的,因为无法重新参数化的证据下限(ELBO)的梯度。已经提出了许多基于采样的方法来估计这些梯度,但它们遭受高偏差或方差。在本文中,我们提出了一种新的方法,利用概率电路模型的易处理性,如和积网络(SPN),精确计算ELBO梯度(无需采样)的某一类密度。特别是,我们表明,选择性SPN是适合作为一个表达变分分布,并证明,当目标模型的对数密度是一个多项式的相应的ELBO可以计算解析。为了扩展到具有数千个变量的图形模型,我们开发了一种高效且有效的选择性SPN构造,其大小为$O(kn)$,其中$n$是变量的数量,$k$是可调超参数。我们展示了我们的方法在三种类型的图形模型-伊辛模型,潜在的Dirichlet分配,和因子图从UAI推理比赛。选择性SPN给出了比平均场和结构化平均场更好的下界,并且与不提供下界的近似(例如循环置信传播和树重加权置信传播)竞争。我们的研究结果表明,概率电路是有前途的工具,变分推理离散图形模型,因为它们结合了易处理性和表达性。
2020-10-22 cs.AI cs.LG
A Compositional Theory of Curvature in Probabilistic Circuits
AT&T(美国电话电报公司)
该研究针对概率电路曲率的组合特性,提出自适应锐度感知正则化,解决全局正则化的深度偏向与欠拟合问题,提升模型泛化能力。
2026-08-14 cs.AI cs.LG
ProbLP: A framework for low-precision probabilistic inference
KU Leuven(鲁汶大学);MICAS;DTAI
贝叶斯推理是智能边缘设备中概率推理的一种强大机制。在这样的推断期间,低精度算术表示可以实现改进的能量效率。然而,其对推理准确性的影响尚未被理解。此外,通用硬件本身不支持低精度表示。为了解决这个问题,我们提出了ProbLP,这是一个自动分析和设计低精度概率推理硬件的框架。它会根据最坏情况下的误差范围和硬件能量模型自动选择适当的节能表示。它为所产生的推理网络生成定制硬件,利用并行,流水线和低精度操作。该框架在几个嵌入式传感基准上进行了验证。
2021-02-27 cs.AR cs.LG cs.NA
On the Expressive Power of Tree-Structured Probabilistic Circuits
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文研究树结构与 DAG 结构概率电路的表达能力差异,证明无深度限制时等价树仅需拟多项式大小,但深度受限时二者存在超多项式分离。
2024-10-24 cs.AI cs.LG
Probabilistic Modeling with Matrix Product States
Tunnel
受基于量子线路的生成模型可以为序列建模任务提供有用的归纳偏差的可能性的启发,我们针对经典可模拟的量子线路模型的子集提出了一种高效的训练算法。无梯度算法,作为一系列精确可解的有效模型,是一个修改的密度矩阵重整化群程序适用于学习的概率分布。基于电路的模型为经典数据集提供了有用的归纳偏差的结论得到了奇偶学习问题的实验结果的支持。
2019-02-19 cs.LG quant-ph stat.ML
Certifying Fairness of Probabilistic Circuits
University of California, Los Angeles(加州大学洛杉矶分校);Arizona State University(亚利桑那州立大学)
随着越来越多地使用机器学习系统进行决策,有关此类系统的公平性的问题开始占据中心舞台。大多数关于算法公平性的现有工作都假设在预测时完全观察到特征,就像统计奇偶性和机会均等等流行概念一样。然而,这对于可以通过部分观察进行预测的模型来说是不够的,因为我们可能会错过偏差模式并错误地证明模型是公平的。为了解决这个问题,最近引入的公平性概念询问模型是否表现出任何歧视模式,其中以(部分)特征观察为特征的个体仅通过披露一个或多个敏感属性(如性别和种族)来获得截然不同的决定。通过显式地解释部分观测,这提供了一个更细粒度的公平性概念。在本文中,我们提出了一个算法来搜索歧视模式的一般类的概率模型,即概率电路。以前,这样的算法仅限于朴素贝叶斯分类器,使强大的独立性假设;相比之下,概率电路提供了一个统一的框架,范围广泛的易处理的概率模型,甚至可以从某些类别的贝叶斯网络和概率程序编译,使我们的方法更广泛地适用。此外,对于不公平的模型,快速找到歧视模式并提取它们以获得更好的可解释性可能是有用的。因此,我们还提出了一种基于采样的方法来更有效地挖掘歧视模式,并引入了新的模式类别,如最小,最大和帕累托最优模式,可以有效地指数总结许多歧视模式
2022-12-05 cs.AI cs.CY cs.LG
Path Structured Multimarginal Schrödinger Bridge for Probabilistic Learning of Hardware Resource Usage by Control Software
University of California, Santa Cruz(加州大学圣克鲁兹分校);University of Pennsylvania(宾夕法尼亚大学);Iowa State University(爱荷华州立大学)
本研究利用路径结构化多边缘薛定谔桥问题的最新求解算法,实现控制软件硬件资源使用的概率学习,可线性收敛地预测时变资源分布,在模型预测控制案例中验证了有效性,可推广至各类软件的信息物理相关性能预测。
2023-10-03 cs.LG cs.SY eess.SY
Implementing Pearl's $\mathcal{DO}$-Calculus on Quantum Circuits: A Simpson-Type Case Study on NISQ Hardware
Department of Software Science, Dankook University(软件科学系, Dankook大学)
本文在量子电路中实现Pearl的DO-微分算术,通过电路手术方法验证因果推理在NISQ硬件上的可行性。
2026-02-28 cs.AI cs.LG quant-ph
Probabilistic Algorithms for Ising Machines from Optimization to Generative AI
University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
本文综述了面向Ising机器的概率算法,涵盖从模拟退火到PAOA等方法,并探讨了生成式AI与Ising机器的相互促进,提出了加速下一代硬件应用的协同设计框架。
2026-10-06 cond-mat.dis-nn cond-mat.stat-mech cs.ET
Hiding in Plain Sight: Reframing Hardware Trojan Benchmarking as a Hide&Seek Modification
North Carolina A&T University(北卡罗来纳农工州立大学);New Mexico State University(新墨西哥州立大学);Miami University(迈阿密大学)
本文将硬件木马检测形式化为“搜寻者困境”,提出混合无感染与随机感染重构电路的基准,并评估三种检测工具,揭示现有方法存在显著误分类。
2024-10-21 cs.AR cs.CR cs.LG
SymCircuit: Bayesian Structure Inference for Tractable Probabilistic Circuits via Entropy-Regularized Reinforcement Learning
Department of Mechanical and Aerospace Engineering(机械与航空航天工程系)
SymCircuit通过熵正则化强化学习替代贪心算法,实现概率电路结构学习,采用语法约束的自回归Transformer生成有效电路,并在NLTCS数据集上显著提升样本效率。
2026-03-20 cs.AI cs.LG stat.ML
Hardware Trojan Detection Using Controlled Circuit Aging
NYU Tandon School of Engineering(纽约大学坦登工程学院);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);University of Texas at Dallas(德克萨斯大学达拉斯分校)
本文报道了一种新的方法,使用集成电路(IC)中的晶体管老化来检测硬件木马。当晶体管老化时,它会导致沿着IC的几条路径的延迟。这种延迟的增加导致时序违规,其在IC的操作期间在IC的输出处显示为时序误差。我们目前的实验使用老化感知的标准单元库来说明该技术在检测硬件木马的有用性。将IC老化与超频相结合,会通过引发的时序违规在IC输出端产生一种比特错误模式。我们使用机器学习来学习干净IC输出端的比特误差分布。我们区分位错误的模式,因为从这个基线分布的IC中的木马的分歧。我们模拟的黄金IC和IC到IC的制造变化的鲁棒性。该方法是有效的,可以检测到木马,即使我们把它远离关键路线。来自Trust-hub的基准测试结果显示检测准确率为$\geq$ 99%。
2020-04-21 cs.AR cs.CR cs.LG
Probabilistic Circuits as Reasoning Machines in Artificial Intelligence (Part I)
Graz University of Technology(格拉茨工业大学)
该论文第一部分研究概率电路(PCs)这一可处理框架,阐述其解决概率推理 NP 难问题的结构约束,涵盖其基础理论、学习方法、与深度学习集成等贡献,为人工智能不确定性推理提供支撑。
2026-08-18 cs.AI cs.LG math.PR