On Sequential Maximum a Posteriori Inference for Continual Learning
Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生院）
本文将持续学习转化为对先前损失函数的近似问题，提出自动微分二次巩固和神经巩固两种无核心集方法，并在经典与图像任务序列中验证了各自的有效性。
2025-03-10 cs.LG
On Sampling from the Gibbs Distribution with Random Maximum A-Posteriori Perturbations
University of Haifa（海法大学）；TTI Chicago（丰田工业大学芝加哥分校）；MIT（麻省理工学院）
在本文中，我们描述了如何MAP推理可以用来有效地从吉布斯分布采样。具体来说，我们提供了通过引入低维扰动和解决相应的MAP分配从吉布斯分布绘制近似或无偏样本的方法。我们的方法也导致了新的方法来获得分区函数的下界。我们的经验表明，我们的方法在典型的“高信号-高耦合”制度优于。该设置导致参差不齐的能源景观，这对于采样和/或下限的替代方法是具有挑战性的。
2013-09-29 cs.LG
Maximum a Posteriori Policy Optimisation
DeepMind
我们介绍了一种新的强化学习算法，称为最大后验策略优化（MPO）的基础上相对熵目标的坐标上升。我们表明，现有的几种方法可以直接与我们的推导。我们开发了两种非策略算法，并证明了它们在深度强化学习中与最先进的算法具有竞争力。特别是，对于连续控制，我们的方法优于现有的方法方面的样本效率，过早收敛和鲁棒性超参数设置，同时实现类似或更好的最终性能。
2018-06-14 cs.AI cs.IT cs.LG
Measuring Partial Exchangeability with Reproducing Kernel Hilbert Spaces
本文提出基于再生核希尔伯特空间的指标，度量贝叶斯多层模型中参数与非参数模型的部分可交换性，该指标可估计且适用于后验，并应用于层次狄利克雷过程及参数模型比较。
2025-09-24 math.PR math.ST stat.TH
Approximate Maximum A Posteriori Inference with Entropic Priors
Columbia University（哥伦比亚大学）
在某些应用中，使用惩罚项将多项分布拟合到观察到的数据以促进稀疏性是有用的。例如，在概率潜在音频源分解中，人们可能希望对在任何给定时间只有少数潜在源是活动的假设进行编码。当将参数拟合到多项式分布时，应用L1惩罚的标准启发式不是一种选择，多项式分布被限制为总和为1。另一种方法是使用一个惩罚项，鼓励低熵的解决方案，这对应于最大后验（MAP）参数估计与熵先验。熵先验和多项式分布之间缺乏共轭性使这种方法复杂化。在这份报告中，我提出了一个简单的迭代算法的MAP估计的多项分布与稀疏诱导熵先验。
2010-09-29 cs.LG cs.SD
On Measure Concentration of Random Maximum A-Posteriori Perturbations
Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）；University of Haifa（海法大学）；Massachusetts Institute of Technology（麻省理工学院）
最大后验（MAP）扰动框架已成为一个有用的方法，在高维复杂模型的推理和学习。通过最大化随机扰动的势函数，MAP扰动从吉布斯分布生成无偏样本。不幸的是，生成如此多的高维随机变量的计算成本可能是令人望而却步的。更有效的算法使用基于低维MAP扰动的期望值的顺序采样策略。本文开发了新的测量浓度不等式，约束估计这些期望值所需的样本数。将一般结果应用于MAP扰动可以产生更有效的算法来近似Gibbs分布的采样。计量集中度结果具有普遍意义，并可能适用于涉及预期估计的其他领域。
2013-10-15 cs.LG math.PR
Maximum a Posteriori Inference of Random Dot Product Graphs via Conic Programming
Massachusetts Institute of Technology（麻省理工学院）；Washington State University（华盛顿州立大学）
本研究提出一种基于凸锥规划的RDPG潜在概率矩阵推断方法，加入核范数正则项，分析了原对偶解性质与渐近一致性，实验验证其可恢复图结构且适用于数百节点的图。
2021-12-16 cs.LG math.OC stat.ML
High Dimensional Inference with Random Maximum A-Posteriori Perturbations
Technion - Israel Institute of Technology（以色列理工学院）；Stony Brook University（纽约州立大学石溪分校）；Yahoo Labs（雅虎实验室）；Rutgers, The State University of New Jersey（罗格斯大学）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Massachusetts Institute of Technology（麻省理工学院）
本文提出了一种新的方法，称为扰动最大，高维统计推断的基础上应用随机扰动，然后进行优化。该框架通过随机扰动输入的势函数来向最大后验（MAP）预测器注入随机性。极值统计的一个经典结果断言，扰动最大运算使用高维扰动从吉布斯分布生成无偏样本。不幸的是，生成如此多的高维随机变量的计算成本可能是令人望而却步的。然而，当扰动是低维的，采样的扰动最大预测是有效的MAP优化。本文证明了低维扰动的扰动最大值推断的期望值可以顺序地用于从吉布斯分布生成无偏样本。此外，最大扰动的期望值是这种扰动最大模型的熵的自然界。扰动最大值的测量浓度结果表明，其采样平均值与其期望值的偏差在样本数量上呈指数衰减，从而可以有效地近似期望值。
2017-05-30 cs.IT cs.LG math.IT
Probably Approximately Correct Maximum A Posteriori Inference
Department of Informatics, King’s College London（信息学院，伦敦国王学院）
本文提出了一种在可变和固定计算预算下提供可证明最优解决方案的PAC-MAP算法，利用信息论度量和概率电路实现高效推断。
2026-08-13 cs.AI cs.LG
Maximum a Posteriori Adaptation of Network Parameters in Deep Models
Georgia Institute of Technology（佐治亚理工学院）；Kore University of Enna（恩纳科雷大学）；Microsoft Corporation（微软公司）
我们提出了一种贝叶斯方法来调整训练有素的上下文相关的深度神经网络隐马尔可夫模型（CD-DNN-HMM）的参数，以提高自动语音识别性能。给定丰富的DNN参数，但只有有限的数据量，适应DNN模型的有效性往往会受到影响。我们制定了专门设计的CD-DNN-HMM参数的最大后验（MAP）自适应，其中增强的线性隐藏网络连接到输出绑定状态或senone，并将其与之前提出的特征空间MAP线性回归进行比较。在20，000词开放词汇量的《华尔街日报》任务上的实验证据证明了该框架的可行性。在监督自适应中，所提出的MAP自适应方法提供了超过10%的相对误差减少，并始终优于传统的基于变换的方法。此外，我们提出了一个初步的尝试，通过利用senone之间的相似性，产生层次先验，以提高适应效率和有效性与有限的适应数据。
2015-08-12 cs.CL cs.LG cs.NE
MaPPO: Maximum a Posteriori Preference Optimization with Prior Knowledge
Purdue University（普渡大学）；University of California, San Diego（加州大学圣地亚哥分校）；Amazon（亚马逊）；Meta, FAIR；Yonsei University（延世大学）
MaPPO通过整合先验奖励知识优化偏好学习，提升对齐性能，无需额外超参数，适用于离线和在线设置，支持DPO变体插件，实验显示在多个基准上效果显著。
2026-11-08 cs.AI cs.CL cs.LG
V-MPO: On-Policy Maximum a Posteriori Policy Optimization for Discrete and Continuous Control
深度强化学习在离散和连续控制领域的一些最成功的应用已经在策略设置中使用了策略梯度方法。然而，策略梯度可能遭受可能限制性能的大方差，并且在实践中需要仔细调整熵正则化以防止策略崩溃。作为策略梯度算法的替代方案，我们引入了V-MPO，最大后验策略优化（MPO）的策略适应，基于学习的状态-价值函数执行策略迭代。我们表明，V-MPO在多任务环境中超过了之前报告的Atari-57和DMLab-30基准套件的分数，并且在没有重要性加权、熵正则化或基于群体的超参数调整的情况下也能可靠地做到这一点。在个人DMLab和Atari水平上，所提出的算法可以实现比以前报告的分数高得多的分数。V-MPO也适用于高维连续动作空间的问题，我们在学习控制模拟人形机器人的背景下证明了这一点，其中来自全状态观测的自由度为22自由度，来自像素观测的自由度为56自由度，以及示例OpenAI Gym任务，其中V-MPO实现了比以前报告的更高的渐近分数。
2019-09-26 cs.AI cs.LG
MAPTree: Beating "Optimal" Decision Trees with Bayesian Decision Trees
Stanford University（斯坦福大学）
本文提出MAPTree算法，通过贝叶斯最大后验推断和AND/OR搜索构建决策树，在16个真实数据集上优于或媲美基线且树更小，在合成数据上更鲁棒，并能提供最优性证书。
2023-12-20 cs.AI cs.LG
Artificial Rosetta Stone: Constrained Maximum A Posteriori (MAP) Reconstruction of Symbolic Raga Sequences via Order-k Markov Models
Abstract Math Institute（抽象数学研究所）
该研究提出ARS框架，用k阶马尔可夫模型结合约束MAP问题重建符号拉格序列，经合成与真实音频实验验证了方法可行性，为音乐片段重建提供了概率建模方案。
2026-09-02 cs.LG cs.SD stat.ML
MIND: Maximum Mutual Information Based Neural Decoder
Universität Klagenfurt（克拉根福大学）
我们正在协助在数字通信系统的应用程序的学习架构的发展日益增长的兴趣。在这里，我们考虑检测/解码问题。我们的目标是为这样的任务开发一个最佳的神经架构。最优准则的确定是最基本的一步。我们建议使用的互信息（MI）的信道输入输出信号对，这产生的最小化的后验信息的传输码字给定的通信信道输出观察。后验信息的计算是一项艰巨的任务，并且对于大多数信道，它是未知的。因此，它必须被学习。对于这样一个目标，我们提出了一种新的神经估计的基础上的歧视制定。这导致推导出的互信息神经解码器（MIND）。所开发的神经结构不仅能够解决未知信道中的解码问题，而且还能够返回编码方案实现的平均MI的估计，以及解码错误概率。几个数值结果的报告，并与最大后验概率和最大似然解码策略。
2022-09-01 cs.IT cs.LG math.IT
X2CT-FLOW: Maximum a posteriori reconstruction using a progressive flow-based deep generative model for ultra sparse-view computed tomography in ultra low-dose protocols
The University of Tokyo Hospital（东京大学医学部附属医院）；Center for Frontier Medical Engineering, Chiba University（千叶大学前沿医疗工程中心）；Division of Radiology and Biomedical Engineering, Graduate School of Medicine, The University of Tokyo（东京大学医学研究生院放射科与生物医学工程学系）
超稀疏视图计算机断层扫描（CT）算法可以减少患者的辐射暴露，但这些算法在测试中缺乏显式的周期一致性损失最小化和显式的对数似然最大化。在这里，我们提出了X2 CT-FLOW，用于使用基于渐进流的深度生成模型从单个或几个二维（2D）投影图像中重建三维（3D）胸部CT图像的最大后验（MAP）重建，特别是对于超低剂量协议。MAP重建可以同时优化循环一致性损失和对数似然。该算法建立在一个新开发的基于渐进流的深度生成模型之上，该模型具有精确的对数似然估计、高效的采样和渐进式学习的特点。我们应用X2 CT-FLOW从无噪声污染（假设标准剂量协议）和强噪声污染（假设超低剂量协议）的双平面投影图像重建3D胸部CT图像。使用标准剂量方案，我们从2D投影图像和3D地面实况CT图像重建的图像在结构相似性方面显示出良好的一致性（SSIM，平均0.7675），峰值信噪比（PSNR，平均25.89 dB）、平均绝对误差（MAE，平均0.02364）和归一化均方根误差（NRMSE，平均0.05731）。此外，在超低剂量方案下，我们从2D投影图像和3D地面真实CT图像重建的图像在SSIM（平均0.7008）、PSNR（平均23.58 dB）、MAE（平均0.02991）和NRMSE（平均0.07349）方面也表现出良好的一致性。
2021-10-01 cs.CV cs.LG eess.IV
LP-SparseMAP: Differentiable Relaxed Optimization for Sparse Structured Prediction
Instituto de Telecomunicações（电信研究所）；Instituto Superior Técnico, University of Lisbon（里斯本大学高等技术学院）；Unbabel
结构化预测需要操纵大量的组合结构，例如，依赖树或比对，作为潜在变量或输出变量。最近，SparseMAP方法已被提出作为最大后验概率（MAP）和边际推理的可微稀疏替代方案。SparseMAP返回少量结构的组合，这在某些下游应用程序中是一个理想的属性。然而，SparseMAP需要一个易于处理的MAP推理oracle。这排除了，例如，循环图模型或具有逻辑约束的因子图，这通常需要近似推理。在本文中，我们介绍了LP-SparseMAP，SparseMAP的扩展，解决了这个限制，通过局部多面体松弛。LP-SparseMAP使用因子图的灵活和强大的域特定语言来定义和反向传播任意隐藏结构，支持粗分解，硬逻辑约束和高阶相关性。我们推导出使用LP-SparseMAP作为隐藏层或输出层所需的前向和后向算法。在三个结构化预测任务的实验表明，与SparseMAP和结构化SVM相比，它具有优势。
2020-08-05 cs.CL cs.LG stat.ML
Estimating a potential without the agony of the partition function
给定样本的吉布斯密度函数的估计是计算统计和统计学习中的一个重要问题。尽管通常使用已建立的最大似然方法，但其需要计算配分函数（即，密度的归一化）。对于简单的低维问题，该函数可以很容易地计算，但对于一般密度和高维问题，它的计算是困难的，甚至是棘手的。在本文中，我们提出了一种替代方法的基础上最大后验概率（MAP）估计，我们命名为最大恢复MAP（MR-MAP），得到估计，不需要计算的分区函数，并重新制定的问题作为一个优化问题。我们进一步提出了一个最小动作类型的潜力，使我们能够快速解决前馈双曲神经网络的优化问题。我们证明了我们的方法在一些标准数据集上的有效性。
2023-03-11 cs.LG stat.ML
Bethe Learning of Conditional Random Fields via MAP Decoding
Columbia University（哥伦比亚大学）；UT Dallas（德克萨斯大学达拉斯分校）；UMass Amherst（马萨诸塞大学阿默斯特分校）
许多机器学习任务都可以用预测结构化输出的方式来表达。在诸如结构化支持向量机（SVM-Struct）和结构化感知器的框架中，通过迭代地应用有效的最大后验（MAP）解码来学习判别函数。然而，最大似然估计（MLE）的概率模型在这些相同的结构化空间需要计算分区函数，这通常是棘手的。本文提出了一种利用Bethe逼近极大似然估计学习离散指数族模型的方法。值得注意的是，这个问题也减少到迭代（MAP）解码。这种连接出现相结合的贝特近似与弗兰克-沃尔夫（FW）算法的凸对偶目标，它绕过了棘手的分区函数。其结果是一个新的单循环算法MLE-Struct，这是更有效的比以前的双循环近似最大似然估计方法。我们的算法优于现有的方法，在实验中涉及图像分割，匹配问题的视觉，和一个新的数据集的大学室友分配。
2015-03-04 cs.CV cs.LG stat.ML
Reward Augmented Maximum Likelihood for Neural Structured Prediction
Google Brain（谷歌大脑）
结构化输出预测中的一个关键问题是直接优化任务奖励函数，这对测试评估至关重要。本文提出了一种简单的和计算效率高的方法，将任务奖励的最大似然框架。通过建立对数似然和预期奖励目标之间的联系，我们表明，当给定输入的输出的条件分布与其指数缩放奖励成比例时，实现了最佳正则化预期奖励。因此，我们提出了一个框架，使用相应的奖励平滑输出的预测概率。我们优化了增广输出的条件对数概率，这些输出的采样与其指数缩放奖励成比例。在用于语音识别和机器翻译的神经序列到序列模型上的实验表明，通过使用奖励增强最大似然（RAML），在最大似然基线上有显著的改进，其中奖励被定义为输出和地面真实标签之间的负编辑距离。
2017-01-04 cs.LG
MAP inference via Block-Coordinate Frank-Wolfe Algorithm
MPI for Informatics（马克斯·普朗克信息学研究所）；IST Austria（奥地利科学技术研究所）
提出了一种新的用于结构能量最小化问题的最大后验概率（MAP）推理的邻近束方法。该方法优化了拉格朗日松弛的原始能量最小化问题，使用多平面块坐标Frank-Wolfe方法，利用拉格朗日分解的特定结构。我们的经验表明，我们的方法优于一些具有挑战性的马尔可夫随机场，多标签离散断层扫描和图形匹配问题的最先进的拉格朗日分解为基础的算法。
2019-04-05 cs.AI cs.LG stat.ML
Maximum Causal Entropy Specification Inference from Demonstrations
University of California, Berkeley（加州大学伯克利分校）
在许多设置中（例如，机器人）演示提供了一种指定任务的自然方式;然而，用于从演示中示教学习的大多数方法或者不提供为任务学习的工件（诸如奖励或策略）可以被安全地组成的保证，和/或不显式地捕获历史依赖性。出于这种缺陷，最近的作品提出了学习布尔任务规范，一类布尔非马尔可夫奖励承认定义明确的组成，并明确处理历史依赖关系。这项工作继续这一研究路线，通过适应最大因果熵逆强化学习，以估计后验概率的规格给定的多组演示。关键的算法见解是利用大量的文献和工具，减少了有序的二元决策图，有效地编码时间展开的马尔可夫决策过程。这使得能够将朴素指数时间算法转换为多项式时间算法。
2020-05-16 cs.LG cs.RO stat.ML
Efficient Exact Inference in Planar Ising Models
NICTA（澳大利亚国家信息与通信技术研究院）
我们给出多项式时间算法的精确计算的最低能量（地面）状态，最坏的利润违规者，日志分区功能，和边际边缘概率在某些二进制无向图形模型。我们的方法提供了一个有趣的替代方案，众所周知的图形切割范例，它不施加任何子模块化的约束，而是我们需要平面性建立一个对应关系，在一个扩展的对偶图完美匹配（二聚体覆盖）。我们实现了一个统一的框架，同时委托复杂的，但很好理解的子问题（平面嵌入，最大权重完美匹配），以建立有效的实现是免费提供的算法。与图割方法不同，我们可以在相关的条件随机场（CRF）中执行惩罚最大似然和最大边际参数估计，并采用边际后验概率和最大后验（MAP）状态进行预测。图像去噪和分割问题的最大间距CRF参数估计表明，我们的方法是高效和有效的。C++实现可从http://nic.schraudolph.org/isinf/获得
2008-12-17 cs.CV cs.LG stat.ML
