On Measure Concentration of Random Maximum A-Posteriori Perturbations
Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）；University of Haifa（海法大学）；Massachusetts Institute of Technology（麻省理工学院）
最大后验（MAP）扰动框架已成为一个有用的方法，在高维复杂模型的推理和学习。通过最大化随机扰动的势函数，MAP扰动从吉布斯分布生成无偏样本。不幸的是，生成如此多的高维随机变量的计算成本可能是令人望而却步的。更有效的算法使用基于低维MAP扰动的期望值的顺序采样策略。本文开发了新的测量浓度不等式，约束估计这些期望值所需的样本数。将一般结果应用于MAP扰动可以产生更有效的算法来近似Gibbs分布的采样。计量集中度结果具有普遍意义，并可能适用于涉及预期估计的其他领域。
2013-10-15 cs.LG math.PR
Maximum a Posteriori Estimation for Linear Structural Dynamics Models Using Bayesian Optimization with Rational Polynomial Chaos Expansions
Technical University of Munich（慕尼黑工业大学）；ETH Zurich（苏黎世联邦理工学院）
本文提出将有理多项式混沌展开代理模型与贝叶斯优化相结合，通过稀疏贝叶斯学习和自适应实验设计降低计算成本，高效求解结构动力学模型的最大后验参数估计问题。
2024-08-07 cs.LG stat.ML
Maximum a Posteriori Inference of Random Dot Product Graphs via Conic Programming
Massachusetts Institute of Technology（麻省理工学院）；Washington State University（华盛顿州立大学）
本研究提出一种基于凸锥规划的RDPG潜在概率矩阵推断方法，加入核范数正则项，分析了原对偶解性质与渐近一致性，实验验证其可恢复图结构且适用于数百节点的图。
2021-12-16 cs.LG math.OC stat.ML
High Dimensional Inference with Random Maximum A-Posteriori Perturbations
Technion - Israel Institute of Technology（以色列理工学院）；Stony Brook University（纽约州立大学石溪分校）；Yahoo Labs（雅虎实验室）；Rutgers, The State University of New Jersey（罗格斯大学）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Massachusetts Institute of Technology（麻省理工学院）
本文提出了一种新的方法，称为扰动最大，高维统计推断的基础上应用随机扰动，然后进行优化。该框架通过随机扰动输入的势函数来向最大后验（MAP）预测器注入随机性。极值统计的一个经典结果断言，扰动最大运算使用高维扰动从吉布斯分布生成无偏样本。不幸的是，生成如此多的高维随机变量的计算成本可能是令人望而却步的。然而，当扰动是低维的，采样的扰动最大预测是有效的MAP优化。本文证明了低维扰动的扰动最大值推断的期望值可以顺序地用于从吉布斯分布生成无偏样本。此外，最大扰动的期望值是这种扰动最大模型的熵的自然界。扰动最大值的测量浓度结果表明，其采样平均值与其期望值的偏差在样本数量上呈指数衰减，从而可以有效地近似期望值。
2017-05-30 cs.IT cs.LG math.IT
Probably Approximately Correct Maximum A Posteriori Inference
Department of Informatics, King’s College London（信息学院，伦敦国王学院）
本文提出了一种在可变和固定计算预算下提供可证明最优解决方案的PAC-MAP算法，利用信息论度量和概率电路实现高效推断。
2026-08-13 cs.AI cs.LG
Maximum a Posteriori Adaptation of Network Parameters in Deep Models
Georgia Institute of Technology（佐治亚理工学院）；Kore University of Enna（恩纳科雷大学）；Microsoft Corporation（微软公司）
我们提出了一种贝叶斯方法来调整训练有素的上下文相关的深度神经网络隐马尔可夫模型（CD-DNN-HMM）的参数，以提高自动语音识别性能。给定丰富的DNN参数，但只有有限的数据量，适应DNN模型的有效性往往会受到影响。我们制定了专门设计的CD-DNN-HMM参数的最大后验（MAP）自适应，其中增强的线性隐藏网络连接到输出绑定状态或senone，并将其与之前提出的特征空间MAP线性回归进行比较。在20，000词开放词汇量的《华尔街日报》任务上的实验证据证明了该框架的可行性。在监督自适应中，所提出的MAP自适应方法提供了超过10%的相对误差减少，并始终优于传统的基于变换的方法。此外，我们提出了一个初步的尝试，通过利用senone之间的相似性，产生层次先验，以提高适应效率和有效性与有限的适应数据。
2015-08-12 cs.CL cs.LG cs.NE
MaPPO: Maximum a Posteriori Preference Optimization with Prior Knowledge
Purdue University（普渡大学）；University of California, San Diego（加州大学圣地亚哥分校）；Amazon（亚马逊）；Meta, FAIR；Yonsei University（延世大学）
MaPPO通过整合先验奖励知识优化偏好学习，提升对齐性能，无需额外超参数，适用于离线和在线设置，支持DPO变体插件，实验显示在多个基准上效果显著。
2026-11-08 cs.AI cs.CL cs.LG
V-MPO: On-Policy Maximum a Posteriori Policy Optimization for Discrete and Continuous Control
深度强化学习在离散和连续控制领域的一些最成功的应用已经在策略设置中使用了策略梯度方法。然而，策略梯度可能遭受可能限制性能的大方差，并且在实践中需要仔细调整熵正则化以防止策略崩溃。作为策略梯度算法的替代方案，我们引入了V-MPO，最大后验策略优化（MPO）的策略适应，基于学习的状态-价值函数执行策略迭代。我们表明，V-MPO在多任务环境中超过了之前报告的Atari-57和DMLab-30基准套件的分数，并且在没有重要性加权、熵正则化或基于群体的超参数调整的情况下也能可靠地做到这一点。在个人DMLab和Atari水平上，所提出的算法可以实现比以前报告的分数高得多的分数。V-MPO也适用于高维连续动作空间的问题，我们在学习控制模拟人形机器人的背景下证明了这一点，其中来自全状态观测的自由度为22自由度，来自像素观测的自由度为56自由度，以及示例OpenAI Gym任务，其中V-MPO实现了比以前报告的更高的渐近分数。
2019-09-26 cs.AI cs.LG
MAPTree: Beating "Optimal" Decision Trees with Bayesian Decision Trees
Stanford University（斯坦福大学）
本文提出MAPTree算法，通过贝叶斯最大后验推断和AND/OR搜索构建决策树，在16个真实数据集上优于或媲美基线且树更小，在合成数据上更鲁棒，并能提供最优性证书。
2023-12-20 cs.AI cs.LG
Implicit Maximum a Posteriori Filtering via Adaptive Optimization
Princeton University（普林斯顿大学）
该论文将贝叶斯滤波重新表述为时变优化问题，通过自适应优化隐式定义滤波器，在线性高斯情形下与卡尔曼滤波等价，并在非线性高维系统中展现出有效性和可扩展性。
2023-11-17 cs.LG cs.SY eess.SY
Estimating a potential without the agony of the partition function
给定样本的吉布斯密度函数的估计是计算统计和统计学习中的一个重要问题。尽管通常使用已建立的最大似然方法，但其需要计算配分函数（即，密度的归一化）。对于简单的低维问题，该函数可以很容易地计算，但对于一般密度和高维问题，它的计算是困难的，甚至是棘手的。在本文中，我们提出了一种替代方法的基础上最大后验概率（MAP）估计，我们命名为最大恢复MAP（MR-MAP），得到估计，不需要计算的分区函数，并重新制定的问题作为一个优化问题。我们进一步提出了一个最小动作类型的潜力，使我们能够快速解决前馈双曲神经网络的优化问题。我们证明了我们的方法在一些标准数据集上的有效性。
2023-03-11 cs.LG stat.ML
On Maximum-a-Posteriori estimation with Plug & Play priors and stochastic gradient descent
CNRS（法国国家科学研究中心）；University of Oxford（牛津大学）；Heriot-Watt University（赫瑞瓦特大学）；Maxwell Institute for Mathematical Sciences（麦克斯韦数学科学研究所）
本文研究了基于 Plug & Play (PnP) 先验的贝叶斯模型的最大后验估计问题，探讨了其存在性、稳定性与适定性，并在现实假设下证明了 PnP 随机梯度下降算法的收敛性，通过成像实验验证了其有效性。
2022-01-16 cs.CV cs.LG eess.IV
Artificial Rosetta Stone: Constrained Maximum A Posteriori (MAP) Reconstruction of Symbolic Raga Sequences via Order-k Markov Models
Abstract Math Institute（抽象数学研究所）
该研究提出ARS框架，用k阶马尔可夫模型结合约束MAP问题重建符号拉格序列，经合成与真实音频实验验证了方法可行性，为音乐片段重建提供了概率建模方案。
2026-09-02 cs.LG cs.SD stat.ML
Norm-Range Partition: A Universal Catalyst for LSH based Maximum Inner Product Search (MIPS)
The Chinese University of Hong Kong（香港中文大学）
最近，局部敏感哈希（LSH）被证明是有效的MIPS和几个算法，包括$L_2$ -ALSH，Sign-ALSH和Simple-LSH已被提出。本文介绍了范数-范围划分技术，该技术将原始数据集划分为包含具有相似2-范数的项的子数据集，并为每个子数据集独立地建立哈希索引。我们证明了范数-范围划分降低了现有的基于LSH的MIPS算法在温和的条件下的查询处理复杂度。提高性能的关键是范数范围划分允许使用较小的归一化因子的大多数子数据集。为了有效的查询处理，我们还制定了一个统一的框架来对不同子数据集的哈希索引中的桶进行排名。在真实数据集上的实验表明，在达到相同召回率的情况下，范数-范围划分显著减少了基于LSH的MIPS算法的探测次数。
2018-11-05 cs.LG stat.ML
MIND: Maximum Mutual Information Based Neural Decoder
Universität Klagenfurt（克拉根福大学）
我们正在协助在数字通信系统的应用程序的学习架构的发展日益增长的兴趣。在这里，我们考虑检测/解码问题。我们的目标是为这样的任务开发一个最佳的神经架构。最优准则的确定是最基本的一步。我们建议使用的互信息（MI）的信道输入输出信号对，这产生的最小化的后验信息的传输码字给定的通信信道输出观察。后验信息的计算是一项艰巨的任务，并且对于大多数信道，它是未知的。因此，它必须被学习。对于这样一个目标，我们提出了一种新的神经估计的基础上的歧视制定。这导致推导出的互信息神经解码器（MIND）。所开发的神经结构不仅能够解决未知信道中的解码问题，而且还能够返回编码方案实现的平均MI的估计，以及解码错误概率。几个数值结果的报告，并与最大后验概率和最大似然解码策略。
2022-09-01 cs.IT cs.LG math.IT
X2CT-FLOW: Maximum a posteriori reconstruction using a progressive flow-based deep generative model for ultra sparse-view computed tomography in ultra low-dose protocols
The University of Tokyo Hospital（东京大学医学部附属医院）；Center for Frontier Medical Engineering, Chiba University（千叶大学前沿医疗工程中心）；Division of Radiology and Biomedical Engineering, Graduate School of Medicine, The University of Tokyo（东京大学医学研究生院放射科与生物医学工程学系）
超稀疏视图计算机断层扫描（CT）算法可以减少患者的辐射暴露，但这些算法在测试中缺乏显式的周期一致性损失最小化和显式的对数似然最大化。在这里，我们提出了X2 CT-FLOW，用于使用基于渐进流的深度生成模型从单个或几个二维（2D）投影图像中重建三维（3D）胸部CT图像的最大后验（MAP）重建，特别是对于超低剂量协议。MAP重建可以同时优化循环一致性损失和对数似然。该算法建立在一个新开发的基于渐进流的深度生成模型之上，该模型具有精确的对数似然估计、高效的采样和渐进式学习的特点。我们应用X2 CT-FLOW从无噪声污染（假设标准剂量协议）和强噪声污染（假设超低剂量协议）的双平面投影图像重建3D胸部CT图像。使用标准剂量方案，我们从2D投影图像和3D地面实况CT图像重建的图像在结构相似性方面显示出良好的一致性（SSIM，平均0.7675），峰值信噪比（PSNR，平均25.89 dB）、平均绝对误差（MAE，平均0.02364）和归一化均方根误差（NRMSE，平均0.05731）。此外，在超低剂量方案下，我们从2D投影图像和3D地面真实CT图像重建的图像在SSIM（平均0.7008）、PSNR（平均23.58 dB）、MAE（平均0.02991）和NRMSE（平均0.07349）方面也表现出良好的一致性。
2021-10-01 cs.CV cs.LG eess.IV
