首页/论文/physics/0308005

arXiv physics/03080052003-08physics.data-an

最大概率和最大熵方法：贝叶斯解释

Maximum Probability and Maximum Entropy methods: Bayesian interpretation

M. Grendar,, M. Grendar

备注：: To be presented at MaxEnt 23
发表信息：: In: Bayesian inference and Maximum Entropy methods in Science and Engineering, G. Erickson and Y. Zhai (eds.), AIP (Melville), 490-494, 2004

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

摘要：

（Shannon-Kullback的）相对熵最大化（REM或MaxEnt）的（Jaynes的）方法可以-至少在离散情况下-根据最大概率定理（MPT）被视为最大概率方法（MaxProb）的渐近实例。这里给出了MaxProb的一个简单的基本解释。MPT将解释带入REM。

英文摘要：

(Jaynes') Method of (Shannon-Kullback's) Relative Entropy Maximization (REM or MaxEnt) can be - at least in the discrete case - according to the Maximum Probability Theorem (MPT) viewed as an asymptotic instance of the Maximum Probability method (MaxProb). A simple bayesian interpretation of MaxProb is given here. MPT carries the interpretation over into REM.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

反问题的最大平均熵（MEM）和贝叶斯估计（BAYES）方法的比较

A Comparison of Two Approaches: Maximum Entropy on the Mean (MEM) and Bayesian Estimation (BAYES) for Inverse Problems

为了处理逆问题，已经提出了两种概率方法：最大平均熵（MEM）和贝叶斯估计（BAYES）。本文的主要目的是比较这两种方法，这实际上是两种不同的推理程序来定义作为复合标准的优化器的反问题的解决方案。关键词：反问题，最大平均熵，贝叶斯推断，凸分析。

2001-11-14physics.data-an

最大熵与贝叶斯数据分析：熵先验

Maximum Entropy and Bayesian Data Analysis: Entropic Priors

分配客观反映实验先验信息的概率分布是使用贝叶斯方法进行数据分析的主要障碍之一。本文利用最大（相对）熵（ME）方法将已知形式的似然信息转化为贝叶斯推断的先验分布。论证的灵感和指导的直觉，从成功地使用ME方法在统计力学。对于不能重复的实验，所得到的“熵先验”在形式上与爱因斯坦涨落公式相同。然而，对于可重复的实验，可能性熵的期望值是必须包含在分析中的相关信息。高斯似然的重要情况下，详细处理。

2003-07-10physics.data-an

基于条件最大熵的极值统计贝叶斯方法

Bayesian approach to extreme-value statistics based on conditional maximum-entropy method

最近，条件最大熵方法（简称C-MaxEnt）已被提出来选择先验的贝叶斯统计在一个非常简单的方式。在这里，它是检查极值统计。对于威布尔型作为一个明确的例子，它示出了如何C-MaxEnt可以产生一个事先满足杰弗里斯规则。

2018-09-28cond-mat.stat-mechphysics.data-an

贝叶斯统计中先验分布选择的条件最大熵方法

Conditional maximum-entropy method for selecting prior distributions in Bayesian statistics

条件最大熵方法（C-MaxEnt）是贝叶斯统计中选择先验概率分布进行参数估计的方法。这种方法的灵感来自于一个物理力学方法来控制系统的动态与大分离的时间尺度，是基于三个关键概念：共轭对变量，无量纲的集成措施与粗粒度的因素和部分最大化的联合熵。该方法使一个计算先验纯粹从一个简单的方式的可能性。特别是它不仅产生杰弗里斯的规则，但也揭示了隐藏在它们背后的新结构。

2014-11-26cond-mat.stat-mechphysics.data-an

骰子问题的另一种分析

Yet Another Analysis of Dice Problems

在爱达荷州莫斯科举行的MaxEnt 2002研讨会上，Tony Vignaux再次提出了几个关于使用最大熵或贝叶斯方法解决著名的骰子问题的简单问题，这些问题已经在本次研讨会和其他地方进行了多次分析。在此，对这些问题有另一种分析。我希望，这篇论文将回答Tony和研讨会其他参与者的一些问题，这些问题涉及我们可以使用最大熵或贝叶斯方法的情况，甚至是我们实际上可以使用这两种方法的情况。保留字：骰子问题与概率论，极大似然，贝叶斯推断，最大后验概率，熵，最大熵，最大平均熵。

2002-11-12physics.data-an

最大熵与贝叶斯推理的合情推理统一

Unification of Maximum Entropy and Bayesian Inference via Plausible Reasoning

本文修改了Jaynes的合情推理公理，并从第一性原理出发导出了最小相对熵原理、贝叶斯规则和最大似然。我称之为最优信息原理的新公理适用于决策者获得数据和相关背景信息的任何时候。这些公理提供了一个问题的答案“为什么最大化熵时，面对不完全的信息？"

2011-03-29cs.ITmath.ITmath.ST

更多相关论文收起更多论文

Dirichlet先验下置换熵的有效贝叶斯估计

Efficient Bayesian estimation of permutation entropy with Dirichlet priors

对于有序模式抽样服从独立多项分布的系统，提出了用贝叶斯统计方法估计排列熵的方法。它表明，PE后验分布是密切接近的标准Beta分布，其超参数可以直接估计从矩分析计算从观察到的有序模式计数。与以前使用frequentist方法得出的表达式的等价性也被证明。由于贝叶斯估计PE自然结合了不确定性和先验信息，传统的要求，$N \gg D!$有效地规避，允许PE估计，即使是非常短的时间序列。对一个具有光反馈的半导体激光器（SLWOF）系统的PE后验分布进行了自相似性检验，结果表明该系统的PE随时间呈周期性变化。

2021-04-19nlin.CDphysics.data-anphysics.optics

交叉统计：贝叶斯解释、模型选择和解决暗能量参数化问题

Crossing Statistic: Bayesian interpretation, model selection and resolving dark energy parametrization problem

通过引入交叉函数和超参数，我证明了交叉统计量的贝叶斯解释[1]可以平凡地用于宇宙学模型中的模型选择。在这种证伪宇宙学模型的方法中，不需要将它与其他模型进行比较，也不需要假设任何特定形式的宇宙学量的参数化，如光度距离、哈勃参数或暗能量的状态方程。相反，交叉函数的超参数作为正确和错误模型之间的鉴别器。使用这种方法，人们可以伪造任何假设的宇宙学模型，而不把先验知识放在宇宙的基本实际模型及其参数上，从而解决了暗能量参数化的问题。它也将被证明，该方法的内在分散的数据的敏感性是小的，这是另一个重要的特点，该方法在测试宇宙学模型处理具有高不确定性的数据。

2012-05-13astro-ph.COphysics.data-an

概率密度学习的场论和最大熵方法的统一

Unification of field theory and maximum entropy methods for learning probability densities

Simons Center for Quantitative Biology（西蒙斯定量生物学中心）；Cold Spring Harbor Laboratory（冷泉港实验室）

需要估计平滑概率分布（也称为概率密度）在科学中是普遍存在的。已经描述了解决这个问题的许多方法，但是没有一种被认为是提供了确定的解决方案。最大熵估计和贝叶斯场论是两种这样的方法。两者都起源于统计物理学，但它们之间的关系仍然不清楚。在这里，我统一这两种方法，表明每一个最大熵密度估计可以恢复在无限光滑极限的适当的贝叶斯场论。我还表明，贝叶斯场论估计可以在不施加任何边界条件的候选密度，这些理论的无限光滑极限恢复最常见类型的最大熵估计。贝叶斯场论因此被视为提供了一个自然的最大熵零假设的有效性测试。贝叶斯场论在最大熵假设被证伪时也返回较低的熵密度估计。这种方法所需的计算可以快速进行一维数据，并提供了这样做的软件。基于这些结果，我认为贝叶斯场论准备提供一个明确的解决方案，在一维的密度估计问题。

2015-07-29cs.LGphysics.data-anq-bio.QM

基于玻恩定则的香农熵的几何解释

Geometrical Interpretation of Shannon's Entropy Based on the Born Rule

在本文中，我们将分析离散概率分布，其中某些实验（微观状态）的特定结果的概率可以由自然数的比率表示（换句话说，概率由有限表示长度的数字表示）。我们将介绍几个基于最近提出的操纵杆概率的结果，它代表了基于玻恩规则的概率的几何解释。引入了离散分布的类空间、类维数以及有效维数等概念。它将显示如何这个简单的几何表示可以导致一个最佳的代码长度编码的信号序列。然后，我们将给出一个新的，几何，解释的香农熵的离散分布。我们将建议香农熵表示分布的有效维数的对数。提出的香农熵的几何解释可以用来初等地证明一些信息不等式。

2009-09-28cs.ITcs.NEmath.IT

贝叶斯分层模型与最大熵原理

Bayesian Hierarchical Models and the Maximum Entropy Principle

Department of Statistics, The University of Auckland（奥克兰大学统计系）

本文探讨了贝叶斯分层模型中参数先验的依赖关系，证明当超参数给出的先验为最大熵分布时，边缘先验也具有最大熵性质，且约束条件不同。

2026-04-30cs.LGphysics.data-anstat.ME