On the Bernstein-Von Mises Theorem for High Dimensional Nonlinear Bayesian Inverse Problems
本文证明了一类高维非线性贝叶斯反问题在噪声消失极限下的Bernstein-vonMises定理。我们提出了一个关于未知参数个数增长率的充分条件，在此条件下，后验分布是渐近正态的。这个增长条件表示明确的模型维数，反问题的不适定性程度和噪声参数。理论结果被应用到一个椭圆问题中的介质参数的贝叶斯估计。
2017-06-03 math.ST stat.TH
Bayesian tests of symmetry for the generalized von Mises distribution
介绍了平面方向广义von Mises模型对称性的贝叶斯检验（Gatto和Jammalamadaka，2007）。广义冯米塞斯分布是一个灵活的模型，可以是轴对称或不对称，单峰或双峰。提供了轴对称的表征，并将其作为拟定贝叶斯检验之一的原假设。贝叶斯检验是通过概率扰动技术得到的。扰动先验概率测量，以便为原假设提供正的先验概率，否则原假设将为零。这允许推导简单的计算公式的贝叶斯因子。数值结果表明，只要样本的模拟方案支持原假设，零后验概率出现系统大于其先前的对应。
2021-05-03 math.ST stat.TH
Adaptive Bernstein-von Mises theorems in Gaussian white noise
研究了正则高斯白噪声模型下自适应非参数贝叶斯过程的Bernstein-vonMises定理。我们考虑希尔伯特空间和多尺度设置与$L^2$和$L^\infty$分别应用。这为插件程序提供了理论上的证明，例如，使用某些可信的集合来获得足够光滑的线性泛函。我们使用这种一般的方法来构造最佳的频率置信集的基础上的后验分布。我们还提供了模拟，以数字说明我们的方法，并获得所涉及的几何图形的视觉表示。
2016-12-19 math.ST stat.TH
Early Highlights in the History of the Bernstein-von Mises Theorem
Katholische Universität Eichstätt-Ingolstadt（凯瑟琳大学艾希施泰特-因戈尔施塔特）
本文回顾了伯恩斯坦-冯·米塞定理从1774年到1953年的发展历程，揭示了该定理的起源、关键步骤及其应用。
2025-12-13 math.HO math.ST stat.TH
A Bernstein-von Mises theorem in the nonparametric right-censoring model
在最近的贝叶斯非参数文献中，许多例子已经报道了贝叶斯估计和后验分布没有达到最佳收敛速度，表明Bernstein-von Mises定理不成立。在这篇文章中，我们给出了一个积极的结果，在这个方向上，表明伯恩斯坦-冯米塞斯定理在生存模型中的一大类事先中立的权利。我们还证明了，对于任意给定的收敛速度n^{-α}，0<α \leq 1/2，可以选择一个向右中性的先验过程，使其后验分布达到收敛速度n^{-α}。
2004-10-05 math.ST stat.TH
Semi-parametric Bernstein-von Mises Theorem in a Parabolic PDE Problem
VU Amsterdam（阿姆斯特丹自由大学）；TU Delft（代尔夫特理工大学）
本文提出了一种基于贝叶斯方法的半参数伯恩斯坦-冯-米泽定理，用于在抛物型偏微分方程问题中恢复未知的扩散率参数。
2026-01-31 math.ST stat.TH
Semi-parametric Bernstein-von Mises in Linear Inverse Problems
本文在信号加白噪声模型中研究反问题标量参数的贝叶斯恢复，建立其边际后验的 Bernstein-von Mises 定理，并应用于热扩散系数恢复和半盲反卷积位置参数恢复。
2025-03-13 math.ST stat.TH
Semiparametric Bernstein-von Mises theorems for reversible diffusions
University of Turin（都灵大学）；Imperial College London（伦敦帝国学院）
针对周期可逆多维扩散模型，建立了基于连续观测的贝叶斯非参数先验的半参数Bernstein-von Mises定理，并应用于高斯和Besov-Laplace先验，验证了其有效性和不确定性量化。
2026-07-03 math.ST stat.TH
Mixtures of Bivariate von Mises Distributions with Applications to Modelling of Protein Dihedral Angles
经验观测数据的建模通常使用概率分布的混合来完成。为了对角度数据进行建模，通常使用诸如双变量冯米塞斯（BVM）的方向概率分布。混合建模的关键任务是确定组分概率分布的最佳数目。我们采用贝叶斯信息理论的最小消息长度（MML）的原则来区分混合模型，通过平衡模型的复杂性和拟合数据的良好性之间的权衡。我们考虑的问题，建模角数据产生的蛋白质结构的空间排列使用BVM分布。本文的主要贡献包括混合物建模装置的发展以及BVM分布的参数的MML估计。我们证明了使用MML框架的统计推断取代了传统的方法，并提供了一种机制来客观地确定具有实际意义的模型。
2016-09-26 q-bio.QM stat.ML
Finite sample Bernstein-von Mises theorems for functionals and spectral projectors of the covariance matrix
我们证明了先验对协方差阵的后验分布的影响随着样本量的增长而消失。先验假设是明确和温和的。结果对有限样本有效，并承认维数$p$随样本量$n$而增长。我们利用所描述的事实，推导出有限样本Bernstein-von Mises定理的协方差阵（例如特征值）的泛函，并找到后验分布的Frobenius距离之间的光谱投影仪和经验光谱投影仪。这对于构造函数的真实值或真实光谱投影仪的尖锐置信集是有用的。
2019-06-26 math.ST stat.TH
The Multivariate Generalised von Mises distribution: Inference and applications
循环变量出现在从机器人到社会科学的大量数据建模环境中，但它们在很大程度上被机器学习社区所忽视。本文通过将一些标准的概率建模工具扩展到圆形域来部分纠正这种不平衡。首先，我们介绍一个新的多元分布的圆形变量，称为多元广义冯米塞斯（mGvM）分布。该分布可以通过将一般多元高斯分布限制和重正化到单位超环面来构造。先前提出的多元圆形分布被证明是这种结构的特殊情况。其次，我们介绍了一个新的概率模型的循环回归，这是启发高斯过程，概率主成分分析的方法与循环隐藏变量。这些模型可以利用标准建模工具（例如，协方差函数和用于自动相关性确定的方法）。第三，我们表明，在这些模型中的后验分布是一个mGvM分布，使发展一个有效的变自由能计划进行近似推理和近似最大似然学习。
2017-08-08 stat.ML
The Bernstein--von Mises theorem for the proportional hazard model
本文研究了具有中性到右过程先验的比例风险模型在基线风险函数上的贝叶斯分析的大样本性质。我们证明了基线累积风险函数和回归系数的后验分布集中在最大似然估计是联合渐近等价的最大似然估计的抽样分布。
2006-11-08 math.ST stat.TH
On sample complexity of conditional independence testing with Von Mises estimator with application to causal discovery
EPFL（洛桑联邦理工学院）
本文研究多元分布熵的非参数 Von Mises 估计器，建立其指数集中不等式，并据此提出条件独立性检验 VM-CI，证明了其误差紧上界，首次为连续变量因果发现提供了样本复杂度保证。
2023-10-20 cs.LG
A Bernstein-von Mises Theorem for Generalized Fiducial Distributions
University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
本文在局部渐近正态性框架下，建立了广义证物推断的伯恩斯坦-冯·米塞定理，适用于非独立同分布数据，并扩展了现有广义证物理论在自由结样条模型中的应用。
2026-09-11 math.ST stat.TH
Parametrization, Prior Independence, and the Semiparametric Bernstein-von Mises Theorem for the Partially Linear Model
针对部分线性回归模型证明了半参数 Bernstein-von Mises 定理，通过可行重新参数化反映半参数结构，避免了先验不变性条件，并在小波序列和 Matérn 高斯过程先验下验证。
2025-04-07 econ.EM math.ST stat.TH
The semi-parametric Bernstein-von Mises theorem for regression models with symmetric errors
在光滑半参数模型中，有限维参数的边际后验分布被期望渐近等价于任何有效点估计的抽样分布。该断言导致了所关注参数的可信集和置信集的渐近等价性，被称为半参数伯恩斯坦-冯米塞斯定理。近年来，它受到了广泛的关注，并在许多实例中得到了应用。我们考虑模型中的误差与对称密度发挥作用，更具体地说，它表明，在线性回归和线性混合效应模型的回归系数的边际后验分布满足半参数Bernstein-von Mises断言。因此，这些模型中的贝叶斯估计实现了频率论推断最优性，如通过例如Hajek卷积和渐近极小极大定理所表示的。误差密度空间上先验的条件相对温和，并且众所周知的构造，如Dirichlet过程，正常密度和随机序列先验的混合物构成了有效的选择。特别地，该结果提供了线性混合效应模型中回归系数的有效估计，对于该模型，以前没有其他有效的点估计。
2017-01-12 math.ST stat.TH
Semiparametric Bernstein-von Mises Theorem: Second Order Studies
本文主要研究半参数贝叶斯模型中参数分量的边缘后验分布的二阶频率论性质，特别是二阶半参数Bernstein-von Mises（BvM）定理。我们的第一个贡献是发现一个有趣的干扰现象之间的贝叶斯估计和频率论的推断精度：更准确的贝叶斯估计的滋扰功能导致更高的频率论的推断精度的参数组件。作为第二个贡献，我们提出了一类新的依赖先验下，贝叶斯推理过程的参数组件不仅是有效的，而且是自适应的（w.r.t.非参数分量的光滑性）直到二阶频率论有效性。然而，通常使用的独立先验甚至可能无法产生一个理想的根-n收缩率的参数组件在这种自适应的情况下，除非施加一些严格的假设。三个重要的类的半参数模型进行检查，并提供了广泛的模拟。
2015-03-16 math.ST stat.TH
The Bernstein-von Mises theorem and nonregular models
我们研究了一类统计模型中“真”解出现在参数空间边界上的后验分布的渐近行为。我们表明，在这种情况下贝叶斯推断是一致的，并且后验分布不仅具有高斯分量，在常规模型的情况下（伯恩斯坦-冯米塞斯定理），但也有Γ分布组件，其形式取决于在边界附近的先验分布的行为，并具有更快的收敛速率。我们还证明了贝叶斯推理的一个显着的属性，即对于某些模型，似乎没有约束的效率估计的未知参数，如果它是在参数空间的边界。我们说明了从发射断层扫描的问题上的结果。
2014-10-01 math.ST stat.TH
Learning over von Mises-Fisher Distributions via a Wasserstein-like Geometry
Baruch College（巴彻学院）；Yale University School of Medicine（耶鲁大学医学院）
本文提出一种基于最优传输的类Wasserstein距离用于比较von Mises-Fisher分布，通过测地项和方差项分解差异，并开发了高效的混合约简算法，实验验证其在方向数据分析和可解释推理中的有效性。
2025-04-19 cs.LG stat.ME stat.ML
Bernstein--von Mises theorems for Bayesian probabilistic numerics
EPFL（洛桑联邦理工学院）；Humboldt University Berlin（柏林洪堡大学）
该研究从贝叶斯非参数视角研究非线性PDE求解的概率数值方法，建立了后验在索伯列夫空间及一致拓扑下的高斯近似，还证明高斯拉普拉斯近似在√N尺度下渐近等价于真实后验。
2026-09-04 cs.NA math.NA math.ST
Bernstein - von Mises theorems for statistical inverse problems I: Schrödinger equation
University of Cambridge（剑桥大学）
本文研究了确定薛定谔方程中未知势函数的问题，提出非参数贝叶斯先验，并证明了贝塞尔-冯-米塞定理，表明后验分布在小噪声极限下能进行有效的统计推断。
2018-06-15 cs.NA math.AP math.NA
Divergence-based Robust Generalised Bayesian Inference for Directional Data via von Mises-Fisher models
School of Data Science, Meisei University（明成大学数据科学学院）；RIKEN Center for Brain Science（理化学研究所脑科学中心）；School of Business Administration, Meiji University（明治大学商学院）；Department of Information Sciences, Tokyo University of Science（东京科学技术大学信息科学系）
本文提出基于密度幂发散和γ-发散的贝叶斯推断方法，用于稳健估计方向数据的参数，通过模拟和真实数据验证其有效性。
2025-12-24 math.ST stat.CO stat.ME
The Bernstein-von Mises theorem for Semiparametric Mixtures
该研究针对半参数混合模型，在一般条件下证明其一致性与效率，先提出抽象半参数伯恩斯坦-冯·米塞斯定理并提供假设验证工具，进而应用于脆弱模型和变量误差模型中$θ$的估计效率研究。
2024-11-29 math.ST stat.TH
Finite Sample Bernstein -- von Mises Theorem for Semiparametric Problems
在允许有限样本和模型误设定的非经典设置中重新考虑经典参数和半参数Bernstein - von Mises（BvM）结果。在一个有限维的冗余参数的情况下，我们得到的目标参数的后验分布，这是明确的滋扰和目标参数的尺寸的高斯近似的误差上界。这有助于识别BvM结果适用的完整参数的所谓\emph{critical dimension} $ p $。在重要的身份证里。的情况下，我们证明了条件“$ p^{3} / n $是小的”是足够的BvM结果是有效的，在一般的假设模型。我们还提供了一个例子，一个模型的相变效应：陈述的BVM定理失败时，尺寸$ p $接近$ n^{1/3} $。将所得结果推广到Sobolev类中含有冗余参数的无穷维参数的情形。特别是，我们显示了接近正常的后，如果平滑参数$s$超过3/2。
2014-06-15 math.ST stat.TH
Semiparametric Bernstein-von Mises Phenomenon via Isotonized Posterior in Wicksell's problem
针对Wicksell逆问题，本文直接对可观测分布施加DP先验并构造等张化逆后验IIP，证明其半参数BvM现象与极小极大渐近方差，且可自动量化不确定性。
2025-08-28 math.ST stat.TH
Bernstein-von Mises theorems and uncertainty quantification for linear inverse problems
我们考虑从被加性高斯白噪声破坏的线性测量中恢复未知函数$f$的统计逆问题。我们采用了一个非参数贝叶斯方法与标准高斯先验，基于后验的重建$f$对应的Tikhonov正则化$\bar f$与再生核希尔伯特空间范数惩罚。我们证明了一个半参数Bernstein-von Mises定理的大量收集的线性泛函的$f$，这意味着半参数后验估计和不确定性量化是有效的，从频率论的角度来看是最佳的。将所得结果应用于研究三个具体的例子，涵盖轻度和严重不适定的情况下：具体地说，一个椭圆反问题，一个椭圆边值问题和热方程。对于椭圆型边值问题，我们也得到了一个非参数版本的定理，需要收敛的后验分布的先验独立的无限维高斯概率测度与最小的协方差。因此，它遵循的Tikhonov正则化$\bar f$是一个有效的估计$f$，我们得到频率保证某些可信的球集中在$\bar{f}$。
2020-01-17 math.ST stat.TH
Bernstein - von Mises theorem and misspecified models: a review
本文综述了贝叶斯方法在模型误设定下的一致性及局部高斯性质，并探讨了如何调整推断以实现渐近有效性。
2022-04-28 math.ST stat.TH
High-Dimensional Bernstein Von-Mises Theorems for Covariance and Precision Matrices
Florida State University（佛罗里达州立大学）；University of Florida（佛罗里达大学）；University of Technology Sydney（悉尼科技大学）
本文研究了高维情况下协方差与精度矩阵后验分布的渐近正态性，提出在特定增长限制下，其极限分布为对称矩阵正态分布，并适用于广泛先验分布。
2026-01-30 math.ST stat.TH
The semiparametric Bernstein-von Mises theorem for models with symmetric error
在光滑半参数模型中，期望有限维参数的边际后验分布渐近等价于频率论有效估计的抽样分布.这就是所谓的Bernstein-von Mises定理的断言，最近，它已经在许多有趣的半参数模型中得到了证明。在这篇论文中，我们考虑了半参数Bernstein-vonMises定理在具有对称误差的模型中的应用。这些模型中最简单的例子是具有1维位置参数和未知对称误差的对称位置模型。此外，只要误差分布是对称的，则包括线性回归和随机效应模型。非参数先验对误差分布的要求是非常温和的，最著名的Dirichlet过程混合法线工作得很好。因此，这些模型中的贝叶斯估计满足频率论的最优性准则，如Hajek-Le Cam卷积定理。主要结果的证明要求期望对数似然比具有一定的二次展开，这是对称密度的一个特殊性质。本文的主要贡献之一是在随机效应模型中，给出了回归系数的一个有效的估计量，这是由于完全似然推断的困难而无法有效估计的。我们的定理表明后验均值或中位数是有效的，数值研究的结果也表明了贝叶斯估计的优越性。为了实际应用，我们的主要结果，有效的吉布斯采样算法的基础上对称Dirichlet过程的混合物。
2015-10-18 math.ST stat.TH
Valid Credible Ellipsoids for Linear Functionals by a Renormalized Bernstein-von Mises Theorem
本文针对无限维高斯回归模型，提出重整化 Bernstein-von Mises 定理，证明后验可信椭球为渐近置信集，并验证于 Darcy 与 Schrödinger 问题。
2024-11-10 math.ST stat.TH
Semiparametric Bernstein-von Mises theorems from Stein's method
Statistical Laboratory, University of Cambridge（剑桥大学统计实验室）
本文提出基于 Stein 方法与信息几何框架的半参数 Bernstein-von Mises 定理证明新策略，给出非渐近上界，并应用于高斯白噪声与直方图模型中的各类泛函，通过泛函修正消除后验偏差。
2026-09-30 math.ST stat.TH
Weak Convergence and Gaussian Limits for a General-Dimensional Origin-Invariant Cramér--von Mises Statistic
Bulacan State University（布拉干州立大学）
本文研究了在多项式β-混合依赖下，空间Cramér-von Mises统计量的渐近分布，并提供了Python实现。通过结合三种方法，将经典独立性检验扩展到空间依赖数据，给出了三种权重函数的特征值公式，并通过模拟实验验证了其有效性。
2026-07-27 math.ST stat.ME stat.TH
On Semi-parametric Bernstein-von Mises Theorems for BART
在贝叶斯非参数统计/机器学习中，很少有方法像贝叶斯加性回归树（BART）一样受到关注。虽然BART现在经常用于预测任务，但其理论特性直到最近才开始被理解。在这项工作中，我们继续Rockova和van der Pas（2017）发起的BART理论研究。特别是，我们研究了Bernstein-von Mises（BvM）现象（即渐近正态性）的光滑线性泛函的回归表面的框架内的非参数回归固定协变量。与其他适应性先验一样，当功能性和真实性不相容时，BvM现象可能会失败。为了克服诅咒的自适应分层先验下，我们诱导自相似性假设，以确保收敛到一个单一的高斯分布，而不是高斯混合。已知对功能参数的类似定性限制对于自适应推理是必要的。许多机器学习方法缺乏连贯的概率机制来衡量不确定性。BART很容易通过后验可信集提供这种量化。BvM定理意味着可信集也是具有相同渐近覆盖的置信区域。本文给出了BART先验的第一个渐近正态性结果，从频率论的角度证明了BART是一个有效的工具。
2019-05-09 math.ST stat.TH
Skewed Bernstein-von Mises theorem and skew-modal approximations
本文提出基于三阶 Laplace 方法的偏斜对称分布族闭式后验近似，其全变差收敛速率比经典 Bernstein-von Mises 定理至少提高一个数量级，并给出实用的偏斜众数近似及实验验证。
2024-04-08 math.ST stat.CO stat.ME
Bernstein -- von Mises theorems for statistical inverse problems II: Compound Poisson processes
本文研究了$$Y_t = \sum_{k=1}^{N(t)} Z_k,~~~ t \ge 0,$$形式的纯跳过程参数的非参数贝叶斯统计推断，其中$N(t)$是强度为$λ$的标准泊松过程，$Z_k$是独立同分布~从跳跃测量$μ$。设计了Lévy测度$ν= λμ$的高维小波级数先验，其后验分布来自于在固定观测距离$Δ$上观测离散样本$Y_Δ, Y_{2Δ}, \dots, Y_{nΔ}$，从而产生了一个非线性逆推理问题.我们推导出收缩率的均匀范数的后验分布周围的真正的Lévy密度是最佳的对数因子超过Hölder类，作为样本大小$n$增加。我们证明了一个功能Bernstein-von Mises定理的分布函数的$μ$和$ν$，以及为强度$λ$，建立的事实，即后验分布近似的无限维高斯测度的协方差结构，以达到这个逆问题的信息下限。因此，基于后验的推断，如非参数可信集，是渐近有效的，从频率论的观点来看是最优的。
2019-09-05 math.ST stat.TH
Online Bernstein-von Mises theorem
Pohang University of Science and Technology（浦项科技大学）
本文提出了一种在线学习中的变分近似方法，证明在足够大的mini-batch大小下，逐步更新的后验与完整后验渐近等价。
2026-02-11 math.ST stat.TH
Bernstein-von Mises theorems for time evolution equations
University of Cambridge（剑桥大学）
研究基于非线性抛物型偏微分方程的动力学系统，探讨后验分布在 Wasserstein 距离下的近似特性，并应用于周期非线性反应扩散方程。
2026-04-17 cs.NA math.AP math.NA
Bernstein-von Mises for Adaptively Collected Data
Harvard University（哈佛大学）；Stanford University（斯坦福大学）
本文首次将 Bernstein-von Mises 定理推广到自适应收集数据，证明贝叶斯 UQ 与 Wald 型频率学派 UQ 渐近等价，并揭示稳定性条件不满足时贝叶斯 UQ 并非渐近频率学派有效。
2025-11-10 math.ST stat.ML stat.TH
The Bernstein-von Mises theorem for the Pitman-Yor process of nonnegative type
Pitman-Yor过程是一种随机概率分布，可用作非参数贝叶斯分析中的先验分布。该过程是物种抽样类型，并生成离散分布，如果类型$σ$为正，则在大小为$n$的随机样本中生成$n^σ$阶不同值（“物种”）。因此，这种类型的参数可以设置为目标的各种离散水平的真实分布，使Pitman-Yor过程在这种情况下是一个有趣的先验。先前已经证明，当且仅当数据的真实分布是离散的时，得到的后验分布是一致的。在本文中，我们得到的分布极限的后验分布，在一个（纠正）伯恩斯坦-冯米塞斯定理的形式，这是以前只知道在连续的，不一致的情况下。事实证明，Pitman-Yor后验分布具有良好的行为，如果数据的真实分布是离散的，原子减少不太慢。在这种情况下，从后验分布导出的可信集提供了有效的频率论置信集。对于一般离散分布，后验分布虽然一致，但可能包含在$\sqrt{n}$速率下不收敛于零的偏倚，并使后验推断无效。我们提出了一个偏差校正，解决了这个问题。我们还考虑了从数据中估计类型参数的效果，无论是经验贝叶斯方法还是全贝叶斯方法。在一个小的模拟研究中，我们说明，没有偏差校正的覆盖率的可信集可以任意低，也为一些离散分布。
2021-12-09 math.ST stat.TH
A Bernstein-Von Mises Theorem for discrete probability distributions
当模型维数随样本量增加时，我们研究了离散环境下后验分布的渐近正态性。本文考虑$\mathbbm{N}\setminus \{0\}$上的概率质量函数$θ_0$和满足$k_n^3\leq n\inf_{i\leq k_n}θ_0(i).$的截尾水平序列$(k_n)_n$。令$\hatθ$表示$(θ_0(i))_{i\leq k_n}$的极大似然估计，令$Δ_n(θ_0)$表示$k_n$维向量，其第$i$坐标由\sqrt{n}定义（\hat θ_n（i）-θ_0（i））对于$1\leq i\leq k_n.$我们检验了在$θ_0$上的温和条件下和在$k_n$ -维单形上的先验概率序列上，经过中心化和重新缩放后，以$\hatθ_n$为中心并由$\sqrt{n}$重新缩放的后验分布与$k_n$维高斯分布之间的变化距离$\mathcal{N}(Δ_n(θ_0),I^{-1}(θ_0))$以概率收敛于$0.$该定理可用于证明Shannon和Rényi熵的贝叶斯估计量的渐进正态性。证明是基于中心和非中心卡方（皮尔逊）统计量的浓度不等式。后者允许相对于Fisher距离而不是相对于Hellinger距离建立后验浓度率，因为它在非参数贝叶斯统计中很常见。
2009-01-29 math.ST stat.TH
A Deep Generative Model of Speech Complex Spectrograms
RIKEN Center for Advanced Intelligence Project (AIP)（理化学研究所先进智能项目中心）；Kyoto University（京都大学）
提出了一种基于深度生成模型的短时傅里叶变换幅度谱和相位谱联合建模方法。我们假设幅度遵循高斯分布，相位遵循冯米塞斯分布。为了改善时频域中相位值的一致性，我们还将冯米塞斯分布应用于相位导数，即，群延迟和瞬时频率。基于这些假设，我们探索并比较了几种用于训练模型的损失函数组合。基于变分自编码器框架，我们的模型由三个卷积神经网络组成，分别作为编码器、幅度解码器和相位解码器。除了潜在变量，我们还建议条件的相位估计的估计幅度。评估的时域语音重建任务，我们的模型可以生成语音具有高感知质量和高清晰度。
2019-03-08 cs.LG cs.SD eess.AS
Gaussian Process on the Product of Directional Manifolds
Linköping University（林雪平大学）
该研究提出超环面冯·米塞斯（HvM）核以构建方向流形乘积上的高斯过程，结合内在共区域化模型支持多输出回归并提供解析导数，在传感器网络定位任务中实现了优于传统方法的跟踪精度。
2024-06-18 cs.LG
A Note on the Kullback-Leibler Divergence for the von Mises-Fisher distribution
我们提出了一个推导的Kullback Leibler（KL）-散度（也称为相对熵）的冯米塞斯费舍尔（VMF）分布在$d$ -维。
2015-02-25 stat.ML
Large sample asymptotic analysis for normalized random measures with independent increments
具有独立增量的归一化随机测度代表了一大类贝叶斯非参数先验，并在贝叶斯非参数框架中得到广泛应用。本文通过构造独立增量归一化随机测度（NRMIs）中完全随机测度的Levy强度，给出了NRMIs的后验一致性分析.引入假设的Levy强度分析NRMI的后验一致性，并验证了多个有趣的例子。本文的一个重点是Bernstein-vonMises定理的归一化广义伽玛过程（NGGP）时的真实分布的样本是离散的或连续的。当应用Bernstein-von Mises定理来构造可信集时，除了通常的形式外，在左端点处会有一个额外的偏置项，该偏置项与离散时真实分布的原子数密切相关。我们还讨论了在Bernstein-vonMises收敛下NGGP模型参数估计的影响。最后，为了进一步说明在构造可信集时加入偏差修正的必要性，我们用数值方法说明了当真值分布为离散分布时，偏差修正对可信集覆盖真值的影响。
2023-03-22 math.ST stat.TH
A solution for the mean parametrization of the von Mises-Fisher distribution
针对von Mises-Fisher分布均值参数化归一化函数无闭式解的问题，研究推导了二阶常微分方程并给出闭式近似，可快速计算相关密度与自然参数，还展示了其在主题建模中的应用。
2024-04-10 stat.CO stat.ML
Von Mises-Fisher Elliptical Distribution
Imperial College London（帝国理工学院）
一大类现代概率学习系统假设对称分布，然而，现实世界的数据往往服从偏态分布，因此并不总是通过对称分布充分建模。为了解决这个问题，椭圆分布越来越多地用于推广对称分布，并且对偏斜椭圆分布的进一步改进最近引起了很多关注。然而，现有的方法要么难以估计，要么具有复杂和抽象的表示。为此，我们建议采用冯-米塞斯-费舍尔（vMF）分布，以获得一个明确的和简单的概率表示的偏椭圆分布。这不仅使我们能够处理非对称学习系统，而且还提供了一个物理上有意义的方法来概括偏态分布。严格来说，我们的扩展被证明是共享重要的和理想的属性与对称的。我们还表明，建议的vMF分布是容易产生和稳定的估计，无论是理论上和通过例子。
2021-03-14 cs.LG stat.ML
Mixture of von Mises-Fisher distribution with sparse prototypes
Universite Paris Dauphine-PSL（巴黎第九大学-巴黎文理研究大学）；Universite Paris 1 Pantheon-Sorbonne（巴黎第一大学-先贤祠-索邦大学）
冯·米塞斯-费舍尔分布的混合可以用于在单位超球面上聚类数据。这特别适用于诸如文本的高维方向数据。在这篇文章中，我们建议估计冯米塞斯混合使用l 1惩罚的可能性。这导致稀疏的原型，提高聚类的可解释性。我们引入了一个期望最大化（EM）算法估计和探索之间的权衡稀疏项和似然路径跟踪算法。该模型的行为进行了研究模拟数据，我们显示的优势，该方法对真实数据基准。我们还介绍了一个新的数据集的财务报告，并展示我们的探索性分析方法的好处。
2022-12-30 cs.LG math.ST stat.ML
Smoothing Effects of Bagging: Von Mises Expansions of Bagged Statistical Functionals
Bagging是一种旨在减少学习算法预测误差的设备。在其最简单的形式中，bagging从训练样本中提取bootstrap样本，将学习算法应用于每个bootstrap样本，然后对得到的预测规则进行平均。我们将Bagging的定义从统计推广到统计泛函，并研究了Bagged统计泛函的von Mises展开。我们表明，该扩展与原始（未装袋）泛函的埃弗龙-斯坦方差分析扩展有关。基本的观察是，一个袋装功能总是顺利的意义上，冯米塞斯展开存在，是有限的长度1 +重采样大小$M$。即使原始函数是粗糙的或不稳定的，这也成立。重采样大小$M$用作平滑参数，其中较小的$M$意味着更平滑。
2016-12-08 stat.ML
Directional Analysis of Stochastic Gradient Descent via von Mises-Fisher Distributions in Deep learning
KAIST（韩国科学技术院）；Center for Superintelligence, SNU（首尔大学超级智能中心）；New York University（纽约大学）；Facebook AI Research（Facebook人工智能研究院）
虽然随机梯度下降（SGD）是深度学习最近成功背后的驱动力，但我们对其在高维参数空间中的动力学的理解是有限的。近年来，一些研究人员使用小批量梯度的随机性或信噪比来更好地表征SGD的学习动态。受这些工作的启发，我们在这里通过检查小批量梯度的范数和方向的随机性，从几何角度分析SGD。我们提出了一个模型的方向浓度的minibatch梯度通过von Mises-Fisher（VMF）分布，并表明，minibatch梯度的方向均匀性增加的过程中的SGD。我们使用深度卷积网络实证验证了我们的结果，并观察到梯度随机性与所提出的方向均匀性之间的相关性高于梯度范数随机性，这表明小批量梯度的方向统计是SGD背后的主要因素。
2018-11-28 cs.LG stat.ML
Von Mises Mixture Distributions for Molecular Conformation Generation
University of Chicago（芝加哥大学）
针对分子构象采样成本高、现有机器学习方法多聚焦分布众数的问题，提出基于冯·米塞斯混合分布变分近似可旋转键扭转角的图神经网络VonMisesNet，可快速生成符合玻尔兹曼分布的分子构象。
2023-06-13 cs.LG physics.chem-ph stat.ML
Von Mises-Fisher Loss for Training Sequence to Sequence Models with Continuous Outputs
Language Technologies Institute（语言技术研究所）；Carnegie Mellon University（卡内基梅隆大学）
Softmax函数用于几乎所有现有序列到序列模型的最后一层，用于语言生成。然而，它通常是计算速度最慢的一层，这将词汇表大小限制为最常见类型的子集;并且它具有很大的内存占用。我们提出了一种通用的技术，用连续的嵌入层代替softmax层。我们的主要创新是一种新的概率损失，以及一种训练和推理过程，在该过程中，我们在预训练的词嵌入上生成概率分布，而不是通过softmax获得的词汇表上的多项分布。我们评估这类新的序列到序列模型的神经机器翻译任务上的连续输出。我们表明，我们的模型在训练时间上获得了高达2.5倍的速度提升，同时在翻译质量方面与最先进的模型不相上下。这些模型能够处理非常大的词汇量，而不会影响翻译质量。它们还产生比基于softmax的模型更有意义的错误，因为这些错误通常位于参考翻译的向量空间的子空间中。
2019-03-22 cs.CL cs.LG stat.ML
From Tail Universality to Bernstein-von Mises: A Unified Statistical Theory of Semi-Implicit Variational Inference
本文提出了一种统一的统计理论，用于分析半隐式变分推断（SIVI）的近似、优化和统计特性，揭示了SIVI在不同条件下的可恢复性和渐进行为。
2025-12-05 math.ST stat.ML stat.TH
