Approximate Inference with the Variational Holder Bound
University College London（伦敦大学学院）
我们引入变分持有人（VH）界作为替代变分贝叶斯（VB）的近似贝叶斯推断。与VB不同，VB通常涉及变分参数的非凸下界的最大化，VH界涉及变分参数的棘手积分的凸上界的最小化。VH界的最小化是凸优化问题;因此VH方法可以使用现成的凸优化算法来应用，并且VH界的近似误差也可以使用来自凸优化文献的工具来分析。我们目前的任务，整合截断多元高斯分布的实验，并比较我们的方法VB，EP和一个国家的最先进的数值积分方法，这个问题。
2015-06-19 cs.LG math.FA stat.ML
Deep Probabilistic Ensembles: Approximate Variational Inference through KL Regularization
Carnegie Mellon University（卡内基梅隆大学）；NVIDIA（英伟达）
在本文中，我们介绍了深度概率集成（DPEs），这是一种可扩展的技术，它使用正则化集成来近似深度贝叶斯神经网络（BNN）。我们这样做是通过将库尔贝克-莱布勒散度惩罚项集成的训练目标，来自变分推断中使用的证据下限。我们评估了从我们的模型中获得的不确定性估计，用于视觉分类的主动学习。随着注释预算的增加，我们的方法在主动学习基线上稳步改进。
2018-11-30 cs.LG stat.ML
Approximate Variational Inference Based on a Finite Sample of Gaussian Latent Variables
变分方法用于精确的贝叶斯推断由于难以进行某些积分而变得难以处理的情况。通常，变分方法假设一个易处理的后验，并制定一个下限所需的积分近似，例如边际似然。下限，然后优化其自由参数，所谓的变分参数。然而，这并不总是可能的，因为对于某些积分，提出合适的下限是非常具有挑战性的（或乏味的）。在这里，我们提出了一个简单的计划，克服了一些尴尬的情况下，通常变分处理变得困难。该计划依赖于重写的模型对数似然的下限。我们证明了一些合成和真实的例子，以及一个真正的地球物理模型，标准的变分方法是不适用的建议的计划。
2019-06-11 cs.LG stat.ML
Variational Inference of Dynamic Factor Models with Arbitrary Missing Data
动态因子模型通常采用点估计方法进行估计，而不考虑参数的不确定性。我们提出了一种方法占参数的不确定性，通过后验近似，使用变分推断。我们的方法允许任何任意模式的缺失数据，包括不同的样本量和混合频率。它还产生了一个简单的估计算法没有耗时的仿真技术。在使用小型和大型模型的经验示例中，我们将我们的方法与MCMC模拟的全贝叶斯估计进行了比较。一般来说，近似捕捉因子的功能和参数，具有巨大的计算增益。由此产生的预测分布近似到一个非常高的精度，几乎无法区分MCMC无论是在样本内外，在一小部分的计算时间。
2022-10-13 stat.AP stat.CO stat.ME
Variational Inference and Bayesian CNNs for Uncertainty Estimation in Multi-Factorial Bone Age Prediction
Institute of Computer Graphics and Vision（计算机图形与视觉研究所）；Graz University of Technology（格拉茨理工大学）；School of Computer Science（计算机科学学院）；University of Auckland（奥克兰大学）
除了在临床医学中的广泛使用外，法医学中的生物年龄（BA）还用于评估身份证明文件不可用的应用中未知的实际年龄（CA）。在文献中提出的年龄估计的自动方法是预测点估计，这可能是误导的预测不确定性的量化。在我们的MRI数据的多因素年龄估计方法中，我们使用变分推理方法来估计贝叶斯CNN模型的不确定性。区分模型不确定性和数据不确定性，我们将数据不确定性解释为生物学变异，即具有相同BA的受试者的可能CA范围。
2020-02-25 cs.LG eess.IV stat.ML
Seemingly Unrelated Regression with Measurement Error: Estimation via Markov chain Monte Carlo and Mean Field Variational Bayes Approximation
在协变量中具有测量误差的线性回归是一个被大量研究的主题，然而，统计学/计量经济学文献几乎是沉默的估计一个多方程模型与测量误差。本文研究了协变量中含有测量误差的相依回归模型，介绍了两种新的估计方法：基于马尔可夫链蒙特卡罗技术的纯贝叶斯算法及其均值场变分贝叶斯（MFVB）近似. MFVB方法具有计算速度快的额外优势，可以处理大数据。与测量误差模型相关的问题是参数识别，并且这通过采用关于测量误差方差的先验分布来解决。该方法在多个模拟研究中表现良好，我们分析了由于数据生成过程中使用的真实未观测量的可靠性比或方差的不同值对后验估计的影响。本文进一步实现了所提出的算法在健康文献中的应用程序，并表明，建模数据中的测量误差可以提高模型拟合。
2020-06-12 econ.EM stat.ME
Variational State and Parameter Estimation
University of Newcastle（纽卡斯尔大学）；Uppsala University（乌普萨拉大学）
本文研究了非线性状态空间模型的状态和模型参数的贝叶斯估计问题。一般来说，这个问题没有一个易于处理的解决方案，必须使用近似。在这项工作中，变分的方法是用来提供一个假设的密度近似所需的，棘手的，分布。该方法是确定性的，结果在一个标准形式的优化问题。由于假设密度的参数化，选择的一阶和二阶导数是现成的，这允许有效的解决方案。所提出的方法进行了比较，对国家的最先进的哈密顿蒙特卡罗在两个数值例子。
2020-12-14 cs.LG stat.ML
Gaussian Variational State Estimation for Nonlinear State-Space Models
University of Newcastle（纽卡斯尔大学）；Uppsala University（乌普萨拉大学）
本文研究了非线性状态空间模型的滤波和平滑的状态估计问题。由于模型的非线性性质，状态估计问题通常是棘手的，因为它涉及一般非线性函数的积分，并且滤波和平滑的状态分布缺乏封闭形式的解决方案。因此，通常近似状态估计问题。在本文中，我们开发了一个假设的高斯解的基础上变分推断，它提供了一个灵活的，但原则性，近似所需的分布机制的关键优势。我们的主要贡献在于一个新的配方的状态估计问题作为一个优化问题，然后可以使用标准的优化程序，采用精确的一阶和二阶导数来解决。由此产生的状态估计方法涉及最少数量的假设，并直接适用于高斯和非高斯概率模型的非线性系统。我们的方法的性能证明了几个例子，一个具有挑战性的标量系统，一个简单的机器人系统的模型，和一个目标跟踪问题，使用冯米塞斯-费舍尔分布和优于替代假设高斯方法状态估计。
2021-10-01 cs.LG stat.ML
Fast joint detection-estimation of evoked brain activity in event-related fMRI using a variational approach
在标准的事件相关fMRI数据的临床受试者内分析中，通常分别执行两个步骤：检测大脑活动和估计血流动力学反应。由于这两个步骤是内在联系的，我们采用了所谓的基于区域的联合检测估计（JDE）框架，使用多变量推理检测和估计来解决这个联合问题。JDE是通过使用BOLD响应的区域双线性生成模型和约束的参数估计的生理先验使用时间和空间信息的马尔可夫模型。与以前的作品，使用马尔可夫链蒙特卡罗（MCMC）技术来近似得到的棘手的后验分布，我们重铸的JDE到一个缺失数据框架，并推导出一个变分期望最大化（VEM）算法的推理。变分近似是用来近似马尔可夫模型的无监督空间自适应JDE推理，它允许精细的自动调整空间正则化参数。它遵循一个新的算法，表现出有趣的属性相比，以前使用的基于MCMC的方法。人工和真实数据上的实验表明，VEM-JDE对模型错误指定具有鲁棒性，并提供计算增益，同时在激活检测和血流动力学形状恢复方面保持良好的性能。
2012-02-07 stat.AP
VSE: Variational state estimation of complex model-free process
School of Electrical Engineering and Computer Science, KTH Royal Institute of Technology, Sweden（电气工程与计算机科学学院，皇家理工学院，瑞典）；Saab AB, Sweden（Saab公司，瑞典）
VSE通过循环神经网络实现复杂无模型过程的状态估计，能有效竞争于传统粒子滤波和数据驱动方法。
2026-01-29 cs.LG eess.SP stat.ML
Variational Sequential Monte Carlo
大规模概率推理的许多最新进展依赖于变分方法。变分方法的成功取决于（i）制定一个灵活的参数分布族，以及（ii）优化参数，以找到这个家族中最接近精确后验的成员。在本文中，我们提出了一个新的近似家庭的分布，变分序贯蒙特卡罗（VSMC）家庭，并显示如何优化它的变分推断。VSMC融合了变分推断（VI）和序贯蒙特卡罗（SMC），为从业者提供灵活，准确和强大的贝叶斯推断。VSMC族是一个变分族，可以任意地近似后验，同时仍然允许其参数的有效优化。我们展示了它在状态空间模型，金融数据的随机波动模型和大脑神经回路的深度马尔可夫模型上的实用性。
2018-02-21 stat.CO stat.ME stat.ML
Approximate inference via variational sampling
本文提出了一种新的变分抽样方法来估计概率分布下的积分，这种方法可以估计到一个归一化常数。其关键思想是通过最小化使用确定性或随机抽样计算的库尔贝克-莱布勒散度的强一致经验近似值，用指数族模型拟合目标分布。它示出了变分抽样不同的概念，从正交和重要性抽样，并建立，在随机独立抽样的情况下，它可能有更快的随机收敛比重要性抽样在温和的条件下。本文提出的变分采样实现需要一个粗略的初始近似的目标分布，这可能会发现，例如使用拉普拉斯方法，并显示出有潜力大大提高了几个现有的近似推理技术估计矩的顺序高达两个近高斯分布，这经常发生在贝叶斯分析。特别地，给出了变分抽样在中维贝叶斯逻辑斯谛回归中的应用。
2013-10-14 stat.CO
Variational Inference with Parameter Learning Applied to Vehicle Trajectory Estimation
我们在高斯变分推理设置中仅使用噪声测量（即，没有地面实况）。这是在车辆轨迹估计的背景下证明，虽然我们提出的方法是通用的。本文扩展了精确稀疏高斯变分推理（ESGVI）的框架，这是以前被用于大规模的非线性批量状态估计。我们的贡献是在ESGVI框架内额外学习我们的系统模型的参数（在实践中可能很难选择）。在本文中，我们学习车辆轨迹估计中使用的运动和传感器模型的协方差。具体来说，我们学习白噪声加速度运动模型的参数和我们的传感器模型的测量协方差的逆Wishart先验的参数。我们使用一个36公里的数据集来演示我们的技术，该数据集由一辆使用激光雷达的汽车组成，该汽车使用激光雷达对高清地图进行定位;我们在数据的训练部分学习参数，然后表明我们在测试部分实现了高质量的状态估计，即使存在离群值。最后，我们证明了我们的框架可以用来解决姿势图优化，即使有许多假循环关闭。
2020-07-10 cs.RO stat.ML
Variational Inference Aided Estimation of Time Varying Channels
改进时变信道的估计的单向式方法之一是结合先前观测的知识。在这种背景下，动态VAE（DVAE）构建了一个很有前途的深度学习（DL）框架，非常适合学习时间序列数据的分布。我们引入了一个新的DVAE架构，称为k-MemoryMarkovVAE（k-MMVAE），其稀疏性可以通过一个额外的内存参数控制。根据[1]中的方法，我们导出了一个k-MMVAE辅助信道估计器，该估计器考虑了连续观测值的时间相关性。结果在模拟信道上进行了评估，结果表明，k-MMVAE辅助信道估计器明显优于其他机器学习（ML）辅助估计器，这些估计器要么是无记忆的，要么是天真地扩展到时变信道，没有重大的适应。
2022-11-03 cs.IT eess.SP math.IT
Gaussian Variational Inference with Non-Gaussian Factors for State Estimation: A UWB Localization Case Study
Department of Mechanical Engineering, McGill University（机械工程系，麦吉尔大学）；Department of Electri（电子系）
本文提出了一种适用于UWB定位的改进高斯变分推断方法，通过扩展至矩阵李群和引入非高斯因素，提升状态估计的精度和鲁棒性。
2026-01-26 cs.RO stat.ML
Laplace-aided variational inference for differential equation models
常微分方程模型的回归曲线是某些常微分方程的解曲线的集合，这对参数估计提出了挑战。由于经常缺乏解析解和复杂的似然曲面，这一挑战往往更加严重，特别是对于具有许多参数和变量的大型模型。Yang和Lee（2021）提出了一种用于ODE的变分贝叶斯（SSVB）状态空间模型，能够在较大的ODE模型中进行快速和稳定的估计。该方法在参数估计方面表现出了良好的性能，但存在低估后验协方差的缺点，这一缺点源于平均场变分法。本文提出了一种利用拉普拉斯近似来克服这一缺点的方法。在数值实验中，拉普拉斯近似修改的协方差显示出高度的改善时，检查对标准的马尔可夫链蒙特卡罗方法获得的协方差。通过改进协方差估计，SSVB提供了相当准确的后验近似。
2021-08-10 stat.CO
Unbiased Gradient Estimation for Variational Auto-Encoders using Coupled Markov Chains
DeepMind（深度思维）
变分自动编码器（VAE）是一种深度潜变量模型，在类似自动编码器的架构中有两个神经网络;其中一个参数化模型的可能性。通过最大似然（ML）拟合其参数具有挑战性，因为边缘似然的计算涉及潜在空间上的棘手积分;因此VAE通过最大化变分下限来训练。在这里，我们通过引入对数似然梯度的无偏估计来开发VAE的ML训练方案。我们得到的估计通过增加一组重要性样本的潜在空间，类似的重要性加权自动编码器（IWAE），然后构建一个马尔可夫链蒙特卡罗耦合过程在这个增强的空间。我们提供的条件下，估计可以计算在有限的时间和有限的方差。我们的实验表明，采用无偏估计量拟合的VAE具有更好的预测性能。
2021-06-02 cs.LG stat.ML
Generative Particle Variational Inference via Estimation of Functional Gradients
Oregon State University（俄勒冈州立大学）；Horizon Robotics（Horizon Robotics（地平线机器人））
最近，基于粒子的变分推理（ParVI）方法已经获得了兴趣，因为它们可以避免变分推理中常见的任意参数假设。然而，许多ParVI方法不允许从后验任意采样，并且少数允许这样采样的方法遭受次优性。本文提出了一种从后验分布中学习近似采样的新方法。我们构造了一个神经采样器，该神经采样器是用经验采样分布和目标分布之间的KL发散的函数梯度来训练的，假设梯度位于再生核希尔伯特空间内。我们的生成ParVI（GPVI）方法保持了ParVI方法的渐近性能，同时提供了生成采样器的灵活性。通过精心构建的实验，我们表明GPVI优于以前的生成ParVI方法，如摊销SVGD，并与ParVI以及黄金标准方法（如Hamiltonian Monte Carlo）竞争，以拟合精确已知和难以处理的目标分布。
2021-08-10 cs.LG stat.ML
Variational inference of the drift function for stochastic differential equations driven by Lévy processes
本文考虑了由$α$ -稳定Lévy运动驱动的随机微分方程漂移函数的非参数估计问题。首先，优化了具有不同漂移函数的两个随机微分方程的路径概率之间的Kullback-Leibler分歧。利用拉格朗日乘子，构造了基于定态Fokker-Planck方程的变分公式。然后结合数据信息，用经验分布代替平稳密度，从过程的角度对漂移函数进行非参数估计。在数值试验中，对不同数据量和不同$α$值进行了研究。实验结果表明，漂移函数的估计结果与两者有关。当数据量增加时，估计结果将更好，并且当$α$值增加时，估计结果也更好。
2021-03-28 math.ST stat.TH
Asymptotic Consistency of Loss-Calibrated Variational Bayes
Purdue University（普渡大学）
本文建立了{ \it损失校准变分贝叶斯}（LCVB）方法的渐近相合性。LCVB是在~ \cite{LaSiGh2011}中提出的，作为一种以“损失感知”方式近似计算贝叶斯后验的方法。这种方法在一般数据驱动的决策环境中也高度相关。在这里，我们不仅建立了校准的近似后验的渐近一致性，而且还建立了决策规则的渐近一致性。我们还建立了一个“天真”变分贝叶斯过程中获得的决策规则的渐近一致性。
2019-11-04 cs.LG stat.ML
Functional Space Variational Inference for Uncertainty Estimation in Computer Aided Diagnosis
Indian Institute of Technology, Bombay（印度理工学院孟买分校）
深度神经网络彻底改变了医学图像分析和疾病诊断。尽管它们的性能令人印象深刻，但很难为这些网络生成校准良好的概率输出，这使得它们成为不可解释的黑匣子。贝叶斯神经网络提供了一种用于对不确定性进行建模并提高患者安全性的原则性方法，但是它们具有较大的计算开销并且在校准中提供有限的改进。在这项工作中，通过以皮肤病变分类为例的任务，我们表明，通过将贝叶斯推理转移到功能空间，我们可以制作有意义的先验，以更低的计算成本提供更好的校准不确定性估计。
2020-05-28 cs.AI cs.LG stat.ML
Diagnostics for Variational Bayes approximations
变分贝叶斯（VB）在许多应用领域中已显示出其本身是一种强大的近似方法。本文介绍了一些诊断方法，可以评估如何以及VB近似真实的后验，特别是关于其协方差结构。所提出的方法也使我们能够产生简单的修正时，近似误差是大的。它着眼于联合，边缘和条件方面的近似后验，并显示如何应用这些技术在模拟和真实数据的例子。
2013-09-19 stat.CO
Scalable Bayesian Approach for the DINA Q-matrix Estimation Combining Stochastic Optimization and Variational Inference
针对 DINA 模型中大规模 Q矩阵估计难题，提出融合随机优化与变分推断的可扩展贝叶斯框架，以最大化边际似然，并验证其高速、准确且稳健。
2022-09-27 stat.CO
Quantum Speedup of Natural Gradient for Variational Bayes
变分贝叶斯（VB）是机器学习和统计学中的一种关键方法，是贝叶斯深度学习最近成功的基础。自然梯度是有效的VB估计的重要组成部分，但它在高维中的计算成本过高。我们提出了一种计算效率高的基于回归的自然梯度估计方法，在标准假设下的收敛保证。该方法使量子矩阵求逆的使用，以进一步加快VB。我们证明了问题设置满足量子矩阵求逆提供计算效率所需的条件。该方法适用于广泛的统计模型，不需要特殊用途或简化的变分分布。
2022-06-21 quant-ph stat.CO stat.ML
Second-order variational equations for spatial point processes with a view to pair correlation function estimation
建立了空间点过程的二阶变分型方程。在对数线性参数模型的情况下，它表明，变分方程可以用来构造估计方程的封闭形式的解决方案的参数估计。这个结果被用来拟合一般形式的对数对相关函数的正交级数展开。
2019-01-15 stat.ME
Variational Estimation for Multidimensional Generalized Partial Credit Model
针对多分类MIRT模型估计方法不足的问题，本文提出MGPCM的新型高斯变分估计算法，并通过模拟与真实数据验证其快速准确。
2024-01-23 stat.ME
The variational Laplace approach to approximate Bayesian inference
近似贝叶斯推断的变分方法提供了执行参数估计和模型选择的非常有效的手段。其中，所谓的变分拉普拉斯或VL计划依赖于高斯近似模型参数的后验密度。在这篇文章中，我们回顾了VL方法的主要变体，这些变体来自于考虑连续和/或分类数据的非线性模型。恩passant，我们还得出了一些新的理论成果，完成现有的变分贝叶斯方法的分析组合，包括调查其渐近收敛。我们还提出了将现有VL方法扩展到分层生成模型的实用方法，包括（例如，精度）超参数。
2018-01-16 q-bio.NC stat.ME stat.ML
A Recursive Theory of Variational State Estimation: The Dynamic Programming Approach
Lund University（隆德大学）
本文提出了一种基于动态规划的变分状态估计理论，通过逆向和正向方法结合，得出了变分双滤波公式，并展示了在特定模型中价值函数递归的可行性。
2025-12-16 stat.ME
A Variational View on Statistical Multiscale Estimation
我们提出了一个统一的观点，各种统计估计技术，包括惩罚，变分和阈值方法。这些估计量将在统计线性逆问题的背景下进行分析，包括非参数和变点回归，以及高维线性模型作为示例。我们的方法揭示了许多看似无关的估计方案作为特殊的情况下，一般类的变分多尺度估计，名为MIND（MultIscale Nemirovskii-Dantzig）。这些估计量是在凸约束下最小化某些正则化泛函的结果，这些凸约束可以被看作是对局部假设的多个统计检验。为了计算的目的，我们重铸MIND在更简单的无约束优化问题，通过拉格朗日罚函数以及Fenchel对偶。几个MIND的性能证明数值例子。
2021-06-10 math.ST stat.CO stat.ME
Scalable Variable Selection and Model Averaging for Latent Regression Models Using Approximate Variational Bayes
提出一种基于近似变分贝叶斯的快速方法，用于潜变量回归模型的变量选择与模型平均，在保证推断精度的同时大幅降低大样本计算成本。
2025-09-15 stat.ME
Variational Gibbs Inference for Statistical Model Estimation from Incomplete Data
University of Edinburgh（爱丁堡大学）
针对不完整数据导致标准变分推断需处理指数级条件分布的问题，本文提出通用的变分 Gibbs 推断（VGI），并在合成与真实任务上验证其可有效估计 VAE 和归一化流，性能媲美或超过专用方法。
2023-08-15 cs.LG stat.ME stat.ML
Quickest Change-point Detection in Generalized Linear Models with Variational Estimation
H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology（乔治亚理工学院 H. 米尔顿·斯图尔特工业与系统工程学校）
针对广义线性模型变后参数未知的最快变点检测问题，提出窗口受限的CUSUM程序，采用变分不等式估计，经理论分析和数值实验验证其检测性能与最优性。
2026-10-14 stat.ME stat.ML
A Variational Approximations-DIC Rubric for Parameter Estimation and Mixture Model Selection Within a Family Setting
基于混合模型的聚类自五十多年前引入以来已成为一种越来越受欢迎的数据分析技术，并且现在通常在家庭环境中使用。混合模型的族出现时的组件参数，通常是组件的协方差（或规模）矩阵，被分解，并施加了一些约束。在族设置内，模型选择涉及选择族的成员，即，适当的协方差结构，以及混合成分的数量。目前，贝叶斯信息准则（BIC）已被证明是最有效的模型选择，而期望最大化（EM）算法通常用于参数估计。事实上，这个EM-BIC规则几乎垄断了混合模型族的文献。偏离这个标题，变分贝叶斯近似的参数估计和偏差信息准则的模型选择。变分贝叶斯方法提供了一个替代的框架参数估计，通过构建一个严格的下限上的复杂的边际似然和最大限度地提高这一下限最小化相关的库尔贝克-莱布勒散度。这种方法是采取最常用的家庭的高斯混合模型，真实和模拟数据被用来比较新的方法的EM-BIC规则。
2019-11-06 stat.CO stat.ME stat.ML
A variational framework for modal estimation
Griffith University（格里菲斯大学）；Univ. Grenoble Alpes, Inria, CNRS, Grenoble INP, LJK（格勒诺布尔阿尔卑斯大学、法国国家信息与自动化研究所、法国国家科学研究中心、格勒诺布尔国立理工学院、拉让齐克实验室）；La Trobe University（拉筹伯大学）；Institute of Mathematics for Industry, Kyushu Univ.（九州大学产业数学研究院）
GERVE是一种基于变分方法的无似然框架，通过熵正则化和自然梯度更新直接从样本估计吉布斯测度，适用于未知模态或组数的高密度区域聚类
2026-09-21 math.ST stat.CO stat.ME
Causal Effect Estimation using identifiable Variational AutoEncoder with Latent Confounders and Post-Treatment Variables
College of Informatics, Huazhong Agricultural University（华中农业大学信息学院）；Data 61, Commonwealth Scientific and Industrial Research Organisation (CSIRO)（联邦科学与工业研究组织数据61分部）；STEM, University of South Australia（南澳大学 STEM 学院）
针对观测数据因果效应估计中潜在混杂因子与治疗后变量引发的偏差问题，提出结合VAE与iVAE的CPTiVAE方法，证明相关可识别性，实验表明其性能优于现有最优方法，具备实际应用潜力。
2024-08-13 cs.LG stat.ME
Consistency of Variational Bayes Inference for Estimation and Model Selection in Mixtures
混合模型广泛应用于贝叶斯统计和机器学习，特别是在计算生物学，自然语言处理和许多其他领域。变分推理是一种通过优化算法来近似难以处理的后验的技术，在处理混合物等复杂模型时，在实践中非常流行。本文的贡献是双重的。首先，我们研究了后验变分逼近的集中性，这对于一般的混合物仍然是一个开放的问题，我们得到了一致性和收敛速度。我们还解决了模型选择的组件的数量的问题：我们研究的方法已经在实践中使用，其中包括在最大限度地提高数值标准（证据下界）。我们证明了这种策略确实会导致强预言不等式。我们说明我们的理论结果的应用高斯和多项式混合物。
2018-08-12 math.ST stat.CO stat.ME
Variational Bayes Estimation of Discrete-Margined Copula Models with Application to Time Series
我们提出了一个新的变分贝叶斯估计高维copula离散，或离散和连续的组合，利润。该方法是基于一个易于处理的增强后变分近似，是比以前的似然为基础的方法更快。我们用它来估计单变量和多变量马尔可夫顺序和混合时间序列的可绘制的藤连接。这些具有维度$rT$，其中$T$是观测的数量，$r$是序列的数量，并且难以使用先前的方法进行估计。葡萄藤对连接被仔细地选择以允许异方差性，这是大多数有序时间序列数据的特征。当与灵活的裕度结合使用时，所产生的时间序列模型还考虑到有序数据的其他共同特征，如零通货膨胀、多模式和分散不足或过度。使用六个例子系列，我们说明了时间序列Copula模型的灵活性，以及高达792个维度和60个参数的Copula的变分贝叶斯估计的有效性。这远远超过了Copula模型的规模和复杂性，可以使用以前的方法估计离散数据。
2018-07-20 econ.EM stat.ME stat.ML
Beyond Maximum Likelihood: Variational Inequality Estimation for Generalized Linear Models
H. Milton Stewart School of Industrial and Systems Engineering Georgia Institute of Technology（佐治亚理工学院 H. 米尔顿·斯图尔特工业与系统工程学院）
本文提出基于变分不等式的估计框架，用于解决广义线性模型中非典型或非光滑链接函数带来的计算挑战，通过操作符平衡条件替代最大似然估计，提升数值稳定性与有限样本性能。
2026-11-06 math.OC math.ST stat.ME
