离散观测扩散过程的Monte Carlo极大似然估计

离散采样随机偏微分方程的漂移估计

Drift Estimation for Discretely Sampled SPDEs

研究了加性时空噪声驱动下分数阶随机热方程漂移系数的极大似然估计的渐近性质。考虑了谱域测量时随机偏微分方程的传统统计实验，与现有文献相比，研究了Fourier模数和时间均趋于无穷大时的极大似然（型）估计的渐近性质.在本文的第一部分中，我们考虑了通常的设置连续时间观测的傅里叶系数的解决方案，并证明了最大似然估计是一致的，渐近正常的和最佳的均方意义。在本文的第二部分中，我们研究的自然时间离散化的MLE，通过假设的第一个N傅立叶模式测量M时间网格点，均匀分布在时间间隔[0，T]。当N趋于无穷大和/或T，M趋于无穷大时，我们对所提出的估计量进行了严格的渐近分析.我们建立了N，M和T的增长率的充分条件，保证了这些估计的相合性和渐近正态性。

小噪声渐近下高斯过程均值函数的极大似然估计

Maximum likelihood estimation of mean functions for Gaussian processes under small noise asymptotics

针对高斯过程时变均值函数估计问题，本文在连续观测下提出显式似然的极大似然估计量，通过小噪声渐近得到局部渐近正态性与效率，还引入离散M估计量及拟信息准则，为均值函数估计与模型选择提供方法与理论支持。

离散观测下阈值扩散模型的参数与局部时估计

Estimation of parameters and local times in a discretely observed threshold diffusion model

针对带固定阈值的分段常数均值回复扩散过程，研究离散观测下的参数与局部时估计，推导不同观测频率下估计量的渐近性质，发现三类局部时估计量的收敛表现因观测间隔假设不同而有差异。

扩散桥的简单模拟及其在扩散似然推断中的应用

Simple simulation of diffusion bridges with application to likelihood inference for diffusions

为了对离散观测扩散模型进行统计推断，我们提出了近似和精确模拟扩散桥的简单方法。扩散桥模拟在扩散过程的似然和贝叶斯推理中起着基础性的作用。首先提出并研究了模拟近似扩散桥的简单方法。然后，这些近似的桥梁被用来作为一个容易实现的大都会黑斯廷斯算法，产生精确的扩散桥的建议。新方法利用了一维扩散的时间可逆性，适用于所有具有有限速度测度的一维扩散过程。新方法的一个优点是，简单的模拟方法，如米尔斯坦计划可以应用到桥梁模拟。与以前的桥模拟方法相比的另一个优点是，所提出的方法对于长间隔的扩散桥工作良好，因为该方法的计算复杂性与间隔的长度成线性关系。对于$ρ$混合扩散的近似方法被证明是特别准确的长时间间隔。在模拟研究中，我们调查的准确性和效率的近似方法，并比较它的精确模拟方法。在这项研究中，我们的方法提供了一个很好的近似分布的扩散桥的桥梁，可能会出现在应用程序中的统计推断。为了说明新方法的实用性，我们提出了一个EM算法的离散观测扩散过程。

Wright-Fisher扩散过程的无偏似然估计

Unbiased likelihood estimation of Wright-Fisher diffusion processes

本文针对离散观测的Wright-Fisher扩散过程，提出基于精确模拟的蒙特卡洛最大似然估计方法，构造无偏似然估计量并推广至多维情形，同时给出一致性结果和数值验证。

演化的隐私：LDP下离散观测独立同分布扩散过程的漂移参数估计

Evolving privacy: drift parameter estimation for discretely observed i.i.d. diffusion processes under LDP

本文研究在局部差分隐私约束下，基于离散观测的独立同分布随机微分方程的漂移参数估计问题，提出基于伪似然的对比函数并加入Laplace噪声，证明了估计量的一致性与渐近正态性。

扩散过程密度展开的极大似然估计

Maximum-likelihood estimation for diffusion processes via closed-form density expansions

本文提出了离散数据下多元扩散过程的近似极大似然估计的一种广泛适用的方法。提出了一种转换密度的封闭形式的渐近展开，并附有一个算法，该算法只包含基本的和明确的计算，用于提供任何任意阶的扩展。因此，似然函数被显式地近似并用于统计估计。我们的方法的性能证明了Monte Carlo模拟从实施几个例子，这代表了广泛的常用的扩散模型。与展开和估计方法相关的收敛性在理论上是合理的，使用Watanabe [Ann. Probab. 15（1987）1-39]和Yoshida [J. Japan Statist. Soc.22（1992）139-159]在某些标准充分条件下分析广义随机变量。

基于马尔可夫链蒙特卡罗方法的极大似然估计的渐近性

Asymptotics of maximum likelihood estimators based on Markov chain Monte Carlo methods

在许多复杂的统计模型中，无法计算最大似然估计量。本文用真实似然的马尔可夫链蒙特卡罗近似方法解决了这一问题。在主要结果中，我们证明了当两个样本量（初始样本量和MonteCarlo样本量）都趋于无穷大时，估计量的渐近正态性。我们的结果可以应用到模型与棘手的赋范常数和缺失数据模型。

关于扩散过程的近似极大似然估计

On the approximate maximum likelihood estimation for diffusion processes

扩散过程的转移密度一般不具有显式表达式，这就妨碍了基于离散观测样本路径的完全极大似然估计（MLE）。Ait-Sahalia [J. Finance 54（1999）1361- 1395; Econometrica 70（2002）223- 262]提出了扩散过程转移密度的渐近展开式，这导致参数的近似极大似然估计（AMLE）。建立在Ait-Sahalia的[Econometrica 70（2002）223- 262; Ann. Statistist. 36（2008）906--937]提出并分析了AMLE，建立了AMLE的相合性和收敛速度，揭示了渐近密度展开中所用的项数和连续观测值之间的采样间隔所起的作用。我们发现的条件下，AMLE具有相同的渐近分布的充分极大似然估计。提出了Fisher信息矩阵的一阶近似。

部分观测仿射与多项式过程的参数估计

Parameter Estimation for Partially Observed Affine and Polynomial Processes

针对部分观测多项式状态空间模型，利用多项式结构显式计算高斯拟似然估计及其渐近协方差矩阵，证明了估计序列的一致性和渐近正态性。

高频下遍历Lévy驱动的SDE的高斯拟似然随机场的收敛性

Convergence of Gaussian quasi-likelihood random fields for ergodic Lévy driven SDE observed at high frequency

研究了指数遍历多维马尔可夫过程的Gauss拟似然估计，该过程表示为Lévy驱动的随机微分方程的解，其中扩散系数可以退化甚至为零，且该方程的系数已知，只需要估计有限维参数.我们假设在步长为$h_n$的快速增加试验设计下，该过程是离散观测的。利用多项式型大偏差不等式，导出了相应统计随机场的强模收敛性，特别是对所有目标参数，得到了以速率$\sqrt{nh_n}$渐近正态性，以及它们的矩的收敛性.由于我们的高斯拟似然只考虑局部均值和协方差结构，因此在某些情况下效率损失会很大。尽管如此，它具有实际上重要的优点：首先，估计的计算不需要任何微调，因此它是简单的;其次，估计过程可以在没有完全指定Lévy测度的情况下采用。

离散函数型数据位置的鲁棒最优估计

Robust optimal estimation of location from discretely sampled functional data

估计位置是功能数据分析中的一个核心问题，但目前大多数估计过程要么不切实际地假设完全观察到的轨迹，要么缺乏鲁棒性，相对于许多种异常，可以在功能设置中遇到。为了弥补这些不足，我们介绍了第一类最佳的鲁棒位置估计的基础上离散采样的功能数据。所提出的方法是基于M-型平滑样条估计重复测量，适用于共同和独立观察轨迹受到测量误差。我们表明，在适当的假设下，所提出的估计族对于常见和独立观察到的轨迹都是极大极小率最优的，我们在蒙特卡洛研究和涉及最近Covid-19数据的真实数据示例中说明了其极具竞争力的性能和实用性。

强混合状态空间模型和多元Lévy驱动CARMA过程的拟极大似然估计

Quasi maximum likelihood estimation for strongly mixing state space models and multivariate Lévy-driven CARMA processes

本文研究了一般非高斯离散时间线性状态空间模型和等距观测多元Lévy驱动的连续时间自回归滑动平均（MCARMA）过程的拟极大似然（QML）估计.在离散时间情形下，我们证明了在标准矩假设和状态空间模型输出过程的强混合条件下，QML估计的强相合性和渐近正态性。在本文的第二部分中，我们研究了等距采样连续时间状态空间模型的概率和分析性质，并将我们的结果从离散时间的设置来推导离散记录的MCARMA过程的QML估计的渐近性质。在自然可识别条件下，估计量再次一致，并渐近正态分布的任何采样频率。我们还证明了我们的方法的实用性，通过模拟研究和计量经济学的数据例子。

粗糙微分方程的近似似然构造

Approximate Likelihood Construction for Rough Differential Equations

本文分为两部分：第一部分，我们构造了由分段线性路径驱动的离散观测粗糙微分方程的精确似然;第二部分，我们利用这种似然构造了由一般粗糙路径驱动的离散观测微分方程的近似似然。最后，我们研究了当采样频率趋于无穷大时近似似然的行为。

生灭过程

Birth-death processes

许多重要的随机计数模型都可以写成一般的生灭过程。BDP是非负整数上的连续时间马尔可夫链，可以用来方便地参数化丰富的概率分布。虽然一般的BDP的理论性质是很好的理解，传统的统计工作对BDP一直局限于简单的线性（肯德尔）过程，这是在生态学和进化的应用。除了一些简单的情况下，它仍然不可能找到一个离散观察的BDP的可能性的解析表达式，和计算困难阻碍了统计推断工具的发展。但近年来，BDP理论与实际估计方法之间的差距已经缩小。现在有强大的方法来评估可能实现的BDP：有限时间转移，首次通过，平衡概率和分布的汇总统计量，通常出现在应用中。最近的工作还利用连续和离散观测的BDP之间的联系，推导出极大似然估计的期望最大化算法。对于以前难以处理的二元决策问题，基于可能性的推理比以前想象的要容易得多，并且类似于泊松回归的回归方法可以直接推导。在这篇综述中，我们概述了基本的数学理论的BDP和展示新的工具，统计推断使用的数据从BDP。我们给出了六个BDP的例子，并推导出期望最大化算法来拟合其参数的极大似然。我们展示了如何计算积分汇总统计量的分布，并给出了一个例子，应用到流行病的总成本。最后，我们提出了未来的创新方向，在这一类重要的随机过程。

可标度Monte Carlo推断与重标度局部渐近正态性

Scalable Monte Carlo Inference and Rescaled Local Asymptotic Normality

本文将局部渐近正态性（LAN）的性质推广到扩大的邻域，称之为重标局部渐近正态性（RLAN）.我们得到了正则参数模型满足RLAN的充分条件。我们表明，RLAN支持建设一个统计上有效的估计，最大限度地提高了三次近似的对数似然在这个扩大的邻域。在蒙特卡罗推理的背景下，我们发现这种最大三次似然估计量可以在似然估计中存在渐进增加的蒙特卡罗误差的情况下保持其统计效率。

利用平均似然比检验统计量检测空间聚类

Detection of spatial clustering with average likelihood ratio test statistics

广义似然比（GLR）检验统计量常用于检测病例-对照和病例-人群数据集的空间聚类，以检查某个扫描窗口内显著大比例的病例。传统的空间扫描检验统计量取所有窗口上的上确界GLR值，而我们在这里考虑的平均似然比（ALR）检验统计量取GLR值的平均值。文献和本文的数值实验表明，ALR检验统计量比空间扫描统计量具有更高的功效。在本文中，我们开发了准确的尾部概率近似的ALR检验统计量，使我们能够绕过计算机密集型蒙特卡罗程序来估计$p$值。在针对协变量进行调整的模型中，这些Monte Carlo评估需要对参数进行初始拟合，这可能会导致$p$值估计值存在很大偏差。

圆上扩散与一种随机相关模型

Diffusion on the circle and a stochastic correlation model

本文提出了一种基于圆上扩散过程的随机相关模型，通过解析近似von Mises扩散的转移密度，实现基于似然的估计，并应用于金融数据分析。

蒙特卡罗极大似然估计量的渐近性

Asymptotics of Monte Carlo maximum likelihood estimators

我们描述了蒙特卡罗近似的极大似然估计模型与棘手的赋范常数和解释变量。我们认为这两个来源的随机性（由于初始样本和蒙特卡罗模拟），并证明渐近正态的估计。

动态面板数据模型的拟极大似然估计

Quasi Maximum-Likelihood Estimation of Dynamic Panel Data Models

建立了动态面板数据模型水平估计和差分拟极大似然估计的几乎必然收敛和渐近正态性。的QML估计是强大的初始条件，条件和时间序列异方差，以及误指定的对数似然。本文还提供了一个ECME算法计算水平QML估计。最后，利用蒙特卡罗实验比较了水平和差分QML估计、差分GMM估计和系统GMM估计的有限样本性能。在这些实验中，QML估计通常有较小的-通常是小得多-偏差和均方根误差比面板数据GMM估计。

最大近似似然估计

Maximum Approximated Likelihood Estimation

经验经济学研究经常在似然函数难以解析的情况下应用最大似然估计。大部分的理论文献集中在最大模拟似然（MSL）估计，而经验和模拟分析往往发现，替代的近似方法，如准蒙特卡罗模拟，高斯求积，稀疏网格上的积分表现得更好的数值。本文将MSL估计的理论结果推广到一般的极大近似似然（MAL）估计。我们为模型和近似方法提供了一般条件，以确保一致性和渐近正态性。我们还展示了具体的例子和有限样本的仿真结果。

离散采样扩散方程的一种近似：指数展开

A Closed-Form Approximation of Likelihood Functions for Discretely Sampled Diffusions: the Exponent Expansion

本文讨论了任意扩散过程的似然函数的一个封闭逼近。该近似是基于有限时间步长$Δt$的转移概率的指数近似，以及其对数与高斯分布的偏差的级数展开。通过这个过程，被称为{ \em指数展开}，转移概率作为$Δt$中的幂级数获得。如果包含越来越多的项，这将变得渐近精确，即使截断到前几个（比如3个）项，也会提供非常精确的结果。这种展开的系数可以通过递归直接确定，并且涉及简单的一维积分。我们提出了几个例子的金融利益，我们比较我们的结果与国家的最先进的离散采样扩散近似[Aït-Sahalia，{ \it Journal of Finance} { \bf 54}，1361（1999）]。我们发现，指数展开在大多数情况下提供了类似的准确性，但在低波动率制度更好的行为。此外，本方法的实现变得更简单。在功能集成框架内的指数扩展允许一个金融衍生品的定价内核获得非常好的近似。这说明了简单的路径依赖的利率衍生品的应用程序。最后，我们将讨论如何这些结果也可以用来提高效率的数值（确定性和随机性）的方法来衍生品定价。

随机块奥恩斯坦-乌伦贝克过程中的一致社区恢复

Consistent community recovery in stochastic block Ornstein-Uhlenbeck processes

该研究提出随机块奥恩斯坦-乌伦贝克（SBOU）过程模型，开发出一种社区检测算法，在特定渐近 regime 下可实现一致的社区恢复，并通过 RE-Europe 风电容量数据集验证了方法的有效性。

蒙特卡罗曲线置信区间

Monte Carlo profile confidence intervals

蒙特卡罗方法来评估和最大化的似然函数，使置信区间和假设检验的建设，促进科学调查使用模型的似然函数是棘手的。当蒙特卡罗误差可以通过充分详尽的计算变得很小时，则基于可能性的推理的标准理论和实践适用。随着数据变得更大，模型变得更复杂，出现了没有合理的计算量可以使蒙特卡罗误差可以忽略不计的情况。我们开发配置文件的可能性方法，以提供频率论的推论，考虑到蒙特卡罗的不确定性。我们调查的作用，这种方法在促进计算上具有挑战性的动态潜变量模型的推理。我们提出了三个例子中出现的传染病传播的研究。这三个例子展示了我们的方法推断非线性动态模型，使用基因序列数据，面板时间序列数据，时空数据。我们还讨论了非线性时间序列分析的适用性。

带噪声的遍历扩散模型的拟似然分析

Quasi-likelihood analysis of an ergodic diffusion plus noise

本文研究了具有常方差观测噪声的离散遍历扩散过程的自适应极大似然型估计和自适应贝叶斯型估计。引入扩散和漂移参数的拟似然函数，证明了这些拟似然函数的多项式型大偏差不等式，证明了这些估计量的矩收敛性.

基于序列Kriging优化的随机微分方程的极大似然估计

Maximum Likelihood Estimation for Stochastic Differential Equations Using Sequential Kriging-Based Optimization

随机微分方程（SDEs）在许多学科中被用作统计模型。然而，难以处理的似然函数的随机微分方程的推理具有挑战性，我们需要诉诸基于模拟的技术来估计和最大化的似然函数。虽然序贯蒙特卡罗方法允许在固定的参数值的可能性的准确评估，仍然有一个问题，如何找到最大似然估计。在这篇文章中，我们提出了一个有效的高斯过程为基础的方法，探索参数空间使用估计的可能性从序贯蒙特卡罗采样器。我们的方法占固有的蒙特卡罗变异的估计可能性，并不需要梯度的知识。该过程通过最大化所谓的预期改进来增加潜在的参数值，利用假设似然函数是平滑的这一事实。我们的模拟表明，我们的方法具有显着的计算和效率增益比现有的网格和梯度为基础的技术。我们的方法被应用到三个科技公司的收盘价建模。

离散观测相互作用粒子系统的参数估计

Parameter estimation of discretely observed interacting particle systems

本文针对随机McKean-Vlasov方程及其相互作用粒子系统，提出基于伪似然的对比函数，在离散观测下实现漂移与扩散系数的联合估计，并证明估计量的一致性与渐近正态性。

离散观测随机过程的鲁棒有效参数估计

Robust and Efficient Parameter Estimation for Discretely Observed Stochastic Processes

在各种实际情况下，我们遇到的随机过程中，可以有效地模拟一个适当的参数模型为后续的统计分析的数据。不幸的是，基于极大似然（ML）原理的最常见的估计和推断方法由于其众所周知的缺乏鲁棒性而容易受到与假设模型的微小偏差或数据污染的影响。由于替代的非参数程序往往失去显着的效率，在本文中，我们开发了一个强大的参数估计程序的离散观测数据的参数随机过程模型，利用良好的性能流行的密度功率发散措施的最小距离推断的框架。特别地，在这里我们定义了独立增量和马尔可夫过程的最小密度幂散度估计（MDPDE）。我们建立的渐近一致性和分布的结果，建议MDPDE在这些依赖的随机过程设置和说明他们的好处比通常的ML估计常见的例子，如泊松过程，漂移布朗运动和自回归模型。

部分观测扩散的无偏Score估计

On Unbiased Score Estimation for Partially Observed Diffusions

考虑了一类部分可测扩散过程的统计推断问题，该过程具有离散可测数据和有限维参数。我们构造了得分函数的无偏估计量，即对数似然函数关于参数的梯度，没有时间离散化偏差。这些估计器可以直接用于随机梯度方法中，以执行极大似然估计或贝叶斯推断。由于我们提出的方法只需要访问一个时间离散化方案，如Euler-Maruyama方法，它适用于广泛的一类扩散过程和观测模型。我们的方法基于使用Girsanov定理将得分表示为平滑期望，以及Mcleish [2011]，Rhee和Glynn [2015]，Jacob等人[2020 a]中开发的随机化方案的新适应。这允许在使用Andrieu等人[2010]的条件粒子滤波器计算平滑期望时消除时间离散化偏差和老化偏差。我们的方法的核心是多个条件粒子滤波器的新的耦合的发展。我们证明在假设下，我们的估计是无偏的，有有限的方差。该方法说明了人口生态学和神经科学的几个具有挑战性的应用。

从似然方程导出的加权指数族的闭式点估计新方法

Novel closed-form point estimators for a weighted exponential family derived from likelihood equations

本文提出加权指数族的闭式点估计，并用自助法降低偏差，蒙特卡罗模拟验证其有效性。

具有随机间隔离散观测的扩散估计：一般理论

Estimators of diffusions with randomly spaced discrete observations: A general theory

本文给出了一个一般方法来分析连续时间扩散过程的各种估计的渐近性质，当数据不仅在时间上是离散采样的，而且连续观测的时间间隔可能是随机的。我们引入了一个新的算子，广义无穷小生成元，得到了估计量的渐近矩的泰勒展开式。作为一种特殊情况，我们的结果适用于在一个固定的非随机时间间隔的数据离散采样的情况。我们包括作为具体的例子估计最大似然和离散逼近，如欧拉计划的基础上。

缺失数据模型的Monte Carlo似然推断

Monte Carlo likelihood inference for missing data models

当存在缺失数据且观测数据的似然性不能以封闭形式提供时，我们描述了一种近似最大似然估计（MLE）的蒙特卡罗方法。该方法使用独立同分布且独立于观测数据的模拟缺失数据。我们的蒙特卡罗近似的极大似然估计是一个一致的和渐近正态估计的最小值$θ^*$的Kullback-Leibler信息，蒙特卡罗和观测数据的样本量同时走向无穷大。插件估计的渐近方差提供构造置信区域$θ^*$。我们给出了Logit-正态广义线性混合模型的例子，使用R软件包计算。

基于离散观测的各态历经扩散过程参数变化的自适应检验

Adaptive tests for parameter changes in ergodic diffusion processes from discrete observations

我们考虑了基于累积和检验的离散观测的各态历经扩散过程参数变化的自适应检验。利用基于扩散参数和漂移参数的两个拟对数似然函数的检验统计量，对扩散过程的扩散参数和漂移参数进行变点检验.证明了检验统计量具有布朗桥范数上界的极限分布。模拟结果示出了1维Ornstein-Uhlenbeck过程。

非线性扩散方程的全局最优参数估计

Globally optimal parameter estimates for nonlinear diffusions

本文研究了利用扩散桥求非线性扩散过程的对数似然函数的一种逼近方法。主要结果（定理\refthm：近似）表明，这种近似一致收敛到未知的似然函数，因此可以有效地使用任何算法从桥的法律采样。我们还介绍了一个预期的最大似然（EML）算法的离散观测扩散过程的参数推断。该方法是适用于一个子类的非线性随机微分方程与恒定的波动率和漂移是线性的模型参数。在此设置中，通过求解线性系在单个步骤中获得全局最优参数。仿真研究测试EML算法表明，它表现良好的算法相比，基于精确的最大似然以及封闭形式的似然扩展。

利用蒙特卡洛对数似然估计器元模型的隐式定义模型可扩展仿真推断

Scalable simulation-based inference for implicitly defined models using a metamodel for Monte Carlo log-likelihood estimator

本文针对隐式定义模型提出一种基于蒙特卡洛对数似然估计器元模型的可扩展仿真推断方法，利用局部渐近正态性量化参数不确定性，并通过多个示例验证其准确性与可扩展性。

垂直似然蒙特卡罗

Vertical-likelihood Monte Carlo

在这篇评论中，我们解决了使用蒙特卡罗方法近似定积分的形式$Z = \int L(x) d P(x)$，其中$L$是一个目标函数（通常是一个可能性）和$P$有限的措施。我们提出了垂直似然蒙特卡罗，这是一种设计的重要性函数$g(x)$用于重要性抽样的方法。我们的方法利用了两个随机变量之间的对偶性：随机抽取$X \sim g$，以及抽取的相应随机似然纵坐标$Y\equiv L(X)$。很自然地会指定$g(x)$并询问：$Y$的隐含分布是什么？在本文中，我们采取了相反的问题：$Y$的分布应该是什么，使隐含的重要性函数$g(x)$是好的近似$Z$？我们的答案在垂直似然的视角下统一了七种看似不同的算法：重要性抽样、切片抽样、模拟退火/回火、调和均值估计、垂直密度抽样、嵌套抽样和能级抽样（一套来自统计物理学的相关方法）。特别是，我们给出了一个替代介绍嵌套抽样，特别注意这种方法和垂直可能性的角度之间的连接在这里阐述。作为一种替代嵌套采样，我们描述了MCMC方法的基础上重新加权切片采样。这种方法的收敛性进行了研究，两个例子证明了承诺的整体方法。

一种自适应混合总体蒙特卡罗方法

An adaptive mixture-population Monte Carlo method for likelihood-free inference

本文主要研究具有可无偏估计的难处理的似然函数的变分推理。在\cite{cappe2008adaptive}中采用混合种群蒙特卡罗（MPMC）算法，建立了一种基于高斯混合的灵活变分逼近方法。MPMC通过重要抽样计算迭代更新混合分布的参数，而不是通常变分贝叶斯中复杂的优化目标梯度估计。注意到MPMC使用固定数量的混合组分，这是很难预测的实际应用中，我们进一步提出了一个自动组件更新程序，以获得适当数量的组件。推导出的自适应MPMC算法是能够找到良好的近似的多模态后验分布，即使与一个标准的高斯作为初始分布，在我们的数值实验证明。

韦布尔分布参数的极大似然$\log_q$估计及其性质：蒙特卡罗模拟

Maximum $\log_q$ Likelihood Estimation for Parameters of Weibull Distribution and Properties: Monte Carlo Simulation

最大${\log}_q$似然估计方法是已知的最大$\log$似然方法的推广，以克服对非相同观测（内点和外点）建模的问题。参数$q$是用于管理建模能力的调优常数。威布尔分布是一种灵活而流行的分布，用于工程问题。本文将此方法应用于观测值不一致时韦布尔分布的参数估计。由于其主要思想是基于目标函数$ρ(x;\boldsymbolθ)=\log_q\big[f(x;\boldsymbolθ)\big]$的建模能力，我们观察到分数函数的有限性不能在内点的鲁棒估计中发挥作用。研究了韦布尔分布的性质。在数值试验中，采用$\log_q$及其特殊形式的$\log$，对韦布尔分布的参数进行了估计。通过遗传算法进行优化。通过蒙特卡罗模拟，观察到$ρ(x;\boldsymbolθ)$的建模能力和对非全同观测的不敏感性。$q$的值可以通过使用模拟中的均方误差和用于评价拟合能力的Kolmogorov-Smirnov检验统计量的$p$值来选择。这样，我们就可以克服关于确定真实数据集的$q$值的问题。

On Convergence Properties of the Monte Carlo EM Algorithm

The Expectation-Maximization (EM) algorithm (Dempster, Laird and Rubin, 1977) is a popular method for computing maximum likelihood estimates (MLEs) in problems with missing data. Each iteration of the al- gorithm formally consists of an E-step: evaluate the expected complete-data log-likelihood given the observed data, with expectation taken at current pa- rameter estimate; and an M-step: maximize the resulting expression to find the updated estimate. Conditions that guarantee convergence of the EM se- quence to a unique MLE were found by Boyles (1983) and Wu (1983). In complicated models for …

关于序贯蒙特卡罗、部分拒绝控制和近似贝叶斯计算

On sequential Monte Carlo, partial rejection control and approximate Bayesian computation

我们提出了一个序贯蒙特卡罗采样器的部分拒绝控制算法的变体，并表明，这种变体可以被认为是一个序贯蒙特卡罗采样器与修改后的突变内核。我们证明了新的采样器可以减少增量的重要性权重的方差相比，标准的序贯蒙特卡罗采样器。我们提供了一个新的算法的理论性质的研究，并与现有的一些算法。最后，采样器是适应于应用程序下的挑战性的“似然自由”，近似贝叶斯计算建模框架，在那里我们表现出优越的性能超过现有的似然自由采样器。

多元扩散的封闭形式似然展开

Closed-form likelihood expansions for multivariate diffusions

本文给出了离散时间间隔采样的多元扩散的对数似然函数的封闭展开式。利用扩散模型提供的特殊结构，显式地计算膨胀系数。在金融统计和蒙特卡洛证据的兴趣的例子包括在内，随着收敛的扩展到真正的似然函数。

A unified performance analysis of likelihood-informed subspace methods

The likelihood-informed subspace (LIS) method offers a viable route to reducing the dimensionality of high-dimensional probability distributions arising in Bayesian inference. LIS identifies an intrinsic low-dimensional linear subspace where the target distribution differs the most from some tractable reference distribution. Such a subspace can be identified using the leading eigenvectors of a Gram matrix of the gradient of the log-likelihood function. Then, the original high-dimensional target distribution is approximated through various forms of marginalization of the likelihood function, in…

似然函数的蒙特卡洛与拟蒙特卡洛积分

Monte Carlo and quasi-Monte Carlo integration for likelihood functions

本文比较了近似后验分布归一化常数时MC与QMC的积分误差，刻画了误差对数据点、网格点和维数的依赖，发现特定条件下QMC优于MC的新判据，并给出了Halton序列星偏差的高维缩放界限。

自适应延迟接收MCMC，用于具有昂贵似然的目标

Adaptive, delayed-acceptance MCMC for targets with expensive likelihoods

当进行贝叶斯推断时，当计算真实后验或其无偏估计在计算上昂贵，但计算上便宜的近似可用时，可以应用延迟接受（DA）Metropolis-Hastings（MH）算法和DA伪边缘MH算法。第一个接受-拒绝阶段的应用，与廉价的近似代替真正的后验的MH接受率。只有那些通过第一阶段的建议是计算昂贵的真实后验（或无偏估计）的评估，与第二个接受拒绝阶段，确保详细的平衡是满意的预期的真实后验。在某些情况下，没有明显的计算成本低廉的近似值。计算昂贵的后验的先前评估的加权平均值提供了后验的通用近似。如果只有$k$ -最近的邻居有非零的权重，那么近似后验的评估可以在计算上很便宜，只要后验被评估的点被存储在多维二叉树中，称为KD树。KD树的内容在每次计算密集的评估之后潜在地更新。由此产生的自适应，延迟接受[伪边缘]梅特罗波利斯-黑斯廷斯算法是合理的理论和经验。调整参数的指导和方法被施加到一个离散观察到的马尔可夫跳跃过程特征的捕食者-猎物的相互作用和ODE系统描述的自动调节基因网络的动态。

基于综合似然的多水平模型贝叶斯模型选择

Bayesian model selection for multilevel models using integrated likelihoods

多水平线性模型允许对具有不同分层水平的复杂数据进行灵活的统计建模。从大量可能的候选模型中确定最合适的模型是一个具有挑战性的问题。在贝叶斯设置中，标准方法是使用模型证据或贝叶斯因子比较模型。这些量的显式表达式可用于最简单的线性模型与不切实际的先验，但在大多数情况下，直接计算是不可能的。在实践中，马尔可夫链蒙特卡罗方法被广泛使用，例如序贯蒙特卡罗，但并不总是清楚这些技术的性能如何。我们提出了一种方法估计的日志模型的证据，通过一个中间的边缘化非方差参数。这降低了任何蒙特卡罗抽样算法的维数，从而产生更相合估计。本文的目的是展示这个框架是如何结合在一起，并在实践中工作，特别是对数据的层次结构。我们说明了这种方法的模拟多级数据和一个流行的数据集，包含在美国明尼苏达州的家中的氡水平。

具有难处理似然的隐马尔可夫模型的参数估计

Parameter Estimation for Hidden Markov Models with Intractable Likelihoods

近似贝叶斯计算（ABC）是一种流行的技术，用于近似似然，并经常用于参数估计时，似然函数是解析难处理的。虽然ABC的使用在许多领域都很广泛，但对由此产生的估计量的理论性质却很少有研究。本文从理论上分析了隐马尔可夫模型基于ABC的极大似然参数估计的渐近性质。特别是，我们得出了与标准极大似然估计的一致性和渐近正态性类似的结果。我们还讨论了如何顺序蒙特卡罗方法提供了一个自然的方法来实现基于ABC程序的可能性。

Ornstein Uhlenbeck-Gamma和其他BNS OU随机波动率模型及其推广的律和似然性

Laws and Likelihoods for Ornstein Uhlenbeck-Gamma and other BNS OU Stochastic Volatilty models with extensions

近年来，已经有许多建议作为灵活的替代高斯连续时间随机波动率模型。这些模型中有很多采用了正Lévy过程。其中有吸引力的非高斯正Ornstein-Uhlenbeck过程提出的Barndorff-Nielsen和Shephard（BNS）在一系列的文件。这些方法的一个当前问题是对于金融资产的收益没有一个易于处理的基于似然的统计分析。本文，而专注于BNS模型，开发的一般理论实施的统计推断的主机模型。具体来说，我们展示了如何减少无限维的过程为基础的模型有限，虽然高，维的。然后可以基于蒙特卡罗方法进行推断。作为亮点，具体到BNS，我们表明，一个由无限活动Gamma过程驱动的非线性过程，这是一个非线性- $Γ$，具有独特的功能，它允许人们从相关的联合分布中精确采样。我们表明，这是一个后果的结构和独特的微积分的伽玛和狄利克雷过程。由于Gamma/Dirichlet过程和广义Gamma卷积（GGC）理论之间的另一种联系，我们确定了一大类模型，我们称之为（FGGC），其中可以完美地对与期权定价和蒙特卡洛似然分析相关的边缘分布进行采样。这涉及到一个奇怪的结果，我们将其建立为定理6.1。我们还讨论了分析技术和候选密度的蒙特卡罗程序，适用于更普遍的。

后验分布的马尔可夫链蒙特卡罗模拟计算贝叶斯因子

Computing the Bayesian Factor from a Markov chain Monte Carlo Simulation of the Posterior Distribution

从模拟的后验分布的边缘似然计算是贝叶斯模型选择的核心，但计算困难。我认为，边际可能性可以可靠地计算出后验样本仔细注意的概率积分的数值。假定边缘似然的表达式为勒贝格积分，我们可以将调和平均近似从样本统计量转换为求积规则。作为一种求积方法，调和平均近似会产生巨大的截断误差。此外，我证明了调和平均近似的积分表达式收敛缓慢，在最好的高维问题与无信息的先验分布。这些意见导致两个计算适度的正交算法，使用完整的一般性样本后验，但没有不稳定的家庭。第一种算法自动消除了样本中截断误差较大的部分。第二种算法利用后验样本将概率分配给样本空间的一个分区，并直接进行边缘似然积分。这消除了收敛问题。第一种算法类似于标准求积，但只能应用于收敛问题。第二种是体积的混合：它使用后验来发现和镶嵌样本空间的子集，并使用分位数来计算代表性的字段值。这两种算法都没有对后验分布的形状做出强有力的假设，也不是敏感的离群值。[删节]

有限规模加权蒙特卡罗数据不确定性的概率处理

Probabilistic treatment of the uncertainty from the finite size of weighted Monte Carlo data

HEP实验中的参数估计通常涉及蒙特卡罗模拟来模拟实验响应函数。一个典型的应用是前向折叠似然分析与重新加权，或耗时的最小化计划与一个新的模拟设置为每个参数值。问题是，这种Monte Carlo样本的有限大小具有内在的不确定性，如果忽略该不确定性并且样本量较小，则可能导致参数估计的实质性偏倚。我们引入了一个概率处理这个问题，通过取代通常的似然函数与新的广义概率分布，通过适当的边缘化，将有限的统计。这些新的PDF是分析性的，可用于取代Poisson、多项式和基于样本的未分组可能性，其中涵盖了高能物理中的许多用例。在无限统计的极限下，它们还原为各自的标准概率分布。在一般情况下的任意蒙特卡罗权重，表达式涉及第四劳瑞塞拉函数$F_D$，我们找到了一个新的有限和表示在一定的参数设置。该结果还表示了具有$n>0$的Carlson Dirichlet平均$R_n$的精确形式，从而为计算Dirichlet-多项式分布的概率母函数、单项函数的扩展除差或一元B样条的任意矩提供了一种有效的方法.我们证明了我们的方法与一个典型的玩具蒙特卡罗问题的偏差减少，估计下降的能量谱中的峰的归一化，并比较结果与以前发表的方法从文献中。