Exact and efficient inference for Partial Bayes problems
贝叶斯方法对统计推断很有用。然而,当数据分析师只有有限的先验知识时,使用贝叶斯方法解决现实世界的问题可能具有挑战性。在本文中,我们考虑一类问题,称为部分贝叶斯问题,其中的先验信息是只有部分可用。以最近提出的推理模型的方法,我们开发了一个一般的推理框架偏贝叶斯问题,并得出准确和有效的解决方案。除了理论研究外,数值结果和实际应用都证明了该方法的优越性能。
2018-02-12 stat.ME
Exact Post-Selection Inference for Sequential Regression Procedures
我们提出了新的推理工具,向前逐步回归,最小角度回归,和套索。假设一个高斯模型的观察向量y,我们首先描述了一个一般的计划,以执行有效的推理后,任何选择事件,可以被描述为y落入一个多面体集。这个框架允许我们在前向逐步回归或最小角度回归的任何一步,或者沿着套索正则化路径的任何一步推导出条件(后选择)假设检验,因为事实证明,这些过程的选择事件可以表示为y上的多面体约束。在有限样本中,与这些检验相关的p值在零分布下完全均匀,得到精确的第一类错误控制。检验也可以反向以产生适当的潜在回归参数的置信区间。R包“selectiveInference”在CRAN库中免费提供,实现了本文中描述的新推理工具。
2015-10-11 stat.ME
Exact Semiparametric Inference and Model Selection for Load-Sharing Systems
序贯顺序统计量作为一种特殊的比例风险率模型,可以用来描述负荷分担系统的寿命。这些系统的推断需要考虑小样本量,这在可靠性应用中是普遍的。通过利用序贯顺序统计量的概率结构,我们推导出精确的有限样本推理程序来测试的负载分担参数和非参数化指定的基线分布,治疗各自的其他部分作为一个滋扰量。这改进了以前的方法的模型,它要么假设一个完全参数化的规格或依赖于渐近的结果。仿真结果表明,所得到的测试是能够检测偏离原假设在小样本量。一个突出的情况下的临界值列表。
2019-09-16 stat.ME
Exact Bayesian inference for diffusion driven Cox processes
针对强度由扩散过程驱动且似然与转移密度不可处理的 Cox 过程,提出基于 MCMC 与回顾性抽样的无离散化误差精确贝叶斯推断方法,并通过模拟和真实数据验证。
2023-06-02 stat.ME
A family of toroidal diffusions with exact likelihood inference
本文提出一类具有显式转移密度和时间可逆性的环面扩散过程,支持任意预设平稳分布与精确似然推断、假设检验及扩散桥模拟,并应用于蚂蚁运动齐性检验和蛋白质骨架桥模拟。
2024-09-04 stat.ME
Exact Bayesian inference for level-set Cox processes with piecewise constant intensity function
针对一类强度函数为分段常数的多维Cox过程,提出了一种新的贝叶斯推断方法。具有分段恒定强度函数的泊松过程被认为适合于对各种点过程现象进行建模,并且鉴于其更简单的结构,当与具有非参数和连续变化强度函数的过程相比时,预计将提供更精确的推断。空间域的划分由潜在的高斯过程的水平集函数灵活地确定。尽管棘手的似然函数和无穷维的参数空间,推理是准确地执行,在这个意义上,没有空间离散近似使用和MCMC误差是唯一的来源不准确。这是通过使用回顾性抽样技术和设计一个伪边缘的无限维MCMC算法,收敛到准确的目标后验分布。考虑最近邻高斯过程有利于计算效率,从而允许分析大型数据集。扩展到考虑时空模型也提出了。在模拟的例子中,所提出的方法的效率进行了研究,并在一些真实的点过程数据集的分析说明其适用性。
2022-11-15 stat.ME
Markov chain Monte Carlo for exact inference for diffusions
我们开发了精确的马尔可夫链蒙特卡罗方法离散采样,直接和间接观察到的扩散。“精确”的限定是指马尔可夫链的不变和极限分布是参数的后验分布,不含任何离散化误差。我们的方法直接适用的过程的类是那些可以使用最一般的精确模拟算法进行模拟。本文介绍了各种方法来提高基本方案的性能,包括重新参数化和辅助泊松采样。我们在理论上和经验上对比了这种新方法与不可约高频插补的比较,不可约高频插补是我们考虑的一类过程的最先进的替代方案,我们发现了有趣的联系。文中讨论的所有方法都通过典型算例进行了验证。
2012-05-03 stat.ME
Exact Bayesian Inference for Geostatistical Models under Preferential Sampling
优先抽样是地质统计学中的一个常见特征,发生在根据所研究现象的信息选择抽样位置时。在这种情况下,通常使用点模式模型作为位置分布的概率定律。然而,点过程似然的分析困难性阻止了其直接计算。非参数模型规范中的许多贝叶斯(和非贝叶斯)方法使用基于近似的方法来处理这一困难。这些近似值涉及难以量化的误差,并可能导致有偏见的推断。本文提出了一种方法来执行精确的贝叶斯推断,这种设置,而不需要模型近似。对传统的模型进行了定性的微小改变,以避免可能性的棘手性。这一变化使得能够使用增强模型策略。最近的工作贝叶斯推断的点模式模型可以适应地质统计学设置,并呈现计算的精确推理所提出的方法。然后,可以从增强模型的联合后验分布获得模型参数的估计和未采样位置处的响应的预测。模拟研究表明,所提出的模型在各种优惠情景下的估计和预测质量良好。我们的方法的性能说明在真实数据集的分析和比较有利的近似为基础的方法。本文件最后就拟议方法的扩展和改进提出了意见。
2022-10-26 stat.ME
Direct and approximately valid probabilistic inference on a class of statistical functionals
现有的概率推理框架假设感兴趣的数量是一个假设的统计模型的参数。然而,在机器学习应用中,通常没有统计模型/参数;感兴趣的数量是统计函数,是底层分布的一个特征。基于模型的方法只能间接地处理这些问题,通过从模型参数到感兴趣的实际量的边缘化。在这里,我们开发了一个广义推理模型(IM)框架,直接概率不确定性量化的数量感兴趣。特别是,我们构建了一个依赖于数据的,基于Bootstrap的可能性测度的不确定性量化和推理。然后,我们证明,这种新的方法提供了近似有效的推理的意义上,分配给假设的未知量的可扩展性值是渐近良好校准的频率论意义上的。除其他事项外,这意味着,置信区域的基础功能,从我们提出的IM是近似有效的。该方法在关键的例子中表现良好,包括分位数回归,并在个性化医疗应用。
2022-06-09 math.ST stat.ME stat.TH
Exact Selective Inference with Randomization
本文提出一种闭式枢轴量,将随机化下的精确选择性推断简化为二元截断高斯分布,虽牺牲部分功效,但产生更窄置信区间,并在模拟和HIV数据上验证权衡。
2023-12-23 stat.CO stat.ME stat.ML
Inference for Instrumental Variables: A Randomization Inference Approach
工具变量(IV)的方法提供了一个框架,研究因果关系的随机实验与不遵守和观察性研究中的自然情况下产生的,如果随机轻推接受治疗。传统上,IV的推断依赖于Wald估计量或两阶段最小二乘分布的渐近近似,通常具有结构建模假设和/或矩条件。在本文中,我们利用随机化推理方法IV推理。首先,我们概述了确切的方法,它使用随机分配的治疗实验作为推理的基础,但缺乏一个封闭的形式的解决方案,并可能在许多应用中计算不可行。然后,我们提供了一种替代的精确方法,几乎精确的方法,这是计算上可行的,但保留了精确方法的优点。我们还回顾了渐近推理方法,包括与两阶段最小二乘法相关的方法,并将其与随机推理方法进行了分析比较。我们还使用一组模拟进行额外的比较。最后,我们从社会科学的三个不同的应用。
2018-02-06 stat.AP stat.ME
Exact Bayesian inference for discretely observed Markov Jump Processes using finite rate matrices
提出了一种新的方法,用于对具有可数无限状态空间的离散观测连续时间Markov跳过程的速率参数进行贝叶斯推断。通常选择的推理方法,粒子马尔可夫链蒙特卡罗(粒子MCMC),挣扎时,观察噪声很小。我们认为最具挑战性的制度的精确观测,并提供了两种新的推理方法,在这种情况下:最小扩展状态空间算法(MESA)和几乎最小扩展状态空间算法(nMESA)。通过扩展马尔可夫链蒙特卡罗状态空间,MESA和nMESA都使用有限速率矩阵的取幂来对马尔可夫跳跃过程执行精确的贝叶斯推断,即使其状态空间是可数无限的。数值实验表明,粒子MCMC之间的一个因素的三个和几个数量级的改进。
2022-06-21 stat.CO stat.ME stat.OT
An Exact and Robust Conformal Inference Method for Counterfactual and Synthetic Controls
我们引入了新的推理程序的反事实和合成控制法的政策评估。我们将因果推断问题重新定义为一个反事实预测和一个结构突变检验问题。这使我们能够利用共形预测和结构突变测试的见解,开发置换推理程序,以适应现代高维估计,在弱和易于验证的条件下是有效的,并且可以证明对误指定是鲁棒的。我们的方法与许多不同的方法一起工作,在没有政策干预的情况下预测反事实的平均结果。示例包括合成控制、差异中的差异、因子和矩阵完成模型以及(融合)时间序列面板数据模型。我们的方法在模拟中表现出出色的小样本性能,并被用于数据应用,我们重新评估室内卖淫合法化的后果。用于实现我们的共形推理方法的开源软件是可用的。
2021-05-20 econ.EM stat.ME
Exact prior-free probabilistic inference on the heritability coefficient in a linear mixed model
当变异性来自两个来源时,通常使用具有两个方差分量的线性混合效应模型。在遗传学应用中,观察到的性状的变异可以归因于生物和环境效应,遗传力系数是测量由于生物效应引起的总变异比例的基本量。我们提出了一个新的推理模型方法,产生确切的先验概率推断的遗传力系数。特别是,我们构造精确的置信区间和数值证明我们的方法的效率相比,现有的方法。
2014-07-30 math.ST stat.ME stat.TH
Machine Learning Assisted Adjustment Boosts Efficiency of Exact Inference in Randomized Controlled Trials
提出一种基于机器学习调整的推断方法,在Rosenbaum精确检验框架下控制第一类错误并提升RCT统计效率,减少样本量和成本。
2024-07-22 stat.ME stat.ML
Exact Inference for Gaussian Process Regression in case of Big Data with the Cartesian Product Structure
近似算法在许多工程问题中有着广泛的应用。为了获得近似的数据集,经常使用析因实验设计。在这种情况下,数据集的大小可能非常大。因此,最流行的近似算法之一-高斯过程回归-由于其计算复杂性而几乎不能应用。本文提出了析因试验设计下高斯过程回归的一种新方法。它允许有效地计算精确的推理和处理大型多维数据集。该算法提供了快速和准确的近似,也处理各向异性数据。
2014-07-03 math.ST stat.ME stat.TH
Asymptotically-exact selective inference for quantile regression
针对模型选择后的可靠推断问题,本文提出基于平滑分位数回归与外部随机化的渐近精确选择性推断枢轴量,无需分布假设与数据拆分,模拟和真实数据实验均验证其覆盖率达标且区间更短。
2025-02-20 math.ST stat.ME stat.TH
Exact post-selection inference, with application to the lasso
我们开发了一个通用的方法,有效的推理模型选择后。在我们的框架的核心是一个结果,其特征在于后选择估计的选择事件的条件下的分布。我们专门的方法来选择模型的套索,形成有效的置信区间为选定的系数和测试是否所有相关的变量已被包括在模型中。
2016-05-03 math.ST stat.ME stat.ML
Bayesian inference as iterated random functions with applications to sequential inference in graphical models
本文提出了具有半群性质的迭代随机函数的一般形式,在此形式下,精确和近似的贝叶斯后验更新可以看作是具体的例子。给出了迭代随机函数的一个收敛定理。作为一般理论的应用,我们分析的收敛行为的精确和近似的消息传递算法中出现的顺序变点检测问题,制定通过一个潜在的变量有向图模型。通过仿真实例说明了顺序推理算法及其支持理论。
2013-11-01 math.ST stat.ME stat.ML
Bayesian Context Trees: Modelling and exact inference for discrete time series
我们开发了一个新的贝叶斯建模框架的类高阶,可变记忆马尔可夫链,并介绍了一个相关的收集方法的工具,精确的推理与离散时间序列。我们表明,一个版本的上下文树加权算法可以准确地计算先验预测似然(平均模型和参数),并介绍了两个相关的算法,识别后验最有可能的模型,并计算其确切的后验概率。这三种算法都是确定性的,具有线性时间复杂度。一个家庭的变维马尔可夫链蒙特卡罗采样器也提供了,方便进一步探索后。所提出的方法在模型选择,马尔可夫阶估计和预测的性能,通过模拟实验和现实世界的应用与金融,遗传学,神经科学和动物交流的数据进行说明。相关算法在R包BCT中实现。
2022-02-06 cs.IT math.IT stat.AP