Demistifying Inference after Adaptive Experiments
本文系统分析了自适应实验对统计推断的影响机制,并提出重新加权、始终有效推断及非正态分布反演等修复方法,以恢复频率学派保证。
2024-05-02 econ.EM math.ST stat.ME
Adaptive nonparametric Bayesian inference using location-scale mixture priors
我们研究位置-尺度混合先验的非参数统计问题,包括多元回归,密度估计和分类。我们表明,可以得到一个速率自适应的过程,如果事先适当地构造。特别是,我们表明,自适应实现,如果一个内核的混合之前的回归函数使用高斯内核,反伽马带宽,高斯混合权重。
2012-11-09 math.ST stat.TH
Adaptive Off-Policy Inference for M-Estimators Under Model Misspecification
Carnegie Mellon University(卡内基梅隆大学);Novartis Pharmaceuticals Corporation(诺华制药公司)
本文提出了一种自适应偏政策推断方法,用于在模型不规范情况下有效推断M估计量,通过稳定自适应数据收集的方差,构建有效的置信区间。
2026-02-08 math.ST stat.ME stat.ML
Adaptive Variational Bayesian Inference for Sparse Deep Neural Network
在这项工作中,我们专注于变分贝叶斯推理的稀疏深度神经网络(DNN)建模下的一类尖峰和板先验。给定一个预先指定的稀疏DNN结构,相应的变分后验收缩率的特征在于揭示了变分误差和近似误差之间的权衡,这两者都是由网络结构复杂度决定的(即,深度、宽度和稀疏度)。然而,最佳的网络结构,达到上述权衡的平衡,并产生最佳的速率,通常是未知的现实。因此,我们的工作进一步开发了一个{ \em自适应}变分推理过程,可以自动选择一个合理的好(数据依赖)的网络结构,实现最佳的收缩率,而不知道最佳的网络结构。特别地,当真函数是H{<$}lder光滑时,自适应变分推理能够在不知道光滑度的情况下获得(接近)最优速率.上述比率仍然受到维度灾难的影响,因此激发了师生设置,即,真实函数是稀疏DNN模型,在该模型下,速率仅在数学上取决于输入维度。
2020-08-03 math.ST stat.TH
Bayes procedures for adaptive inference in inverse problems for the white noise model
我们研究经验和层次贝叶斯方法估计一个无限维的参数在轻度不适定的反问题的问题。我们考虑一类由超参数量化正则性的先验分布。我们证明,这两种方法,我们认为成功地自动选择这个参数最佳,导致最佳的收敛速度的真理与Sobolev或分析“平滑”,而不使用知识的规律性。这两种方法都通过仿真实例进行了说明。
2013-05-29 math.ST stat.TH
Adaptive Estimation and Statistical Inference for High-Dimensional Graph-Based Linear Models
我们考虑了高维图基线性模型的自适应估计和统计推断。在我们的模型中,回归系数的坐标对应于底层的无向图。此外,给定的图控制回归向量的分段多项式结构。在自适应估计部分,我们应用基于图的正则化技术,并提出了一个家庭的局部自适应估计称为Graph-Piecewise-Polynomial-Lasso。我们进一步研究了图分段多项式套索的一步更新问题的统计推断。我们发展了相应的理论,包括固定设计和亚高斯随机设计。最后,我们通过大量的模拟研究说明了我们的方法的优越性能,并以拟南芥微阵列数据集的应用作为结论。
2020-01-29 math.ST stat.ME stat.TH
Nonparametric adaptive inference of birth and death models in a large population limit
出于改进人类人口统计数据库中的死亡率表的动机,我们研究了由时间不均匀的死亡率和生育率供养的人口的随机年龄演化密度的统计推断。在有限的时间范围内,人口的规模增长的渐近性:观察得到更接近的解决方案的冯Foerster麦克肯德里克方程,和困难在于同时控制的随机逼近的限制PDE在一个合适的意义上,连同适当的参数化的各向异性解决方案。在这种情况下,我们证明了新的浓度不等式,使我们能够实现的Goldenshluger-Lepski算法,并推导出甲骨文不等式。我们获得极大极小最优性和适应范围广泛的各向异性的Hölder光滑类。
2019-03-02 math.ST stat.TH
Adaptive Bayesian Predictive Inference in High-dimensional Regerssion
本文从预测推断视角研究高维回归中的稀疏先验,证明LASSO先验无法实现速率最优,而Spike-and-Slab及分层先验能实现自适应极小化极大速率,首次给出稀疏设置下预测密度估计的速率自适应结果。
2024-05-30 math.ST stat.TH
Adaptive Inference in Multivariate Nonparametric Regression Models Under Monotonicity
Brown University(布朗大学)
该研究针对多元非参数回归的单调性约束问题,推导了自适应置信区间的极小极大收敛速率,提出了适配该速率的新推断方法,适用于高斯误差下的有限样本及回归函数的一般线性泛函。
2026-10-30 econ.EM math.ST stat.AP
Likelihood based inference for current status data on a grid: A boundary phenomenon and an adaptive inference procedure
在本文中,我们研究了事件时间分布函数的非参数极大似然估计在当前状态模型的一个点上的观察时间支持的网格上的潜在未知的稀疏性和多个主题共享相同的观察时间。这是有意义的,因为观察时间关系经常发生在当前状态数据中。网格分辨率指定为$cn^{-γ}$,其中$c>0$为缩放常数,$γ>0$调节网格相对于受试者数量$n$的稀疏性。根据$γ$的不同,渐近行为可分为三种情况:当$γ<1/3$为正则高斯型渐近,当以$γ>1/3$和$γ=1/3$为边界时为非标准立方根渐近.边界处的极限分布与前面的任何一种情况都不同,并且当$c$分别变为$\infty$和0时,弱收敛于用$γ\in(0,1/3)$和$γ\in(1/3,\infty)$得到的极限分布。这种弱收敛使我们能够开发一种自适应程序来构建事件时间分布值的置信区间,而无需知道或估计$γ$,这从推理的角度来看具有巨大的优势。自适应过程的仿真研究。
2012-05-28 math.ST stat.TH
Statistical Inference for Covariate-Adaptive Randomization Procedures
协变量自适应随机化(CAR)程序经常用于比较研究,以增加治疗组间的协变量平衡。然而,由于随机化在形成平衡治疗组时不可避免地使用协变量信息,因此在此类随机化后经典统计方法的有效性往往不清楚。本文在线性模型框架下,推导了基于广义CAR的统计方法的理论性质。更重要的是,我们明确揭示协变量自适应和推断属性之间的关系,推导出相应的估计量的渐近表示。我们提出的一般理论,以各种随机化程序,如完全随机化,重新随机化,成对顺序随机化,阿特金森的$D_A$偏硬币设计,并分析比较其性能。基于理论结果,我们提出了一种新的方法来获得有效和更强大的测试。这些结果为理解和分析基于CAR的实验打开了一扇大门。仿真研究提供了进一步的证据所提出的框架和理论结果的优点。本文的补充材料可在线获取。
2020-09-07 math.ST stat.TH
Inference under covariate-adaptive randomization with many strata
本文提出一个允许层数发散的协变量自适应随机化推断框架,引入加权回归调整提升效率,并开发实用算法,强调分层区组随机化的优势,覆盖从固定到极大量层数的全面推断。
2024-05-29 math.ST stat.ME stat.TH
Efficient Inference after Directionally Stable Adaptive Experiments
University College London(伦敦大学学院);Gatsby Computational Neuroscience Unit, University College London(伦敦大学学院计算神经科学单元);Cornell University(康奈尔大学);Netflix;Google DeepMind(谷歌DeepMind);Rutgers University(罗格斯大学)
本文提出方向稳定性条件,证明在自适应数据下估计量保持渐近正态性和半参数效率,并为LinUCB采样下的常规标量目标提供了首个半参数效率保证。
2026-02-25 cs.LG math.ST stat.ME
Non-Parametric Inference Adaptive to Intrinsic Dimension
Stanford University(斯坦福大学);Microsoft Research(微软研究院)
本文研究了高维条件矩模型的非参数估计和推断。我们发现,即使当尺寸$D$的条件变量是大于样本量$n$,估计和推断是可行的,只要分布的条件变量具有小的内在尺寸$d$,测量本地低倍措施。我们的估计是基于$k$ -最近邻($k$ -NN)$Z$ -估计器的子采样集合。我们证明了,如果协变量分布的内在维数等于$d$,那么我们的估计量的有限样本估计误差是$n^{-1/(d+2)}$阶的,并且我们的估计量是$n^{1/(d+2)}$ -渐近正态的,与$D$无关。实现这些结果所需的子采样大小取决于未知的固有维数$d$。我们提出了一个自适应的数据驱动的方法来选择这个参数,并证明它达到了预期的速率。我们讨论的扩展和应用,异质性治疗效果估计。
2019-06-18 cs.LG econ.EM math.ST
Geometric Methods for Sampling, Optimisation, Inference and Adaptive Agents
University of Cambridge(剑桥大学);The Alan Turing Institute(阿兰·图灵研究所);Imperial College London(帝国理工学院);University College London(伦敦大学学院);University of California, Berkeley(加州大学伯克利分校)
在这一章中,我们确定基本的几何结构,抽样,优化,推理和自适应决策的问题。基于这种识别,我们推导出算法,利用这些几何结构来有效地解决这些问题。我们表明,广泛的几何理论自然出现在这些领域,从测量保持过程,信息发散,泊松几何,几何整合。具体来说,我们解释如何(i)利用辛几何的哈密顿系统使我们能够构建(加速)采样和优化方法,(ii)希尔伯特子空间和Stein算子的理论提供了一个通用的方法来获得强大的估计,(iii)保持决策的信息几何产生自适应代理,执行主动推理。在整个过程中,我们强调这些领域之间的丰富联系;例如,推理利用抽样和优化,适应性决策通过推断其反事实后果来评估决策。我们的论述提供了基本思想的概念概述,而不是技术讨论,这可以在本文的参考文献中找到。
2022-07-25 cs.LG math.DG math.OC
Bayesian inference in high-dimensional linear models using an empirical correlation-adaptive prior
在高维线性回归模型的背景下,我们提出了使用经验相关自适应先验,利用观察到的预测变量矩阵中的信息来自适应地解决高共线性,确定与相关预测变量相关的参数是否应该收缩在一起或保持分开。在适当的条件下,我们证明了这种经验贝叶斯后验以最优速率渐近地集中在真实稀疏参数周围。采用霰弹枪随机搜索算法的简化版本来实现变量选择过程,通过不同设置和真实数据应用的模拟实验,我们表明,与现有方法相比,所提出的方法具有良好的性能。
2018-10-01 math.ST stat.ME stat.TH
Simple Adaptive Size-Exact Testing for Full-Vector and Subvector Inference in Moment Inequality Models
我们提出了一个简单的测试矩不等式,具有确切的大小在正态模型与已知的方差,并具有一致渐近准确的大小更一般。该检验将准似然比统计量与卡方临界值进行比较,其中自由度是有限样本中活跃的不等式的秩。该检验不需要模拟,因此计算速度快,特别适合于通过检验反演来构造参数的置信集。它不使用调整参数的时刻选择,但仍然适应松弛的时刻不等式。此外,我们展示了如何测试可以很容易地适应子向量的推断为常见的经验设置的条件矩不等式与干扰参数进入线性。
2020-08-18 econ.EM math.ST stat.TH
Optimism Stabilizes Thompson Sampling for Adaptive Inference
Peking University(北京大学)
本文通过引入乐观机制(如方差膨胀或均值奖励)稳定汤普森采样,使得各臂拉取次数收敛于确定性尺度,从而在K臂随机bandit中实现渐近有效的Wald推断,并解决了多最优臂的扩展问题。
2026-06-17 cs.AI cs.LG math.OC
Adaptive inference with random ellipsoids through Conformal Conditional Linear Expectation
本文在多变量回归框架下提出两种基于残差与输入点协方差分析的新conformity scores,构建显式椭球预测集,证明其渐近性质及体积缩减优势,并在数值研究中验证有效性。
2025-06-27 math.PR math.ST stat.TH
An adaptive mixture-population Monte Carlo method for likelihood-free inference
本文主要研究具有可无偏估计的难处理的似然函数的变分推理。在\cite{cappe2008adaptive}中采用混合种群蒙特卡罗(MPMC)算法,建立了一种基于高斯混合的灵活变分逼近方法。MPMC通过重要抽样计算迭代更新混合分布的参数,而不是通常变分贝叶斯中复杂的优化目标梯度估计。注意到MPMC使用固定数量的混合组分,这是很难预测的实际应用中,我们进一步提出了一个自动组件更新程序,以获得适当数量的组件。推导出的自适应MPMC算法是能够找到良好的近似的多模态后验分布,即使与一个标准的高斯作为初始分布,在我们的数值实验证明。
2021-12-01 cs.NA math.NA math.ST
Optimal Conditional Inference in Adaptive Experiments
本文研究了自适应实验中条件推断的最优方法,通过分析位置不变性和多面体事件依赖性,提出计算可行的最优推断程序。
2026-01-16 cs.LG econ.EM math.ST
An adaptive independence sampler MCMC algorithm for infinite dimensional Bayesian inferences
Shanghai Jiao Tong University(上海交通大学)
本文提出一种自适应独立采样MCMC算法,用于处理无限维贝叶斯推断问题,通过混合有限个特殊参数化的高斯测度作为建议分布,实现维度无关的高效采样,且在多模态后验分布中表现稳健。
2016-04-10 cs.NA math.NA math.ST