Adaptive non-asymptotic confidence balls in density estimation
我们建立了一个真实值样本$X_1,...,X_n$的共同密度$s$的置信球。我们使用的方法来估计投影的$s$到有限维线性空间和模型选择过程中选择一个最优逼近空间。覆盖属性确保所有$n\geq2$和球是自适应的线性空间的集合。
2010-07-26 math.ST stat.TH
Partially-Observable Sequential Change-Point Detection for Autocorrelated Data via Upper Confidence Region
Tsinghua University(清华大学);University of Florida(佛罗里达大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
针对资源受限下部分可观测的多元自相关数据序贯变点检测问题,本文提出AUCRSS方案,结合状态空间模型、部分可观测卡尔曼滤波、广义似然比检验与基于上置信区域的自适应采样策略,并通过理论分析和数值实验验证其有效性。
2024-03-30 cs.LG stat.ML
Regularizing Double Machine Learning in Partially Linear Endogenous Models
利用双机器学习(DML)可以估计具有混杂变量的部分线性模型中的线性系数。然而,该DML估计器具有两阶段最小二乘(TSLS)解释,并且可能产生过宽的置信区间。为了解决这个问题,我们提出了一个正则化和选择方案,regsDML,这导致更窄的置信区间。它选择TSLS DML估计器或仅正则化估计器,这取决于其估计方差较小。仅正则化估计量被定制为具有低的均方误差。regsDML估计器是完全数据驱动的。regsDML估计收敛于参数速率,是渐近高斯分布,渐近等价于TSLS DML估计,但regsDML表现出更好的有限样本性质。regsDML估计量使用了k类估计量的思想,我们展示了如何将DML和k类估计结合起来估计部分线性内生模型中的线性系数。实证的例子表明我们的方法和理论的发展。我们的regsDML方法的软件代码可以在R包dmlalg中找到。
2021-09-19 math.ST stat.ME stat.TH
Adaptive confidence bands for Markov chains and diffusions: Estimating the invariant measure and the drift
作为一个出发点,我们证明了一个功能中心极限定理的估计的不变测度的几何遍历哈里斯经常马尔可夫链在多尺度空间。这允许构造置信带的不变密度与最佳的(欠平滑)$L^{\infty}$直径通过使用小波投影估计。此外,我们的设置适用于漂移估计离散观察固定的观察距离的扩散。我们证明了一个功能的中心极限定理的漂移函数的估计,并通过使用一个完全的数据驱动的估计,最后构造自适应置信带的漂移。
2016-07-07 math.ST stat.TH
Testing and Confidence Intervals for High Dimensional Proportional Hazards Model
提出了一种基于去相关的方法来检验高维比例风险模型的假设和构造其低维分量的置信区间。受几何投影原理的启发,我们提出了新的去相关score、Wald和偏似然比统计量.在不假设模型选择相合的情况下,证明了这些检验统计量的渐近正态性,建立了它们的半参数最优性。我们还开发了新的程序来构建逐点置信区间的基线风险函数和基线生存函数。最后给出了数值结果来支持我们的理论。
2014-12-16 math.ST stat.ML stat.TH
General framework for projection structures
在第一部分中,我们开发了一个一般框架的投影结构,并在此框架内研究了几个推理问题。我们提出了基于数据相关措施(DDM)的程序,并与经验贝叶斯和惩罚方法的连接。主要的推理问题是不确定性量化(UQ),但在此过程中,我们解决了估计,DDM收缩问题,以及弱版本的结构恢复问题。该方法是局部的,因为推理过程的质量是由局部量,预言率,这是由投影结构的近似误差和近似投影结构的复杂性之间的最佳权衡来衡量的。像在统计学习环境中一样,我们发展了无分布理论,因为没有强加特定的模型,我们只假设投影预测器的随机部分有一定的温和条件。我们引入了过度偏差限制(EBR),我们建立了局部置信最优的构造的信心球。建议的一般框架统一了一个非常广泛的类高维模型和结构,有趣的和重要的本身。在第二部分中,我们应用所发展的理论,并展示了一般结果如何提供一个整体的局部和全局极大极小结果(许多新的,一些文献中已知的结果被改进)为特定的模型和结构作为结果,包括白噪声模型和光滑结构的密度估计,线性回归和稀疏结构的字典学习,具有聚类结构的双聚类和随机块模型、具有带状和稀疏结构的协方差阵估计,以及许多其它模型。各种自适应极大极小的结果在不同的尺度也遵循我们的本地结果。
2019-07-08 math.ST stat.TH
Empirical Likelihood Confidence Intervals for Nonparametric Functional Data Analysis
本文考虑了用经验似然法构造非参数函数数据分析的置信区间的问题。在这个双重无限维的背景下,我们证明了威尔克斯的现象,并提出了一个偏差校正的建设,既不需要欠平滑,也不直接偏置估计。我们还将我们的结果扩展到涉及函数数据的部分线性回归。我们的数值结果表明,经验似然的渐近正态近似的基础上改进的性能。
2009-04-06 stat.ME
Minimax-Optimal Policy Regret in Partially Observable Markov Games
Raman Arora
针对部分可观测马尔可夫博弈,提出基于epoch的乐观最大似然算法,实现了与聚合Eluder维数相关的$ ilde{O}(\sqrt{T})$策略遗憾,并证明了匹配的下界。
2026-08-11 cs.LG stat.ML
Statistical Inference for Generalized Additive Partially Linear Model
广义可加模型(GAM)是一种强有力的工具,已经得到了很好的研究。这个模型类有助于识别加性回归结构。通过现有的测试程序,可以识别回归结构,甚至尖锐,如果一些组件功能有参数形式。广义加性部分线性模型(GAPLM)结合了参数和非参数两种模型,具有GLM的简单性和GAM的灵活性。我们使用混合样条-后拟合核估计方法,它结合了样条和核方法的最佳特性,使快速,有效和可靠的估计在阿尔法混合条件下。此外,给出了独立条件下检验总体趋势的同步置信走廊和参数的经验似然置信区域。得到了渐近性质,仿真结果支持理论性质。对于应用程序,我们使用GAPLM来提高$19610$德国公司的默认预测的准确率。本文的quantlet可在https://github.com上获得。
2020-09-10 stat.ME
Inference of a competing risks model with partially observed failure causes under improved adaptive type-II progressive censoring
基于改进的自适应II型逐步截尾样本(IAT-II PCS),分析了一个竞争风险模型。两个独立的竞争失败的原因被认为是。假设失效竞争原因的寿命服从不同均值的指数分布。得到了未知模型参数的极大似然估计。利用极大似然估计的渐近正态性,构造了渐近置信区间。研究了极大似然估计的存在唯一性。此外,计算自举置信区间。在对称损失函数和非对称损失函数下,分别得到了非信息先验和信息先验下的Bayes估计。对于信息先验,考虑独立的Γ分布。最高后验密度(HPD)的可信区间。一个蒙特卡罗模拟研究进行比较性能的估计。此外,提出了三种不同的最优性准则,以获得最优的截尾计划。最后,一个现实生活中的数据集被认为是说明性的目的。
2023-02-17 stat.ME
Efficient Estimation of Partially Linear Models for Spatial Data over Complex Domain
本文研究了复杂区域上空间数据的部分线性模型的估计问题。我们使用二元样条三角剖分表示非参数分量上的不规则的二维域。所提出的方法被配制成一个约束最小化问题,不需要构造有限元或局部支撑的基函数。因此,它允许在任意三角剖分上更容易地实现各种度数和各种平滑度的分段多项式表示。此外,约束最小化问题转换成一个无约束极小化通过QR分解的平滑约束,这允许开发一个快速和有效的惩罚最小二乘算法来拟合模型。在一定的正则性条件下,证明了参数的估计是渐近正态的。二元函数的估计量是相容的,并建立了它的收敛速率。所提出的方法使我们能够构建置信区间,并允许推断的参数。通过两个模拟实例和一个实际数据分析来评估估计器的性能。
2021-06-02 math.ST stat.TH
Confidence Intervals for Nonparametric Empirical Bayes Analysis
在经验贝叶斯分析中,我们使用重复采样的数据来模仿具有广泛的数据生成分布知识的贝叶斯预言机所做的推断。现有的研究结果提供了一个全面的表征时,以及为什么经验贝叶斯点估计准确地恢复甲骨文贝叶斯行为。在本文中,我们开发了灵活和实用的置信区间,提供渐近频率覆盖的经验贝叶斯估计,如后验均值或局部假符号率。即使被估量只有部分确定或经验贝叶斯点估计收敛非常缓慢时,覆盖声明也成立。
2021-09-08 stat.ME
Exact Conditional Confidence Intervals for Cramér's V: Near-Nominal and Tight Where the Guaranteed Interval Is Wide and the Software Interval Does Not Cover
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
针对Cramér's V置信区间难以构造的问题,本文通过条件于观测边际计算精确分布并求逆,得到接近名义水平且宽度仅为投影区间三分之一到一半的区间,以估计目标改变为代价。
2026-09-23 stat.CO stat.ME
Robust Universal Inference For Misspecified Models
本文提出基于 universal inference 与分样本相对拟合检验反演的稳健推断方法,在模型误设下为分布投影构造有限样本有效置信集,并分析收缩速率、模拟及因果发现表现。
2025-08-29 stat.ME
Robust Scenario Interpretation from Multi-model Prediction Efforts
传染病建模和气候建模中的多模型预测工作涉及多个团队独立地在各种情景下进行预测。通常,这些情景是由未来决策的存在和不存在产生的,例如,没有疫苗接种(情景A)与疫苗接种(情景B)。这些模型为每一种情景提供了概率预测。获得关于决策影响的置信区间(例如,避免的死亡人数)对决策很重要。然而,仅从各个场景的概率预测中获得紧边界是困难的,因为联合概率是未知的。此外,由于包括重写模拟的需要以及存储和传输要求的各种原因,模型可能不能生成联合概率分布。在不要求提交模型进行额外工作的情况下,我们的目标是估计由于决策变量而导致的结果的非平凡界限。我们首先证明,在一个关键的假设下,一个$α-$置信区间上的情况下的预测的差异,可以得到的预测的分位数。然后,我们展示了如何在放松该假设后估计置信区间。我们使用我们的方法来估计置信区间的减少病例,死亡,并根据模型提交给美国情景建模中心由于疫苗接种住院。
2022-08-09 q-bio.QM stat.AP stat.ME
Partially monotone tensor spline estimation of the joint distribution function with bivariate current status data
双变量事件时间数据的联合累积分布函数(CDF)分析在理论和数值上都是一个具有挑战性的问题。本文提出了一种基于张量样条的筛分极大似然估计方法来估计二元状态数据的联合CDF。为了简化约束极大似然估计问题的数值计算,用I样条逼近联合CDF。采用广义梯度投影算法求解约束最优化问题。基于B样条基函数的性质,证明了所提出的基于张量样条的非参数筛分极大似然估计在一定的正则性条件下具有比$n^{1/3}$更好收敛速率.在中等样本量下的模拟研究表明,所提出的估计器的有限样本性能是令人满意的。
2012-09-25 math.ST stat.TH
Cluster-Robust Prediction-Powered Inference
Stanford University(斯坦福大学)
针对聚类内依赖导致PPI置信区间覆盖率不足的问题,提出聚类稳健的PPI++,支持部分标注聚类,无需重抽样,并在电视新闻应用中实现95%覆盖率。
2026-10-08 econ.EM stat.ME stat.ML
Statistical Inference from Partially Nominated Sets: An Application to Estimating the Prevalence of Osteoporosis
本文主要讨论基于最大或最小提名抽样(NS)设计的一种新变体的统计推断。这些抽样设计对于使用可用的辅助排序信息从总体分布的尾部获得更具代表性的样本单元是有用的。然而,在实践中执行NS的一个常见的困难是,研究人员不能获得一个提名的样本,除非他/她唯一地确定每个集合中的最高或最低排名的样本单元。为了克服这个问题,NS的一个变种,这是所谓的部分提名抽样的建议,其中研究人员被允许宣布,两个或两个以上的单位是并列的行列中,每当他/她不能找到高置信度的最高或最低的高置信度的样本单位。基于这种抽样设计,利用极大似然和矩方法,得到了累积分布函数的两个渐近无偏估计量,并证明了它们的渐近正态性.一些数值研究表明,开发的估计有更高的相对效率比他们的对应物在简单随机抽样在分析上或下尾的父分布。我们开发的程序,然后实施从第三次全国健康和营养检查调查(NHANES III)的真实数据集,以估计50岁及以上的成年女性骨质疏松症的患病率。它表明,在某些情况下,我们已经开发的技术,只需要三分之一的样本量需要在SRS中,以达到所需的精度。与标准SRS方法相比,这导致时间和成本的显著减少。
2021-05-30 stat.ME
FLEXI-Haz: Semiparametric Deep Survival Inference Beyond Proportional Hazards
Department of Statistics and Operations Research(统计与运筹学系);Tel Aviv University(特拉维夫大学)
本文提出一种灵活的深度神经网络框架,用于部分线性回归结构下的生存数据建模,通过参数线性部分保持可解释性,非参数DNN部分捕捉复杂的时间-协变量交互,提出FLEXI-Haz模型,无需假设比例风险假设,并提供理论保证和生存函数的推断方法。
2026-10-21 cs.LG stat.ML
Estimation and inference of high-dimensional partially linear regression models with latent factors
本研究提出高维因子调整稀疏部分线性回归模型FAPLM,结合B样条与因子分析实现惩罚估计,推导了误差界与显著性检验方法,经数值实验与出生体重数据集验证兼具理论价值与实用性。
2025-01-11 stat.ME
Semiparametric Inference for Partially Identifiable Data Fusion Estimands via Double Machine Learning
本文针对数据融合中部分可识别估计量端点难以估计的问题,提出仅依赖条件一阶和二阶矩的外界,并利用双重机器学习构造半参数有效估计量,实现渐近有效置信区间推断。
2025-02-07 stat.ME
Oops, I Sampled it Again: Reinterpreting Confidence Intervals in Few-Shot Learning
IMT Atlantique(法国大西洋高等矿业电信学院);Australian Institute for Machine Learning(澳大利亚机器学习研究所);University of Adelaide(阿德莱德大学);CNRS(法国国家科学研究中心);Univ Brest(布雷斯特大学);University of Münster(明斯特大学);MBZUAI(穆罕默德·本·扎耶德人工智能大学)
本文指出少样本学习中有放回任务采样会低估置信区间,通过无放回比较与配对检验揭示并缓解该问题,同时给出任务采样策略和优化基准。
2024-09-06 cs.AI cs.LG stat.ML
Sequential Experiment Design for Hypothesis Verification
University of Southern California(南加州大学)
假设检验在靶点定位、临床试验等方面具有重要的应用价值。许多活跃的假设检验策略分为两个阶段:探索阶段和验证阶段。在探索阶段,实验的选择是这样的,即对真实假设的置信度达到中等水平。随后的实验设计旨在将该假设的置信水平提高到期望水平。在本文中,重点是验证阶段。定义了一个置信度测度,并将主动假设检验问题转化为一个无限时域平均报酬部分可观测马尔可夫决策过程(POMDP)环境下的置信度最大化问题.最大化以特定假设为条件的置信度的问题被称为假设验证问题。建立了假设检验与验证问题之间的关系。验证问题可以用马尔可夫决策过程(MDP)来表示。验证MDP的最优解的特点和一个简单的启发式自适应策略的验证提出了基于零和博弈解释的库尔贝克-莱布勒散度。通过数值实验证明,与文献中现有的方法相比,该启发式算法在某些情况下表现得更好。
2018-12-04 cs.IT cs.LG math.IT
A nonparametric projection-based estimator for the probability of causation, with application to water sanitation in Kenya
目前的因果关系概率(PC)的估计方法进行强参数假设或效率低下。我们推导出一个非参数的影响函数为基础的估计PC的投影,它允许简单的解释和有效的推理,通过弱结构假设。我们将我们的估计器应用于肯尼亚实验的真实数据,该实验发现,通过估计平均处理效应,保护水泉可以减少儿童疾病。然而,在扩大这种干预之前,重要的是要确定是否是暴露,而不是其他东西,导致了结果。事实上,我们发现,一些儿童,谁是暴露于高浓度的细菌在饮用水中,并有牙周病,可能会感染疾病的暴露,因为估计PC为平均儿童在这项研究中是0.12,95%的置信区间(0.11,0.13)。我们的非参数方法为研究人员提供了一种估计PC的方法,如果人们希望不仅确定平均处理效应,而且确定暴露是否可能导致观察到的结果,这是必不可少的。
2019-10-30 stat.AP stat.ME
Estimating menarcheal age distribution from partially recalled data
在一项横断面研究中,青少年和年轻成年女性被要求回忆初潮的时间,如果经历过。一些受访者准确地回忆起了日期,一些人只记得事件发生的月份或年份,还有一些人无法回忆起任何事情。我们考虑估计月经初潮年龄分布从这个区间删失数据。事件发生时的年龄和日历时间之间复杂的相互作用,以及记忆随时间衰退的明显事实,使审查信息。我们提出了一个模型,其中各种类型的召回的概率将取决于自初潮的时间。对于参数估计,我们使用多项式回归函数对这些概率进行建模。建立参数极大似然估计的一致性和渐近正态性需要对标准渐近理论进行一些调整,因为数据格式因情况而异。我们还提供了一个非参数极大似然估计,提出了一个计算上更简单的近似,并建立在温和的条件下,这两个估计的一致性。我们通过蒙特卡罗模拟研究了参数和非参数估计的小样本性能。此外,我们提供了一个图形检查的多项模型的假设的召回概率,这似乎举行月经期的数据集。我们的分析表明,使用部分回忆的数据部分确实会导致生存函数的较小置信区间。
2019-03-03 stat.AP stat.ME
Concentration Inequalities and Confidence Bands for Needlet Density Estimators on Compact Homogeneous Manifolds
令$X_1,...,X_n$是定义在维数为$d \ge 1$的紧致齐次流形$\mathbf M$上的某个未知概率密度$f$的随机样本。考虑一个“针状框架”$\{ϕ_{j η}\}$,它描述了拉普拉斯算子在$\mathbf M$上的本征函数空间上的局部投影,相应的本征值小于$2^{2j}$,如在\cite{GP10}中构造的。我们证明了非渐近集中不等式的一致偏差的线性针状密度估计$f_n(j)$从经验估计的针状投影$\sum_ηϕ_{j η} \int f ϕ_{j η}$的$f$。我们应用这些结果来构建风险自适应估计和非渐近置信带的未知密度$f$。置信带是自适应类的可微和H“{老}-连续函数的$\mathbf M$,达到其Hölder指数。
2011-02-11 math.ST stat.TH
Monte Carlo Confidence Sets for Identified Sets
在复杂/非线性参数模型中,通常很难知道模型参数是否是点识别的。我们提供了计算上有吸引力的程序来构建置信集(CS)的确定的一组完整的参数和子向量的模型定义通过一个可能性或矩等式或不等式的向量。这些CS是基于最优样本准则函数(如似然或最优加权或连续更新的GMM准则)的水平集。水平集的构造使用截断,通过蒙特卡罗(MC)模拟直接从准后验分布的标准计算。在部分可辨识的正则模型和非正则模型中,建立了拟似然比(QLR)的拟后验分布的Bernstein-vonMises(或BayesianWilks)型定理.这些结果意味着,我们的MC CS有确切的渐近频率覆盖的完整的参数和子向量的部分确定的定期模型,并有有效的,但可能保守的覆盖模型的边界上的简化形式的参数。我们的MC CS确定的子向量集,具有精确的渐近覆盖模型的奇点。我们还提供了结果的统一有效性,我们的CS类的DGP,包括点和部分确定的模型。我们证明了良好的有限样本覆盖性能,我们的程序在两个模拟实验。最后,我们的程序被应用到两个非平凡的实证例子:航空公司进入游戏和贸易流模型。
2017-09-26 econ.EM math.ST stat.ME
Normal Approximation and Confidence Region of Singular Subspaces
本文研究噪声矩阵具有独立同分布时奇异子空间的正规逼近问题。条目我们的贡献是三方面的。首先,我们推导出经验谱投影的一个显式表示公式。该公式是整洁的,并保持确定性矩阵扰动。其次,我们计算了经验奇异子空间与真奇异子空间之间的期望投影距离。我们的方法允许获得任意的$k$ -th阶近似的预期投影距离。第三,我们证明了投影距离的非渐近正态近似与不同程度的偏差校正。通过$\lceil \log(d_1+d_2)\rceil$阶偏差校正,在最佳信噪比(SNR)条件下渐近正态性成立,其中$d_1$和$d_2$表示矩阵大小。此外,它表明,高阶近似是不必要的,当$|d_1-d_2|=O((d_1+d_2)^{1/2})$。最后,我们提供了全面的模拟结果,值得我们的理论发现。与现有的结果不同,我们的方法是非渐近的,并建立了收敛速度。我们的方法允许秩$r$像$o((d_1+d_2)^{1/3})$一样快地发散。此外,我们的方法不需要本征间隙条件(除了SNR)和$d_1$和$d_2$之间没有约束。
2019-07-26 cs.IT math.IT math.ST
Berry-Esseen Bounds for Projection Parameters and Partial Correlations with Increasing Dimension
我们提供了有限的样本界的正常逼近的法律的最小二乘估计的投影参数归一化的最小误差为基础的标准误差。我们的结果保持在增加的维度设置和数据生成分布的最小假设下。特别是,我们不假设线性回归函数,只要求响应和协变量存在有限个矩。此外,我们构造了超矩形形式的投影参数的置信集,并建立了它们的覆盖率和精度的有限样本界。我们推导出类似的结果为次高斯向量的条目之间的偏相关。\end{abstract}
2021-10-22 math.ST stat.ME stat.TH
Semi-parametric Bayesian Partially Identified Models based on Support Function
我们提供了一个全面的贝叶斯部分识别计量经济模型的半参数研究。虽然现有的文献贝叶斯部分识别主要集中在结构参数,我们的主要重点是贝叶斯可信集(BCS)的未知识别集和后验分布的支持函数。我们构造了一个(双边)BCS的基础上的支持功能的识别集。我们证明了支持函数的后验分布的Bernstein-von Mises定理。这个强大的结果反过来推断,而BCS和频率论置信集的部分确定的参数是渐近不同的,我们构造的BCS的确定集有一个渐近正确的频率论覆盖概率。重要的是,我们说明,所构造的BCS的识别集不需要事先的结构参数。它可以有效地计算子集推断,特别是当目标的兴趣是一个子向量的部分识别的参数,其中投影到一个低维子集往往是必需的。因此,所提出的方法在许多应用中是有用的。贝叶斯部分识别文献一直假设一个已知的参数似然函数。然而,计量经济学模型通常只识别一组矩不等式,因此使用不正确的似然函数可能导致误导性的推论。与此相反,与一个非参数先验的未知似然函数,我们提出的贝叶斯过程只需要一组矩条件,并可以有效地进行推断的部分识别的参数和它的识别集。这使得它广泛适用于一般的矩不等式模型。最后,以一个金融资产定价问题为例说明了该方法的有效性.
2013-11-22 econ.EM math.ST stat.ME
Simultaneous Inference for Partially Observed Functional Time Series
针对部分观测的依赖函数型时间序列,提出首个同时推断方法,结合高斯逼近与随机过程理论,构建同时置信带,并应用于城市污染超标检测。
2026-07-01 math.ST stat.ME stat.TH