Bayesian Model Selection for Misspecified Models in Linear Regression
虽然贝叶斯信息准则(BIC)和赤池信息准则(AIC)是线性回归中模型选择的强大工具,但它们建立在不同的先验假设上,因此适用于不同的数据生成场景。我们表明,在有限维的情况下,他们各自的假设可以统一在一个增广的模型加噪声空间,并在这个空间中构建一个先验继承了AIC和BIC的有益特性。这使我们能够调整BIC,使其对信噪比较低的错误指定模型具有鲁棒性。
2017-12-14 stat.ME
Inference for Model Misspecification in Interest Rate Term Structure using Functional Principal Component Analysis
水平、斜率和曲率是利率期限结构的三个常用的主成分,因此在建模中得到了广泛的应用。本文的特点是异质性如何错误指定这些模型是通过时间。将Nelson-Siegel模型中的标准正交基解释为三个因子,设计了两个非参数检验,分别考虑特征函数的排序和不考虑特征函数的排序,检验标准正交基是否等价于数据驱动的函数主成分基。最终,我们发现两个基地之间的高离散度时,罕见的事件发生,这表明偶尔的错误,即使该模型是整体表达。
2022-12-21 econ.EM math.FA math.ST
The adaptive and the thresholded Lasso for potentially misspecified models
我们重新审视了自适应Lasso以及重新调整的阈值Lasso,在高维线性模型中,并研究预测误差,$\ell_q$ -误差($q \in \{1, 2 \} $)和假阳性选择的数量。我们的理论结果为两种方法,在一个相当精细的规模,可比。差异仅表现在(最小)限制和稀疏特征值方面,有利于自适应Lasso的阈值。至于预测和估计,差异几乎可以忽略不计,但我们对自适应Lasso的误报数量的限制比阈值更大。此外,这两个两阶段的方法添加值的一阶段拉索的意义上说,在适当的限制和稀疏的特征值条件下,他们有类似的预测和估计误差的一阶段拉索,但实质上更少的误报。
2010-07-15 math.ST stat.TH
Cutting Feedback in Misspecified Copula Models
针对 Copula 模型中边际分布与 Copula 函数的模块化错误设定问题,提出通过“切断反馈”限制错误模块影响的改进贝叶斯推断方法,并开发新的变分推断算法,理论证明与实证均显示其能提供准确的不确定性量化并显著提升预测精度。
2024-06-27 econ.EM math.ST stat.ME
Variational inference for cutting feedback in misspecified models
贝叶斯分析将联合贝叶斯模型中不同项所表示的信息组合在一起。当一个或多个项被错误指定时,限制使用来自可疑模型组件的信息来修改后验推理可能是有帮助的。这被称为“切割反馈”,并且这种“切割模型”的后验的规范和计算都是具有挑战性的。在本文中,我们定义了削减后验分布的解决方案,约束优化问题,并提出了基于优化的变分方法计算。这些方法比现有的马尔可夫链蒙特卡罗(MCMC)方法计算削减后验分布的数量级更快。它还表明,变分方法允许计算密集的冲突检查,可以用来决定是否反馈应削减的评价。我们的方法在一些模拟和真实的例子,包括应用程序中,结合变分推断和MCMC内的变分优化的最新方法的进步。
2022-06-24 stat.CO stat.ME
High Dimensional Robust Inference for Cox Regression Models
本文基于Lin和Wei [1989]的低维结果,考虑了可能错误指定的Cox比例风险模型的高维推断。基于对数偏似然函数提出了一种去稀疏Lasso估计,并证明了该估计收敛于一个伪真参数向量。有趣的是,真参数的稀疏性可以从上述限制参数的稀疏性推断出来。此外,上述(非稀疏)估计的每个组件被证明是渐近正态的方差,可以一致估计,即使在模型误指定。在某些情况下,这种渐进分布会产生有效的统计推断程序,并通过数值示例说明其经验性能。
2018-11-01 math.ST stat.TH
LowCon: A design-based subsampling approach in a misspecified linear modeL
我们考虑了一个测量约束的监督学习问题,即(1)预测变量的全样本是给定的;(2)响应观测是不可用的,而且测量成本很高。因此,理想的做法是选择预测器观测的子样本,测量相应的响应,然后在预测器和响应的子样本上拟合监督学习模型。然而,模型拟合是一个反复试验的过程,数据的假设模型可能会被错误指定。我们的实证研究表明,当模型被错误指定时,大多数现有的子抽样方法的性能都不令人满意。在本文中,我们开发了一种新的子采样方法,称为“LowCon”,它优于竞争的方法时,工作的线性模型是错误的。我们的方法使用正交拉丁超立方体设计,以实现一个稳健估计。我们表明,建议的设计为基础的估计近似最小化所谓的“最坏情况”的偏差,就许多可能的误指定条款。模拟和实际数据分析表明,所提出的估计是更强大的比几个子样本最小二乘估计获得的国家的最先进的子采样方法。
2020-10-23 stat.ME
Reliable Bayesian Inference in Misspecified Models
我们提供了一个通用的解决方案,在贝叶斯推断,即穷人的不确定性量化,从频率的角度来看,贝叶斯方法在错误指定的模型中的一个基本的开放问题。虽然现有的解决方案是基于显式高斯近似的后验,或计算繁重的后处理程序,我们证明了正确的不确定性量化可以通过用直观的近似后验替换通常的后验来实现。重要的是,我们的解决方案是适用于基于似然性,和广义,后验以及情况下的可能性是棘手的,必须估计。我们正式证明了我们所提出的方法的可靠的不确定性量化,并表明有效的不确定性量化是不是一个渐近的结果,但即使在小样本。我们通过一系列的例子来说明这种方法,包括线性,广义,混合效应模型。
2023-02-13 math.ST stat.CO stat.ME
A Note on Parameter Estimation for Misspecified Regression Models with Heteroskedastic Errors
错误指定的模型通常提供有关真实数据生成分布的有用信息。例如,如果$y$是$x$的非线性函数,则最小二乘估计量$\hatβ$是$β$的估计,即对非线性函数的最佳线性逼近的斜率。受天文学问题的启发,我们研究了如何将观测测量误差方差纳入误指定模型的拟合参数中。我们的渐近理论侧重于特殊情况下的线性回归,往往加权最小二乘程序被用来考虑异方差。我们发现,当响应是自变量的非线性函数时,通过观测方差的倒数进行加权的标准程序可能会适得其反。特别是,普通最小二乘可能具有较低的渐近方差。我们构造了一个自适应估计比OLS或标准WLS具有更低的渐近方差。我们证明了我们的理论在一个小的模拟和应用这些想法的问题,估计周期函数的周期使用正弦模型。
2017-05-15 stat.ME
Causal inference with misspecified exposure mappings: separating definitions and assumptions
曝光映射有利于调查复杂的因果关系时,单位在实验中相互作用。目前的方法要求实验者使用相同的曝光映射来定义感兴趣的效果并对干涉结构施加假设。然而,这两个角色在实践中很少重合,实验者被迫做出经常令人质疑的假设,即他们的暴露量是正确指定的。本文认为,这两个角色暴露映射目前服务可以,通常应该,是分开的,这样的曝光被用来定义的影响,而不必假设他们捕捉完整的因果结构的实验。该文件表明,这种方法是实际可行的,提供条件下,曝光效果可以精确估计时,曝光是错误的。一些重要的问题仍然悬而未决。
2023-03-13 econ.EM math.ST stat.ME
High-dimensional networks and mean squared error for possibly misspecified models
University of Amsterdam(阿姆斯特丹大学)
本文针对高维网络场景,研究了可能存在误设定模型的均方误差,证明最小描述长度方法可实现低假阳性率的邻域选择,颠覆了传统模型选择观点。
2026-08-14 cs.LG stat.ML
Inconsistency of Bayesian Inference for Misspecified Linear Models, and a Proposal for Repairing It
我们的经验表明,贝叶斯推断可以在简单的线性回归问题,无论是在模型平均/选择和贝叶斯岭回归设置下的误指定不一致。我们使用标准的线性模型,它假设同方差,而数据是异方差的,并观察到后验把它的质量越来越高维模型的样本量增加。为了解决这个问题,我们为贝叶斯定理中的似然性配备了一个称为学习率的指数,并且我们提出了安全贝叶斯方法来从数据中学习学习率。SafeBayes倾向于选择小的学习率,一旦标准后验不是“累积集中”,它对我们的数据的结果是相当令人鼓舞的。
2018-10-29 math.ST stat.ME stat.TH
Misspecified regressions with mixed regressors: robust inference and causal interpretation
University of Southern California(南加州大学);UC Berkeley(加州大学伯克利分校)
研究在含随机与固定成分的混合回归变量且模型可能误设情况下的回归问题,通过建立估计方程一般结果分析误设线性回归,专注回归系数与标准误差因果解释,还从独立数据扩展到聚类数据。
2026-07-13 econ.EM math.ST stat.ME
Causal Inference on Networks under Misspecified Exposure Mappings: A Partial Identification Framework
Munich Center for Machine Learning(慕尼黑机器学习中心);Cornell University(康奈尔大学)
本文提出了一种部分识别框架,用于在暴露映射误设定情况下评估网络中治疗效应的稳健性,通过推导直接和溢出效应的界限并开发正交估计器,提高了因果推断的可靠性。
2026-02-03 cs.LG stat.ME
Structured Dimension-Matched Joint Variational Transdimensional Inference
Department of Statistics and Data Science, Southern University of Science and Technology(南方科技大学统计与数据科学学院)
针对有限可枚举模型空间,提出SM-VTI方法,通过构造图与条件流定义联合变分分布,在15模型受控任务及128模型变量选择任务中,其模型质量恢复与联合精度表现优于或媲美对比方法。
2026-08-07 stat.CO stat.ME stat.ML
Inference in generalized linear models with robustness to misspecified variances
University of Padova(帕多瓦大学);Leiden University Medical Center(莱顿大学医学中心);Erasmus University Rotterdam(伊拉斯姆斯大学鹿特丹分校);University of California San Diego(加利福尼亚大学圣地亚哥分校)
针对广义线性模型共同离散参数假设不成立导致I类错误控制损失的问题,提出基于得分贡献符号翻转的半参数群不变性方法,仅需正确设定均值模型即对方差误设鲁棒,可检验单/多回归系数,小样本表现好,已在R库flipscores实现。
2026-10-09 math.ST stat.ME stat.TH
Confidence Estimation via Sequential Likelihood Mixing
Swiss Data Science Center(瑞士数据科学中心);ETH Zurich(苏黎世联邦理工学院)
提出基于序贯似然混合的通用置信集构建框架,统一贝叶斯推断与在线遗憾不等式,支持非i.i.d.数据、随时有效性及近似推断,并在线性回归和稀疏估计中得到更紧置信序列。
2025-02-20 cs.LG stat.ML
Synthetic likelihood in misspecified models
Monash University(莫纳什大学);National University of Singapore(新加坡国立大学);Queensland University of Technology(昆士兰科技大学)
研究分析了在模型不恰当情况下合成似然后验行为,揭示其可能呈现非标准特性如多模态和非高斯性,并指出传统鲁棒方法在合成似然中的不足。
2026-04-16 math.ST stat.ME stat.TH
Optimal estimators in misspecified linear regression model with an application to real-world data
本文在解释变量间存在多重共线性的情况下,对误定线性回归模型提出了样本信息最优估计(SIOE)和随机约束最优估计(SROE).此外,我们得到的优越性条件,建议的估计比其他一些现有的估计在均方误差矩阵(MSEM)标准的标准式,可以适用于所有的估计在这项研究中考虑。最后,一个现实世界的例子和蒙特卡洛模拟研究所提出的估计来说明理论结果。
2019-05-10 math.ST stat.ME stat.TH
Bayesian Modular Inference for Copula Models with Potentially Misspecified Marginals
National University of Singapore(新加坡国立大学);Monash University(蒙纳士大学);University of Melbourne(墨尔本大学)
本文提出一种新的Copula SMI方法,通过贝叶斯优化选择影响参数,实现对边缘分布和Copula函数误指定的鲁棒推断,应用于对称性依赖的权益波动与债券收益率的Copula模型。
2026-09-23 econ.EM math.ST stat.ME
Improve Efficiency of Doubly Robust Estimator when Propensity Score is Misspecified
本文提出倾向评分增广双重稳健(PAD)估计量,通过在PS模型中引入校准协变量并求解受限加权最小二乘问题,在PS模型错误而OR模型正确时显著降低ATT估计方差,同时保持双重稳健性。
2023-04-15 stat.ME
Modularized Bayesian analyses and cutting feedback in likelihood-free inference
最近,人们对修改错误指定模型的贝叶斯推断产生了很大的兴趣,以便它对特定目的有用。一种流行的改进的贝叶斯推断方法是“切割反馈”,当模型由多个耦合模块组成时,可以使用该方法,其中只有一些模块被错误指定。切割反馈方法用条件分量和序贯分量表示完整的后验分布,然后基于模块结构修改这种表示中的某些项,以指定或计算修改后的后验分布。这样做的主要目标是避免错误指定的模块对感兴趣的参数的推断的污染。计算削减后验分布是具有挑战性的,在这里,我们考虑切割反馈的似然性的基础上的混合高斯近似的参数和数据汇总统计的联合分布的推断。我们利用高斯混合的边缘和条件分布是高斯混合的事实,给出明确的近似边缘或条件后验分布,使我们可以很容易地近似削减后验分析。混合方法允许基于单一混合拟合对不同数据重复近似后验分布,这对于有助于决定是否“切割”的模型检查很重要。一个半模块化的方法,反馈是部分削减似然自由推理。两个具有挑战性的例子,集体细胞扩散模型和连续时间模型的资产收益跳跃的方法的好处。
2022-03-18 stat.AP stat.CO stat.ME
Robust testing in generalized linear models by sign-flipping score contributions
广义线性模型由于过度离散、异方差和忽略干扰变量等原因,常常被误定。现有的拟似然方法在错误指定的模型测试往往不能提供令人满意的第一类错误率控制。我们提供了一种新的半参数检验,基于符号翻转的个人得分贡献。允许被测参数为多维甚至高维。我们的测试往往是强大的对上述形式的错误规范,并提供更好的第一类错误控制比它的竞争对手。当估计干扰参数时,我们的基本测试变得保守。我们将展示如何考虑滋扰估计,以获得一个渐近精确的测试。我们提出的测试是渐近等价的参数对应。
2020-05-08 stat.ME
Adaptive Econometric Inference under Unknown Dependence: Contrast-Local Validity
University at Albany, SUNY(奥尔巴尼大学,纽约州立大学)
提出从经验依赖算子学习依赖结构的框架,通过投影相似度评分总结低维依赖特征,建立识别、一致性和渐近正态性,并证明在切空间重叠时无法区分一阶几何结构,最后展示依赖轮廓的预言机自适应推断。
2026-08-12 econ.EM stat.ME
Maintaining the validity of inference from linear mixed models in stepped-wedge cluster randomized trials under misspecified random-effects structures
针对阶梯楔形整群随机试验中随机效应结构误设可能导致推断失效的问题,本文回顾五种稳健方差估计量并通过模拟研究发现,CR3估计量结合整群数减二的自由度校正表现最优,为实践中该类试验的线性混合模型分析提供参考。
2024-08-20 stat.AP stat.ME
Adaptive Off-Policy Inference for M-Estimators Under Model Misspecification
Carnegie Mellon University(卡内基梅隆大学);Novartis Pharmaceuticals Corporation(诺华制药公司)
本文提出了一种自适应偏政策推断方法,用于在模型不规范情况下有效推断M估计量,通过稳定自适应数据收集的方差,构建有效的置信区间。
2026-02-08 math.ST stat.ME stat.ML
Variance Estimation and Confidence Intervals from High-dimensional Genome-wide Association Studies Through Misspecified Mixed Model Analysis
我们研究了全基因组关联研究(GWAS)误指定混合模型分析的遗传效应特征参数的方差估计和相关置信区间。以往的研究表明,尽管模型误指定,某些数量的遗传利益是可估计的,这些数量的相合估计量,可以得到使用限制极大似然(REML)方法下误指定的线性混合模型。然而,这样的REML估计的渐近方差是复杂的,并没有准备好被实现为实际使用。在本文中,我们开发了实用和计算方便的方法来估计这样的渐近方差和构建相关的置信区间。基于蒙特卡罗模拟和实际数据应用,对所提出的方法的性能进行了经验评估。
2021-01-17 math.ST stat.ME stat.TH
The Well-Tempered Likelihood: Honest Confidence Intervals for Misspecified Models
Stanford University(斯坦福大学);SLAC National Accelerator Laboratory(史丹福直线加速器中心);Massachusetts Institute of Technology(麻省理工学院);Institut des Hautes Études Scientifiques(高等科学研究所);CEA Paris-Saclay(巴黎萨克雷原子能委员会)
研究针对粒子物理等领域模型错误设定时标准置信区间失效的问题,提出适度似然性方法,通过除以拟合优度统计量,使置信区间自我限制,给出分箱和不分箱公式并经实例验证。
2026-07-24 hep-ex hep-ph physics.data-an
A subsampling approach for large data sets when the Generalised Linear Model is potentially misspecified
针对现有子抽样方法依赖可能错误设定的统计模型这一缺陷,本文提出基于预测均方误差确定子抽样概率的新方法,并通过模拟和真实大数据集验证其有效性。
2025-10-07 math.ST stat.ME stat.TH
Compensator-based inference for signal detection under unknown background: the binned data case
School of Statistics, University of Minnesota(明尼苏达大学统计学院)
研究未知背景下信号检测问题,核心方法是基于补偿器的推断,贡献是拓宽该方法范围并将其扩展到数据为大量分箱上泊松计数的情况。
2026-07-09 astro-ph.HE astro-ph.IM physics.data-an
Model Selection Principles in Misspecified Models
模型选择对于当今许多应用中的高维建模具有根本的重要性。经典的模型选择原则包括Kullback-Leibler散度原则和贝叶斯原则,当模型被正确指定时,它们导致Akaike信息准则和贝叶斯信息准则。然而,当我们不知道真实的模型时,或者当我们有正确的分布族但错过了一些真实的预测值时,模型错误是不可避免的。在本文中,我们提出了一个家庭的半贝叶斯原则的模型选择在错误指定的模型,它结合了两个著名的原则的优势。在错误指定的广义线性模型中,我们得到了半贝叶斯原理的渐近展开,从而给出了新的半贝叶斯信息准则(SIC)。SIC的一种特殊形式允许一个自然的分解成负的最大准对数似然,惩罚模型的维数,并直接惩罚模型的误指定。数值研究表明,新提出的SIC模型选择方法的优势,在正确指定和错误指定的模型。
2016-05-11 math.ST stat.ME stat.TH
Improving Inference of Gaussian Mixtures Using Auxiliary Variables
将一个低维问题扩展到高维空间,然后投影回来通常是有益的。本文在有限混合模型的背景下严格研究了这一观点,即如何通过使用辅助变量来改进混合模型的推理。尽管大量的文献在混合模型和一些经验的例子,有没有以前的工作,给出了一般的理论理由,包括辅助变量的混合模型,即使在特殊情况下。我们提供了一个理论基础,比较推断的混合多元模型与相应的推断边际单变量混合模型。几种特殊情况下的分析结果建立。我们发现,正确分配混合成员的概率和信息数的主要结果的手段,在一个双变量模型与两个高斯混合物一般大于在每个单变量模型。在一系列的情况下,包括错误指定的模型,进行模拟,以检查改进。该方法在生态学和因果推断中的两个实际应用说明。
2014-11-07 stat.ME
Doubly-Valid/Doubly-Sharp Sensitivity Analysis for Causal Inference with Unmeasured Confounding
Princeton University(普林斯顿大学);Stanford University(斯坦福大学);Cornell University(康奈尔大学)
我们考虑的问题构建界限的平均处理效应(ATE)时,不可测的混杂因素存在,但有界的影响。具体来说,我们假设省略的混杂因素不能改变任何单位的治疗几率超过一个固定的因素。我们推导出这个假设所隐含的尖锐的部分识别界限,利用分布鲁棒优化,我们提出了一些新的鲁棒性这些界限的估计。第一个是双重清晰度:当两个干扰参数中的一个被错误指定时,我们的估计器一致地估计尖锐的ATE界限,并且当所有干扰参数适当地一致时,我们的估计器实现半参数效率。二是双重有效性:即使当大多数干扰参数被错误指定时,我们的估计仍然提供有效的但可能保守的ATE界限,并且即使当我们的估计不是渐近正态时,我们的Wald置信区间仍然有效。因此,我们的估计提供了一个高度可信的方法敏感性分析的因果推断。
2022-07-22 cs.LG econ.EM math.OC
Minimizing Sensitivity to Model Misspecification
我们提出了一个框架,估计和推理时,模型可能被误指定。我们依赖于一个局部渐近的方法,其中的程度是由样本量的指标。我们构造的估计,其均方误差是极小极大的参考模型的邻域中,一步调整的基础上。此外,我们提供了包含真参数的置信区间。作为一种工具来解释的程度的错误规格,我们将其映射到当地的权力规格测试的参考模型。我们的方法允许系统的敏感性分析时,感兴趣的参数可能是部分或不规则的识别。作为例证,我们研究了三个应用程序:在墨西哥的有条件现金转移的影响的实证分析,其中误指定源于存在的耻辱效应的程序,一个横截面的二元选择模型的错误分布是误指定的,和一个动态的面板数据二元选择模型的时间段的数量是小的,个人的影响分布是误指定的。
2021-10-08 econ.EM stat.ME
Repairing Locally Misspecified GMM: An Empirical Bayes Approach
UC Berkeley(加州大学伯克利分校)
本文针对受阶为$n^{-1/2}$的可交换误设定误差污染的GMM,提出经验贝叶斯方法修复局部误设定,通过构造偏差校正估计量与经验贝叶斯估计量,在模拟与实证研究中验证了其优于标准两阶段最小二乘估计的性能。
2026-09-09 econ.EM stat.ME
Model misspecification and bias for inverse probability weighting and doubly robust estimators
在因果推理文献中,属于一类半参数估计量的估计量被称为鲁棒的,如果它在至少一个工作模型被正确指定的假设下具有期望的性质。本文提出了一种粗略的分析方法来研究当所有工作模型都被错误指定时,平均因果效应的半参数估计的大样本偏差。我们将我们的方法应用到三个原型估计,两个逆概率加权(IPW)估计,使用错误指定的倾向得分模型,和一个双重稳健(DR)估计,使用错误指定的模型的结果回归和倾向得分。要分析的问题时,使用两个错误指定的模型是优于一个,我们推导出充要条件的DR估计有一个小的偏差比一个简单的IPW估计,当它有一个小的偏差比IPW估计与归一化权重。如果结果模型的误指定是中度的IPW和DR估计的偏差的比较表明,DR估计有一个较小的偏差比IPW估计。然而,所有的偏见包括PS模型的错误,我们建议研究人员在建模PS时要小心,只要涉及这样的模型。
2018-06-25 math.ST stat.ME stat.TH
Generalized Bayes inference on a linear personalized minimum clinically important difference
最小临床重要差异(MCID)的推断是医学中一个重要的实际问题。其基本思想是,具有统计学意义的治疗可能不会改善患者的健康状况。MCID被定义为阈值,使得如果诊断测量超过该阈值,则患者更可能注意到改善。典型的公式使用未指定的模型,这使得真正的贝叶斯解决方案遥不可及。在这里,对于一个具有挑战性的个性化MCID问题,其中实际意义的阈值取决于患者的配置文件,我们开发了一种新的广义后验分布,基于工作的二元分位数回归模型,可用于估计和推理。这个公式的优点是双重的:我们可以在理论上控制错误指定的模型的偏差,它有一个潜在的变量表示,我们可以利用有效的吉布斯抽样。为了确保广义贝叶斯推断达到一定程度的频率论可靠性,我们提出了一个所谓的广义后验校准算法的变化,以适当地调整我们提出的后验的传播。
2022-08-26 stat.ME
Model-Assisted Inference for Covariate-Specific Treatment Effects with High-dimensional Data
协变量特异性处理效应(CSTE)代表由某些选定协变量定义的亚群间的异质性处理效应。在这篇文章中,我们考虑边际结构模型,其中CSTE线性表示使用一组基函数的选定的协变量。我们开发了一种新的方法,在高维设置,不仅获得双重强大的点估计的CSTES,但也模型辅助的置信区间,这是有效的,当一个倾向得分模型是正确指定的,但结果回归模型可能被错误指定。对于线性结果模型和离散协变量定义的亚群,点估计和置信区间对于CSTEs都具有双重稳健性。相比之下,现有高维方法的置信区间仅在正确指定倾向得分和结果模型时才有效。我们建立了所提出的点估计和相关的置信区间的渐近性质。我们目前的模拟研究和实证应用表明所提出的方法相比,竞争的优势。
2021-05-24 stat.ME
Inference of Causal Effects when Control Variables are Unknown
Uppsala University(乌普萨拉大学)
因果效应推理的传统方法通常依赖于指定一组有效的控制变量。当这个集合是未知的或错误指定的时候,推论就会出错。我们提出了一种方法来推断平均因果效应时,所有潜在的混淆观察,但控制变量是未知的。当数据生成过程属于非循环线性结构因果模型类时,我们证明了该方法产生渐近有效的置信区间。我们的结果建立在一个光滑的线性有向无环图的特征。我们验证了该方法的能力,以产生有效的置信区间的平均因果效应,使用合成数据,即使当控制变量的适当规格是未知的。
2021-06-11 cs.LG stat.ME stat.ML
Safe hypotheses testing with application to order restricted inference
University of Haifa(海法大学)
本文提出安全检验方法,用于在顺序限制推断中避免第三类错误,通过有效性证书确保推断的可靠性。
2026-02-17 stat.ME
High-dimensional Statistical Inference and Variable Selection Using Sufficient Dimension Association
Florida International University(佛罗里达国际大学);Oklahoma State University(俄克拉荷马州立大学);Oregon Health & Science University(俄勒冈健康与科学大学)
本文提出一种无需特定回归模型或稀疏性假设的高维变量选择与推断方法,通过构建三种检验统计量并控制假发现率,验证了其有效性。
2025-09-17 stat.ME
Diagnostics for Conditional Density Models and Bayesian Inference Algorithms
人工智能社区对精确的不确定性量化越来越感兴趣。条件密度模型f(y| x),其中x表示潜在的高维特征,是预测和贝叶斯推断中不确定性量化的组成部分。然而,它是具有挑战性的评估条件密度估计和深入了解故障模式。虽然现有的诊断工具可以确定近似的条件密度是否与数据样本整体兼容,但它们缺乏用于识别、定位和解释整个特征空间上的统计显著差异的性质的原则性框架。在本文中,我们提出了严格和易于解释的诊断,如(i)“局部覆盖测试”(LCT),它区分了一个任意错误指定的模型从样本的真实条件密度,和(ii)“摊销局部P-P图”(ALP),它可以快速提供可解释的图形摘要的分布差异在任何位置x的特征空间。我们的验证程序可扩展到高维,并可能适应任何类型的数据。我们证明了LCT和ALP的有效性,通过模拟实验和应用程序的预测和参数推断的图像数据。
2021-07-23 stat.ME
Model-Robust Designs for Quantile Regression
当研究的目的是条件分位数函数的估计,估计方法是分位数回归时,本文给出了线性模型设计的构造方法。该设计对错误指定的响应函数和意外异方差具有鲁棒性。举例说明的方法,并在一个案例研究中,他们被应用到增长图。
2014-09-16 stat.ME
Robust Simulation Based Inference
本文提出基于仿真的稳健统计推断方法,通过投影参数和指数倾斜处理模型错误设定,并开发拟合优度检验及主动学习采样,确保推断有效性。
2025-08-04 stat.ME
Information Based Inference in Models with Set-Valued Predictions and Misspecification
Boston University(波士顿大学);Cornell University(康奈尔大学)
本文提出了一种基于信息的推断方法,用于不完整模型中部分识别参数的推断,该方法在模型正确规范和不规范的情况下都有效,并利用了Rao的得分统计量。
2026-02-23 econ.EM stat.ME
Predictively-Oriented Kalman Filtering
Newcastle University(纽卡斯尔大学);University of Oxford(牛津大学)
针对非线性状态空间模型中模型误设导致的过度自信推断问题,提出一种基于预测导向后验的快速近似线性高斯更新方法(EKF-PrO),计算成本与现有滤波方法相当。
2026-06-02 stat.CO stat.ME
Post-selection inference for linear mixed model parameters using the conditional Akaike information criterion
我们研究了线性混合模型中固定参数和混合参数的后选择推断问题,使用条件赤池信息准则作为模型选择过程.在线性混合模型的框架内,我们发展了完整的理论来构建置信区间的回归和混合参数在三个框架:嵌套和一般模型集以及误指定的模型。我们的理论分析是伴随着一个模拟实验和后选择检查平均收入在加利西亚的县。我们的数值研究证实了我们的新程序的良好性能。此外,他们揭示了一个惊人的鲁棒性的模型错误指定的一个天真的方法来构建的置信区间的混合参数,这是在对比我们的研究结果的固定参数。
2021-09-22 stat.AP stat.CO stat.ME
ARK: Robust Knockoffs Inference with Coupling
针对特征分布错误设定或估计时 model-X knockoffs 框架的稳健性问题,提出 approximate knockoffs(ARK)过程,通过耦合技术证明其能实现渐近 FDR 和 $k$-FWER 控制,并验证了框架的稳健性。
2024-06-04 math.ST stat.ME stat.ML
Random Effects Misspecification and its Consequences for Prediction in Generalized Linear Mixed Models
本文研究广义线性混合模型中随机效应分布误设对点预测和预测推断的影响,通过理论、模拟和实际应用分析正态假设替代真实正态混合分布的后果,发现其影响最优收缩和MSEPs,但对预测区间覆盖概率影响不大。
2024-11-28 stat.AP stat.ME
Assumption-lean inference for generalised linear model parameters
对广义线性模型的参数索引的推断通常是基于模型是正确的和先验指定的假设。这是不令人满意的,因为所选择的模型通常是数据自适应模型选择过程的结果,这可能会导致通常不被承认的过度不确定性。此外,编码在所选模型中的假设很少代表一些先验已知的基本事实,这使得标准推断容易出现偏差,但也无法纯粹反映数据中包含的信息。受所谓的投影参数的无偏推理的发展的启发,我们在这里提出了新的非参数定义的主效应估计和效果修正估计。当这些模型被正确指定时,这些简化为广义线性模型中的标准主效应和效应修改参数,但其优点是它们继续分别捕获两个变量之间的主要(条件)关联,或两个变量在其对结果的影响中相互作用(在统计意义上)的程度,即使这些模型被错误指定。我们通过在非参数模型下导出它们的影响曲线并调用灵活的数据自适应(例如,机器学习)过程。
2020-06-15 stat.ME stat.ML
Double-Estimation-Friendly Inference for High-Dimensional Measurement Error Models with Non-Sparse Adaptability
针对含测量误差的高维线性回归单个假设检验,提出双重稳健得分检验,在 X-model 或 Y-model 之一误设时仍有效,并兼容稀疏与非稀疏情形。
2025-01-11 math.ST stat.ME stat.TH
HSCI: Neyman-Orthogonal Causal Inference under High-Dimensional Proportional Hazards
University of Southern California(南加州大学);The University of Tennessee Knoxville(田纳西大学诺克斯维尔分校);California State University Fullerton(加州州立大学富勒顿分校)
针对生存研究中高维协变量混杂下的处理效应推断问题,提出基于Neyman近正交得分的高维生存因果推断框架,实现根n渐近正态性和一致方差估计,显著降低偏差。
2026-06-15 math.ST stat.ME stat.TH
Large-Scale Model Selection with Misspecification
模型选择对于当代大数据应用的高维学习和推理至关重要,其在一系列候选可解释模型中精确定位最佳协变量集。大多数现有的工作假设隐含的模型是正确指定的或有固定的维数。然而,这两个功能的模型误指定和高维在实践中普遍存在。利用Lv and Liu(2014)提出的误指定模型下的模型选择原理框架,研究了高维误指定模型下模型选择的贝叶斯原理的渐近展开.通过引入先验概率的自然选择和库尔贝克-莱布勒散度,我们提出了一种高维广义贝叶斯先验概率信息准则(HGBIC_p)用于大规模误设定模型选择.新的信息准则刻画了模型误定和高维性对模型选择的影响。在较弱的正则条件下,我们进一步证明了超高维下HGBIC_p协方差对比矩阵估计的相合性和模型选择的相合性.我们的新方法的优点是支持数值研究。
2018-03-17 math.ST stat.AP stat.CO
High-dimensional Model-assisted Inference for Local Average Treatment Effects with Instrumental Variables
考虑使用工具变量估计局部平均处理效应的问题,其中在针对一组测量协变量进行调整后,工具不混淆性保持不变。需要通过回归模型估计协变量的几个未知函数,例如仪器倾向得分以及治疗和结局回归模型。我们开发了一个计算上易于处理的方法,在高维设置中的回归项的数量接近或大于样本量。我们的方法利用正则化校准估计,这涉及Lasso处罚,但仔细选择的损失函数估计这些回归模型中的系数向量,然后采用双稳健估计的治疗参数,通过增强逆概率加权。我们提供了严格的理论分析表明,如果正确指定了工具倾向得分模型,则在适当的稀疏条件下,所得到的Wald置信区间对于治疗参数是有效的,但治疗和结局回归模型可能被错误指定。对于现有的高维方法,如果正确指定了所有三个模型,则可以获得治疗参数的有效置信区间。我们评估所提出的方法,通过广泛的模拟研究和实证应用,以估计教育的回报。
2020-09-19 math.ST stat.ME stat.TH