Detection of Cognitive Diagnostic Model Misspecification using New Lancaster-Chesher Information Matrix Tests
COINS Lab, School of Behavioral and Brain Sciences, University of Texas at Dallas(德克萨斯大学达拉斯分校行为与脑科学学院 COINS 实验室)
本文扩展前期工作,将新方法应用于认知诊断模型,推导了仅需1或2个自由度的误设检验,无需复杂模拟,模拟显示其表现良好。
2026-08-25 math.ST stat.ME stat.TH
Minimizing Sensitivity to Model Misspecification
我们提出了一个框架,估计和推理时,模型可能被误指定。我们依赖于一个局部渐近的方法,其中的程度是由样本量的指标。我们构造的估计,其均方误差是极小极大的参考模型的邻域中,一步调整的基础上。此外,我们提供了包含真参数的置信区间。作为一种工具来解释的程度的错误规格,我们将其映射到当地的权力规格测试的参考模型。我们的方法允许系统的敏感性分析时,感兴趣的参数可能是部分或不规则的识别。作为例证,我们研究了三个应用程序:在墨西哥的有条件现金转移的影响的实证分析,其中误指定源于存在的耻辱效应的程序,一个横截面的二元选择模型的错误分布是误指定的,和一个动态的面板数据二元选择模型的时间段的数量是小的,个人的影响分布是误指定的。
2021-10-08 econ.EM stat.ME
Robust minimum divergence estimation in a spatial Poisson point process
针对物种分布建模中似然分析因模型错误设定而不稳健的问题,提出一种基于泊松点过程新散度的稳健估计方法,通过对对数似然方程加权减轻异质观测影响,提升了预测性能。
2023-06-30 stat.ME
The Propagation-Separation Approach: Consequences of model misspecification
本文介绍了Polzehl和Spokoiny [2006]关于澄清-分离方法的新结果。这种迭代过程假设局部参数模型,为非参数估计提供了一种统一的方法。估计量的自适应性确保了对结构变化的敏感性。最初,算法中包含了一个额外的记忆步骤,大部分的理论特性都是基于这个步骤的,然而,在实践中,使用了一个简化的算法,其中省略了记忆步骤。因此,我们的目标是证明这个简化的过程中,通过理论研究和数值模拟。在我们之前的研究[Becker and Mathé,2013]中,我们分析了简化的简化-分离方法,假设分段常数参数函数具有尖锐的不连续性。在这里,我们考虑错误指定模型的情况。
2013-11-30 stat.ME
On model misspecification and KL separation for Gaussian graphical models
我们建立了两个多元高斯分布之间的KL分歧的界限,在相应的图形模型的边缘集之间的汉明距离。我们表明,KL分歧是有界的一个常数,当图形不同的至少一个边缘,这基本上是最严格的可能的界限,因为类的图形存在的边缘差异增加,但KL分歧仍然有界的一个常数以上。作为KL下限的自然推论,我们还通过最大似然估计建立了正确模型选择的样本量要求。我们的研究结果严格的概念,它是必不可少的估计高斯图形模型的边缘结构准确,以近似的真实分布接近精度。
2015-04-03 cs.IT math.IT math.ST
On Parameter Estimation for Cusp-type Signals
研究了高斯白噪声中确定性信号的观测值的参数估计问题。假设信号具有尖点型奇异性。最大似然估计和最大似然估计的性质在小噪声的渐近性中得到了描述。特别注意正则性误定情况下的参数估计问题,即:统计学家假设观测信号具有这种奇异性,但实际信号是平滑的。在这种情况下,极大似然估计的速率和渐近分布进行了描述。
2015-09-09 math.ST stat.TH
Wrong Model, Right Uncertainty: Spatial Associations for Discrete Data with Misspecification
MIT LIDS(麻省理工学院LIDS)
针对空间离散数据关联估计中现有方法存在模型误设假设、采样非随机且不适用于离散响应的问题,提出首个在模型误设和非随机采样下仍保证渐近名义覆盖率的置信区间方法,经实验验证其可靠性优于标准方法。
2025-09-01 cs.LG stat.ME stat.ML
Simultaneous Mean-Variance Regression
我们提出了同时均值-方差回归的线性估计和近似的条件均值函数。在未知形式的异方差的存在下,我们的方法通过使用与平均回归参数共同确定的权重来解释在条件变量的支持下回归结果的不同分散度。同时性生成保证改善普通最小二乘法预测误差的结果预测,以及自动有效的相应参数标准误差。根据形状误指定的条件均值和方差函数,我们建立的存在性和唯一性的近似和表征其形式的解释和鲁棒性。特别是,我们表明,相应的均值-方差回归位置尺度模型弱主导的普通最小二乘法的位置模型下的Kullback-Leibler措施的分歧,严格改善的异方差的存在。同时均值-方差回归损失函数是全局凸的,相应的估计量易于实现。我们建立了它的一致性和渐近正态性下的误设定,提供强大的推理方法,并提出了数值模拟,表现出很大的改进普通和加权最小二乘在有限样本的估计和推断。我们进一步说明了我们的方法与两个实证应用,以估计1500年和今天的经济繁荣之间的关系,并在美国的汽油需求。
2019-01-02 econ.EM math.ST stat.ME
Classification Under Misspecification: Halfspaces, Generalized Linear Models, and Connections to Evolvability
MIT(麻省理工学院);UC Berkeley(加州大学伯克利分校)
本文针对错误指定下的分类问题,为 Massart 噪声下的半空间学习提出了更简单且能达到 $η+ε$ 精度的恰当学习算法,并将其推广到广义线性模型,同时揭示了与可演化性的联系及 SQ 算法的查询复杂度下界。
2023-09-20 cs.DS cs.LG math.ST
Quasi Maximum-Likelihood Estimation of Dynamic Panel Data Models
建立了动态面板数据模型水平估计和差分拟极大似然估计的几乎必然收敛和渐近正态性。的QML估计是强大的初始条件,条件和时间序列异方差,以及误指定的对数似然。本文还提供了一个ECME算法计算水平QML估计。最后,利用蒙特卡罗实验比较了水平和差分QML估计、差分GMM估计和系统GMM估计的有限样本性能。在这些实验中,QML估计通常有较小的-通常是小得多-偏差和均方根误差比面板数据GMM估计。
2017-02-02 math.ST stat.TH
Maximum Likelihood Estimation in Markov Regime-Switching Models with Covariate-Dependent Transition Probabilities
本文研究了一类具有隐马尔可夫状态的模型的极大似然估计。我们调查的ML估计的一致性和局部渐近正态性的模型在一般条件下,允许自回归动态的可观察的过程中,马尔可夫制度序列与协变量相关的转移阵矩阵,和可能的模型误设定。蒙特卡洛研究检查了ML估计量在正确指定和错误指定模型中的有限样本性质。最后讨论了该方法的应用实例。
2021-12-06 econ.EM math.ST stat.TH
Mean Square Error bounds for parameter estimation under model misspecification
在参数估计中,通常考虑模型的假设,这允许我们在许多统计意义下建立最优估计方法。然而,通常情况下,这种模型是不准确的,或者没有捕捉到所观察到的现象的复杂性。一个自然的问题是,我们是否可以找到模型失配下的基本估计范围。本文推导了广泛使用的加性高斯模型的均方误差(MSE)的Ziv-Zakai方法的一般界。一般结果解释了错误的泛函,超参数和不同于高斯分布的分布。结果,然后具体化,以获得一些洞察到具体的问题和一些说明性的例子证明的预测能力的界限。
2015-12-11 math.ST stat.ME stat.TH
Assessing the global and local uncertainty in scientific evidence in the presence of model misspecification
科学家需要比较基于观察到的现象的模型的支持。证据范式的主要目标是量化参考模型相对于替代模型的数据中的证据强度。这是通过证据函数完成的,例如$ΔSIC$,生成机制和竞争模型之间的偏差的样本量缩放差异的估计量。为了使用证据,无论是决策还是作为知识积累的指南,都需要了解证据中的不确定性。这种不确定性是很好的特点,由标准统计理论的估计。不幸的是,如果模型被错误地指定,标准理论就会崩溃,就像科学研究中通常发生的那样。我们开发了非参数自助方法来估计模型误设下的证据估计量的抽样分布。这种抽样分布使我们能够确定我们在证据陈述中的安全程度。我们用两种不同类型的置信区间(我们称之为“全局”和“局部”)来表征这种证据强度的不确定性。我们讨论了如何证据的不确定性可以用来改善科学推理,并说明了这一点,在一个突出的景观生态学研究(格雷斯和基利,2006年)使用结构方程模型识别问题的重新分析。
2021-03-19 stat.ME
Estimation of copulas via Maximum Mean Discrepancy
本文讨论了参数copula模型的鲁棒推断问题。使用典型极大似然估计可能不稳定,尤其是在存在离群值的情况下。我们建议使用基于最大平均离散(MMD)原则的程序。得到了新估计量的非渐近预言不等式、相合性和渐近正态性。特别地,预言不等式在没有对copula族作任何假设的情况下成立,并且可以应用于存在异常值或错误设定的情况。此外,在我们的MMD框架中,Copula模型的统计推断,不存在密度关于$[0,1]^d$上的Lebesgue测度,作为Marshall-Olkin copula,成为可行的。仿真研究表明,我们的新方法的鲁棒性,特别是相比伪极大似然估计。一个R软件包实现了Copula模型的MMD估计器。
2022-01-14 math.ST stat.CO stat.ME
Model misspecification in peaks over threshold analysis
经典的峰过阈值分析被广泛用于样本极值的统计建模,并且可以通过用于双方差簇的大小的模型来补充。在温和的条件下,一个复合泊松过程模型允许估计的边缘分布的阈值方差和平均聚类大小,但需要选择一个阈值和运行参数,$K$,它确定如何去聚类的方差。我们扩展了一类估计的倒数平均集群大小,被称为极值指数,建立一致性和渐近正态性,并使用复合泊松过程,以获得误设定检验模型的有效性和运行参数和阈值的选择。温度和降雨量的模拟例子和真实数据说明的想法,无论是在非标准的情况下估计的极值指数和评估极值模型的有效性。
2010-10-07 stat.AP
Adaptive Off-Policy Inference for M-Estimators Under Model Misspecification
Carnegie Mellon University(卡内基梅隆大学);Novartis Pharmaceuticals Corporation(诺华制药公司)
本文提出了一种自适应偏政策推断方法,用于在模型不规范情况下有效推断M估计量,通过稳定自适应数据收集的方差,构建有效的置信区间。
2026-02-08 math.ST stat.ME stat.ML
Improving Longitudinal Targeted Maximum Likelihood Estimation in Target Trial Emulation using Joint Calibrated Weights
MRC Biostatistics Unit(英国医学研究委员会生物统计单元);University of Cambridge(剑桥大学)
提出联合校准纵向目标最大似然估计(LTMLE),通过同时校准治疗和删失过程的权重,改善目标试验模拟中每方案效应估计的小样本性能和稳健性。
2026-06-03 stat.ME
Misspecification Tests on Models of Random Graphs
已被广泛使用的一类模型是指数随机图(ERG)模型,其形成包括独立和二元边缘模型、马尔可夫随机图和许多其他图分布的全面的模型家族,此外还允许包括可以导致模型的更好拟合的协变量。统计网络分析中另一类越来越流行的模型是随机块模型(SBM)。它们可以用于将节点分组为社区或发现和分析网络的潜在结构。随机块模型是随机图的生成模型,其倾向于产生包含节点子集的图,所述节点子集的特征在于彼此连接,称为社区。来自不同领域的许多研究人员一直在使用计算工具来调整这些模型,但没有分析它们是否适合他们正在研究的网络数据。这些模型的估计过程和拟合优度验证方法的复杂性可能是导致充分性分析困难的因素,也可能是抛弃一个模型而选择另一个模型的因素。很明显,通过不适当的模型获得的结果可能会导致研究人员对所研究的现象得出非常错误的结论。这项工作的目的是提出一个简单的方法,假设检验的基础上,以验证是否有一个模型的规格错误,这两种情况下广泛使用的文献中表示复杂的网络:ERGM和SBM。我们相信,对于那些想要以更谨慎的方式使用这些模型的人来说,这个工具非常有用,可以事先验证模型是否适合所研究的数据。
2022-02-03 math.ST stat.TH
Robust copula estimation for one-shot devices with correlated failure modes
Universidad Rey Juan Carlos(雷伊胡安卡洛斯大学)
针对单次使用设备中失效模式间的依赖关系,提出一种基于散度的稳健Copula估计方法,以克服异常值和模型误设问题,并通过模拟和实际数据验证其有效性。
2026-05-21 stat.ME
On Misspecifications in Regularity and Properties of Estimators
研究了高斯白噪声中确定性信号的连续时间观测值的参数估计问题。最大似然估计量的渐近性质用小噪声(大信噪比)的渐近性来描述。我们感兴趣的情况下,有一个错误的规格的正则性条件。特别地,当真实信号是未知参数的连续可微函数时,假设统计学家使用信号的不连续(变点型)模型。
2015-09-09 math.ST stat.TH
A Tracking Approach to Parameter Estimation in Linear Ordinary Differential Equations
常微分方程是模拟化学、物理、生物过程的广泛工具,但它们通常依赖于在动态方面至关重要的参数,需要直接从数据中估计。经典的统计方法(非线性最小二乘,极大似然估计),可以给不满意的结果,因为计算困难和不适定性的统计问题。新的估计方法,使用一些非参数设备已被提出来规避这些问题。我们提出了一个新的估计,与两步估计和广义平滑(由Ramsay等人,2007年引入)共享属性。我们引入了一个扰动模型,我们使用最优控制理论构建一个标准,旨在最大限度地减少与数据和模型的差异。在这里,我们专注于线性常微分方程的情况下,我们的标准有一个封闭的形式的表达,允许详细的分析。我们的方法避免了使用非参数估计的衍生工具,这是两步估计不准确的主要原因之一。此外,我们考虑了模型差异,并且我们的估计量比经典方法对模型误指定更鲁棒。与参数ODE模型的差异对应于应用于初始模型的最小扰动(或控制)。它的定性分析可以提供信息的错误规格诊断。在良好指定的模型的情况下,我们证明了我们的估计的一致性,并且当在第一步中使用回归样条时,我们达到了参数根-n率。
2014-10-28 stat.ME
Gaussian Transforms Modeling and the Estimation of Distributional Regression Functions
本文提出高斯变换建模条件累积分布函数,给出凹似然估计准则,统一估计密度、分布和分位数函数,并在美国性别工资差距应用中验证。
2025-04-20 econ.EM stat.ME
An improper estimator with optimal excess risk in misspecified density estimation and logistic regression
CREST, ENSAE, Institut Polytechnique de Paris(巴黎综合理工学院国立统计与经济行政学院 CREST);CMAP, École polytechnique(巴黎综合理工学院应用数学中心);LPSM, UMR 8001, Université de Paris(巴黎大学概率与统计实验室);DMA, UMR 8553, Ecole normale supérieure(巴黎高等师范学院数学系)
本文介绍了一种对数损失下的条件密度估计方法,称之为SMP(Sample Minmax Predictor)。该估计量最小化了统计学习的新的一般超额风险界限。在标准示例中,该界限按$d/n$缩放,其中$d$为模型尺寸,$n$为样本量,并且在模型错误指定的情况下仍然有效。作为一个不适当的(模型外)的程序,SMP改善了模型内的估计,如最大似然估计,其超额风险下的误指定。与简化为序列问题的方法相比,我们的边界去除了次优的$\log n$因子,并且可以处理无界类。对于高斯线性模型,SMP的预测和风险界限由协变量的杠杆分数决定,在没有线性模型的噪声方差或逼近误差条件的情况下,几乎匹配指定情况下的最佳风险。对于逻辑斯谛回归,SMP提供了一种非贝叶斯方法来校准依赖于虚拟样本的概率预测,并且可以通过求解两个逻辑回归来计算。它实现了$O((d + B^2R^2)/n)$的非渐近超额风险,其中$R$限制了特征的范数,$B$限制了比较参数的范数;相比之下,一般来说,没有模型内估计量可以实现比$\min({B R}/{\sqrt{n}}, {d e^{BR}}/{n} )$更好的比率。这为贝叶斯方法提供了一种更实用的替代方法,贝叶斯方法需要近似的后验抽样,从而部分解决了Foster et al.(2018)提出的问题。
2021-12-08 cs.LG math.ST stat.ML
A generalization of moderated statistics to data adaptive semiparametric estimation in high-dimensional biology
高维生物数据的广泛可用性使得同时筛选许多生物特征成为计算生物学和相关科学的中心问题。虽然这些数据集的维度继续增长,但在测量基线混杂因素的健康研究中,从暴露模式中识别生物标志物的复杂性也在增长;此外,在避免模型错误指定的同时这样做仍然是一个仅部分解决的问题。有效的估计,能够将灵活的,数据自适应回归技术,在估计相关组件的数据生成分布提供了一个途径,以避免模型误指定;然而,在高维问题的背景下,需要同时估计的许多参数,标准方差估计已被证明是不稳定的,导致不可靠的第一类错误控制,即使在标准的多重检验校正。我们提出了一个一般的方法,适用于经验贝叶斯收缩的方差估计的一个家庭的有效的,渐近线性估计的人口干预的因果关系。我们的推广收缩为基础的方差估计增加了推理的稳定性,在高维设置,促进这些估计的应用程序派生非参数变量的重要性措施,在高维生物数据集适度的样本量。其结果是一种数据自适应方法,用于在有限样本的研究中稳健地揭示高维数据中的稳定因果关系。我们的广义方差估计评价对替代方差估计在数值实验中。在对吸烟表观遗传效应的观察性研究中的高维DNA甲基化数据的分析中证明了使用所提出的方法识别生物标志物。
2022-01-13 stat.ME
The noise level in linear regression with dependent data
University of Pennsylvania(宾夕法尼亚大学);Google Research(谷歌研究院)
本文在无可实现性假设下,为β-混合相依数据的随机设计线性回归推导了上界,恢复了中心极限定理预测的噪声水平,并在中等偏差区域实现尖锐结果且不受混合时间因子影响。
2023-10-27 cs.LG math.ST stat.ML
Conformal confidence intervals with an application to small area estimation
University of Southampton(南安普顿大学);Statistisk sentralbyrå(挪威中央统计局);Istituto nazionale di statística(意大利国家统计研究所)
该研究提出一种新型共形推理方法,生成样本内结果未知期望的共形置信区间,填补经典回归与共形推理的空白,并将其应用于小区域估计问题。
2026-08-05 stat.ME
Estimation and inference for linear panel data models under misspecification when both $n$ and $T$ are large
本文考虑了当个体数$n$和时间段数$T$都很大时,线性面板数据模型在可能的模型误设定下的固定效应估计.我们首先澄清FE估计的概率极限,并认为这个概率极限可以被视为一个伪真参数。然后,我们建立了渐近分布性质的FE估计周围的伪真参数时,$n$和$T$共同走向无穷大。值得注意的是,我们表明,FE估计遭受的附带参数偏差的最高阶是$O(T^{-1})$,即使在附带参数偏差被完全删除后,FE估计的收敛速率取决于模型误设的程度,要么是$(nT)^{-1/2}$或$n^{-1/2}$。其次,我们建立了渐近有效的推断(伪真)参数。具体来说,我们推导出了集群协方差阵(CCM)估计量和截面自助法的渐进性质,并表明它们对模型误设定具有鲁棒性。这为当模型误设定和偶然参数偏差(在系数估计中)存在时使用CCM估计和截面引导建立了严格的理论基础。我们进行蒙特卡罗模拟,以评估有限样本的估计和推理方法的性能,连同一个简单的应用程序,在美国的失业动态。
2014-03-11 math.ST stat.TH
Robust Prediction Variance Estimation for Gaussian Process Regression Under Covariance Smoothness Misspecification
University of Mayagüez(马亚圭斯大学)
针对协方差平滑性误指定导致预测方差低估的问题,提出一种新的均方预测误差估计方法,该方法在非等价工作模型与真实模型下表现更优。
2026-06-03 math.ST stat.ME stat.TH
Adaptively Robust Small Area Estimation: Balancing Robustness and Efficiency of Empirical Bayes Confidence Intervals
基于著名的Fay-Herriot模型的经验贝叶斯小区域估计可能会产生不可靠的估计时,边远地区存在。现有的鲁棒方法对离群值或模型误设通常是低效的,当假设的分布是合理的。本文提出了一个简单的修改标准的经验贝叶斯方法,自适应平衡鲁棒性和效率。该方法采用伽玛发散代替边缘对数似然,并通过追求面积参数的经验贝叶斯置信区间的有效性来优化控制鲁棒性的调整参数。我们提供了一个渐近理论的假设分布和存在的边远地区的正确规范下的方法。我们调查的数值性能,所提出的方法,通过模拟和应用小面积估计的平均犯罪人数。
2022-06-27 stat.ME
Scale estimation and rate-unbiasedness for Gaussian processes under smoothness misspecification
School of Engineering Sciences, Lappeenranta--Lahti University of Technology LUT(拉彭兰塔-拉赫蒂理工大学工程学院)
针对高斯过程回归中平滑度参数误设定的问题,提出速率无偏性概念,证明尺度估计足以实现该性质,从而无需优化即可获得正确数量级的不确定性量化。
2025-10-27 math.ST stat.TH
Local continuity of log-concave projection, with applications to estimation under model misspecification
对数凹投影是将d维分布P映射到近似对数凹密度的算子。D{ü}mbgen et al.(2011)在之前的工作中建立了,在底层空间上有适当的度量,这个投影是连续的,但不是一致连续的。本文证明了对数凹投影的一个局部一致连续性结果,特别是证明了该映射是局部H{<$}lder-(1/4)连续的.匹配的下界验证了该指数不能被改进。我们还研究了这种连续性结果的经验设置的影响-给定一个从分布P中提取的样本,我们约束样本的经验分布的对数凹投影和P的对数凹投影之间的平方Hellinger距离。特别是,这会产生有趣的统计结果的错误指定的设置,其中P本身不是对数凹的。
2020-12-18 math.ST stat.TH
Sequential prediction under log-loss and misspecification
School of Electrical Engineering, Tel-Aviv University(特拉维夫大学电气工程学院);Dept. of EECS, MIT(麻省理工学院电气工程与计算机科学系)
我们考虑了累积后悔下对数损失下的序贯预测问题。也就是说,给定一个假设类的分布,学习器顺序预测序列中的下一个字母(的分布),并将其性能与来自假设类的最佳常数预测器的基线进行比较。良好指定的情况对应于一个额外的假设,即数据生成分布也属于假设类。在这里,我们提出的结果在更一般的错误指定的情况下。由于对数损失的特殊性质,在密度估计和模型选择的竞争最优性方面也会出现同样的问题。对于$d$维高斯位置假设类,我们表明,在指定和错误指定的情况下,累积的遗憾渐近一致。换句话说,我们提供了一个$o(1)$的分布自由(或PAC)的遗憾在这种情况下的特征-第一个这样的结果,据我们所知。我们记得,在这种情况下,最坏情况下(或单个序列)的后悔要大一个附加常数${d\over 2} + o(1)$。令人惊讶的是,无论是传统的贝叶斯估计,也没有Shtarkov的归一化最大似然实现PAC的遗憾和我们的估计需要特殊的“鲁棒性”对重尾数据。此外,我们显示了两个一般结果误指定遗憾:最优估计的存在性和唯一性,以及边界之间的误指定遗憾(渐近)关闭的假设类。
2021-09-15 cs.IT cs.LG math.IT
Non-Bayesian Post-Model-Selection Estimation as Estimation Under Model Misspecification
针对模型选择后估计问题,提出三种非贝叶斯解释,并开发误设最大似然估计器与Cramér-Rao型下界,仿真显示选择性推断解释具有最低均方误差。
2023-08-22 cs.IT eess.SP math.IT
Posterior Convergence of Gaussian and General Stochastic Process Regression Under Possible Misspecifications
本文研究了非参数回归模型的后验收敛性,其中未知的回归函数由适当的随机过程建模。在这方面,我们考虑两个设置。第一种设置是基于高斯过程,其中协变量是随机的或非随机的,噪声可以是正态分布或双指数分布。在第二种设置中,我们假设基本的回归函数是由一些合理光滑的,但未指定的随机过程满足合理的条件。噪声的分布也未指定,但假设是厚尾的。在以前的研究中,关于同样的问题,我们不假设真理在于假设的参数空间,从而明确允许的可能性误指定。我们利用Shalizi(2009)的一般结果,不仅建立了后验一致性,而且建立了后验概率收敛的速率,即Kullback-Leibler发散速率。我们还研究了更熟悉的后验收敛速度。有趣的是,我们表明,后验预测分布可以准确地近似最好的可能的预测分布的意义上说,Hellinger距离,以及两个分布之间的全变差距离可以趋于零,尽管误指定。
2020-05-01 math.ST stat.ME stat.TH
When Noise Estimation Hides Basis Misspecification in Repeated Bayesian Inverse Problems
University of Cambridge(剑桥大学)
本研究针对贝叶斯反问题中基受限先验的覆盖损失问题,提出利用John球度统计量检验残差谱形状以检测基外变异,该方法在合成和实际地形数据中有效,但无法检测各向同性高斯变异。
2026-09-30 math.ST stat.ME stat.ML
Randomization-based Z-estimation for evaluating average and individual treatment effects
本文在基于随机化的推断框架下系统研究了处理效应的模型分析,推导了Z估计渐近理论,并提出了针对平均和个体处理效应的稳健估计方法。
2024-11-18 math.ST stat.ME stat.TH
Finite sample properties of parametric MMD estimation: robustness to misspecification and dependence
CNRS(法国国家科学研究中心);ESSEC Business School(埃塞克商学院)
针对统计学通用估计问题,本文基于MMD最小距离估计器证明其对数据相关性和异常值的鲁棒性,完成SGD算法理论研究并通过数值模拟验证,同时修正已发表版本中命题4.4的证明错误。
2025-02-13 cs.LG math.ST stat.CO
On the risk of convex-constrained least squares estimators under misspecification
我们考虑的问题估计的平均值的噪声向量。当均值位于凸约束集时,随机向量在约束集上的最小二乘投影是一个自然的估计量。这个估计的风险的性质,如其渐近行为的噪声趋于零,已经得到了很好的研究。相反,我们研究的行为,这个估计下的误指定,也就是说,没有假设的意思是在约束集。对于适当定义的概念的风险在错误的设置,我们证明了一个概括的低噪声表征的风险,由于Oymak和Hassibi的情况下的多面体约束集。我们的研究结果的一个有趣的结果是,在错误指定的设置比在良好指定的设置的风险可以小得多。我们还讨论了我们的结果保序回归的后果。
2017-06-13 math.ST stat.TH
Robust Ensemble Kalman Filtering Under Observation Noise Misspecification
Heidelberg University(海德堡大学);University of Potsdam(波茨坦大学)
针对动态系统贝叶斯滤波中观测噪声误设定问题,提出利用扩散分数匹配调整分析步信息处理的鲁棒卡尔曼滤波器,理论证明其在线性高斯状态空间中的共轭性、鲁棒性、协方差稳定性及高维一致性,并通过集成近似实现EnKF、ESRF和LETKF变体,在目标跟踪、Lorenz 63和Lorenz 96系统中验证了鲁棒性与稳定性的权衡。
2026-11-09 math.DS math.ST stat.ME
Composite Quasi-Likelihood Estimation of Dynamic Panels with Group-Specific Heterogeneity and Spatially Dependent Errors
本文提出了一种新的方法来估计大型面板数据误差校正模型的平稳/非平稳协变量和空间依赖的错误,它允许已知/未知组特定模式的斜率异质性。分析是基于复合准似然(CQL)最大化,同时进行估计和分类。在存在未观察到的个体/组特异性固定效应的错误指定的情况下,拟定的CQL估计量保持无偏;因此,既不需要工具变量,也不需要偏倚校正/减少。该估计量还实现了“预言”属性,因为组成员的估计误差对特定于组的斜率参数估计的渐近分布没有影响。分类和估计涉及大规模非凸混合整数规划问题,然后可以通过基于DC(Difference-of-Convex Functions)规划的新算法-DCA(DC算法)来解决该问题。仿真结果证实了所提出的估计良好的有限样本特性。还提供了一个经验应用程序和一个软件包来实现这种方法。
2017-09-08 stat.AP
Diagnosing model misspecification and performing generalized Bayes' updates via probabilistic classifiers
模型误设是贝叶斯推断框架的一个长期存在的谜,因为后验者倾向于过度集中于对大样本限制的不知情的参数值。在存在模型错误指定的情况下,可能性的缓和已经被确定为从之前到之后进行更新的更安全的方式。在一个极端,调和可以完全忽略数据,而在另一个极端,当假设不存在错误指定时,它提供标准贝叶斯更新。然而,如何在没有真实生成模型的情况下最好地识别错误规范并选择合适的回火级别是一个悬而未决的问题。在这里,我们将展示如何使用概率分类器来解决这个问题。通过训练概率分类器来区分模拟数据和观察数据,在分类器的区分能力内,提供了模型似然性与未观察到的真实生成过程下的数据的似然性之间的比率的估计。相对于数据生成过程的比率的对数的期望给出了统计生成模型和真实生成分布之间的负库尔贝克-莱布勒散度的估计。使用一组典型的例子,我们表明,这种分歧提供了一个有用的误指定诊断,模型比较工具,和一种方法来通知广义贝叶斯更新的存在误指定的可能性为基础的模型。
2019-12-12 math.ST stat.ME stat.ML
Doubly robust dose-response estimation for continuous treatments via generalized propensity score augmented outcome regression
本文构造了连续剂量反应估计的双稳健估计。结果回归模型增加了一组逆广义倾向评分协变量,以纠正潜在的误设偏倚。从增强模型中,我们可以获得不同治疗分层的平均潜在结局的相合估计。然后将多项式回归拟合到这些点估计值,以推导出连续剂量-响应函数的泰勒近似值。Bootstrap用于方差估计。分析结果和模拟表明,我们的方法可以提供一个很好的近似线性或非线性剂量-响应函数下的各种来源的误指定的结果回归或倾向评分模型。有限样本下的效率相对于最小方差一致估计是好的。
2015-06-16 math.ST stat.TH
Gaussian Process Regression under Computational and Epistemic Misspecification
本文提出统一理论框架,分析低秩、协方差稀疏及精度稀疏等核近似在高斯过程回归中的插值误差,并兼顾核参数的认知误设。
2024-10-03 cs.NA math.NA math.ST
Doubly robust estimation for conditional treatment effect: a study on asymptotics
在本文中,我们应用双重稳健的方法来估计,当一些协变量,在参数,半参数和非参数结构的滋扰倾向得分和结果回归模型的条件平均治疗效果。然后,我们进行了系统的研究的渐近分布的9个估计与不同的组合估计的倾向得分和结果回归。该研究涵盖了正确指定所有模型的渐近性质;局部/全局错误指定倾向评分或结果回归;以及局部/全局错误指定所有模型。比较了渐近方差,讨论了模型误设定下的渐近偏差修正。的现象,渐近方差,与模型误指定,有时甚至可以小于,与所有的模型正确指定的探讨。我们还进行了数值研究,以检验理论结果。
2020-09-12 math.ST stat.TH
Semiparametric Efficient Data Integration Using the Dual-Frame Sampling Framework
Iowa State University(爱荷华州立大学)
本文提出基于双框架采样框架的半参数高效数据整合方法,通过两种互补估计器在概率与非概率样本整合中实现效率提升和稳健性。
2026-09-02 math.ST stat.ME stat.TH
Large-Scale Model Selection with Misspecification
模型选择对于当代大数据应用的高维学习和推理至关重要,其在一系列候选可解释模型中精确定位最佳协变量集。大多数现有的工作假设隐含的模型是正确指定的或有固定的维数。然而,这两个功能的模型误指定和高维在实践中普遍存在。利用Lv and Liu(2014)提出的误指定模型下的模型选择原理框架,研究了高维误指定模型下模型选择的贝叶斯原理的渐近展开.通过引入先验概率的自然选择和库尔贝克-莱布勒散度,我们提出了一种高维广义贝叶斯先验概率信息准则(HGBIC_p)用于大规模误设定模型选择.新的信息准则刻画了模型误定和高维性对模型选择的影响。在较弱的正则条件下,我们进一步证明了超高维下HGBIC_p协方差对比矩阵估计的相合性和模型选择的相合性.我们的新方法的优点是支持数值研究。
2018-03-17 math.ST stat.AP stat.CO
Robust Estimation of Polychoric Correlation
Erasmus University Rotterdam(伊拉斯姆斯大学鹿特丹);University of Zurich(苏黎世大学);Harvard University(哈佛大学)
本文提出了一种鲁棒的多项相关性估计方法,以应对模型部分不规范性,通过最小化鲁棒损失函数,提高了在存在粗心被试者情况下的估计鲁棒性和实用性。
2025-12-01 math.ST stat.AP stat.ME
Asymptotics for power posterior mean estimation
本文研究幂后验的渐近矩性质,证明其矩收敛于 Bernstein-von Mises 极限正态分布,并据此说明幂后验均值与最大似然估计量渐近等价。
2024-01-18 math.ST stat.TH
MMD-Bayes: Robust Bayesian Estimation via Maximum Mean Discrepancy
CREST(Crest研究中心);ENSAE(法国国立统计与经济管理学院);Institut Polytechnique de Paris(巴黎理工学院);RIKEN Center for AI Project(理化学研究所人工智能项目中心)
在某些错误指定的设置中,贝叶斯统计中的后验分布可能导致不一致的估计。为了解决这个问题,已经建议用伪似然代替似然,伪似然是享受适当鲁棒性特性的损失函数的指数。在本文中,我们建立了一个伪似然最大均值离散的基础上,定义通过嵌入的概率分布到再生核希尔伯特空间。我们表明,这种MMD-Bayes后验是一致的和强大的模型误设定。由于以这种方式获得的后验可能是棘手的,我们还证明了合理的变分近似后享有相同的属性。我们提供的随机梯度算法来计算这些变分近似的细节。数值模拟确实表明,我们的估计是更强大的误指定比的基础上的可能性。
2019-12-11 cs.LG math.ST stat.ML
Dynamic treatment effects: high-dimensional inference under model misspecification
Institute of Statistics and Big Data, Renmin University of China(中国人民大学统计与大数据研究院);School of Statistics and Management, Shanghai University of Finance and Economics(上海财经大学统计与管理学院);University of California, San Diego(加利福尼亚大学圣迭戈分校)
针对动态处理效应估计中模型误设与高维协变量挑战,提出序贯模型双重稳健估计量,通过新颖矩目标估计与损失函数实现根号N推断。
2025-01-30 cs.LG econ.EM math.ST
Accompanying document to "Point Estimation with Exponentially Tilted Empirical Likelihood"
通过一般估计方程(GEE)定义的参数可以通过最大化经验似然(EL)来估计。Newey和Smith(2004)最近证明了这种EL估计器具有理想的高阶渐近性质,即它的O(n^-1)偏差很小,并且偏差校正的EL是高阶有效的。虽然EL拥有这些属性时,模型是正确指定的,本文表明,在存在模型误指定,EL可能会停止根n收敛时,定义的时刻条件的功能是无界的(即使当他们的期望是有界的)。相反,相关的指数倾斜(ET)估计避免了这个问题。本文证明了ET和EL估计量可以自然地结合起来,得到一个称为指数倾斜经验似然估计量(ETEL)的估计量,它与EL具有相同的O(n^-1)偏差和相同的O(n^-2)方差,同时在模型误设定下保持根n收敛。
2005-12-08 math.ST q-fin.ST stat.TH
Posterior contraction under misspecification and heteroscedasticity in non-linear inverse problems
University of Cambridge(剑桥大学);Heidelberg University(海德堡大学)
本文研究了非线性反问题中异方差非参数回归问题,通过构建代理误差方差的对数似然模型,证明了后验分布的收缩性,适用于偏微分方程约束的反问题,并考虑了规格不正确和线性化模型的影响。
2026-03-30 math.ST stat.TH
Robustifying likelihoods by optimistically re-weighting data
本文针对似然推断对模型误设的脆弱性问题,提出乐观加权似然(OWL)方法,在经验测度的全变差邻域内选择最有利于模型的数据生成过程,以增强稳健性,并给出理论性质、估计算法及在混合模型和回归中的应用。
2024-09-10 math.ST stat.ME stat.TH
Variance Estimation and Confidence Intervals from High-dimensional Genome-wide Association Studies Through Misspecified Mixed Model Analysis
我们研究了全基因组关联研究(GWAS)误指定混合模型分析的遗传效应特征参数的方差估计和相关置信区间。以往的研究表明,尽管模型误指定,某些数量的遗传利益是可估计的,这些数量的相合估计量,可以得到使用限制极大似然(REML)方法下误指定的线性混合模型。然而,这样的REML估计的渐近方差是复杂的,并没有准备好被实现为实际使用。在本文中,我们开发了实用和计算方便的方法来估计这样的渐近方差和构建相关的置信区间。基于蒙特卡罗模拟和实际数据应用,对所提出的方法的性能进行了经验评估。
2021-01-17 math.ST stat.ME stat.TH