Prediction De-Correlated Inference: A safe approach for post-prediction inference
针对预测后推断场景，提出名为PDC的低假设统计推断框架，可适配任意黑盒模型、支持多模型扩展，性能优于有监督方法及现有最先进方法。
2024-05-24 stat.ME stat.ML
Study designs for extending causal inferences from a randomized trial to a target population
我们研究了将因果推断从随机试验扩展（推广或转移）到目标人群的研究设计。具体来说，我们考虑嵌套试验设计，其中随机个体嵌套在目标人群的样本中，以及非嵌套试验设计，包括复合数据集设计，其中随机试验与单独获得的目标人群非随机个体样本相结合。我们表明，在每个研究设计中可以确定的因果量取决于已知的非随机个体抽样的概率。对于每项研究设计，我们通过g公式和逆概率加权检查潜在结局平均值的识别。最后，我们探讨了潜在的抽样性质的影响设计的识别和估计的概率参加试验。
2019-05-19 stat.AP stat.ME
A modern maximum-likelihood theory for high-dimensional logistic regression
每个统计学或数据科学的学生都很早就知道，当样本量大大超过变量数量时，拟合逻辑模型会产生近似无偏的估计。每个学生还学习到，有一些公式可以预测这些估计值的变异性，这些估计值用于统计推断的目的;例如，产生p值来检验回归系数的显著性。虽然这些公式来自大样本渐近，我们经常被告知，我们是在合理的安全理由时，$n$是大的，以这种方式，$n \ge 5p$或$n \ge 10p$。本文表明，这是远离的情况下，因此，推理通常产生的常见软件包往往是不可靠的。考虑一个具有独立特征的Logistic模型，其中$n$和$p$以固定比例逐渐增大。然后，我们表明（1）MLE是有偏的，（2）MLE的变异性远远大于经典预测，（3）常用的似然比检验（LRT）不是卡方分布。MLE的偏倚是非常有问题的，因为它基于协变量的观测值对病例概率产生了完全错误的预测。我们发展了一个新的理论，它渐近地预测（1）最大似然估计的偏差，（2）最大似然估计的变异性，和（3）LRT的分布。我们的经验也表明，这些预测是非常准确的有限样本。此外，一个吸引人的特点是，这些新的预测取决于未知序列的回归系数，只有通过一个单一的标量，信号的整体强度。这表明非常具体的程序来调整推理;我们描述了一个这样的程序，从数据中学习单个参数并产生准确的推理
2018-06-16 math.ST stat.ME stat.TH
Fractional order statistic approximation for nonparametric conditional quantile inference
使用并扩展分数顺序统计量理论，我们描述了Hutson（1999）中使用$L$ -统计量作为终点的先前提出的总体分位数置信区间的$O(n^{-1})$覆盖概率误差。我们推导了$n^{-1}$项的解析表达式，该表达式可用于校准标称覆盖水平以获得$O\bigl(n^{-3/2}[\log(n)]^3\bigr)$覆盖误差。渐近功率是最佳的。利用核平滑，我们提出了一个相关的非参数推断的条件分位数的方法。这种新方法在理论和模拟上都优于渐近正态性和bootstrap方法。代码可以从第二作者的网站上获得，用于无条件和条件方法，模拟和经验示例。
2016-09-28 econ.EM math.ST stat.AP
A Cheap Bootstrap Method for Fast Inference
自助法是一种通用的推理方法，在许多统计问题中已经证明是强大的。然而，当应用于现代大规模模式时，它可能面临大量的计算需求，重复的数据恢复和模型拟合。我们提出了一个引导方法，使用最少的计算，即与低至一个蒙特卡罗复制的重采样工作，同时保持理想的统计保证。我们提出了这种方法的理论，使用一个扭曲的角度从标准的引导原则。我们还提出了这种方法的概括嵌套抽样问题和一系列的子采样变量，并说明它如何可以用于快速推断不同的估计问题。
2022-01-31 math.ST stat.CO stat.ME
Vintage Factor Analysis with Varimax Performs Statistical Inference
心理学家开发了多因素分析，将多变量数据分解为少量可解释的因素，而无需任何关于这些因素的先验知识。在这种形式的因子分析中，方差最大“因子旋转”是使因子可解释的关键步骤。查尔斯·斯皮尔曼和许多其他人反对因子旋转，因为因子似乎是旋转不变的。这些反对意见仍然报告在所有当代多元统计教科书。这是一个工程，因为这种老式的因素分析形式已经幸存下来，并广泛流行，因为从经验上讲，因素轮换往往使因素更容易解释。我们认为，旋转使因素更容易解释，因为事实上，方差最大因子旋转执行统计推断。我们表明，主成分分析（PCA）与方差最大旋转提供了一个统一的谱估计策略，为广泛的一类现代因素模型，包括随机块模型和自然变化的潜在狄利克雷分配（即，“主题建模”）。此外，我们表明，瑟斯顿的广泛采用的稀疏诊断隐含评估一个关键的“尖峰”的条件，使旋转统计识别在这些模型。总的来说，这表明老式因素分析的诀窍执行统计推断，扭转了近一个世纪的统计思想的主题。使用稀疏特征值求解器，具有方差最大的PCA是快速和稳定的。结合Thurstone的直接诊断，这种老式的方法适用于各种现代应用。
2020-04-20 math.ST stat.ME stat.TH
Sensitivity analysis using bias functions for studies extending inferences from a randomized trial to a target population
将随机试验的因果推断扩展（推广或转移）到目标人群需要“可推广性”或"可转移性“假设，即随机化和非随机化个体在基线协变量的条件下可以交换。这些假设是根据背景知识作出的，而这些背景知识往往是不确定或有争议的，需要进行敏感性分析。我们提出了简单的敏感性分析的方法，不需要详细的背景知识，具体的未知或无法测量的决定因素的结果或修饰的处理效应。相反，我们的方法直接使用偏置函数来参数化违反假设的情况。我们展示了如何将这些方法应用于非嵌套试验设计，其中试验数据与单独获得的非随机个体样本相结合，以及嵌套试验设计，其中临床试验嵌入从目标人群中抽样的队列中。我们使用一项比较慢性丙型肝炎感染治疗方法的临床试验数据来说明这些方法。
2019-05-25 stat.AP stat.ME
Extending inferences from a cluster randomized trial to a target population
我们描述的方法，扩展（概括或运输）因果推断从集群随机试验的目标人群的集群，在一般的非参数模型，允许任意的集群内的依赖。我们提出了双重鲁棒估计的潜在结果的手段，在目标人群中，利用个人层面的数据，协变量和结果，以提高效率，并适合与机器学习方法使用。我们使用一项在818家养老院进行的流感疫苗接种策略的随机分组试验来说明这些方法，该试验嵌套在4，475家符合试验条件的Medicare认证养老院的队列中。
2022-03-28 stat.ME
Addressing Positivity Violations in Extending Inference to a Target Population
针对试验结果外推时阳性假设违背的问题，提出整合代表性不足群体刻画与敏感性分析的框架，并应用于阿片类药物使用障碍IV期试验，提升外部有效性。
2025-04-20 stat.ME
Causal Inference in Rebuilding and Extending the Recondite Bridge between Finite Population Sampling and Experimental Design
本文认为，因果推断的治疗对比，从一个随机实验中使用的潜在结果，在有限的人口设置。采用Neymanian重复抽样的方法，将这种因果推断与有限的人口调查抽样，推理框架开发的一般机制，分配实验单元的多个治疗。这个框架扩展了经典的方法，允许随机化限制和不平等的复制的可能性。新的条件是“温和”的处理效应比严格的加性，但允许无偏估计的有限人口抽样方差的任何治疗对比估计，推导出。偏离这样的条件下的后果也研究了极小极大偏差的标准下，和一个新的理由，在实验中使用的Neymanian保守的抽样方差估计。所提出的方法可以很容易地扩展到一般的阶乘结构的治疗的情况下。
2016-06-16 stat.ME
Regression-based estimation of heterogeneous treatment effects when extending inferences from a randomized trial to a target population
从随机试验到目标人群的扩展-推广或运输-推论的方法涉及调节一组大的协变量，足以使随机化和非随机化组互换。然而，决策者往往有兴趣在仅根据少数离散协变量定义的目标人群亚组中检查处理效应。在这里，我们提出了估计亚组特定的潜在结果的手段和平均处理效应的一般性和可移植性分析的方法，使用结果模型为基础的（g公式），加权和增强加权估计。我们考虑在目标人群及其非随机化亚组中估计亚组特异性平均处理效应，并提供适用于嵌套和非嵌套试验设计的方法。作为一个例子，我们应用的方法，从冠状动脉手术研究的数据，比较手术加药物治疗与药物治疗单独治疗慢性冠状动脉疾病的心肌梗死史定义的亚组的影响。
2021-09-30 stat.ME
Extending inferences from a randomized trial to a new target population
当治疗效应修饰因子影响参与随机试验的决定时，随机化个体代表的人群中的平均处理效应将不同于其他人群中的效应。在本教程中，我们考虑将关于时间固定治疗的因果推断从试验扩展到新的非参与者目标人群的方法，使用来自已完成的随机试验的数据和来自目标人群样本的基线协变量数据。我们研究的方法的基础上建模的期望的结果，参与的概率，或两者兼而有之（双重鲁棒）。我们比较的方法在模拟研究中，并显示它们如何可以在软件中实现。我们将这些方法应用于一项随机试验，该试验嵌套在一组符合试验条件的患者中，以比较慢性冠状动脉疾病患者的冠状动脉手术加药物治疗与单纯药物治疗。最后，我们讨论了在应用分析中使用这些方法时出现的问题。
2019-10-28 stat.ME
Global sensitivity analysis for studies extending inferences from a randomized trial to a target population
当参与随机化试验的个体与使用试验结果的目标人群相比在效应调节剂的分布方面存在差异时，试验的处理效应估计值可能不直接适用于目标人群。将因果推断从试验推广到目标人群的方法依赖于随机化和非随机化个体之间的条件交换假设。这些假设的有效性往往是不确定的或有争议的，研究人员需要检查违反假设将如何影响研究结论。我们描述了全局敏感性分析的方法，直接参数化违反假设的潜在（反事实）的结果分布。我们的方法不需要详细的知识，具体的不可测量的效果修饰剂的分布或它们与观察到的变量的关系。我们说明了方法使用的数据，从试验嵌套在一个队列的试验合格的个人比较冠状动脉手术加药物治疗与药物治疗单独稳定性缺血性心脏病。
2022-07-20 stat.ME
A novel framework extending cause-effect inference methods to multivariate causal discovery
本文提出一个辅助框架，将任意双变量因果推断方法系统扩展到多变量场景，通过可识别的局部图结构迭代发现完整因果结构，并从理论与实验上验证其有效性。
2023-05-26 stat.ME
A Two-Stage Method for Extending Inferences from a Collection of Trials
提出一种两阶段加权方法，从多项随机对照试验扩展推断，在条件平均治疗效应存在研究间异质性时，获得目标总体中因果可解释的平均治疗效应估计值。
2023-09-07 stat.ME
AutoGFI: Streamlined Generalized Fiducial Inference for Modern Inference Problems in Models with Additive Errors
本文提出AutoGFI，一种简化广义信念推断（GFI）的变体，通过仅需拟合例程降低应用门槛，并在张量回归、矩阵补全和网络内聚回归等复杂问题中展现竞争力，推动GFI在实际领域的应用。
2024-12-25 stat.ME
Applied Causal Inference Powered by ML and AI
MIT（麻省理工学院）；Chicago Booth（芝加哥大学布斯商学院）；Cornell University（康奈尔大学）；Hamburg University（汉堡大学）；Stanford University（斯坦福大学）
该书聚焦机器学习与因果推断的新兴融合方向，讲解经典结构方程模型及对应的有向无环图、结构因果模型等AI因果框架，介绍双重/去偏机器学习方法以用现代预测工具实现因果推断。
2024-03-04 cs.LG econ.EM stat.ME
Cross-Validated Causal Inference: a Modern Method to Combine Experimental and Observational Data
本文提出一种将因果估计表述为经验风险最小化问题的系统性框架，通过交叉验证选取权重来结合实验与观测数据，有效克服了样本量与混杂偏差的矛盾，并验证了其有效性与可靠性。
2025-11-01 econ.EM stat.ME stat.ML
nonprobsvy -- An R package for modern methods for non-probability surveys
本文介绍R包nonprobsvy，其实现预测法、逆概率加权法等三类非概率样本推断方法，支持分析与自助法方差估计，可利用总体数据或概率总体信息，助力研究者用非概率样本准确估计总体特征。
2025-08-20 stat.AP stat.CO stat.ME
Spatial and Spatio-Temporal Log-Gaussian Cox Processes: Extending the Geostatistical Paradigm
在本文中，我们首先描述了类的对数高斯考克斯过程（LGCPs）的空间和时空点过程数据的模型。我们讨论推理，特别关注基于似然性的推理的计算挑战。然后，我们证明了有用的LGCP描述四个应用程序：估计强度表面的空间点过程;调查空间隔离在多类型的过程;构建空间连续的地图，疾病风险的空间离散数据;和实时健康监测。我们认为，这类问题自然适合地质统计学领域，传统上被定义为研究空间连续的过程中使用空间离散观测在有限数量的位置。我们认为，一个更有用的定义地质统计学是由类的科学问题，它解决，而不是特定的模型或数据格式。
2013-12-23 stat.ME
Frequentist and Bayesian inference for Gaussian-log-Gaussian wavelet trees, and statistical signal processing applications
我们引入新的估计方法的子类的高斯尺度混合模型的小波树Wainwright，Simoncelli和Willsky依赖于现代的结果，复合似然和近似贝叶斯推理。我们的方法说明在二维图像中的去噪和边缘检测问题。
2017-08-10 math.ST stat.ME stat.TH
Modern Causal Inference Approaches to Improve Power for Subgroup Analysis in Randomized Controlled Trials
New York University School of Medicine（纽约大学医学院）
本文提出了一种结合基线预测因子和外部数据的因果推断方法，以提高小型随机对照试验中亚组分析的统计功效，并通过模拟和实际数据验证其有效性。
2026-02-11 stat.ME
Distributed and recursive Bayesian inference for Big Data and complex spatio-temporal models
Swiss Ornithological Institute（瑞士鸟类研究所）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
针对计量经济学等领域数据带来的挑战，引入基于INLA方法、用R-INLA软件实现的分布式递归推理贝叶斯框架，通过分区降低计算复杂度，经案例研究验证其有效性，为现代贝叶斯推理提供实用工具。
2026-07-28 stat.ME
Scalable Amortized Variational Inference for Non-Poisson Buy-'Til-You-Die Models
The University of Chicago（芝加哥大学）
本文提出了适用于非泊松BTYD模型的可扩展摊销变分推断方法，该方法将交易假设为威布尔更新过程，在500万客户数据集上拟合仅需8分钟，还可扩展到协变量，显著提升了客户分析概率模型的效率。
2026-08-20 stat.AP stat.ME stat.ML
Post-selection Inference in Regression Models for Group Testing Data
针对分组检测数据中响应变量部分观测的问题，提出结合EM算法与LASSO惩罚的变量选择方法，扩展多面体引理的选择后推断框架，模拟验证其比朴素方法的推断结果更可靠。
2025-04-16 stat.ME
An AI-powered Bayesian Generative Modeling Approach for Arbitrary Conditional Inference
Department of Biostatistics, Yale University（耶鲁大学生物统计学系）；Department of Statistics, Stanford University（斯坦福大学统计学系）
本文提出了一种基于人工智能的贝叶斯生成建模方法，用于解决任意条件推断问题，通过统一框架实现灵活的条件预测和不确定性量化。
2026-03-10 cs.AI cs.LG stat.CO
A Frequentist Statistical Introduction to Variational Inference, Autoencoders, and Diffusion Models
Yen-Chi Chen（独立研究者）
本文从频率派统计学视角出发，以经典EM算法为基础阐释变分推断、变分自编码器和去噪扩散模型的理论，弥合经典统计推断与现代生成式AI间的学科认知壁垒。
2025-10-21 cs.LG stat.CO stat.ME
Spectrum-Aware Debiasing: A Modern Inference Framework with Applications to Principal Components Regression
Harvard University（哈佛大学）
本文提出了一种考虑频谱的去偏方法，用于高维回归，并应用于主成分回归，提供了首个去偏PCR估计器，同时引入了检验信号与协方差矩阵特征向量对齐的原理性检验。
2025-12-31 cs.IT math.IT math.ST
