Synthetic Principal Component Design: Fast Covariate Balancing with Synthetic Controls
Stanford University（斯坦福大学）
实验的最优设计通常涉及解决NP难的组合优化问题。在本文中，我们的目标是开发一个全局收敛和实际有效的优化算法。具体来说，我们考虑一个设置，其中治疗前的结果数据是可用的，并调用合成控制估计。平均处理效应通过处理单元和对照单元的加权平均结果之间的差异来估计，其中权重是从观察到的数据中学习的。{在这种情况下，我们惊奇地发现最优实验设计问题可以简化为所谓的\textit{phase synchronization}问题。}我们解决这个问题，通过一个规范化的变体的广义功率方法与谱初始化。在理论方面，我们建立了实验设计的第一个全局最优性保证时，预处理数据是从某些数据生成过程中采样。从经验上讲，我们进行了广泛的实验，以证明我们的方法对美国劳工统计局和Abadie-Diemond-Hainmueller加州吸烟数据的有效性。在均方根误差方面，我们的算法大大优于随机设计。
2022-11-28 cs.LG econ.EM math.OC
Covariate Adjustment Cannot Hurt: Treatment Effect Estimation under Interference with Low-Order Outcome Interactions
University of California, Berkeley（加州大学伯克利分校）；University of Chicago（芝加哥大学）
本文研究了在存在干扰情况下使用协变量调整估计总体治疗效应的方法，证明了在稀疏干扰网络下，协变量调整不会增加方差，从而提供无害保证。
2026-04-09 stat.ME
Assumption-lean covariate adjustment under covariate adaptive randomization when $p = o (n)$
Tsinghua University（清华大学）；Shanghai Jiao Tong University（上海交通大学）；Renmin University of China（中国人民大学）
本文提出了一种基于二阶U统计量的调整估计器，在p=o(n)时能无偏估计平均治疗效应并保证效率提升，适用于协变量自适应随机化场景。
2025-12-23 econ.EM math.ST stat.ME
Overlap in Observational Studies with High-Dimensional Covariates
估计外生性下的因果效应取决于两个关键假设：不混淆和重叠。研究人员经常认为，当分析中包含更多协变量时，不混淆性更合理。较少讨论的是，在这种情况下，协变量重叠更难满足。在本文中，我们探讨了重叠的影响，在观察性研究与高维协变量和形式化的维度曲线参数，表明这些假设是强于调查人员可能意识到的。我们的主要创新是探索严格重叠如何限制治疗和对照人群中协变量分布之间的全局差异。利用结果从信息论，我们得到明确的边界上的平均不平衡协变量的意思是严格重叠，并表明，这些界限变得更加严格的尺寸越来越大。我们讨论了这些影响如何相互作用的假设和程序通常部署在观察因果推理，包括稀疏性和修剪。
2020-01-03 math.ST stat.TH
balnet: Pathwise Estimation of Covariate Balancing Propensity Scores
Monash University（莫纳什大学）；Stanford University（斯坦福大学）
balnet通过逻辑协变量平衡损失函数实现可扩展的路径估计，支持弹性网求解器及非光滑惩罚项，用于空间像素级平衡构建合成控制权重。
2026-04-23 stat.CO stat.ME
Doubly robust matching estimators for high dimensional confounding adjustment
根据观察数据有效估计处理效应需要适当控制混杂因素。如果协变量的数量相对于观测值的数量较大，则控制所有可用协变量是不可行的。在稀疏性条件成立的情况下，变量选择或惩罚可以以允许有效估计处理效应的方式降低协变量空间的维度。在这篇文章中，我们提出了估计的倾向得分和估计的预后分数匹配时，协变量的数量相对于观察的数量是大的。我们推导出的匹配估计的渐近结果，并表明它是双重强大的，在这个意义上，只有一个两个得分模型需要是正确的，以获得一个相合估计量。我们通过模拟显示其有效性，在控制混杂和突出其潜力，以解决非线性混杂。最后，我们应用所提出的程序，使用保险索赔数据分析性别对处方阿片类药物使用的影响。
2018-01-10 stat.ME
B-CALM: Bias-Limited Bayesian Borrowing for RCT-Anchored Treatment Effects under Covariate Mismatch
Vanderbilt University Medical Center（范德堡大学医学中心）
研究针对随机对照试验样本小、观察性研究有混杂且协变量部分重叠问题，开发B-CALM方法估计RCT定义的条件平均治疗效果，有偏差函数及理论推导，在多类研究中效果良好。
2026-07-20 stat.ME
Invariant Representation Learning for Treatment Effect Estimation
Columbia University（哥伦比亚大学）；Google Research（谷歌研究院）；The University of Chicago（芝加哥大学）
从观察数据进行因果推断的定义性挑战是存在“混杂因素”，即影响治疗分配和结局的协变量。为了应对这一挑战，从业者收集并调整协变量，希望它们能够充分校正混杂因素。然而，在调整中包括每个观察到的协变量有包括“坏控制”的风险，这些变量在条件下会引起偏差。问题是，我们并不总是知道协变量集中的哪些变量是安全的，哪些不是。为了解决这个问题，我们开发了几乎不变的因果估计（NICE）。NICE使用不变风险最小化（Invariant Risk Minimization，简称Risk Minimization）[Arj19]来学习协变量的表示，在某些假设下，剔除不良对照，但保留足够的信息来调整混杂因素。调整学习的表示，而不是协变量本身，避免了诱导偏差，并提供有效的因果推理。我们在合成和半合成数据合成数据上评估NICE。当协变量包含未知的碰撞器变量和其他不良控制时，NICE的性能优于调整所有协变量。
2021-07-27 cs.LG stat.ML
Causal effect on a target population: a sensitivity analysis to handle missing covariates
随机对照试验（RCT）通常被认为是估计因果效应的金标准，但当符合RCT条件的人群与目标人群存在实质性差异时，RCT可能缺乏外部效度。手头有一个感兴趣的目标人群的样本，使我们能够概括因果效应。识别目标人群中的处理效应需要协变量来捕获在两组之间转移的所有处理效应修饰因子。然后，标准估计使用加权（IPSW），结果建模（G公式），或将两者结合在双重稳健方法（AIPSW）中。然而，这类协变量通常在两组中都不可用。在本文中，证明了这三个估计的L1-一致性后，我们计算的期望偏差引起的缺失协变量，假设高斯分布，连续的结果，和半参数模型。在此设置下，我们对每个缺失协变量模式进行敏感性分析，并计算预期偏倚的符号。我们还表明，在线性插补部分未观察到的协变量没有增益。最后，我们研究了替代缺失的协变量的代理。我们说明了所有这些结果的模拟，以及半合成基准使用的数据从田纳西州的学生/教师的成就比（STAR），和一个现实世界的例子，从重症监护医学。
2023-01-10 stat.ME
Accounting for Missing Covariates in Heterogeneous Treatment Estimation
Carnegie Mellon University（卡内基梅隆大学）
本文针对目标人群存在研究人群中缺失协变量的异质性治疗效应估计问题，提出基于生态推断的部分识别策略和偏差校正估计量，以获得更紧的效应界限并具备快速收敛和渐近正态性保证。
2024-10-21 cs.LG stat.ME
Sufficient Dimension Reduction for Average Causal Effect Estimation
University of South Australia（南澳大学）
具有大量协变量可能对因果效应估计的质量产生负面影响，因为当协变量的数量相对于可用样本较大时，混杂调整变得不可靠。倾向得分是处理大型协变量集的常用方法，但倾向得分估计（通常通过逻辑斯谛回归完成）的准确性也受到大量协变量的挑战。在本文中，我们证明了一个大的协变量集可以减少到一个较低的维表示，捕捉完整的信息调整的因果效应估计。理论结果使有效的数据驱动算法的因果效应估计。提出了一种基于监督核降维方法的协变量降维算法，该算法首先对原协变量进行低维表示，然后在降维后的协变量空间中利用最近邻匹配对反事实结果进行插补，避免了大规模协变量集问题。在两个半合成数据集和三个真实数据集上对所提出的算法进行了评估，结果表明了算法的有效性。
2020-09-14 cs.AI stat.ME
Generative Synthetic Data for Causal Inference: Pitfalls, Remedies, and Opportunities
University of California, Berkeley（加州大学伯克利分校）
本文探讨生成合成数据在因果推断中的局限性，提出混合合成数据框架以提升因果效度，通过实验验证其在不同场景下的优势。
2026-07-17 cs.AI stat.ME stat.ML
Partial Identification with Noisy Covariates: A Robust Optimization Approach
University of California, Berkeley（加州大学伯克利分校）；Columbia University（哥伦比亚大学）；University of Michigan（密歇根大学）
从观测数据集的因果推断通常依赖于测量和调整协变量。在实践中，协变量的测量值通常可能是有噪声和/或有偏差的，或者只有其代理变量的测量值可用。直接调整协变量的这些不完美测量可能导致有偏的因果估计。此外，在没有额外假设的情况下，由于这些测量中的噪声，因果效应是不可识别的。为此，我们在用户指定的噪音水平假设下，研究了给定噪音协变量的因果效应的部分识别。关键的观察是，我们可以制定的平均治疗效果（ATE）的识别作为一个强大的优化问题。这种配方导致一个有效的强大的优化算法，边界的ATE噪声协变量。我们表明，这种强大的优化方法可以扩展广泛的因果调整方法进行部分识别，包括后门调整，逆倾向得分加权，双机器学习，前门调整。在合成和真实数据集上，我们发现这种方法提供了比现有方法更高的覆盖概率的ATE边界。
2022-02-22 cs.LG stat.ME
Doubly robust average treatment effect estimation for survival data
针对生存数据中高维低样本量下的因果推断问题，提出基于惩罚经验似然和协变量平衡倾向得分的双重稳健平均处理效应估计量，具备Oracle性质、稀疏性和渐近正态性。
2025-09-10 stat.ME
Does Misclassifying Non-confounding Covariates as Confounders Affect the Causal Inference within the Potential Outcomes Framework?
Jilin University（吉林大学）；Beihang University（北京航空航天大学）
本文通过统一图形框架定量分析将非混杂协变量误分类为混杂变量对因果推断的影响，发现消除混杂偏差时最优协变量仅为混杂变量，而调整变量有助于反事实推断，并经合成数据实验验证。
2023-09-05 cs.AI cs.LG stat.ME
Causal Inference with High-dimensional Discrete Covariates
Graduate School of Business, Stanford University（斯坦福大学商学院）；Department of Statistics and Data Science, Carnegie Mellon University（卡内基梅隆大学统计与数据科学系）；Courant Institute of Mathematical Sciences and Center for Data Science, New York University（纽约大学柯朗数学科学研究所和数据科学中心）
研究高维离散协变量下因果效应的估计问题，证明常用估计量的均方误差界为d²/n²+1/n，并给出极小化下界，提出利用效应同质性和先验知识的新估计量以加速收敛。
2026-06-19 math.ST stat.ME stat.TH
Outcome-adapted Automatic Debiased Machine Learning
University of Copenhagen（哥本哈根大学）
研究因果推断中感兴趣参数的估计，提出结果自适应自动去偏机器学习估计器，通过保留结果预测能力、丢弃里斯表示相关信息来提高效率，给出神经网络实现并在合成数据和IHDP基准数据集上验证优势。
2026-07-07 math.ST stat.ME stat.ML
Regularization Methods for High-Dimensional Instrumental Variables Regression With an Application to Genetical Genomics
在遗传基因组学研究中，基因表达数据和遗传变异的维数都可能远大于样本量，因此联合分析基因表达数据和遗传变异对于探索基因表达数据和遗传变异与复杂性状之间的关联具有重要意义。受这些现代应用的启发，我们考虑高维稀疏工具变量模型中的变量选择和估计问题。为了克服高维和未知的最佳工具的困难，我们提出了一个两阶段的正则化框架，用于识别和估计重要的协变量效应，同时选择和估计最佳工具。该方法扩展了经典的两阶段最小二乘估计高维利用稀疏性在这两个阶段的稀疏诱导惩罚函数。由此产生的过程是有效地实现了坐标下降优化。对于具有代表性的$L_1$正则化和一类凹正则化方法，我们建立了估计，预测，和模型选择性质的两阶段正则化估计在高维设置，其中协变量和工具的维数都允许指数增长的样本量。所提出的方法的实际性能进行了评估，通过模拟研究和小鼠肥胖数据的分析说明了它的有用性。本文的补充材料可在线获取。
2014-03-18 stat.AP stat.ME
A Technical Exploration of Causal Inference with Hybrid LLM Synthetic Data
本文提出一种混合 LLM 合成数据生成框架，结合协变量合成与倾向性及结果模型，确保因果结构并准确估计平均处理效应，同时引入合成配对策略和评估协议以支持稳健的因果分析。
2025-10-31 cs.AI cs.LG stat.ML
MediEncoder: Nonlinear Representation Learning for High-Dimensional Causal Mediation Analysis
Boston University（波士顿大学）
提出MediEncoder框架，通过耦合编码器-解码器和交叉因子网络学习低维表示，结合交叉拟合高效影响函数估计自然直接和间接效应，实现高维非线性中介分析的多重稳健估计。
2026-07-01 cs.LG math.ST stat.ME
Causal Inference with Noisy and Missing Covariates via Matrix Factorization
Cornell University（康奈尔大学）
观察性研究中有效的因果推断通常需要控制混杂因素。然而，在实践中，混杂因素的测量可能是嘈杂的，并可能导致因果效应的有偏估计。我们表明，我们可以减少测量噪声所造成的偏见，使用大量的噪声测量的潜在混杂因素。我们提出了使用矩阵分解来推断噪声协变量的混杂因素，这是一个灵活和原则性的框架，适用于缺失值，适应各种数据类型，并可以增强许多因果推断方法。我们对诱导的平均处理效应估计量的误差进行了限制，并使用指数族矩阵完备化预处理，证明了它在线性回归设置中是一致的。我们证明了所提出的方法的有效性，在数值实验与合成数据和真实的临床数据。
2018-06-03 cs.LG stat.ML
Local Projections Inference with High-Dimensional Covariates without Sparsity
本文提出一种基于OGA+HDAIC的局部投影方法，在不依赖稀疏性假设下纳入高维协变量，提升因果推断稳健性，并通过模拟与实证验证其优于传统LP和LASSO方法。
2024-10-03 econ.EM
Benign Overfitting of Non-Sparse High-Dimensional Linear Regression with Correlated Noise
研究了存在内生性的非稀疏高维线性回归问题，提出无正则化估计量在协方差矩阵特征值条件下可实现良性过拟合，并利用凸高斯极小极大定理（CGMT）提供理论证明与扩展。
2023-10-20 math.ST stat.TH
Local Learning for Covariate Selection in Nonparametric Causal Effect Estimation with Latent Variables
Department of Applied Statistics, Beijing Technology and Business University（应用统计系，北京技术与商业大学）；SIAT, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）
针对潜变量存在下非参数因果效应估计的协变量选择问题，提出利用可观测变量间可检验关系进行局部学习的有效且完备的方法，并通过合成与真实数据实验验证其有效性。
2025-10-27 cs.LG math.ST stat.ML
Transfer Learning for Meta-analysis Under Covariate Shift
Georgia Institute of Technology（佐治亚理工学院）
本文提出一种基于安慰剂锚定的迁移框架，通过将源试验结果作为代理信号和目标试验安慰剂结果作为高保真标签，校准基线风险。该方法在小样本情况下表现优异，尤其在连接目标设置中优于现有方法。
2026-04-06 cs.LG stat.ML
Estimating Conditional Average Treatment Effects with Missing Treatment Information
ETH Zurich（苏黎世联邦理工学院）；LMU Munich（慕尼黑大学）
本文针对治疗信息缺失下的条件平均治疗效应估计问题，识别出两类协变量偏移，提出基于领域自适应学习平衡表示的MTRNet算法，并在半合成与真实数据上显著超越现有方法。
2023-04-16 cs.LG stat.ML
Counterfactual and Synthetic Control Method: Causal Inference with Instrumented Principal Component Analysis
本研究提出一种基于工具变量主成分分析的反事实与合成控制因果推断方法，用预测协变量工具化因子载荷，可处理高维数据、降低模型误设风险与偏差，并用于评估英国脱欧对英外国直接投资的影响。
2024-09-14 econ.EM
Synthetic Potential Outcomes and Causal Mixture Identifiability
Eric and Wendy Schmidt Center（埃里克和温迪·施密特中心）；Broad Institute of MIT and Harvard（麻省理工学院与哈佛大学布罗德研究所）；Laboratory for Information and Decision Systems（信息与决策系统实验室）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
该研究针对异质性数据的分组问题，提出基于干预因果响应的分组方式，通过可观测数据的高阶多线性矩从反事实分布合成采样，并构建了混合可识别性层级体系以明确因果混合与经典概念的关联。
2024-12-13 cs.LG econ.EM stat.ME
Oracle Estimation of a Change Point in High Dimensional Quantile Regression
本文考虑了一个高维分位数回归模型，其中两个子总体之间的稀疏结构可能不同。我们开发了回归系数和阈值参数的$\ell_1$惩罚估计。我们的惩罚估计不仅选择协变量，而且还区分具有齐次稀疏性的模型和具有变点的模型。因此，不需要知道或预先测试变化点是否存在或发生在哪里。我们的估计的变点实现了一个预言性质的意义上说，它的渐近分布是相同的，如果未知的活动集的回归系数是已知的。重要的是，我们建立这个预言属性没有一个完美的协变量的选择，从而避免了需要的最低水平条件的信号，积极的协变量。由于分位数损失函数是非光滑的，而且相应的目标函数关于变点是非凸的，因此需要一种新的证明方法来处理变点未知的高维分位数回归。在本文中开发的技术是适用于一个一般的M-估计框架的变化点，这可能是独立的利益。所提出的方法，然后说明通过蒙特卡罗实验和应用程序的种族隔离的动态小费。
2016-12-16 econ.EM stat.ME
Constructing an Instrument as a Function of Covariates
该研究针对用协变量非线性变换构建工具变量的常见实证做法，分析轻度模型误设下IV估计的可靠性，发现此类估计可能存在任意偏差且对真实结构的非线性不稳健。
2025-06-16 econ.EM
