Distilling interpretable causal trees from causal forests
POLIS: The Centre for Social Policy and Research(POLIS:社会政策与研究中心);Australian National University(澳大利亚国立大学)
本文提出 Distilled Causal Tree,从因果森林蒸馏单棵可解释因果树,在噪声或高维相关特征场景下多数模拟优于原因果森林,并保持双重稳健与渐近正态。
2024-08-02 cs.LG econ.EM
Variable Selection for Causal Inference via Outcome-Adaptive Random Forest
如果我们不控制自我选择,那么从观察数据中估计因果效应可能会有偏差。该选择基于影响治疗分配和结局的混杂变量。倾向评分方法旨在校正混杂因素。然而,并非所有协变量都是混杂因素。我们提出的结果自适应随机森林(OARF),只包括期望的变量估计的倾向得分,以减少偏差和方差。我们的方法适用于高维数据集,如果结果和倾向评分模型是非线性的,可能很复杂。OARF排除了与结果无关的协变量,即使存在大量虚假变量。仿真结果表明,OARF产生无偏估计,有一个较小的方差,是优于其他方法相比,在变量选择。从两个经验性的例子,右心导管插入术对死亡率的影响和母亲在怀孕期间吸烟对出生体重的影响,结果显示类似的处理效应,以前的研究结果,但更严格的置信区间和更合理的选择变量。
2021-09-09 econ.EM
Median-based Splitting Rules for Causal Trees and Forests
University of Duisburg-Essen(杜伊斯堡-埃森大学);Ruhr Graduate School in Economics (RGS Econ)(鲁尔经济学研究生院);Research Academy Ruhr(鲁尔研究学院)
针对重尾和偏态结果,提出基于中位数的分裂准则(MSD),在因果树/森林中替代均方误差,提升条件平均处理效应估计的稳健性,并通过模拟和两个实证应用验证。
2026-09-09 econ.EM
Shrinkage Bayesian Causal Forest with Instrumental Variable
University of Duisburg-Essen(杜伊斯堡-埃森大学);Faculty of Business Administration and Economics(经济与商业学院)
针对稀疏高维工具变量分析,提出收缩贝叶斯因果森林SBCF-IV,通过稀疏先验和CART成本引导发现异质性依从者效应亚组,实验证明优于BCF-IV。
2026-09-17 econ.EM
On the adaptation of causal forests to manifold data
本文证明因果森林能适应未知协变量流形结构,在估计条件平均处理效应时达到最优收敛速率,维度自动由流形维度替代。
2023-12-26 econ.EM math.ST stat.TH
Comprehensive Causal Machine Learning
针对多处理设置中不同粒度因果效应估计问题,比较改进因果森林(mcf)、广义随机森林(grf)和双重机器学习(dml),明确各方法适用场景并证明mcf的理论保证,为决策者提供更优因果效应估计工具。
2025-02-14 econ.EM
Causal Inference for Survival Analysis
在本文中,我们提出了使用因果推断技术的生存函数估计和预测的数据,直到个别单位的子群。树集成的方法,特别是随机森林进行了修改,用于此目的。使用真实世界的医疗保健数据集,约1800例乳腺癌患者,其中有多个患者协变量以及无病生存期(DFS)和死亡事件二元指标(y)。我们使用癌症治疗干预的类型作为治疗变量(T=0或1,在我们的示例中为二元治疗病例)。该算法是一个2步法。在步骤1中,我们使用以DFS为因变量的因果树估计异质性处理效应。接下来,在步骤2中,对于具有明显不同的平均处理效应(关于存活)的银杏树的每个选择的叶,我们将存活森林拟合到该叶中的所有患者,对于治疗T=0以及T=1各拟合一个森林,以获得每个治疗的估计的患者水平存活曲线(更一般地,在该步骤中可以使用任何模型)。然后,我们减去患者水平生存曲线,以获得给定患者的微分生存曲线,以比较2种治疗的生存函数。到所选叶的路径还为我们提供了患者特征及其值的组合,这些特征及其值对于叶处的处理效应差异具有重要的因果关系。
2018-03-22 econ.EM
Estimating Heterogeneity in Travel Mode Choice Shifts with Causal Forests
Center for Urban Science and Progress, Tandon School of Engineering New York University(纽约大学坦登工程学院城市科学与工程中心)
本研究将因果森林应用于全国家庭出行调查数据,量化新冠疫情对出行方式选择的异质性因果效应,发现汽车出行占比上升,短途、高收入家庭及女性群体增幅最大,为交通政策制定提供依据。
2026-08-06 econ.EM stat.AP stat.ME
Attenuated Heterogeneity in Fixed-Effects Causal Forests, and a Cross-Fitted Correction
Amazon Web Services(亚马逊云科技)
研究固定效应面板设置中因果森林估计条件平均治疗效果时异质性衰减问题,刻画其随设计变化情况,提出用Chernozhukov等人的校准方法补救,模拟和实际应用中均有效果,方法集成到Python包。
2026-07-28 econ.EM stat.ML
Modelling hetegeneous treatment effects by quantitle local polynomial decision tree and forest
为了进一步发展异质处理效应的统计推断问题,本文建立在Breiman(2001)的随机森林树(RFT)和Wager等人。的(2018年)因果树使用经典OLS的优秀统计特性和基于协变量分位数点的局部线性区间划分来参数化非参数问题,同时保留具有可构造置信区间和渐近正态性优点的随机森林树[Athey和Imbens(2016年),Efron(2014年),Wager等人。(2014)\citep{wager2014asymptotic} ]中,我们提出了一种使用根据固定规则的分位数分类与局部样本的多项式估计相结合的决策树,我们称之为分位数局部线性因果树(QLPRT)和森林(QLPRF)。
2022-03-13 econ.EM stat.ML
Achieving Reliable Causal Inference with Data-Mined Variables: A Random Forest Approach to the Measurement Error Problem
University of Minnesota, Carlson School of Management(明尼苏达大学卡尔森管理学院)
将机器学习与计量经济学分析相结合在研究和实践中变得越来越普遍。一个常见的实证策略涉及应用预测建模技术从现有数据中“挖掘”感兴趣的变量,然后将这些变量纳入计量经济学框架,目的是估计因果效应。最近的工作强调,由于机器学习模型的预测不可避免地是不完美的,基于预测变量的计量经济学分析可能会因测量误差而产生偏差。我们提出了一种新的方法来减轻这些偏见,利用集成学习技术称为随机森林。我们建议采用随机森林不仅用于预测,而且用于生成工具变量,以解决嵌入在预测中的测量误差。随机森林算法在由一组树组成时表现最好,这些树在其预测中各自准确,但也会犯“不同”的错误,即,具有弱相关的预测误差。一个关键的观察是,这些属性是密切相关的有效工具变量的相关性和排除要求。我们设计了一个数据驱动的程序来从随机森林中选择个体树的元组,其中一棵树作为内生协变量,其他树作为其工具。仿真实验表明,所提出的方法在减轻估计偏差和其优越的性能比三种替代方法的偏差校正的有效性。
2020-12-19 cs.CY cs.LG econ.EM
Causal-Policy Forest for End-to-End Policy Learning
本文提出因果政策森林算法,通过端到端方法提升策略学习效果,实现CATE估计与策略学习的结合。
2025-12-28 cs.LG econ.EM math.ST
A Fixed-Effects Causal Forest for Staggered Adoption, with an Application to Medicaid Expansion
Amazon Web Services(亚马逊云服务)
研究交错采用的协变量条件平均治疗效果估计问题,提出用固定效应因果森林估计,在每个树节点内差分单位和时期效应消除混杂,蒙特卡罗实验验证其有效性,应用于医疗补助扩展取得未参保率下降等成果。
2026-07-28 econ.EM stat.ML
A Large-Scale Empirical Comparison of Meta-Learners and Causal Forests for Heterogeneous Treatment Effect Estimation in Marketing Uplift Modeling
本文通过Criteo Uplift v2.1数据集对比四种CATE估计器,发现S-Learner在Qini系数上表现最佳,且在提升转化率方面有显著提升,同时揭示了异质治疗效应的主要驱动因素。
2026-04-07 cs.LG econ.EM stat.CO
Orthogonal Random Forest for Causal Inference
Microsoft Research–New England(微软研究院-新英格兰分院);University of Minnesota–Twin Cities(明尼苏达大学-双城分校)
我们提出了正交随机森林,这是一种将奈曼正交性与广义随机森林相结合以降低关于滋扰参数的估计误差的灵敏度的算法(Athey等人,2017)--一种灵活的非参数方法,用于使用随机森林对条件矩模型进行统计估计。我们提供了一个一致率,并建立渐近正态性我们的估计。我们表明,在温和的假设下的滋扰估计的一致性率,我们可以实现相同的出错率作为一个甲骨文与这些滋扰参数的先验知识。我们表明,当滋扰功能有一个局部稀疏参数化,然后一个本地$\ell_1$惩罚回归达到所需的速度。我们应用我们的方法来估计异质性治疗效果的观察数据与离散治疗或连续治疗,我们表明,与以前的工作不同,我们的方法可证明允许控制一组高维变量在标准稀疏条件下。我们还提供了一个全面的经验评估我们的算法在合成和真实数据。
2019-09-25 cs.LG econ.EM math.ST
Estimating Heterogeneous Causal Effects with Tree-Based Methods under Imperfect Compliance
University of Duisburg-Essen(杜伊斯堡-埃森大学)
针对不完全依从场景,提出两种非贝叶斯树方法(DRRF-IV和GRF-IV)估计条件依从者平均因果效应,模拟显示性能与BCF-IV相当且计算更快,并应用于ICU及时入院对死亡率影响的子组分析。
2026-09-29 econ.EM stat.ME
United in Currency, Divided in Growth: Dynamic Effects of Euro Adoption
Amazon Web Services(亚马逊云服务)
欧元采用对长期经济增长有负面影响,通过因果森林固定效应方法发现其平均减少GDP增长0.3-0.4个百分点,并揭示国家特征对货币联盟影响的重要性。
2026-01-28 econ.EM
Empirical Likelihood for Random Forests and Ensembles
Department of Economics University of Wisconsin–Madison(威斯康星大学麦迪逊分校经济系);Graduate School of Economics Hitotsubashi University(早稻田大学经济学研究生院);Department of Economics London School of Economics(伦敦经济学院经济系)
本文针对随机森林及集成方法的统计不确定性量化问题,利用其预测的不完全U统计量结构构建经验似然框架,提出修正版本解决稀疏子采样下的过覆盖问题,验证了其覆盖率准确、计算高效且可靠。
2025-11-17 cs.LG econ.EM math.ST
Local Linear Forests
LinkedIn(领英)
随机森林是非参数回归的一种强大方法,但其拟合平滑信号的能力有限,并且在存在强平滑效应的情况下可能显示出较差的预测性能。从随机森林作为自适应核方法的角度来看,我们将森林核与局部线性回归调整配对,以更好地捕获平滑度。由此产生的程序,局部线性森林,使我们能够提高渐近收敛速度的随机森林与光滑信号,并提供了大量的收益,在真实和模拟数据的准确性。我们证明了一个中心极限定理有效的正则条件下的森林和光滑约束,并提出了一个计算效率高的置信区间的建设。移动到一个因果推断的应用程序,我们讨论了异质处理效应估计的本地回归调整的优点,并给出一个例子的数据集上探索字的选择对社会安全网的态度的影响。最后,我们包括模拟结果的真实和生成的数据。
2020-09-04 cs.LG econ.EM math.ST
Priority to unemployed immigrants? A causal machine learning evaluation of training in Belgium
基于比利时失业人员的行政数据,我们使用修正的因果森林(一种因果机器学习估计器)估计了三个培训项目在不同聚合水平下对劳动力市场的影响。虽然所有方案在锁定期后都有积极的影响,但我们发现方案和失业者之间存在很大的异质性。模拟显示,将失业者重新分配到最大化个人收益的计划中的“黑箱”规则可以大大提高效率:在30个月的窗口内,就业(不)时间增加(减少)20%。浅层策略树提供了一个简单的规则,实现了大约70%的收益。
2022-12-17 econ.EM econ.GN q-fin.EC
Local conformal prediction for individual causal effects
Universidad Nacional del Sur(南方大学);CONICET(阿根廷国家科学研究委员会)
针对强处理效应异质性下标准CATE估计器失效问题,提出ICP框架,结合因果森林等技术构造有效共形区间,在高异质性合成数据和IHDP基准上验证了局部策略的精度与覆盖率优势。
2026-10-21 econ.EM stat.ME
RieszNet and ForestRiesz: Automatic Debiased Machine Learning with Neural Nets and Random Forests
Massachusetts Institute of Technology(麻省理工学院);Microsoft Research New England(微软新英格兰研究院)
许多利益的因果和政策效应是由高维或非参数回归函数的线性泛函定义的。$\sqrt{n}$ -对感兴趣对象的一致和渐近正态估计需要去偏,以减少正则化和/或模型选择对感兴趣对象的影响。去偏通常通过向泛函的插入估计器添加校正项来实现,这导致诸如半参数效率、双鲁棒性和奈曼正交性等属性。我们实现了一个自动去偏过程的基础上自动学习的Riesz表示的线性功能,使用神经网络和随机森林。我们的方法只依赖于黑盒评估Oracle访问的线性功能,并不需要其解析形式的知识。我们提出了一个多任务神经网络去偏方法与随机梯度下降最小化的组合Riesz代表和回归损失,同时共享表示层的两个功能。我们还提出了一个随机森林方法,学习的Riesz函数的局部线性表示。尽管我们的方法适用于任意泛函,但我们通过实验发现,对于平均治疗效果泛函的情况,与Shi等人(2019)基于神经网络的最新算法相比,它表现良好。我们还评估了我们的方法估计平均边际效应的问题,连续治疗,使用半合成数据的汽油价格变化对汽油需求。
2022-06-15 cs.LG econ.EM stat.ML
Automatic Debiased Machine Learning of Causal and Structural Effects
许多因果和结构效应依赖于回归。例子包括政策效应、平均衍生工具、回归分解、平均治疗效应、因果中介和经济结构模型的参数。回归可能是高维的,这使得机器学习很有用。将机器学习器插入到识别方程中可能会导致由于正则化和/或模型选择的偏差而导致的不良推断。本文给出了线性和非线性回归函数的自动去偏方法。在使用Lasso和感兴趣的函数时,去偏置是自动的,而不需要完整形式的偏置校正。去偏可以应用于任何回归学习器,包括神经网络,随机森林,Lasso,boosting和其他高维方法。除了提供的偏差校正,我们给出了标准误差,是强大的误设定,收敛速度的偏差校正,和原始条件的渐近推断估计的各种估计的结构和因果关系的影响。自动去偏机器学习用于估计新南威尔士州工作培训数据对接受治疗者的平均治疗效果,并根据尼尔森扫描仪数据估计需求弹性,同时允许偏好与价格和收入相关。
2022-10-21 econ.EM math.ST stat.TH
Accuracy Limits of Causal Trees for Individualized Treatment Effects
Princeton University(普林斯顿大学)
本文研究了基于自适应递归划分的因果树估计器,推导了其估计精度的下界,指出即使在随机分配的常数效应基准下,标准CART型划分规则构建的因果树在样本空间上的一致误差仍可能以比样本规模的任何幂更慢的速度下降,且样本划分无法消除这一限制。
2026-06-03 econ.EM math.ST stat.ME