Graph-Split Bayesian Causal Forest for Spatial Heterogeneous Treatment Effect Estimation
Texas A&M University(德克萨斯农工大学);Shell USA Inc(壳牌美国公司)
针对空间观测研究中处理效应随空间变化且受空间混杂影响的问题,提出图分裂贝叶斯因果森林(GSBCF),融合GS-BART与贝叶斯因果森林框架,通过图引导分裂规则建模空间结构,实现更精确的HTE估计与不确定性量化。
2026-09-30 stat.ME stat.ML
GCF: Generalized Causal Forest for Heterogeneous Treatment Effect Estimation in Online Marketplace
Didi Chuxing(滴滴出行);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
可持续性建模是一种快速发展的方法,它利用因果推断和机器学习方法直接估计异质处理效应,近年来已广泛应用于各种在线市场,以辅助大规模决策。现有的流行模型,如因果森林(CF),是有限的,要么离散的治疗或提出参数假设的结果,治疗关系,可能遭受模型误指定。然而,连续治疗(例如,价格、期限)经常出现在市场上。为了减轻这些限制,我们使用基于核的双重鲁棒估计恢复非参数剂量反应函数,可以灵活地模拟连续的处理效应。此外,我们提出了一个通用的基于距离的分裂标准,以捕捉连续治疗的异质性。我们称该算法为广义因果森林(GCF),因为它将CF的用例推广到更广泛的设置。我们证明了GCF的有效性,通过推导估计量的渐近性质,并将其与合成数据集和真实数据集上流行的隆升建模方法进行比较。我们在Spark上实现了GCF,并成功地将其部署到一家领先的乘车共享公司的大规模在线定价系统中。在线A/B测试结果进一步验证了GCF的优越性。
2022-09-23 cs.LG stat.AP stat.ME
What Makes Forest-Based Heterogeneous Treatment Effect Estimators Work?
本文统一因果森林与基于模型的森林,在L2加性模型框架下剖析其计算要素,并通过随机与观察性基准发现处理指标的倾向评分局部中心化是抗混杂性能关键。
2023-12-20 stat.ME stat.ML
Modified Causal Forests for Estimating Heterogeneous Causal Effects
揭示政策和业务决策在不同粒度级别的因果效应的异质性,为决策者提供了大量的价值。本文通过在多个维度上修改Wager和Athey(2018)提出的因果森林方法,在选择可观察量框架中为多个治疗模型开发了新的估计和推理程序。新的估计量具有理想的理论,计算和实践性质的因果效应的各种聚集水平。虽然经验蒙特卡罗研究表明,他们优于以前建议的估计,应用到积极的劳动力市场方案的评价显示的应用研究的新方法的价值。
2019-07-05 econ.EM stat.ML
Unsupervised dense random survival forests identify interpretable patient profiles with heterogeneous treatment benefit
The University of Texas MD Anderson Cancer Center(德克萨斯大学安德森癌症中心);Amgen(安进);Telperian(特尔佩里安)
本文提出无监督的密集随机生存森林方法,用于识别具有异质治疗效益的患者亚组,通过模拟和临床试验验证其有效性。
2026-01-04 stat.ME
A Large-Scale Empirical Comparison of Meta-Learners and Causal Forests for Heterogeneous Treatment Effect Estimation in Marketing Uplift Modeling
本文通过Criteo Uplift v2.1数据集对比四种CATE估计器,发现S-Learner在Qini系数上表现最佳,且在提升转化率方面有显著提升,同时揭示了异质治疗效应的主要驱动因素。
2026-04-07 cs.LG econ.EM stat.CO
Targeted Smooth Bayesian Causal Forests: An analysis of heterogeneous treatment effects for simultaneous versus interval medical abortion regimens over gestation
我们介绍了目标平滑贝叶斯因果森林(tsBCF),一种非参数贝叶斯方法,用于估计异质性处理效应,这些效应在观察数据设置中的单个协变量上平滑变化。tsBCF方法通过使用平滑函数对终端树节点进行参数化来诱导平滑,并允许对对照协变量的处理效应与预后效应进行单独的正则化。可以选择用于预后和处理效应的平滑参数以反映先验知识或以数据依赖的方式进行调整。我们使用tsBCF来分析一种新的早期药物流产的临床方案。我们的目的是评估相对有效性的同时与间隔管理米非司酮和米索前列醇在怀孕的前9周。该模型反映了我们的预期,即相对有效性在妊娠期平稳变化,但不一定超过其他协变量。我们展示了性能的tsBCF方法的基准测试实验。可在https://github.com/jestarling/tsbcf/上获得tsBCF软件。
2020-02-23 stat.AP
Targeting relative risk heterogeneity with causal forests
Department of Statistics, University of Oxford(牛津大学统计系);Novo Nordisk A/S(诺和制药)
本文改进因果森林的节点分裂准则,通过穷举广义线性模型比较靶向相对风险,从而识别被绝对风险掩盖的处理效应异质性,并在模拟和利拉鲁肽糖尿病试验数据中验证。
2025-06-08 cs.LG stat.ME stat.ML
Forests for Differences: Robust Causal Inference Beyond Parametric DiD
Institute of Mathematics and Computer Sciences at University of São Paulo, Brazil(巴西圣保罗大学数学与计算机科学学院)
本文提出非参数DiD-BCF模型,通过基于PTA的重新参数化统一估计ATE、GATE和CATE,并在模拟及美国最低工资政策应用中展现出处理非线性、选择偏差与效应异质性的优势。
2025-06-09 cs.LG stat.ME stat.ML
Bayesian regression tree models for causal inference: regularization, confounding, and heterogeneous effects
本文提出了一种新的非线性回归模型,用于从观察数据中估计异质性处理效应,特别适用于效应量小、异质性效应和强混杂的情况。标准的非线性回归模型,可以很好地预测,有两个显着的弱点时,用于估计异质性处理效应。首先,当拟合具有强混杂的数据时,它们可能产生严重偏倚的处理效应估计值。本文提出的贝叶斯因果森林模型通过直接将倾向函数的估计值引入响应模型的规范中来避免这个问题,隐式地在回归函数上诱导协变量依赖的先验。其次,响应面建模的标准方法不能充分控制效应异质性的正则化强度。贝叶斯因果森林模型允许将处理效应异质性与控制变量的预后效果分开进行正则化,从而可以在信息上“缩小到同质性”。我们通过重新分析一项评估吸烟对医疗支出的因果影响的观察性研究以及广泛的模拟研究来说明这些好处。
2019-11-13 stat.ME
Heterogeneous causal effects with imperfect compliance: a Bayesian machine learning approach
Harvard University(哈佛大学);KU Leuven(鲁汶大学);IMT School for Advanced Studies(IMT高等研究院)
本文介绍了一种创新的贝叶斯机器学习算法,用于在存在不完美依从性的情况下(例如,不定期分配机制)。我们表明,通过蒙特卡罗模拟,提出的贝叶斯因果森林与工具变量(BCF-IV)的方法优于其他机器学习技术的因果推断中发现和估计的异质因果效应,同时控制familywise错误率(或-不太严格-为错误发现率)在叶子的水平。第四个生物多样性合作框架揭示了工具变量假设情景中因果效应的异质性,从而为决策者提供了有针对性的政策的相关工具。其实证应用评估的影响,额外的资金对学生的表现。研究结果显示,BCF-IV可用于提高学校资助对学生表现的有效性。
2021-11-30 cs.LG stat.ME stat.ML
Estimating Heterogeneous Causal Effects with Tree-Based Methods under Imperfect Compliance
University of Duisburg-Essen(杜伊斯堡-埃森大学)
针对不完全依从场景,提出两种非贝叶斯树方法(DRRF-IV和GRF-IV)估计条件依从者平均因果效应,模拟显示性能与BCF-IV相当且计算更快,并应用于ICU及时入院对死亡率影响的子组分析。
2026-09-29 econ.EM stat.ME
causalfe: Causal Forests with Fixed Effects in Python
Amazon Web Services(亚马逊云服务)
causalfe通过Python实现带有固定效应的因果森林,解决面板数据中处理效应估计的异质性问题,通过残差化技术提升估计精度。
2026-01-15 econ.EM stat.ML
Personalized Assignment to One of Many Treatment Arms via Regularized and Clustered Joint Assignment Forests
University of Michigan(密歇根大学);Stanford University(斯坦福大学);University of Pennsylvania(宾夕法尼亚大学);New York University(纽约大学)
本文针对多治疗臂个性化分配问题,提出正则化森林分配算法并结合聚类方案以跨臂汇集信息,从而在大量治疗臂场景下提升分配效用。
2023-11-01 cs.LG econ.EM stat.ME
Estimating Treatment Effect Heterogeneity in Psychiatry: A Review and Tutorial with Causal Forests
本文提供基于R包grf中causal forest算法的异质性治疗效应估计教程,涵盖方法概述、算法逻辑、美军士兵压力复原力二次分析实例及模型评估方法,并附复现脚本。
2024-12-14 stat.AP
On the Pointwise Behavior of Recursive Partitioning and Its Implications for Heterogeneous Causal Effect Estimation
Princeton University(普林斯顿大学);Two Sigma Investments, LP(Two Sigma投资公司)
本文证明自适应递归划分的决策树在一致范数下可能无法达到多项式收敛速率,而随机森林通过子采样和随机特征选择机制可实现接近最优的逐点推断性能。
2024-02-07 cs.LG math.ST stat.ML
Deep Learning for Causal Inference: A Comparison of Architectures for Heterogeneous Treatment Effect Estimation
本文提出 Bayesian Causal Forest 算法的全连接神经网络实现,用于异质性处理效应估计,并在模拟数据和压力影响睡眠的数据集中验证其性能提升。
2024-05-06 cs.LG stat.ML
Heterogeneous Wasserstein Discrepancy for Incomparable Distributions
Université de Technologie de Compiègne(贡比涅技术大学);INSA-Rouen(鲁昂国立应用科学学院);Université de Rouen Normandie(鲁昂诺曼底大学);Criteo AI Lab(Criteo人工智能实验室)
最优传输(OT)度量允许定义两个概率度量之间的差异。Wasserstein距离是在文献中经常使用的著名的OT距离,它寻求在$\textit{same}$度量空间上支持的概率分布。由于其高计算复杂性,已经提出了几个近似的Wasserstein距离的熵正则化或切片的基础上,一维Wasserstein计算。在本文中,我们提出了一种新的扩展Wasserstein距离比较两个不可比的分布,这取决于$\textit{distributional slicing}$的想法,嵌入,并计算封闭形式的Wasserstein距离之间的切片分布。我们提供了一个新的分歧,称为$\textit{heterogeneous Wasserstein discrepancy (HWD)}$的理论分析,我们表明,它保留了几个有趣的属性,包括旋转不变性。我们表明,嵌入HWD中涉及的可以有效地学习。最后,我们提供了大量的实验来说明HWD在生成建模和查询框架中的行为。
2021-10-12 cs.LG stat.ML
Wasserstein-Splitting Gaussian Process Regression for Heterogeneous Online Bayesian Inference
Virginia Polytechnic Institute and State University(弗吉尼亚理工学院暨州立大学);U.S. Army Research Laboratory(美国陆军研究实验室)
高斯过程(Gaussian processes,GP)是一种著名的非参数贝叶斯推断技术,但对于大样本量,GP存在可扩展性问题,对于非平稳或空间异构数据,GP的性能会降低。在这项工作中,我们试图克服这些问题,通过(i)采用变分自由能近似的GP与在线期望传播步骤的串联操作;和(ii)引入一个本地分裂步骤,每当后验分布变化显着量化的Wasserstein度量超过后验分布,实例化一个新的GP。然后,随着时间的推移,这产生了稀疏GP的集合,其可以增量地更新,并且适应训练数据中的局部性、异质性和非平稳性。
2021-07-26 cs.LG stat.ML
Variable importance for causal forests: breaking down the heterogeneity of treatment effects
本文针对因果森林的黑箱局限,提出一种基于“丢弃并重新学习”原则的变量重要性算法,用于量化各输入对处理效应异质性的影响,并通过修正项处理混杂变量,实验证明其性能优于竞争方法且可扩展到变量组。
2023-08-07 stat.ML
Orthogonal Random Forest for Causal Inference
Microsoft Research–New England(微软研究院-新英格兰分院);University of Minnesota–Twin Cities(明尼苏达大学-双城分校)
我们提出了正交随机森林,这是一种将奈曼正交性与广义随机森林相结合以降低关于滋扰参数的估计误差的灵敏度的算法(Athey等人,2017)--一种灵活的非参数方法,用于使用随机森林对条件矩模型进行统计估计。我们提供了一个一致率,并建立渐近正态性我们的估计。我们表明,在温和的假设下的滋扰估计的一致性率,我们可以实现相同的出错率作为一个甲骨文与这些滋扰参数的先验知识。我们表明,当滋扰功能有一个局部稀疏参数化,然后一个本地$\ell_1$惩罚回归达到所需的速度。我们应用我们的方法来估计异质性治疗效果的观察数据与离散治疗或连续治疗,我们表明,与以前的工作不同,我们的方法可证明允许控制一组高维变量在标准稀疏条件下。我们还提供了一个全面的经验评估我们的算法在合成和真实数据。
2019-09-25 cs.LG econ.EM math.ST
Assessment of Heterogeneous Treatment Effect Estimation Accuracy via Matching
我们研究了异质性处理效应(HTE)估计的准确性评估,其中HTE不可直接观察,因此预测误差的标准计算不适用。为了解决这个问题,我们提出了一种评估方法,通过构建伪观测的HTE匹配的基础上。我们的贡献是三方面的:第一,我们引入了一种新的匹配距离来自随机森林中的邻近分数;第二,我们制定的匹配问题作为一个平均的最小成本流问题,并提供了一个有效的算法;第三,我们提出了一个匹配,然后分裂原则的评估与交叉验证。我们证明了评估方法对合成数据和从真实数据集生成的数据的有效性。
2020-03-09 stat.AP stat.ME
Causal Survival Forests with Negative Controls
University of Southern California(南加州大学);NEC Labs America(NEC美国实验室)
该研究将因果生存森林与负对照结合,提出NC-CSF用于生存分析的异质性处理效应估计,经模拟与临床数据集验证,其可降低偏差、提升鲁棒性并揭示新的处理效应异质性模式。
2026-08-25 stat.ME
A nonparametric Bayesian analysis of heterogeneous treatment effects in digital experimentation
随机对照试验在互联网公司如何预测政策决策和产品变化的影响方面发挥着重要作用。在这些“数字实验”中,不同的单位(人、设备、产品)对治疗的反应不同。本文提出了一种快速和可扩展的贝叶斯非参数分析的异质性处理效应和他们的测量可观察到的协变量。通过线性投影和非线性回归树(CART和随机森林),提供了量化与处理效应测量相关的不确定性的新结果和算法。对于线性预测,我们的推理策略导致的结果,大多是在与那些从频率论文献。我们发现处理效应平均值的线性回归调整(即,后分层)可以提供一定的方差减小,但是这种减小在数字实验的低信号和大样本设置中将非常小。对于回归树,我们为通常应用于树拟合的机器学习算法提供了不确定性量化。我们认为,从业者应该看看合奏的树木(森林),而不是个别树木在他们的分析。通过一个涉及2100万独立用户的EBay.com的示例实验,应用和说明的想法。
2015-12-18 stat.AP
LongBet: Heterogeneous Treatment Effect Estimation in Panel Data
提出基于贝叶斯因果森林的半参数方法LongBet,无需平行趋势假设即可估计面板数据中的异质处理效应,并提供不确定性量化和条件平均处理效应估计。
2024-06-04 stat.ME
BENK: The Beran Estimator with Neural Kernels for Estimating the Heterogeneous Treatment Effect
Peter the Great St.Petersburg Polytechnic University(彼得大帝圣彼得堡理工大学)
提出了一种在截尾时间-事件数据条件下估计条件平均治疗效应的方法--神经核Beran估计方法。该方法背后的主要思想是应用Beran估计估计控制和治疗的生存函数。代替Beran估计器中的典型核函数,提出了以称为神经核的特定形式的神经网络的形式来实现核。条件平均治疗效果估计通过使用的生存函数作为控制和治疗神经网络的结果,其中包括一组共享参数的神经内核。神经核更灵活,可以准确地模拟特征向量的复杂位置结构。各种数值模拟实验说明了BENK,并将其与著名的T-学习者,S-学习者和X-学习者进行比较,用于基于Cox模型,随机生存森林和具有高斯核的Nadaraya-Watson回归的几种类型的控制和治疗结果函数。所提出的实现BENK的算法的代码可在https://github.com/Stasychbr/BENK中获得。
2022-11-19 cs.LG stat.ML
Hybrid Censored Quantile Regression Forest to Assess the Heterogeneous Effects
在许多应用中,对删失响应变量的异质处理效应是主要关注的,并且很自然地评估不同分位数的效应(例如,中位数)。大量的潜在效应修饰因子、处理效应的未知结构以及右删失的存在构成了重大挑战。在本文中,我们开发了一个混合森林方法称为混合删失分位数回归森林(HCQRF),以评估异质性的影响,随着高维变量。混合估计方法利用随机森林和删失分位数回归。我们提出了一个双加权估计过程,包括一个再分布的质量权重来处理审查和一个自适应最近邻权重来自森林处理高维效应函数。我们提出了一个变量的重要性分解来衡量一个变量对处理效应函数的影响。大量的仿真研究证明了HCQRF的有效性和稳定性。仿真研究的结果也证明了变量重要性分解的有效性。我们将HCQRF应用于结直肠癌的临床试验。我们实现了有见地的估计的处理效应和有意义的变量重要性的结果。变量重要度的计算结果也证实了分解的必要性。
2022-12-12 stat.ME stat.ML
Distributional Split Criteria for Random Forests: Extensions, Shrinkage, and the Robustness of Mean Splitting
研究随机森林的分布分裂准则,实现并研究了多个准则及森林权重收缩方法。通过多种比较刻画其适用情况,发现普通各向同性MMD较优,标量回归中均值分裂稳健,多变量响应时分布分裂作用明显,支持简单分配观点,相关内容在开源库中实现。
2026-07-28 cs.LG stat.ME stat.ML
Heterogeneous Quantile Treatment Effect Estimation for Longitudinal Data with High-Dimensional Confounding-v2
East China Normal University(华东师范大学);The Chinese University of Hong Kong(香港中文大学);Eli Lilly and Company(礼来公司)
本文针对高维混杂下纵向数据的异质性分位数处理效应估算难题,提出结合卷积平滑分位数回归与正交随机森林的框架,通过模拟验证性能并将其应用于非小细胞肺癌研究。
2026-09-01 stat.ME
Feature Space Selection and Heterogeneous Effect Estimation for Blood-Brain Barrier Permeability: A Random Forest to the Generalized Random Forest Pipeline
University of Pretoria(比勒陀利亚大学);Ferdowsi University of Mashhad(马什哈德菲尔多西大学)
本研究利用MoleculeNet BBBP数据集,通过系统消融特征空间并应用广义随机森林与双重机器学习,发现特征表示与算法耦合影响预测性能,且校正混杂后LogP-BBB关联的异质性证据不足。
2026-09-25 cs.LG stat.ML
Aggregate Bayesian Causal Forests: The ABCs of Flexible Causal Inference for Hierarchically Structured Data
针对分层聚合数据的因果推断需求,提出聚合贝叶斯因果森林模型aBCF,在保留BCF少参数假设优势的同时适配异方差与组内相关特征,仿真验证其估计精度更高、区间更窄且先验鲁棒性好。
2024-07-09 stat.ME
Heterogeneous Treatment Effect Estimation under Noncompliance in the Illinois Workplace Wellness Study with Bayesian Tree Ensembles
Brigham Young University(杨百翰大学);University of Austin(奥斯汀大学);University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
针对存在不依从情况的随机试验,提出贝叶斯因果森林模型以估计依从者的异质性处理效应,通过模拟验证方法有效性,并将其应用于伊利诺伊州工作场所健康研究,发现了干预对代谢参数和健康安全感知的异质性效应。
2026-07-31 stat.AP stat.ME stat.ML
Estimating Heterogeneous Causal Mediation Effects with Bayesian Decision Tree Ensembles
因果推断文献越来越多地认识到,明确针对处理效应异质性可以提高科学认识和政策建议。为了达到同样的目的,研究治疗与结果之间的因果关系也是有用的。本文将在\emph{causal mediation analysis}的背景下解决这些问题。我们引入了一个基于贝叶斯加性回归树的变系数模型来识别和规范异质因果中介效应;类似于线性结构方程模型,这些效应对应于系数的协变量依赖性产物。我们发现,即使在协变量很少的大型数据集上,LSEM也可以对条件平均直接和间接效应产生高度不稳定的估计,而我们的\emph{Bayesian causal mediation forests}模型产生稳定的估计。我们发现,我们的方法是保守的,效果估计“缩小到同质性。我们使用来自医疗支出面板调查的数据和基于模拟数据的数据来检查我们方法的显著特性。最后,我们展示了如何将我们的模型与后验总结策略相结合,以识别有趣的子群并解释模型拟合。
2023-03-02 stat.AP stat.ME
Bayesian Causal Forests for Longitudinal Data: Assessing the Impact of Part-Time Work on Growth in High School Mathematics Achievement
Hamilton Institute, Maynooth University(梅努斯大学汉密尔顿研究所);Department of Mathematics and Statistics, Maynooth University(梅努斯大学数学与统计系)
本研究提出贝叶斯因果森林的纵向扩展,用于从纵向数据灵活估计异质性因果效应,发现兼职工作对多数学生有负面影响,但对低学校归属感学生可能有益,并揭示成绩差距扩大迹象。
2024-07-16 cs.LG stat.AP stat.ML
Estimation and Inference of Heterogeneous Treatment Effects using Random Forests
许多科学和工程挑战--从个性化医疗到定制的营销建议--都需要了解处理效应的异质性。在本文中,我们开发了一个非参数因果森林估计异质性处理效应,扩展Breiman的广泛使用的随机森林算法。在不混淆的潜在结果框架下,我们证明了因果森林对于真实的处理效应是逐点一致的,并且具有渐近高斯和中心抽样分布。我们还讨论了一种实用的方法,用于构建渐近置信区间的真正的处理效应,集中在因果森林估计。我们的理论结果依赖于一个通用的高斯理论的一个大家庭的随机森林算法。据我们所知,这是第一组允许任何类型的随机森林(包括分类和回归森林)用于可证明有效的统计推断的结果。在实验中,我们发现因果森林比基于最近邻匹配的经典方法更强大,特别是在存在不相关协变量的情况下。
2017-07-10 math.ST stat.ME stat.ML
Principled Federated Random Forests for Heterogeneous Data
Inria(法国国家信息与自动化研究所);PreMeDICaL(预医学实验室);Inserm(法国国家医学研究院);University of Montpellier(蒙彼利埃大学);Sorbonne Université(索邦大学);Université Paris Cité(巴黎城市大学);CNRS(国家科学研究中心);LPSM(巴黎高等师范学院)
本文提出FedForest,一种适用于水平分割数据的联邦随机森林算法,能自然处理客户端数据异质性,通过聚合精心选择的客户端统计信息近似集中算法的分裂过程,并实现非参数化个性化。
2026-05-07 cs.LG stat.ML
Hierarchical Hybrid Sliced Wasserstein: A Scalable Metric for Heterogeneous Joint Distributions
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
针对现有切片Wasserstein类度量仅适用于同构域分布、无法有效比较异构联合分布的问题,提出两种新切片算子并构建H2SW距离,验证了其在多类3D相关任务中的优异性能。
2024-10-08 cs.AI cs.CV cs.GR
Machine Learning Estimation of Heterogeneous Treatment Effects with Instruments
Microsoft Research(微软研究院);TripAdvisor(猫途鹰)
我们考虑在有效工具的帮助下,在存在未观察到的混杂因素的情况下,使用任意机器学习方法估计异质性处理效应。这种设置出现在具有意向治疗结构的A/B测试中,实验者随机选择哪些用户将收到采取行动的建议,我们对下游行动的效果感兴趣。我们开发了一种统计学习方法来估计异质效应,将问题减少到最小化一个适当的损失函数,该损失函数取决于一组辅助模型(每个模型对应于一个单独的预测任务)。这种减少使得能够使用所有最近的算法进步(例如神经网络,森林)。我们表明,估计的效果模型是强大的辅助模型中的估计误差,通过显示的损失满足奈曼正交准则。我们的方法可以用来估计更简单的假设空间上的真实效应模型的投影。当这些空间是参数空间时,则参数估计是渐近正态的,这使得可以构造置信集。我们应用我们的方法来估计会员资格对TripAdvisor下游网页参与度的影响,使用400万TripAdvisor用户的意向治疗A/B测试作为工具,其中一些用户获得了更容易的会员注册过程。我们还在合成数据和公共数据集上验证了我们的方法,以了解学校教育对收入的影响。
2019-06-06 cs.LG econ.EM stat.AP
Sliced Inner Product Gromov-Wasserstein Distances
Center for Applied Mathematics, Cornell University(康奈尔大学应用数学中心);Department of Mathematics, Imperial College London(伦敦帝国理工学院数学系);School of Electrical and Computer Engineering, Cornell University(康奈尔大学电气与计算机工程学院)
本文提出切片内积Gromov-Wasserstein距离,解决高维问题的统计和计算扩展性问题,通过旋转不变性性质进行结构和计算性质研究,并在文本聚类和语言模型比较中验证。
2026-05-08 cs.LG math.OC stat.ML
Estimating Heterogeneity in Travel Mode Choice Shifts with Causal Forests
Center for Urban Science and Progress, Tandon School of Engineering New York University(纽约大学坦登工程学院城市科学与工程中心)
本研究将因果森林应用于全国家庭出行调查数据,量化新冠疫情对出行方式选择的异质性因果效应,发现汽车出行占比上升,短途、高收入家庭及女性群体增幅最大,为交通政策制定提供依据。
2026-08-06 econ.EM stat.AP stat.ME
A Fixed-Effects Causal Forest for Staggered Adoption, with an Application to Medicaid Expansion
Amazon Web Services(亚马逊云服务)
研究交错采用的协变量条件平均治疗效果估计问题,提出用固定效应因果森林估计,在每个树节点内差分单位和时期效应消除混杂,蒙特卡罗实验验证其有效性,应用于医疗补助扩展取得未参保率下降等成果。
2026-07-28 econ.EM stat.ML
Fréchet random forests for metric space valued regression with non euclidean predictors
epoch intelligence;Univ. Bordeaux(波尔多大学);INSERM(法国国家健康与医学研究院);INRIA(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Bordeaux INP(波尔多国立综合理工学院);IMB(数学与基础科学研究所)
本文提出Fréchet树和Fréchet随机森林,通过引入新的节点分裂方法和推广预测过程,支持输入输出变量在一般度量空间取值的异构数据回归,并验证了其一致性与有效性。
2024-02-16 cs.LG stat.ME stat.ML
When Does Agroforestry Income Reduce Deforestation? Evidence from a Natural Experiment in Madagascar
Sustainability Institute, Rice University(可持续发展研究所,莱斯大学);School of the Environment, University of Toronto(环境学院,多伦多大学);Yale University(耶鲁大学);Yale School of Public Health, Yale University(耶鲁公共卫生学院,耶鲁大学)
研究通过自然实验探讨收入对森林砍伐的影响,发现收入增长在干旱地区减少砍伐,但在湿润地区增加砍伐,表明农业收益高低影响森林保护与减贫策略。
2026-03-14 stat.AP
Heterogeneous Random Forest
Yonsei University(延世大学);GS Retail(GS零售)
本文提出异构随机森林HRF,通过在后续树构建中降低先前树根附近分裂特征的权重来提升多样性,并在52个真实与合成数据集上验证其准确率优势。
2024-10-24 cs.LG stat.ML
Bayesian fusion forests for heterogeneous treatment effects on survival from randomised and real-world data
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);Amsterdam University Medical Centre(阿姆斯特丹大学医学中心)
该研究提出贝叶斯融合森林框架,结合随机试验与真实世界数据估计生存异质性处理效应,经模拟和HIV数据分析显示其效率优于仅试验分析,可明确识别患者获益。
2026-08-03 stat.ME stat.ML
Fast and Robust Comparison of Probability Measures in Heterogeneous Spaces
Kyoto University(京都大学);RIKEN AIP(理化学研究所人工智能研究中心);CREST-ENSAE(CREST-法国国立统计与经济管理学校);Google Brain(谷歌大脑)
在机器学习中,比较异构空间上支持的两个概率测度是一个越来越重要的问题。例如,当比较两个生物细胞群体时,每个生物细胞群体都有自己的一组特征,或者当观察在不同语料库/语言中训练的单词嵌入家族时,就会出现这样的问题。对于这样的设置,Gromov Wasserstein(GW)距离通常被视为黄金标准。GW是直观的,因为它量化了一个度量是否可以同构映射到另一个度量。然而,它的精确计算是棘手的,并且声称近似它的大多数算法仍然昂贵。\cite{memoli-2011}提出将每个分布中的每个点表示为其到所有其他点的距离的一维分布,在本文中,我们引入锚能量(AE)和锚Wasserstein(AW)距离,它们分别是在这种表示上实例化的能量和瓦瑟斯坦距离。我们的主要贡献是提出了一个扫描线算法来计算AE \emph{exactly}在对数二次时间,其中一个天真的实现将是立方。这是准线性w.r.t.问题本身的描述。我们的第二个贡献是建议的强大的变体AE和AW使用秩统计量,而不是原来的距离。我们表明,AE和AW在各种实验设置中表现良好,在一小部分的流行GW近似的计算成本。代码可在\url{https://github.com/joisino/anchor-energy}获得。
2021-02-10 cs.LG stat.ML
hi-RF: Incremental Learning Random Forest for large-scale multi-class Data Classification
National University of Defense Technology(国防科技大学)
近年来,动态增长的数据和类的数量逐渐增加的大规模数据分类的研究提出了新的挑战。大多数传统的方法努力平衡精度和计算负担时,数据和类的数量增加。然而,有些方法精度不高,而另一些方法则很耗时。在本文中,我们提出了一种增量学习方法,即异构增量最近类均值随机森林(hi-RF),来处理这个问题。它是一种异构的方法,当新类数据到达时,在随机森林中自适应地替换树或更新树叶,以在性能相当的情况下减少计算时间。具体地说,为了保持准确性,一部分树被新的NCM决策树取代;为了减少计算量,其余的树只更新它们的叶子概率。最重要的是,提出了袋外估计和袋外提升,以平衡精度和计算效率。进行了公平的实验,并证明了其相当的精度与更少的计算时间。
2016-10-31 cs.LG stat.ML
Wasserstein Distributionally Robust Optimization with Wasserstein Barycenters
Northwestern University(西北大学)
在统计学和机器学习的许多应用中,来自多个可能异构的源的数据样本的可用性已经变得越来越普遍。另一方面,在分布鲁棒优化,我们寻求数据驱动的决策,以及在最不利的分布从名义分布构造的数据样本在一定的差异的概率分布。然而,目前还不清楚如何实现这种分布鲁棒性模型学习和估计时,数据样本来自多个来源。在这项工作中,我们建议通过Wasserstein重心作为来自多个来源的数据样本的聚合的概念,构建基于最佳运输的分布鲁棒优化问题的标称分布。在特定的损失函数的选择下,所提出的公式承认一个易于处理的重新制定作为一个有限的凸规划,具有强大的有限样本和渐近保证。作为一个说明性的例子,我们证明了分布鲁棒稀疏逆协方差阵估计的零均值高斯随机向量的问题,我们提出的方案优于其他广泛使用的估计在低维和高维制度。
2022-05-30 cs.LG math.OC stat.ML
Multivariate Uncertainty Quantification with Tomographic Quantile Forests
Kobe Gakuin University(神户学院大学)
本文提出Tomographic Quantile Forests,一种非参数、不确定性感知的树回归模型,用于多变量目标的条件分布估计,通过多方向量化聚合和 sliced Wasserstein 距离最小化实现多变量分布重建。
2026-04-01 cs.LG stat.ML
Generalized Random Forests using Fixed-Point Trees
Department of Mathematics and Statistics, McGill University, Montreal, Canada(数学与统计学系,麦吉尔大学,加拿大蒙特利尔);Mila - Quebec AI Institute, Montreal, Quebec, Canada(魁北克AI研究院,加拿大蒙特利尔)
针对高维异质性效应估计中广义随机森林计算成本高、不稳定的问题,提出基于不动点近似的无梯度方法,保留理论保证的同时实现数倍加速,为相关应用提供可扩展替代方案。
2025-06-16 cs.LG stat.ME stat.ML
Wasserstein Distributional Learning
学习条件密度和识别影响整个分布的因素是数据驱动应用程序中的重要任务。传统的方法大多采用汇总统计数据,因此不足以进行全面调查。最近,有发展的功能回归方法来模拟密度曲线作为功能的结果。发展这种模型的一个主要挑战在于密度结果的函数空间的非负性和单位积分的固有约束。为了克服这个根本问题,我们提出了Wasserstein分布学习(WDL),一个灵活的密度标量回归建模框架,开始与瓦瑟斯坦距离$W_2$作为一个适当的度量密度结果的空间。然后,我们引入了一个异构的和灵活的类半参数条件高斯混合模型(SCGMM)的模型类$\mathfrak{F} \otimes \mathcal{T}$。得到的度量空间$(\mathfrak{F} \otimes \mathcal{T}, W_2)$满足所需的约束条件,并提供了一个稠密和封闭的功能子空间。为了拟合所提出的模型,我们进一步开发了一个有效的算法的基础上的优化与提升树的优化。与以往文献中的方法相比,WDL更好地刻画和揭示了条件密度的非线性依赖性,以及它们的汇总统计量。我们证明了WDL框架的有效性,通过模拟和现实世界的应用。
2022-09-12 stat.ME stat.ML
Relative Wasserstein Spatial Depth for Cluster Number Selection in Distributional Data
Columbia University(哥伦比亚大学)
本文提出相对Wasserstein空间深度(RWSD)作为分布数据聚类中簇数选择的标准,与Wasserstein K-means或K-medians结合,理论保证一致性,模拟和实际数据中优于轮廓分数和Davies-Bouldin指数。
2026-10-08 stat.ME stat.ML
Modelling hetegeneous treatment effects by quantitle local polynomial decision tree and forest
为了进一步发展异质处理效应的统计推断问题,本文建立在Breiman(2001)的随机森林树(RFT)和Wager等人。的(2018年)因果树使用经典OLS的优秀统计特性和基于协变量分位数点的局部线性区间划分来参数化非参数问题,同时保留具有可构造置信区间和渐近正态性优点的随机森林树[Athey和Imbens(2016年),Efron(2014年),Wager等人。(2014)\citep{wager2014asymptotic} ]中,我们提出了一种使用根据固定规则的分位数分类与局部样本的多项式估计相结合的决策树,我们称之为分位数局部线性因果树(QLPRT)和森林(QLPRF)。
2022-03-13 econ.EM stat.ML
Generalized Random Forests
我们提出了广义随机森林,一种基于随机森林(Breiman,2001)的非参数统计估计方法,可用于拟合任何感兴趣的数量,确定为一组局部矩方程的解。继文献局部极大似然估计,我们的方法认为附近的训练样本的加权集,然而,而不是使用经典的内核加权函数,容易出现一个强大的灾难的维度,我们使用的自适应加权函数来自一个森林,旨在表达异质性的指定数量的利益。我们提出了一个灵活的,计算效率高的算法增长的广义随机森林,发展大样本理论,我们的方法表明,我们的估计是一致的,渐近高斯,并提供了一个估计其渐近方差,使有效的置信区间。我们使用我们的方法来开发三个统计任务的新方法:非参数分位数回归,条件平均部分效应估计,通过工具变量的异质性处理效应估计。一个软件实现,R和C++的grf,可从CRAN获得。
2018-04-05 econ.EM stat.ME stat.ML