Nonparametric Heterogeneous Treatment Effect Estimation in Repeated Cross Sectional Designs
确定人口对健康或政策干预的反应的异质性对于评估和告知政策决定至关重要。我们提出了一种新的异质性处理效应估计的差异中的差异设计与重复的横截面数据,在那里我们观察不同的样本的人口在两个时间段分开的政策干预,以及作为控制的人口样本。我们的估计器具有正交特性,能够快速学习处理效应,同时允许较慢的速率估计滋扰成分。我们的建议在各种模拟设置中显示出有前途的经验性能。
2021-08-22 stat.ME
More Efficient Estimation for Logistic Regression with Optimal Subsample
本文提出了一种改进的逻辑斯谛回归估计方法,该方法基于Wang et al. 2018中提出的最优子采样概率所取的子样本。渐近结果和数值结果都表明,新的估计量具有更高的估计效率。我们还开发了一种新的算法的基础上泊松子采样,它不需要近似的最佳子采样概率一次。当可用的随机存取存储器不足以保存全部数据时,这在计算上是有利的。有趣的是,渐近分布还表明,如果采样率(子样本量与完整数据样本量的比率)不收敛于零,则泊松子采样会产生更有效的估计量。我们还得到了基于Poisson子抽样的估计量的无条件渐近分布。所提出的方法需要使用一个导频估计器来校正未加权估计器的偏差。我们进一步表明,即使导频估计是不一致的,所得到的估计仍然是一致的和渐近正态的,如果该模型是正确指定的。
2021-06-23 stat.ME
Targeted Learning on Variable Importance Measure for Heterogeneous Treatment Effect
University of California Berkeley(加州大学伯克利分校);Columbia University(哥伦比亚大学);Novo Nordisk(诺和诺德)
本文提出了一种新的TMLE方法,用于量化处理效应异质性的变量重要性,通过比较不同协变量组的方差,提升估计精度和置信区间覆盖。
2026-03-02 stat.ME
Debiased Inference on Heterogeneous Quantile Treatment Effects with Regression Rank-Scores
本文提出一种结合 $\ell_1$-惩罚回归调整与秩得分偏差校正的新方法,用于高维协变量下异质性分位数处理效应的去偏推断,并通过模拟和英国生物银行数据验证其有效性。
2023-07-11 stat.ME
Variable importance measures for heterogeneous treatment effects with survival outcome
本文扩展TE-VIM至生存结局,提出基于生存函数和RMST的估计量及新的异质性度量,基于半参数效率理论,模拟与真实数据验证性能。
2024-12-16 stat.ME
2D score based estimation of heterogeneous treatment effects
本文提出基于倾向评分和预后评分的二维评分框架,结合匹配与非参数回归树估计条件平均处理效应,在模拟和实证数据中优于现有方法。
2023-06-23 stat.ME
A Regression Discontinuity Design for Ordinal Running Variables: Evaluating Central Bank Purchases of Corporate Bonds
回归间断(RD)是一种广泛应用于因果推断的准试验设计。在标准RD中,治疗分配由连续治疗前变量(即,运行变量)高于或低于预定阈值。就欧洲中央银行的公司部门购买方案而言,该方案涉及大规模购买欧元区公司发行的证券,这一门槛值可以用有序运行变量来界定。由于缺乏有意义的距离测量,该特征对RD估计提出了挑战。为了评估这样的程序,本文提出了一种局部随机化框架下的顺序运行变量的RD方法。该建议首先估计有序运行变量的有序概率模型。然后将分配给治疗的估计概率作为潜在连续运行变量,并用于识别阈值附近的协变量平衡子样本。假设局部unconfoundedness的治疗在子样本中,估计的程序的效果是通过采用加权估计的平均处理效应。两个加权估计-重叠权重和ATT权重-以及他们的增广版本被认为是。我们应用该方法来评估CSPP的因果效应,并发现一个统计上显着的和负面的影响,公司债券发行时的利差。
2020-06-22 stat.ME
Cross-Fitting and Averaging for Machine Learning Estimation of Heterogeneous Treatment Effects
我们研究了有限样本的样本分裂,交叉拟合和平均估计的条件平均处理效应的性能。最近提出的方法,所谓的元学习者,利用机器学习来估计不同的滋扰函数,因此允许对数据的底层结构的限制较少。为了限制在使用机器学习方法时可能导致的潜在过拟合偏差,已经提出了交叉拟合估计器。这包括将数据拆分为不同的折叠以减少偏差,并对折叠进行平均以恢复效率。据我们所知,目前尚不清楚如何准确地分割和平均数据。我们采用了蒙特卡罗研究与不同的数据生成过程,并考虑12个不同的估计,不同的样本分裂,交叉拟合和平均程序。我们独立地调查每个估计器在四个不同的元学习器上的性能:双重鲁棒学习器,R-学习器,T-学习器和X-学习器。我们发现,所有元学习者的性能在很大程度上取决于分裂和平均的过程。当应用交叉拟合加上在多个不同的样本分裂迭代中取中值时,可以实现样本分裂估计量之间的均方误差(MSE)方面的最佳性能。一些元学习器在ML方法中包含套索时表现出很高的方差。排除套索减少了方差,并导致稳健的和至少有竞争力的结果。
2020-08-26 stat.ME
Assumption-Lean Differential Variance Inference for Heterogeneous Treatment Effect Detection
McGill University(麦吉尔大学);Université de Montréal(蒙特利尔大学);Lund University(隆德大学);University of Toronto(多伦多大学)
提出通过潜在结果方差对比推断治疗效果异质性,即使缺失效应修饰变量也能检测,并推导出双重稳健的因果机器学习估计量。
2026-10-14 stat.ME
Improved subsample-and-aggregate via the private modified winsorized mean
本文提出私有修正缩尾均值作为子样本聚合的聚合器,证明其在对抗污染下具有极小极大最优性,并推导出有限样本偏差界,揭示子样本最优选择与估计器偏差及鲁棒性的关系。
2025-05-08 cs.LG stat.ME
Improved inference for doubly robust estimators of heterogeneous treatment effects
我们提出了一种双重稳健的方法来表征观察性研究中的处理效应异质性。我们开发了一个频率主义的推理程序,利用后验分布的倾向得分和结果回归模型提供有效的推理条件平均处理效应,即使当使用高维或非参数模型。我们表明,我们的方法会导致保守的推断在有限样本或模型误指定,并提供了一个一致的方差估计时,这两个模型都被正确指定。在模拟中,我们说明了这些结果在困难的设置,如高维协变量空间或高度灵活的模型的倾向得分和结果回归的效用。最后,我们分析了NHANES的环境暴露数据,以确定这些暴露的影响如何因受试者级别的特征而异。
2022-07-19 math.ST stat.AP stat.ME
Estimating Heterogeneous Treatment Effects for Spatio-Temporal Causal Inference
University of Florida(佛罗里达大学);Harvard University(哈佛大学);Dartmouth College(达特茅斯学院)
该研究针对时空因果推断的空间溢出和时间延续问题,提出Hajek型CATE估计量及相关检验,通过模拟验证性能,并应用于美国空袭对伊拉克叛乱暴力影响的分析,发现与反叛乱理论预期相反的结果。
2026-08-05 stat.ME
A Relative Error-Based Evaluation Framework of Heterogeneous Treatment Effect Estimators
Peking University(北京大学);University of Hong Kong(香港大学);Beijing Technology and Business University(北京技术与商业大学)
针对异质性处理效应估计量缺乏可靠评估的问题,提出基于相对误差的稳健评估框架及配套神经网络与新学习算法,并验证其比较可靠性和性能。
2025-10-18 cs.LG stat.ML
Model-assisted estimation with a training subsample: a two-phase sampling approach with design-based variance estimation
Universidad de la República(乌拉圭共和国大学)
该研究针对训练子样本模型辅助估计的方差量化问题,将训练子样本视为第二阶段抽样,推导了方差分解与估计量,提出的方法可低成本恢复接近名义的覆盖率。
2026-10-14 stat.ME
Reliable Selection of Heterogeneous Treatment Effect Estimators
Peking University(北京大学);Marshall School of Business, University of Southern California(南加州大学马歇尔商学院)
本文提出一种无需真实值的可靠方法,用于在异质处理效应估计中选择最佳估计器,并在多个基准测试中展示了其有效性。
2026-09-04 cs.LG stat.ML
A note on centering in subsample selection for linear regression
居中是线性回归分析中常用的技术。使用响应和协变量的中心数据,可以从没有截距的模型计算斜率参数的普通最小二乘估计量。如果从居中的完整数据中选择子样本,则子样本通常不居中。在这种情况下,在没有截距的情况下拟合模型仍然合适吗?答案是肯定的,我们表明,最小二乘估计的斜率参数从一个模型没有截距是无偏的,它有一个较小的方差协方差阵的Loewner顺序比从一个模型的截距。我们进一步表明,对于非信息加权子采样时,使用加权最小二乘估计,使用全数据加权均值重新定位子样本提高了估计效率。
2022-09-30 stat.CO stat.ME
Sample Designs and Estimators for Multimode Surveys with Face-to-Face Data Collection
调查研究人员越来越多地转向多模式数据收集,以应对调查答复率下降和成本增加的问题。一种有效的方法提供了成本较低的模式(例如,web)之后是用于单元的子样本的更昂贵的模式(例如,每个一级单元(PSU)内的住户)。我们提出了两种替代方案,这种传统的设计。一种替代方案是对PSU而不是单位进行子采样以限制成本。第二种是混合设计,包括聚类(两阶段)样本和独立的非聚类样本。使用模拟,我们证明了混合设计具有相当大的优势。
2023-03-23 stat.ME
Calibration Error for Heterogeneous Treatment Effects
近年来,许多研究者提出了数据驱动的异质性处理效应(HTEs)建模方法。尽管如此,估计热膨胀系数仍然是一项困难的任务--这些方法经常高估或低估处理效应,导致所得模型的校准不良。然而,虽然有许多方法用于评估预测和分类模型的校准,但评估HTE模型校准的正式方法仅限于校准斜率。在本文中,我们定义了一个模拟的\smash{($\ell_2$)}预期校准误差的热膨胀系数,并提出了一个强大的估计。我们的方法的动机是双重强大的处理效应估计,使其无偏,并弹性混杂,过拟合和高维问题。此外,我们的方法是直接的,以适应许多结构下,处理效应可以确定,包括随机试验,观察性研究,和生存分析。我们说明了如何使用我们提出的指标来评估通过应用程序的CRITEO-UPLIFT试验学习HTE模型的校准。
2022-03-24 stat.ME stat.ML
Local-Polynomial Estimation for Multivariate Regression Discontinuity Designs
Institute of Economic Research Hitotsubashi University(一桥大学经济研究所);Graduate School of Economics and Management, Tohoku University(东北大学经济管理学院);Center for Spatial Information Science, The University of Tokyo(东京大学空间信息科学中心)
本文提出了一种多变量回归不连续设计的局部线性估计方法,用于捕捉边界处的异质性治疗效应,并在实证研究中展示了其更小的误差和更短的置信区间。
2026-01-23 econ.EM stat.AP stat.ME
BENK: The Beran Estimator with Neural Kernels for Estimating the Heterogeneous Treatment Effect
Peter the Great St.Petersburg Polytechnic University(彼得大帝圣彼得堡理工大学)
提出了一种在截尾时间-事件数据条件下估计条件平均治疗效应的方法--神经核Beran估计方法。该方法背后的主要思想是应用Beran估计估计控制和治疗的生存函数。代替Beran估计器中的典型核函数,提出了以称为神经核的特定形式的神经网络的形式来实现核。条件平均治疗效果估计通过使用的生存函数作为控制和治疗神经网络的结果,其中包括一组共享参数的神经内核。神经核更灵活,可以准确地模拟特征向量的复杂位置结构。各种数值模拟实验说明了BENK,并将其与著名的T-学习者,S-学习者和X-学习者进行比较,用于基于Cox模型,随机生存森林和具有高斯核的Nadaraya-Watson回归的几种类型的控制和治疗结果函数。所提出的实现BENK的算法的代码可在https://github.com/Stasychbr/BENK中获得。
2022-11-19 cs.LG stat.ML
Doing Great at Estimating CATE? On the Neglected Assumptions in Benchmark Comparisons of Treatment Effect Estimators
University of Cambridge(剑桥大学);UCLA(加州大学洛杉矶分校);The Alan Turing Institute(艾伦·图灵研究所)
用于从观察数据估计异质性治疗效果的机器学习工具箱正在迅速扩展,但其许多算法仅在非常有限的半合成基准数据集上进行了评估。在本文中,我们表明,即使在可以说是最简单的设置-估计下的可验证性假设-这种实证评估的结果可能是误导性的,如果(i)基准数据集的数据生成机制的假设和(ii)它们与基线算法的相互作用没有得到充分的讨论。我们详细考虑了两个流行的机器学习基准数据集,用于评估异质性治疗效果估计器-IHDP和ACIC 2016数据集。我们确定了它们当前使用的问题,并强调基准数据集的固有特征有利于某些算法-这一事实很少被承认,但对于解释经验结果具有巨大的相关性。最后,我们讨论了影响和可能的下一步措施。
2021-07-28 cs.LG stat.ME
Heterogeneous Responses to Continuous Treatments: A Cluster-Based Causal Framework
Sapienza University of Rome(罗马大学);University of Molise(莫利塞大学);University of Campania Luigi Vanvitelli(坎帕尼亚路易吉范维泰利大学)
本文提出基于聚类的因果框架,用于估计连续处理强度与结果之间的异质因果关系,通过分析欧洲凝聚力基金与经济增长的关系,揭示不同地区对资金的响应差异。
2026-03-04 econ.EM stat.ME
Divide and Conquer in Non-standard Problems and the Super-efficiency Phenomenon
我们研究了如何分而治之的原则--分区的可用数据到子样本,从每个子样本计算估计,并结合这些适当地形成最终的估计--在非标准的问题,收敛速度通常慢于$\sqrt{n}$和极限分布是非高斯,特别强调单调回归函数的最小二乘估计(及其逆)。我们发现,通过对互斥子样本的非标准估计进行平均得到的合并估计量在逐点推断的意义上优于基于整个样本的非标准估计量。我们还表明,在适当的条件下,如果允许子样本的数量以适当的速率增加,合并估计量是渐近正态分布的方差是经验估计的子样本水平的估计。此外,在单调函数估计的背景下,我们表明,这种逐点效率的增益是有代价的-合并估计的性能,在统一的意义上(最大风险)超过一类模型的子样本的数量增加,导致一个版本的超效率现象。在这个过程中,我们开发的分析结果的顺序的偏差在保序回归,这是独立的利益。
2016-11-17 math.ST stat.ME stat.TH
Causal machine learning for heterogeneous treatment effects in the presence of missing outcome data
London School of Hygiene & Tropical Medicine(伦敦卫生与热带医学院);University College London(伦敦大学学院);Ghent University(根特大学)
针对异质性处理效应估计中缺失结局数据导致亚组代表性不足的问题,提出整合删失权重逆概率的mDR-learner和mEP-learner两种去偏估计器,证明其oracle效率,模拟及GBSG2试验应用显示优于现有方法,为实践者提供实施指导。
2025-04-13 cs.LG stat.ML
Two-sample instrumental variable analyses using heterogeneous samples
工具变量分析是一种广泛使用的方法来估计因果关系的影响,在存在不可测量的混杂。当工具、暴露和结果不在同一样本中测量时,Angrist和Krueger(1992)建议使用双样本工具变量(TSIV)估计量,该估计量使用来自工具暴露样本和工具结果样本的样本矩。然而,如果两个样本来自非齐性总体,则该方法存在偏倚,从而使仪器的分布不同。在线性结构方程模型中,我们在两个样本的结构关系相同的关键假设下,得到了一类新的对异质样本具有鲁棒性的TSIV估计.广泛使用的两样本两阶段最小二乘估计属于这一类。它通常不是渐近有效的,虽然我们发现,它执行类似的最佳TSIV估计在大多数实际情况下。然后,我们试图放松线性假设。我们发现,不像单样本分析,TSIV估计是不稳健的错误指定的暴露模型。此外,为了非参数化地确定因果效应的大小,暴露中的噪声在两个样本中必须具有相同的分布。然而,这一假设一般是不可检验的,因为在一个样本中没有观察到接触。尽管如此,我们仍然可以在噪声不均匀的情况下识别因果效应的符号。
2018-09-05 math.ST stat.TH
Choosing good subsamples for regression modelling
健康研究中的一个常见问题是,我们有一个庞大的数据库,其中包含许多对大量个体进行测量的变量。我们感兴趣的是测量子样本上的其他变量;这些测量可能是新近可用的,或昂贵的,或在首次收集数据时根本没有考虑。新测量的预期用途是拟合可推广到整个队列(及其源人群)的回归模型。这是一个双重抽样问题,它不同于其他一些双重抽样问题,在丰富的第一阶段的数据和回归建模的目标。特别是,一个重要的特殊情况是测量误差模型,其中与阶段II测量值密切相关的变量在阶段I可用。我们将解释如何影响函数一直是有用的,作为一个统一的概念,扩展经典的结果,这种设置,并描述了从设计一个简单的加权估计在已知的参数值,通过自适应多波设计和使用先验信息的步骤。最后,我们将与一些意见之间的信息差距设计为基础的和基于模型的估计在这种情况下。
2022-03-21 stat.ME
Differentially Private Estimation of Heterogeneous Causal Effects
Stanford University(斯坦福大学);Microsoft Research(微软研究院);U.S. Bureau of Economic Analysis(美国经济分析局)
在医疗保健或社会科学等领域估计异质处理效应通常涉及敏感数据,其中保护隐私是重要的。我们介绍了一个通用的元算法估计条件平均处理效应(CATE)与差分隐私(DP)的保证。我们的元算法可以使用简单的单阶段CATE估计器(如S-学习器)和更复杂的多阶段估计器(如DR和R-学习器)。我们利用元算法中的样本分割和差分隐私的并行组合特性进行严格的隐私分析。在本文中,我们实现了我们的方法使用DP-EBM作为基础学习者。DP-EBM是可解释的,具有隐私保证的高精度模型,这使我们能够直接观察DP噪声对学习的因果模型的影响。我们的实验表明,多阶段CATE估计比单阶段CATE或ATE估计产生更大的准确性损失,大部分的差异隐私的准确性损失是由于方差的增加,而不是有偏估计的处理效应。
2022-02-22 cs.CR cs.LG econ.EM
On the Subbagging Estimation for Massive Data
针对计算机内存受限的大数据分析问题,提出了一种子样本聚集估计方法。具体而言,对于大小为$N$的整个数据集,随机抽取$m_N$子样本,并且对满足内存约束的子样本大小为$k_N\ll N$的每个子样本进行均匀采样而不进行替换。聚合$m_N$子样本的估计量可以导致子装袋估计。为了分析子装袋估计的理论性质,我们采用不完全$U$ -统计理论与无限阶核,允许重叠的抽样过程中抽取的子样本。利用这一新的理论框架,我们证明了通过适当地选择$k_N$和$m_N$的超参数,在$(k_Nm_N)/N\to α\in (0,\infty]$的条件下,Subbagging估计可以达到$\sqrt{N}$ -相合性和渐近正态性.与全样本估计相比,我们从理论上证明了$\sqrt{N}$ -相容子装袋估计在其渐近方差中具有$1/α$的膨胀率。仿真实验证明了有限样本的性能。通过对美国航空公司数据集的分析,说明子装袋估计在数值上接近于全样本估计,并且在内存约束下计算速度快。
2021-02-28 econ.EM stat.ME stat.ML
A Practical Guide to Counterfactual Estimators for Causal Inference with Time-Series Cross-Sectional Data
本文介绍了一个简单的框架,反事实估计因果推断与时间序列横截面数据,其中我们估计的平均处理效应的治疗直接归因于反事实的结果治疗观察。在此框架下,我们讨论了几个新的估计,包括固定效应反事实估计,交互式固定效应反事实估计,矩阵完成估计。当处理效应具有异质性或存在未观察到的时变混杂因素时,它们提供了比传统的双向固定效应模型更可靠的因果估计。此外,我们提出了一个新的动态处理效应图,以及几个诊断测试,以帮助研究人员衡量识别假设的有效性。我们用两个政治经济学的例子来说明这些方法,并在R和Stata中开发了一个开源包fect,以促进实施。
2022-08-14 stat.AP stat.ME
Kernel Density Estimation by Genetic Algorithm
提出了一种基于遗传算法的多变量核密度估计的数据压缩方法。首先,我们提出的算法生成多个给定大小的子样本,从原始样本中进行替换。在遗传算法的术语中,子样本及其构成数据点分别被视为$\it{chromosome}$和$\it{gene}$。其次,每对子样本产生两个新的子样本,其中每个数据点以一定概率面对$\it{crossover}$、$\it{mutation}$或$\it{reproduction}$。在适应度值方面占主导地位的子样本被下一代继承。这个过程是重复一代一代,并带来了核密度估计的稀疏表示在其完成。我们从模拟研究中证实,由此产生的估计可以比其他知名的密度估计更好地执行。
2022-03-03 cs.NE stat.CO stat.ME
Modified Causal Forests for Estimating Heterogeneous Causal Effects
揭示政策和业务决策在不同粒度级别的因果效应的异质性,为决策者提供了大量的价值。本文通过在多个维度上修改Wager和Athey(2018)提出的因果森林方法,在选择可观察量框架中为多个治疗模型开发了新的估计和推理程序。新的估计量具有理想的理论,计算和实践性质的因果效应的各种聚集水平。虽然经验蒙特卡罗研究表明,他们优于以前建议的估计,应用到积极的劳动力市场方案的评价显示的应用研究的新方法的价值。
2019-07-05 econ.EM stat.ML
LowCon: A design-based subsampling approach in a misspecified linear modeL
我们考虑了一个测量约束的监督学习问题,即(1)预测变量的全样本是给定的;(2)响应观测是不可用的,而且测量成本很高。因此,理想的做法是选择预测器观测的子样本,测量相应的响应,然后在预测器和响应的子样本上拟合监督学习模型。然而,模型拟合是一个反复试验的过程,数据的假设模型可能会被错误指定。我们的实证研究表明,当模型被错误指定时,大多数现有的子抽样方法的性能都不令人满意。在本文中,我们开发了一种新的子采样方法,称为“LowCon”,它优于竞争的方法时,工作的线性模型是错误的。我们的方法使用正交拉丁超立方体设计,以实现一个稳健估计。我们表明,建议的设计为基础的估计近似最小化所谓的“最坏情况”的偏差,就许多可能的误指定条款。模拟和实际数据分析表明,所提出的估计是更强大的比几个子样本最小二乘估计获得的国家的最先进的子采样方法。
2020-10-23 stat.ME
Doubly Robust Semiparametric Difference-in-Differences Estimators with High-Dimensional Data
本文提出了一种双稳健两阶段半参数差中差估计,用于估计高维数据的异质处理效应。我们的新估计是鲁棒的模型误规格,并允许,但不需要,比观察更多的回归。第一阶段允许使用一组通用的机器学习方法来估计倾向分数。在第二阶段,我们推导出的收敛速度的参数和未知函数下的部分线性规格的结果方程。我们还提供了偏倚校正程序,以便对异质性处理效应进行有效推断。我们评估有限样本的性能与广泛的模拟研究。此外,作为我们的方法的说明,公平最低工资法对失业率的效果进行了实际数据分析。Github上提供了一个用于实现所提出方法的R包。
2020-09-07 econ.EM stat.ML
Federated Causal Inference in Heterogeneous Observational Data
Emory University(埃默里大学);Cornell University(康奈尔大学);United States Military Academy(美国军事学院);Harvard University(哈佛大学);Johns Hopkins University(约翰斯·霍普金斯大学);Stanford University(斯坦福大学)
针对多站点隐私限制与数据异构性,提出基于倾向得分的联邦因果推断方法,通过本地计算与跨站点聚合估计平均处理效应,并证明其渐近性质及在医疗数据库中的有效性。
2023-04-02 cs.LG econ.EM q-bio.QM
Estimating Heterogenous Treatment Effects for Survival Data with Doubly Doubly Robust Estimator
本文针对左截断右删失生存数据,提出双重双重稳健估计量,结合非参数深度学习以有效估计平均及异质性处理效应,并通过模拟实验与多种现有方法比较验证其优劣。
2024-09-02 econ.GN q-fin.EC stat.AP
Subsample-Based Estimation under Dynamic Contamination
Uppsala University(乌普萨拉大学);Stockholm School of Economics(斯德哥尔摩经济学院)
本文研究了子样本估计在动态时间序列模型中的结构性失效,指出污染传播通过残差滤波器导致估计标准失真,提出通过补丁移除操作实现传播兼容的索引集变换以恢复一致性。
2026-05-10 econ.EM math.ST stat.ME
Minimax rates for heterogeneous causal effect estimation
本文在Holder光滑非参数模型中推导了条件平均处理效应(CATE)估计的极小极大速率,并提出一种局部多项式R-Learner估计量,证明其在给定条件下达到速率最优,揭示了非标准肘部现象和回归/泛函速率的混合特征。
2023-12-23 math.ST stat.TH
Optimal pooling and distributed inference for the tail index and extreme quantiles
研究了重尾数据中尾指数和极端分位数估计的池化策略。为了充分利用包含在几个样本中的信息,我们提出了一般加权汇总希尔估计的尾部指数和加权汇总韦斯曼估计的极端分位数计算通过一个非标准的几何平均计划。我们在固定的样本个数上发展了他们的大样本渐近理论,涵盖了具有不同和渐近相关分布的异质样本量的一般框架。我们的研究结果包括基于渐近方差和MSE最小化的池权重的最佳选择。在分布推断的重要应用中,我们证明了在子样本组合不可行的情况下,方差最优分布估计与基准Hill和Weissman估计是渐近等价的,而在大偏差的情况下,AMSE最优分布估计比基准估计具有更小的AMSE.我们考虑子样本数量随总样本量增长且有效子样本量可能较低的其他情况。我们扩展我们的方法来处理序列依赖和协变量的存在。模拟证实,我们的合并估计几乎执行以及基准估计。展示了两个应用程序的真实天气和保险数据。
2021-11-04 math.ST stat.ME stat.TH
Estimating heterogeneous survival treatment effect in observational data using machine learning
在观察性数据中估计异质性处理效应的方法主要集中在连续或二元结局上,相对较少审查生存结局。在反事实框架中使用灵活的机器学习方法是一种很有前途的方法,可以解决由于复杂的个体特征而带来的挑战,需要针对这些特征量身定制治疗方法。为了评估近期生存机器学习方法用于估计处理效应异质性的操作特征,并为更好的实践提供信息,我们进行了一项全面的模拟研究,该研究提供了一系列描述混杂异质生存处理效应和不同程度协变量重叠的设置。我们的研究结果表明,在加速失效时间模型(AFT-BART-NP)的框架内的非参数贝叶斯加性回归树始终产生最好的性能,在偏差,精度和预期的遗憾。此外,当协变量重叠至少为中度时,AFT-BART-NP的可信区间估计值为个体生存期处理效应提供了接近标称频率论的覆盖范围。在AFT-BART-NP模型公式中包括非参数估计的倾向得分作为额外的固定协变量,可以进一步提高其效率和频率覆盖率。最后,我们展示了灵活的因果机器学习估计器的应用,通过一个全面的案例研究,检查两种放射治疗方法对局部高危前列腺癌的异质性生存影响。
2021-05-19 stat.AP stat.ML
Subbagging Variable Selection for Big Data
本文提出一种用于大数据回归的子袋化变量选择方法,通过聚合子样本最小二乘近似并施加自适应LASSO惩罚实现可扩展的变量选择,证明了估计量的$\sqrt{N}$-一致性和oracle性质。
2025-03-07 stat.ME
Optimal Subsampling Approaches for Large Sample Linear Regression
分析大样本数据的一个重要障碍是缺乏有效的统计计算和推断方法。子采样是一种新兴的分析大样本数据的强大方法,它从原始全样本中随机抽取子样本,并将其用作后续计算和估计的替代。本文研究了两种情形下的二次抽样方法:全样本最小二乘(OLS)估计的逼近和线性回归中系数的估计。给出了加权估计和非加权估计两种算法,并在一般条件下分析了其子样本估计的渐近性质。对于加权估计算法,我们利用渐近结果提出了一个选择最优抽样概率的准则。在此基础上,提出了两种新的子采样方法:最优子采样方法和预测子采样方法。预测因子长度子采样方法基于预测因子的L2范数,而不是杠杆分数。其计算成本是可伸缩的。对于未加权估计算法,我们证明了它的子样本估计与全样本OLS估计不一致。然而,它具有更好的性能比加权估计算法估计的系数。仿真研究和实际数据的例子来证明我们提出的子采样方法的有效性。
2015-11-23 stat.ME stat.ML
Robust Estimation in High Dimensional Generalized Linear Models
广义线性模型通常用于数据分析。经典的估计过程是基于极大似然的,众所周知,离群值的存在会对该估计量产生很大影响。稳健的程序在文献中,但他们需要一个强大的初始估计,以便计算。这对于具有非凸损失函数的鲁棒程序(例如降阶M估计量)尤其重要。子采样技术通常用于确定稳健的初始估计;然而,当未知参数的数量很大时,为了具有一个子样本无离群值的高概率所需的子样本数量变得不可行。此外,子采样过程提供了非确定性的起始点。基于Pena和Yohai(1999)的思想,我们引入了基于变换Valdora和Yohai(2014)的M-估计量的确定性稳健初始估计,我们还开发了迭代重加权最小二乘算法。通过蒙特卡罗实验对新方法进行了研究。
2017-09-29 stat.CO stat.ME
Maximum sampled conditional likelihood for informative subsampling
University of Connecticut(康涅狄格大学);Iowa State University(爱荷华州立大学)
子采样是在计算资源有限的情况下从海量数据集中提取信息的一种有效方法。在从全部数据中提取子样本之后,大多数可用的方法使用逆概率加权(IPW)目标函数来估计模型参数。IPW估计器没有充分利用所选子样本中的信息。在本文中,我们建议使用基于采样数据的最大采样条件似然估计(MSCLE)。我们建立了MSCLE的渐近正态性,并证明了它的渐近方差协方差阵在包括IPW估计在内的一类渐近无偏估计中是最小的.我们进一步讨论了L-最优子采样概率的渐近结果,并说明了广义线性模型的估计过程。数值实验提供了评估所提出的方法的实际性能。
2022-10-09 cs.IT cs.LG math.IT
Combining Cluster Sampling and Link-Tracing Sampling to Estimate Totals and Means of Hidden Populations in Presence of Heterogeneous Probabilities of Links
我们提出了Horvitz-Thompson-like和Hajek-like估计的总和平均值的一个变量的价值与一个难以达到的人口的元素由Felix-Medina和Thompson(2004)提出的链接跟踪抽样的变体采样。这类人群的例子有吸毒者、无家可归者和性工作者。在这个抽样变量中,构建了一个由人口成员倾向于聚集的场所或场所(如公园和酒吧)组成的框架。该框架并不假定涵盖整个人口。从框架中选择元素的初始聚类样本,其中聚类是场地,并且初始样本中的元素被要求说出他们的联系人,这些联系人也是人口的成员。通过在样本中包括不在初始样本中的指定元素来增加样本量。所提出的估计量不使用基于设计的包含概率,而是使用基于模型的包含概率,该包含概率来源于Felix-Medina等人(2015)提出的模型,并通过极大似然估计量进行估计。假设包含概率是异质的,也就是说,它们取决于抽样的人。所提出的估计量的方差的估计是通过自助法获得的,它们被用来构建总数和平均值的置信区间。两个数值研究,其中一个基于真实数据的估计和置信区间的性能进行了评估,结果表明,他们的性能是可以接受的。
2020-05-21 stat.ME
A general, simple, robust method to account for measurement error when analyzing data with an internal validation subsample
背景:在流行病学数据中,量化或分类方面的测量误差经常发生,并会强烈影响推断。在确定、记录或提取数据时可能会出现测量误差。虽然测量误差的影响可能是严重的,并得到了很好的描述,简单直接的一般分析解决方案是不容易获得的统计分析和测量误差往往不承认或占。一般来说,为了说明测量误差,需要一些数据,我们可以观察一次有误差和一次无误差的变量,以建立两者之间的关系。研究方法:在这里,我们描述了一个通用的方法,占测量误差的结果和/或预测变量的参数回归设置时,有一个验证子样本,其中变量测量一次有误差和一次没有误差。该方法不描述并且因此不依赖于在有误差和无误差的情况下测量的变量之间的特定关系,并且通常对于测量误差的类型(例如非微分、微分或Berkson误差)是鲁棒的。结果如下:模拟研究表明,该方法如何减少偏差相比,模型的基础上测量的变量与误差单独和减少方差相比,模型的基础上测量的变量没有错误的验证子样本单独。结论:所提出的估计器具有良好的性能,在偏差和方差,是很容易得出的经验,是强大的不同类型的测量误差。这种方法在分析有测量误差的数据时是一种有价值的工具。
2021-10-20 stat.AP stat.ME
Variance Estimation with Dependence and Heterogeneous Means
National University of Singapore(新加坡国立大学)
本文提出了一种保守方差估计器,用于处理具有依赖性和异质均值的随机向量和的方差估计问题,确保了渐近有效性。
2026-07-17 econ.EM stat.ME
Debiased Lasso After Sample Splitting for Estimation and Inference in High Dimensional Generalized Linear Models
考虑高维广义线性模型的随机样本分裂估计和推断问题,首先使用一个子样本应用套索选择子模型,然后使用剩余的子样本应用去偏套索拟合所选模型。我们证明了,无论是否包含预先设定的回归系数子集,所选子模型在单次分裂后的去偏lasso估计渐近服从正态分布。此外,对于一组预先指定的回归系数,我们表明,基于去偏套索的多重分裂过程可以解决与样本分裂相关的效率损失,并在温和的条件下产生渐近正态估计。我们的模拟结果表明,在估计阶段使用去偏的套索代替标准的极大似然估计可以大大减少所得到的估计的偏差和方差。我们说明了建议的多重分裂去偏套索方法与吸烟数据的中南烟草病例对照研究的分析。
2023-02-28 stat.ME
Efficient Targeted Maximum Likelihood Estimators for Two-Phase Design Problems
University of California, Berkeley(加州大学伯克利分校);Targeted ML Solutions Inc.(靶向机器学习解决方案公司);Kaiser Permanente Washington Health Research Institute(凯撒永久华盛顿健康研究所);University of Washington(华盛顿大学)
本文提出了一种基于TMLE框架的高效两阶段设计问题估计器,通过改进第二阶段抽样机制提升估计效率。
2026-02-27 stat.ME stat.ML
Statistical inference of heterogeneous treatment effects using semiparametric single-index model
本文利用半参数单指标模型和双重稳健估计研究异质性处理效应,通过筛分法同时估计联系函数与指标参数,并在模拟和营养调查数据中验证了方法的优越性。
2025-07-18 stat.ME
Optimal two-phase sampling designs for generalized raking estimators with multiple parameters of interest
University of Washington(华盛顿大学);Vanderbilt University(范德堡大学);University of Auckland(奥克兰大学);Kaiser Permanente Washington Health Research Institute(凯撒永久华盛顿健康研究所)
本文研究了在多个感兴趣的参数下,通过双阶段抽样设计优化通用加权估计器的效率,提出多种分配策略并通过模拟和实际数据验证,发现独立优化每个参数的分配比传统配对抽样更有效,且最优设计对GR和IPW估计器有显著影响。
2026-03-19 stat.ME
Semiparametric estimation of heterogeneous treatment effects under the nonignorable assignment condition
本文提出了一种异质处理效应(HTE)的半参数两阶段最小二乘估计。HTE是第一类Fredholm积分方程的解,这类积分方程是不适定问题。朴素的半/非参数方法不提供稳定的解决方案,这样的问题。然后提出在保证积分逆映射连续和消除不适定性的约束下,用正交级数逼近感兴趣的函数。我们通过仿真实验说明了所提出的估计器的性能。
2019-02-26 econ.EM stat.ME
Core-Elements for Large-Scale Least Squares Estimation
针对现有基于行采样的核心集方法在稀疏预测矩阵下效率低下的问题,提出逐元素选择的核心元方法用于大规模最小二乘估计,兼具低复杂度、理论保证与鲁棒性,实验性能优于主流方法。
2024-09-16 stat.CO stat.ME
Distributed inference for heterogeneous mixture models using multi-site data
University of Missouri(密苏里大学);Harvard University(哈佛大学);Texas A&M University(德克萨斯农工大学);Cornell University(康奈尔大学);University of Pennsylvania(宾夕法尼亚大学)
本文提出了一种利用多站点数据的分布式EM算法,用于拟合异质混合模型,通过共享潜在类别的定义和允许异质混合比例,解决跨站点数据的异质性和隐私问题。
2025-12-18 stat.ME
Three-phase generalized raking and multiple imputation estimators to address error-prone data
验证研究通常用于在具有易出错数据的环境中获得更可靠的信息。关于受试者子样本的验证数据可以与关于所有受试者的易出错数据一起使用,以改进估计。在实践中,可能需要一轮以上的数据验证,直接应用标准方法将验证数据结合到分析中可能会导致效率低下的估计,因为从中间验证步骤获得的信息只被部分考虑,甚至完全忽略。在本文中,我们提出了两个新的扩展多重插补和广义耙估计,充分利用所有可用的数据。我们通过模拟表明,将信息从中间步骤可以导致效率的大幅提高。这项工作的动机和说明在82 957名妇女感染艾滋病毒的避孕有效性的研究,其数据最初从电子病历中提取,其中4855人的图表进行了审查,随后1203也有一个电话采访,以验证关键的研究变量。
2022-05-03 stat.AP stat.ME