The Fundamental Limits of Structure-Agnostic Functional Estimation
本文形式化黑箱冗余函数估计下的泛函估计问题并推导极小极大下界，证明在结构无关、仅施加高层速率条件时一阶去偏方法最优，而利用函数空间结构的高阶估计量才能进一步改进。
2025-06-07 math.ST stat.ME stat.ML
Minimax Kernel Machine Learning for a Class of Doubly Robust Functionals with Application to Proximal Causal Inference
Johns Hopkins University（约翰斯·霍普金斯大学）；University of Pennsylvania（宾夕法尼亚大学）
Robins等人（2008）引入了一类影响函数（IF），可用于获得相应参数的双鲁棒矩函数。然而，该类别不包括干扰函数是积分方程的解的参数的IF。这些参数在因果推断领域特别重要，特别是在Tchetgen等人（2020）最近提出的近端因果推断框架中，该框架允许在存在潜在混杂因素的情况下估计因果效应。在本文中，我们首先扩展类罗宾斯等。包括双鲁棒IF中的滋扰功能是积分方程的解决方案。然后，我们证明了这些IF的双重鲁棒性可以用来构造滋扰函数的估计方程，这使得我们能够在不诉诸参数模型的情况下求解积分方程。我们框架的滋扰功能的估计作为一个极大极小优化问题。我们提供的滋扰功能和渐近线性的参数估计所需的条件的收敛速度。实验结果表明，我们提出的方法导致强大的和高性能的估计平均因果效应的近端因果推断框架。
2022-03-07 cs.LG econ.EM math.ST
Estimation of a regular conditional functional by conditional U-statistics regression
U-统计量构成了一大类估计量，将随机变量$X$的经验平均值推广到$X$的每个$k$ -不同观测元组上的总和。它们可用于估计$X$定律的正则泛函$θ(P_{X})$。当协变量$Z$的向量可用时，条件U统计量可以通过估计正则条件泛函$θ(P_{X|Z=\cdot})$来描述$z$对给定$Z=z$的$X$的条件定律的影响。我们证明了条件U-统计量的浓度不等式。假设一个参数模型的条件功能的兴趣，我们提出了一个回归型估计的基础上的条件U-统计量。它的理论性质推导，首先在一个非渐近框架，然后在两个不同的渐近制度。最后给出了一些例子来说明我们的方法。
2019-03-26 math.ST stat.TH
Nuisance parameters and elliptically symmetric distributions: a geometric approach to parametric and semiparametric efficiency
本文研究了在存在有限维和无限维干扰参数的情况下，参数估计的统计效率之间的深刻且反直觉的联系，通过几何方法提出了一种新的计算投影算子的方法，适用于椭圆分布模型，并扩展到圆和非圆复椭圆对称分布。
2026-07-02 eess.SP math.ST stat.TH
Functional kernel estimators of large conditional quantiles
当协变量是函数时，当分位数的阶数随着样本量的增加而收敛于1时，我们讨论了条件分位数的估计。在第一次，我们调查在何种程度上这些大的条件分位数仍然可以通过一个功能核估计的条件生存函数估计。给出了渐近高斯分布估计的阶收敛到1的收敛速率的充分条件。在第二次，基于这些结果，一个功能Weissman估计推导出，允许估计大的条件分位数的任意大的顺序。这些结果都说明了有限样本的情况下。
2013-04-25 math.ST stat.TH
Selective machine learning of doubly robust functionals
本文提出一种选择性机器学习框架，基于双重稳健性质定义伪风险并选择最优学习器对，用于半参数模型中有限维泛函的推断，并应用于平均处理效应的估计，理论证明其oracle性质，模拟和实证验证了有效性。
2023-09-03 math.ST stat.ME stat.ML
De-Biased Machine Learning of Global and Local Parameters Using Regularized Riesz Representers
我们提供了自适应推理方法，$\ell_1$正则化的基础上，定期（半参数）和非定期（非参数）的线性泛函的条件期望函数。正则泛函的例子包括平均处理效应、政策效应和导数。非正则泛函的例子包括平均处理效应、政策效应和以固定在某点的协变量子向量为条件的导数。我们构建了一个奈曼正交方程的目标参数，是近似不变的滋扰参数的小扰动。为了实现这一属性，我们包括Riesz代表功能作为一个额外的滋扰参数。我们的分析产生了弱的“双稀疏鲁棒性”：回归的近似或代表者的近似可以是“完全稠密的”，只要另一个足够“稀疏”。我们的主要结果是非渐近的，并意味着在大类模型的渐近一致有效性，转化为诚实的信心带的全球和当地的参数。
2022-10-21 econ.EM math.ST stat.ML
Functional kernel estimators of conditional extreme quantiles
我们解决了“极端”条件分位数的估计，即当它们的顺序收敛到一个作为样本量增加。为了得到渐近高斯分布的核估计，给出了它们的阶收敛到1的收敛速率的条件。导出了条件尾指数的Weissman型估计量和核估计量，允许估计任意阶的极端条件分位数。
2012-12-05 math.ST stat.TH
Efficiency Optimality without Pathwise Differentiability: A Variational Theory for Marginal-Integral Functionals
University of California, Berkeley（加州大学伯克利分校）；The Hong Kong University of Science and Technology（香港科技大学）
本文提出一种无需路径可微性的变分理论，通过条件方差最小化刻画边际积分泛函的最优效率，并给出显式最优权重及交叉拟合估计量，应用于最优策略值、校准误差等，实证显示协方差加权显著降低方差。
2026-09-16 math.ST stat.TH
Conditional Delta-Method for Resampling Empirical Processes in Multiple Sample Problems
针对经验过程重抽样程序缺乏通用条件泛函delta方法的问题，本文提出适用于多样本问题的通用条件delta方法，并通过多类示例验证其应用灵活性，可改善基于极限结果的统计推断的有限样本性质。
2024-08-20 math.ST stat.TH
Functional central limit theorems for conditional Poisson sampling
本文给出了条件Poisson抽样的一些已知泛函中心极限定理的改进形式，使之更适合于实际应用。本文给出的定理是\citet*{Bertail_2017}最近发表的一些结果的推广。本文中提出的证明的渐近等度连续性部分是基于相同的想法，在\citep{Bertail_2017}，但提供了一些缺失的细节。在得到泛函中心极限定理的过程中，本文详细讨论了在调查抽样的情况下，证明有界函数空间中的条件弱收敛和无条件弱收敛所必须做的工作.所得结果可用于进一步证明弱收敛结果。
2019-06-17 math.ST stat.TH
A Functional Principal Component Analysis Approach to Conditional Copula Estimation
本文提出基于函数主成分分析的全非参数方法，通过 Karhunen-Loève 表示构建二元条件 Copula 估计量，并证明其一致性与向极限高斯过程的弱收敛。
2024-07-28 math.ST stat.TH
Orthogonal Random Forest for Causal Inference
Microsoft Research–New England（微软研究院-新英格兰分院）；University of Minnesota–Twin Cities（明尼苏达大学-双城分校）
我们提出了正交随机森林，这是一种将奈曼正交性与广义随机森林相结合以降低关于滋扰参数的估计误差的灵敏度的算法（Athey等人，2017）--一种灵活的非参数方法，用于使用随机森林对条件矩模型进行统计估计。我们提供了一个一致率，并建立渐近正态性我们的估计。我们表明，在温和的假设下的滋扰估计的一致性率，我们可以实现相同的出错率作为一个甲骨文与这些滋扰参数的先验知识。我们表明，当滋扰功能有一个局部稀疏参数化，然后一个本地$\ell_1$惩罚回归达到所需的速度。我们应用我们的方法来估计异质性治疗效果的观察数据与离散治疗或连续治疗，我们表明，与以前的工作不同，我们的方法可证明允许控制一组高维变量在标准稀疏条件下。我们还提供了一个全面的经验评估我们的算法在合成和真实数据。
2019-09-25 cs.LG econ.EM math.ST
Quantifying deviations from separability in space-time functional processes
时空数据的协方差算子的估计在许多应用中只有在简化的假设下才是计算上可行的，例如协方差可分离为严格的时间和空间因子，文献中已经提出了对这种假设的强有力的检验。然而，由于现实世界的系统，如气候数据是众所周知的不可分割的，通过统计测试来验证这一假设，似乎本质上是有问题的。在本文中，我们提出了一种替代方法：凭借可分性措施，我们量化如何强烈的数据的协方差算子偏离一个可分离的近似。置信区间用统计保证将这些度量局部化。该方法为用户提供了一个灵活的工具，以权衡可分离模型的计算增益与相关的偏差增加。作为可分离的逼近，我们考虑了部分迹和部分乘积的已有方法，并发展了相应估计量的弱收敛原理。此外，我们还证明了这样的结果，估计的最佳，可分离的近似，这可以说是最感兴趣的应用。特别是，我们第一次提出了统计推断这个对象，这一直局限于估计以前。除了置信区间，我们的结果包括近似可分性的测试。本文提出的所有方法都是免费的冗余参数，既不需要计算昂贵的恢复程序，也不需要估计的冗余参数。模拟研究强调了我们的方法的优点，其适用性证明了德国年度温度数据的调查。
2020-03-26 math.ST stat.TH
How Many Iterations are Sufficient for Semiparametric Estimation?
获得半参数有效估计的常见做法是通过迭代地最大化（惩罚）对数似然w.r.t.其欧氏参数和函数冗余参数。本文的目的是提供一个公式，在计算的最小数量的迭代$k^\ast$需要产生一个有效的估计$\hatθ_n^{(k^\ast)}$从理论的角度来看。我们发现（a）$k^\ast$依赖于初始估计和干扰估计的收敛速度;（b）多于$k^\ast$迭代，即，$k$，只会提高$\hatθ_n^{(k)}$的高阶渐近效率;（c）$k^\ast$迭代也足以恢复高维数据中的估计稀疏性。特别是当冗余参数在根n速率下不可估计时，这些一般结论成立，并且适用于在各种正则化下估计的半参数模型，例如，核估计或惩罚估计。本文提供了第一个一般的理论理由，在文献中观察到的“一步/两步迭代”的现象，并可能是有用的，在减少自举计算成本的半参数模型。
2010-09-22 math.ST stat.TH
Estimating the conditional distribution in functional regression problems
我们考虑在一般空间中给定协变量$X$的函数数据对象$Y=(Y(t): t\in[0,1])$的条件分布$P(Y \in A |X)$的一致估计问题，假设$Y$和$X$由函数线性回归模型相关.提出了两种自然估计方法，基于自举估计的模型残差，或拟合函数参数模型的模型残差和估计$P(Y \in A |X)$通过模拟。这些方法是否导致一致的估计取决于回归算子估计的一致性属性，以及查看$Y$的空间。我们表明，在一般一致性条件下的回归算子估计，这有利于某些功能的主成分估计，一致的估计的条件分布可以实现，无论是当$Y$是一个可分离的希尔伯特空间的元素，当$Y$是一个元素的连续函数的巴拿赫空间。后者的结果意味着，集$A$指定路径属性的$Y$，这是感兴趣的应用程序，可以考虑。通过仿真实验、电价数据分析和污染曲线数据分析，对所提出的方法进行了研究。
2021-05-04 math.ST stat.TH
Selective inference for effect modification via the lasso
当治疗对结果的影响根据其他协变量的水平而变化时，发生效应修正，并且通常对决策具有重要影响。当存在数十或数百个协变量时，有必要使用观察到的数据来选择更简单的模型进行效应修正，然后进行有效的统计推断。我们提出了一个两阶段的程序来解决这个问题。首先，我们使用Robinson变换将干扰参数与感兴趣的处理效应解耦，并使用机器学习算法来估计干扰参数。接下来，在插入讨厌参数的估计值后，我们使用Lasso选择一个低复杂度的模型进行效果修改。与由所有协变量组成的完整模型相比，所选模型更具可解释性。与单变量亚组分析相比，所选模型大大减少了错误发现的数量。我们证明了在经典半参数回归的速率假设下，所选模型的条件选择性推断是渐近有效的。进行了大量的模拟研究，以验证渐近结果和流行病学的应用程序来证明该方法。
2021-11-19 math.ST stat.ME stat.TH
Conditional Dirichlet Processes and Functional Condition Models
本文研究条件狄利克雷过程在泛函条件模型中的应用，推导参数与分布的后验及两个极限定理，提出计算算法，并证明杰弗里斯替代似然为边际后验极限。
2025-06-19 math.ST stat.TH
Nonparametric functionals as generalized functions
本文研究了广义函数空间中的概率分布、密度、条件分布、密度和条件矩及其核估计。这种方法不需要对非参数估计中常见的分布类别进行限制。一般函数空间中的密度不是适定性的，本文建立了广义密度函数的存在性和适定性。证明了在广义函数空间上核密度估计的根n收敛性。证明了条件分布的核估计作为广义函数广义函数空间中的一个随机过程以参数速率收敛到一个极限高斯过程，而与条件分布的逐点存在性无关.条件矩如条件均值也可以用广义函数刻画.核估计的收敛到极限高斯过程中，只要适当的时刻存在。
2013-03-06 math.ST stat.TH
Inference on Optimal Policy Values and Other Irregular Functionals via Softmax Smoothing
Stanford University（斯坦福大学）；Harvard University（哈佛大学）
本文提出一种基于Softmax平滑的估计方法，用于推断最优治疗政策的价值，适用于静态和动态治疗方案，仅需拟合常数数量的 nuisance 模型，并在无治疗非响应概率时具有统计效率。
2026-03-30 cs.LG econ.EM math.ST
Sharp Structure-Agnostic Lower Bounds for General Linear Functional Estimation
Stanford University（斯坦福大学）
本文提出了一般线性函数估计的锐利结构无关下界，证明了双重鲁棒估计器的统计最优性，并区分了双重鲁棒性和一阶去偏在不同情形下的最优性。
2026-01-05 cs.LG econ.EM math.ST
Causal inference under transportability assumptions for conditional relative effect measures
本文研究在条件相对效应度量可迁移性假设下，识别和估计目标人群的边际反事实均值差与比值，提出多重稳健且非参数有效的估计量，并通过模拟和帕利哌酮试验数据验证其有效性。
2024-07-17 math.ST stat.ME stat.TH
Kernel-smoothed conditional quantiles of randomly censored functional stationary ergodic data
本文研究了在随机删失条件下，当考虑{ \it函数平稳遍历数据}时，标量随机响应和函数随机协变量（即在无穷维空间中取值）的条件分位数估计.我们引入了条件分位数函数的核型估计。我们建立了该估计量与率的强相合性以及渐近正态性，该正态性导出了一个置信区间，该置信区间不依赖于任何未知量，因此在实际中是可用的。应用于电力高峰需求区间预测与删失智能电表数据进行了显示所提出的估计器的性能。
2013-04-16 math.ST stat.ME stat.TH
Double Cross-fit Doubly Robust Estimators: Beyond Series Regression
本文研究双重交叉拟合双稳健（DCDR）估计量，在Hölder光滑条件下通过欠光滑化冗余函数估计，证明其具有$\sqrt{n}$一致性与渐近正态性，并提出极小极大速率最优的核回归DCDR估计量，支持非$\sqrt{n}$情形下的推断。
2025-05-07 math.ST stat.ME stat.ML
An RKHS approach for pivotal inference in functional linear regression
我们开发的方法来测试斜率函数功能线性回归的时间序列通过再生核希尔伯特空间的方法。相反，大多数的文献，它认为测试的精确零值的斜率函数，我们感兴趣的原假设的斜率函数消失，只有大约，偏差测量相对于$L^2$ -范数。提出了一种不需要估计冗余参数和长期协方差的渐近关键检验方法。证明我们的方法的有效性的关键技术工具包括一个统一的Bahadur表示和弱不变原理的斜率函数的估计的顺序过程。标量函数和函数函数上的线性回归被认为是有限样本的方法来实现我们的方法。我们还说明了我们的方法的潜力，通过一个小的模拟研究和数据的例子。
2022-02-16 math.ST stat.TH
Functional nonparametric estimation of conditional extreme quantiles
当函数协变量信息可用时，以及当分位数的阶数随着样本量的增加而收敛到1时，我们讨论了重尾分布分位数的估计。这样的“极端”分位数可以位于数据的范围内，或者接近甚至超出样本的边界，这取决于它们的阶数收敛到1的收敛速度。引入了这些泛函极值分位数的非参数估计，建立了它们的渐近分布，并研究了它们的有限样本行为。
2011-04-01 math.ST stat.ME stat.TH
Set-valued conditional functionals of random sets
ETH Zurich（苏黎世联邦理工学院）；University of Bern（伯尔尼大学）
本文研究随机集的支持函数的条件扩展，提出条件 gauge 函数及其在随机闭凸集中的应用，探讨了条件集值分位数和条件集值期望的定义与性质。
2025-04-18 math.PR math.ST stat.TH
Doubly robust inference via calibration
University of Washington（华盛顿大学）；Stanford University（斯坦福大学）；Harvard Medical School（哈佛医学院）；Harvard University（哈佛大学）
该研究针对双重稳健推断中渐近正态性对两个干扰函数收敛速度的要求不匹配问题，提出校准去偏机器学习（DML）方法，结合 isotonic 回归调整，实现双重稳健渐近正态性，在半合成基准数据中表现更优。
2026-08-24 math.ST stat.ME stat.ML
Conditional copula representations and extremal bounds for multivariate statistical functionals
University of Brasília（巴西利亚大学）
本文推导了多元统计泛函期望的条件Copula表示，建立了固定边缘下的极值界，通过示例展示了其在风险测度等多领域应用的通用性。
2026-07-30 math.ST stat.ME stat.TH
Three-way Cross-Fitting and Pseudo-Outcome Regression for Estimation of Conditional Effects and other Linear Functionals
本研究将平均处理效应估计的最新进展适配到条件平均处理效应估计中，结合三重交叉拟合与伪结果回归生成个性化效应估计，证明在结果条件期望满足平滑性条件时可实现较快收敛，为个体处理决策提供支撑。
2023-06-12 math.ST stat.ME stat.TH
Unified formulas for conditional quantities and transportation functionals
University of Brasilia（巴西利亚大学）
本文基于分布导数和Dirac delta表示，建立了一个统一的概率框架，用于推导条件期望、条件分布、危险函数等经典概念的统一公式，并利用Fréchet-Hoeffding界和Δ-反调函数推导了绝对差矩的尖锐界，进而得到Wasserstein距离的分位数表示等结果。
2026-06-04 math.ST stat.ME stat.TH
A variational Bayes approach to inference for low-dimensional parameters in high-dimensional linear regression
Sorbonne Université（索邦大学）；Imperial College London（帝国理工学院伦敦分校）
针对高维线性回归的低维参数推断问题，提出一种结合平均场近似的可扩展变分贝叶斯方法，兼具计算优势与准确推断能力，且理论与数值表现均具竞争力。
2026-08-12 cs.LG math.ST stat.ML
Grouped Semi-Supervised Estimation of Two-Sample Functionals via Single-Index Conditional Imputation
College of Mathematics and Systems Science, Xinjiang University（新疆大学数学与系统科学学院）
针对异质分组中两样本比较泛函估计，提出结合单指标条件插补与协变量平均的半监督方法，在理论上保证一致性与渐近正态性，并通过模拟和NHANES数据验证其偏差小、均方误差低及标准误更小的优势。
2026-09-23 math.ST stat.ME stat.TH
Testing relevant hypotheses in functional time series via self-normalization
在本文中，我们开发的方法来测试有关的假设功能时间序列的调谐自由的方式。而不是测试的确切平等，例如从两个独立的时间序列的两个平均函数的平等，我们建议测试的原假设没有相关的偏差。在两个样本问题中，这意味着两个均值函数之间的$L^2$距离小于预先指定的阈值。对于这样的假设，Shao（2010）和Shao和Zhang（2010）引入的自归一化通常用于避免估计讨厌的参数，不直接适用。我们发展了新的自规范化程序来检验单样本、双样本和变点问题中的相关假设，并研究了它们的渐近性质。通过模拟研究和数据实例说明了所提出的测试的有限样本性质。我们的主要重点是功能时间序列，但扩展到其他设置也简要讨论。
2020-02-20 math.ST stat.ME stat.TH
On a copula product characterizing independence and perfect functional dependence
University of Salzburg（萨尔茨堡大学）
本文研究了瓦瑟斯坦相关性和重新排列依赖度量之间的联系，通过copula积T(C)建模条件共变性，并证明了T在随机递增copula类中的反射性质及T²的投影作用。
2026-08-27 math.PR math.ST stat.TH
Conditional Independence Testing in Hilbert Spaces with Applications to Functional Data Analysis
针对函数型变量的条件独立性检验难题，本文提出基于残差内积的统计量，证明岭回归可在弱特征值条件下一致控制第一类错误，并用于函数型线性模型截断点推断和 EEG 图模型边检验。
2022-05-27 math.ST stat.ME stat.TH
Augmented Functional Random Forests: Classifier Construction and Unbiased Functional Principal Components Importance through Ad-Hoc Conditional Permutations
Faculty of Technological and Innovation Sciences（技术与创新科学学院）；Faculty of Economics and Law（经济与法学院）
本研究将函数型数据分析与树模型结合，提出增强型函数型分类树和随机森林，通过特设条件置换实现无偏函数主成分重要性评估，在真实与模拟数据集上均提升了分类性能。
2024-08-23 cs.LG math.ST stat.ME
Functional estimation and change detection for nonstationary time series
时间序列中结构突变的测试在理想情况下应该对感兴趣的参数中的突变敏感，同时对干扰变化具有鲁棒性。因此，统计分析需要在无变化的原假设下考虑某种形式的非平稳性。本文构造了局部平稳时间序列综合参数的估计量，并建立了相应的泛函中心极限定理，使得在较弱的假设下，能对广泛的一类参数进行变点推断.所提出的框架涵盖了所有的参数，可以表示为非线性函数的时刻，例如峰度，自相关，系数在线性回归模型。为了进行基于导出的极限分布的可行推理，提出了一种自助变体，并建立了它的一致性。通过模拟研究和高频资产价格的应用说明了该方法。
2022-12-01 math.ST stat.ME stat.TH
Doubly robust target inference for generalized linear regression with completely missing covariates
School of Mathematics and Statistics, Huazhong University of Science and Technology（华中科技大学数学与统计学院）；Department of Statistics and Data Science, Tsinghua University（清华大学统计与数据科学系）
针对目标数据协变量完全缺失的广义线性回归，提出双重稳健迁移学习框架，结合重要性加权与插补，实现一致且有效的目标总体推断。
2026-09-22 math.ST stat.ME stat.ML
Functional Generalized Empirical Likelihood Estimation for Conditional Moment Restrictions
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Weierstrass Institute for Applied Analysis and Stochastics（魏尔斯特拉斯应用分析与随机过程研究所）；Eidgenössische Technische Hochschule Zürich（苏黎世联邦理工学院）
针对条件矩约束估计的挑战，提出广义经验似然（GEL）的泛函重构方法，利用任意机器学习模型并基于对偶公式设计实用算法，在多个问题上取得最优性能。
2024-02-16 cs.LG math.ST stat.ML
Conditional Quantile Processes based on Series or Many Regressors
Quantile regression (QR) is a principal regression method for analyzing the impact of covariates on outcomes. The impact is described by the conditional quantile function and its functionals. In this paper we develop the nonparametric QR-series framework, covering many regressors as a special case, for performing inference on the entire conditional quantile function and its linear functionals. In this framework, we approximate the entire conditional quantile function by a linear combination of series terms with quantile-specific coefficients and estimate the function-valued coefficients from t…
2018-08-09 econ.EM math.ST stat.ME
Functional Sequential Treatment Allocation with Covariates
University of Oxford（牛津大学）；Aarhus University（奥胡斯大学）；Université libre de Bruxelles（布鲁塞尔自由大学）；SBS-EM；ECARES
本文研究带协变量的多臂老虎机问题，提出面向一般条件结果分布函数的处理分配框架，给出期望遗憾下界并构造近似极小极大最优策略。
2020-01-29 cs.LG econ.EM math.ST
