Partially adaptive nonparametric instrumental regression
我们考虑非参数工具回归中结构函数的估计问题，其中在存在工具W的情况下，响应Y依赖于内生解释变量Z建模。该估计器是基于降维和额外的阈值。假定结构函数属于某些椭球，这些椭球在一定意义下与Z的条件期望算子相联系，给出了估计量的极小极大最优收敛速率。我们说明这些结果考虑经典的平滑假设。然而，所提出的估计需要一个最佳的尺寸参数的选择取决于某些特性的未知的结构函数和条件期望运营商的Z给定W，这是不知道在实践中。在我们的工作中解决的主要问题是这个尺寸参数的自适应选择使用的模型选择方法的限制下，Z给定W的条件期望运营商是平滑在一定意义上。在这种情况下，我们开发了一个惩罚的最小对比度估计与随机惩罚和收集的模型。我们表明，这种数据驱动的估计可以达到较低的风险绑定到一个常数在广泛的平滑类的结构功能。
2012-04-10 math.ST stat.TH
Instrumental variable quantile regression under random right censoring
研究了随机右截尾下具有内生变量的半参数分位数回归模型。使用工具变量解决了内隐问题。假设结局变量对数的结构分位数在协变量中是线性的，并且删失是独立的。回归量和工具可以是连续的或离散的。规格生成连续方程，其中分位数回归系数是解。当该方程组有唯一解时，可得到识别。我们的估计过程解决了一个经验模拟的方程组。我们推导出的条件下，估计是渐近正常的，并证明了自举过程的推断的有效性。有限样本的性能的方法进行了评估，通过数值模拟。国家职业培训合作法案研究的应用说明了这种方法。
2023-02-02 econ.EM math.ST q-bio.QM
Exact computation of GMM estimators for instrumental variable quantile regression models
证明了工具变量分位数回归（IVQR）模型的广义矩估计问题可以等价地转化为一个混合整数二次规划问题.这使得精确计算IVQR模型的GMM估计量。我们通过蒙特卡罗实验和应用程序的鱼的需求说明了我们的算法的实用性。
2017-03-28 stat.CO
A goodness-of-fit test for parametric and semi-parametric models in multiresponse regression
本文提出了一种经验似然检验方法，它能够检验一类参数和半参数多响应回归模型的拟合优度。这类模型包括特殊情况下的全参数模型、半参数模型，如多指标模型和部分线性模型，以及带有形状约束的模型。该检验的另一个特点是它允许响应变量和协变量都是多变量的，这意味着可以同时检验多重回归曲线。该测试还允许在待测试的模型中存在无限维滋扰函数。它表明，经验似然检验统计量是渐近正态分布在一定的温和条件下，并允许一个野生自助校准。尽管要考虑的模型的类的大尺寸，经验似然检验享有良好的权力性质对偏离类内的假设模型。
2010-01-11 math.ST stat.TH
Distribution free testing for linear regression. Extension to general parametric regression
最近，\cite{Khm13, Khm16, Khm17}提出了一种基于酉变换的检验参数假设的无分布方法，并在\cite{Ngu17}和\cite{Rob19}中进行了进一步的研究。本文证明了在线性回归的分布自由检验中，变换的形式是极其简单的。然后将其推广到向量值协变量的一般参数回归。
2020-02-07 math.ST stat.ME stat.TH
Semiparametric Penalized Spline Regression
本文利用参数方法和非参数惩罚样条方法的混合技巧，提出了一种新的半参数回归估计。真实回归函数的整体形状由参数部分捕获，而其残差由非参数部分一致地估计。建立了半参数估计的渐近理论，证明了半参数估计的渐近性依赖于非参数惩罚样条估计的渐近性以及真实回归函数与参数部分之间的差异.作为渐近性的自然关联应用，讨论了参数模型选择的一些准则。数值实验表明，所提出的估计比现有的基于核的半参数估计和完全非参数估计性能更好，所提出的准则对于选择合理的参数模型也是有效的.
2012-02-16 math.ST stat.TH
Conformal Prediction for Nonparametric Instrumental Regression
本文提出一种非参数工具变量回归中无分布预测区间构造方法，提供有限样本覆盖保证。基于符合推断的条件保证框架，将条件覆盖转化为IV位移类$\mathcal{F}$上的边际覆盖。方法可与任意NPIV估计器结合，如sieve 2SLS及其他机器学习方法。理论分析建立无分布、有限样本覆盖。
2026-03-26 cs.LG econ.EM stat.AP
Smoothed estimating equations for instrumental variables quantile regression
工具变量分位数回归的矩条件或估计方程涉及到不连续指示函数。相反，我们使用平滑估计方程（SEE），带宽为$h$。我们表明，SEE的向量的均方误差（MSE）是最小化的一些$h>0$，导致较小的渐近MSE的估计方程和相关的参数估计。相同的MSE最优$h$还最小化了基于SE的$χ^2$检验的高阶第一类错误，并增加了大样本中的大小调整功效。SEE估计量的计算也变得更简单，更可靠，特别是（更多）内生回归。蒙特卡罗模拟在有限样本中证明了所有这些优越的特性，并且我们将我们的估计器应用于JTPA数据。平滑估计方程不仅仅是建立Edgeworth展开和自举精化的技术操作;它还带来了更精确的估计和更强大的测试的真正好处。估计器、模拟和经验示例的代码可从第一作者的网站获得。
2016-09-28 econ.EM math.ST stat.AP
Asymptotic minimax risk of predictive density estimation for non-parametric regression
本文研究了非参数回归模型中未来观测值的预测密度估计问题。密度估计Kullback-Leibler发散下进行评估，我们的重点是在高斯误差的情况下建立极小极大风险的精确渐近性。我们推导出了高斯先验下贝叶斯预测密度之间的极小极大风险的收敛速度和常数，并证明了这种极小极大风险与所有密度估计之间的极小极大风险是渐近等价的。
2010-10-11 math.ST stat.TH
Specification testing in semi-parametric transformation models
在转换回归模型中，在将回归模型拟合到协变量和转换的响应之前，先转换响应。我们假设这样一个模型，其中误差与协变量无关，并且回归函数是非参数建模的。我们建议一个测试的拟合优度的参数转换类的基础上的非参数转换估计和参数类之间的距离。我们提出的渐近理论下的半参数模型的有效性的原假设和当地的替代品。一个自举算法建议，以适用于测试。我们还考虑相关的假设来区分大的和小的距离的参数变换类的“真”的变换。
2020-02-14 math.ST stat.TH
Semi-parametric regression: Efficiency gains from modeling the nonparametric part
结构化非参数模型在非参数估计中的重要性已被广泛认可。在本文中，我们表明，同样适用于半参数估计。我们认为，估计的参数分量的半参数模型，可以从根本上改善时，更多的结构被放入非参数部分的模型。我们说明了这部分线性模型，并调查效率增益时，模型的非参数部分具有添加剂结构。我们提出了估计部分线性可加模型参数部分的半参数Fisher信息界，并提供了半参数有效估计，我们使用光滑的回拟合技术来处理可加非参数部分。我们还提出了有限样本性能的估计和分析波士顿住房数据作为例证。
2011-04-22 math.ST stat.TH
Hypothesis Testing in High-Dimensional Instrumental Variables Regression with an Application to Genomics Data
基因表达和表型关联可能受到来自多个来源的潜在未测量混杂因素的影响，导致对关联的偏倚估计。由于遗传变异在很大程度上解释了基因表达变异，因此可以在高维工具变量（IV）回归的框架内将其用作研究基因表达与表型之间关联的工具。然而，由于遗传变异和基因表达的维度通常大于样本量，因此统计推断（例如，用于此类高维IV模型的假设检验）并非微不足道，并且尚未在文献中进行研究。由于工具变量（例如，遗传变体）必须在大量的遗传变体中进行选择。研究了稀疏IV回归模型的假设检验问题，给出了单个回归系数的检验方法和多个回归系数的多重检验方法，其中单个回归系数的检验统计量是基于逆回归构造的.一个多重检验程序开发选择变量，并控制错误发现率。仿真进行评估我们所提出的方法的性能。这些方法通过酵母数据集的分析来说明，以确定与过氧化氢存在下的生长相关的基因。
2019-10-21 stat.AP stat.ME
The Trimmed Mean in Non-parametric Regression Function Estimation
本文研究了Nadaraya-Watson估计量的一种修正形式，用于估计未知非参数回归函数。通过极小化问题建立了估计量的特征，并导出了其逐点渐近分布。通过故障点研究了该估计器的鲁棒性。此外，随着广泛的模拟研究的渐近效率的研究表明，这种估计在各种情况下表现良好。三个基准的实际数据，以及估计的实用性。
2019-09-26 math.ST stat.ME stat.TH
A New Graphical Device and Related Tests for the Shape of Non-parametric Regression Function
我们考虑一个非参数回归模型$y = m(x) + ε$，并提出了一种新的图形设备，以检查是否$r$ -th（$r \geqslant 1$）衍生的回归函数$m(x)$是积极的或其他。由于回归函数的形状可以完全由其导数表征，因此图形设备可以正确地识别回归函数的形状。所提出的设备包括检查函数的单调性和凸性作为特殊情况。我们还提出了一个例子来阐明的图形设备的实际效用。此外，我们利用图形化的方法，建立了一类检验统计量的公式，并导出了它的渐近分布。这些测试在各种模拟和真实数据示例中展示。
2021-01-23 math.ST stat.ME stat.TH
Parametric quantile regression models for fitting double bounded response with application to COVID-19 mortality rate data
在本文中，我们基于Power Johnson SB分布Cancho et al.（2020）开发了两个全参数分位数回归模型，用于对不同分位数的单位区间响应进行建模。特别地，条件分布由幂约翰逊SB分布建模。采用极大似然法估计模型参数。模拟研究进行评估的极大似然估计在有限样本的性能。此外，我们还讨论了残差和影响诊断工具。我们的建议的有效性以不同国家COVID-19死亡率的两个数据集为例。
2021-03-12 math.ST stat.ME stat.TH
Non-parametric Quantile Regression via the K-NN Fused Lasso
分位数回归是用于估计响应变量的条件分位数的统计方法。此外，对于均值估计，众所周知，分位数回归比基于$l_2$的方法对离群值更稳健。通过在$K$ -最近邻图上使用融合套索惩罚，我们提出了一种非参数设置下的自适应分位数估计。我们表明，估计达到最佳的$n^{-1/d}$率的对数因子，温和的假设下的数据生成机制的$d$维数据。我们开发算法来计算估计量和讨论方法的模型选择。模拟和真实数据的数值实验表明，所提出的估计的最先进的方法的国家的明显优势。
2021-08-17 math.ST stat.ME stat.TH
On ill-posedness of nonparametric instrumental variable regression with convexity constraints
本文证明了在回归函数上增加单调性或凸性约束并不能恢复非参数工具变量回归的适定性。没有正则化的最小距离问题仍然是局部不适定的。
2016-12-15 math.ST stat.TH
Conditional Diffusion for Nonparametric Instrumental Variable Quantile Regression
Institute of Data Science and Statistics, Shanghai University of Finance and Economics（上海财经大学数据科学与统计研究院）；School of Mathematics and Statistics, Wuhan University（武汉大学数学与统计学院）；School of Artificial Intelligence, Wuhan University（武汉大学人工智能学院）
本研究提出结合条件扩散建模的两阶段非参数工具变量分位数回归方法，建立了重尾分布下的理论保证，经模拟与实际数据验证，其性能优于现有方法且随维度提升优势更明显。
2026-08-11 cs.LG stat.ML
Instrumental variables regression
IV回归的背景下，重新采样被认为是在工作中。相比之下，IV模型在发展中的贡献是结构识别。这项工作还包含一个乘数引导的理由。
2018-06-15 math.ST stat.TH
Oracle Inequality for Instrumental Variable Regression
我们解决的问题，估计一个回归函数中观察到的工具回归框架。该模型是一个带有未知算子的反问题。我们提供了一个谱截止估计程序，使甲骨文不等式，保证我们的估计，建立没有任何先验知识，以及行为，直到$\log$长期，如果最好的模型是已知的。
2009-01-27 math.ST stat.TH
SIMEX Estimation in Parametric Modal Regression with Measurement Error
针对一类具有测量误差的参数模态回归模型，提出了一种估计模态回归系数的模拟外推估计方法。大样本性质的建议估计程序，包括一致性和渐近正态性，进行了深入研究。通过仿真研究，评估了该方法对潜在异常值的鲁棒性和减小由测量误差引起的偏差的有效性。
2019-10-03 stat.ME
A New One Parameter Unit Distribution: Median Based Unit Rayleigh (MBUR): Parametric Quantile Regression Model
本文提出了一种名为MBUR的单参数单位瑞利新分布，构建了参数化分位数回归模型，通过重新参数化的极大似然函数进行参数估计，并结合真实数据集验证了推断与拟合优度。
2025-10-11 math.PR stat.ME
Goodness-of-fit tests for parametric regression models with circular response
本文提出了一种用于评估具有圆形响应和$\mathbb{R}^d$值协变量的参数回归模型的检验方法，并分析了独立和空间相关数据。检验统计量基于比较（非平滑或平滑）参数圆形估计量和非参数圆形估计量的圆形距离。适当设计的引导程序校准测试在实践中也提出。有限样本性能的测试在不同的情况下，独立和空间相关的样本，通过模拟分析。
2020-08-31 stat.ME
Testing parametric models in linear-directional regression
本文给出了具有标量响应和方向预测变量的参数回归模型的拟合优度检验。方向预测变量是任意维球面上的向量。检验过程是基于平滑和参数回归估计之间的加权平方距离，其中平滑回归估计是通过投影局部方法获得的。给出了在原假设和局部替代假设下检验统计量的渐近行为，并给出了一个可用于实际应用的自举算法。仿真研究说明了在有限样本的测试的性能。该过程适用于测试文本挖掘中的线性模型。
2020-09-20 stat.ME
Uniform inference for kernel instrumental variable regression
Seminar for Statistics, ETH Zurich（苏黎世联邦理工学院统计研讨会）；Society of Fellows and Department of Economics, Harvard University（哈佛大学费利格学会与经济系）；Department of Economics, U.C. San Diego（加州大学圣地亚哥分校经济系）
研究为核工具变量回归开发有效且精确的置信集，核心方法是特定引导程序，主要贡献是提供实用推断程序，提升核方法在因果分析中的价值。
2026-07-07 math.ST stat.TH
High-dimensional instrumental variables regression and confidence sets
本文考虑了具有多个回归变量的线性工具变量模型中的推断，这些回归变量都可以是内生的。我们提出了STIV估计。辨识鲁棒置信集是通过求解线性规划得到的。我们目前的收敛速度，变量的选择，置信集，适应稀疏性的结果，并分析使用偏差校正的线性函数向量的置信带。我们还提供了一些工具是内源性的解决方案。该应用程序是EASI需求系统。
2021-08-06 math.ST stat.TH
Proxy Variable in OECD Database: Application of Parametric Quantile Regression and Median Based Unit Rayleigh Distribution
本文提出专为分位数回归设计的基于中位数的单位Rayleigh（MBUR）分布，并利用OECD数据应用参数化MBUR分位数回归，展示了其连接统计理论与数据分析的潜力。
2025-10-26 stat.AP stat.ME
Extrapolation Estimation for Parametric Regression with Normal Measurement Error
对于协变量含有正态测量误差的一般参数回归模型，本文提出了一种经典模拟外推算法的加速版本来估计回归函数中的未知参数。通过将条件期望直接应用于目标函数，所提出的算法成功地消除了模拟步骤，通过生成一个估计方程，无论是立即使用或外推，从而显着减少了计算时间。讨论了估计量的大样本性质，包括相合性和渐近正态性。潜在的广泛应用所提出的估计程序的例子，模拟研究，以及一个真实的数据分析。
2021-07-10 stat.ME
A Comparison Between Quantile Regression and Linear Regression on Empirical Quantiles for Phenological Analysis in Migratory Response to Climate Change
这是公认的，候鸟一般提前他们的到达时间在春天，在本文中，我们探讨潜在的方法，提高在未来的物候分析的细节水平。我们进行单以及多个物种的分析，使用线性模型的经验分位数，非参数分位数回归和基于似然的参数分位数回归与非对称拉普拉斯分布的误差项。我们的结论是，非参数分位数回归似乎最适合于单一以及多个物种的分析。
2022-02-07 stat.AP
Parametric bootstrapping in a generalized extreme value regression model for binary response
当我们研究代表罕见事件的二元响应变量$Y$和潜在预测变量$\mathbf{X}$之间的关系时，广义极值（GEV）回归往往更适合。特别地，我们使用GEV分布的分位数函数作为链接函数。Bootstrapping将准确性的度量（偏倚、方差、置信区间、预测误差、假设检验）分配给样本估计值。该技术允许使用随机抽样方法估计几乎任何统计量的抽样分布。Bootstrapping通过从近似分布中采样时测量估计量的属性来估计估计量的属性。本文首先对广义极值回归模型进行拟合，然后用参数Bootstrap方法检验假设，估计广义极值回归模型参数的置信区间，并给出一个实际数据应用。
2021-05-02 stat.AP stat.ME
Semi-parametric bulk and tail regression using spline-based neural networks
University of Arkansas（阿肯色大学）；University of Edinburgh（爱丁堡大学）
本文提出SPQRx，结合样条神经网络与混合GP分布，实现半参数化密度回归，以可靠处理重尾数据的尾部外推。
2026-02-25 stat.ME
Minimax wavelet estimation for multisample heteroscedastic non-parametric regression
研究了从多采样噪声曲线中估计基线信号的问题。本文考虑了功能性混合效应模型，假设功能性固定效应属于Besov类。这个框架允许我们对可能表现出强烈不规则性的曲线进行建模，例如峰值或跳跃。提供了$L_2$极小极大风险的下限，以及极小极大比率的上限，该上限是通过构建函数固定效应的小波估计量推导出来的。我们的工作构成了多样本非参数回归的第一个理论结果。我们的方法说明了现实的模拟数据集以及实验数据。
2015-11-14 stat.ME
Quantile Regression for General Spatial Panel Data Models with Fixed Effects
本文考虑了一般空间面板数据的既有个体固定效应又有时间段效应的分位数回归模型。将提出工具变量分位数回归估计量。渐近性质的建议估计将开发。仿真实验研究了该方法的性能。我们将使用香烟需求数据集来说明我们的方法。
2016-08-05 stat.ME
Nonparametric contaminated Gaussian mixture of regressions
本文提出半参数和非参数污染高斯回归混合模型，通过EM和ECM算法实现鲁棒估计，用于观测聚类和异常值检测。
2026-01-10 stat.ME
Parametric Modeling of Quantile Regression Coefficient Functions with Longitudinal Data
在普通的分位数回归中，不同阶数的分位数一次估计一个。另一种方法称为分位数回归系数建模（QRCM），将分位数回归系数建模为分位数阶数的参数函数。在本文中，我们描述了QRCM范式可以应用于纵向数据。我们引入了一个两水平分位数函数，其中使用两个不同的分位数回归模型来描述受试者内反应和个体效应的（条件）分布。我们提出了一种新型的惩罚固定效应估计，并讨论了它的优势，标准的方法的基础上$\ell_1$和$\ell_2$惩罚。我们提供了模型的可识别性条件，推导出渐近性质，描述拟合优度的措施和模型选择标准，目前的模拟结果，并讨论了应用。该方法已在R软件包qrcm中实现。
2020-05-30 econ.EM stat.ME
Bayesian Non-parametric Simultaneous Quantile Regression for Complete and Grid Data
本文考虑了多个连续预测变量取值在单位区间内的非参数分位数回归的贝叶斯方法。在第一种方法中，假设分位数函数在解释变量上是光滑的，并在B样条基函数的张量积中展开。在第二种方法中，假设分布函数在解释变量上是光滑的，并将其展开为B样条基函数的张量积。与其他现有的非参数分位数回归方法不同，所提出的方法估计整个分位数函数，而不是估计的分位数网格。先验的B样条系数放在这样一种方式，估计的分位数水平的单调性保持不同于本地多项式分位数回归方法。所提出的方法也被修改为分位数网格数据，其中只有百分位数范围的每个响应观测是已知的。模拟研究提供了完整的和分位数的网格数据。该方法已被用来估计美国家庭收入数据和北大西洋飓风强度数据的分位数。
2016-12-01 stat.ME
SPQR: An R Package for Semi-Parametric Density and Quantile Regression
我们开发了一个R包SPQR，它实现了Xu和Reich（2021）中的半参数分位数回归（SPQR）方法。该方法首先使用单调样条拟合灵活的密度回归模型，其权重使用人工神经网络建模为数据相关函数。随后，条件密度和分位数过程的估计都可以得到。与许多假设线性模型的分位数回归方法不同，SPQR允许协变量和响应分布之间的几乎任何关系，包括非线性效应和不同分位数水平上的不同效应。为了提高SPQR的可解释性和透明度，Apley和Zhu（2020）开发的模型不可知统计用于估计和可视化协变量效应及其对分位数函数的相对重要性。在本文中，我们将详细介绍如何在SPQR中实现此框架，并通过模拟和真实数据示例说明如何在实践中使用此包。
2022-10-26 stat.CO stat.ME stat.ML
High-dimensional instrumental variables regression and confidence sets -- v2/2012
这是2012年arXiv：1105.2454v1的修订版。它考虑了STIV估计量的变化，其中，而不是一个圆锥约束，有尽可能多的圆锥约束的时刻（仪器），允许使用更直接的自归一化和适度的偏差。这个想法最早出现在arXiv：1105.2454v1的公式（6.5）中，当时一些工具可以是内生的。为了避免与STIV估计量混淆，此估计量应称为C-STIV。
2019-10-16 math.ST stat.TH
A parametric quantile beta regression for modeling case fatality rates of COVID-19
受COVID-19病死率（CFR）的启发，本文基于广义三参数贝塔（GB 3）分布建立了一个全参数分位数回归模型。Beta回归模型主要用于对比率和比例进行建模。然而，这些模型通常是指定的条件平均值。因此，如果观察到的响应变量遵循非对称分布（如CFR数据），则这些数据可能不充分。此外，β回归模型不考虑协变量在因变量范围内的影响，这可以通过条件分位数方法来实现。为了引入所提出的GB 3回归模型，我们首先通过插入分位数参数来重新参数化GB 3分布，然后我们开发了新提出的分位数模型。我们还提出了一个简单的解释预测响应关系的百分位数的增加/减少。进行蒙特卡罗研究以评估最大似然估计的性能和链接函数的选择。最后，来自智利的一个真实的COVID-19数据集进行了分析和讨论，以说明所提出的方法。
2021-10-09 stat.ME
Optimal Invariant Tests in an Instrumental Variables Regression With Heteroskedastic and Autocorrelated Errors
本文利用工具变量（IV）回归中的模型对称性推导出因果结构参数的不变检验。与流行的看法相反，我们发现，存在模型对称性时，方程的误差是异方差和自相关（HAC）。我们的理论与已有的同性恋模型的结果一致（Andrews，Moreira，and Stock（2006）and Chamberlain（2007））。我们使用这些对称性，提出了条件集成似然（CIL）测试的因果关系参数的过度识别模型。理论和数值结果表明，CIL测试表现良好，相比其他测试的权力和实施。我们建议从业者在刚识别模型中使用Anderson-Rubin（AR）检验，在过度识别模型中使用CIL检验。
2021-08-31 econ.EM math.ST stat.TH
Nonparametric methods for inference in the presence of instrumental variables
我们提出了两种非参数方法，基于核方法和正交级数估计回归函数的工具变量的存在。对于第一次在这类问题中，我们得到最佳的收敛速度，并表明，他们达到特定的估计。在存在工具变量的情况下，确定回归函数的关系也定义了一个不适定的反问题，其“难度”取决于由内生变量和工具变量的联合密度确定的某个积分算子的特征值。我们描绘的问题的困难，在确定最佳的收敛速度和平滑参数的适当选择所发挥的作用。
2006-03-06 math.ST stat.TH
Iterative Estimation of Solutions to Noisy Nonlinear Operator Equations in Nonparametric Instrumental Regression
University of Göttingen（哥廷根大学）；UCL（天主教鲁汶大学）；University Mannheim（曼海姆大学）；Universite de Toulouse（图卢兹大学）
本文提出一种正则化牛顿型迭代方法，用于解决噪声积分核下的非线性积分方程，特别强调在工具回归模型中使用更强的独立性假设，以正确估计非参数回归函数。
2013-07-25 cs.NA math.NA math.ST
Kernel Instrumental Variable Regression
MIT（麻省理工学院）；UCL（伦敦大学学院）
工具变量（IV）回归是一种在观测数据中学习因果关系的策略。如果输入X和输出Y的测量值被混淆，如果有一个直接影响X的工具变量Z，但在给定X和未测量的混淆因素的情况下，它有条件地独立于Y，那么因果关系仍然可以被识别。经典的两阶段最小二乘算法（2SLS）通过将所有关系建模为线性函数来简化估计问题。我们提出了核工具变量回归（KIV），2SLS的非参数推广，在再生核希尔伯特空间（RKHS）的非线性函数的X，Y和Z之间的建模关系。我们证明了在温和的假设下的一致性KIV，并推导出条件下，收敛发生在极小极大最优率无混杂，单阶段RKHS回归。在这样做的过程中，我们获得了算法的第一阶段和第二阶段中使用的训练样本大小之间的有效比率。在实验中，KIV优于非参数IV回归的最新替代方案。
2020-07-15 cs.LG econ.EM math.FA
Weak-instrument-robust subvector inference in instrumental variables regression: A subvector Lagrange multiplier test and properties of subvector Anderson-Rubin confidence sets
ETH Zürich（苏黎世联邦理工学院）
本文提出了一种弱工具变量鲁棒的子向量拉格朗日乘数检验，并探讨了子向量安德森-鲁宾置信集的性质。
2026-03-01 econ.EM math.ST stat.TH
Partly Linear Instrumental Variables Regressions without Smoothing on the Instruments
针对工具变量识别的半参数部分线性模型，提出不对工具变量平滑的估计方法并扩展Landweber-Fridman正则化方案，证明了渐近正态性并给出收敛速度，模拟表明性能良好。
2023-10-25 econ.EM math.ST stat.TH
Efficiency Loss of Asymptotically Efficient Tests in an Instrumental Variables Regression
在工具变量模型中，得分统计量可以在部分参数空间中为任何备选方案定界。这些区域涉及对第一阶段回归系数和简化形式的协方差阵的约束。因此，拉格朗日乘数检验可以具有接近大小的功效，尽管在标准渐近下是有效的。这种信息损失限制了条件检验的能力，条件检验只使用Anderson-Rubin和score统计量。条件拟似然比检验也遭受严重的损失，因为它可以为任何替代界。发生剧烈功率损失的必要条件是简化形式的协方差阵的埃尔米特特征值具有相反符号的特征值。这些情况称为不可能设计（ID）。我们表明这种情况发生在实践中，通过应用我们的理论的问题上的跨期替代弹性（IES）的推断。在Yogo（2004）和Andrews（2016）研究的11个国家中，有9个国家与ID在95%的水平上一致。
2021-09-09 econ.EM math.ST stat.TH
Nonparametric instrumental regression with non-convex constraints
University of Toulouse, Toulouse Business School and Toulouse School of Economics（图卢兹大学、图卢兹商学院和图卢兹经济学院）
针对内生解释变量问题，本文提出使用Tikhonov正则化结合工具变量估计非参数约束回归函数，并在非凸约束下推导了收敛速度。
2012-09-03 cs.NA math.NA math.OC
Estimation and inference for high-dimensional nonparametric additive instrumental-variables regression
工具变量的方法提供了一个基本的和实用的工具，因果推断在许多实证研究中，治疗和结果之间的不可测量的混杂存在。现代数据，如来自这些研究的遗传基因组学数据，往往是高维的。高维线性工具变量回归由于其简单性而在文献中被考虑，尽管可能存在真正的非线性关系。我们提出了一个更多的数据驱动的方法，通过考虑非参数加性模型之间的工具和治疗，同时保持一个线性模型之间的治疗和结果，使其中的系数可以直接承担因果关系的解释。我们提供了一个两阶段的框架下，这个更一般的设置估计和推理。首先采用组套索正则化从高维加性模型中选择最佳工具，然后对加性模型的拟合值回归结果变量，以识别和估计重要的处理效应。我们提供了所提出的估计的估计误差的非渐近分析。进一步采用去偏过程来产生有效的推断。大量的数值实验表明，我们的方法可以媲美或优于现有的方法在文献中。最后，我们分析了小鼠肥胖数据，并讨论了我们的方法的新发现。
2022-10-27 math.ST stat.ME stat.TH
Non-parametric estimation in a semimartingale regression model. Part 1. Oracle Inequalities
本文研究了具有一般平方可积〔的〕半鞅噪声的连续时间回归模型中周期函数的估计问题。提出了一种模型选择自适应方法。得到了尖锐的非渐近预言不等式。
2009-09-17 math.ST stat.TH
Possibilistic Instrumental Variable Regression with Potentially Invalid Instruments
Nanyang Technological University（南洋理工大学）；University of Warwick（华威大学）
针对工具变量回归中识别有效工具变量困难的问题，提出基于可能性理论的新方法，对处理效应进行后验推断，在工具外生性假设潜在违反时也能得有效结果，还给出有限样本覆盖保证等。
2026-07-07 econ.EM math.ST stat.ME
Nonparametric instrumental regression with right censored duration outcomes
本文分析了离散处理Z对持续时间T的影响。治疗不是随机分配的。使用离散的工具变量解释治疗和独立的模型的误差项的混杂问题进行治疗。我们的框架是非参数的，并允许随机右删失。该规范生成非线性逆问题，并且从其解导出平均处理效果。我们提供了依赖于一个非线性系统方程的局部和全局识别特性。我们提出了一个估计程序来解决这个系统，并推导出收敛速度和条件下，估计是渐近正态的。当删失使识别失败时，我们开发部分识别结果。我们的估计在模拟中表现出良好的有限样本性质。我们还将我们的方法应用于伊利诺伊州再就业奖金实验。
2020-11-20 econ.EM math.ST q-bio.QM
Optimal Uniform Convergence Rates for Sieve Nonparametric Instrumental Variables Regression
研究了回归变量为内生变量时的非参数回归问题，这是计量经济学中一种重要的非参数工具变量（NPIV）回归，也是统计学中一个困难的含未知算子的不适定反问题。首先，我们建立了一个普遍的上界上的超范数（一致）收敛速度的筛选估计，允许内生回归和弱相关的数据。在弱相依数据和重尾误差项下，这一结果给出了样条和小波最小二乘回归估计的最优超范数收敛速度。这个上界也产生了在独立同分布下筛选NPIV估计的超范数收敛速度。数据类型：对于严重不适定问题，该速率与已知的最优$L^2$ -范数速率一致，并且对于轻度不适定问题，该速率是比最优$L^2$ -范数速率慢的$\log(n)$的幂。然后，我们建立了极大极小风险的下界在超范数损失，这与我们的上界的超范数率的样条和小波筛NPIV估计。这种超范数速率最优性为筛分NPIV估计的广泛应用提供了另一个理由。对弱相依随机矩阵也提供了有用的结果。
2013-11-02 econ.EM math.ST stat.ME
Differentially Private Two-Stage Gradient Descent for Instrumental Variable Regression
本文提出了一种具有差分隐私的双重阶段梯度下降算法，用于工具变量回归，解决了隐私保护与统计效率的平衡问题，并通过实验验证了其有效性。
2026-02-15 cs.AI cs.LG econ.EM
Non-parametric Regression for Spatially Dependent Data with Wavelets
研究了随机场的非参数回归估计。数据满足一定的强混合条件，并定义在定期$N$维晶格结构。我们表现出一致性，并获得收敛速度。在某些情况下，这些速率对对数因子取模是最优的。作为应用，我们用不一定是各向同性的多维小波估计了回归函数。我们用concliques的概念在可平面图上模拟了随机场（cf. Kaiser等人[2012]）在估计过程的数值示例中。
2018-07-04 math.ST stat.TH
