Robust Universal Inference For Misspecified Models
本文提出基于 universal inference 与分样本相对拟合检验反演的稳健推断方法,在模型误设下为分布投影构造有限样本有效置信集,并分析收缩速率、模拟及因果发现表现。
2025-08-29 stat.ME
General framework for projection structures
在第一部分中,我们开发了一个一般框架的投影结构,并在此框架内研究了几个推理问题。我们提出了基于数据相关措施(DDM)的程序,并与经验贝叶斯和惩罚方法的连接。主要的推理问题是不确定性量化(UQ),但在此过程中,我们解决了估计,DDM收缩问题,以及弱版本的结构恢复问题。该方法是局部的,因为推理过程的质量是由局部量,预言率,这是由投影结构的近似误差和近似投影结构的复杂性之间的最佳权衡来衡量的。像在统计学习环境中一样,我们发展了无分布理论,因为没有强加特定的模型,我们只假设投影预测器的随机部分有一定的温和条件。我们引入了过度偏差限制(EBR),我们建立了局部置信最优的构造的信心球。建议的一般框架统一了一个非常广泛的类高维模型和结构,有趣的和重要的本身。在第二部分中,我们应用所发展的理论,并展示了一般结果如何提供一个整体的局部和全局极大极小结果(许多新的,一些文献中已知的结果被改进)为特定的模型和结构作为结果,包括白噪声模型和光滑结构的密度估计,线性回归和稀疏结构的字典学习,具有聚类结构的双聚类和随机块模型、具有带状和稀疏结构的协方差阵估计,以及许多其它模型。各种自适应极大极小的结果在不同的尺度也遵循我们的本地结果。
2019-07-08 math.ST stat.TH
Calibrated Projection in MATLAB: Users' Manual
我们提出了校准投影MATLAB包,实现了Kaido,Molinari和Stoye(2017)提出的构建置信区间的方法。本手册详细介绍了如何使用该软件包对部分识别参数的投影进行推断。它还解释了如何使用我们开发的MATLAB函数来计算具有估计约束的非线性优化问题的解的置信区间。
2017-10-24 econ.EM stat.CO
Nonparametric Testing under Random Projection
非参数推理的一个共同挑战是当数据量很大时其高计算复杂性。在本文中,我们开发了计算效率的非参数检验采用随机投影策略。在特定的核岭回归设置,一个简单的基于距离的检验统计量的建议。值得注意的是,我们推导出的最小数量的随机预测,这是足以实现测试的最优性方面的极大极小率。进一步建立了一种不需要规则性先验知识的自适应测试方法。一个技术贡献是建立经验核特征值的尾和的范围的上界。仿真和实际数据分析进行支持我们的理论。
2018-02-17 math.ST stat.ME stat.ML
Inference for non-stationary time series quantile regression with inequality constraints
针对带不等式约束的非平稳线性分位数回归,本文利用投影几何不变性构造Wald、似然比和基于秩的一致推断方法,并通过模拟与电力需求数据验证其优势。
2024-04-04 stat.ME
Two-way Clustering Robust Variance Estimator in Quantile Regression Models
University at Albany – State University of New York(纽约州立大学奥尔巴尼分校)
针对双向聚类数据,提出一种基于核密度估计和投影分解的双向聚类稳健三明治方差估计量,并证明其在高斯机制下的一致性及推断有效性。
2026-07-07 econ.EM stat.AP
On Projection Robust Optimal Transport: Sample Complexity and Model Misspecification
University of California, Berkeley(加州大学伯克利分校);CREST - ENSAE(法国国家统计与经济管理学院 Crest 实验室);Google Brain(谷歌大脑)
最优输运(OT)距离越来越多地用作统计推断的损失函数,特别是在生成模型的学习或监督学习中。然而,最小Wasserstein估计的行为知之甚少,特别是在高维制度或模型误指定。在这项工作中,我们采用投影鲁棒(PR)OT的观点,它旨在通过选择一个$k$维子空间,它们可以被投影到两个措施之间的OT成本最大化。我们的第一个贡献是建立PR Wasserstein距离的几个基本统计特性,补充和改进以前的文献,已被限制到一维和指定的情况下。接下来,我们提出了积分PR Wasserstein(IPRW)距离作为PRW距离的替代,通过平均而不是优化子空间。我们的复杂性界限可以帮助解释为什么PRW和IPRW距离优于Wasserstein距离经验在高维推理任务。最后,我们考虑使用PRW距离的参数推断。本文给出了两类最小PRW估计的渐近保证,并给出了模型误设定下最大切片Wasserstein估计的中心极限定理。为了使我们的分析PRW的投影维数大于1,我们设计了一种新的变分分析和统计理论的结合。
2021-07-17 cs.LG math.ST stat.ML
Shape-constrained density estimation with Wasserstein projection
University of Tokyo(东京大学);RIKEN Center for Brain Science(理化学研究所脑科学中心);University of Toronto(多伦多大学)
本文研究了基于Wasserstein距离的单变量非参数形状约束密度估计,重点探讨了二次情况下的Wasserstein投影估计,并与最大似然估计进行比较。
2026-04-10 math.ST stat.TH
Online Statistical Inference for Parameters Estimation with Linear-Equality Constraints
Texas Tech University(德州理工大学);North Dakota State University(北达科他州立大学);New Jersey Institute of Technology(新泽西理工学院)
随机梯度下降(SGD)和投影随机梯度下降(PSGD)是计算无约束和约束优化问题中模型参数的可扩展算法。与SGD相比,PSGD通过投影将其迭代值强制到约束参数空间中。本文从统计的角度研究了当真参数满足线性等式约束时,基于PSGD的估计的极限分布。我们的理论研究结果揭示了投影的PSGD为基础的估计的不确定性中发挥的作用。作为一个副产品,我们提出了一个在线的假设检验过程来测试线性等式约束。对合成数据的模拟研究和对真实世界数据集的应用证实了我们的理论。
2022-03-22 cs.LG stat.ML
Local dimension reduction of summary statistics for likelihood-free inference
近似贝叶斯计算(ABC)和其他无似然推理方法在过去十年中得到了普及,因为它们允许对复杂模型进行严格的统计推断,而无需分析上易于处理的似然函数。使用ABC进行准确推断的一个关键组成部分是汇总统计量的选择,汇总统计量汇总数据中的信息,但同时应该是低维的以提高效率。已经引入了几种降维技术来从可能较大的候选摘要池中自动构建信息丰富的低维摘要。基于投影的方法基于从摘要到参数的简单函数关系的学习,被广泛使用并且通常表现良好,但是当不满足转换背后的假设时可能会失败。我们介绍了一个本地化策略,任何基于投影的降维方法,其中的转换估计在附近的观测数据,而不是整个空间。以前已经提出了本地化策略,但是本地邻域之外的转换摘要的性能没有得到保证。在我们的本地化方法中,转换在验证数据集上进行了验证和优化,确保了可靠的性能。我们证明了本地化版本的线性回归和偏最小二乘的估计精度的提高,为三个不同的模型的不同复杂性。
2019-06-20 stat.CO stat.ME
Selective Inference for Group-Sparse Linear Models
我们开发的工具,选择性推理组稀疏的设置,包括建设的置信区间和p值测试选定的变量组。我们的主要技术结果给出了精确的分布的数据到一个给定的子空间的投影的幅度,并使我们能够开发推理程序的广泛的一类组稀疏的选择方法,包括组套索,迭代硬阈值,向前逐步回归。我们给出数值结果来说明这些工具的模拟数据和健康记录数据。
2016-07-27 stat.ME
Conditional Central Limit Theorems for Gaussian Projections
本文讨论了高维随机向量的投影何时近似高斯的问题。这个问题以前已经在高维数据分析的背景下进行了研究,重点是高维点云的低维投影。本文的重点是典型的行为时,投影生成的独立同分布。高斯投影矩阵主要结果是边界的条件分布的投影和高斯近似,其中的条件是投影矩阵之间的偏差。的界限给出的二次Wasserstein距离和相对熵,并明确表示为一个函数的数量的投影和随机向量的某些关键属性。证明使用Talagrand的运输不等式和一般的积分矩不等式的互信息。随机线性估计和压缩感知的应用进行了讨论。
2016-12-30 cs.IT math.IT math.ST
High-dimensional analysis of double descent for linear regression with random projections
Inria(法国国家信息与自动化研究所);Ecole Normale Supérieure(巴黎高等师范学院);PSL Research University(巴黎文理研究大学)
我们考虑线性回归问题与不同数量的随机投影,我们证明表现出一个固定的预测问题的双下降曲线,高维分析的基础上随机矩阵理论。我们首先考虑岭回归估计和审查早期的结果,使用经典的概念,从非参数统计,即自由度,也被称为有效维数。然后,我们计算渐近等价的泛化性能(在平方偏差和方差方面)的最小范数最小二乘拟合与随机投影,提供简单的表达式的双下降现象。
2023-03-14 cs.LG stat.ML
Inference for Local Projections
本文针对局部投影估计的脉冲响应推断问题,梳理了过去20年文献中的相关研究结果,并提出了新的推断方法,以适配不同的分析目标。
2024-08-13 econ.EM stat.AP
Projection Inference for set-identified SVARs
University of California, Davis(加州大学戴维斯分校);University of Mannheim(曼海姆大学);Cornell University(康奈尔大学)
本文研究了经典投影方法在同时推断结构冲击响应函数系数及其识别集的性质,通过扩大样本量,证明投影推断能提供具有至少1-α频率覆盖和鲁棒贝叶斯可信度的参数和识别集区域,并校准瓦尔德椭球半径以确保投影方法的贝叶斯可信度恰好为1-α。
2026-03-27 econ.EM
Local Projection Inference is Simpler and More Robust Than You Think
Columbia University(哥伦比亚大学);Princeton University(普林斯顿大学)
本文证明局部投影推断在处理持久数据和远期冲击响应时比标准自回归推断更简单且更稳健。
2026-01-13 econ.EM
Inference for High-Dimensional Local Projection
Monash University(蒙纳士大学);University of Bath(巴斯大学)
本文提出高维局部投影方法,通过灵活残差结构实现稳健长周期推断,并实证研究了商业新闻对股票波动性的影响。
2026-02-11 econ.EM
Sparse VARs Do Not Imply Sparse Local Projections: Robust Inference for High-Dimensional Granger Causality
Université de Montréal(蒙特利尔大学);University of Mannheim(曼海姆大学)
本文提出一种两步框架,用于高维格兰杰因果关系的稳健推断,避免在每个时段施加稀疏性,并通过大样本理论和可行Wald检验实现有效推断。
2026-02-24 econ.EM
Quasi-Bayesian Local Projections: Simultaneous Inference and Extension to the Instrumental Variable Method
本文提出了一种基于拉普拉斯型估计器的近似贝叶斯方法,用于解决局部投影分析中贝叶斯方法因缺乏似然函数而面临的挑战,该方法通过广义矩方法构建准似然,实现了校准良好的推断和同时置信区间,并可自然扩展至工具变量方法。
2026-05-18 econ.EM
Local Projections Bootstrap Inference
本文针对局部投影推断中有限阶VAR自助法在长期脉冲动态近似上的不足,提出在DGP形式未知且可能为无限阶过程的设定下,利用移动平均表示构造更灵活的自助法推断程序。
2025-09-22 econ.EM
Local Projections Inference with High-Dimensional Covariates without Exact Sparsity
University of Notre Dame(圣母大学)
本文提出一种基于OGA+HDAIC的局部投影方法,在不依赖稀疏性假设下纳入高维协变量,提升因果推断稳健性,并通过模拟与实证验证其优于传统LP和LASSO方法。
2026-11-11 econ.EM
A Projection-Based ARIMA Framework for Nonlinear Dynamics in Macroeconomic and Financial Time Series: Closed-Form Estimation and Rolling-Window Inference
Department of Economics University of California, Riverside(经济系加州大学河滨分校)
本文提出基于投影的ARIMA框架,通过Galerkin基扩张提升非线性时间序列预测精度,实现闭式估计与滚动窗口推断,适用于宏观经济和金融领域。
2026-03-02 cs.LG econ.EM stat.ML
Simple robust two-stage estimation and inference for generalized impulse responses and multi-horizon causality
针对传统最小二乘法估计广义脉冲响应存在精度低、检验不可靠等问题,本文提出无需校正序列相关的两阶段估计方法,在效率与稳健性上更优,且验证了经济不确定性对经济活动的长短两期影响。
2024-09-17 econ.EM
Average Treatment Effect Localization: Projection Methods in Synthetic Control
Rutgers University(罗格斯大学)
本文提出平均处理效应局部化(ATEL)方法,利用多样化投影估计时变因子模型,以在面板数据中评估短期政策影响,并应用于“持有权”法律对暴力犯罪率的影响分析。
2026-09-11 econ.EM
Double Robustness of Local Projections and Some Unpleasant VARithmetic
Cornell University(康奈尔大学);University of Chicago(芝加哥大学);Princeton University(普林斯顿大学);MIT(麻省理工学院)
本文研究了局部投影在VAR模型中的双重稳健性,指出传统VAR置信区间在滞后长度较短时无法有效应对难以检测的规范性偏差,需通过增大滞后长度以获得稳健的覆盖性。
2026-01-13 econ.EM