LF-PPL: A Low-Level First Order Probabilistic Programming Language for Non-Differentiable Models
University of Oxford(牛津大学);University of Cambridge(剑桥大学);KAIST(韩国科学技术院);University of British Columbia(英属哥伦比亚大学)
我们开发了一种新的低层次,一阶概率程序设计语言(LF-PPL)适合包含连续,离散和/或分段连续变量的混合模型。这种语言及其编译方案的关键成功在于它能够自动区分密度函数不连续的参数,同时进一步提供边界交叉的运行时检查。这使得能够引入能够利用梯度信息的新的推理引擎,同时对于并非处处可微的模型保持高效。我们证明了这种能力,通过将一个不连续的哈密顿蒙特卡罗(DHMC)推理引擎,能够提供自动化和有效的推理不可微的模型。我们的系统由数学形式主义支持,确保用这种语言表达的任何模型都具有测量零不连续性的密度,以保持推理引擎的有效性。
2019-03-06 cs.LG cs.PL stat.ML
Variational Inference for Lévy Process-Driven SDEs via Neural Tilting
Imperial College London, UK(伦敦帝国学院);Technical University of Berlin, Germany(柏林技术大学);INRIA, CNRS, Département d’Informatique de l’Ecole Normale Supérieure / PSL, France(法国国家信息与自动化研究所(INRIA)、国家科学研究中心(CNRS)、巴黎社会科学高等师范学院信息学系/巴黎社会科学高等师范学院)
本文提出神经指数倾斜框架,用于莱维驱动SDEs的变分推断,通过神经网络重新加权莱维测度,保留跳跃结构并实现计算可行性,结合二次神经参数化、条件高斯表示和对称感知蒙特卡洛估计器,提升推断效率与可靠性。
2026-05-11 cs.AI cs.CV cs.LG
The probability of a robust inference for internal validity and its applications in regression models
观察性研究的内部效度经常受到争论。在这项研究中,我们定义了未观察到的样本的基础上的反事实和形式化的关系与原假设统计检验(NHST)的回归模型。内部有效性的稳健推断的概率,即,PIV是基于理想样本再次拒绝原假设的概率,理想样本被定义为观察到的样本和未观察到的样本的组合,假设相同的原假设已经被拒绝用于观察到的样本。当不混淆假设是可疑的,一个可以绑定的PIV推理的基础上有界的信念的平均反事实的结果,这往往是需要在这种情况下。从本质上讲,PIV是NHST的统计功效,被认为是建立在理想样本上的。我们将用PIV评估内部效度的过程总结为六个步骤,并用一个实证例子(即,Hong和Raudenbush(2005))。
2020-05-22 econ.EM stat.AP stat.ME
Joint Inference for the Regression Discontinuity Effect and Its External Validity
Graduate School of Economics, Kyoto University(京都大学经济学研究科)
本文提出了一种联合推断方法,用于回归断点效应及其外部有效性,通过稳健偏误校正框架提升实证研究的实用性。
2026-02-15 econ.EM
Likelihood-based Inference for Partially Observed Epidemics on Dynamic Networks
我们提出了一个生成模型和推理方案的流行病过程的动态,自适应接触网络。将网络演化描述为一个链路马尔可夫过程,并将其耦合到一个个体水平的随机SIR模型中,以描述网络上的流行病动态与网络链路变化之间的相互作用.提出了一种马尔可夫链蒙特卡罗框架,用于从部分流行病观测数据中进行基于似然的推断,并设计了一种新的数据增强算法,用于处理动态网络环境下个体恢复时间缺失的问题.通过一系列的仿真实验,我们证明了该模型的有效性和灵活性,以及数据增强推理方案的有效性和效率。该模型还应用于最近关于流感样疾病传播的真实数据集,其中包含高分辨率的社交接触跟踪记录。
2020-04-05 physics.soc-ph q-bio.PE stat.ME
Quantifying the probable approximation error of probabilistic inference programs
Massachusetts Institute of Technology(麻省理工学院)
本文介绍了一种新的技术量化的近似误差的概率推理程序,包括基于变分和蒙特卡罗方法。其关键思想是推导出一个主观界的对称KL分歧之间的分布实现的近似推理程序和它的真正的目标分布。界限的有效性(和主观性)取决于两个辅助概率程序的准确性:(i)一个“参考”推理程序,定义了一个黄金标准的准确性和(ii)一个“元推理”程序,回答了这样一个问题:“什么样的内部随机选择原始近似推理程序可能会产生一个特定的结果?”“本文包括从线性回归,狄利克雷过程混合建模,障碍和贝叶斯网络得出的推理问题的实证结果。实验表明,该技术是强大的参考推理程序的质量,它可以检测到执行错误,是不明显的预测性能。
2016-05-31 cs.AI cs.LG stat.ML
Nearly Optimal Variational Inference for High Dimensional Regression with Shrinkage Priors
Purdue University(普渡大学);Department of Statistics(统计系)
本文提出了一种用于高维线性模型推断的变分贝叶斯方法。理论上,我们建立了所提出的VB方法的一致性,并证明了在适当选择的先验规范下,VB后验的收缩率接近最优。证明了VB推理作为马尔可夫链蒙特卡罗(MCMC)抽样的一种替代方法的有效性。同时,与传统MCMC方法相比,VB程序实现了更高的计算效率,大大减轻了现代机器学习应用如海量数据分析的计算负担。通过数值研究,我们表明,所提出的VB方法导致更短的计算时间,更高的估计精度,和更低的变量选择误差比竞争稀疏贝叶斯方法。
2020-10-24 cs.LG math.ST stat.ML
On the probability of a causal inference is robust for internal validity
观察性研究的内部效度经常受到争论。在这项研究中,我们将反事实定义为未观察到的样本,并打算量化它与原假设统计检验(NHST)的关系。我们提出因果推断的概率对于内部效度是稳健的,即,PIV作为因果推断的鲁棒性指标。形式上,PIV是基于观察样本和反事实再次拒绝原假设的概率,前提是相同的原假设已经基于观察样本被拒绝。在频率论或贝叶斯框架下,人们可以基于对反事实的有界信念来约束推理的PIV,这在无混淆假设是可疑的时经常需要。当认为NHST基于观察样本和反事实时,PIV相当于统计功效。我们将用PIV评估内部效度的过程总结为一个八步程序,并用一个实证例子(即,Hong和Raudenbush(2005))。
2019-06-20 econ.EM stat.AP stat.ME
Variational Inference in high-dimensional linear regression
研究了具有乘积先验的高维贝叶斯线性回归。使用非线性大偏差的新生理论(Chatterjee和Dembo,2016),我们推导出朴素平均场近似对后验分布的对数归一化常数的首阶正确性的充分条件。随后,假设一个真正的线性模型的观测数据,我们推导出一个有限的无穷维变分公式的日志归一化常数的后验。此外,我们建立了一个额外的“分离”条件下,变分问题有一个独特的优化,这个优化管理的概率特性的后验分布。我们提供了直观的充分条件的有效性,这种“分离”的条件。最后,我们用具体的设计矩阵来说明我们的结果。
2021-04-25 math.PR math.ST stat.ML
Adaptive Econometric Inference under Unknown Dependence: Contrast-Local Validity
University at Albany, SUNY(奥尔巴尼大学,纽约州立大学)
提出从经验依赖算子学习依赖结构的框架,通过投影相似度评分总结低维依赖特征,建立识别、一致性和渐近正态性,并证明在切空间重叠时无法区分一阶几何结构,最后展示依赖轮廓的预言机自适应推断。
2026-08-12 econ.EM stat.ME
Inference under random limit bootstrap measures
University of Bologna(博洛尼亚大学);Exeter Business School(埃克塞特商学院);Nova School of Business and Economics, Universidade Nova de Lisboa(里斯本新大学商业与经济学院)
本文重新定义自举法有效性为控制大样本正确推断频率,证明极限自举测度的随机性不必然使推断失效,并给出充分条件,应用于多个计量经济学推断问题。
2019-12-05 econ.EM
Clustering and External Validity in Randomized Controlled Trials
研究随机对照试验(RCT)的随机化推理文献假设单位的潜在结果是确定性的。这一假设不太可能成立,因为在实验过程中可能会发生随机冲击。在本文中,我们考虑的情况下,随机对照试验与个人层面的治疗分配,我们允许个人层面和集群层面(如村一级)的冲击。我们表明,人们可以得出推断的ATE条件上的集群级冲击的实现,使用异方差稳健标准误,或在ATE净出这些冲击,使用集群稳健的标准误差。
2022-12-14 econ.EM
Identification and Estimation in Fuzzy Regression Discontinuity Designs with Covariates
University of Georgia(佐治亚大学);Universidad Carlos III de Madrid(马德里卡洛斯三世大学)
本文提出了一种基于合规加权的局部处理效应估计方法,用于改进带有协变量的模糊回归断点设计中的估计稳定性与精度。
2026-02-01 econ.EM
Estimation and Inference in Factor Copula Models with Exogenous Covariates
提出了一种因子Copula模型,其中因子可以由外生信息模拟或估计。点估计和推断基于具有非重叠模拟绘制的模拟矩量法(SMM)方法。建立了估计量的相合性和极限正态性,证明了Bootstrap标准误的有效性。这样做,以前的文献结果进行了验证,在低水平的条件下施加的因素结构的各个组成部分。蒙特卡罗证据证实了有限样本渐近理论的准确性和实证应用说明了模型的有用性,以解释股票收益率之间的横截面依赖性。
2022-12-01 econ.EM stat.AP
Inference on the TSLS Estimand with Weak Instruments and Treatment Effect Heterogeneity
University of Chicago(芝加哥大学)
针对弱工具变量和处理效应异质性,提出TSLS似然比统计量结合两步法,实现工具变量回归中TSLS估计量的稳健推断。
2026-06-05 econ.EM
Genuinely Robust Inference for Clustered Data
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Vanderbilt University(范德堡大学);Syracuse University(雪城大学)
针对传统聚类稳健推断在大聚类下失效的问题,本文提出基于新型聚类得分自助法的真正稳健推断程序,并证明其在更广泛数据生成过程中的有效性与规模控制。
2025-10-05 econ.EM
Bootstrap inference in the presence of bias
该研究针对存在渐近偏差的估计量的bootstrap推断问题,证明预枢轴化方法可恢复bootstrap有效性,提出两种实现方案与通用有效性条件,并通过五类示例验证了结果的实用性。
2023-11-08 econ.EM stat.ME
Kernel Choice Matters for Local Polynomial Density Estimators at Boundaries
Graduate School of Economics, Kyoto University(京都大学经济学研究科)
本文研究了核选择对局部多项式密度估计器在边界处效率的影响,发现高斯和拉普拉斯核能显著提升推断可靠性。
2026-01-07 econ.EM
Randomization Inference Tests for Shift-Share Designs
我们考虑的问题,推理转移-份额研究设计。现有的方法,允许不受限制的空间相关性之间的选择涉及权衡,不同的有效性方面,当有相对较少或集中的冲击,并在假设的冲击分配过程和处理效应异质性。我们提出了替代的随机化推理方法,结合不同的方法的优点。这些方法在较强的假设条件下对有限样本有效,而在较弱的假设条件下是渐近有效的。
2022-06-02 econ.EM
Lasso under Multi-way Clustering: Estimation and Post-selection Inference
本文研究了多维聚类下高维数据的Lasso回归模型。首先,我们建立收敛速度的套索和后套索估计。其次,我们提出了一种新的推理方法的基础上后双重选择过程,并证明了其渐近有效性。我们的程序可以很容易地实现与现有的统计软件包。仿真结果表明,该方法在有限样本情况下具有良好的效果。我们说明了所提出的方法与发展和增长经济学的实证应用。
2019-08-21 econ.EM
Bootstrap inference for panel data quantile regression
本文研究了具有固定效应的面板数据分位数回归模型中实用统计推断的自助方法。我们考虑随机加权自举响应,并正式建立其有效性的渐近推断。通过对固定效应面板数据使用加权分位数回归估计,自举算法在实践中易于实现。我们提供的条件下,允许个人的时间依赖性的观察结果,从而涵盖了一大类可能的经验应用。蒙特卡罗模拟提供了数值证据所提出的自助方法具有正确的有限样本性质。最后,我们提供了一个实证说明使用环境库兹涅茨曲线。
2021-11-05 econ.EM
Inference for First-Price Auctions with Guerre, Perrigne, and Vuong's Estimator
我们考虑独立私人价值范式下的第一价格密封拍卖模型中估值概率密度的推断。我们证明了Guerre,Perrigne,and Vuong(2000)(GPV)的两步非参数估计的渐近正态性,并提出了一个易于实现的渐近方差的相容估计。我们证明了基于GPV估计的逐点百分位数Bootstrap置信区间的有效性。最后,我们使用中间高斯近似的方法来构建基于Bootstrap的渐近有效的一致置信带的密度的估值。
2019-03-15 econ.EM
Cross-Validated Causal Inference: a Modern Method to Combine Experimental and Observational Data
Department of Statistics, UC Berkeley(加州大学伯克利分校统计学系);Graduate School of Business, Stanford University(斯坦福大学商学院)
本文提出一种将因果估计表述为经验风险最小化问题的系统性框架,通过交叉验证选取权重来结合实验与观测数据,有效克服了样本量与混杂偏差的矛盾,并验证了其有效性与可靠性。
2025-11-01 econ.EM stat.ME stat.ML
Bootstrapping Nonstationary Autoregressive Processes with Predictive Regression Models
本文证明了Phillips和Magdalinos (2009)提出的基于自举的IVX估计量在预测回归模型中的渐近有效性,该模型涵盖近非平稳和近平稳过程,并通过Monte Carlo实验验证了理论结果的统计有效性。
2023-07-26 econ.EM
Robust Inference with High-Dimensional Instruments
提出一种针对高维工具变量线性回归的弱识别稳健检验,采用自归一化统计量与随机矩阵理论,对网络和空间等误差依赖性具有稳健性,模拟证实其具有良好的尺寸控制与检验功效。
2025-06-30 econ.EM
Identification and Inference Under Narrative Restrictions
我们认为结构向量自回归服从“叙述限制”,这是不平等的限制功能的结构性冲击在特定时期。这些限制提出了新的问题有关的识别和推理,目前没有频率论的程序进行推理,在这些模型。我们提出了一个解决方案,是有效的从贝叶斯和频率的角度来看:1)形式化的识别问题下的叙述限制; 2)纠正现有的功能,(单一先验)贝叶斯方法,可能会扭曲推断;(3)提出一个强有力的(多重先验)贝叶斯方法,用于评估和消除这些模型中由于可能性具有平坦性而产生的后验敏感性区域;(4)证明了稳健贝叶斯方法具有渐近频率论的有效性。我们通过估计美国货币政策在各种叙述限制下的效果来说明我们的方法。
2021-02-12 econ.EM
Bootstrap consistency for general double/debiased machine learning estimators
University of Washington(华盛顿大学)
本文研究了双重/去偏机器学习估计量的自助法有效性,证明在一般可交换加权重采样方案下,其自助法在相同条件下收敛于原始估计量的抽样分布。
2026-04-19 econ.EM math.ST stat.TH