Statistical Inference for Generalized Additive Partially Linear Model
广义可加模型(GAM)是一种强有力的工具,已经得到了很好的研究。这个模型类有助于识别加性回归结构。通过现有的测试程序,可以识别回归结构,甚至尖锐,如果一些组件功能有参数形式。广义加性部分线性模型(GAPLM)结合了参数和非参数两种模型,具有GLM的简单性和GAM的灵活性。我们使用混合样条-后拟合核估计方法,它结合了样条和核方法的最佳特性,使快速,有效和可靠的估计在阿尔法混合条件下。此外,给出了独立条件下检验总体趋势的同步置信走廊和参数的经验似然置信区域。得到了渐近性质,仿真结果支持理论性质。对于应用程序,我们使用GAPLM来提高$19610$德国公司的默认预测的准确率。本文的quantlet可在https://github.com上获得。
2020-09-10 stat.ME
Inference for Change Points in High Dimensional Mean Shift Models
研究了高维均值漂移模型中变点位置的置信区间构造问题。为此,我们开发了一个本地改装最小二乘估计,并获得组件明智的和同时估计率的基础变化点。同时速率是文献中最快的,至少是$\log p,$的一个因子,而分量式速率是最佳的。这些结果使极限分布的存在。两个消失和非零跳跃大小制度下的特征,而联合分布的任何有限子集的变化点估计的特征在于后一种制度下,这也产生渐近独立的这些估计。组合结果用于构建变点参数的渐进有效分量和同步置信区间。结果是建立在一个高维尺度下,允许减少跳跃的大小,在存在分歧的变化点的数量和次指数误差。它们在合成数据和智能手机的传感器测量结果上进行了说明,以进行活动识别。
2021-07-19 math.ST stat.ME stat.ML
Near-optimal inference in adaptive linear regression
Rutgers University(罗格斯大学);Voleon Group(Voleon集团);DeepMind(深度思维);Microsoft Research(微软研究院);Massachusetts Institute of Technology(麻省理工学院);UC Berkeley(加州大学伯克利分校)
当以自适应方式收集数据时,即使是像普通最小二乘法这样的简单方法也会表现出非正态渐近行为。作为不良后果,基于渐近正态性的假设检验和置信区间可能导致错误结果。我们提出了一个家庭的在线去偏估计,以纠正这些分布异常的最小二乘估计。我们提出的方法利用了数据集中的协方差结构,并在积累了更多信息的方向上提供了更清晰的估计。我们建立了一个渐近正态性,我们提出的在线去偏估计在温和的条件下的数据收集过程中,并提供渐近精确的置信区间。此外,我们证明了一个极大极小的自适应线性回归问题的下界,从而提供了一个基线比较估计。有各种条件下,我们提出的估计达到极大极小下界。我们证明了我们的理论的实用性,通过应用程序多臂强盗,自回归时间序列估计,主动学习与探索。
2023-03-21 cs.LG math.ST stat.ML
Prediction-Powered Conditional Inference
University of California, Los Angeles(加州大学洛杉矶分校)
本文提出一种预测驱动的条件推断方法,在标记数据稀缺的情况下利用机器学习预测器和未标记协变量,通过局部化与方差缩减技术提高统计效率,实现更精确的置信区间估计。
2026-09-01 cs.LG stat.ML
Statistical Inference for Policy Evaluation with Temporal Difference Learning
Reinforcement Learning Journal(强化学习期刊)
本文研究了时差学习中Polyak-Ruppert平均算法的统计性质,提出更高效的协方差矩阵估计方法,并推导了更精确的收敛保证,用于构建价值函数近似线性参数的置信区间。
2026-06-21 cs.LG stat.ML
Anytime-Valid Inference for Double/Debiased Machine Learning of Causal Parameters
针对经典双重去偏机器学习仅在预定样本量下渐近有效、缺乏数据收集灵活性的问题,研究提出时间一致的DML方法,仅需略强于标准的条件即可实现任意停止时间的有效推断,易于改造现有方法,并用两个实例验证了适用性。
2024-09-10 econ.EM math.ST stat.ME
Inference for Projection Parameters in Linear Regression: beyond $d = o(n^{1/2})$
本文研究高维线性回归投影参数的推断,提出最小二乘估计量的偏差校正方法并证明其渐近正态性,在 $d=o(n^{2/3})$ 条件下给出有限样本 Berry-Esseen 界,并利用无需方差估计的推断方法实现更优的覆盖误差控制。
2024-01-11 math.ST stat.TH
Forecast verification for extreme value distributions with an application to probabilistic peak wind prediction
对与极端事件相关的不确定性的预测是任何此类事件预测系统的重要组成部分。因此,预测系统本质上应该是概率性的,预测采用概率分布的形式。本文研究的是概率预测系统,其中数据被假定为遵循广义极值分布(GEV)或广义帕累托分布(GPD)。在这种设置中,适当的评分规则,便于评估的预测不确定性的属性进行了研究,并提供了封闭的连续排名概率得分(CRPS)的表达式。在峰值风预测的应用中,GEV模型的预测性能下的极大似然估计,最佳得分估计与CRPS,贝叶斯框架进行了比较。的贝叶斯推断产生最高的整体预测技能,并被证明是一个有价值的工具,协变量的选择,而最佳CRPS估计下获得的预测是最尖锐的,并给出最佳的性能高阈值和分位数。
2012-09-28 stat.AP
Properties and Deviations of Random Sums of Densely Dependent Random Variables
本文提出一种不依赖完整协方差结构的新方差恒等式,在密集依赖条件下建立弱大数定律和更精确的Hoeffding不等式,支持有限样本推断并推广至估计方程。
2023-10-17 math.ST stat.TH
Improved E-Value Thresholds with Applications to Multiple and Sequential Testing
University of Science and Technology of China(中国科学技术大学);City University of Hong Kong(香港城市大学);Nanyang Technological University(南洋理工大学)
该研究针对E值通用阈值偏保守的问题,采用非递减与L-Lipschitz密度模型改进阈值,将其应用于多重检验与序贯检验,通过数值实验验证了方法的增益。
2026-10-09 stat.ME
CRUDE: Calibrating Regression Uncertainty Distributions Empirically
Stanford University(斯坦福大学)
机器学习中校准的不确定性估计对自动驾驶汽车、医学以及天气和气候预测等许多领域至关重要。虽然有大量的文献不确定性校准分类,分类结果并不总是转化为回归。因此,在回归设置中预测不确定性的现代模型通常会产生未经校准和过度自信的估计。为了解决这些差距,我们提出了一种回归设置的校准方法,该方法不假设误差上的特定不确定性分布:经验校准回归不确定性分布(CRUDE)。CRUDE假设误差分布在整个输出空间中具有恒定的任意形状,由预测的平均值移动,并由预测的标准差缩放。我们详细介绍了CRUDE和共形推理之间的理论联系。在一系列广泛的回归任务中,CRUDE始终表现出比最先进的技术更清晰,更好的校准和更准确的不确定性估计。
2021-03-15 cs.LG stat.ML
When Pass@$k$ Crossovers Are Real - and Why: Paired Inference and the Markov Kernel of RLVR
Texas A&M University(德克萨斯农工大学);Mayo Clinic(梅奥诊所)
本文通过统计推断揭示RLVR的pass@k交叉并非必然成立,提出用马尔可夫核建模提示条件分布,以准确预测交叉并修正功效估计,区分交叉存在与其能力含义。
2026-11-04 cs.LG stat.ML
Transfer Learning for High-dimensional Quantile Regression with Distribution Shift
Fudan University(复旦大学);University of Pennsylvania(宾夕法尼亚大学);University of Science and Technology of China(中国科学技术大学)
本文提出了一种针对高维分位数回归的迁移学习方法,以应对参数、协变量和残差偏移问题,通过建立误差界和正交去偏方法提升模型的鲁棒性和准确性。
2025-11-25 math.ST stat.ME stat.ML
Estimation errors of the Sharpe ratio for long-memory stochastic volatility models
夏普比率被定义为投资的超额预期回报与其标准差的比率,在金融文献中被研究人员和从业人员广泛引用。然而,很少有人注意到的统计特性的估计的比率。Lo(2002)对具有序列相关性的独立收益率和平稳收益率的估计误差给出了$\sqrt{n}$ -正态性,并指出要对估计的准确性进行推断,需要考虑收益率之间的序列相关性。本文引入了一类收益率的时间序列模型,证明了除了收益率的序列相关性之外,还存在一个因素支配Sharpe比率统计量的渐近行为。所考虑的模型是一个线性过程,其新息序列具有可和系数,并包含一个潜在的波动分量,这是长记忆的。证明了该比率的估计误差是渐近正态的,收敛速度比$\sqrt{n}$慢,且期望收益率的估计偏差对极限分布没有贡献.
2007-02-27 math.ST q-fin.ST stat.TH
Conformal Prediction = Bayes?
Virginia Tech(弗吉尼亚理工大学);University of Chicago(芝加哥大学);George Mason University(乔治梅森大学);University of South Florida(南佛罗里达大学)
研究指出符合预测并非贝叶斯方法,指出其与贝叶斯推断在语义和数学上的本质差异,并揭示了有限样本校准在序列更新中的局限性。
2025-12-29 math.ST stat.ME stat.TH
Sharp Anti-Concentration Inequalities for Extremum Statistics via Copulas
该研究推导了d个同分布随机变量最大值集中函数的精确界,提出凸对角截面copula类以得到更紧上界,建立了新的反集中不等式并改进了相关结果,可应用于高维统计推断。
2025-08-01 math.PR math.ST stat.TH
Asymptotic distribution of the Markowitz portfolio
的Markowitz投资组合的渐近分布推导,一般情况下(假设四阶矩的回报存在),和多元正常回报的情况下。推导允许的推断,这是强大的异方差和自相关的时刻高达四阶。作为副作用,可以估计由于协方差矩阵的错误估计而导致的马科维茨投资组合中的误差比例。一个似然比测试,推广Dempster的协方差选择测试,允许推理的精度矩阵和Markowitz投资组合的线性组合。给出了处理套期保值投资组合的主要方法的推广,条件异方差,条件期望和约束估计。证明了Hotelling-Lawley统计量推广了条件期望模型下的(平方)夏普比率。假设随机协变量,发现所有四个常见的“MGLH”统计量的渐近分布。给出的例子证明这些结果的可能用途。
2020-03-06 q-fin.PM q-fin.ST