Censored Quantile Regression Neural Networks for Distribution-Free Survival Analysis
Tsinghua University(清华大学);Microsoft Research(微软研究院);University of Pittsburgh(匹兹堡大学)
本文考虑使用神经网络对删失数据进行分位数回归。这增加了生存分析工具包,允许直接预测的目标变量,随着分布的不确定性的表征,使用灵活的函数逼近。我们首先展示了如何流行的算法在线性模型可以应用到NN。然而,由此产生的过程是低效的,需要在每个所需的分位数的单个NN的顺序优化。我们的主要贡献是一种新的算法,同时优化一个单一的NN输出的分位数网格。为了提供理论上的见解,我们的算法,我们首先表明,它可以被解释为一种形式的期望最大化,其次,它表现出理想的“自我纠正”的属性。实验表明,该算法在12个真实数据集中的10个数据集上产生的分位数比现有方法更好地校准。
2023-02-06 cs.LG stat.ML
Sequential Methods for Error Correction of Probabilistic Wind Power Forecasts
针对风电概率预测误差校正问题,提出结合神经网络与时间自适应分位数回归的NABQR方法,采用LSTM架构,在丹麦风电日前预测中精度最高提升40%,还可用于能源交易,并已开源为Python包。
2025-02-24 stat.AP stat.ME
Partial Functional Linear Quantile Regression for Neuroimaging Data Analysis
提出了一种基于偏分位数协方差技术的函数线性分位数回归模型的预测方法,并提出了一种简单的偏分位数回归(SIMPQR)算法,以有效地提取用于估计函数系数的偏分位数回归(PQR)基.我们进一步扩展我们的偏分位数协方差技术的功能复合分位数回归(CQR)定义偏复合分位数协方差。有三个主要贡献。(1)我们通过线性分位数回归定义两个标量变量之间的偏分位数协方差。我们通过顺序最大化函数协变量的响应和投影之间的偏分位数协方差来计算PQR基。(2)为了有效地提取PQR基,我们开发了一种类似于简单偏最小二乘(SIMPLS)的SIMPQR算法。(3)在同方差的假设下,我们将我们的技术扩展到偏复合分位数协方差,并用它来寻找偏复合分位数回归(PCQR)的基础。然后对SIMPQR算法进行修改,得到SIMPCQR算法。两个仿真研究表明,我们所提出的方法的优越性。用我们提出的方法对ADHD-200样本和ADNI样本的两个实际数据进行了分析。
2015-11-02 stat.ME
Communication-Constrained Distributed Quantile Regression with Optimal Statistical Guarantees
我们解决的问题,如何实现分布式分位数回归没有严格的缩放条件下的最佳推理。由于分位数回归(QR)损失函数的非平滑性质,这是具有挑战性的,这使得现有方法的使用无效。通过一个双平滑的方法,适用于本地(在每个数据源)和全球目标函数的困难得到解决。尽管依赖于局部和全局平滑参数的微妙组合,但分位数回归模型是完全参数化的,从而便于解释。在低维的制度,我们建立了一个有限样本的理论框架,顺序定义的分布QR估计。这揭示了通信成本和统计误差之间的权衡。我们进一步讨论和比较几种替代的置信集的建设,基于反演的沃尔德和得分型测试和rescue技术,详细介绍了改进,是有效的更极端的分位数系数。在高维情况下,采用了稀疏框架,其中所提出的双平滑目标函数与$\ell_1$ -惩罚互补。我们表明,相应的分布式惩罚QR估计达到了全局收敛速度后,一个接近常数的通信轮数。一个全面的模拟研究进一步阐明了我们的研究结果。
2022-08-22 stat.ME stat.ML
Pointwise adaptive estimation for robust and quantile regression
本文提出了一种用于稳健回归估计和分位数回归的非参数方法,它完全是数据驱动的,并且局部适应于回归函数的正则性。这是通过考虑在每个点的M-估计在不同的局部邻域和局部模型选择过程的基础上序贯检验。得到了非渐近风险界,在较弱的条件下得到了大样本渐近率最优性。不同的单变量中位数回归模型的模拟显示出良好的有限样本性质,也比较传统的方法。该方法被扩展到图像去噪,并应用于癌症研究中的CT扫描。
2009-04-03 math.ST stat.TH
D-vine copula based quantile regression
分位数回归,即条件分位数的预测,在统计建模和金融应用中逐渐获得重要性。作者介绍了一种新的半参数分位数回归方法的基础上,顺序拟合的似然最优D-藤copula给定的数据,导致高度灵活的模型,易于提取的条件分位数。作为正则vine copula的一个子类,D-vines使得能够根据二元构建块对多元copula进行建模,即所谓的pair-copula构造(PCC)。该算法的工作速度快,准确,即使在高维,并采用了自动变量选择最大化的条件对数似然。此外,分位数回归的典型问题,如分位数交叉或变换,变量的相互作用和共线性,都将自动处理。在一个模拟研究中,与已建立的分位数回归方法相比,该方法提高了精度并节省了计算时间。国际信用违约互换(CDS)数据,包括压力测试和风险价值(VaR)预测的广泛的金融应用表明,所提出的方法的实用性。
2016-11-16 stat.ME
Real time change-point detection in a nonlinear quantile model
实时时变点检测的研究大多集中在线性模型上,或者在经典的模型误差假设下使用了最大似然法。研究了非线性分位数模型中的序列变点检测问题。提出并研究了一种基于分位数过程次梯度和的检验统计量。在模型不变的原假设下,确定检验统计量的渐近分布。在备择假设下,在一些未知的观察有一个变化的模型,提出的检验统计量收敛于概率$\infty$。这些结果允许在开放端和封闭端程序上建立临界区域。模拟结果,使用Monte Carlo技术,调查的检验统计量的性能,特别是重尾误差分布。我们还将其与经典的CSCUM检验统计量进行了比较。
2016-05-02 math.ST stat.ME stat.TH
E-QRGMM: Efficient Generative Metamodeling for Covariate-Dependent Uncertainty Quantification
School of Data Science(数据科学学院);School of Management(管理学院);Department of Decision Analytics and Operations, College of Business, City University of Hong Kong(商业学院决策分析与运营系,香港城市大学);The Laboratory for AI-Powered Financial Technologies(人工智能赋能金融技术实验室)
E-QRGMM通过整合三次Hermite插值与梯度估计,提升生成元模型在协变量依赖不确定性量化中的计算效率与分布准确性。
2026-01-27 cs.LG stat.ML
Adaptive Iterative Hard Thresholding for Online High-dimensional Quantile Regression
Washington University in St. Louis(圣路易斯华盛顿大学)
提出自适应迭代硬阈值(AIHT)框架,通过延迟阈值发现支持、后期增加投影频率稳定估计,实现在线高维分位数回归的对数遗憾。
2026-06-26 cs.LG stat.ME stat.ML
Robust Fitted-Q-Evaluation and Iteration under Sequentially Exogenous Unobserved Confounders
Stanford University(斯坦福大学);University of Southern California(南加州大学)
针对离线强化学习中序列未观测混杂因素问题,提出带偏差校正的正交化鲁棒拟合Q迭代算法,兼具计算效率与统计性能,经仿真和脓毒症医疗数据验证有效,还可实现乐观强化学习的热启动。
2025-10-28 cs.LG math.OC stat.ML
Non-Gaussian Uncertainty Estimation via Semi-nonparametric Density
Purdue University(普渡大学);The Charles Stark Draper Laboratory, Inc.(查尔斯·斯塔克·德雷珀实验室有限公司)
本文提出一种高效估计非线性动力系统状态密度的方法,利用半非参数密度模型,结合蒙特卡洛方法和凸松弛技术,实现更少样本的高精度密度和分位数估计。
2026-11-02 math.OC math.ST stat.ML
Adaptive Importance Sampling for Efficient Stochastic Root Finding and Quantile Estimation
在解决基于模拟的随机寻根或涉及罕见事件的优化问题时,例如在极端分位数估计中,运行粗糙的蒙特卡罗可能效率极低。为了解决这个问题,可以采用重要性抽样来将采样误差降低到期望的水平。然而,选择一个好的重要性采样器需要了解手头问题的解决方案,这是一个开始的目标,因此形成了一个循环的挑战。我们研究使用自适应重要性抽样解开这个循环。我们的程序顺序更新的重要性采样器,同时达到最佳采样器和最佳解决方案,并可以嵌入到样本平均近似和随机逼近型算法。我们的理论分析建立了强一致性和渐近正态性的估计。我们还证明,通过极大极小的角度来看,使用自适应控制渐近误差的关键作用。最后,我们通过数值实验说明了我们的方法的有效性。
2021-02-21 math.OC math.PR stat.ME
Neural Networks for Extreme Quantile Regression with an Application to Forecasting of Flood Risk
提出结合神经网络与极值理论的EQRN模型用于极端分位数回归,并开发循环版本捕捉时间序列依赖,应用于洪水风险预测,提供动态超越概率预测以辅助预警。
2024-11-12 stat.AP stat.ME stat.ML
Least quantile regression via modern optimization
我们使用现代优化方法解决最小二乘分位数(LQS)(特别是最小二乘中位数)回归问题。我们提出了一个混合优化(MIO)制定的LQS问题,使我们能够找到一个可证明的全局最优解的LQS问题。我们的MIO框架具有吸引人的特点,如果我们提前终止算法,我们将获得一个保证其次优性的解决方案。我们还提出了连续优化方法的基础上,一阶次微分方法,序列线性优化和混合组合,它们获得接近最优的解决方案的LQS问题。MIO算法被发现受益于我们的持续优化的方法提供的高质量的解决方案显着。我们进一步表明,MIO方法导致(a)任何数据集的最佳解决方案,其中的数据点$(y_i,\mathbf{x}_i)$的不一定在一般的位置,(b)一个简单的证明,故障点的LQS目标值,适用于任何数据集和(c)的情况下,有多面体的限制的回归系数向量的扩展。我们报告的计算结果与合成和现实世界的数据集显示,从连续优化方法的MIO算法解决小($n=100$)和中等($n=500$)大小的问题,以证明在两个小时内的最优性,并优于所有公开可用的大规模($n={}$ 10,000)LQS问题的方法。
2014-11-19 stat.CO
Sequential estimation of Spearman rank correlation using Hermite series estimators
在这篇文章中,我们描述了一个新的Hermite系列基于序贯估计斯皮尔曼秩相关系数,并提供算法适用于平稳和非平稳设置。为了处理非平稳设置,我们引入了一种新的,指数加权的斯皮尔曼秩相关估计,它允许跟踪的二元数据流的局部非参数相关。据我们所知,这是第一个算法提出估计时变斯皮尔曼秩相关,不依赖于移动窗口的方法。我们通过真实的数据和模拟研究,展示了良好的实际性能,探讨了厄米级数为基础的估计的实际有效性。特别是模拟研究揭示了竞争力的性能相比,现有的算法。这项工作的潜在应用是多方面的。基于Hermite级数的Spearman秩相关估计可用于快速、鲁棒的在线相关计算。可能的机器学习应用包括在海量数据集上的快速特征选择和分层聚类等。
2021-07-06 stat.CO stat.ME stat.ML
Quantile Extreme Gradient Boosting for Uncertainty Quantification
Keck School of Medicine(凯克医学院);University of Southern California(南加州大学);University of Minnesota(明尼苏达大学);University of Toronto(多伦多大学)
本文提出 QXGBoost,通过引入 Huber 范数改进分位数回归目标,使 XGBoost 可高效进行概率预测,并在模拟与交通噪声数据上获得更优的90%预测区间。
2023-04-23 cs.LG stat.ML
Online Quantile Regression
本文针对在线分位数回归中特征增长、范围未知及内存受限的问题,采用随机次梯度下降法,实现了长期最优估计,并获得了仅对初始误差短期敏感的指数型浓度不等式与最优遗憾率。
2025-10-19 cs.IT math.IT math.ST
Fast Inference for Quantile Regression with Tens of Millions of Observations
本文针对数千万观测值下的线性分位数回归,提出基于随机次梯度下降和Polyak-Ruppert平均的在线快速推断框架,无需重抽样即可构造枢轴统计量,并在大规模数值实验和美国大学工资溢价性别差距分析中验证了其计算优势。
2023-10-31 econ.EM stat.CO
The Benefit of Being Bayesian in Online Conformal Prediction
Harvard University(哈佛大学);Princeton University(普林斯顿大学)
本文提出一种结合贝叶斯正则化与FTRL的自适应共形预测算法,无需统计假设即可低遗憾响应多置信水平查询,并克服单调性问题,在iid数据下自动获得正确覆盖率保证。
2025-05-22 cs.LG stat.ML
Online Conformal Prediction: Enforcing monotonicity via Online Optimization
University of Michigan(密歇根大学)
本文提出两种新的在线置信预测方法,生成不同置信水平下的嵌套预测集,实现整个风险范围的不确定性量化。方法通过在线优化控制后悔,提高统计效率。
2026-05-12 cs.LG stat.ML
Sequential Conformal Calibration under Recursive Selection
Georgia Institute of Technology(佐治亚理工学院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Shanghai Jiao Tong University(上海交通大学)
本文针对递归选择场景提出序列共形校准方法,推导了覆盖过程规律,刻画了新鲜度与数据复用的权衡,将其应用于多级库存问题,模拟显示其覆盖达标且成本低于Bonferroni基线。
2026-10-14 math.OC stat.AP stat.ME
Open-end nonparametric sequential change-point detection based on the retrospective CUSUM statistic
在线监测的目的是,一旦收集到的观察结果中有重要证据表明基本数据生成机制发生了变化,就发出警报。这项工作是开放式的,非参数的程序,可以解释为统计检验。所提出的监测方案包括在每个新观测到达后计算所谓的回顾性统计量(或其微小变化)。提出合适的门限函数为所选的检测器后,渐近有效性的程序进行了调查的特殊情况下,监测的平均值的变化,无论是在平稳性和相关的替代品的原假设。为了在实际中进行序贯检验,采用了一种基于渐近回归模型的方法来估计相关极限分布的高分位数。Monte Carlo实验表明,良好的有限样本行为的建议的监测计划,并建议他们优于现有的竞争对手,只要变化不发生在一开始的监测。扩展到统计表现出的渐近平均行为进行了简要讨论。最后,推导出的顺序变点检测测试的应用程序简洁地说明了温度异常数据。
2020-07-20 math.ST stat.ME stat.TH
Sequential Change Point Detection in High-dimensional Vector Auto-regressive Models
本研究针对高维向量自回归模型转移矩阵的实时变点检测问题,提出基于正则化估计和检验统计量的序贯检测算法,证明其渐近性质并通过仿真及金融、脑电实际应用验证有效性。
2024-12-13 stat.ME
Extending Subsampling to Sequential Stopping
Stanford University(斯坦福大学)
本文针对固定宽度序贯停止机制在无穷方差或长程依赖场景下失效的问题,构建统一框架刻画停止时间与自归一化估计量的渐近行为,提出序贯子抽样过程,在两类场景下得到渐近有效的序贯置信区间并完成验证。
2026-09-02 math.ST stat.ME stat.TH
Risk-Averse Action Selection Using Extreme Value Theory Estimates of the CVaR
Concordia University(康考迪亚大学)
在各种各样的顺序决策问题中,估计罕见事件的影响以最小化风险暴露可能是重要的。一个流行的风险度量是条件风险价值(CVaR),它通常通过在给定的置信水平下对超过分位数的观测值进行平均来估计。当该置信水平非常高时,由于相应分位数以上的样本数量有限,因此该估计方法可能表现出高方差。为了缓解这个问题,极值理论可以用来推导出一个估计的CVaR,使用外推超出可用的样本。这种估计需要选择一个阈值参数才能很好地工作,这是一个困难的挑战,在极值理论文献中已经得到了广泛的研究。在本文中,我们提出了一个估计过程的CVaR,结合极值理论和最近推出的自动阈值选择方法\cite{bader2018automated}。在适当的条件下,我们使用广义Pareto分布估计尾部风险。我们比较经验,这种估计过程与常用的方法的样本平均,并显示出一些分布的性能改善。最后,我们展示了如何将估计过程应用于强化学习,将我们的方法应用于多臂强盗问题,其目标是避免灾难性风险。
2020-12-10 cs.LG stat.ML
Error-quantified Conformal Inference for Time Series
School of Statistics and Data Science, LPMC, KLMDASR and LEBPS, Nankai University(统计与数据科学学院,LPMC,KLMDASR和LEBPS,南开大学);Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院,清华大学)
针对时间序列预测中不确定性量化问题,提出误差量化的保形推断方法,通过平滑分位数损失函数引入连续自适应反馈,实现长期覆盖保证并输出更紧凑的预测集。
2025-09-08 cs.LG stat.ML
Sequential online subsampling for thinning experimental designs
我们考虑一个设计问题,其中实验条件(设计点$X_i$)以i.i.d.序列的形式呈现。随机变量,用未知的概率测度$μ$生成,并且只能选择给定的比例$α\in(0,1)$。目标是在运行中选择好的候选$X_i$,并最大化相应信息矩阵的凹函数$Φ$。最优解对应于最优有界设计测度$ξ_α^*\leq μ/α$的构造,其困难在于$μ$是未知的,而$ξ_α^*$必须在线构造.所提出的构造依赖于在当前信息矩阵处对$Φ$的方向导数的阈值$τ$的定义,$τ$的值由该方向导数的分布的某个分位数固定。与递归分位数估计相结合,得到一种非线性双时间尺度随机逼近方法。它可以应用于很长的设计序列,因为只有当前的信息矩阵和估计的分位数需要存储。收敛到一个最优设计证明。各种说明性的例子。
2020-08-04 math.ST stat.CO stat.ME
A scale-free density bound for Gaussian maxima
University of California, San Diego(加州大学圣地亚哥分校)
针对中心化高斯向量的最大值,推导了一个无尺度密度界,该界非均匀、对数依赖于维数且适用于任意协方差矩阵,并应用于高维假设检验和反集中性等。
2026-08-10 math.PR math.ST stat.TH
Resampling techniques for a class of smooth, possibly data-adaptive empirical copulas
我们调查的有效性进行推理时,潜在的未知copula使用最近提出的一类光滑,可能的数据自适应非参数估计,包含经验伯恩斯坦copula(因此,经验β copula)的两个resception技术。继\cite{KirSegTsu21}之后,第一种恢复技术基于从平滑估计量中抽取样本,并且只能用于独立观测的情况。第二种技术是所谓的顺序相关乘数引导的平滑扩展,因此可以用于时间序列设置,并可能用于变点分析。这两个研究的恢复计划被施加到置信区间的建设和离线检测的变化的横截面依赖的多元时间序列,分别。蒙特卡洛实验证实了这种平滑的推理过程可能具有的优势,其非光滑的同行。这项工作的一个副产品是弱一致性和有限样本性能的两类光滑估计的一阶偏导数的copula,可以有平均值和分位数回归的应用程序的研究。
2023-01-13 math.ST stat.TH
Optimal Transport on Categorical Data for Counterfactuals using Compositional Data and Dirichlet Transport
Université du Québec à Montréal(魁北克大学蒙特利尔分校);CNRS - Université de Montréal(国家科学研究中心-蒙特利尔大学);Aix Marseille Univ, CNRS, AMSE(阿维尼翁-马赛大学,国家科学研究中心,AMSE)
针对现有最优传输反事实方法难解释、类别变量传输难的问题,提出将类别变量转为成分数据并在$\text{R}^d$概率单纯形内传输的新方法,经真实数据验证有效,为反事实公平研究提供了新路径。
2025-05-20 cs.LG stat.ME
Dimension Reduction for the Trivariate Normal Product Distribution: An Efficient Numerical Algorithm via Conditional Expectation
University of New Mexico(新墨西哥大学)
针对三变量正态乘积分布的CDF计算,提出一种基于条件期望的降维算法,将三维积分化为二维求积,计算成本从$O(n^3)$降至$O(n^2)$,在六个参数设置下平均绝对误差为$3.1 \ imes 10^{-5}$,且计算时间不足一秒。
2026-10-06 stat.CO stat.ME
Rank-transformed subsampling: inference for multiple data splitting and exchangeable p-values
本文提出秩变换子采样方法,通过组合多次随机数据分割的统计量或p值进行大样本推断,在控制第I类错误的同时显著提升检验功效。
2024-09-04 math.ST stat.ME stat.TH
Optimizing Threshold - Schedules for Approximate Bayesian Computation Sequential Monte Carlo Samplers: Applications to Molecular Systems
无似然序贯近似贝叶斯计算(ABC)算法,是越来越流行的复杂生物模型的推理工具。这样的算法通过在参数空间上构造一系列概率分布来进行,条件是模拟数据位于观察数据周围的$ε$ -球中,用于减小阈值$ε$的值。虽然在理论上,随着$ε$趋于零,分布(从适当定义的先验开始)将朝向未知的后验收敛,但是阈值的精确序列可以影响特定应用的计算效率和成功。特别是,我们在这里表明,目前首选的方法选择阈值作为一个预先确定的分位数的模拟和观察到的数据之间的距离从以前的人口,可以导致推断的后验分布是非常不同的真实后验。因此,阈值选择仍然是一个重要的挑战。在这里,我们提出了一种自动化和自适应的方法,使我们能够平衡的需要,以最大限度地减少阈值与计算效率。此外,我们的方法,它围绕预测的阈值-接受率曲线使用无味变换,使我们能够避免局部极小值-一个问题,困扰着以前的阈值计划。
2012-10-11 stat.CO
conformalForecast: An R package for sequential conformal prediction in time series
Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);University of Padova(帕多瓦大学)
研究针对现有共形预测软件缺乏多步时间序列预测集成工作流的问题,推出R包conformalForecast,实现多步时间序列共形预测区间的构建、更新与评估,在电价预测实验中验证其高效性与可靠性。
2026-10-16 stat.AP stat.CO stat.ME