Parameter estimation in linear regression driven by a Gaussian sheet
考虑了基于$Z$在空间域$G$上的观测值的线性回归模型$Z(s,t)=m_1g_1(s,t)+ \cdots + m_pg_p(s,t)+U(s,t)$的参数估计问题,其中驱动过程$U$是高斯随机场,$g_1, \ldots, g_p$是已知函数.当$U$是Wiener或平稳或非平稳的Ornstein-Uhlenbeck单时,导出了参数的极大似然估计的显式形式.模拟结果也被提出,其中的驱动随机片模拟的帮助下,他们的Karhunen-Loève展开。
2011-11-09 math.ST stat.TH
Estimating spatial quantile regression with functional coefficients: A robust semiparametric framework
本文考虑空间数据半参数变系数分位数回归的一种估计。一个通用的强大的框架,对待分位数回归空间数据的自然半参数的方式。利用局部线性逼近,给出了未知函数系数函数的局部M-估计,并在弱空间混合条件下建立了其渐近分布.土壤数据集的应用证明了有趣的发现,超越传统的分析。
2014-02-05 math.ST stat.TH
Conditional density estimation in a censored single-index regression model
在单指标回归假设下,我们引入了一个新的半参数方法来估计截尾响应的条件密度。该回归模型可以看作是Cox回归模型的推广,也可以看作是删失情形下进行降维的一种有益工具。该技术扩展了Delecroix等人(2003)的结果。我们得到的一致性和渐近正态性的指标参数的估计证明其渐近等价的(不可计算的)最大似然估计,使用鞅计数过程的结果和参数的经验过程理论。此外,我们提供了一个新的自适应过程,它允许我们选择在我们的方法中所涉及的平滑参数,并绕过Kaplan-Meier估计(1958)在分布的右尾的弱性能。通过模拟研究,我们研究了我们的估计量的小样本的行为。
2009-03-22 math.ST stat.TH
The conditionality principle in high-dimensional regression
考虑一个高维线性回归问题,其中协变量的数量大于观测值的数量,关注点是估计给定协变量的响应变量的条件方差。一个有条件和无条件的框架被认为是,条件是相对于协变量,这是辅助参数的利益。近年来,当协变量的边缘分布为正态分布且均值和方差已知时,在无条件框架下得到了一个相合估计。在目前的工作中,一定的贝叶斯假设检验的条件框架下,它表明,贝叶斯风险是一个常数。这意味着在条件框架中不存在一致的估计量。然而,当协变量的边缘分布是正态的,上述相容估计的条件误差收敛到零,概率收敛到1。由此可见,即使在条件设置中,关于从属统计量的边缘分布的信息也可能对统计推断产生重大影响。在高维回归模型的背景下,实际意义是,额外的观察,其中只有协变量,是潜在的非常有用的,不应该被忽略。这一发现与半监督学习问题最相关,因为协变量信息很容易获得。
2019-03-27 math.ST stat.TH
Confidence intervals for nonparametric regression
我们证明和讨论的概率非渐近界的成本与一般损失函数的回归计划从Rademacher理论的角度来看,和最优相对于平均$L^{2}$ -距离的基本条件期望的最小二乘回归结果从Vapnik-Chervonenkis理论的角度。结果如下分析涉及独立的,但可能是非平稳的训练样本,并可以扩展,在某种程度上,我们解释和说明,相关的情况下,训练样本表现出依赖性。
2022-03-20 math.PR math.ST stat.ML
On Least Squares Linear Regression Without Second Moment
如果X和Y是实值随机变量,使得X,Y和XY的一阶矩存在,并且给定X的Y的条件期望是X的仿射函数,则条件期望的截距和斜率等于最小二乘线性回归函数的截距和斜率,即使Y可能没有有限的二阶矩。因此,条件期望和零协方差的X形式的仿射意味着均值独立。
2017-10-18 math.ST stat.TH
On the Asymptotic Normality of the Conditional Maximum Likelihood Estimators for the Truncated Regression Model and the Tobit Model
本文研究了截断截尾回归模型和Tobit模型的条件极大似然估计的渐近正态性。我们证明了在Hayashi(2000)\footnote{see page 516, and page 520 of Hayashi (2000).}关于这两个模型的条件ML估计的渐近正态性的证明是正确的,即充分条件是$\mathbf{x_tx'_t}$的非奇异性.
2008-02-05 math.PR math.ST stat.TH
Inference of time-varying regression models
研究了部分时变系数模型的参数估计、假设检验和变量选择问题。我们的渐近理论有一个有用的功能,它可以允许相依,非平稳误差和协变量过程。利用两阶段方法,可以利用$n^{1/2}$ -收敛速度估计参数分量。提出了一种模拟辅助的假设检验方法,用于检验显著性和参数恒定性。我们进一步提出了一个信息准则,可以一致地选择真正的显着的预测。我们的方法被应用到具有时变系数的自回归模型。仿真结果和实际数据的应用。
2012-08-17 math.ST stat.TH
The exact distribution of the conditional likelihood-ratio test in instrumental variables regression
本文推导了工具变量回归中条件似然比检验在弱工具和多内生变量下的精确渐近分布,以集中矩阵所有特征值为条件,相比现有上界方法显著提高了检验功效,并提供了计算方法与数值验证。
2025-09-07 econ.EM math.ST stat.TH
Semiparametric efficiency bounds for seemingly unrelated conditional moment restrictions
研究了具有不同条件变量的条件矩约束模型的半参数有效界问题。我们的特点是这样的效率界,在一般情况下是不明确的,作为一个限制的明确的效率界的递减序列的无条件(边际)的时刻限制模型。一个迭代的过程中近似的有效分数时,这是不明确的。我们的理论结果完善和推广了文献中已有的结果,为文献中的半参数有效界理论提供了新的见解,并为新的应用打开了大门。特别是,我们研究了一类回归类(均值回归,分位数回归,.)缺少数据的模型
2011-11-28 math.ST stat.TH
Estimation of Conditional Mean Operator under the Bandable Covariance Structure
本文考虑高维多元线性回归模型,其中协变量和响应变量的联合分布是一个多元正态分布,其协方差阵是可带的。本文的主要目标是估计回归系数矩阵,它是一个函数的带宽协方差阵。虽然递减估计的协方差具有极小极大最优收敛速度的类的可带协方差,我们表明,它有一个次优收敛速度的回归系数,也就是说,极小极大估计类的可带协方差可能不是一个极小极大估计其泛函。本文提出了回归系数的分块渐缩估计,在协方差可带的假设下,该估计具有回归系数的minimax最优收敛速度。我们还提出了一个贝叶斯过程称为块逐渐减少后处理后的后验的回归系数,并表明,所提出的贝叶斯过程具有极小极大最优收敛速度的回归系数下的带宽协方差假设。我们表明,所提出的方法优于现有的方法,通过数值研究。
2021-03-11 math.ST stat.TH
Generative Modelling via Quantile Regression
本文将条件生成建模与分位数回归相联系,提出损失函数并推导极小极大收敛速率,通过非参数回归子问题建立下界,还讨论了多元分布数据生成扩展。
2024-09-06 math.ST stat.TH
On Estimation of Conditional Modes Using Multiple Quantile Regressions
当条件变量为高维时,我们提出了一种条件模式的估计方法。在所提出的方法中,我们首先通过多次求解分位数回归来估计条件密度。然后,我们通过找到估计的条件密度的最大值来估计条件模式。所提出的方法有两个优点,它是计算稳定的,因为它没有初始参数的依赖性,它是统计有效的,具有快速的收敛速度。合成和真实世界的数据实验表明,所提出的方法相比,其他现有的更好的性能。
2017-12-23 math.ST stat.ME stat.ML
Bootstrap inference for quantile-based modal regression
本文提出了基于分位数回归的条件模式统一推理方法。具体来说,我们提出了估计条件模式的估计条件分位数函数的导数最小化平滑的线性分位数回归估计定义,并开发了两个自助方法,一个新的枢轴自助和非参数自助,我们的条件模式估计。建立在高维高斯近似技术,我们建立了同时从两个引导方法的条件模式的置信矩形的有效性。我们还将前面的分析扩展到协变量向量的维数随样本量增加的情况。最后,我们使用美国工资数据进行模拟实验和真实数据分析,以证明我们的推理方法的有限样本性能。
2021-04-12 math.ST stat.ME stat.TH
Graphical models for nonstationary time series
我们提出了NonStGM,一个通用的非参数图形建模框架,用于研究非平稳多元时间序列的组成部分之间的动态关联。它建立在高斯图模型(GGM)和平稳时间序列高斯图模型(StGM)的框架上,并补充了现有的基于变点向量自回归(VAR)的参数图模型的工作。类似于StGM,所提出的框架捕获条件的非相关性(跨期和同期)的形式的无向图。此外,为了描述时间序列的组件之间的更细微的非平稳关系,我们引入了新的概念,条件非平稳性/平稳性,并将其纳入图形架构。这使得人们能够区分系统组件之间的直接和间接非平稳关系,并可用于搜索作为大型系统中非平稳性的“源”的小型子网。条件非相关性和非平稳性/平稳性这两个概念共同提供了对时间序列的依赖结构的简洁描述。
2022-03-20 math.ST stat.TH
Quantile regression approach to conditional mode estimation
在本文中,我们考虑估计的条件模式的结果变量给定的回归。为此,我们提出并分析了一个计算可扩展的估计来自一个线性分位数回归模型,并发展渐近分布理论的估计。具体来说,我们发现,逐点极限分布是一个规模的转换,尽管存在的回归的Dalloff的分布。此外,我们考虑分析和基于子采样的置信区间的建议估计。我们还进行蒙特卡罗模拟来评估所提出的估计量的有限样本性能以及分析和子采样置信区间。最后,我们应用所提出的估计预测净小时发电量使用联合循环电厂数据。
2019-07-29 math.ST stat.ME stat.TH
On prediction errors in regression models with nonstationary regressors
本文给出了非平稳回归模型中最小二乘预报器的最终预报误差和累积预报误差的渐近表达式。证明了FPE中的$1/n$阶项和APE中的$\log n$阶项具有相同的常数,其中$n$是样本量.由于该模型包含了随机游动模型作为特殊情况,这些渐近表达式推广了Wei(1987)和Ing(2001)中的一些结果。此外,我们还表明,虽然FPE的最小二乘预测是不受当代的相关性之间的创新输入和输出变量,最小二乘估计的均方误差不与此相关性。
2007-02-26 math.ST stat.TH
Conditional nonparametric variable screening by neural factor regression
针对高维协变量的条件变量筛选问题,提出基于神经网络非参数回归的检验方法,通过平滑偏导估计实现渐近正态与一致性,经模拟和真实应用验证有效。
2024-08-20 econ.EM math.ST stat.TH
LASSO Inference for High Dimensional Predictive Regressions
Southern Methodist University(南方卫理公会大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Macau(澳门大学);The Chinese University of Hong Kong(香港中文大学)
本文提出IVX-desparsified LASSO方法,解决高维预测回归中LASSO的收缩偏误和Stambaugh偏误问题,通过理论分析和模拟验证其有效性,并应用于美国股市和通胀预测研究。
2026-04-19 econ.EM stat.ME stat.ML
Inference for Extremal Conditional Quantile Models, with an Application to Market and Birthweight Risks
分位数回归是经济学和其他科学中越来越重要的经验工具,用于分析一组回归变量对结果的条件分布的影响。极值分位数回归,或应用于尾部的分位数回归,在许多经济和金融应用中很有意义,例如条件风险价值,生产效率和(S,s)模型中的调整带。在本文中,我们提供了可行的推断工具,极值条件分位数模型,依赖于极值近似的自归一化分位数回归统计分布。该方法易于实现,即使在非回归情况下也可以独立感兴趣。我们用两个实证例子来说明结果,分析股票收益的极端波动和活婴儿出生体重在250和1500克之间的极低波动。
2009-12-26 econ.EM math.ST q-fin.RM
Nonparametric Conditional Inference for Regression Coefficients with Application to Configural Polysampling
我们认为推断程序,条件上观察到的从属统计量,为回归系数下的线性回归设置未知的误差分布指定非参数。在正则条件下,建立了回归系数估计的条件渐近正态性,并证明了条件推断过程中核型密度估计的插入方法.仿真结果表明,该方法在构造置信区间时,可以得到精确的条件覆盖概率。插件的方法可以应用于与神经多元采样,以获得强大的条件估计自适应对抗的对比方案。我们证明了这一点,通过调查的条件均方误差的位置估计在各种对抗的模拟研究,成功地扩展到一个非参数的背景下,几何多抽样。
2007-10-30 stat.ME
Debiased Regression for Root-N-Consistent Conditional Mean Estimation
针对非参数回归估计器缺乏√n一致性和渐近正态性保证的问题,提出一种去偏技术,通过添加偏差校正项扩展一步估计器,理论证明其满足√n一致性和渐近正态性,且保持无模型特性,能提高估计精度并简化置信区间构建。
2024-11-25 cs.LG econ.EM math.ST
Density Regression with Conditional Support Points
密度回归表征给定协变量的响应变量的条件密度,并提供比常用的条件均值或分位数回归更多的信息。然而,在具有大量数据集的应用中,特别是当存在多个协变量时,它通常在计算上是禁止的。在本文中,我们开发了一个新的数据约简方法的密度回归问题的条件支持点。在获得代表性数据后,我们利用惩罚似然方法作为下游估计策略。基于连续排序概率得分、能量距离、$L_2$偏差和对称化Kullback-Leibler距离之间的关系,研究了代表点的分布收敛性,建立了密度回归估计的收敛速度.该方法的实用性说明建模的条件分布的功率输出给定的多变量环境因素,使用大规模的风力涡轮机数据集。本文的补充材料可在网上查阅。
2022-06-14 stat.CO stat.ME
Conditional Density Estimation via Weighted Logistic Regressions
与条件均值作为简单的点估计相比,条件密度函数更能描述具有多峰、非对称或异方差的分布。本文通过讨论非齐次Poisson过程模型的广义密度与似然函数之间的关系,提出了一种新的参数条件密度估计方法.最大似然估计可以通过加权逻辑斯谛回归获得,并且通过组合逐块交替最大化方案和局部病例对照抽样可以显著地放松计算。我们还提供了模拟研究的说明。
2020-10-21 stat.ME stat.ML
The dynamic generalized covariance measure for conditional independence testing with nonstationary time series
Carnegie Mellon University(卡内基梅隆大学);Queen Mary University of London(伦敦大学玛丽女王学院)
本文提出首个适用于非平稳非线性过程单次实现的条件独立性检验框架,通过时变非线性回归等技术解决线性模型难以捕捉非线性动态的问题,为相关领域的随机过程关系识别提供了新工具。
2026-10-22 math.ST stat.ME stat.ML
Automated selection of $r$ in $r$-largest order statistics models: finite-sample performance and return-level inference
Chonnam National University(全南国立大学);Mahasarakham University(玛哈沙拉堪大学)
本文提出了一种基于CCDF的拟合优度检验方法,用于平稳和非平稳rGEV模型中r的选择,适用于小样本和大样本,并通过实证数据验证其有效性。
2026-10-23 stat.CO stat.ME
Quantile Regression for Location-Scale Time Series Models with Conditional Heteroscedasticity
本文研究了一类广泛的时间序列模型的分位数回归问题,其中包括具有非对称GARCH误差的ARMA模型。经典的均值-方差模型被重新解释为条件的位置-尺度模型,使分位数回归方法可以自然地适应所考虑的模型。在较弱的条件下,证明了位置-尺度时间序列模型中分位数回归估计的相合性和渐近正态性。在将这一结果应用于ARMA-AGG模型时,得到了更为原始的条件,从而得到了渐近性质。为了说明,提供了模拟研究和实际数据分析。
2015-02-28 stat.ME
Conditional Rank-Rank Regression via Deep Conditional Transformation Models
Nankai University(南开大学)
本文提出通过深度条件转换模型改进的条件秩秩回归,用于分析代际流动性,提升了在非线性和离散结果中的表现,并通过实证研究验证了其有效性。
2026-03-07 cs.LG stat.ME stat.ML
Converting High-Dimensional Regression to High-Dimensional Conditional Density Estimation
在天文学和经济学等领域,对非参数条件密度估计的需求越来越大。例如,在天文学中,人们可以通过使用全条件密度而不是回归(即,条件均值)估计。更一般地说,标准回归在任何预测问题中都是不足的,其中响应的分布更复杂,具有多模态,不对称或异方差噪声。然而,目前关于高维推理的研究主要集中在回归和分类方面,而关于密度估计的研究相对滞后。在这里,我们提出了FlexCode,一个完全非参数的方法,有条件的密度估计,重新制定CDE作为一个非参数的正交系列问题,其中的膨胀系数估计回归。通过采用这种方法,可以有效地估计条件密度,而不仅仅是通过利用高维回归的成功来估计高维的期望。根据回归过程的选择,我们的方法可以适应各种具有挑战性的高维设置,数据中具有不同的结构(例如,大量的不相关分量和非线性流形结构)以及不同的数据类型(例如,函数数据、混合数据类型和样本集)。我们研究了我们所提出的方法的理论和经验性能,我们比较我们的方法与传统的条件密度估计模拟以及真实世界的数据,如光度星系数据,Twitter数据,在星系团的视线速度。
2017-04-26 stat.ME stat.ML
Kernel Regression by Mode Calculation of the Conditional Probability Distribution
表示数据集中任意依赖关系的最直接方法是估计联合分布,然后应用argmax函数获得相应条件分布的众数。这种方法在实践中是困难的,因为它需要一个复杂的功能,固定的输入变量的联合分布的全局优化。本文提出了一种方法来寻找全局最大值,如果联合分布是由核密度估计建模。一些实验表明,所得到的回归方法的优点和缺点相比,标准的Nadaraya-Watson回归技术,它近似的期望值的最优值。
2008-11-21 stat.ML
Super-Level-Set Regression: Conditional Quantiles via Volume Minimization
Sierra team, Inria Paris, France(Inria巴黎研究所)
本文提出超水平集回归,通过直接优化几何边界,解决多变量回归中构造满足条件覆盖的最小体积预测区域的挑战,替代传统密度估计方法。
2026-05-07 cs.AI cs.LG stat.AP
Dual Regression
我们提出了对偶回归作为替代的分位数回归过程的全球估计的条件分布函数在最小的假设。对偶回归提供了分位数回归过程的所有解释能力,同时避免了修复分位数回归在实践中经常产生的相交条件分位数表面的需要。我们的方法引入了一个数学规划表征的条件分布函数,在其最简单的形式,是一个双重计划的同时估计线性位置-尺度模型。我们应用我们的一般特征的规格和估计的灵活类的条件分布函数,并提出相应的经验对偶回归过程的渐近理论。
2018-09-23 econ.EM stat.AP stat.ME
Transforming Conditional Density Estimation Into a Single Nonparametric Regression Task
本文提出将条件密度估计转化为单一非参数回归任务的方法,通过引入辅助样本,利用神经网络和决策树等高维回归方法,提升了估计效果。
2025-11-23 cs.LG stat.ML
Hybrid Quantile Regression Estimation for Time Series Models with Conditional Heteroscedasticity
金融时间序列的条件分位数估计对于风险管理和金融领域的许多其他应用是必不可少的。众所周知,金融时间序列具有条件异方差性。在众多的条件异方差模型中,广义自回归条件异方差(GARCH)过程是最流行和最有影响力的一个。到目前为止,可行的分位数回归方法,这项任务已被限制到一个变种的Gestival模型,线性Gestival模型,由于其易于处理的条件分位数结构。本文考虑了广泛使用的Gestival模型。一个易于实现的混合条件分位数估计程序开发的基础上,一个简单的,但非平凡的变换。所提出的估计量和统计量的渐近性质的推导,这有利于相应的推论。为了近似的渐近分布的分位数回归估计,我们引入了一个混合的自举过程,其中一个耗时的优化被替换为样本平均。此外,基于残差分位数自相关函数的诊断工具被构造来检查拟合的条件分位数的充分性。仿真实验进行了评估所提出的方法的有限样本性能。的条件分位数估计和推理工具的有用性的良好性能进一步说明了实证应用。
2016-10-24 stat.ME
Nonparametric conditional risk mapping under heteroscedasticity
本文提出一种结合条件模拟与非参数估计的自助算法,用于在异方差非平稳地质统计过程中估计未观测位置的条件超限风险,并通过模拟和美国降水数据验证其有效性。
2024-03-28 stat.AP stat.ME
Adjusting Regression Models for Conditional Uncertainty Calibration
University of Florida(佛罗里达大学);Netflix(网飞公司);Cornell University(康奈尔大学)
针对Conformal Prediction缺乏条件覆盖保证的问题,提出一种新颖的端到端回归训练算法,通过控制条件与名义覆盖率差距的上界来改善条件覆盖,并在合成和真实数据集上验证了其有效性。
2024-09-26 cs.AI cs.LG stat.ML
Dirac Delta Regression: Conditional Density Estimation with Clinical Trials
个体化医疗旨在确定治疗对特定患者的因果影响,而不是对整个临床人群的影响。大多数研究者通过回归随机临床试验(RCT)对患者协变量的结果来估计这种个性化的处理效应。然而,结果的实现价值可能与有条件的期望相去甚远。因此,我们引入了一种称为Dirac Delta Regression(DDR)的方法,该方法从RCT数据中估计整个条件密度,以便可视化所有可能结果值的概率。DDR将结果转换为一组渐近Dirac delta分布,然后使用非线性回归估计密度。即使不存在群体水平效应,该算法也可以识别患者特异性结局的显著差异。此外,DDR在条件密度估计中甚至在小样本状态中也以大的裕度优于最先进的算法。R包可在https://github.com/ericstrobl/DDR上获得。
2021-09-01 cs.LG stat.ME stat.ML
Nonparametric estimation of the conditional distribution at regression boundary points
非参数回归是一种标准的统计工具,在大数据时代越来越重要。边界点造成额外的困难,但局部多项式回归可以用来减轻它们。例如,局部线性回归很容易实现,并且在内部点和边界点都表现得很好。通过标准核方法可以立即估计给定回归点处的条件分布函数和/或分位数函数,但如果要使用局部线性方法,则会出现问题。特别地,分布函数估计量不能保证是单调增加的,并且分位数曲线可以“交叉”。本文提出了一种修正局部线性分布估计单调性的简单方法,并通过模拟和实际数据实例证明了其良好的性能。
2017-04-03 stat.OT
Colorful Pinball: Density-Weighted Quantile Regression for Conditional Guarantee of Conformal Prediction
School of Economics and Management, Tsinghua University, China(清华大学经济管理学院)
本文提出了一种基于密度加权分位数回归的条件保证置信预测方法,通过改进标准置信预测的条件覆盖性能,提供更精确的非渐近保证。
2026-05-19 cs.LG stat.ME
Conditional Linear Regression
University of Arkansas(阿肯色大学);Washington University in St. Louis(华盛顿大学圣路易斯分校);M.I.T.(麻省理工学院)
机器学习和统计学的工作通常侧重于构建捕获绝大多数数据的模型,可能会忽略一部分人群作为离群值。然而,在整个数据集上通常不存在一个好的模型,所以我们试图找到一个小的子集,其中存在一个有用的模型。我们感兴趣的是找到一个线性规则,能够实现更准确的预测,只是一部分人口。我们给出了一个有效的算法与理论分析的条件线性回归任务,这是一个共同的任务,确定一个显着的部分人口,描述了一个k-DNF,随着其线性回归拟合。
2019-07-09 cs.DS cs.LG stat.ML
Exact Distribution-Free Hypothesis Tests for the Regression Function of Binary Classification via Conditional Kernel Mean Embeddings
SZTAKI: Institute for Computer Science and Control(SZTAKI:计算机科学与控制研究所);Eötvös Loránd Research Network(厄特沃什·罗兰研究网络)
本文提出了两种基于条件核均值嵌入的二分类回归函数的统计假设检验方法。回归函数是分类中的基本对象,因为它决定了贝叶斯最优分类器和误分类概率。提出了一个基于回归的框架,并结合条件核均值映射的一致点估计,以构造分布自由的假设检验。这些测试以灵活的方式引入,使我们能够控制任何样本量的第一类错误的确切概率。我们还证明了这两种方法在弱统计假设下是一致的,即,第二类错误概率逐点收敛到零。
2021-06-07 cs.LG stat.ML
Conditional Linear Regression for Heterogeneous Covariances
Washington University in St. Louis(圣路易斯华盛顿大学)
通常,机器学习和统计模型会试图描述大部分数据。然而,可能存在只有一小部分数据可以通过线性回归模型很好地拟合的情况。在这里,我们感兴趣的情况下,这样的内点可以识别的析取范式(DNF)公式。我们给出了一个多项式时间算法的条件线性回归任务,它确定了一个DNF条件与线性预测的相应部分的数据。在这项工作中,我们改进了以前的算法,通过删除的要求,满足条件的每个条款的数据的协方差都是非常相似的频谱范数的整体条件的协方差。
2021-11-15 cs.DS cs.LG stat.ML
Building nonstationary extreme value model using L-moments
针对非平稳极值模型在方差正趋势下估计性能不佳的问题,提出结合 L-moments 与稳健回归的新算法,使用标准化残差高效估计参数,并扩展至物理协变量模型及交叉验证模型选择准则。
2025-06-01 stat.CO stat.ME
Log-F-penalized Conditional Logistic Regression for Sparse Data
Simon Fraser University(西蒙菲莎大学)
针对稀疏匹配病例对照研究中条件逻辑回归估计量偏差与收缩控制不足问题,提出log-F惩罚条件逻辑回归方法,其在模拟中表现出与Firth方法相当的置信区间覆盖率,且均方误差更低。
2026-08-03 stat.ME
Statistical Estimation for Covariance Structures with Tail Estimates using Nodewise Quantile Predictive Regression Models
本文针对带尾部估计的协方差结构,提出用分位数预测回归估计VaR-CoVaR风险矩阵,还构建了无调优参数、具有一致性的FOCE变量选择算法,经真实与模拟数据集验证可用于网络系统性风险建模。
2023-07-24 econ.EM stat.ME
Estimation and Inference in the Presence of Fractional d=1/2 and Weakly Nonstationary Processes
我们提供了新的极限理论泛函的一般类的过程之间的边界平稳性和非平稳性-我们称之为弱非平稳过程(WNP)。这包括d=1/2的分数过程,以及根缓慢向1漂移的自回归过程的阵列。我们首先应用该理论研究了以小波包分解为协变量的参数和非参数回归模型的推断。然后,我们使用这些结果来开发一个新的规格测试参数回归模型。通过构造,我们的规范检验统计量具有卡方极限分布,而不管回归量的持久性的形式和程度如何,这意味着从业者可以使用固定的临界值有效地执行测试,同时对生成回归量的机制保持不可知。模拟练习证实,该测试控制了广泛的数据生成过程中的大小,并且由于Wang和Phillips(2012年,Ann. Stat.)反对许多替代品。
2020-08-13 math.ST stat.TH
Beyond Discrepancy: Oracle Drift in Nonstationary Weighted Risk Minimization
LMU Munich(慕尼黑大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
该研究针对非平稳加权风险最小化,提出将漂移误差与最优预测器移动关联的神谕漂移分析,发现偏差型量过于保守,结合线性回归的精确差距刻画与估计保证,并扩展至非参数回归。
2026-10-12 math.ST stat.ML stat.TH
Joint estimation of conditional quantiles in multivariate linear regression models. An application to financial distress
本文提出了一种最大似然方法来联合估计线性回归框架中多元响应变量的边缘条件分位数。我们考虑了Kotz等人(2001)提出的多元非对称Laplace分布的一个轻微的重新参数化,并利用其位置-尺度混合表示来实现一个新的估计模型参数的期望最大化算法。其思想是将非对称拉普拉斯分布和众所周知的单变量分位数回归模型之间的联系扩展到多变量环境,即当涉及多变量因变量时。该方法考虑了多个响应之间的关联,并研究响应和解释变量之间的关系如何在响应的边际条件分布的不同分位数之间变化。一个惩罚版本的期望最大化算法也提出了解决问题的变量选择。我们的方法的有效性进行了分析,在模拟研究中,我们还提供证据的效率增益所提出的方法相比,通过单独的单变量分位数回归估计。一个真正的数据应用程序,最后提出了研究的主要决定因素,在一个样本的意大利企业的财务困境。
2018-08-03 stat.ME
An efficient model-free estimation of multiclass conditional probability
University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
传统的多类条件概率估计方法,如Fisher判别分析和逻辑斯谛回归,往往需要限制性的分布模型假设。本文提出了一种无模型估计方法,通过一系列条件分位数回归函数来估计多类条件概率。具体地,条件类概率被公式化为相应的累积分布函数的差,其中累积分布函数可以从估计的条件分位数回归函数转换。所提出的估计方法也是有效的,因为它的计算成本不会随着类的数量呈指数增长。理论和数值研究表明,所提出的估计方法是非常有竞争力的现有的竞争对手,特别是当类的数量相对较大。
2013-08-01 cs.LG stat.ME stat.ML
Some novel aspects of quantile regression: local stationarity, random forests and optimal transportation
本文纪念 Marc Hallin 教授,提出非标准环境下分位数估计的理论与方法进展,包括非平稳时间序列和大维协变量下多变量独立数据的条件分位数估计,并通过 Monte Carlo 研究验证方法性能。
2023-09-09 stat.AP
Statistical Properties of Deep Neural Networks with Dependent Data
The University of Manchester(曼彻斯特大学)
本文针对依赖数据(β-混合)下的深度神经网络估计量,建立了非渐近误差界,并证明其在指数混合下达到非参数极小极大最优速率,适用于回归、逻辑回归和分位数回归。
2026-09-24 cs.LG econ.EM stat.ML
Conditional Diffusion for Nonparametric Instrumental Variable Quantile Regression
Institute of Data Science and Statistics, Shanghai University of Finance and Economics(上海财经大学数据科学与统计研究院);School of Mathematics and Statistics, Wuhan University(武汉大学数学与统计学院);School of Artificial Intelligence, Wuhan University(武汉大学人工智能学院)
本研究提出结合条件扩散建模的两阶段非参数工具变量分位数回归方法,建立了重尾分布下的理论保证,经模拟与实际数据验证,其性能优于现有方法且随维度提升优势更明显。
2026-08-11 cs.LG stat.ML
Fast Conformal Prediction using Conditional Interquantile Intervals
本文提出CIR和CIR+方法,通过改进的分位数区间构建技术,实现高效且准确的符合预测,适用于处理偏斜分布和提高计算效率。
2026-01-06 cs.LG stat.ML
Conditional Sparse Linear Regression
Washington University in St. Louis(圣路易斯华盛顿大学)
机器学习和统计学通常专注于构建捕获绝大多数数据的模型,可能会忽略一小部分数据作为“噪音”或“离群值”。“相比之下,在这里我们考虑联合识别一个重要的(但可能很小的)群体部分的问题,其中有一个高度稀疏的线性回归拟合,以及线性拟合的系数。我们认为,这些任务是有趣的,因为模型本身可能能够在这种特殊情况下实现更好的预测,但也因为它们可以帮助我们理解的数据。我们给这样的问题的算法下的超级规范,当这个未知的部分人口描述的k-DNF条件和回归拟合是s-稀疏常数k和s。对于回归拟合不太稀疏或使用期望误差时该问题的变体,我们也给出了初步的算法,并强调该问题是未来工作的挑战。
2016-08-18 cs.DS cs.LG stat.ML