Adaptive Ridge Approach to Heteroscedastic Regression
Kyushu University(九州大学);University of Tokyo(东京大学)
本文提出自适应岭估计方法用于异方差线性回归,同时估计均值与方差参数,证明稀疏设置下的渐近性质及零参数收缩性,并通过模拟和真实数据验证应用与推广。
2025-01-14 math.ST stat.TH
Choosing a penalty for model selection in heteroscedastic regression
本文考虑异方差数据最小二乘回归中的模型选择问题。我们证明了任何惩罚程序是次优的惩罚是一个函数的尺寸的模型,至少对于一些典型的异方差模型选择问题。特别是,Mallow的Cp在这个框架中是次优的。相反,最佳模型选择是可能的,具有数据驱动的惩罚,例如恢复或$V$倍惩罚。因此,即使以更高的计算成本为代价,也值得从数据中估计惩罚的形状。仿真实验表明,统计精度和计算复杂性之间存在一个折衷。作为结论,我们勾勒出一些规则,选择最小二乘回归的惩罚,这取决于什么是已知的噪声水平的可能变化。
2010-06-04 math.ST stat.TH
Adaptive asymptotically efficient estimation in heteroscedastic nonparametric regression
本文讨论了作者在2007年的论文中提出的估计未知非参数回归的自适应过程的渐近性质。% \cite{GaPe1}。我们证明了该方法对于二次风险是渐近有效的,即该方法的渐近二次风险与Pinsker常数一致,该常数给出了二次风险在所有可能估计上的一个尖锐的下界
2010-02-08 math.ST stat.TH
The Slope Heuristics in Heteroscedastic Regression
本文考虑非参数背景下具有异方差噪声和随机设计的回归函数的估计问题。更确切地说,我们解决的问题时,回归函数估计通过使用惩罚最小二乘模型选择方法的最佳惩罚的特征。在这种情况下,我们证明了存在一个最小的惩罚,定义为最高水平的惩罚下,模型选择过程完全行为不端。最优惩罚是最小惩罚的两倍,并满足一个非渐近的路径预言不等式,其前导常数几乎为1。最后,理想的惩罚是未知的,在一般情况下,我们提出了一个坚持惩罚程序,并证明了后者是渐近最优的。
2015-06-26 math.ST stat.TH
On Measuring Model Complexity in Heteroscedastic Linear Regression
异方差在现实世界的应用中很常见,通常通过将案例权重纳入建模过程来处理。直观地说,采用不同权重方案的模型将具有不同的复杂程度,这取决于权重与误差方差的倒数的匹配程度。然而,现有的模型复杂性统计理论,也被称为模型自由度,主要是建立在等误差方差的假设下。在这项工作中,我们专注于线性回归程序,并寻求将现有的措施,以异方差设置。我们的加权最小二乘法的分析揭示了一些有趣的性质的扩展措施。特别是,我们发现,它们取决于用于模型拟合和模型评估的权重。此外,建模异方差数据的最佳权重通常会导致较少的自由度比相同的权重,减少的大小取决于误差方差的不均匀性。这为加权建模过程提供了额外的见解,这些建模过程在风险估计和模型选择中非常有用。
2022-04-14 math.ST stat.TH
Bartlett and Bartlett-type corrections in heteroscedastic symmetric nonlinear regression models
本文给出了异方差对称非线性模型中检验离差参数的似然比和梯度统计量的Bartlett和Bartlett型校正因子的一般表达式。这类回归模型对于包含离群观测值的数据建模可能很有用。我们考虑一个分区的色散参数向量,以测试的参数。此外,我们开发了Monte Carlo模拟,以比较有限样本性能的校正测试建议与通常和修改的得分测试,似然和梯度测试,Bartlett型校正得分测试和自举校正测试。我们的模拟结果有利于分数和梯度校正测试以及自助测试。为了说明的目的,提出了一个经验应用。
2020-04-23 math.ST stat.TH
Optimal upper and lower bounds for the true and empirical excess risks in heteroscedastic least-squares regression
本文考虑随机设计和非参数异方差噪声下有界回归函数的估计。研究了有限维向量空间上最小二乘估计的真实和经验超额风险。我们给这些数量的上界和下界是非渐近的和最佳的一阶,允许尺寸取决于样本量。这些界限显示了真实的和经验的超额风险之间的等价性,除其他外,最小二乘估计是一致的,在超规范的回归函数的投影到所考虑的模型。然后证明了合适的直方图模型和更一般的分段多项式模型的局部化的基础结构赋予的子规范的一致性。
2015-06-26 math.ST stat.TH
Adaptive variance function estimation in heteroscedastic nonparametric regression
本文研究了异方差非参数回归中自适应方差函数估计的小波阈值方法。一个数据驱动的估计器构造通过应用小波阈值的平方一阶差的观察。我们表明,方差函数估计是近最佳自适应平滑的均值和方差函数。估计器实现最佳的自适应收敛速率下的逐点平方误差同时在一个范围内的平滑类。该估计也是自适应在一个对数因子的极大极小风险下的全球平均集成平方误差在一个集合的空间非齐次函数类。数值实现和模拟结果进行了讨论。
2008-10-27 math.ST stat.TH
Asymptotic inference in some heteroscedastic regression models with long memory design and errors
本文讨论了具有非参数异方差LM滑动平均误差的长记忆(LM)高斯设计回归模型中底层参数的各种估计的渐近分布。在简单线性回归模型中,观测到斜率参数的最小二乘估计的一阶渐近分布是退化的。然而,在二阶,这个估计是$n^{1/2}$ -一致的和渐近正常的$h+H<3/2$ ;非正常的,否则,其中$h$和$H$分别是LM参数的设计和误差过程。在更一般的异方差回归模型中,证明了条件方差函数$σ^2(x)$的一类核型估计的有限维渐近分布,当$H<(1+h)/2$为正态时,其渐近分布为非正态.此外,在这个一般模型中,还建立了基于伪残差的$H$的局部Whittle估计的$\log(n)$ -相合性和$σ^2(x)$的交叉验证型估计的相合性.所有这些研究结果,然后提出了一个缺乏的参数回归模型的拟合检验,与应用程序的一些货币汇率数据,表现出LM。
2008-03-14 math.ST stat.TH
Wavelet regression in random design with heteroscedastic dependent errors
本文研究了具有异方差相关噪声和随机设计的非参数回归模型中的函数估计。翘曲小波非线性逼近的自适应特性研究了在广泛的Besov尺度,$f\in\mathcal{B}^s_{π,r}$,并为各种$L^p$误差措施。我们考虑误差分布与长程相关参数$α,0<α\leq1$异方差建模与设计相关的功能$σ$。我们规定了一种调整范式,在该范式下,扭曲小波估计以极小极大收敛率的速率实现部分或完全自适应结果。对于$p>2$,可以看出,根据$s,p,π$和$α$的相对值,存在三个速率阶段,即密集、稀疏和长程相关阶段。此外,我们表明,长范围的依赖性不起作用的形状估计$f-\int f$。最后用数值例子说明了该理论。
2009-09-02 math.ST stat.TH
A concentration inequality for the excess risk in least-squares regression with random design and heteroscedastic noise
本文证明了一个新的和一般的关于具有异方差噪声和随机设计的最小二乘回归中超额风险的集中不等式。除了存在一个控制经验过程局部上确界的合适函数外,模型不需要任何特定的结构。到目前为止,只有线性对比度估计的情况下,在文献中处理的模型具有这种程度的一般性。在这里,我们解决了二次对比的情况下,通过分离的线性化的经验过程的行为和经验过程由模型的函数的平方驱动。
2018-03-09 math.ST stat.ML stat.TH
Spatial adaptation in heteroscedastic regression: Propagation approach
本文研究了在噪声为异方差且未知的情况下回归中的逐点自适应估计问题。使用的局部逼近方法,其中包括局部多项式平滑作为一个特殊的情况下,导致一个有限的家庭估计对应于不同程度的平滑。在这种情况下,数据驱动的本地化程度的选择可以理解为从这个家庭中选择的问题。该任务可以通过Katkovnik和Spokoiny(2008)中提出的基于Lepski方法的FLL技术来执行。Spokoiny和Vial(2009)讨论了这类程序的一个重要问题-某些调谐参数的选择。作者将他们的参数校准方法称为“传播”。在本文中的传播方法是开发和证明的异方差的情况下,存在的噪声误指定。我们的分析表明,自适应程序允许误指定的协方差阵的相对误差的顺序为1/log(n),其中n是样本量。
2012-08-14 math.ST stat.TH
Does sequential augmenting of the simple linear heteroscedastic regression reduce variances of the Ordinary Least Squares?
如果不相关的随机变量有一个共同的期望值和递减的方差,则样本均值的方差随观测数而递减。不幸的是,这种自然和理想的方差减少属性(VRP)通过增加数据是不会自动继承的普通最小二乘(OLS)估计参数。在本文中,我们找到了OLS有VRP的条件。在直线回归的情况下,我们证明了当设计点增加时,截距和斜率的OLS估计具有VRP。这也适用于交替两点试验设计。所得到的结果是有用的情况下,它是已知的后续观测的方差是非增加的,但减少的比率是不可用的次优或最优加权最小二乘估计。
2013-04-10 math.ST stat.TH
Estimating a regression function under possible heteroscedastic and heavy-tailed errors. Application to shape-restricted regression
本文研究在非独立同分布和重尾误差下的回归估计问题,提出了一种最小二乘估计器的替代估计器,证明了其在异方差下具有稳定性和自适应性质,并在形状受限回归中表现优异。
2025-06-01 math.ST stat.TH
A geometric characterization of $c$-optimal designs for heteroscedastic regression
我们考虑常见的非线性回归模型,其中方差和均值都是解释变量的参数函数。当均值和方差函数的参数都感兴趣时,研究了$c$ -最优设计问题。本文给出了$c$ -最优设计的一个几何特征,推广了Elfving [Ann. Math. Statist. 23(1952)255- 262]的$c$ -最优设计。在Elfving的著名的特征,$c$ -最优设计可以描述为凸集的边界点的表示。然而,在方差中出现感兴趣的参数的情况下,Elfving集的结构是不同的。粗略地说,对应于异方差回归模型的Elfving集是由基础模型诱导并由设计空间索引的椭球集合的凸包。$c$ -最优设计被表征为向量$c$方向上的直线与新Elfving集的边界相交的点的表示。该理论说明了几个例子,包括随机效应的药代动力学模型。
2009-11-19 math.ST stat.TH
Support estimation in high-dimensional heteroscedastic mean regression
本文针对高维异方差重尾误差的线性均值回归,提出结合光滑Huber损失与自适应LASSO的鲁棒支持估计方法,并证明了其符号一致性与最优收敛速率。
2025-02-05 math.ST stat.ML stat.TH
A robust, adaptive M-estimator for pointwise estimation in heteroscedastic regression
我们介绍了一种鲁棒且完全自适应的异方差回归逐点估计方法。我们允许未知的噪声和设计分布,并且仅满足非常弱的假设。特别地,我们不对噪声分布施加矩条件。此外,我们不需要设计分布的正密度。在第一步中,我们研究了局部多项式M-估计的一致性,包括一个对比和一个核。然后,在一维Hölder空间上建立了退化设计的极大极小结果。然后,我们选择的对比度和内核,最大限度地减少经验方差项,并证明相应的M-估计是自适应的噪声和设计分布和自适应(Huber)极小极大污染模型。在第二步中,我们还通过Lepski方法选择数据驱动的带宽。这导致一个M-估计,是自适应的噪声和设计分布,此外,自适应相对于各向同性,多元,局部多项式目标函数的平滑度。这些结果也扩展到各向异性,局部常数的目标函数。特别是,我们的数据驱动方法提供了一定程度的鲁棒性,可以适应噪声、污染和离群值。
2014-07-09 math.ST stat.TH
Slope heuristics and V-Fold model selection in heteroscedastic regression using strongly localized bases
我们研究了在异方差随机设计回归背景下,所谓的斜率统计学,$V$ -折叠交叉验证和$V$ -折叠惩罚模型选择的最优性。我们考虑一类新的线性模型,我们称之为强局部化的基础和推广直方图,分段多项式和紧支撑小波。我们推导出了证明斜率优化的渐近最优性的尖锐预言不等式--当最优惩罚形状已知时--和$V$ -fold惩罚。此外,$V$ -折叠交叉验证似乎是次优的固定值的$V$,因为它恢复渐近的oracle从样本量等于$1-V^{-1}$的原始数据量的学习。我们的研究结果是基于真正的集中不平等的真实和经验的超额风险是独立的利益。我们在我们的实验中表现出良好的行为的斜率线性小波模型的选择。此外,$V$ -倍数交叉验证和$V$ -倍数惩罚具有相当的效率。
2017-03-15 math.ST stat.ME stat.TH
Extreme quantile regression in a proportional tail framework
我们重新审视了Einmahl等人最初引入的异方差极值模型(JRSSB,2016),以描述非平稳序列的演变,其极值随时间推移而演变,并将其适应于一般的极端分位数回归框架。给出了极值指标和积分skedasis函数的估计,并证明了它们的渐近正态性。我们的结果是非常相似的异方差极端,但不同的证明方法强调耦合参数。我们还提出了skedasis函数的逐点估计和条件极值分位数的Weissman估计,并证明了这两个估计的渐近正态性。
2020-02-05 math.ST stat.TH
Precise Asymptotics for Dense High-Dimensional Huber Regression under Heteroscedasticity
University of Manchester(曼彻斯特大学);University of Cambridge(剑桥大学);Johns Hopkins University(约翰斯·霍普金斯大学)
该研究在异方差高维线性模型下,采用矩阵近似消息传递(AMP)框架推导了Huber估计量的精确渐近经验分布刻画,构建了中心位移检验并通过模拟验证其性能。
2026-10-16 math.ST stat.ME stat.TH
Heteroscedastic semiparametric transformation models: estimation and testing for validity
本文考虑一个异方差变换模型,其中变换属于参数单调变换族,回归和方差函数是非参数建模的,误差与多维协变量无关。在这个模型中,我们首先考虑模型未知分量的估计,即变换参数、回归和方差函数以及误差的分布。我们证明了所提出的估计量的渐近正态性。其次,我们对模型的有效性进行了检验,并在原假设下建立了检验统计量的极限分布。提出了一种Bootstrap方法来近似检验的临界值。最后,我们进行了模拟研究,以验证所提出的估计和测试的小样本行为。
2014-11-27 math.ST stat.ME stat.TH
Model selection by resampling penalization
在本文中,一个新的家庭的重采样为基础的惩罚程序模型选择的一般框架中定义。它推广了几种方法,包括Efron的bootstrap惩罚和Arlot(2008)最近提出的留一罚,任何可交换的加权bootstrap恢复计划。在异方差回归框架下,假设模型具有特定的结构,证明了这些剩余罚函数满足一个非渐近的预言不等式,其前导常数接近于1。特别是,它们是渐近最优的。恢复惩罚用于定义同时适应于回归函数的平滑度和噪声的异方差性的估计器。这是值得注意的,因为保留惩罚是通用的设备,它没有被专门用来处理异方差数据。因此,抑制惩罚自然适应异方差性。仿真研究表明,在最终预测误差方面,特别是当信噪比不大时,保留惩罚改善了V折交叉验证。
2009-06-17 math.ST stat.TH
Simultaneous estimation of the mean and the variance in heteroscedastic Gaussian regression
令$Y$是平均$s$和对角协方差矩阵$Γ$的$\mathbb{R}^n$的高斯向量。我们的目的是估计$s$和条目$σ_i=Γ_{i,i}$,$i=1,...,n$的基础上,观察两个独立的$Y$副本。我们的方法是免费的任何事先假设$s$,但需要我们知道一些上限$γ$的比例$\max_iσ_i/\min_iσ_i$。例如,选择$γ=1$对应于其中$Y$的分量被假设为具有共同(未知)方差的同方差情况。相反,选择$γ>1$对应于异方差情况,其中允许$Y$的分量的方差在某个范围内变化。我们的估计策略是基于模型选择。我们考虑一族参数集$\{S_m\timesΣ_m, m\in\mathcal{M}\}$,其中$S_m$和$Σ_m$是线性空间.对于每个$m\in\mathcal{M}$,我们将$(s,σ)$的一对估计量$(\hat{s}_m,\hatσ_m)$与$S_m\timesΣ_m$中的值相关联。然后我们设计了一个模型选择过程,考虑到选择$\mathcal{M}$中的一些$\hat{m}$,以这样的方式,$(\hat{s}_{\hat{m}},\hatσ_{\hat{m}})$的Kullback风险尽可能接近最小的Kullback风险之间的家庭估计$\{(\hat{s}_m,\hatσ_m), m\in\mathcal{M}\}$。然后,我们推导出的估计$(\hat{s}_{\hat{m}…
2008-12-30 math.ST stat.TH
On Least Squares Estimation under Heteroscedastic and Heavy-Tailed Errors
Carnegie Mellon University(卡内基梅隆大学);University of Florida(佛罗里达大学)
考虑一般非参数回归模型的最小二乘估计。当误差为亚高斯时,研究了未知回归函数的最小二乘估计(LSE)的收敛速率。我们发现上界的收敛速度时,误差有一致有界的条件方差和只有200多个时刻的最小二乘估计。我们发现,矩假设的错误,度量熵的类的功能,和“本地”结构的功能类周围的真理驱动器的LSE的收敛速率之间的相互作用。我们找到了误差的充分条件,在此条件下,最小二乘估计的速率与次高斯误差下的最小二乘估计的速率相匹配。我们的结果是有限样本,并允许异方差和重尾误差。
2021-04-08 cs.LG math.ST stat.ML
On estimators of the mean of infinite dimensional data in finite populations
本文研究了无限维数据下有限总体均值的HT、RHC和GREG估计量,证明了GREG估计量的渐近有效性,并揭示了异方差程度对抽样设计选择及GREG估计量性能的影响。
2023-05-24 math.ST stat.TH
Near Optimal Heteroscedastic Regression with Symbiotic Learning
University of California, Santa Barbara(加州大学圣巴巴拉分校);Google Research(谷歌研究院)
本文提出基于共生学习的异方差线性回归算法,通过交替最小化结合加权最小二乘与非凸伪梯度下降,在估计误差上界取得近最优结果,并证明了匹配下界。
2023-07-01 cs.LG math.ST stat.ML
Multivariate, Heteroscedastic Empirical Bayes via Nonparametric Maximum Likelihood
本研究将非参数最大似然估计扩展到多元异方差误差,提出一种经验贝叶斯去噪方法,具有近最优性能,并应用于天文学和层次线性模型,展示了其自适应性和优势。
2023-12-29 math.ST stat.TH
Admissibility of the usual confidence interval in linear regression
考虑具有独立同态分布随机误差的线性回归模型。假设感兴趣的参数是回归参数的指定线性组合。我们证明,通常的置信区间为这个参数是容许的广泛的一类置信区间。
2010-01-18 math.ST stat.TH
Bivariate least squares linear regression: towards a unified analytic formalism
关于二元最小二乘线性回归,在早期的尝试追求的功能模型的经典方法进行审查,使用一种新的形式主义的偏差(矩阵)的痕迹。在经典误差模型的框架内,根据通常的加性模型,因变量与自变量相关。回归线的线性模型被认为是在一般情况下的相关误差在X和Y的异方差数据。详细地考虑了(C)广义正交回归的特殊情况以及众所周知的子情况。在同方差数据的限制,确定的功能模型的结果进行了比较,与他们的同行有关的极端结构模型。虽然回归线的斜率和截距估计的功能和结构模型必然一致,相反的相关方差估计,即使残差服从高斯分布,有一个例外。天文应用的一个例子被认为是,关于[O/H]-[Fe/H]经验关系推导出的五个样品有关的不同的恒星和/或不同的氧丰度测定方法。对于选定的样本和指定的方法,不同的回归模型产生一致的结果内的误差为异方差和同方差数据。相反,由于存在(仍未检测到的)系统误差,使用不同方法的样本产生不一致的结果,这意味着目前无法做出明确的声明。还比较了回归线斜率和截距方差估计量的不同表达式,发现分数偏差不超过百分之几,在大离差数据的情况下,分数偏差可达20%左右。
2011-03-03 astro-ph.IM math.ST stat.TH
Credible intervals and bootstrap confidence intervals in monotone regression
本文从频率学派视角分析单调回归中基于可信区间的贝叶斯方法,证明其等价于百分位自助法,并提出表现更优、无需覆盖校正的平滑自助法,证明采用鞅方法。
2023-07-30 math.ST stat.TH
Lasso Estimation of an Interval-Valued Multiple Regression Model
近年来,人们提出了一种考虑了区间的宽度和展度之间所有交叉关系的多元区间值线性回归模型。将一个带不等式约束的二次最优化问题转化为一个线性互补问题,用Lemke算法求解,实现了回归参数的最小二乘估计,由于某些交叉关系的不相关性,提出了一种替代估计方法--最小绝对收缩选择算子(LASSO)。提供了一个比较研究,显示拟议的估计之间的差异。
2016-02-07 math.ST stat.TH
Extensions of linear regression models based on set arithmetic for interval data
扩展了以前的线性回归模型的区间数据。形式化了一个更灵活的简单线性模型。该模型基于区间运算,将区间数据的中点和点差之间的交叉关系用唯一的方程表示。此外,扩展到多个情况下解决。解决了相关的最小二乘估计问题。实证结果和现实生活中的应用,以显示所提出的模型之间的适用性和差异。
2012-10-22 math.ST stat.TH
Asymptotic confidence interval for R2 in multiple linear regression
本文在White稳健多元线性回归框架下,于最小矩条件中构造了多重相关系数R²的渐近置信区间,并给出各R²估计量的渐近联合分布,模拟验证了其稳健性及对计数回归的适用性。
2024-11-21 math.ST stat.TH
Confidence intervals in regression centred on the SCAD estimator
考虑一个线性回归模型。Fan和Li(2001)描述了回归参数向量的平滑裁剪绝对偏差(SCAD)点估计。为了深入了解这个估计器的属性,他们考虑了一个正交设计矩阵,并专注于这个向量的指定分量的估计。他们表明,SCAD点估计有三个有吸引力的性质。我们回答这个问题:在多大程度上可以区间估计,集中在SCAD估计,有类似的吸引力的属性?
2012-05-30 math.ST stat.TH
Confidence Intervals for High-Dimensional Linear Regression: Minimax Rates and Adaptivity
置信集在统计推断中起着基础性的作用。本文考虑随机设计下高维线性回归的置信区间。我们首先建立了在给定稀疏参数的Oracle环境下,对于置信区间,极小极大期望长度的收敛速度。然后,重点是适应稀疏的置信区间的建设的问题。理想情况下,自适应置信区间的长度应该自动调整到未知回归向量的稀疏性,同时保持预先指定的覆盖概率。它示出,这样的目标是在一般情况下是无法实现的,除了当稀疏参数被限制到一个小区域的置信区间具有通常的参数率的最佳长度。进一步证明了自适应性的缺乏不是由于极小极大框架的保守性,而是从根本上由准确学习偏差的困难造成的。
2015-11-27 math.ST stat.TH
Testing axial symmetry in multivariate location-scale linear regression
Charles University(查理大学);The Czech Academy of Sciences, Institute of Information Theory and Automation(捷克科学院信息与自动化研究所)
提出基于积分秩得分的检验方法,用于多元线性异方差回归中条件轴向对称性的检验,推导渐近分布,并通过模拟和实际数据验证。
2026-06-11 math.ST stat.ME stat.TH
Bivariate least squares linear regression: towards a unified analytic formalism. II. Extreme structural models
关于二元最小二乘线性回归,在早期的尝试极端结构模型获得的经典结果进行审查,使用一种新的形式主义的偏差(矩阵)的痕迹,homoscedastic数据,减少到通常的数量,留下一个不必要的(但尺寸)乘法因子。在经典误差模型的框架内,根据通常的加性模型,因变量与自变量相关。所考虑的线性模型类是在X和Y的不相关误差极限下的回归线。对于同方差数据,结果取自早期尝试,并使用更紧凑的符号重写。对于异方差数据,从与函数模型相关的程序推断结果。天文应用的一个例子被认为是,关于[O/H]-[Fe/H]经验关系推导出的五个样品有关的不同的恒星和/或不同的氧丰度测定方法。对于低分散的样品和分配的方法,不同的回归模型产生的结果是在异方差和同方差数据的误差范围内的协议,而相反的大分散的样品。在任何情况下,由于存在(仍未检测到)系统误差,与不同方法相关的样本产生不一致的结果,这意味着目前无法做出明确的声明。渐近表达式近似回归线斜率和截距方差估计,正常的残差,以更好的程度相对于早期的尝试。相关的分数差异不超过百分之几的低分散数据,这增长到约10%的大分散数据。一般结构模型的形式主义的延伸是留给即将到来的文件。
2017-11-16 astro-ph.IM math.ST stat.TH
Adaptive Lasso and group-Lasso for functional Poisson regression
高维Poisson回归已成为分析海量数据集的标准框架。在这项工作中,我们估计强度函数的泊松回归模型,通过使用字典的方法,它概括了经典的基础方法,结合一个Lasso或一组Lasso程序。选择取决于需要校准的惩罚权重。由于异方差性,在高斯框架下开发的标准方法不能直接应用于泊松模型。在这里,我们提供了数据驱动的Lasso和组Lasso来自适应泊松情况下的集中不等式的权重。我们表明,相关的Lasso和组Lasso程序理论上是最优的Oracle方法。模拟用于评估我们的程序的经验性能,并提供了新一代测序数据分析的原始应用程序。
2014-12-26 math.ST stat.ME stat.TH
Neural network model for imprecise regression with interval dependent variables
本文提出了一种计算上可行的方法来计算严格的区间广义回归分析的输出变量的认知不确定性的界限。新的迭代方法使用机器学习算法将不精确的回归模型拟合到由区间而不是点值组成的数据。该方法是基于一个单层的区间神经网络,可以训练产生的区间预测。它寻求最佳模型的参数,最大限度地减少因变量的实际和预测区间值之间的均方误差,使用一阶基于梯度的优化和区间分析计算来模拟数据的测量不精确性。多层神经网络的一个额外的扩展。我们认为解释变量是精确的点值,但测量的相关值的特征在于区间界限没有任何概率信息。所提出的迭代方法估计的期望区域,这是一个信封的所有可能的精确回归线获得的普通回归分析的基础上的任何配置的实值点从各自的y-区间和它们的x-值的下限和上限。
2022-10-24 math.ST physics.data-an stat.TH
Selective Confidence Intervals for Martingale Regression Model
本文考虑了鞅回归模型(特别是时间序列模型)在变量选择后系数的置信区间的构造问题。虽然构建置信区间是统计分析中的常见做法,但由于所选模型的数据依赖性以及所选和未选变量之间的相关性,因此在我们的框架中构建置信区间具有挑战性。我们首先介绍了所选系数的估计,并证明了它在观测值相依且误差异方差的鞅回归模型下是相容的。然后,我们使用的估计与reservation方法一起构建置信区间。我们的模拟结果表明,我们的方法优于其他现有的方法在各种数据结构。
2020-05-18 math.ST stat.OT stat.TH