Max-laws of large numbers for weakly dependent high dimensional arrays with applications
University of North Carolina, Chapel Hill(北卡罗来纳大学教堂山分校)
本文推导了高维弱依赖数组的最大定律大数定律,并应用于回归残差、相关筛选和高维参数测试。
2026-03-02 math.ST stat.TH
Beyond the Oracle Property: Adaptive LASSO in Cointegrating Regressions with Local-to-Unity Regressors
Institute of Statistics and Mathematical Methods in Economics, TU Wien(维也纳工业大学统计与数学方法经济学研究所)
本文提出了一种在协整回归中适用于局部至单位回归器的自适应LASSO方法,通过构建有效且可靠的置信区间,解决了传统Oracle性质在有限样本下的局限性。
2026-03-12 econ.EM math.ST stat.ME
Polynomial Cointegration among Stationary Processes with Long Memory
本文研究了具有长程相依的平稳过程之间的多项式协整关系。我们表示的回归函数的埃尔米特多项式,我们考虑了一种形式的频谱回归频率为零。对于这些估计,我们建立了一致性,通过一个更一般的结果,连续平均估计的谱密度矩阵在频率为零
2006-07-06 math.ST stat.TH
Martingale transforms goodness-of-fit tests in regression models
本文讨论了两个拟合优度检验问题。第一个问题涉及到拟合一个误差分布的一个假设的非线性参数回归模型,而第二个涉及到拟合参数回归模型时,误差分布是未知的。对于第一个问题,本文包含基于某种鞅型变换的剩余经验过程的测试。这种变换的优点是相应的检验是渐近分布自由的。对于第二个问题,所提出的渐近分布自由的测试是基于新息鞅变换。Monte Carlo研究表明,所提出的测试的模拟水平接近于中等样本量的渐近水平。
2004-06-25 math.ST stat.TH
Determination of the effective cointegration rank in high-dimensional time-series predictive regressions
本文提出基于降秩回归的两步预测框架,用PCA识别高维单位根序列的协整向量并估计有效协整秩,结合LASSO或降秩方法处理高维情形,理论与实证验证其股票收益预测效果。
2023-04-25 econ.EM stat.ME
Functional Slicing-free Inverse Regression via Martingale Difference Divergence Operator
提出无切片函数型逆回归(FSFIR),基于鞅差散度算子估计中心子空间,免去切片数选择,并给出收敛速率,模拟验证其高效便捷。
2023-10-17 math.ST stat.TH
Weighted residual empirical processes, martingale transformations, and model specification tests for regressions with diverging number of parameters
本文针对参数个数发散的回归模型,提出基于加权残差经验过程的设定检验,无鞅变换检验具有最优局部备择检测速率且不依赖维度,虽非分布无关但可用平滑残差自助逼近,而鞅变换检验虽分布无关但功效较低。
2025-10-27 math.ST stat.TH
Finite-horizon quantile martingale posteriors: raw-urn laws and matrix-gain regression
研究有限时域分位数鞅后验,推导其停止状态定律,分析方差因子及增益校准,得出共享瓮创新的联合定律,还表明特定条件分位数回归的平滑鞅后验满足相关定理,标量或对角增益无法匹配协方差过程。
2026-08-12 math.ST stat.TH
Martingale Doppelgänger-Eval: An Identification Framework for Auditing Candlestick Understanding in Vision-Language Models
Texas Tech University(德克萨斯理工大学)
提出Martingale Doppelgänger-Eval基准,通过受控实验识别VLM是否基于K线证据而非趋势外推进行判断,发现模型忽略或反向利用K线语义。
2026-06-17 q-fin.CP stat.ML
Selective Confidence Intervals for Martingale Regression Model
本文考虑了鞅回归模型(特别是时间序列模型)在变量选择后系数的置信区间的构造问题。虽然构建置信区间是统计分析中的常见做法,但由于所选模型的数据依赖性以及所选和未选变量之间的相关性,因此在我们的框架中构建置信区间具有挑战性。我们首先介绍了所选系数的估计,并证明了它在观测值相依且误差异方差的鞅回归模型下是相容的。然后,我们使用的估计与reservation方法一起构建置信区间。我们的模拟结果表明,我们的方法优于其他现有的方法在各种数据结构。
2020-05-18 math.ST stat.OT stat.TH
Analysis of the Forward Search using some new results for martingales and empirical processes
前向搜索是一种迭代算法,用于在Hadi和Simonoff(J. Amer. Statist. Assoc.88(1993)1264-1272),还参见Atkinson和Riani(Robust Diagnostic回归分析(2000)Springer)。该算法构造“好”观测的子集,使得子集的大小随着算法的进展而增加。它会导致一系列的回归估计和前向残差。通过监测前向残差序列来检测离群值。我们证明了回归估计和前向残差序列收敛于高斯过程。证明涉及一个新的迭代鞅不等式,一类新的加权和标记的经验过程的理论,相应的分位数过程理论,和一个不动点参数来描述的过程的迭代方面。
2016-02-02 math.ST stat.TH
Nonparametric regression with martingale increment errors
我们考虑的问题,自适应估计的回归函数在一个框架中,我们取代遍历性假设(如独立或混合)的模型上的另一个结构性假设。也就是说,我们提出了自适应上界的核估计与数据驱动的带宽(Lepski的选择规则)的回归模型中的噪声是一个增量的鞅。它包括,作为非常特殊的情况下,通常的i.i.d.回归和自回归模型。这项研究的基石工具是一个新的结果自归一化鞅,称为“稳定性”,这是独立的利益。在第一部分中,我们只使用了噪声的鞅增量结构。我们给出了一个自适应的上界使用一个随机率,其中包括占用时间附近的估计点。由于这种方法,统计过程的理论研究与通常的遍历性质(如混合)无关。然后,在第二部分,我们与通常的极小极大理论的确定性利率。在协变量过程的β-混合假设下,我们证明了第一部分中考虑的随机速率是等价的,具有很大的概率,确定性速率是通常的极大极小自适应速率。
2010-10-29 math.PR math.ST stat.TH
Bayesian Quantile Estimation and Regression with Martingale Posteriors
University of Hong Kong(香港大学);University of Oxford(牛津大学)
本文提出基于martingale后验的非参数贝叶斯方法,用于分位数估计和回归,通过递归估计和渐近近似实现高效后验计算。
2024-06-05 math.ST stat.ME stat.TH
A martingale-transform goodness-of-fit test for the form of the conditional variance
在一般的非参数回归模型中,考虑了方差函数的特定参数形式的检验问题。最近Dette和Hetzler(2008)提出了一种基于伪残差的经验过程的检验统计量。该过程弱收敛到具有复杂协方差核的高斯过程,这取决于数据生成过程。在本文中,我们考虑这个过程的一个标准化版本,并提出了一个鞅变换,以获得相应的Kolmogorov-Smirnov和Cramér-von-Mises泛函的渐近分布自由的测试。通过模拟研究,所提出的测试的有限样本特性进行了研究。
2008-09-29 math.ST stat.TH
Self-Normalized Martingales and Uniform Regret Bounds for Linear Regression
MIT(麻省理工学院);University of Hong Kong(香港大学);UC Berkeley(加州大学伯克利分校)
研究自归一化martingale的统一后悔界,证明一维情况下可得O(log T)界,而高维情况下无法获得统一界,解决了一个开放性问题。
2026-05-02 cs.LG math.ST stat.ML
Efficient semiparametric estimation in time-varying regression models
研究了具有时变系数、相依回归变量和相依误差的线性回归模型的半参数推断问题。这个问题最近被Zhang和Wu(2012)在函数相关测度下考虑,由于简约原因或用于测试线性回归模型中某些系数的稳定性,这个问题很有趣。在本文中,我们提出了一个不同的程序估计非时变参数的速率根n,在Robinson(1988)介绍的方法的精神,部分线性模型。当模型中的误差是鞅差时,这种方法可以得到比Zhang和Wu(2012)中考虑的方法更有效的估计。对于具有条件高斯误差和外生协变量的时变AR过程,我们从适用于三角阵列的卷积定理中导出了有效信息矩阵的概念。对于独立但非同分布的高斯误差,我们构造了一个半参数意义下的渐近有效估计。
2017-07-17 math.ST stat.TH
Martingale posterior distributions
抽样分布参数的先验分布通常是贝叶斯不确定性量化的起点。在本文中,我们提出了一个不同的视角,重点放在缺失观测作为统计不确定性的来源,与整个人口的利益被精确地知道的参数。我们认为,贝叶斯推断的基础是分配一个分布的条件下,已观察到的缺失的意见。在有条件i.i.d.设置具有大小为$n$的观察样本,贝叶斯将因此在缺失的$Y_{n+1:\infty}$上分配以$Y_{1:n}$为条件的预测分布,其然后诱导参数上的分布。演示鞅的应用,Doob表明,选择贝叶斯预测分布返回传统的后验分布的参数。以此为线索,我们放松了预测机器,避免了预测仅仅从通常的先验到后验到预测密度公式中推导出来的需要。我们介绍了\textit{martingale posterior distribution},它返回贝叶斯不确定性直接对任何统计的兴趣,而不需要的可能性和先验,这个分布可以通过一个计算方案,我们命名为\textit{predictive resampling}采样。为此,我们介绍了新的预测方法,多变量密度估计,回归和分类,建立在最近的工作二元copula。
2021-11-22 math.ST stat.ME stat.TH
Invariance principles for linear processes with application to isotonic regression
本文证明了极大不等式,并研究了由相关新息生成的线性过程部分和的泛函中心极限定理。由于一般的权重,这些过程可以表现出长程相关性和极限分布是一个分数布朗运动。证明是基于新的近似的线性过程与鞅差的创新。然后将结果应用于研究当误差过程是(可能依赖于长程)时间序列时保序回归的估计量。
2011-03-18 math.PR math.ST stat.TH
Optimal Uniform Convergence Rates and Asymptotic Normality for Series Estimators Under Weak Dependence and Weak Conditions
我们证明了弱相依回归变量的样条和小波级数回归估计达到Stone(1982)的最优一致(即超范数)收敛速度$(n/\log n)^{-p/(2p+d)}$,其中$d$是回归变量的个数,$p$是回归函数的光滑性.即使对于$d/p<2$具有有限$(2+(d/p))$阶绝对矩的重尾鞅差误差,也能获得最优速率.在较弱的条件下,我们还建立了条件均值函数的可能非线性、非正则泛函的t统计量的渐近正态性。通过导出一个新的弱相依随机矩阵和的指数不等式,证明了上述结果。
2015-03-10 math.ST stat.TH
Online Learning as Stochastic Approximation of Regularization Paths
本文提出了一种再生核希尔伯特空间(RKHS)中正则化路径收敛于回归函数的连续随机逼近的在线学习算法。我们表明,它是可能产生的最好的已知强(RKHS规范)的批量学习的收敛速度,通过仔细选择的增益或步长序列,取决于规律性假设的回归函数。相应的弱(均方距离)收敛速度是最优的,在这个意义上,它达到了极大极小和个别较低的速度在文献中。在这两种情况下,我们推导出几乎必然收敛,使用Bernstein型不等式的鞅在希尔伯特空间。为了实现这一点,我们开发了一个偏差方差分解类似于批量学习设置;偏差包括在近似和漂移误差沿正则化路径,显示相同的收敛速度,和方差来自样本误差分析作为一个反向鞅差序列。上述速率是通过偏差和方差之间的最佳权衡获得的。
2013-01-22 math.PR math.ST stat.TH
Nonparametric quantile regression for spatio-temporal processes
本文提出一种适用于时空超高维数据的非参数分位数回归方法,克服计算挑战,并建立统计推断理论,通过模拟和电力需求数据验证其性能。
2024-05-24 math.ST stat.ME stat.TH
The noise level in linear regression with dependent data
University of Pennsylvania(宾夕法尼亚大学);Google Research(谷歌研究院)
本文在无可实现性假设下,为β-混合相依数据的随机设计线性回归推导了上界,恢复了中心极限定理预测的噪声水平,并在中等偏差区域实现尖锐结果且不受混合时间因子影响。
2023-10-27 cs.LG math.ST stat.ML
Generalized functional linear models
We propose a generalized functional linear regression model for a regression situation where the response variable is a scalar and the predictor is a random function . A linear predictor is obtained by forming the scalar product of the predictor function with a smooth parameter function, and the expected value of the response is related to this linear predictor via a link function. If, in addition, a variance function is specified, this leads to a functional estimating equation which corresponds to maximizing a functional quasi-likelihood. This general approach includes the special cases of th…
2005-05-30 math.ST stat.TH
Isotonic subgroup selection
针对识别回归函数超阈值子集的子群选择问题,提出基于鞅检验与多重检验的多变量保序回归方法,满足非渐近一致第一类错误率保证且功效达极小极大最优速率,并在R包ISS中实现。
2023-06-28 math.ST stat.ME stat.TH
Asymptotic results with estimating equations for time-evolving clustered data
研究了由p维鞅变换估计函数得到的估计的存在性、强相合性和渐近正态性。这个问题的动机是进化聚类数据的分析,分布属于指数家庭,也可能会有所不同,在其他组件系列。在一个准似然方法,我们构建估计方程,它适应不同形式的依赖性之间的组件的响应向量,并建立多变量扩展的线性和广义线性模型的结果,随机协变量。此外,我们的特点是渐近最优的估计函数,因为它们导致置信区域的回归参数是最小的大小,渐近。从模拟研究和应用程序到一个真正的数据集的结果。
2020-11-27 math.ST stat.TH
Distributed adaptive estimation for stochastic large regression models
College of Artificial Intelligence, Nankai University(南开大学人工智能学院);School of Aeronautics and Astronautics, University of Electronic Science and Technology of China(电子科技大学航空宇航学院);State Key Laboratory of Mathematical Sciences, Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院数学科学国家重点实验室)
本文研究了具有无限参数的随机大回归模型的分布式自适应估计问题,提出了一种新的分布式递归最小二乘算法,通过递归局部成本函数估计未知系统参数,并分析了预测误差。
2026-04-28 cs.SY eess.SY math.OC
Convergence of Parameter Estimates for Regularized Mixed Linear Regression Models
Boston University(波士顿大学)
我们考虑{ \em混合线性回归(MLR)},其中训练数据是从不同的线性模型(或聚类)的混合中生成的,并且我们寻求识别相应的系数向量。我们介绍了一个{ \em混合的并行编程(MIP)}制定的MLR受到正则化约束的系数向量。我们建立,随着训练样本的数量越来越大,MIP解决方案收敛到真正的系数向量在没有噪声的情况下。在稍强的假设下,我们还建立了MIP识别训练样本生成的聚类。在特殊情况下,训练数据来自一个单一的集群,我们建立相应的MIP产生一个解决方案,收敛到真正的系数向量,即使训练数据受到干扰(鞅差)噪声。我们提供了一个反例表明,在噪声的存在下,MIP可能无法产生真正的系数向量为一个以上的集群。我们还提供了数值结果测试MIP解决方案在合成的例子与噪声。
2019-09-09 cs.LG math.OC math.ST
Finite-sample bounds for multi-output system identification
University of Freiburg(弗赖堡大学);Imperial College London(帝国理工学院)
本文提出了一种适用于多输出回归的统一时间有限样本界,通过重新审视经典自归一化鞅论证,得出了更一般且更紧的界,适用于未知回归器与过去噪声项依赖的系统辨识问题。
2026-10-01 math.DS math.ST stat.TH
Multiple local whittle estimation in stationary systems
从单变量移动到双变量联合相关的长记忆时间序列引入了相位参数$(γ)$,在主要兴趣的频率为零;对于短记忆序列$γ=0$自动。后一种情况也在长记忆下被强调,连同“分数差分”情况$γ=(δ_2-δ_1)π/2$,其中$δ_1$,$δ_2$是两个系列的记忆参数。我们开发的时域条件下,这些都是不相关的,并与随之而来的性质的交叉自协方差的(可能是双边的)移动平均表示,其中,与任意尺寸的鞅差创新,用于渐近理论的局部惠特尔参数估计取决于一个单一的平滑数。还假设一个回归参数$(β)$,当它非零时,表示协整,由于$β$估计比其他估计收敛得更快,这些隐式定义的估计的一致性证明是非标准的。我们还建立了联合渐近正态性的估计,并指出如何将这一结果可以应用在统计推断的几个问题的兴趣。实施的问题进行了讨论,随着影响的认识$β$和正确或不正确的规范$γ$,和可能的扩展到高维系统和非平稳系列。
2008-11-06 math.ST stat.TH
Identifying the Predictable Drift of a Semimartingale from Marginal Laws
Czech Technical University in Prague(布拉格捷克理工大学);Imperial College London(帝国理工学院)
本文研究仅从重复横截面观测识别特殊半鞅的可预测漂移,提出双线性二次约束规划及空间分支定界法求解,并给出估计量速率分解。
2026-09-29 cs.LG math.ST stat.TH