High-dimensional Index Volatility Models via Stein's Identity
University of Chicago（芝加哥大学）
研究了单指数和多指数波动模型中参数分量的估计问题。使用一阶和二阶Stein的身份，我们开发的方法，适用于估计的方差指数在高维设置需要有限的时刻条件，这使得重尾数据。我们的方法补充了现有的文献中的低维设置，同时放宽了估计的条件，并提供了一种新的方法在高维设置。我们证明了我们的方差指数估计的统计收敛速率由一个参数率和一个非参数率，后者出现从估计的平均链接函数。然而，在标准的假设下，参数率主导的收敛速率和我们的结果匹配的最小最大的平均指数估计的最优速率。仿真结果说明了我们的方法和支持我们的理论结论的有限样本特性。
2020-05-25 cs.LG math.ST stat.ML
The Cost of Privacy in Generalized Linear Models: Algorithms and Minimax Lower Bounds
University of Pennsylvania（宾夕法尼亚大学）；Rutgers University（罗格斯大学）
我们提出了不同的私人算法的参数估计在低维和高维稀疏广义线性模型（GLM）通过构建私人版本的投影梯度下降。我们表明，所提出的算法是近速率最优的特征，其统计性能和建立隐私约束的极大极小下界GLM。通过一种新的技术，这是基于Stein引理和推广的跟踪攻击技术的隐私约束的下界得到。这个下限参数可以是独立的兴趣，因为它适用于一般的参数模型。仿真和真实数据实验证明了我们的算法的数值性能。
2020-12-06 cs.CR cs.LG math.ST
Minimax Lower Bounds of Kernel Discrepancy Estimation: MMD, HSIC, KSD
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；London School of Economics（伦敦政治经济学院）
研究核差异估计（MMD、HSIC、KSD）在一般拓扑空间上的极小极大下界，在对核的温和假设下证明其为\(n^{-1/2}\)，解决了这些核差异最优估计问题，均值嵌入等估计也有相同速率。
2026-07-28 cs.LG math.ST stat.ML
l_p-norm based James-Stein estimation with minimaxity and sparsity
研究了多元正态均值的一类新的Minimax Stein型收缩估计，其中收缩因子是基于l_p范数的.建议的估计允许一些，但不是所有的坐标估计为0，从而允许稀疏性以及极大极小。
2015-05-28 math.ST stat.TH
Central Limit Theorem for Gram-Schmidt Random Walk Design
本文针对随机主元顺序的GSW设计证明Horvitz-Thompson估计量的中心极限定理，并给出小于已有上界的精确极限方差。
2023-06-05 math.PR math.ST stat.TH
A note on MLE of covariance matrix
针对多元正态分布协方差矩阵的极大似然估计（MLE）在Stein损失下的非可容许性问题，本研究通过完全Iwasawa分解强化了不同坐标系下MLE最小风险的差异，并引入新损失函数消除该差异与Stein悖论。
2017-07-23 math.ST stat.TH
Ensemble minimaxity of James-Stein estimators
本文讨论了基于异方差观测值的多元正态均值的估计。在异方差下，估计量在具有较大方差的坐标上收缩更多，似乎是可取的。虽然他们不一定是在普通意义上的极大极小，我们表明，这样的詹姆斯-斯坦型估计可以合奏极大极小，极大极小相对于合奏风险，经验贝叶斯的埃夫隆和莫里斯的角度。
2022-06-22 math.ST stat.ME stat.TH
No need for an oracle: the nonparametric maximum likelihood decision in the compound decision problem is minimax
本文研究正态混合模型下的 NPMLE 决策，利用其与 SURE 的联系证明经验 Bayes 与非随机参数复合决策中的 minimax 最优性，并以简短直接的论证替代无效且繁琐的 oracle 方法。
2024-06-14 math.ST stat.TH
The Minimax Rate of HSIC Estimation for Translation-Invariant Kernels
Institute for Program Structures and Data Organization（程序结构与数据组织研究所）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Department of Statistics（统计系）；London School of Economics（伦敦政治经济学院）
本文研究了HSIC估计的极小化极大速率，证明了在$\mathbb R^d$上包含高斯分布的Borel测度和连续有界平移不变特征核下，该速率为$\mathcal O(n^{-1/2})$，并证实了常用估计器的最优性。
2024-10-14 cs.IT cs.LG math.IT
Copula-Stein Discrepancy: A Generator-Based Stein Operator for Archimedean Dependence
Department of Mathematics, University of Louisiana at Lafayette, Lafayette, Louisiana, USA（路易斯安那州拉法叶大学数学系）；Department of Statistics, formerly of Presidency College, Kolkata, India（加德满都大学统计系）
本文提出基于皮尔逊的Stein差异，用于检测皮尔逊分布的依赖结构，通过闭合形式核和随机特征近似提升计算效率，实现高阶依赖检测。
2026-01-11 cs.LG stat.ML
Minimax and Adaptive Inference in Nonparametric Function Estimation
自1956年Stein的开创性论文以来，收缩在参数和非参数推断中发挥了重要作用。本文讨论了非参数函数估计中的极大极小性和自适应极大极小性。三个相互关联的问题，函数估计下的整体集成平方误差，估计下逐点平方误差，和非参数置信区间，被认为是。收缩是极小极大理论和适应理论发展的关键。虽然这三个问题是紧密相连的，极小极大理论有一些相似之处，适应理论是惊人的不同。例如，与自适应点估计形成鲜明对比的是，在许多常见的设置中，不存在适应底层函数的未知平滑度的非参数置信区间。这些理论的简要说明。讨论了这些问题之间的联系和区别，并通过实例加以说明。
2012-03-22 stat.ME
Stein-Rule Shrinkage for Stochastic Gradient Estimation in High Dimensions
Department of Statistics Faculty of Mathematical Sciences（统计学系数学科学学院）；Division of Computer Science Department of Applied Mathematics Faculty of Mathematical Sciences（计算机科学系应用数学系数学科学学院）
本文提出SR-Adam算法，通过Stein规则收缩改进高维随机梯度估计，在大规模学习中实现更优的性能。
2026-02-06 cs.AI cs.LG math.ST
Adapting to general quadratic loss via singular value shrinkage
本研究提出多变量高斯序列模型下的自适应估计方法，通过奇异值收缩估计量适应未知光滑性与任意二次损失，实现多变量Sobolev椭球上的极小极大自适应估计。
2023-12-21 math.ST stat.TH
Polynomials shrinkage estimators of a multivariate normal mean
在这项工作中，多元正态均值的估计不同类的收缩估计进行了研究。与平衡损失函数相关的风险被用来比较两个估计量。我们首先考虑估计，推广詹姆斯-斯坦估计，并表明，这些估计占主导地位的最大似然估计（MLE），因此是极大极小，当收缩函数满足一定条件。然后，我们对待估计的多项式形式，并证明增加的次数的多项式，使我们能够建立一个更好的估计，从一个先前构建的。
2021-07-29 math.ST stat.TH
Adaptive estimation of and oracle inequalities for probability densities and characteristic functions
近年来，高斯移位有限区间试验的自适应估计理论和预言不等式理论取得了重大进展。特别是，尖锐的极大极小自适应估计和精确的指数型预言不等式已被建议为一个庞大的功能，包括分析和Sobolev与任何积极的指标，以及Efromovich-Pinsker和斯坦blockwise收缩估计。对于密度估计的一个更有趣的应用问题和/或特征函数估计的对偶问题，是否可能得到类似的结果？答案是“是的。特别是，所得到的结果包括精确的指数型预言不等式，允许考虑，在文献中第一次，同时尖锐的极小估计Sobolev密度与任何积极的指数（不一定大于1/2），无限可微密度（包括分析，整个和稳定），以及不是绝对可积的特征函数。同样的自适应估计也是速率minimax在一个熟悉的类分布与有界谱的密度和特征函数可以估计的参数率。
2008-06-18 math.ST stat.TH
DBSCAN: Optimal Rates For Density Based Clustering
我们研究了密度聚类树的最优估计问题，在各种假设的基础上的密度。在Chaudhuri et al.[2014]的开创性工作的基础上，我们提出了一个更适合光滑密度的聚类一致性的新概念，并推导了任意度α的Holder光滑密度的聚类树估计的最小最大一致性率。我们提出了一个计算效率，速率最优的聚类树估计的基础上，一个简单的扩展流行的基于密度的聚类算法DBSCAN的酯等。[1996]。该过程依赖于一个核密度估计与适当的选择的内核和带宽，以产生一个序列的嵌套随机几何图形，其连接的组件形成一个层次的集群。聚类树估计得到的最优速率取决于底层密度的平滑程度，有趣的是，匹配极大极小速率的上确界范数下的密度估计。我们的结果补充和扩展了Sriperumbudur和Steinwart [2012]中对DBSCAN算法的分析。最后，我们考虑了跳跃不连续密度的水平集估计和聚类一致性，其中跳跃的大小和聚类之间的距离允许随着样本量的增加而消失。我们证明，我们的DBSCAN为基础的算法仍然是最小最大速率最优在这种设置。
2019-12-04 math.ST stat.TH
Blind Minimax Estimation
我们考虑的线性回归问题，估计一个未知的，确定性的参数向量的基础上损坏的有色高斯噪声的测量。我们提出并分析了盲极大极小估计（BME），它包括一个有界参数集极大极小估计，其参数集本身估计的测量。因此，不需要任何先验假设或知识，所提出的估计可以应用于任何线性回归问题。我们分析表明，BME严格支配最小二乘估计，即，它们对于参数向量的任何值都实现了较低的均方误差。Stein的估计和它的正部分校正都可以在盲极小极大框架内导出。此外，我们的方法可以很容易地扩展到更广泛的一类估计问题比斯坦的估计，这是只定义为白噪声和非变换测量。我们通过模拟表明，BME一般优于以前的扩展斯坦的技术。
2007-09-25 math.ST stat.ME stat.TH
Exact Detection Thresholds and Minimax Optimality of Chatterjee's Correlation Coefficient
本文研究Chatterjee相关系数的独立性检验与非平凡依赖检验，给出精确检测阈值、极限功效及极小极大最优性。
2023-10-02 math.PR math.ST stat.ME
On the consistency of inversion-free parameter estimation for Gaussian random fields
University of Michigan（密歇根大学）
高斯随机场是模拟环境过程的有力工具。对于高维样本，用于估计协方差参数的经典方法需要高度挑战性和大量的计算，例如评估Cholesky分解或求解线性系。最近，Anitescu，Chen和Stein \cite{M.Anitescu}提出了一种快速和可扩展的算法，它不需要这样繁重的计算。本文的主要重点是研究Anitescu等人（ACS）的算法的渐近行为的规则和不规则的网格在增加域设置。在协方差函数的弱可微性条件下，证明了算法的相合性、极小极大最优性和渐近正态性。尽管事实上，ACS的方法需要一个非凹的最大化，我们的结果持有的任何静止点的目标函数。一个数值研究，以评估该算法的效率为大数据集。
2016-06-21 cs.LG math.ST stat.ML
Stein estimation for the drift of Gaussian processes using the Malliavin calculus
本文考虑了高斯过程漂移的非参数函数估计，分别用极大极小估计和贝叶斯估计。在这种情况下，我们构造超有效的估计Stein型的漂移使用Malliavin的分部积分法公式和超调和函数的高斯空间。我们的结果通过数值模拟得到了验证，并推广了Berger和Wolpert [J. Multivariate Anal. 13（1983）401- 424]。
2008-11-07 math.ST stat.TH
Berry--Esseen bounds and bootstrap approximations for the Hilbert-space norm of $U$-statistics
Missouri University of Science and Technology（密苏里科技大学）；Washington University in St. Louis（圣路易斯华盛顿大学）
本文针对非退化U统计量的希尔伯特空间范数，建立了非渐近Berry–Esseen界与三类自助近似，得到的检验具渐近正确性且分离率达极小极大最优。
2026-08-27 math.ST stat.ME stat.TH
A Practical Introduction to Kernel Discrepancies: MMD, HSIC & KSD
Centre for Artificial Intelligence（人工智能中心）；Gatsby Computational Neuroscience Unit（加布利尔计算神经科学单位）；University College London（伦敦大学学院）
本文介绍了MMD、HSIC和KSD等核差异及其多种估计量，强调了核带宽选择的影响，并提出自适应估计量以解决核选择问题。
2025-10-31 cs.LG stat.ML
Estimation of a high-dimensional covariance matrix with the Stein loss
从决策理论的角度考虑了正态协方差阵的估计问题，其中协方差阵的维数大于样本量。本文不仅讨论了非奇异的情况，也讨论了奇异的情况下的协方差阵。基于James和Stein的极小极大估计和正交不变估计，对协方差阵的维数、样本容量和秩的任意可能的排序，统一定义了几类估计.统一的优势，这样的类的结果下提供斯坦型熵损失。将统一优势结果应用于改进高维协方差阵的经验Bayes估计。
2015-06-02 math.ST stat.TH
Matrix norm shrinkage estimators and priors
The University of Tokyo（东京大学）；RIKEN Center for Brain Science（理化学研究所脑科学中心）
该研究针对Frobenius损失下的正态均值矩阵，构造了推广James-Stein等经典估计量的极小极大估计量，提出推广Stein先验的超调和先验，经模拟验证其性能良好。
2026-08-25 math.ST stat.TH
Learning Theory for Distribution Regression
École Polytechnique（巴黎综合理工学院）；University College London（伦敦大学学院）；Pennsylvania State University（宾夕法尼亚州立大学）；Carnegie Mellon University（卡内基梅隆大学）
我们专注于分布回归问题：从概率测度回归到向量值输出。许多重要的机器学习和统计任务都适合这个框架，包括多实例学习和没有解析解的点估计问题（如超参数或熵估计）。尽管文献中有大量可用的相似性，但问题固有的两阶段采样性质使得理论分析相当具有挑战性，因为在实践中，只有来自采样分布的样本是可观察的，并且估计必须依赖于点集之间计算的相似性。据我们所知，唯一现有的技术与一致性保证分布回归需要内核密度估计作为中间步骤（这往往在实践中表现不佳），和域的分布是紧凑的欧几里德。在本文中，我们研究了一个简单的，分析可计算的，基于岭回归的替代分布回归，其中我们嵌入的分布到一个再生核希尔伯特空间，并学习从嵌入的回归输出。我们的主要贡献是证明该方案在温和条件下（在富含核的可分离拓扑域上）在两阶段采样设置中是一致的：我们提出了一个精确的计算-统计效率权衡分析，表明我们的估计量能够匹配一阶段采样极大极小最优速率[Caponnetto和De Vito，2007; Steinwart等人，2009年]。这个结果回答了一个17年前的开放问题，建立了经典集核的一致性[Haussler，1999; Gaertner et. [2002]回归。我们还涵盖了最近的分布内核的一致性，包括那些由于[Christmann和Steinwart，2010]。
2016-10-21 cs.LG math.FA math.ST
Shrinkage estimation of a mean matrix of a multivariate complex normal distribution
在不变损失函数下，考虑了协方差阵未知的多元复正态分布均值阵的估计问题。利用Stein恒等式、Stein-Haff恒等式和特征值微积分的复变形式，得到了一类不变估计量风险的无偏估计公式，并由此构造了几个极小极大收缩估计.
2013-02-08 math.ST stat.TH
Statistical inference for the slope parameter in functional linear regression
本文考虑了具有函数回归和响应的线性回归模型$Y =S X+\varepsilon $.我们开发了新的推理工具，以量化从一个假设的运营商$S_0$的真实斜率$S$的偏差希尔伯特-施密特规范$\| S- S_0\|^2$，以及预测误差$\mathbb{E} \| S X - S_0 X \|^2$。我们的分析是适用于功能的时间序列和渐近关键统计的基础上。这使得它特别用户友好，因为它避免了选择长期方差估计或相关数据的自举中固有的调整参数。我们还讨论了两个样本问题以及变点检测。有限样本性质的研究通过模拟研究。在数学上，我们的方法是基于流行的频谱截止估计$\hat S_N$的$S$的顺序版本。众所周知，函数回归模型中的$L^2$ -极大极小率，无论是在估计还是预测中，都比$1/\sqrt{N}$（其中$N$表示样本量）慢得多，并且$S$的标准估计量不会弱收敛到非退化极限。然而，我们证明了简单的插件估计-如$\| \hat S_N - S_0 \|^2$为$\| S - S_0 \|^2$ -是$\sqrt{N}$ -一致的，其顺序版本满足弱不变性原则。这些结果是基于$L^2$ -范数的平滑效应，并建立了一个新的证明技术，{ \it平滑移位}，这在其他统计逆问题有潜在的应用。
2021-08-16 math.ST stat.TH
A Permutation-Free Kernel Independence Test
Carnegie Mellon University（卡内基梅隆大学）；Yonsei University（延世大学）
在非参数独立性检验中，我们观察i.i.d.。数据$\{(X_i,Y_i)\}_{i=1}^n$，其中$X \in \mathcal{X}, Y \in \mathcal{Y}$位于任何一般空间中，并且我们希望测试$X$独立于$Y$的空值。现代检验统计量，如核希尔伯特-施密特独立准则（HSIC）和距离协方差（dCov），由于基本U-统计量的退化，具有难以处理的零分布。因此，在实践中，人们经常求助于使用置换检验，它提供了一个非渐近的保证，代价是重新计算二次时间统计量（比如说）几百次。本文提供了一个简单但不平凡的修改HSIC和dCov（称为xHSIC和xdCov，发音为“十字架”HSIC/dCov），使他们有一个有限的高斯分布下的零，因此不需要排列。这需要建立在Kim和Ramdas（2020）新开发的交叉U统计理论的基础上，特别是在Shekhar等人（2022）中开发了该理论的几个非平凡扩展，该理论开发了一个类似的无置换核双样本检验。我们表明，我们的新的测试，像原来的，是一致的对固定的替代品，和最小最大速率最优对光滑的本地替代品。数值模拟表明，与完整的dCov或HSIC相比，我们的变体在高达$\sqrt 2$因子的情况下具有相同的功效，为从业者提供了解决大型问题或数据分析管道的新选择，其中计算（而不是样本量）可能是瓶颈。
2022-12-18 cs.LG math.ST stat.ME
General empirical Bayes wavelet methods and exactly adaptive minimax estimation
在许多统计问题中，随机信号可以表示为一个序列的噪声小波系数。本文发展了用于真信号估计的一般经验贝叶斯方法。我们的估计近似某些甲骨文可分离的规则，并实现适应理想的风险和确切的极大极小风险的广泛收集类的信号。特别地，我们的估计在Besov球上同时对可分离估计的最小风险和精确Minimax风险是一致自适应的，并且在Besov空间中具有有限次形状参数的紧集上，我们的估计在收敛速度上是一致超有效的.此外，在类之间嵌套的Besov球相同的平滑指数，我们的估计占主导地位的阈值和詹姆斯-斯坦估计在极小极大风险的无穷小部分。更一般的块经验贝叶斯估计。考虑了漂移白噪声和非参数回归。
2005-04-25 math.ST stat.TH
Minimax estimation with thresholding and its application to wavelet analysis
许多统计实践涉及在完整模型和其中某些系数被减少到零的降阶模型之间进行选择。数据用于选择具有估计系数的模型。是否有可能这样做，并仍然提出一个估计总是优于传统的估计基于完整的模型？James-Stein估计量就是这样一个估计量，它有一个叫做极大极小的性质。然而，估计量仅考虑一个降阶模型，即原点。因此，它不会将任何系数估计器减少到零，或者将每个系数估计器减少到零。在包括小波分析在内的许多应用中，更理想的是只将小于阈值的估计量归零，本文称之为阈值化。是否有可能构造这种极小极大估计量？在本文中，我们构建这样的极小极大估计进行阈值。我们将我们推荐的估计量应用于小波分析，并表明它在同时针对估计和模型选择的知名估计量中表现最好。我们的一些估计也被证明是渐近最优的。
2005-04-25 math.ST stat.TH
On Predictive Density Estimation for Location Families under Integrated $L_2$ and $L_1$ Losses
我们的调查涉及预测密度的估计和效率的研究作为衡量的频率风险，这种预测密度与集成$L_2$和$L_1$损失。我们的研究结果涉及到一个$p-$变量球对称可观测的$X \sim p_X(\|x-μ\|^2)$和基于$X$估计$Y \sim q_Y(\|y-μ\|^2)$密度的目标。对于$L_2$损失，我们描述贝叶斯估计，最小风险等变估计（MRE），和极大极小估计。我们专注于基准最小风险同变估计，插件估计，插件类型的估计扩展规模的风险性能。对于多变量正态情形，我们利用一个对偶结果和一个点估计问题，将反射正态损失发挥出来。在三维或更多维中（即，$p \geq 3$），我们证明了MRE估计在$L_2$损失下是不可接受的，并提供了主导估计。这使得发挥斯坦型的结果，估计一个多变量的正常平均值的损失，这是一个凹的和递增的函数$\|\hatμ-μ\|^2$。我们还研究了改进的现象插件密度估计的形式$q_Y(\|y-aX\|^2)\,, 0<a \leq 1\,,$的一个子类的规模扩展$\frac{1}{c^p} \, q_Y(\|(y -aX)/c \|^2)$与$c>1$，显示在某些情况下，不可避免地足够大的$p$，所有的选择$c>1$占主导地位的估计。扩展得到的规模混合法线，包括一般的MRE估计$p \geq 3$的不可接受的结果。最后，我们描述和扩展类似的插件优势的结果与$p \geq 4$ $…
2014-08-22 math.ST stat.TH
Generalized kernel distance covariance in high dimensions: non-null CLTs and power universality
本文首次在高维 Gaussian 情形下建立样本距离协方差及核距离协方差的非零中心极限定理，得到广义核距离相关检验的渐近精确功效公式，揭示功效仅由 $n\cdot \text{dcor}^2(X,Y)/\sqrt{2}$ 决定的普适性，并证明该分离速率极小极大最优。
2024-08-01 math.ST stat.TH
Efficient Aggregated Kernel Tests using Incomplete $U$-statistics
Centre for Artificial Intelligence（人工智能中心）；Gatsby Computational Neuroscience Unit（盖茨比计算神经科学研究组）；University College London（伦敦大学学院）；Inria London（法国国家信息与自动化研究所伦敦分部）；Yonsei University（延世大学）
我们提出了一系列计算效率高的非参数检验的两个样本，独立性和拟合优度的问题，分别使用最大均值离散（MMD），希尔伯特施密特独立准则（HSIC），核斯坦离散（KSD）。我们的检验统计量是不完全的$U$ -统计量，与经典的$U$ -统计量测试相关的计算成本，在样本数的线性时间和二次时间之间插值。这三个建议的测试聚合在几个内核带宽检测偏离空在各种规模上：我们呼吁由此产生的测试MMDAggInc，HSICAggInc和KSDAggInc。这个过程提供了一个解决方案的基本内核选择问题，因为我们可以聚合大量的内核与几个带宽，而不会导致显着损失的测试功率。对于测试阈值，我们推导出一个分位数界野生自举不完全$U$统计，这是独立的利益。我们推导出非渐近均匀分离率MMDAggInc和HSICAAggInc，并精确量化计算效率和可达到的速率之间的权衡：这一结果是新的不完整的$U$统计的基础上进行测试，据我们所知。我们进一步表明，在二次时间的情况下，野生引导不会招致惩罚，以测试功率更广泛的基于置换的方法，因为两者都达到相同的最小最大最优速率（这反过来又匹配的速率，使用甲骨文分位数）。我们支持我们的主张与数值实验之间的权衡计算效率和测试功率。在所有三个测试框架中，我们提出的测试的线性时间版本至少执行以及当前的线性时间最先进的测试。
2023-01-26 cs.LG math.ST stat.ME
KSD Aggregated Goodness-of-fit Test
Centre for Artificial Intelligence（人工智能中心）；Gatsby Computational Neuroscience Unit（盖茨比计算神经科学研究组）；University College London（伦敦大学学院）；Inria London（法国国家信息与自动化研究所伦敦分所）
本文提出 KSDAgg 聚合检验，通过聚合多个核的 KSD 检验并避免数据分割，实现了最优功效，并在理论和实验中优于现有方法。
2023-12-20 cs.LG math.ST stat.ME
Stochastic analysis on Gaussian space applied to drift estimation
本文考虑高斯过程漂移的Paley-Wiener和Karhunen-Loève展开式的非参数泛函估计。我们构造有效的估计，这样的过程中的漂移，并证明其minimaxity使用贝叶斯估计。我们还构造超有效的估计Stein型的漂移使用Malliavin的分部积分法公式和随机分析高斯空间，其中超调和泛函的过程路径发挥了特殊的作用。我们的结果通过数值模拟得到了验证，推广了Berger和Wolper关于高斯过程的James-Stein型估计的构造.
2018-08-17 math.PR math.ST stat.TH
SURE Information Criteria for Large Covariance Matrix Estimation and Their Asymptotic Properties
考虑具有协方差阵$Σ.$的独立同分布的$p$ -维高斯随机向量当$p$远大于$n$时估计$Σ$的问题近年来受到了很多关注.然而，很少有人知道的协方差阵估计的信息准则。如何正确定义这样一个标准，统计特性是什么？本文主要研究$p>n$和$\log(p)=o(n)$同时存在时的可带协方差矩阵的估计问题。基于Stein无偏风险估计（SURE）与回归模型中AIC之间的密切联系，本文提出了一类广义SURE（$\text{SURE}_c$）协方差阵估计，其中$c$为常数.当$c$为2时，$\text{SURE}_2$提供协方差阵估计量的Frobenious风险的无偏估计量。此外，我们表明，通过最小化$\text{SURE}_2$在所有可能的带状协方差阵估计，我们达到最小最优收敛速度和所得的估计行为像协方差阵估计获得所谓的Oracle调整。另一方面，我们还表明，$\text{SURE}_2$是选择不一致时，真正的协方差阵是完全带状。为了解决选择的不一致性，我们考虑使用SURE与$c=\log(n)$，并证明通过最小化$\text{SURE}_{\log(n)}$，我们选择的概率趋于一的真实带宽。因此，我们的分析表明，$\text{SURE}_2$和$\text{SURE}_{\log(n)}$可以被视为大协方差阵估计的AIC和BIC。
2016-03-04 cs.IT math.IT math.ST
Lower bounds for volatility estimation in microstructure noise models
在本文中，我们推导出了在极小极大意义下的瞬时波动率估计的下界，如果扩散型部分不能直接观察到，但在一些额外的高斯噪声。三种不同的模型被认为是。我们的技术是基于多元正态随机变量的Kullback-Leibler散度的一般不等式和过程的谱分析。导出的下界确实是最优的。上界可以在Munk和Schmidt-Hieber [18]中找到。我们的主要发现是，高斯微观结构噪声分别为每个模型引入了额外程度的不适定性。
2010-02-16 math.ST stat.TH
Unbounded Characteristic and Universal Kernels
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；London School of Economics（伦敦政治经济学院）
本文针对无界核情形，在温和假设下建立了特征核、$L_p$-通用核和积分严格正定核等表达性概念之间的关系，填补了该领域的理论空白。
2026-10-08 cs.LG math.ST stat.ML
