Structured Matrix Estimation and Completion
在一般框架下研究了矩阵估计和矩阵完备化问题。该框架包括几个重要的模型作为特例，如高斯混合模型，混合隶属度模型，双聚类模型和字典学习。我们考虑了Frobenius范数和谱范数下信号矩阵估计的最优收敛速度。作为我们的一般结果的后果，我们得到了各种特殊模型的最小最大最优收敛速度。
2017-07-07 math.ST stat.TH
Equivariant minimax dominators of the MLE in the array normal model
多路数据阵列中的相关性可以使用阵列正态模型进行推断，阵列正态模型对应于具有可分离协方差阵的多元正态分布类。最大似然法和贝叶斯方法在阵列正态模型中的推断已经出现在文献中，但还没有任何结果，这些估计的最优性。在这篇文章中，我们得到的结果是类似于一些经典的结果，关于多元正态模型的协方差估计的阵列正态模型。我们证明了在下三角乘积群下，通过广义贝叶斯过程可以得到一致最小风险同变估计（UMREE）。虽然这个UMREE是极大极小的，并主导了极大似然估计，但它可以通过正交等变修改来改进。这些估计的风险的数值比较表明，同变估计可以有显着低于最大似然估计的风险。
2014-08-02 math.ST stat.TH
Sequential Probability Assignment with Contexts: Minimax Regret, Contextual Shtarkov Sums, and Contextual Normalized Maximum Likelihood
University of Toronto（多伦多大学）；Vector Institute（矢量研究所）；Ben-Gurion University（本-古里安大学）
该研究针对任意假设类的序列概率赋值问题，提出上下文Shtarkov和这一新复杂度度量，证明其与极小极大遗憾等价，推导了极小极大最优的cNML策略，并统一改进了现有基于序列ℓ∞熵的遗憾上界。
2024-10-04 cs.LG stat.ML
On Instability of Minimax Optimal Optimism-Based Bandit Algorithms
Department of Statistics Rutgers University（统计系鲁特大学）
本文指出基于乐观原则的老虎机算法存在稳定性问题，揭示了最小最大最优性和统计稳定性之间的矛盾。
2025-11-24 cs.IT cs.LG math.IT
Minimax rates of convergence for nonparametric location-scale models
本文在Hellinger可微性等温和条件下，证明非参数位置-尺度模型中回归函数估计的极小极大收敛速率由函数类的度量熵决定，并通过多种误差分布实例及低阶交互模型和多指标模型加以验证。
2023-07-03 math.ST stat.TH
The Minimax Risk in Testing Uniformity over Large Alphabets under Missing-Ball Alternatives
School of Computer Science at Reichman University（雷希曼大学计算机学院）
研究了对多项计数数据拟合泊松分布的良率检验问题，针对排除ℓ_p球（p≤2）的替代方案，推导了当样本数和类别数趋于无穷时的最小最大风险，并展示了该测试在小样本极限下依赖碰撞，但在其他情况下表现类似卡方检验，实验证明其在有限样本中表现优异。
2026-07-06 cs.IT math.IT math.ST
Minimax rates for sparse signal detection under correlation
我们充分刻画了非渐近极小极大分离率稀疏信号检测在高斯序列模型与$p$ equicorrelated意见，推广的结果Collier，Comminges，和Tsybakov。作为速率表征的结果，我们发现强相关性是一种祝福，适度相关性是一种诅咒，弱相关性是无关紧要的。此外，产生祝福的阈值相关水平在$\sqrt{p}$和$p-\sqrt{p}$稀疏水平处表现出相变。我们还建立了一个微妙的依赖于相关水平的极小极大分离率的新的相变的出现。此外，我们研究组结构相关性，并推导出一个模型，包括多个随机效应的极大极小分离率。群结构从根本上改变了等相关情形的检测问题，分离率出现了不同的现象。
2021-10-25 math.ST stat.ME stat.TH
Minimax rates for learning kernels in operators
针对算子中核估计的不适定反问题，提出自适应谱Sobolev空间框架，并建立多项式与指数谱衰减下的极小极大均方误差速率，开发驯化最小二乘估计器实现最优上界。
2025-06-22 math.PR math.ST stat.TH
Minimax Optimal Quantile and Semi-Adversarial Regret via Root-Logarithmic Regularizers
University of Toronto（多伦多大学）；Spanflug Technologies GmbH（Spanflug技术有限公司）；Boston University（波士顿大学）
分位数（以及更一般的KL）遗憾界限，例如NormalHedge（Chaudhuri，Freund，and Hsu 2009）及其变体，将与最佳个体专家竞争的目标放宽到只与大多数专家竞争对抗性数据。最近，半对抗范式（Bilodeau，Negrea和Roy 2020）通过考虑可能既不完全对抗也不完全随机（i.i.d.）的数据，提供了对抗在线学习的另一种放松。我们实现了极大极小最优后悔在这两个范例中使用FTRL与单独的，新颖的，根对数正则化，这两者都可以被解释为产生的NormalHedge的变种。我们将已有的KL后悔上界推广到具有任意先验的可能不可数专家类，给出了有限专家类上分位数后悔的第一个完全信息下界（紧）;并为半对抗范式提供了一种自适应极大极小优化算法，该算法更快地适应真实的未知约束，从而导致相对于现有方法的一致改进的后悔界限。
2021-11-07 cs.LG stat.ML
Optimal minimax rate of learning nonlocal interaction kernels
本文证明非局部相互作用核学习的最优极小极大速率与经典非参数回归一致，并提出驯化最小二乘估计器（tLSE）在有限粒子系统中实现该速率，利用随机矩阵理论与Sobolev嵌入，通过Fano-Tsybakov方法确定下界。
2025-04-23 math.PR math.ST stat.ML
On estimation of nonsmooth functionals of sparse normal means
研究了N_gamma（θ）= sum（i=1）^d的估计问题|θ_i|基于观测y_i = θ_i + ε_i，i = 1，.，d，其中θ=（θ_1，...，θ_d）为未知参数，ε>0为已知参数，ε_i为独立同分布。标准正态随机变量。证明了s-稀疏向量类B_0（s）的非渐近极小极大风险，并给出了极小极大风险率的估计。
2019-10-05 math.ST stat.TH
Minimax Estimation of Bandable Precision Matrices
逆协方差阵为理解多变量设置中的统计模型提供了相当多的见解。特别地，当假设变量的分布为多元正态分布时，逆协方差阵（通常称为精度矩阵）中的稀疏模式对应于高斯-马尔可夫图的邻接矩阵表示，其编码变量之间的条件独立性陈述。谱范数下的极大极小结果以前已经建立了协方差阵，稀疏和带状，稀疏精度矩阵。我们建立了谱范数下带状精度矩阵的极大极小估计界。我们的研究结果大大提高了现有的界限，特别是，我们发现，估计带状精度矩阵的极大极小率估计带状协方差阵相匹配。在我们的分析中，关键的见解是，我们能够获得几乎没有噪声的估计$k \times k$子块的精度矩阵反转略宽块的经验协方差阵沿对角线。我们的理论结果是补充实验证明我们的界限的清晰度。
2017-10-19 stat.ML
On the Statistical Benefits of Curriculum Learning
University of Michigan（密歇根大学）
课程学习是一种常用的机器学习训练策略。然而，我们仍然缺乏一个清晰的理论认识CL的好处。在本文中，我们研究的好处CL在多任务线性回归问题下的结构化和非结构化的设置。对于这两种设置，我们推导出CL的最小最大速率与甲骨文，提供了最佳的课程，没有甲骨文，代理人必须自适应地学习一个好的课程。我们的研究结果表明，在非结构化环境中，自适应学习可能从根本上比预言学习更难，但它只是在结构化环境中引入了一个小的额外项。为了将理论与实践联系起来，我们提供了一种流行的经验方法，通过比较其保证与上述极大极小率来选择具有最高局部预测增益的任务。
2021-11-13 cs.LG stat.ML
Minimax asymptotics
本文研究参数极小极大估计问题最优值与解的渐近性，通过样本极小极大问题估计量及灵敏度分析理论，揭示其极限分布通常非高斯、特定情况正态的特性，为该类问题统计推断方法发展奠基。
2025-04-15 math.ST stat.TH
Phase Transition in Nonparametric Minimax Rates for Covariate Shifts on Approximate Manifolds
研究结构化协变量偏移下的非参数回归，提出局部多项式回归估计器与自适应流程，在目标分布近似流形的假设下达到最优极小化率，并揭示了由距离与维度等因素控制的相变现象。
2025-07-01 math.ST stat.TH
On Minimax Optimality of Sparse Bayes Predictive Density Estimates
研究了$\ell_0$ -稀疏高斯序列模型中Kullback-Leibler损失下的预测密度估计问题。在稀疏模型中，我们提出了适当的贝叶斯预测密度估计，并建立了渐近极小极大性。令人惊讶的是，在未来与过去的方差比$r$中存在相变。对于$r < r_0 = (\surd 5 - 1)/4$，自然离散先验不再是渐近最优的。相反，对于亚临界$r$，一个“双网格”前减少网格间距的中心区域恢复渐近极小极大。这种现象似乎没有类似的，否则平行理论的点估计的多元正态平均在二次损失。对于尖峰和平板先验有任何前景的极大极小，我们表明，稀疏参数空间也需要大小约束。在相当大的幅度范围内，尖峰和平板先验可以达到渐近极小极大。
2017-07-28 math.ST stat.TH
Quantum Minimax Theorem
近年来，统计决策理论中的许多重要的基本结果被推广到量子系统中。量子Hunt-Stein定理和量子局部渐近正态性就是典型的成功例子。本文证明了量子极大极小定理，它是由Wald首先证明并由LeCam推广的统计决策理论中的极大极小定理的推广.我们的断言保持每一个封闭的凸集的测量和一般的参数模型的密度算子。另一方面，基于最不利先验的贝叶斯分析在经典统计中得到了广泛的应用，并有望在量子统计中发挥重要作用。根据这一趋势，我们还表明存在最不利的先验，这似乎是新的，即使在经典统计。
2014-10-14 math.ST quant-ph stat.TH
Adaptive and non-adaptive minimax rates for weighted Laplacian-eigenmap based nonparametric regression
本文针对基于加权拉普拉斯特征映射的非参数回归，在索伯列夫空间设定下建立了自适应与非自适应极小极大收敛速率，将已有结果推广到包括非归一化和随机游走拉普拉斯在内的广泛加权拉普拉斯矩阵。
2023-10-31 math.ST stat.ML stat.TH
Minimax and Adaptive Transfer Learning for Sparse Canonical Correlation Analysis
School of Mathematics and Statistics, Xi’an Jiaotong University（西安交通大学数学与统计学院）
本文提出稀疏CCA的迁移学习框架，通过异质源数据提升目标估计，建立最小最大最优速率并设计自适应算法，无需稀疏度先验，同时提出源检测程序并推广sin-theta定理。
2026-10-06 stat.ME
Statistical estimation in a randomly structured branching population
我们认为一个二进制的分支过程结构的随机性状，根据触发分支事件的扩散过程，在Kimmel的寄生虫感染的细胞分裂模型的精神。基于对前n代过程的出生特征的观察，构造了伴随分支链转移的非参数估计，并研究了分支率的参数估计.在极限下，当n趋于无穷大时，我们得到了参数情形下的渐近有效性和非参数情形下的极大极小最优性。
2019-02-25 math.ST stat.TH
High-Probability Minimax Adaptive Estimation in Besov Spaces via Online-to-Batch
Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）；LPSM（巴黎概率与统计实验室）；Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inria（法国数字科学与工程学院）；Grenoble INP（格勒诺布尔国立理工学院）；LJK（约瑟夫·拉格朗日实验室）
本文提出了一种基于小波的在线学习算法，在贝索夫空间中实现高概率最小最大自适应估计，通过动态截断梯度噪声，无需调整参数，从而获得最优估计速率。
2026-02-12 math.ST stat.ML stat.TH
Structured Low-Rank Tensors for Generalized Linear Models
Rutgers University-New Brunswick（罗格斯大学新布朗斯维克分校）
本文提出将低分离秩（LSR）张量结构用于广义线性模型，设计块坐标下降估计算法，并推导极小极大误差下界，表明其样本复杂度显著低于向量化方法，且在合成与医学影像数据上验证了有效性。
2023-08-05 cs.LG eess.SP math.ST
Proper Bayes minimax multiple shrinkage estimation
University of Alberta（阿尔伯塔大学）；Rutgers University（罗格斯大学）；The Wharton School, University of Pennsylvania（宾夕法尼亚大学沃顿商学院）
研究在平方误差损失下估计多元正态均值问题，通过引入新方法证明适当贝叶斯极小极大多重收缩估计量存在，其能自适应向更有前景目标收缩，解决多目标选择挑战，且构建方式与以往不同。
2026-08-13 math.ST stat.ME stat.TH
Exact Minimax Optimality of Spectral Methods in Phase Synchronization and Orthogonal Group Synchronization
本文研究了带加性高斯噪声和不完整数据的相位同步问题中谱方法的性能，证明了其在平方 $\ell_2$ 损失下达到极小极大下界，性能媲美极大似然估计等复杂方法，并将该最优性结论扩展至正交群同步。
2024-01-06 cs.IT math.IT math.SP
Minimax Optimality of Score-Entropy Discrete Diffusion
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Cornell University（康奈尔大学）
本文研究得分-熵离散扩散（SEDD）的统计极限，针对均匀和掩码离散扩散模型建立极小极大下界，提出匹配下界的MLE阈值估计器，证明SEDD经合适设置可达到接近最优的极小极大样本复杂度。
2026-08-24 cs.LG stat.ML
On Universality and Training in Binary Hypothesis Testing
经典的二进制假设检验问题的重新审视。我们注意到，当其中一个假设是复合的，有一个内在的困难，在定义一个最优性标准，是既有信息和合理的。对于简单正态定位问题的检验（即检验多变量高斯分布的均值），我们克服了以下困难。在这个问题中，参数之间存在一个自然的硬度顺序，因为对于不同的参数，错误概率曲线（当参数已知时）要么相同，要么一个支配另一个。因此，我们可以将极小极大性能定义为低于某个硬度水平的参数中的最差情况。幸运的是，存在一个通用的极大极小检验，在这个意义上，它同时对所有硬度水平都是极大极小的。在此准则下，我们还找到了最佳的测试与训练数据的复合假设检验。这个标准扩展到广泛的本地渐近正态模型类，在渐近意义上的近似的错误概率是添加剂。由于我们有渐近最优的测试复合假设检验和没有训练数据，我们量化了这些模型的普适性损失和训练数据的增益。
2021-03-25 cs.IT math.IT math.ST
Exact minimax estimation of the predictive density in sparse Gaussian models
考虑了$\ell_0$稀疏高斯序列模型中Kullback-Leibler损失下的预测密度估计问题。一阶极大极小风险及其精确常数，渐近最不利的先验和最优预测密度估计的显式表达式。与正态均值点估计的稀疏恢复结果相比，发现了新的判决理论现象。插件密度估计类的次优性能反映了问题的预测性质，并且最优策略需要分散未来风险。我们发现，极小极大最优策略位于高斯家族之外，但可以构建阈值预测密度估计。新的极小极大技术，涉及同时校准的稀疏性调整和风险分散化机制被用来设计最佳的预测密度估计。
2015-06-03 math.ST stat.TH
MOSAIC: Minimax-Optimal Sparsity-Adaptive Inference for Change Points in Dynamic Networks
University of Southern California（美国南加州大学）；Marshall School of Business（马歇尔商学院）；Xiamen University（厦门大学）；Wang Yanan Institute for Studies in Economics（王炎安经济研究所）
MOSAIC框架针对动态网络中的变点检测，利用低秩和稀疏变化结构，提出基于特征分解的检验方法，达到极小极大最优速率，并通过残差技术实现实际应用，模拟和真实数据验证了其有效性。
2025-09-08 cs.LG stat.ME stat.ML
SDP Achieves Exact Minimax Optimality in Phase Synchronization
研究了带噪声测量$Y=z^*z^{*H}+σW\in\mathbb{C}^{n\times n}$的相位同步问题，其中$z^*$是$n$维复单位模向量，$W$是复值高斯随机矩阵.假设以概率$p$观察到每个条目$Y_{jk}$。我们证明了一个SDP松弛的MLE实现下的归一化平方$\ell_2$损失的误差界$(1+o(1))\frac{σ^2}{2np}$。这个结果符合问题的极大极小下界，甚至前导常数也是尖锐的。SDP的分析基于等价的非凸规划，其解可以表征为提升到更高维度空间的广义幂迭代的不动点。这一观点统一了三种不同方法：极大似然法、SDP和广义幂方法的统计最优性证明。该技术也适用于分析的SDP $\mathbb{Z}_2$同步，我们实现了极小极大最佳误差$\exp\left(-(1-o(1))\frac{np}{2σ^2}\right)$与一个尖锐的常数的指数。
2022-03-18 math.OC math.ST stat.ML
No need for an oracle: the nonparametric maximum likelihood decision in the compound decision problem is minimax
本文研究正态混合模型下的 NPMLE 决策，利用其与 SURE 的联系证明经验 Bayes 与非随机参数复合决策中的 minimax 最优性，并以简短直接的论证替代无效且繁琐的 oracle 方法。
2024-06-14 math.ST stat.TH
Minimax Optimal Strategy for Delayed Observations in Online Reinforcement Learning
University of California, Berkeley（加州大学伯克利分校）；UC Berkeley（加州大学伯克利分校）
针对延迟状态观测的强化学习问题，提出结合增广方法和上置信界算法的策略，在表格型MDP上达到极小化最优遗憾界。
2026-06-02 cs.LG stat.ML
Minimax properties of Dirichlet kernel density estimators
本文研究了由Aitchison和Lauder（1985）提出的用于成分数据分析的Dirichlet核密度估计在$β$空间中的渐近性态，以及在$L^p$损失下的渐近性态.在最近的工作中，Ouimet和Tolosana-Delgado（2022）建立了该估计量的一致强相合性和渐近正态性。作为补充，它在这里示出的Aitchison-Lauder估计可以实现极小极大速率渐近为一个合适的选择的带宽时，$(p,β) \in [1, 3) \times (0, 2]$或$(p, β) \in \mathcal{A}_d$，其中$\mathcal{A}_d$是一个特定的子集的$[3, 4) \times (0, 2]$，取决于维度$d$的Dirichlet内核。同时也证明了当$p \in [4, \infty)$或$β\in (2, \infty)$都满足时，该估计量不可能是极小极大的.这些结果扩展到多变量的情况下，也纠正了Bertin和Klutchnikoff（2011）关于Beta核估计的极大极小性质的早期发现。
2023-01-30 math.PR math.ST stat.TH
Minimax Lower Bounds for Kronecker-Structured Dictionary Learning
Rutgers University（罗格斯大学）
字典学习是估计提供测量/收集的信号或数据的稀疏表示的原子元素的集合的问题。本文通过证明极大极小风险的下界，发现了张量数据估计字典的样本复杂性的根本限制。这个下限取决于张量的维度和生成模型的参数。本文的重点是二阶张量数据，与基础的字典构造两个较小的字典和观测数据的字典原子通过高斯白噪声观察到的稀疏线性组合的克罗内克积。在这方面，本文提供了一个一般的最小最大风险的下限，并采用稀疏和高斯系数模型的等价结果的证明技术。报告的结果表明，张量数据的字典学习的样本复杂度可以显着低于非结构化数据。
2016-05-17 cs.IT cs.LG math.IT
Minimax Optimal Simple Regret in Two-Armed Best-Arm Identification
Department of Basic Science, The University of Tokyo（东京大学基础科学系）
本研究证明在双臂固定预算最优臂识别中，Neyman分配在简单遗憾上达到极小极大最优，且无需局部分布假设，并在伯努利分布下退化为均匀分配。
2025-01-21 cs.LG econ.EM math.ST
The Role of Interactivity in Structured Estimation
Cornell University（康奈尔大学）；University of Sydney（悉尼大学）；Google Research（谷歌研究院）；Indian Institute of Science（印度科学学院）
我们研究了三种自然约束下的高维稀疏估计：通信约束，局部隐私约束和线性测量（压缩感知）。如果没有稀疏性假设，它已被确定，互动不能提高这些信息约束下的最小最大估计率。交互性是否有助于自然推理任务的问题一直是一个积极的研究课题。我们解决这个问题的高维稀疏均值估计和压缩感知的原型问题的肯定，通过展示交互式和非交互式协议之间的差距。我们进一步确定，当我们具有更结构化的稀疏性时，间隙会增加：对于块稀疏性，这个间隙可以在维度上与多项式一样大。因此，稀疏性越结构化，交互作用的优势就越大。证明下界需要仔细打破一个相关的随机变量的总和成独立的组成部分，使用Baranyai定理分解超图，这可能是独立的利益。
2022-03-14 cs.DM cs.DS cs.IT
Near-Minimax-Optimal Risk-Sensitive Reinforcement Learning with CVaR
Cornell University（康奈尔大学）；Cornell Tech（康奈尔理工学院）
本文研究以CVaR为目标的风险敏感强化学习，提出带Bernstein奖励的UCB算法和奖励驱动值迭代方法，在MAB和表格MDP中分别达到近极小极大最优遗憾界。
2023-05-24 cs.LG math.OC math.ST
Minimax Optimal Design with Spillover and Carryover Effects
针对存在干扰和结转效应的因果推断，提出极小极大最优实验设计，同时考虑溢出与结转效应，提高估计精度并减少样本量，通过理论证明和数值研究验证其优越性。
2025-01-24 stat.ME
Minimax estimation for Varying Coefficient Model via Laguerre Series
Ohio University（俄亥俄大学）；Cadi Ayyad University（卡迪·阿亚德大学）
本文通过拉格朗日多项式方法，提出了一种在最小最大意义下最优收敛速率的变系数模型参数估计方法，并建立了参数的渐近正态性，构造了置信区间和假设检验。
2026-04-30 math.ST stat.ME stat.TH
Old Dog Learns New Tricks: Randomized UCB for Bandit Problems
Mila, Université de Montréal（Mila（蒙特利尔大学））；McGill University（麦吉尔大学）；Mila, Université Laval（Mila（拉瓦尔大学））；Google Research（谷歌研究院）
我们提出了$\tt RandUCB$，一个强盗策略，建立在理论推导的置信区间类似的置信上限（UCB）算法，但类似于汤普森采样（TS），它使用随机化权衡探索和剥削。在$K$-武装土匪设置，我们表明，有无穷多个变种的$\tt RandUCB$，所有这些实现最小最优$\widetilde{O}(\sqrt{K T})$遗憾后，$T$轮。此外，对于一个特定的多臂强盗设置，我们表明，UCB和TS可以恢复为特殊情况下的$\tt RandUCB$。对于结构化土匪，其中每个手臂与$d$维特征向量和奖励分布根据线性或广义线性模型，我们证明了$\tt RandUCB$实现了最小最优的$\widetilde{O}(d \sqrt{T})$遗憾，即使在无限多个武器的情况下。通过在多臂和结构化强盗设置的实验，我们证明了$\tt RandUCB$匹配或优于TS和其他随机探索策略。我们的理论和实证结果表明，$\tt RandUCB$实现了两全其美。
2020-03-23 cs.LG stat.ML
LAN property for the parameter of the jump rate in mean field interacting systems of neurons
Universidade de São Paulo（圣保罗大学）；Université Paris-Saclay, Université d’Evry Val d’Essonne, CNRS, LaMME, UMR 8071（巴黎萨克雷大学，埃夫里-瓦卢瓦大学，法国国家科学研究中心，LaMME实验室）
该研究针对含神经元重置的平均场相互作用神经元系统，推导了跳跃率多维参数估计量的一致性、渐近正态性及局部渐近极小极大最优性，证明了其LAN性质与渐近有效性。
2026-08-03 math.ST stat.TH
Collaboratively Learning Linear Models with Structured Missing Data
Stanford University（斯坦福大学）
针对智能体特征子集不同的结构化缺失场景，提出含三步骤的分布式半监督Collab算法，无需传输标注数据即可实现接近渐近局部极小极大最优的协同线性模型学习效果。
2023-07-22 cs.DC cs.LG stat.ML
Semi-supervised linear regression with missing covariates
Department of Statistics, University of Warwick（华威大学统计系）
本文提出半监督线性回归方法，处理缺失协变量问题，通过填补和加权步骤提供估计器，并在稀疏和非稀疏情况下证明了最优性。
2026-02-14 math.ST stat.ME stat.TH
Estimation of Conditional Mean Operator under the Bandable Covariance Structure
本文考虑高维多元线性回归模型，其中协变量和响应变量的联合分布是一个多元正态分布，其协方差阵是可带的。本文的主要目标是估计回归系数矩阵，它是一个函数的带宽协方差阵。虽然递减估计的协方差具有极小极大最优收敛速度的类的可带协方差，我们表明，它有一个次优收敛速度的回归系数，也就是说，极小极大估计类的可带协方差可能不是一个极小极大估计其泛函。本文提出了回归系数的分块渐缩估计，在协方差可带的假设下，该估计具有回归系数的minimax最优收敛速度。我们还提出了一个贝叶斯过程称为块逐渐减少后处理后的后验的回归系数，并表明，所提出的贝叶斯过程具有极小极大最优收敛速度的回归系数下的带宽协方差假设。我们表明，所提出的方法优于现有的方法，通过数值研究。
2021-03-11 math.ST stat.TH
Nearly Minimax Optimal Reinforcement Learning for Linear Mixture Markov Decision Processes
University of California, Los Angeles（加州大学洛杉矶分校）；Deepmind（深度思维）；University of Alberta（阿尔伯塔大学）
我们研究了具有线性函数近似的强化学习（RL），其中马尔可夫决策过程（MDP）的潜在转移概率核是线性混合模型（Jia et al.，2020; Ayoub等人，2020; Zhou等人，2020），并且学习代理可以访问各个基核的积分或采样预言。本文对带有界噪声的线性Bandit问题的自正规鞅提出了一个新的Bernstein型集中不等式。基于新的不等式，我们提出了一个新的，计算效率高的算法命名为$\text{UCRL-VTR}^{+}$的线性函数逼近上述线性混合MDP在情节未贴现设置。我们发现，$\text{UCRL-VTR}^{+}$达到了$\tilde O(dH\sqrt{T})$遗憾，其中$d$是特征映射的维度，$H$是情节的长度和$T$是与MDP的交互次数。我们还证明了一个匹配的下限$Ω(dH\sqrt{T})$为这个设置，这表明，$\text{UCRL-VTR}^{+}$是最小最大最优的对数因子。此外，我们提出了$\text{UCLK}^{+}$算法的同一家庭的MDP下折扣，并表明它达到了$\tilde O(d\sqrt{T}/(1-γ)^{1.5})$遗憾，其中$γ\in [0,1)$是折扣因子。我们的上限与Zhou等人（2020）证明的下限$Ω(d\sqrt{T}/(1-γ)^{1.5})$匹配，达到对数因子，表明$\text{UCLK}^{+}$几乎是最小最大最优的。据…
2021-01-07 cs.LG math.OC stat.ML
Minimax bounds for structured prediction
结构化预测可以被认为是许多标准监督学习任务的推广，并且通常被认为是多个标签的同时预测。一种标准的方法是最大化标签空间上的得分函数，该得分函数分解为一元和成对势的总和，每个势分别取决于一个或两个特定的标签。对于这种方法，多年来已经提出了几种学习和推理算法，从精确到近似方法，同时平衡计算复杂性。然而，与二进制和多类分类相比，实现学习所需的样本数量的结果仍然有限，即使是对于特定的预测因子家族，如因子图。在这项工作中，我们提供了极大极小界的一类因素图推理模型的结构化预测。也就是说，我们描述了任何可能的算法实现因子图预测器学习所需的样本复杂度。
2019-06-02 cs.LG stat.ML
Quantized Estimation of Gaussian Sequence Models in Euclidean Balls
统计理论中的一个中心结果是平斯克定理，它描述了非参数估计的正态均值模型中的极大极小率。在本文中，我们提出了一个扩展的Pinsker定理进行估计下的存储或通信的限制。特别是，我们将限制用于编码估计的比特数，并分析在此约束，信号大小和噪声水平方面的超额风险。我们给尖锐的上界和下界的情况下，一个欧几里得球，建立了帕累托最优极大极小的存储和风险之间的权衡在此设置。
2014-09-24 math.ST stat.ML stat.TH
Near-optimal inference in adaptive linear regression
Rutgers University（罗格斯大学）；Voleon Group（Voleon集团）；DeepMind（深度思维）；Microsoft Research（微软研究院）；Massachusetts Institute of Technology（麻省理工学院）；UC Berkeley（加州大学伯克利分校）
当以自适应方式收集数据时，即使是像普通最小二乘法这样的简单方法也会表现出非正态渐近行为。作为不良后果，基于渐近正态性的假设检验和置信区间可能导致错误结果。我们提出了一个家庭的在线去偏估计，以纠正这些分布异常的最小二乘估计。我们提出的方法利用了数据集中的协方差结构，并在积累了更多信息的方向上提供了更清晰的估计。我们建立了一个渐近正态性，我们提出的在线去偏估计在温和的条件下的数据收集过程中，并提供渐近精确的置信区间。此外，我们证明了一个极大极小的自适应线性回归问题的下界，从而提供了一个基线比较估计。有各种条件下，我们提出的估计达到极大极小下界。我们证明了我们的理论的实用性，通过应用程序多臂强盗，自回归时间序列估计，主动学习与探索。
2023-03-21 cs.LG math.ST stat.ML
Sharp minimax tests for large Toeplitz covariance matrices with repeated observations
我们观察了一个$n$独立的$p$维高斯向量的样本，具有Toeplitz协方差矩阵$ Σ= [σ_{|i-j|}]_{1 \leq i,j \leq p}$和$σ_0=1$。我们考虑了当$n \to \infty$和$p \to \infty$满足时，$Σ$是单位矩阵的假设的渐近检验问题.我们假设协方差$σ_k$以多项式（$ α>1/4$和$L>0$的$\sum_{k \geq 1} k^{2α} σ^2_{k} \leq L$）或指数（$ A,L>0$的$\sum_{k \geq 1} e^{2Ak} σ^2_{k} \leq L$）方式减小。我们考虑一个检验过程的基础上加权U-统计量的顺序为2，与最佳的权重选择的极值问题的解决方案。我们给出了零假设下固定$n$和$p \to + \infty$的检验统计量的渐近正态性和我们的检验程序的I型错误概率的渐近行为。我们还表明，最大的第二类错误概率，要么倾向于$0$，或有界从上面。在后一种情况下，在接近分离边界的替代方案下，使用我们的测试统计量的渐进正态性给出上限。我们的假设暗示了温和的条件：$n=o(p^{2α- 1/2})$（在多项式的情况下），$n=o(e^p)$（在指数的情况下）。我们证明率最优性和尖锐的最优性，我们的结果，$α>1$在多项式的情况下，任何$A>0$在指数的情况下。仿真研究说明了我们的程序，特别是小$n$，大$p$…
2015-06-04 math.ST stat.TH
Asymptotically Optimal Pointwise and Minimax Quickest Change-point Detection for Dependent Data
我们认为最快的变点检测问题在逐点和极大极小设置一般相关的数据模型。两个新的类的顺序检测程序与最大的“本地”的一个假警报的概率在一段时间内的一些固定长度的介绍。对于这些类别的检测程序，我们考虑两个流行的风险：预期的积极部分的延迟检测和条件延迟检测。在非常一般的条件下的观察，我们表明，流行的Shiryaev-罗伯茨过程是渐近最优的，作为局部的虚警概率为零，相对于这些风险逐点（均匀的每一个可能的点的变化），并在极大极小意义上（相对于最大的变化点的预期检测延迟）。这些条件是根据“变化”和“无变化”假设之间对数似然比的强大数律的收敛速率来制定的，具体地说，是归一化对数似然比到一个正数和有限数的均匀全收敛。我们还开发了工具和一组充分条件的一致全收敛的一大类马尔可夫过程的验证。这些工具是基于浓度不等式的功能的马尔可夫过程和Meyn-Tweedie几何遍历论。最后，我们检查这些充分条件的一些具有挑战性的例子（时间序列）经常出现在应用程序中，如自回归，自回归高斯等。
2016-01-15 math.ST stat.TH
Polynomials shrinkage estimators of a multivariate normal mean
在这项工作中，多元正态均值的估计不同类的收缩估计进行了研究。与平衡损失函数相关的风险被用来比较两个估计量。我们首先考虑估计，推广詹姆斯-斯坦估计，并表明，这些估计占主导地位的最大似然估计（MLE），因此是极大极小，当收缩函数满足一定条件。然后，我们对待估计的多项式形式，并证明增加的次数的多项式，使我们能够建立一个更好的估计，从一个先前构建的。
2021-07-29 math.ST stat.TH
Efficiency of estimators for locally asymptotically normal quantum statistical models
本文为局部渐近正态量子统计模型建立渐近表示定理，借此研究量子估计量的渐近效率并得出超越独立同分布假设的普适紧致下界，为弱量子局部渐近正态性理论奠定基础。
2024-11-13 math.ST quant-ph stat.TH
Locally minimax optimal confidence sets for the best model
本文针对最佳模型（均值最小分量）的置信集推断问题，提出基于样本分割与自正则化的维度无关检验，证明其达到局部极小极大分离速率，并通过多重分割聚合缓解有限样本功效损失，在模拟和真实数据上验证了其优越性。
2025-09-22 math.ST stat.ME stat.ML
Minimax-Optimal Robust Identification of Continuous-Time Systems: Handling Narrow-Band Disturbances in the Frequency Domain
Department of Electrical Engineering, Link\" o ping University, SE-581\,83 Link\" o ping, Sweden
针对连续时间系统辨识中窄带扰动导致的Whittle估计敏感问题，提出基于Gumbel位置变换和对称截断得分的鲁棒估计方法，实现局部渐近最小最大性，在b=1.5时方差仅增16%，偏差大幅降低。
2026-09-22 cs.SY eess.SY math.ST
Optimality of variational inference for stochastic block model with missing links
变分方法在网络数据分析中非常流行。这些方法获得的统计保证通常为随机块模型下的全局模型参数估计问题提供渐近正态性。在目前的工作中，我们考虑的情况下，网络与丢失的链接，这是重要的应用程序，并表明变分近似的最大似然估计收敛于极小极大率。这为含缺失环节的随机区组模型的参数估计问题提供了第一个极小极大最优易处理的估计器。我们补充我们的结果与模拟和真实网络的数值研究，这证实了这种估计比目前的方法的优势。
2021-11-05 math.ST stat.TH
