Adaptive Optimal Signal (Cardiogram) Processing, with boundary values and energy precisely measurement
在加权希尔伯特空间范数下,根据背景噪声及其能量测度,构造了一种自适应渐近最优的信号去噪方法,在信号边界附近具有较高的去噪精度。提出了一种利用正交多项式的Fourier-Riesz展开式,如Jacobi多项式,在边界附近相对无界的权函数。应用:技术和医疗,特别是心脏诊断。
2011-08-05 math.ST stat.TH
Gaussian-Smooth Optimal Transport: Metric Structure and Statistical Efficiency
最优输运(OT),特别是Wasserstein距离,在机器学习中引起了广泛的兴趣和应用。然而,Wasserstein距离下的经验近似遭受严重的维数灾难,使它们在高维中不切实际。因此,熵正则化OT已成为一种流行的解决方案。然而,虽然它享有快速算法和更好的统计特性,但它失去了Wasserstein距离所享有的度量结构。这项工作提出了一种新的高斯平滑OT(GOT)框架,实现了两全其美:保持1-Wasserstein度量结构,同时减轻经验近似灾难的维度。此外,当高斯平滑参数收缩到零时,GOT $Γ$ -收敛到经典OT(具有优化器的收敛),从而充当自然扩张。提供了支持理论结果的实证研究,促进高斯平滑OT作为熵OT的有力替代方案。
2020-01-24 math.ST stat.TH
Does data interpolation contradict statistical optimality?
The Ohio State University(俄亥俄州立大学);MIT(麻省理工学院);CREST, ENSAE(法国国家统计与经济研究所行政与经济研究中心)
我们表明,学习方法插值训练数据可以达到最佳率的问题,非参数回归和预测平方损失。
2018-06-25 cs.LG math.ST stat.ML
The statistical effect of entropic regularization in optimal transportation
我们建议解决理解Sinkhorn算法中正则化效果的问题。在高斯分布的情况下,我们提供了一个封闭的形式,正则化的最优输运,这使得能够提供一个更好的理解从统计框架的正则化的效果。
2020-06-15 cs.LG math.OC math.ST
Frequentist and Bayesian inference for Gaussian-log-Gaussian wavelet trees, and statistical signal processing applications
我们引入新的估计方法的子类的高斯尺度混合模型的小波树Wainwright,Simoncelli和Willsky依赖于现代的结果,复合似然和近似贝叶斯推理。我们的方法说明在二维图像中的去噪和边缘检测问题。
2017-08-10 math.ST stat.ME stat.TH
Statistical Inference in Tensor Completion: Optimal Uncertainty Quantification and Statistical-to-Computational Gaps
本文针对张量补全的统计推断问题,提出结合初始估计、去偏与一步幂迭代的方法,证明其达到不确定性量化最优,探究了统计-计算鸿沟及初始化的影响,给出相变结论且模拟结果与理论一致。
2024-11-01 math.ST stat.ML stat.TH
Statistical inference and Bayesian optimal life-testing plans under Type-II unified hybrid censoring scheme
本文描述了定数II统一混合截尾下的贝叶斯最优寿命试验问题和推导过程。首先,给出了寿命模型中未知参数的期望失效次数、期望测试持续时间和Fisher信息矩阵的显式表达式。然后,使用这些量,贝叶斯最优寿命试验计划计算在随后的部分。建立了费用约束D-最优最优化问题,并给出了相应的求解算法,得到了最优方案。通过数值例子说明了计算过程。
2020-04-11 math.ST stat.CO stat.TH
Optimal Statistical Hypothesis Testing for Social Choice
Rensselaer Polytechnic Institute(伦斯勒理工学院)
我们在本文中解决以下问题:“什么是最强大的统计方法的社会选择?"通过利用Neyman-Pearson框架中的一致最不利分布理论,对有限模型和随机化检验,我们刻画了一致最大功效(UMP)检验,这是一种被广泛接受的统计最优性。鲁棒性,用于测试给定的替代品是否是马洛斯的模型和孔多塞的模型下的赢家,分别。
2020-06-19 cs.AI cs.GT math.ST
Distributional Convergence of Empirical Entropic Optimal Transport and Statistical Applications
Institute for Mathematical Stochastics, University of Göttingen(哥廷根大学数学随机研究所);University Medical Center(大学医学中心)
本文研究经验熵最优传输计划的分布收敛,推导了其广义函数的渐近弱收敛结果,并通过仿真和真实数据验证了其在蛋白质共定位分析中的应用。
2026-04-14 math.ST stat.TH
Minimax detection of localized signals in statistical inverse problems
我们调查的极小极大检验检测本地信号或线性组合,这样的信号时,只有间接的数据。当然,在存在噪声的情况下,不能可靠地检测太小的信号。在高斯白噪声模型中,我们讨论了信号的最小尺寸的上界和下界,使得具有小误差概率的测试是可能的。在某些情况下,我们能够描述的渐近极小极大检测边界。我们的结果被应用到反问题,如数值微分,反褶积和反演的Radon变换。
2023-02-20 cs.NA math.NA math.ST
Optimal Universal Quantum Encoding for Statistical Inference
The University of Melbourne(墨尔本大学)
该研究针对量子统计推断的经典数据编码问题,证明最大量子泄漏量是编码质量的通用衡量指标,得出纯态可实现最优通用编码、比特充足时基矢编码最优的结论,并提出了数值求解的迭代方法。
2024-04-12 cs.LG eess.SP math.ST
Large Dimensional Independent Component Analysis: Statistical Optimality and Computational Tractability
本文研究了独立成分分析(ICA)的统计最优性与计算约束,证明了基于样本峰度的方法为次优,并开发了同时达到最优样本复杂度与极小化极大最优收敛速度的计算可处理估计量。
2023-03-31 math.ST stat.ME stat.ML
Empirical optimal transport on countable metric spaces: Distributional limits and statistical applications
我们推导出可数集上支持的概率测度之间经验运输距离的分布极限。我们的方法是基于灵敏度分析的最优值的无穷维数学规划和非线性导数的增量方法。为了结合潜在的经验过程的可微性和弱收敛性,需要仔细校准概率测度空间上的范数。在此基础上,我们给出了可数度量空间上的潜在分布使这种分布极限成立的一个充分和必要条件。给出了超度量空间极限分布的一种显式形式。最后,我们将我们的研究结果应用于大规模问题中基于最优输运的推理。纳米显微镜的应用。
2018-09-17 math.PR math.ST stat.TH
Signal Significance in the Presence of Systematic and Statistical Uncertainties
在计划的实验中,将不确定性纳入信号重要性的计算是一项实际任务。几种方法来解决这个问题进行了讨论。我们提出了一个程序,考虑到系统的不确定性有关的非精确知识的信号和背景截面。提出了一种处理期望信号和背景速率的统计误差的方法。伽玛分布和泊松分布之间的相互关系被证明。
2002-10-10 hep-ex hep-ph math.PR
On the Statistical Optimality of Optimal Decision Trees
本文研究了最优决策树在高维回归和分类中的统计性能,通过统一集中框架和新的函数类,建立了ERM树的最优性理论和鲁棒保证。
2026-03-16 cs.LG math.ST stat.ML
Statistical Inference for Adversarial Training: Central Limit Theorems via Optimal Transport
Yonsei University(延世大学);Korea Institute for Advanced Study(韩国高等研究院)
本文通过最优传输理论严格推导对抗训练模型的中心极限定理,证明最优势唯一性,并给出鞍点稳定性与泛化误差的样本复杂度。
2026-09-22 cs.LG math.PR math.ST
Statistical inference with regularized optimal transport
最优输运(OT)是一个比较概率测度的通用框架,在统计学、机器学习和应用数学中有许多应用。然而,OT距离遭受到高维的计算和统计可扩展性问题,这激发了正则化OT方法的研究,如切片,平滑和熵惩罚。这项工作建立了一个统一的框架,推导极限分布的经验正则化OT距离,半参数效率的插件经验估计,自举一致性。我们应用统一的框架,以提供一个全面的统计处理:(i)平均和最大切片$p$ -Wasserstein距离,在现有文献中的几个差距是封闭的;(ii)光滑的距离与companimously支持的内核,其中的分析是出于计算的考虑;和(iii)熵OT,我们的方法推广了现有的极限分布的结果,并建立,第一次,效率和自助一致性。虽然我们的重点是在这三个正则化OT距离作为应用程序,所提出的框架的灵活性,使其适用于广泛的类泛函超出这些例子。
2022-06-07 math.PR math.ST stat.TH
Statistical Learning for Individualized Asset Allocation
我们建立了一个用于个性化资产配置的高维统计学习框架。我们提出的方法解决了具有大量特征的连续行动决策。我们开发了一种离散化方法来模拟连续动作的效果,并允许离散化频率很大,并随观测次数而发散。连续作用的值函数估计使用惩罚回归与我们提出的广义惩罚,施加在模型系数的线性变换。我们表明,我们提出的离散化和回归与广义fOlded凹惩罚效果不连续(DROVE)的方法享有理想的理论性质,并允许统计推断的最优值与最优决策。从经验上讲,建议的框架与健康和退休研究的数据,找到个性化的最佳资产配置。结果表明,我们的个性化的最优策略提高了人口的金融福祉。
2022-11-08 math.ST stat.ML stat.TH
Optimal Rates of Statistical Seriation
给定一个矩阵,序列化问题在于以这样的方式排列它的行,使得它的所有列具有相同的形状,例如,它们是单调递增的。我们提出了一个统计方法来解决这个问题,其中的矩阵的兴趣观察噪声和研究相应的极小极大估计率的矩阵。具体来说,当列是单峰或单调的,我们表明,最小二乘估计是最佳的对数因子,并适应一定的自然结构的矩阵。最后,我们提出了一个计算效率的估计在单调的情况下,并研究其性能的理论和实验。我们的工作是在形状约束估计和最近的工作,涉及置换学习,如图去噪和排名的交叉点。
2016-08-01 math.ST stat.ML stat.TH
$L^2$ over Wasserstein: Statistical Analysis for Optimal Transport
Imperial College London(伦敦帝国理工学院)
本文提出$L^2$ over Wasserstein空间,继承了Wasserstein空间的Riemannian结构,并通过随机概率测度的框架,为最优传输的统计不确定性提供了理论基础,同时展示了其在生成建模和贝叶斯非参数中的应用。
2026-05-20 math.ST stat.ML stat.TH
Minimax-Optimal Algorithms for Detecting Changes in Statistically Periodic Random Processes
理论和算法被开发用于检测统计周期随机过程的分布中的变化。用独立周期同分布过程来描述统计周期性,这是我们提出的一类新的随机过程。一个算法的开发,是极大极小渐近最优的虚警率为零。算法也被开发的情况下,当改变后的分布是未知的,或者当有多个流的观察。建模的灵感来自于网络物理系统、生物学和医学中遇到的真实数据集。将开发的算法应用于在纽约市收集的5K跑步的Instagram计数序列,以检测跑步。
2019-08-13 cs.IT eess.SP math.IT
Statistical Optimality of Stochastic Gradient Descent on Hard Learning Problems through Multiple Passes
INRIA(法国国家信息与自动化研究所);Ecole Normale Supérieure(巴黎高等师范学院);PSL Research University(巴黎文理研究大学)
我们考虑随机梯度下降(SGD)的最小二乘回归与潜在的几个通过的数据。虽然已经广泛报道了几个通道在看不见的数据的预测性能方面实际上表现得更好,但SGD的现有理论分析表明,单通道在统计上是最佳的。虽然这是真实的低维简单的问题,我们表明,对于困难的问题,多个通道导致统计上最佳的预测,而单通道没有;我们还表明,在这些硬模型中,通过数据的最佳数量随着样本大小的增加。为了定义硬度的概念,并表明我们的预测性能是最佳的,我们考虑潜在的无限维模型和概念通常与内核的方法,即特征的协方差矩阵的特征值的衰减和最佳预测的复杂性,通过协方差矩阵测量。我们说明了我们的结果与非线性核方法的合成实验和一个经典的基准与线性模型。
2018-11-23 cs.LG math.OC math.ST
Rate-Optimal Detection of Very Short Signal Segments
出于工程和基因组学中的一系列应用,我们认为在本文中检测非常短的信号段在三个设置:已知形状的信号,任意信号,和光滑的信号。最佳检测率的三种情况下建立和速率最优检测器的构造。该检测器易于实现,并且基于线性和二次统计的扫描。我们的分析揭示了这三种环境中的策略和基本检测难度的相似性和差异。
2014-07-10 cs.IT math.IT math.ST
High-Dimensional Differentially-Private EM Algorithm: Methods and Near-Optimal Statistical Guarantees
Rutgers University(罗格斯大学)
在本文中,我们开发了一个通用的框架来设计差分私人期望最大化(EM)算法在高维潜变量模型,基于噪声迭代硬阈值。我们推导出所提出的框架的统计保证,并将其应用到三个特定的模型:高斯混合,混合回归,回归与缺失协变量。在每个模型中,我们建立了接近最优的收敛速度与差分隐私约束,并表明该算法是最小最大率最优的对数因子。开发的技术工具的高维设置,然后扩展到经典的低维潜变量模型,我们提出了一个近速率最优的期望最大化算法在这种设置与差分隐私保证。仿真研究和实际数据分析进行支持我们的结果。
2021-09-09 cs.CR cs.LG math.ST
Optimal Regret Exponents for Bayesian Statistical Decision Problems
School of Electrical Engineering, Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院电气工程学院)
研究有限状态有限动作贝叶斯统计决策问题,通过最小化不相容状态子集上的多元Chernoff信息,给出了任意损失函数下最优遗憾的精确指数,并首次得到列表假设检验的精确指数。
2026-06-08 cs.IT math.IT math.ST
Statistically Optimal and Computationally Efficient Low Rank Tensor Completion from Noisy Entries
在这篇文章中,我们开发的方法来估计一个低秩张量从噪声观测的一个子集的条目,以实现统计和计算效率。最近有很多兴趣在这个问题的噪音张量完成。大部分的注意力都集中在与高阶张量问题相关的基本计算挑战上,但对它们的统计性能知之甚少。为了填补这一空白,在这篇文章中,我们的基本统计限制的噪声张量完成建立极小极大最优收敛率估计$k$阶低秩张量下的一般$\ell_p$($1\le p\le 2$)规范,这表明显着的改进空间比现有的方法。此外,我们提出了一个多项式时间可计算的估计过程的基础上的权力迭代和二阶谱初始化,实现最佳的收敛速度。我们的方法是相当容易实现和数值实验,以进一步证明我们的估计的实际优点。
2018-03-19 cs.IT math.IT math.ST
A Bayesian Theory of Change Detection in Statistically Periodic Random Processes
本文提出了一类新的随机过程,称为独立周期同分布(i.p.i.d.)过程被定义为捕获周期性变化的统计行为。一种新的贝叶斯理论的发展,用于检测一个ipid的分布的变化。过程证明了贝叶斯变点问题可以表示为具有周期转移和费用结构的马尔可夫决策过程(MDP)的最优控制问题。最优控制理论发展的周期MDP的贴现和未贴现的总成本标准。得到了最优代价函数所满足的固定点方程。结果表明,MDP的最优策略是非平稳的,但周期性的性质。给出了计算最优代价函数的数值迭代算法。然后将MDP理论的结果用于检测i.p.i.d.的变化。流程.它示出,而最佳的变点算法是一个停止规则的基础上的一个周期性序列的阈值,一个单一的阈值政策是渐近最佳的,作为虚警的概率为零。数值结果表明,渐近最优策略不是严格最优的。
2019-04-06 cs.IT eess.SP math.IT
Eikonal depth: an optimal control approach to statistical depths
统计深度为更高维度的数据提供了分位数和中位数的基本概括。本文提出了一种新型的全局定义的统计深度,基于控制理论和程函方程,它测量在到达分布支持之外的点的路径中必须经过的最小概率密度:例如空间无限。这种深度很容易解释和计算,可以有效地捕捉多模态行为,并自然地扩展到非欧几里德数据。我们证明了这个深度的各种属性,并提供计算考虑的讨论。特别是,我们证明了这种深度的概念在近似等距约束对抗模型下是鲁棒的,这是Tukey深度所不具备的属性。最后,我们在二维混合模型和MNIST的背景下给出了一些说明性的例子。
2022-01-14 cs.LG math.AP math.ST
Towards Optimal Problem Dependent Generalization Error Bounds in Statistical Learning Theory
Columbia University(哥伦比亚大学)
我们研究问题依赖率,即,泛化误差,其与方差、有效损失或在“最佳假设”下评估的梯度范数接近最优地缩放。我们引入了一个被称为“均匀局部收敛”的原则框架,并描述了中央统计学习问题的尖锐问题依赖率。从方法论的角度来看,我们的框架解决了现有的一致收敛和本地化分析方法的几个基本限制。它还提供了改进和一定程度的统一在局部复杂性,单侧一致不等式,基于样本的迭代算法的研究。在所谓的“慢速率”制度,我们提供了第一个(时刻惩罚)估计,实现最佳的方差依赖率一般“丰富”类,我们还建立了改进的损失依赖率标准经验风险最小化。在“快速”制度,我们建立有限样本问题相关的界限,可以媲美精确的渐近。此外,我们表明,迭代算法,如梯度下降和一阶期望最大化,可以实现最佳的泛化误差在几个代表性的问题,跨领域的非凸学习,随机最优化,学习与缺失数据。
2020-12-24 cs.LG math.PR math.ST
Statistically and Computationally Optimal Estimation and Inference of Common Subspaces
针对多个对称低秩矩阵共享公共子空间的问题,提出基于投影梯度下降和谱平方和初始化的估计器,在强估计信噪比下达到最优 sinΘ 误差率,并在强推断信噪比下实现渐近正态分布的自适应置信区间。
2026-06-04 math.OC math.SP math.ST
DP-PCA: Statistically Optimal and Differentially Private PCA
University of Washington(华盛顿大学);Google Research(谷歌研究院)
我们研究了从$n$ i.i.d.~计算主成分的规范统计任务。数据在$(\varepsilon,δ)$ -差分隐私下的$d$维度中。($i$)即使对于高斯数据,现有的私有算法也需要样本数量$n$与$d$超线性地缩放,即,$n=Ω(d^{3/2})$,以获得非平凡的结果,而非私有PCA仅需要$n=O(d)$,并且($ii$)现有技术即使在每个数据点中的随机性任意小时也遭受非零误差。我们提出DP-PCA,这是一个单通算法,克服了这两个限制。它是基于一个私人的小批量梯度上升方法,依赖于{ \em私人均值估计},它增加了最小的噪音,以确保通过适应一个给定的小批量梯度的方差隐私。对于亚高斯数据,我们甚至为$n=\tilde O(d)$提供了接近最优的统计错误率。此外,我们提供了一个下界,表明亚高斯风格的假设是必要的,在获得最佳的错误率。
2022-05-27 cs.CR cs.IT cs.LG