Density estimation on low-dimensional manifolds: an inflation-deflation approach
University of Bern(伯尔尼大学);Department of Physiology(生理学系);Bern, Switzerland(瑞士伯尔尼(注:根据要求,地址信息不应提取为机构,此处仅作原文保留说明))
标准化流是基于神经网络的通用密度估计器。然而,这种普适性是有限的:密度的支撑需要与欧几里得空间同构。在本文中,我们提出了一种新的方法来克服这一限制,而不牺牲通用性。所提出的方法通过在正常空间中添加噪声来膨胀数据流形,在这个膨胀的流形上训练NF,最后,收缩学习的密度。我们的主要结果提供了充分条件的流形和具体的选择噪声下,相应的估计是准确的。我们的方法具有与NF相同的计算复杂性,并且不需要计算逆流。我们还表明,如果嵌入维数远大于流形维数,正常空间中的噪声可以很好地近似高斯噪声。这允许使用我们的方法近似任意密度未知流形上的流形尺寸是已知的。
2022-02-01 cs.LG stat.ML
Minimax Manifold Estimation
Carnegie Mellon University(卡内基梅隆大学);Sapienza University of Rome(罗马第一大学)
我们找到了Hausdorff距离中的极小极大收敛速度,用于估计嵌入R^D中的维数为d的流形M,给出了流形的噪声样本。我们假设流形满足光滑条件,噪声分布具有紧支撑。我们证明了最优收敛速度是n^{-2/2 +d}。因此,极大极小化率只取决于流形的维数,而不取决于M所嵌入的空间的维数。
2011-09-28 cs.LG math.ST stat.ML
Minimax Estimation of Distances on a Surface and Minimax Manifold Learning in the Isometric-to-Convex Setting
University of California, San Diego(加州大学圣地亚哥分校)
本研究针对光滑子流形内蕴距离估计问题,证明通过曲面重构可实现极小极大最优性并采用切向Delaunay复形构建网格,同时提出在重构曲面计算距离的Isomap变体,对等距流形学习问题具有极小极大最优性。
2023-10-03 cs.LG math.ST stat.ML
Density Estimation on Manifolds with Boundary
密度估计是许多机器学习方法的重要组成部分,特别是流形学习,其中几何结构仅从数据中构建。当前密度估计文献的一个重要的实际限制是,除了在简单的线性流形的情况下,边界的位置被假定为已知的,方法还没有开发出的流形的边界。我们克服了这一限制,通过开发一个密度估计方法流形的边界,不需要任何先验知识的边界的位置。为了实现这一点,我们引入了可证明地估计边界的距离和方向的统计数据,这使我们能够应用切割和归一化边界校正。通过组合多个割和归一化估计,我们在有边界流形上引入了一个在内部和边界点具有一致偏差的相容核密度估计。
2016-01-05 math.CA math.ST stat.TH
Local angles and dimension estimation from data on manifolds
对于生活在一个流形$M\subseteq \mathbb{R}^m$和一个点$p\in M$的数据,我们考虑一个统计$U_{k,n}$估计的方差对向量$X_i-p$和$X_j-p$之间的角度,数据点$X_i$,$X_j$,附近的$p$,并评估此统计作为一个工具,估计的内在维度$M$在$p$。在最小正则性假设下,建立了局部维数估计的相合性,并得到了$U_{k,n}$的渐近分布.所提出的方法的性能进行比较,对国家的最先进的方法模拟数据。
2018-05-04 math.ST stat.ML stat.TH
Score Matching for Truncated Density Estimation on a Manifold
针对截断数据的密度估计问题,本文将截断得分匹配方法扩展到带边界的黎曼流形,在球面分布模拟实验和美国极端风暴实际场景中均取得优于朴素最大似然估计的效果。
2024-04-12 stat.ME stat.ML
k-Nearest neighbor density estimation on Riemannian Manifolds
本文考虑了随机变量属于黎曼流形时的k-近邻核型估计。我们研究的渐近性质,如一致性和渐近分布。仿真研究也被认为是评估的建议的性能。最后,为了说明所提出的估计的潜在应用,我们分析了两个实际的例子,其中考虑两个不同的流形。
2011-06-23 math.ST stat.TH
Manifold Learning Using Kernel Density Estimation and Local Principal Components Analysis
我们考虑的问题,恢复$d-$维流形$\mathcal{M} \subset \mathbb{R}^n$时,提供了无噪声的样本从$\mathcal{M}$。存在许多算法(例如,Isomap),在实践中用于拟合流形,从而降低给定数据集的维数。理想情况下,$\mathcal{M}$的估计值$\mathcal{M}_\mathrm{put}$应该是具有一定光滑度的实际流形;此外,在给定足够大的样本的情况下,$\mathcal{M}_\mathrm{put}$应该在Hausdorff距离上任意接近$\mathcal{M}$。一般来说,现有的流形学习算法不符合这些标准。February man,Mitter和Narayanan(2016)开发了一种算法,其输出可证明是流形。关键思想是定义一个近似平方距离函数(asdf)到$\mathcal{M}$。然后,$\mathcal{M}_\mathrm{put}$由点的集合给出,其中asdf的梯度与asdf的Hessian的最大$n - d$特征向量所张成的子空间正交。只要asdf满足一定的正则性条件,$\mathcal{M}_\mathrm{put}$就是一个在豪斯多夫距离上任意接近$\mathcal{M}$的流形。在本文中,我们定义了两个asdfs,可以计算出的数据,并表明它们满足所需的正则性条件。第一个asdf是基于核密度估计,第二个是基于估计的…
2017-09-11 math.ST stat.ML stat.TH
Riemannian AmbientFlow: Towards Simultaneous Manifold Learning and Generative Modeling from Corrupted Data
Department of Mathematics, University of California, Los Angeles(数学系,加州大学洛杉矶分校);Department of Statistics and Data Science, University of California, Los Angeles(统计与数据科学系,加州大学洛杉矶分校)
提出Riemannian AmbientFlow框架,通过变分推断和数据驱动黎曼几何,从损坏观测中同时学习概率生成模型和非线性数据流形,并理论保证误差可控与双Lipschitz流形参数化。
2026-05-27 cs.LG math.DG math.OC
Normalizing Flows on Riemannian Manifolds
Google DeepMind(谷歌DeepMind)
考虑黎曼流形上的密度估计问题。流形上的密度估计在流体力学、光学和等离子体物理中有许多应用,并且经常出现在处理角度变量(例如用于蛋白质折叠、机器人肢体、基因表达)和一般方向统计中。尽管有大量的算法可用于在欧氏空间$\mathbf{R}^n$中的密度估计,这些算法可以扩展到大的n(例如归一化流,核方法和变分近似),但这些方法中的大多数并不立即适用于更一般的黎曼流形中的密度估计。我们重新审视与同胚相关的技术,从微分几何投影密度的子流形,并使用它来推广的思想规范化流更一般的黎曼流形。由此产生的算法是可扩展的,简单的实现和自动微分适合使用。我们展示了具体的例子,这种方法的n-球$\mathbf{S}^n$。
2016-11-09 cs.AI math.ST stat.ML
Maximum Likelihood Estimation of Nonnegative Trigonometric Sum Models Using a Newton-like Algorithm on Manifolds
针对参数空间位于超球面表面的 NNTS 循环分布模型,本文提出一种流形上的类 Newton 高效算法,用于求解其参数的最大似然估计。
2010-10-28 stat.CO
Measure estimation on manifolds: an optimal transport approach
假设我们观察i.i.d.~在可能的高维空间中,靠近某个未知$d$维$\mathcal{C}^k$子流形$M$的点。我们研究的问题重建的概率分布产生的样本。在指出这个问题对于一大类标准损失($L_p$、Hellinger、全变差等)是退化的之后,我们专注于Wasserstein损失,我们建立了一个估计,基于核密度估计,其收敛速率取决于$d$和潜在密度的规律性$s\leq k-1$,但不是在周围的尺寸。特别是,我们表明,估计是极大极小和匹配以前的速率在文献中的情况下,歧管$M$是一个$d$维立方体。还考虑了Wasserstein损失的$M$的体积测度的估计的相关问题,并给出了极小极大估计。
2022-02-11 math.ST stat.TH
Generative model for optimal density estimation on unknown manifold
提出一种生成模型,基于几何Whitney问题解法,在未知低维流形上实现极小极大最优密度估计,并对所有γ≥1的Hölder IPMs同时最优,实验验证优于或媲美WGAN和基于分数的模型。
2025-06-24 math.ST stat.TH
Inverse set estimation and inversion of simultaneous confidence intervals
针对气候与医学风险评估中的逆集估计问题,提出通过反演同时置信带非渐近地构造多水平置信集,并给出非参数自举算法,适用于稠密与非稠密域。
2023-07-11 math.ST stat.ME stat.TH
An Empirical Bayes Approach to Shrinkage Estimation on the Manifold of Symmetric Positive-Definite Matrices
James-Stein估计量是多元正态均值的估计量,在平方误差损失下优于极大似然估计量(MLE)。最初的工作激发了人们对开发各种问题的收缩估计器的极大兴趣。然而,流形值数据的收缩估计的研究很少。本文给出了定义在$N \times N$对称正定矩阵流形上的对数正态分布参数的收缩估计。对于这个流形,我们选择对数欧几里德度量作为它的黎曼度量,因为它易于计算并且在应用中被广泛使用。通过在损失函数中使用对数欧几里德距离,我们导出了一个解析形式的收缩估计,并证明了它在一个大类估计中是渐近最优的,包括MLE,这是数据的样本Fréchet均值。我们通过几个模拟数据实验证明了所提出的收缩估计的性能。此外,我们应用收缩估计进行统计推断扩散磁共振成像问题。
2020-10-27 math.ST stat.TH
Nonparametric Estimation of Means on Hilbert Manifolds and Extrinsic Analysis of Mean Shapes of Contours
针对高层次数字图像分析中非参数推断问题,提出了一种基于Hilbert流形的非参数数据分析方法,重点研究了在这种样本空间上的概率分布.为了对这些方法进行推断,我们从功能数据分析中引入邻域假设的概念,并推导出单样本检验。然后,我们考虑分析的形状轮廓躺在平面上。通过将这些形状的相应样本空间(Hilbert流形)嵌入到Hilbert Schmidt算子空间中,我们可以定义平面轮廓的外平均形状及其样本类似物。我们适用于这个问题的一般方法,同时考虑到利用数字成像数据时所面临的计算限制。比较了另一种轮廓形状分析方法的计算量。
2013-02-08 math.ST stat.CO stat.ME
Optimal Estimation of A Quadratic Functional and Detection of Simultaneous Signals
受基因组学应用的启发,本文研究了两个正态均值向量的二次泛函$Q(μ, θ) = \frac{1}{n}\sum_{i=1}^nμ_i^2θ_i^2$的最优估计问题,特别关注两个均值向量都稀疏的情况.我们提出了最优估计的$Q(μ, θ)$为不同的制度,并建立了极小极大收敛速度在一个家庭的参数空间。在这个家庭的最佳速率表现出有趣的相变。在极大极小框架下,考虑了同时信号检测问题。结果表明,所提出的估计$Q(μ, θ)$自然导致最佳的测试程序。
2015-05-07 math.ST stat.TH
Fast, asymptotically efficient, recursive estimation in a Riemannian manifold
黎曼流形中的随机优化问题,特别是黎曼随机梯度法,近年来引起了人们的广泛关注。目前的工作适用于随机优化的统计参数,属于黎曼流形的递归估计的任务。粗略地说,这项任务相当于统计发散函数的随机最小化。下面的问题被认为是:如何获得快速,渐近有效的,递归估计,使用黎曼随机优化算法与减少步长?在解决这一问题时,介绍了几个有独创性的结果。首先,在没有任何凸性假设的发散函数,它被证明,与一个适当的步长选择,算法计算递归估计,实现快速的非渐近收敛速率。其次,通过采用一种新的线性化技术,证明了这些递推估计的渐近正态性。第三,它被证明,当Fisher信息度量用于指导算法,这些递归估计达到最佳的渐近收敛速率,在这个意义上,他们成为渐近有效的。这些结果,而相对熟悉的欧几里德的背景下,在这里制定和证明的第一次,在黎曼的背景下。此外,他们示出了一个数值应用程序的递归估计的椭圆轮廓分布。
2018-08-13 math.ST stat.TH
Conditional Diffusion Models are Minimax-Optimal and Manifold-Adaptive for Conditional Distribution Estimation
本文研究条件前向-后向扩散模型在条件分布估计中的理论性质,证明其在总变差度量下达到极小极大最优收敛速度,并进一步证明当数据与协变量均具有低维流形结构时,模型能自适应两种流形,使误差界仅取决于内在维数。
2024-09-30 math.ST stat.TH
Level set and density estimation on manifolds
研究了光滑流形M \subsetR^d上随机向量X的密度f的水平集L_f(λ)的估计问题.为此,我们引入了一个基于核的估计器f^n,h,这是[45]中提出的一个稍微修改的版本,并证明了它的a.s.一致收敛性。然后,我们提出了Lf(λ)的两个估计,第一个是一个插件:Lf ^n,h(λ),它被证明是a.s.如果Lf(λ)不满足M的边界,则Hausdorff距离和测度距离是一致的.第二种方法假设Lf(λ)是r-凸的,并利用Lf ^n,h(λ)的r-凸包进行估计。我们的建议的性能说明通过一些模拟的例子。在一个真实的数据示例中,我们分析了强风和中等风的强度和方向。
2021-03-28 math.ST stat.OT stat.TH
Near-Optimal Estimation of Simultaneously Sparse and Low-Rank Matrices from Nested Linear Measurements
本文考虑了由嵌套线性测量同时估计低秩和行稀疏矩阵的问题,其中线性算子由线性算子$\mathcal{W}$和矩阵$\mathbf{\varPsi}$的乘积组成.利用测量算子的嵌套结构,我们提出了一个计算效率高的两阶段算法,用于估计同时结构化的目标矩阵。假设$\mathcal{W}$是低秩矩阵的限制等距和$\mathbf{\varPsi}$是行式稀疏矩阵的限制等距,我们建立了一个精度保证,保持一致的所有足够低秩和行式稀疏矩阵具有高概率。此外,使用标准的工具,从信息论,我们建立了一个极小极大下界估计同时低秩和行式稀疏矩阵的线性测量,不需要嵌套。建立的算法,也作为一个极大上界的准确性界限,从派生的极大极小下界不同,只是由一个多对数因子的尺寸。因此,该算法几乎是极小极大最优的。我们还讨论了所提出的观测模型的一些应用,并通过数值模拟评估我们的算法。
2016-03-21 cs.IT math.IT math.OC
Manifold Hypothesis in Data Analysis: Double Geometrically-Probabilistic Approach to Manifold Dimension Estimation
流形假设指出,高维空间中的数据点实际上位于低得多的维度的流形附近。在许多情况下,这一假设得到了经验验证,并用于增强无监督和半监督学习。在这里,我们提出了新的方法来检查流形假设和基本流形维数估计。为了做到这一点,我们同时使用两种非常不同的方法-一种是几何方法,另一种是概率方法-并检查它们是否给出相同的结果。我们的几何方法是一个众所周知的盒计数算法Minkowski维数计算稀疏数据的修改。概率方法是新的。虽然它利用了标准的最近邻距离,但它与以前在这种情况下使用的方法不同。该方法具有鲁棒性强、速度快、数据预处理简单等优点。在真实数据集上的实验表明,基于两种方法相结合的方法是强大和有效的。
2021-07-08 cs.LG stat.ML
CA-PCA: Manifold Dimension Estimation, Adapted for Curvature
Yale University(耶鲁大学);Flatiron Institute(弗拉蒂伦研究所);The MITRE Corporation(MITRE公司)
针对现有流形维数估计依赖平坦单位球校准、忽略曲率的问题,本文提出基于二次嵌入校准的局部 PCA 方法 CA-PCA,并通过大量实验证明其在多种设置下提升了估计性能。
2024-09-08 cs.LG stat.ML
Density Ratio Estimation via Sampling along Generalized Geodesics on Statistical Manifolds
School of Mathematics and Statistics(数学与统计学院);The University of Melbourne(墨尔本大学)
针对分布相距较远时密度比估计不稳定的问题,提出沿统计流形上的广义测地线进行蒙特卡洛采样的增量密度比估计方法,实验证明其优于未利用流形几何特性的现有方法。
2024-06-27 cs.LG stat.ML
A Block Coordinate Descent Proximal Method for Simultaneous Filtering and Parameter Estimation
Rakuten Institute of Technology(乐天技术研究所);University of California, Merced(加州大学默塞德分校);University of Utah(犹他大学)
本文提出并分析了一种用于常微分方程模型同时滤波和参数估计的块坐标下降邻近算法(BCD-prox)。正如我们在d=40维的ODE系统上所展示的那样,与最先进的方法相比,BCD-prox具有更高的鲁棒性(对噪声,参数初始化和超参数),减少了训练时间,提高了过滤状态和估计参数的准确性。我们展示了如何BCD-近端可以使用多步数值离散,我们建立收敛的BCD-近端的假设,包括真正的系统的利益。
2019-05-24 cs.LG stat.ML
Only Bayes should learn a manifold (on the estimation of differential geometric structure from data)
Technical University of Denmark(丹麦技术大学);Section for Cognitive Systems(认知系统部)
我们研究了嵌入在高维欧氏空间中的数据流形的微分几何结构的学习。我们首先分析了基于核的算法,并表明在通常的正则化下,非概率方法不能恢复微分几何结构,而是找到大多数线性流形或空间配备了传送。为了正确地学习微分几何结构,非概率方法必须应用强制大梯度的正则化,这违背了常识。我们重复概率方法的分析,发现在合理的先验下,几何结构可以恢复。充分利用恢复的结构,但是,需要发展的随机扩展经典黎曼几何。我们在这方面采取了早期步骤。最后,我们将分析部分扩展到基于神经网络的现代模型,从而突出了当前深度生成模型的几何和概率缺陷。
2019-09-26 cs.LG stat.ML
Manifold Dimension Estimation via Local Graph Structure
School of Mathematics and Statistics, University of New South Wales(新南威尔士大学数学与统计学学院)
本文提出基于局部图结构的流形维度估计框架,通过局部PCA坐标回归引入二次嵌入和总最小二乘估计器,在合成和现实数据集上表现优异。
2026-07-20 cs.LG stat.AP stat.ML
Manifold estimation and singular deconvolution under Hausdorff loss
Carnegie Mellon University(卡内基梅隆大学);Sapienza University of Rome(罗马第一大学)
我们发现下和上界的风险估计一个流形的Hausdorff距离下几个模型。我们还表明,流形估计和奇异测度反卷积问题之间有密切的联系。
2012-06-05 cs.LG math.ST stat.ML
On Deep Generative Models for Approximation and Estimation of Distributions on Manifolds
Georgia Institute of Technology(佐治亚理工学院);Princeton University(普林斯顿大学)
生成网络在分布学习方面取得了巨大的经验性成功。许多现有的实验已经证明,生成网络可以从低维的易于样本分布生成高维复杂数据。然而,这一现象不能被现有的理论所证明。广泛持有的流形假设推测,真实世界的数据集,如自然图像和信号,表现出低维的几何结构。在本文中,我们考虑这样的低维数据结构,假设数据分布支持低维流形。我们证明了Wasserstein-1损失下生成网络的统计保证。我们表明,Wasserstein-1损失收敛到零,在一个快速的速度取决于内在的尺寸,而不是周围的数据尺寸。我们的理论利用了数据集中的低维几何结构,并证明了生成网络的实用能力。我们不需要对数据分布进行平滑假设,这在实践中是可取的。
2023-02-25 cs.LG stat.ML
Sparse Reduced-Rank Regression for Simultaneous Rank and Variable Selection via Manifold Optimization
The University of Electro-Communications(电气通信大学)
针对高真实秩下降秩回归系数估计失效的问题,提出基于稀疏正则化与流形优化的同时秩与变量选择算法,实现准确估计并验证有效性。
2019-11-01 cs.LG stat.ME stat.ML
Simultaneous x, y Pixel Estimation and Feature Extraction for Multiple Small Objects in a Scene: A Description of the ALIEN Network
Areté Associates;Neurocore AI
我们提出了一个深度学习网络,它可以检测场景中的多个小对象(数百到数千个),同时估计它们的x,y像素位置以及特征集(例如,目标方向和颜色)。所有的估计都是在一个单一的前向传递中执行的,这使得网络的实现快速而高效。在本文中,我们描述了我们的网络的架构-绰号ALIEN -并详细介绍了其性能时,应用于车辆检测。
2019-02-06 cs.CV cs.LG stat.ML
Optimal bandwidth estimation for a fast manifold learning algorithm to detect circular structure in high-dimensional data
我们提供了一种方法来推断在$\mathbb{R}^d$中的高维数据集的拓扑循环的存在,从它在$\mathbb{R}^2$中的投影获得通过快速流形学习映射作为高维数据集$\mathbb{X}$的函数和一个特定的选择,称为带宽参数的正实数$σ$。同时,我们还提供了一种方法来估计最佳带宽的快速流形学习在此设置通过最小化这些函数的带宽。我们还提供了极限定理来描述我们提出的带宽函数的行为。
2016-12-28 stat.ML
Local convergence of simultaneous min-max algorithms to differential equilibrium on Riemannian manifold
Université de Toulouse, INP, IRIT(图卢兹大学,法国国家理工学院,IRIT研究所)
本文研究了黎曼流形上零和微分博弈的极小极大算法,分析了 $τ$-GDA 和 $τ$-SGA 到微分均衡的局部收敛性,并证明 $τ$-SGA 在特定条件下收敛更快,数值实验验证了其能改进正交 Wasserstein GANs 的训练。
2025-03-01 cs.LG math.OC stat.ML
Structure-adaptive manifold estimation
我们考虑一个问题的流形估计噪声观测。许多流形学习过程通过在小邻域上的加权平均来局部逼近流形。然而,在存在大噪声的情况下,分配的权重变得如此损坏,以至于平均估计显示出非常差的性能。我们提出了一个结构自适应的过程,同时重建一个光滑流形和估计投影的点云到这个流形上。所提出的方法迭代地细化每个步骤的权重,使用在以前的步骤中获得的结构信息。经过几次迭代,我们获得了接近“预言”的权重,因此即使在存在相对较大的噪声的情况下,最终的估计也几乎是有效的。在我们的理论研究中,我们建立了紧的下限和上界证明渐近最优的方法下的Hausdorff损失的流形估计,提供的噪声退化到零足够快。
2022-02-04 math.ST stat.ML stat.TH
Gradient Estimation with Simultaneous Perturbation and Compressive Sensing
本文的目的是实现一个“好”的估计的梯度的一个函数在高维空间。通常,这样的函数在所有坐标下都不敏感,并且函数的梯度几乎是稀疏的。我们提出了一种梯度估计的方法,结合了Spall的同时扰动随机逼近与压缩感知的想法。其目的是获得“好”的估计,没有太多的功能评估。应用于估计梯度外积矩阵以及标准的优化问题,通过模拟说明。
2016-07-26 stat.ML
Efficient Weingarten Map and Curvature Estimation on Manifolds
School of Mathematics and Statistics, Beijing Institute of Technology(北京理工大学数学与统计学院);Department of Computer Science, Princeton University(普林斯顿大学计算机科学系);Department of Biostatistics, University of California, Los Angeles(加利福尼亚大学洛杉矶分校生物统计学系);Beijing Key Laboratory on MCAACI(MCAACI北京市重点实验室);Department of Mathematics, University of Wisconsin Madison(威斯康星大学麦迪逊分校数学系)
本文提出了一种有效的方法来估计点云数据的Weingarten映射嵌入在欧氏空间流形采样。建立了一个统计模型,分析了估计量的渐近性质。特别地,我们证明了当样本量趋于无穷大时的收敛速度。通过模拟数据验证了算法的收敛速度,并将估计的Weingarten映射应用于多个真实数据集的曲率估计和点云简化。
2020-09-07 cs.CV cs.LG math.DG
Skeleton Regression: A Graph-Based Approach to Estimation with Manifold Structure
本文提出了一种新的回归框架,用于处理具有噪声的低维流形上的大规模复杂数据,通过构建图结构并应用非参数回归技术来估计回归函数。
2026-03-14 cs.LG stat.ME stat.ML
Estimation of a regression function on a manifold by fully connected deep neural networks
考虑了独立同分布数据的回归函数的估计问题。相对于预测变量的分布积分的$L_2$误差用作误差标准。针对光滑回归函数,分析了基于具有ReLU激活函数的深度神经网络的全连通空间的最小二乘估计收敛速率。它示出的情况下,预测变量的分布集中在一个流形上,这些估计实现的收敛速率,这取决于流形的尺寸,而不是预测变量的组件的数量。
2021-07-20 math.ST stat.ML stat.TH
Density Level Set Estimation on Manifolds with DBSCAN
我们证明了DBSCAN可以估计$λ$ -密度水平集$\{ x : f(x) \ge λ\}$的连通分量,给定$n$ i.i.d.来自未知密度$f$的样本。利用参数$β> 0$刻画了水平集边界的正则性,并分析了Hausdorff度量下的估计误差。当数据位于$\mathbb{R}^D$中时,我们得到$\widetilde{O}(n^{-1/(2β+ D)})$的速率,其匹配已知的下限直至对数因子。当数据位于$\mathbb{R}^D$中的一个嵌入的未知$d$维流形上时,我们得到了一个速率为$\widetilde{O}(n^{-1/(2β+ d\cdot \max\{1, β\})})$。最后,我们提供了自适应参数调整,以达到这些利率没有先验知识的内在尺寸,密度,或$β$。
2017-07-12 stat.ML
Manifold-Based Signal Recovery and Parameter Estimation from Compressive Measurements
最近出现了一个被称为压缩感知(CS)的领域,以帮助解决捕获和处理高维信号和数据集的日益增长的挑战。CS利用了令人惊讶的事实,即稀疏信号中包含的信息可以保留在该信号的少量压缩(或随机)线性测量中。已经建立了强有力的理论保证的精度,稀疏或近稀疏的信号可以从嘈杂的压缩测量恢复。在本文中,我们解决类似的问题,在不同的建模框架的上下文中。而不是稀疏模型,我们专注于广泛的类流形模型,这可能会出现在参数和非参数信号的家庭。最近的结果有关的测量空间内的流形的稳定嵌入的基础上,我们建立了确定性和概率的$\ell_2$基于流形的信号恢复和参数估计从噪声压缩测量的实例最优边界。与基于稀疏性的CS的类似结果一致,我们得出结论,在概率环境中可能有更强的界限。我们的工作支持了越来越多的经验证据,即基于流形的模型可以在压缩信号处理中以高精度使用。
2010-02-05 math.ST stat.ML stat.TH
Estimation of Simultaneously Sparse and Low Rank Matrices
ENS Cachan(卡尚高等师范学院);mercis(1000mercis公司);Ecole Centrale Paris(巴黎中央理工学院)
本文提出一种凸混合惩罚方法,同时使用ℓ1范数和迹范数,以估计同时稀疏和低秩的矩阵,并推导了预言不等式和链接预测的泛化误差界,通过近端下降算法高效求解。
2012-06-27 cs.DS cs.LG cs.NA