Statistical Inference for Matching Decisions via Matrix Completion under Dependent Missingness
针对匹配数据存在依赖缺失的双边匹配市场,提出基于格拉斯曼梯度下降的非凸矩阵补全算法及去偏投影框架,实现了准确估计、有效统计推断与匹配策略高效评估。
2026-10-30 stat.ME stat.ML
Structured Matrix Completion with Applications to Genomic Data Integration
矩阵完备化在统计学、应用数学和电子工程等领域引起了广泛的关注。目前关于矩阵补全的文献主要集中在独立采样模型上,在该模型下,单独观察到的条目被独立地采样。受基因组数据整合应用的启发,我们提出了一个新的框架结构化矩阵完成(SMC)来处理结构化缺失的设计。具体来说,我们提出的方法的目的是在有效的矩阵恢复时,观察到的一个子集的行和列的近似低秩矩阵。我们提出的SMC方法的理论依据,并推导出下限的估计误差,这两者一起建立在某些类的近似低秩矩阵的最佳恢复率。仿真研究表明,该方法在有限样本情况下,对多种结构都有较好的性能。该方法被应用于整合几个卵巢癌基因组研究与不同程度的基因组测量,这使我们能够构建更准确的预测规则卵巢癌生存。
2015-04-08 math.ST stat.ME stat.ML
Sample completion, structured correlation, and Netflix problems
本文提出一种利用结构化相关性的高维统计学习模型,用 VCN${}_{k,k}$-维刻画可学习性,并解释 Netflix Prize 竞赛中算法的成功。
2025-09-23 cs.LG math.LO math.ST
Adversarial Robust Low Rank Matrix Estimation: Compressed Sensing and Matrix Completion
The Graduate University for Advanced Studies, SOKENDAI(综合研究大学院大学(SOKENDAI));The Institute of Statistical Mathematics(统计数学研究所);Center for Advanced Integrated Intelligence Research, RIKEN(理化学研究所先进综合智能研究中心)
本文提出基于Huber损失与核范数惩罚的统一方法,解决对抗污染下的低秩矩阵估计,获得比以往更尖锐的误差界。
2024-05-24 cs.LG math.ST stat.ML
Fast Tensor Completion via Approximate Richardson Iteration
MIT(麻省理工学院);Google Research(谷歌研究)
本研究提出一种基于近似 Richardson 迭代的提升方法,通过将结构化 TD 回归算法作为黑盒子程序解决 TC 回归问题中代数结构丢失的难题,实现了次线性时间复杂度,在真实张量 CP 补全上比直接方法快 100 倍。
2025-08-12 cs.DS cs.LG math.ST
Matrix estimation by Universal Singular Value Thresholding
考虑估计一个大矩阵的元素的问题,当观察到的元素是原始元素的一小部分随机噪声版本时。这个问题在最近一段时间得到了广泛的关注,特别是在Emmanuel Candès和合作者的开创性工作之后。本文介绍了一个简单的估计过程,称为通用奇异值保持(USVT),适用于任何矩阵,有“一点点的结构。“令人惊讶的是,这个简单的估计器实现了最小最大差错率,直到一个恒定的因素。该方法可用于解决低秩矩阵估计、块模型、距离矩阵完备化、潜空间模型、正定矩阵完备化、图子估计和两两比较的广义Bradley-Terry模型等问题。
2014-12-30 math.PR math.ST stat.TH
Implicit Regularization in Nonconvex Statistical Estimation: Gradient Descent Converges Linearly for Phase Retrieval, Matrix Completion, and Blind Deconvolution
Princeton University(普林斯顿大学);Carnegie Mellon University(卡内基梅隆大学)
近年来,在设计可证明有效的非凸程序来解决统计估计问题方面出现了一系列的活动。由于经验损失的高度非凸性质,最先进的程序通常需要适当的正则化(例如修剪,正则化成本,投影),以保证快速收敛。然而,对于诸如梯度下降之类的常规过程,先验理论要么推荐高度保守的学习率以避免过冲,要么完全缺乏性能保证。本文揭示了非凸优化中一个引人注目的现象:即使在没有显式正则化的情况下,梯度下降也会在各种统计模型下隐式地执行适当的正则化。事实上,梯度下降遵循的轨迹停留在具有良好几何形状的盆地内,由与采样机制不一致的点组成。这种“隐式正则化”特性允许梯度下降以更积极的方式进行,而不会过冲,这反过来又导致大量的计算节省。聚焦于三个基本的统计估计问题,即相位恢复,低秩矩阵完成,和盲反卷积,我们建立了梯度下降实现接近最优的统计和计算保证,而无需显式正则化。特别是,通过将统计建模与通用优化理论相结合,我们开发了一个通用的配方,通过留一法扰动参数分析迭代算法的轨迹。作为一个副产品,嘈杂的矩阵完成,我们证明,梯度下降实现了接近最优的误差控制-测量entrywise和频谱范数-这可能是独立的利益。
2019-07-30 cs.IT cs.LG math.IT
Dimension-free Structured Covariance Estimation
本文研究可表示为少量 Kronecker 乘积之和的结构化高维协方差矩阵估计,证明惩罚置换最小二乘估计具有无维度依赖的高概率误差界,并获得快于标准情形的收敛速率。
2024-06-15 eess.SP math.ST stat.TH
Multivariate Gaussians, Semidefinite Matrix Completion, and Convex Algebraic Geometry
我们研究了由协方差阵的逆矩阵上的线性约束描述的多元正态模型。这种模型的极大似然估计导致的问题,最大化的决定性功能在一个spectrahedron,并在任意线性投影下的正定锥的图像的特征的问题。这些问题的统计和优化的接口在这里检查凸代数几何的角度来看。
2009-06-18 math.AG math.OC math.ST
Beyond the Signs: Nonparametric Tensor Completion via Sign Series
我们考虑的问题,张量估计噪声观测可能丢失的条目。基于一个新的模型,我们硬币作为符号表示张量的张量完成的非参数方法。该模型使用一系列结构化符号张量表示感兴趣的信号张量。与早期的方法不同,符号序列表示有效地解决了低秩和高秩信号,同时包含许多现有的张量模型-包括CP模型,Tucker模型,单索引模型,几个超图子模型-作为特殊情况。我们表明,符号张量系列的理论特征,计算估计,通过分类任务,仔细指定的权重。建立了超额风险界限、估计误差率和样本复杂度。我们在两个数据集上证明了我们的方法优于以前的方法,一个是人脑连接网络,另一个是主题数据挖掘。
2021-01-31 cs.LG math.ST stat.ME
Robust Matrix Completion with Mixed Data Types
Cornell University(康奈尔大学)
我们考虑了恢复一个结构化的低秩矩阵部分观察项目与混合数据类型的矩阵完成问题。绝大多数的解决方案都提出了计算上可行的估计与强有力的统计保证的情况下,在矩阵中的数据的基本分布是连续的。最近的一些方法已经扩展使用类似的想法,这些估计的情况下,基本分布属于指数家族。这些方法中的大多数假设只有一个底层分布,并且低秩约束由矩阵Schatten范数正则化。我们提出了一种计算上可行的统计方法,具有很强的恢复保证,以及适合并行化的算法框架,以在一个步骤中恢复混合数据类型的部分观察条目的低秩矩阵。我们还提供了大量的模拟证据,证实我们的理论结果。
2020-05-25 cs.LG math.ST stat.ML
Improved Guarantees for Heterogeneous Treatment-Effect Estimation via Matrix Completion
Stanford University(斯坦福大学);Vin University(文大学);The University of Hong Kong(香港大学);Yale University(耶鲁大学)
针对面板数据中的异质性处理效应估计问题,提出一种基于矩阵补全的简单高效估计器,在低秩假设下实现行向$\ell_2$误差$ ilde{O}(\sqrt{1/n + n/m^2})$,并首次建立了低秩逼近的行向$\ell_2$扰动界。
2026-05-28 cs.AI cs.DS cs.LG
Nonconvex Matrix Completion with Linearly Parameterized Factors
University of California, Davis(加州大学戴维斯分校);University of Pennsylvania(宾夕法尼亚大学)
矩阵补齐技术的目的是通过一小部分观察到的条目来估算数据矩阵中的大部分缺失条目。在包括协同过滤在内的实际应用中,通常采用先验信息和特殊结构来提高矩阵补全的准确性。在本文中,我们提出了一个统一的非凸优化框架的矩阵完成线性参数化的因素。特别地,通过引入相关参数分解条件,我们可以对非凸目标进行统一的几何分析,建立由任意局部极小值得到的低秩估计的统一上界.也许令人惊讶的是,相关参数因子分解的条件适用于重要的例子,包括子空间约束矩阵完成和反对称矩阵完成。我们的统一的非凸最优化方法的有效性也通过大量的数值模拟经验说明。
2022-03-07 cs.LG math.ST stat.ML
Nonconvex Low-Rank Tensor Completion from Noisy Data
Princeton University(普林斯顿大学);Tsinghua University(清华大学)
我们研究了一个具有广泛实际意义的噪声张量完备化问题,即从其条目的高度不完整和随机损坏的观测中重建低秩张量。虽然各种先前的工作一直致力于这个问题,以前的算法要么是计算太昂贵的大规模应用程序,或与次优的统计保证。专注于“不连贯”和良好的条件张量的恒定CP秩,我们提出了一个两阶段的非凸算法-(香草)梯度下降后,粗略的初始化-实现两全其美。具体而言,所提出的非凸算法忠实地完成张量,并在几乎线性的时间内检索所有的个体张量因子,同时享受接近最佳的统计保证(即最小的样本复杂性和最佳的估计精度)。估计误差均匀地分布在所有条目上,从而实现最佳的$\ell_{\infty}$统计精度。我们还讨论了如何扩展我们的方法来适应非对称张量。通过我们对非凸优化的分析所传达的见解可能对其他张量估计问题有影响。
2021-06-03 cs.IT cs.LG math.IT
Wedge Sampling: Efficient Tensor Completion with Nearly-Linear Sample Complexity
Rice University(里士满大学);University of California, Irvine(加州大学尔湾分校);Univ Rennes, Ensai, CNRS, CREST-UMR 9194(里昂大学,Ensai,CNRS,CREST-UMR 9194);University of Southern California(南加州大学)
提出楔形采样非自适应方案,通过结构化长度二模式(楔形)分配观测,在均匀采样稀疏时增强谱信号,实现近线性样本复杂度的张量补全。
2026-08-06 cs.LG cs.NA math.NA
A Generalized Latent Factor Model Approach to Mixed-data Matrix Completion with Entrywise Consistency
London School of Economics and Political Science(伦敦政治经济学院);University of Minnesota(明尼苏达大学)
矩阵补全是一类机器学习方法,它涉及部分观测矩阵中缺失项的预测。本文研究了混合数据的矩阵完备化问题,涉及混合类型的变量的数据(例如,连续的、二进制的、有序的)。我们将其表示为一般非线性因子模型下的低秩矩阵估计问题,然后提出了用于估计低秩矩阵的逐项相合估计量。紧概率误差界推导出建议的估计。所提出的方法进行了评估,通过模拟研究和实际数据的应用,协同过滤和大规模的教育评估。
2022-11-17 cs.LG math.ST stat.ME
Inference and Uncertainty Quantification for Noisy Matrix Completion
Princeton University(普林斯顿大学)
噪声矩阵完备化的目的是估计一个低秩矩阵,只有部分和损坏的条目。尽管在设计有效的估计算法方面取得了实质性进展,但在很大程度上仍然不清楚如何评估所获得的估计的不确定性以及如何对未知矩阵(例如,为看不见的条目构造有效且短的置信区间)。本文采取了一个步骤的推理和不确定性量化噪声矩阵完成。我们开发了一个简单的程序来补偿广泛使用的凸和非凸估计的偏差。由此产生的去偏估计承认几乎精确的非渐近分布特征,这反过来又使置信区间\,/\,区域的最佳建设,说,丢失的条目和低秩的因素。我们的推理过程不依赖于样本分割,从而避免了不必要的数据效率损失。作为一个副产品,我们得到了我们的去偏估计,这是据我们所知,是第一个易于处理的算法,可证明达到充分的统计效率(包括preconstant)的估计精度的尖锐表征。本文的分析建立在凸优化和非凸优化之间的密切联系之上--这是\cite{chen2019noisy}最近发现的一个有吸引力的特征。
2019-11-14 cs.IT cs.LG eess.SP