One-Pass Incomplete Multi-view Clustering
College of Computer Science & Technology, Nanjing University of Aeronautics & Astronautics(南京航空航天大学计算机科学与技术学院);Collaborative Innovation Center of Novel Software Technology and Industrialization(新型软件技术与产业化协同创新中心)
真实数据往往具有多模态或来自多个异构源,形成所谓的多视图数据,这在机器学习中受到越来越多的关注。多视图聚类(MVC)成为其重要的范式。在实际应用中,一些视图经常会丢失实例。在这样的多视图数据集上进行聚类被称为不完全多视图聚类(IMC),并且具有相当大的挑战性。到目前为止,虽然已经开发了许多方法,但大多数方法都是离线的,并且具有很高的计算和存储成本,特别是对于大规模数据集。为了解决这个问题,在本文中,我们提出了一个一遍不完全多视图聚类框架(OPIMC)。OPIMC借助正则化矩阵分解和加权矩阵分解,可以相对容易地处理这类问题。与现有的唯一在线内模控制方法不同,OPIMC通过引入两个全局统计量,可以直接得到聚类结果,并有效地确定迭代过程的终止。最后,在四个真实数据集上进行了大量的实验,证明了所提出的OPIMC方法的效率和有效性。
2019-03-02 cs.LG stat.ML
FSRF: Factorization-guided Semantic Recovery for Incomplete Multimodal Sentiment Analysis
School of Future Science and Engineering, Soochow University(苏州大学未来科学与工程学院);School of Advanced Manufacturing Engineering, Hefei University(合肥大学先进制造工程学院);College of Global Talents, BITZH, Beijing Institute of Technology(北京理工大学珠海学院全球人才学院);Academy for Engineering and Technology, Fudan University(复旦大学工程与技术学院)
针对多模态情感分析中的模态缺失问题,提出FSRF框架,通过同构-异构因子分解与分布对齐自蒸馏恢复缺失语义,并在两个数据集上验证了显著性能优势。
2025-10-17 cs.LG stat.AP
A Neural Network for Determination of Latent Dimensionality in Nonnegative Matrix Factorization
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
非负矩阵分解(Non-negative Matrix Factorization,NMF)是一种有效的无监督学习方法,可用于发现复杂和噪声数据中隐藏的特征,在数据采掘、文本识别、降维、人脸识别、异常检测、盲声源分离等领域有着广泛的应用。NMF的一个重要输入是数据的潜在维度,也就是说,在探索的数据集中存在的隐藏特征的数量K。不幸的是,这个数量很少先验地知道。我们利用监督机器学习方法结合最近的模型确定方法,称为NMFk,自动确定隐藏特征的数量。NMFk对通过自举初始数据集获得的矩阵集合执行一组NMF模拟,并确定哪个K产生稳定的潜在特征组,这些特征组可以很好地重建初始数据集。然后,我们训练一个多层感知器(MLP)分类器网络,以确定正确的潜在特征的数量,利用NMF解决方案的统计和特征,从NMFk获得。为了训练MLP分类器,用NMFk对具有预定潜在特征的58,660个矩阵的训练集进行因子分解。MLP分类器结合NMFk在应用于保持的测试集时保持大于95%的成功率。此外,当应用于两个著名的基准数据集,游泳者和麻省理工学院的脸数据,NMFk/MLP正确地恢复了隐藏功能的既定数量。最后,我们比较了我们的方法的准确性ARD,AIC和基于稳定性的方法。
2020-06-22 cs.LG stat.ML
Automatic Relevance Determination in Nonnegative Matrix Factorization with the β-Divergence
研究了β-散度下非负矩阵分解(NMF)的潜在维数估计问题.β-散度是一类代价函数,包括平方欧几里德距离、Kullback-Leibler和Itakura-Saito散度作为特例。学习模型阶数很重要,因为需要在数据保真度和过拟合之间取得适当的平衡。我们提出了一个贝叶斯模型的基础上自动相关性确定的字典矩阵的列和激活矩阵的行被绑在一起,通过一个共同的尺度参数在他们的先验。提出了一类最大后验概率(MAP)估计的优化最小化算法。在推理过程中,尺度参数的子集被驱动到一个小的下限,具有修剪相应的伪分量的效果。我们通过对合成数据、游泳者数据集、音乐分解示例和股票价格预测任务进行广泛的实验,证明了我们算法的有效性和鲁棒性。
2012-10-05 stat.ME stat.ML
Boolean Matrix Factorization with SAT and MaxSAT
Université du Québec à Montréal(魁北克大学蒙特利尔分校)
布尔矩阵分解问题在于通过两个较小布尔矩阵的布尔乘积来近似矩阵。为了获得最佳的解决方案时,要因式分解的矩阵是小的,我们提出了SAT和MaxSAT编码;然而,当要因式分解的矩阵是大的,我们提出了一个启发式的基础上搜索最大biclique边缘覆盖。我们的实验表明,我们的方法允许一个更好的因式分解比现有的方法,同时保持合理的计算时间。我们的方法也允许处理不完整的矩阵与失踪的条目。
2021-06-18 cs.LG
Rank Suggestion in Non-negative Matrix Factorization: Residual Sensitivity to Initial Conditions (RSIC)
Grand Valley State University(大峡谷州立大学)
本文提出RSIC方法,通过分析NMF残差对随机初始化的敏感性来建议多个潜在有效秩,在多种数据集上优于传统秩确定方法,无需领域知识且更具可扩展性。
2024-10-18 cs.LG stat.ML
A Bayesian Tensor Factorization Model via Variational Inference for Link Prediction
本文提出基于变分贝叶斯推断的张量分解模型,用于解决链接预测问题,相比最大似然方法在大规模数据集上表现更优。
2014-09-29 cs.LG cs.NA math.NA
Crowdsourcing via Annotator Co-occurrence Imputation and Provable Symmetric Nonnegative Matrix Factorization
Oregon State University(俄勒冈州立大学)
从嘈杂的、不完整的和众包的注释中对Dawid-Skene(D&S)模型进行无监督学习一直是一个长期存在的挑战,并且是可靠地标记海量数据的关键一步。最近的一项工作采用了耦合非负矩阵分解(CNMF)的观点,并显示出吸引人的特征:它确保了D\&S模型的可识别性,并且具有低样本复杂度,因为只涉及注释者标签的共现估计。然而,只有当在众包的背景下满足某些限制性条件时,可识别性才成立。优化CNMF标准也是昂贵的-并且收敛保证是难以捉摸的。这项工作将基于成对共现的D&S模型学习问题重新转换为对称NMF(SymNMF)问题-相对于CNMF,它提供了增强的可识别性。在实践中,SymNMF模型通常(在很大程度上)是不完整的,因为一些注释者缺乏共同标记的项目。提出了两种轻量级的同现插补算法。然后,提出了一种低复杂度的移位整流线性单元(ReLU)授权的SymNMF算法来识别D&S模型。各种性能表征(例如,丢失同现可恢复性、稳定性和收敛性)和评估。
2021-06-14 cs.LG eess.SP
Generalized Least Squares Kernelized Tensor Factorization
McGill University(麦吉尔大学)
针对恢复多维张量结构数据问题,提出GLSKF框架,通过整合全局与局部相关分量,利用协方差正则化等方法建模,结合交替最小二乘算法求解,在多个实际数据补全任务中展现出卓越性能和良好扩展性。
2026-07-22 cs.CV cs.LG stat.ML
Variational Bayesian Inference for Robust Streaming Tensor Factorization and Completion
Department of Mathematics, UC Santa Barbara(加州大学圣巴巴拉分校数学系);Department of ECE, UC Santa Barbara(加州大学圣巴巴拉分校电气工程与计算机科学系)
流张量分解是一个强大的工具,用于处理互联网网络,推荐系统和图像/视频数据分析中的大容量和多路时态数据。现有的流式张量分解算法依赖于最小二乘数据拟合,并且它们不具有用于张量秩确定的机制。这使得它们容易受到离群值的影响,并且容易过度拟合。本文提出了一种贝叶斯鲁棒流张量分解模型,用于识别稀疏离群点,自动确定底层张量秩,精确拟合低秩结构。我们在Matlab中实现了我们的模型,并将其与动态MRI和互联网流量生成的张量数据集上的现有算法进行了比较。
2018-12-31 cs.LG eess.SP stat.ML
Doubly Aligned Incomplete Multi-view Clustering
College of Computer Science & Technology, Nanjing University of Aeronautics & Astronautics(南京航空航天大学计算机科学与技术学院);Collaborative Innovation Center of Novel Software Technology and Industrialization(新型软件技术与产业化协同创新中心)
目前,多视图聚类已经引起了越来越多的关注。到目前为止,几乎所有以前的研究都假设视图是完整的。然而,在现实中,通常情况下,每个视图都可能包含一些缺失的实例。这种不完全性使得传统的多视图聚类方法无法直接使用。本文提出了一种基于加权半非负矩阵分解(semi-NMF)的双对齐不完全多视图聚类算法(DAIMC)。具体来说,一方面,DAIMC利用给定的实例对齐信息来学习所有视图的公共潜在特征矩阵。另一方面,DAIMC通过$L_{2,1}$ -Norm正则化回归建立共识基矩阵,以减少缺失实例的影响。因此,与现有方法相比,DAIMC除了继承了半NMF处理负项能力的优点外,还具有两个独特的优点:1)通过为每个视图引入各自的权矩阵,解决了不完整视图问题,使其能够很容易地适应两个以上视图的情况; 2)在回归分析的帮助下,通过强制各个视图的基矩阵对齐,减少视图不完整性对聚类的影响。在四个真实世界数据集上的实验证明了它的优点。
2019-03-07 cs.LG stat.ML
Dynamic matrix recovery from incomplete observations under an exact low-rank constraint
Georgia Institute of Technology(佐治亚理工学院)
低秩矩阵分解出现在各种各样的应用中--包括推荐系统、主题模型和源分离,仅举几例。在这些和许多其他应用中,人们广泛注意到,通过纳入时间信息并考虑到时变模型的可能性,在实践中可能会有重大改进。然而,尽管这些动态模型的经验表现优于静态模型,但引入这些更复杂的模型的理论依据有限。在本文中,我们的目标是解决这一差距,通过研究从不完整的观察恢复一个动态演变的低秩矩阵的问题。首先,我们提出了局部加权矩阵平滑(LOWEMS)框架作为一种可能的方法来动态矩阵恢复。然后,我们建立误差界LOWEMS在{ \em矩阵传感}和{ \em矩阵完成}的观察模型。我们的研究结果量化了利用动态约束在恢复精度和样本复杂性方面的潜在好处。为了说明这些好处,我们提供了合成和真实世界的实验结果。
2016-10-28 cs.LG stat.ML
Scalable Probabilistic Matrix Factorization with Graph-Based Priors
Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所 HIIT);Aalto University(阿尔托大学);Tampere University(坦佩雷大学);Kyoto University(京都大学)
在矩阵分解中,可用的图边信息可能不太适合矩阵完成问题,具有与从不完整数据矩阵中学习的潜在特征关系不一致的边缘。我们表明,删除这些$\textit{contested}$边缘提高预测精度和可扩展性。我们通过一个高效的图形套索近似确定有争议的边缘。竞争边的识别和去除没有向现有技术的图正则化矩阵分解增加计算复杂性,相对于非零的数量保持线性。计算负载甚至与移除的边的数目成比例地减小。制定一个概率生成模型,并使用期望最大化扩展图正则化交替最小二乘(GRALS)保证收敛。丰富的模拟实验说明了所产生的算法的预期性能。在真实数据实验中,我们证明了用更少的图边缘提高了预测精度(经验证据表明,图边信息通常是不准确的)。一个有300万条边的30万维图(雅虎音乐边信息)可以在10分钟内在标准膝上计算机上进行分析,这证明了我们的图形更新的效率。
2019-09-11 cs.LG stat.ML
Fast Kernel k-means Clustering Using Incomplete Cholesky Factorization
Zhengzhou University(郑州大学);Xidian University(西安电子科技大学)
基于核的聚类算法可以识别和捕捉数据集中的非线性结构,从而可以获得比线性聚类更好的性能。然而,计算和存储整个核矩阵占用大量内存,这是基于核的聚类很难处理大规模的数据集。在本文中,我们采用不完全Cholesky分解加速核聚类和节省内存空间。提出的核$k$ -均值聚类的核心思想是,我们近似的低秩矩阵和转置的产品的整个核矩阵使用不完全Cholesky分解。然后将线性$k$均值聚类应用于低秩矩阵的转置的列。我们分析和经验表明,该算法的性能是类似的内核$k$均值聚类算法,但我们的方法可以处理大规模的数据集。
2020-02-07 cs.LG stat.ML
Knowledge Completion for Generics using Guided Tensor Factorization
Google Brain(谷歌大脑);Allen Institute for Artificial Intelligence (AI2)(艾伦人工智能研究所)
给定一个知识库或KB包含(嘈杂)的事实,如“所有的树木产生氧气”或“一些动物生活在森林中”,我们考虑的问题,推断额外的这样的事实在精度类似的起始KB。这样的知识库捕获关于世界的一般知识,并且对于诸如问答的各种应用是至关重要的。与Freebase等常用命名实体知识库不同,泛型知识库涉及量化,具有更复杂的底层结构,往往更不完整,并违反常用的局部封闭世界假设(LCWA)。我们表明,现有的KB完成方法的斗争,这一新的任务,并提出了第一种方法,是成功的。我们的研究结果表明,外部信息,如关系模式和实体分类,如果使用得当,可以是一个令人惊讶的强大的工具,在这种情况下。首先,我们简单而有效的知识引导张量因式分解方法在科学的两个泛型KB(80%精确度)上实现了最先进的结果,在74%-86%的精确度下将其大小增加了一倍。第二,我们新颖的分类法引导的、子模块化的、主动学习方法,用于收集关于稀有实体的注释(例如,黄鹂,一种鸟)比多个主动学习基线更有效地推断出关于它们的进一步新事实。
2018-03-28 cs.AI cs.LG stat.ML
Academic Network Representation via Prediction-Sampling Incorporated Tensor Factorization
College of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院)
本文提出PLFT模型,通过级联LFT架构和融合非线性激活的预测采样策略,提升高维不完整学术网络的表示学习能力,并在三个真实数据集上验证其预测未探索关系时优于现有模型。
2025-04-11 cs.LG
Federated Knowledge Graph Completion via Latent Embedding Sharing and Tensor Factorization
City University of Hong Kong(香港城市大学);UESTC(电子科技大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));ByteDance Research(字节跳动研究院)
针对现有联邦知识图谱补全框架的隐私泄露、优化失效和计算成本高等问题,提出FLEST方法,通过联邦张量分解和潜在字典嵌入共享,在性能与隐私间取得平衡。
2023-11-17 cs.AI cs.LG
Multi-Head Self-Attending Neural Tucker Factorization
College of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院)
针对大规模QoS数据动态时间模式捕获问题,提出多头自注意力神经Tucker分解(MSNTucF)方法,通过神经网络推广Tucker分解并引入多头自注意力机制学习非线性时空特征交互,在真实数据集上预测精度优于现有基准模型。
2025-03-04 cs.LG
Online Multi-view Clustering with Incomplete Views
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Shenzhen University(深圳大学)
在大数据时代,数据具有多种形式或来自多个来源,称为“多视图数据”。多视图聚类提供了一种从这些数据生成聚类的自然方法。由于不同的视图共享一些一致性和互补性信息,以前的多视图聚类工作主要集中在如何合并不同数量的视图,以提高聚类性能。然而,实际上,每个视图可能是不完整的,即,视图中缺少的实例。而且,数据量可能非常庞大。如果不考虑视图的不完整性和内存需求,将多视图聚类应用于大型实际应用是不现实的。以前的作品都没有同时解决所有这些挑战。本文提出了一种在线多视图聚类算法OMVC,它可以处理大规模的不完整视图。我们将多视图聚类问题建模为联合加权非负矩阵分解问题,并逐块处理多视图数据以减少内存需求。OMVC学习所有视图的潜在特征矩阵,并将它们推向共识。我们通过套索正则化进一步提高了OMVC中学习到的潜在特征矩阵的鲁棒性。为了最大限度地减少不完整性的影响,引入了动态权重设置,以给予较低的权重,传入的缺失实例在不同的视图。更重要的是,为了减少计算时间,我们结合了更快的投影梯度下降,利用海森矩阵在OMVC。在四个真实数据上进行的大量实验证明了所提出的OMVC方法的有效性。
2016-11-06 cs.LG
Bayesian Adaptive Tucker Decompositions for Tensor Factorization
针对Tucker张量分解需预先选定潜在多秩的问题,提出带无限递增收缩先验的贝叶斯自适应模型,通过自适应Gibbs采样推断,支持多类型数据与缺失值插补,经仿真和实际数据验证优于现有方法。
2025-05-16 stat.ME
Multiple Linked Tensor Factorization
University of Minnesota(明尼苏达大学)
提出MULTIFAC方法,扩展CP分解以处理多源多维张量数据,实现维度缩减、共享与特有成分识别及缺失数据插补,并在模拟和真实多组学数据上验证。
2025-02-27 cs.LG stat.CO stat.ME
GOCPT: Generalized Online Canonical Polyadic Tensor Factorization and Completion
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);IQVIA(艾昆纬)
低秩张量因式分解或完成被充分研究并应用于各种在线设置,例如在线张量因式分解(其中时间模式增长)和在线张量完成(其中不完整切片逐渐到达)。然而,在许多现实世界中,张量可能具有更复杂的演化模式:(i)一个或多个模式可以增长;(ii)缺失的条目可以被填充;(iii)现有的张量元素可以改变。现有的方法无法支持这种复杂的场景。为了填补这一空白,本文提出了一个广义在线正则多矢(CP)张量分解和完成框架(名为GOCPT),在这个一般的设置,我们保持CP结构的动态张量在进化过程中。我们表明,现有的在线张量因式分解和完成设置可以在GOCPT框架下统一。此外,我们提出了一个名为GOCPTE的变体,用于处理历史张量元素不可用的情况(例如,隐私保护),其实现了与GOCPT类似的适应性,但具有少得多的计算成本。实验结果表明,我们的GOCPT可以在JHU Covid数据上提高高达2:8%的适应度,在专有患者索赔数据集上提高9:2%的适应度。我们的变体GOCPTE在两个数据集上显示了高达1:2%和5:5%的适应度改进,与最佳模型相比,加速了约20%。
2022-05-08 cs.LG cs.MS cs.NA
Multi-layer matrix factorization for cancer subtyping using full and partial multi-omics dataset
The University of Hong Kong(香港大学);The Chinese University of Hong Kong(香港中文大学);Xi’an Polytechnic University(西安工程大学);University of Toronto(多伦多大学)
针对当前癌症亚型分类依赖完整多组学数据、忽略组学多层隐式关系的问题,提出多层矩阵分解(MLMF)方法,通过多组学特征矩阵的多层分解与融合及类别指示矩阵处理缺失数据,在10个数据集上性能优于或媲美现有方法。
2024-11-18 cs.AI cs.LG q-bio.QM
Applying non-negative matrix factorization with covariates to label matrix for classification
提出 NMF-LAB 方法,将分类重新定义为非负矩阵三因子分解的逆问题,通过直接分解标签矩阵并引入协变量,无需外部分类器即可获得类成员概率,支持半监督学习,在多个数据集上展现出高精度、鲁棒性和可扩展性。
2025-10-12 cs.LG stat.ME
Learning incomplete factorization preconditioners for GMRES
Uppsala University(乌普萨拉大学)
针对传统不完全LU分解预条件器计算耗时、对超参数敏感的问题,提出用图神经网络学习近似矩阵分解,设计可逆保证激活函数与稀疏输出架构,经实验验证可有效减少GMRES迭代次数、改善谱特性。
2024-12-11 cs.LG cs.NA math.NA
Neural incomplete factorization: learning preconditioners for the conjugate gradient method
Uppsala University(乌普萨拉大学);KTH Royal Institute of Technology(瑞典皇家理工学院)
本文提出 NeuralIF,用图神经网络生成矩阵不完全分解作为共轭梯度法预条件子,并以 Frobenius 损失随机近似和稀疏矩阵理论启发的消息传递模块实现高效训练,加快迭代收敛。
2024-10-24 cs.LG cs.NA math.NA
Deviance Matrix Factorization
Boston University(波士顿大学)
本文提出一种基于偏差数据损失的通用矩阵分解方法,利用广义线性模型理论扩展了奇异值分解,支持结构性零并提供强一致性证明、拟合优度检验与秩确定方法,在多领域基准数据集上表现优于现有方法并附带 R 包。
2023-06-30 cs.LG stat.AP stat.CO
Deep reinforcement learning driven inspection and maintenance planning under incomplete information and constraints
The Pennsylvania State University(宾夕法尼亚州立大学)
在日益恶化的工程环境中,为使长期风险和成本最小化而确定检查和维护策略是一个复杂的优化问题。主要的计算挑战包括(i)维数灾难,由于状态/动作集基数与组件数量的指数缩放;(ii)历史灾难,与决策步骤数量的指数增长决策树有关;(iii)存在状态不确定性,由固有的环境随机性和检查/监测测量的可变性引起;(iv)由于资源稀缺和其他不可行/不可取的系统响应,存在与随机长期限制有关的约束。在这项工作中,这些挑战是在约束部分可观察马尔可夫决策过程(POMDP)和多智能体深度强化学习(DRL)的联合框架内解决的。POMDP最佳地解决了(ii)-(iii),结合随机动态规划与贝叶斯推理原则。多智能体DRL通过深度功能参数化和分散控制假设解决了(i)。挑战(四)在这里处理通过适当的状态增强和拉格朗日松弛,强调生命周期风险为基础的约束和预算限制。提供了基本的算法步骤,拟议的框架被发现优于既定的政策基线,并促进熟练处方的检查和干预行动,在必须作出决定的情况下,在最资源和风险意识的方式。
2020-07-02 cs.AI cs.LG math.OC
Spectra-Guided Neural Tucker Factorization
School of Automation, Chongqing University of Posts and Telecommunications(重庆邮电大学自动化学院);College of Computer and Information Science, School of Software, Southwest University(西南大学计算机与信息科学学院、软件学院)
提出光谱引导的神经Tucker分解(SG-NTF),通过连续光谱空间映射和时空共门控机制,实现高维不完整张量的高效补全。
2026-05-30 cs.LG stat.ML
Latent Factorization of Tensors with Threshold Distance Weighted Loss for Traffic Data Estimation
Chongqing University of Posts and Telecommunications(重庆邮电大学)
针对传统张量潜在分解模型对异常值敏感的问题,提出结合阈值距离加权损失的TDWLFT模型,通过为样本分配差异化权重降低异常值影响,在多个交通速度数据集上实现了准确性与计算效率的双重提升。
2025-06-11 cs.AI cs.LG
A Momentum-Incorporated Non-Negative Latent Factorization of Tensors Model for Dynamic Network Representation
School of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院)
针对基于SGD的张量潜在因子分解模型尾部收敛差的问题,提出融入动量的非负张量分解模型MNNL,提升了动态网络表示的预测精度与收敛速度。
2023-05-04 cs.LG cs.SI
Federated Learning based Latent Factorization of Tensors for Privacy-Preserving QoS Prediction
Southwest University(西南大学)
本文提出一种基于张量潜在分解的联邦学习模型(FL-LFT),通过构建面向数据密度的联邦学习框架,使孤立用户在保护隐私的同时协作训练全局模型,实现高精度的Web服务QoS预测。
2024-07-29 cs.CR cs.LG
Incremental Unsupervised Feature Selection for Dynamic Incomplete Multi-view Data
Southwestern University of Finance and Economics(西南财经大学);JD Intelligent Cities Research(京东智能城市研究院);Minnan Normal University(闽南师范大学);FernUniversität in Hagen(哈根函授大学);Southwest Jiaotong University(西南交通大学)
多视图无监督特征选择已被证明是有效的,以减少多视图的高维未标记数据的维数。前面的方法假设所有视图都是完整的。然而,在实际应用中,多视图数据往往是不完整的,即,这些方法在实际应用中往往会遗漏一些实例的视图,从而导致方法的失败。此外,当数据以流的形式到达时,这些现有的方法将遭受高存储成本和昂贵的计算时间的问题。为了解决这些问题,我们提出了一个增量不完整的多视图无监督特征选择方法(I $^2$ MUFS)不完整的多视图流数据。通过联合考虑不同视图之间的一致性和互补性信息,$^2$ MUFS将无监督特征选择嵌入到一个扩展的加权非负矩阵分解模型中,该模型可以学习一致性聚类指示矩阵并使用自适应视图权重融合不同的潜在特征矩阵。此外,我们引入增量学习机制来开发一种替代的迭代算法,其中特征选择矩阵是增量更新的,而不是从头开始重新计算整个更新的数据。通过与现有的几种方法进行比较,验证了该方法的有效性。实验结果表明,该方法的有效性和效率的聚类指标和计算成本。
2022-12-30 cs.LG
An Incomplete Tensor Tucker decomposition based Traffic Speed Prediction Method
School of Computer Science and Technology, Dongguan University of Technology(东莞理工学院计算机科学与技术学院)
针对缺失交通速度数据恢复中基于SGD的LFT模型收敛慢的问题,提出融合PID控制器与Tucker分解的LFT模型,在两个城市数据集上显著提升效率并保持高预测精度。
2023-04-21 cs.LG
Learning Causal Normalizing Flows from Incomplete Data via Observed-Data Likelihood
University of Bern(伯尔尼大学);Inselspital, Bern University Hospital(伯尔尼大学医院);Diabetes Center Berne(伯尔尼糖尿病中心);University of Thessaly(色萨利大学)
提出MissCNF,通过最大化部分观测样本的边际似然直接在不完整数据上训练因果归一化流,无需丢弃数据或插补,在多种缺失机制下优于现有方法。
2026-09-30 cs.LG
Robust Neural Tucker Factorization with Bias Correction and Adaptive Initialization
School of Computer Science and Engineering, Chongqing University of Science and Technology(重庆科技大学计算机科学与工程学院);College of Computer and Information Science, School of Software, Southwest University(西南大学计算机与信息科学学院 软件学院)
提出KaBiN模型,结合Kaiming初始化和偏差校正,解决高维不完全张量补全中初始化不当和偏差缺失导致的优化不稳定问题。
2026-06-16 cs.LG
TRUST-FS: Tensorized Reliable Unsupervised Multi-View Feature Selection for Incomplete Data
Joint Laboratory of Data Science and Business Intelligence, School of Statistics and Data Science, Southwestern University of Finance and Economics(数据科学与商务智能联合实验室,统计与数据科学学院,西南财经大学);Insitute for Carbon Neutrality, Tsinghua University(碳中和研究院,清华大学);Department of Electrical Engineering and Computer Science, University of Kansas(电气工程与计算机科学系,堪萨斯大学);JD Intelligent Cities Research and JD Intelligent Cities Business Unit(京东智能城市研究部和京东智能城市业务部);School of Computing and Artificial Intelligence, Southwest Jiaotong University(计算与人工智能学院,西南交通大学)
针对不完整多视图数据中缺失变量等挑战,提出TRUST-FS方法,通过统一张量分解框架同时实现特征选择、缺失变量插补和视图权重学习,并利用主观逻辑构建可靠相似图,性能优于现有先进方法。
2025-11-11 cs.LG
Scaling and Scalability: Provable Nonconvex Low-Rank Tensor Estimation from Incomplete Measurements
Carnegie Mellon University(卡内基梅隆大学);University of Chicago(芝加哥大学);Air Force Research Laboratory(美国空军研究实验室)
张量为表示多属性数据和多方式交互提供了强大而灵活的模型,在科学和工程各个领域的现代数据科学中发挥着不可或缺的作用。一个基本的任务是忠实地恢复张量从高度不完整的测量在统计和计算效率的方式。利用Tucker分解中张量的低秩结构,本文提出了一种尺度梯度下降算法(ScaledGD)算法,以直接恢复张量因子与定制的频谱初始化,并表明,它可证明收敛在一个线性速率独立的地面真理张量的条件数的两个典型问题-张量完成和张量回归-只要样本大小高于$n^{3/2}$的数量级,忽略其他参数依赖性,其中$n$是张量的维数。与现有技术相比,这导致对低秩张量估计的极其可扩展的方法,现有技术遭受以下缺点中的至少一个:对病态的极端敏感性、在存储器和计算方面的高每次迭代成本、或差的样本复杂度保证。据我们所知,ScaledGD是第一个同时实现接近最佳统计和计算复杂性的低秩张量完成与塔克分解的算法。我们的算法突出了适当的预处理在加速非凸统计估计中的作用,其中迭代变化的预处理器促进了低秩张量因子分解中关于潜在对称性的轨迹的理想不变性。
2022-06-22 cs.IT cs.LG eess.SP
A Double-Norm Aggregated Tensor Latent Factorization Model for Temporal-Aware Traffic Speed Imputation
College of Computer and Information Science(计算机与信息科学学院);Southwest University(西南大学)
针对交通速度数据缺失问题,提出结合L2和平滑L1范数的TATSI模型,采用SLF-NMU求解器,在三个真实数据集上实现高精度鲁棒的补全。
2025-04-24 cs.LG