Multi-view Clustering via Unified Multi-kernel Learning and Matrix Factorization
School of Mathematics, Hunan University（湖南大学数学学院）；Shenzhen Research Institute, Hunan University（湖南大学深圳研究院）；Malaysia-Japan International Institute of Technology (MJIIT), Universiti Teknologi, Malaysia（马来西亚理工大学马来西亚-日本国际理工学院）；College of Science, Princess Nourah bint Abdulrahman University (PNU)（公主诺拉·宾特·阿卜杜勒拉赫曼大学理学院）；Regional Research Center, Iwate Prefectural University（岩手县立大学区域研究中心）
针对现有多核聚类计算复杂度高、基于矩阵分解的多视图聚类单视图约束限制学习的问题，提出融合多核学习与矩阵分解的多视图聚类方法，通过对共识矩阵施加正交约束、避免最优核学习降低复杂度，搭配三步优化算法，经真实数据集验证有效。
2024-12-12 cs.LG
Hyper-Laplacian Regularized Concept Factorization in Low-rank Tensor Space for Multi-view Clustering
针对张量多视图聚类中自表示复杂度高且忽略非线性结构与奇异值差异的问题，提出HLRCF方法。该方法结合概念分解、超图拉普拉斯正则化与自加权张量Schatten p范数，在低秩张量空间中提取非线性局部结构并自适应分配权重，有效降低了计算复杂度并提升了聚类性能。
2023-08-01 cs.LG
Multi-way Spectral Clustering of Augmented Multi-view Data through Deep Collective Matrix Tri-factorization
National University of Singapore（新加坡国立大学）
我们提出了第一个基于深度学习的架构，用于任意矩阵集合的集体矩阵三分解（DCMTF），也称为增强多视图数据。DCMTF可以用于关系数据矩阵的异构集合的多路谱聚类，以发现每个输入矩阵中的潜在聚类，跨两个维度，以及跨聚类的关联强度。DCMTF的源代码可以在我们的公共存储库中找到：https://bitbucket.org/cdal/dcmtf_generic
2022-01-24 cs.LG stat.ML
Federated Multi-view Matrix Factorization for Personalized Recommendations
Helsinki Research Center（赫尔辛基研究中心）；Europe Cloud Service Competence Center（欧洲云服务能力中心）；Huawei Technologies Oy (Finland) Co. Ltd（华为技术有限公司（芬兰））
我们引入了联邦多视图矩阵分解方法，将联邦学习框架扩展到多数据源的矩阵分解。我们的方法是能够学习多视图模型，而无需将用户的个人数据传输到中央服务器。据我们所知，这是第一个使用多视图矩阵分解提供推荐的联邦模型。该模型在生产环境的三个数据集上进行了严格的评估。实证验证证实，联邦多视图矩阵分解优于不考虑数据多视图结构的简单方法，此外，它还证明了所提出的方法对于冷启动联邦推荐的挑战性预测任务的有用性。
2020-04-08 cs.IR cs.LG stat.ML
Multi-View Factorization Machines
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Microsoft Research（微软研究院）；Huawei Technologies（华为技术有限公司）；Institute for Data Science, Tsinghua University（清华大学数据科学研究院）
对于一个学习任务，数据通常可以从不同的来源收集或从多个视图表示。举例来说，不同的医学检查的化验结果可作疾病诊断之用，而每项化验结果只能从某一方面/角度反映一个人的健康状况。因此，不同的视图为学习任务提供了补充信息。多视角信息的有效整合有望促进学习效果。在本文中，我们提出了一个通用的预测，命名为多视图机器（MVMs），它可以有效地包括所有可能的功能之间的相互作用，从多个视图。一个联合因式分解嵌入的全阶相互作用参数，允许稀疏下的参数估计。此外，MVMs可以与不同的损失函数一起工作，用于各种机器学习任务。提出了一种随机梯度下降方法来学习MVM模型。通过与其他多视图分类方法（包括支持向量机、支持张量机和因子分解机）的比较，进一步说明了MVMs的优势。
2018-03-23 cs.LG stat.ML
Multi-View Non-negative Matrix Factorization Discriminant Learning via Cross Entropy Loss
China University of Petroleum（中国石油大学）
多视图学习通过描述同一对象不同视图之间的关系来实现分类任务目标。大多数现有的方法通常侧重于多个视图之间的一致性和互补性。但并非所有这些信息都对分类任务有用。相反，起重要作用的是特定的区分信息。Zhong Zhang等通过联合非负矩阵分解，研究了不同视图间公共部分和视图特定部分中存在的区分性和非区分性信息。本文在此基础上对该算法进行了改进，引入交叉熵损失函数，更好地约束目标函数。最后，在相同的数据集上实现了比原算法更好的分类效果，并显示了其优于许多现有算法的优越性。
2022-01-08 cs.LG eess.SP
Multi-view Clustering via Deep Matrix Factorization and Partition Alignment
近年来，多视图聚类（MVC）被广泛研究以收集多个源信息。一种典型的MVC方法是基于矩阵分解来有效地执行降维和聚类。然而，现有的方法可以进一步改进以下考虑：i）当前的单层矩阵分解框架不能充分利用有用的数据表示。ii）大多数算法只关注共享信息，而忽略了视图特定的结构，导致次优解。iii）在现有工作中尚未利用分区级别信息。针对上述问题，提出了一种基于深度矩阵分解和分区对齐的多视图聚类算法。具体地说，通过深度矩阵分解得到每个视图的分区表示，然后与最优分区表示联合用于融合多视图信息。最后，一个交替优化算法被开发来解决优化问题，证明收敛性。在六个基准多视图数据集上进行的综合实验结果清楚地表明了该算法对SOTA方法的有效性。
2021-05-10 cs.LG stat.ML
Structural Learning Theory: A Metric-Topology Factorization Approach
Department of Computer Science University at Albany（大学计算机科学系，阿尔巴尼大学）
本文提出结构学习理论，通过度量和拓扑分解解决多上下文非平稳环境中的学习问题，引入宽度概念和合同-相似算子，分解学习为陷阱发现和 funnel 一般化。
2026-05-06 cs.LG
Visualizations Relevant to The User By Multi-View Latent Variable Factorization
University of Warwick（华威大学）；Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所（HIIT））；Aalto University（阿尔托大学）
数据可视化的主要目标是从所有可用的备选方案中找到与用户相关的到2D/3D显示器的映射。假设用户交互数据或关于项目或其关系的其他辅助数据，目标是识别主数据中的哪些方面支持用户的输入，以及同样重要的是，用户的潜在噪声输入的哪些方面在主数据中得到支持。为了解决这个问题，我们引入了一个多视图嵌入，其中一个潜在的因式分解识别两个数据视图（主数据和用户数据）中的哪些方面是相关的，哪些是特定于其中之一。因子分解是生成模型，其中显示器被参数化为因子分解的一部分，并且其他因子解释了二维显示器中不可表达的方面。该模型的功能在多个数据集上得到了演示。
2016-01-25 cs.IR cs.LG
Multi-View Multiple Clusterings using Deep Matrix Factorization
Southwest University（西南大学）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；George Mason University（乔治梅森大学）
多视图聚类的目的是整合来自多个异构视图的互补信息，以提高聚类结果。现有的多视图聚类解决方案只能输出单个聚类的数据。由于其多样性，多视图数据可以从不同的角度进行合理和有趣的不同分组。然而，如何从多视图数据中发现多个、有意义的、多样的聚类结果仍然是多视图聚类和多聚类中一个很少研究和具有挑战性的课题。在本文中，我们引入了一个基于深度矩阵分解的解决方案（DMClusts）来发现多个聚类。DMClusts逐步将多视图数据矩阵分解为逐层的表示子空间，并在每层中生成一个聚类。为了加强所生成的聚类之间的多样性，它最小化了一个新的冗余量化项，该量化项来自这些子空间中样本之间的接近度。我们进一步引入了一个迭代优化过程，同时寻求多个聚类的质量和多样性。在基准数据集上的实验结果证实，DMClusts优于最先进的多个聚类解决方案。
2019-11-26 cs.LG stat.ML
Multi-view Factorization AutoEncoder with Network Constraints for Multi-omic Integrative Analysis
University at Buffalo（布法罗大学）
多组学数据提供相同患者的多个视图。多组学数据的综合分析对于阐明疾病病因的分子基础至关重要。然而，多组数据存在“大p，小N”问题（特征数多，但样本数少），仅从多组数据中训练复杂的机器学习模型并使其具有良好的泛化能力是一个挑战。在这里，我们提出了一个框架，称为多视图分解AutoEncoder与网络约束集成多组学数据与领域知识（生物相互作用网络）。我们的框架采用深度表示学习来同时学习特征嵌入和患者嵌入，使我们能够将特征交互网络和患者视图相似性网络约束集成到训练目标中。整个框架是端到端可区分的。我们将我们的方法应用于TCGA泛癌症数据集，并取得了令人满意的结果，以预测疾病无进展间期（PFI）和患者总生存期（OS）事件。代码将公开提供。
2018-09-06 cs.LG stat.ML
Multi-View Multi-Instance Multi-Label Learning based on Collaborative Matrix Factorization
Southwest University（西南大学）；China University of Geosciences（中国地质大学）；George Mason University（乔治梅森大学）；Deakin University（迪肯大学）；Beijing University of Civil Engineering and Architecture（北京建筑大学）
多视图多实例多标签学习（M3L）处理包含不同实例的复杂对象，使用不同的特征视图表示，并使用多个标签进行注释。现有的M3L解决方案仅部分探索对象（或包），实例和标签之间的内部或内部关系，这些关系可以传达M3L的重要上下文信息。因此，它们可能具有受损的性能。在本文中，我们提出了一个协作矩阵分解为基础的解决方案，称为M3Lcmf。M3Lcmf首先使用由包、实例和标签节点组成的异构网络，通过多个关系数据矩阵对不同类型的关系进行编码。为了保持数据矩阵的内在结构，M3Lcmf将它们协作分解为低秩矩阵，探索包，实例和标签之间的潜在关系，并有选择地合并数据矩阵。进一步引入了一种聚合机制，将实例级标签聚合到包级，并指导因子分解。在基准数据集上的实证研究表明，M3Lcmf在实例级和包级预测方面都优于其他相关竞争解决方案。
2019-05-15 cs.LG stat.ML
Incomplete Multi-view Clustering via Graph Regularized Matrix Factorization
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；The University of Queensland（昆士兰大学）
不完整视图的聚类是多视图聚类中的一个挑战。在本文中，我们提供了一种新颖而简单的方法来解决这个问题。具体地说，该方法同时利用每个视图的局部信息和视图间的互补信息来学习所有样本的共同潜在表示，从而大大提高了所获得的表示的紧凑性和可区分性。与传统的图嵌入方法相比，该方法不需要引入额外的正则化项和相应的惩罚参数来保持数据的局部结构，因此不会增加额外参数选择的负担.通过对每个视图的基矩阵施加正交约束，该方法能够处理样本外。此外，所提出的方法可以被看作是一个统一的框架，多视图学习，因为它可以处理不完整和完整的多视图聚类和分类任务。在多个多视图数据集上进行的大量实验证明，该方法可以显着提高聚类性能。
2018-09-17 cs.CV cs.LG
Multi-View Network Embedding Via Graph Factorization Clustering and Co-Regularized Multi-View Agreement
The Pennsylvania State University（宾夕法尼亚州立大学）；Google LLC（谷歌有限责任公司）
现实世界的社交网络和数字平台由通过多种类型的关系（链接）链接到其他个体或实体的个体（节点）组成。基于每种类型的链路的这种网络的子网络对应于底层网络的不同视图。在实际应用中，每个节点通常只链接到其他节点的一个小子集。因此，解决诸如节点标记等问题的实际方法必须处理由此产生的稀疏网络。虽然低维网络嵌入提供了一个有前途的方法来解决这个问题，大多数当前的网络嵌入方法主要集中在单视图网络。本文提出了一种新的多视点网络嵌入（MVNE）算法，用于从多视点网络中构造低维节点嵌入。MVNE将使用图因子分解聚类（GFC）的单视图网络嵌入（SVNE）的方法适配并扩展到使用目标函数的多视图设置，该目标函数基于底层多视图图的局部和全局结构来最大化视图之间的一致性。我们的实验与几个基准的真实世界的单视图网络表明，基于GFC的SVNE产生的网络嵌入的竞争力或优于那些由国家的最先进的单视图网络嵌入方法时，嵌入用于标记网络中的未标记节点。我们的实验与几个多视图网络表明，MVNE大大优于单视图方法的综合视图和国家的最先进的多视图方法。我们进一步表明，即使当目标是预测标签的节点在一个单一的目标视图，MVNE优于它的单视图对应建议的MVNE是能够提取的信息，是有用的标签节点在目标视图中的所有视图。
2019-02-18 cs.LG cs.SI
An Interpretable Joint Nonnegative Matrix Factorization-Based Point Cloud Distance Measure
Harvey Mudd College（哈维穆德学院）；Scripps College（斯克里普斯学院）
本文提出了一种新的方法来确定共享的特征和测量数据集或点云之间的距离。我们的方法使用两个数据矩阵$X_1,X_2$到非负矩阵$X_1 = AS_1, X_2 = AS_2$的联合因式分解，以获得一个相似性度量，确定如何以及共享的基础$A$近似$X_1, X_2$。我们还提出了一个点云距离测量建立在这种方法和学习的因式分解。我们的方法揭示了图像和文本数据的结构差异。潜在的应用包括分类、检测剽窃或其他操纵、数据去噪和迁移学习。
2022-11-27 cs.LG
Structural Knowledge Distillation: Tractably Distilling Information for Structured Predictor
ShanghaiTech University（上海科技大学）；Shanghai Institute of Microsystem and Information Technology, Chinese Academy of Sciences（中国科学院上海微系统与信息技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
知识蒸馏是在模型之间传递知识的关键技术，通常是从大型模型（教师）到更细粒度的模型（学生）。知识蒸馏的目标函数通常是教师和学生的输出分布之间的交叉熵。然而，对于结构化预测问题，输出空间的大小是指数级的;因此，交叉熵目标变得难以直接计算和优化。在本文中，我们推导出结构化预测的知识蒸馏目标的因式分解形式，这是易于处理的教师和学生模型的许多典型的选择。特别地，我们在四种不同的情况下，展示了序列标记和依存句法分析模型之间的结构知识蒸馏的易处理性和经验有效性：1）教师和学生共享输出结构评分函数的相同分解形式; 2）学生分解比教师分解产生更多的细粒度子结构; 3）教师分解比学生分解产生更多的细粒度子结构; 4）教师和学生的分解形式是不相容的。
2021-06-02 cs.AI cs.CL cs.LG
Deep Matrix Factorization with Adaptive Weights for Multi-View Clustering
ALTECA（阿尔泰卡公司）；Sorbonne Paris Nord University（巴黎北索邦大学）；CY Cergy Paris University（塞尔吉-蓬图瓦兹大学）
针对多视图聚类中特征选择不足和超参数依赖经验的问题，提出DMFAW，利用控制理论机制动态调节特征权重并融合局部划分，实验显示其性能优于现有方法。
2024-12-03 cs.AI cs.LG stat.ML
Deep Collective Matrix Factorization for Augmented Multi-View Learning
National University of Singapore（新加坡国立大学）
通过集成多个异构数据源进行学习是许多任务中的常见需求。集体矩阵分解（CMF）是一种从任意矩阵集合中学习共享潜在表示的技术。它可以用来同时完成一个或多个矩阵，用于预测未知项。经典CMF方法假设潜在因素的相互作用是线性的，这可能是限制性的，并且无法捕获复杂的非线性相互作用。在本文中，我们开发了第一个基于深度学习的方法，称为dCMF，用于多个共享表示的无监督学习，可以从任意矩阵集合中对这种非线性交互进行建模。我们通过多任务贝叶斯优化解决了由于共享表示之间的依赖关系而产生的优化挑战，并设计了一个适用于超参数集体学习的获取函数。我们的实验表明，dCMF显着优于以前的CMF算法在集成异构数据的预测建模。此外，在两个任务上-基因-疾病关联的推荐和预测- dCMF优于可以利用辅助信息源的最先进的矩阵完成算法。
2019-04-15 cs.LG stat.ML
Semi-supervised multi-view concept decomposition
Guangdong University of Technology（广东工业大学）；RIKEN（理化学研究所）
提出半监督多视图概念分解模型 SMVCF，整合多视图 CF、标签传播与流形学习并引入自适应权重，有效利用有限标签信息提升多视图聚类性能。
2023-07-03 cs.CV cs.LG
PrivMVMF: Privacy-Preserving Multi-View Matrix Factorization for Recommender Systems
National University of Singapore（新加坡国立大学）
本文针对联邦推荐系统中矩阵分解的隐私风险，提出基于同态加密的隐私保护多视图矩阵分解框架PrivMVMF，实验证明其能有效抵御服务器重构攻击。
2022-09-29 cs.AI cs.IR cs.LG
Adaptive Weighted Multiview Kernel Matrix Factorization with its application in Alzheimer's Disease Analysis -- A clustering Perspective
Clemson University（克莱姆森大学）
最近的技术和设备进步为我们提供了更好地分析阿尔茨海默病（AD）的机会，我们可以收集和利用来自不同图像和遗传模式的数据，这些数据可能会提高预测性能。为了在AD分析中进行更好的聚类，本文提出了一种新的模型来利用来自所有不同模态/视图的数据，该模型可以自适应地学习每个视图的权重。与传统的非负矩阵分解假设数据是线性可分的不同，本文提出了一种简单有效的基于核矩阵分解的方法，该方法不仅能够处理非线性数据结构，而且能够获得更好的预测精度。在ADNI数据集上的实验结果表明了该方法的有效性，表明了核函数在AD分析中的应用前景。
2023-03-07 cs.AI cs.LG
Object-Centric Representation Learning with Generative Spatial-Temporal Factorization
University of Edinburgh（爱丁堡大学）
学习以对象为中心的场景表示对于实现复杂场景的结构理解和抽象是必不可少的。然而，由于当前用于无监督的以对象为中心的表示学习的方法是建立在静止观察者假设或静态场景假设上的，因此它们通常：i）遭受单视图空间模糊性，或ii）从动态场景中不正确或不准确地推断对象表示。为了解决这个问题，我们提出了动态感知多对象网络（DyMON），一种方法，扩大了范围的多视图对象为中心的表示学习的动态场景。我们训练DyMON多视图动态场景数据，并表明DyMON学习-没有监督-分解观察者运动和场景对象动态的纠缠效应从一系列的观察，并构建场景对象空间表示适合渲染在任意时间（跨时间查询）和任意视点（跨空间查询）。我们还表明，因式分解的场景表示（w.r.t.对象）支持独立地按空间和时间查询单个对象。
2021-11-09 cs.CV cs.LG
Learning Inter- and Intra-manifolds for Matrix Factorization-based Multi-Aspect Data Clustering
Queensland University of Technology（昆士兰科技大学）
对多视图、多类型关系数据等多方面的数据进行聚类，由于其广泛的适用性，近年来已成为一个热门的研究方向。该方法使用流形学习与非负矩阵分解（NMF）框架，学习多维数据的准确低秩表示，已显示出有效性。我们建议在NMF框架中包括内部流形，利用不同数据类型（或视图）的数据点的距离信息来学习数据聚类的多样性流形。实证分析表明，该方法可以找到各种相关类型的部分表示，并在聚类过程中选择有用的功能。在多个数据集上的实验结果表明，该方法在精度和效率上都优于现有的多方面数据聚类方法。
2020-09-07 cs.LG stat.ML
Multi-view clustering integrating anchor attribute and structural information
Ministry of Education (MOE) Funded Key Lab of Scientific and Engineering Computing（教育部科学与工程计算重点实验室）；Shanghai Center for Applied Mathematics（上海应用数学中心）
针对传统多视图聚类仅依赖样本属性构建相似矩阵、忽略现实网络有向拓扑结构的问题，提出融合锚点属性与有向结构信息的AAS算法，采用两步邻近度方法并整合为统一优化框架，实验验证其有效性与优越性。
2024-10-29 cs.LG
Persistent Nonnegative Matrix Factorization via Multi-Scale Graph Regularization
School of Mathematics and Statistics, Xi’an Jiaotong University（数学与统计学学院，西安交通大学）
本文提出持久非负矩阵分解方法，通过多尺度图正则化生成多尺度低秩嵌入，解决传统NMF单尺度问题，提升数据表示的解释性与鲁棒性。
2026-02-26 cs.LG
DexDeepFM: Ensemble Diversity Enhanced Extreme Deep Factorization Machine Model
Zhejiang University（浙江大学）
预测用户肯定响应（例如，购买和点击）概率是Web应用程序中的一项关键任务。为了从原始数据中识别预测特征，最先进的极深因子分解机器模型（xDeepFM）引入了一个新的交互网络，以显式地利用矢量级别的特征交互。然而，由于交互网络中的每个隐藏层都是特征图的集合，因此它本质上可以被视为不同特征图的集合。在这种情况下，仅使用单个目标来最小化预测损失可能导致过拟合并产生相关误差。本文提出了一种集成多样性增强的极深因子分解机器模型（DexDeepFM），该模型在每个隐层设计集成多样性度量，在目标函数中同时考虑集成多样性和预测精度。此外，引入注意力机制来区分不同特征交互顺序的集合多样性度量的重要性。在三个公开的真实世界数据集上进行了广泛的实验，以显示所提出的模型的有效性。
2021-12-10 cs.LG
RSEA-MVGNN: Multi-View Graph Neural Network with Reliable Structural Enhancement and Aggregation
Financial Intelligence and Financial Engineering Key Laboratory of Sichuan Province, School of Computing and Artificial Intelligence, Southwestern University of Finance and Economics（四川省金融智能与金融工程重点实验室，西南财经大学计算机与人工智能学院）；Institute of Artificial Intelligence and Robotics, Xi’an Jiaotong University（西安交通大学人工智能与机器人研究院）
本文提出RSEA-MVGNN，通过主观逻辑估计视图不确定性，实现可靠结构增强和视图质量评估，提升多视图图神经网络的特征聚合效果。
2024-08-14 cs.LG
EquiNMF: Graph Regularized Multiview Nonnegative Matrix Factorization
SickKids Research Institute（SickKids研究所）；University of Toronto（多伦多大学）
本文提出EquiNMF方法，通过图正则化多视图非负矩阵分解实现数据整合，自动设置参数以提升聚类效果，实验显示其优于其他单视图和多视图方法。
2014-09-14 cs.LG cs.NA math.NA
Shared Low-rank Basis Factorization for Data-free Mixture-of-Experts Compression
Kyoto University（京都大学）；The University of Tokyo（东京大学）；RIKEN AIP（理化学研究所革新智能统合研究中心）
针对MoE大模型压缩，提出共享低秩基分解（SLBF）无数据权重重构方法，通过专家间共享秩-k基降低重构误差，在16B至122B五个架构上优于剪枝、合并和重构三类方法。
2026-10-08 cs.AI cs.LG
Live Multi-Streaming and Donation Recommendations via Coupled Donation-Response Tensor Factorization
National Chiao Tung Univ.（国立交通大学）；Inst. of Information Science, Academia Sinica, Taiwan（中央研究院资讯科学研究所）；The Pennsylvania State Univ.（宾夕法尼亚州立大学）
与传统的在线视频相比，直播多流媒体支持多个主播和观众之间的实时社交互动，例如捐赠。然而，捐赠和多流媒体频道推荐是具有挑战性的，由于复杂的流媒体和观众的关系，不对称的通信，以及个人兴趣和群体互动之间的权衡。在本文中，我们引入多流党（MSP），并制定了一个新的多流推荐问题，称为捐赠和MSP推荐（DAMRec）。我们提出了多流党推荐系统（MARS）通过社会时间耦合捐赠-响应张量因子分解捐赠和MSP建议提取潜在的功能。在Twitch和斗鱼上的实验结果表明，MARS在命中率和平均精度方面明显优于现有的搜索引擎至少38.8%。
2021-10-05 cs.IR cs.LG
Polynomial Networks and Factorization Machines: New Insights and Efficient Training Algorithms
NTT Communication Science Laboratories（NTT通信科学研究所）
多项式网络和因子分解机是最近提出的两种模型，可以有效地在分类和回归任务中使用特征交互。在本文中，我们从一个统一的角度重新审视这两种模式。基于这一新的观点，我们研究了这两种模型的性质，并提出了新的有效的训练算法。我们的方法的关键是将参数学习作为一个低秩对称张量估计问题，我们通过多凸优化来解决。我们展示了我们关于回归和推荐系统任务的方法。
2016-07-29 cs.LG stat.ML
Less is More: Multimodal Region Representation via Pairwise Inter-view Learning
University of Minnesota（明尼苏达大学）
提出CooKIE方法，通过成对视图间学习捕获多模态区域数据的共享与独特信息，避免高阶依赖建模，在纽约和德里任务中以更少参数和FLOPs超越现有RRL方法。
2025-05-15 cs.AI cs.LG
Kernel Alignment for Unsupervised Feature Selection via Matrix Factorization
University of California, Los Angeles（加州大学洛杉矶分校）
本文提出整合核函数与核对齐的矩阵分解无监督特征选择方法，并引入多核学习自动生成最优核，在真实数据上显著提升了聚类效果与冗余减少。
2024-03-13 cs.LG cs.NA math.NA
One-Pass Incomplete Multi-view Clustering
College of Computer Science & Technology, Nanjing University of Aeronautics & Astronautics（南京航空航天大学计算机科学与技术学院）；Collaborative Innovation Center of Novel Software Technology and Industrialization（新型软件技术与产业化协同创新中心）
真实数据往往具有多模态或来自多个异构源，形成所谓的多视图数据，这在机器学习中受到越来越多的关注。多视图聚类（MVC）成为其重要的范式。在实际应用中，一些视图经常会丢失实例。在这样的多视图数据集上进行聚类被称为不完全多视图聚类（IMC），并且具有相当大的挑战性。到目前为止，虽然已经开发了许多方法，但大多数方法都是离线的，并且具有很高的计算和存储成本，特别是对于大规模数据集。为了解决这个问题，在本文中，我们提出了一个一遍不完全多视图聚类框架（OPIMC）。OPIMC借助正则化矩阵分解和加权矩阵分解，可以相对容易地处理这类问题。与现有的唯一在线内模控制方法不同，OPIMC通过引入两个全局统计量，可以直接得到聚类结果，并有效地确定迭代过程的终止。最后，在四个真实数据集上进行了大量的实验，证明了所提出的OPIMC方法的效率和有效性。
2019-03-02 cs.LG stat.ML
Compressed Factorization: Fast and Accurate Low-Rank Factorization of Compressively-Sensed Data
Stanford University（斯坦福大学）
哪些学习算法可以直接在压缩感知数据上运行？在这项工作中，我们考虑的问题，准确和有效地计算低秩矩阵或张量分解给定的数据压缩通过随机投影。我们研究的方法，首先在压缩域中进行因式分解，然后从恢复（压缩）的因素重建原始的高维因素。在矩阵和张量设置中，我们建立了这种自然方法将可证明地恢复原始因子的条件。虽然众所周知，随机投影保留了数据集的许多几何属性，但我们的工作可以被视为表明它们也可以保留非凸NP难题的某些解决方案，如非负矩阵分解。我们通过对合成数据的实验来支持这些理论结果，并证明了压缩因子分解在现实世界基因表达和EEG时间序列数据集上的实用性。
2019-05-27 cs.AI cs.LG stat.ML
Convex Factorization Machine for Regression
Kyoto University（京都大学）；Yahoo Labs（雅虎实验室）；Duke University（杜克大学）；Aalto University（阿尔托大学）
我们提出了凸因式分解机（CFM），这是一个凸变量的广泛使用的因式分解机（FM）。具体地说，我们采用线性+二次模型，并用$\ell_2$ -正则化器正则化线性项，并用迹范数正则化器正则化二次项。然后，我们制定CFM优化作为一个半定规划问题，并提出了一个有效的优化过程与哈赞的算法。与现有的FM相比，CFM的一个关键优点是它可以找到全局最优解，而FM可能会得到一个差的局部最优解，因为FM的目标函数是非凸的。此外，该算法简单有效，易于实现。最后，CFM是一种通用的因子分解方法，也可以用于其他因子分解问题，包括多视图矩阵因子分解和张量完成问题。通过合成和movielens数据集，我们首先表明，所提出的CFM实现的结果具有竞争力的FM。此外，在毒理基因组学预测任务中，我们表明CFM优于最先进的张量因子分解方法。
2016-08-10 cs.LG stat.ML
SEGA: Structural Entropy Guided Anchor View for Graph Contrastive Learning
Beihang University（北京航空航天大学）；Zhongguancun Laboratory（中关村实验室）
针对图对比学习现有视图生成方法易丢失关键信息的问题，本文基于图信息瓶颈理论推导锚视图定义，提出结构熵引导的SEGA锚视图方法，在多类图分类任务上取得性能提升。
2023-06-09 cs.AI cs.LG
Latent Structural Categorical Matrix Completion with Application to Quasispecies Analysis
Engineering Systems and Design, Singapore University of Technology and Design（新加坡科技设计大学工程系统与设计系）；Institute of Statistics and Big Data, Renmin University of China（中国人民大学统计与大数据研究院）
提出LCMC双循环优化框架，通过二元张量表示对分类矩阵进行潜在分解，外环自适应估计潜在维度，内环通过张量分解重构矩阵，在病毒准种重建中优于现有方法。
2026-06-06 cs.LG math.OC
QTRAN: Learning to Factorize with Transformation for Cooperative Multi-Agent Reinforcement Learning
KAIST（韩国科学技术院）
我们探索基于价值的解决方案，多智能体强化学习（MARL）任务的集中训练与分散执行（CTDE）制度最近流行。然而，VDN和QMIX是使用将联合动作-价值函数分解为单独的函数以用于分散执行的思想的代表性示例。VDN和QMIX只解决了一小部分可因子分解的MARL任务，这是由于它们在因子分解中的结构约束，如可加性和单调性。本文提出了一种新的MARL分解方法QTRAN，它摆脱了这种结构约束，并采用了一种新的方法将原联合作用价值函数转化为一个易于分解的具有相同最优作用的函数。QTRAN保证比VDN或QMIX更一般的因式分解，因此比以前的方法覆盖更广泛的MARL任务。我们的实验任务的多域高斯挤压和修改的捕食者-猎物证明了QTRAN的优越性能，特别是在游戏中的利润更大的利润更积极地惩罚非合作行为。
2019-05-14 cs.AI cs.LG cs.MA
Non-recurrent Traffic Congestion Detection with a Coupled Scalable Bayesian Robust Tensor Factorization Model
School of Mechanical Engineering, Beijing Institute of Technology（北京理工大学机械工程学院）；School of Transportation Engineering, Southeast University（东南大学交通工程学院）；Faculty of Momenta（Momenta学院）；McGill University（麦吉尔大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
非重现性交通拥堵（NRTC）通常会给通勤者带来意想不到的延误。因此，以实时的方式准确地检测和识别NRTC是至关重要的。道路交通检测器和环路检测器的发展为研究人员提供了大规模的多变量时空交通数据，为深入研究非线性交通流控制提供了条件。然而，它仍然是一个具有挑战性的任务，构建一个分析框架，通过该框架可以有效地表示和利用多变量交通信息的自然时空结构特性，以更好地理解和检测NRTC。在本文中，我们提出了一种新的分析训练免费框架的基础上耦合可扩展贝叶斯鲁棒张量分解（耦合SBRTF）。该框架可以通过共享相似或相同的稀疏结构来耦合多变量交通数据，包括交通流量、道路速度和占用率。而且，它自然地捕获的高维时空结构特性的交通数据的张量因式分解。该框架的共享稀疏结构包含了足够丰富的NRTC信息，其条目揭示了NRTC的分布和大小。而框架的低秩部分则将总体期望交通状况的分布作为辅助产品来表达。在真实交通数据上的实验结果表明，该方法在NRTC检测中的性能优于耦合贝叶斯鲁棒主成分分析（耦合BRPCA）、秩稀疏张量分解（RSTD）和标准正态偏差（SND）.当只利用工作日的交通数据时，所提出的方法表现得更好，因此可以为日常通勤者提供更精确的NRTC估计。
2020-05-10 cs.CV cs.LG physics.soc-ph
Scalable Recommendation with Poisson Factorization
Princeton University（普林斯顿大学）；Microsoft Research（微软研究院）
我们开发了一个贝叶斯泊松矩阵分解模型，用于从稀疏的用户行为数据中形成推荐。这些数据是大的用户/项目矩阵，其中每个用户仅对项目的小子集提供反馈，或者显式地（例如，通过星级）或隐含地（例如，通过浏览或购买）。与传统的矩阵分解方法不同，泊松分解隐式地对每个用户对消费项目的有限注意力进行建模。此外，由于泊松似然的数学形式，该模型只需要显式地考虑矩阵中观察到的条目，从而实现可扩展的计算和良好的预测性能。我们开发了一个变分推理算法的近似后验推理，规模庞大的数据集。这是一种有效的算法，它迭代观察到的条目并调整用户/项目表示的近似后验。我们将我们的方法应用于大型真实世界的用户数据，其中包含用户对电影的评分，用户听歌和用户阅读科学论文。在所有这些设置中，贝叶斯泊松分解优于最先进的矩阵分解方法。
2014-05-20 cs.AI cs.IR cs.LG
Robust Manifold Nonnegative Tucker Factorization for Tensor Data Representation
Northwestern Polytechnical University（西北工业大学）
非负Tucker因子分解（NTF）最小化原始数据与其低秩近似之间的欧氏距离或Kullback-Leibler散度，而这种低秩近似经常遭受严重的破坏或离群值，并且忽略了数据的流形结构。特别是，NTF遭受旋转模糊性，其解决方案与旋转变换和不旋转变换是同样的意义上产生的最大似然。在本文中，我们提出了三个鲁棒流形NTF算法处理离群值，结合结构知识的离群值。他们首先应用半二次优化算法将问题转化为一般的加权NTF，其中权重受离群值的影响。然后，我们引入了相关熵诱导度量，Huber函数和Cauchy函数的权重，分别处理野值。最后，我们引入了流形正则化来克服NTF的旋转模糊性。我们已经比较了所提出的方法与一些代表性的参考文献，涵盖了各种现实世界的图像数据库上的NTF的主要分支。实验结果表明，该方法的有效性下的两个评价指标（准确性和nmi）。
2022-11-08 cs.AI cs.LG
Contrastive Learning for Non-Local Graphs with Multi-Resolution Structural Views
School of Informatics（信息学院）；University of Edinburgh（爱丁堡大学）
针对现有图对比学习方法难以捕捉异配图高阶结构的问题，提出融合扩散滤波器的多视图对比学习方法，在多个数据集上优于基线，能有效发掘结构信息并提升下游任务性能。
2023-08-19 cs.AI cs.LG
World-Task Factorization for Robot Learning
Department of Computer Science and Technology, University of Cambridge, United Kingdom（计算机科学与技术系，剑桥大学，英国）；Robotics and Biology Laboratory, Technische Universität Berlin（机器人与生物学实验室，柏林技术大学）；Science of Intelligence (SCIoI), Cluster of Excellence, Berlin, Germany（智能科学（SCIoI），卓越中心，柏林，德国）；Robotics Institute Germany（德国机器人研究所）
提出将策略分解为世界因子和任务因子，通过可微图模型AICON与紧凑学习策略结合，实现零样本泛化到新配置并迁移到真实硬件。
2026-06-01 cs.LG cs.MA cs.RO
Deep Poisson Factorization Machines: factor analysis for mapping behaviors in journalist ecosystem
在线生态系统中的新闻编辑室很难理清。随着社会化媒体的普及，记者与个人之间的互动越来越明显，但对公共领域信息反馈回路的内部加工缺乏了解，使大多数记者感到困惑。我们能否提供一个有组织的观点来描述记者在个人层面上的行为，以更好地了解生态系统？为此，我提出了泊松因子分解机（PFM），贝叶斯模拟矩阵分解，假设泊松分布的生成过程。该模型概括了最近的研究泊松矩阵分解考虑时间的相互作用，涉及张量结构，标签信息。设计了两个推理过程，一个基于批变分EM和另一个随机变分推理方案，有效地规模与数据大小。本文中一个重要的新颖之处是，我展示了如何堆叠PFM层以引入深度架构。这项工作讨论了应用该模型的一些潜在结果，并解释了这些潜在因素如何有助于分析数据探索的潜在行为。
2017-12-29 cs.CY cs.LG stat.ML
Sequence-Aware Factorization Machines for Temporal Predictive Analytics
The University of Queensland（昆士兰大学）；Griffith University（格里菲斯大学）；National Chiao Tung University（国立交通大学）
在像定向广告和推荐系统的各种web应用中，可用的分类特征（例如，产品类型）通常非常重要，但很少。作为一种广泛采用的解决方案，基于因子分解机（FM）的模型能够对特征之间的高阶交互进行建模，以实现有效的稀疏预测分析。随着网络规模数据量的增长呈指数级增长，稀疏预测分析不可避免地涉及动态和顺序特征。然而，现有的FM为基础的模型假设没有时间顺序的数据，并且无法捕捉的动态功能内的顺序依赖关系或模式，阻碍了这些方法的性能和自适应性。因此，在本文中，我们提出了一种新的时序感知因子分解机（SeqFM）的时间预测分析，模型功能的相互作用，充分调查顺序依赖的影响。作为静态特征（例如，用户性别）和动态特征（例如，用户交互项）表达不同的语义，我们创新性地设计了一个多视图自注意方案，分别对静态特征、动态特征以及静态和动态特征之间的相互作用在三个不同视图中的作用进行建模。在SeqFM中，我们进一步将学习到的特征交互表示映射到具有共享残差网络的所需输出。为了展示SeqFM的多功能性和通用性，我们在基于FM的模型的三个流行应用场景中测试了SeqFM，即排名，分类和回归任务。在六个大规模数据集上的大量实验结果证明了SeqFM的优越性和效率。
2019-11-18 cs.IR cs.LG stat.ML
Contrastive Continual Multi-view Clustering with Filtered Structural Fusion
School of Computer, National University of Defense Technology（国防科技大学计算机学院）；School of Computer Science and Technology, Harbin University of Science and Technology（哈尔滨理工大学计算机科学与技术学院）
针对多视图数据按序到达导致的灾难性遗忘问题，提出CCMVC-FSF，利用固定缓冲区保存过滤结构信息并通过对比学习指导新视图划分，理论关联半监督学习与知识蒸馏，实验验证其优越性能。
2024-03-04 cs.AI cs.CV cs.LG
