arXiv 1802.050352018-02-14stat.ML

非负PARAFAC2：一种灵活的耦合方法

Nonnegative PARAFAC2: a flexible coupling approach

Jeremy E. Cohen, Rasmus Bro

摘要：

在张量分解方法中建模可变性是源分离的挑战之一。一个可能的解决办法，以说明从一个数据集到另一个，共同分析的变化，是诉诸PARAFAC2模式。然而，到目前为止，对具有可变性的模式施加约束是不可能的。在下面的手稿中，引入了PARAFAC2模型的松弛，允许对变化模式施加非负约束。一个算法来计算所提出的灵活PARAFAC2模型的推导，其性能进行了研究合成和化学计量学数据。

英文摘要：

Modeling variability in tensor decomposition methods is one of the challenges of source separation. One possible solution to account for variations from one data set to another, jointly analysed, is to resort to the PARAFAC2 model. However, so far imposing constraints on the mode with variability has not been possible. In the following manuscript, a relaxation of the PARAFAC2 model is introduced, that allows for imposing nonnegativity constraints on the varying mode. An algorithm to compute the proposed flexible PARAFAC2 model is derived, and its performance is studied on both synthetic and chemometrics data.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

非可加非参数模型中恢复稀疏性的变量灵活选择

Flexible Variable Selection for Recovering Sparsity in Nonadditive Nonparametric Models

在非加性非参数模型中恢复稀疏性的变量选择一直是一个挑战。这个问题变得更加困难，由于在建模高维变量之间的未知的相互作用项的复杂性。目前没有变量选择方法来克服这些限制。因此，在本文中，我们提出了一个变量选择方法，通过连接核机器与非参数多元回归模型。我们的方法的优点是，它可以：（1）恢复稀疏性，（2）自动建模未知和复杂的相互作用，（3）连接几个现有的方法，包括线性非负绞绳，核学习和自动相关决定因素（ARD），和（4）提供灵活性的添加剂和非添加剂非参数模型。我们的方法可以看作是一个非负绞喉法的非线性版本。我们用最小二乘核机器对平滑函数进行建模，并构造非负的绞刑架目标函数作为相似矩阵的函数。由于多元回归相似性矩阵可以写成与输入变量相对应的单变量相似性矩阵的加法形式，因此对每个单变量相似性矩阵应用稀疏尺度参数可以揭示其与响应变量的相关性。我们还推导出我们的方法的渐近性质，并表明，它提供了一个平方根相合估计量的尺度参数。在一定条件下，证明了稀疏性满足一致的初始核函数系数，并给出了稀疏性的充分必要条件。提出了一种高效的坐标下降/后拟合算法。我们的变量选择方法也提出了一个rescovery程序，以提高功率。

2012-06-13stat.ME

贝叶斯非负矩阵分解的柔性层次先验

Flexible and Hierarchical Prior for Bayesian Nonnegative Matrix Factorization

在本文中，我们介绍了一个概率模型学习非负矩阵分解（NMF），通常用于预测缺失值和发现隐藏模式的数据，其中矩阵因子是与每个数据维度相关的潜在变量。潜在因子的非负约束通过选择在非负子空间上具有支持度的先验来处理。贝叶斯推理过程的基础上吉布斯抽样。我们在几个真实世界的数据集上评估了该模型，包括具有不同大小和维度的MovieLens 100K和MovieLens 1M，并表明与现有的贝叶斯NMF方法相比，所提出的贝叶斯NMF GRRN模型可以实现更好的预测并避免过拟合。

2022-06-20cs.ITcs.LGmath.IT

紧半非负矩阵分解

Tight Semi-Nonnegative Matrix Factorization

United States Census Bureau（美国人口普查局）；Colorado State University（科罗拉多州立大学）

非负矩阵分解是一种广泛使用的、灵活的矩阵分解，在生物学、图像和信号处理以及信息检索等领域都有应用。在这里，我们提出了一个相关的矩阵分解。多目标优化问题找到近似给定数据矩阵的模板的圆锥组合。选择模板，以便尽可能地仅以这种方式表示初始数据集。然而，模板不需要是原始数据的非负或凸组合。

2017-12-11cs.LGstat.ML

基于张量分解的EEG和fMRI早期柔性融合

Early soft and flexible fusion of EEG and fMRI via tensor decompositions

KU Leuven（鲁汶大学）；University of Piraeus（比雷埃夫斯大学）；KU Leuven Kulak（鲁汶大学科特赖克校区）；Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））

数据融合是指对多个数据集进行联合分析，这些数据集为同一任务提供互补的视图。在这个预印本中，联合分析脑电图（EEG）和功能磁共振成像（fMRI）数据的问题被认为是。联合分析EEG和fMRI测量结果对于研究脑功能非常有益，因为这些模式具有互补的时空分辨率：EEG提供良好的时间分辨率，而fMRI在空间分辨率方面更好。迄今为止报道的融合方法忽略了至少一种模态中数据的潜在多路性质和/或依赖于关于两个数据集的关系的非常强的假设。在本预印本中，这两点是通过在两种模态中首次采用张量模型来解决的，同时还探索了双耦合张量分解，并通过以下软耦合方法来实现多模态分析。为了处理事件相关电位（ERP）的变化，在EEG，PARAFAC 2模型。所得到的结果进行了比较，对并行独立分量分析（ICA）和硬耦合的替代品在模拟和真实数据。我们的研究结果证实了张量方法的优势，基于ICA的方法。在不满足硬耦合假设的场景中，软耦合和灵活耦合分解的优势得到了清楚的证明。

2020-05-12cs.LGeess.SPq-bio.NC

张量分解与稀疏对数线性模型

Tensor decompositions and sparse log-linear models

列联表分析通常依赖于对数线性模型，潜在结构分析提供了一种常见的替代方法。潜在结构模型导致多变量分类数据的概率质量函数的低秩张量因子分解，而对数线性模型通过稀疏性实现降维。很少有人知道这两种范式中的降维概念之间的关系。我们得到了几个结果有关的支持的对数线性模型的非负秩相关的概率张量。受这些发现的启发，我们提出了一个新的折叠Tucker类张量分解，桥接现有的PARAFAC和Tucker分解，提供了一个更灵活的框架，吝啬地表征多元分类数据。以贝叶斯推理方法，我们说明了新的分解在模拟和应用程序的功能残疾数据的优势。

2014-04-01math.STstat.TH

有效的非负Tucker分解：算法与唯一性

Efficient Nonnegative Tucker Decompositions: Algorithms and Uniqueness

Guangdong University of Technology（广东工业大学）；RIKEN Brain Science Institute（理化学研究所脑科学研究所）；Systems Research Institute, Polish Academy of Science（波兰科学院系统研究所）

非负Tucker分解（NTD）是从高维张量数据中提取基于非负部分和物理上有意义的潜在分量的有力工具，同时保留数据的自然多线性结构。然而，由于数据张量往往具有多模态和大规模的特点，现有的NTD算法在存储和计算时间方面都存在很高的计算复杂性，这已经成为NTD实际应用的主要障碍。为了克服这些缺点，我们展示了张量的低（多线性）秩近似（LRA）能够显着简化成本函数的梯度的计算，在此基础上开发了一系列高效的一阶NTD算法。除了大大降低存储复杂度和运行时间，新的算法是非常灵活的和强大的噪声，因为任何成熟的LRA方法可以应用。我们还展示了如何将稀疏性的非负性大大提高了独特性和部分的灾难的塔克分解的维数。仿真实验结果表明了所提算法的有效性和高效性。

2015-09-16cs.CVcs.LGstat.ML

更多相关论文收起更多论文

计算效率高的非负耦合矩阵张量分解的列元素选择

Columnwise Element Selection for Computationally Efficient Nonnegative Coupled Matrix Tensor Factorization

Queensland University of Technology（昆士兰科技大学）；Singapore University of Technology and Design（新加坡科技设计大学）

耦合矩阵张量分解（CMTF）有助于集成和分析多个数据源，并有助于发现有意义的信息。非负CMTF（N-CMTF）已在许多应用中用于识别潜在模式、预测和推荐。然而，由于张量和矩阵数据之间的耦合增加的复杂性，现有的N-CMTF算法表现出较差的计算效率。本文提出了一种基于列元素选择的N-CMTF分解算法，避免了频繁的梯度更新。理论和实证分析表明，与现有的因子分解算法相比，本文提出的N-CMTF因子分解算法不仅精度更高，而且计算效率更高.

2020-03-07cs.LGstat.ML

线性耦合下正则矩阵-张量分解的灵活优化框架

A Flexible Optimization Framework for Regularized Matrix-Tensor Factorizations with Linear Couplings

Simula Metropolitan Center for Digital Engineering（Simula城市数字工程中心）；Oslo Metropolitan University（奥斯陆城市大学）；CNRS（法国国家科学研究中心）；Université de Rennes（雷恩大学）；Inria（法国国家信息与自动化研究所）；IRISA（IRISA研究所）

耦合矩阵和张量分解（CMTF）经常用于联合分析来自多个源的数据，也称为数据融合。然而，多源数据集的不同特征给数据融合带来了许多挑战，需要采用各种正则化、约束、损失函数和不同类型的耦合结构。在本文中，我们提出了一个灵活的算法框架耦合矩阵和张量分解，利用交替优化（AO）和交替方向乘法（ADMM）。该框架便于使用各种约束，损失函数和耦合与线性变换在一个无缝的方式。模拟和真实数据集上的数值实验表明，该方法是准确的，计算效率与可比或更好的性能比现有的CMTF方法的Frobenius范数损失，同时更灵活。使用Kullback-Leibler发散计数数据，我们证明了该算法产生准确的结果，也为其他损失函数。

2020-07-19cs.LGmath.OCstat.ML

基于因子耦合的统计最优运输

Statistical Optimal Transport via Factored Couplings

提出了一种新的方法来估计高维样本中两个概率分布之间的瓦瑟斯坦距离和最优运输方案。不像插件规则，简单地取代他们的经验对应的真实分布，我们的方法促进耦合与低运输秩，一个新的结构假设，这是类似于矩阵的非负秩。基于这一假设的正则化导致了各种任务的高维数据的大幅改进，包括单细胞RNA测序数据中的域适应。这些发现得到了理论分析的支持，理论分析表明，运输排名是克服数据驱动的最佳运输所固有的维数灾难的关键。

2018-11-10cs.LGstat.ML

MPI-FAUN: 一种基于MPI的交替更新非负矩阵分解框架

MPI-FAUN: An MPI-Based Framework for Alternating-Updating Nonnegative Matrix Factorization

Oak Ridge National Laboratories（橡树岭国家实验室）；Wake Forest University（维克森林大学）；Georgia Institute of Technology（佐治亚理工学院）

本文提出MPI-FAUN框架，用于高效解决大规模非负矩阵分解问题，通过交替求解非负最小二乘子问题，实现并行计算，支持多种算法并能处理大规模密集和稀疏数据集。

2016-09-28cs.DCcs.NAmath.NA