Bandits Warm-up Cold Recommender Systems
Project-Team SequeL（SequeL项目团队）
我们解决推荐系统中的冷启动问题，假设没有上下文信息，既不是关于用户，也不是项目。我们考虑的情况下，我们只能访问一组用户的项目的评级。大多数现有的作品考虑批量设置，并使用交叉验证来调整参数。经典的方法包括在最小化的训练子集的收视率，提供了一个因子分解的矩阵的收视率，被解释为一个潜在的代表项目和用户的均方根误差。我们在本文中的贡献是五倍。首先，我们明确了这种批处理设置对用户或评分很少的项目提出的问题。然后，我们提出了一个在线设置更接近实际使用的推荐系统，这种设置的灵感来自强盗框架。所提出的方法可以用于将任何推荐系统数据集（如Netflix，MovieLens等）序列数据集。然后，我们明确了上下文强盗算法和矩阵分解之间的强大和有见地的联系，这使我们一个新的算法，解决了探索/开发困境的冷启动问题在一个惊人的新的角度。最后，实验证据证实，我们的算法是有效的，在处理公开数据集上的冷启动问题。总体而言，本文的目标是弥合基于矩阵分解的推荐系统和基于上下文强盗的推荐系统之间的差距。
2014-07-10 cs.IR cs.LG stat.ML
Implementation of Trained Factorization Machine Recommendation System on Quantum Annealer
Hon Hai (Foxconn) Research Institute（鸿海（富士康）研究院）；Graduate Institute of Applied Physics, National Taiwan University（国立台湾大学应用物理研究所）；Department of Finance, National Taiwan University（国立台湾大学财务金融学系）；Department of Mathematics, National Taiwan University（国立台湾大学数学系）；Department of Mathematics, National Cheng Kung University（国立成功大学数学系）
本文针对训练后FM推荐推理耗时问题，提出FM与QUBO结合并利用量子退火求解的混合算法，在D-Wave NISQ硬件上验证其优于二次的加速优势。
2023-11-08 cs.LG quant-ph
Time-aware Self-Attention Meets Logic Reasoning in Recommender Systems
Jiaying University（嘉应学院）
在大数据时代，推荐系统作为我们日常生活中信息过滤的关键手段已经取得了显着的成功。近年来，推荐系统的技术发展经历了从感知学习到认知推理的过程，将推荐任务直观地构建为逻辑推理的过程，并取得了显著的进步。然而，推理中的逻辑陈述隐含地承认了排序的无关性，甚至没有考虑在许多推荐任务中起重要作用的时间信息。此外，结合时间上下文的推荐模型将倾向于自我关注，即，自动聚焦更多（更少）的相关性（无关性）。针对这些问题，本文提出了一种基于时间感知的自注意力神经协作推理（TiSANCR）推荐模型，将时间模式和自注意力机制集成到基于推理的推荐中。特别是，时间模式表示的相对时间，提供上下文和辅助信息来描述用户的偏好在推荐，而自我注意是利用提取信息模式和抑制无关。因此，自我注意的时间信息的融合提供了更深层次的表示用户的偏好。在基准数据集上进行的大量实验表明，提出的TiSANCR推荐算法性能显著提高，并且始终优于现有的推荐方法。
2022-08-29 cs.AI cs.IR cs.LG
Variational Factorization Machines for Preference Elicitation in Large-Scale Recommender Systems
Inria Saclay（法国国家信息与自动化研究所萨克雷中心）；Kyoto University（京都大学）
因式分解机（FM）是一个强大的工具，用于在稀疏观测的背景下进行回归和分类，已成功应用于协同过滤，特别是当用户或项目的辅助信息可用时。已经提出了FM的贝叶斯公式来提供模型预测的置信区间，但是它们通常涉及马尔可夫链蒙特卡罗方法，需要许多样本来提供准确的预测，导致在大规模数据的背景下训练缓慢。在本文中，我们提出了一个变分公式的因式分解机，使我们能够得到一个简单的目标，可以很容易地使用标准的小批量随机梯度下降优化，使其适合大规模的数据。我们的算法学习用户和项目参数的近似后验分布，这导致预测的置信区间。我们使用几个数据集表明，它在预测精度方面具有与现有方法相当或更好的性能，并提供了主动学习策略中的一些应用，例如，偏好诱导技术。
2022-12-20 cs.AI cs.IR cs.LG
Interaction-aware Factorization Machines for Recommender Systems
Advertising and Marketing Services, Corporate Development Group, Tencent Inc.（腾讯公司广告与营销服务部、企业发展集团）；zju.edu.cn（浙江大学（注：此为邮箱域名，非明确机构名，按要求不应提取，但原HTML中作者邮箱部分可能存在格式问题，根据提取范围，仅提取明确的机构名，此处原文本中唯一明确的机构是腾讯公司的部门，故仅保留该机构））
因子分解机（FM）是一种广泛使用的监督学习方法，它通过有效地建模特征之间的交互作用来实现。尽管FM及其许多深度学习变体的成功应用，但公平地对待每个特征交互可能会降低性能。例如，无用特征的交互可能会引入噪声;当与不同特征交互时，特征的重要性也可能不同。在这项工作中，我们提出了一个新的模型命名为\emph{Interaction-aware Factorization Machine}（IFM）通过引入交互感知机制（IAM），其中包括\emph{feature aspect}和\emph{field aspect}，学习灵活的互动在两个层次上。特征方面通过注意力网络学习特征交互重要性，而场方面学习特征交互效果，作为特征交互向量与相应场交互原型的参数相似度。IFM引入了更多的结构化控制，并以分层的方式学习功能交互的重要性，这允许在功能和字段级别上调整交互时有更多的杠杆作用。此外，我们给出了一个更通用的架构，并提出了交互感知神经网络（INN）和DeepIFM来捕获高阶交互。为了进一步提高IFM的性能和效率，开发了一种基于场方面重要性来选择交互的采样方案。两个著名的数据集的实验结果表明，所提出的模型比国家的最先进的方法的优越性。
2019-02-26 cs.IR cs.LG cs.SI
$FM^2$: Field-matrixed Factorization Machines for Recommender Systems
Yahoo Research（雅虎研究院）
点击率（CTR）预测在推荐系统和在线广告中起着至关重要的作用。这些应用中使用的数据是多字段分类数据，其中每个特征属于一个字段。场信息被证明是重要的，有几个工作考虑领域在他们的模型。在本文中，我们提出了一种新的方法来建模的字段信息有效和高效。所提出的方法是FwFM的直接改进，并被命名为字段矩阵分解机（FmFM，或$FM^2$）。我们还提出了一个新的解释FM和FwFM的FMFM框架内，并与FFM进行了比较。除了修剪交叉项之外，我们的模型还支持嵌入向量的特定于字段的可变维度，这相当于软修剪。我们还提出了一种有效的方法来最小化维数，同时保持模型的性能。FmFM模型还可以通过缓存中间向量来进一步优化，并且只需要数千次浮点运算（FLOP）就可以进行预测。我们的实验结果表明，它可以优于FFM，这是更复杂的。FmFM模型的性能也与DNN模型相当，DNN模型在运行时需要更多的FLOP。
2021-03-19 cs.IR cs.LG
Low Rank Field-Weighted Factorization Machines for Low Latency Item Recommendation
Yahoo Research（雅虎研究院）
针对FwFM推理成本随字段数平方增长的问题，提出对角加对称低秩分解方法，使推理成本仅与项目字段数成正比，实验证明其在准确性和推荐速度上均优于启发式剪枝，并已部署于大型在线广告系统。
2024-07-22 cs.IR cs.LG stat.ML
Recommender Systems meet Mechanism Design
Yale University（耶鲁大学）；MIT（麻省理工学院）
机器学习已经开发了各种工具来学习和表示具有结构的高维分布。近年来，在设计多项机制方面也取得了很大进展。然而，类似于过拟合，这些机制可能对它们所针对的贝叶斯先验极其敏感，当先验仅近似已知时，这就成了问题。与此同时，即使获得精确的贝叶斯先验，它是已知的，最佳的，甚至近似最佳的多项机制运行到样本，计算，表示和通信棘手的障碍。我们考虑一个自然类的多项目机制设计问题，非常大的项目数，但投标人的价值分布可以很好地近似的主题模型，类似于那些在推荐系统中使用非常大量的可能的建议。我们提出了一个机制设计框架，这种设置，建立在最近的鲁棒化框架的Brustle等人，其将估计多维先验的统计挑战与为其设计良好机制的任务分开，并且针对前者的估计误差增强后者的性能。我们提供了一个扩展的框架，适合我们的设置，这使我们能够利用主题模型的表达能力，以减少有效的维度的机制设计问题，并删除依赖的计算，通信和表示的复杂性的项目数。
2022-03-31 cs.GT cs.IR cs.LG
Content-boosted Matrix Factorization Techniques for Recommender Systems
University College London（伦敦大学学院）；University of Waterloo（滑铁卢大学）
许多企业正在使用推荐系统进行营销推广。推荐算法可以基于内容或由协同过滤驱动。我们研究了不同的方式，将内容信息直接到矩阵分解方法的协同过滤。这些内容提升的矩阵分解算法不仅提高了推荐的准确性，而且还提供了关于内容的有用见解，并使推荐更容易解释。
2013-01-04 cs.LG stat.ML
BLC: Private Matrix Factorization Recommenders via Automatic Group Learning
School of Computer Science and Statistics, Trinity College（都柏林圣三一学院计算机科学与统计学院）
我们提出了一个隐私增强的矩阵分解推荐，利用这一事实，用户往往可以分组在一起的兴趣。这允许一种形式的“隐藏在人群中”的隐私。我们介绍了一种新的矩阵分解方法，适合在一个共享组（或NYM）设置和BLC算法进行这种矩阵分解的隐私增强的方式进行建议。我们证明，增加隐私并不以降低推荐准确性为代价。
2017-02-27 cs.LG stat.ML
How to Profile Privacy-Conscious Users in Recommender Systems
IBM Research（IBM研究院）；OneSpan（OneSpan公司）
矩阵分解是构建推荐系统的一种常用方法。在这样的系统中，现有的用户和项目被关联到称为简档的低维向量。用户和项目的配置文件可以组合（通过内积）来预测用户将获得的项目评级。这种系统的一个重要问题是所谓的冷启动问题：如何让用户了解她的个人资料，以便她可以得到准确的建议？虽然如果用户愿意对精心选择的项目进行评级和/或提供补充属性或人口统计（诸如性别），则可以计算简档，但是已知揭示该附加信息以允许推荐系统的分析员推断出更多的个人敏感信息。我们设计了一个协议，让隐私意识的用户受益于基于矩阵分解的推荐系统，同时保护他们的隐私。更准确地说，我们的协议使用户能够了解她的个人资料，并从中预测评级，而无需用户透露任何个人信息。该协议在标准模型下对半诚实攻击者是安全的。
2018-12-01 cs.CR cs.LG
Low-Precision Hardware Architectures Meet Recommendation Model Inference at Scale
Facebook（脸书）
机器学习（ML）的巨大成功和ML模型复杂性的持续增长，促使CPU和加速器架构中的许多ML特定设计加快模型推理。虽然这些架构多种多样，但高度优化的低精度算法是大多数架构共享的组件。这些架构在基准ML模型上确实经常表现出令人印象深刻的计算吞吐量。然而，对Facebook的个性化服务很重要的推荐系统等生产模型要求很高，也很复杂：这些系统必须每月以低延迟响应数十亿用户，同时保持高预测准确性，尽管每个推理需要数百亿个参数进行计算。这些低精度架构是否与我们的生产推荐系统配合良好？他们会去的而且但不是没有重大的努力。我们在本文中分享了我们的搜索策略，以适应参考推荐模型低精度的硬件，我们的低精度计算内核的优化，以及工具链的设计和开发，以保持我们的模型的准确性在其整个生命周期期间，主题趋势和用户的兴趣不可避免地演变。实践这些低精度技术帮助我们节省了数据中心容量，同时部署了复杂度高达5倍的模型，这些模型原本不会部署在传统的通用CPU上。我们相信，这些来自战壕的经验教训促进了硬件架构和软件工程之间更好的协同设计，并推动了ML在工业中的发展。
2021-05-26 cs.AR cs.IR cs.LG
Ordinal Non-negative Matrix Factorization for Recommendation
IRIT, Université de Toulouse, CNRS（图卢兹大学 IRIT 研究所、法国国家科学研究中心）；ISAE-SUPAERO, Université de Toulouse（图卢兹大学 ISAE-SUPAERO 高等航空与航天学院）
本文提出了一种新的非负矩阵分解方法，称为OrdNMF。有序数据是类别数据，它们在类别之间表现出自然的顺序。特别是，它们可以在推荐系统中找到，无论是显式数据（如评级）还是隐式数据（如量化播放计数）。OrdNMF是一种概率潜在因子模型，它将Bernoulli-Poisson因子分解（BePoF）和Poisson因子分解（PF）推广到二进制数据。与这些方法相反，OrdNMF避免了二值化，并且可以利用数据的更多信息表示。我们设计了一个有效的变分算法的基础上，一个合适的模型增强和相关的变分PF。特别是，我们的算法保留了PF的可扩展性，并可以应用于巨大的稀疏数据集。我们报告了显式和隐式数据集上的推荐实验，并表明OrdNMF优于应用于二进制数据的BePoF和PF。
2020-09-02 cs.LG stat.ML
Cold-start recommendations in Collective Matrix Factorization
这项工作探讨了集体矩阵分解模型在推荐系统中对用户和项目进行预测的能力，这些用户和项目有辅助信息，但没有反馈或交互数据，并提出了一种新的公式，具有更快的冷启动预测公式，可用于实时系统。虽然这些冷启动推荐不如热启动推荐好，但发现它们比非个性化推荐质量更好，并且发现对新用户的预测比对新项目的预测更可靠。这里提出的配方导致在许多情况下改进的冷启动建议，在更差的热启动的费用。
2020-03-16 cs.IR cs.LG stat.ML
Negative Binomial Matrix Factorization for Recommender Systems
IRIT, Université de Toulouse, CNRS（图卢兹大学 IRIT 研究所、法国国家科学研究中心）
我们介绍负二项矩阵分解（NBMF），矩阵分解技术专门设计用于分析过分散计数数据。它可以被看作是一个扩展的泊松矩阵分解（PF）扰动的乘法项模型曝光。这个术语为控制分散带来了一定的自由度，使NBMF对离群值更加鲁棒。我们表明，NBMF允许跳过传统的预处理阶段，如二值化，这会导致信息丢失。两种估计方法：最大似然和变分贝叶斯推断。我们用推荐任务测试了我们的模型，并展示了它比PF更精确地预测用户口味的能力。
2018-01-05 cs.IR cs.LG stat.ML
SPMF: A Social Trust and Preference Segmentation-based Matrix Factorization Recommendation Algorithm
College of Economics and Management, Shandong University of Science and Technology（山东科技大学经济管理学院）
传统的社会化推荐算法忽略了以下事实：具有信任关系的用户的偏好不一定相似，对用户偏好相似性的考虑应局限于特定领域。针对上述问题，提出了一种基于社会信任和偏好分割的矩阵分解推荐系统。基于Ciao和Epperly数据集的实验结果表明，SPMF算法的推荐准确率明显高于现有的推荐算法。SPMF算法是一种基于区分信任关系和偏好域差异的更准确、更有效的推荐算法，可以支持产品营销等商业活动。
2019-03-11 cs.IR cs.LG stat.ML
Federated Multi-view Matrix Factorization for Personalized Recommendations
Helsinki Research Center（赫尔辛基研究中心）；Europe Cloud Service Competence Center（欧洲云服务能力中心）；Huawei Technologies Oy (Finland) Co. Ltd（华为技术有限公司（芬兰））
我们引入了联邦多视图矩阵分解方法，将联邦学习框架扩展到多数据源的矩阵分解。我们的方法是能够学习多视图模型，而无需将用户的个人数据传输到中央服务器。据我们所知，这是第一个使用多视图矩阵分解提供推荐的联邦模型。该模型在生产环境的三个数据集上进行了严格的评估。实证验证证实，联邦多视图矩阵分解优于不考虑数据多视图结构的简单方法，此外，它还证明了所提出的方法对于冷启动联邦推荐的挑战性预测任务的有用性。
2020-04-08 cs.IR cs.LG stat.ML
An Introduction to Matrix factorization and Factorization Machines in Recommendation System, and Beyond
本文旨在更好地理解矩阵分解（MF），分解机（FM），以及它们与深层算法的结合在推荐系统中的应用。具体来说，本文将重点介绍奇异值分解（SVD）及其衍生物，例如Funk-SVD，SVD++等。逐步公式计算和解释图片显示。更重要的是，我们解释了DeepFM模型，其中FM由深度学习辅助。通过数值例子，我们试图将理论与现实世界的问题联系起来。
2022-03-12 cs.IR cs.LG
Diversely Regularized Matrix Factorization for Accurate and Aggregately Diversified Recommendation
Seoul National University（首尔国立大学）
在向用户推荐个性化的热门$k$商品时，我们如何在满足用户需求的同时向用户推荐个性化的商品？聚合多样性推荐系统的目标是在不牺牲推荐准确性的情况下向所有用户推荐各种项目。它们增加了各种物品的曝光机会，这反过来又增加了卖家的潜在收入和用户满意度。然而，它是具有挑战性的，以解决聚合级的多样性与矩阵分解（MF），最常见的推荐模型之一，因为倾斜的真实世界数据导致倾斜的MF推荐结果。在这项工作中，我们提出了DivMF（DifferentialRegularized Matrix Factorization），一种新的矩阵分解方法，用于聚合多样化推荐。DivMF正则化MF模型的得分矩阵以最大化前$k$推荐列表的覆盖率和熵，从而使推荐结果聚合地多样化。我们还提出了一个unmasking机制和精心设计的多批次学习技术，以实现准确和高效的训练。在真实数据集上的大量实验表明，DivMF在聚合多样性推荐方面达到了最先进的性能。
2022-10-19 cs.IR cs.LG
Clustering-Based Matrix Factorization
推荐系统是一种新兴的技术，现在可以在许多应用程序中找到，如亚马逊，Netflix等。这些系统帮助用户找到相关信息，推荐和他们喜欢的项目。这些分类器的准确性的稍微提高可以高度影响推荐的质量。矩阵分解是推荐系统中的一种流行方法，在准确性和复杂性方面都有很好的效果。在本文中，我们提出了一个扩展的矩阵分解，增加了一般的邻域信息的推荐模型。用户和项目被聚集到不同的类别中，以查看这些类别如何共享首选项。然后，我们使用这些类别的共同利益的融合偏置矩阵分解，以实现更准确的建议。这是对当前邻域感知矩阵分解模型的补充，该模型依赖于使用用户和项目的直接邻域信息。该模型在两个著名的推荐系统数据集上进行了测试：Movielens100k和Netflix。我们的实验表明，将类别的一般潜在特征应用到因子化推荐模型中可以提高推荐的准确性。目前的邻域感知模型需要大量的邻域才能达到良好的精度。据我们所知，所提出的模型是更好的或与当前的邻居感知模型相比，当他们考虑较少的邻居。
2013-08-01 cs.LG
Providing reliability in Recommender Systems through Bernoulli Matrix Factorization
Universidad Politécnica de Madrid（马德里理工大学）
除了准确性，质量指标在现代推荐系统中越来越重要，可靠性是协同过滤环境中最重要的指标之一。本文提出了伯努利矩阵分解（BeMF），这是一个矩阵分解模型，提供预测值和可靠性值。BeMF从几个方面来看是一种非常创新的方法：a）其作用于基于模型的协同过滤而不是基于存储器的过滤，b）其不使用外部方法或扩展架构（诸如现有解决方案）来提供可靠性，c）其基于基于分类的模型而不是传统的基于回归的模型，以及d）伯努利分布支持矩阵分解形式，以利用所设计的分类模型的二进制性质。实验结果表明，预测越可靠，出错的可能性就越小：选择最可靠的预测后，推荐质量会得到提高。测试了最先进的可靠性质量指标，结果表明BeMF优于以前的基线方法和模型。
2022-03-04 cs.IR cs.LG stat.ML
Matrix Factorization Equals Efficient Co-occurrence Representation
The Hong Kong University of Science and Technology（香港科技大学）
矩阵分解是解决推荐问题的一种简单有效的方法。它在工业界得到了广泛的应用，并引起了学术界的广泛关注。然而，目前还不清楚低维矩阵代表什么。我们表明，矩阵分解实际上可以看作是同时计算的特征向量的用户-用户和项目-项目样本共生矩阵。然后，我们使用随机矩阵理论（RMT）的见解表明，选择顶部特征向量对应于从用户/项目共生矩阵中去除采样噪声。因此，低维矩阵表示减少噪声的用户和项目同现空间。我们还分析了顶部特征向量的结构，并表明它对应于全局效应，删除它会导致推荐不太受欢迎的项目。这增加了推荐项目的多样性，而不影响准确性。
2018-08-28 cs.LG stat.ML
Song Recommendation with Non-Negative Matrix Factorization and Graph Total Variation
Swiss Federal Institute of Technology (EPFL)（瑞士联邦理工学院（洛桑联邦理工学院））
这项工作制定了一个新的歌曲推荐系统作为一个矩阵完成的问题，受益于协同过滤通过非负矩阵分解（NMF）和基于内容的过滤通过全变差（TV）的图形。这些图表使用音频、元数据和社交功能的丰富组合对播放列表接近度信息和歌曲相似度进行编码。正如我们所展示的，我们的混合推荐系统是非常通用的，并结合了几个著名的方法，同时优于他们。特别是，我们在现实世界的数据表明，我们的模型克服了w.r.t.两个评估度量：仅基于低秩信息、基于图的信息或两者的组合的模型的推荐。
2016-01-13 cs.IR cs.LG physics.data-an
Block based Singular Value Decomposition approach to matrix factorization for recommender systems
University of Hyderabad（海得拉巴大学）；Central University of Rajasthan（拉贾斯坦中央大学）
近年来，随着数据的丰富，在推荐系统领域提出了有趣的挑战。生成具有可扩展性和性能的高质量推荐是当前的需求。基于奇异值分解（SVD）的推荐算法已经被利用来产生更好的结果。在本文中，我们进一步扩展SVD技术的可扩展性和性能的上下文中1）多线程2）多个计算单元（使用图形处理单元）和3）分布式计算。我们提出了基于块的矩阵分解（BMF）与SVD配对。这使我们能够利用SVD而不是基本矩阵分解（MF），同时利用BMF的并行性和可扩展性。我们使用统一计算设备架构（CUDA）平台和相关硬件来利用图形处理单元（GPU）以及基于块的SVD来展示性能和内存方面的优势。
2019-07-17 cs.AI cs.IR cs.LG
Alternating Linear Bandits for Online Matrix-Factorization Recommendation
College of Information and Computer Sciences（信息与计算机科学学院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Department of Statistics and Data Science（统计与数据科学系）；Yale University（耶鲁大学）
我们考虑的问题，在线协同过滤的在线设置，项目推荐给用户随着时间的推移。在每个时间步，用户（由环境选择）消费项目（由代理选择）并提供所选项目的评级。在本文中，我们提出了一种新的算法，结合线性强盗和交替最小二乘在线矩阵分解推荐。在这个公式中，强盗反馈等于最好的和选择的项目之间的评分差。我们使用累积遗憾和平均累积NDCG来评估所提出算法随时间的性能。在三个人工数据集和三个真实数据集上的在线协同过滤仿真结果表明，该算法优于两个国家的最先进的在线算法。
2018-10-22 cs.IR cs.LG stat.ML
Does Weighting Improve Matrix Factorization for Recommender Systems?
University of Alberta Edmonton, AB Canada；Netflix, Inc. Los Gatos, CA USA；Netflix, Inc. \& Cornell University New York, NY USA；University of Alberta；Netflix, Inc.；Netflix, Inc. \& Cornell University
本文系统研究了推荐系统矩阵分解中的加权方案，发现未加权数据在大型模型上表现相当甚至更优，挑战了传统观念，同时推导出精确最小化加权目标的高效算法。
2025-10-12 cs.IR cs.LG stat.ML
Scalable Recommendation with Poisson Factorization
Princeton University（普林斯顿大学）；Microsoft Research（微软研究院）
我们开发了一个贝叶斯泊松矩阵分解模型，用于从稀疏的用户行为数据中形成推荐。这些数据是大的用户/项目矩阵，其中每个用户仅对项目的小子集提供反馈，或者显式地（例如，通过星级）或隐含地（例如，通过浏览或购买）。与传统的矩阵分解方法不同，泊松分解隐式地对每个用户对消费项目的有限注意力进行建模。此外，由于泊松似然的数学形式，该模型只需要显式地考虑矩阵中观察到的条目，从而实现可扩展的计算和良好的预测性能。我们开发了一个变分推理算法的近似后验推理，规模庞大的数据集。这是一种有效的算法，它迭代观察到的条目并调整用户/项目表示的近似后验。我们将我们的方法应用于大型真实世界的用户数据，其中包含用户对电影的评分，用户听歌和用户阅读科学论文。在所有这些设置中，贝叶斯泊松分解优于最先进的矩阵分解方法。
2014-05-20 cs.AI cs.IR cs.LG
Recommending with an Agenda: Active Learning of Private Attributes using Matrix Factorization
Technicolor（特艺集团）
推荐系统利用用户人口统计信息，例如年龄、性别等，个性化推荐，更好地投放目标广告。通常情况下，由于隐私问题，或者由于缺乏填写在线个人资料的主动性，用户不会自愿提供这些信息。我们说明了一个新的威胁，其中推荐学习私人属性的用户谁不自愿透露他们。我们设计了被动和主动攻击，征求评级的战略选择的项目，因此可以使用的推荐系统来追求这个隐藏的议程。我们的方法是基于一个新的使用贝叶斯矩阵分解的主动学习设置。对多个数据集的评估表明，这种攻击确实是可行的，并且比静态推理方法使用更少的评级项目。重要的是，它们在不牺牲向用户推荐的质量的情况下取得了成功。
2014-07-30 cs.CY cs.LG
Privacy Preserving Point-of-interest Recommendation Using Decentralized Matrix Factorization
AI Department, Ant Financial Services Group（蚂蚁金融服务集团人工智能部门）
兴趣点（POI）推荐最近由于基于位置的网络的日益普及而引起了很多关注，例如，Foursquare和Yelp在现有的POI推荐方法中，基于矩阵分解（MF）的技术已被证明是有效的。然而，现有的MF方法存在两个主要问题：（1）由于集中式模型训练机制而导致的昂贵的计算和存储：集中式学习器必须维护整个用户-项目评分矩阵，以及潜在的巨大的低秩矩阵。(2)隐私问题：用户的偏好存在通过集中式学习器泄露给恶意攻击者的风险。为了解决这些问题，我们提出了一个分散的MF（DMF）框架的兴趣点推荐。具体地说，我们提出了一种基于随机游走的分散训练技术来训练每个用户端的MF模型，而不是维护所有的低秩矩阵和敏感的评级数据用于训练，例如，手机和Pad。通过这样做，每个用户的评级仍然保持在自己的手上，而且，分散学习可以被视为具有多个学习者（用户）的分布式学习，从而简化了计算和存储问题。在两个真实数据集上的实验结果表明，与经典和最新的潜在因子模型相比，DMF在推荐精度和召回率方面都有显著的提高.
2020-03-12 cs.AI cs.LG stat.ML
VRConvMF: Visual Recurrent Convolutional Matrix Factorization for Movie Recommendation
China University of Petroleum（中国石油大学）；East China Jiaotong University（华东交通大学）；Federation University Australia（澳大利亚联邦大学）
用户对项目评分数据的稀疏性成为推荐系统面临的挑战之一，严重影响了推荐系统的性能。幸运的是，上下文感知推荐系统可以通过利用一些辅助信息，如用户和项目的信息来缓解稀疏性问题。特别是，项目的视觉信息，如电影海报，可以被认为是对项目描述文档的补充，这有助于获得更多的项目特征。本文针对电影推荐系统，提出了一种基于概率矩阵分解的视觉递归卷积矩阵分解（VRConvMF）推荐方案，该方案利用了从描述性文本和海报中分别提取的文本特征和多层次视觉特征。我们实现了所提出的VRConvMF，并在三个常用的真实世界数据集上进行了广泛的实验，以验证其有效性。实验结果表明，所提出的VRConvMF算法性能优于现有算法.
2022-02-16 cs.CV cs.IR cs.LG
Fast Adaptively Weighted Matrix Factorization for Recommendation with Implicit Feedback
College of Computer Science, Zhejiang University（浙江大学计算机科学学院）；Zhejiang University-LianlianPay Joint Research Center（浙江大学-连连支付联合研究中心）
由于缺乏可靠的观察到的负面数据，隐式反馈的推荐是一项极具挑战性的任务。一种流行而有效的隐式推荐方法是将未观察到的数据视为负面，但降低其置信度。当然，如何分配置信度权重和如何处理大量的未观测数据是隐式推荐模型的两个关键问题。然而，现有的方法要么追求快速学习，通过手动分配简单的信心权重，这缺乏灵活性，并可能会产生经验偏见，在评估用户的偏好;或自适应推断个性化的信心权重，但效率低下。为了实现自适应权重分配和有效的模型学习，我们提出了一种快速自适应加权矩阵分解（FAWMF）的变分自动编码器的基础上。个性化数据的置信度权重自适应分配与参数化神经网络（功能）和网络可以推断出的数据。此外，为了支持FAWMF的快速和稳定的学习，已经开发了一种新的特定的基于批处理的学习算法fBGD，其在所有反馈数据上进行训练，但其复杂度与观测数据的数量成线性关系。在真实数据集上的大量实验证明了所提出的FAWMF及其学习算法fBGD的优越性。
2020-03-04 cs.IR cs.LG stat.ML
Theoretically Accurate Regularization Technique for Matrix Factorization based Recommender Systems
正则化是解决机器学习算法过拟合问题的一种常用技术。大多数正则化技术依赖于正则化系数的参数选择。插入法和交叉验证法是岭回归、Lasso回归和核回归等回归方法中最常用的两种参数选择方法。基于矩阵分解的推荐系统也严重依赖于正则化技术。大多数人选择单个标量值来独立或共同正则化用户特征向量和项目特征向量。在本文中，我们证明了这种选择正则化系数的方法是无效的，我们提供了一个理论上准确的方法，优于最广泛使用的方法在准确性和公平性指标。
2022-05-21 cs.IR cs.LG
Privacy-Preserving Matrix Factorization for Recommendation Systems using Gaussian Mechanism
Bangladesh University of Engineering and Technology（孟加拉国工程技术大学）
本文提出基于差分隐私框架与矩阵分解的隐私保护推荐系统，利用高斯机制输出扰动和 Rényi 差分隐私，在真实数据上验证了严格隐私下仍可保持良好推荐效用。
2023-04-11 cs.CR cs.IR cs.LG
FedSPLIT: One-Shot Federated Recommendation System Based on Non-negative Joint Matrix Factorization and Knowledge Distillation
University of Maryland, Baltimore County（马里兰大学巴尔的摩郡分校）；LANL（洛斯阿拉莫斯国家实验室）
非负矩阵分解（NMF）与缺失值完成是一个著名的有效的协同过滤（CF）方法，用于提供个性化的用户推荐。然而，传统的CF依赖于隐私侵犯收集用户的显式和隐式反馈，以建立一个中央推荐模型。单次联邦学习最近出现了一种方法，以减轻隐私问题，同时解决传统的联邦学习的通信瓶颈。在本文中，我们提出了第一个无监督的一次性联邦CF实现，名为FedSPLIT，基于NMF联合因式分解。在我们的解决方案中，客户端首先并行应用本地CF来构建不同的客户端特定的编译器。然后，从每个客户端的隐私保护的本地项目模式和偏见与处理器共享，以执行联合因子分解，以提取全局项目模式。然后，将提取的模式聚合到每个客户端，以通过知识蒸馏构建本地模型。在我们的实验中，我们证明了我们的方法与标准的推荐数据集的可行性。FedSPLIT可以获得与现有技术相似的结果（在某些情况下甚至优于现有技术），但通信数量大幅减少。
2022-05-04 cs.IR cs.LG
Triplet Losses-based Matrix Factorization for Robust Recommendations
Politecnico di Torino（都灵理工大学）
就像其他基于学习的模型一样，推荐系统也会受到训练数据偏差的影响。虽然典型的评估指标（如命中率）不关心它们，但某些类别的最终用户受到这些偏见的严重影响。在这项工作中，我们建议使用多个三重损失条款提取有意义的和强大的表示用户和项目。我们通过几个“偏见意识”的评价指标，以及在训练集的变化和预测方差w.r.t.协议的稳定性，经验评估这种表示的合理性。每个用户的。
2022-10-21 cs.IR cs.LG
Recommendations with Sparse Comparison Data: Provably Fast Convergence for Nonconvex Matrix Factorization
EPFL（瑞士联邦理工学院）；TUM（慕尼黑工业大学）
本文研究用户通过成对比较给出反馈的推荐问题，证明非凸损失在真实解附近具有受限强凸性，使梯度方法在稀疏比较数据下借助热启动实现指数级快速收敛。
2025-08-19 cs.LG
Is Simple Better? Revisiting Non-linear Matrix Factorization for Learning Incomplete Ratings
ETH Zurich（苏黎世联邦理工学院）
矩阵分解技术已被广泛用作推荐系统的协同过滤方法。最近，在这种情况下，已经探索了深度学习算法的不同变体，以改进使用用户-项目交互数据进行个性化推荐的任务。潜在用户或项目因素与原始特征之间的映射是高度非线性的，这一想法表明经典的矩阵分解技术不再足够。在本文中，我们提出了一种多层非线性半非负矩阵分解方法，其动机是用户-项目交互可以更准确地使用非线性项目特征的线性组合来建模。首先，我们从设计的多层非线性Semi-NMF方法中学习用户和项目表示的潜在因素。其次，将构建的架构与深度学习算法（如受限玻尔兹曼机和最先进的深度矩阵分解技术）进行比较。通过在潜在项空间中使用监督率预测任务和无监督聚类，我们证明了我们提出的方法在预测中具有更好的泛化能力，并且在聚类任务中具有与深度矩阵分解相当的表示能力。
2018-09-21 cs.LG stat.ML
Decentralized Matrix Factorization with Heterogeneous Differential Privacy
Research Institute for Interdisciplinary Sciences（交叉科学研究院）；School of Information Management and Engineering（信息管理与工程学院）；Shanghai University of Finance and Economics（上海财经大学）
本文提出HDPMF算法，首次在不可信推荐器场景下实现去中心化矩阵分解的异构差分隐私，通过改进拉伸机制和隐私预算分配在强隐私保障、高维模型和稀疏数据场景下取得更优的隐私与准确性权衡。
2023-09-17 cs.CR cs.LG
Privacy Threats Against Federated Matrix Factorization
Hong Kong University of Science and Technology（香港科技大学）；Southern University of Science and Technology（南方科技大学）；WeBank Co. Ltd（微众银行）
矩阵分解在实际推荐应用和电子商务中非常成功。由于数据短缺和严格的法规，很难收集足够的数据来为单个公司构建高性能的推荐系统。联邦学习提供了在不损害隐私和安全的情况下桥接数据孤岛和构建机器学习模型的可能性。共享共同用户或项目的参与者协作地在来自所有参与者的数据上构建模型。已经有一些工作探索应用联邦学习的推荐系统和协同过滤系统中的隐私问题。然而，联邦矩阵分解中的隐私威胁没有被研究。本文根据特征空间的划分将联邦矩阵分解分为三类，并分析了每类联邦矩阵分解模型的隐私威胁。我们还讨论了隐私保护方法。据我们所知，这是联邦学习框架中的矩阵分解方法的隐私威胁的第一个研究。
2020-07-03 cs.CR cs.LG stat.ML
Coupled Graphs and Tensor Factorization for Recommender Systems and Community Detection
University of Minnesota（明尼苏达大学）
对来自多个信息存储库的数据进行联合分析有助于揭示异构数据集的底层结构。单和耦合矩阵张量因子分解（CMTF）已被广泛用于这种情况下的估算为基础的建议，从收视率，社交网络，和其他用户项目数据。当该边信息是项目-项目相关矩阵或图的形式时，现有的CMTF算法可能达不到要求。为了缓解当前的限制，我们引入了一种新的模型，称为耦合图张量因子分解（CGTF），它明智地考虑了图相关的边信息。CGTF模型具有克服实际挑战的潜力，例如张量中缺少板和/或相关矩阵中缺少行/列。一种新的交替方向的乘法器（ADMM）的方法也被开发，恢复CGTF的非负因子。我们的算法享有封闭形式的更新，从而降低计算复杂性，并允许收敛索赔。一个新的方向，进一步探索采用可解释的因素，以检测图社区的张量作为边信息。由此产生的社区检测方法是成功的，即使在图中的一些链接丢失。真实数据集的结果证实了所提出的方法相对于最先进的竞争因子分解技术在提供建议和检测社区的优点。
2019-05-30 cs.LG cs.SI eess.SP
PoissonMat: Remodeling Matrix Factorization using Poisson Distribution and Solving the Cold Start Problem without Input Data
矩阵分解是近十年来最成功的推荐系统技术之一。然而，矩阵分解的经典概率理论框架是使用正态分布建模的。为了找到更好的概率模型，近年来发明了RankMat，ZeroMat和DotMat等算法。本文将推荐系统中的用户评分行为建模为泊松过程，设计了一种不依赖输入数据的算法，同时解决了推荐问题和冷启动问题。通过与矩阵分解、随机布局、Zipf布局、ZeroMat、DotMat等算法的比较，证明了该算法的优越性。
2022-12-06 cs.AI cs.IR cs.LG
PrivMVMF: Privacy-Preserving Multi-View Matrix Factorization for Recommender Systems
National University of Singapore（新加坡国立大学）
本文针对联邦推荐系统中矩阵分解的隐私风险，提出基于同态加密的隐私保护多视图矩阵分解框架PrivMVMF，实验证明其能有效抵御服务器重构攻击。
2022-09-29 cs.AI cs.IR cs.LG
Clustered Monotone Transforms for Rating Factorization
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Microsoft Research（微软研究院）
利用用户-项目评分矩阵的低秩结构一直是许多推荐引擎的关键。然而，现有的推荐引擎迫使具有异构行为简档的评级者将其内在评级尺度映射到公共评级尺度（例如，1-5）。评级量表的这种非线性变换打破了评级矩阵的低秩结构，因此导致拟合度差，从而导致不良推荐。在本文中，我们提出了一种新的方法来进行回归到未知的单调变换的评级因子分解（CMTRF），未知的单调变换未知的人口段。本质上，对于推荐系统，该技术搜索评级尺度的单调变换，从而得到更好的拟合。这是结合了一个潜在的矩阵分解回归模型，耦合用户明智的评级，以利用共享的低维结构。可以为每个用户，为一群用户，或为所有的用户一次，形成本文中提出的三个简单而有效的算法的基础上，所有这些都交替的评级尺度和矩阵分解回归之间的变换的评级尺度转换。尽管CMTRF的非凸性，理论上证明恢复一个唯一的解决方案，在温和的条件下。在两个合成数据集和七个真实数据集上的实验结果表明，CMTRF优于其他最先进的基线。
2018-10-31 cs.IR cs.LG stat.ML
BanditMF: Multi-Armed Bandit Based Matrix Factorization Recommender System
多武装匪徒（MAB）提供了一个原则性的在线学习方法，以实现勘探和开发之间的平衡。多臂强盗算法由于其优越的性能和低反馈学习而无需学习在多种情况下采取行动，在推荐系统等应用中受到广泛关注。同样，在推荐系统中，协同过滤（CF）可以说是推荐系统中最早和最有影响力的方法。至关重要的是，新用户和不断变化的推荐项目池是推荐系统需要解决的挑战。对于协同过滤，经典的方法是离线训练模型，然后进行在线测试，但这种方法已经不能处理用户偏好的动态变化，即所谓的冷启动。那么在缺乏有效信息的情况下，如何有效地向用户推荐商品呢？为了解决上述问题，一个多臂强盗的协同过滤推荐系统已被提出，命名为BanditMF。BanditMF主要解决多臂Bandits算法和协同过滤中的两个难题：（1）如何解决有效信息稀缺条件下协同过滤的冷启动问题;（2）如何解决强社会关系域中Bandits算法由于独立估计与每个用户相关的未知参数而忽略用户之间的相关性而导致的次优问题。
2022-10-24 cs.IR cs.LG
GAN-based Matrix Factorization for Recommender Systems
ContentWise（ContentWise公司）；Politecnico di Milano（米兰理工大学）
生成对抗网络（GAN）于2014年提出，引发了人们对生成建模的新兴趣。他们立即实现了图像合成，图像到图像翻译，文本到图像生成，图像修补的最先进技术，并已被用于从医学到高能粒子物理学的科学。尽管GAN具有学习任意分布的能力，但其在推荐系统（RS）中尚未得到广泛应用。此外，在RS中引入GAN的技术中，只有少数技术直接将其用作协同过滤（CF）模型。在这项工作中，我们提出了一种新的基于GAN的方法，该方法可以在矩阵分解设置中学习用户和项目潜在因素，以解决通用的top-N推荐问题。在CF GAN引入的用于RS的矢量式GAN训练方法之后，我们确定了将GAN用于CF时的2个独特问题。我们提出了解决方案，他们都使用一个自动编码器作为编码器，并将一个额外的损失函数的发生器。我们通过RS社区中的知名数据集评估了我们的模型GANMF，并显示了对传统CF方法和基于GAN的模型的改进。通过对GANMF组件的消融研究，我们的目标是了解我们的架构选择的影响。最后，我们对GANMF的矩阵分解性能进行了定性评估。
2022-01-20 cs.IR cs.LG
Data Context Adaptation for Accurate Recommendation with Additional Information
Seoul National University（首尔国立大学）
给定一个稀疏的评分矩阵和一个用户或项目的辅助矩阵，我们如何在考虑实体的不同数据上下文的情况下准确地预测缺失的评分？以往的研究证明，利用评分数据中的附加信息有助于提高绩效。然而，现有方法的局限性在于：1）它们忽略了评级和辅助矩阵的数据上下文不同的事实，2）它们具有有限的表达用户或项目的独立性信息的能力，以及3）它们假设用户和项目之间的关系是线性的。我们提出了DaConA，一个基于神经网络的方法与评级矩阵和辅助矩阵的推荐。DaConA的设计有以下三个主要思想。首先，我们提出了一个数据上下文适应层，以提取相关的功能，为不同的数据上下文。其次，DaConA用潜在相互作用向量和潜在独立向量表示每个实体。与以前的方法不同，这两个向量的大小都没有限制。最后，虽然以前的基于矩阵分解的方法通过潜在向量的内积预测缺失值，但DaConA通过神经网络学习它们的非线性函数。我们表明，DaConA是一个广义算法，包括标准矩阵分解和集体矩阵分解的特殊情况。通过对真实世界数据集的综合实验，我们表明DaConA提供了最先进的准确性。
2019-08-22 cs.LG stat.ML
Probabilistic Matrix Factorization with Personalized Differential Privacy
Anhui University（安徽大学）
概率矩阵分解（PMF）在推荐系统中起着至关重要的作用。它需要大量的用户数据（如用户购物记录和电影评分）来预测个人偏好，从而为用户提供高质量的推荐服务，这暴露了用户隐私泄露的风险。差分隐私作为一种可证明的隐私保护框架，在推荐系统中得到了广泛的应用。不同的个人对项目有不同级别的隐私要求是常见的。然而，传统的差分隐私只能为所有用户提供统一级别的隐私保护。本文主要提出了一种具有个性化差分隐私的概率矩阵分解推荐方案（PDP-PMF）。它旨在满足用户在项目级别指定的隐私要求，而不是为所有人提供相同级别的隐私保证。然后，我们开发了一个修改的采样机制（有界差分隐私）实现PDP。我们还进行了理论分析的PDP-PMF计划，并证明了PDP-PMF计划的隐私。此外，我们实现了传统的和个性化的差分隐私（DP-PMF，PDP-PMF）的概率矩阵分解方案，并通过一系列的实验进行比较。实验结果表明，PDP-PMF方案在保护用户隐私方面表现良好，推荐质量明显优于DP-PMF方案。
2018-10-19 cs.CR cs.LG
Joint Geographical and Temporal Modeling based on Matrix Factorization for Point-of-Interest Recommendation
Università della Svizzera Italiana（意大利瑞士大学）；Leiden University（莱顿大学）
随着基于位置的社交网络的普及，兴趣点推荐已成为一项重要任务，它学习用户的偏好和移动模式来推荐兴趣点。以往的研究表明，将上下文信息，如地理和时间的影响，是必要的，以改善POI推荐解决数据稀疏问题。然而，现有的方法模型的地理影响的基础上的物理距离POI和用户，而忽略了这种地理影响的时间特性。在本文中，我们进行了一项研究的用户移动模式，我们发现，用户的签到发生在几个中心，这取决于他们当前的时间状态。接下来，我们提出了一个时空活动中心算法来更准确地建模用户的行为。最后，我们证明了我们提出的上下文模型的有效性，将其纳入两个不同的设置下的矩阵分解模型：i）静态和ii）时间。为了证明我们所提出的方法的有效性，我们将其称为STACP，我们对从Gowalla和Foursquare LBSN获得的两个着名的真实世界数据集进行了实验。实验结果表明，STACP模型实现了统计上显着的性能改善，相比国家的最先进的技术。此外，我们证明了捕捉地理和时间信息建模用户的活动中心和建模的重要性，他们联合的有效性。
2020-01-24 cs.IR cs.LG
Dynamic Matrix Factorization: A State Space Approach
Massachusetts Institute of Technology（麻省理工学院）
矩阵分解从一个小数目的观察到的条目最近获得了很多关注的成功推荐系统的关键成分。这一领域的一个未解决的问题是如何调整当前的方法来处理随着时间的推移而变化的用户偏好。最近的建议，以解决这个问题是启发式的性质，并没有充分利用时间依赖的结构的问题。作为一个原则性的和一般的时间公式，我们提出了一个动态的状态空间模型的矩阵分解。我们的建议建立在概率矩阵分解，高斯先验的贝叶斯模型。我们利用状态跟踪的结果，如卡尔曼滤波器，在过程和测量噪声的存在下提供准确的建议。我们展示了如何通过期望最大化来学习系统参数，并与当前已发表的技术进行比较。
2012-08-04 cs.LG
Adaptive Nonnegative Matrix Factorization and Measure Comparisons for Recommender Systems
Università di Pisa（比萨大学）
评价矩阵的非负矩阵分解（NMF）已被证明是解决推荐问题的有效方法。在本文中，我们提出了新的方法的基础上NMF的评级矩阵，我们比较了他们与一些经典的算法，如SVD和正则化和非正则化非负矩阵分解方法。特别地，给出了一种新的算法，该算法在每一步中自适应地改变待极小化的函数，实现了一种动态的先验策略。另一种算法是通过对先前项的未知评级进行重构来修改NMF公式中要最小化的函数。然后，我们结合不同的方法，得到两个混合策略，这是非常有效的重建丢失的意见。我们进行了周到的比较不同的方法的基础上的几个评价措施。我们认为，特别是评级，分类和排名的措施表明，算法获得最好的分数为一个给定的措施是一般最好的，也当考虑不同的措施，降低在设计具体的评估措施的兴趣。这些算法已经在不同的数据集上进行了测试，特别是包含电影评级的1M和10M MovieLens数据集，包含笑话评级的Jester数据集和包含食物评级的Amazon Fine Foods数据集。不同算法的比较，显示了良好的性能的方法，采用显式和隐式正则化计划。此外，我们可以得到一个快速的方法与更准确的一个相结合的混合策略的推动。
2019-08-29 cs.LG cs.NA math.NA
Reenvisioning Collaborative Filtering vs Matrix Factorization
Politecnico di Bari（巴里理工大学）；Universidad Autónoma de Madrid（马德里自治大学）
近年来，基于矩阵分解和人工神经网络（ANN）学习相似性的协同过滤模型得到了极大的关注。这在一定程度上是因为人工神经网络在各种各样的推荐任务中表现出了良好的效果。在推荐生态系统中引入人工神经网络最近受到了质疑，在效率和有效性方面提出了一些比较。这些比较的一个共同点是，它们都关注准确性，而忽略了对推荐很重要的其他评估维度，如新颖性、多样性或偏见。我们复制了三篇比较神经协同过滤（NCF）和矩阵分解（MF）的论文中的实验，将分析扩展到其他评估维度。我们的贡献表明，实验是完全可重复的，我们扩展了研究，包括其他准确性指标和两个统计假设检验。我们调查了建议的多样性和新颖性，表明MF在长尾上也提供了更好的准确性，尽管NCF提供了更好的项目覆盖率和更多样化的建议。我们讨论了测试方法产生的偏差效应。它们显示出相对较小的偏差，但其他具有竞争力的准确性性能的推荐基线始终显示出受此问题的影响较小。这是第一项工作，据我们所知，几个评估维度已被探索的SOTA算法阵列涵盖最近的适应人工神经网络和MF。因此，我们展示了这些技术可能对超精度评估的潜力，同时分析了这些互补尺寸可能对再现性的影响。可在github.com/sisinflab/Reenvisioning-the-comparison-between-Neural-Collaborative-Filtering-and-Matrix-Factorizatio…
2021-07-28 cs.IR cs.LG
Nonconvex Optimization Meets Low-Rank Matrix Factorization: An Overview
Carnegie Mellon University（卡内基梅隆大学）；Harvard University（哈佛大学）；Princeton University（普林斯顿大学）
近年来，在通过非凸优化来开发可证明准确和有效的低秩矩阵分解算法方面取得了实质性进展。虽然传统的智慧往往采取了非凸优化算法，由于他们的敏感性虚假的局部最小值，简单的迭代法，如梯度下降在实践中取得了显着的成功。然而，直到最近，理论基础在很大程度上仍然缺乏。在这个教程式的概述中，我们强调了统计模型在实现具有性能保证的高效非凸优化方面的重要作用。我们回顾了两种对比的方法：（1）两阶段算法，其中包括一个定制的初始化步骤，随后连续细化;和（2）全球景观分析和初始化免费算法。讨论了几个典型的矩阵分解问题，包括但不限于矩阵传感，相位恢复，矩阵完成，盲反卷积，鲁棒主成分分析，相位同步，和联合对准。特别注意说明他们的分析背后的关键技术见解。这篇文章证明了最优化和统计的综合考虑导致了丰硕的研究成果。
2019-09-19 cs.IT cs.LG eess.SP
Edge Data Based Trailer Inception Probabilistic Matrix Factorization for Context-Aware Movie Recommendation
China University of Petroleum（中国石油大学）；Minjiang University（闽江学院）；Dalian University of Technology（大连理工大学）；Federation University Australia（澳大利亚联邦大学）
由部署在网络边缘的移动设备和应用程序生成的边缘数据的快速增长加剧了信息过载的问题。推荐系统作为缓解信息过载的一种有效方法，可以在稀疏的评分数据基础上，加入用户在边缘设备上产生的应用数据，如视觉和文本信息，从而提高各种服务的质量。电影预告片中的视觉信息是电影推荐系统的重要组成部分。然而，由于视觉信息抽取的复杂性，仅仅利用粗糙的视觉特征来提高收视率预测的准确性并不能显著改善数据稀疏性。幸运的是，卷积神经网络可以用来精确地提取视觉特征。因此，端到端的神经图像字幕（NIC）模型可以用来获得描述电影预告片的视觉特征的文本信息。本文提出了一种拖车初始概率矩阵分解模型（Ti-PMF），该模型结合了NIC、递归卷积神经网络和概率矩阵分解模型作为收视率预测模型。我们在三个真实世界的数据集上实现了所提出的Ti-PMF模型，并进行了大量的实验，以验证其有效性。实验结果表明，所提出的钛保偏光纤性能优于现有的。
2022-02-16 cs.CV cs.IR cs.LG
Boolean matrix factorization meets consecutive ones property
University of Helsinki（赫尔辛基大学）；University of Eastern Finland（东芬兰大学）；MPI-INF（马克斯·普朗克信息学研究所）
布尔矩阵分解是一种自然的和流行的技术总结二进制矩阵。本文研究了布尔矩阵分解的一个问题，其中我们附加要求分解矩阵具有连续1性质（OBMF）。这个优化问题的一个主要应用来自图形可视化：图形可视化的标准技术是圆形或线性布局，其中节点按圆形或直线排列。可视化图形的一个常见问题是由于太多的边而导致的混乱。处理此问题的标准方法是将边捆绑在一起并将它们表示为带状。我们还表明，我们可以使用OBMF边缘捆绑结合圆形或线性布局技术。我们证明，不仅这个问题是NP难的，但我们不能有一个多项式时间的算法，产生一个乘法近似保证（除非P = NP）。在积极的一面，我们开发了一个贪心算法，在每一步，我们寻找最好的1秩分解。由于即使获得1-秩分解也是NP难的，因此我们提出了一个迭代算法，其中我们固定一边并找到另一边，颠倒角色并重复。我们表明，这一步可以在线性时间使用pq树。我们还将问题推广到循环的性质和对称分解。我们的实验表明，我们的算法找到高质量的因子分解和规模以及。
2019-01-17 cs.DM cs.DS cs.LG
