Neural-Brane: Neural Bayesian Personalized Ranking for Attributed Network Embedding
Indiana University Purdue University Indianapolis(印第安纳大学与普渡大学印第安纳波利斯联合分校);Facebook Inc.(脸书公司);IBM Research(IBM研究院)
近年来,网络嵌入方法,即学习网络中每个顶点的分布式向量表示,引起了人们的极大兴趣。现有的工作已经证明,通过嵌入方法学习的顶点表示在许多现实世界的应用中提供了优越的性能,例如节点分类,链接预测和社区发现。然而,大多数用于网络嵌入的现有方法仅利用顶点的拓扑信息,而忽略了在所有现实生活网络中丰富的节点属性(例如,在线社交网络的用户简档或引文网络的文本内容)的集合。考虑属性和关系信息的联合网络嵌入需要完整的网络信息,并且可以进一步丰富学习的矢量表示。在这项工作中,我们提出了神经膜,一种新的神经贝叶斯个性化排名的属性网络嵌入。对于给定的网络,Neural-Brane利用统一网络拓扑信息和节点属性的神经网络模型提取节点的潜在特征表示,并利用贝叶斯个性化排序目标,利用相似节点对和不相似节点对之间的邻近度排序.我们通过在四个真实世界的数据集上解决节点分类和聚类任务来评估Neural-Brane产生的顶点嵌入的质量。实验结果表明,我们提出的方法优于国家的最先进的现有方法。
2018-08-20 cs.LG cs.SI stat.ML
Attacks against Ranking Algorithms with Text Embeddings: a Case Study on Recruitment Algorithms
University of Texas at Arlington(德克萨斯大学阿灵顿分校)
最近的一些研究表明,文本分类任务容易受到中毒和逃避攻击。然而,很少有工作调查攻击决策算法,使用文本嵌入,其输出是一个排名。在本文中,我们专注于招聘过程中的排名算法,采用文本嵌入排名申请人的简历相比,职位描述。我们展示了白盒和黑盒攻击,识别文本项,根据其位置在嵌入空间中,有显着的贡献,在增加简历和职位描述之间的相似性得分。然后,对手使用这些文本项来提高其简历的排名。我们测试了使用从通用句子编码器(USE)和词频逆文档频率(TF IDF)向量获得的相似性得分的招聘算法。我们的研究结果表明,在这两种对抗性设置中,平均而言,攻击者是成功的。我们还发现,与USE相比,对TF IDF的攻击更成功。
2021-08-12 cs.CL cs.LG
Antithetic and Monte Carlo kernel estimators for partial rankings
University of Cambridge(剑桥大学);University College London(伦敦大学学院);Uber AI Labs(优步人工智能实验室)
本文提出通过蒙特卡洛和对偶变量构造的核估计器,将完整排名的核方法扩展到部分排名,并降低方差,提升机器学习任务性能。
2018-07-25 cs.LG stat.ML
Deep Gaussian Embedding of Graphs: Unsupervised Inductive Learning via Ranking
Technical University of Munich(慕尼黑工业大学)
学习图中节点表示的方法在网络分析中起着关键作用,因为它们可以实现许多下游学习任务。我们提出了Graph 2Gauss-一种可以有效地学习大规模(属性)图上的通用节点嵌入的方法,这些图在链接预测和节点分类等任务上表现出强大的性能。与大多数将节点表示为低维连续空间中的点向量的方法不同,我们将每个节点嵌入为高斯分布,从而使我们能够捕获有关表示的不确定性。此外,我们提出了一种无监督的方法,处理归纳学习的情况下,适用于不同类型的图:平原/属性,有向/无向。通过利用网络结构和相关的节点属性,我们能够在没有额外训练的情况下推广到看不见的节点。为了学习嵌入,我们采用了个性化的排名公式w.r.t.节点距离利用了网络结构所强加的节点的自然排序。在真实网络上的实验证明了我们的方法的高性能,在几个不同的任务上优于最先进的网络嵌入方法。此外,我们还展示了建模不确定性的好处-通过分析它,我们可以估计邻域多样性并检测图的内在潜在维度。
2018-02-27 cs.LG cs.SI stat.ML
Guiding Graph Embeddings using Path-Ranking Methods for Error Detection innoisy Knowledge Graphs
Institute of Informatics and Telecommunications, National Center Scientific Research Demokritos(德谟克利特国家科学研究中心信息与电信研究所);Department of Informatics and Telecommunications, National and Kapodistrian University of Athens(雅典大学信息与电信学院)
知识图谱是目前异构大数据关系信息表示的主流方法,但其自动构建时可能包含大量的输入噪声。为了解决这个问题,已经提出了不同的错误检测方法,主要集中在路径排序和表示学习。这项工作提出了各种主流的方法,并提出了一个混合和模块化的方法的任务。我们在两个基准和一个真实世界的生物医学出版物数据集上比较了不同的方法,展示了我们方法的潜力,并提供了在处理有噪知识图谱时图嵌入的见解。
2020-12-12 cs.AI cs.IR cs.LG
Bernoulli Embeddings for Graphs
Netflix Inc.(奈飞公司);IBM India Research Laboratory(IBM印度研究院)
正如语义哈希可以加速信息检索一样,二进制值嵌入可以显著减少图形数据检索的延迟。我们引入一个简单但有效的模型来学习图中节点的二进制向量。通过将嵌入想象为具有不同偏差的独立硬币翻转,可以将连续优化技术应用于近似的预期损失。以这种方式优化的嵌入在各种数据集的排名和预排名任务上始终优于谱图嵌入和各种学习的实值嵌入的量化。
2018-03-25 cs.AI cs.LG stat.ML
Simple to Complex Cross-modal Learning to Rank
Xi’an Jiaotong University(西安交通大学);Carnegie Mellon University(卡内基梅隆大学);University of Technology Sydney(悉尼科技大学);National University of Singapore(新加坡国立大学)
不同模态之间的异质性鸿沟给多媒体信息检索带来了巨大的挑战。一些研究将跨模态检索任务形式化为排序问题,并学习共享的多模态嵌入空间来度量跨模态相似性。然而,以前的方法往往建立共享嵌入空间的基础上的线性映射函数,这可能是不够复杂,以揭示更复杂的模态间的对应关系。此外,目前的研究假设排名是同等重要的,因此所有的排名同时使用,或随机选择一个小的排名训练嵌入空间在每次迭代。然而,这些策略,总是遭受离群值以及降低泛化能力,由于他们缺乏对人类认知过程的深刻理解。本文将具有多样性的自定进度学习理论引入到跨模态学习排序中,并基于非线性映射函数学习一个最优的多模态嵌入空间。该策略增强了模型对离群值的鲁棒性,并通过从不同查询的简单排名逐渐训练模型到更复杂的排名来实现更好的泛化。一个有效的替代算法被用来解决所提出的具有挑战性的问题,在实践中快速收敛。在多个基准数据集上的大量实验结果表明,该方法比文献中的最先进方法有了显着的改进。
2017-07-07 cs.LG stat.ML
Efficient Document Ranking with Learnable Late Interactions
Google(谷歌公司)
提出可学习晚期交互模型LITE,作为通用逼近器,在域内和零样本重排序中优于ColBERT,同时降低延迟和存储开销。
2024-06-25 cs.AI cs.IR cs.LG
Multi-Faceted Large Embedding Tables for Pinterest Ads Ranking
Pinterest USA(Pinterest美国)
针对Pinterest广告排序中大型嵌入表训练难题,提出多面预训练方案结合多种算法丰富嵌入表,并设计CPU-GPU混合服务架构,在CTR和CVR上取得显著提升,上线后CPC降1.34%、CTR增2.60%。
2025-08-11 cs.AI cs.IR cs.LG
An Embedding Framework for Consistent Polyhedral Surrogates
University of Colorado Boulder(科罗拉多大学博尔德分校)
我们形式化和研究的自然方法设计凸代理损失函数通过嵌入,如分类,排名,或结构化预测的问题。在这种方法中,我们嵌入了许多预测中的每一个(例如,排名)作为$\mathbb{R}^d$中的点,将原始损失值分配给这些点,并以某种方式“凸化”损失以获得代理。我们建立了一个强有力的连接,这种方法和多面体(分段线性凸)代理损失。给定任何多面体损失$L$,我们给出了一个链接函数的结构,通过该链接函数,$L$是它嵌入的损失的一致代理。相反,我们将展示如何构建一个一致的多面体代理任何给定的离散损失。我们的框架产生简洁的证明的一致性或不一致的各种多面体的代理人在文献中,不一致的代理人,它进一步揭示了这些代理人是一致的离散损失。我们展示了一些额外的嵌入结构,如嵌入和匹配贝叶斯风险的等价性,以及各种非冗余概念的等价性。使用这些结果,我们建立了间接启发,一致性的必要条件,也是足够的多面体代理人工作时。
2022-01-11 cs.LG stat.ML
Adaptive Margin Ranking Loss for Knowledge Graph Embeddings via a Correntropy Objective Function
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所)
基于翻译的嵌入模型在知识图谱的链接预测任务中获得了极大的关注。transE是基于嵌入的主要模型,以其低复杂度和高效率而闻名。因此,大多数早期的作品已经修改了分数函数的transE方法,以提高性能的链接预测任务。然而,理论和实验证明,transE的性能强烈依赖于损失函数。保证金等级损失(Margin Ranking Loss,MRL)是最早的损失函数之一,广泛用于训练TransE。然而,通过使用关系向量(transE的原始假设),正三元组的分数不一定被强制为足够小以实现从头到尾的翻译。为了解决这个问题,最近提出了几个损失函数,通过增加上界和下界的积极和消极的样本的分数。虽然非常有效,以前开发的模型遭受的搜索空间的选择的超参数(特别是分数的上限和下限)的扩展,其中的性能高度依赖于基于预测的模型。在本文中,我们提出了一个新的损失函数称为自适应保证金损失(AML)的训练基于嵌入模型。所提出的损失函数的公式化使得能够在学习过程期间对裕度进行自适应和自动调整。因此,不需要获得两个值(上限和下限),而只需要确定边缘的中心。在学习过程中,边缘会自动扩大,直到收敛。在一组标准基准数据集(包括Freebase和WordNet)上的实验中,AML在训练transE执行链接预测任务时的有效性得到了证实。
2019-07-09 cs.AI cs.CL cs.LG
LinkedIn Post Embeddings: Industrial Scale Embedding Generation and Usage across LinkedIn
LinkedIn Corporation(LinkedIn公司)
本文介绍 LinkedIn 工业级帖子嵌入的多任务 LLM 微调、离线与近线部署方案,并通过 Feed 和视频检索场景验证其优于基线及 OpenAI ADA 嵌入。
2025-10-17 cs.AI cs.LG
A-VERT: Agnostic Verification with Embedding Ranking Targets
GIAR, UTN-FRBA Pnyx AI(GIAR、UTN-FRBA 人工智能实验室);IIF–SADAF–CONICET Universidad de Buenos Aires(IIF–SADAF–CONICET 乌拉圭大学);UTN-FRBA Pnyx AI(UTN-FRBA 人工智能实验室)
针对现有语言模型响应自动评估方法成本高或脱离真实场景的问题,提出无结构评估方法A-VERT,通过语义嵌入距离匹配文本与候选项,低成本实现鲁棒分类,在多数据集和架构上接近人工标注水平。
2025-10-01 cs.CL cs.LG
MixLM: High-Throughput and Effective LLM Ranking via Text-Embedding Mix-Interaction
LinkedIn
MixLM通过文本嵌入混合交互技术,显著提升LLM排序系统的吞吐量,实现高效率的实时搜索应用部署。
2026-01-31 cs.AI cs.CL cs.IR
Deep Multi-view Learning to Rank
我们研究的问题,学习排序从多个信息源。尽管多视图学习和学习排序已被广泛研究,并得到了广泛的应用,但多视图学习排序作为这两个主题的协同作用却很少受到关注。本文的目的是提出一种复合排名方法,同时保持密切相关的个人排名。我们提出了一个通用的框架,多视点子空间学习排序(MvSL 2R),并介绍了两个新的解决方案下的框架。第一种解决方案使用类似自动编码器的网络从每个视图内以及跨视图捕获特征映射的信息。新的特征嵌入方法制定在多视图无监督和判别式自动编码器的优化。此外,我们引入了一个端到端的解决方案来学习联合排名目标和个人排名。该方案以最小的视图特定的排序损失增强了联合排序,从而可以在单个优化过程中实现最大的全局视图协议。所提出的方法进行了评估三个不同的排名问题,即大学排名,多视图语言文本排名和图像数据排名,提供优越的结果相比,相关的方法。
2019-09-23 cs.LG stat.ML
Multi-Label Zero-Shot Human Action Recognition via Joint Latent Ranking Embedding
The University of Manchester(曼彻斯特大学)
人体动作识别是指从视频片段中自动识别人体动作。在现实中,视频流中经常存在多个人类动作。这样的视频流通常在全局级别上用一组相关的人类动作标签进行弱注释,而不是将每个标签分配给对应于单个动作的特定视频片段,这导致了多标签学习问题。此外,现实中存在许多有意义的人类动作,但是收集/注释关于所有各种人类动作的视频剪辑将是极其困难的,这导致零样本学习场景。据我们所知,还没有一项工作在人类行为识别中同时解决了上述所有问题。在本文中,我们制定了一个现实世界中的人类动作识别任务作为一个多标签零样本学习问题,并提出了一个框架来解决这个问题的整体方式。我们的框架从整体上解决了多标签学习的不同动作之间的未知时间边界问题,并利用了关于知识转移的不同人类动作之间的语义关系的辅助信息。因此,我们的框架导致一个联合潜在的排名嵌入多标签zero-shot人类动作识别。提出了一种新的双分量模型神经网络结构和交替学习算法来实现联合隐排序嵌入学习。因此,多标签zero-shot识别是通过在联合潜在视觉和语义嵌入空间中测量动作标签与测试视频剪辑的相关性分数来完成的。我们用不同的设置来评估我们的框架,包括一个专门为评估多标签零样本学习而设计的新型数据分割方案,在两个数据集上:早餐和字谜。实验结果证明了该框架的有效性。
2019-02-06 cs.AI cs.CV cs.LG
Decoupled Entity Representation Learning for Pinterest Ads Ranking
Pinterest, Inc(Pinterest公司)
该研究提出一种上游-下游范式的解耦实体表示学习框架,通过上游模型定期学习用户与Pin嵌入并供下游广告召回、排序等任务使用,在Pinterest广告排序场景的离线在线实验均获性能提升,已上线生产系统。
2025-09-04 cs.AI cs.IR cs.LG
Personalized Product Search Ranking: A Multi-Task Learning Approach with Tabular and Non-Tabular Data
Walmart Global Tech(沃尔玛全球技术)
本文提出一种基于多任务学习的个性化产品搜索排序模型架构,整合表格与非表格数据并利用预训练TinyBERT,结合可扩展相关性标注机制,显著提升了模型性能。
2025-08-13 cs.AI cs.CL cs.IR
Personalized Query Auto-Completion Through a Lightweight Representation of the User Context
eBay Inc.(eBay公司)
查询自动完成(QAC)是在许多领域(包括Web和电子商务搜索)中广泛使用的功能,基于用户键入的前缀建议完整查询。近年来,QAC在文献中得到了广泛的研究,并且一直表明,添加个性化特征可以显着提高QAC的性能。在这项工作中,我们提出了一种新的个性化QAC的方法,使用轻量级的嵌入通过fastText学习。我们构造一个嵌入的用户上下文查询,这是最后几个查询由用户发出。我们还使用相同的模型来获得要排名的候选查询的嵌入。我们引入排名功能,计算候选查询和上下文查询之间的距离在嵌入空间。然后将这些特征与其他常用的QAC排名特征相结合,以学习排名模型。我们将我们的方法应用于大型电子商务搜索引擎(eBay),并表明具有我们提出的功能的排名器在所有测量的离线指标上都显着优于基线,这些指标包括平均倒数排名(MRR),成功率(SR),平均平均精度(MAP)和归一化折扣累积增益(NDCG)。我们的基线包括最受欢迎的完成(MPC)模型以及没有我们提出的功能的排名模型。具有所提出的特征的排名模型在所有度量上都比MPC模型有$20-30\%$改进。对于所有会话,我们获得了比基线排名模型高的$5\%$改进,当我们限制包含用户上下文的会话时,其提高到大约$10\%$。此外,我们提出的功能也显着优于基于文本的个性化功能在文献中研究之前,并添加基于文本的功能,我们提出的基于嵌入的功能的结果只有轻微的改进。
2019-05-03 cs.AI cs.CL cs.IR
GNNRank: Learning Global Rankings from Pairwise Comparisons via Directed Graph Neural Networks
University of Oxford(牛津大学);Amazon Web Services AI Shanghai Lablet(亚马逊云科技AI上海实验室);The Alan Turing Institute(阿兰·图灵研究所);Shanghai Jiao Tong University(上海交通大学);Shanghai AI Laboratory(上海人工智能实验室)
从成对比较中恢复全局排名具有广泛的应用,从时间同步到运动队排名。对应于竞争中的匹配的成对比较可以被解释为有向图(有向图)中的边,其节点表示例如具有未知排名的竞争者。在本文中,我们引入神经网络的排名恢复问题,提出了所谓的GNNRank,一个可训练的GNN为基础的框架与有向图嵌入。此外,设计了新的目标来编码排名颠覆/违规。该框架涉及一个排名得分估计方法,并通过展开从可学习的相似性矩阵构建的图的Fiedler向量计算来增加归纳偏差。在大量数据集上的实验结果表明,我们的方法与基线相比具有竞争力,并且通常具有优异的性能,并且具有很好的传输能力。代码和预处理数据位于:\url{https://github.com/SherylHYX/GNNRank}。
2022-07-19 cs.LG math.OC stat.ML
LLMPR: A Novel LLM-Driven Transfer Learning based Petition Ranking Model
India Institute of Information Technology Ghuwahati(印度信息技术学院Ghuwahati);Techno India University(Techno India大学);University College Cork
本文提出LLMPR框架,结合迁移学习与机器学习对法律诉状进行优先级排序,实验发现Random Forest和Decision Tree模型准确率超99%,且仅用数值特征即可达近乎最优效果。
2025-05-27 cs.AI cs.CL cs.LG
Text Ranking and Classification using Data Compression
Meta Platforms Inc(Meta平台公司)
一种众所周知但很少使用的文本分类方法使用条件熵估计,该估计是使用数据压缩工具计算的。从压缩大小导出的文本亲和度分数可用于分类和排名任务,但其成功与否取决于所使用的压缩工具。我们使用Zstandard压缩器,并以几种方式加强这些想法,称之为语言无关技术Zest。在应用中,这种方法简化了配置,避免了仔细的特征提取和大型ML模型。我们的消融研究证实了我们引入的个体增强的价值。我们表明,Zest可以补充生产中特定语言的多维内容嵌入并与之竞争,但无法在公共数据集上优于其他计数方法。
2021-12-07 cs.LG
Personalized Ranking in eCommerce Search
eBay Inc.(eBay公司)
我们在电子商务搜索的背景下解决个性化的问题。具体来说,我们开发个性化排名功能,使用会话上下文来增强针对转换和相关性进行优化的通用排名器。我们使用了从历史会话中的项目共同点击和基于内容的功能,使用项目标题和价格的潜在功能的组合。搜索中的个性化在现有文献中已经被广泛讨论。我们的工作的新颖性是结合和比较基于内容和内容不可知的功能,并表明它们相互补充,导致显着改善的排名。此外,我们的技术不需要一个明确的重新排名的步骤,不依赖于学习用户简档从长期的搜索行为,并不涉及复杂的建模查询项用户功能。我们的方法捕获项目共同点击倾向使用轻量级项目嵌入。我们的实验表明,我们的技术显着优于一个通用的排名平均倒数排名(MRR)。我们还提供了轶事证据的语义相似性捕获的项目嵌入在eBay搜索引擎。
2019-04-30 cs.CL cs.IR cs.LG
PathRank: A Multi-Task Learning Framework to Rank Paths in Spatial Networks
Aalborg University(奥尔堡大学)
现代导航服务通常提供连接同一源和目的地的多条路径供用户选择。因此,对这些路径进行排序变得越来越重要,这直接影响到服务质量。我们提出了PathRank,一个数据驱动的框架,用于使用多任务学习根据历史轨迹对路径进行排名。如果一个轨迹使用从源s到目的地d的路径P,PathRank认为这是P优于从s到d的所有其他路径的证据。因此,与P相似的路径应该比与P不相似的路径具有更大的排名分数。基于这种直觉,PathRank将路径排名建模为回归问题,其中每条路径与排名分数相关联。为了启用PathRank,我们首先提出了一种有效的方法来生成一组紧凑的训练数据:对于每个轨迹,我们生成一小组多样化的路径。接下来,我们提出了一个多任务学习框架来解决回归问题。特别是,空间网络嵌入提出了嵌入每个顶点的特征向量,同时考虑道路网络拓扑结构和空间属性,如距离和旅行时间。由于路径是由一系列的顶点,这是现在的一个序列的特征向量嵌入后,递归神经网络被应用到建模序列。目标函数的目的是考虑错误的排名分数和空间属性,使框架的多任务学习框架。大量轨迹数据集的实证研究提供了深入了解所提出的框架的设计属性,并表明它是有效的和实用的。
2019-07-09 cs.DB cs.LG stat.ML
COFFEE: COdesign Framework for Feature Enriched Embeddings in Ads-Ranking Systems
Meta Platforms, Inc.(Meta平台公司)
COFFEE框架通过整合多样化事件源、延长用户历史和多模态嵌入,提升广告排序系统中用户-广告表示的准确性和规模效应。
2026-01-06 cs.IR cs.LG
Better Generalization with Semantic IDs: A Case Study in Ranking for Recommendations
Google(谷歌);Google DeepMind(谷歌DeepMind)
针对推荐系统中随机哈希ID导致相似物品泛化困难的问题,提出使用RQ-VAE从内容嵌入学习的Semantic ID替代随机ID,通过哈希子片段适应工业级排序模型,在不牺牲整体质量下提升长尾物品泛化。
2024-05-30 cs.IR cs.LG
Population-Level Generative Modeling for Ranking Data
Center for Applied Mathematics, Fudan University(复旦大学应用数学中心)
针对排名数据的高维组合与偏好异质性挑战,提出基于潜在偏好单纯形嵌入与流匹配的总体级生成建模框架,在合成与真实数据集上实现更优的总体级排名生成保真度。
2026-08-12 cs.LG math.ST stat.ME
Scalable Unit Harmonization in Medical Informatics via Bayesian-Optimized Retrieval and Transformer-Based Re-ranking
Data Science & Artificial Intelligence, Biopharma R&D(数据科学与人工智能、生物制药研发);AstraZeneca(阿斯利康)
针对大规模临床数据集单位不一致阻碍数据互操作的问题,提出融合BM25、句子嵌入、贝叶斯优化与Transformer重排序的多阶段单位统一流水线,在75亿条记录的数据集上取得优异检索匹配性能,可高效减少人工成本、支撑跨机构医疗研究。
2025-09-05 cs.LG
JESTR: Joint Embedding Space Technique for Ranking Candidate Molecules for the Annotation of Untargeted Metabolomics Data
Department of Computer Science, Tufts University(计算机科学系,塔夫茨大学);Google Research(谷歌研究);Department of Chemical and Biological Engineering, Tufts University(化学与生物工程系,塔夫茨大学)
本文提出JESTR联合嵌入空间方法,通过光谱与分子嵌入的余弦相似度排序候选结构,在多个数据集上显著提升非靶向代谢组学注释准确率。
2025-06-07 cs.AI cs.LG q-bio.BM
Vectorized Context-Aware Embeddings for GAT-Based Collaborative Filtering
University of Windsor(温莎大学)
推荐系统经常与数据稀疏和冷启动场景作斗争,限制了它们为新用户或不常使用的用户提供准确建议的能力。提出了一种基于图注意力网络的协同过滤框架,并在该框架中引入了大语言模型(LLM)驱动的上下文感知嵌入。具体来说,我们生成简洁的文本用户简档和统一项目元数据(标题,流派,概述)到丰富的文本嵌入,注入这些作为初始节点功能的二分用户项目图。为了进一步优化排名性能,我们引入了一个混合的损失函数,结合贝叶斯个性化排名(BPR)与余弦相似项和鲁棒的负采样,确保明确的负反馈是从未观察到的数据。在MovieLens 100k和1M数据集上的实验显示,在精度、NDCG和MAP方面,与最先进的基线相比,有了一致的改进,同时证明了交互历史有限的用户的鲁棒性。消融研究证实了LLM增强嵌入和余弦相似性项在捕捉细微语义关系中的关键作用。我们的方法通过将LLM派生的上下文理解集成到基于图的架构中,有效地减轻了稀疏性和冷启动限制。未来的发展方向包括平衡推荐准确性与覆盖率和多样性,并引入公平意识的约束和可解释性功能,以进一步提高系统性能。
2025-10-30 cs.IR cs.LG
Sparsely Multimodal Data Fusion
Syntensor, Inc.(森腾公司)
本文比较了MCA、Zorro和EAO三种多模态嵌入技术在稀疏多模态数据上的表现,发现MCA通过融合所有模态组合并保持嵌入均匀性,在多数任务上优于其他方法。
2025-01-02 cs.AI cs.LG
Scaling User Modeling: Large-scale Online User Representations for Ads Personalization in Meta
Meta Platforms, Inc.(元平台公司)
针对Meta大规模广告系统中用户表示学习难以扩展的问题,提出SUM框架,通过上游模型生成用户嵌入供下游数百个广告模型共享,并配套SOAP平台保证新鲜度,已在生产环境验证显著效果。
2024-05-22 cs.AI cs.IR cs.LG
Candidate Set Re-ranking for Composed Image Retrieval with Dual Multi-modal Encoder
Australian National University(澳大利亚国立大学);Idiap Research Institute(伊迪亚普研究所);Australian Institute for Machine Learning (AIML)(澳大利亚机器学习研究所)
针对组合图像检索中现有方法效率与判别力难以兼顾的问题,提出两阶段模型,结合快速向量剪枝与双编码器重排序,利用视觉-语言预训练网络,在标准基准上性能优于现有最优方法。
2024-01-29 cs.CV cs.IR cs.LG
SVMax: A Feature Embedding Regularizer
University of Maryland, College Park(马里兰大学帕克分校)
神经网络正则化器(例如,权重衰减)通过显式地惩罚网络的复杂性来提高性能。在本文中,我们惩罚了劣质网络激活-特征嵌入-这反过来又隐式地正则化了网络的权重。我们提出了奇异值最大化(SVMax)来学习更均匀的特征嵌入。SVMax正则化器支持监督学习和无监督学习。我们的公式减轻了模型崩溃,使更大的学习率。我们使用检索和生成对抗网络来评估SVMax正则化器。我们利用高斯数据集的合成混合物来评估无监督设置中的SVMax。对于检索网络,SVMax在各种排名损失中实现了显着的改进幅度。代码可在https://bit.ly/3jNkgDt获得
2021-03-04 cs.CV cs.LG
Cold Start Similar Artists Ranking with Gravity-Inspired Graph Autoencoders
Deezer Research(Deezer研究院);LIX, École Polytechnique(巴黎综合理工学院LIX实验室)
在艺术家的个人资料页面上,音乐流媒体服务经常推荐粉丝也喜欢的“类似艺术家”的排名列表。然而,实现这样的特征对于新艺术家来说是具有挑战性的,对于新艺术家,关于服务的使用数据(例如,流或喜欢)尚不可用。在本文中,我们模拟这个冷启动相似的艺术家排名问题作为一个链接预测任务,在有向和属性图,连接艺术家到他们的前k个最相似的邻居,并纳入侧音乐信息。然后,我们利用图自动编码器架构来学习来自该图的节点嵌入表示,并使用重力启发的机制自动对新艺术家的前k个最相似的邻居进行排名。我们经验表明,我们的框架的灵活性和有效性,通过解决现实世界的冷启动类似的艺术家在全球音乐流媒体服务的排名问题。除了本文,我们还公开了我们的源代码以及我们实验中的工业图数据。
2021-08-02 cs.IR cs.LG cs.SI