Versioned Late Materialization for Ultra-Long Sequence Training in Recommendation Systems at Scale
版本化延迟物化:面向大规模推荐系统的超长序列训练
机构 * Meta Platforms, Inc.(Meta平台)
AI总结 提出版本化延迟物化范式,通过归一化存储和即时序列重建消除数据冗余,支持超长用户交互历史训练,降低存储I/O开销并提升模型质量。
大厂专区
版本化延迟物化:面向大规模推荐系统的超长序列训练
机构 * Meta Platforms, Inc.(Meta平台)
AI总结 提出版本化延迟物化范式,通过归一化存储和即时序列重建消除数据冗余,支持超长用户交互历史训练,降低存储I/O开销并提升模型质量。
V-JEPA 2.1: 解锁视频自监督学习中的密集特征
机构 * FAIR at Meta(Meta的FAIR) ; Universidad de Zaragoza(萨拉戈萨大学)
AI总结 提出V-JEPA 2.1系列自监督模型,通过密集预测损失、深度自监督、多模态分词器和有效缩放,学习图像和视频的密集高质量视觉表示,在多个基准上取得最优性能。
混合使得马尔可夫上下文在线性赌博机中变得廉价
机构 * University of California, Los Angeles(加州大学洛杉矶分校) ; Meta, Superintelligence Lab(Meta超智能实验室)
AI总结 针对马尔可夫上下文线性赌博机问题,提出一种基于均匀几何遍历性的约简方法,通过构建平稳替代动作集和延迟更新方案,实现了与标准线性赌博机相当的最坏情况遗憾界。