MobileMoE: Scaling On-Device Mixture of Experts
MobileMoE: 扩展设备端混合专家模型
机构 * Meta AI
AI总结 针对设备端部署,提出MobileMoE系列子十亿参数MoE语言模型,通过联合优化架构和四阶段训练,在14个基准上匹配或超越领先的密集模型和MoE模型,并在智能手机上实现高效推理。
大厂专区
MobileMoE: 扩展设备端混合专家模型
机构 * Meta AI
AI总结 针对设备端部署,提出MobileMoE系列子十亿参数MoE语言模型,通过联合优化架构和四阶段训练,在14个基准上匹配或超越领先的密集模型和MoE模型,并在智能手机上实现高效推理。
在RAG阅读中区分语义竞争与上下文长度
机构 * Meta Platforms(Meta平台)
AI总结 通过匹配对照实验,分离出检索增强生成中阅读器的语义竞争效应,证明性能下降部分源于竞争而非仅上下文长度。
Comments 4 pages, 1 figure, 2 tables
语言模型推理中带有重置的信用分配
机构 * Meta AI ; Columbia University(哥伦比亚大学) ; Meta Superintelligence Labs(Meta超智能实验室) ; Tel Aviv University(特拉维夫大学)
AI总结 提出随机重置策略优化(RRPO)和自重置策略优化(SRPO)两种方法,通过重置到中间状态并重新采样反事实延续来改进语言模型多步推理中的信用分配,SRPO在多个推理基准上优于标准GRPO和RRPO。
两阶段排序中早期检索的信用分配策略梯度
机构 * Computer Science Department, Cornell University, Ithaca, NY, USA(康奈尔大学计算机科学系) ; Central Applied Science, Meta, Menlo Park, CA, USA(Meta中央应用科学)
AI总结 针对两阶段排序中早期排序器(ESR)端到端训练难的问题,提出信用分配策略梯度(CA-PG),通过对目标项被选中的概率求梯度来降低方差,提升训练稳定性和收敛速度。
Comments ICML2026
E$^3$C: 具有3D环境记忆和自我-外部人体姿态控制的视频生成
机构 * Meta Reality Labs(Meta现实实验室) ; University of Toronto(多伦多大学)
AI总结 提出E$^3$C可控视频扩散框架,通过3D点云记忆和双通道人体控制(自我与外骨骼),实现物理一致的自我中心视频生成。
Comments Preprint. Project Page: https://e3c-videogen.github.io/
AssetGen: 可部署的交互速度3D资产生成
机构 * Reality Labs, Meta(Meta现实实验室)
AI总结 提出AssetGen系统,通过粗到细的VecSet框架、多视图纹理生成及端到端加速,在30秒内生成带烘焙法线、颜色纹理和可控多边形预算的高质量网格,支持实时渲染和移动端部署。
全局运动恢复结构与前馈重建的结合
机构 * ETH Zurich(苏黎世联邦理工学院) ; Meta Reality Labs(Meta现实实验室) ; Microsoft(微软公司)
AI总结 提出一种结合经典SfM和前馈重建优势的新流水线,在多种场景下实现最先进的重建结果。
Comments CVPR 2026, Highlight
计算最优分词
机构 * FAIR at Meta(Meta 的 FAIR) ; University of Washington(华盛顿大学)
AI总结 通过训练988个BLT模型,研究压缩率(每token平均字节数)对缩放趋势的影响,发现计算最优配置下模型参数量与数据字节数成比例,且最优压缩率低于BPE并随计算量下降。
LuxRemix: 室内场景的光照分解与重新混合
机构 * Meta Reality Labs(Meta现实实验室) ; University of Toronto(多伦多大学)
AI总结 提出一种基于图像的光照分解模型,从多视图场景捕获中分解室内光照为独立光源,并通过多视图光照协调集成到可重光照的3D高斯溅射表示中,实现交互式光源编辑。
Comments CVPR 2026. Project page: https://luxremix.github.io