Diffusion-GR2: Diffusion Generative Reasoning Re-ranker
Diffusion-GR2: 扩散生成推理重排序器
机构 * Meta AI ; UNC Chapel Hill(北卡罗来纳大学教堂山分校)
AI总结 提出Diffusion-GR2,通过转换微调、在线策略蒸馏和强化学习将自回归推理重排序器转换为块扩散模型,在保持精度的同时将推理吞吐量提升2.4-3.5倍。
Comments Work in progress
大厂专区
Diffusion-GR2: 扩散生成推理重排序器
机构 * Meta AI ; UNC Chapel Hill(北卡罗来纳大学教堂山分校)
AI总结 提出Diffusion-GR2,通过转换微调、在线策略蒸馏和强化学习将自回归推理重排序器转换为块扩散模型,在保持精度的同时将推理吞吐量提升2.4-3.5倍。
Comments Work in progress
CMSL:面向推荐系统的建设性多序列学习
机构 * Meta MRS ; Meta PyTorch ; Meta FB Monetization
AI总结 针对用户历史行为序列中多兴趣混杂导致的上下文污染问题,提出CMSL方法,通过可学习的序列构建模块在隐空间解耦出多个纯主题序列,并利用线性注意力高效建模,在Meta多个场景的排序和检索任务中取得显著提升。
KVEraser: 学习操控KV缓存以实现高效的局部上下文擦除
机构 * Georgia Institute of Technology(佐治亚理工学院) ; Meta
AI总结 提出KVEraser方法,通过学习操控KV缓存实现局部上下文擦除,避免全局重计算,在长上下文任务中接近全重算性能且延迟仅增加24%。
Comments Oral at the ICML 2026 Workshop on the Impact of Memorization on Trustworthy Foundation Models; Code available at https://github.com/Graph-COM/KVEraser
SparseLGS:稀疏视图语言嵌入高斯溅射
机构 * School of Mathematical Science, University of Science and Technology of China(科学技术大学数学科学学院) ; Meta ; Apple Inc.(苹果公司) ; Alpha Labs at Goertek(Goertek的Alpha实验室)
AI总结 研究针对无姿态和稀疏视图输入图像的3D场景理解难题,提出SparseLGS方法。利用密集立体模型与区域匹配法,提取低维信息并引入重建损失。实验表明该方法用较少输入重建语义场质量可比SOTA,且速度提升5倍。
Comments Project Page: https://ustc3dv.github.io/SparseLGS