Meta

End-to-End Context Compression at Scale

端到端上下文压缩的规模化

Ang Li, Sean McLeish, Haozhe Chen, Nimit Kalra, Zaiqian Chen, Artem Gazizov, Venkata Anoop Suhas Kumar Morisetty, Bhavya Kailkhura, Harshitha Menon, Zhuang Liu, Brian R. Bartoldson, Tom Goldstein, Sanae Lotfi, Micah Goldblum, Pavel Izmailov

机构 * New York University（纽约大学） ； Modal Labs（Modal实验室） ； University of Maryland（马里兰大学） ； Princeton University（普林斯顿大学） ； Columbia University（哥伦比亚大学） ； Harvard University（哈佛大学） ； Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室） ； FAIR at Meta（Meta FAIR实验室） 纠错

AI总结 本研究通过架构搜索和持续预训练，提出潜在上下文语言模型（LCLMs），一种端到端编码器-解码器压缩器，在通用任务性能、压缩速度和峰值内存上改进帕累托前沿，并可作为长时智能体的高效骨干。

Decoy-Calibrated Failure Audits for Language Models

语言模型的诱饵校准失败审计

Vyzantinos Repantis, Ameya Gawde, Harshvardhan Singh

机构 * Meta Platforms（Meta平台） 纠错

AI总结 提出Janus程序，通过诱饵校准和留出数据验证，判断语言模型错误解释的可信度，避免选择偏差。

Comments 14 pages, 5 figures, 4 tables

Ego-Pi: VLA Fine-Tuning for Ego-Centric Human and Robot Data

Ego-Pi: 面向自我中心人类与机器人数据的VLA微调

Ji Woong Kim, Ke Wang, Zipeng Fu, Sirui Chen, Cong Zhao, Jeff Lai, Chelsea Finn

机构 * Stanford University（斯坦福大学） ； Meta 纠错

AI总结 为解决机器人数据稀缺问题，利用自我中心人类数据，基于π₀.₅模型微调，使机器人学习新任务语义并组合现有技能，无需对应机器人数据。

OmniFaceRig: Fully Automatic Inner-Mouth-Aware Face Rigging Across Diverse 3D Character Topologies

OmniFaceRig: 跨多种3D角色拓扑的全自动内口感知面部绑定

Chao Wang, Guangyao Ma, John Doublestein, Junming Chen, Yiming Lin, Zhaoen Su, Xiaomin Luo, Shiyang Cheng, Jie Shen, Doug Roble, Dilin Wang, Yilei Li, Rakesh Ranjan

机构 * Reality Labs, Meta（Meta现实实验室） 纠错

AI总结 提出全自动端到端管道OmniFaceRig，将静态表面网格转换为含内口几何的FACS绑定，支持人类、人形及多种动物拓扑，无需手动标注或模板。

Wispy to Voluminous: Prior-free Multi-view Capture of Strand-level Facial Hair

从稀疏到浓密：无先验的多视角面部毛发级联重建

Jaeseong Lee, Giljoo Nam, Adrian Jarabo, Carlos Aliaga

机构 * KAIST（韩国科学技术院） ； Meta Codec Avatar Lab（Meta 编码人像实验室） ； Meta Reality Labs Research（Meta现实实验室） 纠错

AI总结 提出从多视角图像自动重建面部毛发（胡须、眉毛等）的管线，将无结构3D高斯表示转换为显式曲线发丝，解决几何歧义，实现高保真发丝重建。

Comments 27 pages, 16 figures, supplementary included

Post-training is (Massive) Supervised Learning

后训练是（大规模）监督学习

Michael Hassid, Yossi Adi, Roy Schwartz

机构 * FAIR, Meta AI（Meta AI 基础人工智能研究团队） ； The Hebrew University of Jerusalem（耶路撒冷希伯来大学） 纠错

AI总结 本文论证当前LLM后训练阶段（SFT+RL）实质是回归到BERT时代的“预训练-微调”范式，通过实验表明从零开始后训练的模型也能取得显著性能，并提出应转向“学会学习”的训练方式。

MENTIS: What Belief Changes Under Alignment? Measuring Multi-Scale Latent Torsion in Language Models

MENTIS: 对齐改变了什么信念？语言模型中多尺度潜在扭转的测量

Partha Pratim Saha, Samarth Raina, Mayur Parvatikar, Amit Dhanda, Vinija Jain, Aman Chadha, Amitava Das

机构 * Pragya Lab, BITS Pilani Goa, India（BITS Pilani 去掉 Goa 的机构名，因为该机构名中包含 'Goa'，但根据规则，如果机构已有常见中文名，使用常见中文名。'Pragya Lab, BITS Pilani' 是 BITS Pilani 的一个实验室，因此翻译为 'BITS Pilani 实验室'） ； IIIT Delhi, India（德里印度理工学院） ； Amazon, USA（美国亚马逊） ； Meta, USA（美国Meta） ； Apple, USA（美国苹果） 纠错

AI总结 提出MENTIS框架，通过层间协方差扭转范数、谱扭转诊断和能量-辐射-激活度量，测量偏好对齐在语言模型内部计算中引起的选择性、深度局部的几何结构变化。

Comments Submitted to EMNLP 2026

How Many Tools Should an LLM Agent See? A Chance-Corrected Answer

LLM 智能体应看到多少工具？一种机会校正的答案

Vyzantinos Repantis, Ameya Gawde, Harshvardhan Singh, Joey Blackwell

机构 * II Meta Platforms（Meta平台） 纠错

AI总结 针对 LLM 智能体工具选择中候选列表长度优化问题，提出基于机会校正的 Bits-over-Random (BoR) 指标，并将其转化为强化学习奖励，实现每查询自适应深度选择，在保持覆盖率的同时显著减少展示工具数量并提升下游工具选择准确率。

Comments 13 pages, 2 figures

Causal Unlearning in Collaborative Optimization: Exact and Approximate Influence Reversal under Adversarial Contributions

协同优化中的因果卸载：在对抗性贡献下的精确和近似影响反转

Ali Mahdavi, Azadeh Zamanifar, Amirfarhad Farhadi, Omid Kashefi

机构 * Department of Computer Engineering, SRC, Islamic Azad University Tehran, Iran（伊朗伊斯兰Azad大学塔希尔分校计算机工程系） ； School of Computer Engineering, Iran University of Science and Technology Tehran, Iran（伊朗科学技术大学塔希尔分校计算机工程系） ； Meta CA, USA（美国Meta公司） 纠错

AI总结 本文提出HF-KCU方法，通过共轭梯度迭代在Krylov子空间中近似影响函数，从而在协同优化中实现数据删除，减少计算复杂度并提高隐私保护效果。

SPHERICAL KV: Angle-Domain Attention and Rate-Distortion Retention for Efficient Long-Context Inference

SPHERICAL KV: 角度域注意力与率失真保持用于高效长上下文推理

Anay Chauhan, Gurucharan Marthi Krishna Kumar, Arion Das, Amit Dhanda, Vinija Jain, Aman Chadha, Amitava Das

机构 * Synopsys ； McGill University（麦吉尔大学） ； IIIT Ranchi（印度理工学院拉奇） ； Amazon（亚马逊） ； Meta ； Apple（苹果） ； Pragya Lab, BITS Pilani Goa（普拉基亚实验室， BITS 拉贾斯坦） 纠错

AI总结 提出Spherical KV方法，通过角度域注意力（ADA）和率失真保持（RDR）机制，在长上下文推理中减少KV缓存占用并保持解码效率。

SleepWalk: A Three-Tier Benchmark for Stress-Testing Instruction-Guided Vision-Language Navigation

SleepWalk：一种三层压力测试基准，用于指导的视觉-语言导航

Niyati Rawal, Sushant Ravva, Shah Alam Abir, Saksham Jain, Aman Chadha, Vinija Jain, Suranjana Trivedy, Amitava Das

机构 * Indian AI Research Organization (IAIRO)（印度人工智能研究组织） ； ĸragya Lab, BITS Pilani Goa（BITS Pilani Goa 的 ĸragya 实验室） ； University of Dhaka（达卡大学） ； Delhi Technological University（德里技术大学） ； Apple（苹果公司） ； Meta 纠错

AI总结 本文提出SleepWalk基准，用于评估基于指令的轨迹预测，针对局部化、交互导向的具身推理，揭示当前VLM在空间推理中的系统性失败。

Human-Exoskeleton Kinematic Calibration to Improve Hand Tracking for Dexterous Teleoperation

人-外骨骼运动学校准以提高手部跟踪用于灵巧遥操作

Haiyun Zhang, Stefano Dalla Gasperina, Saad N. Yousaf, Toshimitsu Tsuboi, Tetsuya Narita, Ashish D. Deshpande

机构 * Walker Department of Mechanical Engineering, The University of Texas at Austin（德克萨斯大学机械工程系） ； Sony Group Corporation, Tokyo, Japan（索尼集团公司，日本东京） ； Meta Reality Labs Research, Redmond, WA, USA（Meta现实实验室研究） 纠错

AI总结 本文提出一种针对手部外骨骼的个性化校准框架，通过残差加权优化估计虚拟链接参数，减少关节和指尖跟踪误差，提升遥操作精度。

Comments 8 pages, 10 figures, 1 supplementary video, submitted to RA-L

Kunlun: Establishing Scaling Laws for Massive-Scale Recommendation Systems through Unified Architecture Design

Kunlun: 通过统一架构设计建立大规模推荐系统的缩放定律

Bojian Hou, Xiaolong Liu, Xiaoyi Liu, Jiaqi Xu, Yasmine Badr, Mengyue Hang, Sudhanshu Chanpuriya, Junqing Zhou, Yuhang Yang, Han Xu, Qiuling Suo, Laming Chen, Yuxi Hu, Jiasheng Zhang, Huaqing Xiong, Yuzhen Huang, Chao Chen, Yue Dong, Yi Yang, Shuo Chang, Xiaorui Gan, Wenlin Chen, Santanu Kolay, Darren Liu, Jade Nie, Chunzhi Yang, Ellie Wen, Jiyan Yang, Huayu Li

机构 * Meta Platforms, Inc.（Meta平台公司） ； OpenAI 纠错

AI总结 针对大规模推荐系统缺乏可预测缩放定律的问题，提出Kunlun架构，通过低层优化（GDPA、HSP、滑动窗口注意力）和高层创新（CompSkip、事件级个性化）提升模型效率，MFU从17%提升至37%，缩放效率翻倍，已在Meta广告模型部署。

Comments 10 pages, 4 figures

Sound Event Detection with Boundary-Aware Optimization and Inference

基于边界感知优化与推理的声音事件检测

Florian Schmid, Chi Ian Tang, Sanjeel Parekh, Vamsi Krishna Ithapu, Juan Azcarreta Ortiz, Giacomo Ferroni, Yijun Qian, Arnoldas Jasonas, Cosmin Frateanu, Camilla Clark, Gerhard Widmer, Çağdaş Bilen

机构 * Meta ； Institute of Computational Perception（计算感知研究所） ； Linz Institute of Technology (LIT)（林茨技术研究所） ； Meta Reality Labs Research（Meta现实实验室） 纠错

AI总结 提出边界感知优化与推理策略，通过显式建模事件起始和偏移，结合循环事件检测与事件提议网络，在AudioSet强标注子集上实现无需后处理调参的SOTA性能。

Comments Accepted for publication in IEEE Signal Processing Letters, 2026

Locally Adaptive Conformal Inference for Operator Models

算子模型的局部自适应共形推断

Trevor Harris, Yan Liu

机构 * University of Connecticut（康涅狄格大学） ； Meta Platforms Inc（Meta平台公司） 纠错

AI总结 提出局部切片共形推断（LSCI），一种无分布框架，为算子模型生成函数值、局部自适应预测集，在合成和实际任务中比共形基线更紧、适应性更强。

Comments 12 pages, 3 figures, 2 tables, Preprint