Surrogate Fidelity: When Can Open LLMs Explain Closed Ones?
替代保真度:开放LLM何时能解释封闭LLM?
机构 * Meta
AI总结 研究开放模型能否替代解释封闭模型,发现预测保真度显著高估归因保真度,模型虽答案一致但理由不同,机械解释不能自动迁移。
大厂专区
替代保真度:开放LLM何时能解释封闭LLM?
机构 * Meta
AI总结 研究开放模型能否替代解释封闭模型,发现预测保真度显著高估归因保真度,模型虽答案一致但理由不同,机械解释不能自动迁移。
LUNA: 超越蒙皮的学习通用3D人体动画
机构 * The Hong Kong University of Science and Technology(香港科技大学) ; Codec Avatars Lab, Meta(Meta编解码虚拟形象实验室)
AI总结 提出无LBS的通用神经动画模型LUNA,通过Transformer运动回归器将多种2D控制映射为3D高斯变形,结合混合监督实现零样本跨身份泛化。
Comments ECCV 2026, Project page: https://penghtyx.github.io/LUNA/
保持几何的正交初始化用于RLVR中的低秩适应
机构 * Johns Hopkins University(约翰霍普金斯大学) ; Meta Superintelligence Labs(Meta超级智能实验室) ; The University of Texas at Austin(德克萨斯大学奥斯汀分校)
AI总结 针对RLVR中LoRA初始化问题,提出保持几何的正交初始化方法(RLPO和RLMO),理论证明其最小化与全微调差距,实验表明稳定训练且优于标准LoRA。
Comments 30 pages, accepted to ICML 2026
BayesBench: 评估多轮证据积累下LLM信念轨迹
机构 * Meta AI ; Columbia University(哥伦比亚大学) ; Meta Superintelligence Labs(Meta超级智能实验室) ; Tel Aviv University(特拉维夫大学)
AI总结 提出BayesBench基准,通过三个渐进复杂任务评估LLM在多轮证据积累中的信念更新是否接近贝叶斯理性,发现规模提升改善潜在推理但未可靠转化为预测。
教模型自学:在可学习性边缘推理
机构 * MIT(麻省理工学院) ; Meta FAIR ; New York University(纽约大学)
AI总结 提出SOAR非对称自对弈框架,通过元强化学习生成自动课程,解决低初始成功率数据集上的推理模型扩展问题,发现基于学生进步的奖励优于内在可学习性奖励,且问题结构比答案正确性更重要。
Comments ICML 2026. Blog post: https://ssundaram21.github.io/soar/
Mantis: 用于时间序列分类的轻量级基础模型
机构 * com(42.com) ; Helmholtz Munich(亥姆霍兹慕尼黑中心) ; Technical University of Munich(慕尼黑工业大学) ; Criteo ; Meta ; Telecom Paris(巴黎电信学院)
AI总结 提出基于Transformer的轻量级基础模型Mantis,通过自监督对比学习在合成数据上预训练,并引入新颖的令牌生成单元和增强测试方法,在多个数据集上超越现有基础模型。
Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026