Meta

Unbiased Prevalence Estimation with Multicalibrated LLMs

基于多校准LLM的无偏流行率估计

Fridolin Linder, Thomas Leeper, Daniel Haimovich, Niek Tax, Lorenzo Perini, Milan Vojnovic

机构 * Meta Platforms Inc.（Meta公司） ； The London School of Economics and Political Science（伦敦政治经济学院） 纠错

AI总结 本文提出多校准方法以解决分类模型在存在协变量偏移时的流行率估计偏差问题，通过理论分析和实证应用展示其在LLM中的有效性。

Sparse Forcing: Native Trainable Sparse Attention for Real-time Autoregressive Diffusion Video Generation

稀疏强制：用于实时自回归扩散视频生成的原生可训练稀疏注意力

Boxun Xu, Yuming Du, Zichang Liu, Siyu Yang, Ziyang Jiang, Siqi Yan, Rajasi Saha, Albert Pumarola, Wenchen Wang, Peng Li

机构 * Meta Superintelligence Labs（Meta超智能实验室） ； University of California, Santa Barbara（加州大学圣芭芭拉分校） 纠错

AI总结 本文提出稀疏强制方法，通过在训练和推理中提升长时程生成质量并降低解码延迟，采用可训练的原生稀疏机制和高效的GPU内核PBSA来加速稀疏注意力和内存更新。

Mixture of Sequence: Theme-Aware Mixture-of-Experts for Long-Sequence Recommendation

序列混合：面向主题的专家混合用于长序列推荐

Xiao Lin, Zhicheng Tang, Weilin Cong, Mengyue Hang, Kai Wang, Yajuan Wang, Zhichen Zeng, Ting-Wei Li, Hyunsik Yoo, Zhining Liu, Xuying Ning, Ruizhong Qiu, Wen-yen Chen, Shuo Chang, Rong Jin, Huayu Li, Hanghang Tong

机构 * Meta 纠错

AI总结 本文提出Mixture of Sequence框架，通过主题感知路由和多尺度融合机制，有效过滤用户兴趣切换带来的噪声信息，提升长序列推荐的准确性和效率。

Comments 14 pages, 9 figures, The Web Conference 2026

Continuous-Utility Direct Preference Optimization

连续效用直接偏好优化

Muhammad Ahmed Mohsin, Muhammad Umer, Ahsan Bilal, Zihao He, Muhammad Usman Rafique, Asad Aali, Muhammad Ali Jamshed, John M. Cioffi, Emily Fox

机构 * stanford（斯坦福大学） ； meta ； glasgow（格拉斯哥大学） 纠错

AI总结 本文提出CU-DPO框架，通过连续评分替代二元标签，提升模型在数学推理任务中的策略选择准确率和推理能力。