Tencent（腾讯）

FVAttn: Adaptive Sparse Attention with Runtime Load Balancing for Video Generation

FVAttn：用于视频生成的具有运行时负载均衡的自适应稀疏注意力

Hao Liu, Chenghuan Huang, Ye Huang, Zhiying Wen, Hao Liu, Mohan Zhang, Chen Li, Ziyang Ma, Jing Lyu, Jiangsu Du

机构 * Tencent Inc.（腾讯公司） ； Peking University（北京大学） 纠错

AI总结 研究视频生成中自注意力瓶颈问题，提出FVAttn方法，通过Top-$p$路由等技术及运行时负载均衡等策略，提升自适应稀疏注意力分布式执行效率，降低负载不平衡，实现注意力和推理加速，且视频质量有竞争力。

KDFlow: A User-Friendly and Efficient Knowledge Distillation Framework for Large Language Models

KDFlow：一种用户友好且高效的大型语言模型知识蒸馏框架

Songming Zhang, Xue Zhang, Tong Zhang, Bojie Hu, Yufeng Chen, Jinan Xu

机构 * Key Laboratory of Big Data & Artificial Intelligence in Transportation, (Beijing Jiaotong University), Ministry of Education（大数据与人工智能交通运输联合实验室，（北京交通大学）教育部） ； School of Computer Science and Technology, Beijing Jiaotong University, Beijing, China（计算机科学与技术学院，北京交通大学，北京，中国） ； Tencent Inc, China（腾讯公司，中国） 纠错

AI总结 KDFlow通过解耦架构和SGLang实现高效蒸馏，平衡通信成本与性能，实现1.44至6.36倍加速。

Comments 9 pages, 4 figures, 4 tables, code is available at: https://github.com/songmzhang/KDFlow