Tencent（腾讯）

FVAttn: Adaptive Sparse Attention with Runtime Load Balancing for Video Generation

FVAttn：用于视频生成的具有运行时负载均衡的自适应稀疏注意力

Hao Liu, Chenghuan Huang, Ye Huang, Zhiying Wen, Hao Liu, Mohan Zhang, Chen Li, Ziyang Ma, Jing Lyu, Jiangsu Du

机构 * Tencent Inc.（腾讯公司） ； Peking University（北京大学） 纠错

AI总结 研究视频生成中自注意力瓶颈问题，提出FVAttn方法，通过Top-$p$路由等技术及运行时负载均衡等策略，提升自适应稀疏注意力分布式执行效率，降低负载不平衡，实现注意力和推理加速，且视频质量有竞争力。