NVIDIA（英伟达）

Normalized Architectures are Natively 4-Bit

归一化架构本质上是4位的

Maxim Fishman, Brian Chmiel, Ron Banner, Daniel Soudry, Boris Ginsburg

机构 * NVIDIA ； Department of Electrical and Computer Engineering - Technion（技术学院电子工程系） 纠错

AI总结 本文提出归一化架构在4位精度下具有更高的鲁棒性，无需额外干预即可实现稳定训练，通过分析点积发现其在隐藏维度增长时信号噪声比提高，损失景观更平缓。

SPADE: Faster Drug Discovery by Learning from Sparse Data

SPADE：通过从稀疏数据中学习实现更快的药物发现

Rahul Nandakumar, Ben Fauber, Deepayan Chakrabarti

机构 * NVIDIA（英伟达） 纠错

AI总结 SPADE通过从稀疏数据中学习，以更少的测试次数找到高质量的药物分子，相比深度学习和贝叶斯优化方法在样本效率上提升了7%-32%，且在评分速度上快10倍。

Sparse VideoGen2: Accelerate Video Generation with Sparse Attention via Semantic-Aware Permutation

稀疏视频生成2：通过语义感知排列加速视频生成

Shuo Yang, Haocheng Xi, Yilong Zhao, Muyang Li, Jintao Zhang, Han Cai, Yujun Lin, Xiuyu Li, Chenfeng Xu, Jianfei Chen, Song Han, Kurt Keutzer, Ion Stoica

机构 * University of California, Berkeley（加州大学伯克利分校） ； MIT（麻省理工学院） ； NVIDIA（英伟达） ； Stanford University（斯坦福大学） 纠错

AI总结 本文提出SVG2框架，通过语义感知排列提升视频生成的准确性和效率，实现生成质量与效率的帕累托最优。