Yoshua Bengio

Sliding Window Recurrences for Sequence Models

滑动窗口递归关系用于序列模型

Dragos Secrieru, Garyk Brixi, Yoshua Bengio, Taiji Suzuki, Michael Poli, Stefano Massaroli

AI总结 本研究提出滑动窗口递归关系，通过分层分解框架优化GPU内存层次结构，实现比优化Transformer更快的序列模型性能。