ETH Zurich（苏黎世联邦理工学院）

The emergence of sparse attention: impact of data distribution and benefits of repetition

稀疏注意力的出现：数据分布的影响与重复性的益处

Nicolas Zucchet, Francesco d'Angelo, Andrew K. Lampinen, Stephanie C. Y. Chan

机构 * ETH Zürich（苏黎世联邦理工学院） ； EPFL（苏黎世联邦理工学院） ； Google DeepMind（谷歌DeepMind） 纠错

AI总结 本文研究了稀疏注意力在训练过程中的涌现机制，揭示其与任务结构、架构和优化器选择的关系，并发现重复能加速这一过程。

Comments NeurIPS 2025

EEG-Bench: A Benchmark for EEG Foundation Models in Clinical Applications

EEG-Bench: 一个用于临床应用中EEG基础模型的基准测试

Ard Kastrati, Josua Bürki, Jonas Lauer, Cheng Xuan, Raffaele Iaquinto, Roger Wattenhofer

机构 * ETH Zurich（苏黎世联邦理工学院） 纠错

AI总结 EEG-Bench为临床应用中的EEG基础模型提供了一个统一的基准测试框架，评估了11个诊断任务，并展示了简单模型在临床分布偏移下的竞争力。

Comments Foundation Models for the Brain and Body (BrainBodyFM@NeurIPS)