New York University（纽约大学）

SpikeVox: Towards Energy-Efficient Speech Therapy Framework with Spike-driven Generative Language Models

SpikeVox: 向能量高效的言语治疗框架迈进：基于脉冲的生成语言模型

Rachmad Vidya Wicaksana Putra, Aadithyan Rajesh Nair, Muhammad Shafique

机构 * eBrain Lab, New York University (NYU) Abu Dhabi（eBrain实验室，纽约大学阿布扎赫尔分校） ； Pune University（普纳大学） 纠错

AI总结 SpikeVox通过基于脉冲的生成语言模型实现能量高效的言语治疗框架，提供高精度语音识别和完整的治疗反馈。

Comments Accepted at the IEEE Biomedical Circuits and Systems Conference (BioCAS) 2025, Abu Dhabi, UAE

Think Then Embed: Generative Context Improves Multimodal Embedding

思考后再嵌入：生成性上下文提升多模态嵌入

Xuanming Cui, Jianpeng Cheng, Hong-you Chen, Satya Narayan Shukla, Abhijeet Awasthi, Xichen Pan, Chaitanya Ahuja, Shlok Kumar Mishra, Yonghuan Yang, Jun Xiao, Qi Guo, Ser-Nam Lim, Aashu Singh, Xiangjun Fan

机构 * AI at Meta（Meta人工智能部门） ； University of Central Florida（中央佛罗里达大学） ； New York University（纽约大学） 纠错

AI总结 本研究提出Think-Then-Embed框架，通过生成性推理提升多模态嵌入性能，实现更高效的复杂指令处理。

Hyperparameter Transfer Enables Consistent Gains of Matrix-Preconditioned Optimizers Across Scales

超参数转移使矩阵预条件优化器在不同尺度上实现一致的增益

Shikai Qiu, Zixi Chen, Hoang Phan, Qi Lei, Andrew Gordon Wilson

机构 * New York University（纽约大学） 纠错

AI总结 通过超参数转移，研究发现不同规模下矩阵预条件优化器在训练大模型时能实现显著加速，而错误缩放会导致加速效果消失。

Comments NeurIPS 2025. Code available at: https://github.com/charliezchen/scaling-matrix-preconditioning

Flash STU: Fast Spectral Transform Units

Flash STU：快速频谱变换单元

Y. Isabel Liu, Windsor Nguyen, Yagiz Devre, Evan Dogariu, Anirudha Majumdar, Elad Hazan

机构 * Princeton University（普林斯顿大学） ； New York University（纽约大学） 纠错

AI总结 Flash STU通过结合频谱状态空间模型与滑动窗口注意力，实现了高效大规模参数语言模型，优于Transformer和S4等现有模型。

Journal ref Proceedings of the 2025 IEEE 64th Conference on Decision and Control (CDC), pp. 165-171, 2025