Yann LeCun

S-JEPA : Soft Clustering Anchors for Self-Supervised Speech Representation Learning

S-JEPA：用于自监督语音表示学习的软聚类锚点

Georgios Ioannides, Adrian Kieback, Judah Goldfeder, Linsey Pang, Aman Chadha, Aaron Elkins, Yann LeCun, Ravid Shwartz-Ziv

机构 * Carnegie Mellon University（卡内基梅隆大学） ； New York University（纽约大学） ； James Silberrad Brown Center for AI（詹姆斯·西尔伯拉德·布朗人工智能中心） ； Columbia University（哥伦比亚大学） ； Northeastern University（东北大学） ； Stanford University（斯坦福大学） ； Amazon GenAI（亚马逊生成式人工智能） 纠错

AI总结 提出S-JEPA，通过KL散度匹配高斯混合模型的软后验概率训练编码器-预测器对，无需离线重聚类或教师蒸馏，在SUPERB协议下以低于90M参数取得最低WER，并建立新的帕累托前沿。