IBM

Dynamic Short Convolutions Improve Transformers

动态短卷积改进Transformer

Oliver Sieberling, Bharat Runwal, Rameswar Panda, Yoon Kim

机构 * Massachusetts Institute of Technology（麻省理工学院） ； MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室） 纠错

AI总结 本文提出动态短卷积作为新的神经网络原语，通过输入依赖的滤波器增强Transformer，在语言建模中相比标准Transformer和静态短卷积变体持续提升性能，并带来计算优势。

FederatedSkill: Federated Learning for Agentic Skill Evolution

FederatedSkill: 面向智能体技能演化的联邦学习

Jingbo Yang, Guanyu Yao, Yang Zhang, Ramana Rao Kompella, Gaowen Liu, Shiyu Chang

机构 * UC Santa Barbara（加州大学圣巴bara分校） ； MIT-IBM Watson AI Lab（麻省理工-IBM Watson人工智能实验室） ； Cisco Research（思科研究） 纠错

AI总结 提出FederatedSkill框架，通过语义技能差异作为通信单元，在保护隐私的同时实现个性化技能演化，相比自演化基线成功率提升44.4%，计算成本降低37.5%。

Backdooring Masked Diffusion Language Models

掩码扩散语言模型的后门攻击

Daniel Yiming Cao, Chengzhong Wang, Sheng-Yen Chou, Chengyu Huang, Pin-Yu Chen, Shengwei An

机构 * Cornell University（康奈尔大学） ； Virginia Tech（弗吉尼亚理工学院） ； IBM Research（IBM研究院） 纠错

AI总结 提出SHADOWMASK后门攻击方法，通过修改掩码扩散语言模型的前向破坏过程，实现高成功率攻击并保持模型清洁性能。