Fusion Matters: Length-Aware Analysis of Positional-Encoding Fusion in Transformers
融合至关重要:Transformer中位置编码融合的长度感知分析
机构 * School of Computer Science and Technology(计算机科学与技术学院) ; Harbin Institute of Technology(哈尔滨工业大学)
AI总结 本文研究了Transformer中位置编码融合机制对长序列性能的影响,发现融合策略的选择对长文档有显著提升,且提出了轻量级卷积门控机制以增强模型效果。
Comments 10 pages, 5 figures. Code and reproduction materials available on GitHub