Towards Interpretability Without Sacrifice: Faithful Dense Layer Decomposition with Mixture of Decoders
无需牺牲的可解释性:混合解码器的忠实密集层分解
机构 * UW-Madison(威斯康星大学麦迪逊分校)
AI总结 本文提出混合解码器(MxDs)通过层级稀疏性实现密集层分解,保持原始解码器的表达能力,显著提升稀疏性-准确性前沿性能。
Comments NeurIPS 2025 camera-ready version