Mechanism of Task-oriented Information Removal in In-context Learning
面向任务的信息移除机制在上下文学习中的机制
AI总结 本文研究了上下文学习中信息移除机制,发现通过低秩滤波器选择性移除冗余信息可提升任务性能,并识别出关键的去噪头。
Comments 87 pages, 90 figures, 7 tables, ICLR 2026 Camera-ready
期刊&会议
International Conference on Learning Representations · 会议 · Machine Learning
面向任务的信息移除机制在上下文学习中的机制
AI总结 本文研究了上下文学习中信息移除机制,发现通过低秩滤波器选择性移除冗余信息可提升任务性能,并识别出关键的去噪头。
Comments 87 pages, 90 figures, 7 tables, ICLR 2026 Camera-ready