Harnessing the Unseen: The Hidden Influence of Intrinsic Knowledge in Long-Context Language Models
挖掘未见:内在知识在长上下文语言模型中的隐性影响
专题命中 长上下文与记忆 :language model(title,abstract);分类 cs.CL
AI总结 本文研究了长上下文语言模型中参数知识的影响,提出混合针在 haystack 测试以评估模型的双重能力,发现 Qwen-2.5 模型在结合多种能力方面表现更优。
Comments 17 pages,11figures (accepted to AAAI 2026)