Hidden in the Haystack: Smaller Needles are More Difficult for LLMs to Find
haystack中隐藏的针:更小的针对LLM来说更难找到
机构 * Center for Alzheimer’s Disease and Related Dementias, NIA, NIH(阿尔茨海默病及相关痴呆症研究中心,国家老龄化研究所,国家卫生研究院) ; DataTecnica LLC(DataTecnica公司) ; Johns Hopkins University(约翰霍普金斯大学) ; Laboratory of Neurogenetics, NIA, NIH(神经遗传学实验室,国家老龄化研究所,国家卫生研究院)
专题命中 生物医学文本 :biomedical(abstract);分类 cs.LG
AI总结 本文研究了黄金上下文大小对LLM长上下文问答性能的影响,发现较短的黄金上下文会显著降低模型性能,揭示了上下文长度对模型表现的关键作用。
Comments Under Review