Select-And-Extract: A Lightweight Plugin for Retrieval-Augmented Generation
Select-And-Extract:一种用于检索增强生成的轻量级插件
AI总结 该研究针对RAG的检索与阅读两类失效模式,提出轻量级插件SANE,通过语义检索+LM选候选、蓝图引导证据提取实现稳定性能提升,且开销适度。
Comments Pre-print
作者
Data Mining
Select-And-Extract:一种用于检索增强生成的轻量级插件
AI总结 该研究针对RAG的检索与阅读两类失效模式,提出轻量级插件SANE,通过语义检索+LM选候选、蓝图引导证据提取实现稳定性能提升,且开销适度。
Comments Pre-print
它认为有多难?分析大型语言模型思维链轨迹中感知步骤的推理能量
机构 * UC Merced(加州大学默塞德分校) ; UC San Diego(加州大学圣迭戈分校) ; UIUC(伊利诺伊大学厄巴纳-香槟分校) ; Adobe Research(奥多比研究院)
AI总结 该研究提出SARE框架量化LLM思维链各步骤的推理能量,发现推理能量不均匀、错误轨迹关键节点能量更低,SARE特征性能优于或匹配输出置信度基线,揭示内部几何动态含预测信息。
Comments 13 pages, 3 figures
面向LLM智能体的基于文件系统的内存:组织、演化与可持续性
机构 * University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校) ; University of California, San Diego(加利福尼亚大学圣迭戈分校) ; University of California, Merced(加利福尼亚大学默塞德分校) ; Adobe Research(奥多比研究院) ; Texas A&M University(德克萨斯农工大学)
AI总结 本研究首次系统探索面向LLM智能体的基于文件系统的内存,定义三个智能体角色开展实验,发现有组织存储可减半检索成本,但多数智能体组织会退化,工具集对存储形态的影响与更换模型相当,将文件系统设为智能体内存的设计空间。
Comments 59 pages, 12 figures, 18 tables