CompactRAG: Reducing LLM Calls and Token Overhead in Multi-Hop Question Answering
CompactRAG: 减少多跳问答中的LLM调用和令牌开销
机构 * State Key Laboratory for Novel Software Technology, Nanjing University(新型软件技术国家重点实验室,南京大学) ; Erik Jonsson School of Engineering and Computer Science, University of Texas at Dallas(埃里克·乔纳森工程与计算机科学学院,德克萨斯大学达拉斯分校) ; Isoftstone Information Technology (Group) Co.,Ltd.(伊软石信息技术(集团)有限公司) ; College of Electronic and Information Engineering, Tongji University(电子信息工程学院,同济大学) ; School of Electronic Information, Central South University(电子信息学院,中南大学)
专题命中 复杂问题求解 :reasoning(abstract);分类 cs.CL、cs.AI
AI总结 CompactRAG通过解耦离线语料重组与在线推理,减少多跳问答中的LLM调用和令牌消耗,提升效率。