The Power of Adaptation: Boosting In-Context Learning through Adaptive Prompting
University of Texas at Dallas(德克萨斯大学达拉斯分校);University of North Texas(北得克萨斯大学);University at Buffalo(布法罗大学)
提出自适应提示方法Adaptive-Prompt,利用模型反馈动态选择示例以解决传统一次性选择导致的示例知识冗余问题,显著提升了大型语言模型在多种推理任务上的上下文学习性能。
2024-12-23 cs.AI cs.CL
MIRROR: A Multi-Agent Framework with Iterative Adaptive Revision and Hierarchical Retrieval for Optimization Modeling in Operations Research
Xi’an Jiaotong University(西安交通大学);Northwestern Polytechnical University(西北工业大学)
提出一种免微调的多智能体框架MIRROR,通过执行驱动的迭代自适应修正和分层检索机制,将自然语言优化问题直接转化为数学模型和求解器代码,在标准运筹学基准上优于现有方法。
2026-08-25 cs.CL
Retrieval as Reasoning: Self-Evolving Agent-Native Retrieval via LLM-Wiki
Tencent Inc.(腾讯公司)
提出LLM-Wiki系统,将外部知识组织为可编译、可组合、自进化的Wiki页面,通过工具调用接口实现搜索、阅读和链接跟踪操作,并引入错误簿进行持续自纠正,在多项多跳问答基准上取得最优结果。
2026-05-26 cs.CL
RAISE: Enhancing Scientific Reasoning in LLMs via Step-by-Step Retrieval
Seoul National University(首尔国立大学);KAIST(韩国科学技术院);Hanyang University(翰阳大学)
RAISE通过逐步检索增强科学推理,其核心方法是问题分解、逻辑查询生成和逻辑检索,优于其他基线模型。
2026-03-19 cs.CL
Enhancing Chain-of-Thoughts Prompting with Iterative Bootstrapping in Large Language Models
Xiamen University(厦门大学);Microsoft Research Asia(微软亚洲研究院);Microsoft(微软公司);IDEA Research(IDEA研究院)
本文提出Iter-CoT,一种迭代自举的思维链提示方法,通过自主纠错和选择中等难度示例,提升大语言模型在不同难度推理任务上的泛化性能,在十个数据集上取得竞争性结果。
2024-03-15 cs.AI cs.CL
Exemplar-Guided Planing: Enhanced LLM Agent for KGQA
College of Computer Science and Technology, National University of Defense Technology, Changsha, China(计算机科学与技术学院,国防科技大学,长沙,中国)
提出示例引导规划(EGP)框架,通过实体模板化和FAISS检索示例推理路径,增强LLM智能体在KGQA中的任务分解与关系探索,显著提升PoG基线性能。
2025-10-17 cs.AI cs.CL
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
Google Research(谷歌研究院)
我们将探讨如何生成一个思维链--一系列中间推理步骤--显著提高大语言模型执行复杂推理的能力。特别是,我们展示了如何自然地出现在足够大的大语言模型,通过一个简单的方法,称为思维链提示,其中一些思维链示范提供了作为范例,提示这样的推理能力。在三个大语言模型上的实验表明,思维链提示提高了一系列算术、常识和符号推理任务的性能。经验上的收获可能是惊人的。例如,仅用8个思维链示例就能提示540 B参数语言模型,在数学应用题的GSM 8 K基准测试中达到最先进的精度,甚至超过了使用验证器的微调GPT-3。
2023-01-10 cs.AI cs.CL
TrueReason: An Exemplar Personalised Learning System Integrating Reasoning with Foundational Models
University College London(伦敦大学学院);University of the Witwatersrand(威特沃特斯兰德大学)
本文提出 TrueReason 个性化学习系统,通过 LLM 组合多种专业化 AI 模型的微观技能以实现规划与推理,为教育领域复杂认知任务的智能系统构建提供原型。
2025-01-23 cs.AI cs.CL cs.CY
Can We Further Elicit Reasoning in LLMs? Critic-Guided Planning with Retrieval-Augmentation for Solving Challenging Tasks
DAMO Academy, Alibaba Group(达摩院(阿里巴巴集团));Nanyang Technological University(南洋理工大学);Salesforce Research(Salesforce研究院)
本文提出 CR-Planner 框架,用微调批评者模型结合蒙特卡洛树搜索引导子目标规划、推理与检索,在竞赛编程、数学推理等困难任务上显著优于基线。
2024-10-02 cs.CL
Taking the PULSE of Medical Reasoning: Step-Level Retrieval Timing for Knowledge-Grounded Inference
Harbin Institute of Technology(哈尔滨工业大学)
本研究提出轻量级探测方法 PUlSE,通过分析 LLM 内部表征的层间波动性检测医学推理步骤的事实错误,触发自适应检索,在保持准确率的同时减少 72% 检索调用,且可跨领域迁移。
2026-10-15 cs.CL
XRICL: Cross-lingual Retrieval-Augmented In-Context Learning for Cross-lingual Text-to-SQL Semantic Parsing
University of Waterloo(滑铁卢大学);Penn State University(宾夕法尼亚州立大学)
使用大语言模型的上下文学习最近在语义解析任务(如文本到SQL翻译)中显示出令人惊讶的结果。使用几个question-SQL对的示例来验证GPT-3或Codex可以产生非常好的结果,可以与最先进的基于微调的模型相媲美。然而,现有的工作主要集中在英语数据集,这是未知的大语言模型是否可以作为其他语言的竞争力的语义解析器。为了弥补这一差距,我们的工作重点是跨语言的文本到SQL的语义解析翻译非英语的话语到SQL查询的基础上的英语模式。我们考虑一个zero-shot迁移学习设置,假设我们没有任何标记的例子在目标语言(但有注释的例子在英语)。这项工作介绍了XRICL框架,学习检索相关的英语范例为一个给定的查询构造提示。我们还包括目标语言的全局翻译范例,以促进大语言模型的翻译过程。为了系统地评估我们的模型,我们构建了两个新的基准数据集,XSpider和XKaggle-dbqa,其中包括中文,越南语,波斯语和印地语的问题。我们的实验表明,XRECL有效地利用了大型预训练的语言模型,以超越现有的基线。数据和代码可在https://github.com/Impavidity/XRICL上公开获取。
2022-10-25 cs.CL
DQ-LoRe: Dual Queries with Low Rank Approximation Re-ranking for In-Context Learning
Sun Yat-Sen University(中山大学);The Chinese University of Hong Kong(香港中文大学);Huawei Noah’s Ark Lab(华为诺亚实验室);The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州));MBZUAI;The Hong Kong University of Science and Technology(香港科学与技术大学);Shenzhen MSU-BIT University(深圳MSU-BIT大学);DarkMatter AI Research(DarkMatter AI研究)
DQ-LoRe通过双查询与低秩近似重排序方法提升GPT-4上下文学习性能,实现94.2%的性能提升。
2026-01-09 cs.CL
ROG: Retrieval-Augmented LLM Reasoning for Complex First-Order Queries over Knowledge Graphs
School of Information Science and Engineering, Chongqing Jiaotong University(信息科学与工程学院,重庆交通大学);State Grid Chongqing Electric Power Company(国网重庆市电力公司)
ROG通过检索增强的大语言模型推理,解决复杂一阶查询中的投影、交集、并集和否定问题,提升知识图谱推理的鲁棒性和准确性。
2026-02-02 cs.CL
D$^2$Plan: Dual-Agent Dynamic Global Planning for Complex Retrieval-Augmented Reasoning
Peking University(北京大学)
D$^2$Plan通过双智能体协作提升复杂检索增强推理的连贯性和抗干扰能力。
2026-01-13 cs.CL
RARE: Retrieval-Augmented Reasoning Enhancement for Large Language Models
University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校);University of Massachusetts, Lowell(马萨诸塞大学洛厄尔分校)
本文提出 RARE,通过在 MCTS 中引入检索生成与子问题检索重答两种动作,并用检索增强事实性评分器替代判别器,提升大语言模型在复杂知识密集型推理中的准确性与事实性,实验表明其性能可比肩 GPT-4 等顶尖模型。
2025-06-02 cs.CL
Exploring Reasoning-Infused Text Embedding with Large Language Models for Zero-Shot Dense Retrieval
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Amazon(亚马逊)
针对现有文本嵌入方法缺乏推理能力的问题,提出融合推理的文本嵌入方法RITE,通过生成式大语言模型在嵌入计算前生成中间推理文本,在BRIGHT基准上显著提升了多领域零样本稠密检索性能。
2025-08-29 cs.CL
Let's Be Self-generated via Step by Step: A Curriculum Learning Approach to Automated Reasoning with Large Language Models
East China Normal University(东华大学);Youtu Lab, Tencent(腾讯优图实验室);Shanghai Normal University(上海师范大学)
针对CoT提示依赖人力或生成质量不足的问题,受课程学习启发提出LBS3提示方法,通过由易到难的代理查询渐进式引导LLMs生成高质量示例解,在多种推理任务中取得SOTA竞争力。
2025-05-30 cs.CL
Mixture-of-Retrieval Experts for Reasoning-Guided Multimodal Knowledge Exploitation
Northeastern University(东北大学);Tsinghua University(清华大学)
本文提出MoRE框架,通过动态选择检索专家提升多模态大语言模型的知识利用效率,实验表明在开放领域问答基准上性能提升超过7%。
2026-04-06 cs.CL
Beyond Rows to Reasoning: Agentic Retrieval for Multimodal Spreadsheet Understanding and Editing
BRTR通过迭代工具调用框架实现多模态电子表格的端到端理解与编辑,取得领先性能。
2026-03-06 cs.CL
Inductive Linguistic Reasoning with Large Language Models
Greenwich High School(格林威治高中);University of Pennsylvania(宾夕法尼亚大学)
本文通过极低资源语言谜题研究大语言模型的抽象多语言推理能力,提出两阶段类比提示方法,有效提升GPT-4o和Llama-3.1-405B-Instruct等模型在modeLing和LINGOLY数据集上的推理性能。
2024-12-09 cs.AI cs.CL
ProMoral-Bench: Evaluating Prompting Strategies for Moral Reasoning and Safety in LLMs
ProMoral-Bench通过统一道德安全评分评估多种提示策略,发现紧凑示例引导框架在道德和安全方面表现更优。
2026-11-06 cs.AI cs.CL
RELexED: Retrieval-Enhanced Legal Summarization with Exemplar Diversity
School of Computation, Information, and Technology(计算、信息与技术学院;慕尼黑工业大学);Technical University of Munich
本文提出检索增强框架RELexED,利用示例摘要引导法律文本摘要生成,通过行列式点过程平衡示例相似性与多样性,实验证明其显著优于基线模型。
2025-01-23 cs.CL
Better by Comparison: Retrieval-Augmented Contrastive Reasoning for Automatic Prompt Optimization
University of Science and Technology of China(中国科学技术大学)
本文提出CRPO框架,通过对比推理提升提示优化效果,利用HelpSteer2数据集中的高质量示例进行对比分析,改进提示生成的鲁棒性和可解释性。
2025-10-03 cs.AI cs.CL cs.IR
Unveiling Reasoning Thresholds in Language Models: Scaling, Fine-Tuning, and Interpretability through Attention Maps
University of Connecticut(康涅狄格大学)
该研究发现纯解码器Transformer语言模型存在约16亿参数的推理阈值,超阈值模型推理性能显著提升,提出用任务样例微调改善亚阈值模型表现,并通过注意力图揭示推理过程的可解释性机制。
2025-02-21 cs.AI cs.CL
Can Separators Improve Chain-of-Thought Prompting?
Yonsei University(延世大学);Linq
针对思维链提示示例密集易引发大语言模型认知过载的问题,提出在每个示例末尾添加分隔符的COT-SEP方法,显著提升复杂推理任务表现,并测试了分隔符类型、位置在多模型上的效果。
2024-10-09 cs.AI cs.CL
Reasoning or Retrieval? A Study of Answer Attribution on Large Reasoning Models
Stony Brook University(石溪大学);Palo Alto Networks(帕洛阿尔托网络);Wuhan University(武汉大学)
本研究探讨了大型推理模型在推理与检索机制之间的冲突,提出FARL框架通过抑制检索捷径提升推理能力。
2026-03-02 cs.AI cs.CL
RaDeR: Reasoning-aware Dense Retrieval Models
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
RaDeR利用LLM推理轨迹与自反思评估生成难负样本,训练推理感知稠密检索器,在BRIGHT和RAR-b上超越强基线,并首个在思维链查询下优于BM25,且仅用2.5%数据达到同等效果。
2025-05-27 cs.CL cs.IR
Generate-and-Retrieve: use your predictions to improve retrieval for semantic parsing
University of Southern California(南加州大学);Google Research(谷歌研究院)
最近一种常见的语义解析方法通过检索和附加一组训练样本(称为样本)来增强序列到序列模型。这个配方的有效性受到检索信息样本的能力的限制,这些样本有助于产生正确的解析,这在资源匮乏的环境中尤其具有挑战性。现有的检索通常是基于相似性的查询和范例输入。我们提出GandR,检索过程,检索样本的输出也是类似的。GandRfirst通过基于输入的检索生成初步预测。然后,它检索输出类似于用于生成最终预测的初步预测的样本。GandR在多个低资源语义解析任务上设置了最先进的技术。
2022-09-29 cs.CL
Optimizing In-Context Demonstrations for LLM-based Automated Grading
Michigan State University(密歇根州立大学);University of Southern California(南加州大学)
GUIDE通过迭代设计示例优化自动评分,提升评分标准的符合性和边界处理能力。
2026-02-28 cs.AI cs.CL
Reason What Matters: Retrieval-Grounded Reasoning for Universal Multimodal Embeddings
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);School of Artificial Intelligence and Data Science, USTC(中国科学技术大学人工智能与数据科学学院);Kuaishou Technology(快手科技);College of Future Information Technology, Fudan University(复旦大学未来信息技术学院)
针对通用多模态嵌入中GRPO信用分配不均和CoT推理延迟高的问题,提出ReWAM框架,通过检索感知自蒸馏和自适应推理,实现最先进检索性能并提升高达5倍推理吞吐量。
2026-09-29 cs.AI cs.CL
Reasoning in Action: MCTS-Driven Knowledge Retrieval for Large Language Models
City University of Hong Kong(香港城市大学);City University of Hong Kong Shenzhen Research Institute(香港城市大学深圳研究院)
本文提出一种基于MCTS的知识检索方法,通过增强LLM与对话逻辑结构的对齐,提升多轮对话中的推理能力和响应多样性。
2025-11-28 cs.AI cs.CL
Effectiveness of Prompt Optimization in NL2SQL Systems
Megagon Labs(梅加贡实验室);Adobe
本文针对生产环境NL2SQL系统,提出一种基于静态示例选择和多目标优化的提示优化框架,以提升高精度与性能,并通过初步实验验证其有效性。
2025-05-26 cs.CL cs.DB
Improving Context Fidelity via Native Retrieval-Augmented Reasoning
DIRO, Université de Montréal(蒙特利尔大学计算机科学与运筹学系);MetaGPT;Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学);Yale University(耶鲁大学);Canada CIFAR AI Chair(加拿大CIFAR人工智能教席)
提出原生检索增强推理框架CARE,通过模型自身检索能力在推理链中显式整合上下文证据,显著提升了LLMs的上下文保真度及知识密集型任务的准确性。
2025-09-17 cs.AI cs.CL
LLM-Guided Exemplar Selection for Few-Shot Wearable-Sensor Human Activity Recognition
Graduate School of Life Science and Systems Engineering, Kyushu Institute of Technology, Kitakyushu, Japan(九州工学院生命科学与系统工程研究生院,日本)
本文提出基于大语言模型的示例选择方法,通过语义先验和结构几何线索提升少样本可穿戴传感器人体活动识别的性能。
2026-01-01 cs.AI cs.CL cs.CV
GEM: A Generative Embedding Model Bridging Reasoning and Retrieval
University of Glasgow(格拉斯哥大学)
针对传统检索器表层匹配导致的需求解读差距问题,提出生成式嵌入模型GEM,将推理与检索统一,在相关任务上性能优于基线,还可通过提示扩展测试时计算提升效果。
2026-08-17 cs.AI cs.CL cs.IR
PEDAL: Enhancing Greedy Decoding with Large Language Models using Diverse Exemplars
本研究提出混合自集成方法PEDAL,结合多样化范例提示与LLM聚合技术,在SVAMP、ARC数据集上实现了比贪心解码更高的准确率,且推理成本低于自一致性方法。
2024-08-19 cs.CL cs.LG
ProgRAG: Hallucination-Resistant Progressive Retrieval and Reasoning over Knowledge Graphs
ProgRAG通过分解复杂问题并逐步扩展推理路径,提升知识图谱问答的可靠性和推理质量。
2025-12-09 cs.AI cs.CL
Search and Refine During Think: Facilitating Knowledge Refinement for Improved Retrieval-Augmented Reasoning
University of Science and Technology of China(中国科学技术大学);National University of Singapore(新加坡国立大学);DP Technology(DP技术)
本文提出AutoRefine强化学习后训练框架,通过在连续搜索之间引入显式知识精炼步骤并结合检索定制奖励,显著提升了单跳和多跳问答中的检索增强推理性能。
2025-09-19 cs.AI cs.CL
Directional Attractors in LLM Reasoning: How Similarity Retrieval Steers Iterative Summarization Based Reasoning
McGill University(麦吉尔大学)
本文提出InftyThink与跨链记忆,通过语义引理检索提升LLM在结构化领域推理准确性,同时揭示异构领域中的失败模式及方向性偏见影响。
2025-12-22 cs.AI cs.CL cs.LG
Prompt Optimization with EASE? Efficient Ordering-aware Automated Selection of Exemplars
Institute of Data Science, National University of Singapore(新加坡国立大学数据科学研究院);Dept. of Computer Science, National University of Singapore(新加坡国立大学计算机学院);LIDS and EECS, Massachusetts Institute of Technology(麻省理工学院LIDS与电子工程与计算机科学系);Guangdong Lab of AI and Digital Economy (SZ)(广东省人工智能与数字经济实验室(深圳))
针对大语言模型上下文学习中示例选择存在的测试开销高、忽略排序与指令影响的问题,提出EASE方法,利用预训练模型隐藏嵌入和神经老虎机算法优化有序示例集,可联合优化指令,性能优于现有方法。
2024-10-29 cs.AI cs.CL cs.LG
DeepTaxon: An Interpretable Retrieval-Augmented Multimodal Framework for Unified Species Identification and Discovery
National University of Singapore(新加坡国立大学);Hunan University(湖南大学);Xiangtan University(湘潭大学);Hunan Normal University(湖南师范大学);Zhejiang University(浙江大学);Cornell University(康奈尔大学);Meituan(美团)
DeepTaxon通过可解释的检索增强多模态框架,统一物种识别与发现,通过检索证据进行链式推理,提升识别和发现的准确性与可解释性。
2026-04-27 cs.CL cs.CV cs.IR
Path-Constrained Retrieval: A Structural Approach to Reliable LLM Agent Reasoning Through Graph-Scoped Semantic Search
路径约束检索通过结合结构图约束与语义搜索,提升LLM代理推理的可靠性和一致性。
2025-11-23 cs.CL cs.DB cs.IR
Progressive Multimodal Reasoning via Active Retrieval
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院)
本文提出AR-MCTS框架,通过主动检索与蒙特卡洛树搜索结合过程奖励模型,逐步提升多模态大语言模型在多步推理任务中的性能与验证可靠性。
2024-12-19 cs.AI cs.CL cs.CV
Improve Rule Retrieval and Reasoning with Self-Induction and Relevance ReEstimate
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学)
针对规则检索中查询事实与规则抽象表示存在语义鸿沟导致准确率低的问题,提出自归纳增强检索SIAR和规则相关性重估R³方法,有效提升检索与推理效果。
2025-05-16 cs.AI cs.CL cs.IR
RetrievalSum: A Retrieval Enhanced Framework for Abstractive Summarization
Shanghai Key Laboratory of Intelligent Information Processing, Fudan University(复旦大学上海市智能信息处理重点实验室);School of Computer Science, Fudan University(复旦大学计算机科学技术学院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
现有的摘要系统大多纯粹依赖于源文档的内容来生成摘要。然而,即使对于人类来说,我们通常也需要一些参考文献或范例来帮助我们完全理解源文档并以特定格式编写摘要。但是如何找到高质量的范例并将其纳入摘要系统仍然是一个具有挑战性的问题,值得探索。在本文中,我们提出了RetrievalSum,一种新的检索增强抽象摘要框架组成的密集检索和总结。首先,检索几个密切相关的范例作为补充输入,以帮助生成模型更全面地理解文本。此外,检索到的范例还可以在引导模型捕捉特定语料库的写作风格方面发挥作用。我们在多个领域的摘要数据集和两个骨干模型BERT和BART上验证了我们的方法。结果表明,与强大的预训练模型相比,我们的框架在ROUGE-1得分上获得了1.38~4.66的显着提高,并在BillSum上实现了新的最先进水平。人工评价表明,我们的检索增强模型可以更好地捕捉特定领域的写作风格。
2021-12-13 cs.CL
ActMem: Bridging the Gap Between Memory Retrieval and Reasoning in LLM Agents
State Key Laboratory for Novel Software Technology, Nanjing University, China(南京大学新型软件技术国家重点实验室);Alibaba Group, Hangzhou, China(阿里巴巴集团,杭州,中国);National Institute of Healthcare Data Science, Nanjing University, China(南京大学健康数据科学国家研究院)
提出ActMem框架,通过将非结构化对话历史转化为结构化因果语义图,结合反事实推理和常识补全,实现主动因果推理,显著提升LLM代理在复杂记忆依赖任务中的表现。
2026-06-18 cs.AI cs.CL cs.IR
RecaLLM: Addressing the Lost-in-Thought Phenomenon with Explicit In-Context Retrieval
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
RecaLLM通过交替推理与显式上下文检索解决推理过程中因长上下文导致的检索性能下降问题,显著提升了RULER和HELMET基准测试表现。
2026-04-10 cs.AI cs.CL cs.IR
Penguins Don't Fly: Reasoning about Generics through Instantiations and Exceptions
Columbia University(哥伦比亚大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所);Northwestern University(西北大学);University of Washington(华盛顿大学)
泛型表达了对世界的概括(例如,鸟能飞),这不是普遍正确的(例如,新生的鸟和企鹅不能飞。在NLP中广泛使用的常识知识库对一些泛型知识进行编码,但很少列举此类例外,并且知道泛型语句何时成立或不成立对于全面理解泛型至关重要。我们提出了一个新的框架通知语言学理论生成范例-具体情况下,当一个通用持有真或假。我们为大约650个泛型生成了大约19 k个样本,并表明我们的框架比强大的GPT-3基线高出12.8个精度点。我们的分析突出了基于语言学理论的可控性生成范例的重要性,知识库作为范例的来源的不足,以及范例对自然语言推理任务构成的挑战。
2023-03-24 cs.CL
Controllable Semantic Parsing via Retrieval Augmentation
Google Research(谷歌研究院)
在语义解析的实际应用中,我们经常希望快速改变解析器的行为,例如使其能够处理新领域中的查询,或者改变其对某些目标查询的预测。虽然我们可以引入展示目标行为的新的训练样本,但是用于在不进行昂贵的模型重新训练的情况下制定这样的行为改变的机制将是优选的。为此,我们提出了可控语义解析器通过范例检索(CASPER)。给定一个输入查询,解析器从检索索引中检索相关的范例,将它们添加到查询中,然后应用生成seq2seq模型来产生输出解析。范例作为一种控制机制,在一般的生成模型:通过操纵检索索引或如何构建增强查询,我们可以操纵的行为分析器。在MTOP数据集上,除了在标准设置上达到最先进的水平外,我们还展示了CASPER可以解析新领域中的查询,将预测适应指定的模式,或者适应新的语义模式,而无需进一步重新训练模型。
2022-02-23 cs.CL
Considering Length Diversity in Retrieval-Augmented Summarization
Chungnam National University(忠南大学);Nara Institute of Science and Technology (NAIST)(奈良先端科学技术大学院大学);Institute of Science Tokyo(东京科学大学)
本文提出DL-MMR算法,在检索增强摘要中引入示例长度多样性以控制摘要长度,在保持信息量的同时大幅降低计算和内存开销。
2025-03-12 cs.AI cs.CL
Exemplar Retrieval Without Overhypothesis Induction: Limits of Distributional Sequence Learning in Early Word Learning
Independent Researcher(独立研究者)
研究探讨了分布序列学习在早期词语学习中的局限,通过实验发现模型在第一阶示例检索上表现优异,但第二阶归纳仍处于偶然水平,揭示了自回归分布序列学习的不足。
2026-04-06 cs.AI cs.CL
Enhancing Retrieval Systems with Inference-Time Logical Reasoning
MIT(麻省理工学院);Center for Advanced AI, Accenture(埃森哲高级人工智能中心)
针对传统检索方法难以处理含逻辑结构复杂查询的问题,本文提出推理时逻辑推理框架,通过提取查询逻辑结构组合余弦相似度得分,在保证效率的同时显著提升复杂查询检索性能。
2025-03-22 cs.CL
RICE-PO: Turning Retrieval Interactions into Credit Signals for Reasoning Agents
University of Massachusetts, Amherst(马萨诸塞大学阿姆赫斯特分校);Texas Tech University(得克萨斯科技大学);University of Connecticut(康涅狄格大学)
提出RICE-PO框架,通过将检索交互转化为局部学习信号,解决推理型检索智能体在训练中推理步骤的信用分配问题,在BRIGHT和BEIR上优于基线。
2026-08-07 cs.CL
Multi-Step Reasoning Over Unstructured Text with Beam Dense Retrieval
University of Maryland(马里兰大学);Microsoft Research(微软研究院)
复杂的问答通常需要找到由多个证据组成的推理链。目前的方法结合了结构化知识和非结构化文本的优势,假设文本语料库是半结构化的。基于稠密检索方法,提出了一种新的多步检索方法(BeamDR),通过密集表示中的束搜索迭代形成证据链。当在多跳问答上进行评估时,BeamDR与最先进的系统相比具有竞争力,而不使用任何半结构化信息。通过密集空间中的查询组合,BeamDR捕获推理链中证据之间的隐含关系。该代码可在https://github.com/ henryzhao 5852/BeamDR上获得。
2021-04-13 cs.CL