大模型推理能力

Effect of Document Packing on the Latent Multi-Hop Reasoning Capabilities of Large Language Models

文档打包对大型语言模型潜在多跳推理能力的影响

Gabriele Prato, Shagun Sodhani, Alessandro Sordoni, Sarath Chandar

机构 * Chandar Research Lab（Chandar研究实验室） ； Mila – Quebec AI Institute（魁北克人工智能研究所） ； Université de Montréal（蒙特利尔大学） ； Microsoft Research（微软研究院） ； Polytechnique Montréal（蒙特利尔理工学院） ； Canada CIFAR AI Chair（加拿大CIFAR人工智能主席） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文研究了文档打包对大型语言模型多跳推理能力的影响，发现打包可提升性能但增加计算成本，并通过消融研究揭示了其关键因素。

CogMem: A Cognitive Memory Architecture for Sustained Multi-Turn Reasoning in Large Language Models

CogMem：一种用于大型语言模型中持续多轮推理的认知记忆架构

Yiran Zhang, Jincheng Hu, Mark Dras, Usman Naseem

机构 * Macquarie University（麦考瑞大学） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 CogMem通过引入认知启发的记忆增强架构，解决大型语言模型在多轮交互中的推理偏差、任务漂移和记忆衰减问题，提升推理的连贯性和可靠性。

Comments underreview

What Affects the Effective Depth of Large Language Models?

影响大语言模型有效深度的因素是什么？

Yi Hu, Cai Zhou, Muhan Zhang

机构 * Institute for Artificial Intelligence, Peking University（人工智能研究院，北京大学） ； Department of Computer Science, Massachusetts Institute of Technology（计算机科学系，麻省理工学院） 纠错

专题命中 其他推理 ：reasoning(abstract)；CoT(abstract)；分类 cs.CL

AI总结 研究发现大语言模型的有效深度受模型规模、训练类型和任务难度影响，且有效深度比例稳定，提示需提升层利用率、模型剪枝和提前退出技术。

Retrieval Enhanced Feedback via In-context Neural Error-book

通过上下文神经错误本增强的检索反馈

Jongyeop Hyun, Bumsoo Kim

机构 * School of CSE Chung-Ang University（计算机科学与工程学院 Chung-Ang 大学） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 REFINE通过结构化反馈框架，系统分析并缓解多模态推理中的错误，提升推理效率和可扩展性。

Comments Accepted at EMNLP 2025 main

HyperVL: An Efficient and Dynamic Multimodal Large Language Model for Edge Devices

HyperVL: 一种高效的多模态大语言模型用于边缘设备

HyperAI Team, Yuchen Liu, Kaiyang Han, Zhiqiang Xia, Yuhang Dong, Chen Song, Kangyu Tang, Jiaming Xu, Xiushi Feng, WenXuan Yu, Li Peng, Mingyang Wang, Kai Wang, Changpeng Yang, Yang Li, Haoyu Lu, Hao Wang, Bingna Xu, Guangyao Liu, Long Huang, Kaibin Guo, Jinyang Wu, Dan Wu, Hongzhen Wang, Peng Zhou, Shuai Nie, Shande Wang, Runyu Shi, Ying Huang

机构 * HyperAI Team（HyperAI团队） ； Xiaomi Corporation（小米公司） 纠错

专题命中 其他推理 ：reasoning(abstract)；分类 cs.CL

AI总结 HyperVL是一种为边缘设备优化的高效多模态大语言模型，通过图像分块、视觉分辨率压缩和双一致性学习技术，实现低延迟、低功耗的多模态推理。

Comments Technical report of Xiaomi HyperAI Team

AI-Powered Annotation Pipelines for Stabilizing Large Language Models: A Human-AI Synergy Approach

基于AI的标注流程用于稳定大语言模型：一种人机协同方法

Gangesh Pathak, Prasanna Kumar

专题命中 其他推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文提出了一种基于AI的标注流程，通过人机协同方法系统识别并修复大语言模型的不稳定性，提升模型的可靠性和鲁棒性。

Comments 16 Pages

Cog-RAG: Cognitive-Inspired Dual-Hypergraph with Theme Alignment Retrieval-Augmented Generation

Cog-RAG: 基于认知的双超图主题对齐检索增强生成

Hao Hu, Yifan Feng, Ruoxue Li, Rundong Xue, Xingliang Hou, Zhiqiang Tian, Yue Gao, Shaoyi Du

专题命中 其他推理 ：reasoning(abstract)

AI总结 Cog-RAG通过双超图结构和主题对齐策略，提升检索增强生成的语义对齐与生成一致性。

Comments Accepted by AAAI 2026 main conference

Journal ref AAAI 2026