语言大模型 / LLM

CIP: A Plug-and-Play Causal Prompting Framework for Mitigating Hallucinations under Long-Context Noise

CIP: 一种用于在长上下文噪声下缓解幻觉的即插即用因果提示框架

Qingsen Ma, Dianyun Wang, Ran Jing, Yujun Sun, Zhenbo Xu

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Northwestern University（西北大学） 纠错

专题命中 长上下文与记忆 ：prompting(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 CIP通过因果推理框架提升大语言模型的可解释性、稳定性和效率，有效缓解长上下文噪声下的幻觉问题。

REMODEL-LLM: Transforming C code to Java using LLMs

REMODEL-LLM：利用LLMs将C代码转换为Java代码

Aryan Gupta, Y. Raghu Reddy

专题命中 长上下文与记忆 ：LLM(title)；prompting(abstract)；分类 cs.AI

AI总结 REMODEL-LLM研究利用LLMs将C代码转换为Java代码，发现大多数模型无法生成基本代码，仅少数模型通过部分测试，揭示了量化模型在复杂转换任务中的局限性。

Unifying Dynamic Tool Creation and Cross-Task Experience Sharing through Cognitive Memory Architecture

通过认知记忆架构统一动态工具创建与跨任务经验共享

Jiarun Liu, Shiyue Xu, Yang Li, Shangkun Liu, Yongli Yu, Peng Cao

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 SMITH通过认知记忆架构统一动态工具创建与跨任务经验共享，实现代理能力的持续扩展和高效适应。

The Expressive Capacity of State Space Models: A Formal Language Perspective

状态空间模型的表达能力：从形式语言的角度

Yash Sarrof, Yana Veitsman, Michael Hahn

机构 * Saarland University（萨尔兰大学） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.CL、cs.LG

AI总结 从形式语言角度研究状态空间模型的表达能力，发现其在特定任务中优于Transformer，并指出当前SSM设计限制其表现。

Comments Published in NeurIPS 2024

Journal ref Advances in Neural Information Processing Systems 37 (2024)

KVSwap: Disk-aware KV Cache Offloading for Long-Context On-device Inference

KVSwap: 为长上下文本地推理的磁盘感知KV缓存卸载

Huawei Zhang, Chunwei Xia, Zheng Wang

机构 * University of Leeds（利兹大学） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI

AI总结 KVSwap通过磁盘感知技术提升本地长上下文推理的内存效率和吞吐量，同时保持生成质量。