arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2025-12-12 至 2025-12-12 共收录 5 信号源:cs.CL, cs.AI, cs.LG

1. 长上下文与记忆 5 篇

2512.10547 2025-12-12 cs.LG 83%

Unlocking the Address Book: Dissecting the Sparse Semantic Structure of LLM Key-Value Caches via Sparse Autoencoders

解开地址簿:通过稀疏自编码器解剖LLM键值缓存的稀疏语义结构

Qingsen Ma, Dianyun Wang, Jiaming Lyu, Yaoye Wang, Lechen Ning, Sujie Zhu, Zhenbo Xu, Liuyu Xiang, Huining Li, Huijia Wu, Zhaofeng He

机构 * Beijing University of Posts(北京邮电大学) Baidu Inc.(百度公司)

专题命中 长上下文与记忆 :LLM(title);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出STA-Attention框架,通过Top-K稀疏自编码器解剖LLM键值缓存的稀疏语义结构,实现可解释的语义原子分解,提升模型的可解释性和性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.01426 2025-12-12 cs.LG cs.AI 81%

UniExtreme: A Universal Foundation Model for Extreme Weather Forecasting

UniExtreme: 一种用于极端天气预报的通用基础模型

Hang Ni, Weijia Zhang, Hao Liu

机构 * The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州))

专题命中 长上下文与记忆 :foundation model(title,abstract);分类 cs.AI、cs.LG

AI总结 UniExtreme是一种通用极端天气预报基础模型,通过自适应频率调制和事件先验增强模块,提升对多样化极端天气事件的预测能力。

Comments 35 pages, 80 figures, submitted to ACM KDD 2026 conference

详情

展开后加载摘要…

URL PDF HTML 收藏
2511.17208 2025-12-12 cs.CL 79%

A Simple Yet Strong Baseline for Long-Term Conversational Memory of LLM Agents

为LLM代理构建一个简单却强大的长期对话记忆基线

Sizhe Zhou, Jiawei Han

机构 * University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)

专题命中 长上下文与记忆 :LLM(title,abstract);分类 cs.CL

AI总结 本文提出基于事件的对话记忆方法,通过异构图结构实现高效检索,提升LLM代理的长期对话能力。

Comments Work in progress

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.15952 2025-12-12 cs.AI 70%

Executable Epistemology: The Structured Cognitive Loop as an Architecture of Intentional Understanding

可执行的元认知:结构化认知循环作为意图理解的架构

Myung Ho Kim

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract);分类 cs.AI

AI总结 本文提出结构化认知循环(SCL)作为可执行的元认知框架,通过定义智能为持续的循环过程,重新定义智能为重构自身知识状态的能力,并在哲学、人工智能和认识论领域产生影响。

Comments v4: Clarified the structural role of 'Regulation' as a governing constraint distinct from the loop cycle. Revised Figures 1 and 2 for better architectural clarity and unified terminology

详情

展开后加载摘要…

URL PDF HTML 收藏
2512.00087 2025-12-12 cs.CV 67%

Exploring Automated Recognition of Instructional Activity and Discourse from Multimodal Classroom Data

探索多模态课堂数据中教学活动和话语的自动化识别

Ivo Bueno, Ruikun Hou, Babette Bühler, Tim Fütterer, James Drimalla, Jonathan Kyle Foster, Peter Youngs, Peter Gerjets, Ulrich Trautwein, Enkelejda Kasneci

专题命中 长上下文与记忆 :language model(abstract);prompting(abstract)

AI总结 本文通过多模态分析方法,实现了课堂活动中教学活动和话语的自动化识别,展示了微调模型在视频和 transcripts 上的高准确率,为可扩展的教师反馈系统提供了基础。

Comments This article has been accepted for publication in the IEEE/CVF Winter Conference on Applications of Computer Vision (WACV) 2026

详情

展开后加载摘要…

URL PDF HTML 收藏