语言大模型 / LLM

FAME: Failure-Aware Mixture-of-Experts for Message-Level Log Anomaly Detection

FAME：面向失败的混合专家模型用于消息级日志异常检测

Huanchi Wang, Zihang Huang, Yifang Tian, Kristina Dzeparoska, Hans-Arno Jacobsen, Alberto Leon-Garcia

机构 * Department of Electrical and Computer Engineering（电气与计算机工程系） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出FAME，一种面向失败的混合专家模型，用于消息级日志异常检测。该方法通过少量标注数据训练轻量级路由器和领域专家，实现高效的异常检测，同时在BGL和Thunderbird数据集上取得了高精度和召回率。

Comments 12 pages, 5 figures, Accepted at the 2026 IEEE International Symposium on Software Reliability Engineering (ISSRE 2026)

When Machine Unlearning Meets Retrieval-Augmented Generation (RAG): Keep Secret or Forget Knowledge?

当模型遗忘遇上检索增强生成（RAG）：保守秘密还是遗忘知识？

Shang Wang, Tianqing Zhu, Dayong Ye, Wanlei Zhou

机构 * School of Computer Science, University of Technology Sydney（悉尼科技大学计算机科学学院） ； Faculty of Data Science, City University of Macau（澳门城市大学数据科学学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究大语言模型训练中敏感信息保留问题，提出基于检索增强生成（RAG）技术的轻量级行为遗忘框架，通过修改外部知识库模拟遗忘，经实验验证该方法符合五个关键遗忘标准，还可扩展到多模态模型和智能体。

Comments This paper is accepted by IEEE Transactions on Dependable and Secure Computing 2025. The source code is available at \url{https://github.com/shihe98/RAG_Unlearning}

SAFETY SENTRY: Context-Aware Human Intervention via EXECUTE-ASK-REFUSE Routing

安全哨兵：通过执行-询问-拒绝路由实现上下文感知的人工干预

Tianyu Chen, Chujia Hu, Wenjie Wang

机构 * ShanghaiTech University（上海科技大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 研究LLM智能体行动风险，将问题重构为三向路由决策，用安全哨兵实例化，其推理简化，单阈值可调整。该模型在准确率和召回率上优于多种基线，能同时控制错误率。

Full-Pipeline Inference Optimization for MiMo-V2.5 Series: Pushing Hybrid SWA Efficiency to the Limit

MiMo-V2.5系列的全流程推理优化：将混合滑动窗口注意力效率推向极限

Xiaomi MiMo Team, Anqi Liu, Aoxin Ma, Bo Chen, Bo Yang, Chen Wang, Chen Zhang, Chengda Tang, Chengwei Wang, Chiheng Lou, Depeng Yan, Fuli Luo, Gang Wang, Hailin Zhang, Jiale Sun, Kang Zhou, Rui Huang, Shaohui Liu, Shen Huang, Shijie Cao, Shuaishuai Fan, Tianling Zhou, Xiangwei Deng, Xueyang Xie, Xuli Wang, Yingchun Lai, Yu Yang, Yuan Zhang, Zhen Tang, Zhonghua Deng, Zihan Jiang

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 针对MiMo-V2.5模型家族，结合Hybrid SWA、MoE和多模态编码器进行全流程推理优化。通过多种策略优化KVCache系统，构建GCache并开发路由器，还优化多模态输入，构成首个有效涵盖该复合架构的大规模LLM生产服务系统。

Comments technical report

Out of Sight: Compression-Aware Content Protection against Agentic Crawlers

视线之外：针对智能爬虫的压缩感知内容保护

Xuefei Wang

机构 * Beihang University（北航大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 研究基于LLM的智能体给在线内容带来的新威胁，提出CAPE框架，通过注入不可见扰动保护文本内容，在低查询预算下有效提升信息损失，实验证明其有效性与通用性，推动智能体时代内容保护研究。

When Does Continual Learning Require Learning

持续学习何时需要学习

Anne Harrington, Nayan Saxena, Michael Murphy, Anastasia Borovykh, Zeyu Yun, Sridhar Kamath, Ara Eindra Kyi, Trevor Darrell, Jitendra Malik, Yutong Bai

机构 * UC Berkeley（加州大学伯克利分校） ； Capital Fund Management（资本基金管理公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 研究大语言模型持续学习问题，从空间和时间轴分解变化，通过重新设置基准和引入协议评估多种方法，发现持续学习非单一能力，不同环境变化需不同更新行为，为设计更强持续学习系统提供指导。

Comments Code: https://github.com/anneharrington/studying-cl. Project page: https://anneharrington.github.io/studying-cl/

video-SALMONN-R$^3$: Learning to ReWatch, ReAsk, and ReAnswer for Efficient Video Understanding

video-SALMONN-R$^3$: 学习重看、重问和重答以实现高效视频理解

Yixuan Li, Guangzhi Sun, Yudong Yang, Chao Zhang

机构 * Tsinghua University（清华大学） ； ByteDance（字节跳动） ； University of Cambridge（剑桥大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；SFT(abstract)

AI总结 提出video-SALMONN-R$^3$，首个通过强化学习实现重看机制的视频大语言模型，无需链式思维冷启动，采用重答和重问策略提升视频问答效率与准确性。

SNLP: Layer-Parallel Inference via Structured Newton Corrections

SNLP：通过结构化牛顿校正的层并行推理

Ligong Han, Kai Xu, Hao Wang, Akash Srivastava

机构 * Core AI, IBM（IBM核心AI） 纠错

专题命中 效率与部署 ：SFT(abstract,abstract_cn)；language model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 提出结构化牛顿层并行（SNLP）框架，通过将Transformer层间依赖视为非线性残差方程并用结构化牛顿校正并行求解，实现推理加速，在0.5B模型上获得高达2.58倍加速。

Comments Project webpage: https://github.com/phymhan/nanochat-snlp

The Future of NLP may not be at NLP Conferences: Scholarly Migration Patterns in Natural Language Processing

NLP的未来可能不在NLP会议上：自然语言处理领域的学术迁移模式

David Jurgens

机构 * School of Information, University of Michigan（信息学院，密歇根大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究通过分析2010-2026年NLP论文发表数据，发现NLP研究正从传统ACL会议向通用ML会议迁移，新作者在ML会议发表比例从5%升至21%，且ML会议带来显著引用优势。

Hawk: Harnessing Hardware-Aware Knowledge for High-Performance NPU Kernel Generation

Hawk：利用硬件感知知识生成高性能NPU内核

Junyi Wen, Ruiyan Zhuang, Yongjia Xu, Pengtu Li, Rui Zou, Hongyi Chen, Chingman Wan, Puxu Yang, Wuhui Chen, Yanlin Wang

机构 * Sun Yat-sen University（中山大学） ； Greater Bay Area National Technology Innovation Center（粤港澳大湾区国家技术创新中心） ； Peng Cheng Laboratory（鹏城实验室） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出Hawk框架，通过运行时知识合成、瓶颈感知检索和效果驱动蒸馏三个模块，将NPU内核生成准确率从49.4%提升至80.0%，执行速度最高提升2.2倍。

Sample Complexities of Estimating Gumbel--Max Watermark Proportions with and without Reduction to Pivotal Statistics

估计Gumbel-Max水印比例（含和不含降为枢轴统计量）的样本复杂度

Shuwen Chai, Qiaosen Wang

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究在Gumbel-max水印机制下，估计文档中水印文本比例的问题，比较了完整观测和降为枢轴统计量两种情形，提出了相应估计器并建立了匹配的样本复杂度下界。

Towards an automated AI-based framework for floor plan compliance checks for residential buildings

面向住宅建筑平面图合规检查的自动化AI框架

Subash Gautam, Debaditya Acharya, Alexandra Kleeman, Sarah Foster

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出一种基于大语言模型和规则引擎的自动化框架，用于多单元住宅平面图的合规检查，解决手动检查效率低、可扩展性差的问题。

Scenario Generation for Testing of Autonomous Driving Systems Using Real-World Failure Records

利用真实世界故障记录生成自动驾驶系统测试场景

Anjali Parashar, Chuchu Fan

机构 * Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 提出一种基于LLM的场景生成流程，利用历史故障记录中的分类和上下文信息，生成多样化测试场景，在Metadrive模拟器上验证了方法的准确性和多样性。

Comments 9 pages, Appendix included. Paper accepted and presented at NeuS 2026

An Efficient Heterogeneous Co-Design for Fine-Tuning on a Single GPU

面向单GPU微调的高效异构协同设计

Ruijia Yang, Zeyi Wen

机构 * Hong Kong University of Science 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出SlideFormer系统，通过异步引擎、异构内存管理和优化Triton内核，在单GPU上高效微调超大规模语言模型，显著提升吞吐量并降低内存使用。

Comments Accepted by DAC 2026. 7 pages. Author version

RCTs for Frontier AI Governance: Methodological Challenges and Solutions for Human Uplift Studies

随机对照试验与人类提升研究：前沿AI评估的方法论挑战与实践解决方案

Patricia Paskov, Kevin Wei, Shen Zhou Hong, Dan Bateyko, Xavier Roberts-Gaal, Carson Ezell, Gailius Praninskas, Valerie Chen, Umang Bhatt, Ella Guest

机构 * RAND ； Johns Hopkins University（约翰霍普金斯大学） ； Cornell University（康奈尔大学） ； Harvard University（哈佛大学） ； University of Cambridge（剑桥大学） ； London School of Economics（伦敦经济学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文通过访谈16位专家，系统梳理了人类提升研究（测量AI对人类绩效影响）在随机对照试验中面临的方法论挑战，包括内部效度、外部效度和构念效度问题，并提出了相应的解决方案。

Research Entity Extraction and Topic Detection from UKRI Grant Proposals

从UKRI资助提案中提取研究实体和检测主题

Xingran Ruan, Angelo Salatino, Rosa Filgueira, Kara Moraw, Alexandru Marcoci, Gemma Derrick, Sarah Callaghan

机构 * EPCC, University of Edinburgh, UK（埃克塞特大学埃平中心，英国） ； Knowledge Media Institute, The Open University, UK（开放大学知识媒体研究所，英国） ； Institute for Technology and Humanity, University of Cambridge, UK（剑桥大学技术与人类研究所，英国） ； Centre for Higher Education Transformations, School of Education, University of Bristol, UK（布里斯托大学教育学院高等教育转型中心，英国） ； University of Oxford, UK（牛津大学，英国） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 比较三种LLM方法（GPT-4o、Mistral和定制算法DSIT-Taxonomies）从资助提案中提取和分类研究实体，发现Mistral在主题分类准确率（90.5%）上优于DSIT-Taxonomies（71.4%），且与GPT-4o质量相当。

Comments Accepted at the STI-ENID Conference. Will be presented in September 2026 in Antwerp (Belgium)

Efficient Retrieval-Augmented Generation via Token Co-occurrence Graphs

基于Token共现图的高效检索增强生成

Gianluca Bonifazi, Christopher Buratti, Michele Marchetti, Federica Parlapiano, Giulia Quaglieri, Davide Traini, Domenico Ursino, Luca Virgili

机构 * Università Politecnica delle Marche（波尔蒂纳拉理工大学） ； Università di Modena e Reggio Emilia（摩德纳和雷焦艾米利亚大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出TIGRAG框架，利用滑动窗口共现统计构建Token共现知识图谱，结合图语义扩展和神经重排序实现多跳推理，在三个QA基准上优于稠密检索和图RAG方法，同时降低索引和推理开销。

SpecMind: Cognitively Inspired, Interactive Multi-Turn Framework for Postcondition Inference

SpecMind：基于认知的、交互式多轮框架用于后置条件推断

Cuong Chi Le, Minh V. T Pham, Tung Vu Duy, Cuong Duc Van, Huy N. Phan, Hoang N. Phan, Tien N. Nguyen

机构 * The University of Texas at Dallas（德克萨斯大学达拉斯分校） ； FPT Software AI Center（FPT软件AI中心） ； VinUniversity（文大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 SpecMind通过多轮交互式提示方法提升后置条件生成的准确性和完整性，利用反馈驱动模型迭代优化，增强代码理解和程序行为对齐。

Comments Accepted in ACL 2026 Main

Agentic Episodic Control

智能体情节控制

Xidong Yang, Wenhao Li, Junjie Sheng, Yun Hua, Haosheng Chen, Chuyun Shen, Xiangfeng Wang

机构 * East China Normal University（华东师范大学） ； Tongji University（同济大学） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai University of International Business and Economics（上海对外经贸大学） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出智能体情节控制（AEC），利用大语言模型增强情节强化学习，通过语义增强器和关键状态识别器提升数据效率和泛化能力，在BabyAI-Text环境中实现2-6倍数据效率提升。

Comments Accepted to Findings of the 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026)

At the Edge of Understanding: Sparse Autoencoders Trace The Limits of Transformer Generalization

在理解的边缘：稀疏自编码器追踪Transformer泛化的极限

Praneet Suresh, Jack Stanley, Sonia Joseph, Luca Scimeca, Danilo Bzdok

机构 * Mila - Quebec AI Institute（魁北克AI研究所） ； Meta AI ； Sapient manifold-informed selection of samples for improved Intelligence 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract_cn)；language model(abstract)；分类 cs.LG

AI总结 通过稀疏自编码器分析内部概念，发现OOD输入（如拼写错误和越狱提示）会激活更多错误概念，并据此提出一种基于机制的微调策略来增强LLM鲁棒性。

CrossAccent-TTS: Cross-Lingual Accent-Intensity Controllable Text-to-Speech via Disentangled Speaker and Accent Representations

CrossAccent-TTS：通过解耦说话人和口音表示实现跨语言口音强度可控文本转语音

Ram Annamdevula, Ankit Tatawat, Ashishkumar P. Gudmalwar, Nirmesh J. Shah, Pankaj Wasnik

机构 * Media Analysis, Sony Research India（索尼印度研究机构媒体分析部） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出CrossAccent-TTS框架，通过口音强度控制器（AIC）注入加权语言嵌入到口音子空间，实现跨语言口音控制与转换，同时保持说话人身份，在Indic Multilingual和L2-arctic数据集上优于基线。

Comments Accepted at INTERSPEECH 2026

AVOC: Enhancing Hour-Level Audio-Video Understanding in Omni-Modal LLMs via Retrieval-Inspired Token Compression

AVOC：通过检索启发的令牌压缩增强全模态大语言模型中的小时级音视频理解

Yijing Chen, Wenhui Tan, Xiaoyi Yu, Yuyue Wang, Xin Cheng, Kaisi Guan, Hao Jiang, Xiangyang Li, Guojie Zhu, Ruihua Song

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院） ； Huawei Inc.（华为技术有限公司） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出AVOC框架，通过检索启发的令牌压缩模块，将多模态令牌压缩视为top-K检索问题，结合相关性、重要性和多样性三个标准，实现长时音视频理解，在小时级基准上取得最优性能。

MERGE: Minimal Expression-Replacement GEneralization Test for Natural Language Inference

MERGE: 自然语言推理的最小表达式替换泛化测试

Mădălina Zgreabăn, Tejaswini Deoskar, Lasha Abzianidze

机构 * Utrecht Institute of Linguistics OTS（乌得勒支语言研究所OTS） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract_cn)；language model(abstract)；分类 cs.CL

AI总结 提出MERGE测试，通过最小表达式替换（MERE）生成高质量变体，评估NLI模型在非对抗性变体上的泛化能力，发现LLM和微调模型泛化较差。

Comments Pre-print

From RAN Control to Agentic Intelligence: Architecture and Vision for Energy Efficient AI-RAN

从RAN控制到智能体智能：节能AI-RAN的架构与愿景

Sabrine Aroua, Alexis I. Aravanis, Ilias Chatzistefanidis, Hamza Abbar, Anh-Khoa Dang, Anastasios Giovanidis, Salah-Eddine El Ayoubi, Stephane Senecal, Martha Vlachou Konchylaki, Navid Nikaein

机构 * Ericsson Research（爱立信研究） ； Laboratory of Signals and Systems (L2S)（信号与系统实验室） ； Universite Paris-Saclay（巴黎-萨克雷大学） ； CentraleSupelec（中央超导大学） ； CNRS（国家科学研究中心） ； BubbleRAN ； Orange Innovation（Orange创新） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出一种智能体AI原生RAN架构，结合语义意图抽象和大语言模型驱动协调，实现异构工作负载的自适应编排和节能多目标优化，以降低6G网络能耗。

Comments preprint under review at IEEE Network Magazine

Fix the Structural Bottleneck: Context Compression via Explicit Information Transmission

修复结构瓶颈：通过显式信息传输进行上下文压缩

Jiangnan Ye, Hanqi Yan, Zhenyi Shen, Heng Chang, Ye Mao, Yulan He

机构 * King’s College London（伦敦国王学院） ； Tsinghua University（清华大学） ； Imperial College London（伦敦帝国学院） ； The Alan Turing Institute（艾伦·图灵研究所） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 本文通过从结构角度重新审视上下文压缩，识别出标准LLM压缩方法中的两个关键瓶颈，并提出ComprExIT框架，通过显式信息传输提升压缩效率，实验表明其在多个数据集上表现优异，提升了F1分数并降低了计算成本。

Real-Time Procedural Learning From Experience for AI Agents

实时经验学习的AI代理

Dasheng Bi, Yubin Hu, Mohammed N. Nasir

机构 * Altrina（阿尔特里纳） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；foundation model(abstract)；post-training(abstract)；分类 cs.AI

AI总结 PRAXIS通过实时存储和检索行动后果，提升AI代理在动态环境中的任务完成效率与可靠性。

Journal ref ICLR 2026 MemAgents Workshop; WWW '26 Agentic Web Workshop

Dual-Agent Framework for Cross-Model Verified Translation of Natural-Language Protocols into Robotic Laboratory Platform

用于将自然语言协议翻译为机器人实验室平台的双智能体跨模型验证框架

Hyeonna Choi, Jung Yup Kim, Hyuneui Lim, Seunggyu Jeon

机构 * Department of Bionic Machinery, Research Institute of AI Robot, Korea Institute of Machinery & Materials（生物机械系、人工智能机器人研究所、韩国机械材料研究院） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 提出双智能体框架，通过解析器形式化协议、规则映射引擎生成控制命令、异构LLM验证器纠错，实现自然语言微孔板协议到机器人平台可执行命令的转换，并验证了端到端自主执行。

MCompassRAG: Topic Metadata as a Semantic Compass for Paragraph-Level Retrieval

MCompassRAG：主题元数据作为段落级检索的语义指南针

Amirhossein Abaskohi, Raymond Li, Gaetano Cimino, Peter West, Giuseppe Carenini, Issam H. Laradji

机构 * University of British Columbia（不列颠哥伦比亚大学） ； University of Salerno（萨莱诺大学） ； ServiceNow Research（ServiceNow研究院） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 提出MCompassRAG框架，通过主题元数据增强段落表示，利用LLM蒸馏训练轻量检索器，实现主题感知检索，在六个基准上平均信息效率提升8.24%，延迟降低5倍以上。

ConSA: Controllable Sparsity in Hybrid Attention via Learnable Allocation

ConSA: 通过可学习分配实现混合注意力中的可控稀疏性

Yao Chen, Yinqi Yang, Junyuan Shang, Xiangzhao Hao, Simeng Zhang, Yilong Chen, Tingwen Liu, Shuohuan Wang, Dianhai Yu

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院） ； Baidu Inc.（百度公司） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 提出ConSA框架，通过L0正则化和增广拉格朗日约束学习全注意与滑动窗口注意的最优分配，实现用户指定的稀疏目标，在0.6B和1.7B规模LLM上优于规则基线，并发现底层SWA与中层FA的集中分配模式。

Brick-DICL: Dynamic In-Context Learning for Automated Brick Schema Classification

Brick-DICL：用于自动化Brick模式分类的动态上下文学习

Yiyue Qian, Shinan Zhang, Huan Song, Negin Sokhandan, Hannah Marlowe, Diego Socolinsky

机构 * Amazon AWS Generative AI Innovation Center（亚马逊AWS生成式AI创新中心） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出Brick-DICL两阶段动态上下文学习框架，通过元数据检索和类别检索增强大语言模型领域知识，结合多模型过滤机制，实现楼宇管理系统点位的自动化Brick分类，显著提升准确率并减少人工验证。