语言大模型 / LLM

SVD-RAG: Efficient Tree-Organized Retrieval-Augmented Generation via Singular Value Decomposition

SVD-RAG：通过奇异值分解实现高效的树状组织检索增强生成

Zhihui Sun

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 研究提出SVD-RAG，通过对密集句子嵌入矩阵应用奇异值分解进行层次RAG抽取式摘要。该方法具确定性、成本效益高、内容自适应特点，实验表明其检索质量与RAPTOR相近，构建树速度更快且在多主题基准上性能提升显著。

Sticky Routing: Training MoE Models for Memory-Efficient Inference

粘性路由：为内存高效推理训练专家混合模型

Ali Kayyam

机构 * BrainChip Inc.（脑芯片公司） 纠错

专题命中 效率与部署 ：language model(abstract)；pretraining(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究MoE模型推理时内存效率问题，提出StickyMoE方法，通过惩罚相邻token间专家切换，使专家表示和路由决策共同适应。实验表明该方法能大幅降低专家切换率，在质量-局部性方面优于事后微调。

Compress the Cache, Not the Speech Embedding: KV Compression for Efficient Speech LLMs

压缩缓存，而非语音嵌入：用于高效语音语言模型的键值压缩

Ke-Han Lu, Keqi Deng, Ruchao Fan, Rui Zhao, Jinyu Li

机构 * Microsoft, USA（微软公司，美国） ； National Taiwan University, Taiwan（台湾国立大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 研究针对语音语言模型解码效率瓶颈，提出SpeechKV方法，对语言模型内语音令牌的键值缓存应用学习池化，在大量语音数据训练后，能压缩语音至文本级粒度，保持性能并大幅提升解码速度。

Comments Submitted to SLT2026

ShadowProbe: Language-Extensible Detection of Hidden Algorithmic Complexity Vulnerabilities

ShadowProbe：语言可扩展的隐藏算法复杂性漏洞检测

Yuanmin Xie, Xiangfan Wu, Wenhao Wu, Lingyun Ying, Puzhuo Liu, Haipeng Qu, Zhongyuan Chen, Min Zhou, Chengnian Sun

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 研究针对算法复杂性漏洞，提出ShadowProbe框架，通过轻量级静态分析、自动重建执行上下文及大语言模型辅助测试生成来检测。经实验验证，该框架能有效识别不同代码库中的隐藏算法风险，提升分析效率，发现诸多未知漏洞。

Securing the AI Agent: A Unified Framework for Multi-Layer Agent Red Teaming

保护AI代理：多层代理红队测试的统一框架

Yong Yang, Xing Zheng, Huiyu Wu, Huangsheng Cheng, Xiaorong Shi, Jing Guo, Bo Yang, Yi Zhou, Xiangfan Wu, Zonghao Ying

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；language model(abstract)

AI总结 提出AI-Infra-Guard框架，通过分层攻击面（基础设施、协议/工具、代理行为、模型）匹配不同检测范式，覆盖75+组件和1400+漏洞规则，实现代理安全红队测试。

GBC: Gradient-Based Connections for Optimizing Multi-Agent Systems

GBC：基于梯度的连接优化多智能体系统

Xiaocheng Yang, Abdulrahman Alrabah, Dilek Hakkani-Tür, Gokhan Tur

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出GBC方法，通过将多智能体系统建模为计算图并引入基于梯度的连接权重，实现细粒度归因与优化，提升多智能体性能。

Comments 15 pages, 8 figures, accepted by SIGDIAL 2026 Long Papers

Moebius: Serving Mixture-of-Expert Models with Seamless Runtime Parallelism Switch

Moebius: 以无缝运行时并行性切换服务混合专家模型

Shaoyu Wang, Yizhuo Liang, Jaeyong Song, Chong Li, Seo Jin Park

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出Moebius系统，在运行时动态切换张量并行与专家并行，无需重启或丢弃请求，通过仅迁移所有权变更的切片实现低开销切换，在8×H200 GPU上匹配最优静态并行性能，RL rollout提升1.16-1.25倍。

TeleStyle V2: Beyond Content-Preserving Style Transfer with Self-Distillation and Distribution-Matching-Distillation

TeleStyle V2：超越内容保持风格迁移的自蒸馏与分布匹配蒸馏

Shiwen Zhang, Yifan Xu, Haibin Huang, Chi Zhang, Xuelong Li

机构 * TeleAI 纠错

专题命中 效率与部署 ：SFT(abstract,abstract_cn)；foundation model(abstract)

AI总结 提出TeleStyle V2，通过自蒸馏数据合成和分布匹配蒸馏，支持四种内容-风格参考组合，解决内容一致性退化问题，性能与Qwen-Image-Edit和Gemini 3 Pro相当。

Comments https://github.com/Tele-AI/TeleStyleV2

Multi-Level Resistive Synapses for On-Chip Neural Networks: A Physics-Based Design of a Memristive Crossbar Fabric with Quasi-Continuous Conductance States

用于片上神经网络的多级电阻式突触：基于物理的准连续电导状态忆阻交叉阵列设计

David Alejandro Trejo Pizzo

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出基于离子输运物理的忆阻突触模型，实现准连续电导态，并构建1T1R交叉阵列，通过模拟域原位学习支持大规模语言模型，效率远超传统CMOS。

Comments 22 pages, 14 figures, includes self-contained SPICE compact model validation

TimeProVe: Propose, then Verify for Efficient Long Video Temporal Reasoning in Activities of Daily Living

TimeProVe: 先提出后验证，实现日常活动中的高效长视频时间推理

Arkaprava Sinha, Dominick Reilly, Siddharth Krishnan, Hieu Le, Srijan Das

机构 * University of North Carolina, Charlotte（北卡罗来纳大学夏洛特分校） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；language model(abstract)

AI总结 提出TimeProVe框架，先通过轻量模块生成基于动作的候选假设，再调用昂贵VLM验证，在长视频问答中降低75%VLM调用和93%推理成本，性能提升7.3%。

miniReranker: Efficient Multimodal Reranking through Visual Cache Reuse and Interaction Sparsity

miniReranker: 通过视觉缓存重用和交互稀疏性实现高效多模态重排序

Yingqi Fan, Xuan Lu, Anhao Zhao, Junlong Tong, Ping Nie, Kai Zou, Yunpu Ma, Wei Zhang, Xiaoyu Shen

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 提出miniReranker，通过视觉优先格式、早期退出、窄交互带和嵌入器引导剪枝，将重排序运行时间降至密集实现的1%以下，同时保持96%以上的性能。

SGFormer++: Semantic Graph Transformer for Incremental 3D Scene Graph Generation

SGFormer++：用于增量式3D场景图生成的语义图Transformer

Mengshi Qi, Changsheng Lv, Zijian Fu, Xianlin Zhang, Huadong Ma

机构 * State Key Laboratory of Networking and Switching Technology, Beijing University of Posts and Telecommunications（北京邮电大学网络与交换技术国家重点实验室） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出SGFormer++，通过图嵌入层和语义注入层实现全局消息传递，并引入空间引导特征适配器和级联二值预测头解决增量场景图生成中的灾难性遗忘问题，在3DSSG基准上达到最优性能。

Next Forcing: Causal World Modeling with Multi-Chunk Prediction

Next Forcing: 基于多块预测的因果世界建模

Gangwei Xu, Qihang Zhang, Jiaming Zhou, Xing Zhu, Yujun Shen, Xin Yang, Yinghao Xu

机构 * Robbyant ； HUST（华中科技大学） ； HKUST（香港科技大学） ； HKUST (GZ)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 提出Next Forcing框架，通过多块预测训练目标加速视频生成模型收敛、提升精度并实现推理加速，在多个基准上取得最优结果。

Comments Project page: https://gangweix.github.io/next-forcing/

Correlation Is Not Enough: Embedding Human Metadata for Individual Causal Discovery

相关性不够：嵌入人类元数据用于个体因果发现

Suraj Biswas, Saurabh Gupta, Pritam Mukherjee

机构 * Assessli Research（Assessli研究） ； Dots-In Research（Dots-In研究） 纠错

专题命中 效率与部署 ：language model(abstract)；foundation model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对预训练生物医学语言模型在跨域无关对中产生高余弦相似度（0.76-0.92）导致因果推断错误的问题，提出对比学习（提升分离度至1.63x）和BODHI硬负例挖掘（提升至2.30x），结合OpenVINO优化实现133倍加速。

Comments 20 pages, 18 figures, 9 tables

Stream3D-VLM: Online 3D Spatial Understanding with Incremental Geometry Priors

Stream3D-VLM：基于增量几何先验的在线3D空间理解

Hanxun Yu, Xuan Qu, Lei Ke, Boqiang Zhang, Yuxin Wang, Jianke Zhu, Dong Yu

机构 * Zhejiang University（浙江大学） ； Tencent Hunyuan（腾讯文汇） ； HKUST（香港科技大学） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；language model(abstract)

AI总结 提出在线3D视觉语言模型Stream3D-VLM，通过自回归流控制、轻量视觉-空间特征融合模块和几何自适应体素压缩，实现从流式视频中实时理解3D空间，并构建超百万在线3D问答数据集，在多项任务上超越现有模型。

Comments Project Page: https://stream3d-vlm.github.io/

Chiseling Out Efficiency: Structured Skeleton Supervision for Efficient Code Generation

剔除低效：用于高效代码生成的结构骨架监督

Yu Yu, Zhihong Sun, Jia Li, Yao Wan, Chuanyi Li, Hongyu Zhang, Ruyun Wang, Tao Huang, Zhi Jin, Ge Li, Chen Lyu

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 本文提出EffiSkel框架，通过提取和学习效率骨架，提升代码生成的效率与正确性，实验显示在多个编程语言和基准上均取得显著提升。

Data-efficient crack quantification in lithium-ion cathodes using foundation model transfer

基于基础模型迁移的锂离子正极高效数据裂纹量化

Thorsten Tegetmeyer-Kleine, Thomas Schmitt, Phillip Aquino, Christiane Rahe, Dirk Uwe Sauer, Weihan Li

机构 * RWTH Aachen University（亚琛工业大学） ； Honda Research Institute Europe GmbH（本田欧洲研究院） ； Zenules GmbH（Zenules有限公司） ； Honda Research Institute USA, Inc.（本田美国研究院） ； Juelich Aachen Research Alliance, JARA-Energy（于利希-亚琛研究联盟JARA能源分部） 纠错

专题命中 效率与部署 ：foundation model(title)；分类 cs.LG

AI总结 本研究提出结合自监督视觉Transformer等的框架，实现锂离子正极裂纹的高效量化，可区分裂纹类型并获取种群级统计，为电池寿命相关决策提供支撑。

Comments 38 pages, 15 figures, 2 tables. Supplementary Information included as Appendix B. Under review at Energy Storage Materials

Selective Regenerative Decoding: Trajectory-Level Intervention for Inference-Time Reasoning

选择性再生解码：推理时推理的轨迹级干预

Sophia Xiao Pu, Yumo Xu, Sailik Sengupta, Millennium Bismay, Ruixue Lian, James Gung, Yi-an Lai, Arshit Gupta

机构 * University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校） ； Netflix（网飞公司） ； Amazon Science（亚马逊科学研究院） ； Meta 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI；large language model(comments)；language model(comments)

AI总结 提出选择性再生解码（SRD），通过对候选轨迹做片段级干预，在低计算量下以更少生成代币达到Best-of-N准确率，提升样本效率，开辟了推理时推理的准确率-计算权衡新领域。

Comments Large Language Model, Test-Time Decoding Technique, Reasoning, 20 pages; Submitted to ARR

CacheRoute: Planned Prefix-Affinity Routing for Large-Scale LLM Serving

CacheRoute：面向大规模大语言模型服务的规划式前缀亲和路由

Huang Cheng

机构 * Meta 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.LG

AI总结 CacheRoute 是一种规划式前缀亲和路由方法，通过周期性路由规划解决大语言模型服务中前缀缓存复用与服务器过载的权衡，在 Llama-3.3-70B 模型上实现了更高 QPS 与 KV 缓存命中率。

Pretraining Reusable Inference Across Views with Synthetic Task Priors

利用合成任务先验预训练跨视图的可复用推理

Jielong Lu, Zhihao Wu, Jiajun Yu, Zhaoliang Chen, Haishuai Wang

机构 * Hong Kong Baptist University（香港浸会大学） ； Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：pretraining(title)；分类 cs.LG

AI总结 本文提出SIMPLE模型，将多视图推理预训练为可复用过程，在多视图与多组学基准上，其冻结变体具竞争力，轻量级适配器校准性能领先。

ImpactHO: Importance-Aware KV Cache Transfer for Multi-User Edge LLM Handover

ImpactHO：面向多用户边缘大模型切换的重要性感知键值缓存迁移

Minwoo Kim, Soochang Song, Namyoon Lee, Bang Chul Jung, Yongjune Kim

机构 * Pohang University of Science and Technology (POSTECH)（浦项科技大学（POSTECH）） ； Ajou University（明知大学） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.AI

AI总结 该研究针对多用户边缘大模型切换时回程链路饱和导致缓存无法完整迁移的问题，提出重要性感知KV缓存迁移方案，通过闭式加权注水算法实现高效分配，在500ms窗口内达到接近全缓存的准确率。

Confidence Estimation for Financial Vision-Language Models in Chart and Document Understanding

面向图表与文档理解的金融视觉语言模型的置信度估计

Reza Khanmohammadi, Simerjot Kaur, Charese H. Smiley, Ivan Brugere, Mohammad M. Ghassemi

机构 * Michigan State University（密歇根州立大学） ； JPMorgan AI Research（摩根大通AI研究院） 纠错

专题命中 效率与部署 ：language model(title)；分类 cs.CL

AI总结 该研究针对金融视觉语言模型，评估7种置信度估计器的分布外迁移效果，发现仅训练得到的探测模型具备校准能力，其中接地感知探测模型可区分模型未使用图表生成的答案与流畅猜测，为金融场景的决策信任提供支撑。

Advancing Relevance Measurement with Vision-Language Models for Web-Scale Search

利用视觉语言模型推进Web规模搜索的相关性测量

Han Wang, Alex Whitworth, Pak Ming Cheung, Zhenjie Zhang, Krishna Kamath, Xi Chen, Roberto Konow, Kurchi Subhra Hazra

机构 * Pinterest（品趣志（Pinterest）） 纠错

专题命中 效率与部署 ：language model(title)；分类 cs.LG

AI总结 本研究提出基于VLM的自动化相关性评估流水线，部署于Pinterest搜索A/B实验，验证其与人工标注一致性，提升评估效率，降低MDEs，助力优化搜索体验。

Comments RecSys'26 Industry track

Tevatron Meets Megatron: Expert-Parallel LLM Reranker Training on an Academic Budget

特瓦特龙遇上巨神：学术预算下的专家并行大语言模型重排序器训练

Zhichao Xu, Xueguang Ma, Shengyao Zhuang, Luyu Gao, Wenqian Ye, Yu Wang, Jamie Callan, Jimmy Lin

机构 * University of Utah（犹他大学） ； University of Waterloo（滑铁卢大学） ； The University of Queensland（昆士兰大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of Virginia（弗吉尼亚大学） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.LG

AI总结 该研究提出Tevatron 3.0，集成Megatron-Core后端实现专家并行，在学术预算下成功训练30B参数MoE重排序器，其性能优于稠密模型且推理吞吐量更高。

Behavioral Grammar: Detecting Adaptive Malware via Tiny Language Model Priors and Second-Order Temporal Analysis

行为语法：通过微型语言模型先验和二阶时序分析检测自适应恶意软件

Zihan Luo

专题命中 效率与部署 ：language model(title)；分类 cs.AI

AI总结 本文提出Behavioral Grammar架构，用0.88M参数的TinyGPT学习主机行为语法，结合多模块提升检测能力，在AAA威胁下实现93%检测率，建立利于防御者的结构不对称性。

Comments 29 pages, 8 figures

Safeguards for Speech2Speech LLM-Assistants: A Case Study in Automotive Applications

语音到语音大语言模型助手的保障措施：以汽车应用为例

Gregor Endler, Sebastian Kraus, Lukas Stappen

专题命中 效率与部署 ：LLM(title)；分类 cs.AI

AI总结 研究汽车应用中语音到语音大语言模型助手的保障措施，探讨基于转录本和工具的两种实现方法，经实证评估发现因高延迟和技术障碍，这两种策略大多不适用于工业部署，还概述了面临的开放挑战。

Journal ref LNCS Volume 16830, 2026

Beyond Accuracy and Cost: Latency-Aware LLM Query Routing for Dynamic Workloads

超越准确性和成本：针对动态工作负载的延迟感知大语言模型查询路由

Shivam Patel, Akaash R. Parthasarathy, Ankur Mallick, Gauri Joshi

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Microsoft（微软） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.AI

AI总结 研究针对动态工作负载的大语言模型查询路由，设计轻量级延迟估计器，纳入延迟感知路由器，联合优化延迟、准确性和成本，实验表明该方法能在保持延迟的同时提升准确性 - 成本效用达40%。

Lomekwi: Resource-Bounded Tool Discovery in LLM Agents

洛梅奎：大语言模型智能体中资源受限的工具发现

Roshan Klein-Seetharaman, Daniel Wang, Andrew Xu

机构 * Sea12 Technologies（Sea12科技公司） ； Yale University（耶鲁大学） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.AI

AI总结 研究受认知科学启发区分工具使用与发现，将工具发现分解为好奇心、识别和效率，表明该框架可用于现有任务，证明识别与模型大小成反比，还通过组合博弈及模拟环境观察到反比缩放。

Comments All authors contributed equally. 17 pages, 6 figures. Presented at the 2026 Conference on Learning Theory Workshop on Learning in an Agentic World

Binary Tracking for Spatial QA and Navigation with Open Vision-Language Models

基于开放视觉语言模型的空间问答与导航的二值追踪

Dongbin Na, Chanwoo Kim, Soonbin Rho, Giyun Choi, Gangbok Lee, Dooyoung Hong

机构 * RGA Inc.（RGA公司） 纠错

专题命中 效率与部署 ：language model(title)；分类 cs.AI

AI总结 提出BinTrack，一种全开源的空间定位代理，通过二值搜索轨迹段，在SpaceLocQA基准上准确率提升22.8%，推理速度提升1.5倍，并发布多行程室外数据集GangnamLoop。

Comments 21 pages, 4 figures, 15 tables. Project page: https://ndb796.github.io/BinaryTracking ; Code and dataset: https://github.com/ndb796/BinaryTracking

GLACIER: A Multimodal Student-Teacher Foundation Model for Molecular Property Prediction

GLACIER：用于分子性质预测的多模态师生基础模型

Emily Nguyen, Yongchan Hong, Harsh Toshniwal, Yan Liu, Andreas Luttens

机构 * Department of Computer Science, University of Southern California（南加州大学计算机科学系） ； Department of Quantitative and Computational Biology, University of Southern California（南加州大学定量与计算生物学系） ； Amazon（亚马逊） ； Department of Medical Biochemistry and Biophysics, Science for Life Laboratory, Karolinska Institutet（卡罗林斯卡学院医学生物化学与生物物理系，生命科学实验室） 纠错

专题命中 效率与部署 ：foundation model(title)；分类 cs.LG

AI总结 提出GLACIER师生框架，通过融合分子图、SMILES和物理化学描述符三种模态，并利用大模型蒸馏，实现高效准确的分子性质预测。