语言大模型 / LLM

Pretrained, Frozen, Still Leaking: Auditing Cross-Encoder Attribute Transfer in EEG Foundation Models

预训练、冻结、仍在泄露：脑电图基础模型中跨编码器属性转移的审计

Jianwei Tai

机构 * Jianwei Tai（Tai Jianwei） 纠错

专题命中 效率与部署 ：foundation model(title)；分类 cs.AI

AI总结 提出跨编码器桥接攻击，证明单一端点审计无法检测属性泄露，并引入审计端点分歧分数（AEDS）作为联合发布决策规则。

Rethinking Message Passing as Retrieval for Text-Attributed Graph Learning

将消息传递重新思考为用于文本属性图学习的检索

Jintang Li, Yuhong Chen, Ruofan Wu, Binli Luo, Jiayi Ji, Hui Li, Rongrong Ji

机构 * Xiamen University（厦门大学） ； Fudan University（复旦大学） ； Central South University（中南大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 该研究针对文本属性图学习提出了检索增强的RTA框架，以标签感知的检索与传播替代传统结构消息传递，经多基准测试，其性能匹配或优于强基线且效率、鲁棒性更优。

Lost in Compression: A Controlled Cross-Lingual Audit of Extractive Prompt Compressors

压缩中的迷失：抽取式提示压缩器的受控跨语言审计

Mantas Lukauskas

机构 * Hostinger ； Kaunas University of Technology（考纳斯理工大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 该研究审计抽取式提示压缩器的跨语言性能，发现英文训练的压缩器存在跨语言迁移差距，多语言训练的 XProvence 无此差距，先翻译再压缩的 pipeline 可在部分语言中以更低成本实现相当或更优效果。

Comments 17 pages, 6 figures. Code and artifacts: https://github.com/MantasLukauskas/lost-in-compression

Position Is All You Need: A Free Lunch Token Compression Strategy for MLLM-based Referring Expression Segmentation

位置即你所需：一种用于基于多模态大语言模型的指代表达分割的免费午餐式令牌压缩策略

Yuhan Liu, Yixiong Zou, Yuhua Li, Ruixuan Li

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 针对基于多模态大语言模型的指代表达分割任务的计算开销瓶颈，提出仅依赖位置信息的即插即用无训练令牌压缩方法PAYN，性能优于现有方法。

Comments Accepted by ICML 2026

AsymSpec: Context-Asymmetric Speculative Decoding for Agentic LLMs

AsymSpec：面向智能体大语言模型的上下文非对称投机解码

Sheng Liang, Yongyue Zhang, Nathanael Brian, Hang Lv, Hao Wang, Chen Zhang, Yong Liu

机构 * Huawei Technologies Co., Ltd.（华为技术有限公司） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 AsymSpec是面向智能体大语言模型的非对称投机解码框架，通过轻量级草稿读全输入、大型验证模型用压缩视图，实现近90%完整上下文准确率，获1.3-1.7倍吞吐量加速且计算成本仅0.2-0.3倍。

Comments EMNLP Main Conference 2026

Reflection Steering: Disentangling Reflection from Reasoning in Activation Space for Token-Efficient Inference

反射引导：在激活空间中解耦反射与推理以实现高效令牌推理

Jiarui Hu, Zhiyuan Wen, Xiaoyun Liu, Jiaxing Shen, Yu Yang

机构 * School of Computing and Data Science, The University of Hong Kong（香港大学计算与数据科学学院） ； Department of Computing, The Hong Kong Polytechnic University（香港理工大学计算学院） ； School of Data Science, Lingnan University（岭南大学数据科学学院） ； Centre for Learning, Teaching and Technology, The Education University of Hong Kong（香港教育大学学习、教学与技术中心） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 本文提出无需训练的Reflection Steering框架，通过解耦反射与推理的激活实现高效令牌推理，可减少16.9%推理令牌，还引入参数α平衡令牌节省、准确率与生成稳定性。

Comments 8 pages, 5 figures, 4 tables

GRAPE: Gradient Refinement and Progress-Aware Exploitation for Query-Efficient High-Dimensional Bayesian Optimization

GRAPE：面向查询高效性的高维贝叶斯优化的梯度细化与感知进展利用

Richard Cornelius Suwandi, Feng Yin

机构 * School of Artificial Intelligence（人工智能学院） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对高维黑箱函数优化的查询效率问题，提出GRAPE两阶段框架，经理论与实验验证，在黑箱对抗攻击和大语言模型提示优化任务中表现优于基线方法。

Parameter-Efficient Self-Supervised Adaptation for EEG-FM under Fixed Computational Budgets

固定计算预算下EEG-FM的参数高效自监督适配

Meghal Dani, Stefanie Liebe

机构 * University of Tübingen（蒂宾根大学） ； Hertie Institute for AI in Brain Health (Hertie AI)（赫蒂脑健康人工智能研究所） ； University Clinic Tübingen（蒂宾根大学医院） ； Hertie Institute for Clinical Brain Research（赫蒂临床脑研究所） 纠错

专题命中 效率与部署 ：foundation model(abstract)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出参数高效自监督适配方法，仅更新9%参数即可适配EEG-FM，在三个临床EEG数据集上较线性探测获最高20倍AUCPR，固定计算预算下仅需20%-50%未标记数据，可降低部署负担。

Giraffe: A Mapping Architecture from Hidden Text Representations to Visual Embeddings for Efficient Graphic Design

Giraffe：一种用于高效平面设计的从隐藏文本表示到视觉嵌入的映射架构

Nejla Ghaboosi

机构 * Canva Research（Canva研究院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 Giraffe 是一种轻量映射架构，以单 [IMG] token 实现从文本隐藏表示到视觉模型嵌入空间的转换，在平面设计生成任务中表现优异。

ST$^2$U: Stateful Test-Time Unlearning via Restricted Knowledge Boundary Control

ST$^2$U：通过受限知识边界控制实现的有状态测试时遗忘

Xunlei Chen, Qinghui Gong, Ruini Xue, Yaodong Hu, Tian Lan, Wenhong Tian

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本研究提出ST$^2$U方法，将测试时遗忘转化为全轨迹范围的受限知识边界控制，在三个基准和三个模型系列上，该方法比测试时基线大幅减少受限知识重新进入，实现了保留与遗忘的良好平衡。

Anchoring Bias: A Persistent Fairness Backdoor Attack against MLLMs under Continual Learning

锚定偏差：一种针对持续学习下多模态大语言模型（MLLMs）的持久公平性后门攻击

Yuyang Luo, Kai Shu

机构 * Emory University（埃默里大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对持续学习下的多模态大语言模型，研究人员提出持久公平性后门攻击，通过两种机制注入持久群体歧视，该攻击能规避标准防御且在多轮持续学习中留存。

Comments CIKM 2026

A Reproducible, License-Aware Distillation Recipe for CPUDeployable Safety Classification

适用于CPU可部署安全分类的可复现、许可感知蒸馏方案

Edson Rodrigues da Cruz Filho, Paulo Ricardo Ferreira Neves, Paulo Henrique Eleuterio Falsetti, João Vitor Pavan, Ian Degaspari, Henrique Vieira Laturrague, Patrick Vieira Laturrague, Guilherme Nielsen Dias, Marccello Wilson Perez Berto, Gustavo Voltani Von Atzingen

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种可复现、许可感知的知识蒸馏方案，训练小型学生模型实现CPU可部署的安全分类，其性能接近大参数教师模型，误报率更低且推理速度更快。

Matched Outcomes, Divergent Gaze: How Foveated MLLMs Search Compared to Humans

匹配结果，不同注视：中央凹多模态大语言模型（MLLM）的搜索方式与人类的对比

Mohamed Amine Kerkouri, Marouane Tliba, Aladine Chetouani, Ulas Bagci, Alessandro Bruno

机构 * F-initiatives（F计划） ； Université Sorbonne Paris Nord（巴黎北索邦大学） ； Northwestern University（西北大学） ； IULM university（IULM大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究对比三款通用MLLM与人类在目标导向视觉搜索中的表现，发现模型在决策和目标获取上优于人类，但注视过程与人类不同，现有指标无法验证类人视觉，零样本模型不适用于过程层面问题。

Comments Paper accepted at 3rd HCV workshop at ECCV 2026. 12 pages main text, 16 pages supp

DumpsterCluster: From Dumpster Diving to Serving LLaMA-70B on $60 GPUs

DumpsterCluster：从“废品回收”到在60美元级GPU上部署LLaMA-70B

Zeyu Cao, Xuan Guo, Cheng Zhang, Cheuk Hang Lau, Ilia Shumailov, Yiren Zhao

机构 * University of Cambridge（剑桥大学） ； University of Oxford（牛津大学） ； Quettaflop AI 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文搭建了二手GPU组成的DumpsterCluster，可在60美元级GPU上支撑LLaMA-70B推理，经济优势显著，但需结合低价电力与清洁能源以保障可持续性。

Unifying Depth and Width Pruning for LLMs via Binary Knapsack Optimization

通过二进制背包优化统一大语言模型的深度与宽度剪枝

Palaash Goel, Ayan Sengupta, Akshay Nambi, Tanmoy Chakraborty

机构 * Yardi School of Artificial Intelligence, Indian Institute of Technology Delhi（德里印度理工学院亚迪人工智能学院） ； Indian Institute of Technology Delhi（德里印度理工学院） ； Microsoft Research (MSR) India（微软研究院印度分部） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究针对LLMs结构化剪枝的贪心启发式算法缺陷，提出SNIPER两阶段剪枝框架，引入CRAFT量化预算保真度，在多架构多任务上较现有剪枝器实现性能与稳定性提升，泛化性强。

Comments 29 pages, 5 figures, 17 tables

Better, Faster, Stronger: Programmatic Skill Learning Best Reduces Agent Cost

更好、更快、更强：程序化技能学习最能降低智能体成本

Zixi Huang, Xiheng Wang, Andrew Wang, William Jurayj, Bernal Jiménez Gutiérrez, Daniel Khashabi, Nicholas Andrews

机构 * Johns Hopkins University（约翰斯·霍普金斯大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 该研究提出程序化技能学习的SpeedRunner编码智能体，通过分析轨迹重构技能，在三个具身环境中实现最优学习与成本降低，且对分布偏移和环境随机性能保持鲁棒性。

The Parser Already Knows: Lightweight Bias Correction in Constrained Decoding

解析器已掌握：约束解码中的轻量级偏差校正

Işıl Özgü, Yaoxuan Wu, Guy Van den Broeck, Miryung Kim

专题命中 效率与部署 ：language model(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 该研究针对语法约束解码中刚性屏蔽扭曲模型分布的问题，利用增量解析的语法状态提出轻量级离线 logit 校正，在几乎不增加开销的情况下优于基线方法，兼顾了语言模型的概率完整性与语法一致性。

Comments 9 pages, 5 figures

SR-OPSD: Self-Referenced On-Policy Self-Distillation

SR-OPSD：自引用同策略自蒸馏

Zhuo Sun, Entong Li, Yanlong Zhao, Xiaoyuan Cheng, Wenxuan Yuan, Kaiyu Li, Che Liu, Huihang Liu, Harrison Bo Hua Zhu, Li Zeng

机构 * Shanghai University of Finance and Economics（上海财经大学） ； Imperial College London（伦敦帝国学院） ； University of Science and Technology of China（中国科学技术大学） ； University College London（伦敦大学学院） ； Nanyang Technological University（南洋理工大学） ； Technical University of Denmark（丹麦技术大学） ； University of Copenhagen（哥本哈根大学） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 该研究针对同策略自蒸馏的优化不稳定问题，提出SR-OPSD方法，通过几何插值结合Rényi散度优化蒸馏目标，在多任务大语言模型实验中取得最优或竞争性能。

Tied Trit-Planes: Constraining PTQTP to a Uniform Nine-Level Quantizer, with a Persistent Folded Format for Disk-Streamed Mixture-of-Experts Serving

绑定三进制平面：将PTQTP约束为统一九级量化器，并为磁盘流式混合专家服务提供持久折叠格式

Matteo Grella

机构 * Anthropic（Anthropic公司） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 本研究将PTQTP约束为统一九级量化器，提出持久折叠格式，在DeepSeek-V4-Flash-0731混合专家模型上实现量化，提升解码速度并减小文件体积，且保真度与基线相当，相关成果开源。

LibraSpec: Dynamic Diffusion-Based Speculative Decoding via Marginal-Gain-Driven Optimization

LibraSpec：基于动态扩散的推测解码，通过边际增益驱动优化

Zexun Lin, Yuan Feng, Junlin Lv, Kevin S. Zhou, Xike Xie

机构 * Suzhou Institute for Advanced Research, University of Science and Technology of China（中国科学技术大学苏州高等研究院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 LibraSpec是一种无需训练的即插即用推测解码算法，通过边际增益驱动优化动态确定推测长度，可提升大语言模型推理速度，在多基准上较基线加速0.5~1.5倍、较自回归解码最高达8.49倍。

Defending Retrieval-Augmented Intrusion Detection Against Knowledge Poisoning and Prompt Injection

防御检索增强型入侵检测系统免受知识投毒与提示注入攻击

Kaysarul Anas Apurba, Md. Hasibul Hasan, Mahedee Zaman Moon, Sk. Md. Mizanur Rahman, Atsuo Inomata

机构 * Laurentian University（劳伦森大学） ； Centennial College（百年学院） ； The University of Osaka（大阪大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出RAG-IDS三层多智能体入侵检测框架，通过软信任评分、LECC和提示净化的检索边界防御，可在知识投毒与提示注入攻击下恢复分类质量，在CIC-UNSW-NB15数据集上表现出良好的防御效果。

Comments 14 pages with Appnedix, 11 figures. Submitted to IEEE CIC 2026, Research Track (double-blind review)

MolBioKG: Grounding Out-of-Graph Molecules in Biomedical Knowledge Graphs via Multi-Resolution Structural Anchoring

MolBioKG：通过多分辨率结构锚定将图外分子锚定到生物医学知识图谱中

Yiming Zhang, Hikaru Shindo, Shuan Chen, Kaushalya Madhawa, Jun Jin Choong, Yuna Oikawa, Takashi Fujiwara, Keisuke Ozawa

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 MolBioKG是解决生物医学KG中图外分子冷启动问题的两层系统，通过多分辨率结构锚定实现分子与KG的关联，在多项任务中优于基线并提升关键指标。

Comments Preprint

SkillZip: Contract-Preserving Graph Compression for Scalable Agent Skill Libraries

SkillZip：用于可扩展智能体技能库的保留契约的图压缩方法

Xingyu Tan, Xiaoyang Wang, Qing Liu, Xiwei Xu, Xin Yuan, Liming Zhu, Wenjie Zhang

机构 * UNSW（新南威尔士大学） ； CSIRO（联邦科学与工业研究组织） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 SkillZip是一种执行感知的过程抽象框架，通过对节级图进行保留契约的压缩，解决了智能体技能库的可扩展问题，在基准测试中优于基线，实现了高压缩率和稳健检索。

Woodpecker Distillation: Weak Models Diagnose Reasoning Bugs in Strong Models

啄木鸟蒸馏：弱模型诊断强模型中的推理错误

Dayu Wang, Jiaye Yang, Weikang Li, Jiahui Liang, Yang Li, Deguo Xia, Jizhou Huang

机构 * Baidu Inc.（百度公司） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 该研究提出Woodpecker Distillation框架，通过弱模型的局部干预对比学习，修复强模型的推理错误，在数学推理基准上提升了强模型性能且优于直接模仿基线。

CARVE: Cross-Slice Anisotropic Reallocation of Visual Evidence for Efficient 3D Medical Volume Understanding

CARVE：用于高效3D医学体积理解的视觉证据跨切片各向异性重分配

Zhenyu Yi, Qiang Hu, Zhenhao Li, Jiaxuan Zhao, Yusong Sun, Lichi Zhang

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 针对3D医学体积理解中切片式MLLM的视觉令牌冗余问题，提出无需训练的CARVE框架，通过跨切片各向异性重分配压缩80%令牌，在AMOS-MM等基准上性能优于现有方法。

Right Reset: Chunking by Prefix Removal

右侧重置：通过前缀移除进行分块

Mike Vegeto

专题命中 效率与部署 ：language model(abstract)；prompting(abstract)；分类 cs.CL、cs.LG

AI总结 本研究提出右侧重置（RR）方法，通过前缀移除探测将因果语言模型的上下文依赖转化为边界信号，在文本分块任务上优于基线方法，减少局部输出干扰。

Comments 12 pages, 2 figures, 4 tables. Code, data, and reproduction materials: https://github.com/ZECTBynmo/right-reset-paper

Spend Bits Where Queries Look: KV Cache Vector Quantization with Attention-Preserving Transforms

将比特分配至查询关注处：基于注意力保留变换的KV缓存向量量化

Samuel Fernández-Menduiña, Amir Ziashahabi, Eduardo Pavez, Antonio Ortega, Salman Avestimehr

机构 * University of Southern California（南加州大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文提出名为NOVA-KV的KV缓存量化方法，将其建模为变换编码问题，推导闭式最优变换，在每元素2比特时可恢复标量量化方法损失的大部分长上下文检索精度。

Can LLMs Test Terminal User Interfaces?

大型语言模型（LLMs）能否测试终端用户界面？

Chao Peng, Ruida Hu, Ajitha Rajan, Tegawendé F Bissyandé, Jacques Klein, Cuiyun Gao

机构 * University of Edinburgh（爱丁堡大学） ； Harbin Institute of Technology（哈尔滨工业大学） ； University of Luxembourg（卢森堡大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 该研究针对终端用户界面（TUIs）缺乏专门测试方法的问题，构建多框架基准测试对比前沿LLMs与随机探索，发现自动生成输入可提升测试效果，验证了自动化TUI测试的可行性。

RING: Retrieval-Internalized Generation for Continual Large-Scale Knowledge Injection

RING：用于持续大规模知识注入的检索内化生成

Shicheng Xu, Liang Pang, Liyi Chen, Zihao Wei, Jingcheng Deng, Yan Gao, Yi Wu, Yao Hu, Huawei Shen, Xueqi Cheng

机构 * State Key Laboratory of AI Safety, Institute of Computing Technology, CAS（中国科学院计算技术研究所人工智能安全国家重点实验室） ； University of Chinese Academy of Sciences（中国科学院大学） ； Xiaohongshu Inc.（小红书科技有限公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；pretraining(abstract)；分类 cs.CL、cs.AI

AI总结 RING是一种将检索内化的范式，通过三阶段训练学习参数化记忆的检索策略，在自主构建的News-2025基准上，其知识注入的准确性与效率优于或匹配现有方法。

Comments 16 pages

Slot2Text: Object-Centric Visual Tokenization for Efficient and Spatially Traceable Surgical MLLMs

Slot2Text：面向高效且空间可追溯的手术多模态大语言模型的以对象为中心的视觉分词

Guiqiu Liao, Matjaz Jogan, Daniel A. Hashimoto

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 Slot2Text将视觉输入转为槽潜变量，推出双模式手术MLLM，在多基准上实现高效推理，Slot2Text-Fast大幅降本，Slot2Text-Reason支持可追溯空间推理。

Comments 17 pages, 8 Figures