语言大模型 / LLM

COLD-Steer: Steering Large Language Models via In-Context One-step Learning Dynamics

COLD-Steer: 通过上下文一步学习动态引导大型语言模型

Kartik Sharma, Rakshit S. Trivedi

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 COLD-Steer通过近似学习动态实现无需训练的LLM引导，有效提升引导效果并减少样本需求。

Comments ICLR 2026. Code available at https://github.com/Ksartik/cold-steer

ROSE: Reordered SparseGPT for More Accurate One-Shot Large Language Models Pruning

ROSE：重新排序的稀疏GPT用于更准确的一次性大语言模型剪枝

Mingluo Su, Huan Wang

机构 * Westlake University（西湖大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL、cs.LG

AI总结 ROSE通过重新排序稀疏GPT方法，优先剪枝潜在误差大的权重，提升一次性大语言模型剪枝的准确性。

Comments CPAL 2026 oral

VLMQ: Token Saliency-Driven Post-Training Quantization for Vision-language Models

VLMQ：基于令牌显著性的后训练量化用于视觉-语言模型

Yufei Xue, Yushi Huang, Jiawei Shao, Lunjie Zhu, Chi Zhang, Xuelong Li, Jun Zhang

机构 * Institute of Artificial Intelligence (TeleAI), China Telecom（人工智能研究所（TeleAI），中国电信） 纠错

专题命中 效率与部署 ：language model(title,abstract)；post-training(title,abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 VLMQ通过显著性驱动的后训练量化方法，针对视觉-语言模型的激活特性优化量化过程，实现低比特下的高性能压缩。

Towards Resource Efficient and Interpretable Bias Mitigation in Large Language Models

迈向大型语言模型中资源高效且可解释的偏见缓解

Schrasing Tong, Eliott Zemour, Jessica Lu, Rawisara Lohanimit, Lalana Kagal

机构 * Department of Electrical Engineering and Computer Science（电气工程与计算机科学系） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 本文提出了一种通过小型专家模型高效缓解大型语言模型偏见的方法，通过解码时添加去偏信号，减少性别、种族和宗教偏见，同时保持语言模型性能。

Comments 38th Conference on Neural Information Processing Systems (NeurIPS 2024) Safe Generative AI Workshop. Updated results in V2

λScale: Enabling Fast Scaling for Serverless Large Language Model Inference

λScale: 为无服务器大型语言模型推理实现快速扩展

Minchen Yu, Rui Yang, Chaobo Jia, Zhaoyuan Su, Sheng Yao, Tingfeng Lan, Yuchen Yang, Zirui Wang, Yue Cheng, Wei Wang, Ao Wang, Ruichuan Chen

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)

AI总结 λScale通过高效模型组播和分布式推理实现无服务器LLM推理的快速扩展，显著提升延迟性能并降低成本。

Window-based Membership Inference Attacks Against Fine-tuned Large Language Models

基于窗口的细调大语言模型成员推断攻击

Yuetian Chen, Yuntao Du, Kaiyuan Zhang, Ashish Kundu, Charles Fleming, Bruno Ribeiro, Ninghui Li

机构 * Purdue University（普渡大学） ； Cisco Research（思科研究） ； Cisco Systems（思科系统） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出WBC方法，通过滑动窗口和符号聚合技术，有效识别细调大语言模型中的训练数据，显著提升检测性能。

Comments Accepted to USENIX Security 2026. This extended arXiv version includes complete experimental results. The source code is publicly available at: https://github.com/Stry233/WBC/

Co-Layout: LLM-driven Co-optimization for Interior Layout

Co-Layout: 基于大语言模型的室内布局联合优化

Chucheng Xiang, Ruchao Bao, Biyin Feng, Wenzheng Wu, Zhongyuan Liu, Yirui Guan, Ligang Liu

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出基于大语言模型和整数规划的联合优化方法，用于提升室内布局和家具摆放的自动化设计效率与质量。

Comments AAAI 2026

Parallelization Strategies for Dense LLM Deployment: Navigating Through Application-Specific Tradeoffs and Bottlenecks

密集大语言模型部署的并行策略：在应用特定的权衡和瓶颈中导航

Burak Topcu, Musa Oguzhan Cim, Poovaiah Palangappa, Meena Arunachalam, Mahmut Taylan Kandemir

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文研究了密集LLM部署中并行策略对延迟和吞吐量的权衡影响，提出通过混合TP和PP优化性能。

Comments 17 pages, 8 figures, 3 tables

MoEless: Efficient MoE LLM Serving via Serverless Computing

MoEless：通过无服务器计算实现高效的MoE大语言模型服务

Hanfei Yu, Bei Ouyang, Shwai He, Ang Li, Hao Wang

机构 * Stevens Institute of Technology（史蒂文斯理工学院） ； University of Maryland College Park（马里兰大学帕克分校） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 MoEless通过无服务器计算实现高效的MoE大语言模型服务，减少推理延迟和成本。

HiPP-Prune: Hierarchical Preference-Conditioned Structured Pruning for Vision-Language Models

HiPP-Prune: 基于层次化偏好条件的结构化剪枝用于视觉-语言模型

Lincen Bai, Hedi Tabia, Raul Santos-Rodriguez

机构 * Université Paris-Saclay（巴黎萨克雷大学） ； University of Bristol（布里斯托大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 HiPP-Prune通过层次化偏好条件的结构化剪枝框架，在视觉-语言模型中实现高效部署，通过多目标优化提供可控的鲁棒性与效用权衡。

Transducing Language Models

语言模型的转化

Vésteinn Snæbjarnarson, Samuel Kiegeland, Tianyu Liu, Reda Boumasmoud, Ryan Cotterell, Tim Vieira

机构 * ETH Zürich（苏黎世联邦理工学院） ； University of Copenhagen（哥本哈根大学） ； CHI-FRO 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 本文提出了一种基于确定性字符串到字符串转换的通用语言模型框架，通过有限状态机实现对不同输出格式的适应性转换。

Reasoned Safety Alignment: Ensuring Jailbreak Defense via Answer-Then-Check

理性安全对齐：通过答案后检查确保对抗攻击防御

Chentao Cao, Xiaojun Xu, Bo Han, Hang Li

机构 * TMLR Group, Department of Computer Science, Hong Kong Baptist University（TMLR小组，计算机科学系，香港 Baptist大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出答案后检查方法，通过推理增强模型对抗攻击防御能力，实验表明其在安全性和效率上的优势。

Comments ICLR 2026

Ambiguity Collapse by LLMs: A Taxonomy of Epistemic Risks

LLMs中的模糊性消解：一种认知风险的分类

Shira Gur-Arieh, Angelina Wang, Sina Fazelpour

机构 * Harvard University（哈佛大学） ； Northeastern University（东北大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文探讨了LLMs在处理模糊术语时引发的认知风险，提出模糊性消解现象，并通过案例研究分析其在过程、输出和生态系统层面的影响，提出多层缓解原则以管理模糊性。

Attention Meets Reachability: Structural Equivalence and Efficiency in Grammar-Constrained LLM Decoding

注意力与可达性相结合：在语法约束下LLM解码的结构等价与效率

Faruk Alpay, Bilge Senturk

机构 * Department of Computer Engineering, Bahçeşehir University, Istanbul, Turkey（计算机工程系，巴切希尔大学，伊斯坦布尔，土耳其） ； Department of Industrial Engineering, Bahçeşehir University, Istanbul, Turkey（工业工程系，巴切希尔大学，伊斯坦布尔，土耳其） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.CL、cs.LG

AI总结 本文研究了语法约束解码中结构等价与效率问题，提出结构歧义成本度量，并推导了硬掩码解码的精确扭曲界，结合Transformer架构并连接到性能模型与自动语法优化。

Comments 20 pages

CASA: Cross-Attention over Self-Attention for Efficient Vision-Language Fusion

CASA: 交叉注意力优于自注意力用于高效的视觉-语言融合

Moritz Böhle, Amélie Royer, Juliette Marrie, Edouard Grave, Patrick Pérez

机构 * Kyutai 纠错

专题命中 效率与部署 ：LLM(abstract)；language model(abstract)；分类 cs.AI

AI总结 CASA通过交叉注意力机制提升视觉-语言模型的效率，实现实时视频字幕处理中的低延迟和恒定内存成本。

Comments updated with improved CA results

COMI: Coarse-to-fine Context Compression via Marginal Information Gain

COMI：通过边际信息增益的粗到细上下文压缩

Jiwei Tang, Shilei Liu, Zhicheng Zhang, Yujin Yuan, Libin Zheng, Wenbo Su, Bo Zheng

机构 * Tsinghua University（清华大学） ； Future Living Lab of Alibaba（阿里巴巴未来生活实验室） ； Sun Yat-sen University（中山大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 COMI通过边际信息增益实现粗到细的上下文压缩，在长上下文任务中提升压缩效率和语义保留能力。

Comments Accepted at ICLR 2026

CAReDiO: Cultural Alignment via Representativeness and Distinctiveness Guided Data Optimization

CAReDiO：通过代表性与独特性引导的数据优化实现文化对齐

Jing Yao, Xiaoyuan Yi, Jindong Wang, Zhicheng Dou, Xing Xie

机构 * Microsoft Research Asia（微软亚洲研究院） ； Renmin University of China（中国人民大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 CAReDiO通过代表性与独特性引导的数据优化，提升多文化环境下LLM的对齐效果与文化建模精度。

Revisiting the (Sub)Optimality of Best-of-N for Inference-Time Alignment

重新审视最佳-N在推理时间对齐中的（次）最优性

Ved Sriraman, Adam Block

机构 * Columbia University（哥伦比亚大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文重新审视了最佳-N在推理时间对齐中的次优性，证明在特定条件下BoN在胜率上最优，并提出消除奖励黑客攻击的改进方法。

Comments 52 pages

Omni-C: Compressing Heterogeneous Modalities into a Single Dense Encoder

Omni-C：将异构模态压缩到单一密集编码器

Kin Wai Lau, Yasar Abbas Ur Rehman, Lai-Man Po, Pedro Porto Buarque de Gusmão

机构 * City University of Hong Kong（香港城市大学） ； TCL AI Lab（TCL人工智能实验室） ； University of Surrey, United Kingdom（英国萨里大学） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.CL、cs.AI

AI总结 Omni-C通过单一密集Transformer编码器学习跨异构模态的共享表示，有效缓解跨模态冲突，提升多模态学习的效率与可扩展性。

Traversal-as-Policy: Log-Distilled Gated Behavior Trees as Externalized, Verifiable Policies for Safe, Robust, and Efficient Agents

路径作为策略：基于日志提炼的门控行为树作为可验证的外部化策略，用于安全、鲁棒且高效的智能体

Peiran Li, Jiashuo Sun, Fangzhou Lin, Shuo Xing, Tianfu Fu, Suofei Feng, Chaoqun Ni, Zhengzhong Tu

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； Worcester Polytechnic Institute（沃斯特理工学院） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Meta 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI、cs.LG

AI总结 通过日志提炼生成门控行为树作为外部化策略，提升智能体在安全、鲁棒性和效率方面的表现。

Comments 30 pages, 1 figurres, 23 tables

Spectral/Spatial Tensor Atomic Cluster Expansion with Universal Embeddings in Cartesian Space

谱/空张量原子簇展开与通用嵌入在笛卡尔空间中

Zemin Xu, Wenbo Xie, P. Hu

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.LG

AI总结 TACE通过统一标量和张量建模，在笛卡尔空间中提供通用不变和等变嵌入，实现高效且稳定的原子主义机器学习。

Efficient, Property-Aligned Fan-Out Retrieval via RL-Compiled Diffusion

通过强化学习编译扩散实现高效、属性对齐的扇出检索

Pengcheng Jiang, Judith Yue Li, Moonkyung Ryu, R. Lily Hu, Kun Su, Zhong Yi Wan, Liam Hebert, Hao Peng, Jiawei Han, Dima Kuzmin, Craig Boutilier

机构 * University of Illinois Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.LG

AI总结 R4T通过强化学习编译扩散模型，实现高效且属性对齐的扇出检索，提升检索质量并显著降低推理延迟。

StreamVoiceAnon+: Emotion-Preserving Streaming Speaker Anonymization via Frame-Level Acoustic Distillation

StreamVoiceAnon+: 通过帧级声学蒸馏实现情感保留的流式语音匿名化

Nikita Kuzmin, Kong Aik Lee, Eng Siong Chng

机构 * Nanyang Technological University, Singapore（南洋理工大学） ； Institute for Infocomm Research (I2R), A*STAR, Singapore（信息与通信研究所） ； The Hong Kong Polytechnic University, Hong Kong（香港理工大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 StreamVoiceAnon+通过帧级声学蒸馏和监督微调，在保持情感信息的同时实现高效的流式语音匿名化，提升情感保留率并保持隐私性能。

Expert-Aided Causal Discovery of Ancestral Graphs

专家辅助的祖先图因果发现

Tiago da Silva, Bruna Bazaluk, Eliezer de Souza da Silva, António Góis, Salem Lahlou, Dominik Heider, Samuel Kaski, Diego Mesquita, Adèle Helena Ribeiro

专题命中 效率与部署 ：LLM(abstract)；分类 cs.LG

AI总结 本文提出了一种专家辅助的因果发现算法，通过强化学习方法在祖先图上进行分布推断，并整合提前和不确定的专家知识，提升了因果发现的准确性。

PyBird-JAX: Accelerated inference in large-scale structure with model-independent emulation of one-loop galaxy power spectra

PyBird-JAX：利用模型无关的单环星系功率谱模拟加速大规模结构分析

Alexander Reeves, Pierre Zhang, Henry Zheng

专题命中 效率与部署 ：pretraining(abstract)

AI总结 PyBird-JAX通过模型无关的单环星系功率谱模拟，实现了大规模结构分析的加速，提供高精度且高效的端到端推断流程。

Comments 30 + 14 pages, 9 figures, 4 tables, V2: matches version accepted in JCAP. The PyBird-JAX code is available at https://github.com/pierrexyz/pybird

DVD-Quant: Data-free Video Diffusion Transformers Quantization

DVD-Quant: 数据无依赖的视频扩散变换器量化

Zhiteng Li, Hanxuan Li, Junyi Wu, Kai Liu, Haotong Qin, Linghe Kong, Guihai Chen, Yulun Zhang, Xiaokang Yang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Zhejiang University（浙江大学） ； ETH Zürich（苏黎世联邦理工学院） 纠错

专题命中 效率与部署 ：post-training(abstract)

AI总结 DVD-Quant通过无数据量化框架实现视频DiT模型的高效量化，提升运行速度并保持视觉质量。

Comments Code and models will be available at https://github.com/lhxcs/DVD-Quant

GenCLIP: Generalizing CLIP Prompts for Zero-shot Anomaly Detection

GenCLIP：通用CLIP提示用于零样本异常检测

Donghyeong Kim, Chaewon Park, Suhwan Cho, Hyeonjeong Lim, Minseok Kang, Jungho Lee, Sangyoun Lee

机构 * Yonsei University（延世大学） 纠错

专题命中 效率与部署 ：prompting(abstract)

AI总结 GenCLIP通过多层提示和双分支推理提升零样本异常检测的泛化能力与稳定性，有效解决通用提示的优化与部署难题。

Journal ref Pattern Recognition, 113406 (2026)