语言大模型 / LLM

Never the Number: Structural Abstention for AI Systems Whose Answers Are Consumed as Fact

绝非数字：将答案作为事实使用的AI系统的结构弃权

Zhelun, Wu

机构 * Apple Inc.（苹果公司） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 针对LLM文本转SQL系统返回错误答案且无法区分的问题，提出带生成式外壳的可信内核架构，即结构弃权，在生产案例中验证其可靠性优于两种生成式替代方案。

Comments 26 pages, 5 figures, 5 tables. Technical report. Describes architecture and design principles only; contains no code, schemas, datasets, or performance metrics

Lifecycle-Optimal Tokenization: Vocabulary Size as a Deployment-Regime-Dependent Infrastructure Parameter

生命周期最优分词：词汇表大小作为与部署 regime 相关的基础设施参数

Rima Mittal, Ankit Gubrani, Satyanarayana Kakollu

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 该研究发现 LLM 分词器的最优词汇表大小随部署 regime 变化，提出生命周期部署成本模型，经实验证实其与训练最优值差异最高达 16 倍，且最优范围内质量损失极小，为 LLM 部署提供词汇表容量规划指导。

Comments 6 pages, 3 figures, 6 tables

Can Frontier LLMs Match Natively Multimodal Embeddings? A Comparison on Hard-Negative Text-to-Image Retrieval

前沿大语言模型能否媲美原生多模态嵌入？在难负例文本到图像检索上的对比

Archan Dutta, Vyanktesh Kanungo

机构 * Westcliff University（韦克利夫大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本研究在Flickr30k数据集上对比Gemini Embedding 2等原生多模态嵌入与GPT-4.1、Claude Sonnet 4.6等前沿LLM的难负例文本到图像检索性能，发现二者表现相当，且多模态嵌入更适配低延迟应用

Deployable Per-Instance Multi-Layer Activation Steering for Large Language Models

面向大型语言模型的可部署实例级多层激活调控

Muhammad Faishal Adly Nelwan, Alfan Farizki Wicaksono

专题命中 效率与部署 ：language model(title,abstract)；large language model(title)；分类 cs.CL、cs.AI

AI总结 本研究提出可部署的实例级多层激活调控方案，解决现有全局固定层调控的缺陷，在两个8B模型和六个人格特质任务上，实现接近先验的性能，且避免流畅性崩溃。

Comments 43 pages, 24 figures, 30 tables. Under review at ACL Rolling Review (August 2026)

Mitigating Gender Bias in English to Romanian Machine Translation

缓解英罗机器翻译中的性别偏差

Ioana Grigore, Sergiu Nisioi

机构 * Human Language Technologies Research Center（人类语言技术研究中心） ； Faculty of Mathematics and Computer Science（数学与计算机科学学院） ； University of Bucharest（布加勒斯特大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 该研究提出结合LLM性别分类与Transformer翻译的混合流水线，引入新数据集，使英罗机器翻译在WinoMT等基准上性别准确率提升超40个百分点，为缓解该领域性别偏差提供新方法。

Understanding Calibration and Truncation Error Propagation in Training-Free Low-Rank Compression for LLMs

大型语言模型（LLM）无训练低秩压缩中的校准与截断误差传播研究

Mohanad Odema, Gabrielle De Micheli, Dayin Gou, Nilesh Malpeddi, Prathamesh Vaste, Jacob Song

机构 * LG Electronics, North America（北美LG电子） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；分类 cs.CL、cs.AI

AI总结 本研究针对现有LLM无训练低秩压缩框架的两个关键局限，提出带校准修正的逐层压缩与带秩分配修正的迭代压缩方法，在Llama、Qwen3模型的零样本任务上实现1-2.5个准确率点提升。

Comments COLM 2026

Recurrent Residual Quantization: A Progressive Multi-Precision Representation for LLMs

循环残差量化：面向大语言模型的渐进式多精度表示

Yu Luo, Bo Dong, Wenhua Cheng, Haihao Shen

机构 * Intel（英特尔） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文提出循环残差量化（RRQ）框架，可从单个检查点生成LLM的多种精度表示，构建速度比MatGPTQ快3.3倍，在6、8比特精度下表现有竞争力，代码将公开。

Comments NeurIPS 2026 submission; 14 tables, 1 algorithm, and no figures

IRIS: Reusable Identity Representations from Frozen LLMs for Entity Alignment

IRIS：来自冻结语言模型的可重复使用身份表示用于实体对齐

Xinran Liu, Shengtao Li, Shouqian Shi, Ge Wang, Xin-Wei Yao

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究实体对齐问题，传统方法语义理解不足，基于LLM的方法未形成稳定身份空间。提出IRIS框架，从冻结LLM提取上下文表示构建实体签名，形成共享空间实现跨图谱对齐，在多个基准测试中取得良好成绩。

Comments 9 pages, 1 figure, 3 tables

Understanding Tone-Dependent Inference Cost in Large Language Models

理解大语言模型中与语气相关的推理成本

Akhil Kumar, Om Dobariya

专题命中 效率与部署 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.CL、cs.AI

AI总结 研究提示语气对大语言模型答案准确性及推理成本的影响，通过在MMLU数据集上对七种语气进行实验，发现输出令牌长度变化超准确性变化，不同模型在不同语气下有不同表现，揭示语气对答案质量和推理资源消耗的作用。

Comments 16 pages, 1 figure, 9-page Appendix

MixQuant: Adaptive Mixed-Precision Quantization for Large Language Models

MixQuant：大语言模型的自适应混合精度量化

Ashitabh Misra, Madhav Agrawal, Arham Jain, Tarek Abdelzaher

机构 * University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 效率与部署 ：large language model(title)；language model(title)；post-training(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大语言模型量化中预算变化及层敏感度评估问题，提出MixQuant自适应框架，通过边缘化失真获与预算无关分数、校准参数并惩罚不合理分配，在多种模型上优于基线，提升准确率并降低困惑度。

Comments Preprint

SelectInfer: Selective Neuron Loading and Computation for On-Device LLMs

SelectInfer：用于设备端语言模型的选择性神经元加载与计算

Huzaifa Shaaban Kabakibo, Eric Schniedermeyer, Artem Burchanow, Lin Wang

机构 * Paderborn University（帕德博恩大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对大语言模型在边缘设备部署的挑战，提出SelectInfer框架，通过离线分析识别特定任务和通用神经元，实施选择性加载和计算两项关键优化，可显著减少内存与计算量，同时保持任务性能，推动LLM在边缘设备的部署。

Detection, Attribution, Narration: An End-to-End Pipeline for Explainable Money Mule Identification

检测、归因、叙述：用于可解释的洗钱者识别的端到端管道

Yuge Zhang, Yuanxing Zhang, Yichao Jin, Khairul Amsyar Mohd Razis, Nicholas Qi An Choo, Kai Yin Anders Wong, Xinyan Tang, Kenneth Zhu Ke, Wee Keong Dennis Lee, Jingyuan Zhao

机构 * OCBC, Singapore（新加坡华侨银行） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 针对洗钱者账户检测难题，提出端到端管道，含LightGBM分类器、TreeSHAP归因层和LLM模块。经评估，系统收益率提升，警报量增加，LLM叙述减少认知负荷，在实际部署中表现出色，还探讨了在监管金融环境中的应用影响。

QDEvo: A Multi-Objective Quality-Diversity Framework for Automated Heuristic Design

QDEvo：用于自动启发式设计的多目标质量多样性框架

Nam Do Khanh, Nhat Nguyen Tran Minh, Dat Pham Vu Tuan, Long Doan, Binh Huynh Thi Thanh

机构 * Hanoi University of Science and Technology（河内科学技术大学） ； George Mason University（乔治·梅森大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对LLMs与进化计算集成用于自动启发式设计时的模式崩溃问题，提出多目标QDEvo框架，结合质量多样性优化与LLM驱动启发式搜索，通过实验证明该框架能发现高性能、高效且语义多样的启发式方法，优于现有方法。

Comments 4 pages; Accepted as poster at GECCO 2026

LC-QAT: Data-Efficient 2-Bit QAT for LLMs via Linear-Constrained Vector Quantization

LC-QAT: 通过线性约束向量量化实现LLM的数据高效2比特QAT

Haoyu Wang, Xingyu Yu, Haiyan Zhao, Fengxiang Wang, Xu Han

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：LLM(title_cn,abstract_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 提出LC-QAT，一种2比特权重量化的向量量化感知训练框架，通过可微的线性映射避免离散码本查找，实现高质量PTQ初始化和端到端优化，仅用0.1%-10%训练数据即超越现有方法。

Comments Accepted by ICML 2026

Skill-MAS: Evolving Meta-Skill for Automatic Multi-Agent Systems

Skill-MAS: 演化元技能以自动生成多智能体系统

Hehai Lin, Qi Yang, Chengwei Qin

机构 * Ant Group（蚂蚁集团） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出Skill-MAS，通过将高层编排能力解耦为可演化的元技能，在无需参数更新的情况下实现经验保留，利用多轨迹采样和选择性反思优化元技能，在多个基准和LLM上取得显著性能提升且成本可控。

Less is More: Lightweight Prompt Compression for Question Answering Applications on Edge Devices

少即是多：面向边缘设备问答应用的轻量级提示压缩

Zihuai Xu, Ruofei Hou, Yang Xu, Hongli Xu, Yunming Liao, Ying Zhu

机构 * School of Computer Science and Technology, University of Science and Technology of China（中国科学技术大学计算机科学与技术学院） ； Suzhou Institute for Advanced Research, University of Science and Technology of China（中国科学技术大学苏州高等研究院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；small language model(abstract)

AI总结 提出CORE，一种无需辅助语言模型的两阶段句子级提示压缩方法，通过NER和语义匹配构建答案集与线索集，结合正交残差检索和空间邻近度过滤，在边缘设备上显著提升准确率、降低内存和能耗。

Unifying Acoustic Features and Text with Multimodal LLMs for Neurodegenerative Screening

统一声学特征与文本的多模态大语言模型用于神经退行性疾病筛查

Qingfeng Zhang, Yuanxiong Guo, Yanmin Gong

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出NeurMLLM框架，通过多模态大语言模型融合声谱图、MFCC和文本，实现阿尔茨海默病和帕金森病的精细分期，优于传统方法和现有LLM方法。

Comments IEEE International Conference on Healthcare Informatics, 2026

Semantic Quorum Assurance: Collective Certification for Non-Deterministic AI Infrastructure

语义法定数保证：面向非确定性AI基础设施的集体认证

Jun He, Deying Yu

机构 * OpenKedge.io 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出语义法定数保证（SQA），一种通过多样化验证者群体和风险自适应法定数谓词，将非确定性LLM代理的不安全操作批准率从18.5%降至0.3%的控制平面原语。

Comments 21 pages, 2 figures, 6 tables

KubeCap: A Framework for Capability Minimization in Kubernetes via Static Analysis and LLM-Assisted Rule Inference

KubeCap：一种通过静态分析和大语言模型辅助规则推理实现Kubernetes中能力最小化的框架

Yuhao Liu, Yingnan Zhou, Weijie Liu, Yan Jia, Zheli Liu

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 KubeCap是基于静态分析和LLM辅助规则推理的框架，可推断Kubernetes工作负载的最小能力集，平均降低54.97%的能力，优于相关基线，有效实施最小权限原则。

Comments 12 pages, 5 figures, accepted to the 37th IEEE International Symposium on Software Reliability Engineering (ISSRE 2026)

VPP: Virtual Pipeline Parallelism for Efficient Chunked Prefill in Long-Context LLM Inference

VPP：用于长上下文大语言模型推理中高效分块预填充的虚拟流水线并行技术

Yan Shi, Xiaochao Wang, Jingchun Gao, Jintao Luo, Xinyi Zhou, Feng Liu, Kui Luo, Xushi Li, Xinjie Guo, Liangjun Feng

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 该研究提出VPP虚拟流水线并行技术，通过虚拟阶段布局优化解决长上下文LLM分块预填充的流水线气泡问题，在长序列等场景下显著提升吞吐量并降低气泡率。

Cost-Utility Alignment in LLM Agent Trajectories:Profiling,Attribution,Diagnosis,Adaptation,and Evaluation

大语言模型智能体轨迹中的成本-效用对齐：分析、归因、诊断、适配与评估

Dan Liu, Jian Li

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 本研究提出以轨迹为中心的成本-效用对齐框架，通过五阶段分析解决LLM智能体资源消耗与任务贡献不匹配问题，为资源感知的智能体设计部署提供结构化基础。

Comments 12pages,3 figures

ToolMinimize: Auditing and Rewriting LLM Agent Tool Calls to Minimize Privacy Exposure

ToolMinimize：审计与重写大语言模型智能体的工具调用以最小化隐私暴露

Wenbiao Li, Yuqiao Xu

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 ToolMinimize是一款中间件，通过拦截并重写LLM智能体的工具调用参数，结合schema感知分析与四种操作，在保证100%任务有效性的同时大幅降低隐私暴露，可选层可进一步提升效果，延迟极低。

Benchmarking LLM Serving Systems for Agentic AI Workloads with XPerf

使用XPerf对智能体AI工作负载的大语言模型服务系统进行基准测试

Michael Wang, Yikang Yue, Shaobo Li, Yirui Eric Zhou, Chen Wang, Jian Huang

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 研究人员提出XPerf基准测试框架，可对智能体AI工作负载的LLM服务系统进行负载测试，能减少工作负载变化、提供性能分析并助力服务调试，将在GitHub开源。

AgentR A Stateful and Recovery-Aware Software Architecture for LLM-based Auditable Workflows

AgentR：面向基于大语言模型的可审计工作流的有状态且故障恢复感知的软件架构

Riya Samanta, Bidyut Saha, Soumya Kanti Ghosh, Rajkumar Buyya

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 提出AgentR架构，以有状态设计结合异步编排与成本审计，实现LLM工作流的高可恢复性、可观测性与可审计性，原型在文献综述场景验证获99.2%作业完成率及最高4.3倍并行加速

UnionSparse: An Index-Efficient Sparsity Framework for Low-Bit Sparse LLM Inference on Edge

UnionSparse：面向边缘设备低比特稀疏大语言模型推理的索引高效稀疏性框架

Tianhao Jiang, Hang Gu, Teng Wang, Qianyu Cheng, ZhenDong Zheng, Cheng Tang, Qiyue Su, Wenqi Lou, Lei Gong, Chao Wang, Xi Li, Xuehai Zhou

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 该研究针对边缘低比特稀疏LLM推理中索引流量等SpMM瓶颈，提出UnionSparse框架，结合IE-BME与LSPD内核，在W4A4量化及30%-70%稀疏度下实现优于现有方案的性能。

Comments 14 pages, 19 figures. Accepted via the ESWEEK 2026 Journal Track for publication in IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems (TCAD)

Beyond Tier Labels: Role- and Deployment-Dependent Model Substitution in Multi-Call LLM Workflows

超越层级标签：多调用大语言模型工作流中依赖角色与部署的模型替换

Renxiang Wang, Jiaming Cui

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 该研究针对多调用LLM工作流的模型替换问题，通过谓词-动作分解分离决策，经多任务实验揭示模型价值依赖角色与部署，提出大规模工作流路由的实用序列。

Refining LLM-based Directed Test Input Generation via Runtime Value Feedback

基于大语言模型的定向测试输入生成：通过运行时值反馈进行优化

Narin Han, Shin Hong

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 该研究针对基于LLM的定向测试输入生成技术的不足，提出ReDig框架，通过运行时反馈的控制循环优化测试输入生成，在Poppler和Libsndfile案例中验证了其诊断失败原因与优化测试脚本的有效性。

Rethinking Unified Memory for NPU-PIM Systems: Dual-View Memory for Dynamic Inference of LLM

重新思考NPU-PIM系统的统一内存：面向大语言模型动态推理的双视图内存

Shixin Zhao, Lian Liu, Tianhua Han, Mengdi Wang, Yinhe Han, Ying Wang

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 针对NPU-PIM系统现有统一内存无法适配LLM动态推理导致的带宽浪费问题，提出双视图内存方案PFM，可将端到端吞吐量提升最高达2.32倍。

Comments Accepted by MICRO'26

When Does Disaggregation Pay? Simulating Prefill--Decode--Attention--FFN Specialization for Agentic LLM Inference

拆分何时划算？智能体大语言模型推理的预填-解码-注意力-前馈网络专业化模拟

Przemyslaw Forys, Haoran Wu, Can Xiao, Jiayi Nie, Tony Liu, Rika Antonova, Timothy Jones, Robert Mullins, Wayne Luk, Aaron Zhao, George A. Constantinides

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 该研究提出HeteroPanacea模拟框架，针对智能体LLM推理的预填-解码-注意力-前馈网络拆分，验证其可提升吞吐量，为异构智能体服务系统提供支撑。

Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting

批量提示中的安全性？理解并缓解批量提示中的安全故障

Kihyun Kim, Hee-Seon Kim, Wonjun Lee, Changick Kim

专题命中 效率与部署 ：prompting(title,abstract)；large language model(abstract)；language model(abstract)；preference optimization(abstract)

AI总结 该研究发现批量提示存在独特安全故障模式，可作为黑盒攻击实现高成功率，提出感知批量的偏好优化可缓解该漏洞，为大语言模型安全对齐提供了新方向。

Comments jailbreak, safety