语言大模型 / LLM

Experiential Co-Learning of Software-Developing Agents

Chen Qian, Yufan Dang, Jiahao Li, Wei Liu, Zihao Xie, Yifei Wang, Weize Chen, Cheng Yang, Xin Cong, Xiaoyin Che, Zhiyuan Liu, Maosong Sun

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Accepted to ACL 2024, https://github.com/OpenBMB/ChatDev

Efficient Prompt Optimization Through the Lens of Best Arm Identification

Chengshuai Shi, Kun Yang, Zihan Chen, Jundong Li, Jing Yang, Cong Shen

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Language-guided Skill Learning with Temporal Variational Inference

Haotian Fu, Pratyusha Sharma, Elias Stengel-Eskin, George Konidaris, Nicolas Le Roux, Marc-Alexandre Côté, Xingdi Yuan

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments ICML 2024

Parameter-Efficient Orthogonal Finetuning via Butterfly Factorization

Weiyang Liu, Zeju Qiu, Yao Feng, Yuliang Xiu, Yuxuan Xue, Longhui Yu, Haiwen Feng, Zhen Liu, Juyeon Heo, Songyou Peng, Yandong Wen, Michael J. Black, Adrian Weller, Bernhard Schölkopf

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；foundation model(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments ICLR 2024 (v2: 34 pages, 19 figures)

Parameter Efficient Diverse Paraphrase Generation Using Sequence-Level Knowledge Distillation

Lasal Jayawardena, Prasan Yapa

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Published in: 2024 5th International Conference on Advancements in Computational Sciences (ICACS) with IEEE

L-TUNING: Synchronized Label Tuning for Prompt and Prefix in LLMs

Md. Kowsher, Md. Shohanur Islam Sobuj, Asif Mahmud, Nusrat Jahan Prottasha, Prakash Bhat

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Published in the ICLR TinyPaper track

Discourse-Aware In-Context Learning for Temporal Expression Normalization

Akash Kumar Gautam, Lukas Lange, Jannik Strötgen

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Accepted at NAACL 2024

CONSCENDI: A Contrastive and Scenario-Guided Distillation Approach to Guardrail Models for Virtual Assistants

Albert Yu Sun, Varun Nair, Elliot Schumacher, Anitha Kannan

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments To appear in NAACL 2024

Learning to Compress Prompt in Natural Language Formats

Yu-Neng Chuang, Tianwei Xing, Chia-Yuan Chang, Zirui Liu, Xun Chen, Xia Hu

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Improving Code Generation by Training with Natural Language Feedback

Angelica Chen, Jérémy Scheurer, Tomasz Korbak, Jon Ander Campos, Jun Shern Chan, Samuel R. Bowman, Kyunghyun Cho, Ethan Perez

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Published in (and superceded by) TMLR: https://openreview.net/forum?id=xo3hI5MwvU

How to Train Data-Efficient LLMs

Noveen Sachdeva, Benjamin Coleman, Wang-Cheng Kang, Jianmo Ni, Lichan Hong, Ed H. Chi, James Caverlee, Julian McAuley, Derek Zhiyuan Cheng

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Under review. 44 pages, 30 figures

LLM360: Towards Fully Transparent Open-Source LLMs

Zhengzhong Liu, Aurick Qiao, Willie Neiswanger, Hongyi Wang, Bowen Tan, Tianhua Tao, Junbo Li, Yuqi Wang, Suqi Sun, Omkar Pangarkar, Richard Fan, Yi Gu, Victor Miller, Yonghao Zhuang, Guowei He, Haonan Li, Fajri Koto, Liping Tang, Nikhil Ranjan, Zhiqiang Shen, Xuguang Ren, Roberto Iriondo, Cun Mu, Zhiting Hu, Mark Schulze, Preslav Nakov, Tim Baldwin, Eric P. Xing

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Augmenting Interpretable Models with LLMs during Training

Chandan Singh, Armin Askari, Rich Caruana, Jianfeng Gao

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

Journal ref Nature Communications, 2023

Contrastive Vision-Language Alignment Makes Efficient Instruction Learner

Lizhao Liu, Xinyu Sun, Tianhang Xiang, Zhuangwei Zhuang, Liuren Yin, Mingkui Tan

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；instruction tuning(abstract)

Comments 17 pages, 10 pages for main paper, 7 pages for supplementary

Can AI Serve as a Substitute for Human Subjects in Software Engineering Research?

Marco A. Gerosa, Bianca Trinkenreich, Igor Steinmacher, Anita Sarma

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；foundation model(abstract)；prompting(abstract)

Survival of the Most Influential Prompts: Efficient Black-Box Prompt Search via Clustering and Pruning

Han Zhou, Xingchen Wan, Ivan Vulić, Anna Korhonen

专题命中 效率与部署 ：LLM(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Findings of EMNLP 2023. 10 pages, 5 figures, 4 tables (14 pages, 5 figures, 8 tables including references and appendices)

Computer Environments Elicit General Agentic Intelligence in LLMs

计算机环境在大语言模型中激发通用代理智能

Daixuan Cheng, Shaohan Huang, Yuxian Gu, Huatong Song, Guoxin Chen, Li Dong, Wayne Xin Zhao, Ji-Rong Wen, Furu Wei

机构 * GSAI, Renmin University of China（中国人民大学高瓴人工智能学院） ； Microsoft Research（微软研究院） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：LLM(abstract,comments)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了计算机环境如何通过虚拟沙盒激发大语言模型的通用能力，展示了环境对任务解决的提升效果及训练方法。

Comments Project Page: https://llm-in-sandbox.github.io

GROUNDEDKG-RAG: Grounded Knowledge Graph Index for Long-document Question Answering

基于源文档的知识图谱-RAG：用于长文档问答的 grounded 知识图谱

Tianyi Zhang, Andreas Marfurt

机构 * getAbstract ； Lucerne University of Applied Sciences and Arts（卢塞恩应用科学与艺术大学） 纠错

专题命中 效率与部署 ：LLM(abstract,comments)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出 groundedkg-rag，通过从源文档中显式提取并 grounding 知识图谱，提升长文档问答的效率和事实准确性，实验表明其在成本较低的情况下性能优于现有基线。

Comments To appear in the Proceedings of KG-LLM @ LREC 2026

Near-Oracle KV Selection via Pre-hoc Sparsity for Long-Context Inference

通过预处理稀疏性实现近oracle的KV选择用于长上下文推理

Yifei Gao, Lei Wang, Rong-Cheng Tu, Qixin Zhang, Jun Cheng, Dacheng Tao

机构 * University College London（伦敦大学学院） ； Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences (CAS)（深圳先进技术研究院，中国科学院） ； Chinese University of Hong Kong（香港中文大学） ； College of Computing & Data Science, Nanyang Technological University（computing 与数据科学学院，南洋理工大学） 纠错

专题命中 效率与部署 ：LLM(abstract,comments)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 PrHS通过预处理稀疏性在长上下文推理中实现近oracle的KV选择，有效降低计算和带宽成本，提升推理效率。

Comments An effective method for accelerating LLM's inference via selective KV processing

Stop-RAG: Value-Based Retrieval Control for Iterative RAG

Jaewan Park, Solbee Cho, Jay-Yoon Lee

机构 * Seoul National University（首尔国立大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.AI、cs.LG

Comments NeurIPS 2025 MTI-LLM Workshop

Budget-Aware Compression Pipeline for Single-GPU LLM Inference: Methods, Trade-offs, and Coupling Effects

面向单GPU大语言模型推理的预算感知压缩流水线：方法、权衡与耦合效应

Hongyu Yu, Yifei Shen

机构 * Lenovo Research（联想研究院） ； University of Washington（华盛顿大学） 纠错

专题命中 效率与部署 ：LLM(title)；language model(abstract)；分类 cs.CL

AI总结 该研究针对单GPU部署70B参数大语言模型的内存、吞吐量及集成成本问题，构建了含剪枝、量化、KV缓存压缩的预算感知压缩流水线，实现了模型压缩至33GB、57 tokens/s推理速度且精度损失在5%内的效果，提供了设计规则与评估协议。

Comments Accepted by GroundLM 2026 (EMNLP 2026 Workshop)

EviAnchor: Mitigating Hallucinations in Large Vision-Language Models via Regional Visual Evidence Compensation

EviAnchor：通过区域视觉证据补偿减轻大型视觉语言模型的幻觉问题

Sihang Jia, Shuliang Liu, Songbo Yang, Xuming Hu

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 研究针对大型视觉语言模型的幻觉问题，提出无需训练的EviAnchor框架，通过区域证据锚点和决策条件证据路由提升视觉证据利用率，在多个基准测试中改善了视觉接地性能。

Capability-Stratified Degradation in Ternary Language Models

三元语言模型中的能力分层退化

Anirudh Malik, M Sparsh Mehra, Poojith Devan

机构 * OneBit AI 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 该研究将Qwen3.5-0.8B量化为三元模型Cloe，发现其能力非均匀退化，微调后在部分任务保留较高性能，三元转换不适用于通用替代但可作为任务特定模型的紧凑基础。

PowerSlider: Exploiting Phase Asymmetry for LLM Serving under Demand Response

PowerSlider：利用相位不对称性实现需求响应下的大语言模型服务

Yueying Li, Jiayang Chen, Yuanfan Chen, Leo Han, Haoran Qiu, Esha Choukse, Rodrigo Fonseca, Udit Gupta

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 PowerSlider通过分解大语言模型服务阶段并结合KKT在线求解器，在电网需求响应的时变功率上限下，显著提升了服务吞吐量与延迟性能。

Training Communication-Efficient Mixture-of-Experts Language Models with Layer Re-Configuration

通过层重配置训练通信高效的混合专家语言模型

Simeng Sun, Roger Waleffe

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 该研究提出CE-MoE模型，通过异构层模式解耦令牌与通道混合深度，在2B至31.5B参数规模下降低训练成本，31.5B时减少33.3%GPU小时数，下游性能与推理效率均提升。

SpikeOPD: Stable On-Policy Distillation for Autoregressive Spiking Language Models

SpikeOPD：自激语言模型的稳定在线策略蒸馏方法

Enqiao Lu, Xingrui Yu, Yiwei Fu, Zhenglin Wan, Pengfei Zhou, Wangbo Zhao, Muqing Jian, Xueyi Zhang, Yang You, Ivor Tsang

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Agency for Science, Technology and Research (A*STAR), Singapore（新加坡科技研究局） ； Nanyang Technological University, Singapore（新加坡南洋理工大学） ； Peking University（北京大学） ； National University of Singapore（新加坡国立大学） ； Rice University（莱斯大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 针对自回归脉冲语言模型的前缀不匹配问题，提出SpikeOPD框架，结合教师校正、策略锚定与分层脉冲正则化，提升不同规模模型的准确率并保留稀疏计算特性。

Survival-Guided Length Control for Efficient Diffusion Language Models

用于高效扩散语言模型的生存引导式长度控制

Ivan Kobyzev, Abbas Ghaddar, Yufei Cui

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 该研究针对扩散语言模型解码时存在不必要去噪步骤的问题，提出生存引导式长度预测器，可将推理速度最高提升7倍且保持任务准确率，同时发现模型性能对所选预测长度敏感。

Comments EMNLP 2026 (Main Conference)

Unlocking Multimodal Protein Language Models at Inference Time

在推理阶段解锁多模态蛋白质语言模型

Yi Zhou, Qipeng Wang, Yunqing Liu, Jun Xia, Qing Li, Wenqi Fan

机构 * The Hong Kong Polytechnic University（香港理工大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 本文建立三阶段研究框架，在不更新多模态蛋白质语言模型参数的前提下，通过优化推理阶段采样策略，揭示默认推理协议的次优性并提升其任务性能，得出与现有共识不同的基础模型相关结论。

Comments Accepted to EMNLP 2026 Main Conference

GGSS: Geodesic-Gated Spherical Steering for Inference-Time Debiasing of Generative Vision-Language Models

GGSS：用于生成式视觉语言模型推理时去偏的测地线门控球面引导

Yiqun Sun, Junyu Chen, Pengfei Wei, Lawrence B. Hsieh

机构 * Magellan Technology Research Institute (MTRI)（麦哲伦技术研究所（MTRI）） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 本研究提出GGSS方法，针对生成式VLMs设计推理时去偏方案，经实验验证其在降低人口统计学偏见的同时，能较好保留模型通用视觉语言能力。

Comments Accepted to EMNLP 2026

Learning to Detect Unseen Jailbreak Attacks in Large Vision-Language Models

学习检测未见过的大型视觉-语言模型中的对抗攻击

Shuang Liang, Zhihao Xu, Jiaqi Weng, Jialing Tao, Hui Xue, Xiting Wang

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 LoD通过学习模型内部激活生成安全表示，实现对未见过的对抗攻击的高效检测，提升检测性能和效率。

Comments 17 pages; Previously this version appeared as arXiv:2510.15430 which was submitted as a new work by accident