arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

共收录 12698 信号源:cs.CL, cs.AI, cs.LG

1. 效率与部署 2145 篇

2606.08853 2026-06-09 econ.EM stat.ME 新提交 80%

AI-Assisted Variance Reduction in Randomized Experiments

AI辅助的随机实验方差缩减

David Arbour, Eli Ben-Michael, Avi Feller, Apoorva Lal, Lo-Hua Yuan

专题命中 效率与部署 :LLM(abstract,abstract_cn);large language model(abstract);language model(abstract)

AI总结 提出将AI预测作为协变量纳入标准回归调整,以降低随机实验方差,具有“无害”特性,并通过模拟和三个实证应用验证了效率提升。

Comments camera ready for KDD 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.26374 2026-08-28 cs.CL 新提交 79%

Survival-Guided Length Control for Efficient Diffusion Language Models

用于高效扩散语言模型的生存引导式长度控制

Ivan Kobyzev, Abbas Ghaddar, Yufei Cui

专题命中 效率与部署 :language model(title,abstract);分类 cs.CL

AI总结 该研究针对扩散语言模型解码时存在不必要去噪步骤的问题,提出生存引导式长度预测器,可将推理速度最高提升7倍且保持任务准确率,同时发现模型性能对所选预测长度敏感。

Comments EMNLP 2026 (Main Conference)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.25855 2026-08-27 cs.CE cs.AI 新提交 79%

Unlocking Multimodal Protein Language Models at Inference Time

在推理阶段解锁多模态蛋白质语言模型

Yi Zhou, Qipeng Wang, Yunqing Liu, Jun Xia, Qing Li, Wenqi Fan

机构 * The Hong Kong Polytechnic University(香港理工大学) The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))

专题命中 效率与部署 :language model(title,abstract);分类 cs.AI

AI总结 本文建立三阶段研究框架,在不更新多模态蛋白质语言模型参数的前提下,通过优化推理阶段采样策略,揭示默认推理协议的次优性并提升其任务性能,得出与现有共识不同的基础模型相关结论。

Comments Accepted to EMNLP 2026 Main Conference

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.25375 2026-08-27 cs.CY cs.CL cs.CV 新提交 79%

GGSS: Geodesic-Gated Spherical Steering for Inference-Time Debiasing of Generative Vision-Language Models

GGSS:用于生成式视觉语言模型推理时去偏的测地线门控球面引导

Yiqun Sun, Junyu Chen, Pengfei Wei, Lawrence B. Hsieh

机构 * Magellan Technology Research Institute (MTRI)(麦哲伦技术研究所(MTRI)) National University of Singapore(新加坡国立大学)

专题命中 效率与部署 :language model(title,abstract);分类 cs.CL

AI总结 本研究提出GGSS方法,针对生成式VLMs设计推理时去偏方案,经实验验证其在降低人口统计学偏见的同时,能较好保留模型通用视觉语言能力。

Comments Accepted to EMNLP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.24302 2026-08-26 cs.AI 新提交 79%

VideoHarness-RSI: Recursive Harness Self-Improvement for Long-Video Understanding with Frozen Vision-Language Models

VideoHarness-RSI:基于冻结视觉语言模型的长视频理解的递归 harness 自改进方法

Guoyang Xu, Hao Chen

机构 * Tencent(腾讯)

专题命中 效率与部署 :language model(title,abstract);分类 cs.AI

AI总结 该研究提出 VIDEOHARNESS-RSI,通过递归搜索可执行上下文构建程序,在冻结 VLM 上实现长视频理解的改进,且所选 harness 可迁移至其他长视频基准。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.23253 2026-08-25 cs.CV cs.AI 新提交 79%

E2S-Pruner: Progressive Two-Stage Evidence Fusion for Visual Token Pruning in Vision-Language Models

E2S-Pruner:用于视觉-语言模型中视觉令牌剪枝的渐进式两阶段证据融合方法

Taoyu Qian, Qi Wang, Daqian Shi, Yuanhao Jiang, Shang Gao, Hualong Yu

机构 * Digital Environment Research Institute (DERI), Queen Mary University of London(伦敦大学玛丽女王学院数字环境研究所(DERI)) Shanghai Institute of Artificial Intelligence for Education, East China Normal University(华东师范大学上海人工智能教育研究院) National Institute of Education, Nanyang Technological University(南洋理工大学国家教育学院) School of Computer Science and Engineering, Jiangsu University of Science and Technology(江苏科技大学计算机科学与工程学院)

专题命中 效率与部署 :language model(title,abstract);分类 cs.AI

AI总结 本文提出无需额外参数或微调的E2S-Pruner,通过两阶段证据融合实现视觉-语言模型的视觉令牌剪枝,在LLaVA-1.5-7B上显著提升吞吐量并保留性能,且具跨模型泛化性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.22646 2026-08-25 cs.AI 新提交 79%

CAI-DLLM: Convergence Aware Inference for Diffusion Language Models

CAI-DLLM:面向扩散语言模型的感知收敛推理

Farhana Amin, Sabiha Afroz, Dimitrios S. Nikolopoulos

机构 * Virginia Tech(弗吉尼亚理工大学)

专题命中 效率与部署 :language model(title,abstract);分类 cs.AI

AI总结 CAI-DLLM 是一种无需训练的扩散语言模型推理方法,通过利用第一步置信度调整解码策略,在多类任务上实现显著推理加速,同时保持较高准确率并降低能耗。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.19662 2026-08-21 cs.CL 新提交 79%

ReCache: Efficient KV Cache Reuse and Compression for Tool-Augmented LLM Agents

ReCache:面向工具增强型大语言模型智能体的高效键值缓存复用与压缩

Yichu Fang, Sitong Wei, Haozhe Hu, Xiaoyu Shen

机构 * Shanghai Jiao Tong University(上海交通大学) Eastern Institute of Technology(东方理工学院) Xi’an Jiaotong University(西安交通大学)

专题命中 效率与部署 :LLM(title);language model(abstract);分类 cs.CL

AI总结 ReCache是面向工具增强型大语言模型智能体的框架,通过资源级注意力与剪枝实现KV缓存复用压缩,在性能损失极小的情况下大幅降低推理计算与内存开销,已在多工具数据集基准上验证有效。

Comments 17 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.17325 2026-08-19 cs.CL 新提交 79%

What Tokens are Learned when Tokenization is Optimized Jointly with Language Modeling?

当分词与语言建模联合优化时,会学习到哪些词元?

Saketh Reddy Vemula, Parameswari Krishnamurthy

机构 * IIIT Hyderabad(印度国际信息技术研究院(海得拉巴))

专题命中 效率与部署 :language model(title,abstract);分类 cs.CL

AI总结 本研究对比无分词器方法(SSLMs、H-Nets)与固定分词器在18种语言上的效果,发现联合优化分词与语言建模可生成高效且有效的差异化词汇,为下游NLP提供新方案。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15939 2026-08-18 cs.CL 新提交 79%

Aborted but Not Forgotten: KV-Cache Retention Breaks Rollback Consistency in Language Agents

已中止但未被遗忘:KV缓存保留破坏语言智能体的回滚一致性

Guijia Zhang, Harry Yang

专题命中 效率与部署 :language agent(title,abstract);分类 cs.CL

AI总结 研究发现语言智能体中止分支时若保留KV缓存会破坏回滚一致性,引入同token/不同缓存审计方法验证该问题,提出事务局部缓存恢复方案可解决该结构性缺陷。

Comments 21 pages, 5 figures, 7 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.15549 2026-08-18 cs.RO cs.AI 新提交 79%

MistyPilot: Enabling Social-Robot Control through Multi-Agent LLM Skill Orchestration

MistyPilot:通过多智能体大语言模型技能编排实现社交机器人控制

Xiao Wang, Lu Dong, Ifeoma Nwogu, Srirangaraj Setlur, Venu Govindaraju

机构 * State University of New York at Buffalo(纽约州立大学布法罗分校)

专题命中 效率与部署 :LLM(title,abstract);分类 cs.AI

AI总结 该研究提出多智能体大语言模型框架MistyPilot,可解释自然语言指令并编排Misty社交机器人技能,经评估其在多项任务上准确率高、方差低,用户反馈积极,代码将公开。

Comments Accepted at the ECCV 2026 ACVR Workshop

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.13932 2026-08-17 cs.LG 新提交 79%

Post-training Quantization for Hybrid Iterative Generative Models

混合迭代生成模型的训练后量化

Jing Gao, Junyi Wu, Wei Wang, Yan Yan, Yao Zhao

机构 * Institute of Information Science, Beijing Jiaotong University(北京交通大学信息科学研究所) University of Illinois Chicago(伊利诺伊大学芝加哥分校)

专题命中 效率与部署 :post-training(title,abstract);分类 cs.LG

AI总结 针对混合迭代生成模型训练后量化易引发模型崩溃的问题,提出HyGenQ框架,通过分层聚类解耦与缩放重校准,成功将其量化至8位精度且性能优于现有方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.13316 2026-08-14 eess.SP cs.LG 新提交 79%

Foundation models for movement data: Are they ready for prime-time?

面向运动数据的基础模型:它们是否已准备好投入实际应用?

Alexander Bräuer, Benjamin Cauchi, Nils Strodthoff

机构 * Carl von Ossietzky Universität Oldenburg(卡尔·冯·奥西茨基奥尔登堡大学) University of Oldenburg(奥尔登堡大学)

专题命中 效率与部署 :foundation model(title,abstract);分类 cs.LG

AI总结 本文评估四种开源加速度计基础模型与监督基线在19项运动相关任务的表现,发现其性能具任务依赖性,UniMTS表现最优,还提出活动轮廓推断是有前景的研究方向。

Comments 14 pages, 6 figures, 8 tables, code is available at https://github.com/AI4HealthUOL/movement-fm-benchmarking

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.13141 2026-08-14 cs.CV cs.LG 新提交 79%

MergeOver: Post-Training Token Merging for Recursive Vision Transformers

MergeOver:面向递归视觉Transformer的训练后令牌合并方法

Junseo Kim, Uraz Odyurt, Amirreza Yousefzadeh

机构 * University of Twente(特文特大学) Faculty of Engineering Technology, University of Twente(特文特大学工程技术学院) Computer Architecture for Embedded Systems, University of Twente(特文特大学嵌入式系统计算机架构实验室)

专题命中 效率与部署 :post-training(title,abstract);分类 cs.LG

AI总结 MergeOver是将令牌合并集成到递归权重共享Transformer的训练后方法,在ImageNet-1K上实现了GPU和树莓派5上的内存、延迟优化,为两类技术结合提供基线。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.12259 2026-08-13 cs.LG q-fin.ST 新提交 79%

Calibration Bets on the Past: Post-Training Quantization for Financial Time-Series Forecasting

对过去的校准赌注:面向金融时间序列预测的训练后量化

Junyi Ye, Ivy Gateri Wanjiku

机构 * School of Computing, Montclair State University(蒙特克莱尔州立大学计算机学院)

专题命中 效率与部署 :post-training(title,abstract);分类 cs.LG

AI总结 该研究针对S&P 500的波动率预测,探究PTQ中激活校准对4位量化的影响,发现百分位校准可缓解4位量化的性能下降,为金融预测的低精度部署提供指导。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.11937 2026-08-13 cs.LG 新提交 79%

Distillation of Foundation Models for Time-dependent PDEs

面向时变偏微分方程的基础模型蒸馏

Daniel Musekamp, Boshra Ariguib, Andrei Manolache, Mathias Niepert

机构 * University of Stuttgart(斯图加特大学) University of Cologne(科隆大学) Bitdefender(比特 Defender(比特Defender,一家网络安全公司))

专题命中 效率与部署 :foundation model(title,abstract);分类 cs.LG

AI总结 本文提出面向时变PDE的知识蒸馏框架TREX,将预训练基础模型的预测能力迁移至紧凑高效的学生模型,在多PDE基准上实现精度相当或超越教师模型,且参数大幅减少、推理速度显著提升。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.11676 2026-08-13 cs.AI 新提交 79%

XBridge: Entity-Grounded Latent Bridge for Heterogeneous LLM Communication

XBridge:面向异构大语言模型通信的实体锚定隐空间桥接器

Wooseong Yang, Wei-Chieh Huang, Weizhi Zhang, Yu Wang, Philip S. Yu, Junhyun Lee

机构 * Hankuk University of Foreign Studies(韩国外国语大学) Noah’s Farm(诺亚农场) University of Illinois Chicago(伊利诺伊大学芝加哥分校) Capital One AI Foundations(Capital One AI 基金会)

专题命中 效率与部署 :LLM(title,abstract);分类 cs.AI

AI总结 XBridge是免解码的异构大语言模型通信协议,通过词汇锚定映射和隐空间丰富桥接器解决跨架构通信的实体身份丢失问题,在多模型、多基准测试中表现优于现有方法,参数开销低。

Comments 18 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.11235 2026-08-13 cs.AI 新提交 79%

CORA-Diff: Confidence-Oriented Residual Acceptance for Efficient Diffusion Language Model Inference

CORA-Diff:面向高效扩散语言模型推理的置信导向残差接受

Yifan Wu, Yufeng Zhang, Kenli Li

专题命中 效率与部署 :language model(title,abstract);分类 cs.AI

AI总结 本文提出无需训练的CORA-Diff方法,利用原生置信度与持久性门控识别残差位置,在多基准测试中显著降低扩散语言模型推理的重复计算,同时保持任务性能。

Comments 9 pages, 2 figures, 3 tables. Code: https://github.com/wyffffff/cora-diff-llada

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09227 2026-08-11 cs.AI 新提交 79%

Omni2LoRA: Coherence-Preserving Parametric Memory for Efficient Omni Language Models

Omni2LoRA:用于高效全模态语言模型的保持一致性的参数化存储器

Puneet Mathur, Manan Suri, Dinesh Manocha

机构 * University of Maryland(马里兰大学)

专题命中 效率与部署 :language model(title,abstract);分类 cs.AI

AI总结 Omni2LoRA是一种保持一致性的参数化存储器压缩框架,通过优化秩分配策略提升全模态语言模型效率,在视听问答任务中优于多种基线,大幅缩短推理时间。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09016 2026-08-11 cs.IR cs.LG 新提交 79%

PreGress: Ranking-Native Pre-training and Prompting for Graph Node Ranking

PreGress:面向图节点排序的原生排序预训练与提示学习框架

Lujie Ban, Jiasheng shi, Yingli Zhou, Kaiwen Xue, Daiyin Wang, Xubin Li, Shuanghua Li, Chenhao Ma

机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)数据科学学院) Huawei Technologies Co., Ltd.(华为技术有限公司)

专题命中 效率与部署 :prompting(title,abstract);分类 cs.LG

AI总结 PreGress是首个原生排序预训练与提示学习框架,通过多任务预训练与轻量提示模块,在低开销下实现了多节点排序任务的优异性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08282 2026-08-11 cs.LG 新提交 79%

Stateful CARS: Exact Cross-History Reuse for Policy-Constrained LLM Agents

有状态CARS:策略约束大语言模型智能体的精确跨历史复用

Ibne Farabi Shihab, Md Najmus Swaqeeb, Abu Sa-Adat Mohamed Moon-Im Al Ahsan

机构 * Iowa State University(爱荷华州立大学) BRAC University(BRAC大学)

专题命中 效率与部署 :LLM(title);language model(abstract);分类 cs.LG

AI总结 本文针对受含义随观测和动作变化约束的工具使用语言模型智能体,提出有状态CARS方法,通过冻结状态-延续模式实现跨历史无效性证书复用,实验表明其精确性高但系统性能未优于官方CARS。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08256 2026-08-11 cs.CL 新提交 79%

AraSSM: A bidirectional state-space encoder for Arabic masked language modeling

AraSSM:面向阿拉伯语掩码语言建模的双向状态空间编码器

Ahmed Amine Aliane, Hassina Aliane, Nasredine Semmar

机构 * Arabic Institute for Translation(阿拉伯翻译学院) CERIST(CERIST(阿尔及利亚科学技术研究中心)) CEA LIST(CEA LIST(法国原子能和替代能源委员会电子信息技术与实验室))

专题命中 效率与部署 :language model(title,abstract);分类 cs.CL

AI总结 本文提出面向阿拉伯语的双向状态空间编码器AraSSM,经掩码语言建模预训练后,在四项阿拉伯语NLU基准上的表现接近或优于同规模Transformer,验证了消费级硬件训练的有效性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08138 2026-08-11 cs.CV cs.LG 新提交 79%

EFFEKT: Efficient Federated Knowledge Transfer to Foundation Models

EFFEKT:面向基础模型的高效联邦知识迁移

Matteo Caligiuri, Francesco Barbato, Pietro Zanuttigh, Francesco Restuccia

机构 * Northeastern University(东北大学) University of Padua(帕多瓦大学)

专题命中 效率与部署 :foundation model(title,abstract);分类 cs.LG

AI总结 EFFEKT是一种联邦学习框架,通过双向跨蒸馏策略,结合轻量级客户端代理模型与服务器端基础模型,实现高效的领域特定LoRA适配器训练,在低功耗边缘设备上性能优于基线。

Comments 12 main content pages, 8 appendix pages; 3 main figures, 9 appendix figures; 8 main tables, 9 appendix tables; 1 main algorithm, 4 appendix algorithms; accepted at TMLR

Journal ref Transactions on Machine Learning Research (2026), ISSN 2835-8856

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07066 2026-08-10 cs.AI 新提交 79%

PTQ4SNN: Membrane-Aware Post-Training Quantization for Spiking Neural Networks

PTQ4SNN:面向脉冲神经网络的感知膜后训练量化

Hui Xie, Tong Shi, Haotong Qin, Aishan Liu, Xiaode Liu, Jinyang Guo

专题命中 效率与部署 :post-training(title,abstract);分类 cs.AI

AI总结 PTQ4SNN是一种仅用小型校准集联合量化SNN权重与循环膜状态的感知膜后训练量化框架,可在无需重训骨干网络的情况下,于W4量化和约4位膜精度下保持模型准确率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.07033 2026-08-10 cs.AI 新提交 79%

ZIPBrain: Can EEG Foundation Models Be Faster, Locally Deployable, but Accurate?

ZIPBrain:脑电基础模型能否更快、可本地部署且仍保持准确?

Lingwei Li, Yirong Kan, Peng Chen, Xu Cao, Zheng Chen, Yasuhiko Nakashima

专题命中 效率与部署 :foundation model(title,abstract);分类 cs.AI

AI总结 本研究提出即插即用模块ZIPBrain,利用EEG低SNR特性减少token数量,使EEG基础模型推理速度提升32.7%(最高41.8%)且平均准确率提升1.3%-10.5%,可本地部署。

Comments 7 pages(14 pages including appendix), 5 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.06756 2026-08-10 cs.AI 新提交 79%

Capek 0.5: An Execution-Centric Vision-Language Model for Embodied Intelligence

Capek 0.5:面向具身智能的以执行为中心的视觉语言模型

Ying Chen, Weizhen Li, Zhe Hu, Zhenjiang Li, Rui Jiang, Zhifeng Gu, Lihuang Fang, Jiangping Liu, Lei Yi, Jie Chen

机构 * Xiaopeng(小鹏汽车)

专题命中 效率与部署 :language model(title,abstract);分类 cs.AI

AI总结 提出以执行为中心的具身视觉语言模型Capek 0.5,通过分类法整合四类具身能力,在多维度评估中表现优于初始化模型,可迁移至闭环具身任务执行。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.06559 2026-08-10 cs.LG 新提交 79%

Bootstrap-Conditioned Action Selection with Tabular Foundation Models

基于 Bootstrap 条件的表格基础模型动作选择

Devansh Gupta, Shiv Tavker, Dmitry Efimov, Suchitra Sathyanarayana, Gitanjali Bhutani, Boris N. Oreshkin

专题命中 效率与部署 :foundation model(title,abstract);分类 cs.LG

AI总结 该研究提出 BC-ICL 方法,将预训练表格基础模型转化为在线决策随机策略,通过 Bootstrap 重采样与臂-上下文架构优化,在上下文多臂老虎机任务上取得优于基准的遗憾性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.06529 2026-08-10 cs.CL 新提交 79%

Lost in Interpolation: Why Predictive Feedback Fails in Diffusion Language Models

迷失在插值中:为什么预测反馈在扩散语言模型中失效

Lavanya Nigam, Ishaan Bansal, Aryan Sood, Vidit Aggarwal, Gaurav Kumar Nayak

机构 * Indian Institute of Technology Roorkee(鲁尔基印度理工学院)

专题命中 效率与部署 :language model(title,abstract);分类 cs.CL

AI总结 本文针对扩散语言模型中线性插值(LERP)不适用于超球面嵌入空间的问题,提出球形软掩码(S-SM)方法,在1.69亿参数MDLM上实现了MAUVE和困惑度的显著提升。

Comments 15 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.06031 2026-08-07 cs.LG 新提交 79%

Dynamic Graph Prompting via Topology-Routed Mixed-Curvature Experts

基于拓扑路由的混合曲率专家的动态图提示

Quanxin Wang, Xuanting Xie, Bingheng Li, Xingtong Yu, Shuo Wang, Ruiyi Fang, Zhao Kang

专题命中 效率与部署 :prompting(title,abstract);分类 cs.LG

AI总结 本研究针对动态图提示的几何适配不足问题,提出CurvPrompt框架,通过拓扑路由混合曲率专家实现自适应表示,在少样本链接预测和节点分类任务上表现优异,验证了几何自适应提示的必要性。

Comments Suggestions and comments are welcomed

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.05104 2026-08-06 cs.LG 新提交 79%

BnBERT-iPET: Sparse Few-Shot Language Modeling for Bengali via Lottery Ticket Pruning

BnBERT-iPET:基于彩票剪枝的孟加拉语稀疏少样本语言建模

Sajib Hossain, Md Kamrus Samad, Anan Ghosh, Labib Imam Chowdhury, Nabeel Mohammed

机构 * North South University(北南大学)

专题命中 效率与部署 :language model(title,abstract);分类 cs.LG

AI总结 本研究提出BnBERT-iPET,一种基于彩票剪枝的孟加拉语稀疏少样本语言建模方法,仅保留初始模型10%边、实现90%稀疏度,在孟加拉语下游任务中性能可与多个最先进语言模型媲美。

Comments 14 pages, 9 tables, 13 figures. Preprint

详情

展开后加载摘要…

URL PDF HTML 收藏