arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

2026-01-30 至 2026-01-30 共收录 258 信号源:cs.CL, cs.AI, cs.LG

1. 效率与部署 70 篇

2404.16692 2026-01-30 cs.CL cs.AI 79%

Influence of Solution Efficiency and Valence of Instruction on Additive and Subtractive Solution Strategies in Humans and GPT-4

解题效率和指令情感对人类和GPT-4加法与减法解题策略的影响

Lydia Uhler, Verena Jordan, Jürgen Buder, Markus Huff, Frank Papenmeier

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL、cs.AI

AI总结 本研究发现GPT-4在解题效率和指令情感影响下表现出更强的加法倾向,而人类在减法更高效时更少使用加法策略。

Comments 29 pages, 4 figures, 2 tables. Commun Psychol (2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.07823 2026-01-30 cs.CV 78%

Enhancing Visual Prompting through Expanded Transformation Space and Overfitting Mitigation

通过扩展变换空间和过拟合缓解提升视觉提示

Shohei Enomoto

机构 * NTT Tokyo, Japan(日本NTT东京)

专题命中 效率与部署 :prompting(title,abstract)

AI总结 ACAVP通过引入互补变换操作和数据增强方法,提升视觉提示的表达能力和鲁棒性,实现更准确的下游任务适应。

Comments Accepted to NeurIPS2025

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.03803 2026-01-30 cs.CV 78%

Causality-guided Prompt Learning for Vision-language Models via Visual Granulation

基于视觉粒化的因果引导提示学习用于视觉语言模型

Mengyu Gao, Qiulei Dong

机构 * State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, Chinese Academy of Sciences(多模态人工智能系统国家重点实验室,自动化研究所,中国科学院) School of Artificial Intelligence, University of Chinese Academy of Sciences(人工智能学院,中国科学院大学)

专题命中 效率与部署 :language model(title,abstract)

AI总结 本文提出CaPL方法,通过视觉粒化和因果推理提升细粒度识别性能,实验表明其在细粒度数据集上表现优异。

Comments Updated version

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.22016 2026-01-30 cs.LG 77%

TBDFiltering: Sample-Efficient Tree-Based Data Filtering

TBDFiltering: 基于树结构的数据过滤(样本高效)

Robert Istvan Busa-Fekete, Julian Zimmert, Anne Xiangyi Zheng, Claudio Gentile, Andras Gyorgy

机构 * Google Research, NY, USA(谷歌研究纽约分部) Google Research, Berlin, Germany(谷歌研究柏林分部) Google Research, Mountain View, CA, USA(谷歌研究山景城分部) Google DeepMind, London, UK(谷歌深Mind伦敦分部)

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 本文提出了一种基于文本嵌入的层次聚类方法,通过自适应选择文档来高效评估质量,从而提升大型语言模型训练数据的质量过滤效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21847 2026-01-30 cs.LG cs.NE 77%

READY: Reward Discovery for Meta-Black-Box Optimization

READY: 为元黑箱优化发现奖励

Zechuan Huang, Zhiguang Cao, Hongshu Guo, Yue-Jiao Gong, Zeyuan Ma

机构 * School of Computer Science and Engineering, South China University of Technology, Guangzhou, China(华南理工大学计算机科学与工程学院) School of Computing and Information Systems, Singapore Management University, Singapore, Singapore(新加坡国立大学计算机科学与信息系统学院)

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.LG

AI总结 READY利用大型语言模型自动发现奖励函数,提升元黑箱优化性能,通过定制化演化范式和多任务架构实现有效性和效率的平衡。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21709 2026-01-30 cs.CL 77%

Why Attention Patterns Exist: A Unifying Temporal Perspective Analysis

为何存在注意力模式:一种统一的时间视角分析

Qingyue Yang, Jie Wang, Xing Li, Yinqi Bai, Xialiang Tong, Huiling Zhen, Jianye Hao, Mingxuan Yuan, Bin Li

机构 * MoE Key Laboratory of Brain-inspired Intelligent Perception and Cognition, University of Science and Technology of China(脑启发智能感知与认知教育部重点实验室,中国科学技术大学) Huawei Technologies Co., Ltd.(华为技术有限公司) College of Intelligence and Computing, Tianjin University(智能与计算学院,天津大学)

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 本文提出TAPPA框架,从时间连续性角度分析注意力模式,揭示其可预测性与查询自相似性关系,并通过KV缓存压缩和剪枝任务验证其有效性。

Comments ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21469 2026-01-30 cs.SE cs.AI 77%

Adaptive Confidence Gating in Multi-Agent Collaboration for Efficient and Optimized Code Generation

多智能体协作中的自适应置信度门控:用于高效优化的代码生成

Haoji Zhang, Yuzhe Li, Zhenqiang Liu, Chenyang Liu, Shenyang Zhang, Yi Zhou

机构 * University of Electronic Science and Technology of China(电子科技大学)

专题命中 效率与部署 :large language model(abstract);language model(abstract);small language model(abstract);分类 cs.AI

AI总结 DebateCoder通过多智能体协作和自适应置信度门控机制,提升小型语言模型在复杂逻辑任务中的代码生成效率和准确性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21420 2026-01-30 cs.LG 77%

ConceptMoE: Adaptive Token-to-Concept Compression for Implicit Compute Allocation

ConceptMoE: 适应性令牌到概念压缩以实现隐式计算分配

Zihao Huang, Jundong Zhou, Xingwei Qu, Qiyang Min, Ge Zhang

机构 * ByteDance Seed(字节跳动种子)

专题命中 效率与部署 :large language model(abstract);language model(abstract);pretraining(abstract);分类 cs.LG

AI总结 ConceptMoE通过动态合并语义相似令牌实现隐式计算分配,提升语言和视觉语言任务性能,同时减少计算开销。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.20903 2026-01-30 cs.CR cs.AI 77%

ICON: Intent-Context Coupling for Efficient Multi-Turn Jailbreak Attack

ICON:意图-上下文耦合用于高效的多轮 jailbreak 攻击

Xingwei Lin, Wenhao Lin, Sicong Cao, Jiahao Yu, Renke Huang, Lei Xue, Chunming Wu

机构 * Zhejiang University(浙江大学) Nanjing University of Posts and Telecommunications(南京邮电大学) Northwestern University(西北大学) Sun Yat-sen University(中山大学)

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.AI

AI总结 ICON 提出了一种高效的多轮 jailbreak 攻击框架,通过意图-上下文耦合和分层优化策略,显著提升攻击成功率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2408.06787 2026-01-30 cs.CL 77%

FLAME: Empowering Frozen LLMs for Knowledge Graph Completion

FLAME:赋能冻结的大语言模型进行知识图谱补全

Bo Xue, Yi Xu, Bolei Ma, Yunchong Song, Jiaxin Ding, Luoyi Fu, Xinbing Wang

机构 * School of Computer Science, Shanghai Jiaotong University, China LMU Munich \& Munich Center for Machine Learning, Germany

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract);分类 cs.CL

AI总结 FLAME通过提取冻结LLM中间层的上下文感知隐藏状态,实现高效的知识图谱补全,取得47%的性能提升并达到微调效果,同时显著降低内存和计算成本。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21649 2026-01-30 cs.LG cs.AI cs.CL cs.SE 75%

SWE-Spot: Building Small Repo-Experts with Repository-Centric Learning

SWE-Spot:构建基于仓库的小型专家

Jinjun Peng, Magnus Saebo, Tianjun Zhong, Yi-Jie Cheng, Junfeng Yang, Baishakhi Ray, Simin Chen, Yangruibo Ding

机构 * Department of Computer Science, Columbia University, New York, USA(哥伦比亚大学计算机科学系) Computer Science Department, University of California, Los Angeles, California, USA(加州大学洛杉矶分校计算机科学系)

专题命中 效率与部署 :language model(abstract);small language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 SWE-Spot提出仓库导向学习范式,通过参数知识获取训练小型专家模型,提升代码任务表现并降低推理成本。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21365 2026-01-30 cs.CY 75%

Small models, big threats: Characterizing safety challenges from low-compute AI models

小模型,大威胁:从低计算量AI模型中characterizing安全挑战

Prateek Puri

专题命中 效率与部署 :LLM(abstract);large language model(abstract);language model(abstract)

AI总结 本文指出低计算量AI模型因性能提升而变得危险,需加强安全防护以应对新兴威胁。

Comments 11 pages, 4 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.04012 2026-01-30 cs.CL cs.AI cs.LG 75%

EMSEdit: Efficient Multi-Step Meta-Learning-based Model Editing

EMSEdit: 基于多步元学习的高效模型编辑

Xiaopeng Li, Shasha Li, Xi Wang, Shezheng Song, Bin Ji, Shangwen Wang, Jun Ma, Xiaodong Liu, Mina Liu, Jie Yu

机构 * National University of Denfense Technology(国防科技大学)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 EMSEdit通过多步反向传播和范数正则化提升模型编辑效率,在低数据和复杂编辑任务中表现优异。

Comments Accepted at WWW2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.22031 2026-01-30 cs.CL 74%

Causal Autoregressive Diffusion Language Model

因果自回归扩散语言模型

Junhao Ruan, Bei Li, Yongjing Yin, Pengcheng Huang, Xin Chen, Jingang Wang, Xunliang Cai, Tong Xiao, JingBo Zhu

机构 * Meituan Inc.(美团公司) School of Computer Science(计算机科学学院) Engineering, Northeastern University, Shenyang, China(工程学院,东北大学,沈阳,中国) NiuTrans Research, Shenyang, China(NiuTrans研究,沈阳,中国)

专题命中 效率与部署 :language model(title);分类 cs.CL

AI总结 本文提出CARD,一种结合自回归模型训练效率和扩散模型推理效率的新型语言模型,通过因果掩码和动态并行解码实现高效生成与高数据效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.15465 2026-01-30 cs.AR cs.AI 74%

Rethinking LLM Inference Bottlenecks: Insights from Latent Attention and Mixture-of-Experts

重新思考大语言模型推理瓶颈:来自潜在注意力和专家混合的见解

Sungmin Yun, Seonyong Park, Hwayong Nam, Younjoo Lee, Gunjun Lee, Kwanhee Kyung, Sangpyo Kim, Nam Sung Kim, Jongmin Kim, Hyungyo Kim, Juhwan Cho, Seungmin Baek, Jung Ho Ahn

专题命中 效率与部署 :LLM(title);分类 cs.AI

AI总结 本文提出通过潜在注意力和专家混合架构优化大语言模型推理瓶颈,转向高带宽互连和负载平衡以提升性能

Comments 16 pages, 14 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.17254 2026-01-30 cs.LG cs.AI 73%

Near-Optimal Online Deployment and Routing for Streaming LLMs

面向流式LLM的近优在线部署与路由

Shaoang Li, Jian Li

机构 * Stony Brook University(史泰森布鲁克大学)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 StageRoute算法通过优化部署和路由策略,在流式LLM管理中实现近最优的并发和成本控制。

Comments ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21684 2026-01-30 cs.CL cs.LG 73%

Do Not Waste Your Rollouts: Recycling Search Experience for Efficient Test-Time Scaling

不要浪费你的回溯:为高效测试时间扩展回收搜索经验

Xinglin Wang, Jiayi Shi, Shaoxiong Feng, Peiwen Yuan, Yiwei Li, Yueqi Zhang, Chuyi Tan, Ji Zhang, Boyuan Pan, Yao Hu, Kan Li

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL、cs.LG

AI总结 本文提出Recycling Search Experience(RSE)策略,通过回收搜索经验提升测试时间扩展效率,实现高效推理任务的优化。

Comments preprint

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21082 2026-01-30 cs.LG cs.AI 73%

LOCUS: Low-Dimensional Model Embeddings for Efficient Model Exploration, Comparison, and Selection

LOCUS:低维模型嵌入用于高效模型探索、比较和选择

Shivam Patel, William Cocke, Gauri Joshi

机构 * Carnegie Mellon University(卡内基梅隆大学)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.AI、cs.LG

AI总结 LOCUS通过低维嵌入高效实现模型探索、比较和选择,减少查询样本需求并提升模型相似性判断能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2501.02844 2026-01-30 cs.CL cs.IR cs.LG 73%

GORAG: Graph-based Online Retrieval Augmented Generation for Dynamic Few-shot Social Media Text Classification

基于图的在线检索增强生成用于动态少样本社交媒体文本分类

Yubo Wang, Haoyang Li, Fei Teng, Lei Chen

机构 * The Hong Kong University of Science and Technology(香港科学与技术大学) The Hong Kong Polytechnic University(香港理工大学) Guangzhou HKUST Fok Ying Tung Research Institute(广州HKUST福ying顿研究 institute)

专题命中 效率与部署 :large language model(abstract);language model(abstract);分类 cs.CL、cs.LG

AI总结 GORAG提出一种基于图的在线检索增强生成框架,用于动态少样本社交媒体文本分类,通过构建关键词和标签的加权图并动态检索上下文以提升分类性能。

Comments Accepted by WWW 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21622 2026-01-30 eess.SY cs.SY 67%

StarSD: One-for-Many Speculative Decoding

StarSD:一种多目标推测解码框架

Junhao He, Feiran You, Hongyang Du

专题命中 效率与部署 :large language model(abstract);language model(abstract)

AI总结 StarSD是一种多目标推测解码框架,通过星型拓扑在分布式节点上实现单个提案模型服务于多个目标模型,提升多加速器集群的利用率和推断效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21414 2026-01-30 cs.AI cs.CL 62%

System 1&2 Synergy via Dynamic Model Interpolation

系统1与2的协同通过动态模型插值

Chenxu Yang, Qingyi Si, Chong Tian, Xiyu Liu, Dingyu Yao, Chuanyu Qin, Zheng Lin, Weiping Wang, Jiaqi Wang

专题命中 效率与部署 :language model(abstract);分类 cs.CL、cs.AI

AI总结 DAMI通过动态参数插值调节模型认知深度,实现系统1的效率与系统2的推理能力的结合。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.22114 2026-01-30 cs.CV cs.AI cs.SY eess.SY 57%

SINA: A Circuit Schematic Image-to-Netlist Generator Using Artificial Intelligence

SINA:一种使用人工智能的电路原理图到网表生成器

Saoud Aldowaish, Yashwanth Karumanchi, Kai-Chen Chiang, Soroosh Noorzad, Morteza Fayazi

机构 * University of Utah, Salt Lake City, UT, USA(犹他大学)

专题命中 效率与部署 :language model(abstract);分类 cs.AI

AI总结 SINA利用深度学习、CCL和OCR技术,结合视觉-语言模型,实现了高准确率的电路原理图到网表自动转换。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.22010 2026-01-30 cs.LG 57%

Exploring Diverse Generation Paths via Inference-time Stiefel Activation Steering

通过推理时间的Stiefel激活引导探索多样生成路径

Dongxuan Zhu, Ly Tran Ho Khanh, Andy Yat-Ming Cheung, Man-Chung Yue, Viet Anh Nguyen

机构 * The Chinese University of Hong Kong(香港中文大学) Hong Kong Polytechnic University(香港理工大学)

专题命中 效率与部署 :language model(abstract);分类 cs.LG

AI总结 STARS通过在推理时间利用Stiefel流形优化,提升语言模型生成路径的多样性,无需训练并在多个基准中表现更优。

Comments 34 pages, 2 figures. Accepted for publication at ICLR 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21927 2026-01-30 cs.CL 57%

SONIC: Segmented Optimized Nexus for Information Compression in Key-Value Caching

SONIC:用于键值缓存信息压缩的分段优化 nexus

Hong Chen, Xiang Liu, Bo Wang, Yuxuan Fan, Yuanlin Chu, Zongluo Li, Xiaowen Chu, Xuming Hu

机构 * The Hong Kong University of Science(香港科学与技术大学) King's College London, United Kingdom(伦敦国王学院)

专题命中 效率与部署 :LLM(abstract);分类 cs.CL

AI总结 SONIC通过动态预算训练实现高效键值缓存压缩,提升多轮对话的连贯性和部署效率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21473 2026-01-30 cs.AI cs.DC 57%

ScaleSim: Serving Large-Scale Multi-Agent Simulation with Invocation Distance-Based Memory Management

ScaleSim: 通过调用距离基于的内存管理实现大规模多智能体仿真服务

Zaifeng Pan, Yipeng Shen, Zhengding Hu, Zhuang Wang, Aninda Manocha, Zheng Wang, Zhongkai Yu, Yue Guan, Yufei Ding

机构 * University of California, San Diego(加州大学圣地亚哥分校) Amazon Web Services(亚马逊网络服务)

专题命中 效率与部署 :LLM(abstract);分类 cs.AI

AI总结 ScaleSim通过调用距离基于的内存管理,提升大规模多智能体仿真的效率,实现1.74倍速度提升。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.21219 2026-01-30 cs.LG cond-mat.dis-nn 57%

Soft Quantization: Model Compression Via Weight Coupling

软量化:通过权重耦合实现模型压缩

Daniel T. Bernstein, Luca Di Carlo, David Schwab

机构 * Center for the Physics of Biological Function, Princeton, NJ, USA(生物功能物理中心) Lewis-Sigler Institute, Princeton, NJ, USA(利斯-西格勒研究所) Joseph Henry Laboratories of Physics, Princeton, NJ, USA(物理约瑟夫·亨利实验室) Initiative for the Theoretical Sciences, CUNY Graduate Center, New York City, NY, USA(理论科学倡议,CUNY研究生中心)

专题命中 效率与部署 :post-training(abstract);分类 cs.LG

AI总结 通过引入权重耦合实现模型压缩,软量化在ResNet-20/CIFAR-10上优于传统量化方法,提供新的压缩与泛化权衡研究工具。

Comments 7 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.20920 2026-01-30 cs.AI cs.CY 57%

Do LLMs Favor LLMs? Quantifying Interaction Effects in Peer Review

大语言模型是否偏袒大语言模型?同行评审中的交互效应量化

Vibhhu Sharma, Thorsten Joachims, Sarah Dean

专题命中 效率与部署 :LLM(abstract);分类 cs.AI

AI总结 研究发现LLM辅助的评审对LLM辅助论文更宽容,但实际是由于低质量论文的倾向,而非LLM偏袒生成内容。

Comments 28 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.20769 2026-01-30 eess.IV cs.LG 57%

Leveraging Second-Order Curvature for Efficient Learned Image Compression: Theory and Empirical Evidence

利用二阶曲率实现高效学习图像压缩:理论与实证

Yichi Zhang, Fengqing Zhu

机构 * Elmore Family School of Electrical and Computer Engineering, Purdue University(埃洛姆家族电气与计算机工程学院,普渡大学)

专题命中 效率与部署 :post-training(abstract);分类 cs.LG

AI总结 本文提出使用二阶拟牛顿优化器SOAP提升学习图像压缩的训练效率和性能,并揭示其在部署中的鲁棒性优势。

Comments fix typo

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.20234 2026-01-30 cs.IR cs.AI 57%

MALLOC: Benchmarking the Memory-aware Long Sequence Compression for Large Sequential Recommendation

MALLOC:用于大规模序列推荐的内存感知长序列压缩基准测试

Qihang Yu, Kairui Fu, Zhaocheng Du, Yuxuan Si, Kaiyuan Li, Weihao Zhao, Zhicheng Zhang, Jieming Zhu, Quanyu Dai, Zhenhua Dong, Shengyu Zhang, Kun Kuang, Fei Wu

机构 * Zhejiang University(浙江大学) Huawei Noah's Ark Lab(华为诺亚实验室) Tsinghua University(清华大学)

专题命中 效率与部署 :LLM(abstract);分类 cs.AI

AI总结 MALLOC提出了一种用于大规模序列推荐的内存感知长序列压缩基准测试,通过系统分类内存管理技术并整合到先进推荐系统中,以提升推荐系统的整体可靠性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2506.03229 2026-01-30 cs.CV cs.AI 57%

Bridging Weakly-Supervised Learning and VLM Distillation: Noisy Partial Label Learning for Efficient Downstream Adaptation

弥合弱监督学习与VLM知识蒸馏:面向高效下游适应的噪声部分标签学习

Qian-Wei Wang, Yaguang Song, Shu-Tao Xia

机构 * Institute of Perceptual Intelligence, Peng Cheng Laboratory(感知智能研究院,鹏城实验室) Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院,清华大学)

专题命中 效率与部署 :language model(abstract);分类 cs.AI

AI总结 本文提出协同一致性正则化框架,通过协同伪标签机制和抗过拟合策略,提升预训练VLMs在噪声部分标签下的下游适应性能。

详情

展开后加载摘要…

URL PDF HTML 收藏