arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

共收录 12321 信号源:cs.CL, cs.AI, cs.LG

1. 其他LLM 12321 篇

2602.12468 2026-05-28 cs.LG cs.FL 57%

Continuous Diffusion Models Can Obey Formal Syntax

连续扩散模型可以遵守形式语法

Jinwoo Kim, Taylor Berg-Kirkpatrick, Loris D'Antoni

机构 * Department of Computer Science and Engineering, University of California-San Diego, San Diego, USA(计算机科学与工程系,加州大学圣地亚哥分校,圣地亚哥,美国)

专题命中 其他LLM :language model(abstract);分类 cs.LG

AI总结 提出一种无需训练的引导方法,利用正则表达式约束连续扩散语言模型的生成过程,使其满足形式语法,并在JSON和自然语言基准上实现68-96%的约束满足率。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.06880 2026-05-28 cs.LG 57%

Decoupling Variance and Scale-Invariant Updates in Adaptive Gradient Descent for Unified Vector and Matrix Optimization

解耦自适应梯度下降中的方差与尺度不变更新以实现统一向量和矩阵优化

Zitao Song, Cedar Site Bai, Zhe Zhang, Brian Bullins, David F. Gleich

机构 * Department of Computer Science, Purdue University, West Lafayette, USA(计算机科学系,普渡大学,西拉法叶,美国) Edwardson School of Industrial Engineering, Purdue University, West Lafayette, USA(工业工程学院,普渡大学,西拉法叶,美国)

专题命中 其他LLM :language model(abstract);分类 cs.LG

AI总结 提出DeVA框架,通过解耦AdaGrad更新中的方差适应项和尺度不变项,统一向量自适应方法与矩阵谱优化,在语言建模和图像分类中优于Muon和SOAP,减少约6.6%的token使用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.02259 2026-05-28 cs.LG cs.CV 57%

Segment to Focus: Guiding Latent Action Models in the Presence of Distractors

聚焦分割:在干扰物存在下引导潜在动作模型

Marcus Fechner, Hamza Adnan, Constantin C. Lüth, Matthew T. Jackson, Alexey Zakharov, J. Marius Zöllner

机构 * Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院) University of Oxford(牛津大学)

专题命中 其他LLM :foundation model(abstract);分类 cs.LG

AI总结 针对动作相关视觉干扰导致潜在动作模型失效的问题,提出MaskLAM方法,利用分割基础模型(如SAM)零样本获取智能体掩码,限制重建目标于智能体像素,迫使潜在动作编码内源动态,显著提升下游策略性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.26136 2026-05-27 cs.SD cs.AI 57%

Eroding Trust in Real Speech: A Large-Scale Study of Human Audio Deepfake Perception

侵蚀对真实语音的信任:人类音频深度伪造感知的大规模研究

Nicolas M. Müller, Wei Herng Choong

机构 * Fraunhofer AISEC(弗劳恩霍夫人工智能安全研究中心)

专题命中 其他LLM :language model(abstract);分类 cs.AI

AI总结 通过大规模听辨实验(1768名参与者,35532次判断),发现音频深度伪造导致人类对真实语音的信任下降(准确率从72.7%降至64.1%),而非检测伪造能力下降。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.24585 2026-05-26 cs.CL q-bio.NC 57%

Word Class Representations Spontaneously Emerge from Successor Representations Trained on Natural Language

从自然语言训练的后继表示中自发涌现的词类表示

Mathis Immertreu, Achim Schilling, Thomas Kinfe, Patrick Krauss

机构 * Cognitive Computational Neuroscience Group(认知计算神经科学组) Friedrich-Alexander-Universität Erlangen–Nürnberg (FAU)(弗赖堡-亚历山大-大学埃尔兰根-纽伦堡(FAU)) Mannheim Center for Neuromodulation and Neuroprosthetics (MCNN)(曼海姆神经调制与神经假体中心(MCNN)) University Hospital Mannheim, University Heidelberg(曼海姆大学医院,海德堡大学)

专题命中 其他LLM :language model(abstract);分类 cs.CL

AI总结 本研究将强化学习中的后继表示(SR)框架应用于自然语言,通过训练神经网络预测未来词分布,发现无监督下词类(如名词、动词、形容词)的几何结构自发涌现,且预测时域影响结构层次。

详情

展开后加载摘要…

URL PDF HTML 收藏
2510.27118 2026-05-26 cs.CL 57%

Probability Distributions Computed by Autoregressive Transformers

自回归变压器计算的概率分布

Andy Yang, Anej Svete, Jiaoda Li, Anthony Widjaja Lin, Jonathan Rawski, Ryan Cotterell, David Chiang

机构 * University of Notre Dame(内布拉斯加大学达灵顿分校) ETH Zürich(苏黎世联邦理工学院) Max-Planck Institute for Software Systems(马克斯·普朗克软件系统研究所) University of Kaiserslautern-Landau(凯撒斯劳滕-劳恩堡大学) San José State University(圣何塞州立大学)

专题命中 其他LLM :language model(abstract);分类 cs.CL

AI总结 研究自回归变压器作为语言模型时能表达的概率分布,揭示自回归和概率化对表达力的影响。

Comments 20 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.23478 2026-05-25 cs.CV cs.AI 57%

PhenoYieldNet: Learning Crop-Aware Phenological Responses for Multi-Crop Yield Prediction

PhenoYieldNet: 学习作物感知的物候响应以进行多作物产量预测

Yu Luo, Xiaogang Zhu, Shan Zeng, Wei Xiang, Thomas Francis Bishop, Zhiyong Wang, Kun Hu

机构 * School of Computer Science, The University of Sydney(悉尼大学计算机科学学院) School of Computer Science and Information Technology, Adelaide University(阿德莱德大学计算机科学与信息技术学院) College of Mathematics and Computer Science, Wuhan Polytechnic University(武汉职业技术学院数学与计算机科学学院) School of Computing, La Trobe University(拉特罗布大学计算学院) School of Science, Edith Cowan University(埃迪斯科文大学科学学院)

专题命中 其他LLM :foundation model(abstract);分类 cs.AI

AI总结 提出PhenoYieldNet框架,通过作物物候库和注意力机制显式建模作物特异性物候响应,结合预训练基础模型和时序对比适应策略,实现多作物产量预测并显著优于现有方法。

Comments Accepted by CVPR2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.23108 2026-05-25 cs.SE cs.AI 57%

Philosophical Dispositions as Behavioral Constraints for AI-Assisted Code Review: An Empirical Study

哲学倾向作为AI辅助代码评审的行为约束:一项实证研究

Kaushal Bansal

机构 * Salesforce, Inc.(Salesforce公司)

专题命中 其他LLM :prompting(abstract);分类 cs.AI

AI总结 提出一种通过哲学倾向约束AI评审者行为的系统,在7个代码库上评估,发现其与人类评审者46%一致,75%发现独特,且无假阳性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.22292 2026-05-20 cs.CV cs.AI 57%

Jailbreaking on Text-to-Video Models via Scene Splitting Strategy

通过场景分割策略对文本到视频模型进行劫持

Wonjun Lee, Haon Park, Doehyeon Lee, Bumsub Ham, Suhyun Kim

机构 * Yonsei University(延世大学) Korea Institute of Science and Technology(韩国科学技术院) AIM Intelligence(AIM智能) Seoul National University(首尔国立大学) Kyung Hee University(庆熙大学)

专题命中 其他LLM :LLM(abstract_cn);分类 cs.AI

AI总结 本文提出了一种新的黑盒劫持方法SceneSplit,通过将有害叙述分割成多个良性场景,利用场景组合作为约束来引导最终输出,从而提高生成有害视频的可能性,验证了当前文本到视频模型的安全机制存在漏洞。

Comments ICLR 2026. Project page at https://velpegor.github.io/SceneSplit/

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.18999 2026-05-20 cs.LG 57%

Distance-Aware Muon: Adaptive Step Scaling for Normalized Optimization

Distance-Aware Muon: Adaptive Step Scaling for Normalized Optimization

Yury Demidovich, Abhishek Chakraborty, Grigory Malinovsky, Angelia Nedić, Peter Richtárik

机构 * King Abdullah University of Science and Technology(国王阿卜杜勒-阿齐兹大学科学与技术学院) Arizona State University(亚利桑那州立大学)

专题命中 其他LLM :language model(abstract);分类 cs.LG

AI总结 本文研究了Muon优化器在一般范数几何中的自适应步长缩放规则,提出三种互补算法,包括Distance-Adaptive Muon、Scale-Calibrated Muon和Distance-Free Muon,通过证明站arity保证、目标间隙界和信任区域半径选择,提升了优化性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.18789 2026-05-20 q-bio.NC cs.AI 57%

Features have life history. And we should care

特征有生命周期。我们应当关心

Philipp Stecher, Sandro Radovanović, Vlasta Sikimić, Reinhard Kahle

机构 * University of Tübingen(图宾根大学) University of Belgrade(贝尔格莱德大学) Eindhoven University of Technology(埃因霍温理工大学)

专题命中 其他LLM :language model(abstract);分类 cs.AI

AI总结 研究探讨了语言模型中特征的生命周期,发现了一种稳定的表征基础架构,并揭示了其在训练过程中的四个关键特性。

Comments 21 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.18155 2026-05-19 cs.CL 57%

FOL2NS: Generating Natural Sentences from First-Order Logic

FOL2NS:从一阶逻辑生成自然句子

Mei Jia

机构 * University of Manchester(曼彻斯特大学)

专题命中 其他LLM :language model(abstract);分类 cs.CL

AI总结 本文提出FOL2NS框架,结合规则模块和微调语言模型,生成合成一阶逻辑公式并转换为自然语言表达,提升了生成样本的多样性和覆盖范围,但面临结构复杂度增加时语义精确性和自然生成的挑战。

Comments 11 pages, 8 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.17658 2026-05-19 cs.LG 57%

When a Zero-Shooter Cheats: Improving Age Estimation via Activation Steering

当零样本射手作弊时:通过激活引导提升年龄估计

Erik Imgrund, Pia Hanfeld, Klim Kireev, Konrad Rieck

机构 * BIFOLD & TU Berlin(BIFOLD与柏林技术大学)

专题命中 其他LLM :language model(abstract);分类 cs.LG

AI总结 本文研究了基于视觉语言模型的零样本年龄估计中出现的'身份捷径'现象,提出激活引导方法以提高年龄估计的准确性,减少均方误差达25%。

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.25384 2026-05-18 cs.CL 57%

Wiki Dumps to Training Corpora: South Slavic Case

维基数据转训练语料:南斯拉夫语法

Mihailo Škorić, Cosimo Palma

机构 * University of Belgrade, Faculty of Mining and Geology(贝尔格莱德大学,采矿与地质学系) University of Pisa, Department of Computer Sciences(比萨大学,计算机科学系)

专题命中 其他LLM :language model(abstract);分类 cs.CL

AI总结 本文提出将维基数据转化为七种南斯拉夫语言高质量语料的流程,通过文本提取清洗和冗余过滤提升语料质量,为语言模型训练和跨语言比较提供可靠资源。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13999 2026-05-15 cs.LG 57%

Support Before Frequency in Discrete Diffusion

在离散扩散中先支持频率

Adrian Müller, Antoine Gonon, Zebang Shen, Ya-Ping Hsieh, Niao He

机构 * ETH Zürich(苏黎世联邦理工学院) EPFL(苏黎世联邦理工学院) Academia Sinica(台湾“中央研究院”)

专题命中 其他LLM :language model(abstract);分类 cs.LG

AI总结 研究揭示离散扩散模型在语言建模中通过学习支持结构优先于频率信息,统一扩散显示有效性改进、保持和恶化编辑的三元组,而吸收扩散则将主要质量放在有效性改进移动上。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13874 2026-05-15 cs.NE cs.AI 57%

GEAR: Genetic AutoResearch for Agentic Code Evolution

GEAR:基于遗传算法的自主研究代理

Ahmadreza Jeddi, Minh Ngoc Le, Hakki C. Karaimer, Konstantinos G. Derpanis, Babak Taati

机构 * University of Toronto(多伦多大学) Vector Institute(向量研究所) AI Center-Toronto, Samsung Electronics(多伦多AI中心,三星电子) York University(约克大学)

专题命中 其他LLM :prompting(abstract);分类 cs.AI

AI总结 GEAR通过多路径搜索提升自主研究代理效果,采用群体搜索策略保持多个 promising 方向,通过突变和交叉探索新想法,优于传统方法。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.13373 2026-05-14 cs.CL 57%

Exploiting Pre-trained Encoder-Decoder Transformers for Sequence-to-Sequence Constituent Parsing

利用预训练的编码器-解码器变换器进行序列到序列的短语结构解析

Daniel Fernández-González, Cristina Outeiriño Cid

机构 * Universidade de Vigo, Departamento de Informática(维戈大学计算机系)

专题命中 其他LLM :language model(abstract);分类 cs.CL

AI总结 本文提出利用预训练的编码器-解码器模型进行短语结构解析,通过微调生成线性解析树并在不同线性化策略下评估,优于传统序列到序列模型并能与任务专用解析器竞争。

Comments Preliminary version

详情

展开后加载摘要…

URL PDF HTML 收藏
2507.00990 2026-05-14 cs.RO cs.AI cs.CV 57%

Robotic Manipulation by Imitating Generated Videos Without Physical Demonstrations

通过模仿生成视频实现机器人操作

Shivansh Patel, Shraddhaa Mohan, Hanlin Mai, Unnat Jain, Svetlana Lazebnik, Yunzhu Li

机构 * UIUC(伊利诺伊大学香槟分校) UC Irvine(加州大学尔湾分校) Columbia University(哥伦比亚大学)

专题命中 其他LLM :language model(abstract);分类 cs.AI

AI总结 本文提出RIGVid系统,通过模仿AI生成视频使机器人完成复杂操作任务,无需物理示范或特定机器人训练。系统利用视频扩散模型生成潜在示范视频,并通过视觉语言模型筛选符合指令的视频,再通过6D姿态跟踪器提取轨迹并映射到机器人。实验表明生成视频效果与真实示范相当,且性能随生成质量提升。

Comments In ICLR 2026. Website: https://rigvid-robot.github.io/

详情

展开后加载摘要…

URL PDF HTML 收藏
2602.02282 2026-05-13 cs.LG 57%

MoLF: Mixture-of-Latent-Flow for Pan-Cancer Spatial Gene Expression Prediction from Histology

MoLF:基于组织学的跨癌症空间基因表达预测的潜在流混合

Susu Hu, Stefanie Speidel

机构 * Translational Surgical Oncology, National Center for Tumor Diseases (NCT/UCC) Dresden, Germany Faculty of Medicine University Hospital Carl Gustav Carus, Dresden University of Technology German Cancer Research Center (DKFZ), Heidelberg, Germany

专题命中 其他LLM :foundation model(abstract);分类 cs.LG

AI总结 MoLF通过条件流匹配目标,利用混合专家架构实现跨癌症组织基因表达预测,优于现有方法并在跨物种数据中表现出零样本泛化能力。

Comments Accepted at Proceedings 43rd International Conference on Machine Learning, Seoul, South Korea

Journal ref Proceedings 43rd International Conference on Machine Learning 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2508.02455 2026-05-13 cs.SE cs.AI cs.IR 57%

TreeRanker: Fast and Model-agnostic Ranking System for Code Suggestions in IDEs

TreeRanker: 代码建议中集成开发环境的快速且模型无关的排名系统

Daniele Cipollone, Egor Bogomolov, Arie van Deursen, Maliheh Izadi

机构 * JetBrains Delft University of Technology(代尔夫特理工大学)

专题命中 其他LLM :language model(abstract);分类 cs.AI

AI总结 本文提出一种基于语言模型的快速、模型无关的代码建议排名方法,通过构建前缀树并进行贪心解码,实现精确的token级排序,无需束搜索、提示工程或模型调整。

详情

展开后加载摘要…

URL PDF HTML 收藏
2601.07473 2026-05-13 cs.LG 57%

AntiPaSTO: Self-Supervised Honesty Steering via Anti-Parallel Representations

AntiPaSTO:通过反平行表示实现自监督诚实引导

Michael J. Clark

机构 * Independent Researcher, Perth, Australia(珀斯独立研究员)

专题命中 其他LLM :prompting(abstract);分类 cs.LG

AI总结 AntiPaSTO通过反平行表示实现自监督诚实引导,通过对比学习提升模型在日常困境中的引导效果,并在多个价值轴上取得优势。

Comments Code is available at https://github.com/wassname/AntiPaSTO

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.10797 2026-05-12 cs.LG 57%

Muown: Row-Norm Control for Muon Optimization

Muown:行范数控制用于缪子优化

Kai Lion, Florian Hübler, Bingcong Li, Antonio Orvieto, Niao He

机构 * ETH Zurich(苏黎世联邦理工学院) Technical University of Munich(慕尼黑技术大学) ELLIS Institute Tübingen(图宾根ELLIS研究所) MPI-IS Tübingen(图宾根MPI-IS) Tübingen AI Center(图宾根人工智能中心)

专题命中 其他LLM :language model(abstract);分类 cs.LG

AI总结 本文提出Muown,通过将行幅度向量作为显式优化变量,改进了缪子优化在大规模训练中的稳定性,提升了模型 perplexity 并减少对权重衰减的敏感性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.09055 2026-05-12 cs.RO cs.AI cs.MA 57%

Octopus Protocol: One-Shot Hardware Discovery and Control for AI Agents via Infrastructure-as-Prompts

Octopus Protocol:通过基础设施即提示实现AI代理的一次性硬件发现与控制

Quilee Simeon, Justin M. Wei, Yile Fan

机构 * MIT(麻省理工学院)

专题命中 其他LLM :foundation model(abstract);分类 cs.AI

AI总结 Octopus Protocol通过五阶段流程实现硬件发现与控制,利用语言模型API生成MCP协议服务器,使AI代理能自主完成硬件集成与闭环视觉-运动控制。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.08980 2026-05-12 cs.LG math.OC stat.ML 57%

Muon Does Not Converge on Convex Lipschitz Functions

Muon 不收敛于凸 Lipschitz 函数

Tetiana Parshakova, Ahmed Khaled, Michael Crawshaw, Guillaume Garrigos, Robert M. Gower

机构 * Center for Computational Mathematics, Flatiron Institute, Simons Foundation(计算数学中心,Flatiron研究所,Simons基金会) Princeton University, Google DeepMind(普林斯顿大学,谷歌DeepMind) George Mason University(乔治·梅森大学) Université Paris Cité and Sorbonne Université, CNRS, Laboratoire de Probabilités, Statistique et Modélisation(巴黎cité大学和索邦大学,CNRS,概率、统计和建模实验室)

专题命中 其他LLM :language model(abstract);分类 cs.LG

AI总结 本文指出 Muon 在凸 Lipschitz 函数上不收敛,尽管误差反馈可恢复其收敛性,但性能在图像分类和语言模型任务中下降,表明 Muon 的成功可能源于该模型未包含的结构。

详情

展开后加载摘要…

URL PDF HTML 收藏
2509.21677 2026-05-12 cs.LG cs.SE 57%

Prophecy: Inferring Formal Properties from Neuron Activations

预言:从神经元激活推断形式属性

Divya Gopinath, Corina S. Pasareanu, Muhammad Usman

机构 * NASA Ames(NASA阿姆斯研究中心) KBR(KBR公司) CMU(卡内基梅隆大学)

专题命中 其他LLM :language model(abstract);分类 cs.LG

AI总结 Prophecy通过分析神经网络内部层的神经元激活状态,自动推断前馈网络的形式属性,适用于不同模型和输出属性的验证与监控。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.06992 2026-05-11 cs.LG stat.ML 57%

Why Does Agentic Safety Fail to Generalize Across Tasks?

为何代理安全无法跨任务泛化?

Yonatan Slutzky, Yotam Alexander, Tomer Slor, Yoav Nagel, Nadav Cohen

机构 * Some Institute(某些研究所)

专题命中 其他LLM :LLM(abstract);分类 cs.LG

AI总结 本文探讨了代理安全在多任务场景中泛化失败的原因,指出安全要求使任务与安全执行的关系更为复杂,通过理论和实验表明需新的方法提升安全性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.06898 2026-05-11 cs.AI 57%

Self-Programmed Execution for Language-Model Agents

语言模型代理的自编程执行

Luke J. O'Connor

机构 * Harvard Medical School(哈佛医学院)

专题命中 其他LLM :language model(abstract);分类 cs.AI

AI总结 本文提出自编程执行(SPE)架构,使语言模型自身成为调度器,无需固定策略。通过agentic machines概念,实现无固定轮次策略的状态转移,并引入Spell语言处理程序自我编辑与重评估,实验表明前沿模型可完成复杂代理任务。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.00948 2026-05-05 q-bio.QM cs.AI 57%

Co-Generative De Novo Functional Protein Design

协同生成的从头功能性蛋白质设计

Xinrui Chen, Yizhen Luo, Siqi Fan, Zaiqing Nie

机构 * Institute for AI Industry Research (AIR), Tsinghua University(人工智能产业研究院(AIR),清华大学) Department of Computer Science(计算机科学系) Technology, Tsinghua University(技术,清华大学)

专题命中 其他LLM :language model(abstract);分类 cs.AI

AI总结 本文提出CodeFP模型,通过同时解码序列和结构令牌,提升功能性与折叠性的实现。模型利用功能局部结构增强语义编码,并引入辅助功能监督以缓解训练模糊性,实验显示在功能一致性和折叠性上均优于基线。

详情

展开后加载摘要…

URL PDF HTML 收藏
2605.00506 2026-05-04 cs.CL 57%

Surprisal Minimisation over Goal-directed Alternatives Predicts Production Choice in Dialogue

基于目标导向替代的惊奇最小化预测对话中的产出选择

Tom Utting, Mario Giulianelli, Arabella Sinclair

机构 * University of Aberdeen(阿伯丁大学) University College London(伦敦大学学院)

专题命中 其他LLM :language model(abstract);分类 cs.CL

AI总结 本文通过概率成本敏感选择模型,探讨对话中基于目标导向和上下文合理性的替代选择,发现基于目标导向替代的惊奇最小化在预测对话产出选择中表现最佳。

Comments 9 pages, to appear at ACL 2026 (Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics)

详情

展开后加载摘要…

URL PDF HTML 收藏
2604.27927 2026-05-01 cs.AI 57%

Taming the Centaur(s) with LAPITHS: a framework for a theoretically grounded interpretation of AI performances

驯服半人马:LAPITHS框架用于理论基础的AI性能解释

Matteo Da Pelo, Alessio Donvito, Claudio Frongia, Pietro Salis, Antonio Lieto

机构 * University of Cagliari(卡利亚里大学) University of Bari Aldo Moro(巴里阿尔多·莫罗大学) University of Salerno(萨勒诺大学)

专题命中 其他LLM :language model(abstract);分类 cs.AI

AI总结 LAPITHS框架挑战了将Transformer模型的人类水平表现视为认知能力的理论假设,通过量化评估和行为比较揭示认知合理性问题。

Comments 28 pages

详情

展开后加载摘要…

URL PDF HTML 收藏