代码大模型 / AI 编程

EXG: Self-Evolving Agents with Experience Graphs

EXG: 基于经验图的自演化代理

Yuxin Jin, Siyuan Zhang, Hanchen Wang, Lu Qin, Ying Zhang, Wenjie Zhang

机构 * University of Technology Sydney（悉尼科技大学） ； The University of New South Wales（新南威尔士大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 本文提出EXG，一种基于经验图的自演化代理框架，通过结构化组织积累的成功与失败经验，提升代理在复杂任务中的解决质量和资源效率。

Stop When Reasoning Converges: Semantic-Preserving Early Exit for Reasoning Models

停止当推理收敛：用于推理模型的语义保留早退出

Dehai Min, Giovanni Vaccarino, Huiyi Chen, Yongliang Wu, Gal Yona, Lu Cheng

机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） ； Google Research（谷歌研究） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Politecnico di Milano（米兰理工学院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL

AI总结 本文提出PUMA框架，通过识别推理层面的语义冗余信号，实现语义保留的早退出，从而在保持准确性和推理链完整性的同时减少token消耗。

Comments under review

VeriCache: Turning Lossy KV Cache into Lossless LLM Inference

VeriCache: 将损失性KV缓存转换为无损LLM推理

Jiayi Yao, Samuel Shen, Kuntai Du, Shaoting Feng, Dongjoo Seo, Rui Zhang, Yuyang Huang, Yuhan Liu, Shan Lu, Junchen Jiang

机构 * University of Chicago（芝加哥大学） ； Tensormesh Inc.（Tensormesh公司） ； Samsung Semiconductor（三星半导体） ； Microsoft Research（微软研究院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.LG

AI总结 本文提出VeriCache框架，通过利用压缩的KV缓存生成token并验证其与完整KV缓存的一致性，实现了与完整KV缓存解码相同输出的同时保持高解码吞吐量。

NGM: A Plug-and-Play Training-Free Memory Module for LLMs

NGM: 一种无需训练的插拔式内存模块用于大语言模型

Yuwen Qu, Wenhui Dong, Chenyang Si, Caifeng Shan

机构 * Nanjing University（南京大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 本文提出NGM，一种无需训练的插拔式内存模块，通过因果n-gram编码器和余弦门控内存注入器，实现高效的知识检索，提升大语言模型在代码生成和知识密集型任务中的性能。

Comments Code is available at https://github.com/PioneerQyw/NGM

PSD: Pushing the Pareto Frontier of Diffusion LLMs via Parallel Speculative Decoding

PSD: 推动扩散大语言模型的帕累托前沿：通过并行推测解码

Shengyin Sun, Yiming Li, Renxi Liu, Xinqi Li, Hui-Ling Zhen, Weizhe Lin, Chen Chen, Xianzhi Yu, Mingxuan Yuan, Chen Ma

机构 * Huawei Technologies（华为技术） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL

AI总结 本文提出PSD框架，通过并行推测解码提升推理效率与生成质量，在推理效率和生成质量之间取得良好平衡，达到每前向传递5.5倍的token处理速度。

Comments 16 pages

See Before You Code: Learning Visual Priors for Spatially Aware Educational Animation Generation

在编码前看到：学习视觉先验以生成空间感知的教育动画

Yuejia Li, Ke He, Junheng Li, Shutong Chen, Jingkang Xia, Zhiyue Su, Junchi Zhang, Mang Ye

机构 * Wuhan University（武汉大学） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 本文提出OmniManim框架，通过视觉规划和反馈机制提升教育动画生成质量，改进渲染效果和教学效果。

Comments 21 pages, 4 figures

Solvita: Enhancing Large Language Models for Competitive Programming via Agentic Evolution

Solvita：通过代理进化增强大型语言模型以应对编程竞赛

Han Li, Jinyu Tian, Rili Feng, Yuqiao Du, Chong Zheng, Chenyu Wang, Chenchen Liu, Shihao Li, Xinping Lei, Yifan Yao, Weihao Xie, Letian Zhu, Jiaheng Liu

机构 * Nanjing University（南京大学） ； Tsinghua University（清华大学） ； Independent Researcher（独立研究者） 纠错

专题命中 代码生成 ：program synthesis(abstract)；分类 cs.AI

AI总结 Solvita通过闭环系统和可训练知识网络，使代理动态学习，提升编程竞赛任务的准确性和经验积累。

Stabilizing Knowledge, Promoting Reasoning: Dual-Token Constraints for RLVR

稳定知识，促进推理：双令牌约束用于RLVR

Jiakang Wang, Runze Liu, Fuzheng Zhang, Xiu Li, Guorui Zhou, Ling Pan

机构 * The Hong Kong University of Science and Technology（香港科学与技术大学） ； Kuaishou Technology（快手科技） ； Tsinghua University（清华大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL

AI总结 本文提出Archer框架，通过双令牌约束在RLVR中平衡优化，提升LLM的推理和知识保持能力，实验显示在数学推理和代码生成任务中表现优异。

Learning from Failures: Correction-Oriented Policy Optimization with Verifiable Rewards

从失败中学习：具有可验证奖励的纠正导向策略优化

Mengjie Ren, Jie Lou, Boxi Cao, Xueru Wen, Hongyu Lin, Xianpei Han, Le Sun, Xing Yu, Yaojie Lu

机构 * Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所信息处理实验室） ； University of Chinese Academy of Sciences（中国科学院大学） ； Xiaohongshu Inc（小红书公司） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL

AI总结 本文提出CIPO方法，通过将失败轨迹转化为纠正监督，提升大语言模型的推理和纠错能力，在11个基准测试中优于基线方法。

Comments Work on progress

Not All RAGs Are Created Equal: A Component-Wise Empirical Study for Software Engineering Tasks

并非所有RAG都同等有效：面向软件工程任务的组件级实证研究

Qiang Ke, Yanjie Zhao, Hongjin Leng, Shengming Zhao, Haoyu Wang

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE

AI总结 本文通过实证研究分析RAG组件对软件工程任务的影响，发现检索端组件尤其是检索算法对系统性能影响更大，BM25在多种任务中表现稳健。

MemQ: Integrating Q-Learning into Self-Evolving Memory Agents over Provenance DAGs

MemQ：将Q学习整合到基于溯源DAG的自进化记忆代理中

Junwei Liao, Haoting Shi, Ruiwen Zhou, Jiaqian Wang, Shengtao Zhang, Wei Zhang, Ying Wen, Zhiyu Li, Feiyu Xiong, Bo Tang, Weinan Zhang, Muning Wen

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） ； National University of Singapore（新加坡国立大学） ； Xidian University（西安电子科技大学） ； University of Science and Technology of China（中国科学技术大学） ； MemTensor (Shanghai) Technology Co., Ltd.（MemTensor（上海）科技有限公司） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 MemQ通过在溯源DAG中传播信用权重，改进记忆Q值的评估，提升多步任务的泛化能力，尤其在产生深层相关溯源链的任务中表现突出。

Comments 22 pages, 11 figures (containing 43 individual image panels total)

SkillFlow: Flow-Driven Recursive Skill Evolution for Agentic Orchestration

SkillFlow: 以流程驱动的递归技能进化用于代理编排

Mingda Zhang, Tiesunlong Shen, Haoran Luo, Wenjin Liu, Zikai Xiao, Erik Cambria, Xiaoying Tang

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； National University of Singapore（新加坡国立大学） ； Nanyang Technological University（南洋理工大学） ； Zhejiang University（浙江大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 SkillFlow通过流程驱动的递归技能进化解决代理编排中的策略崩溃、梯度方差高和无指导技能进化问题，实现高效任务编排。

Comments 49 pages, 5 figures, 6 tables

Bidirectional Empowerment of Metamorphic Testing and Large Language Models: A Systematic Survey

双向赋能：变形测试与大语言模型的相互促进：系统综述

Zheng Zheng, Zenghui Zhou, Yinwang Xu, Daixu Ren, Tsong Yueh Chen

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE

AI总结 本文系统综述了93项研究，探讨变形测试与大语言模型之间的双向赋能关系，提出分类框架，分析其在验证、评估和自动化测试中的应用。

Comments Daixu Ren is the corresponding author

TRIAGE: Evaluating Prospective Metacognitive Control in LLMs under Resource Constraints

TRIAGE：在资源限制下评估大语言模型的前瞻性元认知控制

Zabir Al Nazi, Shubhashis Roy Dipta

机构 * University of California, Riverside, USA（加州大学河滨分校） ； University of Maryland, Baltimore County, USA（马里兰大学巴尔的摩县分校） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 研究评估了大语言模型在资源限制下的前瞻性元认知控制能力，通过Triage框架测试不同模型在多个领域的表现，揭示了现有模型在该能力上的显著差距。

Retrieval is Cheap, Show Me the Code: Executable Multi-Hop Reasoning for Retrieval-Augmented Generation

检索成本低廉，展示代码：可执行多跳推理的检索增强生成

Jiashuo Sun, Jimeng Shi, Yixuan Xie, Saizhuo Wang, Jash Rajesh Parekh, Pengcheng Jiang, Zhiyi Shi, Jiajun Fan, Qinglong Zheng, Peiran Li, Shaowen Wang, Ge Liu, Jiawei Han

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Hong Kong University of Science and Technology（香港科学与技术大学） ； Texas A&M University（德克萨斯农工大学） 纠错

专题命中 代码生成 ：program synthesis(abstract)；分类 cs.AI

AI总结 本文提出PyRAG框架，将多跳检索增强生成转化为程序合成与执行，通过可执行Python代码实现可调试的推理过程，提升多跳问答性能。

Comments 32 pages, 20 figures, 4 tables

CoT-Guard: Small Models for Strong Monitoring

CoT-Guard：用于强监控的小型模型

Nirav Diwan, Han Wang, Berkcan Kapusuzoglu, Ramin Moradi, Supriyo Chakraborty, Giri Iyengar, Sambit Sahu, Huan Zhang, Gang Wang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Capital One 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 本文提出CoT-Guard，通过结合监督微调和强化学习，提升小型模型在代码生成任务中检测隐藏目标的能力，其在提示和代码攻击下的表现优于现有大模型。

Constraints-of-Thought: A Framework for Constrained Reasoning in Language-Model-Guided Search

思维约束：一种在语言模型引导搜索中进行约束推理的框架

Kamel Alrashedy, Vriksha Srihari, Zulfiqar Zaidi, Ridam Srivastava, Pradyumna Tambwekar, Matthew Gombolay

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.LG

AI总结 本文提出Const-o-T框架，通过约束推理提升语言模型在多步骤任务中的规划效率和决策可靠性，适用于风险游戏、CAD代码生成和算术推理等复杂领域。

3D Primitives are a Spatial Language for VLMs

3D基元是一种视觉语言模型的空间语言

Junze Liu, Kun Qian, Florian Dubost, Kai Zhong, Arvind Srinivasan, Nan Chen, Anping Wang, Sam Zhang, Alejandro Mottini, Qingjun Cui, Tian Wang

机构 * Unity Technologies 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 本文提出通过3D基元作为中间表示来提升视觉语言模型的空间理解能力，通过SpatialBabel基准、Code-CoT推理策略和S³-FT自监督微调三种贡献，展示了基元在空间任务中的有效性。

TileLoom: Automatic Dataflow Planning for Tile-Based Languages on Spatial Dataflow Accelerators

TileLoom：面向空间数据流加速器的tile基语言自动数据流规划

Wei Li, Zhenyu Bai, Heru Wang, Pranav Dangi, Zhiqiang Zhang, Cheng Tan, Huiying Lan, Weng-Fai Wong, Tulika Mitra

专题命中 代码生成 ：code generation(abstract)；分类 cs.PL

AI总结 TileLoom通过MLIR框架实现tile基程序到空间数据流架构的编译，通过分布式核心和芯片内网络提升数据复用与通信效率，实验显示其性能与厂商库相当。

The Agent Use of Agent Beings: Agent Cybernetics Is the Missing Science of Foundation Agents

代理行为的代理使用：代理循证学是基础代理的缺失科学

Xinrun Wang, Chang Yang, He Zhao, Zhuoyi Lin, Shuyue Hu

机构 * Singapore Management University（新加坡管理大学） ； The Hong Kong Polytechnic University（香港理工大学） ； Nanyang Technological University（南洋理工大学） ； Institute for Infocomm Research, Agency for Science, Technology and Research (A*STAR)（信息通信研究院，科技研究局（A*STAR）） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 本文提出代理循证学作为基础代理的理论基础，通过将经典循证学定律映射到代理设计原则，提出可靠性、持续运行和自我改进三大工程需求，以指导复杂任务中的代理设计与部署。

Comments Preliminary Work

AutoSOUP: Safety-Oriented Unit Proof Generation for Component-level Memory-Safety Verification

AutoSOUP：面向组件级内存安全验证的安全导向单元证明

Paschal C. Amusuo, Ricardo Calvo, Dharun Anandayuvaraj, Taylor Le Lievre, Kevin Kolyakov, Elijah Jorgensen, Aravind Machiry, James C. Davis

专题命中 代码生成 ：program synthesis(abstract)；分类 cs.SE

AI总结 AutoSOUP通过安全导向单元证明自动化组件级内存安全验证，结合确定性程序合成与LLM，生成可验证的证明以提高内存安全验证的自动化水平。

Comments 13 main pages, 7 appendix pages, 2 figures, 5 listings

Can LLMs Solve Science or Just Write Code? Evaluating Quantum Solver Generation

LLMs能否解决科学问题或只是编写代码？评估量子求解器生成

Luciano Baresi, Domenico Bianculli, Maryse Ernzer, Livia Lestingi, Fabrizio Pastore, Seung Yeob Shin

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE

AI总结 本文提出Q-SAGE方法，通过迭代优化评估LLM生成量子求解器的能力，发现迭代改进提升成功率但带来计算开销，模型能力增强后失败模式从执行错误转为数值不准确，揭示LLM在量子软件中的局限。

Efficient LLM Collaboration via Planning

通过规划实现高效的LLM协作

Byeongchan Lee, Jonghoon Lee, Dongyoung Kim, Jaehyung Kim, Kyungjoon Park, Dongjun Lee, Jinwoo Shin

机构 * KAIST（韩国科学技术院） ； Yonsei University（延世大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 本文提出COPE框架，通过规划模型与执行模型的协作，提升小模型和大模型在复杂任务中的性能，同时显著降低推理成本。

CodeClinic: Evaluating Automation of Coding Skills for Clinical Reasoning Agents

CodeClinic：评估临床推理代理的编码技能自动化

Timothy Ossowski, Xinchi Liu, Danyal Maqbool, Vaibhav Dhanuka, Sheng Zhang, Hoifung Poon, Majid Afshar, Tyler Bradshaw, Junjie Hu

机构 * University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； Microsoft Research（微软研究院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 CodeClinic通过MIMIC-IV构建基准，评估LLM代理是否能合成和组合可重用的临床技能，而非依赖固定工具库，包含纵向ICU监控和组合信息检索任务，提升多步推理效率。

MDGYM: Benchmarking AI Agents on Molecular Simulations

MDGYM：在分子模拟上评估AI代理的基准测试

Vinay Kumar, Satyendra Rajput, Mausam, N. M. Anoop Krishnan

机构 * Yardi School of Artificial Intelligence, Indian Institute of Technology Delhi（印度理工学院德里人工智能学院） ； Department of Computer Science and Engineering, Indian Institute of Technology Delhi（印度理工学院德里计算机科学与工程系） ； Department of Civil and Environmental Engineering, Indian Institute of Technology Delhi（印度理工学院德里土木与环境工程系） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 本文通过MDGYM基准测试，评估了AI代理在分子动力学模拟中的表现，发现现有代理在物理推理方面存在显著不足。

PrepBench: How Far Are We from Natural-Language-Driven Data Preparation?

PrepBench: 我们距离自然语言驱动的数据准备还有多远？

Jingzhe Xu, Rui Wang, Jiannan Wang, Guoliang Li

机构 * Department of Computer Science and Technology, BNRist, Tsinghua University（计算机科学与技术系，BNRist，清华大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 PrepBench评估自然语言驱动的数据准备能力，涵盖交互澄清、代码生成和代码到工作流翻译三项核心能力，通过爬取数据挑战并设计系统性基准，揭示当前LLM在实现该范式转变中的挑战。

Mid-Training with Self-Generated Data Improves Reinforcement Learning in Language Models

中期使用自生成数据提升语言模型中的强化学习

Aswin RRV, Jacob Dineen, Divij Handa, Mihir Parmar, Ben Zhou, Swaroop Mishra, Chitta Baral

机构 * Arizona State University（亚利桑那州立大学） ； Google Cloud AI Research（谷歌云人工智能研究） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 本文研究在强化学习前使用多样化的自生成数据提升语言模型的强化学习效果，通过自生成数据训练后，模型在数学推理等任务中表现更优。

An Empirical Study of Multi-Agent Collaboration for Automated Research

多智能体协作在自动化研究中的实证研究

Yang Shen, Zhenyi Yi, Ziyi Zhao, Lijun Sun, Dongyang Li, Chin-Teng Lin, Yuhui Shi

机构 * University of Technology Sydney（悉尼技术大学） ； Southern University of Science and Technology（南方科技大学） ； Shenzhen Technology University（深圳技术大学） ； Tongji University（同济大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 本文通过实证研究比较了不同多智能体结构在自动化机器学习优化中的效果，发现子代理架构在时间受限下更稳定高效，而智能体团队架构在计算预算充足时能实现深度理论对齐。

Reducing the Costs of Proof Synthesis on Rust Systems by Scaling Up a Seed Training Set

通过扩大种子训练集来降低Rust系统证明合成的成本

Nongyu Di, Tianyu Chen, Shan Lu, Shuai Lu, Yeyun Gong, Peng Cheng, Jacob R. Lorch, Yuan Yao, Xiaoxing Ma

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE

AI总结 本文提出VeruSyn数据合成管道，通过自合成和教程合成扩大Verus验证工具的数据集，生成690万Rust程序及其形式化规格证明，提升代码生成模型的性价比和性能。

MiniAppBench: Evaluating the Shift from Text to Interactive HTML Responses in LLM-Powered Assistants

MiniAppBench：评估从文本到交互式HTML响应的转变

Zuhao Zhang, Chengyue Yu, Yuante Li, Chenyi Zhuang, Linjian Mo, Shuai Li

机构 * Shanghai Jiao Tong University, Shanghai, China（上海交通大学） ； Carnegie Mellon University, Pittsburgh, PA, USA（卡内基梅隆大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI

AI总结 本文提出MiniAppBench，首个评估原理驱动交互应用生成能力的基准，通过10M+生成数据提炼500个任务，结合MiniAppEval框架评估意图、静态和动态维度，揭示LLM在生成高质量交互应用上的不足。