代码大模型 / AI 编程

Why Pass@k Optimization Can Degrade Pass@1: Prompt Interference in LLM Post-training

为何Pass@k优化会损害Pass@1：LLM微调中的提示干扰

Anas Barakat, Souradip Chakraborty, Khushbu Pahwa, Amrit Singh Bedi

机构 * Singapore University of Technology and Design（新加坡科技设计大学） ； University of Maryland, College Park（马里兰大学学院公园分校） ； University of Central Florida（佛罗里达中央大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 该研究揭示了在LLM微调中，pass@k优化可能损害pass@1的原因，通过梯度冲突和提示干扰机制，提出了理论解释并验证了实验结果。

Comments updated related work discussion

Echoes of AI: Investigating the Downstream Effects of AI Assistants on Software Maintainability

AI的回声：探讨AI助手对软件可维护性的影响

Markus Borg, Dave Hewett, Nadim Hagatulah, Noric Couderc, Emma Söderberg, Donald Graham, Uttam Kini, Dave Farley

机构 * CodeScene ； Equal Experts ； Continuous Delivery 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 本研究探讨AI助手对软件可维护性的影响，发现其在共同开发中未显著提升或降低可维护性，但指出未来需关注代码膨胀和认知债务等潜在风险。

Comments Preprint of study preregistered at ICSME 2025 with In-Principal Acceptance. https://conf.researchr.org/track/icsme-2024/icsme-2024-registered-reports-track

Non-Interfering Weight Fields: Treating Model Parameters as a Continuously Extensible Function

非干扰权重场：将模型参数视为可扩展的连续函数

Sarim Chaudhry

机构 * Purdue University（普渡大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出非干扰权重场（NIWF）框架，通过将模型参数视为可扩展的连续函数，解决大型语言模型中的灾难性遗忘问题，实现能力的版本控制与灵活管理。

Can Adversarial Code Comments Fool AI Security Reviewers -- Large-Scale Empirical Study of Comment-Based Attacks and Defenses Against LLM Code Analysis

对抗性代码注释能否欺骗AI安全审查员 -- 大规模实证研究：基于注释的攻击与防御对抗大语言模型代码分析

Scott Thornton

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 研究探讨了对抗性代码注释对AI安全审查的影响，发现其对漏洞检测无显著影响，静态分析交叉参考效果最佳。

Comments 19 pages, 6 figures

GenAI for Systems: Recurring Challenges and Design Principles from Software to Silicon

生成AI用于系统：从软件到硅片的反复挑战和设计原则

Arya Tschand, Chenyu Wang, Zishen Wan, Andrew Cheng, Ioana Cristescu, Kevin He, Howard Huang, Alexander Ingare, Akseli Kangaslahti, Sara Kangaslahti, Theo Lebryk, Hongjin Lin, Jeffrey Jian Ma, Alexandru Meterez, Clara Mohri, Depen Morwani, Sunny Qin, Roy Rinberg, Paula Rodriguez-Diaz, Alyssa Mia Taliotis, Pernille Undrum Fathi, Rosie Zhao, Todd Zhou, Vijay Janapa Reddi

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 本文探讨生成AI在计算系统中面临的反复挑战及设计原则，提出跨层视角下的挑战-原则图，强调共享工程方法的重要性。

Precedent-Informed Reasoning: Mitigating Overthinking in Large Reasoning Models via Test-Time Precedent Learning

基于先例的推理：通过测试时先例学习缓解大推理模型中的过度思考

Qianyue Wang, Jinwu Hu, Huanxiang Lin, Bolin Chen, Zhiquan Wen, Yaofo Chen, Yu Rong, Mingkui Tan

机构 * South China University of Technology（华南理工大学） ； Pazhou Laboratory（黄埔实验室） ； DAMO Academy（达摩院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 PIR通过测试时先例学习，优化大推理模型的推理过程，减少冗余探索并提升准确率与效率的平衡。

Nanbeige4.1-3B: A Small General Model that Reasons, Aligns, and Acts

纳贝格4.1-3B：一个小型通用模型，能够推理、对齐和行动

Chen Yang, Guangyue Peng, Jiaying Zhu, Ran Le, Ruixiang Feng, Tao Zhang, Xiyun Xu, Yang Song, Yiming Jia, Yuntao Wen, Yunzhi Xu, Zekai Wang, Zhenwei An, Zhicong Sun, Zongchao Chen

机构 * Nanbeige LLM Lab（纳贝geist 语言模型实验室） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 Nanbeige4.1-3B是一款小型通用模型，通过结合奖励建模和复杂性感知奖励，实现了强大的推理、代码生成和代理行为，展示了3B参数模型的广泛能力与专业性。

Automated Proof Generation for Rust Code via Self-Evolution

通过自我进化实现Rust代码的自动证明生成

Tianyu Chen, Shuai Lu, Shan Lu, Yeyun Gong, Chenyuan Yang, Xuheng Li, Md Rakib Hossain Misu, Hao Yu, Nan Duan, Peng Cheng, Fan Yang, Shuvendu K Lahiri, Tao Xie, Lidong Zhou

机构 * Peking University（北京大学） ； Microsoft Research（微软研究院） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Columbia University（哥伦比亚大学） ； University of California Irvine（加州大学 Irvine 分校） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 SAFE框架通过自我进化循环和自我调试机制，提升开源模型自动编写Rust代码证明的能力，准确率达52.52%

Controlled Self-Evolution for Algorithmic Code Optimization

算法代码优化的受控自演进

Tu Hu, Ronghao Chen, Shuo Zhang, Jianghao Yin, Mou Xiao Feng, Jingping Liu, Shaolei Zhang, Wenqi Jiang, Yuqi Fang, Sen Hu, Huacan Wang, Yi Xu

机构 * NJU（南京大学） ； PKU（北京大学） ； Midea-AIRC（美的人工智能研究院） ； ECNU（华东师范大学） ； SYSU（南方科技大学） ； RUC（中国人民大学） ； QuantaAlpha（量子Alpha） ； QuantML（量子机器学习） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 受控自演进通过改进初始化、反馈引导和经验记忆，提升算法代码优化的效率和效果。

Comments 27 pages

Towards Better Code Understanding in Decoder-Only Models with Contrastive Learning

在解码器-only模型中通过对比学习实现更好的代码理解

Jiayi Lin, Yanlin Wang, Yibiao Yang, Lei Zhang, Yutao Xie

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 本文提出CL4D框架，通过对比学习提升解码器-only模型的代码表示能力，在代码搜索和克隆检测任务中取得优异性能。

Comments AAAI 2026

THOR: Tool-Integrated Hierarchical Optimization via RL for Mathematical Reasoning

THOR：通过强化学习进行工具集成的分层优化以实现数学推理

Qikai Chang, Zhenrong Zhang, Pengfei Hu, Jun Du, Jiefeng Ma, Yicheng Pan, Jianshu Zhang, Quan Liu, Jianqing Gao

机构 * University of Science and Technology of China（中国科学技术大学） ； iFLYTEK Research（iFLYTEK研究院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 THOR通过强化学习实现工具集成的分层优化，提升数学推理和代码生成能力。

Comments 22 pages, 13 figures, ICLR 2026

CodeCircuit: Toward Inferring LLM-Generated Code Correctness via Attribution Graphs

CodeCircuit: 通过归因图推断LLM生成代码的正确性

Yicheng He, Zheng Zhao, Zhou Kaiyu, Bryan Dai, Jie Fu, Yonghui Yang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； University of Edinburgh（爱丁堡大学） ； Nanyang Technological University（南洋理工大学） ； National University of Singapore（新加坡国立大学） ； IQuest Research（IQuest研究） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 CodeCircuit通过归因图分析LLM内部结构，推断生成代码的正确性，验证内部动态信号的预测能力。

dUltra: Ultra-Fast Diffusion Language Models via Reinforcement Learning

dUltra: 通过强化学习实现超快扩散语言模型

Shirui Chen, Jiantao Jiao, Lillian J. Ratliff, Banghua Zhu

机构 * University of Washington（华盛顿大学） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 dUltra通过端对端强化学习框架实现超快扩散语言模型，提升并行生成效率和准确性。

Skill Discovery for Software Scripting Automation via Offline Simulations with LLMs

通过离线模拟与LLM实现软件脚本自动化中的技能发现

Paiheng Xu, Gang Wu, Xiang Chen, Tong Yu, Chang Xiao, Franck Dernoncourt, Tianyi Zhou, Wei Ai, Viswanathan Swaminathan

机构 * University of Maryland, College Park（马里兰大学College Park分校） ； Adobe Research（Adobe研究院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 本文提出了一种利用离线模拟与LLM构建软件特定技能集的方法，通过生成和验证脚本提升自动化效率，减少运行时成本。

Comments Findings of the Association for Computational Linguistics: EACL 2026

Automated Customization of LLMs for Enterprise Code Repositories Using Semantic Scopes

基于语义范围的LLM企业代码仓库自动化定制

Ulrich Finkler, Irene Manotas, Wei Zhang, Geert Janssen, Octavian Popescu, Shyam Ramji

机构 * IBM Research Yorktown Heights New York, USA（IBM研究院扬斯敦高地新 York 美国） 纠错

专题命中 代码生成 ：repository(abstract)；分类 cs.SE、cs.AI

AI总结 本文提出基于语义范围的LLM企业代码仓库自动化定制方法，通过RAG和FT策略提升代码生成精度，提高开发者生产力。

Towards Green AI: Decoding the Energy of LLM Inference in Software Development

迈向绿色AI：解码LLM推理中的能耗在软件开发中

Lola Solovyeva, Fernando Castor

机构 * University of Twente（特文特大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 本研究分析了LLM推理能耗，发现prefill阶段影响解码能耗，通过抑制babbling行为可实现高达89%的能耗节省。

Joint Continual Learning of Local Language Models and Cloud Offloading Decisions with Budget Constraints

带有预算约束的本地语言模型与云卸载决策的联合持续学习

Evan Chen, Wenzhi Fang, Shiqiang Wang, Christopher Brinton

机构 * Elmore Family School of Electrical and Computer Engineering, Purdue University, West Lafayette, IN（电子与计算机工程学院，普渡大学） ； Department of Computer Science, University of Exeter, UK（计算机科学系，埃克塞特大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出DA-GRPO方法，通过联合学习本地语言模型和云卸载决策，有效解决持续学习中的预算约束问题，提升任务准确性并减少遗忘。

Beyond KL Divergence: Policy Optimization with Flexible Bregman Divergences for LLM Reasoning

超越KL散度：基于灵活Bregman散度的群体策略优化用于大语言模型推理

Rui Yuan, Mykola Khandoga, Vinay Kumar Sankarapu

机构 * Lexsi Labs（Lexsi实验室） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出GBMPO框架，通过灵活Bregman散度提升大语言模型在数学推理和代码生成任务中的性能。

On the Difficulty of Selecting Few-Shot Examples for Effective LLM-based Vulnerability Detection

在有效基于LLM的漏洞检测中选择少样本示例的难度

Md Abdul Hannan, Ronghao Ni, Chi Zhang, Limin Jia, Ravi Mangal, Corina S. Pasareanu

机构 * Colorado State University（科罗拉多州立大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.LG

AI总结 本文研究了在基于LLM的漏洞检测中选择少样本示例的两种标准，并发现不同编程语言对示例选择的响应不同。

Comments Workshop on LLM Assisted Security and Trust Exploration (LAST-X) 2026

HALT: Hallucination Assessment via Log-probs as Time series

HALT：通过log-prob作为时间序列进行幻觉评估

Ahmad Shapiro, Karan Taneja, Ashok Goel

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 HALT通过log-prob时间序列检测幻觉，比Lettuce更高效且兼容专有模型。

Free Draft-and-Verification: Toward Lossless Parallel Decoding for Diffusion Large Language Models

免费草稿与验证：迈向无损并行解码的扩散大语言模型

Shutong Wu, Jiawei Zhang

机构 * Department of Computer Sciences, University of Wisconsin--Madison, Madison, WI（计算机科学系，威斯康星大学麦迪逊分校，麦迪逊，WI） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 FreeDave是一种专为DLLMs设计的快速解码算法，通过无损并行解码实现高效推理，无需模型修改或额外模块，提升了推理速度而不影响性能。

Anchored Supervised Fine-Tuning

锚定监督微调

He Zhu, Junyou Su, Peng Lai, Ren Ma, Wenjia Zhang, Linyi Yang, Guanhua Chen

机构 * Southern University of Science and Technology（南方科技大学） ； Peking University（北京大学） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出锚定监督微调（ASFT），通过引入KL正则化解决动态微调（DFT）的稳定性问题，在数学推理、医学知识和代码生成等领域取得显著提升。

Understanding and Mitigating Errors of LLM-Generated RTL Code

理解并缓解LLM生成的RTL代码错误

Jiazheng Zhang, Cheng Liu, Long Cheng, Xiaowei Li, Huawei Li

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出基于LLM的框架，通过检索增强生成、规则检查、多模态转换和迭代仿真调试，显著提升了RTL代码生成的准确性。

Comments Accepted by IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems

From Gameplay Traces to Game Mechanics: Causal Induction with Large Language Models

从游戏行为追踪到游戏机制：利用大语言模型进行因果推理

Mohit Jiwatode, Alexander Dockhorn, Bodo Rosenhahn

机构 * Institute for Information Processing, Leibniz University Hannover, Germany（汉诺威莱布尼茨大学信息处理研究所） ； SDU Metaverse Lab, University of Southern Denmark, Denmark（丹麦南方大学元宇宙实验室） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出利用大语言模型进行因果推理，通过从游戏行为追踪中推断出视频游戏描述语言规则，以更准确地理解游戏机制。

Comments Submitted to ICPR 2026

DRIFT: Learning from Abundant User Dissatisfaction in Real-World Preference Learning

DRIFT：从现实世界偏好学习中学习大量用户不满

Yifan Wang, Bolian Li, Junlin Wu, Zhaoxuan Tan, Zheli Liu, Ruqi Zhang, Ananth Grama, Qingkai Zeng

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 DRIFT通过利用现实世界中的用户不满信号，提升大语言模型的偏好学习性能，实现更高的任务得分和胜率，优于现有方法。

LLaMEA-SAGE: Guiding Automated Algorithm Design with Structural Feedback from Explainable AI

LLaMEA-SAGE: 通过可解释AI的结构反馈引导自动算法设计

Niki van Stein, Anna V. Kononova, Lars Kotthoff, Thomas Bäck

机构 * LIACS, Leiden University（莱顿大学信息科学研究中心） ； University of St Andrews（圣安德鲁大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 LLaMEA-SAGE通过可解释AI的结构反馈引导自动算法设计，提升搜索效率和性能。

Comments 14 pages

Detecting and Correcting Hallucinations in LLM-Generated Code via Deterministic AST Analysis

通过确定性AST分析检测和纠正LLM生成的代码中的幻觉

Dipin Khati, Daniel Rodriguez-Cardenas, Paul Pantzer, Denys Poshyvanyk

机构 * William & Mary（威廉玛丽大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 本文提出通过确定性AST分析检测并纠正LLM生成代码中的知识冲突幻觉，实现高精度和召回率的自动修复。

Comments Accepted to FORGE 2026

daVinci-Dev: Agent-native Mid-training for Software Engineering

daVinci-Dev：面向软件工程的代理原生中训练

Ji Zeng, Dayuan Fu, Tiantian Mi, Yumin Zhuang, Yaxing Huang, Xuefeng Li, Lyumanshan Ye, Muhang Xie, Qishuo Hua, Zhen Huang, Mohan Jiang, Hanning Wang, Jifan Lin, Yang Xiao, Jie Sun, Yunze Wu, Pengfei Liu

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI

AI总结 daVinci-Dev通过代理原生数据合成和中训练方法，在软件工程中实现了更高效的代理能力，优于现有方法。

LLM-Generated Explanations Do Not Suffice for Ultra-Strong Machine Learning

LLM生成的解释不足以实现超强机器学习

Lun Ai, Johannes Langer, Ute Schmid, Stephen Muggleton

机构 * Department of Computing, Imperial College London（帝国理工学院计算系） 纠错

专题命中 代码生成 ：program synthesis(abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出LENS框架，通过神经符号方法生成逻辑程序解释，发现LLM生成的解释在人类学习中效果有限，需结合人类认知约束实现超强机器学习。

Text2Grad: Reinforcement Learning from Natural Language Feedback

Text2Grad：从自然语言反馈中强化学习

Hanyang Wang, Lu Wang, Chaoyun Zhang, Tianjun Mao, Si Qin, Qingwei Lin, Saravan Rajmohan, Dongmei Zhang

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI

AI总结 Text2Grad通过将自然语言反馈转化为跨度级梯度，提升语言模型的细粒度对齐和可解释性。

Comments The code for our method is available at https://github.com/microsoft/Text2Grad

Journal ref ICLR 2026