代码大模型 / AI 编程

Probabilistic Programs of Thought

思维概率程序

Poorva Garg, Renato Lui Geh, Daniel Israel, Todd Millstein, Kyle Richardson, Guy Van den Broeck

机构 * University of California Los Angeles（加州大学洛杉矶分校） ； Allen Institute for AI（Allen人工智能研究所） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.PL

AI总结 本文提出思维概率程序框架，通过利用生成程序的分布，减少GPU计算开销，提升代码生成和数学推理任务的效率。

Comments 26 pages

VeriGraphi: A Multi-Agent Framework of Hierarchical RTL Generation for Large Hardware Designs

VeriGraphi：一种用于大规模硬件设计的分层RTL生成多智能体框架

Sazzadul Islam, Tasnim Tabassum, Hao Zheng

机构 * Dept. of Computer Science \& Eng. University of South Florida Tampa, Florida, United States 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG、cs.PL

AI总结 VeriGraphi通过构建基于规范的图谱，解决LLM在生成分层RTL时的结构失真问题，实现可靠生成并保持功能正确性。

Comments 9 pages, 2 figures, Case studies, v2

AdaExplore: Failure-Driven Adaptation and Diversity-Preserving Search for Efficient Kernel Generation

AdaExplore: 基于失败的适应与多样性保持搜索用于高效内核生成

Weihua Du, Jingming Zhuo, Yixin Dong, Andre Wang He, Weiwei Sun, Zeyu Zheng, Manupa Karunaratne, Ivan Fox, Tim Dettmers, Tianqi Chen, Yiming Yang, Sean Welleck

机构 * Carnegie Mellon University（卡内基梅隆大学） ； University of Washington（华盛顿大学） ； Arm Ltd（Arm有限公司） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 AdaExplore通过积累执行反馈实现自我改进，通过失败驱动适应和多样性保持搜索提升内核生成的正确性和优化性能，无需额外微调或外部知识。

Comments Preliminary work. The implementation is available at https://github.com/StigLidu/AdaExplore

"CS 1.5": An Experience Report on Integrating CS1 and Discrete Structures for the AI Era

CS 1.5：人工智能时代整合计算机科学基础与离散结构的教学实践报告

Ildar Akhmetov, Juancho Buchanan

专题命中 代码生成 ：code generation(abstract)；repository(abstract)

AI总结 本文探讨了在人工智能时代整合计算机科学基础与离散结构的教学方法，通过设计融合课程提升理论与实践能力，强调AI作为协作工具，并提出教学改革与实践建议。

A Domain-Specific Language for LLM-Driven Trigger Generation in Multimodal Data Collection

面向LLM驱动触发生成的领域特定语言

Philipp Reis, Philipp Rigoll, Martin Zehetner, Jacqueline Henle, Stefan Otten, Eric Sax

机构 * FZI Research Center for Information Technology（FZI信息与技术研究中心） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.LG、cs.PL

AI总结 本文提出一种基于领域特定语言的意图驱动数据收集框架，通过自然语言交互与形式化规范相结合，实现多模态传感器数据的选择性采集，提升生成一致性与执行效率。

Comments Version submitted to the IEEE International Conference on Intelligent Transportation Systems (ITSC 2026)

Beyond Output Correctness: Benchmarking and Evaluating Large Language Model Reasoning in Coding Tasks

超越输出正确性：评估大型语言模型在编码任务中的推理能力

Yuangang Li, Justin Tian Jin Chen, Ethan Yu, David Hong, Iftekhar Ahmed

机构 * University of California, Irvine（加州大学尔湾分校） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 本文提出CodeRQ-Bench，首个评估LLM在生成、摘要和分类等编码任务中推理质量的基准，通过分析现有评估器的1069个不匹配案例，提出VERA评估器，实验表明其在四个数据集上均优于基线，提升AUCROC和AUPRC最高达0.26和0.21。

Data Mixing Agent: Learning to Re-weight Domains for Continual Pre-training

数据混合代理：学习重新加权领域以实现持续预训练

Kailai Yang, Xiao Liu, Lei Ji, Hao Li, Xiao Liang, Zhiwei Liu, Yeyun Gong, Peng Cheng, Mao Yang

机构 * The University of Manchester（曼彻斯特大学） ； Microsoft Research（微软研究院） ； Imperial College London（伦敦帝国学院） ； University of California, Los Angeles（加利福尼亚大学洛杉矶分校） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出数据混合代理，通过强化学习学习重新加权领域，实现持续预训练中的平衡性能，优于现有基线方法，并在未见过的领域中表现良好。

Comments Accepted by the ACL 2026 main conference

Are Sparse Autoencoders Useful for Java Function Bug Detection?

稀疏自编码器是否有助于Java函数Bug检测？

Rui Melo, Claudia Mamede, Andre Catarino, Rui Abreu, Henrique Lopes Cardoso

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 本文探讨了稀疏自编码器在Java函数Bug检测中的有效性，通过GPT-2 Small和Gemma 2B的表示进行评估，发现SAE衍生特征在无需微调的情况下可达到89%的F1分数，优于传统基线模型。

Comments I'm working on a completely new paper with different models and datasets and authors. I believe it to be a more robust contribution. Since the authors, title and hypothesis are different, I believe it to be a better approach to remove this preprint

FLeX: Fourier-based Low-rank EXpansion for multilingual transfer

FLeX：基于傅里叶的低秩扩展用于多语言迁移

Gaurav Narasimhan

机构 * Stanford University（斯坦福大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.AI、cs.LG、cs.PL

AI总结 本文研究了通过低秩适应和优化器改进提升Python到Java等语言的跨语言迁移效果，发现低秩适应和傅里叶正则化能显著提升迁移性能。

Comments 19 pages, 25 figures, Stanford CS224N Custom Project

Automating Database-Native Function Code Synthesis with LLMs

利用大型语言模型自动合成数据库原生函数代码

Wei Zhou, Xuanhe Zhou, Qikang He, Guoliang Li, Bingsheng He, Quanqing Xu, Fan Wu

机构 * Shanghai Jiao Tong University（上海交通大学） ； Tsinghua University（清华大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.CL、cs.AI

AI总结 本文提出DBCooker系统，通过多模块协同解决数据库原生函数合成难题，实现更高精度的自动代码生成，实验显示在SQLite、PostgreSQL和DuckDB上准确率提升34.55%。

Comments Please visit our homepage at: https://code4db.github.io/hi-opencook/. The code is available at: https://github.com/weAIDB/OpenCook

LLMON: An LLM-native Markup Language to Leverage Structure and Semantics at the LLM Interface

LLMON：一种面向大语言模型的标记语言，用于在大语言模型接口中利用结构和语义

Michael Hind, Basel Shbita, Bo Wu, Farhan Ahmed, Chad DeLuca, Nathan Fulton, David Cox, Dan Gutfreund

机构 * IBM Research（IBM研究院） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.PL

AI总结 LLMON通过引入一种面向大语言模型的标记语言，使文本的结构和语义元数据能自然地传递给大语言模型，从而提升模型的准确性、安全性和稳定性。

Comments 28 pages

CausalARC: Abstract Reasoning with Causal World Models

CausalARC：基于因果世界模型的抽象推理

Jacqueline Maasch, John Kalantari, Kia Khezeli

专题命中 代码生成 ：program synthesis(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 CausalARC通过因果世界模型进行低数据和分布外推理，结合原则性数据增强提供少量示例反馈，用于评估语言模型在抽象推理、反事实推理、程序合成和因果发现中的表现。

Comments Peer-reviewed workshop paper

Journal ref 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Workshop: Bridging Language, Agent, and World Models (LAW)

Towards a Neural Debugger for Python

迈向Python的神经调试器

Maximilian Beck, Jonas Gehring, Jannik Kossen, Gabriel Synnaeve

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 本文提出神经调试器，通过模拟传统调试器实现交互式代码执行控制，提升神经模型在代码执行预测与逆向推理中的能力。

Comments 22 pages

Reasoning Efficiently Through Adaptive Chain-of-Thought Compression: A Self-Optimizing Framework

通过自适应链式推理压缩实现高效推理：一个自优化框架

Kerui Huang, Shuhan Liu, Xing Hu, Tongtong Xu, Lingfeng Bao, Xin Xia

机构 * The State Key Laboratory of Blockchain and Data Security, Zhejiang University（区块链与数据安全国家重点实验室，浙江大学） ； State Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室，南京大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.CL、cs.AI

AI总结 SEER通过自适应压缩链式推理，提升LLM在软件工程和数学任务中的效率与鲁棒性。

SAHOO: Safeguarded Alignment for High-Order Optimization Objectives in Recursive Self-Improvement

SAHOO：递归自我改进中高阶优化目标的安全保障

Subramanyam Sahoo, Aman Chadha, Vinija Jain, Divya Chaudhary

机构 * MARS 4.0 Fellowship, Cambridge AI Safety Hub(CAISH), University of Cambridge（剑桥大学） ； AWS Generative AI Innovation Center, Amazon Web Services, USA（亚马逊网络服务） ； Google, USA（谷歌） ； Stanford University（斯坦福大学） ； Northeastern University, Seattle, WA, USA（东北大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 SAHOO通过三种保障措施实现递归自我改进中高阶优化目标的安全保障，显著提升代码生成和推理质量，同时保持约束和事实性。

Comments Published at ICLR 2026 Workshop on AI with Recursive Self-Improvement. 20 pages, 5 figures

Assessing the Impact of Code Changes on the Fault Localizability of Large Language Models

评估代码更改对大型语言模型故障定位性的影响

Sabaat Haroon, Ahmad Faraz Khan, Ahmad Humayun, Waris Gill, Abdul Haddi Amjad, Ali R. Butt, Mohammad Taha Khan, Muhammad Ali Gulzar

机构 * Carnegie Mellon University, USA（卡内基梅隆大学，美国） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 本文通过端到端评估框架评估LLM在故障定位中的鲁棒性，发现SPMs导致78%的LLM失败于之前定位的故障，表明LLM推理依赖于语法而非语义。

Comments This paper is currently Under Review. It consists of 12 pages, 11 Figures, and 5 Tables

DiaBlo: Diagonal Blocks Are Sufficient For Finetuning

DiaBlo: 对角块足以用于微调

Selcuk Gurses, Aozhong Zhang, Yanxia Deng, Xun Dong, Xin Li, Naigang Wang, Penghang Yin, Zi Yang

机构 * University at Albany, SUNY（纽约州立大学阿尔巴尼分校） ； IBM T. J. Watson Research Center（IBM 汤普逊·杰·沃森研究中心） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 DiaBlo是一种仅更新模型权重矩阵对角块的参数高效微调方法，通过消除低秩矩阵乘积需求，实现稳定收敛和高效训练。

Comments Accepted by ICLR 2026

Inference-Time Safety For Code LLMs Via Retrieval-Augmented Revision

通过检索增强的修订实现代码LLM的推理时安全性

Manisha Mukherjee, Vincent J. Hellendoorn

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 通过检索增强的修订机制提升代码LLM的推理时安全性，提高生成代码的安全性并减少漏洞。

Comments Accepted at the ICLR 2026 Workshop on Principled Design for Trustworthy AI: Interpretability, Robustness, and Safety Across Modalities

Training Large Language Models To Reason In Parallel With Global Forking Tokens

训练大型语言模型以并行推理与全局分叉标记

Sheng Jia, Xiao Wang, Shiva Prasad Kasiviswanathan

机构 * University of Toronto（多伦多大学） ； Amazon（亚马逊） ； Vector Institute（向量研究所） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出SSFT和GFPO方法，通过集合基于的损失和双射匹配，提升大型语言模型在并行推理中的多样性和准确性，从而在数学推理和代码生成任务中取得优于传统SFT的性能。

Comments Accepted at ICLR 2026

Journal ref The Fourteenth International Conference on Learning Representations (ICLR 2026), https://openreview.net/forum?id=xBQvvkg4Wc

InnoGym: Benchmarking the Innovation Potential of AI Agents

InnoGym：评估AI智能体创新潜力的基准测试

Jintian Zhang, Kewei Xu, Jingsheng Zheng, Zhuoyun Yu, Yuqi Zhu, Yujie Luo, Lanning Wei, Shuofei Qiao, Lun Du, Da Zheng, Shumin Deng, Huajun Chen, Ningyu Zhang

机构 * Zhejiang University（浙江大学） ； Ant Group（蚂蚁集团） ； National University of Singapore（新加坡国立大学） ； Zhejiang University - Ant Group Joint Laboratory of Knowledge Graph（知识图谱联合实验室） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 InnoGym通过引入性能提升和新颖性两个指标，首次系统评估AI智能体的创新潜力，揭示了创造力与有效性的平衡问题。

Comments ICLR 2026

Learning beyond Teacher: Generalized On-Policy Distillation with Reward Extrapolation

超越教师的学习：基于奖励外推的通用在线蒸馏

Wenkai Yang, Weijie Liu, Ruobing Xie, Kai Yang, Saiyong Yang, Yankai Lin

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） ； LLM Department, Tencent（腾讯人工智能实验室） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出通用在线蒸馏框架，通过奖励外推和灵活参考模型提升学生性能，改进蒸馏效果并超越教师表现。

Comments v2, update results under stronger teachers with more RL training steps

RLSF: Fine-tuning LLMs via Symbolic Feedback

通过符号反馈进行LLM微调：RLSF

Piyush Jha, Prithwish Jana, Pranavkrishna Suresh, Arnav Arora, Vijay Ganesh

机构 * Georgia Institute of Technology, USA（佐治亚理工学院） 纠错

专题命中 代码生成 ：program synthesis(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 RLSF通过符号反馈微调LLM，利用符号推理工具提供精细反馈，提升领域特定任务的性能，使小模型超越大模型。

Journal ref ECAI 2025, Frontiers in Artificial Intelligence and Applications, Vol. 413, pp. 1687-1694, 2025

A Problem-Oriented Perspective and Anchor Verification for Code Optimization

面向问题的视角与锚点验证用于代码优化

Tong Ye, Tengfei Ma, Xuhong Zhang, Hang Yu, Jianwei Yin, Wenhai Wang

机构 * Zhejiang University（浙江大学） ； Stony Brook University（石溪大学） ； AntGroup（蚂蚁集团） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.PL

AI总结 本文提出面向问题的视角与锚点验证框架，用于提升代码优化的正确性和效率，减少优化过程中的性能损耗。

Comments ICLR 2026

CodePDE: An Inference Framework for LLM-driven PDE Solver Generation

CodePDE：基于LLM的PDE求解器生成推理框架

Shanda Li, Tanya Marwah, Junhong Shen, Weiwei Sun, Andrej Risteski, Yiming Yang, Ameet Talwalkar

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Flatiron Institute（Flatiron研究院） ； Polymathic AI（多学科人工智能） ； Datadog 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 CodePDE通过大语言模型生成PDE求解器，展示了LLM在复杂数学问题中的强大能力及潜在应用价值。

Comments TMLR. Code available at https://github.com/LithiumDA/CodePDE

Analyzing and Improving Chain-of-Thought Monitorability Through Information Theory

通过信息论分析和改进链式思维可监控性

Usman Anwar, Tim Bakker, Dana Kianfar, Cristina Pinneri, Christos Louizos

机构 * University of Cambridge（剑桥大学） ； Qualcomm AI Research（高通人工智能研究） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文通过信息论分析，提出两种方法改进链式思维监控器的可监控性，以提高监控准确性并防止奖励黑客问题。

Comments First two authors contributed equally

A Model-Driven Engineering Approach to AI-Powered Healthcare Platforms

基于模型驱动工程的AI赋能医疗平台方法

Mira Raheem, Amal Elgammal, Michael Papazoglou, Bernd Krämer, Neamat El-Tazi

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 本文提出基于模型驱动工程的医疗AI框架，通过医学互操作性语言和联邦学习实现数据隐私保护与高预测性能。

Comments Disclaimer: This manuscript is currently under review at * MDPI Informatics*

Journal ref Informatics 2026

LLM-Powered Fully Automated Chaos Engineering: Towards Enabling Anyone to Build Resilient Software Systems at Low Cost

基于大语言模型的完全自动化混沌工程：实现任何人以低成本构建容错软件系统

Daisuke Kikuta, Hiroki Ikeuchi, Kengo Tajiri

机构 * NTT, Inc., Japan（日本NTT公司） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.CL、cs.AI

AI总结 本文提出ChaosEater系统，利用大语言模型自动化混沌工程周期，使任何人能低成本构建容错软件系统。

Comments Accepted at ASE 2025 NIER Track. The code is available at https://github.com/ntt-dkiku/chaos-eater

Journal ref 2025 40th IEEE/ACM International Conference on Automated Software Engineering (ASE)

On LLMs' Internal Representation of Code Correctness

关于LLMs内部对代码正确性的表示

Francisco Ribeiro, Claudio Spiess, Prem Devanbu, Sarah Nadi

机构 * New York University Abu Dhabi（纽约大学阿布扎比分校） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.SE、cs.AI、cs.LG

AI总结 本文研究了LLMs内部对代码正确性的表示，通过对比隐藏状态识别正确性表示，并展示其在提升代码生成质量与可靠性方面的贡献。

Comments Accepted for ICSE'26

ReCode: Unify Plan and Action for Universal Granularity Control

ReCode：统一计划与行动以实现通用粒度控制

Zhaoyang Yu, Jiayi Zhang, Huixue Su, Yufan Zhao, Yifan Wu, Mingyi Deng, Jinyu Xiang, Yizhang Lin, Lingxiao Tang, Yuyu Luo, Bang Liu, Chenglin Wu

机构 * DeepWisdom ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Renmin University of China（中国人民大学） ； Zhejiang University（浙江大学） ； Université de Montréal & Mila（蒙特利尔大学及Mila） 纠错

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 ReCode通过递归代码生成统一规划与行动，实现通用粒度控制，提升智能体在不同决策粒度上的灵活性和效率。

Attention Is All You Need for KV Cache in Diffusion LLMs

注意力是扩散大语言模型中KV缓存的所有需求

Quan Nguyen-Tri, Mukul Ranjan, Zhiqiang Shen

专题命中 代码生成 ：code generation(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出Elastic-Cache方法，通过适应性缓存更新提升扩散LLM的解码效率和生成质量。

Comments Code at: https://github.com/VILA-Lab/Elastic-Cache