发表机构
New York University; University of Malta（纽约大学; 马耳他大学）
机构由 AI 辅助整理，请以论文原文为准。AI 中文总结
本研究提出进化语言模型 ELMER，通过微调 Qwen3-8B 并结合 oDPO 优化，实现自然语言策略搜索与编译，提升进化搜索效率，证明语言可作为可执行程序空间的可引导搜索表示。
AI 中文摘要
程序进化可衡量突变是否有益，但很少控制突变在行为空间中的移动距离。句法编辑规模是不可靠的替代指标：小的代码变更几乎可改变所有动作，而较大的重写却能保留相同的执行轨迹。我们提出一种进化语言模型，它在自然语言策略描述上搜索并编译类型化程序以执行。完全微调的 Qwen3-8B 模型学习三种任务条件操作：条件语义突变、自然语言到领域特定语言（GPTL）的编译、GPTL 到自然语言的翻译。该模型使用直接偏好优化（oDPO），以突变强度（低、中、高）作为条件输入进行微调。在 252 次固定预算的进化搜索中，oDPO 同时提升了行为校准和有限预算搜索效率。自然语言在保留的适应性上达到最高观测值。我们的分析表明，条件输入（突变强度）会系统性改变语义编辑构成，且在匹配的中小行为位移下，语言突变能保留更多父代适应性。这些结果证明，语言可作为可执行程序空间上可引导、基于执行的搜索表示。
英文摘要
Program evolution can measure whether a mutation helped, but it rarely controls how far the mutation moves in behavior space. Syntactic edit size is an unreliable proxy: a small code change can alter nearly every action, while a larger rewrite can preserve the same execution trace. We introduce an Evolutionary Language Model that searches over natural-language policy descriptions and compiles typed programs for execution. A fully fine-tuned Qwen3-8B model learns three task-conditioned operations: conditional semantic mutation, natural language to domain-specific language (GPTL) compilation, and GPTL to natural language translation. The model is fine-tuned with conditional input on the mutation strength (low, medium, high) using Direct Preference Optimization (oDPO). Across 252 fixed-budget evolutionary searches, oDPO improves both behavioral calibration and finite-budget search efficiency. Natural-language attains the highest observed held-out fitness. Our analysis shows that the condition input (mutation strength) systematically changes semantic edit composition and that language mutations preserve more parent fitness at matched small-to-moderate behavioral displacement. These results show that language can serve as a steerable, execution-grounded search representation over executable program space.
CommentsSubmitted to AAAI Conference 2026, 8 pages, 6 figures, 1 table
