An Algebraic View of the Expressivity of Recurrent Language Models
循环语言模型表达能力的代数视角
AI总结 本文通过代数统一框架分析循环神经网络在不同算术模型下的表达能力，将形式语言识别问题归结为语法幺半群是否划分特定圈积的代数问题。
Comments 28 pages, 2 figures, to be published at ICML 2026
期刊&会议
ICML
International Conference on Machine Learning · 会议 · Machine Learning
Bit-Exact AI Inference Verification Without Performance Tradeoffs
无性能权衡的位精确AI推理验证
机构 * Naci Cankaya（纳西·卡纳亚）
AI总结 针对GPU浮点运算非确定性导致AI工作负载验证困难的问题，提出通过软件仿真实现位精确重计算，在不牺牲性能的前提下实现可审计的推理验证。
Comments Best paper award, ICML 2026 TAIGR workshop. Code can be found at https://github.com/NaciCankaya/hardware_rounding_error_predictor
Scale When Needed: Adaptive Neuron-level Mixed Precision Quantization Aware Training
按需扩展：自适应神经元级混合精度量化感知训练
机构 * University of California, Berkeley（加州大学伯克利分校） ； DeepMind（深度思维） ； University of Cambridge（剑桥大学）
AI总结 提出神经元级混合精度量化感知训练（NMP-QAT），通过可微代理和直通估计器让每个神经元独立学习离散精度，实现按需扩展位宽，在MLP和表格基础模型上取得更优的压缩-精度权衡。
Comments Accepted at ICML - GlobalSouthML workshop, 2026
Measurement-Consistent Langevin Corrector for Stabilizing Latent Diffusion Inverse Problem Solvers
用于稳定潜在扩散逆问题求解器的测量一致朗之万校正器
机构 * Sookmyung Women's University（成均馆女子大学）
AI总结 针对潜在扩散模型逆问题求解器的不稳定性，提出测量一致朗之万校正器（MCLC），通过测量一致的朗之万更新缩小求解器与稳定反向扩散之间的差距，实现稳定可靠的潜在空间求解。
Comments ICML 2026
More Capable, Less Cooperative? When LLMs Fail At Zero-Cost Collaboration
能力越强，合作越少？当LLM在零成本协作中失败时
AI总结 研究LLM在多智能体系统中零成本协作的失败原因，通过构建去战略复杂性的环境，发现能力更强的模型（如o3）反而合作更差，并区分了能力失败与主动信息隐瞒，提出针对性干预措施。
Comments Accepted to the ICML 2026 main conference
LoRA-DA: Data-Aware Initialization for Low-Rank Adaptation via Asymptotic Analysis
LoRA-DA：基于渐近分析的低秩自适应数据感知初始化
机构 * University of Science and Technology of China（中国科学技术大学）
AI总结 提出LoRA-DA，通过渐近分析优化低秩自适应初始化，结合Fisher梯度与Fisher信息最小化参数偏差，提升微调准确率与收敛稳定性。
Comments Published at ICML 2026
CountsDiff: A Diffusion Model on the Natural Numbers for Generation and Imputation of Count-Based Data
CountsDiff: 一种用于计数数据生成和插补的自然数扩散模型
机构 * Princeton University（普林斯顿大学） ； Stanford University（斯坦福大学） ； University of California, Berkeley（加州大学伯克利分校）
AI总结 提出CountsDiff扩散框架，通过生存概率调度和显式损失加权简化Blackout扩散，引入连续时间训练、无分类器引导和逆动态，在自然图像和单细胞RNA-seq插补任务中匹配或超越现有方法。
Comments 39 Pages, 11 figures. To appear in the 43rd International Conference on Machine Learning (ICML 2026)
Hard labels sampled from sparse targets mislead rotation invariant algorithms
从稀疏目标采样的硬标签误导旋转不变算法
机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Wisconsin, Madison（威斯康星大学麦迪逊分校）
AI总结 针对稀疏目标下的二分类问题，证明旋转不变算法（如逻辑损失梯度下降）的过风险下界为Ω((d-1)/n)，而通过重参数化u_i v_i的非旋转不变算法可实现O(s log d / n)的上界。
Journal ref ICML-2026
Extracting Recurring Vulnerabilities from Black-Box LLM-Generated Software
从黑盒LLM生成的软件中提取重复漏洞
机构 * Technion - Israel Institute of Technology（技术学院 - 以色列理工学院）
AI总结 提出特征-安全表（FSTab），通过黑盒攻击从前端特征预测后端漏洞，并量化模型跨程序、重述和领域的漏洞复现一致性，实验显示跨域攻击成功率高达94%。
Comments ICML 2026, Second Workshop on Agents in the Wild: Safety, Security, and Beyond (AIWILD)
RePo: Language Models with Context Re-Positioning
RePo：具有上下文重定位的语言模型
机构 * University of Maryland（马里兰大学）
AI总结 提出RePo机制，通过可微分模块重新分配token位置以减轻注意力层负担，在噪声上下文、结构化数据和长上下文任务上持续提升性能。
Comments Accepted to ICML 2026
Discovering Interpretable Algorithms by Decompiling Transformers to RASP
通过将Transformer反编译为RASP发现可解释算法
机构 * Saarland Informatics Campus, Saarland University（萨尔兰大学信息学院校区，萨尔兰大学） ； University of Oxford（牛津大学） ； Allen Institute for AI（人工智能研究所）
AI总结 提出一种将训练好的Transformer忠实重参数化为RASP程序，并通过因果干预发现小型充分子程序的方法，实验表明长度泛化的Transformer内部实现了简单可解释的RASP程序。
Comments 104 pages, 92 figures. Accepted for publication at ICML 2026
Measuring Agents in Production
生产环境中的智能体测量
机构 * University of California at Berkeley（加州大学伯克利分校） ； IBM Research（IBM研究院） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Stanford University（斯坦福大学）
AI总结 通过对86个已部署系统的调查和20个案例研究，发现生产环境中的LLM智能体主要采用简单可控的方法，可靠性是首要挑战，并依赖系统级设计和人工评估。
Comments Accepted to the 43rd International Conference on Machine Learning (ICML 2026) as Oral Presentation
VALUEFLOW: Toward Pluralistic and Steerable Value-based Alignment in Large Language Models
VALUEFLOW：迈向大语言模型中多元化和可引导的基于价值的对齐
机构 * Department of Electrical and Computer Engineering, Seoul National University（首尔国立大学电气与计算机工程系） ； Interdisciplinary Program in Artificial Intelligence, Seoul National University（首尔国立大学人工智能交叉学科项目）
AI总结 提出VALUEFLOW框架，通过分层价值嵌入、强度标注数据库和锚定评估器，实现大语言模型在价值强度上的可控对齐，解决现有方法在提取、评估和引导方面的不足。
Comments Accepted in ICML 2026 (Oral). Code available at https://github.com/AIDASLab/VALUEFLOW
Rethinking Genomic Modeling Through Optical Character Recognition
通过光学字符识别重新思考基因组建模
机构 * National University of Singapore（新加坡国立大学） ； University of Science and Technology of China（中国科学技术大学）
AI总结 提出OpticalDNA框架，将DNA渲染为视觉布局，利用视觉语言模型进行OCR式基因组理解，实现高保真压缩和长序列高效处理，在450k碱基序列上以近20倍更少有效token超越基线模型。
Comments Accepted by ICML 2026
Conflicting Biases at the Edge of Stability: Norm versus Sharpness Regularization
稳定性边缘的冲突偏差：范数与锐度正则化
机构 * Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） ； Prusa Research（普拉萨研究公司） ； Institute for Robotics and Mechatronics, DLR-German Aerospace Center（德国航空航天中心机器人与机电研究所）
AI总结 本文研究过参数化网络中梯度下降的隐式正则化，证明学习率在低范数与低锐度之间插值，且单一偏差不足以解释泛化，需考虑动态权衡。
Comments Accepted at ICML 2026
Calibrating Uncertainty for Zero-Shot Adversarial CLIP
校准零样本对抗性CLIP的不确定性
机构 * University of Science and Technology of China（中国科学技术大学）
AI总结 针对CLIP在零样本分类中对抗攻击脆弱且不确定性校准差的问题，提出基于狄利克雷分布重参数化的对抗微调目标，统一对齐语义结构与置信度，提升校准性和鲁棒性。
Comments ICML 2026
Enhancing Conformal Prediction via Class Similarity
通过类别相似性增强保形预测
机构 * Faculty of Engineering, Bar-Ilan University, Ramat Gan, Israel（巴伊兰大学工程学院，拉马特甘，以色列）
AI总结 提出利用类别相似性改进保形预测的方法，通过惩罚组外错误或利用嵌入信息，减少预测集大小并提升语义一致性。
Comments ICML 2026 (camera-ready). Code is available at: https://github.com/ariel361/CP_via_CS
SWE-IF: Aligning Code Evaluation with Human Preference
SWE-IF: 使代码评估与人类偏好对齐
机构 * Google DeepMind（谷歌DeepMind）
AI总结 提出SWE-IF基准，通过可验证指令分类法VeriCode评估代码指令遵循能力，发现指令遵循是区分LLM代码质量的关键，与功能正确性结合更能匹配人类偏好。
Comments ICML 2026
Scalable GANs with Transformers
可扩展的Transformer生成对抗网络
机构 * KAIST（韩国科学技术院）
AI总结 本文通过紧凑变分自编码器潜在空间和纯Transformer架构，研究了生成对抗网络的可扩展性，并提出了轻量级中间监督和宽度自适应学习率调整来解决缩放时的失败模式，在ImageNet-256上以40个epoch达到2.96的FID。
Comments ICML 2026
Finding the Minimal Parameter Budget for Implicit Reasoning: A Data Complexity Driven Scaling Law for Language Models
寻找隐式推理的最小参数预算：一种基于数据复杂度的语言模型缩放定律
机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Cambridge（剑桥大学） ； University of Washington（华盛顿大学） ； University of Toronto（多伦多大学） ； University of Tokyo（东京大学）
AI总结 本文通过控制合成环境中的预训练实验，发现语言模型隐式推理所需的最小参数预算与图搜索熵之间存在缩放定律，并确定了每参数最多可处理约0.008比特信息的容量上限。
Comments Accepted to ICML 2026
Learnable Kernel Density Estimation for Graphs and Its Application to Graph-Level Anomaly Detection
可学习图核密度估计及其在图级异常检测中的应用
机构 * University of Science and Technology of China（中国科学技术大学）
AI总结 提出LGKDE框架，通过图神经网络表示图分布并利用最大均值差异学习多尺度核密度估计，在理论保证下有效捕获结构模式和语义变化，在图异常检测任务中优于现有方法。
Comments Accepted in the Forty-Third International Conference on Machine Learning (ICML 2026), Main Track
MoDA: Modulation Adapter for Fine-Grained Visual Grounding in Instructional MLLMs
MoDA: 面向指令型多模态大语言模型的细粒度视觉定位的调制适配器
机构 * University of California, Berkeley（加州大学伯克利分校）
AI总结 提出MoDA调制适配器，通过指令引导的通道级乘法调制增强细粒度视觉定位，在12个基准上对三种MLLM架构取得一致提升，计算开销极小。
Comments Accepted at ICML 2026. Code is available at https://github.com/waybarrios/MoDA
