Residual Context Diffusion Language Models
残差上下文扩散语言模型
机构 * University of California, Berkeley(加州大学伯克利分校)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出残差上下文扩散(RCD)模块,通过回收丢弃令牌的上下文残差提高扩散语言模型的解码效率,在长/短CoT任务上以极少额外计算提升准确率4-11个百分点。
视觉与机器人
图像生成、文生图、图像编辑、扩散模型和可控生成。
残差上下文扩散语言模型
机构 * University of California, Berkeley(加州大学伯克利分校)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出残差上下文扩散(RCD)模块,通过回收丢弃令牌的上下文残差提高扩散语言模型的解码效率,在长/短CoT任务上以极少额外计算提升准确率4-11个百分点。
关于具有奇异扩散的细胞运动随机相场模型
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 研究一类描述移动边界问题的随机相场模型,通过加权L^2空间中的概率弱解处理相场零水平集处的奇异性,建立全局存在性。
Comments 39 pages
Journal ref Nonlinear Analysis, Vol. 274, January 2027, 114238
随机特征去噪分数匹配:从精确学习曲线看扩散模型
机构 * École Polytechnique Fédérale de Lausanne (EPFL)(联邦理工学院洛桑校区)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 通过随机特征神经网络参数化分数函数,推导去噪分数匹配的渐近精确误差,揭示模型复杂度、数据量和噪声样本数对扩散模型泛化与记忆的影响。
Comments Published at AISTATS 2026
MAD: 流形吸引扩散
机构 * Department of Mathematics, University of Vienna(维也纳大学数学系) ; MaLGa Center, Department of Mathematics, University of Genoa(热那亚大学数学系MaLGa中心)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出流形吸引扩散方法,利用流形假设通过扩展得分函数在推理阶段去除噪声,生成无噪声样本,在玩具问题、合成数据和真实数据上验证有效性。
Comments 21 pages, 13 figures
Journal ref Forty-third International Conference on Machine Learning, 2026
一种新型的随机粒子-场算法用于反应-扩散-对流癌症侵袭模型
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 本文提出了一种新的数值框架,用于求解三维癌症生长的特定生物反应-扩散-对流系统,采用可变质量的粒子来模拟细胞密度,并通过粒子-网格算法实现粒子与空间网格的高效交互,同时利用谱方法快速求解空间扩散,证明了粒子质量的变化率在有限时间内有界,并且算法在空间网格上无条件保持正性,数值实验验证了理论收敛速率。
Comments 32 pages, 5 figures
构建未来:通过校准草稿图实现扩散LLM推测解码
机构 * University of Waterloo(多伦多大学)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出Spiffy算法,利用校准的草稿图结构实现扩散LLM的推测解码,在保持输出分布的同时加速推理,最高减少8.6倍模型推理次数并加速6.3倍令牌生成速率。
Comments Original version uploaded on Sep 22, 2025. (v2): Extended Table 2 with additional analysis and referenced it in Sec 5.2. (v3): Added note to Sec 4.2 and Appendix A.2 specifying conditions for losslessness. (v4): Updated with the version accepted to ICML 2026 workshops
具有反射和控制的交互随机系统的扩散近似
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 研究一类具有反射和控制的交互随机系统的扩散近似,通过扩散缩放建立到Ornstein-Uhlenbeck型反射随机微分方程组的分布收敛,并用数值例子展示在人群动力学和神经群体动力学中的应用。
Comments 21 pages, 2 figures
灰质弥散MRI中交换与限制的贝叶斯洞察
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 本研究利用贝叶斯推断框架μGUIDE评估NEXI和SANDIX两种灰质模型的参数估计准确性、精度和简并性,发现交换时间和胞体半径等参数在高噪声下存在高不确定性和偏差,强调不确定性量化对提高模型可重复性的重要性。
基于扩散的多模态大语言模型的视觉冗余控制并行解码
机构 * Zhejiang University(浙江大学) ; ZJUI-UIUC Institute(ZJUI-UIUC研究院)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 针对扩散型多模态大语言模型并行解码中视觉冗余问题,提出视觉冗余指数(VRI)和无需训练的视觉冗余控制解码(VRCD)方法,通过令牌到图像的注意力优先选择视觉互补位置,在多个基准上提升准确率。
Comments 18 pages, 5 figures, preprint. Code is available at https://github.com/infiniteYuanyl/VRCD
扩散模型中学习数据统计的理论:从容易到困难
机构 * University of California, Berkeley(加州大学伯克利分校)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 本文研究了扩散模型在学习数据统计时的分布简单性偏差,揭示了学习 pairwise 统计和 higher-order 统计所需的样本复杂度差异,并引入了扩散信息指数这一不变量。
Journal ref ICML 2026
种群动力学中反应-扩散系统的对称性与精确解
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 研究种群动力学中两个三次反应-扩散方程系统的所有李对称和Q-条件对称,构造包含Lambert函数的新精确解,并给出寻找非线性演化系统Q-条件对称的通用算法。
Comments 22 pages
Journal ref Quaestiones Mathematicae, (28 May 2026)
反向流匹配:基于扩散与流策略的在线强化学习统一框架
机构 * Zeyang Li(李泽阳) ; Sunbochen Tang(唐顺波晨) ; Navid Azizan(阿齐兹安纳维)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 针对在线强化学习中扩散与流策略缺乏目标样本的问题,提出反向流匹配框架,通过后验均值估计和Langevin Stein算子构造控制变量,统一了噪声期望与梯度期望两类方法,并扩展到流策略,提升训练效率与稳定性。
Comments ICML 2026 (Spotlight); Code: https://github.com/azizanlab/ReverseFlowMatching
面向多用户延迟约束调度的离线扩散策略
机构 * Institute for Interdisciplinary Information Sciences (IIIS), Tsinghua University(交叉信息学院(IIIS),清华大学)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出基于离线强化学习的SOCD算法,利用扩散策略和批评网络指导,从离线数据中学习高效调度策略,避免在线交互,在部分可观测和大规模环境中表现优异。
具有广义扩散和逻辑源的Keller-Segel方程的有界弱解:基于非平衡最优输运分裂格式
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 针对具有广义扩散和逻辑源的抛物-椭圆型Keller-Segel方程,在齐次Neumann边界条件下,通过非平衡最优输运框架构造了全局有界弱解,并量化了趋化敏感性与降解参数及初始密度界的关系。
Comments 29 pages. Revised version with corrections. To appear in Nonlinear Analysis
通过扩散模型提升离线多智能体强化学习的泛化能力与数据效率
机构 * Institute for Interdisciplinary Information Sciences(交叉信息学院) ; Tsinghua University(清华大学) ; Department of Electronic and Computer Engineering(电子与计算机工程系) ; Hong Kong University of Science and Technology(香港科学与技术大学)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出扩散离线多智能体模型(DOM2),利用扩散模型增强策略表达力和多样性,结合轨迹数据重加权,在离线MARL中显著提升性能、泛化能力和数据效率。
从扩散MRI实验估计空间平滑的纤维取向分布
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出最近邻自适应回归模型(NARM),通过加权局部似然估计和空间邻域嵌套实现纤维取向分布(FOD)的空间自适应估计,引入体素级重缩放和数据驱动停止规则防止过平滑,并基于配置感知策略选择相似性平滑参数,在模拟和人类连接组项目数据中提高了估计准确性和可重复性。
层次扩散策略中的在线自训练协同适应
机构 * ISIR, Sorbonne Université, CNRS(ISIR,索邦大学,国家科学研究中心)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出ORCHID自训练框架,通过环境反馈过滤轨迹并蒸馏回规划器和控制器,实现层次扩散策略的在线稳定改进,在CALVIN基准上轻量模型超越纯离线方法。
Comments Accepted at ICML 2026 Workshop on Decision-Making from Offline Datasets to Online Adaptation (DEMO)
盲去噪扩散模型与维度的祝福
机构 * Flatiron Institute, Simons Foundation(Flatiron研究院,Simons基金会) ; Foundations of Data Science, Yale University(数据科学基础,耶鲁大学) ; Department of Statistics and Data Science, Yale University(统计与数据科学系,耶鲁大学) ; Ctr. for Neural Science & Courant Institute, New York University(神经科学中心及Courant学院,纽约大学)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出盲去噪扩散模型(BDDM),通过不向神经网络传递噪声幅度来简化设计,并在数据内在维度低于环境维度的假设下证明其正确性,实验显示自适应方案的优势。
Comments 39 pages, 13 figures; Accepted to ICML 2025 FoGen workshop
基于模型扩散采样的离线决策预测控制
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出MPDiffuser框架,通过组合扩散规划器与动力学扩散模型,在采样中交替更新以生成符合任务目标且动力学可行的轨迹,并利用轻量级排序模块选择最优轨迹,在D4RL和DSRL基准及四足机器人上验证了有效性。
Whisfusion: 基于掩码扩散的并行ASR解码
机构 * Seoul National University(首尔国立大学) ; Soongsil University(顺天大学) ; NVIDIA Corporation(英伟达公司)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出Whisfusion,在冻结的Whisper音频嵌入上训练专用掩码扩散解码器,通过并行扩散解码实现非自回归ASR,在多种语言基准上超越Whisper-large-v3,速度提升4-5倍。
Comments 16 pages, 3 figures
STaR-Quant:扩散大语言模型的状态-时间一致训练后量化
机构 * School of Artificial Intelligence, Beijing Normal University, Beijing, China(北京师范大学人工智能学院) ; Department of Computer Science, National University of Singapore, Singapore(新加坡国立大学计算机科学系) ; Centre for Frontier AI Research, Agency for Science, Technology and Research (A*STAR), Singapore(科技研究局前沿人工智能研究中心)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 针对扩散大语言模型低比特量化中的状态相关激活差异和时间误差累积问题,提出STaR-Quant框架,通过状态引导激活变换和时间注意力补偿实现高效量化。
两态随机游走中的反常扩散分解
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 通过反常扩散分解,揭示两态随机游走(TSRW)中约瑟夫、诺亚和摩西效应的共存,并证明与CTRW相的随机切换是诺亚和摩西效应出现的根源。
Comments 9 pages, 11 figures
从去噪到决策:面向无线网络的扩散模型赋能深度强化学习综述
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 本文综述了扩散模型与深度强化学习结合的方法,通过捕捉无线资源管理中的复杂多模态动作结构,提升决策质量,并系统总结了其在移动边缘计算、无人机辅助、车联网、AIGC驱动系统、无线资源分配、物理层安全及机器人/无人机规划等领域的应用。
Comments 22 pages, 7 figures, Author list corrected
漂移和强度不确定下跳扩散系统的鲁棒遍历控制
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 针对同时存在连续波动和罕见冲击的跳扩散系统,考虑漂移和跳跃强度不确定性,提出一种鲁棒遍历奇异控制方法,通过熵惩罚扭曲处理模型模糊性,并证明最优策略由反射屏障表征。
语言生成作为最优控制:潜在控制空间中的闭环扩散
机构 * University of Science and Technology of China(中国科学技术大学)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 本文将语言生成重新表述为随机最优控制问题,通过统一理论视角分析自回归和扩散模型,解释其局限性,并提出基于流匹配的闭环控制器实现高效文本生成。
通过扩散强迫实现统一且稳健的数据同化:ForcingDAS
机构 * University of Michigan(密歇根大学) ; University of California, Berkeley(加州大学伯克利分校) ; Stanford University(斯坦福大学) ; Massachusetts Institute of Technology(麻省理工学院) ; University of Texas at Austin(德克萨斯大学奥斯汀分校)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 本文提出ForcingDAS,一种基于扩散强迫的统一数据同化框架,能够捕捉长时序依赖并减少误差积累,同时在推理时无需重新训练即可实现滤波到平滑的全谱应用。
灵活性陷阱:重新思考扩散语言模型中任意顺序的价值
机构 * LeapLab, Tsinghua University(清华大学Leap实验室) ; NLPLab, Tsinghua University(清华大学自然语言处理实验室) ; Tsinghua University(清华大学) ; Alibaba Group(阿里巴巴集团) ; BNRist, Tsinghua University(清华大学北京研究院)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 本文发现,尽管扩散语言模型(dLLMs)允许任意生成顺序,但这种灵活性可能限制其推理能力,通过采用标准的Group Relative Policy Optimization(GRPO)方法,即JustGRPO,在保持并行解码能力的同时提升了推理性能。
Comments Code and pre-trained models: https://github.com/LeapLabTHU/JustGRPO
Robot-DIFT: 用于接触丰富机器人操作的对应敏感扩散特征
机构 * TU Darmstadt(图宾根大学) ; KIT(卡尔斯鲁厄理工学院) ; FZI(弗劳恩霍夫研究所) ; Hessian.AI(黑森人工智能公司) ; Robotics Institute Germany(德国机器人研究所) ; Honda Research Institute Europe GmbH(本田欧洲研究院)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出Robot-DIFT,通过流形蒸馏将扩散模型转化为确定性学生网络,结合空间-语义特征金字塔网络,为接触敏感任务提供实时对应敏感特征,在多个基准上超越现有方法。
FADTI: 基于傅里叶和注意力驱动的多变量时间序列插补扩散模型
机构 * Anonymous(匿名)
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 提出FADTI扩散框架,通过可学习傅里叶偏置投影模块注入频域归纳偏置,结合自注意力与门控卷积进行时序建模,在多个基准上优于现有方法,尤其在高缺失率下表现突出。
Comments This work has been submitted to the IEEE for possible publication. 10 pages, 7 figures
时间平均漂移近似在漂移扩散模型推断中是不一致的
专题命中 扩散模型 :diffusion(title,abstract)
AI总结 本文证明在漂移扩散模型中使用时间平均漂移近似(TADA)进行参数推断会导致不一致估计,并通过注意DDM数值示例展示其导致注意效应系统性误估和错误科学结论。
Comments 37 pages. Includes updates for the first revision