Beltrami Flow and Neural Diffusion on Graphs
Twitter Inc.(Twitter公司);University of Oxford(牛津大学);Imperial College London(帝国理工学院)
我们提出了一类新的图神经网络的基础上离散Beltrami流,非欧扩散PDE。在我们的模型中,节点功能补充位置编码来自图形拓扑结构和共同发展的Beltrami流,同时产生连续的特征学习和拓扑结构的演变。由此产生的模型概括了许多流行的图神经网络,并在几个基准测试中取得了最先进的结果。
2021-10-18 cs.AI cs.LG stat.ML
Neural Diffusion Processes
University of Cambridge(剑桥大学);Secondmind(Secondmind公司);Google DeepMind(谷歌DeepMind)
提出 Neural Diffusion Processes(NDPs),利用去噪扩散和定制注意力对函数分布进行元学习,以逼近贝叶斯后验并支持回归、优化等下游任务。
2023-06-06 cs.LG stat.ML
Analyzing Neural Network-Based Generative Diffusion Models through Convex Optimization
Stanford University(斯坦福大学)
本研究通过将分数匹配和去噪分数匹配转化为凸优化,为基于两层神经网络的扩散模型建立了理论框架,证明了浅层网络训练可归结为单个凸程序,并在有限数据下精确刻画了预测分数函数与收敛性。
2024-05-22 cs.LG math.OC
SpecGrad: Diffusion Probabilistic Model based Neural Vocoder with Adaptive Noise Spectral Shaping
Google Research(谷歌研究院);Tokyo University of Agriculture and Technology(东京农工大学)
通过对扩散噪声分布进行自适应处理,改进了基于去噪扩散概率模型(DDPM)的神经声码器。在这项研究中,我们提出了SpecGrad,适应扩散噪声,使其随时间变化的频谱包络变得接近的条件对数梅尔频谱图。通过时变滤波的这种适应改善了声音质量,特别是在高频段中。它在时频域中进行处理,以保持与传统的基于DDPM的神经声码器几乎相同的计算成本。实验结果表明,SpecGrad在分析合成和语音增强两种情况下都比传统的基于DDPM的神经声码器产生更高保真的语音波形。音频演示可在wavegrad.github.io/specgrad/上获得。
2022-08-04 cs.LG cs.SD eess.AS
Neural Diffusion Models
University of Amsterdam(阿姆斯特丹大学);Constructor University(康斯特鲁克大学)
本文提出Neural Diffusion Models(NDMs),通过引入时变非线性变换推广传统扩散模型,利用变分下界优化并推导时间连续公式,在图像生成基准上提升了似然性能并生成高质量样本。
2024-06-01 cs.LG stat.ML
Approximation Theory of Laplacian-Based Neural Operators for Reaction-Diffusion System
Doshisha University, RIKEN AIP(大阪大学、RIKEN AIP);Tohoku University(东北大学);National Taiwan University(国立台湾大学)
本文研究了基于拉普拉斯基尔模型的神经算子在反应扩散系统中的近似理论,通过分析网络深度、宽度和谱秩建立误差界,证明了该架构能缓解参数复杂性诅咒。
2026-10-20 cs.LG stat.ML
Equivariant Hypergraph Diffusion Neural Operators
University of Texas at Austin(德克萨斯大学奥斯汀分校);University of Waterloo(滑铁卢大学);Purdue University(普渡大学);Georgia Tech(佐治亚理工学院)
超图神经网络(HNN)使用神经网络对超图进行编码,提供了一种有前途的方式来对数据中的高阶关系进行建模,并进一步解决建立在这种高阶关系上的相关预测任务。然而,高阶关系在实践中包含复杂的模式,往往是非常不规则的。因此,设计一个足以表达这些关系同时保持计算效率的HNN通常具有挑战性。受超图扩散算法的启发,本文提出了一种新的HNN架构,命名为ED-HNN,它可证明地表示任何连续等变超图扩散算子,可以建模广泛的高阶关系。将超图的星型展开与标准的消息传递神经网络相结合,可以有效地实现ED-HNN。ED-HNN在处理异嗜超图和构建深度模型方面进一步显示出巨大的优势。我们评估ED-HNN的节点分类在九个真实世界的超图数据集。ED-HNN在这九个数据集上的表现一致优于最佳基线,并且在其中的四个数据集上的预测精度达到2%以上的$\uparrow$。
2023-02-15 cs.LG cs.SI
Neural Network approximation power on homogeneous and heterogeneous reaction-diffusion equations
University of California-San Francisco(加州大学旧金山分校)
本文理论分析神经网络对一维和二维均匀及非均匀反应-扩散方程的逼近能力,证明两层网络逼近一维、三层网络逼近二维,并推广至椭圆和抛物方程。
2025-10-15 cs.LG
Convection-Diffusion Equation: A Theoretically Certified Framework for Neural Networks
Tsinghua University(清华大学);Yau mathematical sciences center(丘成桐数学科学中心)
本文将神经网络视为从基模型到复杂函数的映射,证明其可由对流-扩散方程表述,据此构建理论认证框架提供数学基础,并设计融入扩散机制的新型网络结构,经大量实验验证性能。
2024-03-23 cs.LG
Diffusion Convolutional Recurrent Neural Network: Data-Driven Traffic Forecasting
University of Southern California(南加州大学);California Institute of Technology(加州理工学院)
时空预测在神经科学、气候和交通领域有着广泛的应用。交通预测是这种学习任务的一个典型例子。这项任务具有挑战性,因为(1)对道路网络的复杂空间依赖性,(2)随着道路条件变化的非线性时间动态,以及(3)长期预测的固有困难。为了解决这些挑战,我们建议将交通流建模为有向图上的扩散过程,并引入扩散卷积循环神经网络(DCRNN),这是一种用于交通预测的深度学习框架,它将交通流的空间和时间依赖性结合起来。具体来说,DCRNN使用图上的双向随机游走来捕获空间依赖性,并且使用具有预定采样的编码器-解码器架构来捕获时间依赖性。我们在两个真实世界的大规模道路网络交通数据集上评估了该框架,并观察到比最先进的基线提高了12% - 15%。
2018-02-22 cs.LG stat.ML
Neural Flow Diffusion Models: Learnable Forward Process for Improved Diffusion Modelling
University of Amsterdam(阿姆斯特丹大学);Constructor University(Constructor大学)
本文提出 NFDM 框架,以可学习、非高斯的前向过程和无需模拟的端到端变分目标改进扩散模型,实现最先进似然并支持直线动力学与分布桥接学习。
2025-06-06 cs.CV cs.LG stat.ML
Nonlocal Neural Networks, Nonlocal Diffusion and Nonlocal Modeling
Columbia University(哥伦比亚大学);BCSRC & USTC(北京计算科学研究中心 & 中国科学技术大学);Tencent AI Lab(腾讯人工智能实验室)
非局部神经网络已经被提出并被证明在几个计算机视觉任务中是有效的,其中非局部操作可以直接捕获特征空间中的长程依赖关系。本文通过对训练好的网络的权矩阵进行谱分析,研究了非局部网络的扩散和阻尼效应的性质,并提出了一种新的非局部块的形式。新的块不仅学习非局部相互作用,而且具有稳定的动力学,从而允许更深的非局部结构。此外,我们解释我们的配方从一般的非局部建模的角度来看,我们建议的非局部网络和其他非局部模型,如非局部扩散过程和马尔可夫跳跃过程之间的连接。
2019-01-25 cs.CV cs.LG stat.ML
Diffusion-Convolutional Neural Networks
College of Information and Computer Science(信息与计算机科学学院);University of Massachusetts(马萨诸塞大学)
我们提出了扩散-卷积神经网络(DCNNs),一种新的模型的图形结构的数据。通过引入扩散卷积运算,我们展示了如何从图结构数据中学习基于扩散的表示,并将其用作节点分类的有效基础。DCNN有几个有吸引力的品质,包括在同构下不变的图形数据的潜在表示,以及可以表示为张量运算并在GPU上有效实现的多项式时间预测和学习。通过对真实结构化数据集的几个实验,我们证明了DCNN在关系节点分类任务中的性能优于概率关系模型和图上核方法。
2016-07-08 cs.LG
Graph Neural Convection-Diffusion with Heterophily
Nanyang Technological University(南洋理工大学);C3 AI
本文提出一种基于对流-扩散方程的图神经网络,同时建模同配性扩散与异配性对流,在异配图节点分类任务上取得有竞争力的性能。
2023-05-30 cs.LG cs.SI
On the Convergence of Locally Adaptive and Scalable Diffusion-Based Sampling Methods for Deep Bayesian Neural Network Posteriors
本文研究深度贝叶斯神经网络后验采样的局部自适应扩散方法,证明即使步长趋零且全批处理,这些方法仍可能采样到有偏分布,不收敛于正确后验。
2024-03-14 cs.LG stat.ML
Diffusion models as probabilistic neural operators for recovering unobserved states of dynamical systems
Aalto University(阿尔托大学)
本文提出将扩散模型用作偏微分方程的神经算子,通过条件生成解或恢复未观测状态,并在多个真实动力系统中优于其他神经算子,同时能处理部分可识别系统。
2024-12-15 cs.AI cs.LG
Sequential Neural Score Estimation: Likelihood-Free Inference with Conditional Score Based Diffusion Models
Lancaster University(兰开斯特大学);University of Bristol(布里斯托尔大学)
提出序贯神经后验分数估计(SNPSE)方法,利用条件分数扩散模型直接估计后验分数生成样本,通过序贯训练指导模拟以降低成本,在数值实验中表现优于或可比SNPE等现有方法。
2024-06-03 cs.LG stat.ML
Climate Modeling with Neural Diffusion Equations
Yonsei University(延世大学);Arizona State University(亚利桑那州立大学);Texas A&M University–Commerce(德克萨斯农工大学商业分校)
由于深度学习技术的显著发展,人们已经做出了一系列努力来构建基于深度学习的气候模型。鉴于他们大多利用递归神经网络和/或图神经网络,我们设计了一个新的气候模型的基础上的两个概念,神经常微分方程(NODE)和扩散方程。许多涉及粒子布朗运动的物理过程都可以用扩散方程来描述,因此,它被广泛用于气候模拟。另一方面,神经元常微分方程(NODE)是从数据中学习常微分方程的潜在控制方程。在我们提出的方法中,我们将它们结合到一个单一的框架中,并提出了一个概念,称为神经扩散方程(NDE)。我们的NDE配备了扩散方程和一个额外的神经网络来模拟固有的不确定性,可以学习一个适当的潜在的控制方程,最好地描述了给定的气候数据集。在我们对两个真实世界和一个合成数据集和11个基线的实验中,我们的方法始终优于现有的基线。
2021-11-11 cs.AI cs.LG
Generalization in Graph Neural Networks: Improved PAC-Bayesian Bounds on Graph Diffusion
Northeastern University(东北大学);Google(谷歌)
本文提出基于图神经网络特征扩散矩阵最大奇异值的新泛化界,利用Hessian分析噪声稳定性,在真实图上数值更小且渐近匹配下界,并验证了优化噪声稳定性能提升微调预训练模型的测试性能。
2023-10-23 cs.LG cs.SI math.ST
Enhancing path-integral approximation for non-linear diffusion with neural network
Curtin School of Elec Eng, Comp and Math Sci (EECMS)(科廷大学电气、计算机与数学科学学院)
针对Black-Karasinski模型下的固定收益定价问题,提出结合神经网络的路径积分解法增强方案,在长区间多校准场景下实现更优定价效果。
2024-04-13 cs.LG q-fin.CP
Diffusion-based Perceptual Neural Video Compression with Temporal Diffusion Information Reuse
School of Remote Sensing and Information Engineering, Wuhan University(武汉大学遥感信息工程学院)
本文提出DiffVC,一种基于扩散模型的感知神经视频压缩框架,通过时域扩散信息复用和量化参数提示机制,实现高效且鲁棒的变码率压缩,并在感知指标和视觉质量上表现优异。
2025-01-23 cs.CV cs.LG eess.IV
On the Robustness of Graph Neural Diffusion to Topology Perturbations
Nanyang Technological University(南洋理工大学);C3 AI(C3 AI公司)
本研究探索图神经PDEs对拓扑扰动的鲁棒性,证明其天然更稳健,并提出通用框架以定义新型鲁棒GNNs,在基准数据集上性能与最先进水平相当。
2023-05-11 cs.LG
Sparse Diffusion-Convolutional Neural Networks
UMass Amherst CICS(马萨诸塞大学阿默斯特分校信息与计算机科学学院);Raytheon BBN Technologies(雷神BBN技术公司);U.S. Army Research Lab(美国陆军研究实验室)
扩散-卷积神经网络的预测能力和整体计算效率使其成为节点分类任务的有吸引力的选择。然而,一个朴素的基于密度张量的DCNN实现导致$\mathcal{O}(N^2)$内存复杂性,这是禁止大型图。在本文中,我们介绍了一种简单的输入图阈值化方法,该方法可证明将DCNN的内存需求降低到O(N)(即输入中的节点数是线性的),而不会显著影响预测性能。
2017-10-26 cs.LG
Graph Neural Diffusion Networks for Semi-supervised Learning
Tongji University(同济大学);University of California, Santa Barbara(加州大学圣巴巴拉分校)
针对GCN在稀疏标记图上的欠平滑与过平滑问题,提出融合神经网络与传统图扩散的GND-Nets,单层利用顶点局部全局邻域信息,实验验证其优于现有方法。
2025-02-21 cs.AI cs.LG
Multi-task Neural Diffusion Processes
本文提出多任务神经扩散过程,通过引入任务编码器实现任务感知的条件回归和小样本适应,提升预测精度和不确定性校准。
2026-10-16 cs.AI cs.LG stat.AP
Equivariant Neural Diffusion for Molecule Generation
Technical University of Denmark(丹麦技术大学);University of Amsterdam(阿姆斯特丹大学)
本研究提出对欧几里得变换等变的三维分子生成扩散模型END,其核心创新是可学习的等变前向过程,实验显示该模型在标准基准的无条件与条件生成任务上性能具备竞争力。
2025-06-12 cs.LG
An efficient Wasserstein-distance approach for reconstructing jump-diffusion processes using parameterized neural networks
Courant Institute of Mathematical Sciences, New York University(纽约大学柯朗数学科学研究所);Department of Computational Medicine, UCLA(加州大学洛杉矶分校计算医学系);Nuffield Department of Medicine, University of Oxford(牛津大学纳菲尔德医学院);Department of Mathematics, UCLA(加州大学洛杉矶分校数学系)
本文提出一种基于时间解耦平方W2-距离和参数化神经网络的高效方法,用于从数据中重构未知的多维跳扩散过程,并证明利用漂移函数先验信息可提升性能。
2024-06-03 cs.LG math.PR stat.AP
Integrating Neural Operators with Diffusion Models Improves Spectral Representation in Turbulence Modeling
Brown University(布朗大学)
该研究集成神经算子与扩散模型以解决湍流替代建模中神经算子的谱局限性,通过以神经算子为条件增强湍流结构分辨率,在多数据集上验证并显著提升能谱预测准确性,稳定长期预测并建立新范式。
2025-02-13 cs.AI cs.LG physics.flu-dyn
Graph Neural Aggregation-diffusion with Metastability
Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);University of Chinese Academy of Sciences(中国科学院大学);School of Statistics and Data Science, Nankai University(南开大学统计与数据科学学院)
本文提出GRADE模型,利用图聚合-扩散方程中的非线性扩散与聚合平衡产生亚稳态节点表示,以缓解GNN过度平滑问题,并在多个基准上取得竞争性能。
2024-03-29 cs.AI cs.LG
Neural Diffusion Intensity Models for Point Process Data
Edwardson School of Industrial Engineering, Purdue University(普渡大学工业工程系);Department of Statistics, Purdue University(普渡大学统计系)
神经扩散强度模型通过神经SDE驱动的变分框架,实现对点过程数据的高效后验推断与强度动态恢复。
2026-02-27 cs.LG math.PR stat.ML
Neural MJD: Neural Non-Stationary Merton Jump Diffusion for Time Series Prediction
Neural MJD通过引入非平稳梅顿跳跃扩散模型,结合随机微分方程和时间非齐次过程,提升时间序列预测的准确性和泛化能力。
2026-02-09 cs.LG
Nonlinear Sheaf Diffusion in Graph Neural Networks
Department of Information Engineering and Computer Science(信息工程与计算机科学系)
本文研究在 Sheaf Neural Networks 中引入非线性 Laplacian 的效果,通过真实与合成数据集的实验分析,验证其对扩散、信号传播及图任务性能的实际价值。
2024-03-01 cs.LG
TENDE: Transfer Entropy Neural Diffusion Estimation
KAUST(沙特阿拉伯国王科技大学);EURECOM(法国EURECOM)
TENDE通过条件互信息估计转移熵,解决传统方法在维度灾难、分布假设和数据规模上的局限,实现灵活可扩展的估计。
2026-04-09 cs.LG
Stationary Diffusion State Neural Estimation for Multiview Clustering
School of Information Science and Engineering, Lanzhou University(兰州大学信息科学与工程学院)
虽然许多基于图的聚类方法试图在其目标中对稳态扩散状态进行建模,但它们的性能限制于使用预定义的图。我们认为,稳态扩散状态的估计可以通过梯度下降在神经网络。我们专门设计了稳态扩散状态神经估计(SDSNE),以利用多视图结构图信息进行协同监督学习。我们探索如何设计一个专门用于无监督多视图学习的图神经网络,并通过一个共享的自我注意模块将多个图集成为一个统一的共识图。视图共享的自我注意模块利用图结构来学习视图一致的全局图。同时,SDSNE采用一种带结构信息的协同监督策略来监督模型的学习,而不是大多数无监督学习图神经网络中的自动编码器。作为损失函数的协同监督策略引导SDSNE达到稳态。在损失和自我注意模块的帮助下,我们学习获得一个图,其中每个连接组件中的节点都以相同的权重完全连接。多个多视图数据集上的实验证明了SDSNE在六个聚类评价指标方面的有效性。
2021-12-02 cs.LG
Hierarchical Diffusion Models for Singing Voice Neural Vocoder
Sony Group Corporation(索尼集团公司)
深度生成模型的最新进展提高了语音域中神经声码器的质量。然而,由于音高、响度和发音方面的音乐表现形式多种多样,产生高质量的歌声仍然具有挑战性。在这项工作中,我们提出了一个层次扩散模型歌唱声神经声码器。所提出的方法由多个扩散模型在不同的采样率操作;在最低采样率的模型专注于生成准确的低频分量,如音调,和其他模型逐步生成波形在较高的采样率的基础上,在较低的采样率和声学特征。实验结果表明,所提出的方法产生高质量的歌唱声音多个歌手,性能优于国家的最先进的神经声码器具有类似的计算成本范围。
2022-10-18 cs.LG cs.SD eess.AS
An Active Diffusion Neural Network for Graphs
针对被动扩散类图神经网络的过平滑与全局信息捕获不足问题,提出基于多外部信息源与闭式解的主动扩散图神经网络ADGNN,在多任务上实现了准确率与效率的显著提升。
2025-10-22 cs.AI cs.LG
DiffusionNAG: Predictor-guided Neural Architecture Generation with Diffusion Models
KAIST(韩国科学技术院)
本文提出基于扩散模型的条件神经架构生成框架 DiffusionNAG,将架构视为有向图并利用参数化预测器引导采样,在可迁移 NAS 和 BO-based NAS 场景中实现高效生成,速度提升达 35 倍且性能更优。
2024-03-24 cs.LG
VDW-GNNs: Vector diffusion wavelets for geometric graph neural networks
Program in Computing, Boise State University, Boise, Idaho, USA(博伊西州立大学计算项目);Department of Mathematics, UCLA, Los Angeles, CA, USA(洛杉矶大学数学系);Department of Computer Science, Yale University, New Haven, CT, USA(耶鲁大学计算机科学系);Department of Genetics, Yale University, New Haven, CT, USA(耶鲁大学遗传学系);Department of Mathematics, Boise State University, Boise, Idaho, USA(博伊西州立大学数学系)
提出向量扩散小波(VDW),受向量扩散映射算法启发,可有效融入几何图神经网络(VDW-GNNs),在合成点云和真实风场、神经活动数据上表现良好,并证明其具有框架理论和旋转平移对称性。
2026-06-23 cs.LG eess.SP stat.ML
Diffusion-Augmented Neural Processes
University of Cambridge(剑桥大学);Vector Institute(向量研究所)
针对神经过程现有方法部署受限的问题,提出基于扩散的替代方法,通过对噪声数据集条件处理解决局限并超越最先进性能。
2023-11-16 cs.LG
Polynomial Neural Sheaf Diffusion: A Spectral Filtering Approach on Cellular Sheaves
Department of Computer Science and Technology, University of Cambridge(计算机科学与技术系,剑桥大学);Department of Computer, Control and Management Engineering, Sapienza University(计算机、控制与管理工程系,萨皮恩扎大学)
本文提出PolyNSD方法,通过多项式运算和谱过滤提升神经束扩散的稳定性与效率,实现无需大维度stalk的高性能表现。
2026-05-14 cs.AI cs.ET cs.LG
Training Recurrent Neural Networks by Diffusion
Massachusetts Institute of Technology(麻省理工学院)
这项工作提出了一种训练循环神经网络的新算法(尽管思想也适用于前馈网络)。该算法是从一个理论在非凸优化有关的扩散方程。在这项工作中作出的贡献是双重的。首先,我们展示了深度学习中使用的一些看似不相关的机制,如智能初始化、退火学习率、分层预训练和噪声注入(如dropout和SGD中所做的),是如何从这个框架中自然自动地产生的,而无需手动将它们添加到算法中。其次,我们提出了一些初步的结果比较所提出的方法对SGD。结果表明,新算法可以在更少的时期内达到与SGD相似的泛化精度水平。
2016-02-04 cs.LG
Generative Neural Operators through Diffusion Last Layer
Korea University, Seoul, South Korea(韩国大学,首尔,韩国);Carnegie Mellon University, Pittsburgh, USA(卡内基梅隆大学,匹兹堡,美国)
提出扩散最后一层(DLL)作为神经算子的概率输出头,通过Karhunen-Loéve展开和系数空间的条件扩散模型实现高效分布建模,在随机PDE基准和确定性长时滚动任务中提升了分布保真度和不确定性估计。
2026-05-25 cs.LG physics.comp-ph
Diffusion Mechanism in Residual Neural Network: Theory and Applications
Tsinghua University(清华大学);Yale University(耶鲁大学);Peking University(北京大学);Yau Mathematical Sciences Center, Tsinghua University(清华大学丘成桐数学科学中心);Yanqi Lake Beijing Institute of Mathematical Sciences and Applications(北京雁栖湖应用数学研究院)
受对流-扩散常微分方程启发,提出将扩散内在引入架构的扩散残差网络Diff-ResNet,证明其扩散模块可提升类间可分离性并减小类内距离,经多类任务实验验证有效。
2023-04-29 cs.LG
HyperDiffusion: Generating Implicit Neural Fields with Weight-Space Diffusion
Technical University of Munich(慕尼黑工业大学);Apple(苹果公司)
隐式神经场,通常由多层感知器(MLP)编码,该多层感知器(MLP)从坐标(例如,xyz)到信号(例如,符号距离),已经显示出作为高保真和紧凑表示的显著前景。然而,缺乏规则和显式的网格结构也使得直接在隐式神经场上应用生成建模以合成新数据具有挑战性。为此,我们提出了超扩散,一种新的方法,无条件生成的隐式神经场建模。HyperDiffusion直接对MLP权重进行操作,并生成由合成MLP参数编码的新神经隐式字段。具体而言,首先优化MLP的集合以忠实地表示各个数据样本。随后,在该MLP权重空间中训练扩散过程,以对神经隐场的底层分布进行建模。HyperDiffusion支持在一个统一的框架内,通过隐式、紧凑且高保真的方式,对3D形状和4D网格动画中的复杂信号进行扩散建模。
2023-03-29 cs.CV cs.LG
Light-Weight Diffusion Multiplier and Uncertainty Quantification for Fourier Neural Operators
PhysicsX London, UK(PhysicsX伦敦)
针对傅里叶神经算子过度参数化且缺乏不确定性量化的问题,提出基于扩散乘子的轻量参数化DINOZAUR,以单时间参数替代稠密张量乘子,并借助贝叶斯先验实现校准的不确定性估计,在多个PDE基准上性能优异。
2025-10-17 cs.LG
Proximal Diffusion Neural Sampler
Georgia Institute of Technology(佐治亚理工学院)
本文提出了一种名为近端扩散神经采样器(PDNS)的框架,通过在路径测度空间上应用近端点方法,解决神经采样器在训练过程中遇到的多模式目标分布和模式崩溃问题,通过分阶段的简单子问题逐步逼近目标分布,促进模式的全面探索。
2026-05-19 cs.AI cs.LG stat.ML
Neural Network Diffusion
National University of Singapore(新加坡国立大学);University of Pennsylvania(宾夕法尼亚大学);University of California, Berkeley(加州大学伯克利分校);Meta FAIR
本文提出利用自编码器与扩散模型生成高性能神经网络参数,在多种架构和数据集上以极低成本取得与训练模型相当或更优的性能,并验证生成模型并非简单记忆训练模型。
2024-12-30 cs.CV cs.LG
Multi-conditioned Graph Diffusion for Neural Architecture Search
Friedrich-Alexander-Universität Erlangen-Nürnberg(弗里德里希-亚历山大-埃尔兰根-纽伦堡大学);Universität Ulm(乌尔姆大学)
提出基于图扩散的神经架构搜索方法,利用离散条件图扩散过程生成高性能架构,并通过多条件无分类器引导施加准确率和延迟约束,仅需单次可微训练,在六个基准上快速生成架构并在ImageNet上验证泛化性。
2024-03-22 cs.CV cs.LG
Graph Neural Diffusion via Generalized Opinion Dynamics
School of Computing Australian National University Canberra Australia;School of Computing Australian National University
本文提出广义观点动力学神经框架GODNF,将多种观点动力学模型统一为可训练的异质扩散机制,以解决现有扩散GNN在适应性、深度和理论理解上的不足,并在节点分类和影响力估计任务上验证了其优越性。
2025-08-15 cs.AI cs.LG
Enhanced Graph Neural Networks using K-Hop Gaussian Diffusion
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);Southern University of Science and Technology(南方科技大学)
提出K跳高斯扩散核作为预处理模块,通过多跳扩散和高斯权重平衡局部与全局信息,在噪声或结构复杂图中优于传统消息传递和现有扩散方法。
2026-06-18 cs.LG
Drift Estimation for Diffusion Processes Using Neural Networks Based on Discretely Observed Independent Paths
本文提出基于神经网络的非参数估计方法,用于估计扩散过程中在紧致域上的漂移函数,通过高频离散观测获得收敛率,并在高维情况下展示出优于B-样条方法的性能。
2026-03-31 cs.LG math.ST stat.ML
Diffusion-Guided Renormalization of Neural Systems via Tensor Networks
Department of Electrical, Computer, and Systems Engineering(电气、计算机与系统工程系)
本文提出扩散引导的重整化框架,利用张量网络和社区发现算法,对耗散神经系统的多尺度动力学进行粗粒化建模,弥合微观与介观尺度,实现有效非平衡动力学学习与粗到细控制。
2025-10-07 cond-mat.stat-mech cs.LG q-bio.NC
Conditional diffusions for amortized neural posterior estimation
University of Texas at Austin(德克萨斯大学奥斯汀分校);McCombs School of Business, University of Texas at Austin(德克萨斯大学奥斯汀分校麦库姆斯商学院)
本文提出用条件扩散模型结合高容量摘要网络实现摊销神经后验估计,在多种基准问题上相比归一化流方法展现出更好的稳定性、准确性和训练效率。
2025-03-13 cs.AI cs.LG stat.AP
BEND: Bagging Deep Learning Training Based on Efficient Neural Network Diffusion
Xi’an Jiaotong University(西安交通大学);University of Alberta(阿尔伯塔大学)
BEND算法首次利用神经网络扩散模型高效生成多样基分类器,结合Bagging集成方法,在受限数据集上以更低成本持续提升模型准确率,为深度学习训练与推理提供新范式。
2024-03-23 cs.AI cs.LG