GenFormer: A Deep-Learning-Based Approach for Generating Multivariate Stochastic Processes
本文提出GenFormer，一种基于Transformer的深度学习随机生成器，用于生成时空多元随机过程，保持目标统计特性，并应用于佛罗里达风速模拟以计算超越概率。
2024-02-03 cs.LG stat.ML
Stochastic Variance Reduction for Deep Q-learning
Carnegie Mellon University（卡内基梅隆大学）；Shanghai Jiao Tong University（上海交通大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
深度强化学习的最新进展已经在各种现实世界的应用中实现了人类水平的性能。然而，目前的算法仍然遭受差的梯度估计与过多的方差，导致不稳定的训练和低的样本效率。在我们的论文中，我们提出了一个创新的优化策略，利用随机方差降低梯度（SVRG）技术。通过对Atari域的广泛实验，我们的方法在20个游戏中的18个上优于深度q学习基线。
2019-05-20 cs.LG stat.ML
Conditional deep surrogate models for stochastic, high-dimensional, and multi-fidelity systems
University of Pennsylvania（宾夕法尼亚大学）
我们提出了一种概率深度学习方法，可以为随机系统构建预测数据驱动的代理。利用隐式分布的变分推断的最新进展，我们提出了一个统计推断框架，该框架能够在成对的输入-输出观测上进行代理模型的端到端训练，这些观测可能是随机的，源于可变保真度的不同信息源，或者被复杂的噪声过程破坏。由此产生的代理可以容纳高维输入和输出，并能够返回具有量化不确定性的预测。我们的方法的有效性证明了通过一系列的规范研究，包括回归噪声数据，随机过程的多保真度建模，在高维动力系统中的不确定性传播。
2019-01-15 cs.LG stat.ML
Stochastic Gradient Flow Dynamics of Test Risk and its Exact Solution for Weak Features
Ecole Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）
本文研究了连续时间随机梯度流的测试风险，利用路径积分方法给出了小学习率下纯梯度流与随机梯度流测试风险差异的通用公式，并在弱特征模型中显式计算了随机项修正，解析结果与模拟吻合良好。
2024-06-10 cond-mat.dis-nn cs.LG stat.ML
Stochastic Variational Deep Kernel Learning
Cornell University（康奈尔大学）；CMU（卡内基梅隆大学）
深度核学习将核方法的非参数灵活性与深度学习架构的归纳偏差相结合。我们提出了一种新的深度内核学习模型和随机变分推断过程，该过程将深度内核学习方法推广到分类，多任务学习，加性协方差结构和随机梯度训练。具体来说，我们将加性基础内核应用于深度神经架构的输出特征子集，并通过高斯过程边缘似然目标联合学习基础内核和深度网络的参数。在这个框架内，我们推导出一个有效的形式的随机变分推断，利用本地内核插值，诱导点，和结构利用代数。我们在几个分类基准上显示了独立深度网络，SVM和最先进的可扩展高斯过程的性能改进，包括包含600万个训练点的航班延误数据集，CIFAR和ImageNet。
2016-11-02 cs.LG stat.ME stat.ML
Deep Latent Dirichlet Allocation with Topic-Layer-Adaptive Stochastic Gradient Riemannian MCMC
针对深度离散潜变量模型（LVMs）开发基于随机梯度的可扩展推理是具有挑战性的，这是由于不仅难以计算梯度，而且难以使步长适应不同的潜在因子和隐藏层。对于泊松伽马信念网络（PGBN），最近提出的深度离散LVM，我们推导出一种替代表示，被称为深度潜在狄利克雷分配（DLDA）。利用数据增广和边缘化技术，我们推导出一个块对角费舍尔信息矩阵和它的逆单形约束的全球模型参数的DLDA。利用费舍尔信息矩阵与随机梯度MCMC，我们提出了主题层自适应随机梯度黎曼（TLASGR）MCMC，共同学习单纯形约束的全局参数在所有层和主题，主题和层特定的学习率。在大数据集上展示了最先进的结果。
2017-06-06 cs.LG stat.CO stat.ML
Stochastic AUC Maximization with Deep Neural Networks
The University of Iowa（爱荷华大学）；SUNY at Albany（奥尔巴尼州立大学）
随机AUC最大化由于更好地适应不平衡数据分类而引起了越来越多的兴趣。然而，现有的工作仅限于随机AUC最大化与线性预测模型，这限制了其预测能力时，处理极其复杂的数据。在本文中，我们考虑随机AUC最大化问题与深度神经网络作为预测模型。基于AUC的替代损失的鞍点重构，该问题可以转换为{ \it非凸凹}最小-最大问题。本文的主要贡献是使随机AUC最大化对于深度神经网络和大数据更实用，同时具有理论见解。特别是，我们建议探索在深度学习中已被证明和观察到的Polyak-Projojasiewicz（PL）条件，这使我们能够开发具有更快收敛速度和更实用步长方案的新随机算法。在PL条件下，分析了AdaGrad算法的自适应收敛速度。我们的实验结果证明了所提出的算法的有效性。
2020-06-30 cs.LG math.OC stat.ML
Deep Generative Modeling with Backward Stochastic Differential Equations
Shanghai AI Laboratory（上海人工智能实验室）
本文提出新型深度生成模型BSDE-Gen，结合倒向随机微分方程与深度神经网络生成高维复杂数据，提供了理论框架、模型架构、MMD损失函数及实验结果。
2023-04-08 cs.LG math.PR stat.ML
A Backward SDE Method for Uncertainty Quantification in Deep Learning
Oak Ridge National Laboratory（橡树岭国家实验室）；Florida State University（佛罗里达州立大学）；Auburn University（奥本大学）；Jilin University（吉林大学）
本文提出了一种概率机器学习方法，通过随机最优控制问题来构造一类随机神经网络。在随机最大值原理框架下，提出了一种有效的随机梯度下降算法。随机神经网络的应用进行了数值实验，以验证我们的方法的有效性。
2021-04-04 cs.LG math.OC stat.ML
Stochastic Optimization for Deep CCA via Nonlinear Orthogonal Iterations
Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）；Johns Hopkins University（约翰斯·霍普金斯大学）
深度CCA是最近提出的对传统典型相关分析（CCA）的深度神经网络扩展，并且已经在多个领域中成功地用于多视图表示学习。然而，深度CCA目标的随机优化并不简单，因为它不会在训练样本上解耦。以前的深度CCA优化器要么是基于批处理的算法，要么是使用大型小批量的随机优化，这可能会占用很高的内存。在本文中，我们解决了随机优化的问题，深CCA与小minibatches，基于迭代解决方案的CCA目标，并表明，我们可以实现良好的性能，因为以前的优化，从而减轻内存需求。
2015-10-07 cs.LG
Langevin algorithms for Markovian Neural Networks and Deep Stochastic control
Sorbonne Université（索邦大学）
随机梯度下降朗之万动力学（SGLD）算法，它添加噪声到经典的梯度下降，是已知的，以改善神经网络的训练，在某些情况下，神经网络是非常深的。在本文中，我们研究了训练加速的可能性，通过梯度下降的数值分辨率的随机控制问题，其中控制参数化的神经网络。如果在许多离散化时间应用控制，则解决随机控制问题减少到最小化非常深的神经网络的损失。我们数值计算表明，朗之万算法提高了训练的各种随机控制问题，如对冲和资源管理，并为不同的选择梯度下降方法。
2023-01-13 cs.LG math.OC q-fin.CP
Exact Recovery in the Hypergraph Stochastic Block Model: a Spectral Algorithm
University of Manitoba（曼尼托巴大学）；University of California, San Diego（加利福尼亚大学圣迭戈分校）
研究了具有相同大小的$k$块的超图随机块模型的精确恢复问题。更准确地说，我们考虑一个随机$d$ -均匀超图$H$与$n$顶点划分成$k$簇的大小$s = n / k$。如果$e$包含在单个簇内，则以概率$p$独立地添加超边$e$，否则以概率$q$添加超边$q$，其中$0 \leq q < p \leq 1$。我们提出了一种谱算法，它恢复集群的高概率，在$n, k, p, q$，和$d$的温和条件。该算法基于$H$的邻接矩阵，$H$是一个对称的$n \times n$矩阵，其第$(u, v)$元是包含$u$和$v$的超边的个数.据我们所知，我们的算法是第一个保证准确的恢复时，集群的数量$k=Θ(\sqrt{n})$。
2020-02-02 cs.DM cs.LG math.CO
Training of deep residual networks with stochastic MG/OPT
Euler Institute, Università della Svizzera Italiana（瑞士意大利语区大学欧拉研究所）
我们训练深残差网络的随机变量的非线性多重网格方法MG/OPT. To建立多级层次结构，我们使用动力系统的观点，具体到残差网络。我们报告了在深度残差网络上训练MNIST的显着速度提升和额外的鲁棒性。我们的数值实验还表明，多级训练可以用作修剪技术，因为许多辅助网络具有与原始网络相当的精度。
2021-08-09 cs.LG
A Robust Adaptive Stochastic Gradient Method for Deep Learning
Université de Montréal（蒙特利尔大学）；University of Oxford（牛津大学）
随机梯度算法是大规模优化问题的主要焦点，并在深度学习算法的最新进展中取得了重要成功。SGD的收敛依赖于学习率的仔细选择和梯度的随机估计中的噪声量。在本文中，我们提出了一种自适应学习率算法，它利用损失函数的随机曲率信息自动调整学习率。关于损失函数的逐单元曲率的信息由随机一阶梯度的局部统计量估计。我们进一步提出了一种新的方差减少技术，以加快收敛速度。在我们对深度神经网络的实验中，与流行的随机梯度算法相比，我们获得了更好的性能。
2017-03-02 cs.LG
Stochastic Gradient Descent Optimizes Over-parameterized Deep ReLU Networks
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
我们研究了使用梯度下降和随机梯度下降训练具有整流线性单元（ReLU）激活函数的深度神经网络的问题。特别是，我们研究了二进制分类问题，并表明对于一个广泛的损失函数族，在适当的随机权重初始化下，梯度下降和随机梯度下降都可以找到过度参数化的深度ReLU网络的训练损失的全局最小值，在对训练数据的温和假设下。我们证明的关键思想是高斯随机初始化，然后是（随机）梯度下降，产生一系列迭代，这些迭代停留在以初始权重为中心的小扰动区域内，其中深度ReLU网络的经验损失函数具有良好的局部曲率特性，确保（随机）梯度下降的全局收敛。我们的理论结果有助于理解深度学习的优化，并为研究训练现代深度神经网络的优化动力学铺平了道路。
2018-12-27 cs.AI cs.LG math.OC
StochasticNet: Forming Deep Neural Networks via Stochastic Connectivity
University of Waterloo（滑铁卢大学）；Aimetis Corp.（Aimetis公司）
深度神经网络是机器学习的一个分支，由于其在高度复杂的数据中表示和建模高级抽象的强大能力，它的流行度迅速上升。深度神经网络中一个已经成熟的探索领域是神经连接的形成。一项关于大鼠脑组织的关键研究发现，新皮层神经微回路中特定功能连接的突触形成可以令人惊讶地被建模和预测为随机形成。受这一有趣发现的启发，我们引入了StochasticNet的概念，其中深层神经网络通过神经元之间的随机连接形成。因此，通过允许神经元连接是随机的，任何类型的深度神经网络都可以形成为StochasticNet。在深度神经网络架构中，随机突触形成可以允许有效利用神经元来执行特定任务。为了评估这种深度神经网络架构的可行性，我们使用四种不同的图像数据集（CIFAR-10，MNIST，SVHN和STL-10）训练StochasticNet。实验结果表明，使用不到传统深度神经网络一半数量的神经连接的StochasticNet在CIFAR-10，MNIST和SVHN数据集上实现了相当的准确性并减少了过拟合。有趣的是，与传统的深度神经网络相比，神经连接数量不到一半的StochasticNet在STL-10数据集上实现了更高的准确性（与ConvNet相比，测试出错率相对提高了约6%）。最后，StochasticNets具有更快的运行速度，同时实现更好或类似的精度性能。
2015-11-10 cs.CV cs.LG cs.NE
Conjugate-gradient-based Adam for stochastic optimization and its application to deep learning
Meiji University（明治大学）
将Adam算法与非线性共轭梯度法相结合，提出了一种基于共轭梯度的Adam算法，并给出了收敛性分析。文本分类和图像分类的数值实验表明，与现有的自适应随机最优化算法相比，该算法能够在更少的时期内训练深度神经网络模型。
2020-03-03 cs.LG math.OC
Solving stochastic optimal control problem via stochastic maximum principle with deep learning method
Shandong University（山东大学）；Shandong University-Zhongtai Securities Institute for Financial Studies（山东大学-中泰证券金融研究院）
本文从随机最大值原理的角度出发，通过深度学习来解决高维随机最优控制问题。通过引入扩展的哈密顿系统，它本质上是一个具有极大条件的FBM，我们将原来的控制问题转化为一个新的问题。提出了三种算法来解决新的控制问题。不同算例的数值结果表明了所提算法的有效性，特别是在高维情况下。该方法的一个重要应用是计算次线性期望，它对应于一类完全非线性的偏微分方程。
2021-06-22 cs.LG math.OC
Stochastic Deep Learning in Memristive Networks
New Jersey Institute of Technology（新泽西理工学院）
我们研究了随机训练的深度神经网络（DNN）的性能，其突触权重是使用新兴的忆阻器件实现的，这些忆阻器件在其编程特性中表现出有限的动态范围、分辨率和可变性。我们表明，优化DNN学习效率的关键设备参数是其编程特性的可变性。具有这样的忆阻突触的DNN，即使具有低至$15$的动态范围并且仅具有$32$离散水平，当基于随机更新进行训练时，与浮点软件基线相比，遭受小于$3\%$的准确度损失。我们还研究了随机忆阻DNN在用作具有噪声破坏数据的推理引擎时的性能，并发现如果可以最小化设备可变性，则随机DNN的性能相对下降优于软件基线。因此，我们的研究为构建大型抗噪声深度学习系统的忆阻器件提供了一个新的优化角落。
2017-11-09 cs.AI cs.LG cs.NE
Deep Q-Network for Stochastic Process Environments
本文以 Flappy Bird 和股票交易环境为例，研究深度 Q 网络在信息缺失随机过程环境中的应用，评估不同网络结构并给出改进方向。
2023-08-07 cs.LG
Learning Deep Generative Models with Doubly Stochastic MCMC
Tsinghua University（清华大学）
我们提出了双随机梯度MCMC，一个简单而通用的方法（近似）贝叶斯推理的深度生成模型（DGMs）在一个崩溃的连续参数空间。该算法在每个MCMC采样步骤中随机抽取一小批数据样本来估计对数后验梯度，并通过神经自适应重要性采样器进一步估计隐变量上的难处理期望，其中建议分布由深度神经网络参数化并联合学习。我们证明了学习各种DGMs在广泛的任务，包括密度估计，数据生成和缺失数据填补的有效性。我们的方法优于许多最先进的竞争对手。
2016-03-07 cs.LG
Deep Learning Approximation for Stochastic Control Problems
Princeton University（普林斯顿大学）；Peking University（北京大学）；Beijing Institute of Big Data Research（北京大数据研究院）
许多现实世界中的随机控制问题都受到“维数灾难”的困扰。为了克服这一困难，我们开发了一种深度学习方法，该方法直接解决了基于蒙特卡洛采样的高维随机控制问题。我们近似的时间依赖控制前馈神经网络和堆叠这些网络一起通过模型动力学。控制问题的目标函数扮演着深层神经网络的损失函数的角色。我们使用最优交易和能源存储领域的例子来测试这种方法。我们的结果表明，这里提出的算法达到令人满意的精度，同时，可以处理相当高维的问题。
2016-11-02 cs.AI cs.LG cs.NE
Stochastic Backpropagation and Approximate Inference in Deep Generative Models
Google DeepMind（谷歌DeepMind）
我们将深度神经网络和近似贝叶斯推断的思想结合起来，导出了一类广义的深度定向生成模型，并赋予了一种新的可扩展推理和学习算法。我们的算法引入了一个识别模型来表示近似的后验分布，并作为一个随机编码器的数据。我们开发随机反向传播-通过随机变量反向传播的规则-并使用它来开发一种算法，该算法允许联合优化生成和识别模型的参数。我们证明了几个真实世界的数据集，该模型生成逼真的样本，提供准确的插补的缺失数据，是一个有用的工具，高维数据可视化。
2014-05-30 cs.AI cs.LG stat.CO
Exact Community Recovery in Correlated Stochastic Block Models
Northwestern University（西北大学）；Princeton University（普林斯顿大学）
我们考虑从多个相关网络中学习潜在社区结构的问题。研究了具有两个平衡社区的边相关随机块模型，重点研究了平均度与顶点数成对数关系的情形。我们的主要结果得出了精确的信息理论的阈值，使用多个相关图的确切社区恢复。该阈值捕获社区恢复和图匹配任务之间的相互作用。特别是，我们发现和表征的参数空间，其中精确的社区恢复是可能的，使用多个相关的图形，即使（1）这是信息理论上不可能使用一个单一的图形和（2）精确的图形匹配也是信息理论上不可能的。在这个制度中，我们开发了一种新的算法，仔细综合算法从社区恢复和图匹配文献。
2022-03-29 cs.IT cs.LG cs.SI
Exact Rank-Space KL Projection for Shared-Marginal Low-Rank Factors: Application to Doubly Stochastic Clustering
该研究提出共享边缘低秩因子的精确秩空间KL投影方法，将其应用于双随机图学习，结合稀疏拟合等技术实现高效聚类，取得良好性能。
2026-08-11 cs.LG math.OC
Correlated Stochastic Block Models: Exact Graph Matching with Applications to Recovering Communities
Princeton University（普林斯顿大学）
我们考虑从多个相关网络中学习潜在社区结构的任务。首先，我们研究了学习两个边相关随机块模型之间的潜在顶点对应关系的问题，重点是平均度是顶点数对数的制度。我们推导出精确恢复的精确信息理论阈值：在阈值之上存在一个估计器，该估计器输出的真实对应概率接近1，而在阈值之下，没有估计器可以恢复的真实对应概率远离0。作为我们的研究结果的应用程序，我们展示了如何可以准确地恢复潜在的社区使用多个相关的图形在参数制度，它是信息理论上不可能这样做，只使用一个单一的图形。
2021-07-14 cs.IT cs.LG cs.SI
ImitationFlow: Learning Deep Stable Stochastic Dynamic Systems by Normalizing Flows
TU Darmstadt（达姆施塔特工业大学）；University of Verona（维罗纳大学）；MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）
我们引入了ImitationFlow，这是一种新型的深度生成模型，允许学习复杂的全局稳定，随机，非线性动力学。我们的方法扩展了规范化流框架来学习稳定的随机微分方程。我们证明了一类随机微分方程的李雅普诺夫稳定性，我们提出了一个学习算法，学习他们从一组演示的轨迹。我们的模型扩展了可以用最先进的方法表示的稳定动力系统的集合，消除了演示中的高斯假设，并且在表示精度方面优于以前的算法。我们证明了我们的方法与标准数据集和一个真正的机器人实验的有效性。
2020-10-25 cs.LG cs.RO
Deep Reinforcement Learning for Online Control of Stochastic Partial Differential Equations
University of Toronto（多伦多大学）；Vector Institute（向量研究所）
在许多领域，如物理科学，生命科学和金融，控制方法被用来实现由微分方程控制的复杂动力系统的预期目标。在这项工作中，我们制定了控制随机偏微分方程（SPDE）的问题作为一个强化学习问题。提出了一种基于学习的分布式控制方法，利用深度确定性策略梯度方法对具有高维状态-动作空间的SPDE系统进行在线控制。我们测试了我们的方法控制随机Burgers方程的问题上的性能，描述了一个湍流流体流动在一个无限大的域。
2021-12-08 cs.LG math.DS
Stochastic Deep Model Reference Adaptive Control
University of Illinois, Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出了一种基于随机深度神经网络的模型参考自适应控制。在我们的工作“深度模型参考自适应控制“的基础上，我们通过使用贝叶斯深度神经网络（DNN）来表示不确定性和模型非线性来扩展控制器的能力。随机深度模型参考自适应控制使用基于Lyapunov的方法来实时调整DNN模型的输出层权重，同时使用数据驱动的监督学习算法来更新内层参数。这种异步网络更新确保有界性和保证跟踪性能与基于学习的实时反馈控制器。DNN学习的贝叶斯方法有助于避免过度拟合数据，并提供预测的置信区间。控制器的随机特性也确保了“激励的诱导持续性”，从而导致整个系统信号的收敛。
2021-08-04 cs.AI cs.LG cs.RO
Stochastic Block-ADMM for Training Deep Networks
Oregon State University（俄勒冈州立大学）；Applied Research Center, PCG, Tencent（腾讯PCG应用研究中心）
在本文中，我们提出了随机块ADMM作为训练深度神经网络的方法，在批量和在线设置。我们的方法通过将神经网络分成任意数量的块，并利用辅助变量连接这些块，同时使用随机梯度下降进行优化。这允许在传统的反向传播不适用的情况下训练具有不可微约束的深度网络。这一点的一个应用是监督特征分解，我们提出的DeepFacto将非负矩阵分解（NMF）层插入网络。由于反向传播只需要在每个块内执行，我们的方法消除了消失的梯度，并提供了并行化的潜力。我们证明了我们提出的方法的收敛性，并通过监督和弱监督设置中的实验证明了其能力。
2021-05-01 cs.AI cs.DC cs.LG
Exact Recovery in the General Hypergraph Stochastic Block Model
Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；National University of Singapore（新加坡国立大学）
本文研究了一般d-一致超图随机块模型（d-HSBM）的精确恢复的基本极限，其中n个节点被划分为k个相对大小为（p1，.，pk）。基数为d的每个节点子集都独立地生成为d阶超边，其概率取决于d个节点所属的地面实况社区。目标是根据观察到的超图准确地恢复k个隐藏社区。我们表明，存在一个尖锐的阈值，使确切的恢复是可以实现的阈值以上，不可能低于阈值（除了一个小政权的参数，将被精确指定）。这一阈值表示在一个数量，我们称之为社区之间的广义B-H分歧。我们的结果，这个一般模型恢复先前的结果为标准的SBM和d-HSBM两个对称社区作为特殊情况。在证明我们的可实现性结果的过程中，我们开发了一个满足阈值的多项式时间两阶段算法。第一阶段采用一定的超图谱聚类方法来获得社区的粗略估计，第二阶段通过局部细化步骤单独细化每个节点，以确保准确的恢复。
2022-09-09 cs.IT cs.LG eess.SP
Deep Learning for Continuous-Time Stochastic Control with Jumps
ETH Zurich（苏黎世联邦理工学院）；LIDAM-ISBA UCLouvain（列日大学LIDAM-ISBA）
本文提出了一种基于深度学习的连续时间随机控制方法，通过训练两个神经网络来解决具有跳跃的随机控制问题，并展示了其在复杂高维任务中的有效性。
2026-01-15 cs.LG cs.SY eess.SY
