Deep Tempering
Université de Montréal(蒙特利尔大学)
受限玻尔兹曼机(RBM)是深度学习的基本构建块之一。RBM的近似最大似然训练通常需要从这些模型中采样。在许多训练场景中,计算效率高的吉布斯采样程序由于混合不佳而受到损害。在这项工作中,我们提出了一种新的方法,从玻尔兹曼机,演示了一种计算效率高的方式来促进混合采样。我们的方法利用了深度生成模型(如深度信念网络(DBN))的一个未被充分认识的属性,其中Gibbs从潜在变量层次的更深层次进行采样,导致遍历性显著增加。因此,我们的方法是训练一个辅助潜在的层次模型,基于DBN。当与并行回火结合使用时,该方法渐近保证模拟来自目标RBM的样本。实验结果证实了这种抽样策略在RBM培训中的有效性。
2014-10-01 cs.LG stat.ML
Learning Deep Generative Models with Annealed Importance Sampling
The University of Chicago(芝加哥大学);The Grossman Institute for Neuroscience, Quantitative Biology and Human Behavior(格罗斯曼神经科学、定量生物学与人类行为研究所)
变分推断(VI)和马尔可夫链蒙特卡罗(MCMC)是通过最大化边际似然来学习深度生成模型的两种主要近似方法。在本文中,我们提出使用退火重要性抽样来学习深度生成模型。我们提出的方法桥VI与MCMC。它概括了VI方法,如变分自动编码器和重要性加权自动编码器(IWAE)以及(Hoffman,2017)中提出的MCMC方法。它还提供了为什么运行多个短MCMC链可以帮助学习深度生成模型的见解。通过实验,我们表明,我们的方法产生更好的密度模型比IWAE,可以有效地贸易模型精度的计算,而不增加内存成本。
2020-11-30 cs.LG stat.ML
Selective sampling for accelerating training of deep neural networks
Efi Arazi School of Computer Science(埃菲·阿拉齐计算机学院);The Interdisciplinary Center(跨学科中心)
我们提出了一种选择性采样方法,旨在加速深度神经网络的训练。为此,我们引入了一种新的测量方法,最小边际得分(MMS),它测量输入的最小位移量,直到其预测的分类被切换。对于多类线性分类,MMS度量是基于边缘的选择准则的自然推广,其在二进制分类设置中被深入研究。此外,MMS措施提供了一个有趣的洞察力的培训过程的进展,并可能有助于设计和监测新的培训制度。从经验上讲,我们在为流行的图像分类任务训练常用的深度神经网络架构时表现出了显著的加速。我们的方法的效率进行了比较,对标准的训练程序,并对常用的选择性抽样的替代品:硬负挖掘选择,和基于熵的选择。最后,我们证明了一个额外的加速时,我们采用了更积极的学习下降制度,同时使用MMS选择性采样方法。
2019-11-16 cs.LG stat.ML
From Importance Sampling to Doubly Robust Policy Gradient
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
我们表明,对政策的策略梯度(PG)和它的方差减少变量可以通过采取有限差分的功能评估提供的估计从重要性采样(IS)家庭的政策外评估(OPE)。从双重稳健(DR)估计量(Jiang & Li,2016)开始,我们提供了一种非常通用和灵活的PG形式的简单推导,其中包含了最先进的方差缩减技术(Cheng et al.,2019年)作为其特例,并立即暗示了现有文献所忽视的进一步降低方差的机会。我们分析了新的DR-PG估计的方差,将其与现有的方法以及策略梯度的Cramer-Rao下界进行了比较,并实证表明了其有效性。
2020-06-24 cs.LG stat.ML
On the Convergence of Locally Adaptive and Scalable Diffusion-Based Sampling Methods for Deep Bayesian Neural Network Posteriors
本文研究深度贝叶斯神经网络后验采样的局部自适应扩散方法,证明即使步长趋零且全批处理,这些方法仍可能采样到有偏分布,不收敛于正确后验。
2024-03-14 cs.LG stat.ML
DMIDAS: Deep Mixed Data Sampling Regression for Long Multi-Horizon Time Series Forecasting
Carnegie Mellon University(卡内基梅隆大学)
神经预测在大规模系统的准确性方面有了显着的提高,但预测极长的时间范围仍然是一项具有挑战性的任务。两个常见的问题是预测的波动性和它们的计算复杂性;我们通过将平滑正则化和混合数据采样技术结合到性能良好的基于多层感知器的架构(NBEATS)来解决它们。我们验证了我们提出的方法,DMIDAS,在高频医疗保健和电价数据上具有较长的预测范围(约1000个时间戳),我们将预测精度提高了5%,比最先进的模型,减少了近70%的NBEATS参数数量。
2021-06-07 cs.LG stat.ML
Importance Sampling for Stochastic Gradient Descent in Deep Neural Networks
Dassault Aviation(达索航空)
随机梯度下降对训练集进行均匀采样,以建立具有有限数量样本的无偏梯度估计。然而,在训练过程的给定步骤中,某些数据比其他数据更有助于继续学习。用于训练深度神经网络的重要性采样已被广泛研究,以提出比均匀采样方案产生更好性能的采样方案。在回顾了深度学习的重要性采样理论之后,本文回顾了该研究领域固有的挑战。特别是,我们提出了一个度量标准,允许一个给定的采样方案的质量进行评估,我们研究的采样方案和使用的优化器之间的相互作用。
2023-03-29 cs.LG
A Fast, Robust Elliptical Slice Sampling Implementation for Linearly Truncated Multivariate Normal Distributions
University of Pennsylvania(宾夕法尼亚大学)
针对线性截断多元正态分布采样难题,本文提出可在$\mathcal{O}(m \log m)$时间内计算椭圆与多面体交集的椭圆切片采样算法,提升了数值稳定性、运行速度与并行能力。
2024-07-15 cs.LG stat.ML
Global Capacity Measures for Deep ReLU Networks via Path Sampling
University of California, Berkeley(加州大学伯克利分校);Rutgers University - New Brunswick(罗格斯大学新伯朗士威校区);Salesforce Research(赛富时研究院)
关于线性模型的统计复杂性的经典结果通常将权重$\|w\|$的范数确定为基本容量度量。将这种度量推广到深度网络的设置是多种多样的,尽管经常识别的数量是每层权重范数的乘积。在这项工作中,我们表明,对于一个大类的网络具有积极的同质性,类似的界限,而不是在权重的产品的范数。我们的证明技术概括了最近提出的采样参数,这使我们能够证明正齐次网络的稀疏逼近的存在。这会产生覆盖数的界限,它可以转换为泛化界的多类分类,是可比的,并在某些情况下,改进,现有的文献中的结果。最后,我们实证研究了我们的抽样程序,得出了与我们的理论一致的结果。
2019-10-22 cs.LG stat.ML
Adam with Bandit Sampling for Deep Learning
University of Michigan, Ann Arbor(密歇根大学安娜堡分校)
Adam是一种广泛用于训练深度学习模型的优化方法。它计算不同参数的个体自适应学习率。在本文中,我们提出了一个推广亚当,称为亚当,使我们能够适应不同的训练样本的基础上,他们在模型的收敛的重要性。为了实现这一点,我们在所有的例子中保持一个分布,在每次迭代中根据这个分布进行采样,选择一个小批量,我们使用多臂强盗算法进行更新。这确保了对模型训练更有益的示例以更高的概率被采样。我们从理论上证明了Adambs在某些情况下提高了Adam- $O(\sqrt{\frac{\log n}{T} })$而不是$O(\sqrt{\frac{n}{T}})$的收敛速度。在各种模型和数据集上的实验证明了Adambs在实践中的快速收敛。
2020-10-24 cs.LG stat.ML
An Efficient Explorative Sampling Considering the Generative Boundaries of Deep Generative Neural Networks
Ulsan National Institute of Science and Technology(蔚山国立科学技术研究院);Korea Advanced Institute of Science and Technology(韩国高等科学技术研究院)
深度生成神经网络(DGNN)已经实现了真实和高质量的数据生成。特别是,对抗训练方案已应用于许多DGNN,并表现出强大的性能。尽管生成网络最近取得了进展,但识别图像生成机制仍然具有挑战性。本文提出了一种探索性抽样算法来分析DGNN的生成机制。我们的方法有效地从训练模型的角度从查询图像中获得具有相同属性的样本。我们定义了生成边界,它决定了内部层中节点的激活,并利用这些信息在模型内部进行探测。为了处理大量的边界,我们使用优化来获得基本的边界集。通过在生成边界包围的区域内收集样本,我们可以凭经验揭示DGNN内部层的特征。我们还表明,我们的算法可以找到更均匀的,模型特定的样本相比,基于ε的采样方法的变化。
2019-12-12 cs.LG stat.ML
Robust Approximate Sampling via Stochastic Gradient Barker Dynamics
Duke University(杜克大学);Bocconi University(博科尼大学)
针对大数据下随机梯度MCMC算法超参数敏感、梯度异质性致分布偏差的问题,本文提出随机梯度Barker动力学算法及偏差校正版本,实验证明其在高维场景下比随机梯度朗之万动力学鲁棒性更强。
2024-05-14 cs.LG stat.ML
Fast and Robust Likelihood-Guided Diffusion Posterior Sampling with Amortized Variational Inference
Institute of Foundation Models, MBZUAI(基础模型研究所,MBZUAI);Huawei Lagrange Mathematics and Computing Research Center, Paris, France(华为拉格朗日数学与计算研究中心,法国巴黎);Mohamed Bin Zayed University of AI, Chair of the ML Department, EPITA, Laboratoire Recherche de l'EPITA(穆罕默德·本·扎耶德人工智能大学,机器学习系主任,EPITA,EPITA研究实验室)
本文提出一种快速且稳健的扩散后验采样方法,通过幅度化变分推断保留显式似然引导,提升逆问题的效率与鲁棒性。
2026-02-06 cs.AI cs.LG stat.ML
Sequential Importance Sampling for Hybrid Model Bayesian Inference to Support Bioprocess Mechanism Learning and Robust Control
Northeastern University(东北大学);University of Waterloo(滑铁卢大学)
在生物制造4.0的关键需求的驱动下,我们引入了一个概率知识图混合模型,该模型表征了对生物过程机制的基于风险和科学的理解。它可以忠实地捕捉重要的性质,包括非线性反应,部分可观测状态,和非平稳动力学。给出了非常有限的实际过程的观察,我们得到了一个后验分布量化模型估计的不确定性。为了避免计算复杂的似然性,采用序贯蒙特卡罗近似贝叶斯计算抽样(ABC-SMC)来近似后验分布。在高度随机和模型不确定性下,匹配输出轨迹的计算代价很高。因此,我们创建了一个线性高斯动态贝叶斯网络(LG-DBN)辅助似然ABC-SMC方法。通过匹配由LG-DBN似然驱动的摘要统计量,可以捕获关键的相互作用和变化,所提出的算法可以加速混合模型推理,支持过程监控,并促进机制学习和鲁棒控制。
2022-09-30 cs.LG stat.ML
Fast and Robust: Task Sampling with Posterior and Diversity Synergies for Adaptive Decision-Makers in Randomized Environments
Yun Qu(未知);Qi (Cheems) Wang(未知);Yixiu Mao(未知);Yiqin Lv(未知);Xiangyang Ji(未知)
本文将鲁棒主动任务采样建模为马尔可夫决策过程,并提出 PDTS 方法,通过后验与多样性协同实现快速、鲁棒的零样本与少样本策略自适应。
2025-05-15 cs.AI cs.LG stat.ML
Robust Meta-Reinforcement Learning with Curriculum-Based Task Sampling
Hitachi, Ltd.(日立有限公司)
Meta-强化学习(meta-RL)获取在宽任务分布中对任务表现出良好性能的元策略。然而,传统的元RL通过随机采样任务来学习元策略,据报道,它对某些任务表现出元过拟合,特别是对于代理可以轻松获得高分的简单任务。为了减少元过拟合的影响,我们考虑了基于任务抽样的元RL。我们的方法是鲁棒Meta强化学习与引导任务采样(RMRL-GTS),这是一个有效的方法,限制基于分数和时代的任务采样。我们表明,为了实现强大的元RL,它不仅是必要的,以集中的样本得分低的任务,但也要限制和扩大任务区域的任务进行采样。
2022-03-31 cs.LG
Robust and Scalable Column/Row Sampling from Corrupted Big Data
University of Central Florida(中佛罗里达大学)
本文提出新的采样算法,能在严重数据腐蚀下定位信息列,并开发可扩展的随机化设计,同时对稀疏腐蚀和异常值具有鲁棒性,实验显示优于现有鲁棒采样算法。
2016-11-18 cs.LG cs.NA math.NA
A Deep Reinforcement Learning Approach to Marginalized Importance Sampling with the Successor Representation
Mila(米拉研究所);McGill University(麦吉尔大学)
本文提出一种利用后继表示计算密度比的边缘化重要性采样方法,通过深度强化学习训练,实现稳定且适用于高维环境的离策略评估,并在Atari和MuJoCo基准上验证了有效性。
2023-11-13 cs.AI cs.LG stat.ML
Adaptive Sketches for Robust Regression with Importance Sampling
Microsoft Research(微软研究院);Carnegie Mellon University(卡内基梅隆大学)
我们介绍了通过随机梯度下降(SGD)通过以与其范数成比例的概率对梯度进行采样来解决鲁棒回归的数据结构,即,重要性采样。虽然SGD广泛用于大规模机器学习,但众所周知,由于均匀采样的高方差,它可能会经历缓慢的收敛速度。另一方面,重要性采样可以显著降低方差,但通常难以实现,因为计算采样概率需要额外的数据传递,在这种情况下,可以使用标准梯度下降(GD)来代替。在本文中,我们介绍了一种算法,近似采样$T$梯度的尺寸$d$从几乎最佳的重要性采样分布的稳健回归问题超过$n$行。因此,我们的算法有效地运行$T$步骤的SGD与重要性采样,而使用次线性空间,只是使一个单一的通过的数据。我们的技术还扩展到执行二阶优化的重要性采样。
2022-07-16 cs.DS cs.LG
Sequenced-Replacement Sampling for Deep Learning
Innopeak Technology(Innopeak科技);Huawei Research America(华为美国研究院);Jilin University(吉林大学)
我们提出了用于训练深度神经网络的顺序替换采样(SRS)。其基本思想是为数据集中的每个样本分配一个固定的序列索引。一旦在每次训练迭代中随机抽取了一个小批量,我们就可以通过根据序列索引连续添加样本来重新填充原始数据集。因此,我们进行替换抽样,但在一个批量和顺序的方式。在某种意义上,SRS可以被视为一种执行“小批量增强”的方式。对于每类图像相对较少的任务(如CIFAR-100),它特别有用。再加上较长的初始大学习率,它显着提高了CIFAR-100的分类精度超过目前最先进的结果。我们的实验表明,使用SRS训练更深的网络不太容易过度拟合。在最好的情况下,我们实现了低至10.10%的出错率。
2018-10-19 cs.CV cs.LG stat.ML
Regularized Adversarial Sampling and Deep Time-aware Attention for Click-Through Rate Prediction
Tsinghua University(清华大学);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心);The Hong Kong Polytechnic University(香港理工大学)
提高点击率(CTR)预测的性能仍然是在线广告系统的核心任务之一。随着深度学习的兴起,具有深度网络的CTR预测模型显著增强了模型的能力。在深度CTR模型中,利用用户的历史数据对于学习用户的行为和兴趣至关重要。针对现有CTR预测方法在嵌入用户历史点击记录时忽略了时间信号的重要性,提出了一种时间感知的注意力模型,该模型明确地使用绝对时间信号来表示用户的周期性行为,使用相对时间信号来表示项目之间的时间关系。此外,我们提出了一种正则化的对抗抽样策略的负采样,缓解了CTR数据的分类不平衡,并可以利用观察到的负CTR样本提供的强指导。对抗性采样策略显著提高了训练效率,并且可以与时间感知注意力模型无缝协同训练。实验进行了真实世界的CTR数据集,从站内和站外的广告场所。
2019-11-03 cs.IR cs.LG stat.ML
Bayesian Reinforcement Learning via Deep, Sparse Sampling
Chalmers University of Technology(查尔姆斯理工大学);University of Oslo(奥斯陆大学)
我们使用有效的基于模型的在线规划解决贝叶斯强化学习的问题。我们提出了一个无乐观的贝叶斯自适应算法,以诱导更深,更稀疏的探索与理论界的性能相对于贝叶斯最优策略,具有较低的计算复杂性。主要的新颖性是使用候选策略生成器,在规划树中生成长期选项(超过信念),这使我们能够创建更稀疏和更深的树。在不同环境下的实验结果表明,与现有算法相比,该算法不仅在计算效率上更高,而且在离散环境下获得了更高的回报.
2020-06-27 cs.AI cs.LG stat.ML
Robust Neural Pruning with Gradient Sampling Optimization for Residual Neural Networks
Stony Brook University(石溪大学)
本研究率先将梯度采样优化技术StochGradAdam整合到神经网络剪枝中,解决了资源受限场景下剪枝模型保持准确性的挑战,在CIFAR-10和残差架构上验证了其能有效保持性能。
2024-04-29 cs.LG
Biased Importance Sampling for Deep Neural Network Training
Idiap Research Institute(伊迪亚普研究所)
重要性采样已被成功地用于许多凸优化问题的随机优化。然而,缺乏一种有效的方法来计算的重要性仍然阻碍了其应用到深度学习。在本文中,我们证明了损失值可以用作另一种重要性度量,并提出了一种方法来有效地近似深度模型,使用为此目的并行训练的小型模型。该方法特别允许利用有偏梯度估计,其隐含地优化软最大损失,并导致更好的泛化性能。虽然这样的方法遭受的梯度估计的方差过高时,使用标准的随机优化器,我们表明,当它与我们的采样机制相结合,它会导致一个可靠的过程。我们通过使用深度卷积和递归神经网络对图像分类和语言建模任务进行测试,展示了我们方法的通用性。特别是,我们的方法可以使CIFAR 10的CNN训练速度比使用均匀采样时快30%。
2017-09-13 cs.LG
Robust Streaming, Sampling, and a Perspective on Online Learning
Princeton University(普林斯顿大学)
本文概述统计学习与鲁棒流处理技术,并在统一框架下证明二者之间的深层关系,以启发在线学习及相关领域的新研究方向。
2023-12-04 cs.GT cs.LG stat.ML
On the Robustness of Cross-Concentrated Sampling for Matrix Completion
University of Central Florida(中佛罗里达大学);Michigan State University(密歇根州立大学)
针对交叉集中采样(CCS)矩阵补全模型对稀疏异常值鲁棒性不明的问题,本文提出鲁棒CCS补全问题及高效非凸迭代算法RCURC,其效率与鲁棒性在合成及真实数据集上获验证。
2024-01-28 cs.IT cs.LG math.IT
Learning Deep Representations By Distributed Random Samplings
Tsinghua National Laboratory for Information Science and Technology, Tsinghua University(清华大学清华信息科学与技术国家实验室)
在本文中,我们提出了一个非常简单的无监督非线性降维的深度模型-深度分布随机采样,它的表现就像一堆无监督的自举聚合。首先,它的网络结构新颖:网络的每一层是一组相互独立的$k$ -中心聚类。其次,它的学习方法极其简单:每次聚类的$k$中心只是从训练数据中随机选取的$k$样本;对于小规模数据集,通过简单的循环移位运算进一步随机重构$k$中心。非线性降维实验结果表明,该方法不仅可以学习大规模和小规模问题的抽象表示,而且在大规模问题上比深度神经网络学习速度更快.
2013-12-16 cs.LG
Mitigating Sampling Bias and Improving Robustness in Active Learning
Intel Labs(英特尔实验室);Intel Corporation(英特尔公司)
本文提出了简单有效的方法,以减轻采样偏差在主动学习,同时实现最先进的精度和模型的鲁棒性。我们引入了监督对比主动学习,利用对比损失的主动学习在监督设置。我们提出了一个无偏的查询策略,选择信息丰富的数据样本的不同特征表示与我们的方法:监督对比主动学习(SCAL)和深度特征建模(DFM)。我们经验证明,我们提出的方法减少采样偏差,实现最先进的准确性和模型校准的主动学习设置与查询计算26倍的速度比贝叶斯主动学习的分歧和11倍的速度比CoreSet。所提出的SCAL方法在对数据集移位和分布外的鲁棒性方面有很大的优势。
2021-09-13 cs.LG
J-MoDL: Joint Model-Based Deep Learning for Optimized Sampling and Reconstruction
University of Iowa(爱荷华大学)
现代MRI方案依赖于压缩感知或深度学习算法来从欠采样的多通道傅立叶测量恢复MRI数据,被广泛用于减少扫描时间。这些方法的图像质量在很大程度上取决于采样模式。我们引入了一个连续的策略,共同优化采样模式和网络参数。我们使用多通道前向模型,包括具有连续定义的采样位置的非均匀傅里叶变换,以实现基于模型的深度学习图像重建方案中的数据一致性块。该方法有利于采样模式和CNN参数的联合和连续优化,以提高图像质量。我们观察到,采样模式和重建模块的联合优化显著提高了大多数深度学习重建算法的性能。拟议联合学习框架的源代码可在https://github.com/hkaggarwal/J-MoDL上查阅。
2020-07-02 cs.CV cs.LG eess.IV
Adaptive importance sampling for Deep Ritz
Louisiana State University(路易斯安那州立大学);Chinese Academy of Sciences(中国科学院)
本文针对深度里兹法求解偏微分方程提出自适应重要性采样方法,利用有界KRnet深度生成模型逼近变分损失中的未归一化概率密度并生成新配点,从而提升低正则性和高维问题的求解精度。
2023-10-30 cs.LG
Offset Sampling Improves Deep Learning based Accelerated MRI Reconstructions by Exploiting Symmetry
Facebook AI Research(Facebook人工智能研究);fastMRI team(fastMRI团队)
加速MRI的深度学习方法将采样的傅立叶空间线矩阵作为输入,并生成空间图像作为输出。在这项工作中,我们表明,通过仔细选择在采样过程中使用的偏移量,在k空间中的对称性可以更好地利用,产生更高质量的重建比标准的等距样本或随机样本的动机压缩感知。
2020-02-04 cs.CV cs.LG eess.IV
Zero Shot Learning for Code Education: Rubric Sampling with Deep Learning Inference
Stanford University(斯坦福大学)
在现代计算机科学教育中,大规模开放式在线课程(MOOC)记录了数千小时的数据,这些数据是关于学生如何解决编码挑战的。这些平台拥有如此丰富的数据,引起了机器学习社区的兴趣,许多新算法试图自主提供反馈,以帮助未来的学生学习。但是,那些最初的十万学生呢?在大多数教育环境(即教室)中,作业没有足够的历史数据用于监督学习。在本文中,我们介绍了一个人在回路“量规采样”的方法来解决“zero shot”的反馈挑战。我们能够为第一批从事入门编程作业的学生提供自主反馈,其准确性大大优于数据饥渴算法,并接近人类水平的保真度。题目抽样需要最少的教师努力,可以将反馈与学生解决方案的特定部分联系起来,并可以用教师的语言表达学生的误解。深度学习推理使题目抽样能够随着获取更多作业特定的学生数据而进一步改进。我们展示了我们的结果在一个新的数据集从Code.org,世界上最大的编程教育平台。
2018-12-17 cs.CY cs.LG stat.ML
Robust Thompson Sampling Algorithms Against Reward Poisoning Attacks
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Tsinghua University(清华大学)
针对奖励投毒下 Thompson sampling 无法获得真实后验的问题,本文用抗操纵伪后验构建随机与上下文线性 bandit 鲁棒算法,并证明其在任意攻击下具有近最优遗憾。
2024-10-25 cs.LG
Robust On-Policy Sampling for Data-Efficient Policy Evaluation in Reinforcement Learning
University of Edinburgh(爱丁堡大学);University of Wisconsin – Madison(威斯康星大学麦迪逊分校)
强化学习(RL)算法通常被分类为策略上或策略外,这取决于它们是使用来自感兴趣的目标策略还是来自不同行为策略的数据。在本文中,我们研究了政策评估的RL子问题的上下文中的政策数据和政策抽样之间的微妙区别。我们观察到,在政策抽样可能无法匹配的政策数据的预期分布后,只观察到有限数量的轨迹,这种失败阻碍了数据有效的政策评估。为了提高数据效率,我们展示了非i.i.d.策略外采样可以产生更紧密地匹配期望的策略内数据分布的数据,并且因此增加用于策略评估的蒙特卡罗估计器的准确性。我们介绍了一种称为鲁棒的政策抽样的方法,并从理论上和经验上证明,它产生的数据,收敛速度更快,预期的政策分布相比,政策抽样。从经验上讲,我们表明,这种更快的收敛导致较低的均方误差政策价值的估计。
2022-10-10 cs.LG
Processing Megapixel Images with Deep Attention-Sampling Models
Idiap Research Institute(Idiap研究所);EPFL(洛桑联邦理工学院)
由于计算和存储器的限制,现有的深度架构不能对非常大的信号(例如百万像素图像)进行操作。为了解决这一限制,我们提出了一个完全可区分的端到端可训练模型,该模型仅对全分辨率输入图像的一小部分进行采样和处理。要处理的位置是从从输入的低分辨率视图计算的注意力分布中采样的。我们将我们的方法称为注意力采样,它可以使用标准的单个GPU设置处理数百万像素的图像。我们表明,从注意力分布的抽样结果在一个无偏估计的完整模型的方差最小,我们推导出一个无偏估计的梯度,我们使用训练我们的模型端到端与正常的SGD程序。对这种新方法进行了三个分类任务的评估,我们表明它可以将计算和内存占用减少一个数量级,但准确度与经典架构相同。我们还展示了采样的一致性,它确实集中在输入图像的信息部分。
2019-07-17 cs.CV cs.LG stat.ML
Deep Active Learning over the Long Tail
Technion – Israel Institute of Technology(以色列理工学院)
本文关注深度神经网络的基于池的主动学习。受coreset数据集压缩思想的启发,我们提出了一种新的主动学习算法,该算法在表示层的神经激活空间中使用最远优先遍历从池中查询连续点。对于三个数据集:MNIST,CIFAR-10和CIFAR-100,我们在被动学习(随机采样)的样本复杂性方面表现出一致和压倒性的改善。此外,我们的算法优于传统的不确定性采样技术(使用softmax激活获得),并且我们确定了不确定性采样仅略优于随机采样的情况。
2017-11-02 cs.LG
Iterative Pseudo-Labeling with Deep Feature Annotation and Confidence-Based Sampling
University of Campinas(坎皮纳斯大学);Utrecht University(乌得勒支大学)
当大型和带注释的数据集不可用时,训练深度神经网络具有挑战性。对数据样本进行大量的手动注释是耗时、昂贵且容易出错的,特别是当需要由专家完成时。为了解决这个问题,人们越来越关注将不确定标签(也称为伪标签)传播到大量无监督样本并将其用于训练模型的技术。然而,这些技术仍然需要训练集中每个类数百个监督样本,以及具有额外监督样本的验证集来调整模型。我们改进了最近的迭代伪标记技术,深度特征注释(DeepFA),通过选择最有信心的无监督样本来迭代训练深度神经网络。我们基于置信度的采样策略只依赖于每个类几十个带注释的训练样本,没有验证集,大大减少了用户在数据注释方面的工作。我们首先确定基线的最佳配置-一个自我训练的深度神经网络-然后评估我们对不同置信度阈值的置信度DeepFA。在六个数据集上的实验表明,DeepFA已经优于自训练的基线,但信心DeepFA可以大大优于原始DeepFA和基线。
2021-09-06 cs.LG
ADDS: Adaptive Differentiable Sampling for Robust Multi-Party Learning
分布式多方学习为在法律和实际约束条件下训练具有分散数据的联合模型提供了一种有效途径。然而,由于数据标签在参与者之间的倾斜分布和本地设备的计算瓶颈的泥潭,如何在各种场景中为客户端构建更小的定制模型,同时提供适用于中心模型的更新仍然是一个挑战。在本文中,我们提出了一种新的自适应微分采样框架(ADDS)的鲁棒性和通信效率的多方学习。受神经网络中的丢包思想的启发,本文提出了一种多方环境下的网络采样策略,将中心模型的不同节点分布到客户端进行更新,可区分的采样率允许每个客户端根据其私有数据分布从超网中提取最优的局部结构。该方法只需对现有的多方学习结构进行最小的修改,并且能够将所有节点的局部更新集成到超网中,提高了中心模型的鲁棒性。所提出的框架显着降低了本地计算和通信成本,同时加快了中央模型的收敛,正如我们通过对真实世界数据集的实验所证明的。
2021-10-29 cs.LG
Over-Sampling in a Deep Neural Network
Surrey University(萨里大学)
深度神经网络(DNN)是解决诸如计算机视觉和听觉等许多工程问题的最新技术。DNN成功的一个关键因素是可扩展性-更大的网络工作得更好。然而,这种可扩展性的原因还没有很好地理解。在这里,我们将DNN解释为一个离散系统,由线性滤波器和非线性激活组成,服从采样理论的定律。在这种情况下,我们证明了过采样网络更具选择性,学习速度更快,学习更鲁棒。我们的发现最终可能会推广到人类大脑。
2015-02-12 cs.LG cs.NE
Multi-segment preserving sampling for deep manifold sampler
Genentech(基因泰克);New York University(纽约大学)
生物序列的深度生成建模在协调明确的生物洞察力和模型灵活性之间的偏差-方差权衡方面提出了独特的挑战。深流形采样器最近被提出作为一种手段,迭代采样可变长度的蛋白质序列,利用梯度从函数预测。我们介绍了一种替代方法,这种指导采样过程,多段保留采样,使特定领域的知识,通过指定保存和非保存段沿输入序列,从而限制变化,只有选择区域的直接列入。我们通过训练两个模型来展示其在抗体设计中的有效性:一个深歧管采样器和一个GPT-2语言模型,该模型基于近600万个用IGHV 1 -18基因注释的重链序列。在采样过程中,我们将变异限制在输入的互补决定区3(CDR 3)。我们从GPT-2模型中获得每个采样的CDR 3的对数概率分数,并证明多片段保留采样生成合理的设计,同时保持所需的保留区域。
2022-05-09 cs.LG q-bio.BM
Quantum Deep Learning: Sampling Neural Nets with a Quantum Annealer
School of Computing Science(计算科学学院);University of Glasgow(格拉斯哥大学);OxBrdgRbtx Ltd(OxBrdgRbtx有限公司)
我们证明了将经典学习的深度神经网络框架为基于能量的模型的可行性,该模型可以在一步量子退火机上处理,以利用快速采样时间。我们提出的方法,以克服两个障碍的高分辨率图像分类的量子处理单元(QPU):所需的数量和二进制性质的模型状态。通过这种新方法,我们成功地将卷积神经网络转移到QPU,并显示出至少一个数量级的分类加速潜力。
2021-07-19 cs.LG quant-ph
Posterior Sampling for Deep Reinforcement Learning
Queen Mary University of London(伦敦玛丽女王大学)
本文提出首个可扩展的深度强化学习后验采样算法PSDRL,结合潜在状态空间模型的不确定性量化与基于值函数近似的持续规划,在Atari基准上实现了高样本与计算效率。
2023-05-17 cs.AI cs.LG
Robust Ensemble Model Training via Random Layer Sampling Against Adversarial Attack
KAIST(韩国科学技术院)
深度神经网络已经在多个计算机视觉领域取得了实质性的成就,但也存在漏洞,经常被人类无法识别的对抗性示例所愚弄。这对于安全或医疗应用来说是一个重要的问题。在本文中,我们提出了一个集成模型训练框架与随机层采样,以提高深度神经网络的鲁棒性。在所提出的训练框架中,我们通过随机分层采样生成各种采样模型,并更新采样模型的权重。在训练好集成模型后,采用随机分层抽样的方法,有效地隐藏了梯度信息,避免了基于梯度的攻击。为了评估我们提出的方法,全面和比较实验已经进行了三个数据集。实验结果表明,该方法提高了系统的对抗鲁棒性.
2021-01-27 cs.CR cs.CV cs.LG
Boltzmann Generators -- Sampling Equilibrium States of Many-Body Systems with Deep Learning
FU Berlin(柏林自由大学);Rice University(莱斯大学);Tongji University(同济大学)
计算凝聚态多体系统(如溶剂化蛋白质)的平衡态是一个长期存在的挑战。由于缺乏用于在“一次性”中生成统计上独立的平衡样本的方法,大量的计算工作被投入用于在小步骤中模拟这些系统,例如,使用分子动力学。结合深度学习和统计力学,我们在这里开发了玻尔兹曼发生器,它被证明可以生成代表性凝聚态系统和蛋白质的无偏一次性平衡样本。玻尔兹曼发生器使用神经网络来学习复杂构型平衡分布到可以容易地采样的分布的坐标变换。自由能差的精确计算和新的配置的发现被证明,提供了一个统计力学工具,可以避免罕见的事件在采样过程中没有反应坐标的先验知识。
2019-07-12 cond-mat.stat-mech cs.LG physics.chem-ph
Outlier-robust Diffusion Posterior Sampling for Bayesian Inverse Problems
University College London(伦敦大学学院);Imperial College London(伦敦帝国学院);Shanghai University of Finance and Economics(上海金融学院)
本文提出鲁棒扩散后验采样方法,通过分析后验偏差和稳定性,解决逆问题中异常值对扩散求解器的影响,提升线性和非线性任务的鲁棒性。
2026-05-09 cs.LG
Robust Low-Tubal-Rank Tensor Completion under Cross-Concentrated Sampling
University of Central Florida(中佛罗里达大学);Michigan State University(密歇根州立大学);University of Kentucky(肯塔基大学);University of Texas MD Anderson Cancer Center(德克萨斯大学 MD 安德森癌症中心)
该研究针对受稀疏异常值污染的三阶低张量秩张量,提出鲁棒迭代t-CUR算法,在交叉集中采样下实现高效鲁棒补全,经多类数据验证其准确性与鲁棒性。
2026-08-06 cs.IT cs.LG cs.NA
Not All Samples Are Created Equal: Deep Learning with Importance Sampling
Idiap Research Institute(Idiap研究所);École Polytechique Fédérale de Lausanne(洛桑联邦理工学院)
深度神经网络训练将大部分计算花费在正确处理的示例上,并且可以忽略。我们建议用一个原则性的重要性采样方案来减轻这种现象,该方案将计算集中在“信息丰富”的示例上,并减少训练过程中随机梯度的方差。我们的贡献是双重的:首先,我们推导出每个样本梯度范数的易处理的上界,其次,我们推导出利用重要性采样实现的方差减小的估计,这使得我们能够在它将导致实际加速时将其打开。由此产生的方案可以通过在标准SGD过程中改变几行代码来使用,并且我们通过实验证明,在图像分类,CNN微调和RNN训练上,对于固定的挂钟时间预算,它提供了高达一个数量级的训练损失的减少和5%至17%之间的测试误差的相对改善。
2019-10-28 cs.LG
Jeffreys Flow: Robust Boltzmann Generators for Rare Event Sampling via Parallel Tempering Distillation
Department of Mathematics, Purdue University(普渡大学数学系)
本文提出Jeffreys流,通过并行退火轨迹蒸馏数据,利用对称Jeffreys散度缓解玻尔兹曼生成器的模式崩溃问题,提升多模分布的采样精度与全局模式覆盖。
2026-04-07 cs.LG cs.NA math.NA
Robust Correction of Sampling Bias Using Cumulative Distribution Functions
California Institute of Technology(加州理工学院)
不同的域和有偏数据集可能导致训练分布和目标分布之间的差异,称为协变量偏移。目前用于缓解这种情况的方法通常依赖于估计训练和目标概率密度函数的比率。这些技术需要参数调整,并且在不同的数据集上可能不稳定。我们提出了一种新的方法来处理协变量的移动使用的经验累积分布函数估计的目标分布的一个严格的概括最近提出的想法Vapnik和Izmailov。此外,我们通过实验表明,我们的方法在预测方面更鲁棒,不依赖于参数调整,并且与当前最先进的合成和真实数据集技术相比,显示出类似的分类性能。
2020-10-23 cs.IT cs.LG math.IT
GradCheck: Analyzing classifier guidance gradients for conditional diffusion sampling
Center for Artificial Intelligence, Technical University of Applied Sciences Wuerzburg-Schweinfurt(维尔茨堡-施韦因富特应用技术大学人工智能中心);Bielefeld University(比勒费尔德大学)
本研究分析了DDPM采样中分类器引导梯度的稳定性问题,通过比较鲁棒与非鲁棒分类器及多种梯度稳定技术,发现这些技术能显著提升非鲁棒分类器的样本质量。
2024-06-25 cs.LG
Active Deep Learning on Entity Resolution by Risk Sampling
Northwestern Polytechnical University(西北工业大学)
虽然深度学习已经实现了实体解析(ER)的最先进性能,但其有效性取决于大量准确标记的训练数据。为了减轻数据标记的负担,主动学习(AL)提出了一个可行的解决方案,专注于被认为对模型训练有用的数据。基于ER风险分析的最新进展,它可以提供一个更精细的估计标签误预测风险比简单的分类器输出,我们提出了一种新的AL方法的风险抽样ER。风险抽样利用误预测风险估计进行主动实例选择。基于AL的核心集特征,我们从理论上推导出了一个以最小化核心集损失为目标的非一致Lipschitz连续的优化模型。由于定义的加权K-中心点问题是NP-困难的,我们然后提出了一个有效的启发式算法。最后,我们实证验证了所提出的方法对真实数据的比较研究的有效性。我们广泛的实验表明,它比现有的替代品有相当大的优势。使用ER作为测试案例,我们证明了风险抽样是一种很有前途的方法,可能适用于其他具有挑战性的分类任务。
2020-12-23 cs.LG
Robust Policy Optimization via Adversarial Importance Sampling
Mohammed VI Polytechnic University(穆罕默德六世理工大学);Khalifa University(哈利法大学);Concordia University(康考迪亚大学)
本文提出Advis方法,通过对抗重要性采样优化鲁棒策略,并引入advrl库和更全面的评估,在连续控制任务中验证了有效性。
2026-11-05 cs.LG
How Sampling Impacts the Robustness of Stochastic Neural Networks
Ruhr University Bochum(波鸿鲁尔大学)
随机神经网络(SNN)是一种随机函数,其预测是通过对多个实现进行平均来获得的。因此,基于梯度的对抗性示例是基于一组样本及其在另一组样本上的分类来计算的。在本文中,我们推导出一个充分条件,这样的随机预测是强大的,对给定的基于样本的攻击。这使我们能够确定导致SNN鲁棒性提高的因素,并给出理论解释:(i)众所周知的观察,即增加用于估计对抗性示例的样本数量会增加攻击的强度,(ii)为什么在攻击期间增加样本数量不能完全减少随机性的影响,(iii)为什么在推断期间的样本大小不影响鲁棒性,以及(iv)为什么较高的梯度方差和较短的梯度期望值与较高的鲁棒性相关。我们的理论研究结果给出了一个统一的观点,以前提出的方法,以增加攻击强度或模型的鲁棒性的机制,并通过广泛的实证分析进行了验证。
2023-03-04 cs.LG
On Deterministic Sampling Patterns for Robust Low-Rank Matrix Completion
Columbia University(哥伦比亚大学);Purdue University(普渡大学)
在这封信中,我们研究了确定性采样模式的低秩矩阵的完成,当破坏与稀疏噪声,也被称为鲁棒矩阵完成。我们推广了最近的结果确定性抽样模式的基础上的几何分析的格拉斯曼流形上的噪音。一个特殊的情况下,每列有一定数量的噪声条目被认为是,我们的概率分析执行非常有效。此外,假设原始矩阵的秩没有给出,我们提供了一个分析,以确定是否一个有效的完成的秩确实是与稀疏噪声损坏的数据的实际秩通过验证一些条件。
2017-12-05 cs.CV cs.IT cs.LG