Noisy Submodular Maximization via Adaptive Sampling with Applications to Crowdsourced Image Collection Summarization
ETH Zurich(苏黎世联邦理工学院)
我们解决的问题,最大限度地提高一个未知的子模块功能,只能通过嘈杂的评价。我们的工作动机是总结内容的任务,例如,图像集合,通过利用用户以点击或评级形式的反馈。对于以最大化覆盖率和多样性为目标的摘要任务,子模集函数是一个自然的选择。当底层子模函数未知时,用户的反馈可能会对我们寻求最大化的函数提供嘈杂的评估。我们提供了一个通用算法-- \submM{} --用于在基数约束下最大化未知子模函数。该算法利用了一种新的探索模块-- \blbox{} --提出了基于自适应采样噪声函数评估的好元素。\blbox{}能够适应不同类型的观察模型,例如值查询和成对比较。我们为\submM{}获得的解决方案的质量和采样成本提供PAC式保证。我们证明了我们的方法在互动,众包图像收集摘要应用程序的有效性。
2015-12-01 cs.AI cs.LG stat.ML
Modeling Unknown Stochastic Dynamical System via Autoencoder
The Ohio State University(俄亥俄州立大学)
提出一种基于自编码器的数值方法,通过设计深度神经网络编码器和解码器发现潜在变量并重构系统状态,从未知随机动力系统的短时轨迹数据中学习预测模型,实现长期预测且适用于非高斯噪声系统。
2024-12-22 cs.LG cs.NA math.NA
Influence maximization in unknown social networks: Learning Policies for Effective Graph Sampling
Indian Institute of Technology Madras(印度理工学院马德拉斯分校);McGill University(麦吉尔大学);Mila(米拉魁北克人工智能研究所);Harvard University(哈佛大学)
在现实世界的社交网络中寻找有影响力的参与者时,一个严重的挑战是缺乏对底层网络结构的了解。目前最先进的方法依赖于手工制作的采样算法;这些方法以精心构建的顺序对节点及其邻居进行采样,并从这个发现的网络中选择意见领袖,以最大限度地扩大(未知)完整网络中的影响力。在这项工作中,我们提出了一个强化学习框架的网络发现,自动学习有用的节点和图形表示编码的重要结构特性的网络。在训练时,该方法识别网络的部分,使得从该采样子图中选择的节点可以有效地影响完整网络中的节点。这种基于可转移网络结构的自适应策略的实现归因于对由适当的奖励方案驱动的相关节点和图签名进行编码的框架的精心设计。我们对来自四个不同领域的真实社交网络进行了实验,结果表明,与当前最先进的方法相比,我们的RL代理学习到的策略提高了10-36%。
2020-02-20 cs.LG cs.SI
Suppressing unknown disturbances to dynamical systems using machine learning
University of Colorado at Boulder(科罗拉多大学博尔德分校);Trinity College(三一学院)
本文提出一种无模型方法,仅利用已知强迫函数下的历史观测数据,即可识别并抑制未知动力系统中的未知扰动,并在模拟混沌电路及数值示例中验证了其有效性。
2024-08-21 cs.LG cs.SY eess.SY
Analysis of Thompson Sampling for Controlling Unknown Linear Diffusion Processes
Department of Mathematics, Southern Methodist University(南方 Methodist 大学数学系);Graduate School of Business, Stanford University(斯坦福大学商学院)
本文研究未知漂移矩阵下线性扩散过程的自适应控制,证明 Thompson 采样具有平方根时间遗憾并能快速稳定系统,且在血糖与飞行控制仿真中优于现有算法。
2025-06-07 cs.AI cs.LG cs.SY
On generalized residue network for deep learning of unknown dynamical systems
The Ohio State University(俄亥俄州立大学)
我们提出了一种使用深度神经网络(DNN)学习未知动力系统的通用数值方法。我们的方法建立在最近的研究基础上,这些研究将残差网络(ResNet)确定为有效的神经网络结构。在本文中,我们提出了一个广义的ResNet框架,并广义地将残差定义为观测数据与另一个模型(可以是现有的粗模型或降阶模型降阶模型)预测之间的差异。在这种情况下,广义ResNet作为对现有模型的模型校正,并恢复未解决的动态。当现有的粗模型不可用时,我们提出了快速创建粗模型的数值策略,与广义ResNet结合使用。这些粗略模型使用相同的数据集构建,因此不需要额外的资源。广义ResNet能够学习潜在的未知方程,并产生比标准ResNet结构更高精度的预测。这是通过几个数值例子,包括混沌系统的长期预测证明。
2020-01-23 cs.LG cs.NA math.DS
Meta-Thompson Sampling
Google Research(谷歌研究院);University of Alberta(阿尔伯塔大学);DeepMind(深度思维)
如何有效地进行网络学习是在线学习的一个基本问题。我们提出了一个变体的汤普森采样,学习更好地探索,因为它与来自未知的先验的强盗实例相互作用。该算法元学习先验知识,因此我们称之为MetaTS。我们提出了几种有效的实现MetaTS和分析它在高斯强盗。我们的分析显示了元学习的好处,是一个更广泛的兴趣,因为我们得到了一个新的先验依赖贝叶斯后悔界汤普森采样。我们的理论得到了实证评估的补充,这表明MetaTS能够快速适应未知的先验。
2021-06-23 cs.LG stat.ML
Solving 0-1 Integer Programs with Unknown Knapsack Constraints Using Membership Oracles
本文针对未知背包约束的0-1整数规划问题,提出基于成员资格预言机和SVM的主动学习框架,改进采样策略与线性分离方法,实验验证其有效性。
2025-10-23 cs.LG math.OC
Analysis of Thompson Sampling for Partially Observable Contextual Multi-Armed Bandits
情境多臂强盗是强化学习中与个体信息相关联的序列决策的经典模型。一个广泛使用的强盗策略是汤普森采样,其中来自数据驱动的关于未知参数的概率信念的样本用于选择控制动作。对于这种计算速度快的算法,性能分析可在全上下文观测下使用。然而,很少有人知道的问题,上下文不完全观察。我们提出了一个汤普森采样算法的部分可观察的上下文多武装土匪,并建立理论性能保证。从技术上讲,我们表明,所提出的政策尺度的遗憾与时间和武器的数量,线性的维度。此外,我们建立学习未知参数的速率,并提供说明性的数值分析。
2021-11-29 cs.LG stat.ML
Thompson Sampling for Parameterized Markov Decision Processes with Uninformative Actions
University of Toronto(多伦多大学);University of British Columbia(不列颠哥伦比亚大学)
针对参数化马尔可夫决策过程中存在无信息动作的问题,提出一组假设,在此条件下汤普森采样达到渐近最优遗憾界$O(T^{-1})$,适用于排队、库存控制和动态定价等场景。
2023-05-13 cs.LG cs.SY eess.SY
Kernel-based parameter estimation of dynamical systems with unknown observation functions
Yale University(耶鲁大学);Columbia University(哥伦比亚大学);UC San Diego(加州大学圣地亚哥分校);Technion - Israel Institute of Technology(以色列理工学院)
在实验中,低维动力系统被观察为高维信号;例如,混沌混沌系统的视频。假设我们知道一些未知参数的动力学模型,我们可以通过测量其时间演化来估计潜在系统的参数吗?用于执行该估计的关键信息在于信号和模型之间的时间相互依赖性。我们提出了一个基于内核的分数来比较这些依赖关系。我们的分数推广了线性模型的极大似然估计到未知特征空间中的一般非线性设置。我们估计系统的基本参数最大化建议的分数。我们使用两个混沌动力系统-双摆和Lorenz '63模型证明了该方法的准确性和效率。
2021-04-04 cs.LG math.DS physics.comp-ph
Flow Map Learning for Unknown Dynamical Systems: Overview, Implementation, and Benchmarks
Trinity College(三一学院);The Ohio State University(俄亥俄州立大学)
本文介绍结合DNN的流映射学习(FML)框架及其实现细节,提出未知动力系统学习基准问题并给出数值细节与FML结果,保障问题可交叉验证、结果可复现。
2023-07-20 cs.LG math.DS stat.ML
Risk-limiting Financial Audits via Weighted Sampling without Replacement
Carnegie Mellon University(卡内基梅隆大学)
提出风险限制财务审计框架,通过不放回加权抽样构造置信序列,利用辅助信息自适应驱动抽样,以估计总错报比例并达到给定精度与置信度。
2023-05-08 cs.AI cs.LG math.ST
Adversarial sampling of unknown and high-dimensional conditional distributions
National Renewable Energy Laboratory(国家可再生能源实验室);University of Colorado Boulder(科罗拉多大学博尔德分校)
许多工程问题需要预测实现到实现的可变性或精确描述的建模量。在这种情况下,有必要从未知的高维空间中采样元素,这些空间可能有数百万个自由度。虽然存在能够从具有已知形状的概率密度函数(PDF)中采样元素的方法,但是当分布未知时需要进行几次近似。在本文中,采样方法以及对底层分布的推断都是用一种称为生成对抗网络(GAN)的数据驱动方法来处理的,该方法训练两个竞争的神经网络,以产生一个可以有效地从训练集分布中生成样本的网络。在实际应用中,常常需要从条件分布中抽取样本。当条件变量是连续的时,对应于条件变量的特定值的仅一个(如果有的话)数据点可能是可用的,这不足以估计条件分布。这项工作处理这个问题,使用先验估计的PDF的条件矩。两种方法,随机估计,和外部神经网络在这里比较计算这些时刻,但是,任何首选的方法可以使用。该算法的情况下,证明了过滤湍流场的反卷积。结果表明,所提出的算法的所有版本有效地采样目标条件分布与最小的影响相比,国家的最先进的方法对样本的质量。此外,该过程可以用作由以连续变量为条件的条件GAN(cGAN)生成的样本的多样性的度量。
2021-11-08 cs.LG physics.ao-ph physics.comp-ph
Diffusion Models as Constrained Samplers for Optimization with Unknown Constraints
Georgia Tech(佐治亚理工学院);Cornell University(康奈尔大学);Université de Montréal(蒙特利尔大学);Mila(Mila研究院);ENS, CNRS, PSL University(巴黎高等师范学院、国家科学研究中心、巴黎-萨克勒大学);UCSD(加州大学圣地亚哥分校)
针对可行性约束未知的优化问题,本文利用扩散模型将优化重构为 Boltzmann 分布与数据分布乘积上的采样,并按目标可微性分别提出两阶段引导扩散加 Langevin dynamics 方法及迭代重要性采样方法,在多类基准上达到更优或相当性能。
2025-10-18 cs.AI cs.LG
Thompson Sampling-Based Learning and Control for Unknown Dynamic Systems
MIIT Key Laboratory of Servo Motion System Drive and Control, School of Automation, Beijing Institute of Technology(信息产业部伺服驱动与控制重点实验室,自动化学院,北京理工大学);Department of Mechanical Engineering, Faculty of Engineering, University of Victoria(机械工程系,工程学院,维多利亚大学);Center for Systems and Control, College of Engineering, Peking University(系统与控制中心,工程学院,北京大学)
本文提出基于再生核希尔伯特空间的参数化方法,结合汤普森采样框架,实现未知动态系统的主动学习控制,提升控制效率与稳定性。
2026-02-05 cs.LG
Randomized Space-Time Sampling for Affine Graph Dynamical Systems
(Le Gong) Department of Mathematics, Vanderbilt University, Nashville, TN 37240 USA;(Longxiu Huang) Department of Computational Mathematics, Science;Engineering \& Department of Mathematics, Michigan State University, East Lansing, MI 48824, USA
本文针对含常值源项的图信号动态采样问题,提出两种随机时空采样机制,利用谱图加权相干性分析采样复杂度,并基于受限等距性质开发了可同时恢复初始状态与源项的鲁棒算法。
2025-09-20 cs.IT cs.LG cs.NA
An adaptive data sampling strategy for stabilizing dynamical systems via controller inference
本文提出了一种自适应数据采样策略,通过控制器推断在减少数据样本的情况下实现系统稳定化。
2026-02-10 cs.LG cs.NA math.DS
User-defined Event Sampling and Uncertainty Quantification in Diffusion Models for Physical Dynamical Systems
New York University(纽约大学);Google Research(谷歌研究院)
本研究针对扩散模型在混沌动力系统应用中难以查询隐式极端事件知识的问题,提出条件得分函数的概率近似方案,可实现推理阶段非线性用户自定义事件的条件采样并匹配数据统计特性。
2023-06-13 cs.AI cs.LG
Control Transformer: Robot Navigation in Unknown Environments through PRM-Guided Return-Conditioned Sequence Modeling
Purdue University(普渡大学)
针对未知环境长时程机器人导航,本文提出由 PRM 规划器引导低层策略、并用 Control Transformer 建模回报条件序列的方法,实现仅依赖局部信息的迷宫穿越、未知环境迁移及 Turtlebot3 零样本 sim2real。
2023-07-13 cs.AI cs.LG cs.RO
Three-dimensional signal processing: a new approach in dynamical sampling via tensor products
Michigan State University(密歇根州立大学);University of Central Florida(中佛罗里达大学)
本文研究三维信号动态采样问题,利用张量积刻画演化系统,提出采样集必要条件并将重建转化为可高效求解的优化问题,通过数值仿真验证了方法的有效性。
2025-02-04 cs.IT cs.LG eess.SP
Age Optimal Sampling for Unreliable Channels under Unknown Channel Statistics
Tsinghua University(清华大学);Yale University(耶鲁大学);Meta Platforms, Inc.(元平台公司);Zhejiang University(浙江大学)
本文针对信道统计未知的不可靠信道,提出基于Robbins-Monro的在线采样算法,最小化信息年龄,实现极小极大阶最优,并提升稳定性。
2025-02-24 cs.IT cs.LG math.IT
Transportation-Inequalities, Lyapunov Stability and Sampling for Dynamical Systems on Continuous State Space
Duke University(杜克大学)
研究了状态空间无界的离散随机动力系统的集中现象。我们开发了一个启发式的方法来获得指数集中不等式的动力系统使用一个完全功能的分析框架。通过\emph{transport-entropy inequality}(T-E),我们还证明了指数型李雅普诺夫函数的存在性,与纯确定性设置相比,不仅意味着稳定性,而且意味着从平稳分布采样的指数集中不等式.这些结果在\emph{reinforcement learning}(RL)和\emph{controls}中有重要影响,导致指数集中不等式,即使对于无界的观测量,而既不假设可逆性,也不假设随机动力系统的精确知识(假设在统计力学和马尔可夫扩散过程中的集中不等式的核心)。
2022-12-07 cs.IT cs.LG cs.SY
Modeling Unknown Stochastic Dynamical System Subject to External Excitation
The Ohio State University(俄亥俄州立大学)
提出一种数值方法,利用短时输入/输出数据学习受外部激励的未知非自治随机动力系统,通过局部近似和生成模型构建准确的长期预测模型。
2025-02-28 cs.LG cs.SY eess.SY
Thompson Sampling for Combinatorial Network Optimization in Unknown Environments
Bilkent University(比尔肯特大学);University of Cambridge(剑桥大学)
影响力最大化、自适应路由和动态频谱分配都需要从大量替代方案中选择正确的行动。由于组合优化的进步,这些和许多类似的问题可以有效地解决给定的环境与已知的随机性。在本文中,我们采取这一步,并专注于在未知环境中的组合优化。我们考虑一个非常一般的学习框架,称为组合多臂强盗概率触发武器和一个非常强大的贝叶斯算法,称为组合汤普森采样(CTS)。在半强盗反馈模型下,假设在事先不知道基臂期望结果的情况下访问预言机,我们证明了当期望奖励在基臂期望结果中是Lipschitz连续时,CTS实现了$O(\sum_{i =1}^m\log T/(p_iΔ_i))$后悔和$O(\max\{\mathbb{E}[m\sqrt{T\log T/p^*}],\mathbb{E}[m^2/p^*]\})$贝叶斯后悔,其中$m$表示基臂的数目,$p_i$和$Δ_i$分别表示基臂的最小非零触发概率和最小次优间隙$i$,$T$表示时间范围,而$p^*$表示总的最小非零触发概率。我们还表明,当预期的奖励满足触发概率调制Lipschitz连续性,CTS实现$O(\max\{m\sqrt{T\log T},m^2\})$贝叶斯后悔,当触发概率为非零的所有基本武器,CTS实现$O(1/p^*\log(1/p^*))$后悔的时间范围无关。最后,我们数值比较CTS与算法的置信上限的基础上,在几个网络问题,并表明,CTS优于这些算法的至少…
2020-09-21 cs.LG stat.ML
Inference of Unknown Dynamical Components Using Next Generation Reservoir Computing: From Chaotic Systems to Climate Data
University College Cork(科克大学);Potsdam Institute for Climate Impact Research(波茨坦气候影响研究所)
本研究提出利用下一代储层计算(NGRC)从部分观测数据推断动力系统未知分量,在混沌系统及ENSO气候数据上均展现出高效准确的推断能力。
2026-09-22 cs.LG nlin.CD
Micro-Macro Consistency in Multiscale Modeling: Score-Based Model Assisted Sampling of Fast/Slow Dynamical Systems
Johns Hopkins University(约翰霍普金斯大学)
本研究提出利用基于分数的生成模型与物理增强采样方法耦合,以改进多尺度快/慢动力学系统的相空间采样,实现微观-宏观一致性。
2023-12-27 cs.LG math.DS
Partially Observed Sparse Graphs: The Unknown Sampling Rate is a Tail Index
RIKEN iTHEMS(理化学研究所跨学科理论科学中心);RIKEN Center for Advanced Intelligence Project (AIP)(理化学研究所先进智能研究中心);South China University of Technology(华南理工大学);Columbia University(哥伦比亚大学)
本文研究部分观测稀疏图中未知采样率的估计问题,证明其等价于尾指数估计,并给出模块化归约方法,在13个网络上无需拟合即达21.7%误差。
2026-09-23 cs.LG
Approximate Function Evaluation via Multi-Armed Bandits
Stanford University(斯坦福大学)
我们研究了一个已知的光滑函数$f$在一个未知点$\boldsymbolμ \in \mathbb{R}^n$的值的估计问题,其中每个组件$μ_i$可以通过一个嘈杂的预言采样。更频繁地对与具有较大方向导数的函数的方向相对应的$\boldsymbolμ$的分量进行采样更有采样效率。然而,由于$\boldsymbolμ$是未知的,最佳采样频率也是未知的。我们设计了一个实例自适应算法,该算法根据每个坐标的重要性学习采样,并且概率至少$1-δ$返回$f(\boldsymbolμ)$的$ε$准确估计。我们推广我们的算法,以适应异方差噪声,并证明渐近最优性时,$f$是线性的。我们证实了我们的理论结果与数值实验,显示了戏剧性的收益所提供的自适应。
2022-03-18 cs.LG
Online Learning for Stochastic Shortest Path Model via Posterior Sampling
University of Southern California(南加州大学)
研究了随机最短路径问题的在线强化学习问题,该问题被建模为一个具有吸收状态的未知MDP。我们提出了PSRL-SSP,一个简单的后验采样为基础的强化学习算法的SSP问题。该算法在历元中运行。在每个历元的开始,从未知模型动态的后验分布中抽取样本,并且在该历元期间遵循关于所抽取样本的最优策略。如果当前历元中对目标状态的访问次数超过前一历元,或者对任何状态-动作对的访问次数加倍,则历元完成。我们建立了$O(B_\star S\sqrt{AK})$的贝叶斯后悔界,其中$B_\star$是最优策略的期望成本的上界,$S$是状态空间的大小,$A$是动作空间的大小,$K$是发作次数。该算法只需要先验分布的知识,没有超参数调整。它是第一个这样的后采样算法,并在数值上优于以前提出的基于优化的算法。
2021-06-09 cs.LG
SLIP: Learning to Predict in Unknown Dynamical Systems with Long-Term Memory
University of California, Berkeley(加州大学伯克利分校)
针对随机噪声下的未知部分观测线性动力系统,提出了一种有效实用的在线预测算法(多项式时间)。当系统参数已知时,最优线性预测器是卡尔曼滤波器。然而,现有的预测模型的性能是穷人在重要的LDS类,只是勉强稳定,并表现出长期的预测记忆。我们解决这个问题,通过界定广义Kolmogorov宽度的卡尔曼滤波器模型的谱方法和进行紧凸松弛。我们提供了一个有限样本的分析,表明我们的算法竞争与卡尔曼滤波器在事后只有对数遗憾。我们的遗憾分析依赖于门德尔松的小球方法,提供尖锐的误差范围没有浓度,有界性,或指数遗忘的假设。我们还给出了实验结果表明,我们的算法优于国家的最先进的方法。我们的理论和实验结果揭示了有效的可能近似正确(PAC)学习的卡尔曼滤波器从部分观测数据所需的条件。
2020-10-12 cs.LG cs.SY eess.SY
Output-weighted optimal sampling for Bayesian regression and rare event statistics using few samples
Massachusetts Institute of Technology(麻省理工学院)
对于许多重要问题,感兴趣的量是参数的未知函数,这是具有已知统计量的随机向量。由于输出对该随机向量的依赖性是未知的,因此挑战在于使用最少数量的函数求值来识别其统计信息。这个问题可以在主动学习或最佳试验设计的背景下看到。我们采用贝叶斯回归表示由于有限和少量的输入输出对导出的模型的不确定性。在这种情况下,我们评估现有的最佳样本选择方法,如模型误差最小化和互信息最大化。我们发现,对于已知的输出方差的情况下,在文献中常用的标准不考虑现有的输入输出对的输出值,而对于未知的输出方差的情况下,这种依赖性可以是非常弱的。我们引入了一个标准,考虑到现有的样本的输出值,并自适应地选择输入的参数空间的区域有重要贡献的输出。新方法允许应用到高维输入,铺平了道路,在高维的最佳试验设计。
2019-11-30 cs.LG stat.AP stat.CO
Variational inference formulation for a model-free simulation of a dynamical system with unknown parameters by a recurrent neural network
IBM T.J. Watson Research Center(IBM T.J.沃森研究中心);Massachusetts Institute of Technology(麻省理工学院)
我们提出了一个循环神经网络的“无模型”模拟的动力系统的未知参数没有先验知识。深度学习模型旨在从时间序列数据集中联合学习非线性时间推进算子和未知参数的影响。我们假设时间序列数据集由一系列参数的轨迹的集合组成。学习任务被制定为一个统计推断问题,通过考虑未知参数作为随机变量。引入潜变量来模拟未知参数的影响,并采用变分推理方法同时训练时间推进算子的概率模型和潜变量的近似后验分布。与经典的变分推理,其中一个因式分解的分布是用来近似的后验,我们采用了一个前馈神经网络补充的编码器循环神经网络开发一个更灵活的概率模型。近似后验分布对轨迹进行推断,以识别未知参数的影响。时间推进算子由一个循环神经网络近似,该网络将从近似后验分布中采样的潜状态作为输入变量之一,计算以该潜变量为条件的概率分布的时间演化。在数值实验中,它表明,所提出的变分推理模型,使一个更准确的模拟相比,标准的递归神经网络。发现所提出的深度学习模型能够正确地识别随机参数的维度并学习复杂时间序列数据的表示。
2021-02-26 cs.LG cs.NE physics.comp-ph
A Secure Learning Control Strategy via Dynamic Camouflaging for Unknown Dynamical Systems under Attacks
Pacific Northwest National Laboratory(太平洋西北国家实验室)
针对未知线性时不变网络物理系统(CPS)遭受窃听和隐蔽攻击等组合攻击的问题,提出了一种基于强化学习(RL)的安全控制方法.我们认为攻击者的攻击场景中学习的动态模型在探索阶段的学习进行的设计师学习一个线性二次型调节器(LQR),此后,使用这些信息进行隐蔽攻击的动态系统,我们称之为基于双重学习的控制和攻击(DLCA)框架。我们提出了一种基于动态学习的攻击弹性强化学习(ARRL)算法,该算法可以学习动态系统所需的最优控制器,同时可以在攻击者对系统动态的估计中注入足够的错误信息。该算法是伴随着理论保证和广泛的数值实验的共识多智能体系统和基准电网模型。
2021-02-01 cs.LG cs.SY eess.SY
Adaptive Prior Selection in Gaussian Process Bandits with Thompson Sampling
Department of Computer Science and Engineering, Chalmers University of Technology and University of Gothenburg(计算机科学与工程系,楚尔姆斯理工大学和哥德堡大学)
本文提出两种算法,通过高斯过程强化学习进行先验选择和后悔最小化,理论分析证明了HP-GP-TS的亚线性后悔界,并通过实验验证其有效性。
2026-06-08 cs.LG stat.ML
Augmenting Neural Differential Equations to Model Unknown Dynamical Systems with Incomplete State Information
Los Alamos High School(洛斯阿拉莫斯高中)
神经常微分方程用神经网络代替传统常微分方程的右侧,凭借通用逼近定理,神经网络可以被训练成任何函数的表示。当我们不知道函数本身,但有常微分方程系统的状态轨迹(时间演化)时,我们仍然可以训练神经网络来学习底层但未知的常微分方程的表示。然而,如果系统的状态是不完全知道的,那么右手边的常微分方程不能计算。传播系统的导数不可用。我们表明,一个特别增强的神经ODE可以学习系统时,不完整的状态信息。作为一个工作的例子,我们应用神经常微分方程的Lotka-Voltera问题的3个物种,兔子,狼和熊。我们表明,即使当熊的时间序列的数据被删除,其余的时间序列的兔子和狼是足够的学习动力系统,尽管失踪的不完整的状态信息。这是令人惊讶的,因为传统的ODE系统不能输出正确的衍生物没有完整的状态作为输入。我们在Julia编程语言中实现了增强神经常微分方程和微分方程求解器。
2020-08-22 cs.LG physics.comp-ph q-bio.NC
A Dynamical System View of Langevin-Based Non-Convex Sampling
ETH Zürich(苏黎世联邦理工学院)
针对非凸采样理论中末次迭代收敛性、Wasserstein距离指标缺失等问题,提出基于动力系统理论的新框架,证明多类先进采样方案的末次迭代Wasserstein收敛性,并可启发更高效的采样方案设计。
2024-09-17 cs.LG math.PR math.ST
Barriers and Dynamical Paths in Alternating Gibbs Sampling of Restricted Boltzmann Machines
Laboratory of Physics of the \'Ecole Normale Sup\'erieure, CNRS UMR 8023 \& PSL Research, Sorbonne Universit\'e, 24 rue Lhomond, 75005 Paris, France
受限玻尔兹曼机(RBM)是一种双层神经网络,用于从数据中无监督地学习模型分布。RBM的二分体系结构自然定义了一个优雅的采样过程,称为交替吉布斯采样(AGS),其中潜变量层的配置被采样为数据变量层的条件,反之亦然。我们在这里研究的性能AGS几个分析听话的模型借用统计力学。我们表明,标准的AGS是不是更有效的比经典的大都会黑斯廷斯(MH)采样的有效能源景观上定义的数据层。然而,RBM可以识别训练数据在其潜在空间中的有意义的表示。此外,使用这些表示,并结合吉布斯采样与MH算法在潜在的空间可以提高RBM的采样性能时,隐藏单元编码弱相关的数据特征。我们在三个数据集上说明了我们的发现:在机器学习中众所周知的Bars and Stripes和MNIST,以及在理论生物学中引入的所谓的Lattice Proteins,用于研究蛋白质中的序列到结构映射。
2021-10-21 cond-mat.dis-nn cond-mat.stat-mech cs.LG
Bayesian Nonparametric Thompson Sampling for Multi-Armed Bandits
Columbia University(哥伦比亚大学)
该研究针对多臂老虎机问题,提出贝叶斯非参数汤普森采样算法,无需指定奖励模型参数形式,实验表明其后悔性能与Oracle TS相当,且在多种奖励分布场景下优于现有算法。
2026-10-14 cs.LG stat.CO stat.ML
Dynamical Measure Transport and Neural PDE Solvers for Sampling
California Institute of Technology(加州理工学院);Zuse Institute Berlin(柏林祖斯研究所);dida Datenschmiede GmbH(迪达数据 Schmiede 有限公司);Simula Research Laboratory(西穆拉研究实验室);University Hospital Freiburg(弗赖堡大学医院);RWTH Aachen(亚琛工业大学);NVIDIA(英伟达)
本研究提出基于PDE的统一动态测度输运采样框架,用PINNs近似PDE解,无需时间反转、归一化常数或数据样本,兼具效率与精度优势。
2024-07-10 cs.LG math.DS math.OC