Sample Complexity Bounds for Linear Constrained MDPs with a Generative Model
Simon Fraser University(西蒙弗雷泽大学);University of California, Los Angeles(加州大学洛杉矶分校)
该研究针对带生成模型的线性约束马尔可夫决策过程,提出可结合任意黑盒无约束MDP求解器的原-对偶框架,推导了松弛与严格可行性两种情形下的样本复杂度上下界,验证了其在维度、精度等参数上的近似最优性。
2025-10-27 cs.LG stat.ML
Open Problem: The Oracle Complexity of Convex Optimization with Limited Memory
我们注意到,已知的方法实现最佳的甲骨文复杂性的一阶凸优化需要二次内存,并询问这是否是必要的,更广泛地寻求表征的最小最大数量的一阶查询优化凸Lipschitz函数的内存约束。
2019-07-01 cs.LG math.OC stat.ML
On the Reliability of Generative Augmentation: A Wasserstein-Based Theoretical and Empirical Study
本研究提出基于Wasserstein的条件生成式数据增强统计框架,推导泛化界,经实验发现增强可靠性由分布近似误差决定,为合成数据质量评估提供了新基础。
2026-09-02 cs.LG stat.ML
Inferring Generative Model Structure with Static Analysis
Stanford University(斯坦福大学)
获得足够的标记数据来健壮地训练复杂的判别模型是机器学习管道中的主要瓶颈。一个流行的解决方案是使用生成模型将多个弱监督源结合起来。这些模型的结构会影响训练标签的质量,但在没有任何基础事实标签的情况下很难学习。相反,我们依赖于这些弱监督源,这些源通过编程编码而具有某种结构。我们提出了珊瑚,一个范例,推断生成模型的结构,通过静态分析代码,这些算法,从而减少所需的数据学习结构显着。我们证明了珊瑚的样本复杂度的规模与数量的prostitics和数量的关系发现,提高了标准样本的复杂性,这是指数在$n$识别$n^{\textrm{th}}$度关系。在实验中,Coral匹配或优于传统的结构学习方法高达3.81 F1点。使用Coral对依赖关系进行建模,而不是假设独立性,当使用统计学标记放射学数据而不使用地面真实标签时,其性能比完全监督模型好3.07个准确点。
2017-09-07 cs.AI cs.LG stat.ML
Generative Modeling via Tree Tensor Network States
University of Chicago(芝加哥大学)
在本文中,我们提出了一个密度估计框架的基础上树张量网络状态。所提出的方法包括确定树的拓扑结构与Chow-Liu算法,并获得一个线性方程组,通过素描技术定义的张量网络组件。为了考虑包含循环的图形模型,开发了草图功能的新选择。样本的复杂性保证,并进一步证实了数值实验。
2022-09-03 cs.LG quant-ph stat.ML
Finite-Time Convergence Analysis of ODE-based Generative Models for Stochastic Interpolants
IIIS, Tsinghua University(清华大学信息科学研究院)
本文研究了源自随机插值的常微分方程数值实现的有限时间收敛性,为一阶前向欧拉法和二阶 Heun 法建立了全变差距离上的误差界,并通过迭代复杂度分析提供了优化调度以提升计算效率。
2025-08-10 cs.LG
Reaching Goals is Hard: Settling the Sample Complexity of the Stochastic Shortest Path
University of Southern California(南加州大学);Meta
研究了随机最短路径问题中学习$ε$ -最优策略的样本复杂度。当学习者可以访问生成模型时,我们首先推导出样本复杂度界限。我们发现,存在一个最坏情况下的SSP实例$S$状态,$A$行动,最小成本$c_{\min}$,最大预期成本的最优策略在所有状态$B_{\star}$,其中任何算法都需要至少$Ω(SAB_{\star}^3/(c_{\min}ε^2))$样本返回一个$ε$最优策略的高概率。令人惊讶的是,这意味着无论何时$c_{\min}=0$ SSP问题可能是不可学习的,从而揭示了SSP中的学习严格地比在有限视野和折扣设置中更难。我们补充这一结果的下限时,先验知识的最优策略的命中时间是可用的,当我们限制最优性与有界命中时间的政策竞争。最后,我们设计了一个算法,在这些情况下匹配的上限。这解决了生成式SSP学习$ε$ -最优策略的样本复杂度问题。我们还开始了学习$ε$ -最优策略的研究,而无需访问生成模型(即,所谓的最佳策略识别问题),并表明样本有效学习一般是不可能的。另一方面,如果我们假设智能体可以通过支付固定成本从任何状态直接到达目标状态,则可以实现有效的学习。然后,我们建立在这个假设下的第一个上限和下限。最后,使用类似的分析工具,我们证明了在一般成本下的SSP中,无水平后悔是不可能的,解决了(Tarbouriech等人,2021年c)。
2022-10-10 cs.AI cs.LG stat.ML
Towards Sample-Optimal Compressive Phase Retrieval with Sparse and Generative Priors
National University of Singapore(新加坡国立大学)
压缩相位恢复是标准压缩感知问题的一种流行变体,其中测量值仅包含幅度信息。在本文中,受深度生成模型的最新进展的启发,我们为具有生成先验的相位恢复提供了具有接近最佳样本复杂度的恢复保证。我们首先展示了当使用i.i.d.高斯测量和具有有界$k$维输入的$L$-Lipschitz连续生成模型,大致$O(k \log L)$样本足以保证使基于振幅的经验损失函数最小化的任何信号接近真实信号。用一个实用的算法来实现这个样本复杂度仍然是一个困难的挑战,并且已经观察到为基于梯度的方法找到一个好的初始化是一个主要的瓶颈。为了部分地解决这个问题,我们进一步表明,大致$O(k \log L)$样本确保基础信号和任何{ \em全局最优}解决方案之间足够的接近度,以优化问题的频谱初始化(虽然找到这样的解决方案可能仍然是具有挑战性的)。我们还适应这一结果稀疏相位恢复,并表明,$O(s \log n)$样本是足够的一个类似的保证时,基本的信号是$s$ -稀疏和$n$维,匹配的信息理论下限。虽然这些保证不直接对应于一个实用的算法,我们提出了一个实用的频谱初始化方法,我们的研究结果的动机,并通过实验观察性能增益超过现有的各种频谱初始化方法稀疏相位检索。
2021-10-17 cs.IT cs.LG math.IT
Can Generative Artificial Intelligence Survive Data Contamination? Theoretical Guarantees under Contaminated Recursive Training
本文首次严格证明在温和条件下,即使模型递归训练于自身生成的数据,仍能收敛到真实数据分布,并揭示了数据限制与模型限制之间的相变。
2026-06-29 cs.AI cs.LG math.ST
Scalable Wasserstein Gradient Flow for Generative Modeling through Unbalanced Optimal Transport
Seoul National University(首尔大学);Korea Institute for Advanced Study(韩国高等研究院)
本文提出可扩展的WGF生成模型S-JKO,基于JKO步骤与非平衡最优传输的等价性推导半对偶形式,将训练复杂度从O(K^2)降至O(K),在图像生成基准上取得与最先进模型可比的性能。
2024-06-03 cs.CV cs.LG
Barron Optimal Transport I: Generative Modeling
该研究引入Barron最优传输框架,将其用于生成建模,量化了扩散生成建模在Barron几何中的次优性,还将该几何扩展至采样应用以优化Stein变分梯度方法。
2026-10-09 cs.LG math.AP
Input complexity and out-of-distribution detection with likelihood-based generative models
Dolby Laboratories(杜比实验室);Telefónica Research(西班牙电信研究中心);Universitat Politècnica de Catalunya(加泰罗尼亚理工大学);Universitat Pompeu Fabra(庞培法布拉大学)
基于似然的生成模型是一种很有前途的资源,以检测出的分布(OOD)的输入,可能会损害机器学习系统的鲁棒性或可靠性。然而,从这样的模型导出的似然性已经被证明对于检测与训练数据显著不同的某些类型的输入是有问题的。在本文中,我们提出这个问题是由于输入复杂性在生成模型的似然性中的过度影响。我们报告了一组支持这一假设的实验,并使用输入复杂性的估计来获得一个有效的和无参数的OOD得分,它可以被看作是一个似然比,类似于贝叶斯模型比较。我们发现,这样的分数,以执行三倍,甚至更好地比,现有的面向对象的检测方法在广泛的数据集,模型,模型大小,和复杂性估计。
2020-01-17 cs.LG stat.ML
Full-Model Optimality for Tunable Linear Generative Priors in Compressed Sensing
Northeastern University(东北大学);Khoury College of Computer Sciences(卡尔计算机科学学院)
本文针对压缩感知中可调线性生成先验建立理论,证明无噪高斯场景下全维线性先验达最小期望重建误差,该可调性优势源于神经网络先验的非线性。
2026-09-03 cs.LG stat.ML
The Effects of Invertibility on the Representational Complexity of Encoders in Variational Autoencoders
Carnegie Mellon University(卡内基梅隆大学)
训练和使用基于现代神经网络的潜变量生成模型(如变分自编码器)通常需要同时训练生成方向和推理(编码)方向,这近似于潜变量的后验分布。因此,问题就来了:为了能够准确地模拟给定生成模型的后验分布,推理模型需要有多复杂?在本文中,我们确定了一个重要的属性的生成地图影响所需的大小的编码器。我们表明,如果生成地图是“强可逆的”(在某种意义上,我们适当地正式),推理模型不需要更复杂。相反,我们证明了存在不可逆的生成映射,其编码方向需要呈指数增长(在计算复杂性的标准假设下)。重要的是,我们不要求生成模型是逐层可逆的,这是许多相关文献假设的,并且在实践中使用的许多架构(例如基于卷积和池化的网络)都不满足。因此,我们为经验智慧提供了理论支持,即当数据位于低维流形上时,学习深度生成模型更难。
2021-07-09 cs.LG stat.ML
On the Sample Complexity of Reinforcement Learning with a Generative Model
Radboud University Nijmegen(拉德堡德大学奈梅亨分校);INRIA Lille(法国国家信息与自动化研究所里尔分部)
研究了折扣报酬马尔可夫决策过程中最优行动价值函数的学习问题。在生成模型存在的情况下,我们证明了基于模型的值迭代算法的样本复杂度的一个新的PAC界,表明对于具有N个状态-动作对和折扣因子γ \in [0,1)的MDP,仅需O(N \log(N/δ)/((1-γ)^3ε^2))个样本就能找到动作-价值函数的概率为1-δ的ε-最优估计.我们还证明了每种RL算法估计最优行动价值函数的样本复杂度Θ(N \log(N/δ)/((1-γ)^3ε^2))的一个匹配下界.据我们所知,这是关于估计最优(作用)价值函数的样本复杂度的第一个匹配结果,其中上界在N,ε,δ和1/(1-γ)方面与RL的下界匹配。此外,我们的下限和上限都在1/(1-γ)方面显着提高了最先进的水平。
2012-06-27 cs.LG stat.ML
Deep Generative Model using Unregularized Score for Anomaly Detection with Heterogeneous Complexity
Kobe University(神户大学)
自然图像数据集中异常样本的准确和自动检测可以通过用于图像的端到端建模的概率模型来完成。然而,这样的图像具有异质的复杂性,并且概率模型忽略了具有小异常的简单形状的对象。这是因为概率模型将不期望的较低可能性分配给形状复杂的对象,但这些对象与设定的标准一致。为了克服这个困难,我们提出了一个深度生成模型(DGMs)的非正则化分数,DGMs是利用深度神经网络的生成模型。我们发现,正则化条款的DGMs显着影响异常分数取决于样本的复杂性。通过删除这些项,我们获得了一个未正则化的分数,我们在玩具数据集和真实世界的制造数据集上进行了评估。实验结果表明,非正则化的分数是强大的样本的固有复杂性,可以用来更好地检测异常。
2018-09-04 cs.CV cs.LG stat.ML
A Generative Modeling Approach to Limited Channel ECG Classification
IBM Almaden Research Center(IBM阿尔马登研究中心);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
处理时间序列是医疗保健中各种应用的核心,特别是多通道心电图(ECG)是一种高度流行的诊断模式,依赖于强大的序列建模。虽然递归神经网络(RNN)在使用时间序列数据进行自动诊断方面取得了重大进展,但当使用有限的通道集训练模型时,它们的表现很差。现有解决方案的一个关键限制是,它们仅依赖于判别模型,而判别模型在这种情况下往往泛化能力很差。为了克服这一局限性,我们开发了一种生成式建模方法来进行有限通道ECG分类。该方法首先使用Seq2Seq模型来隐式地生成丢失的信道信息,然后使用潜在表示来执行实际的监督任务。这种解耦使得能够使用无监督数据,并且还为后续的判别学习提供高度鲁棒的度量空间。我们对Physionet数据集的实验清楚地证明了我们的方法在疾病预测中优于标准RNN的有效性。
2018-06-14 cs.LG stat.ML
Complexity Matters: Rethinking the Latent Space for Generative Modeling
National University of Singapore(新加坡国立大学);Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本文从模型复杂性视角重新思考生成建模的隐空间,提出隐-数据分布距离及解耦自编码器(DAE)两阶段训练策略,在 VQGAN 和 Diffusion Transformer 等模型上以更低模型复杂性显著提升生成质量。
2023-10-29 cs.LG stat.ML
Sample Complexity of Robust Reinforcement Learning with a Generative Model
Texas A&M University(德州农工大学)
鲁棒马尔可夫决策过程(RMDP)框架的重点是设计控制策略,对由于模拟器模型和现实世界的设置之间的不匹配的参数不确定性是鲁棒的。RMDP问题通常被公式化为最大-最小问题,其中目标是找到最大化最差可能模型的价值函数的策略,该最差可能模型位于标称模型周围的不确定性集合中。标准的鲁棒动态规划方法需要名义模型的知识来计算最优鲁棒策略。在这项工作中,我们提出了一个基于模型的强化学习(RL)算法学习$ε$ -最优的鲁棒策略时,名义模型是未知的。我们考虑三种不同形式的不确定性集,其特征在于总变化距离,卡方发散和KL发散。对于每一个这些不确定性集,我们给出了我们所提出的算法的样本复杂性的精确表征。除了样本的复杂性结果,我们还提出了一个正式的分析参数的好处,使用强大的政策。最后,我们证明了我们的算法在两个基准问题的性能。
2022-05-14 cs.LG stat.ML
A Note on Target Q-learning For Solving Finite MDPs with A Generative Oracle
Shenzhen Research Institute of Big Data(深圳大数据研究院);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Nanjing University(南京大学)
具有函数逼近的Q学习可能在非策略设置中发散,目标网络是解决这个问题的强大技术。在这篇手稿中,我们研究的样本复杂性的相关目标Q-学习算法在表格的情况下,生成的预言。我们指出了[Lee and He,2020]中的一个误导性声明,并建立了一个严密的分析。特别地,我们证明了[Lee和He,2020]中目标Q学习算法的样本复杂度是$\widetilde{\mathcal O}(|\mathcal S|^2|\mathcal A|^2 (1-γ)^{-5}\varepsilon^{-2})$。此外,我们表明,这个样本的复杂性提高到$\widetilde{\mathcal O}(|\mathcal S||\mathcal A| (1-γ)^{-5}\varepsilon^{-2})$,如果我们可以顺序更新所有的状态-动作对和$\widetilde{\mathcal O}(|\mathcal S||\mathcal A| (1-γ)^{-4}\varepsilon^{-2})$,如果$γ$是进一步在$(1/2, 1)$。与普通Q学习相比,我们的结果得出结论,引入一个冻结的目标Q函数并没有牺牲样本的复杂性。
2022-03-22 cs.LG stat.ML
Deep Generative Models: Complexity, Dimensionality, and Approximation
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);University of Michigan(密歇根大学)
本研究受空间填充曲线启发,证明了生成网络可从任意低维输入逼近高维黎曼流形分布,打破了潜在维度须不低于流形维度的传统假设,并揭示了逼近误差、维度与模型复杂度间的权衡。
2025-04-01 cs.LG math.DG stat.ML
Attribute Graphs Underlying Molecular Generative Models: Path to Learning with Limited Data
IBM Research(IBM研究院);Google Research India(谷歌研究院印度分部)
本文提出通过扰动预训练生成自编码器的潜在编码来揭示属性图,并利用马尔可夫毯属性构建预测模型,在有限数据和分布偏移下实现更鲁棒的分子性质预测。
2024-08-29 cs.LG stat.ML
Near-Optimal Sample Complexity for Recursive Entropic Risk Reinforcement Learning with a Generative Model
Sharif University of Technology(谢里夫理工大学);University of Copenhagen(哥本哈根大学)
本文针对递归熵风险强化学习,在生成模型下提出精细的MB-RS-QVI分析,获得近最优样本复杂度,消除上下界指数差距,仅留多项式差距。
2026-10-07 cs.LG stat.ML
Training Generative Adversarial Networks with Limited Data
NVIDIA(英伟达);Aalto University(阿尔托大学)
使用太少的数据训练生成对抗网络(GAN)通常会导致过度拟合,导致训练发散。我们提出了一种自适应的数据增强机制,可以在有限的数据范围内显着稳定训练。该方法不需要改变损失函数或网络架构,并且在从头开始训练和在另一个数据集上微调现有GAN时都适用。我们在几个数据集上证明,现在只使用几千张训练图像就可以获得良好的结果,通常将StyleGAN 2结果与数量级更少的图像相匹配。我们希望这将为GANs开辟新的应用领域。我们还发现,广泛使用的CIFAR-10实际上是一个有限的数据基准,并将记录FID从5.59提高到2.42。
2020-10-07 cs.CV cs.LG cs.NE
Universal Smoothed Score Functions for Generative Modeling
UC Berkeley(加州大学伯克利分校);Prescient Design, Genentech, Roche(罗氏基因泰克Prescient Design部门);NNAISENSE(NNAISENSE公司);Inria(法国国家信息与自动化研究所);Ecole Normale Supérieure(巴黎高等师范学院);PSL Research University(巴黎文理研究大学)
我们考虑了基于使用阶乘核平滑$\mathbb{R}^d$中感兴趣的未知密度的生成建模问题,阶乘核具有由Saremi和Srivastava(2022)引入的具有相等噪声水平的$M$独立高斯通道。首先,我们充分表征学习的时间复杂性所产生的平滑密度在$\mathbb{R}^{Md}$,称为M-密度,推导出一个通用的形式,其参数化的得分函数是由建设置换等变。接下来,我们通过分析高斯分布的条件数来研究采样M-密度的时间复杂度。这种谱分析给出了随着$M$的增加,M密度的“形状”的几何见解。最后,我们在CIFAR-10数据集上展示了这类生成模型的样本质量结果,其中我们报告了Fréchet起始距离(14.15),特别是在长期快速混合MCMC链上使用单一噪声水平获得的。
2023-03-21 cs.LG stat.ML
Scalable Deep Generative Modeling for Sparse Graphs
Google Research(谷歌研究院);DeepMind
学习图生成模型对于深度学习来说是一项具有挑战性的任务,并且在化学、生物学和社会科学等一系列领域具有广泛的适用性。然而,当前的深度神经方法具有有限的可扩展性:对于具有$n$节点和$m$边的图,现有的深度神经方法需要通过建立邻接矩阵来实现$Ω(n^2)$复杂度。另一方面,许多现实世界的图实际上是稀疏的,在这个意义上,$m\ll n^2$。在此基础上,我们开发了一种新的自回归模型,命名为BiGG,利用这种稀疏性,以避免生成完整的邻接矩阵,并大大降低了图形生成的时间复杂度$O((n + m)\log n)$。此外,在训练期间,该自回归模型可以与$O(\log n)$同步阶段并行化,这使得它比需要$Ω(n)$的其他自回归模型更有效。在几个基准上的实验表明,所提出的方法不仅可以扩展到比以前的深度自回归图生成模型更大的图形数量级,而且可以产生更好的图形生成质量。
2020-06-28 cs.LG stat.ML
Generative Adversarial Networks for Black-Box API Attacks with Limited Training Data
Intelligent Automation, Inc.(智能自动化公司)
由于基于机器学习的在线系统通过应用程序编程接口(API)提供给公共或付费用户,因此它们容易受到频繁的利用和攻击。本文研究了在实际情况下,当API调用有速率限制时的对抗性机器学习。对手通过以下方式发起探索性(推理)攻击:用输入数据样本查询在线机器学习系统(特别是分类器)的API,收集返回的标签以建立训练数据,并训练功能上等效且统计上接近目标分类器的对抗性分类器。有限的训练数据的探索性攻击被证明无法可靠地推断出一个真实的文本分类器API,可在线向公众提供的目标分类器。作为回报,构建基于深度学习的生成对抗网络(GAN)以从有限数量的真实训练数据样本生成合成训练数据,从而扩展训练数据并提高推断分类器的性能。探索性攻击通过基于从推断的分类器获得的置信度得分分别选择训练和测试数据样本,提供了发起因果攻击(旨在毒害训练过程)和逃避攻击(旨在欺骗分类器做出错误决策)的基础。这些具有小足迹的隐形攻击(使用少量API调用)使对抗机器学习在对手可用的训练数据有限的现实情况下变得实用。
2019-01-25 cs.CR cs.LG stat.ML
Generative Model with Dynamic Linear Flow
Jilin University(吉林大学);Zhuhai College of Jilin University(吉林大学珠海学院)
基于流的生成模型是一类精确的对数似然模型,具有易处理的采样和潜变量推断,因此在概念上对复杂分布的建模很有吸引力。然而,与最先进的自回归模型相比,基于流的模型受到密度估计性能问题的限制。自回归模型,这也属于家庭的似然为基础的方法,然而,遭受有限的并行化。在本文中,我们提出了动态线性流(DLF),一个新的家庭的可逆变换的部分自回归结构。我们的方法受益于基于流的方法的高效计算和自回归方法的高密度估计性能。我们证明,在所有基于流的方法中,所提出的DLF在ImageNet 32x32和64x64上产生了最先进的性能,并且与最好的自回归模型竞争。此外,我们的模型收敛速度比Glow快10倍(Kingma和Dhariwal,2018)。该代码可在https://github.com/naturomics/DLF上获得。
2019-05-08 cs.LG stat.ML
Evaluating Generative Adversarial Networks on Explicitly Parameterized Distributions
Massachusetts Institute of Technology(麻省理工学院)
常用图像数据集的真实分布参数化是无法获得的。而不是设计指标的特征空间与未知的特点,我们建议通过评估显式参数化,合成数据分布来衡量GAN的性能。作为一个案例研究,我们研究了16个GAN变体在不同维度和训练集大小的六个多元分布上的性能。在这种学习环境中,我们观察到:GANs在各个维度上表现出相似的性能趋势;学习取决于底层分布及其复杂性;训练样本的数量可能对性能产生很大影响;评估和相对比较依赖于度量;不同的超参数集可以产生“最佳”结果;并且某些GANs对超参数变化的鲁棒性比其他更强。这些观察结果都证实了以前的GAN评估研究的结果,并就规模,复杂性和GAN性能之间的关系做出了新的贡献。
2018-12-27 cs.LG stat.ML
CrystalGAN: Learning to Discover Crystallographic Structures with Generative Adversarial Networks
University Paris Est(巴黎东大学);CNRS(法国国家科学研究中心);UPEC(巴黎东克雷泰伊大学);Sorbonne University(索邦大学);INSERM(法国国家健康与医学研究院)
我们的主要动机是提出一种有效的方法来产生新的多元素稳定的化合物,可用于现实世界的应用。这个任务可以被表述为一个组合问题,需要人类专家花费许多时间来构建和评估新数据。生成对抗网络(GANs)等无监督学习方法可以有效地用于生成新数据。跨域生成对抗网络在图像处理应用中取得了令人振奋的成果。然而,在材料科学领域,需要合成与观测样本相比具有更高阶复杂度的数据,并且最先进的跨域GANs不能直接适应。在这篇文章中,我们提出了一种新的GAN称为CrystalGAN,它产生新的化学稳定的晶体结构,增加域的复杂性。我们介绍了一个原始的架构,我们提供了相应的损失函数,我们表明,CrystalGAN生成非常合理的数据。我们说明了所提出的方法的效率上的一个真正的原始问题的新发现,可进一步用于储氢材料的开发。
2019-05-25 cs.LG stat.ML
Improving brain computer interface performance by data augmentation with conditional Deep Convolutional Generative Adversarial Networks
脑机接口领域的一个很大的限制是训练样本非常有限,很难用这样有限的数据建立一个可靠的可用系统。为了提高卷积神经网络在脑机接口领域中的性能,克服训练数据集小的问题,受生成对抗网络的启发,提出了一种条件深度卷积生成对抗网络(cDCGAN)方法,自动生成更多的人工脑电信号用于数据增强。我们在运动想象的BCI竞争数据集上评估了所提出的cDCGAN方法。实验结果表明,从高斯噪声中生成的人工脑电数据能够学习到原始脑电数据的特征,并且在测试数据集中具有不低于原始脑电数据的分类精度。同时,在训练数据有限的情况下,利用生成的人工数据可以有效地提高同一模型的分类精度。
2018-12-27 cs.HC cs.LG q-bio.NC
Recursive Entropic Risk Optimization in Discounted MDPs: Sample Complexity Bounds with a Generative Model
Department of Computer Science, University of Copenhagen(哥本哈根大学计算机科学系)
本文研究了在有限折扣马尔可夫决策过程(MDP)中使用递归熵风险度量(ERM)进行风险敏感强化学习的问题,引入了基于模型的算法Model-Based ERM Q-Value Iteration(MB-RS-QVI),并推导了该算法在价值学习和策略学习中的PAC型样本复杂性界,证明了在最坏情况下样本复杂性与|β|/(1-γ)呈指数关系,为递归ERM在风险规避和风险寻求情形下的样本复杂性提供了首次严格保证。
2026-05-18 cs.AI cs.LG math.OC
Sequential Transfer in Reinforcement Learning with a Generative Model
Politecnico di Milano(米兰理工大学)
我们感兴趣的是如何设计强化学习代理,可证明降低样本的复杂性学习新的任务,从以前解决的知识转移。相关问题的解决方案的可用性提出了一个基本的权衡:是否寻求政策,预计将立即实现高(但次优)的新任务的性能或是否寻求信息,以快速确定一个最佳的解决方案,可能在不良的初始行为的成本。在这项工作中,我们专注于第二个目标时,代理有机会生成模型的状态-动作对。首先,给定一组已解决的任务,其中包含目标任务的近似值,我们设计了一种算法,该算法通过寻找最能提供信息的状态-动作对来快速识别准确的解决方案。我们得出PAC的界限,其样本的复杂性,清楚地表明使用这种先验知识的好处。然后,我们展示了如何学习这些近似的任务顺序减少我们的转移设置的隐马尔可夫模型,并采用频谱方法来恢复其参数。最后,我们在简单的模拟域实证验证我们的理论研究结果。
2020-07-01 cs.LG stat.ML
SSFN -- Self Size-estimating Feed-forward Network with Low Complexity, Limited Need for Human Intervention, and Consistent Behaviour across Trials
KTH Royal Institute of Technology(瑞典皇家理工学院);INRIA Grenoble Rhone-Alpes(法国国家信息与自动化研究所格勒诺布尔罗纳-阿尔卑斯分部);University of Tokyo(东京大学);Cold Spring Harbor Laboratory(冷泉港实验室)
我们设计了一个自估计大小的前馈网络(SSFN),使用联合优化方法估计层数,节点数和学习的权重矩阵。学习算法具有低的计算复杂性,优选地使用膝上型计算机在几分钟内。此外,该算法对人为干预调整参数的需求有限。SSFN从一个小规模的网络增长到一个大规模的网络,保证了单调增加的节点和层的成本。该学习方法巧妙地结合了某些激活函数的“无损流性质”、凸优化和随机矩阵的实例。一致的性能-低变化的蒙特卡罗试验-被发现的推理性能(分类精度)和估计的网络大小。
2020-03-04 cs.LG stat.ML
CoreFlow: Low-Rank Matrix Generative Models
H. Milton Stewart School of Industrial and Systems Engineering, Georgia Institute of Technology(H. Milton Stewart工业与系统工程学院,佐治亚理工学院)
CoreFlow通过学习矩阵分布的共享行/列子空间,采用连续归一化流在低维核心上训练,提升高维小样本下的矩阵生成质量与效率。
2026-04-27 cs.LG stat.ML
Kernel-Based Training of Generative Networks
Rutgers University(罗格斯大学);University of Patras(帕特雷大学)
生成对抗网络(GANs)是在最小-最大优化问题的帮助下设计的,这些优化问题是用随机梯度型算法解决的,而这些算法是非鲁棒的。在这项工作中,我们重新审视了一个非对抗性的方法依赖于一个纯粹的最小化问题的内核,并提出了一个简单的随机梯度算法计算其解决方案。使用随机逼近理论的简化工具,我们证明了批量版本的算法或平滑的梯度不会提高收敛性。这些观察允许开发一种训练算法,该算法具有降低的计算复杂性和增加的鲁棒性,同时表现出与经典GANs相似的合成特性。
2018-11-23 cs.LG stat.ML
Convergence for score-based generative modeling with polynomial complexity
Johns Hopkins University(约翰斯·霍普金斯大学);Duke University(杜克大学)
该研究证明了基于分数的生成建模核心机制的首个多项式收敛保证,规避了指数误差与维数灾难,为退火过程的必要性提供理论支撑,且验证了预测-校正算法的更优收敛性。
2023-05-03 cs.LG math.PR math.ST
One-shot Generative Distribution Matching for Augmented RF-based UAV Identification
National Center for Supercomputing Applications(国家超级计算应用中心);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对有限射频环境下无人机识别困难的问题,提出利用单样本生成方法增强变换后的RF信号,在低数据场景下优于GANs和VAEs,并提供了理论保证。
2024-07-24 cs.CR cs.LG stat.AP
f-GAN: Training Generative Neural Samplers using Variational Divergence Minimization
Microsoft Research(微软研究院)
生成式神经采样器是使用前馈神经网络实现采样的概率模型:它们采用随机输入向量并从由网络权重定义的概率分布中产生样本。这些模型具有表达能力,可以有效地计算样本和导数,但不能用于计算似然性或边缘化。生成对抗训练方法允许通过使用辅助判别神经网络来训练这样的模型。我们表明,生成对抗的方法是一个特殊的情况下,现有的更一般的变分散度估计方法。我们证明了任何f-发散都可以用于训练生成神经采样器。我们讨论了不同的发散函数选择对训练复杂性和生成模型质量的好处。
2016-06-02 cs.LG stat.ME stat.ML
Surprising Negative Results for Generative Adversarial Tree Search
Caltech(加州理工学院);Stanford University(斯坦福大学);UC Davis(加州大学戴维斯分校);Carnegie Mellon University(卡内基梅隆大学)
虽然深度强化学习(RL)的许多最新进展依赖于无模型方法,但基于模型的方法仍然具有利用无监督数据学习环境模型的潜力。在这项工作中,我们对RL环境的深度生成模型的设计进行了广泛的研究,并提出了一种样本高效和鲁棒的方法来学习Atari环境的模型。我们部署了这个模型,并提出了生成对抗树搜索(GATS),这是一种深度RL算法,可以学习环境模型,并在学习的模型上实现蒙特卡罗树搜索(MCTS)以进行规划。虽然学习模型上的MCTS在计算上是昂贵的,类似于AlphaGo,但GATS遵循深度有限的MCTS。GATS采用深度Q网络(DQN),并学习Q函数为MCTS中的树的叶子赋值。我们从理论上分析了GATS的偏差-方差权衡,并表明GATS能够减轻Q估计中的最坏情况误差。虽然我们期望GATS能够拥有更好的样本复杂性,并更快地收敛到更好的政策,但令人惊讶的是,GATS未能超越DQN。我们提供了一个研究,我们表明为什么深度有限的MCTS无法执行理想的。
2019-09-05 cs.AI cs.LG stat.ML
Reducing bias and increasing utility by federated generative modeling of medical images using a centralized adversary
University of British Columbia(不列颠哥伦比亚大学);Microsoft(微软)
我们介绍了FELICIA(FEDERATED LEARNING WITH A CentralIzed Advertisement),一种支持协作学习的生成机制。特别是,我们展示了数据有限和有偏见的数据所有者如何从其他数据所有者那里受益,同时保持所有来源的数据的私密性。这是医学图像分析中的常见情况,其中隐私立法阻止数据在本地场所之外共享。FELICIA适用于生成对抗网络(GAN)架构的大家族,包括香草和条件GANs,如本工作所示。我们表明,通过使用FELICIA机制,有限的图像样本的数据所有者可以生成高质量的合成图像,具有高实用性,而数据所有者都没有提供访问其数据。共享仅通过一个中央数据库进行,该数据库只能访问合成数据。在这里,效用被定义为在真实测试集上的分类性能。我们使用基准图像数据集(MNIST,CIFAR-10)以及皮肤病变分类任务的医学图像上的几个现实的医疗保健系统上证明了这些好处。通过多个实验,我们表明,即使在最坏的情况下,将FELICIA与真实数据相结合,也能优雅地实现与真实数据相当的性能,而大多数结果显着提高了效用。
2021-08-29 cs.AI cs.CV cs.DC
Deep generative demixing: Recovering Lipschitz signals from noisy subgaussian mixtures
生成神经网络(GNN)因有效地捕捉自然图像中的内在低维结构而闻名。在这里,我们研究了两个Lipschitz信号的亚高斯解混问题,GNN解混是一种特殊情况。在去混合中,人们寻求在给定两个信号的和和先前的结构信息的情况下识别两个信号。在这里,我们假设每个信号都位于Lipschitz函数的范围内,其中包括许多流行的GNN作为特例。我们证明了接近最优恢复误差的样本复杂度界,该复杂度界将Bora等人(2017)的最新结果从高斯矩阵的压缩感知设置扩展到亚高斯矩阵的解混。在信号位于凸集的线性信号模型下,McCoy & Tropp(2014)描述了亚高斯混合下识别的样本复杂度。在本设置中,信号结构不需要是凸的。例如,我们的结果适用于一个域,这是一个非凸联盟的凸锥。我们使用训练的GNN进行数值模拟,支持这种分层模型的有效性,提出了一种算法,这将是进一步理论研究的有趣对象。
2020-10-13 cs.IT math.IT stat.ML