Sparse Markov Decision Processes with Causal Sparse Tsallis Entropy Regularization for Reinforcement Learning
Seoul National University(首尔大学)
本文提出了一种新的因果稀疏Tsallis熵正则化的稀疏马尔可夫决策过程(MDP),该策略正则化可使稀疏MDP的最优策略分布具有稀疏性和多峰性。本文首先分析了稀疏MDP的最优性条件,然后给出了稀疏MDP的最优性条件。然后,我们提出了一个稀疏值迭代方法,解决了稀疏MDP,然后证明了收敛性和最优性稀疏值迭代使用Banach不动点定理。建议的稀疏MDP相比,软MDP利用因果熵正则化。我们表明,稀疏MDP的性能误差有一个恒定的界限,而软MDP的错误增加相对于动作的数量,其中这种性能误差是由引入的正则化项。在实验中,我们将稀疏MDP应用于强化学习问题。所提出的方法优于现有的方法在收敛速度和性能。
2017-10-13 cs.AI cs.LG stat.ML
Sparse Interaction Neighborhood Selection for Markov Random Fields via Reversible Jump and Pseudoposteriors
本文针对二维格点马尔可夫随机场,提出可逆跳转MCMC算法在最大邻域子集间跳转,利用边缘伪后验分布实现稀疏交互邻域选择,并通过模拟与真实纹理图像数据验证方法有效性。
2024-04-30 stat.CO stat.ML
High-Dimensional Covariance Decomposition into Sparse Markov and Independence Models
拟合高维数据涉及到忠实表示和稀疏模型的使用之间的微妙权衡。通常,拟合模型上的稀疏性假设过于严格,无法提供观测数据的忠实表示。本文提出了一种在不同领域结合稀疏性的新框架,将观测到的协方差阵分解为稀疏高斯马尔可夫模型(具有稀疏精度矩阵)和稀疏独立模型(具有稀疏协方差阵)。我们的框架将稀疏协方差和稀疏精度估计作为特例,从而引入了更丰富的高维模型。我们刻画了两个模型,\viz马尔可夫模型和独立模型的可识别性的充分条件。我们提出了一种有效的分解方法的基础上修改流行的$\ell_1$惩罚最大似然估计($\ell_1$ -MLE)。我们确定我们的估计量在两个域中是一致的,即,当样本数$n$为$n = Ω(d^2 \log p)$时,它成功地恢复了马尔可夫模型和独立模型的支持度,其中$p$是马尔可夫模型中的变量数,$d$是马尔可夫模型中的最大节点度.我们的实验验证了这些结果,也表明我们的模型有更好的推理精度下简单的算法,如循环的信念传播。
2013-12-14 math.ST stat.ML stat.TH
Review on Parameter Estimation in HMRF
这是一份技术报告,探讨了马尔可夫随机场和高斯隐马尔可夫随机场中超参数的估计方法。在第一部分中,我们简要地研究了梅特罗波利斯-黑斯廷斯算法的理论框架。其次,利用MH算法对Ising模型的数据进行了仿真,研究了如何利用MCMC算法进行伪似然近似的超参数估计。接着讨论了利用MAP估计和期望最大化算法对高斯隐马尔可夫随机场进行参数估计的过程,并对实验中发现的问题进行了讨论。在接下来的部分中,我们将这个想法扩展到高斯隐马尔可夫时空随机场的参数估计上,并展示了两个实验的结果。
2017-11-20 stat.ML
Reversible MCMC on Markov equivalence classes of sparse directed acyclic graphs
图形模型是一种流行的统计工具,用于表示相关或因果的复杂系统。统计等价的因果或有向图模型被称为属于马尔可夫等价类。描述和理解这些类的空间是非常有趣的。然而,与目前已知的算法,在这样的类的采样是唯一可行的图形与少于约20个顶点。在本文中,我们设计可逆的不可约马尔可夫链的马尔可夫等价类的空间,提出了一个完美的运营商,确定的马尔可夫链的转移。本文提出的马尔可夫链的平稳分布具有封闭形式,易于计算。具体来说,我们构造了一个具体的完美集稀疏马尔可夫等价类的运营商通过引入适当的条件,对每个可能的运营商。给出了有效生成马尔可夫链的算法及其加速版本,并研究了具有数千个顶点的稀疏有向无环图(DAG)的马尔可夫等价类的性质.我们通过实验发现,在大多数稀疏DAG的马尔可夫等价类中,(1)大多数边是有向的,(2)大多数无向子图是小的,(3)这些无向子图的数量随着顶点的数量近似线性地增长。本文包含补充arXiv:1303.0632,http://dx.doi.org/10.1214/13-AOS1125SUPP
2014-01-27 cs.DM stat.ME stat.ML
Stochastic Learning for Sparse Discrete Markov Random Fields with Controlled Gradient Approximation Error
UW-Madison(威斯康星大学麦迪逊分校);University of Washington(华盛顿大学)
我们研究了离散马尔可夫随机场(MRF)的$L_1$正则化最大似然估计/估计(MLE)问题,其中高效和可扩展的学习需要稀疏正则化和近似推理。为了解决这些挑战,我们考虑了一种称为随机邻近梯度的随机学习框架(SPG; Honorio 2012 a,Atchade et al. 2014,Miasojedow and Rejchel 2016)。SPG是一种不精确的近端梯度算法[Schmidtet等人,2011年],其不精确性源于梯度近似的随机预言(吉布斯采样)-由于离散MRF的NP难推理问题,精确梯度评估通常是不可行的[Koller和Friedman,2009年]。在理论上,我们提供了新的可验证的边界来检查和控制梯度逼近的质量。在实验上,我们提出了基于可验证边界的收紧渐近(TAY)学习策略,以提高SPG的性能。
2020-05-12 cs.LG stat.ML
Fitting Sparse Markov Models to Categorical Time Series Using Convex Clustering
本文提出一种基于凸聚类和正则化的稀疏马尔可夫模型拟合方法,通过BIC选择正则化参数,并证明其模型选择一致性,模拟和疾病亚型分类实证验证了方法的有效性。
2025-07-02 stat.ME stat.ML
Collaborative filtering via sparse Markov random fields
Center for Pattern Recognition and Data Analytics(模式识别与数据分析中心);Deakin University(迪肯大学)
推荐系统在提供个性化的信息和服务方面发挥着核心作用。本文重点介绍了协同过滤,一种方法,利用共享结构之间的头脑喜欢的用户和类似的项目。特别是,我们专注于一个正式的概率框架称为马尔可夫随机场(MRF)。我们解决了结构学习的开放问题,并引入了稀疏诱导算法来自动估计用户之间和项目之间的交互结构。项目-项目和用户-用户相关网络作为副产品获得。在电影推荐和日期匹配数据集上的大规模实验证明了该方法的有效性。
2016-02-09 cs.IR cs.LG stat.ML
Efficient methods for Gaussian Markov random fields under sparse linear constraints
线性约束高斯马尔可夫随机场(GMRF)的推理和模拟方法在约束数量很大时计算量很大。在某些情况下,例如对于固有GMRF,它们甚至可能是不可行的。我们提出了一类新的方法来克服这些挑战,在常见的情况下稀疏的约束,其中一个有大量的约束,每个只涉及几个元素。我们的方法依赖于一个基础上的转换成块的约束与非约束子空间,我们表明,该方法大大优于现有的替代方案的计算成本。通过将所提出的方法与高斯随机场的随机偏微分方程方法相结合,我们还展示了如何在GMRF设置中制定具有线性约束的高斯过程回归以降低计算成本。这在两个具有模拟数据的应用中说明。
2021-06-03 stat.CO stat.ME stat.ML
Sparse Nested Markov models with Log-linear Parameters
University of Southampton(南安普顿大学);Cambridge University(剑桥大学);University of Washington(华盛顿大学);Harvard University(哈佛大学)
隐变量在实际数据分析中无处不在,因此对边际密度进行建模并使用所得模型进行推断是统计学、机器学习和因果推断中的重要问题。最近,一种新型的图形模型,称为嵌套马尔可夫模型,它捕获的有向无环图(DAG)模型的边缘发现的等式约束。其中一些约束,如所谓的“Verma约束”,严格地概括了条件独立性。为了使用嵌套马尔可夫模型进行建模和推理,有必要限制模型中参数的数量,同时仍然正确捕获DAG模型边缘的约束。设置这样的限制在精神上类似于无向图模型和回归模型的稀疏方法。在本文中,我们给出了一个对数线性参数化,允许稀疏建模嵌套马尔可夫模型。我们说明了这种参数化的优点与模拟研究。
2013-09-26 cs.AI cs.LG stat.ML
A Max-Product EM Algorithm for Reconstructing Markov-tree Sparse Signals from Compressive Samples
提出了一种基于置信传播的马尔可夫树稀疏信号重构的贝叶斯期望最大化算法。测量遵循欠定线性模型,其中回归系数向量是未知的近似稀疏信号和具有未知方差的零均值高斯白噪声的和。该信号由二进制状态变量识别的大小分量组成,其概率依赖结构由马尔可夫树描述。高斯先验被分配给给定其状态变量的信号系数,Jeffreys的无信息先验被分配给噪声方差。我们的信号重建方案是基于EM迭代,其目的是最大化的后验分布的信号和它的状态变量给定的噪声方差。我们构造EM迭代的缺失数据,使得完整数据的后验分布对应于不包含循环的隐马尔可夫树(HMT)概率图模型,并通过最大乘积算法实现其最大化(M)步骤。该期望最大化算法估计状态变量的向量,以及迭代地求解线性方程组以获得相应的信号估计。我们选择噪声方差,使得EM迭代收敛后得到的相应估计信号和状态变量具有最大的边缘后验分布。我们通过信号和图像重建实验比较了建议和现有的最先进的重建方法。
2013-08-25 cs.IT math.IT stat.ML
Nonlinear Markov Clustering by Minimum Curvilinear Sparse Similarity
基于非线性聚类的无监督模式识别算法的研究是数据科学中的一个重要问题。马尔可夫聚类(MCL)是一个著名的算法,它模拟样本相似性网络上的随机流,以检测数据中簇的结构组织,但它从来没有被推广到处理数据的非线性。最小曲线线性(MC)是一种用曲线距离来近似高维特征空间中的非线性样本距离的原则,曲线距离被计算为其最小生成树上的横向路径,然后存储在核中。在这里,我们提出了MC-MCL,这是第一个非线性内核扩展的MCL,并利用最小曲线性,以提高性能的真实和合成数据与潜在的非线性模式的MCL。将MC-MCL与DBSCAN、K-means和affinity propagation等基本聚类方法进行了比较。我们发现,最小Curvilinearity提供了一个有价值的框架,估计非线性距离时,其内核与MCL相结合。事实上,MC-MCL克服了经典的MCL,甚至基线聚类算法在不同的非线性数据集。
2019-12-27 cs.LG stat.ML
Identifying Sparse Low-Dimensional Structures in Markov Chains: A Nonnegative Matrix Factorization Approach
University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们考虑学习大规模马尔可夫链的低维表示的问题。我们将表示学习的任务表述为将模型的状态空间映射到低维状态空间,称为核空间。内核空间包含一组Meta状态,这些元状态仅代表原始状态的一个小子集。为了促进这一结构属性,我们约束状态空间和核空间之间的映射的非零条目的数量。通过施加所需的特性的表示,我们投的问题作为一个约束的非负矩阵分解。为了计算解,我们提出了一种有效的块坐标梯度下降算法,并从理论上分析了其收敛性。
2020-04-07 cs.LG cs.SY eess.SY
Hardness of Independent Learning and Sparse Equilibrium Computation in Markov Games
Microsoft(微软)
我们考虑马尔可夫博弈中的分散式多智能体强化学习问题。一个基本的问题是,是否存在这样的算法,当所有的智能体都采用这种算法,并以分散的方式独立运行时,每个玩家都不会后悔,类似于标准形式游戏中著名的收敛结果。虽然最近的工作表明,这种算法存在的限制设置(特别是,当后悔的定义相对于偏差马尔可夫政策),独立的无遗憾学习是否可以实现在标准的马尔可夫博弈框架的问题是开放的。我们提供了一个决定性的消极解决这个问题,无论是从计算和统计的角度来看。我们证明:- 在普遍认为PPAD困难问题不能在多项式时间内解决的假设下,没有多项式时间算法可以在所有参与者独立执行时在一般和马尔可夫博弈中获得无遗憾,即使算法设计者知道博弈并且参与者的数量是一个小常数。- 当游戏是未知的,没有算法,不管计算效率如何,可以实现无遗憾,而不观察到的事件数量是指数的球员。也许令人惊讶的是,我们的下限甚至适用于看似更容易的设置,其中所有代理都由集中式算法控制。他们证明通过一个更简单的问题,我们称之为SparseCCE,其中的目标是计算一个粗略的相关均衡,稀疏的意义上说,它可以表示为一个混合物的一小部分产品政策的下限。我们的方法的关键是一个新的应用程序的聚合技术从在线学习,从而我们表明,任何算法的SparseCCE问题可以用来计算近似纳什均衡的非零和正规形式的游戏。
2023-03-22 cs.AI cs.GT cs.LG
Beyond normality: Learning sparse probabilistic graphical models in the non-Gaussian setting
MIT(麻省理工学院)
我们提出了一个算法来识别稀疏依赖结构在连续和非高斯概率分布,给定相应的数据集。任意分布的条件独立结构可以表示为无向图(或马尔可夫随机场),但大多数学习这种结构的算法仅限于离散或高斯情况。我们的新方法可以更真实和准确地描述所讨论的分布,从而更好地估计其稀疏马尔可夫结构。图中的稀疏性是有趣的,因为它可以加速推理,改进采样方法,并揭示变量之间的重要依赖关系。该算法依赖于利用图的稀疏性和运输地图的稀疏性之间的连接,确定性地将一个概率度量耦合到另一个概率度量。
2017-11-06 cs.LG stat.ML
Bayesian Structure Learning for Markov Random Fields with a Spike and Slab Prior
University of California, Irvine(加州大学欧文分校)
近年来,已经开发了许多方法来自动学习马尔可夫随机场的(稀疏)连接结构。这些方法大多基于L1正则化优化,其具有许多缺点,例如无法评估模型的不确定性和昂贵的交叉验证以找到最佳正则化参数。此外,模型的预测性能可能会随着正则化参数的次优值(有时需要引入稀疏性)而急剧下降。我们提出了一个完全贝叶斯方法的基础上的“尖峰和板坯”前(类似于L0正则化),不受这些缺点。我们开发了一个近似MCMC方法结合朗之万动力学和可逆跳MCMC进行推断在这个模型。实验表明,该模型学习的结构和参数值的良好组合,而不需要单独的超参数调整。此外,该模型的预测性能比基于L1的方法更鲁棒,超参数设置会导致高度稀疏的模型结构。
2012-06-23 cs.LG stat.ML
Bayesian Structure Learning for Markov Random Fields with a Spike and Slab Prior
University of California, Irvine(加州大学欧文分校)
近年来,已经开发了许多方法来自动学习马尔可夫随机场的(稀疏)连接结构。这些方法大多基于L1正则化优化,其具有许多缺点,例如无法评估模型的不确定性和昂贵的交叉验证以找到最佳正则化参数。此外,模型的预测性能可能会随着正则化参数的次优值(有时需要引入稀疏性)而急剧下降。我们提出了一个完全贝叶斯方法的基础上的“尖峰和板坯”前(类似于L0正则化),不受这些缺点。我们开发了一个近似MCMC方法结合朗之万动力学和可逆跳MCMC进行推断在这个模型。实验表明,该模型学习的结构和参数值的良好组合,而不需要单独的超参数调整。此外,该模型的预测性能比基于L1的方法更鲁棒,超参数设置会导致高度稀疏的模型结构。
2014-08-09 cs.LG stat.ML
On Learning Continuous Pairwise Markov Random Fields
Massachusetts Institute of Technology(麻省理工学院)
我们考虑从i.i.d样本中学习具有连续值变量的稀疏成对马尔可夫随机场(MRF)。我们调整了Vuffray等人的算法。(2019)在这种情况下,并提供有限样本分析,揭示样本复杂性随变量数量的变化规律,如离散和高斯设置。我们的方法是适用于一个大类的成对MRF连续变量,也有理想的渐近性质,包括在温和的条件下的一致性和正态性。此外,我们确定Vuffray等人(2019)中采用的优化标准的群体版本可以解释为局部最大似然估计(MLE)。作为我们分析的一部分,我们引入了稀疏线性回归a` la Lasso的稳健变化,这可能本身就很有趣。
2020-10-28 cs.LG stat.ML
Learning an Interpretable Graph Structure in Multi-Task Learning
NEC Laboratories Europe(NEC欧洲实验室);Heidelberg University(海德堡大学)
我们提出了一种新的方法来联合执行多任务学习和推断任务之间的内在关系,通过一个可解释的和稀疏的图。与现有的多任务学习方法不同,图结构不被假设为先验已知或在预处理步骤中单独估计。相反,我们的图是与每个任务的模型参数同时学习的,因此它反映了特定预测问题中任务之间的关键关系。我们用加权邻接矩阵描述了图的结构,并证明了总体目标可以交替优化,直到收敛。我们还表明,我们的方法可以简单地扩展到一个非线性形式嵌入到一个多头径向基函数网络(RBFN)。广泛的实验,对六个国家的最先进的方法,在合成数据和现实世界的应用表明,我们的方法是能够减少泛化误差,并在同一时间,揭示了稀疏图的任务,更容易解释。
2020-09-11 cs.LG stat.ML
Markov Random Fields for Collaborative Filtering
Netflix(网飞)
在本文中,我们通过高斯马尔可夫随机场(MRF)的项目之间的依赖关系,推荐给用户的协作过滤问题。我们建立在Besag的自正态参数化和伪似然的基础上,这不仅可以实现计算效率的学习,而且还将MRF和稀疏逆协方差估计与自动编码器和邻域模型(协作过滤中的两种成功方法)连接起来。我们提出了一种新的近似学习稀疏的MRF,其中的权衡精度和训练时间可以控制。与各种基线(包括深度非线性模型)相比,仅用一小部分训练时间,所提出的方法就在我们实验中使用的所有三个众所周知的数据集上实现了具有竞争力的排名准确性,特别是在具有最多项目的数据集上的准确性提高了20%。
2019-10-21 cs.IR cs.LG stat.ML
Reliable training and estimation of variance networks
Technical University of Denmark(丹麦技术大学)
我们提出并研究了新的补充方法,估计预测方差网络回归神经网络。我们推导出一个局部感知的mini-slave方案,该方案产生稀疏的鲁棒梯度,并展示了如何对方差网络进行无偏权重更新。此外,我们制定了一个启发式的鲁棒拟合的均值和方差网络事后。最后,我们从后验高斯过程中得到启发,提出了一种具有类似高斯过程外推特性的网络结构。所提议的方法是互补的,并分别改进了基线方法。在实验中,我们研究了预测不确定性对多个数据集和任务的影响,包括回归,主动学习和生成建模。实验一致表明,与跨任务和数据集的最先进方法相比,预测不确定性估计有显着改进。
2019-11-04 cs.LG stat.ML
Deep Markov Spatio-Temporal Factorization
Northeastern University(东北大学);University of Oregon(俄勒冈大学)
我们介绍了深度马尔可夫时空分解(DMSTF),时空数据的动态分析的生成模型。与其他因子分析方法一样,DMSTF通过时间相关权重和空间相关因子之间的乘积来近似高维数据。这些权重和因素反过来表示在使用随机变分推理推断的低维潜伏期。DMSTF的创新之处在于,我们将权重参数化为具有离散潜时的深度马尔可夫先验可扩展性,从而能够表征非线性多模态时间动态,并进行多维时间序列预测。DMSTF学习一个低维的空间潜在生成参数化的空间因素或其功能的形式,以适应高空间维度。我们参数化相应的变分分布使用双向递归网络在低级别的潜在表示。这产生了一系列灵活的分层深度生成因子分析模型,这些模型可以扩展以执行时间序列聚类或在存在控制信号的情况下执行因子分析。我们的实验,其中包括模拟和真实世界的数据,表明DMSTF优于相关方法的预测性能方面看不见的数据,揭示了有意义的集群的数据,并在各种领域进行预测与潜在的非线性时间转换。
2020-08-18 cs.LG stat.ML
Boosted Markov Networks for Activity Recognition
Curtin University of Technology(科廷科技大学)
我们探索了一个称为提升马尔可夫网络的框架,将提升的学习能力和马尔可夫网络丰富的建模语义结合起来,并将该框架应用于基于视频的活动识别。重要的是,我们扩展了框架,将隐藏变量。我们展示了如何将框架应用于模型学习和特征选择。我们证明了提升马尔可夫网络与隐变量执行与标准的最大似然估计。然而,我们的框架能够学习稀疏模型,因此当学习的模型用于分类时可以节省计算。
2014-08-06 cs.CV cs.LG stat.ML
BINDy -- Bayesian identification of nonlinear dynamics with reversible-jump Markov-chain Monte-Carlo
Dynamics Research Group University of Sheffield(动力学研究组谢菲尔德大学)
针对非线性动力学稀疏识别易过拟合的问题,提出基于可逆跳跃马尔可夫链蒙特卡洛的贝叶斯方法BINDy,通过联合后验分布推断在模型空间生成稀疏模型,在基准案例中表现优于ensemble SINDy。
2025-06-25 cs.LG math.DS stat.ML
A fast asynchronous MCMC sampler for sparse Bayesian inference
我们提出了一个非常快速的近似马尔可夫链蒙特卡罗(MCMC)采样框架,适用于一大类稀疏的贝叶斯推断问题,在几个模型中,每次迭代的计算成本是为了$O(ns)$,其中$n$是样本量,和$s$的基本稀疏模型。当采用随机梯度朗之万动力学时,通过数据子采样可以进一步降低该成本。该算法是Johnson等人(2013)的异步Gibbs采样器的扩展,但可以从统计学角度视为贝叶斯迭代确定独立筛选的一种形式(Fan等人(2009))。我们表明,在高维线性回归问题,所提出的算法产生的马尔可夫链承认一个不变的分布,正确地恢复主信号的概率高,在一些统计假设。此外,我们表明,它的混合时间是最多的线性回归的数量。我们用几个模型来说明该算法。
2021-08-14 math.ST stat.CO stat.ML
Transition Transfer $Q$-Learning for Composite Markov Decision Processes
Princeton University(普林斯顿大学);New York University(纽约大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
针对迁移强化学习,提出复合MDP框架将高维转移动力学建模为低秩共享与稀疏差异之和,并设计UCB-TQL算法,实现独立于环境维度的遗憾界,有效利用结构相似性改进单任务RL。
2025-02-01 cs.LG stat.ML
Scalable Structure Learning for Sparse Context-Specific Systems
KTH Royal Institute of Technology(瑞典皇家理工学院)
提出一种可扩展到数百变量的特定上下文模型结构学习算法,结合基于顺序的马尔可夫链蒙特卡洛搜索与特定上下文稀疏性假设,在准确性和可扩展性上表现良好。
2024-10-16 cs.LG math.CO stat.ML
Iterative Bayesian Reconstruction of Non-IID Block-Sparse Signals
提出了一种新的块迭代贝叶斯算法(Block-IBA),用于重构具有未知块结构的块稀疏信号。与现有的用于块稀疏信号恢复的算法不同,现有的算法假设未知信号的非零元素的簇结构是独立同分布的(i.i.d.),我们使用更现实的Bernoulli-Gaussian隐马尔可夫模型(BGHMM)来表征非独立同分布。在实践中经常遇到的块稀疏信号。块IBA迭代估计块稀疏信号的幅度和位置使用最陡上升的期望最大化(EM),并通过自适应阈值最优地选择块稀疏信号的非零元素。分析并证明了Block-IBA算法的全局收敛性,并通过数值实验和模拟仿真验证了Block-IBA算法的有效性。
2014-12-07 cs.IT math.IT stat.ML
Markov Equivalence and Consistency in Differentiable Structure Learning
Booth School of Business, The University of Chicago(芝加哥大学布斯商学院);Machine Learning Department, Carnegie Mellon University(卡内基梅隆大学机器学习系)
针对现有DAG可微结构学习依赖强可识别性假设及优化器易利用损失伪影的问题,通过正则化似然识别马尔可夫等价类中最稀疏模型,推广至一般模型并经实验验证,为通用场景下的可微结构学习提供理论与方法支持。
2024-11-27 cs.LG math.ST stat.ME
Hierarchical sparse Bayesian learning: theory and application for inferring structural damage from incomplete modal data
由于过度载荷或环境退化而造成的结构损坏通常发生在没有倒塌的局部区域。利用这种先验信息的空间稀疏的结构损伤的层次稀疏贝叶斯学习框架的目标是减少源的病态的刚度损失反演问题的损伤检测。稀疏贝叶斯学习方法自动从一组潜在的候选者中修剪掉不相关或不活动的特征,因此它们是用于产生稀疏解释子集的有效概率工具。我们以前已经提出了这样一种方法来建立局部刚度降低的概率,作为一个代理的损害,通过使用噪声不完整的模态数据之前和之后可能的损害。核心思想集中在一个特定的分层贝叶斯模型,促进空间稀疏的推断刚度减少的方式是一致的贝叶斯奥卡姆剃刀。在本文中,我们改进了我们以前提出的稀疏贝叶斯学习方法的理论,消除了近似,更重要的是,纳入了对刚度增加的约束。我们的方法有许多吸引人的功能,总结在本文的最后。我们验证的方法,将其应用到第二阶段的模拟和实验基准研究主办的IASC-ASCE工作组的结构健康监测。结果表明,该方法可以通过识别出的模态参数推断出结构的刚度损失,从而可靠地检测、定位和评估结构的损伤。有效地抑制了遗漏和错误损坏警报的发生。
2015-03-21 stat.AP stat.ME stat.ML
i-SpaSP: Structured Neural Pruning via Sparse Signal Recovery
Rice University(莱斯大学)
提出了一种新的神经网络结构化剪枝算法--迭代稀疏结构化剪枝算法(i-SpaSP)。受稀疏信号恢复思想的启发,i-SpaSP通过迭代识别更大的重要参数组(例如,过滤器或神经元),然后基于较小的、预定义的修剪比率对这些组进行阈值化。对于具有ReLU激活的两层和多层网络架构,我们显示了i-SpaSP修剪引起的误差多项式衰减,其中该多项式的次数根据密集网络隐藏表示的稀疏性变得任意大。在我们的实验中,i-SpaSP在各种数据集上进行了评估(即,MNIST、ImageNet和XNLI)和架构(即,前馈网络,ResNet 34,MobileNetV 2,和BERT),其中它被证明发现高性能的子网络,并提高了几个数量级的可证明的基线方法的修剪效率。简而言之,i-SpaSP易于使用自动微分实现,获得了强有力的经验结果,具有理论收敛保证,并且效率高,因此成为少数几个计算效率高,实用且可证明的修剪算法之一。
2022-03-29 cs.AI cs.LG math.OC
Thompson Sampling for High-Dimensional Sparse Linear Contextual Bandits
University of Michigan(密歇根大学)
本文研究了具有高维特征的随机线性上下文强盗问题。我们使用特殊类别的稀疏诱导先验(例如,尖峰和平板),以模拟未知参数,并提供一个接近最佳的上限预期的累积遗憾。据我们所知,这是第一个工作,提供了理论保证的汤普森采样在高维和稀疏的上下文土匪。为了提高计算速度,我们使用变分推断代替马尔可夫链蒙特卡罗(MCMC)来近似后验分布。大量的模拟表明,我们提出的算法比现有的性能有所改善。
2023-01-28 cs.LG math.ST stat.ME