Sparse Markov Decision Processes with Causal Sparse Tsallis Entropy Regularization for Reinforcement Learning
Seoul National University(首尔大学)
本文提出了一种新的因果稀疏Tsallis熵正则化的稀疏马尔可夫决策过程(MDP),该策略正则化可使稀疏MDP的最优策略分布具有稀疏性和多峰性。本文首先分析了稀疏MDP的最优性条件,然后给出了稀疏MDP的最优性条件。然后,我们提出了一个稀疏值迭代方法,解决了稀疏MDP,然后证明了收敛性和最优性稀疏值迭代使用Banach不动点定理。建议的稀疏MDP相比,软MDP利用因果熵正则化。我们表明,稀疏MDP的性能误差有一个恒定的界限,而软MDP的错误增加相对于动作的数量,其中这种性能误差是由引入的正则化项。在实验中,我们将稀疏MDP应用于强化学习问题。所提出的方法优于现有的方法在收敛速度和性能。
2017-10-13 cs.AI cs.LG stat.ML
Sparse Interaction Neighborhood Selection for Markov Random Fields via Reversible Jump and Pseudoposteriors
本文针对二维格点马尔可夫随机场,提出可逆跳转MCMC算法在最大邻域子集间跳转,利用边缘伪后验分布实现稀疏交互邻域选择,并通过模拟与真实纹理图像数据验证方法有效性。
2024-04-30 stat.CO stat.ML
High-Dimensional Covariance Decomposition into Sparse Markov and Independence Models
拟合高维数据涉及到忠实表示和稀疏模型的使用之间的微妙权衡。通常,拟合模型上的稀疏性假设过于严格,无法提供观测数据的忠实表示。本文提出了一种在不同领域结合稀疏性的新框架,将观测到的协方差阵分解为稀疏高斯马尔可夫模型(具有稀疏精度矩阵)和稀疏独立模型(具有稀疏协方差阵)。我们的框架将稀疏协方差和稀疏精度估计作为特例,从而引入了更丰富的高维模型。我们刻画了两个模型,\viz马尔可夫模型和独立模型的可识别性的充分条件。我们提出了一种有效的分解方法的基础上修改流行的$\ell_1$惩罚最大似然估计($\ell_1$ -MLE)。我们确定我们的估计量在两个域中是一致的,即,当样本数$n$为$n = Ω(d^2 \log p)$时,它成功地恢复了马尔可夫模型和独立模型的支持度,其中$p$是马尔可夫模型中的变量数,$d$是马尔可夫模型中的最大节点度.我们的实验验证了这些结果,也表明我们的模型有更好的推理精度下简单的算法,如循环的信念传播。
2013-12-14 math.ST stat.ML stat.TH
Reversible MCMC on Markov equivalence classes of sparse directed acyclic graphs
图形模型是一种流行的统计工具,用于表示相关或因果的复杂系统。统计等价的因果或有向图模型被称为属于马尔可夫等价类。描述和理解这些类的空间是非常有趣的。然而,与目前已知的算法,在这样的类的采样是唯一可行的图形与少于约20个顶点。在本文中,我们设计可逆的不可约马尔可夫链的马尔可夫等价类的空间,提出了一个完美的运营商,确定的马尔可夫链的转移。本文提出的马尔可夫链的平稳分布具有封闭形式,易于计算。具体来说,我们构造了一个具体的完美集稀疏马尔可夫等价类的运营商通过引入适当的条件,对每个可能的运营商。给出了有效生成马尔可夫链的算法及其加速版本,并研究了具有数千个顶点的稀疏有向无环图(DAG)的马尔可夫等价类的性质.我们通过实验发现,在大多数稀疏DAG的马尔可夫等价类中,(1)大多数边是有向的,(2)大多数无向子图是小的,(3)这些无向子图的数量随着顶点的数量近似线性地增长。本文包含补充arXiv:1303.0632,http://dx.doi.org/10.1214/13-AOS1125SUPP
2014-01-27 cs.DM stat.ME stat.ML
Stochastic Learning for Sparse Discrete Markov Random Fields with Controlled Gradient Approximation Error
UW-Madison(威斯康星大学麦迪逊分校);University of Washington(华盛顿大学)
我们研究了离散马尔可夫随机场(MRF)的$L_1$正则化最大似然估计/估计(MLE)问题,其中高效和可扩展的学习需要稀疏正则化和近似推理。为了解决这些挑战,我们考虑了一种称为随机邻近梯度的随机学习框架(SPG; Honorio 2012 a,Atchade et al. 2014,Miasojedow and Rejchel 2016)。SPG是一种不精确的近端梯度算法[Schmidtet等人,2011年],其不精确性源于梯度近似的随机预言(吉布斯采样)-由于离散MRF的NP难推理问题,精确梯度评估通常是不可行的[Koller和Friedman,2009年]。在理论上,我们提供了新的可验证的边界来检查和控制梯度逼近的质量。在实验上,我们提出了基于可验证边界的收紧渐近(TAY)学习策略,以提高SPG的性能。
2020-05-12 cs.LG stat.ML
Fitting Sparse Markov Models to Categorical Time Series Using Convex Clustering
本文提出一种基于凸聚类和正则化的稀疏马尔可夫模型拟合方法,通过BIC选择正则化参数,并证明其模型选择一致性,模拟和疾病亚型分类实证验证了方法的有效性。
2025-07-02 stat.ME stat.ML
Collaborative filtering via sparse Markov random fields
Center for Pattern Recognition and Data Analytics(模式识别与数据分析中心);Deakin University(迪肯大学)
推荐系统在提供个性化的信息和服务方面发挥着核心作用。本文重点介绍了协同过滤,一种方法,利用共享结构之间的头脑喜欢的用户和类似的项目。特别是,我们专注于一个正式的概率框架称为马尔可夫随机场(MRF)。我们解决了结构学习的开放问题,并引入了稀疏诱导算法来自动估计用户之间和项目之间的交互结构。项目-项目和用户-用户相关网络作为副产品获得。在电影推荐和日期匹配数据集上的大规模实验证明了该方法的有效性。
2016-02-09 cs.IR cs.LG stat.ML
Efficient methods for Gaussian Markov random fields under sparse linear constraints
线性约束高斯马尔可夫随机场(GMRF)的推理和模拟方法在约束数量很大时计算量很大。在某些情况下,例如对于固有GMRF,它们甚至可能是不可行的。我们提出了一类新的方法来克服这些挑战,在常见的情况下稀疏的约束,其中一个有大量的约束,每个只涉及几个元素。我们的方法依赖于一个基础上的转换成块的约束与非约束子空间,我们表明,该方法大大优于现有的替代方案的计算成本。通过将所提出的方法与高斯随机场的随机偏微分方程方法相结合,我们还展示了如何在GMRF设置中制定具有线性约束的高斯过程回归以降低计算成本。这在两个具有模拟数据的应用中说明。
2021-06-03 stat.CO stat.ME stat.ML
Sparse Nested Markov models with Log-linear Parameters
University of Southampton(南安普顿大学);Cambridge University(剑桥大学);University of Washington(华盛顿大学);Harvard University(哈佛大学)
隐变量在实际数据分析中无处不在,因此对边际密度进行建模并使用所得模型进行推断是统计学、机器学习和因果推断中的重要问题。最近,一种新型的图形模型,称为嵌套马尔可夫模型,它捕获的有向无环图(DAG)模型的边缘发现的等式约束。其中一些约束,如所谓的“Verma约束”,严格地概括了条件独立性。为了使用嵌套马尔可夫模型进行建模和推理,有必要限制模型中参数的数量,同时仍然正确捕获DAG模型边缘的约束。设置这样的限制在精神上类似于无向图模型和回归模型的稀疏方法。在本文中,我们给出了一个对数线性参数化,允许稀疏建模嵌套马尔可夫模型。我们说明了这种参数化的优点与模拟研究。
2013-09-26 cs.AI cs.LG stat.ML
A Max-Product EM Algorithm for Reconstructing Markov-tree Sparse Signals from Compressive Samples
提出了一种基于置信传播的马尔可夫树稀疏信号重构的贝叶斯期望最大化算法。测量遵循欠定线性模型,其中回归系数向量是未知的近似稀疏信号和具有未知方差的零均值高斯白噪声的和。该信号由二进制状态变量识别的大小分量组成,其概率依赖结构由马尔可夫树描述。高斯先验被分配给给定其状态变量的信号系数,Jeffreys的无信息先验被分配给噪声方差。我们的信号重建方案是基于EM迭代,其目的是最大化的后验分布的信号和它的状态变量给定的噪声方差。我们构造EM迭代的缺失数据,使得完整数据的后验分布对应于不包含循环的隐马尔可夫树(HMT)概率图模型,并通过最大乘积算法实现其最大化(M)步骤。该期望最大化算法估计状态变量的向量,以及迭代地求解线性方程组以获得相应的信号估计。我们选择噪声方差,使得EM迭代收敛后得到的相应估计信号和状态变量具有最大的边缘后验分布。我们通过信号和图像重建实验比较了建议和现有的最先进的重建方法。
2013-08-25 cs.IT math.IT stat.ML
Nonlinear Markov Clustering by Minimum Curvilinear Sparse Similarity
基于非线性聚类的无监督模式识别算法的研究是数据科学中的一个重要问题。马尔可夫聚类(MCL)是一个著名的算法,它模拟样本相似性网络上的随机流,以检测数据中簇的结构组织,但它从来没有被推广到处理数据的非线性。最小曲线线性(MC)是一种用曲线距离来近似高维特征空间中的非线性样本距离的原则,曲线距离被计算为其最小生成树上的横向路径,然后存储在核中。在这里,我们提出了MC-MCL,这是第一个非线性内核扩展的MCL,并利用最小曲线性,以提高性能的真实和合成数据与潜在的非线性模式的MCL。将MC-MCL与DBSCAN、K-means和affinity propagation等基本聚类方法进行了比较。我们发现,最小Curvilinearity提供了一个有价值的框架,估计非线性距离时,其内核与MCL相结合。事实上,MC-MCL克服了经典的MCL,甚至基线聚类算法在不同的非线性数据集。
2019-12-27 cs.LG stat.ML
Identifying Sparse Low-Dimensional Structures in Markov Chains: A Nonnegative Matrix Factorization Approach
University of Texas at Austin(德克萨斯大学奥斯汀分校)
我们考虑学习大规模马尔可夫链的低维表示的问题。我们将表示学习的任务表述为将模型的状态空间映射到低维状态空间,称为核空间。内核空间包含一组Meta状态,这些元状态仅代表原始状态的一个小子集。为了促进这一结构属性,我们约束状态空间和核空间之间的映射的非零条目的数量。通过施加所需的特性的表示,我们投的问题作为一个约束的非负矩阵分解。为了计算解,我们提出了一种有效的块坐标梯度下降算法,并从理论上分析了其收敛性。
2020-04-07 cs.LG cs.SY eess.SY
Hardness of Independent Learning and Sparse Equilibrium Computation in Markov Games
Microsoft(微软)
我们考虑马尔可夫博弈中的分散式多智能体强化学习问题。一个基本的问题是,是否存在这样的算法,当所有的智能体都采用这种算法,并以分散的方式独立运行时,每个玩家都不会后悔,类似于标准形式游戏中著名的收敛结果。虽然最近的工作表明,这种算法存在的限制设置(特别是,当后悔的定义相对于偏差马尔可夫政策),独立的无遗憾学习是否可以实现在标准的马尔可夫博弈框架的问题是开放的。我们提供了一个决定性的消极解决这个问题,无论是从计算和统计的角度来看。我们证明:- 在普遍认为PPAD困难问题不能在多项式时间内解决的假设下,没有多项式时间算法可以在所有参与者独立执行时在一般和马尔可夫博弈中获得无遗憾,即使算法设计者知道博弈并且参与者的数量是一个小常数。- 当游戏是未知的,没有算法,不管计算效率如何,可以实现无遗憾,而不观察到的事件数量是指数的球员。也许令人惊讶的是,我们的下限甚至适用于看似更容易的设置,其中所有代理都由集中式算法控制。他们证明通过一个更简单的问题,我们称之为SparseCCE,其中的目标是计算一个粗略的相关均衡,稀疏的意义上说,它可以表示为一个混合物的一小部分产品政策的下限。我们的方法的关键是一个新的应用程序的聚合技术从在线学习,从而我们表明,任何算法的SparseCCE问题可以用来计算近似纳什均衡的非零和正规形式的游戏。
2023-03-22 cs.AI cs.GT cs.LG
Beyond normality: Learning sparse probabilistic graphical models in the non-Gaussian setting
MIT(麻省理工学院)
我们提出了一个算法来识别稀疏依赖结构在连续和非高斯概率分布,给定相应的数据集。任意分布的条件独立结构可以表示为无向图(或马尔可夫随机场),但大多数学习这种结构的算法仅限于离散或高斯情况。我们的新方法可以更真实和准确地描述所讨论的分布,从而更好地估计其稀疏马尔可夫结构。图中的稀疏性是有趣的,因为它可以加速推理,改进采样方法,并揭示变量之间的重要依赖关系。该算法依赖于利用图的稀疏性和运输地图的稀疏性之间的连接,确定性地将一个概率度量耦合到另一个概率度量。
2017-11-06 cs.LG stat.ML
Bayesian Structure Learning for Markov Random Fields with a Spike and Slab Prior
University of California, Irvine(加州大学欧文分校)
近年来,已经开发了许多方法来自动学习马尔可夫随机场的(稀疏)连接结构。这些方法大多基于L1正则化优化,其具有许多缺点,例如无法评估模型的不确定性和昂贵的交叉验证以找到最佳正则化参数。此外,模型的预测性能可能会随着正则化参数的次优值(有时需要引入稀疏性)而急剧下降。我们提出了一个完全贝叶斯方法的基础上的“尖峰和板坯”前(类似于L0正则化),不受这些缺点。我们开发了一个近似MCMC方法结合朗之万动力学和可逆跳MCMC进行推断在这个模型。实验表明,该模型学习的结构和参数值的良好组合,而不需要单独的超参数调整。此外,该模型的预测性能比基于L1的方法更鲁棒,超参数设置会导致高度稀疏的模型结构。
2012-06-23 cs.LG stat.ML
Bayesian Structure Learning for Markov Random Fields with a Spike and Slab Prior
University of California, Irvine(加州大学欧文分校)
近年来,已经开发了许多方法来自动学习马尔可夫随机场的(稀疏)连接结构。这些方法大多基于L1正则化优化,其具有许多缺点,例如无法评估模型的不确定性和昂贵的交叉验证以找到最佳正则化参数。此外,模型的预测性能可能会随着正则化参数的次优值(有时需要引入稀疏性)而急剧下降。我们提出了一个完全贝叶斯方法的基础上的“尖峰和板坯”前(类似于L0正则化),不受这些缺点。我们开发了一个近似MCMC方法结合朗之万动力学和可逆跳MCMC进行推断在这个模型。实验表明,该模型学习的结构和参数值的良好组合,而不需要单独的超参数调整。此外,该模型的预测性能比基于L1的方法更鲁棒,超参数设置会导致高度稀疏的模型结构。
2014-08-09 cs.LG stat.ML
On Learning Continuous Pairwise Markov Random Fields
Massachusetts Institute of Technology(麻省理工学院)
我们考虑从i.i.d样本中学习具有连续值变量的稀疏成对马尔可夫随机场(MRF)。我们调整了Vuffray等人的算法。(2019)在这种情况下,并提供有限样本分析,揭示样本复杂性随变量数量的变化规律,如离散和高斯设置。我们的方法是适用于一个大类的成对MRF连续变量,也有理想的渐近性质,包括在温和的条件下的一致性和正态性。此外,我们确定Vuffray等人(2019)中采用的优化标准的群体版本可以解释为局部最大似然估计(MLE)。作为我们分析的一部分,我们引入了稀疏线性回归a` la Lasso的稳健变化,这可能本身就很有趣。
2020-10-28 cs.LG stat.ML
Structure Learning of Partitioned Markov Networks
我们从联合观测中学习两组随机变量之间的马尔可夫网络的结构。由于建模和学习完整的MN结构可能很难,因此直接学习两个组之间的链接可能是优选的选择。我们引入了一个新的概念,称为\emph{partitioned ratio},其分解直接与两组随机变量的马尔可夫性质。提出了一种简单的单次凸优化方法来学习划分比的\emph{sparse}分解,并在理论上保证了在温和的条件下恢复正确的群间结构.所提出的方法的性能进行了实验比较与最先进的MN结构学习方法,使用ROC曲线。还报告了分析美国国会两党合作和成对DNA/时间序列比对的实际应用。
2016-05-27 stat.ML
Dictionary Learning Strategies for Compressed Fiber Sensing Using a Probabilistic Sparse Model
提出了一种基于概率分层稀疏模型的压缩光纤传感稀疏估计和字典学习框架。为了处理严重的字典一致性,使用威布尔先验来实现选择性收缩,这可以与具有$0 < p < 1$的$p$范数约束的非凸优化相关。此外,我们利用特定的字典结构,以促进集体收缩的基础上,局部相似性模型。这以核函数的形式并入稀疏系数的联合先验密度中,从而建立马尔可夫随机场关系。近似推理是使用一种混合技术,结合汉密尔顿蒙特卡罗和吉布斯抽样。为了估计字典参数,我们追求两种策略,依赖于字典参数的确定性或概率模型。在第一种策略中,基于交替估计来估计参数。在第二种策略中,它与稀疏系数一起被联合估计。的性能进行评估比较,现有的方法在各种情况下,使用模拟和实验数据。
2016-10-21 stat.ML
Markov Random Fields for Collaborative Filtering
Netflix(网飞)
在本文中,我们通过高斯马尔可夫随机场(MRF)的项目之间的依赖关系,推荐给用户的协作过滤问题。我们建立在Besag的自正态参数化和伪似然的基础上,这不仅可以实现计算效率的学习,而且还将MRF和稀疏逆协方差估计与自动编码器和邻域模型(协作过滤中的两种成功方法)连接起来。我们提出了一种新的近似学习稀疏的MRF,其中的权衡精度和训练时间可以控制。与各种基线(包括深度非线性模型)相比,仅用一小部分训练时间,所提出的方法就在我们实验中使用的所有三个众所周知的数据集上实现了具有竞争力的排名准确性,特别是在具有最多项目的数据集上的准确性提高了20%。
2019-10-21 cs.IR cs.LG stat.ML
Boosted Markov Networks for Activity Recognition
Curtin University of Technology(科廷科技大学)
我们探索了一个称为提升马尔可夫网络的框架,将提升的学习能力和马尔可夫网络丰富的建模语义结合起来,并将该框架应用于基于视频的活动识别。重要的是,我们扩展了框架,将隐藏变量。我们展示了如何将框架应用于模型学习和特征选择。我们证明了提升马尔可夫网络与隐变量执行与标准的最大似然估计。然而,我们的框架能够学习稀疏模型,因此当学习的模型用于分类时可以节省计算。
2014-08-06 cs.CV cs.LG stat.ML
BINDy -- Bayesian identification of nonlinear dynamics with reversible-jump Markov-chain Monte-Carlo
Dynamics Research Group University of Sheffield(动力学研究组谢菲尔德大学)
针对非线性动力学稀疏识别易过拟合的问题,提出基于可逆跳跃马尔可夫链蒙特卡洛的贝叶斯方法BINDy,通过联合后验分布推断在模型空间生成稀疏模型,在基准案例中表现优于ensemble SINDy。
2025-06-25 cs.LG math.DS stat.ML
A fast asynchronous MCMC sampler for sparse Bayesian inference
我们提出了一个非常快速的近似马尔可夫链蒙特卡罗(MCMC)采样框架,适用于一大类稀疏的贝叶斯推断问题,在几个模型中,每次迭代的计算成本是为了$O(ns)$,其中$n$是样本量,和$s$的基本稀疏模型。当采用随机梯度朗之万动力学时,通过数据子采样可以进一步降低该成本。该算法是Johnson等人(2013)的异步Gibbs采样器的扩展,但可以从统计学角度视为贝叶斯迭代确定独立筛选的一种形式(Fan等人(2009))。我们表明,在高维线性回归问题,所提出的算法产生的马尔可夫链承认一个不变的分布,正确地恢复主信号的概率高,在一些统计假设。此外,我们表明,它的混合时间是最多的线性回归的数量。我们用几个模型来说明该算法。
2021-08-14 math.ST stat.CO stat.ML
Transition Transfer $Q$-Learning for Composite Markov Decision Processes
Princeton University(普林斯顿大学);New York University(纽约大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
针对迁移强化学习,提出复合MDP框架将高维转移动力学建模为低秩共享与稀疏差异之和,并设计UCB-TQL算法,实现独立于环境维度的遗憾界,有效利用结构相似性改进单任务RL。
2025-02-01 cs.LG stat.ML
Scalable Structure Learning for Sparse Context-Specific Systems
KTH Royal Institute of Technology(瑞典皇家理工学院)
提出一种可扩展到数百变量的特定上下文模型结构学习算法,结合基于顺序的马尔可夫链蒙特卡洛搜索与特定上下文稀疏性假设,在准确性和可扩展性上表现良好。
2024-10-16 cs.LG math.CO stat.ML
Provable Self-Representation Based Outlier Detection in a Union of Subspaces
Johns Hopkins University(约翰斯·霍普金斯大学)
许多计算机视觉任务涉及处理大量被离群值污染的数据,这些离群值需要被检测和拒绝。虽然基于鲁棒统计的离群点检测方法已经存在了几十年,但直到最近才开发出基于稀疏和低秩表示的方法,以及当内点位于一个或多个低维子空间中时正确离群点检测的保证。本文提出了一种新的离群点检测方法,结合稀疏表示和图上的随机游走的工具。通过利用数据点可以表示为彼此的稀疏线性组合的属性,我们得到了数据点之间的非对称亲和矩阵,我们使用它来构造一个加权有向图。通过从这个图中定义一个合适的马尔可夫链,我们建立了马尔可夫链的内点/离群点和本质/非本质状态之间的联系,这使我们能够通过使用随机游走来检测离群点。我们提供了一个理论分析,证明我们的方法的正确性,几何和连通性假设。图像数据库上的实验结果表明,相对于最先进的稀疏和低秩离群点检测方法的优越性。
2017-04-12 cs.CV stat.ML
Sparse Inverse Covariance Matrix Estimation Using Quadratic Approximation
University of Texas, Austin(德克萨斯大学奥斯汀分校)
L1-正则化高斯最大似然估计(MLE)已被证明具有很强的统计保证,在恢复稀疏逆协方差矩阵,或替代的高斯马尔可夫随机场的底层图形结构,从非常有限的样本。我们提出了一种新的算法来解决由此产生的优化问题,这是一个正则化的对数行列式程序。与最近的最先进的方法,主要使用一阶梯度信息,我们的算法是基于牛顿的方法,并采用二次近似,但有一些修改,利用稀疏高斯MLE问题的结构。我们证明了我们的方法是超线性收敛的,并使用合成和真实世界的应用数据,证明了我们的方法的性能相比,其他国家的最先进的方法有相当大的改善目前的实验结果。
2013-06-13 cs.LG stat.ML
Iterative Bayesian Reconstruction of Non-IID Block-Sparse Signals
提出了一种新的块迭代贝叶斯算法(Block-IBA),用于重构具有未知块结构的块稀疏信号。与现有的用于块稀疏信号恢复的算法不同,现有的算法假设未知信号的非零元素的簇结构是独立同分布的(i.i.d.),我们使用更现实的Bernoulli-Gaussian隐马尔可夫模型(BGHMM)来表征非独立同分布。在实践中经常遇到的块稀疏信号。块IBA迭代估计块稀疏信号的幅度和位置使用最陡上升的期望最大化(EM),并通过自适应阈值最优地选择块稀疏信号的非零元素。分析并证明了Block-IBA算法的全局收敛性,并通过数值实验和模拟仿真验证了Block-IBA算法的有效性。
2014-12-07 cs.IT math.IT stat.ML
Markov Equivalence and Consistency in Differentiable Structure Learning
Booth School of Business, The University of Chicago(芝加哥大学布斯商学院);Machine Learning Department, Carnegie Mellon University(卡内基梅隆大学机器学习系)
针对现有DAG可微结构学习依赖强可识别性假设及优化器易利用损失伪影的问题,通过正则化似然识别马尔可夫等价类中最稀疏模型,推广至一般模型并经实验验证,为通用场景下的可微结构学习提供理论与方法支持。
2024-11-27 cs.LG math.ST stat.ME
Likelihood-based generalization of Markov parameter estimation and multiple shooting objectives in system identification
University of Michigan(密歇根大学)
本文研究了线性和非线性非自治系统的系统辨识问题。我们提出并分析了一个目标函数来自贝叶斯制定学习隐马尔可夫模型的随机动态。然后,我们分析了这个目标函数的几个国家的最先进的方法,线性和非线性系统ID的上下文中。在前者,我们分析了马尔可夫参数估计的最小二乘方法,在后者,我们分析了多射击方法。我们证明了这些现有的方法所带来的优化问题的局限性,表明他们可以被看作是特殊情况下提出的优化目标在某些简化的假设:条件独立的数据和零模型误差。此外,我们观察到,我们提出的方法改进了平滑性和固有的正则化,使其非常适合系统ID,并为这些特征的起源提供了数学解释。最后,数值模拟表明,均方误差超过8.7倍,低于多次拍摄时,数据是嘈杂和/或稀疏。此外,所提出的方法可以识别准确的和可推广的模型,即使有更多的参数比数据或当底层系统表现出混沌行为。
2023-01-20 cs.LG cs.SY eess.SY
Projected Subgradient Methods for Learning Sparse Gaussians
Stanford University(斯坦福大学)
高斯马尔可夫随机场(GMRF)在广泛的应用中是有用的。在本文中,我们解决了在高维空间中学习稀疏GMRF的问题。我们的方法使用l1范数作为逆协方差矩阵的正则化。我们利用一种新的投影梯度方法,这是比以前的方法在实践中更快,等于这些在渐近复杂性的最佳表现。我们还扩展了l1-正则化的目标的逆协方差矩阵内的整个块的稀疏化的问题。我们的方法很容易推广到这种情况,而其他方法则不然。我们证明了我们的扩展在两个真正的领域-生物网络分析和2D形状建模图像任务上提供了更好的泛化性能。
2012-06-13 cs.LG stat.ML
An Adaptive Empirical Bayesian Method for Sparse Deep Learning
Purdue University(普渡大学)
我们提出了一种新的自适应经验贝叶斯方法用于稀疏深度学习,其中稀疏性通过一类自适应尖峰和板先验来确保。所提出的方法的工作原理是交替采样自适应分层后验分布使用随机梯度马尔可夫链蒙特卡罗(MCMC)和平滑优化超参数使用随机逼近(SA)。在较弱的条件下,我们进一步证明了该方法收敛于渐近正确的分布。所提出的方法的经验应用导致最先进的性能MNIST和时尚MNIST与浅卷积神经网络和最先进的压缩性能CIFAR10与残差网络。该方法还提高了对对抗性攻击的抵抗力。
2020-04-13 cs.LG stat.ME stat.ML
Structured Matrix Learning under Arbitrary Entrywise Dependence and Estimation of Markov Transition Kernel
Princeton University(普林斯顿大学)
本文研究任意噪声依赖下的含噪低秩加稀疏矩阵恢复框架,提出非相干约束最小二乘估计器并证明其紧致性,同时将其应用于Markov转移核估计、多任务回归等问题,实现了极小化最优性。
2025-04-04 cs.LG math.ST stat.ML