Markovletics: Methods and A Novel Application for Learning Continuous-Time Markov Chain Mixtures
Boston University（波士顿大学）
本文提出学习连续时间马尔可夫链混合模型的新框架，分析轨迹长度与离散化影响，并在 Lastfm 用户轨迹和 NBA 篮球传球数据上验证其有效性与实用性。
2024-02-27 cs.LG
Clustering of check-in sequences using the mixture Markov chain process
National Research University Higher School of Economics（国立研究型高等经济学院）
这项工作是专门从地理社会网络的登记序列的聚类。我们使用混合马尔可夫链过程作为时间依赖型数据的数学模型。对于聚类，我们调整了期望最大化（EM）算法。因此，我们获得了现已不复存在的地理社交网络Weeplaces的用户的高度详细的社区（集群）。
2021-06-16 cs.CY cs.LG cs.SI
A Method of Moments for Mixture Models and Hidden Markov Models
University of California, Irvine（加州大学欧文分校）；Microsoft Research New England（微软新英格兰研究院）
混合模型是应用统计学和机器学习中用于处理从多个子群体获取的数据的基本工具。用于估计这种模型的参数的当前实践依赖于局部搜索算法（例如，EM算法），而现有的一致性方法由于它们的高计算和样本复杂性（其通常随混合物组分的数量呈指数地缩放）而不利。这项工作开发了一种有效的矩方法的参数估计方法的一个广泛的类别的高维混合模型与许多组件，包括多视图混合高斯（如轴对齐高斯的混合）和隐马尔可夫模型。新方法导致严格的无监督学习的混合模型，没有实现以前的作品的结果，而且，由于其简单性，它提供了一个可行的替代EM的实际部署。
2012-09-05 cs.LG stat.ML
Learning Mixtures of Markov Chains and MDPs
University of Michigan（密歇根大学）
我们提出了一个学习混合的马尔可夫链和马尔可夫决策过程（MDP）从短的未标记的轨迹的算法。具体而言，我们的方法处理混合物的马尔可夫链与可选的控制输入通过经历一个多步骤的过程，涉及（1）子空间估计步骤，（2）谱聚类的轨迹使用“成对距离估计”，以及细化使用的期望最大化算法，（3）模型估计步骤，和（4）分类步骤，用于预测标签的新轨迹。我们提供端到端的性能保证，其中我们只明确要求轨迹的长度在状态数中是线性的，并且轨迹的数量在混合时间参数中是线性的。实验结果支持这些保证，其中，我们达到96.6%的平均准确度在gridworld中的两个MDP的混合物，优于随机初始化的期望最大化算法（73.2%的平均准确度）。
2023-02-06 cs.LG stat.ML
Robust Classification using Hidden Markov Models and Mixtures of Normalizing Flows
KTH Royal Institute of Technology（KTH皇家理工学院）
我们测试的鲁棒性的最大似然（ML）为基础的分类，连续的数据作为观察被噪声破坏。假设是，生成模型，结合隐马尔可夫模型（HMM）的状态转换和神经网络的隐状态的概率分布的HMM，可以提供一个强大的分类性能。该模型被称为基于归一化流混合模型的隐马尔可夫模型（NMM-HMM）。它可以使用期望最大化（EM）和反向传播的组合进行训练。我们在语音识别的应用中验证了改进的NMM-HMM分类器的鲁棒性。
2021-02-15 cs.LG eess.SP
Distillation of RL Policies with Formal Guarantees via Variational Abstraction of Markov Decision Processes (Technical Report)
Vrije Universiteit Brussel（布鲁塞尔自由大学）；University of Antwerp – Flanders Make（安特卫普大学–法兰德斯制造）
我们认为，政策简化和验证的背景下，通过强化学习（RL）在连续环境中学习的政策的挑战。在行为良好的设置中，RL算法在极限内具有收敛保证。虽然这些保证是有价值的，但它们不足以用于安全关键型应用。此外，在应用深度RL等先进技术时，它们会丢失。为了在将高级RL算法应用于具有（i）可达性，（ii）安全约束可达性或（iii）折扣奖励目标的更复杂环境时恢复保证，我们基于Gelada等人提出的DeepMDP框架，推导出未知环境与其学习的离散潜在模型之间的新互模拟边界。我们的互模拟边界使形式化方法能够应用于马尔可夫决策流程.最后，我们展示了如何使用通过最先进的RL获得的策略来有效地训练一个变分自编码器，该编码器产生一个离散的潜在模型，具有可证明的近似正确的互模拟保证。此外，我们还获得了潜在模型的策略的一个精炼版本。
2022-06-14 cs.AI cs.LG
discretize_distributions: Efficient Quantization of Gaussian Mixtures with Guarantees in Wasserstein Distance
TU Delft（代尔夫特理工大学）；EPFL（苏黎世联邦理工学院）
discretize_distributions通过高效量化方法和Wasserstein距离保证，实现高斯混合分布的准确离散近似。
2025-11-19 cs.LG
Combinations and Mixtures of Optimal Policies in Unichain Markov Decision Processes are Optimal
我们表明，在单链马尔可夫决策过程中的最优（平稳）政策的组合是最优的。也就是说，设M是一个具有状态空间S，动作空间A和策略π_j^* 的单链马尔可夫决策过程：S -> A（1 \leq j \leq n），具有最优的平均无限时域报酬。然后这些策略的任何组合π，其中对于S中的每个状态i，存在j使得π（i）=π_j^*（i），也是最优的。此外，我们证明了任何最优策略的混合，其中在状态i的每次访问中，选择最优策略的任意动作π_j^*（i），也会产生最优平均奖励。
2005-08-17 cs.DM cs.LG math.CO
Linear Mixture Distributionally Robust Markov Decision Processes
Duke University（杜克大学）
针对离动力学挑战，提出线性混合分布鲁棒MDP框架，基于混合权重参数定义不确定性集合，并给出鲁棒策略学习的元算法及其样本复杂度分析。
2025-05-23 cs.AI cs.LG cs.RO
Tight Group-Level DP Guarantees for DP-SGD with Sampling via Mixture of Gaussians Mechanisms
Google Research（谷歌研究院）
本文提出一种程序，用于计算DP-SGD在泊松或固定批次采样下的紧致组级差分隐私保证，并证明其紧致性。
2024-03-13 cs.CR cs.LG
Representation and De-interleaving of Mixtures of Hidden Markov Processes
School of Information and Electronics, Beijing Institute of Technology（北京理工大学信息与电子学院）；School of Cyberspace Science and Technology, Beijing Institute of Technology（北京理工大学网络空间科学与技术学院）
本文提出了一种新的隐马尔可夫过程混合的生成表示模型及解交织方法，通过精确和近似推断最大化似然或证据下界，推导了理论误差下界，并在模拟和真实数据上验证了其有效性和鲁棒性。
2024-06-01 cs.LG eess.SP stat.ML
Robust Heterogeneous Analog-Digital Computing for Mixture-of-Experts Models with Theoretical Generalization Guarantees
Rensselaer Polytechnic Institute（拉特克利夫理工学院）；IBM Research（IBM研究院）
本文提出一种无需重新训练的异构计算框架，通过数字计算处理噪声敏感的专家和密集激活模块，以提高大规模混合专家模型在模拟非理想特性下的鲁棒性和效率。
2026-03-03 cs.AI cs.LG
Transcendental Regularization of Finite Mixtures:Theoretical Guarantees and Practical Limitations
Rochester Institute of Technology（罗切斯特技术学院）
本文提出超越正则化方法，用于解决有限混合模型在高维空间中的退化问题，提供理论保证并揭示其实际限制。
2026-02-03 cs.LG stat.ML
A Time-Series Scale Mixture Model of EEG with a Hidden Markov Structure for Epileptic Seizure Detection
Hiroshima University（广岛大学）；Okayama University Hospital（冈山大学医院）
在本文中，我们提出了一个基于马尔可夫转移的尺度混合分布的时间序列随机模型来检测脑电图（EEG）中的癫痫发作。在该模型中，每个时间点的EEG信号被假定为遵循高斯分布的随机变量。高斯分布的协方差矩阵加权的潜在规模参数，这也是一个随机变量，导致协方差的随机波动。通过引入一个潜在的状态变量与马尔可夫链的背景下，这种随机关系，时间序列的变化，潜在的尺度参数的分布可以表示根据癫痫发作的状态。在一个实验中，我们评估了所提出的模型的性能，癫痫发作检测使用EEG与多个频段分解从临床数据集。结果表明，该模型可以检测癫痫发作具有较高的灵敏度和优于几个基线。
2021-11-12 cs.LG eess.SP stat.ML
Training Federated GANs with Theoretical Guarantees: A Universal Aggregation Approach
Rutgers University（罗格斯大学）；Stony Brook University（石溪大学）
最近，生成对抗网络（GANs）已经证明了它们在联邦学习中的潜力，即，从多个站点私有托管的数据中学习集中式模型。联合GAN联合训练集中式生成器和托管在不同站点的多个私有鉴别器。联邦GAN的一个主要理论挑战是本地数据分布的异质性。传统的方法不能保证学习目标分布，这是一个高度不同的本地分布的混合。本文解决了这一理论挑战，并首次为联邦GAN提供了一个可证明的正确框架。我们提出了一种新的方法，称为通用聚合，它模拟了一个集中式的鉴别器通过仔细聚合的所有私人的混合物。我们证明了用这种模拟的集中式神经网络训练的生成器可以学习所需的目标分布。通过合成和真实数据集，我们表明，我们的方法可以学习现有联邦GAN方法失败的大部分不同分布的混合。
2021-02-09 cs.AI cs.LG
Markov Abstractions for PAC Reinforcement Learning in Non-Markov Decision Processes
Sapienza University of Rome（罗马第一大学）
我们的工作旨在开发不依赖于马尔可夫假设的强化学习算法。我们考虑一类非马尔可夫决策过程的历史可以抽象成一个有限的状态集，同时保持动态。我们称之为马尔可夫抽象，因为它在编码非马尔可夫动态的一组状态上诱导马尔可夫决策过程。这种现象是最近引入的规则决策过程（以及POMDP，其中只有有限数量的信念状态是可达的）的基础。在所有这些类型的决策过程中，使用马尔可夫抽象的代理可以依靠马尔可夫属性来实现最佳行为。我们表明，马尔可夫抽象可以在强化学习。我们的方法结合了自动机学习和经典的强化学习。对于这两个任务，可以采用标准算法。我们表明，我们的方法有PAC的保证时，所采用的算法有PAC的保证，我们还提供了一个实验评估。
2022-05-18 cs.AI cs.LG
Learning Two-Player Mixture Markov Games: Kernel Function Approximation and Correlated Equilibrium
University of California, Berkeley（加州大学伯克利分校）；University of California, Los Angeles（加州大学洛杉矶分校）
研究了具有非线性函数逼近的两人零和马尔可夫博弈的纳什均衡学习问题，其中作用价值函数由再生核希尔伯特空间（RKHS）中的函数逼近.关键的挑战是如何在高维函数空间中进行探索。我们提出了一种新的在线学习算法，以找到一个纳什均衡通过最小化的对偶差距。我们算法的核心是置信上限和置信下限，它们是基于面对不确定性时的乐观原则得出的。我们证明了我们的算法是能够达到一个$O(\sqrt{T})$遗憾多项式计算复杂性，非常温和的假设下的奖励函数和潜在的动态马尔可夫游戏。我们还提出了我们的算法的几个扩展，包括一个算法与伯恩斯坦型奖金，可以实现更严格的遗憾界，和另一种算法模型误指定，可应用于神经函数逼近。
2022-08-10 cs.AI cs.GT cs.LG
Recovery Guarantees for Kernel-based Clustering under Non-parametric Mixture Models
University of Tübingen（图宾根大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Technical University of Munich（慕尼黑工业大学）
尽管基于内核的聚类无处不在，但令人惊讶的是，除了考虑数据生成过程中强结构假设的设置之外，几乎没有统计保证。在这项工作中，我们采取了一个步骤弥合这一差距，通过研究基于核的聚类算法的统计性能下的非参数混合模型。我们提供了必要和充分的可分性条件下，这些算法可以始终恢复底层的真实聚类。我们的分析为内核聚类方法提供了保证，而无需对组件分布的形式进行结构性假设。此外，我们建立了一个关键的等价基于核的数据聚类和基于核密度的聚类。这使我们能够为非参数混合模型的基于核的估计提供一致性保证。除了理论上的影响，这种联系可能具有实际意义，包括在聚类的背景下系统地选择高斯核的带宽。
2021-10-18 cs.LG stat.ML
Revisiting RIP guarantees for sketching operators on mixture models
Univ Lyon（里昂大学）；ENS de Lyon（里昂高等师范学院）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；UCBL（里昂第一大学）；LIP UMR 5668（里昂第一大学计算机科学实验室（UMR 5668））
本文针对压缩混合建模中的草图算子，提出仅依赖频率集合的确定性 RIP 界与集中不等式，消除了随机 Fourier 特征采样中的重要性采样假设，并为快速结构化草图提供理论基础。
2024-06-13 cs.LG stat.ML
Model-based clustering with Hidden Markov Model regression for time series with regime changes
Paris Nord University（巴黎第十三大学）；IFSTTAR（法国交通与安全科学技术研究所）；Heudiasyc Lab（Heudiasyc实验室）
本文介绍了一种新的基于模型的聚类方法聚类时间序列，目前的政权变化。它由隐藏的马尔可夫链控制的多项式回归的混合物组成。每个簇的潜在隐藏过程在时间上连续激活几个多项式机制。参数估计通过专用期望最大化（EM）算法采用极大似然法进行。所提出的方法进行评估，使用模拟时间序列和现实世界的时间序列从铁路诊断应用程序发出。与现有的时间序列聚类方法，包括高斯混合的标准EM，$K$均值聚类，标准混合回归模型和混合隐马尔可夫模型的比较，证明了该方法的有效性。
2013-12-25 cs.LG stat.ME stat.ML
Locally Differentially Private Reinforcement Learning for Linear Mixture Markov Decision Processes
Tsinghua University（清华大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
强化学习（RL）算法可以用于提供个性化服务，这些服务依赖于用户的隐私和敏感数据。为了保护用户的隐私，需要保护隐私的强化学习算法。本文研究了具有线性函数逼近和局部差分隐私（LDP）保证的强化学习.提出了一种新的$(\varepsilon, δ)$算法来学习一类称为线性混合MDP的马尔可夫决策过程，并得到了一个$\tilde{\mathcal{O}}( d^{5/4}H^{7/4}T^{3/4}\left(\log(1/δ)\right)^{1/4}\sqrt{1/\varepsilon})$遗憾，其中$d$是特征映射的维数，$H$是规划视野的长度，$T$是与环境的交互次数.我们还证明了一个下界$Ω(dH\sqrt{T}/\left(e^{\varepsilon}(e^{\varepsilon}-1)\right))$学习线性混合MDP下$\varepsilon$ -LDP约束。在人工数据集上的实验验证了算法的有效性。据我们所知，这是第一个具有线性函数近似的可证明的隐私保护RL算法。
2021-10-19 cs.CR cs.LG math.OC
Hidden Markov Models with mixtures as emission distributions
AgroParisTech（巴黎农科院）；INRA（法国国家农业食品与环境研究院）；UEVE（埃夫里大学）；CNRS（法国国家科学研究中心）
在无监督分类中，隐马尔可夫模型（HMM）用于解释观测之间的邻域结构。通常假设发射分布属于某个参数族。在本文中，半参数建模的排放分布是一个混合的参数分布，提出了获得更高的灵活性。我们表明，经典的期望最大化算法可以适用于推断模型参数。对于初始化步骤，从大量的组件开始，提出了一种分层的方法将它们组合成隐藏状态。三个可能性为基础的标准来选择要结合的组件进行了讨论。为了估计隐藏状态的数量，推导出类似BIC的准则。通过仿真研究，确定了融合准则和模型选择准则的最佳组合，并对分类精度进行了评估。所提出的方法也说明了使用从模式植物拟南芥的生物数据集。一个R包HMMmix在CRAN上免费提供。
2012-06-22 cs.LG stat.CO stat.ML
Heterogeneous Variational Inference for Markov Degradation Hazard Models: Discretized Mixture with Interpretable Clusters
Digital Business Department, Yachiyo Engineering Co., Ltd.（大崎工程有限公司数字商务部）
本文提出一种结合精细状态离散化、特征工程和可解释模型选择的框架，用于解决马尔可夫退化危险模型中的关键瓶颈问题，验证了变分推断在稳定性、收敛性和计算效率上的优势。
2026-04-27 cs.LG
Performance Guarantees for Homomorphisms Beyond Markov Decision Processes
Research School of Computer Science, ANU（澳大利亚国立大学计算机科学研究学院）
大多数现实世界的问题都有巨大的状态和/或动作空间。因此，一个天真的应用程序现有的表格解决方案的方法是不听话的这样的问题。尽管如此，这些解决方案的方法是非常有用的，如果一个代理有一个相对较小的状态动作空间同态的真实环境和近最佳性能是由地图保证。大量的研究集中在同态是底层过程的马尔可夫表示的情况下。然而，我们发现，即使同态是非马尔可夫的，接近最优的性能有时是保证。此外，我们可以通过提升马尔可夫要求来聚合更多的状态，而不会影响性能。在这项工作中，我们扩展极端状态聚合（ESA）框架，联合状态动作聚合。我们还解除了政策的一致性条件，在ESA的聚合，允许更粗糙的真实环境建模。
2018-11-09 cs.LG stat.ML
On Sample Complexity of Projection-Free Primal-Dual Methods for Learning Mixture Policies in Markov Decision Processes
Stanford University（斯坦福大学）
研究了一类具有大量状态的无限时域、折扣费用马尔可夫决策过程的学习策略问题。我们计算的政策，几乎一样好的政策选择一个合适的预言机从一个给定的混合政策类的特点是由一组已知的基本政策的凸包的行动。为了学习混合模型的系数，我们将问题重新定义为MDP的近似线性规划（ALP）公式，其中特征向量对应于在状态-动作空间上定义的基本策略的占用度量。然后，我们提出了一个无投影的随机原始-对偶方法与Bregman分歧解决的特征ALP。此外，我们分析了所提出的随机算法的可能近似正确（PAC）样本的复杂性，即达到接近最优的目标值所需的查询数量。我们还提出了一个修改我们所提出的算法与多面体约束采样的平滑ALP，其中的限制下边界近似放松。此外，我们提出的算法应用到排队问题，并比较其性能与罚函数算法。数值结果表明，原始-对偶实现了更好的效率和低方差在不同的试验相比，罚函数方法。
2019-08-30 cs.LG stat.ML
Almost Optimal Algorithms for Two-player Zero-Sum Linear Mixture Markov Games
University of California, Los Angeles（加州大学洛杉矶分校）
我们研究了有限时间内两人零和马尔可夫博弈的强化学习，其中底层马尔可夫博弈的转移核可以通过当前状态、两个玩家的动作和下一个状态的线性函数来参数化。特别是，我们假设我们可以控制双方的球员，并旨在找到纳什均衡通过最小化的二元差距。我们提出了一个算法Nash-UCRL的基础上的原则“乐观面对不确定性”。我们的算法只需要找到一个粗相关均衡（CCE），这是计算效率。具体来说，我们证明了纳什UCRL可以证明实现$\tilde{O}(dH\sqrt{T})$遗憾，其中$d$是线性函数的尺寸，$H$是游戏的长度和$T$是在游戏中的步骤总数。为了评估我们的算法的最优性，我们还证明了一个$\tildeΩ( dH\sqrt{T})$下界的遗憾。我们的上限匹配的下限对数因子，这表明我们的算法的最优性。
2022-04-20 cs.LG math.OC stat.ML
Near-Optimal Clustering in Mixture of Markov Chains
KAIST AI（韩国科学技术院人工智能研究所）；ICL（国际计算机实验室）；EEE（电气电子工程系）；KTH EECS（瑞典皇家理工学院电子工程系）；Digital Futures（数字未来）
本文研究了对T条长度为H的轨迹进行聚类的问题，每条轨迹由K个未知的平稳马尔可夫链生成。作者推导了聚类误差率的实例依赖下界，并提出两阶段算法，通过新的欧几里得嵌入实现谱聚类，随后通过似然重新分配优化聚类结果，证明算法在合理条件下可实现近最优聚类性能。
2026-03-17 cs.IT cs.LG math.IT
Modeling and predicting students' engagement behaviors using mixture Markov models
National University of Computer and Emerging Sciences（巴基斯坦国立计算机与新兴科学大学）；University of Cordoba（科尔多瓦大学）
本研究针对学生（非）参与行为的建模与预测问题，提出基于K-means初始化的K-EM混合马尔可夫模型聚类方法，在真实数据集上表现优于基线，还可通过聚类可视化获得行为洞见。
2024-02-10 cs.CY cs.LG
Recognizing Combinations of Facial Action Units with Different Intensity Using a Mixture of Hidden Markov Models and Neural Network
Sharif University of Technology（谢里夫理工大学）
面部动作编码系统由44个动作单元（AU）和7000多个组合组成。隐马尔可夫模型（Hidden Markov Models，简称HMF）分类器由于具有处理面部动作单元（AU）动态变化的能力，已被成功地用于识别面部动作单元和表情。然而，对于每个单个AU和每个AU组合，需要单独的HMM。由于AU编号的组合以千计，因此需要更有效的方法。本文提出了一种精确的实时基于序列的人脸AU表示和识别系统。我们的系统具有以下特点：1）采用HMM和神经网络的混合，我们开发了一种新的精确分类器，它可以处理AU动态，识别细微变化，并且对强度变化也是鲁棒的，2）虽然我们仅对每个单个AU使用HMM，但是通过采用神经网络，我们可以识别每个单个和组合AU，3）同时使用基于几何和外观的特征，并应用有效的降维技术，我们的系统对光照变化具有鲁棒性，并且它可以表示涉及面部表情形成的时间信息。在Cohn-Kanade数据库上的实验结果表明了该方法的优越性。关键词：分类器设计与评估，数据融合，面部动作单元，隐马尔可夫模型，神经网络。
2010-04-04 cs.CV cs.LG
Mean Estimation in High-Dimensional Binary Markov Gaussian Mixture Models
Institute of Science and Technology, Austria（奥地利科学技术研究所）；Technion - Israel Institute of Technology（以色列理工学院）
我们考虑一个高维均值估计问题的二进制隐马尔可夫模型，它阐明了记忆数据，样本大小，尺寸和信号强度之间的相互作用，在统计推断。在该模型中，估计器观测$d$维参数向量$θ_{*}\in\mathbb{R}^{d}$的$n$样本，乘以随机符号$ S_i $（$1\le i\le n$），并被各向同性标准高斯噪声破坏.符号序列$\{S_{i}\}_{i\in[n]}\in\{-1,1\}^{n}$是从具有翻转概率$δ\in[0,1/2]$的平稳齐次马尔可夫链中得出的。当$δ$变化时，该模型平滑地内插两个充分研究的模型：$δ=0$的高斯位置模型和$δ=1/2$的高斯混合模型。假设估计器知道$δ$，我们建立了一个近似极小极大最优（对数因子）估计误差率，作为$\|θ_{*}\|,δ,d,n$的函数。然后，我们提供了一个上限的情况下估计$δ$，假设（可能不准确）的知识$θ_{*}$。当$θ_{*}$是一个精确已知的常数时，证明了该界是紧的.这些结果，然后结合到一个算法，估计$θ_{*}$与$δ$未知的先验，其误差的理论保证。
2022-10-12 cs.IT cs.LG math.IT
Factorized Asymptotic Bayesian Hidden Markov Models
NEC Laboratories America（美国 NEC 实验室）；University of Tokyo（东京大学）
本文讨论了隐马尔可夫模型（HMM）的模型选择问题。我们推广了因子分解渐近贝叶斯推断（FAB），这是最近开发的独立隐变量模型选择（即，混合模型），用于时间依赖的隐变量。与混合模型中的FAB算法一样，本文推导出了基于因子分解信息准则（FIC）的混合模型中的FAB算法。它继承了混合模型的FAB，学习障碍的几个理想的属性，如FIC与边际对数似然的渐近一致性，隐藏状态选择的收缩效应，通过迭代优化的FIC下限的单调增加。此外，它没有可调的超参数，因此其模型选择过程可以完全自动化。实验结果表明，FAB优于国家的最先进的变分贝叶斯HMM和非参数贝叶斯HMM的模型选择精度和计算效率。
2012-06-18 cs.LG stat.ML
ClusterCluster: Parallel Markov Chain Monte Carlo for Dirichlet Process Mixtures
Massachusetts Institute of Technology（麻省理工学院）；Harvard University（哈佛大学）
狄利克雷过程（DP）是贝叶斯非参数建模的基本数学工具，并且广泛用于诸如密度估计、自然语言处理和时间序列建模的任务。虽然用于DP的MCMC推断方法通常在渐近精度方面提供黄金标准，但它们可能在计算上昂贵并且不明显是可并行的。我们提出了一个重新参数化的狄利克雷过程，诱导形成随机措施的原子之间的条件独立性。这种条件独立性使得用于DP推断的许多马尔可夫链转换算子能够跨多个核并行仿真。应用到混合建模，我们的方法使狄利克雷过程，同时学习集群，描述的数据和超集群，定义并行化的粒度。与以前的方法不同，我们的技术不需要改变模型，并留下真正的后验分布不变。它也很自然地适用于Map-Reduce方面的分布式软件实现，我们在超过50台机器和100个核心的集群配置中进行了测试。我们目前的实验探索我们的方法在合成和真实世界的数据，包括在256维的1 MM数据向量上运行的并行效率和收敛特性。
2013-04-08 cs.DC cs.LG stat.ML
Learning GMMs with Nearly Optimal Robustness Guarantees
MIT（麻省理工学院）
在这项工作中，我们解决了鲁棒学习的问题，高维高斯混合模型与$k$组件从$ε$ -损坏的样本的准确度$\widetilde{O}(ε)$的总变化距离为任何常数$k$和温和的混合假设。这种鲁棒性保证对于多对数因子是最佳的。主要的挑战是，大多数早期的工作依赖于学习混合物中的单个成分，但这在我们的环境中是不可能的，至少对于我们所追求的强鲁棒性保证类型来说是这样。相反，我们引入了一个新的框架，我们称之为{ \em强可观测性}，给我们一个路线，绕过这个障碍。
2021-11-15 cs.DS cs.LG math.ST
Differential privacy guarantees of Markov chain Monte Carlo algorithms
University of Warwick, UK（沃里克大学）
本文为MCMC算法提供差分隐私保证，基于马尔可夫链收敛假设建立样本与估计器的隐私保证，并针对未调整Langevin算法和随机梯度Langevin动力学，利用Girsanov定理与扰动技巧在非凸无界域中推导出Rényi DP界限及链轨迹隐私界限。
2025-11-02 cs.LG stat.CO stat.ML
Nearly Minimax Optimal Reinforcement Learning for Linear Mixture Markov Decision Processes
University of California, Los Angeles（加州大学洛杉矶分校）；Deepmind（深度思维）；University of Alberta（阿尔伯塔大学）
我们研究了具有线性函数近似的强化学习（RL），其中马尔可夫决策过程（MDP）的潜在转移概率核是线性混合模型（Jia et al.，2020; Ayoub等人，2020; Zhou等人，2020），并且学习代理可以访问各个基核的积分或采样预言。本文对带有界噪声的线性Bandit问题的自正规鞅提出了一个新的Bernstein型集中不等式。基于新的不等式，我们提出了一个新的，计算效率高的算法命名为$\text{UCRL-VTR}^{+}$的线性函数逼近上述线性混合MDP在情节未贴现设置。我们发现，$\text{UCRL-VTR}^{+}$达到了$\tilde O(dH\sqrt{T})$遗憾，其中$d$是特征映射的维度，$H$是情节的长度和$T$是与MDP的交互次数。我们还证明了一个匹配的下限$Ω(dH\sqrt{T})$为这个设置，这表明，$\text{UCRL-VTR}^{+}$是最小最大最优的对数因子。此外，我们提出了$\text{UCLK}^{+}$算法的同一家庭的MDP下折扣，并表明它达到了$\tilde O(d\sqrt{T}/(1-γ)^{1.5})$遗憾，其中$γ\in [0,1)$是折扣因子。我们的上限与Zhou等人（2020）证明的下限$Ω(d\sqrt{T}/(1-γ)^{1.5})$匹配，达到对数因子，表明$\text{UCLK}^{+}$几乎是最小最大最优的。据…
2021-01-07 cs.LG math.OC stat.ML
Gaussian Mixture Copula Processes for Irregular Time Series
Institute of Computer Science（计算机科学研究所）；University of Hildesheim（希尔德斯海姆大学）
提出CopFITi模型，结合归一化流与高斯混合Copula，实现不规则多元时间序列的概率预测，在联合密度建模上达到新最优。
2026-09-30 cs.LG
Improved Convergence Guarantees for Learning Gaussian Mixture Models by EM and Gradient EM
Weizmann Institute of Science（魏茨曼科学研究所）
本文研究了具有K个已知权重分量的高斯混合模型的参数估计问题，所有分量都具有单位协方差矩阵。我们做了两个贡献。首先，在人口水平上，我们提出了一个更尖锐的分析EM和梯度EM的局部收敛性，相比以前的作品。假设分离的$Ω(\sqrt{\log K})$，我们证明了这两种方法的收敛到全局最优值从一个初始化区域大于以前的作品。具体来说，每个分量的初始猜测可以远至（几乎）其到最近高斯的距离的一半。这基本上是最大可能的收缩区域。我们的第二个贡献是改进了EM和梯度EM精确估计的样本量要求。在以前的工作中，所需的样本数有一个二次依赖于K个组件之间的最大分离，并由此产生的误差估计线性增加与此最大分离。在这篇手稿中，我们表明，这两个数量只依赖于最大的分离几何。
2021-09-23 cs.LG math.ST stat.TH
Beyond Parallel Pancakes: Quasi-Polynomial Time Guarantees for Non-Spherical Gaussian Mixtures
ETH Zürich（苏黎世联邦理工学院）
针对共享未知协方差的良好分离高斯混合模型，论文提出基于平方和方法的拟多项式算法，在混合权重具多项式下界时实现与纯高斯分布的区分及聚类保证。
2023-06-07 cs.DS cs.LG stat.ML
Robust Mixture Learning when Outliers Overwhelm Small Groups
ETH Zurich（苏黎世联邦理工学院）；TU Munich（慕尼黑工业大学）；Lucerne School of Computer Science and Information Technology（卢塞恩计算机科学与信息技术学院）；University of Copenhagen（哥本哈根大学）
研究对手添加异常值淹没低权重簇时的列表可解码混合学习问题，提出利用混合结构部分聚类并迭代基学习器的算法，以最小列表开销实现阶数最优误差保证。
2024-07-22 cs.DS cs.LG stat.ML
Statistical Learning Guarantees for Compressive Clustering and Compressive Mixture Modeling
Université Paris-Saclay（巴黎-萨克雷大学）；CNRS（法国国家科学研究中心）；Laboratoire de mathématiques d’Orsay（奥赛数学实验室）；GIPSA-lab（GIPSA实验室）；Univ. Bordeaux（波尔多大学）；Bordeaux INP（波尔多国立理工学院）；IMB（波尔多数学研究所）；Univ Lyon（里昂大学）；Inria（法国国家信息与自动化研究所）；ENS de Lyon（里昂高等师范学校）；UCB Lyon 1（里昂第一大学）；LIP（里昂信息处理实验室）；Univ Rennes（雷恩大学）；IRISA（雷恩计算机科学研究所）
我们在压缩统计学习的背景下为两个无监督学习任务提供了统计学习保证，压缩统计学习是我们在一篇配套论文中介绍的资源高效的大规模学习的一般框架。压缩统计学习的原理是压缩一个训练集合，在一次通过中，转换成一个低维草图（一个随机经验广义矩的向量），它捕捉了与所考虑的学习任务相关的信息。我们明确地描述和分析随机特征函数，经验平均值保留了压缩聚类和压缩高斯混合建模所需的信息，具有固定的已知方差，并建立足够的草图大小给定的问题尺寸。
2021-08-17 cs.IT cs.LG math.IT
Estimating Mixture Models via Mixtures of Polynomials
Stanford University（斯坦福大学）
混合建模是一种通过加权组合使任何简单模型更具表达力的通用技术。这种通用性和简单性部分解释了期望最大化（EM）算法的成功，在该算法中，很容易为广泛的混合模型导出更新。然而，混合模型的可能性是非凸的，因此EM没有已知的全局收敛保证。最近，矩量法方法提供了一些混合模型的全局保证，但它们不容易扩展到现有的混合模型的范围。在这项工作中，我们提出了Polymom，一个统一的框架，基于矩量法的估计程序很容易推导，就像在EM。当单个混合组分的矩是参数的多项式时，多项式是适用的。我们的关键观察是，混合模型的矩是这些多项式的混合，这使我们能够将估计转换为广义矩问题。我们使用半定优化来求解其松弛，然后使用计算机代数的思想来提取参数。这个框架使我们能够从凸优化，计算机代数和矩理论中汲取见解和应用工具来研究统计估计中的问题。
2016-03-28 cs.LG stat.ML
Scalable Inference of Sparsely-changing Markov Random Fields with Strong Statistical Guarantees
University of Michigan（密歇根大学）；University of Southern California（南加州大学）
在本文中，我们研究的问题，推断时变马尔可夫随机场（MRF），其中底层的图形模型是稀疏的，随着时间的推移变化稀疏。大多数用于推断时变MRF的现有方法依赖于正则化最大似然估计（MLE），其通常遭受弱统计保证和高计算时间。相反，我们引入了一类新的约束优化问题的推理稀疏变化的MRF。提出的优化问题是制定基于精确的$\ell_0$正则化，并可以解决在近线性的时间和内存。此外，我们表明，该估计享有可证明的小估计误差。作为一个特殊的情况下，我们推导出尖锐的统计保证稀疏变化的高斯MRF（GMRF）在高维制度的推断，表明这样的问题可以学习少到一个样本每一次。我们提出的方法在实践中非常有效：它可以在不到一个小时的时间内准确地估计具有超过5亿个变量的稀疏变化的图形模型。
2021-02-06 cs.LG stat.CO stat.ML
Convergence and Price of Anarchy Guarantees of the Softmax Policy Gradient in Markov Potential Games
University of South Carolina（南卡罗来纳大学）；Virginia Tech（弗吉尼亚理工大学）
我们研究的性能的策略梯度方法的马尔可夫游戏的子类称为马尔可夫潜在的游戏（MPG），它扩展了正常形式的潜在游戏的概念，有状态的设置，包括重要的特殊情况下，完全合作的设置，其中代理共享一个相同的奖励函数。我们在本文中的重点是研究的收敛性的策略梯度方法求解MPG下softmax政策参数化，表格和参数化的一般函数逼近器，如神经网络。我们首先证明了这种方法的渐近收敛到一个纳什均衡的MPG表格softmax政策。其次，我们推导了两种设置下的策略梯度的有限时间性能：1）使用对数屏障正则化，以及2）使用最佳响应动态（NPG-BR）下的自然策略梯度。最后，通过推广正规型博弈中的无政府无政府代价（POA）和光滑性的概念，我们引入了MPG的POA，并给出了NPG-BR的POA界。据我们所知，这是求解MPG的第一个POA界。为了支持我们的理论结果，我们实证比较了表格和神经softmax政策的策略梯度变体的收敛速度和POA。
2022-06-15 cs.AI cs.GT cs.LG
Data-driven robust Markov decision processes on Borel spaces: performance guarantees via an axiomatic approach
本文提出了一种数据驱动的鲁棒马尔可夫决策过程方法，通过公理化方法在博雷尔空间上提供性能保证，建立了鲁棒最优值函数与样本外值函数的收敛性及概率收敛速率。
2026-03-09 cs.LG math.OC stat.ML
Overspecified Mixture Discriminant Analysis: Exponential Convergence, Statistical Guarantees, and Remote Sensing Applications
Machine Learning Department（机器学习系）；Mohamed bin Zayed University of Artificial Intelligence（马尔代夫比内扎伊德人工智能大学）；Remote Sensing Department（遥感系）；National Center of Space Research and Technology（国家航天研究与技术中心）；Department of Mathematical Sciences（数学科学系）；Purdue University Fort Wayne（普渡大学富尔顿分校）；Department of Mathematics and Statistics（数学与统计学系）；University of Minnesota Duluth（明尼苏达大学杜鲁斯分校）；Department of Mathematics（数学系）；Nazarbayev University（纳扎尔巴耶夫大学）
本研究分析了过指定条件下混合判别分析（MDA）的分类误差，证明EM算法在总体水平指数收敛至贝叶斯风险，有限样本下分类误差以 $n^{-1/2}$ 速率收敛，并在遥感数据集上验证了理论。
2025-10-30 cs.LG stat.ML
Distributionally Robust Losses for Latent Covariate Mixtures
Stanford University（斯坦福大学）；Columbia Business School（哥伦比亚商学院）
虽然现代大规模数据集通常由异质的子群体组成-例如，多个人口统计组或多个文本语料库-最小化平均损失的标准实践无法保证所有子群体的均匀低损失。我们提出了一个凸的过程，控制最坏情况下的性能在一个给定的大小的所有子群。我们的程序带有有限样本（非参数）收敛保证最差的子群体。从经验上讲，我们观察到词汇相似性，葡萄酒质量和累犯预测任务，我们的最坏情况程序学习模型，以及对看不见的亚群。
2022-08-10 cs.LG stat.ML
Differentially Private Markov Chain Monte Carlo
University of Halmstad（哈尔姆斯塔德大学）；Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所 HIIT）；University of Helsinki（赫尔辛基大学）；Aalto University（阿尔托大学）
差分私有（DP）机器学习和DP贝叶斯学习的最新发展使得能够在训练数据主题的强隐私保证下进行学习。在本文中，我们进一步扩展了DP贝叶斯学习的适用性，提出了第一个通用的DP马尔可夫链蒙特卡罗（MCMC）算法的隐私保证不受不切实际的假设马尔可夫链收敛，适用于后验推理在任意模型。我们的算法是基于分解的巴克验收测试，允许评估的接受拒绝选择的Rényi DP隐私成本。我们进一步展示了如何通过数据二次抽样和近似验收测试来提高DP保证。
2019-06-17 cs.CR cs.LG stat.CO
Differentially Private (Gradient) Expectation Maximization Algorithm with Statistical Guarantees
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；University of Houston（休斯顿大学）；Rutgers University（罗格斯大学）；State University of New York at Buffalo（纽约州立大学布法罗分校）
（梯度）期望最大化（EM）是一种广泛使用的算法，用于估计混合模型或不完全数据问题的最大似然。这种流行技术面临的一个主要挑战是如何有效地保护敏感数据的隐私。以前对这个问题的研究已经导致发现了一些差分私有（DP）算法（梯度）EM。然而，与非私有情况不同，现有技术尚不能提供有限样本的统计保证。为了解决这个问题，我们在本文中提出的第一个DP版本的（梯度）EM算法的统计保证。此外，我们将我们的一般框架应用于三个典型模型：高斯混合模型（GMM），混合回归模型（MRM）和缺失协变量线性回归（RMC）。具体来说，对于DP模型中的GMM，我们的估计误差在某些情况下接近最优。对于其他两个模型，我们提供了第一个有限样本的统计保证。我们的理论得到了充分的数值实验的支持。
2022-01-16 cs.CR cs.LG stat.ML
Convergence to Nash Equilibrium and No-regret Guarantee in (Markov) Potential Games
Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；University of Waterloo（滑铁卢大学）
针对随机成本与赌博机反馈下的势博弈及马尔可夫势博弈，提出带充分探索和递归梯度估计的 Frank-Wolfe 变体，实现纳什均衡收敛、次线性遗憾，并将马尔可夫情形的纳什遗憾改进至 O(T^{4/5})。
2024-04-04 cs.GT cs.LG
Clustering subgaussian mixtures by semidefinite programming
Air Force Institute of Technology（空军理工学院）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
我们介绍了一个无模型的松弛和轮算法的k-均值聚类的基础上半定松弛由于彭和魏。该算法将SDP输出解释为原始数据的去噪版本，然后将此输出舍入为硬聚类。我们提供了一个通用的方法来证明该算法的性能保证，我们分析了该算法的背景下，亚高斯混合模型。我们还研究了估计高斯中心的基本限制，以比较我们的近似保证理论上最优的k-均值聚类解决方案。
2016-05-10 cs.DS cs.IT cs.LG
Generalization Guarantees for Representation Learning via Data-Dependent Gaussian Mixture Priors
Paris Research Center, Huawei Technologies France（华为技术法国巴黎研究中心）；Université Gustave Eiffel, France（Gustave Eiffel大学）
该研究为表示学习算法建立了基于数据依赖先验的泛化误差界，据此提出同时学习高斯混合先验并用作正则项的方法，且实验效果优于VIB和CDVIB方法。
2025-03-19 cs.IT cs.LG math.IT
Beyond Log-concavity: Provable Guarantees for Sampling Multi-modal Distributions using Simulated Tempering Langevin Monte Carlo
Duke University（杜克大学）；Princeton University（普林斯顿大学）；Massachusetts Institute of Technology（麻省理工学院）
贝叶斯统计中的一个关键任务是从仅指定到分区函数（即，比例常数）。然而，在没有任何假设的情况下，采样（即使是近似）也可能是#P-hard的，很少有作品为这种设置提供了“超越最坏情况”的保证。对于对数凹分布，经典的结果可以追溯到Bakry和Émery（1985），表明自然连续时间马尔可夫链称为朗之万扩散混合在多项式时间。在实践中违反对数分布的最显著特征是单峰：通常，我们希望从中采样的分布是多峰的。在存在多个深度且分离良好的模式的情况下，朗之万扩散会遭受迟钝混合。我们解决这个问题，结合朗之万扩散与模拟回火。其结果是一个马尔可夫链，通过在分布的不同温度之间过渡，混合得更快。我们分析这个马尔可夫链的典型多峰分布：高斯（等方差）的混合物。该算法的基础上，我们的马尔可夫链可证明样本的分布是接近混合高斯，获得梯度的对数PDF。对于分析，我们使用图的谱分解定理（Gharan和Trevisan，2014）和马尔可夫链分解技术（Madras和Randall，2002）。
2017-11-06 cs.DS cs.LG math.PR
High-Dimensional Differentially-Private EM Algorithm: Methods and Near-Optimal Statistical Guarantees
Rutgers University（罗格斯大学）
在本文中，我们开发了一个通用的框架来设计差分私人期望最大化（EM）算法在高维潜变量模型，基于噪声迭代硬阈值。我们推导出所提出的框架的统计保证，并将其应用到三个特定的模型：高斯混合，混合回归，回归与缺失协变量。在每个模型中，我们建立了接近最优的收敛速度与差分隐私约束，并表明该算法是最小最大率最优的对数因子。开发的技术工具的高维设置，然后扩展到经典的低维潜变量模型，我们提出了一个近速率最优的期望最大化算法在这种设置与差分隐私保证。仿真研究和实际数据分析进行支持我们的结果。
2021-09-09 cs.CR cs.LG math.ST
Simulated Tempering Langevin Monte Carlo II: An Improved Proof using Soft Markov Chain Decomposition
Duke University（杜克大学）；Carnegie Mellon University（卡内基梅隆大学）
贝叶斯机器学习中的一个关键任务是从仅指定到分区函数（即，比例常数）。一个普遍的例子是参数分布中的采样后验，例如潜变量生成模型。然而，采样（甚至非常近似）可能是#P-hard。经典的结果可以追溯到Bakry和Émery（1985）的抽样集中在对数凹分布，并显示一个自然的马尔可夫链称为朗之万扩散混合在多项式时间。然而，所有对数凹分布都是单峰的，而在实践中，感兴趣的分布具有多个模式是非常常见的。在这种情况下，朗之万扩散受到迟钝混合的影响。我们解决这个问题，结合朗之万扩散与模拟回火。其结果是一个马尔可夫链，通过在分布的不同温度之间过渡，混合得更快。我们分析这个马尔可夫链的混合物（强）对数凹分布相同的形状。特别是，我们的技术适用于典型的多峰分布：高斯（等方差）的混合。我们的算法有效地从这些分布中采样，只允许访问log-pdf的梯度。对于分析，我们介绍了新的技术，证明光谱差距的基础上分解的扩散的发电机的行动。以前的方法依赖于将状态空间分解为集合的分区，而我们的方法可以被认为是将静态测量分解为分布的混合（“软分区”）。论文的其他材料可以在http://holdenlee.github.io/Simulated%20tempering%20Langevin%20Monte%20Carlo.html上找到。证明和结果已经从arXiv：1710.02736的前体得到改进和推广。
2020-09-09 cs.DS cs.LG math.PR
