A Note on Conditional Expectation for Markov Kernels
将条件期望的一个已知性质推广到马尔可夫核的框架中。它的意义在密度方面提供。最后给出了临床诊断领域的一些实例来说明本文的主要结果。
2020-06-05 math.PR
A note on the jump locations of Markov processes
对于连续时间马氏过程,利用辅助马尔可夫过程的不变分布,刻画了从任意初始分布出发的第一跳位置的规律.这可能是兴趣的新兴领域的分段确定性马尔可夫链蒙特卡罗方法和准静态蒙特卡罗方法。
2019-08-22 math.PR
A note on Wiener-Hopf factorization for Markov Additive processes
证明了Markov可加过程的Wiener-Hopf分解。我们还推导了这类过程的Spitzer-Rogozin定理,该定理可用于获得阶梯历元过程的累积量矩阵的Kendall公式和Fristedt表示。最后,我们还得到了所谓的投票定理。
2011-10-17 math.PR
Some notes on a semi-Markov matrix occurring in the MMinf queue parameters study
本文的主要目的是对可数无限空间中的马氏更新过程给出一个计算马氏更新矩阵的方法,其中半马氏矩阵是移民死亡型的,且具有三对角形式.这些过程在实际应用中经常发生。而该矩阵难以得到友好的结果是其在实际案例建模中应用的一大障碍。它被认为是应用于MMinf队列的特殊情况。
2021-10-10 math.PR
A Short Note on Stationary Distributions of Unichain Markov Decision Processes
在处理单链MDP时,我们考虑在除$n$状态之外的所有状态中一致的策略的静态分布。在这些状态下,每个策略选择两种可能的操作之一。我们证明了n+1个这样的策略的平稳分布唯一地决定了所有其他这样的策略的平稳分布。给出了计算的显式公式。
2006-04-20 math.PR
A note on the state occupancy distribution for Markov chains
本文针对可数状态马尔可夫链,利用生成函数方法推导占用时间分布,给出了比现有方法更简洁的公式。
2025-03-29 math.PR
A Note on Exact State Visit Probabilities in Two-State Markov Chains
本文推导了两状态马尔可夫链中特定状态在N次转移后恰好被访问k次的精确闭式概率,修正并扩展了先前不完整结果,并通过数值模拟验证了其在随机建模中的适用性。
2025-02-06 math.PR
A note on the passage time of finite state Markov chains
考虑具有有限状态$\{0, 1, ..., d\}$的马尔可夫链。给出了两种情况下链的吸收(通过)时间的母函数(或拉普拉斯变换):(1)链从任意态$i$出发并在态$d$处吸收时,态$d$的吸收时间;(2)链从平稳分布出发时,假设链是时间可逆遍历的,任意态$i$的通过时间。算例表明,与现有方法相比,该方法更加方便,特别是可以直接计算出吸收时间的期望值。
2014-12-08 math.PR
A note on scaling limits for truncated birth-and-death processes with interaction
本文考虑有限状态空间上由相互作用的生灭过程组成的有限系统所构成的马尔可夫链。研究了马尔可夫链在状态空间变大时的渐近行为。特别地,我们证明了适当标度的马尔可夫链收敛到一个扩散过程,并在特殊情况下导出了极限扩散过程的平稳分布存在的条件。
2016-11-11 math.PR
A note on the Esscher transform of affine Markov processes
在仿射模型中,随机指数的鞅性和仿射过程的非爆炸性都可以用广义里卡蒂微分方程解的极小性来刻画.这是Duffie,Filipovic and Schachermayer(2003),Mayerhofer,Muhle-Karbe and Smirnov(2011)以及Keller-Ressel and Mayerhofer(2015)关于正则状态空间上过程的结果的最终改进。
2016-09-09 math.PR
A Short Note on Markov Duality in Multi-species Higher Spin Stochastic Vertex Models
我们证明了多种群高自旋随机顶点模型,也称为U_q(A_n^{(1)})顶点模型,满足一个对偶性,其中指示函数的形式为{η^ x_{[1,n]} \geq x_{[1,n]} }.换句话说,对于在顶点x处的物质i的每个粒子,在η构型中必须有一个在顶点x处的物质j > i的粒子。证明如下应用电荷反转以前发现的对偶函数,这也导致在开放的边界条件。作为推论,我们恢复了Y.是林书
2019-11-04 math.PR
Note on local mixing techniques for stochastic differential equations
本文讨论了几种将耦合方法应用于求解随机微分方程的技巧。它们都在$d\ge 1$维中工作,尽管在$d=1$中,最自然的方式是使用轨迹的交叉,这只需要强马尔可夫性和扩散系数的非退化性。在$d>1$维中,可以通过考虑离散时间$n=0,1,\ldots$或通过安排特殊的停时序列并使用局部马尔可夫-多布鲁申(MD)条件来使用嵌入马尔可夫链。进一步的应用可以基于MD条件的一个或另一个版本。对于收敛和混合速率的研究,(马尔可夫)过程必须是强马尔可夫和经常性的;然而,经常性是一个单独的问题,本文不讨论。
2020-10-19 math.PR
A note on chaotic and predictable representations for Itô-Markov additive processes
本文给出了Itô-Markov可加过程$X$的可预测和混沌表示.这种过程由有限状态CTMC $J$控制,它允许人们修改Itô跳跃过程的参数(以所谓的状态切换方式)。另外,$J$的转换触发了根据转换之前的$J$的状态分布的$X$的跳转。这类过程包括马尔可夫调制的Itô-Lévy过程和马尔可夫可加过程。导出了平方可积随机变量的混沌表示,它是关于某些显式构造的正交鞅的随机积分之和。我们将平方可积鞅的可预报表示确定为可预报过程关于布朗运动和幂跳鞅的随机积分之和,幂跳鞅与模型中出现的所有跳有关。这个结果推广了Jacod-Yor的开创性结果,在金融数学中具有重要意义。衍生的表示,然后允许一个扩大的不完全市场的一系列功率跳跃资产和定价所有的市场衍生品。
2017-08-25 math.PR
Notes on Markov embedding
有限维马尔可夫矩阵在马尔可夫半群的表示问题进行了重新审视,重点是具体的标准,理论或实际相关的矩阵子类,如等输入,循环,对称或双随机阵。在这里,我们特别注意嵌入问题的各种代数性质,并讨论与马尔可夫矩阵的中心化器的连接。
2020-03-03 math.PR q-bio.PE
A note on time-dependent additive functionals
本文简要地发展了非时齐可加泛函的理论,并对分析不定常马氏过程及相关问题提供了有用的支持。它是分析法律上的BSDES的重要工具。特别是,我们扩展到一个非齐次的设置有关的二次变化和角括号的马丁-盖尔加法泛函(简称MAF)与齐次马尔可夫过程的一些结果。
2017-08-17 math.PR
The Optimal Filtering of Markov Jump Processes in Additive White Noise
本说明基于Wonham \cite{Wonham}。这一说明和[Wonham]之间的差异将在第八节中讨论。
2009-04-19 math.PR
Lecture Notes on Stochastic Processes
这是“随机过程”课程的课堂讲稿。在这种形式下,该课程在2017年和2018年春季学期为莫斯科物理与技术学院控制与应用数学系,应用数学与信息学院的三年级本科生授课。这门课程的基础是由控制数学基础A.A.系的教授形成和教授了几十年。Natan,S.A.古兹和O.G.戈尔巴乔夫除了标准的章节随机过程理论(相关理论,马尔可夫过程)在这本书(和讲座)以下章节包括:冯诺依曼,伯克霍夫欣钦遍历定理,宏观系统平衡的概念,马尔可夫链蒙特卡洛,马尔可夫决策过程和秘书问题。
2021-01-06 math.PR
Ergodic Markov processes and Poisson equations (lecture notes)
这些是关于题目中定义的主题的课堂讲稿。因此,他们并不假装是真正的新,可能除了唯一的一节约泊松方程与潜力。然而,作者的希望是,他们可以作为一个桥梁的重要领域的泊松方程“在整个空间”,并与一个参数,后一个主题是没有提出在这里。为什么这个领域是如此重要的解释在许多论文和书籍(见参考文献[12,34,35]):它提供了一个主要的工具,在扩散近似的区域随机平均。因此,这些讲座的目的是准备读者“真正的”泊松方程-即,对于微分算子,而不是差分算子--事实上,对于扩散近似。在其他提出的主题中,我们提到耦合方法。
2017-03-10 math.PR
A Note on the Stability of Monotone Markov Chains
Business School and Institute of Operations Research and Analytics, National University of Singapore(新加坡国立大学商学院与运筹学与分析研究所)
本文针对单调马尔可夫链,提出简单适用的条件以确保其全局稳定性,并通过自回归过程、投资组合配置和资源分配等例子验证了条件的简便性。
2026-10-20 econ.TH math.PR
Markov loops, determinants and Gaussian fields
本文的目的是探讨圈测度、行列式和高斯马尔可夫场之间的一些简单关系。
2007-09-04 math.PR
A Note on the Bias and Kemeny's Constant in Markov Reward Processes with an Application to Markov Chain Perturbation
本文利用平均首次通过时间给出单链马尔可夫奖励过程偏差的显式表达,将平稳分布扰动界推广到不可约性缺失情形并改进1-范数界,同时为Kemeny常数的常数性质提供直观解释。
2024-08-08 math.OC math.PR
A Note on Subexponential Rate of Convergence to Equilibrium for Processes on the Half-Line
李雅普诺夫函数是研究马尔可夫过程长期收敛于平稳分布的一个有力工具。在某种意义上,这是本征函数的替代。对于射线上的随机序马尔可夫过程,利用李雅普诺夫函数可以很容易地得到显式的收敛速度。我们早期的研究集中在指数收敛速率上。本说明将这些结果扩展到较慢的速率,包括功率速率,从而改进了(Douc,Fort,Guillin,2009)的结果。
2021-02-25 math.PR
A Simple Proof of the Monotonicity of the Invariant Distribution for a Discrete Markov Chain
本文给出了有限状态空间离散马尔可夫链不变分布单调性的一个简单证明。这回答了David Siegmund最近提出的一个问题。
2019-05-07 math.PR
A martingale proof of Dobrushin's theorem for non-homogeneous Markov chains
1956年,Dobrushin证明了非齐次马尔可夫链的中心极限定理。本文利用鞅逼近给出了一个较短的不同的证明,阐明了更多的假设。
2004-04-12 math.PR
A note on weak compactness of occupation measures for an absorbing Markov decision process
本文研究了具有Borel状态和动作空间的吸收马尔可夫决策过程,给出了使其一致吸收且占用测度集在弱拓扑下紧致的条件,推广了已有结果并回答了相关文献中的猜想。
2024-04-29 math.OC math.PR
Note On Gaussian Random Fields \& Underlying Markov Processes Through a Central Limit Theorem
Oregon State University(俄勒冈州立大学)
本文通过中心极限定理引入一类与遍历马尔可夫过程相关的通用高斯随机场,并建立与Dynkin、Diaconis和Evans意义下高斯随机场的联系。
2026-07-31 math.PR
Bounds on the rate on convergence for Markovian queueing models with catastrophes
本文研究了具有突变的非平稳马尔可夫链及其相应的排队模型,并给出了极限状态的估计。作为说明,一个排队模型的例子进行了研究。
2021-05-04 math.PR
Explicit formula for the density of local times of Markov Jump Processes
本文给出了有限图上连续时间马尔可夫链的局部时、最后退出树和循环数的联合密度的一个简单公式,其中包含了第一类修正的Bessel函数.
2018-03-26 math.PR
Markov loops in discrete spaces
这些笔记的主要议题是马尔可夫环,研究的背景下,连续时间马尔可夫链离散状态空间。我们参考[1]和[2],了解这个主题的简短“历史”。与这些参考文献相比,对称性没有假设,更多的注意力被给予无限的情况。所有结果都是用半群生成元表示的。与文[1]相比,本文给出了一些更细致的证明,或给出了更好的证明方法。我们主要集中在(多)占领领域的性质,但也包括一些结果循环集群(见[3]在对称的上下文中)和生成树。[1]马尔可夫路径、循环和场,作者Yves Le Jan,数学讲义,第2026卷,Springer,海德堡,2011年[2]占领时间和高斯自由场的主题,作者Alain-Sol Sznitman,苏黎世高等数学讲座,欧洲数学学会(EMS),苏黎世,2012年[3]图上的马尔可夫循环簇,作者Yves Le Jan和Sophie Lemaire,预印本,arxiv:1211.0300 [数学.PR],2012
2014-02-05 math.PR
On Mixing Properties of Reversible Markov Chains
众所周知,对于严格平稳、可逆的Harris递归马尔可夫链,$ρ$ -混合条件等价于几何遍历性和“谱隙”条件。在本文中,将用一个例子说明,对于这类马尔可夫链,$ρ$ -混合条件的“交错”变体不能等价于这些条件。
2014-03-19 math.PR
A note on faithful coupling of Markov chains
人们经常需要将马尔可夫链的耦合$(X_i, Y_i)_{i\geq 0}$转换为粘性耦合,一旦$X_T = Y_T$在某个$T$上,那么从那时起,在每个后续的时间步$T'\geq T$上,我们将有$X_{T'} = Y_{T'}$。然而,并不是所有在文献中被认为是耦合的东西,甚至是马尔可夫耦合,都可以转化为粘性耦合,正如罗森塔尔通过一个反例所证明的那样。Rosenthal接着提出了一个强化的马尔可夫耦合概念,称为忠实耦合,由此确实可以得到粘性耦合。我们确定的原因,粘性耦合不能得到罗森塔尔的反例,这促使我们定义一种类型的耦合,显然可以变成一个粘性耦合。然后,我们表明,我们定义的新型耦合,和罗森塔尔定义的忠实耦合,实际上是相同的。我们的注释可以看作是忠实耦合概念的自然性的证明。
2017-10-27 cs.DS math.PR
An Adiabatic Theorem for Policy Tracking with TD-learning
University of Manchester(曼彻斯特大学)
我们评估了时间差异学习跟踪策略的奖励函数随时间变化的能力。我们的结果应用了一个新的绝热定理,边界的时间非齐次马尔可夫链的混合时间。当用于训练的策略随时间变化时,我们推导出表格时间差学习和$Q$学习的有限时间界限。为了实现这一点,我们开发的异步绝热更新下的随机逼近的界限。
2020-10-30 cs.AI cs.LG math.PR
Some simple but challenging Markov processes
本文给出了几个分段确定马尔可夫过程及其长时间行为的例子。它们具有两个重要的特征:它们与具体的模型(在生物学、网络、化学等领域)相关。. .)它们在数学上很丰富。它们的数学研究依赖于耦合方法、谱分解、偏微分方程技术、泛函不等式。我们还将这些简单的例子与最近的公开问题联系起来。
2014-12-23 math.PR
Topics in Markov chains: mixing and escape rate
这些是2012年6月在圣彼得堡暑期学校讲授的关于马尔可夫链的迷你课程的笔记。主要重点是估计混合时间(有限链)和逃逸率(无限链)的方法。在这两个主题和Varopolous-Carne长程估计是有用的,在这两种设置中的Lighter组的关键例子。
2015-06-16 math.PR
Arrêt optimal pour les processus de Markov forts et les fonctions affines
本文研究强马氏过程和仿射函数的最优停止问题。我们给出了一个理由的斯内尔包络形式使用标准的最佳停止的结果。我们还证明了凸的价值函数,并没有先验限制的特定类别的停时,我们推断,最小的最佳停时必然是一个首中时。
2008-04-22 math.PR
A note on concentration inequalities for the overlapped batch mean variance estimators for Markov chains
本文借助鞅分解方法,为一致几何遍历马尔可夫链渐近方差的 OBM 估计量建立集中不等式,给出误差 p 阶矩随 p 与混合时间变化的显式界。
2025-05-13 math.PR math.ST stat.ML
Processus aléatoires et applications
法国奥尔良大学举办的关于随机过程和应用的硕士级应用数学课程的讲义。内容:马尔可夫链,泊松点过程,马尔可夫跳过程,排队论。--内容:马尔可夫链,泊松过程,待处理文件.
2013-12-30 math.HO math.PR
A Short Review of Ergodicity and Convergence of Markov chain Monte Carlo Estimators
这篇短文回顾了量化马尔可夫链蒙特卡罗估计的渐近收敛和前渐近收敛的基本理论。
2021-10-13 math.PR math.ST stat.ME
Condenser physics applied to Markov chains - A brief introduction to potential theory
这些笔记构成了位势论的介绍,我在第十二届巴西概率学派的伊丽莎白·斯科波拉的《亚稳态导论》中介绍了这一理论。
2009-01-20 math-ph math.MP math.PR
Distribution of a Markov chain in reverse-time with cluster observations in the extremes of a finite time window
在这篇简短的笔记中,我们找到了一个随机过程的分布和转移概率矩阵的公式,该随机过程被描述为马尔可夫链的有限时间窗口中的时间反演,在该窗口的极值中具有马尔可夫状态的集群观测。
2022-06-11 math.OC math.PR
CLTs and asymptotic variance of time-sampled Markov chains
对于马尔可夫转移核$P$和非负整数概率分布$ μ$,时间采样马尔可夫链按照转移核$P_μ = \sum_k μ(k)P^k.$演化。本文给出了时间采样马尔可夫链的CLT条件,并导出了渐近方差的谱公式。利用这些结果,我们比较巴克和大都会算法的渐近方差的效率。
2011-06-03 math.PR stat.CO
Large deviation principles and fluctuation theorems for currents in semi-Markov processes
在这个简短的说明中,我们考虑满足方向-时间独立条件的半马尔可夫过程(马尔可夫更新过程)。我们导出了经验电流和经验电流沿周期的大偏差原理和涨落定理。我们的推导是基于最近在\cite{MZ}中证明的经验测度和流的联合LDP。
2017-09-17 cond-mat.stat-mech math-ph math.MP
Markov dynamics on the dual object to the infinite-dimensional unitary group
这些是在圣彼得堡概率与统计物理学院(2012年6月)上的3节迷你课程的笔记。我的目的是解释,在一个特定的模型的例子,如何从大群体的表示论的想法可以应用于概率问题。这些材料是基于Alexei Borodin和我的联合论文arXiv:1009.2029; Alexei Borodin和Vadim Gorin的课堂笔记中调查了更广泛的主题。
2013-10-23 math-ph math.MP math.PR