Omega-Regular Decision Processes
University of Twente(特文特大学);University of Colorado Boulder(科罗拉多大学博尔德分校);University of Liverpool(利物浦大学)
该研究提出omega-正则决策过程(ODPs),将非马尔可夫决策的约束从过去正则性质扩展为未来omega-正则前瞻,未满足承诺则收益为最劣值,通过归约为有限MDP的字典序优化学习实现折扣奖励目标下的优化,实验验证了归约的有效性。
2023-12-14 cs.LG cs.LO
Omega-regular Verification and Control for Distributional Specifications in MDPs
本文首次提出基于分布性证书的自动化方法,在 PSPACE 内实现对 MDP 分布性 omega-正则规范的可靠且相对完备的验证与控制。
2025-07-06 cs.LO
On (Omega-)Regular Model Checking
检查无限状态系统通常通过将无限状态集编码为正则语言来完成。计算这样一个规则的表示,比如说,一个系统的可达状态集需要加速技术,可以计算无限数量的转换的效果。在已经提出的加速技术中,可以找到特定的和通用的技术。特定技术利用被分析的特定类型的系统,例如,操纵队列或整数的系统,而通用技术仅假设转换关系由有限状态转换器表示,其必须迭代。在本文中,我们调查的可能性,使用通用技术的情况下,只有特定的技术已被利用到目前为止。发现现有的通用技术往往是不适用的情况下,很容易处理的特定技术,我们已经开发出一种新的方法来迭代换能器。这种新方法建立在早期工作的基础上,但利用了许多新的概念和算法思想,通常在实验的帮助下诱导,这使其具有广泛的范围以及良好的性能。
2008-09-12 cs.LO
Approximate Automata for Omega-Regular Languages
无限词上的自动机,也被称为欧米伽自动机,在反应系统的验证和综合中起着关键作用。欧米茄自动机的谱由两个特征定义:接受条件(例如Büchi或宇称)和决定论(例如,确定性或非确定性)的自动机。这些特性在自动机理论的应用中起着至关重要的作用。例如,某些验收条件可以通过专用工具和算法比其他条件更有效地处理。此外,一些应用程序,如合成和概率模型检验,要求属性表示为某种类型的确定性欧米茄自动机。然而,属性并不总是由具有期望的接受条件和确定性的自动机表示。在本文中,我们研究的问题,逼近线性时间性质的自动机在一个给定的类。我们的近似是基于保留的语言,以用户定义的精度,在有限的套索表示的无限的执行,保留的大小。我们研究了不同类型的近似自动机的状态复杂性,并提供了不同的自动机类内的近似结构,例如,近似一个给定的自动机的一个更简单的接受条件。
2020-12-29 cs.FL cs.LO
Omega-Regular Objectives in Model-Free Reinforcement Learning
University of Liverpool(利物浦大学);University of Colorado Boulder(科罗拉多大学博尔德分校)
我们提供了第一个解决方案,无模型强化学习的ω-正则目标的马尔可夫决策过程(MDP)。我们提出了一个建设性的减少从几乎肯定满足ω-正则目标的几乎肯定的可达性问题,并将这种技术推广到学习如何控制一个未知的模型,使满足目标的机会最大化。我们的技术的一个关键特征是将ω-正则性质编译成极限确定性Buechi自动机而不是传统的Rabin自动机;这种选择回避了破坏以前建议的困难。我们的方法使我们能够应用无模型,现成的强化学习算法来计算最佳策略的MDP的观察。我们提出了一个实验评估我们的技术对基准学习问题。
2018-09-26 cs.LG cs.LO stat.ML
Quantitative Verification of Omega-regular Properties in Probabilistic Programming
East China Normal University, China(华东师范大学);Nanyang Technological University, Singapore(南洋理工大学)
本文提出时间后验推断框架,用于在概率编程中定量验证omega-正则性质,通过分解Rabin条件并构建随机屏障证书,实现对概率行为的高效推断。
2025-12-25 cs.FL cs.LG cs.LO
Characterizing Omega-Regularity through Finite-Memory Determinacy of Games on Infinite Graphs
本文通过无限图博弈的有限记忆决定性刻画了ω-正则目标,证明双方玩家在色度有限记忆下最优时目标必为ω-正则,并提供了一对二玩家提升及折扣和目标的实例。
2023-01-13 cs.FL cs.GT cs.LO
Verifying Probabilistic Timed Automata Against Omega-Regular Dense-Time Properties
概率时间自动机(Probably Timed Automata,PTAs)是一种扩展了离散概率分布的时间自动机(Timed Automata,TA),它作为一种数学模型,广泛应用于随机和时间行为。在这项工作中,我们考虑的问题,模型检查的线性\emph{dense-time}性质在{PTA}。特别是,我们研究了线性密集时间属性,可以编码的TA与无限的验收criterion.First,我们表明,模型检查PTA对确定性TA规格的问题可以通过产品建设解决。基于乘积结构,证明了确定性TA规格问题的计算复杂性是EXPTIME-完全的。然后我们证明了当放宽到一般的(非确定性的)TA时,模型检测问题变得不可判定,我们的结果大大扩展了TA的稠密时间特性和非确定性。
2018-06-13 cs.FL cs.LO
Supermartingale Certificates for Quantitative Omega-regular Verification and Control
本文提出首个用于定量ω正则性质的超鞅证书(LDBSM),并给出自动化合成算法,实验表明能解决先前方法无法处理的随机系统验证与控制任务。
2025-05-24 cs.LO cs.SY eess.SY
Reward Shaping for Reinforcement Learning with Omega-Regular Objectives
Queen’s University Belfast(贝尔法斯特女王大学);Institute of Software, CAS(中国科学院软件研究所);University of Colorado Boulder(科罗拉多大学博尔德分校);University of Liverpool(利物浦大学)
最近,已经成功地利用良好的MDP自动机(Büchi自动机与非确定性的限制形式)的无模型强化学习,一类自动机,包括良好的游戏自动机和最广泛的一类限制确定性自动机。使用这些Büchi自动机的基础是,Büchi条件,对于良好的MDP自动机,可以转化为可达性。这种翻译的缺点是,平均而言,奖励很晚才获得,这需要在学习过程中长时间的插曲。我们设计了一种新的奖励塑造方法来克服这个问题。我们表明,由此产生的模型是等价于一个有偏见的折扣,简化和改善以前的工作在这个方向上的折扣收益目标。
2020-01-16 cs.LG cs.LO
A proof theory of right-linear (omega-)grammars via cyclic proofs
本文提出右线性代数理论及循环证明系统 CRLA,证明其对正则语言可靠完备,并扩展到最大不动点系统 νCRLA 以刻画 ω-正则语言。
2024-01-24 cs.FL cs.LO math.LO
Revelations: A Decidable Class of POMDPs with Omega-Regular Objectives
CNRS(法国国家科学研究中心);University of Antwerp(安特卫普大学);Flanders Make(法兰德斯制造研究院)
针对POMDP中omega正则目标的可判定性问题,提出启示机制限制信息损失,将弱启示和强启示两类POMDP的可判定情形归结为有限信念支撑MDP,从而给出精确算法。
2024-12-16 cs.AI cs.LO cs.SY
Realizing Omega-regular Hyperproperties
研究了超逻辑HyperQPTL,它结合了迹关系和$ω$ -正则性的概念.我们证明了HyperQPTL是非常有表现力的,它可以表达诸如不确定性,有界等待授权,认知属性,特别是任何$ω$ -正则属性等属性。这些属性在以前研究过的超逻辑(如HyperLTL)中无法表达。与此同时,我们认为,HyperQPTL的表现力是最佳的,在某种意义上,一个更有表现力的逻辑$ω$ -正则超属性将有一个不可判定的模型检验问题。我们进一步研究了HyperQPTL的可实现性问题。我们证明了可实现性对于包含像不确定性这样的属性的HyperQPTL片段是可判定的。但是,与可满足性问题相比,命题量化确实使超逻辑的可实现性问题更难。更具体地说,具有泛存在命题量词交替后跟单个迹量词的HyperQPTL公式片段通常是不可判定的,即使片段到HyperLTL的投影具有可判定的可实现性问题。最后,我们在原型工具BoSy中实现了HyperQPTL的有界综合问题。使用带有HyperQPTL规范的BoSy,我们已经能够合成几个资源仲裁器。非线性时间超逻辑的综合问题仍然是一个未解决的问题。例如,还不知道如何从分支时间超逻辑(如HyperCTL $^*$)中给出的规范合成系统。
2021-01-18 cs.LO
A proof theory of (omega-)context-free languages, via non-wellfounded proofs
本文研究带不动点的正则表达式的证明理论,将其视为(omega-)上下文无关文法,通过引入最小和最大不动点扩展超序列系统,并利用证明论与博弈论技术证明其非良基证明的可靠性与完备性。
2024-04-24 cs.LO math.LO
Synthesis of Temporal Causality
本研究推广时序因果性框架,提出首个针对ω-正则效应的完备原因合成算法,证明其原因具有ω-正则性,可通过原型工具实现并验证了实际性能。
2025-06-17 cs.LO
Small witnesses, accepting lassos and winning strategies in omega-automata and games
在欧米茄自动机和具有欧米茄规则获胜条件的博弈中获得接受套索、证人和获胜策略是当今实践中常见的许多形式化方法的组成部分。尽管事实上,在大多数应用中,套索,证人和策略应该尽可能小,但很少有人知道获得这种小证书的难度。在本文中,我们调查已知的硬度的结果,并完成的情况下,在文献中没有考虑到的复杂性景观。我们特别注意的近似硬度的问题近似小的解决方案通常在实践中就足够了。
2011-08-01 cs.FL cs.LO
Stochastic Omega-Regular Verification and Control with Supermartingales
本文首次提出Streett超鞅证书,用于随机动态系统的ω-正则规范验证与控制,算法可靠完备,并优化为SMT求解,原型实验验证有效。
2024-05-27 cs.LO cs.SY eess.SY
Qualitative Analysis of Partially-observable Markov Decision Processes
我们研究了部分可观测马尔可夫决策过程(POMDPs)与欧米茄定期目标的观察为基础的战略。基于观察的策略依赖于关于游戏历史的部分信息,即过去的观察序列。我们考虑的定性分析问题:给定一个POMDP与一个欧米伽正则目标,是否有一个基于观察的策略,以达到目标的概率约1(几乎肯定获胜),或与积极的概率(积极获胜)。我们的主要结果是双重的。首先,我们提出了一个完整的图片的计算复杂性的定性分析POMDP的奇偶性目标(一个规范形式来表达ω-经常目标)及其子类。我们的贡献在于建立了几个在文献中不为人知的上限和下限。其次,我们提出了最佳的界限(匹配的上限和下限)的内存所需的纯随机观察为基础的策略,POMDP的奇偶校验目标及其子类的定性分析。
2010-06-09 cs.LO
Three Applications to Rational Relations of the High Undecidability of the Infinite Post Correspondence Problem in a Regular omega-Language
Harel在[Har 86]中指出,“人们可以定义$Σ_1^1$ -著名的Post Correspondence Problem的完全版本”。我们首先给出了这个结果的一个完整的证明,表明在一个正规的$ω$ -语言的无限后对应问题是$Σ_1^1$ -完全的,因此位于算术层次之外,高度不可判定。我们从这个结果推断,它是$Π_1^1$ -完全的,以确定是否两个给定的无穷有理关系是不相交的。然后证明了有限状态Büchi变换器实现的$ω$ -有理函数的两个判定问题之间存在着惊人的差距。事实上Prieur证明在[Pri 01,Pri 02],这是决定是否一个给定的$ω$ -有理函数是连续的,而我们在这里表明,它是$Σ_1^1$ -完全确定是否一个给定的$ω$ -有理函数至少有一个点的连续性。其次证明了判定给定$ω$ -有理函数的连续集是否是$ω$ -正则的是$Π_1^1$ -完全的。这给出了[CFS 08]中证明为不可判定的两个问题的精确复杂度。
2011-07-29 cs.CC cs.LO math.LO
Wadge degrees of $Δ^0_2$ omega-powers
该研究针对不同的Borel差分层类,构造出对应ω幂为该类完全集的正则语言,刻画了$\Delta^0_2$ ω幂的Wadge度相关性质。
2024-07-15 cs.LO math.GN math.LO
RNN Generalization to Omega-Regular Languages
Imperial College London, UK(伦敦帝国学院)
本研究首次探究RNN对LTL导出的ω-正则语言的泛化能力,通过训练RNN复现Büchi自动机行为并测试分布外长序列,证实其在多数复杂任务上可实现高精度泛化,为神经符号验证提供了可行性支撑。
2025-09-02 cs.FL cs.LG cs.LO
Liveness Verification and Synthesis: New Algorithms for Recursive Programs
我们考虑递归程序的活性验证和活性合成问题。活性验证问题(LVP)是判定给定的omega-正则语言是否包含给定的omega-上下文无关语言。活性合成问题(LSP)是计算一个策略,使得当沿着该策略进行给定的omega-上下文无关游戏时,保证导出给定omega-正则语言中的单词。这两个问题分别是EXPTIME完全问题和EXPTIME完全问题。我们的贡献是新的算法具有最佳的时间复杂度。对于LVP,我们概括了最近的拉索发现算法(也称为拉姆齐算法)从有限递归程序。对于LSP,我们概括了最近的摘要为基础的算法从有限到无限的话。Lasso查找和摘要已被证明在有限状态和有限字设置的许多实现中是有效的。
2017-01-11 cs.FL cs.LO
Learning-Based Mean-Payoff Optimization in an Unknown MDP under Omega-Regular Constraints
Technische Universität München(慕尼黑工业大学);Université libre de Bruxelles(布鲁塞尔自由大学)
我们形式化的问题,最大化的平均支付值的高概率,同时满足奇偶性目标的马尔可夫决策过程(MDP)未知的概率转移函数和未知的奖励函数。假设支持的未知的过渡函数和最小的转移概率的下限是已知的,我们表明,在MDP组成的一个单一的端组件,两个组合的保证奇偶校验和平均回报的目标可以实现取决于有多少内存的人愿意使用。(i)对于所有的$ε$和$γ$,我们可以构造一个在线学习的有限记忆策略,该策略几乎肯定满足奇偶性目标,并且以至少$1 - γ$的概率实现$ε$ -最优平均收益。(ii)或者,对于所有的$ε$和$γ$,存在一个在线学习的无限记忆策略,它肯定满足奇偶性目标,并以至少$1 - γ$的概率实现$ε$ -最优平均收益。我们将上述结果推广到由一个以上的终端组件在一个自然的方式MDP。最后,我们表明,上述保证是紧的,即有MDP的更强的组合的保证不能确保。
2018-08-23 cs.AI cs.LO
Ehrenfeucht-Fraisse Games on Omega-Terms
词上的一阶逻辑片段通常可以用有限幺半群或有限半群来刻画。通常这些代数描述产生的问题的可判定性是否一个给定的正则语言是在一个特定的片段定义。一个有效的代数特征可以从所谓的Ω项的恒等式中得到。为了证明一个给定的片段满足某些Ω项的恒等式,我们可以对Ω项的词实例使用Escherichfeucht-Fraisse游戏。由此产生的证明往往需要大量的簿记有关的常数。在本文中,我们介绍了Escherichfeucht-Fraisse对策的ω-条款。为此,我们为每个omega项分配一个标记的线性顺序。我们的主要定理表明,一个给定的片段满足一些单位的欧米茄条款,当且仅当复制者有一个获胜的策略,为游戏的线性订单。这样可以避免记账。作为我们主要结果的一个应用,我们证明了在指数时间内可以判定所有非周期幺半群是否满足某个给定的Ω项恒等式,从而改进了McCammond(Int. J. Algebra Comput.,2001年)。
2013-10-11 cs.FL cs.LO math.GR
Pure Nash Equilibria in Concurrent Deterministic Games
我们研究纯策略纳什均衡在多个玩家并发确定性游戏,各种偏好关系。我们提供了一种新的结构,称为嫌疑人游戏,它将多玩家并发游戏转换为两个玩家回合制游戏,将纳什均衡转化为获胜策略(对于某些目标,取决于原始游戏中玩家的偏好关系)。我们使用这种转换来设计算法计算纳什均衡在有限的游戏,在大多数情况下有最佳的最坏情况下的复杂性,为大类的偏好关系。这包括纯粹的定性框架,其中每个参与者都有一个单一的欧米伽规则目标,她想满足,但也有更大的类半定量目标,其中每个参与者有几个欧米伽规则目标配备了一个前序(例如,一个参与者可能想满足她的所有目标,或最大化她实现的目标数量)。
2015-06-18 cs.GT cs.LO
Simple strategies for Banach-Mazur games and fairly correct systems
在2006年,Varacca和Völzer证明了在有限图上,omega-正则大集与概率为1的omega-正则集重合,通过使用相关的Banach-Mazur博弈中位置策略的存在性。受这一结果的启发,我们试图理解概率为1的集合与各种简单策略概念之间的关系(包括Grädel和Lessenich最近的一篇论文中介绍的概念)。然后,我们介绍了一个概括的经典巴拿赫-马祖尔游戏,特别是,概率版本,其目标是将集合的概率为1(作为经典巴拿赫-马祖尔游戏将大型集)。当获胜集是开集的可数交时,我们得到了这些博弈的一个决定性结果。
2013-07-17 cs.LO
A Theory of Hanoi Omega-Automata and Games
Université libre de Bruxelles(布鲁塞尔自由大学);University of Antwerp(安特卫普大学)
本文研究了HOA编码自动机与游戏的理论复杂性,证明非空问题为NP完全,语言包含问题在多数条件下为PSPACE完全,Emerson-Lei接受条件为EXPSPACE完全,并形式化了HOG游戏。
2026-04-27 cs.FL cs.LO
The memory of $ω$-regular and BC($Σ_2^0$) objectives
University of Kaiserslautern-Landau(凯泽斯劳滕-兰道大学);CNRS, Laboratoire d’Informatique et des Systèmes (LIS)(法国国家科学研究中心,信息系统实验室)
研究双人零和无限博弈中目标的记忆,针对$\omega$-正则和BC($\Sigma_2^0$)目标,证明了记忆可判定性,给出了记忆有界自动机类,并推导出记忆计算复杂度及并集记忆上界。
2026-06-03 cs.FL cs.LO
The Complexity of Pure Strategy Relevant Equilibria in Concurrent Games
本文研究并发博弈中满足社会福利或帕累托最优条件的纯策略纳什均衡的存在性复杂性,证明社会福利条件与受约束纳什均衡问题计算效率相同,而帕累托条件通常上界更高,但在 Büchi 和 Muller 博弈中分别属于 P 类和 PSPACE-complete。
2025-09-22 cs.CC cs.FL cs.GT