Generalized Wake-Up: Amortized Shared Memory Lower Bounds for Linearizable Data Structures
在这项工作中,我们定义了广义唤醒问题,$GWU(s)$,一个共享内存的异步系统与$n$进程。非正式地,由递增序列$s = s_1,\ldots,s_p$参数化的问题要求至少$n - i + 1$进程识别至少$s_i$其他进程已经“唤醒”并且对于每个$1 \le i \le n$采取至少一个步骤。我们证明,任何解决方案$GWU(s)$,使用读/写/比较和交换变量至少需要$Ω\left(\sum_{i = 1}^n \log s_i \right)$步骤来解决。广义唤醒下限作为一种技术,用于证明许多线性化并发数据类型上的操作的摊销复杂性的下限,通过减少。我们用几个例子来说明这一点:(1)我们展示了一个$Ω(\log n)$摊销下限的复杂性实现计数器和{ \em获取和增量}对象匹配的复杂性算法给出的Jayanti和Ellen&Woelfel;下限甚至扩展到一个显着放松版本的对象。(2)我们显示了一个$Ω(\log n)$摊销的下限的并发堆栈,队列和优先级队列的弹出,出队,deleteMin操作的复杂性分别举行,即使数据类型定义显着放宽;(3)在另一篇文章中,我们已经显示了一个$Ω(\log\log(n \ell/m))$摊销的下限的操作的复杂性上的一个union查找对象的大小$\ell$(当$m$操作执行)。
2022-07-12 cs.DC cs.DS
Concurrent Size
数据结构的大小(即,其中元素的数量)是数据集的广泛使用的属性。然而,对于并发程序,有效地获得正确的大小是不平凡的。事实上,文献没有提供一种机制来获得正确的(可线性化的)并发数据集的大小而不诉诸低效的解决方案,如采取数据结构的完整快照来计数元素,或在所有更新和大小操作中获取一个全局锁。本文提出了一种在集合和字典中添加并发线性化大小操作的方法,其性能开销相对较低。从理论上讲,建议的大小操作是等待免费的渐近复杂度线性线程的数量(独立的数据结构的大小)。实际上,我们通过向Java中的各种并发数据结构($-$、跳表、哈希表和树)添加大小来评估性能开销。所提出的可线性化大小操作与获取快照的现有选项相比执行快了数量级,同时在原始数据结构的操作上引起$1\%-20\%$的吞吐量损失。
2022-09-15 cs.DC cs.DS
Faster Concurrent Range Queries with Contention Adapting Search Trees Using Immutable Data
由于多核计算机、数据处理平台和内存数据库的兴起,对具有可线性化范围查询支持的可伸缩并发有序集数据结构的需求正在增加。本文提出了一种新的支持线性化范围查询的并发有序集。新的数据结构基于竞争自适应搜索树和不可变的数据结构。实验结果表明,新的数据结构是三倍的速度相比,相关的数据结构。由于数据结构能够使其不可变部分的大小适应争用级别和范围查询的大小,因此该数据结构具有良好的伸缩性。
2017-09-03 cs.DC cs.DS cs.PF
Elimination (a,b)-trees with fast, durable updates
许多并发字典实现都是针对具有均匀分布的键的主要读取工作负载而设计和优化的,并且通常在更新繁重的工作负载上表现不佳。在这项工作中,我们首先提出了一个并发的(a,b)树,OCC-ABtree,它超过其最快的竞争对手高达2倍的统一更新繁重的工作负载,并在其他工作负载上具有竞争力。然后,我们将注意力转向倾斜的更新繁重的工作负载(在同一个键上有许多插入/删除),并介绍Elim-ABtree,它使用了一种称为发布消除的新优化。在发布消除中,对键的并发插入和删除将重新排序以消除它们。这减少了数据结构中的写入次数。Elim-ABtree的性能是其最快竞争对手(包括OCC-ABtree)的2.5倍。OCC-ABtree和Elim-ABtree是可线性化的。我们还推出了耐用的可线性化版本(适用于采用英特尔Optane DCPMM非易失性主内存的系统),其速度几乎与之相同。
2021-12-31 cs.DC
Compositional federated learning: Applications in distributionally robust averaging and meta learning
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);University of Pittsburgh(匹兹堡大学)
本文提出ComFedL算法解决组合联邦学习框架,通过将分布鲁棒FL和MAML等极小极大优化问题转化为组合优化问题,并证明其$O(1/\sqrt{T})$的收敛速率。
2023-07-26 cs.DC cs.LG math.OC
Local Linearizability
并发数据结构的语义通常由顺序规范和一致性条件给出。线性化是最流行的一致性条件,由于其简单性和普遍适用性。然而,对于不需要线性化提供的所有保证的应用程序,最近的研究集中在通过放松它们的语义来提高并发数据结构的性能和可伸缩性。在本文中,我们提出了局部线性化,一个宽松的一致性条件,适用于容器类型的并发数据结构,如池,队列和堆栈。线性化要求所有线程同时观察到每个操作的效果,而局部线性化仅要求所有线程同时观察到每个线程T的局部插入操作的效果和那些移除T插入的值的移除操作的效果。我们研究了局部线性化的理论和实际性质,以及它与许多现有的相容性条件的关系。我们提出了一个通用的实现方法,局部线性化数据结构,使用现有的线性化数据结构作为构建块。我们的实现显示出比原始构建块更高的性能和可扩展性,并且优于现有最快的容器类型实现。
2016-06-24 cs.DC cs.DS cs.PL
Building Efficient Concurrent Graph Object through Composition of List-based Set
在本文中,我们提出了一个通用的并发有向图(共享内存体系结构),并发更新线程添加/删除顶点和边。该图是由著名的并发列表为基础的集数据结构从文献的组成。我们的构造是通用的,在这个意义上,它可以用来获得各种进度保证,这取决于底层并发集实现的粒度-阻塞或非阻塞。我们证明了所提出的结构是线性化的,通过确定其线性化点。最后,我们比较了并发图数据结构及其顺序实现的所有变体的性能。我们观察到,我们的并发图数据结构模仿的并发列表为基础的集的性能。
2017-10-31 cs.DC
NVTraverse: In NVRAM Data Structures, the Destination is More Important than the Journey
快速、密集、字节可寻址的非易失性存储器的最近可用性已导致对设计和指定可从系统崩溃恢复的持久数据结构的问题的日益关注。然而,设计高效且满足正确性标准的持久并发数据结构已被证明是非常困难的,导致许多算法在并发设置中是低效的或不正确的。在本文中,我们提出了一个通用的转换,需要一个无锁的数据结构从一个通用的类称为遍历数据结构(我们正式定义),并自动将其转换为一个实现的数据结构的NVRAM设置,是可证明持久的线性化和高效的。转换取决于这样的观察:许多数据结构操作都是从不需要持久化的遍历阶段开始的,因此我们只在遍历到达其目的地时才开始持久化。我们通过对采用英特尔最近发布的Optane DC持久性内存的系统进行广泛的测量来展示转型的效率,表明它在许多工作负载上都可以超越竞争对手。
2021-11-24 cs.DC
Learned Lock-free Search Data Structures
针对现有无阻塞搜索数据结构未应用学习型查询的问题,本文提出Kanva框架,通过浅层轻量线性模型层级遍历至无阻塞动态有序搜索结构,性能优于现有最优方案且可证明可线性化。
2023-08-22 cs.DC
A Pragmatic Non-Blocking Concurrent Directed Acyclic Graph
在本文中,我们已经开发了两个算法,保持无环并发有向图。第一个算法是基于无等待的可达性查询,第二个是基于部分快照的无障碍可达性查询。有趣的是,我们能够在动态设置中实现非循环属性,而不需要其他线程帮助使用描述符或干净的双重收集机制。我们提出了一个证明,表明图保持无环在任何时候都在并发设置。我们还证明了非循环图数据结构操作是可线性化的。我们在C++中实现了这两个算法,并通过一些微基准测试。我们的实验结果表明,平均7倍的顺序和全局锁实现的改善。
2019-05-12 cs.DC
Lock-Free Augmented Trees
该研究提出一种通用无锁树增强技术,可为节点添加可由自身及子节点信息计算的新字段,构建多种经典增强结构的无锁可线性化版本,并在trie树和BST上验证了效率与功能优势。
2024-05-17 cs.DC cs.DS
Towards Reduced Instruction Sets for Synchronization
与通常的看法相反,Ellen、Gelashvili、Saught和Zhu最近的一项工作表明,可计算性不需要多核架构来支持“强”同步指令,如比较和交换,而不是“弱”指令的组合,如递减和乘法。然而,这是现状,反过来,最有效的并发数据结构严重依赖于比较和交换(例如,摆动指针和一般冲突解决)。我们表明,这不需要的情况下,通过设计和实现一个并发线性日志数据结构(也称为历史对象),支持两个操作:append(item),它将项目追加到日志,和get-log(),它返回追加的项目,到目前为止,按顺序。读取器是无等待的,写入器是无锁的,并且这种数据结构可以用于无锁的通用构造中,以实现具有给定顺序规范的任何并发对象。我们的实现使用原子读取,异或,递减和提取和增量指令上支持的X86架构,并提供类似的性能比较和交换为基础的解决方案在今天的硬件。这就提出了一个关于架构必须支持的最小同步指令集的基本问题。
2017-05-08 cs.DC
Substep Linearizability: Relaxing Atomicity While Preserving Sequential Specification
University of British Columbia(不列颠哥伦比亚大学)
该研究提出子步线性izability,证明其与区间线性izability等价,可用于对原子交换器等难用原子方式规范的并发结构建模,且规范复杂性与线性izability相当。
2026-10-15 cs.DC
Scaff-PD: Communication Efficient Fair and Robust Federated Learning
University of California, Berkeley(加州大学伯克利分校)
本文提出Scaff-PD,一种通信高效的分布鲁棒联邦学习算法,通过加速原始对偶和偏差校正局部步骤提升公平性与鲁棒性,在基准数据集上验证了其有效性。
2023-07-25 cs.DC cs.LG math.OC
A Study of Synchronization Methods for Concurrent Size
本研究比较了握手、乐观和基于锁的同步方法以降低并发size操作的开销,发现低竞争时乐观与锁方法最优,高竞争时握手与无等待方法最佳。
2025-06-19 cs.DC
Wait-Free Updates and Range Search using Uruv
本文提出了Uruv,一种主动可线性化且实用的无等待并发数据结构,通过在链表节点上安装平衡搜索索引实现CRUD操作和范围查询,是首个针对并发B+tree的无等待解决方案,且性能显著优于现有无锁方法。
2023-07-27 cs.DB cs.DC
A Simple and Practical Concurrent Non-blocking Unbounded Graph with Reachability Queries
应用于许多应用(包括社交网络、通信网络、VLSI设计、图形和若干其它应用)中的图形算法需要动态修改--在图形中添加和移除顶点和/或边。本文提出了一种新的并发无阻塞算法,用于在共享内存机器上实现动态无界有向图。顶点和边的添加和删除操作是无锁的。对于有限大小的图,查找操作是无等待的。该算法的最重要的组成部分是并发图中的可达性查询。在我们的算法中的可达性查询是无障碍的,从而施加最小的额外同步成本超过其他操作。我们证明了每个数据结构操作都是可线性化的。我们广泛评估的样本C/C++实现的算法,通过一些微基准。实验结果表明,该算法的规模以及线程的数量,平均提供了5至7倍的性能提高并发图实现使用粗粒度锁定。
2019-01-14 cs.DC
Fast Nonblocking Persistence for Concurrent Data Structures
我们提出了一个完全无锁的变体,最近的蒙太奇系统的持久性数据结构。我们的变体nbMontage为几乎所有非阻塞并发结构添加了持久性,而不会引入任何类型的显著开销或阻塞。像它的前身一样,nbMontage是缓冲持久线性化的:它保证在崩溃后恢复的状态将代表崩溃前执行的一致前缀。与其前身不同,nbMontage确保持久性边界的无等待进展,从而限制可能在崩溃时丢失的最近更新的数量,并允许线程强制更新边界(即,以执行同步操作)而没有阻塞的风险。作为一个额外的好处,我们的无等待同步所采用的帮助机制大大减少了它的延迟。非阻塞队列、跳表、树和哈希表的性能结果可与文献中的自定义数据结构相媲美--比以前的通用系统快得多,并且通常在DRAM中放置的等效非持久性结构的50%以内。
2021-08-09 cs.DC cs.DS cs.PF
Proving Highly-Concurrent Traversals Correct
本文提出一种通用证明技术,仅依赖遍历的顺序属性和写操作修改数据结构的简单条件,显著简化了无同步高并发遍历的线性化证明,并成功应用于多种此前难以证明的并发二叉搜索树。
2024-01-10 cs.DC
Efficient Lock-free Binary Search Trees
本文提出了一种新的无锁并发内部二叉查找树算法,并在此基础上实现了一种集合抽象数据类型。我们表明,在所提出的无锁BST算法的每个集合操作- { \sc添加},{ \sc删除}和{ \sc包含} -的摊销步骤复杂度是$O(H(n) + c)$,其中,$H(n)$是BST的高度与$n$的节点数和$c$是在执行过程中的竞争。我们的算法适应竞争措施,根据读写负载。如果情况是读取繁重的,则操作避免在遍历期间帮助挂起的并发{ \sc Remove}操作,并且适应间隔争用。但是,对于写操作较多的情况,我们让一个操作帮助挂起{ \sc Remove},即使它没有被阻塞,因此适应更严格的点争用。它使用单字比较和交换(\texttt{CAS})操作。我们表明,我们的算法相比,现有的类似算法,提高了不相交访问并行。我们证明了该算法是线性化的。据我们所知,这是第一个算法的任何并发树数据结构,其中的修改操作执行的竞争措施的附加条款。
2014-05-09 cs.DC
Lock-free Asynchronously Distributed Linked Lists
Michigan State University(密歇根州立大学);Indian Institute of Technology Hyderabad(印度理工学院海得拉巴分校);Kent State University(肯特州立大学)
本文提出DiLi,一种条件无锁、可分布的链表,实现动态负载平衡和横向扩展,提升并发与分布式数据结构性能。
2026-08-05 cs.DC
Efficient data streaming multiway aggregation through concurrent algorithmic designs and new abstract data types
数据流依赖于连续查询以实时方式处理无限的数据流。由于相关应用程序涉及非常大量的数据,因此通常需要计算能力。数据结构充当接合点并维护数据流操作符的状态,潜在地支持高并行性并平衡它们之间的工作。基于这一事实,在这项工作中,我们研究和分析这些关节点的并行化需求,重点是流多路聚合的问题,其中从多个输入流接收大量数据。并行化需求的分析,以及现有的聚合设计及其数据结构的使用和局限性,使我们确定需要适当的共享对象,可以实现低延迟和高吞吐量的多路聚合。我们提出的要求,这些对象作为抽象的数据类型,我们提供了高效的无锁线性化算法实现,以及新的多路聚合算法设计,利用它们,支持确定性的顺序敏感和顺序不敏感的聚合函数。此外,我们指出了通过这些贡献打开的未来方向。本文包括一个广泛的实验研究,基于各种聚合连续查询两个大型数据集提取SoundCloud,音乐社交网络,并从智能电网网络。在所有的实验中,所提出的数据结构和增强的聚合运算符的处理性能显着提高,高达一个数量级,在吞吐量和延迟方面,在常用的技术基于队列。
2016-06-15 cs.DC cs.DS
Durable Queues: The Second Amendment
我们考虑非易失性主存储器的持久数据结构,例如新的Intel Optane存储器架构。最近的大量工作集中在通过添加最小数量的阻塞持久化操作(即,冲洗和围栏)。在这项工作中,我们表明,专注于最大限度地减少持久化指令的数量是重要的,但还不够。我们表明,访问刷新的内容是高成本,由于在当前的架构中的缓存失效。鉴于这一发现,我们提出了一个设计的队列数据结构,适当地照顾到最小化阻塞持久化操作,以及最小化访问刷新的内容。所提出的设计优于最先进的持久队列。我们首先提供一个持久版本的Michael Scott队列(MSQ)。我们通过添加最小数量的持久化指令来修改MSQ,比可用的持久队列少,并且满足阻塞持久化操作数量的理论下限。然后,我们继续对该设计进行第二次修改,消除了对刷新数据的访问。评估表明,第二次修订产生了实质性的性能改进,优于最先进的技术,并证明了减少访问刷新内容的重要性。所提出的队列是持久可线性化且无锁的。最后,我们讨论了理论上的最佳数量的访问刷新的内容。
2021-07-27 cs.DC cs.DS cs.PF