Quicksort, Largest Bucket, and Min-Wise Hashing with Limited Independence
随机算法和数据结构通常是在假设可以访问完美的随机性源的情况下进行分析的。用来衡量哈希函数或随机数生成器的“随机性”的最基本度量是其独立性：如果每个变量都是均匀的，并且每个大小$k$子集都是独立的，则随机变量序列被称为$k$独立的。在本文中，我们考虑三个经典的算法在有限的独立性。我们提供了新的界限随机快速排序，最小明智的哈希和最大桶大小有限的独立性。我们的结果可以总结如下。- 随机快速排序当使用与$5$无关的散列函数计算枢轴元素时，Karloff和Raghavan，J.ACM'93展示了$O ( n \log n)$对于特殊版本的快速排序的预期最坏情况运行时间。我们改进了这一点，表明相同的运行时间是实现只有$4$独立。- 最小值哈希对于集合$A$，考虑特定元素被映射到最小散列值的概率。已知$5$独立性意味着最优概率$O (1 /n)$。Broder等人，STOC'98表明$2$独立性意味着它是$O(1 / \sqrt{|A|})$。我们展示了一个匹配的下界，以及新的紧界$3$和$4$独立的哈希函数。- 最大的桶我们考虑使用独立于$k$的哈希函数将$n$球分配到$n$桶的情况，并分析最大桶大小。Alon et.等人，STOC'97表明存在$2$独立的散列函数，其暗示大小为$Ω( n^{1/2})$的桶。我们推广的界限，提供一个$k$独立的家庭的功能，意味着大小$Ω( n^{1/k})$…
2015-02-19 cs.DS
No Repetition: Fast Streaming with Highly Concentrated Hashing
为了获得在一定误差范围内以高概率工作的估计器，一种常见的策略是设计一种以恒定概率工作的估计器，然后使用独立重复来提高概率。这种方法的重要例子是小空间算法，用于估计流中不同元素的数量，或估计大集合之间的集合相似性。使用标准的强通用散列来处理每个元素，我们得到了一个基于草图的估计器，其中太大错误的概率是1/4。通过执行$r$独立重复并取估计量的中值，错误概率在$r$中呈指数下降。但是，运行$r$独立实验会使处理时间增加$r$倍。在这里，我们指出，如果我们有一个具有强浓度边界的哈希函数，那么我们可以得到相同的高概率边界，而无需重复。与$r$独立的草图不同，我们有一个比$r$大一倍的草图，因此总空间是相同的。然而，我们只应用了一个哈希函数，所以我们及时地节省了一个因子$r$，整个算法变得更简单了。具有强浓度边界的快速实用哈希函数最近由Aamand em等人提出（将出现在STOC 2020中）。使用他们的散列方案，算法因此变得非常快速和实用，适合于在线处理大容量的数据流。
2020-04-02 cs.DS
Linear Probing Revisited: Tombstones Mark the Death of Primary Clustering
线性探测于1954年首次引入，是计算机科学中最古老的数据结构之一，由于其无与伦比的数据局部性，它仍然是实践中最快的哈希表之一。然而，人们普遍认为并教导，线性探测不应在高负载因子下使用;这是因为主聚类效应导致在负载因子$1 - 1 /x$下的插入花费预期的时间$Θ(x^2)$（而不是理想的$Θ(x)$）。主聚类的危险，首先由Knuth在1963年发现，已经被教导给几代计算机科学家，并影响了许多广泛使用的哈希表的设计。我们表明，主要集群是不是一个定局。我们证明，小的设计决策，在如何删除实施插入的渐近性能有显着的影响，因此，即使一个哈希表连续运行在一个负载因子$1 - Θ(1/x)$，每次操作的预期摊销成本是$\tilde{O}(x)$。这是因为由删除创建的墓碑实际上会导致对抗主聚类的反聚类效应。我们还提出了一种新的线性探测（我们称之为墓地哈希），完全消除了主集群上的\emph{any}操作序列：如果，当一个操作被执行，当前的负载因子是$1 - 1/x$的一些$x$，那么操作的预期成本是$O(x)$。一个推论是，在数据块大小为$B$的外部内存模型中，墓地哈希提供了以下显著的保证：在任何满足$x = o(B)$的负载因子$1 - 1/x$，墓地哈希实现了每次操作的$1 + o(1)$预期块传输。过去的外部存储器哈希表只能在块大小$B$至少为$Ω(x^2)$时提供$1 + o(1)$保证。
2021-07-02 cs.DS math.CO
Backyard Cuckoo Hashing: Constant Worst-Case Operations with a Succinct Representation
动态字典的性能主要由其更新时间、查找时间和空间消耗来衡量。在更新时间和查找时间方面，存在以高概率保证最坏情况下的恒定时间操作的已知构造，并且在空间消耗方面，存在使用基本上最优空间的已知构造。然而，尽管对动态字典的第一次分析可以追溯到45年前（当Knuth在1963年分析线性探测时），但这些性能方面之间的权衡仍然没有完全理解。在本文中，我们解决了两个基本的开放问题：-我们构建了第一个动态字典，享有最好的两个世界：它存储n个元素使用（1+ 1）n内存字，并保证在最坏的情况下，高概率的恒定时间操作。具体地，对于任何Ω = Ω（（\log \log n / \log n）^{1/2}）并且对于多项式多运算的任何序列，在初始化阶段的随机性上具有高概率，所有运算在与Ω无关的恒定时间内执行。该构造是布谷鸟散列的两级变体，增加了一个处理大部分元素的“后院”，以及一个用于消除对重复的依赖的去摊销的完美散列方案。- 我们提出了上述构造的一个变体，它只使用（1+o（1））B个比特，其中B是表示从大小为u的论域中取的大小为n的集合的信息论下限，并保证在最坏情况下具有高概率的恒定时间操作，如前所述。这个问题甚至在摊销设置中也是公开的。我们构建的主要成分之一是基于置换的cuckoo hashing变体，它在处理相当小的宇宙时显着改善了cuckoo hashing的空间消耗。
2010-08-16 cs.DS
The universality of iterated hashing over variable-length strings
迭代哈希函数递归地处理字符串，一次一个字符。在每次迭代中，它们根据前一个哈希值和下一个字符计算新的哈希值。我们证明了迭代哈希可以是两两独立的，但永远不会是三两独立的。我们表明，它几乎可以是普遍的字符串比哈希值的数量长得多，我们绑定的最大字符串长度给定的碰撞概率。
2011-11-24 cs.DB cs.DS
A Note on Second-Order Expected Maximum-Load Bounds for Binary Linear Hashing
Technion（以色列理工学院）
本文研究了二进制线性哈希在二进制线性映射下的二次最大负载界限，证明了其在第二阶最大负载尺度上几乎与完全独立哈希匹配，并给出了一个固定桶的精确尾部界限。
2026-05-18 cs.DS
Exact Weighted Minwise Hashing in Constant Time
加权最小散列算法（WMH）是许多著名的近似算法所需的基本子程序之一，通常用于工业实践中的大规模搜索和学习。算法的资源瓶颈是计算多个（通常是几百到几千个）独立的数据散列。最快的哈希算法是Ioffe的\cite{Proc:Ioffe_ICDM10}，它需要在整个数据向量$O(d)$（$d$是非零的数量）上通过一次，以计算一个哈希。然而，多个散列的要求需要对数据进行数百或数千次传递。这对于现代大规模数据集来说是非常昂贵的。在这项工作中，我们打破了这一昂贵的障碍，并显示了一个预期的常数摊销时间算法，计算$k$独立和无偏WMH的时间$O(k)$，而不是$O(dk)$所需的Ioffe的方法。此外，与现有技术方法所需的大约$64$位相比，我们的建议仅需要每个散列值的几位（5 - 9位）存储。在真实数据集上的实验评估表明，对于计算500 WMH，我们的建议可以比Ioffe的方法快60000倍，而不会损失任何准确性。我们的方法也是大约100倍的速度比近似算法利用有效的"密集"一个置换散列方案\cite{Proc:OneHashLSH_ICML14}。鉴于我们的方法的简单性及其显著的优点，我们希望它将在实践中取代现有的实现。
2016-02-26 cs.DS cs.IR
Parameter-free Locality Sensitive Hashing for Spherical Range Reporting
我们提出了一种用于点集$S$上的球面范围报告的数据结构，即，报告位于给定查询点$q$的半径$r$内的$S$中的所有点。我们的解决方案建立在Indyk和Motwani的局部敏感哈希（LSH）框架之上，该框架代表了高维近邻问题的渐近最佳解决方案。虽然传统的LSH数据结构有几个参数，其最佳值取决于从$q$到$S$的点的距离分布，我们的数据结构是无参数的，除了空间使用，这是由用户配置。然而，它的预期查询时间基本上匹配LSH数据结构的查询时间，LSH的参数已经在给定的空间约束下针对所讨论的数据和查询 * 进行了 * 最优选择。特别是，我们的数据结构提供了一个平滑的权衡之间的硬查询（通常由标准LSH解决）和容易的查询，如报告的点的数量是一个恒定的分数的$S$，或几乎所有的点在$S$远离查询点。相反，已知的数据结构仅基于输入的某些参数来固定LSH参数。该算法的预期查询时间以$O(t (n/t)^ρ)$为界，其中$t$是要报告的点数，而$ρ\in (0,1)$取决于数据分布和所用LSH族的强度。我们进一步提出了一种无参数的方式使用多探测，LSH家庭，支持它，并表明，对于许多这样的家庭，这种方法使我们能够得到预期的查询时间接近$O(n^ρ+t)$，这是最好的，我们可以希望实现使用LSH。以前在高维中最好的运行时间是$Ω(t n^ρ)$。对于许多数据分布，接近$q$的点集的固有维数较低，我们可以给出改…
2016-07-20 cs.DS
Asymmetric LSH (ALSH) for Sublinear Time Maximum Inner Product Search (MIPS)
Cornell University（康奈尔大学）；Rutgers University（罗格斯大学）
提出了近似\emph{Maximum Inner Product Search}（MIPS）的第一个可证次线性时间算法.我们的建议也是第一个哈希算法搜索（非规范化）的内积作为基础的相似性度量。寻找MIPS的散列方案被认为是困难的。我们正式表明，现有的局部敏感哈希（LSH）框架是不够的，解决MIPS，然后我们扩展现有的LSH框架，允许非对称哈希方案。我们的建议是基于一个有趣的数学现象，其中的内积，独立的非对称变换后，可以转换成近似近邻搜索的问题。这个关键的观察使MIPS的有效次线性哈希方案成为可能。在扩展的非对称LSH（ALSH）框架下，给出了MIPS可证快速哈希方案的显式构造。建议的建设和扩展的LSH框架可能是独立的理论利益。我们提出的算法简单，易于实现。我们评估的方法，检索内部产品，在Netflix和Movielens数据集上的项目推荐的协同过滤任务。
2014-05-22 cs.DS cs.IR cs.LG
Load Thresholds for Cuckoo Hashing with Overlapping Blocks
Dietzfelbinger和Weidling [DW 07]提出了一种布谷鸟散列的自然变体，其中每个$cn$对象在大小为$\ell$的线性（或循环）散列表中被分配大小为$k = 2$的间隔，并且两个起始点都是独立且均匀随机选择的。每个对象必须在其间隔内放置到表格单元格中，但每个单元格只能容纳一个对象。实验表明，该方案优于其中间隔以$\ell$的倍数对齐的块的变体。特别地，负载阈值更高，即可以以高概率实现的负载$c$。例如，Lehman和Panigrahy [LP 09]根据经验观察到$\ell = 2$的阈值约为$96.5\%$，而使用块的阈值约为$89.7\%$。他们设法确定了大$\ell$的阈值的渐近性，但精确的值无法进行严格的分析。我们建立了一种方法来确定这些负载阈值的所有$\ell \geq 2$，事实上，一般$k \geq 2$。例如，对于$k = \ell = 2$，我们得到$\approx 96.4995\%$。我们采用的关键工具是Leconte，Lelarge和Massoulié [LLM13]提出的一个有见地的一般定理，该定理将统计物理学的方法应用于超图可定向性的世界。实际上，我们的图族的可定向性阈值由某些图限制的置信传播方程确定。作为旁注，我们提供了实验证据，表明可以使用Khosla [Kho13]的算法的改编版本在线性时间内构建放置，负载接近阈值。
2019-12-17 cs.DS
Quadratic Probing Revisited: Smoothed Analysis and the Fall of Robin Hood
Tsinghua University（清华大学）；Carnegie Mellon University（卡内基梅隆大学）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；Princeton University（普林斯顿大学）
研究二次探测，通过平滑变体重新审视，分析罗宾汉与反罗宾汉排序下的性能，发现反罗宾汉排序性能更好，推广到\(d\)度探测，还通过概率方法证明多数随机固定偏移\(d\)度探测序列在反罗宾汉排序下有理想性能。
2026-07-16 cs.DS
On the k-Independence Required by Linear Probing and Minwise Independence
我们表明，线性探测需要5个独立的哈希函数，以实现预期的恒定时间性能，与[Pagh et al. STOC'07]的上限相匹配。更准确地说，我们构造了一个4-独立的哈希函数，产生预期的对数搜索时间。对于（1+ε）-近似minwise独立性，我们证明了Ω（log 1/ε）-独立散列函数是必需的，符合[Indyk，SODA'99]的上限。我们还表明，非常快的2-独立的乘法移位计划Dietzfelbinger [STACS'96]在这两个应用程序严重失败。
2014-12-24 cs.DS
Fast Consistent Hashing in Constant Time
提出一种常数时间查找的幂一致性哈希算法，通过两个辅助哈希函数实现均匀分布与最小键重映射，优于对数时间算法。
2023-12-28 cs.DC cs.DS
Explicit Orthogonal Arrays and Universal Hashing with Arbitrary Parameters
该研究提出首个适用于所有参数的显式确定性近最优规模正交阵列构造方法，基于代数几何码，还可生成任意定义域与陪域的高效t独立哈希函数，解决了此前仅存非构造性证明的问题。
2024-05-14 cs.CC cs.DS math.CO
Combined Search and Encoding for Seeds, with an Application to Minimal Perfect Hashing
本文提出一种种子组合搜索与编码算法，使成功种子序列的熵比传统方法减少 Ω(n) 比特，并基于此构造出空间需求 (1+ε)OPT、构造时间 O(n/ε) 的最小完美哈希函数，在 ε ≤ 3% 时构造吞吐量超越现有方法两个数量级以上。
2025-07-02 cs.DS
CountSketches, Feature Hashing and the Median of Three
Aarhus University（奥胡斯大学）；University of Copenhagen（哥本哈根大学）
在本文中，我们重新审视经典的CountSketch方法，这是一个稀疏的，随机投影，转换（高维）欧几里得向量$v$到一个向量的维度$(2t-1) s$，其中$t, s > 0$是整数参数。已知即使对于$t=1$，CountSketch也允许估计$v$的坐标，其中方差由$\|v\|_2^2/s$限定。对于$t > 1$，估计量取$2t-1$独立估计值的中位数，并且估计值偏离$2 \|v\|_2/\sqrt{s}$以上的概率在$t$中呈指数级小。这表明选择$t$为所需逆失效概率的对数。然而，CountSketch的实现通常使用一个小的、恒定的$t$。以前的工作只预测在这种情况下，一个恒定的因素改善。我们的主要贡献是一个新的分析计数草图，显示了改善方差$O(\min\{\|v\|_1^2/s^2,\|v\|_2^2/s\})$时，$t > 1$。也就是说，对于足够大的$s$，方差与$s^{-2}$成比例地渐近减小。我们还研究了方差的设置中的内积是从两个CountSketches估计。这一发现表明，特征散列方法本质上与CountSketch相同，但不使用中值估计器，可以在可能使用中值估计器的设置中以较小的成本变得更可靠。我们在实验中证实了我们的理论发现，从而有助于证明为什么在实践中，一个小的常数的估计往往是足够的。我们改进的方差界是基于新的一般定理的方差和高的时刻的中位数的独立同分布。随机变…
2021-02-03 cs.DS cs.LG stat.ML
Efficient $d$-ary Cuckoo Hashing at High Load Factors by Bubbling Up
本文提出冒泡上浮杜鹃哈希，在高负载因子下用接近最优的哈希函数数量同时实现快速插入和 O(1) 正查询时间。
2025-01-04 cs.DS math.CO
