Algorithmic linear dimension reduction in the l_1 norm for sparse vectors
本文提出了一种新的恢复m-稀疏信号的方法，同时是均匀和快速的。我们提出了一个重建算法，其运行时间为O（m log^2（m）log^2（d）），是次线性的信号的长度d。重构误差在l_1中的最佳m项近似误差的对数因子（以m为单位）内。特别是，该算法恢复m-稀疏信号完美，噪声信号恢复与多对数失真。我们的算法进行O（m log^2（d））测量，这是在最佳的对数因子内。我们还提出了一个小空间实现的算法。这些草图绘制技术和相应的重建算法提供了l_1范数的算法降维。特别地，在维度d中支持m的向量可以线性地嵌入到O（m log^2 d）维中，具有多对数失真。我们可以在时间O（m log^2（m）log^2（d））内从向量的低维草图重建向量。此外，这种重建是稳定的和强大的小扰动下。
2006-08-19 cs.DS
Computing Sparse Jacobians and Hessians Using Algorithmic Differentiation
随机科学模型和机器学习优化估计器具有大量变量;因此计算大型稀疏雅可比矩阵和海森矩阵是重要的。数学微分（AD）大大减少了获得这些矩阵的稀疏模式和值所需的编程工作。我们提出了向前，反向和子图的方法计算稀疏雅可比和海森。由于子图法是一种新的方法，本文对它进行了特别的介绍。当使用子图计算稀疏雅可比和海森时，着色和压缩步骤是不必要的。复杂性分析表明，对于某些问题，子图方法预计要快得多。我们比较C++运算符重载实现的方法在ADOL-C和CppAD软件包使用的一些MINPACK-2测试问题。实验的设置方式使它们易于在不同的硬件，不同的系统，不同的编译器，其他测试问题和其他AD包上运行。设置时间是记录图形、计算稀疏度、着色、压缩和优化图形的时间。如果每次评估都需要设置，则子图实现对于稀疏雅可比矩阵具有类似的运行时间，对于稀疏Hessian矩阵具有更快的运行时间。
2021-11-09 cs.DS cs.MS
An Algorithm for Komlós Conjecture Matching Banaszczyk's bound
我们考虑的问题，找到一个低的差异着色的稀疏集系统，每个元素位于最多t集。我们给出了一个有效的算法，找到一个着色与差异O（（t log n）^{1/2}），匹配的最佳已知的非建设性的问题，由于Banaszczyk的界限。以前的算法只能达到O（t^{1/2} log n）界。结果也扩展到更一般的Komlós设置，并给出了一个算法的O（log^{1/2} n）界。
2016-09-10 cs.DM cs.DS
An algorithmic framework for colouring locally sparse graphs
我们开发了一个算法框架图着色，减少了问题，以验证一个本地的独立集的概率属性。有了这一点，我们给任何固定的$k\ge 3$和$\varepsilon>0$，一个随机多项式时间算法着色图的最大程度$Δ$中的每个顶点是包含在最多$t$副本的周期长度$k$，其中$1/2\le t\le Δ^\frac{2\varepsilon}{1+2\varepsilon}/(\logΔ)^2$，与$\lfloor(1+\varepsilon)Δ/\log(Δ/\sqrt t)\rfloor$颜色。这概括并改进了几个值得注意的结果，包括Kim（1995）和Alon，Krivelevich和Sudakov（1999）的结果，以及Molloy（2019）和Achlioptas，Iliopoulos和Sinclair（2019）的最近结果。色数上的这个界紧到渐近因子$2$，并且它与着色随机图的一个著名的算法障碍相吻合。
2020-04-15 cs.DS math.CO
Fast Discrepancy Minimization with Hereditary Guarantees
自Bansal（FOCS 2010）的突破性工作以来，有效地计算各种集合系统的低差异着色已经得到了广泛的研究，Bansal给出了几个重要设置的第一个多项式时间算法，包括一般集合系统，稀疏集合系统和具有有界遗传差异的集合系统。集合系统的遗传差异是通过删除基元的子集而获得的所有集合系统的最大差异。虽然是多项式时间，班萨尔的算法是不实用的，例如，他的算法的遗传设置运行在时间$Ω(m n^{4.5})$为集系统与$m$集在一个地面集的$n$元素。更有效的算法，从那时起已开发的一般和稀疏集系统，然而，对于遗传的情况下，Bansal的算法仍然是最先进的。在这项工作中，我们给出了一个显着更快的算法与遗传的保证，运行在$O(mn^2\lg(2 + m/n) + n^3)$的时间。我们的算法是基于新的结构见解集系统有界遗传差异。我们还实现了我们的算法，并通过实验表明，它计算的着色显着优于随机和完成在一个合理的时间，即使在集系统上有数千套超过地面集的数千个元素。
2022-11-24 cs.CG cs.DS
A Walk From Free Probability to Matrix Discrepancy I: Matrix Spencer
Google（谷歌）
本文提出随机化算法，通过协方差控制随机游走与自由概率势函数，在多项式时间内证明矩阵Spencer猜想，并给出Weaver定理的算法证明。
2026-09-17 cs.DS
Algorithmic Universality, Low-Degree Polynomials, and Max-Cut in Sparse Random Graphs
MIT（麻省理工学院）
本文研究了在稀疏随机图中最大割问题的算法通用性，证明了低次多项式算法在不同分布下的性能一致性。
2025-12-23 cs.DS math.PR
Efficient Algorithms for Discrepancy Minimization in Convex Sets
Spencer的一个结果表明，在一个大小为$n$的宇宙上，每个$n$集合的集合都有一个与$\{-1,+1\}$有差异的着色$O(\sqrt{n})$。一个几何推广这一结果是由Gluskin（也见Giannopoulos）谁表明，每一个对称凸体$K\subseteq R^n$高斯措施至少$e^{-εn}$，为一个小$ε>0$，包含一个点$y\in K$的一个常数分数的坐标$y$是在$\{-1,1\}$。这通常被称为部分着色结果。虽然这两个结果是固有的非算法，最近Bansal（也见洛维特，麦卡）了一个多项式时间算法斯宾塞的设置和Rothvoss了一个随机多项式时间算法获得相同的保证结果Gluskin和Giannopoulos。本文有几个相关的结果。首先，我们证明了另一个建设性的版本的结果Gluskin和Giannopoulos通过优化的线性函数。这意味着基于线性规划的组合差异算法获得与斯宾塞相同的结果。我们的第二个结果给出了一种新的方法来获得部分着色，并表明，每个凸体$K\subseteq R^n$，可能是非对称的，高斯测度至少$e^{-εn}$，对于一个小的$ε>0$，包含一个点$y\in K$，其中一个常数分数的坐标的$y$是在$\{-1,1\}$。最后，我们给出了一个简单的证明，表明对于任何$δ>0$存在一个常数$c>0$，这样，给定一个身体$K$与$γ_n(K)\geq δ$，…
2014-09-09 cs.CG cs.DS math.PR
A Tighter Relation Between Hereditary Discrepancy and Determinant Lower Bound
在开创性的工作中，Lovász，Spencer和Vesztergombi [European J. Combin。1986]证明了矩阵$A \in \mathbb{R}^{m \times n}$在$A$的所有$k \times k$子矩阵$B$上的最大值$|\det(B)|^{1/k}$的遗传差异的下界。我们在算法上证明，这个行列式下限最多可以偏离$O(\sqrt{\log (m) \cdot \log (n)})$的一个因子，这比Matoušek给出的$O(\log(mn) \cdot \sqrt{\log (n)})$的先前界限有所改进[Proc. of the AMS，2013]。对于满足$|\mathcal{F}_1 \cup \mathcal{F}_2| = m$的任意两个集合系统$\mathcal{F}_1, \mathcal{F}_2$ over $[n]$，我们的结果直接蕴涵了$\mathrm{herdisc}(\mathcal{F}_1 \cup \mathcal{F}_2) \leq O(\sqrt{\log (m) \cdot \log (n)}) \cdot \max(\mathrm{herdisc}(\mathcal{F}_1), \mathrm{herdisc}(\mathcal{F}_2))$.我们的界限是紧常数时，$m = O(\mathrm{po…
2021-11-01 cs.DS
The Geometry of Differential Privacy: the Sparse and Approximate Cases
在这项工作中，我们研究的上下文中的线性查询直方图的准确性和隐私之间的权衡。这是一个丰富的查询类，包括列联表和范围查询，并且一直是长时间工作的重点。对于一组数据库$x \in \R^N$上的$d$线性查询，我们寻求找到具有最小均方误差的差分私有机制。对于纯差分隐私，已知最佳机制的$O(\log^2 d)$近似。我们的第一个贡献是给出$(\eps,δ)$ -差分隐私的$O(\log^2 d)$近似保证。我们的机制是简单的，有效的，并增加了相关的高斯噪声的答案。我们证明了它的近似保证相对于Muthukrishnan和Nikolov的遗传差异下界，使用凸几何的工具。接下来，我们在查询的数量超过数据库中的个体数量的情况下考虑这个问题，即当$d > n \triangleq \|x\|_1$。众所周知，在这种情况下存在更好的机制。我们的第二个主要贡献是给出了一个$(\eps,δ)$ -差分私有机制，它是最佳的$\polylog(d,N)$的因素，任何给定的查询集$A$和任何给定的上限$n$上$\|x\|_1$。这种近似是通过将高斯噪声添加方法与线性回归步骤相结合来实现的。我们给出了一个类似的结果$\eps$ -差分隐私设置。我们还提高了回答计数查询的数据库上的大小$n$的Blum，Ligett和Roth的均方误差上界，并匹配的下限隐含的工作Dinur和Nissim的对数因子。遗传差异和隐私机制…
2012-12-03 cs.DS
Revisit the Partial Coloring Method: Prefix Spencer and Sampling
针对标题和摘要，重访部分着色方法：前缀着色方法与采样
2024-08-25 cs.DS
SoS Certificates for Sparse Singular Values and Their Applications: Robust Statistics, Subspace Distortion, and More
UW Madison（威斯康星大学麦迪逊分校）；MIT（麻省理工学院）；Simons Institute, UC Berkeley（加州大学伯克利分校西蒙斯研究所）；ETH Zürich（苏黎世联邦理工学院）
本文提出基于平方和层级的稀疏奇异值认证算法，在近最广参数范围内给出优于朴素界的上界，并应用于鲁棒统计、子空间畸变认证、稀疏主成分分析等问题，且与SQ及低次多项式下界几乎匹配。
2024-12-30 cs.DS cs.LG
Sparse PCA: Algorithms, Adversarial Perturbations and Certificates
ETH Zürich（苏黎世联邦理工学院）；Carnegie-Mellon University（卡内基梅隆大学）；Princeton University（普林斯顿大学）；Institute for Advanced Study（高等研究院）
我们研究了标准统计模型（Wishart形式的尖峰协方差）中稀疏PCA的有效算法。我们的目标是实现最佳的恢复保证，同时对小扰动具有弹性。尽管之前的工作有很长的历史，包括对扰动弹性的明确研究，但稀疏PCA最著名的算法保证是脆弱的，并且在小的对抗性扰动下会崩溃。我们观察到扰动弹性和\emph{certifying algorithms}，是基于证书的随机矩阵的稀疏特征值的上界之间的基本连接。与其他技术相比，这种认证算法，包括蛮力最大似然估计，自动鲁棒性小对抗扰动。我们使用这种连接，以获得第一多项式时间算法，这个问题是有弹性的添加剂对抗性扰动，通过获得新的有效证书的随机矩阵的稀疏特征值的上界。我们的算法是基于基本的半定规划或其低程度的平方和加强取决于参数制度。它们的保证匹配或接近\emph{fragile}算法在未知向量的稀疏性、样本数和环境维度方面的最佳已知保证。为了补充我们的算法结果，我们证明了严格的下限匹配脆弱和强大的多项式时间算法之间的差距在一个自然的计算模型的基础上低次多项式（密切相关的伪校准技术的平方和下限），已知捕捉相关的统计估计问题的最佳已知的保证。这些结果的结合提供了正式的证据，证明了为实现稳健性而付出的固有代价。
2020-11-12 cs.DS cs.LG
Nearly Optimal Sparse Fourier Transform
我们考虑的问题，计算k-稀疏近似的离散傅立叶变换的n维信号。我们展示：* 对于输入信号具有至多k个非零傅立叶系数的情况，是O（k log n）时间随机算法，并且 * 对于一般输入信号，是O（k log n log（n/k））时间随机算法。这两种算法都实现了o（n log n）的时间，因此对于任何k = o（n），都优于快速傅立叶变换。它们是第一个已知的算法，满足这个属性。此外，如果假设快速傅立叶变换是最优的，那么对于任何k = n^{Ω（1）}，用于精确k稀疏情况的算法都是最优的。我们补充我们的算法结果表明，任何算法计算稀疏傅立叶变换的一般信号必须使用至少Ω（k log（n/k）/ log log n）的信号样本，即使它被允许执行自适应采样。
2012-04-06 cs.DS
Approximate Hypergraph Coloring under Low-discrepancy and Related Promises
一个超图称为$χ$ -可着色的，如果它的顶点可以用$χ$颜色着色，使得没有超边是单色的。$2$ -可着色性是超图的一个基本性质（称为性质B），在组合数学中得到了广泛的研究。然而，在数学上，给定一个$2$ -可着色的$k$ -均匀超图，要找到一个小于一部分超边$2^{-k+1}$的$2$-着色错误是NP-困难的（这是通过随机$2$ -着色实现的），并且正确着色超图的最佳算法需要$\approx n^{1-1/k}$颜色，随着$k$的增加，接近$n$的平凡界。在这项工作中，我们研究了近似超图着色的复杂性，对于最大化（找到具有最少错色边的$2$着色）和最小化（使用最少数量的颜色找到适当的着色）版本，当输入超图被保证具有比$2$ -可着色性更强的以下属性时：（A）低差异：如果超图具有$\ell \ll \sqrt{k}$不一致性，给出了用$\approx n^{O(\ell^2/k)}$颜色对超图着色的算法.然而，对于最大化的版本，我们证明了NP-困难的找到一个$2$着色miscoloring小于$2^{-O(k)}$（分别。$k^{-O(k)}$（分别为$\ell=2$）。在UGC假设下，对于几乎不一致的$1$超图，我们将后者的硬度因子改进为$2^{-O(k)}$. (B)彩虹可着色性：如果超图有一个$(k-\ell)$ -着色，使得每个超边都是多色的，我们给出了一个$2$ -着色算法，…
2015-06-22 cs.CC cs.DS
A Sparse Johnson--Lindenstrauss Transform
降维是一种重要的算法工具，在流模型中有着广泛的应用，包括最近邻搜索、压缩感知和线性代数。在这项工作中，我们得到了{ \em稀疏}版本的基本工具，在维减少-约翰逊-林登施特劳斯变换。使用散列和局部致密化，我们构造了一个稀疏投影矩阵，每列只有$\tilde{O}(\frac{1}ε)$非零条目。我们还显示了一个匹配的下界的稀疏投影矩阵的一大类。我们的边界是有点令人惊讶的，已知的下界$Ω(\frac{1}{ε^2})$的行数的任何投影矩阵和稀疏性的投影矩阵产生的自然建设。使用这一点，我们实现了$(1\pmε)$近似投影的每个非零元素的$\tilde{O}(\frac{1}ε)$更新时间，从而大大优于现有方法所需的$\tilde{O}(\frac{1}{ε^2})$更新时间。我们的方法的一个变体为稀疏向量提供了相同的保证，但其$\tilde{O}(d)$最坏情况下的运行时间与Ailon和Liberty的最佳方法相匹配。
2010-04-23 cs.DS
A Walk From Free Probability to Matrix Discrepancy II: Weaver's Problem and the Kadison-Singer Conjecture
Google（谷歌）
本文提出一个多项式时间确定性算法，通过超立方体漫步和自由概率势函数，解决 Weaver 问题并实现差异性至多 $35\sqrt\varepsilon$，为 Kadison-Singer 猜想提供构造性证明。
2026-09-17 cs.DS math.FA
