我们考虑了在具有挑战性的\emph{agnostic learning}模型中学习高斯分布下半空间的交集的问题。Diakonikolas等人（2021）的最新工作表明，任何用于不可知地学习$k$半空间在$\mathbb{R}^n$上的交集类的统计查询（SQ）算法都必须进行最多$n^{-\tildeΩ(\sqrt{\log k})}$的公差查询，或者必须进行$2^{n^{Ω(1)}}$查询。我们通过提高对$n^{-\tildeΩ(\log k)}$的公差要求来加强这一结果。该下限基本上是最佳可能的，因为Klivans等人（2008）的SQ算法使用容差$n^{-O(\log k)}$的$n^{O(\log k)}$查询不可知地将该类学习到任何恒定的过量误差。我们证明了我们的下界的两个变体，每个变体都结合了Diakonikolas et al.（2021）的成分和Dachman-Soled et al.（2014）的布尔设置的不可知SQ下界的不同早期方法（的扩展）。我们的方法还为不可知SQ学习“凸子空间juntas”类（由Vempala研究，2010年）和具有有界高斯表面积的集合类产生了下界;所有这些下界几乎都是最优的，因为它们基本上与Klivans等人（2008）的已知上界相匹配。
英文摘要：
We consider the well-studied problem of learning intersections of halfspaces under the Gaussian distribution in the challenging \emph{agnostic learning} model. Recent work of Diakonikolas et al. (2021) shows that any Statistical Query (SQ) algorithm for agnostically learning the class of intersections of $k$ halfspaces over $\mathbb{R}^n$ to constant excess error either must make queries of tolerance at most $n^{-\tildeΩ(\sqrt{\log k})}$ or must make $2^{n^{Ω(1)}}$ queries. We strengthen this result by improving the tolerance requirement to $n^{-\tildeΩ(\log k)}$. This lower bound is essentially best possible since an SQ algorithm of Klivans et al. (2008) agnostically learns this class to any constant excess error using $n^{O(\log k)}$ queries of tolerance $n^{-O(\log k)}$. We prove two variants of our lower bound, each of which combines ingredients from Diakonikolas et al. (2021) with (an extension of) a different earlier approach for agnostic SQ lower bounds for the Boolean setting due to Dachman-Soled et al. (2014). Our approach also yields lower bounds for agnostically SQ learning the class of "convex subspace juntas" (studied by Vempala, 2010) and the class of sets with bounded Gaussian surface area; all of these lower bounds are nearly optimal since they essentially match known upper bounds from Klivans et al. (2008).
Weighted Polynomial Approximations: Limits for Learning and Pseudorandomness
Harvard University（哈佛大学）
布尔函数的多项式逼近在计算机科学中得到了许多积极的结果。特别是，多项式逼近的符号函数的算法不可知学习半空间，以及伪随机生成器的半空间。在这项工作中，我们调查这些技术的限制，通过证明符号函数的不可逼近性结果。首先，Kalai等人的多项式回归算法（SIAM J. Comput. 2008）表明，在具有挑战性的不可知学习模型中，可以学习关于$\mathbb{R}^n$上的对数凹分布的半空间。该算法的能力依赖于这样一个事实，即在对数凹分布下，半空间可以任意地用低次多项式近似。我们问这种技术是否可以扩展到对数凹分布之外，并建立一个否定的结果。我们发现，多项式的任何程度都不能近似的符号函数在任意低的误差为一大类的非对数凹分布的实数线上，包括那些与密度成比例的$\exp(-|x|^{0.99})$。其次，我们研究了Besoff型集中不等式的去随机化。独立随机变量和的Dauff型尾界在理论计算机科学中有着广泛的应用。Schmidt等人（SIAM J. Discrete Math. 1995）证明了这些不等式可以建立在随机变量和只有$O(\log(1/δ))$独立性，尾概率为$δ$的情况下。我们证明了他们的结果对常数因子是紧的。这些结果依赖于加权逼近理论的技术，加权逼近理论研究了实数线上的函数在各种分布下如何用多项式逼近。我们相信这些技术将在计算机科学的其他领域有进一步的应用。
