On the weight and density bounds of polynomial threshold functions
Osaka University（大阪大学）；Ozyegin University（厄齐耶因大学）
本文证明了所有n元布尔函数都可以表示为至多具有$0.75 \times 2^n$非零整数系数的多项式阈值函数（PTF），并给出了这些系数的绝对值的上界.据我们所知，这提供了最好的已知的约束的PTF密度（单项式的数量）和重量（总和的系数幅度）的一般布尔函数。Bent函数的特殊情况也进行了分析，并表明，任何n-变量Bent函数可以表示为整数系数小于$2^n$，同时也遵守上述密度界。最后，稀疏布尔函数，这是几乎恒定的，除了变量分配的$m << 2^n$数，被证明有小的重量PTFs的密度在最多$m+2^{n-1}$。
2020-07-06 cs.CC cs.DM cs.LG
Near-Polynomially Competitive Active Logistic Regression
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
针对主动逻辑回归问题，提出首个与最优算法多项式竞争（误差和域大小仅多对数因子）的算法，基于高效采样，并实验验证性能优于现有主动学习方法。
2026-10-30 cs.LG
Private Data Release via Learning Thresholds
Microsoft Research（微软研究院）；Columbia University（哥伦比亚大学）
这项工作认为，计算效率的隐私保护数据发布。我们研究的任务是分析一个数据库，其中包含有关个人参与者的敏感信息。给定一组关于数据的统计查询，我们希望发布查询的近似答案，同时还保证差分隐私--保护每个参与者的敏感数据。我们的重点是计算效率的数据发布算法，我们寻求算法的运行时间是多项式，或至少是次指数，在数据维度。我们的主要贡献是一个计算效率的减少，从差分私人数据发布一类计数查询，学习阈值总和的谓词从相关的类。我们用各种学习阈值的算法来实例化这种一般的减少。这些实例化产生了几个新的结果，不同的私人数据发布。作为两个示例，取{0，1}^d为（维度d的）数据域，我们获得差分私有算法：（*）释放所有k路合取。对于任何给定的k，只要数据库的大小至少为d^{O（\sqrt{k\log(k\log d)}）}，则所得到的数据释放算法具有有界误差。运行时间与数据库大小成多项式关系。（*）释放所有奇偶校验查询的（1-γ）分数。对于任何γ \geq \poly（1/d），只要数据库的大小至少为\poly（d），算法就有界误差。运行时间与数据库大小呈多项式关系。其他几个实例为隐私保护数据发布提供了进一步的结果。在上面强调的两个结果中，第一个学习算法使用将谓词的阈值和表示为低次多项式阈值函数的技术。第二种学习算法基于Jackson的谐波筛算法[Jackson 1997]。
2011-07-13 cs.CC cs.LG
Attribute-Efficient PAC Learning of Low-Degree Polynomial Threshold Functions with Nasty Noise
Stevens Institute of Technology（史蒂文斯理工学院）
针对恶意噪声下低次多项式阈值函数的属性高效PAC学习，提出新算法，在时间和样本复杂度上优于先前工作，关键利用Chow向量稀疏性和受限Frobenius范数实现鲁棒估计。
2024-03-19 cs.DS cs.LG stat.ML
Beyond Overparameterization: Provable Learning of Input-Convex Multi-Layer Polynomial Networks with Active Queries
Peking University（北京大学）
针对过参数化局限，提出ASPIRE算法，利用输入凸性和主动查询，在多项式时间内以较低样本复杂度实现深层多项式网络的参数级恢复，首次证明高质量数据的指数级优势。
2026-10-06 cs.LG stat.ML
Absolute convergence and error thresholds in non-active adaptive sampling
University of Vigo（维戈大学）；University of A Coruña（拉科鲁尼亚大学）
本文提出一种计算绝对收敛和误差阈值的方法，用于非主动自适应采样，以确定模型质量何时停止提升并估计其接近程度，通过词性标注器生成实验验证了其正确性和鲁棒性。
2024-02-04 cs.AI cs.CL cs.LG
An Analysis of Active Learning With Uniform Feature Noise
Carnegie Mellon University（卡内基梅隆大学）
在主动学习中，用户顺序地选择特征$X$的值，并且oracle返回相应的标签$Y$。在本文中，我们考虑了主动学习中的特征噪声的影响，这可能是因为$X$本身正在被测量，或者它在传输到Oracle时被损坏，或者Oracle返回查询点的噪声版本的标签。在统计学中，特征噪声被称为“变量中的误差”，并且在非活动设置中被广泛研究。然而，特征噪声在主动学习中的影响尚未被研究。我们考虑了著名的Berkson变量误差模型，该模型带有加性均匀噪声，噪声宽度为$σ$。我们简单但有启发性的设置是一维二元分类设置，其目标是学习阈值（$+$标签的概率超过一半的点）。我们处理的回归函数是反对称的区域大小$σ$周围的阈值，也满足Tsybakov的边缘条件的阈值。我们证明了极小极大的下限和上限，这表明当$σ$小于最小的有源/无源无噪声误差来自\cite{CN07}，那么噪声对速率没有影响，并达到相同的无噪声速率。对于较大的$σ$，在具有均匀噪声的卷积上的回归函数的\textit{unflattening}连同其在阈值周围的局部反对称一起产生噪声\textit{appears}有益的行为。我们的关键结果是，即使在存在特征噪声的情况下，主动学习也可以比被动策略获得显着的改进。
2015-05-15 cs.AI cs.LG math.ST
Hardness Results for Agnostically Learning Low-Degree Polynomial Threshold Functions
Columbia University（哥伦比亚大学）；CMU（卡内基梅隆大学）；IBM Almaden（IBM阿尔马登研究中心）
在计算学习理论中，最大一致性问题的硬度结果与正确学习的硬度结果有着密切的联系。本文证明了在$\R^n \times \{-1,1\}.$中寻找一个低次多项式阈值函数（PTF）的问题的两个困难性结果。我们证明了对任何常数$d\geq 1, \eps > 0$，{itemize}假设唯一对策猜想，没有多项式时间算法可以找到与$\R^n \times \{-1,1\}$中给定的一组标记示例的$(\half + \eps)$分数一致的次数-PDMATHABMOPTF，即使存在与实施例的$1-\eps$分数一致的度- $d$ PTF。$\NP$ -很难找到一个与$\R^n \times \{-1,1\}$中给定的一组标记示例的$(\half + \eps)$分数一致的2次PTF，即使存在一个与示例的$1 - \eps$分数一致的半空间（1次PTF）。{itemize}这些结果直接暗示了以下学习结果的难度：（i）假设唯一博弈猜想，没有比平凡更好的正确学习算法可以在任意分布下不可知地学习度- $d$ PTF;（ii）没有比平凡更好的学习算法可以输出度-2 PTF并在任意分布下不可知地学习半空间（即度-1 PTF）。
2010-10-18 cs.LG
Low degree conjecture implies sharp computational thresholds in stochastic block model
ETH Zürich（苏黎世联邦理工学院）
本文基于低度猜想证明了对称随机块模型中，多项式时间算法在KS阈值以下无法弱恢复社区标签，首次为恢复率在KS阈值处的尖锐转变提供了严格证据，揭示了计算与统计差距。
2025-04-28 cs.CC cs.LG math.ST
When Should Active RAG Retrieve? A Budget-Aware Evaluation of Utility, Calibration, and Cost
Carnegie Mellon University（卡内基梅隆大学）；University of Glasgow（格拉斯哥大学）；Georgia Institute of Technology（佐治亚理工学院）
研究主动检索生成式人工智能何时检索，通过将其重述为效用估计进行预算感知评估，并分离出相关三个问题，利用多种方法实现，在多数据集和模型中验证，强调评估应报告多方面指标。
2026-07-28 cs.LG
Active Learning-based Domain Adaptive Localized Polynomial Chaos Expansion
Brno University of Technology（布尔诺理工大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出域自适应局部多项式混沌展开（DAL-PCE），通过主动学习序贯分解输入随机空间并构建局部低阶展开，以高效准确近似强非线性、不连续或奇异函数，数值实验表明其优于全局多项式混沌展开和随机谱嵌入方法。
2023-01-31 cs.LG physics.data-an
ACTC: Active Threshold Calibration for Cold-Start Knowledge Graph Completion
University of Vienna（维也纳大学）
本文提出 ACTC 方法，首次解决知识图谱补全中的冷启动校准问题，在标注预算极少的情况下利用少量标注和未标注三元组高效学习逐关系阈值，并在多个评分模型上取得显著提升。
2023-09-20 cs.AI cs.LG
Toward Attribute Efficient Learning Algorithms
我们在两个重要的问题上取得了进展属性有效的可学习性。首先，我们给出了一个算法学习决策表的长度$k$在$n$变量使用$2^{\tilde{O}(k^{1/3})} \log n$的例子和时间$n^{\tilde{O}(k^{1/3})}$。这是第一个学习决策表的算法，在相关参数中具有亚指数样本复杂度和亚指数运行时间。我们的方法建立了属性有效学习和多项式阈值函数之间的关系，是基于一个新的建设低程度，低权重的决策列表多项式阈值函数。对于广泛的参数，我们的建设匹配1994年的下限由于Beigel的ODDMAXBIT谓词，并给出了一个基本上最佳的多项式阈值函数度和权重之间的权衡。其次，我们使用$n$中的时间多项式中的$O(n^{1-1/k})$示例，给出了从$n$变量中学习$k$上的未知奇偶函数的算法。对于$k=o(\log n)$，这产生具有样本复杂度$o(n)$的多项式时间算法。这是第一个多项式时间算法学习奇偶性的超常数数量的变量与次线性样本复杂度。
2003-11-27 cs.LG
Statistical Tests and Confidential Intervals as Thresholds for Quantum Neural Networks
Thang Long University（升龙大学）；Institute of Mathematics, Vietnam National Academy of Science and Technology（越南国家科学技术院数学研究所）
作者\cite{dndiep3}的近期工作中，分析并构建了一些基本的量子神经网络，发表在《国际理论物理杂志》（2020）上。特别讨论了最小二乘问题（LSP）和线性回归问题（LRP）。在第二篇论文中，我们继续分析和构造了最小二乘量子神经网络（LS-QNN）、多项式插值量子神经网络（PI-QNN）、多项式回归量子神经网络（PR-QNN）和卡方量子神经网络（$χ^2$ -QNN）。我们使用相应的解决方案或测试作为相应训练规则的阈值。
2020-01-30 cs.ET cs.LG quant-ph
The Optimality of Polynomial Regression for Agnostic Learning under Gaussian Marginals
University of Wisconsin Madison（威斯康星大学麦迪逊分校）；University of California, San Diego（加州大学圣地亚哥分校）
研究了高斯分布下的不可知学习问题。我们开发了一种方法，通过使用LP对偶寻找硬家庭的例子，为广泛的一类问题。对于布尔值的概念类，我们表明，$L^1$ -回归算法基本上是最好的可能，因此，不可知学习的概念类的计算难度是密切相关的多项式的程度近似任何函数从类中的$L^1$ -范数。使用这种特性以及其他分析工具，我们获得了最佳SQ下界不可知学习线性阈值函数和第一个非平凡的SQ下界多项式阈值函数和半空间的交集。我们还开发了一个类似的理论不可知学习实值函数，并作为一个应用程序证明不可知学习ReLU和sigmoids的近最优SQ下界。
2021-02-08 cs.DS cs.LG math.ST
Testably Learning Polynomial Threshold Functions
ETH Zurich（苏黎世联邦理工学院）
本文研究可测试学习多项式阈值函数，证明任意常数次PTF可在$n^{\mathrm{poly}(1/\varepsilon)}$时间内学习至超额误差$\varepsilon$，与不可知论模型匹配，并揭示其与矩匹配愚弄的联系。
2024-11-06 cs.DS cs.LG
