首页/论文/1904.04867

arXiv 1904.048672019-04-09cs.NEcs.CC

二元价值函数的黑盒复杂性

Black-Box Complexity of the Binary Value Function

Nina Bulanova, Maxim Buzdalov

备注：: 24 pages, one figure. An extended two-page abstract of this work will appear in proceedings of the Genetic and Evolutionary Computation Conference, GECCO'19
DOI：: 10.1145/3319619.3322070

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

摘要：

二进制价值函数，或BinVal，已经出现在演化计算理论的几项研究中，作为线性伪布尔函数的一个极端例子。它的无偏黑盒复杂度以前被证明是最多$\lceil \log_2 n \rceil + 2$，其中$n$是问题的大小。我们用$\log_2 n + 2.42141558 - o(1)$的上界来增加它，这对于$n$的许多值来说更精确。我们还提出了一个下界的$\log_2 n + 1.1186406 - o(1)$。此外，我们证明了BinVal是一个最简单的函数中的所有单峰伪布尔函数至少无偏算法。

英文摘要：

The binary value function, or BinVal, has appeared in several studies in theory of evolutionary computation as one of the extreme examples of linear pseudo-Boolean functions. Its unbiased black-box complexity was previously shown to be at most $\lceil \log_2 n \rceil + 2$, where $n$ is the problem size. We augment it with an upper bound of $\log_2 n + 2.42141558 - o(1)$, which is more precise for many values of $n$. We also present a lower bound of $\log_2 n + 1.1186406 - o(1)$. Additionally, we prove that BinVal is an easiest function among all unimodal pseudo-Boolean functions at least for unbiased algorithms.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

LeadingOnes的（1+1）精英黑箱复杂性

The (1+1) Elitist Black-Box Complexity of LeadingOnes

黑箱复杂性理论的一个重要目标是发展复杂性模型，从而为整个随机搜索算法类导出有意义的下界。作为对经典运行时分析的补充，黑盒模型帮助我们理解算法选择（如种群大小、变异算子或选择规则）如何影响优化时间。这种结果的一个例子是具有唯一全局最优值的函数上的一元无偏算法的$Ω(n \log n)$下界[Lehre/Witt，GECCO 2010]，这告诉我们，当试图超越此界时，需要更高的arity算子或有偏采样策略。由于缺乏分析技术，几乎没有已知的非平凡界的其他限制模型。因此，证明这样的界限仍然是黑盒复杂性理论的主要挑战之一。在本文中，我们有助于我们的技术工具箱下限计算提出了一种新的类型的信息理论的论点。我们考虑的置换和位不变版本的\textsc{LeadingOnes}，并证明其（1+1）精英黑箱复杂性是$Ω(n^2)$，一个界，是匹配的（1+1）型进化算法。因此，\textsc{LeadingOnes}的（1+1）精英复杂度显著大于其无限制复杂度，已知无限制复杂度为$n\log\log n$阶[Afshani等人，2013年]。

2016-04-08cs.CCcs.NE

基于排序的黑盒复杂度

Ranking-Based Black-Box Complexity

随机搜索算法如进化算法、模拟退火和蚁群优化是一类广泛使用的通用算法。通过理论计算机科学的经典方法来分析它们是一个不断发展的领域。虽然在过去的20年中出现了一些强大的运行时分析结果，但尚未开发出针对此类算法的强大复杂性理论。我们丰富了现有的概念的黑盒复杂性的额外限制，而不是实际的目标值，但只有相对质量的先前评估的解决方案可能会考虑到的黑盒算法。许多随机搜索算法都属于这类算法。我们表明，新的排名为基础的模型提供了更现实的复杂性估计的一些问题。例如，所有二进制价值函数的类在先前的黑盒模型中具有黑盒复杂度$O(\log n)$，但具有基于排名的复杂度$Θ(n)$。对于所有OneMax函数的类，我们提出了一个基于排名的黑盒算法，该算法的运行时间为$Θ(n / \log n)$，这表明OneMax问题不会因为额外的基于排名的限制而变得更难。

2012-09-03cs.CCcs.DScs.NE

黑盒复杂性：打破LeadingOnes的$O(n \log n)$障碍

Black-Box Complexity: Breaking the $O(n \log n)$ Barrier of LeadingOnes

我们证明了$n$维XOR和置换不变的LeadingOnes函数类的无限制黑盒复杂度是$O(n \log (n) / \log \log n)$。这表明，最近自然看起来$O(n\log n)$约束并不紧。黑盒优化算法导致这个界限可以实现的方式，只有3元无偏变差算子使用。因此，我们的界限也适用于Lehre和Witt最近提出的无偏黑盒复杂度（GECCO 2010）。如果我们施加额外的限制，即黑盒算法不能访问目标值，而只能访问它们的相对顺序（基于排名的黑盒复杂度），则该界限也仍然有效。

2012-10-24cs.DScs.NE

离散黑箱优化启发式算法的复杂性理论

Complexity Theory for Discrete Black-Box Optimization Heuristics

在进化算法理论中的一个主要课题，更一般地说，随机黑盒优化技术的理论是运行时间分析。运行时分析旨在通过限制启发式算法识别所需质量的解决方案所需的函数评估数量来了解给定启发式算法在给定问题上的性能。在一般的算法理论中，这种运行时间的观点是最有用的，当它被一个有意义的复杂性理论，研究算法解决方案的限制。在离散黑箱优化的背景下，已经开发了几个黑箱复杂性模型来分析黑箱优化算法在给定问题上可以实现的最佳性能。这些模型在这些下限适用的算法类别上有所不同。通过这种方式，黑盒复杂性有助于更好地理解某些算法选择（例如启发式算法使用的内存量，其选择压力或用于创建新候选解决方案的策略属性）如何影响性能。在这一章中，我们回顾了不同的黑盒复杂性模型，已在文献中提出，调查这些模型的界限，并讨论如何运行时间分析和黑盒复杂性的相互作用，可以激发新的算法解决方案，充分研究的问题，在演化计算。在本章中，我们还讨论了未来工作中几个有趣的开放问题。

2018-06-11cs.NE

无偏黑盒复杂度中的Arity降低

Reducing the Arity in Unbiased Black-Box Complexity

我们证明了对于所有的$1<k \leq \log n$，$n$维$\onemax$函数类的$k$元无偏黑箱复杂度是$O(n/k)$ .这表明更高元数运算符的能力比Doerr等人的先前$O(n/\log k)$约束的能力强得多（Faster black-box algorithms through higher arity operators，Proc. of FOGA 2011，pp. 163- 172，ACM，2011）建议。这个结果的关键是编码策略，这可能是独立的利益。我们表明，仅使用$k$ -ary无偏变分运算符，我们可以模拟大小为$O(2^k)$位的不受限制的存储器。

2012-03-19cs.NE

基于高阶算子的快速黑箱算法

Faster Black-Box Algorithms Through Higher Arity Operators

我们扩展了Lehre和Witt（GECCO 2010）关于无偏黑箱模型的工作，考虑了更高的变异算子。特别是，我们表明，已经为二进制运营商的\leadingones的黑盒复杂性下降，从$Θ(n^2)$为一元运营商的$O(n \log n)$。对于\onemax，在二进制情况下，$Ω(n \log n)$一元黑盒复杂度下降到O（n）。对于$k$ -元算子$k \leq n$，\onemax -复杂度进一步降低到$O(n/\log k)$ .

2010-12-04cs.NE

更多相关论文收起更多论文

带尾界的并行黑盒复杂度

Parallel Black-Box Complexity with Tail Bounds

我们提出了一个新的黑盒复杂度模型的搜索算法并行评估$λ$搜索点。并行一元无偏黑盒复杂度给出了每个并行一元无偏黑盒算法优化给定问题所需的函数求值数量的下限。它捕获了进化算法中后代种群引起的惯性和并行元计算中的总计算量。我们提出了LeadingOnes和OneMax的复杂性结果。我们的主要结果是一个一般的性能限制：我们证明，在每个功能每个$λ$ -并行一元无偏算法至少需要$Ω(\frac{λn}{\ln λ} + n \log n)$评估找到任何所需的目标集的指数大小，以压倒性的概率。这就产生了单峰和多峰问题的典型优化时间的下限，找到任何局部最优值的时间，甚至接近任何最优值的时间。这种方法的功率和多功能性示出了广泛的组合优化的说明性问题。我们的性能限制可以指导参数选择和算法设计，我们证明了后者提出了一个最佳的$λ$并行算法OneMax，最有效地使用并行。

2019-01-31cs.NE

引入精英黑箱模型：精英选择何时削弱进化算法的性能？

Introducing Elitist Black-Box Models: When Does Elitist Selection Weaken the Performance of Evolutionary Algorithms?

黑盒复杂性理论为进化算法等黑盒优化器的运行时间提供了下界，并为新的遗传算法的设计提供了灵感。存在几种涵盖不同类别算法的黑盒模型，每种模型都突出了所考虑的算法的不同方面。在这项工作中，我们添加到现有的黑盒概念一个新的\emph{elitist black-box model}，其中算法需要根据所有的决定只对（固定数量的）最佳的搜索点采样到目前为止。我们的模型结合了基于排名和内存限制的黑盒模型与精英选择的功能。我们提供了几个例子，精英黑盒的复杂性是指数大于各自的复杂性在所有以前的黑盒模型，从而表明精英黑盒的复杂性可以更接近典型的进化算法的运行时间。我们还介绍了$p$的概念-蒙特卡罗黑箱复杂性，它的措施，以优化问题的失败概率最多$p$的时间。即使对于小的$p$，函数类$\mathcal F$的$p$ -蒙特卡洛黑盒复杂度也可以比其通常认为的拉斯维加斯复杂度（其测量优化$\mathcal F$所花费的\emph{expected}时间）小一个指数因子。

2015-08-27cs.DScs.NE

组合问题的黑盒复杂性

Black-Box Complexities of Combinatorial Problems

黑盒复杂度是一种复杂性理论的度量，用于衡量一个问题通过通用优化算法进行优化的难度。因此，它是试图了解哪些问题对于遗传算法和其他随机搜索启发式算法来说是可处理的少数方法之一。以前大多数关于黑盒复杂性的工作都是关于人工测试函数的。本文对最小生成树和单源最短路这两个组合问题进行了深入的研究和分析。除了给他们的黑盒复杂性有趣的界限，我们的工作表明，如何建模的优化问题的选择是不平凡的。这在搜索空间不包括位串的情况下以及在无偏性的合理定义必须达成一致的情况下尤其适用。

2011-08-01cs.NE

混合二进制-连续变量的黑盒优化：进化模型融合中的挑战与机遇

Black-Box Optimization of Mixed Binary-Continuous Variables: Challenges and Opportunities in Evolutionary Model Merging

BRAC University（布拉格大学）；University of Tsukuba（筑波大学）

本文探讨了进化模型融合中混合二进制-连续变量的黑盒优化挑战，提出结构化方法提升融合效果并减少搜索空间。

2026-10-17cs.NE

多约束黑箱模型中的OneMax

OneMax in Black-Box Models with Several Restrictions

黑箱复杂性研究通用黑箱优化算法（如进化算法和其他搜索算法）的效率下限。存在不同的模型，每个模型都被设计用于分析典型启发式方法的不同方面，例如内存大小或使用的变异运算符。虽然大多数以前的作品集中在一个特定的这样的方面，我们认为在这项工作中如何结合几个算法的限制影响黑盒的复杂性。我们的测试平台是所谓的OneMax函数，这是一组经典的测试函数，与经典的硬币称重问题和棋盘游戏Mastermind密切相关。我们特别分析了OneMax在不同内存大小下的组合内存受限的基于排名的黑盒复杂度。虽然其隔离的存储器限制以及其基于排名的黑盒复杂度为长度$n$的位串仅为$n/\log n$阶，但组合模型不允许算法比$n$中的线性算法更快，如标准信息论考虑所示。我们证明了这个线性界确实是渐近紧的。对于其他内存和子内存大小，也得到了类似的结果。我们的结果也适用于最近引入的精英模型中OneMax的（Monte Carlo）复杂性，其中只有迄今为止最好的解决方案可以保存在内存中。最后，我们还提供了改进的下界的OneMax在所考虑的模型的复杂性。我们的结果活跃了自然进化算法优化OneMax在$o(n \log n)$迭代的追求。

2015-09-10cs.DScs.NE

针对基于API调用的恶意软件分类器的通用黑盒端到端攻击

Generic Black-Box End-to-End Attack Against State of the Art API Call Based Malware Classifiers

Ben Gurion University（本-古里安大学）

在本文中，我们提出了一种针对基于API调用的机器学习恶意软件分类器的黑盒攻击，重点是生成结合API调用和静态特征（例如，可打印字符串），其将被分类器错误分类而不影响恶意软件功能。我们表明，由于RNN变体、前馈DNN和传统机器学习分类器（如SVM）之间的可转移性原则，这种攻击对许多分类器都是有效的。我们还实现了GADGET，一个软件框架，将任何恶意软件二进制转换为二进制未检测到的恶意软件分类器，使用拟议的攻击，而无需访问恶意软件源代码。

2018-06-24cs.CRcs.LGcs.NE

基于精确黑箱分析的最优参数选择

Optimal Parameter Choices via Precise Black-Box Analysis

已经观察到，进化算法的一些工作原理，特别是参数的影响，不能从运行时的渐近阶的结果来理解，而只能从更精确的结果。在这项工作中，我们补充了新兴的主题，精确的运行时分析与第一精确的复杂性理论的结果。我们的愿景是，算法分析和复杂性理论之间的相互作用成为一个富有成效的工具，也比渐近数量级更精确的分析。作为具体的结果，我们证明了OneMax基准函数类的一元无偏黑箱复杂度是$n \ln(n) - cn \pm o(n)$，其中$c$是介于$0.2539$和$0.2665$之间的常数.该运行时间可以通过使用适应度依赖突变强度的简单（1+1）型算法来实现。当翻译成固定预算的角度来看，我们的算法找到的解决方案是大约13\%接近最佳比那些最好的以前已知的算法。为了证明我们的结果，我们制定了几个新版本的变量漂移定理，这也可能是独立的利益。

2018-10-17cs.NE

仿射OneMax

Affine OneMax

提出了一类新的黑盒优化测试函数。仿射OneMax（AOM）函数被定义为OneMax和位向量上的可逆仿射映射的组合。该类的黑盒复杂度的上界是一个大次数的多项式。证明依赖于离散傅立叶分析和Kushilevitz-Mansour算法。可调复杂度是通过将可逆线性映射表示为有限个横截的乘积来实现的。研究了AOM函数子类的黑盒复杂性。最后，给出了AOM函数的实验结果，以说明搜索算法的性能。

2021-06-12cs.NEmath.OC

对抗攻击的查询复杂度

Query complexity of adversarial attacks

EPFL（洛桑联邦理工学院）

在对抗鲁棒性文献中考虑了两种主要的攻击模型：黑盒和白盒。我们将这些威胁模型视为细粒度频谱的两端，由对手可以询问的查询数量进行索引。使用这个观点，我们调查了对手需要多少查询来设计一个攻击，这是最好的可能的攻击在白盒模型。我们给出了一个下界的查询数量的分类器的决策边界的熵。使用这个结果，我们分析了两个经典的学习算法的两个合成任务，我们证明有意义的安全保证。得到的界限表明，一些学习算法本质上是更强大的查询有界的对手比其他人。

2021-02-10cs.CRcs.LGcs.NE