Corruption Robust Active Learning
University of Washington（华盛顿大学）
我们进行基于流的主动学习的二进制分类在未知的对抗标签腐败的理论研究。在这种情况下，每次在学习者观察样本之前，对手都会决定是否破坏标签。首先，我们表明，在一个良性的腐败设置（其中包括作为特殊情况下的错误设置），假设消除阈值略有扩大，经典的RobustCAL框架可以（令人惊讶地）实现几乎相同的标签复杂性保证在非腐败设置。但是，此算法在常规损坏设置中可能会失败。为了解决这个缺点，我们提出了一个新的算法，它是可证明正确的，没有任何假设的腐败的存在。此外，该算法在非损坏设置中享有极大极小标签复杂度（其由RobustCAL实现），并且在损坏设置中仅需要$\tilde{\mathcal{O}}(C_{\mathrm{total}})$附加标签来实现$\mathcal{O}(\varepsilon + \frac{C_{\mathrm{total}}}{n})$，其中$\varepsilon$是目标准确度，$C_{\mathrm{total}}$是损坏的总数，并且$n$是未标记样本的总数。
2021-06-21 cs.AI cs.LG stat.ML
Game of Coding: Sybil Resistant Decentralized Machine Learning with Minimal Trust Assumption
University of Minnesota Twin Cities（明尼苏达大学双城分校）；The Georgia Institute of Technology（佐治亚理工学院）
本文提出编码游戏框架，通过博弈论方法实现去中心化机器学习的Sybil抗性，并探讨了系统行为的关键方面。
2026-01-13 cs.IT cs.LG math.IT
Bandits Corrupted by Nature: Lower Bounds on Regret and Robust Optimistic Algorithm
Université de Lille（里尔大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
我们研究了腐败的强盗问题，即一个随机的多臂强盗问题与$k$未知的奖励分布，这是重尾和腐败的历史独立的对手或自然。具体地说，通过玩手臂获得的奖励来自相应的概率为$1-\varepsilon \in (0.5,1]$的重尾奖励分布和概率为$\varepsilon \in [0,0.5)$的无界支持的任意腐败分布。首先，我们提供任何损坏的强盗算法的$\textit{a problem-dependent lower bound on the regret}$。下界表明，腐败的强盗问题是困难的，比经典的随机强盗问题与亚高斯或重尾奖励。接下来，我们提出了一种新型的UCB类型的腐败强盗算法，即HubUCB，它建立在Huber的估计器之上，用于鲁棒均值估计。利用Huber估计的一个新的集中不等式，我们证明了HubUCB达到了一个接近最优的后悔上界。由于计算Huber估计具有二次复杂性，我们进一步介绍了一个顺序版本的Huber估计，表现出线性复杂性。我们利用这个顺序估计设计SeqHubUCB，享受类似的遗憾保证，同时减少计算负担。最后，我们通过实验说明了HubUCB和SeqHubUCB在解决不同奖励分配和不同腐败程度的腐败土匪的效率。
2023-03-21 cs.LG math.ST stat.TH
Near Optimal Adversarial Attacks on Stochastic Bandits and Defenses with Smoothed Responses
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文研究随机多臂老虎机中的对抗攻击与防御，提出针对UCB和汤普森采样的近最优攻击策略，并设计两种简单防御算法，使竞争比任意接近1。
2024-03-14 cs.LG stat.ML
Distributed randomized Kaczmarz for the adversarial workers
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
开发大规模分布式方法，使其对敌对或腐败工人的存在具有鲁棒性，是使此类方法适用于现实世界问题的重要组成部分。在这里，我们提出了一个迭代的方法，是敌对容忍的最小二乘问题。该算法利用简单的统计来保证收敛性，并能够学习对抗分布。此外，所提出的方法的效率在模拟中示出的存在的对手。结果表明，这种方法具有很大的能力，以容忍不同水平的对手率，并确定错误的工人具有高精度。
2022-02-28 cs.LG cs.NA math.NA
Robust Q-Learning under Corrupted Rewards
North Carolina State University（北卡罗来纳州立大学）
本文研究Q学习在奖励被对抗性污染下的鲁棒性问题，提出一种利用历史奖励数据构造鲁棒经验贝尔曼算子的同步Q学习算法，并证明其有限时间收敛速率与无攻击时的最优界限匹配，仅相差一个随污染比例缩放的不可避免误差项。
2024-09-05 cs.LG cs.SY eess.SY
Multi-Agent Stochastic Bandits Robust to Adversarial Corruptions
CICS, UMass Amherst（马萨诸塞大学阿默斯特分校CICS（计算机与信息科学学院））；CS, CityU（香港城市大学计算机科学系）
针对异构多智能体多臂老虎机中的对抗性攻击问题，提出一种鲁棒的协作学习算法，证明对手攻击仅引入加性遗憾项，并在退化场景下改进现有最优遗憾界。
2024-11-12 cs.LG stat.ML
Efficient and Optimal Policy Gradient Algorithm for Corrupted Multi-armed Bandits
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research Asia（微软亚洲研究院）；Tsinghua University（清华大学）；Shanghai Qi Zhi Institute（上海期智研究院）
针对受对抗性污染的随机多臂老虎机问题，提出将策略梯度算法SAMBA应用于该场景，证明其计算高效且遗憾上界更优，仿真验证其性能优于现有基准。
2025-02-19 cs.LG
Reaching Kesten-Stigum Threshold in the Stochastic Block Model under Node Corruptions
ETH Zürich（苏黎世联邦理工学院）
针对节点损坏的随机块模型的鲁棒社区检测问题，提出首个在小常数比例损坏节点下仍能在Kesten-Stigum阈值实现弱恢复的多项式时间算法，并扩展至Z₂同步问题达最优恢复阈值，核心是利用主子矩阵Grothendieck范数推出效应的可识别性证明。
2023-05-17 cs.LG cs.SI stat.ML
PatchGuard: A Provably Robust Defense against Adversarial Patches via Small Receptive Fields and Masking
Princeton University（普林斯顿大学）；University of Chicago（芝加哥大学）
局部对抗补丁旨在通过任意修改图像的受限区域内的像素来诱导机器学习模型中的误分类。这种攻击可以在物理世界中通过将对抗补丁附加到要被错误分类的对象来实现，并且防御这种攻击是一个未解决的/开放的问题。在本文中，我们提出了一个名为PatchGuard的通用防御框架，它可以实现高可证明的鲁棒性，同时保持对本地化对抗补丁的高准确性。PatchGuard的基石涉及使用具有小感受野的CNN来限制被对抗补丁破坏的特征数量。给定有界数量的损坏特征，设计对抗性补丁防御的问题简化为设计安全特征聚合机制的问题。为此，我们提出了我们强大的掩蔽防御，鲁棒地检测和掩蔽损坏的功能，以恢复正确的预测。值得注意的是，我们可以证明我们的防御对我们的威胁模型中的任何对手的鲁棒性。我们对ImageNet，ImageNet（ImageNet的10类子集）和CIFAR-10数据集的广泛评估表明，我们的防御在可证明的鲁棒准确性和干净准确性方面都达到了最先进的性能。
2021-03-31 cs.CR cs.CV cs.LG
Universal Multi-Party Poisoning Attacks
在这项工作中，我们展示了通用的多方中毒攻击，适应并适用于任何多方学习过程与任意的互动模式之间的各方。更一般地，我们介绍和研究$(k,p)$ -中毒攻击，其中对手控制各方的$k\in[m]$，并且对于每个损坏的方$P_i$，对手代表仍然“$(1-p)$ -接近”正确数据$\mathcal{T}_i$的$P_i$提交一些中毒数据$\mathcal{T}'_i$（例如，仍然诚实地生成$\mathcal{T}'_i$的$1-p$部分）。我们证明，对于最终训练的假设$h$的任何“坏”属性$B$（例如，$h$在特定测试示例上失败或具有"大“风险），其具有任意小的恒定发生概率而没有攻击，则总是存在$(k,p)$中毒攻击，其将$B$的概率从$μ$增加到$μ^{1-p \cdot k/m} = μ+ Ω(p \cdot k/m)$。我们的攻击只使用干净的标签，而且是在线的。更一般地说，我们证明了任何有界函数$f(x_1,\dots,x_n) \in [0,1]$定义的$n$步随机过程$\mathbf{X} = (x_1,\dots,x_n)$，对手谁可以覆盖每个$n$块，甚至依赖概率$p$可以增加预期的输出至少$Ω(p \cdot \mathrm{Var}[f(\mathbf{x})])$。
2021-11-10 cs.CC cs.CR cs.LG
Nearly Optimal Algorithms for Linear Contextual Bandits with Adversarial Corruptions
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Google Research（谷歌研究院）；The Hong Kong University of Science and Technology（香港科技大学）
我们研究了存在对抗性腐败的线性上下文强盗问题，其中每一轮的奖励都被对手腐败，腐败水平（即，在范围上的损坏幅度的总和）是$C\geq 0$。在这种情况下，最著名的算法是有限的，因为它们要么是计算效率低，或需要一个强大的假设上的腐败，或他们的遗憾是至少$C$倍，比没有腐败的遗憾。在本文中，为了克服这些局限性，我们提出了一种新的算法的基础上的乐观原则，面对不确定性。我们算法的核心是加权岭回归，其中每个选择的动作的权重取决于其置信度达到某个阈值。我们发现，对于已知的$C$和未知的$C$的情况下，我们的算法与适当的选择超参数实现了遗憾，几乎匹配的下限。因此，我们的算法几乎是最佳的对数因子的两种情况下。值得注意的是，我们的算法实现了近最优的遗憾损坏和未损坏的情况下（$C=0$）同时。
2022-07-10 cs.LG stat.ML
Efficient PAC Learning of Halfspaces with Constant Malicious Noise Rate
Stevens Institute of Technology（史蒂文斯理工学院）
本文研究恶意噪声下半空间的高效 PAC 学习，提出通过最小化重加权 hinge 损失并结合权重控制梯度恶化，在分布与大间隔条件同时满足时实现恒定噪声容忍度。
2025-02-15 cs.DS cs.LG stat.ML
Noise-Tolerant Life-Long Matrix Completion via Adaptive Sampling
Carnegie Mellon University（卡内基梅隆大学）
我们研究了恢复一个不完整的$m\times n$矩阵的秩$r$随着时间的推移到达在线列的问题。这被称为生命周期矩阵完备化问题，并被广泛应用于推荐系统，计算机视觉，系统辨识等。挑战是设计可证明的算法容忍大量的噪声，具有小的样本复杂度。在这项工作中，我们给出了算法实现两个现实的噪声模型下的强保证。在有界确定性噪声中，对手可以将任何有界但非结构化的噪声添加到每列。对于这个问题，我们提出了一种算法，该算法返回一个具有小误差的矩阵，样本复杂度几乎与无噪声情况下的最佳先验结果一样小。对于稀疏随机噪声，即随机抽取的稀疏列，我们给出了一种算法，该算法以至少$1-δ$的概率精确恢复$μ_0$ -非相干矩阵，样本复杂度为$O\left(μ_0rn\log (r/δ)\right)$ .该结果推进了最先进的工作，并在最坏情况下匹配下限。我们还研究了隐藏矩阵位于子空间的混合物上的情况，并表明样本的复杂性可以更小。我们提出的算法在合成和真实世界的数据集实验表现良好。
2016-12-01 cs.LG stat.ML
