Batched Stochastic Linear Bandits with 1-Bit Communication Constraints
National University of Singapore（新加坡国立大学）；University of Washington（华盛顿大学）
研究在批量大小B和每批仅1比特反馈的通信约束下，随机线性赌博机的遗憾最小化问题，提出了两种基于G-最优设计和1比特均值估计的相位消除算法，实现了接近无约束线性赌博机的最优遗憾。
2026-05-29 cs.IT cs.LG math.IT
Few Batches or Little Memory, But Not Both: Simultaneous Space and Adaptivity Constraints in Stochastic Bandits
School of Data Science, Fudan University（复旦大学大数据学院）；Shanghai Innovation Institute（上海创新研究院）
研究随机老虎机在空间和适应性同时约束下的性能，证明在同时约束下，近最优 regret 需要 Ω(K/W) 批次，提出一个在任意内存预算下达到近最优 regret 的算法。
2026-03-30 cs.LG stat.ML
Online optimal task offloading with one-bit feedback
ShanghaiTech University（上海科技大学）
任务卸载是支持雾的网络中的一项新兴技术。它允许用户将任务传输到相邻的雾节点，以利用网络的计算资源。在本文中，我们研究了一个随机任务卸载模型，并提出了一个多臂强盗框架来制定这个模型。我们认为，不同的助手节点喜欢不同类型的任务。此外，我们假设每个助手节点只向任务节点反馈一位信息，以指示幸福程度。这一问题的关键挑战在于探索-开发权衡。因此，我们实现了一个UCB型算法，以最大限度地提高长期幸福度量。最后给出了数值模拟结果来验证我们的策略。
2018-07-02 cs.LG stat.ML
Linear Stochastic Bandits over a Bit-Constrained Channel
University of Pennsylvania（宾夕法尼亚大学）
大规模分布式学习的主要挑战之一来自严格的通信约束。虽然最近的几项工作解决了静态优化问题的这一挑战，但在这方面，不确定性下的顺序决策仍然很少探索。出于这个差距，我们引入了一个新的线性随机土匪制定比特约束信道。具体来说，在我们的设置中，代理与环境进行交互，通过有限容量的通信信道将未知模型参数的编码估计传输到服务器。服务器的目标是根据这些估计采取行动，以最大限度地减少累积的遗憾。为此，我们开发了一个新的和一般的算法框架，取决于两个主要组成部分：（i）一个自适应编码机制，利用统计浓度界限，和（ii）决策原则的基础上的置信度集，占编码错误。作为我们的主要结果，我们证明了当未知模型是$d$维，$O(d)$位的信道容量足以实现订单最佳遗憾。为了证明我们的方法的一般性，我们然后表明，同样的结果继续保持非线性观测模型满足标准的正则性条件。最后，我们建立，对于更简单的非结构化多臂强盗问题，$1$比特信道容量是足够的，以实现最佳的遗憾界。总的来说，我们的工作迈出了重要的第一步，为有限容量信道的统计决策铺平了道路。
2022-03-02 cs.IT cs.LG cs.SY
Heterogeneous Multi-Player Multi-Armed Bandits Robust To Adversarial Attacks
The Grainger College of Engineering, University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校格兰杰工程学院）
针对存在对抗者利用碰撞影响奖励的异构多人多臂老虎机问题，提出一种允许极少量通信的鲁棒策略，实现了近阶最优遗憾。
2025-01-21 cs.LG stat.ML
Social Learning in Multi Agent Multi Armed Bandits
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of Bristol（布里斯托尔大学）
在本文中，我们介绍了一个分布式版本的经典随机多臂强盗（MAB）问题。我们的设置包括大量的代理$n$，协作和同时解决同一个实例的$K$武装MAB，以尽量减少平均累积遗憾超过所有代理。代理可以通过交换有限数量的比特的基于成对异步流言的协议在彼此\emph{only}之间通信和协作。在我们的模型中，每个点上的智能体决定（i）使用哪只手臂，（ii）是否使用，如果使用，（iii）与什么和谁通信。在我们的模型中，代理是分散的，即他们的行为只取决于他们过去观察到的历史。我们开发了一种新的算法，在该算法中，代理人，无论何时选择，通信只手臂ID，而不是样本，与另一个代理人选择统一和独立的随机。我们的算法实现的每个代理后悔缩放是$O \left( \frac{\lceil\frac{K}{n}\rceil+\log(n)}Δ \log(T) + \frac{\log^3(n) \log \log(n)}{Δ^2} \right)$。此外，我们算法中的任何代理在$T$的时间间隔内仅通信总共$Θ(\log(T))$次。我们将我们的结果与两个基准进行比较-一个是代理之间没有通信，另一个对应于完整的交互。我们表明，无论是理论上和经验，我们的算法经验显着减少每代理遗憾的情况下，当代理不合作和通信复杂性性相比，需要$T$通信尝试由代理在$T$手臂拉的完整的交互设置。
2019-11-05 cs.DC cs.LG cs.NI
Lookahead identification in adversarial bandits: accuracy and memory bounds
Rutgers University（罗格斯大学）；Institute for Advanced Study（普林斯顿高等研究院）；Politecnico di Milano（米兰理工大学）；University College London（伦敦大学学院）
本研究提出前瞻性识别方法，在对抗性轮盘赌中通过有限记忆实现高精度识别，证明了在信息不足情况下识别的可行性。
2026-02-28 cs.LG
Tsetlin Machine for Solving Contextual Bandit Problems
McGill University（麦吉尔大学）；University of Agder（阿格德大学）
本文介绍了一个可解释的上下文强盗算法使用Tsetlin机，它解决了复杂的模式识别任务使用命题逻辑。建议的强盗学习算法依赖于简单的位操作，从而简化计算和解释。然后，我们提出了一种机制，执行汤普森采样与Tsetlin机，鉴于其非参数性质。我们的实证分析表明，Tsetlin机器作为一个基本的上下文强盗学习者优于其他流行的基本学习者的八个九个数据集。我们进一步分析了我们的学习者的可解释性，研究如何根据模拟上下文的命题表达式选择武器。
2022-02-04 cs.AI cs.LG cs.NE
Network of Bandits insure Privacy of end-users
Orange Labs（Orange实验室）
为了尽可能接近用户的设备，在无线电接入网络的边缘，我们提出了一个新的问题设置，分布式播放器合作，以找到最好的arm.This架构保证隐私的最终用户，因为没有事件被存储。对手通过核心网络唯一可以观察到的是用户之间的聚合信息。我们提供了第一个算法，分布式中值消除，这是最佳的传输位数和接近最佳的加速因子方面的最佳算法独立运行在每个播放器。在实践中，第一种算法不能处理通信成本和加速因子之间的权衡，并且需要一些关于参与者分布的知识。扩展的分布式中值消除克服了这些限制，通过并行播放分布式中值消除的不同实例并选择最佳实例。实验验证并完成了分析。分析表明，与对每个参与者进行的中值消除相比，该算法具有明显的实用性。
2017-03-29 cs.AI cs.DC cs.LG
ARM 4-BIT PQ: SIMD-based Acceleration for Approximate Nearest Neighbor Search on ARM
The University of Tokyo（东京大学）；Fixstars Corporation（Fixstars公司）
我们在ARM架构上加速了4位乘积量化（PQ）。值得注意的是，传统4位PQ的巨大性能严重依赖于x64特定的SIMD寄存器，如AVX 2;因此，我们还不能在ARM上实现如此好的性能。为了填补这一空白，我们首先将两个128位寄存器捆绑为一个256位组件。然后，我们使用ARM特定的NEON指令对每个应用shuffle操作。通过进行这种简单但关键的修改，我们在ARM架构上实现了4位PQ的显着加速。实验表明，所提出的方法始终实现了10倍的改善，在相同的准确性比天真PQ。
2022-03-03 cs.CV cs.IR cs.LG
Fundamental Limits of Online and Distributed Algorithms for Statistical Learning and Estimation
Weizmann Institute of Science（魏茨曼科学研究所）
许多机器学习方法的特征在于它们如何与训练数据交互的信息约束。这些包括内存和顺序存取约束（例如解决随机优化问题的快速一阶方法）;通信约束（例如分布式学习）;对底层数据的部分访问（例如缺失特征和多臂强盗）等等。然而，目前我们还不了解这些信息约束如何从根本上影响我们的性能，独立于学习问题的语义。例如，是否存在这样的学习问题，即任何具有小内存占用（或可以使用每个示例中的任何有限数量的位，或具有某些通信约束）的算法将比没有这些约束的算法执行得更差？在本文中，我们描述了如何一组结果意味着积极的答案，上述几个不同的设置。
2014-10-28 cs.LG stat.ML
The Truth Was Never Gone: Perfect Aliasing in Compliant-Context Truth Probes
University of Waterloo（滑铁卢大学）
本研究揭示顺从上下文真值探针存在完全混叠问题，通过混合拟合分离真值与规定动作，在对抗上下文中将AUROC从近零提升至1.000，证明线性可恢复性。
2026-10-09 cs.AI cs.CL cs.LG
The Tsetlin Machine -- A Game Theoretic Bandit Driven Approach to Optimal Pattern Recognition with Propositional Logic
Centre for Artificial Intelligence Research（人工智能研究中心）；University of Agder（阿格德大学）
虽然单个人工神经元很简单，但当在深度网络中互连时，人工神经元提供了最先进的性能。可以说，Tsetlin自动机是一种更简单、更通用的学习机制，能够解决多臂强盗问题。它仅仅依靠一个整数作为记忆，通过递增和递减操作来学习随机环境中的最优行为。本文介绍了由一组Tsetlin自动机组成的Tsetlin机，它用命题公式解决复杂的模式识别问题。为了消除长期存在的信噪比消失的问题，Tsetlin机器使用一种新颖的游戏来编排自动机。此外，输入、模式和输出都表示为比特，而识别和学习依赖于比特操作，从而简化了计算。我们的理论分析建立了纳什均衡的游戏与命题公式，提供最佳的模式识别的准确性。这意味着学习没有局部最优，只有全局最优。在五个基准测试中，与SVM、决策树、随机森林、朴素贝叶斯分类器、逻辑回归和神经网络相比，Tsetlin机器提供了具有竞争力的准确性。我们进一步展示了如何命题公式促进解释。总之，我们相信高精度，可解释性和计算简单性的结合使Tsetlin机成为广泛领域的有前途的工具。
2021-01-02 cs.AI cs.CV cs.LG
Accelerating Deep Learning Model Inference on Arm CPUs with Ultra-Low Bit Quantization and Runtime
Deeplite Inc.（Deeplite公司）
深度学习是近年来最具颠覆性的技术进步之一。深度学习模型的高性能是以高计算、存储和功耗要求为代价的。意识到迫切需要加速和压缩这些模型以提高设备性能，我们引入了Deeplite Neutrino用于模型的生产就绪优化，并引入Deeplite Neutrino用于在基于Arm的平台上部署超低位量化模型。我们为Armv7和Armv8架构实现了低级量化内核，使其能够部署在大量基于32位和64位Arm的设备上。通过使用矢量化、并行化和平铺的高效实现，我们在分类和检测模型上分别实现了与带有XNNPACK后端的TensorFlow Lite相比高达2倍和2.2倍的加速。我们还实现了高达5倍和3.2倍的显着加速相比，ONNX的分类和检测模型，分别。
2022-07-18 cs.AI cs.LG
Fast matrix multiplication for binary and ternary CNNs on ARM CPU
Moscow Institute of Physics and Technology（莫斯科物理技术学院）；Federal Research Center “Computer Science and Control” of Russian Academy of Sciences（俄罗斯科学院计算机科学与控制联邦研究中心）；Smart Engines Service LLC（Smart Engines服务有限责任公司）；Institute for Information Transmission Problems, RAS（俄罗斯科学院信息传输问题研究所）
低比特量化神经网络在实际应用中有很大的兴趣，因为它们显著地减少了存储器和计算资源的消耗。二进制神经网络是存储器和计算高效的，因为它们每个权重和激活仅需要一位，并且可以使用布尔逻辑和位计数操作来计算。具有三进制权重和激活以及二进制权重和三进制激活的QNN旨在与BNN相比提高识别质量，同时保持低位宽。然而，它们的有效实现通常被认为是在ASIC和FPGA上，限制了它们在实际任务中的适用性。与此同时，最需要高效识别的领域之一是使用CPU的移动设备上的识别。然而，目前还没有已知的TBN和TNN的快速实现，只有用于BNN推理的daBNN库。在本文中，我们提出了新的快速算法的三进制，三进制二进制和二进制矩阵乘法与ARM架构的移动设备。在我们的算法中，三进制权重使用2位编码表示，二进制使用一位。它允许我们用布尔逻辑运算代替矩阵乘法，可以使用ARM NEON SIMD扩展在128位上同时计算。矩阵乘法结果在16位整数寄存器中累加。我们还使用左矩阵和右矩阵中的值的特殊重新排序。所有这些都使我们能够有效地计算矩阵乘积，同时与daBNN算法相比，最小化加载和存储的数量。我们的算法可用于实现TNN、TBN和BNN的卷积层和全连接层的推理。我们在ARM Cortex-A73 CPU上进行了实验评估，并将其推理速度与全精度，8位和4位量化矩阵乘法的有效实现进行了比较。
2022-05-18 cs.LG
16-bit Precision of Convolutional Neural Networks on Microcontroller Units for 8-bit Costs
Bielefeld University（比勒费尔德大学）
本文提出W16A16，一种16位高精度量化方法，在Armv7E-M微控制器上以8位成本实现约10倍更低的量化误差，同时保持相似或更优的速度与能耗。
2026-10-05 cs.LG
Understanding Cache Boundness of ML Operators on ARM Processors
Heidelberg University（海德堡大学）；Materials Center Leoben（莱奥本材料中心）
像TVM这样的机器学习编译器允许在嵌入式CPU上快速灵活地部署。这使得可以使用非标准运算符，这在ML压缩技术中很常见。但是，有必要了解ML工作负载中典型计算密集型操作员的局限性，以设计适当的解决方案。这是第一次对TVM生成的密集和卷积运算符进行详细分析，与嵌入式ARM处理器的基本硬件限制进行比较。因此，它解释了计算峰值性能之间的差距，理论和测量，和现实世界的最先进的结果，创建与TVM和openBLAS。相反，可以看到单精度通用矩阵乘法（GEMM）和卷积受L1缓存读取带宽的约束。对8位和位串行量化运算符的探索表明，与高速缓存限制的浮点运算符相比，量化可以用于实现相关的加速比。然而，量化运算符的性能高度依赖于数据布局和位打包之间的相互作用。
2021-02-01 cs.AI cs.AR cs.LG
Llama-Mobile: Efficient 2.7-Bit Quantization of VLMs
Graphcore Research（Graphcore研究院）；Arm（Arm公司）
针对VLMs部署于移动设备的资源瓶颈，提出结合自生成训练数据的量化流水线与2.7位参数格式的框架，将Llama 3.2 11B Vision Instruct模型压缩至3.7 GB且保留视觉问答任务性能。
2026-10-05 cs.CV cs.LG
Differentiable Soft Quantization: Bridging Full-Precision and Low-Bit Neural Networks
Beihang University（北京航空航天大学）；SenseTime Group Limited（商汤集团有限公司）；Beijing Institute of Technology（北京理工大学）
硬件友好的网络量化（例如，二进制/均匀量化）可以有效地加速推理，同时减少深度神经网络的存储器消耗，这对于资源有限的设备（如移动电话）上的模型部署至关重要。然而，由于低比特量化的离散性，现有的量化方法往往面临着不稳定的训练过程和严重的性能下降。为了解决这个问题，在本文中，我们提出了微分软量化（DSQ），以弥合全精度和低比特网络之间的差距。DSQ可以在训练过程中自动进化，以逐渐接近标准量化。由于DSQ的可微性，它可以在后向传播过程中精确地追求梯度，并在前向传播过程中通过适当的限幅来减小量化损失。在几种流行的网络结构上进行的大量实验表明，使用DSQ训练低比特神经网络可以始终优于最先进的量化方法。此外，我们的第一个有效的实现部署2至4位DSQ与ARM架构的设备上实现了高达1.7 $\times$的速度相比，开源的8位高性能推理框架NCNN。[三十一]
2019-08-14 cs.CV cs.LG eess.IV
Sub 8-Bit Quantization of Streaming Keyword Spotting Models for Embedded Chipsets
Amazon（亚马逊）
我们提出了一种新的2阶段子8位量化感知训练算法的所有组件的250 K参数前馈，流，无状态的关键字定位模型。对于第一阶段，我们采用最近提出的量化技术，使用tanh（.）密集层的权重。在第二阶段，我们对网络的其余部分使用线性量化方法，包括其他参数（偏置，增益，batchnorm），输入和激活。我们进行了大规模的实验，对26,000小时的去识别化制作、远场和近场音频数据进行了训练（对4,000小时的数据进行了评估）。我们组织我们的结果在两个嵌入式芯片组设置：a）与商品ARM NEON指令集和8位容器，我们目前的准确性，CPU和内存的结果，使用子8位权重（4、5、8位）和8位量化网络的其余部分; b）使用现成的神经网络加速器，对于一定范围的权重位宽（1和5位），在呈现准确性结果的同时，我们预计减少存储器利用率。在这两种配置中，我们的结果表明，所提出的算法可以实现：a）奇偶校验与一个完整的浮点模型的工作点上的检测错误权衡（DET）曲线在错误检测率（FDR）在错误拒绝率（FRR）; b）显着减少计算和内存，产生高达3倍的改善CPU消耗和超过4倍的改善内存消耗。
2022-09-08 cs.LG cs.SD eess.AS
Scalable Methods for 8-bit Training of Neural Networks
Intel - Artificial Intelligence Products Group (AIPG)（英特尔人工智能产品事业部）；Technion - Israel Institute of Technology（以色列理工学院）
量化神经网络（QNN）通常用于在推理阶段期间（即，在网络已经被训练之后）提高网络效率。该领域的广泛研究提出了许多不同的量化方案。尽管如此，所需的比特数以及最佳量化方案仍然是未知的。我们的理论分析表明，大多数训练过程对于精度的大幅降低是鲁棒的，并且只指出了一些需要更高精度的特定操作。有了这些知识，我们将模型参数、激活和层梯度转换为8位，只留下计算权重梯度的最后一步。此外，由于QNN需要以高精度进行批量归一化训练，因此我们引入了范围批量归一化（BN），它对量化噪声具有更高的容忍度，并提高了计算复杂性。我们的模拟表明，范围BN是相当于传统的批量规范，如果一个精确的规模调整，这可以近似解析，应用。据作者所知，这项工作是第一个将所有层（包括批量归一化）中的权重，激活以及大量梯度流转换为8位，同时在ImageNet-1 K数据集上显示最先进的结果。
2018-06-17 cs.LG stat.ML
Quantization of Deep Neural Networks for Accumulator-constrained Processors
Eindhoven University of Technology（埃因霍温理工大学）；Intel Benelux（英特尔比荷卢）
我们介绍了一个人工神经网络（ANN）的量化方法的平台没有广泛的积累寄存器。这使得固定点模型部署在嵌入式计算平台上，这些平台不是专门为大型内核计算设计的（即累加器约束处理器）。我们将量化问题公式化为累加器大小的函数，并且旨在通过最大化输入数据的位宽和权重来最大化模型精度。为了减少要考虑的配置数量，只测试完全利用可用累加器位的解决方案。我们证明，16位的SVM能够获得在CIFAR-10和ILSVRC 2012图像分类基准的浮点基线的1\%的分类精度。此外，通过在All-CNN-C和AlexNet网络上利用16位递归进行图像分类，在ARM处理器上获得了接近最佳的$2\times$加速比。
2020-04-24 cs.CV cs.LG eess.IV
Efficient Execution of Quantized Deep Learning Models: A Compiler Approach
Amazon Web Services（亚马逊云科技）；Edgecortix Inc.（Edgecortix公司）
越来越多的应用程序使用深度学习模型来实现预测功能，这需要大量使用计算和内存。一种用于提高资源效率的流行技术是8位整数量化，其中使用较短的8位整数来表示32位浮点数（fp32）。尽管TensorFlow、TFLite、MXNet和PyTorch等深度学习框架使开发人员能够以较小的准确度降低对模型进行量化，但它们并不适合在各种硬件平台上执行量化模型。例如，TFLite经过优化，可以在ARM CPU边缘设备上运行推理，但它对Intel CPU和Nvidia GPU没有有效的支持。在本文中，我们通过提出一种增强编译器方法来解决在不同硬件平台上执行量化深度学习模型的挑战。诸如Apache TVM之类的深度学习编译器可以在各种目标上有效执行来自各种框架的模型。然而，今天的许多深度学习编译器主要是为fp32计算而设计的，无法优化预量化的INT 8模型。为了解决这个问题，我们创建了一个新的方言，称为量化神经网络（QNN），它扩展了编译器的内部表示与量化上下文。有了这个量化上下文，编译器可以在各种硬件平台上为预量化模型生成有效的代码。正如在Apache TVM中实现的那样，我们观察到QNN增强的深度学习编译器在Intel Xeon Cascade Lake CPU、Nvidia Tesla T4 GPU、ARM Raspberry Pi3和Pi4上分别实现了2.35倍、2.15倍、1.35倍和1.4…
2020-06-18 cs.DC cs.LG cs.PL
Like an Open Book? Read Neural Network Architecture with Simple Power Analysis on 32-bit Microcontrollers
CEA Tech（CEA技术部门）；Mines Saint-Etienne（圣艾蒂安矿业学院）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CEA（法国原子能和替代能源委员会）；Leti（莱蒂实验室）；Centre CMP（CMP中心）
本研究提出一种仅通过电磁侧信道简单模式识别即可提取32位微控制器上MLP和CNN模型架构的方法，证明架构提取攻击复杂度低，亟需实用防护措施。
2024-02-06 cs.AI cs.CR cs.LG
Highly Optimized Kernels and Fine-Grained Codebooks for LLM Inference on Arm CPUs
Arm Inc.（安谋公司）
本文提出面向Arm CPU的高度优化内核和分组非均匀码本量化方法，通过分摊权重解包成本、优化数据布局与解压缩路径，显著提升LLM推理效率，在4位量化下实现提示处理3-3.2倍、自回归解码2倍的加速。
2024-12-23 cs.AI cs.AR cs.CL
