Green Screen Augmentation Enables Scene Generalisation in Robotic Manipulation
Dyson Robot Learning Lab（戴森机器人学习实验室）
针对机器人操作策略难以跨视觉场景泛化的问题，本文提出在绿幕环境采集演示并用GreenAug替换背景，实验证明其优于多种现有增强方法。
2024-09-08 cs.AI cs.CV cs.LG
Training on Irrelevant States Implies Data Augmentation: Generalization in Contextual MDPs
研究上下文马尔可夫决策过程零样本策略转移中智能体泛化问题，提出Explore-Go方法，通过在训练开始引入纯探索阶段，结合现有纯探索策略提升智能体覆盖范围与准确性来增强泛化能力，经实验验证该方法在多种基准测试中有效。
2026-07-14 cs.AI cs.LG
Deep Exploration via Bootstrapped DQN
Stanford University（斯坦福大学）；Google DeepMind（谷歌DeepMind）
本文提出Bootstrap DQN算法，通过随机价值函数实现高效探索，提升复杂环境中的学习速度和性能，尤其在Atari游戏中表现优异。
2016-07-04 cs.AI cs.LG cs.SY
Optimistic World Models: Efficient Exploration in Model-Based Deep Reinforcement Learning
Department of Electrical；Computer Engineering, Texas A\&M University, College Station, Texas, USA
本文提出乐观世界模型，通过引入乐观动态损失提升深度强化学习中的高效探索能力，显著提高样本效率和累积回报。
2026-02-10 cs.AI cs.LG cs.SY
Faster Q-Learning Algorithms for Restless Bandits
IIIT Allahabad（阿拉哈巴德印度信息技术学院）；IIT Madras（马德拉斯印度理工学院）
针对RMAB的Whittle指数学习，本文提出Q学习及其SQL、GSQL、PhaseQL变体并结合UCB探索，通过双时间尺度随机逼近和数值实验证明UCB加速收敛、PhaseQL收敛最优。
2024-09-06 cs.LG cs.SY eess.SY
Simple Noisy Environment Augmentation for Reinforcement Learning
Institute of Finance and Technology, UCL（伦敦大学学院金融与技术研究所）；Data Science and Innovation, NatWest Group（国民西敏寺银行集团数据科学与创新部）
该研究提出一组带噪声率超参数的通用强化学习环境噪声增强包装器，涵盖状态、奖励等维度及两种新技术，在多算法多MuJoCo环境下验证了效果并开源了工具。
2023-05-04 cs.AI cs.LG
BBQ-Networks: Efficient Exploration in Deep Reinforcement Learning for Task-Oriented Dialogue Systems
我们提出了一种新算法，可以显著提高对话系统中深度Q学习代理的探索效率。我们的智能体通过汤普森采样进行探索，从贝叶斯反向传播神经网络中提取蒙特卡罗样本。我们的算法比常见的探索策略（如ε-greedy，Boltzmann，bootstrapping和基于内在奖励的策略）学习得更快。此外，我们还证明了，在重放缓冲区中加入一些成功的经验，可以使Q学习在可能失败的情况下变得可行。
2017-11-20 cs.AI cs.CL cs.LG
DADA: Differentiable Automatic Data Augmentation
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；Anyvision（Anyvision公司）；Queens University of Belfast（贝尔法斯特女王大学）；School of Informatics, The University of Edinburgh（爱丁堡大学信息学院）
数据增强（DA）技术旨在增加数据的可变性，从而训练具有更好泛化能力的深度网络。开创性的AutoAugment通过强化学习自动搜索最佳DA策略。然而，AutoAugment在计算上非常昂贵，限制了其广泛的适用性。后续的工作，如基于人口的增强（PBA）和快速自动增强提高了效率，但它们的优化速度仍然是一个瓶颈。在本文中，我们提出了微分自动数据增强（DADA），大大降低了成本。DADA通过Gumbel-Softmax将离散DA策略选择问题放松为可微优化问题。此外，我们引入了一个无偏梯度估计，RELAX，导致一个高效和有效的一遍优化策略，学习一个高效和准确的DA政策。我们在CIFAR-10、CIFAR-100、SVHN和ImageNet数据集上进行了广泛的实验。此外，我们证明了Auto DA在下游检测问题的预训练中的价值。结果表明，我们的DADA比最先进的DADA至少快一个数量级，同时达到非常相似的精度。该代码可在https://github.com/VDIGPKU/DADA上获得。
2020-07-30 cs.CV cs.LG
Improving Intrinsic Exploration by Creating Stationary Objectives
Mila Québec AI Institute（米拉魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；Ubisoft LaForge（育碧LaForge工作室）
本文提出SOFE框架，通过增广状态表示将非平稳探索奖励转化为平稳奖励，从而简化智能体目标优化，在多种困难探索任务中显著提升了性能。
2024-04-23 cs.AI cs.LG
Reinforcement Learning with Probabilistically Complete Exploration
University of Sydney（悉尼大学）；Nvidia（英伟达）
平衡探索和利用仍然是强化学习（RL）的关键挑战。最先进的强化学习算法具有很高的样本复杂度，特别是在稀疏奖励的情况下，在找到第一个正奖励之前，它们只能在各个方向上进行探索。为了减轻这种情况，我们提出了快速随机探索强化学习（R3L）。我们制定探索作为一个搜索问题，并利用广泛使用的规划算法，如快速探索随机树（RRT），以找到初始的解决方案。这些解决方案被用作初始化策略的演示，然后通过通用RL算法进行优化，从而实现更快，更稳定的收敛。我们提供了理论保证R3L探索找到成功的解决方案，以及其采样复杂性的界限。我们的实验表明，该方法优于经典和内在的勘探技术，只需要一小部分的勘探样本，并实现更好的渐近性能。
2020-01-20 cs.LG cs.RO stat.ML
BBQ-Networks: Efficient Exploration in Deep Reinforcement Learning for Task-Oriented Dialogue Systems
Microsoft Research（微软研究院）；Google Inc.（谷歌公司）；Citadel（城堡投资）；Carnegie Mellon University（卡内基梅隆大学）；Amazon AI（亚马逊人工智能）
我们提出了一种新算法，可以显著提高对话系统中深度Q学习代理的探索效率。我们的智能体通过汤普森采样进行探索，从贝叶斯反向传播神经网络中提取蒙特卡罗样本。我们的算法学习速度远远快于常见的探索策略，如$ε$ -贪婪，玻尔兹曼，自举，和内在的奖励为基础的。此外，我们还证明了，在重放缓冲区中加入一些成功的经验，可以使Q学习在可能失败的情况下变得可行。
2017-11-23 cs.LG cs.NE stat.ML
Optimistic Exploration even with a Pessimistic Initialisation
University of Oxford（牛津大学）
乐观初始化是强化学习（RL）中有效探索的一种策略。在表格的情况下，所有可证明有效的无模型算法都依赖于它。然而，无模型深度强化学习算法并不使用乐观初始化，尽管它们从这些可证明有效的表格算法中获得了灵感。特别是，在只有正奖励的情况下，由于常用的网络初始化方案，Q值被初始化为它们的最低可能值，这是一种悲观的初始化。仅仅初始化网络以输出乐观的Q值是不够的，因为我们不能确保它们对新的状态-动作对保持乐观，这对探索至关重要。我们提出了一个简单的基于计数的增强悲观初始化的Q值，分离的乐观的来源从神经网络。我们证明了该方案在表格设置中是可证明有效的，并将其扩展到深度RL设置。我们的算法，乐观悲观初始化Q学习（OPIQ），增加了Q值估计的DQN为基础的代理与计数派生奖金，以确保在行动选择和引导过程中的乐观。我们表明，OPIQ优于非乐观的DQN变种，利用伪计数为基础的内在动机在硬探索任务，它预测乐观的估计新的状态-动作对。
2020-02-26 cs.AI cs.LG stat.ML
BAMAX: Backtrack Assisted Multi-Agent Exploration using Reinforcement Learning
Thoughtworks India Pvt Ltd.（Thoughtworks印度私人有限公司）
针对多机器人协作完全探索未知环境的难题，提出基于强化学习的回溯辅助多智能体探索方法BAMAX，利用回溯机制提升探索效率，实验证明其在多种六边形网格中实现了更快的覆盖率和更少的回溯。
2024-11-13 cs.AI cs.RO
Mixing Human Demonstrations with Self-Exploration in Experience Replay for Deep Reinforcement Learning
Monash University（莫纳什大学）
我们研究了在回放缓冲区中使用人类演示数据进行深度强化学习的效果。我们使用一个策略梯度方法与修改后的经验重放缓冲区，其中一个人的演示经验，以给定的概率进行采样。我们分析了不同的比率使用演示数据在一个任务中，代理试图达到一个目标，同时避免障碍。我们的研究结果表明，虽然纯自我探索和纯演示训练的代理人有类似的成功率，但纯演示模型收敛速度更快，步骤更少。
2021-07-14 cs.AI
Exploiting Generalization in Offline Reinforcement Learning via Unseen State Augmentations
Georgia Institute of Technology（佐治亚理工学院）；Amazon Alexa AI（亚马逊Alexa人工智能）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of Southern California（南加州大学）
本文提出一种未见状态增强策略，通过对已见状态进行价值引导扰动并利用认知不确定性过滤，使离线强化学习能够在模型和价值估计可泛化的区域利用未见状态，从而在多个任务中实现更保守的Q值估计和性能提升。
2023-09-24 cs.AI cs.LG stat.ML
Distributional Reinforcement Learning for Efficient Exploration
University of Alberta（阿尔伯塔大学）；Huawei Noah’s Ark（华为诺亚方舟实验室）；University of Oxford（牛津大学）；Huawei Hi-Silicon（华为海思）；University of Waterloo（滑铁卢大学）
在分布式强化学习（RL）中，价值函数的估计分布同时对参数和内在不确定性进行建模.我们提出了一种新的和有效的探索方法，深度RL有两个组成部分。第一个是一个衰减的时间表，以抑制内在的不确定性。第二个是从学习分布的上分位数计算的探索奖金。在Atari 2600游戏中，我们的方法在14个硬游戏中的12个中优于QR-DQN（在49个游戏中，QR-DQN的累积奖励平均获得483%，在Venture中获得巨大胜利）。我们还比较了我们的算法与QR-DQN在一个具有挑战性的三维驾驶模拟器（CARLA）。结果表明，我们的算法实现接近最优的安全奖励比QRDQN快两倍。
2019-05-13 cs.AI cs.LG stat.ML
Entropy Augmented Reinforcement Learning
Northwestern Polytechnical University（西北工业大学）
深度强化学习是在信任域方法的存在下发起的，具有可扩展性和高效性。然而，这类算法的悲观主义，其中它强制约束在一个信任区域的一切手段，已被证明抑制探索和损害性能。探索性算法如SAC，在利用熵鼓励探索的同时，隐含地优化了另一个目标。我们首先观察到这种不一致性，因此提出了一种类似的增强技术，当涉及到一个值评论家时，它与策略算法结合得很好。令人惊讶的是，所提出的方法始终满足软策略改进定理，同时更具可扩展性。分析认为，控制温度系数是实现勘探开发平衡的关键。在MuJoCo基准任务上的实验结果表明，该智能体在更高的奖励区域中表现出更好的性能.此外，我们验证了我们的方法的探索奖金上的一组自定义环境。
2023-03-03 cs.LG
Faster and more diverse de novo molecular optimization with double-loop reinforcement learning using augmented SMILES
Odyssey Therapeutics（奥德赛治疗公司）；King's College（国王学院）
提出双循环强化学习结合SMILES增强，通过内循环重用评分计算并防止模式崩溃，实现更快、更多样且可重复的从头分子优化。
2023-03-03 cs.LG physics.chem-ph
NADPEx: An on-policy temporally consistent exploration method for deep reinforcement learning
SenseTime（商汤科技）
强化学习智能体需要探索性行为来摆脱局部最优。这些行为可以包括即时抖动扰动和时间上一致的探索。为了实现这些，一个随机的政策模型，是内在一致的，通过一段时间是在期望中，特别是对于任务，无论是稀疏的奖励或长期的信息。在这项工作中，我们引入了一种新的策略时间一致的探索策略-神经自适应丢弃策略探索（NADPEx）-用于深度强化学习代理。dropout被建模为条件分布的全局随机变量，被纳入强化学习策略，即使在奖励信号稀疏的情况下，也为它们提供了固有的时间一致性。讨论了NADPEx策略稳定改进的两个因素，即梯度与目标的一致性和策略空间的KL约束。我们的实验表明，NADPEx解决任务的稀疏奖励，而天真的探索和参数噪声失败。它在连续控制的标准mujoco基准测试中产生同样或甚至更快的收敛。
2018-12-24 cs.LG cs.RO stat.ML
Fast Exploration with Simplified Models and Approximately Optimistic Planning in Model Based Reinforcement Learning
Stanford University（斯坦福大学）
人类学习玩视频游戏的速度明显快于最先进的强化学习（RL）算法。人们似乎建立简单的模型，易于学习，以支持规划和战略探索。受此启发，我们研究了利用基于模型的RL提高样本效率的两个问题。首先，我们研究如何进行战略探索时，精确的规划是不可行的，经验表明，乐观的蒙特卡罗树搜索优于后验抽样方法。其次，我们展示了如何学习简单的确定性模型，以支持使用对象表示的快速学习。我们说明了这些想法的好处，通过引入一种新的算法，战略面向对象的强化学习（SOORL），在陷阱的游戏中表现优于国家的最先进的算法！在不到50集里。
2018-11-26 cs.AI
Model-Free Active Exploration in Reinforcement Learning
KTH Royal Institute of Technology（KTH皇家理工学院）；Division of Decision and Control Systems（决策与控制系统学部）
本文从信息论下界出发提出一种基于集成的无模型主动探索策略，无需估计系统模型即可适用于表格型和连续型马尔可夫决策过程，实验表明其能比现有方法更快识别高效策略。
2024-06-30 cs.LG
Faster Activity and Data Detection in Massive Random Access: A Multi-armed Bandit Approach
ShanghaiTech University（上海科技大学）；The Hong Kong Polytechnic University（香港理工大学）；Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）
本文研究了大规模物联网设备的免授权随机接入问题。通过在签名序列中嵌入数据符号，可以实现联合设备活动检测和数据解码，然而，这显著增加了计算复杂性。坐标下降算法，享受一个低的每次迭代的复杂性已被用来解决检测问题，但以前的作品通常采用随机坐标选择策略，导致收敛速度慢。在本文中，我们开发了多臂强盗的方法，通过坐标下降，这使得一个微妙的平衡之间的探索和开发坐标选择更有效的检测。具体来说，我们首先提出了一个基于强盗的策略，即，Bernoulli采样，通过学习哪些坐标将导致目标函数的更积极的下降来加快坐标下降的收敛速度。为了进一步提高算法的收敛速度，建立了一个多臂内强盗问题来学习Bernoulli采样的探索策略。收敛速度分析和仿真结果表明，所提出的基于强盗算法享有更快的收敛速度与更低的时间复杂度相比，国家的最先进的算法。此外，我们提出的算法适用于不同的场景，例如，低精度模数转换器（ADC）的大规模随机访问。
2020-01-28 cs.LG eess.SP stat.ML
Latent Space Bayesian Optimization with Latent Data Augmentation for Enhanced Exploration
Nagoya University（名古屋大学）；RIKEN（理化学研究所）
针对潜在空间贝叶斯优化中VAE与BO目标不匹配导致的探索能力差问题，提出LCA-VAE通过潜在空间数据增强增加一致点，并结合LCA-AF获取函数构建LCA-LSBO，实现高样本效率和有效探索。
2024-04-28 cs.LG
Gradient-Guided Exploration of Generative Model's Latent Space for Controlled Iris Image Augmentations
Fitzpatrick Hall of Engineering, University of Notre Dame, IN 46556, USA（北达科他大学工程学院384号大楼，印第安纳州，46556，美国）
本文提出通过梯度引导生成模型潜在空间来生成具有特定属性的同身份虹膜图像，以提升虹膜识别和对抗检测的鲁棒性。
2026-04-27 cs.CV cs.LG
Hybrid Preference Optimization for Alignment: Provably Faster Convergence Rates by Combining Offline Preferences with Online Exploration
University of Washington（华盛顿大学）；Apple（苹果公司）
本文提出混合偏好优化（HPO），结合在线探索与离线偏好，放宽集中性条件并提高样本效率，首次给出混合RLHF的可证明最优理论界，证明其优于纯离线或纯在线方法。
2024-12-13 cs.LG
MixBoost: Improving the Robustness of Deep Neural Networks by Boosting Data Augmentation
Nanjing University（南京大学）
随着越来越多的人工智能（AI）技术从实验室走向现实应用，来自现实世界的数据所带来的开集性和鲁棒性挑战日益受到关注。数据增强是一种广泛使用的提高模型性能的方法，最近的一些工作也证实了它对AI模型鲁棒性的积极作用。然而，现有的数据增强方法大多是启发式的，缺乏对其内在机理的探索。本文应用可解释人工智能（XAI）方法，探讨了当前流行的数据增强方法的内在机理，分析了博弈交互与一些广泛使用的鲁棒性度量之间的关系，提出了一种新的开集环境下模型鲁棒性代理.在分析其内在机制的基础上，提出了一种基于掩码的数据增强方法，全面提高了人工智能模型的几种鲁棒性度量，并击败了现有的数据增强方法。实验表明，该方法可以广泛应用于许多流行的数据增强方法。与对抗性训练不同，我们的boosting方法不仅显著提高了模型的鲁棒性，而且提高了测试集的准确性。我们的代码可在\url{https://github.com/Anonymous_for_submission}上获得。
2022-12-08 cs.AI cs.CV cs.LG
Direct Differentiable Augmentation Search
ETH Zürich（苏黎世联邦理工学院）；TuSimple（图森未来）
数据增强已成为提高深度神经网络性能不可或缺的工具，但数据增强很难在不同任务和数据集之间传递。因此，最近的趋势是采用AutoML技术来学习适当的增强策略，而无需大量的手工调优。在本文中，我们提出了一个有效的可微搜索算法称为直接可微扩增搜索（DDAS）。它利用元学习，一步梯度更新和连续松弛到预期的训练损失，以实现有效的搜索。我们的DDAS可以实现有效的增强搜索，而不依赖于近似，如Gumbel Softmax或二阶梯度近似。为了进一步减少不适当的增广的不利影响，我们将搜索空间组织成一个两级的层次结构，其中我们首先决定是否应用增广，然后确定具体的增广政策。在标准的图像分类基准测试中，我们的DDAS实现了最先进的性能和效率权衡，同时大幅降低了搜索成本，例如CIFAR-10的0.15 GPU小时。此外，我们还使用DDAS来搜索增强目标检测任务，并实现与AutoAugment相当的性能，同时速度快1000倍。
2021-10-12 cs.CV cs.LG
Faster and Accurate Classification for JPEG2000 Compressed Images in Networked Applications
University of California（加利福尼亚大学）
JPEG 2000（j2 k）是一种非常流行的图像和视频压缩格式，随着基于云的图像分类应用的快速增长，大多数现有的j2 k兼容方案将在处理中心重建之前从源传输压缩的彩色图像作为深度CNN的输入。我们建议通过使用直接从j2 k压缩图像中提取的CDF 9/7离散小波变换（DWT）系数训练深度CNN图像分类器来去除计算成本高的重建步骤。我们证明了额外的计算节省利用较浅的CNN，以实现良好的精度在DWT域的分类。此外，我们表明，传统的增强变换，如翻转/移位是无效的DWT域，并提出不同的增强变换，以实现更准确的分类，而无需任何额外的成本。这样，对于j2 k编码的图像，在没有图像重建的情况下，更快和更准确的分类是可能的。通过在CIFAR-10和Tiny ImageNet数据集上的实验，我们证明了所提出的解决方案在有限信道带宽上的图像传输性能是一致的。
2019-09-04 cs.CV cs.LG cs.MM
Learning Tree-Structured Composition of Data Augmentation
Northeastern University（东北大学）
提出一种二叉树结构的数据增强组合搜索算法，将复杂度从$O(k^d)$降至$O(2^d k)$，在图和图像数据集上计算成本降低43%且性能提升4.3%，并能解释变换的相对重要性。
2024-08-26 cs.CV cs.DS cs.LG
Deep invariant networks with differentiable augmentation layers
Université Paris-Saclay（巴黎萨克雷大学）；Inria（法国国家信息与自动化研究所）；CEA（法国原子能和替代能源委员会）
在机器学习中，设计对某些数据变换不变性的学习系统是至关重要的。从业者通常可以通过选择网络架构，例如使用卷积进行翻译，或使用数据增强，在训练模型上强制执行所需的不变性。然而，在网络中实施真正的不变性可能是困难的，并且数据不变性并不总是已知的。用于学习数据增强策略的最新方法需要保留的数据并且基于双层优化问题，该双层优化问题解决起来很复杂并且通常需要计算。在这项工作中，我们研究新的方法学习不变性仅从训练数据。使用直接在网络中构建的可学习增强层，我们证明了我们的方法是非常通用的。它可以包含任何类型的可微增强，并应用于计算机视觉之外的广泛的学习问题。我们提供的经验证据表明，我们的方法是更容易和更快的训练比现代自动数据增强技术的基础上双层优化，同时实现可比的结果。实验表明，虽然通过自动数据增强转移到模型的不变性受到模型表达能力的限制，但我们的方法产生的不变性对它不敏感。
2022-10-25 cs.AI cs.LG
Less is More: Lighter and Faster Deep Neural Architecture for Tomato Leaf Disease Classification
Islamic University of Technology（伊斯兰技术大学）
为了确保全球粮食安全和利益相关者的整体利益，正确检测和分类植物病害至关重要。在这方面，基于深度学习的图像分类的出现已经引入了大量的解决方案。然而，这些解决方案在低端设备中的适用性需要快速，准确和计算成本低廉的系统。提出了一种基于轻量级迁移学习的番茄叶片病害检测方法。该方法采用了一种有效的预处理方法，通过光照校正增强叶片图像，从而提高分类效果。我们的系统使用由预训练的MobileNetV2架构和分类器网络组成的组合模型提取特征，以进行有效的预测。传统的增强方法被运行时增强所取代，以避免数据泄漏并解决类不平衡问题。对PlantVillage数据集番茄叶片图像的评估表明，该架构在9.60MB的模型大小和4.87M浮点运算的情况下达到了99.30%的准确率，使其成为低端设备中实际应用的合适选择。我们的代码和型号可在https://github.com/redwankarimsony/project-tomato上获得。
2022-07-04 cs.CV cs.LG
Molecule Generation with Fragment Retrieval Augmentation
KAIST（韩国科学技术院）；NVIDIA（英伟达）
本文提出片段检索增强生成框架f-RAG，通过检索硬片段和软片段并迭代更新片段词表，提升基于片段的分子生成在现有片段之外的探索能力，实现更好的探索-利用权衡。
2024-11-18 cs.LG
Class-Grouped Normalized Momentum and Faster Hyperparameter Exploration to Tackle Class Imbalance in Federated Learning
提出FedCGNM客户端优化器，通过类分组归一化动量平衡梯度幅度并降低噪声，结合FedHOO算法高效优化重采样率，在长尾数据集上优于基线方法。
2026-07-03 cs.LG
Augment your batch: better training with larger batches
Technion（以色列理工学院）；Habana-Labs（哈巴纳实验室）；ETH Zurich（苏黎世联邦理工学院）
大批量SGD对于深度神经网络的缩放训练很重要。然而，如果没有微调超参数时间表，模型的推广可能会受到阻碍。我们建议使用批量增强：在同一批中复制具有不同数据增强的样本实例。批量增强充当正则化器和加速器，提高泛化和性能扩展。我们分析了批量增强对梯度方差的影响，并表明它可以凭经验提高各种深度神经网络和数据集的收敛性。我们的研究结果表明，批量增强减少了必要的SGD更新的数量，以达到与最先进水平相同的精度。总体而言，这种简单而有效的方法通过允许同时使用更多的计算资源，实现了更快的训练和更好的泛化。
2019-01-27 cs.LG stat.ML
NeRF-Aug: Data Augmentation for Robotics with Neural Radiance Fields
Department of Computer Science（计算机科学系）；University of Maryland College Park（马里兰大学 College Park 分校）
提出NeRF-Aug方法，利用神经辐射场进行数据增强，使机器人策略能泛化至未知物体，比现有方法快63%且平均性能提升55.6%。
2025-09-14 cs.CV cs.LG cs.RO
Real Time Multi-Class Object Detection and Recognition Using Vision Augmentation Algorithm
European University of Bangladesh（孟加拉欧洲大学）；University of Liberal Arts Bangladesh（孟加拉自由艺术大学）
本研究的目的是检测低分辨率和噪声的小目标。现有的实时的目标检测算法是基于卷积的深度神经网络，需要对整幅图像进行多级卷积和池化操作，提取图像的深层语义特征。检测模型对于大物体表现更好。现有模型的特征不能完全代表小物体经过反复卷积运算后的本质特征。我们介绍了一种新的实时的检测算法，该算法采用上采样和跳过连接，在学习任务中提取不同卷积级别的多尺度特征，从而在检测小目标方面表现出色。该模型的检测精度被证明是更高和更快的比国家的最先进的模型。
2020-11-11 cs.CV cs.LG cs.NE
Low-Rank Frequency Convolution and Noise-Range Augmentation for Real-Time Pitch Estimation on Edge Devices
Columbia University（哥伦比亚大学）；Recognition Technologies, Inc.（识别技术公司）
针对边缘设备音高估计的约束，将频率卷积网络分解为低秩形式，参数减少35.9%且精度不降，并引入噪声范围增强，同时开发了高效C内核，显著提升推理速度。
2026-09-22 cs.LG cs.SD eess.AS
Advancing Marine Bioacoustics with Deep Generative Models: A Hybrid Augmentation Strategy for Southern Resident Killer Whale Detection
School of Environmental Science（环境科学学院）；Faculty of Computer Science（计算机科学学院）；Department of Mathematics and Statistics（数学与统计学系）
本研究利用深度生成模型和传统方法结合的混合策略，提升南方居民killer whale声音检测的准确性与召回率。
2025-11-26 cs.AI cs.LG cs.SD
COVID-Net US-X: Enhanced Deep Neural Network for Detection of COVID-19 Patient Cases from Convex Ultrasound Imaging Through Extended Linear-Convex Ultrasound Augmentation Learning
University of Waterloo（滑铁卢大学）；McGill University（麦吉尔大学）；St. Mary’s Hospital（圣玛丽医院）；Waterloo AI Institute（滑铁卢人工智能研究院）；DarwinAI Corp.（达尔文人工智能公司）
随着全球人口继续面临持续的COVID-19大流行的重大负面影响，床旁超声（POCUS）成像作为COVID-19临床工作流程中低成本且有效的成像方式的选择的使用越来越多。在COVID-19临床工作流程中广泛采用POCUS的一个主要障碍是缺乏能够解释POCUS检查结果的专家临床医生，这导致人们对深度学习驱动的临床决策支持系统产生了极大的兴趣，以应对这一挑战。使用POCUS构建用于COVID-19筛查的深度神经网络的一个主要挑战是用于捕获超声图像的探头类型的异质性（例如，凸探头与线性探头），这可能导致非常不同的视觉外观。在这项研究中，我们探索了利用扩展的线性凸超声增强学习对生成用于COVID-19评估的增强型深度神经网络的影响，其中我们对凸探头数据以及已转换为更好地类似凸探头数据的线性探头数据进行数据增强。使用通过机器驱动的设计探索策略设计的高效深柱状抗锯齿卷积神经网络（我们将其命名为COVID-Net US-X）的实验结果表明，所提出的扩展线性凸超声增强学习显着提高了性能，测试精度提高了5.1%，AUC提高了13.6%。
2022-04-29 cs.CV cs.LG eess.IV
Fast Mesh Data Augmentation via Chebyshev Polynomial of Spectral filtering
National University of Singapore（新加坡国立大学）；University of Wisconsin（威斯康星大学）
深度神经网络最近被认为是计算机视觉和医学图像分析中强大的学习技术之一。经过训练的深度神经网络需要推广到以前没有见过的新数据。在实践中，通常没有足够的训练数据可用，并且使用增强来扩展数据集。尽管图卷积神经网络（graph-CNN）已被广泛用于深度学习，但缺乏在图或表面上生成数据的增强方法。本文提出了两种无偏的数据增强方法：Laplace-Beltrami特征函数数据增强（LB-eigDA）和Chebyshev多项式数据增强（C-pDA）。LB-eigDA通过LB系数的重采样来增加数据。与LB-eigDA并行，我们引入了一种快速增强方法，C-pDA，它采用了表面上的LB光谱滤波器的多项式近似。我们设计LB光谱带通滤波器的切比雪夫多项式逼近和重采样信号通过这些滤波器过滤，以产生新的数据表面。我们首先通过模拟数据验证LB-eigDA和C-pDA，并证明它们用于提高分类精度。然后，我们采用阿尔茨海默氏病神经影像学倡议（ADNI）的大脑图像，并提取皮质厚度表示在皮质表面上，以说明使用的两种增强方法。我们证明，增加皮质厚度有一个类似的模式，以真实的数据。其次，我们表明C-pDA比LB-eigDA快得多。最后，我们证明了C-pDA可以提高graph-CNN的AD分类精度。
2020-10-06 cs.LG
An Explainable Deep Learning-Based Method For Schizophrenia Diagnosis Using Generative Data-Augmentation
Faculty of Computer Science and Engineering, Shahid Beheshti University（沙希德·贝赫什提大学计算机科学与工程学院）
本研究提出一种基于生成式数据增强的可解释深度学习方法，利用EEG信号和CNN实现精神分裂症自动诊断，通过VAE增强将准确率提升至99%，并用LIME增强模型可解释性。
2024-07-16 cs.AI cs.LG eess.IV
Hybrid Deep Learning Model using SPCAGAN Augmentation for Insider Threat Analysis
Deakin University（迪肯大学）
来自组织可信实体内部的网络攻击被称为内部威胁。使用深度学习进行异常检测需要全面的数据，但由于组织的保密性问题，内部威胁数据并不容易获得。因此，产生了生成合成数据以探索用于威胁分析的增强方法的需求。我们提出了一个基于线性流形学习的生成对抗网络SPCAGAN，它从异构数据源中获取输入，并添加了一个新的损失函数来训练生成器，以生成与原始数据分布非常相似的高质量数据。此外，我们还介绍了一种基于深度学习的混合模型，用于内部威胁分析。我们使用基准数据集为数据合成、异常检测、对抗鲁棒性和合成数据质量分析提供了广泛的实验。在这种情况下，实证比较表明，基于GAN的过采样与许多典型的过采样机制具有竞争力。对于合成数据生成，我们的SPCA GAN模型克服了模式坍塌的问题，比以前的GAN模型收敛得更快。结果表明，我们提出的方法具有较低的误差，更准确，并产生显着优于以前的模型合成内部威胁数据。
2022-03-06 cs.AI cs.CR cs.LG
An Empirical Exploration of Curriculum Learning for Neural Machine Translation
Johns Hopkins University（约翰斯·霍普金斯大学）；University of Notre Dame（圣母大学）；Air Force Research Laboratory（空军研究实验室）；University of Maryland（马里兰大学）
基于深度神经网络的机器翻译系统的训练成本很高。课程学习的目的是通过选择训练过程中样本的呈现顺序来解决这个问题，以帮助更快地训练更好的模型。我们采用概率观点的课程学习，这使我们能够灵活地评估课程设计的影响，并进行了广泛的探索上的德英翻译任务。结果表明，它是可能的，以提高收敛时间在不损失翻译质量。然而，结果是高度敏感的样本难度标准，课程表和其他超参数的选择。
2018-11-02 cs.CL cs.LG
Cropping outperforms dropout as an augmentation strategy for self-supervised training of text embeddings
Hertie Institute for AI in Brain Health（人工智能与脑健康赫尔蒂研究所）；University of Tübingen（图宾根大学）；University of Tübingen, Germany（德国图宾根大学）
本文研究了自监督微调中裁剪和dropout两种增强策略，发现裁剪在文本嵌入质量上表现更优，尤其在领域内数据中能快速生成高质量嵌入。
2026-03-16 cs.CL cs.LG
Hard Regularization to Prevent Deep Online Clustering Collapse without Data Augmentation
University of Edinburgh（爱丁堡大学）；Vienna University of Technology（维也纳工业大学）；University of Oxford（牛津大学）
提出一种基于贝叶斯框架的硬分配正则化方法，无需数据增强即可防止在线深度聚类崩溃，在多个数据集上表现更稳健且聚类更准确。
2024-03-13 cs.LG
When Chosen Wisely, More Data Is What You Need: A Universal Sample-Efficient Strategy For Data Augmentation
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；University of Waterloo（滑铁卢大学）
已知数据增强（DA）可以提高深度神经网络的泛化能力。大多数现有的DA技术天真地添加一定数量的增强样本，而不考虑这些样本的质量和增加的计算成本。为了解决这个问题，几种最先进的DA方法所采用的一种常见策略是在训练期间自适应地生成或重新加权关于任务目标的增强样本。然而，这些自适应DA方法：（1）计算量大，采样效率低，（2）仅针对特定设置而设计。在这项工作中，我们提出了一个通用的DA技术，称为闪光，以克服这两个问题。Glitter可以插入到任何DA方法中，使训练样本高效而不牺牲性能。从预先生成的增强样本池中，Glitter自适应地选择具有最大损失的最坏情况样本的子集，类似于对抗DA。在不改变训练策略的情况下，任务目标可以在所选子集上进行优化。我们在三种广泛使用的训练设置中对GLUE基准、SQuAD和HellaSwag进行了彻底的实验，包括一致性训练、自蒸馏和知识蒸馏，结果表明，与强大的基线相比，Glitter的训练速度更快，并实现了有竞争力的性能。
2022-03-17 cs.CL cs.LG
