Supervised Neural Discrete Universal Denoiser for Adaptive Denoising
Seoul National University(首尔大学)
我们改进了最近开发的神经DUDE,一个基于神经网络的自适应离散去噪器,将其与监督学习框架相结合。也就是说,我们使神经DUDE的监督预训练与基于给定的噪声数据进行去噪的参数自适应微调兼容。因此,与香草神经DUDE相比,我们实现了显着的去噪性能提升,后者仅使用随机初始化的参数执行自适应微调步骤。此外,我们表明自适应微调使算法的鲁棒性,使噪声失配或盲目训练的监督模型仍然可以实现匹配模型的性能。此外,我们做了一些算法改进,使神经DUDE更具可扩展性,并处理多维数据或具有更大字母表大小的数据。我们系统地展示了我们对两个非常不同的数据集,二进制图像和DNA序列的改进。
2021-11-24 cs.LG
Noise Distribution Adaptive Self-Supervised Image Denoising using Tweedie Distribution and Score Matching
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
特威迪分布是指数离差模型的一个特例,在经典统计学中常用作广义线性模型的分布。在这里,我们揭示了Tweedie分布在现代深度学习时代也起着关键作用,导致了一个不依赖于分布的自监督图像去噪公式,而无需干净的参考图像。具体而言,通过结合最近的Noise2Score自监督图像去噪方法和Tweedie分布的鞍点近似,我们可以提供一个通用的封闭形式的去噪公式,该公式可以用于大类噪声分布,而无需知道潜在的噪声分布。类似于原来的Noise2Score,新的方法是由两个连续的步骤:分数匹配使用扰动噪声图像,其次是一个封闭的形式图像去噪公式通过分布无关的Tweedie的公式。这也提出了一个系统的算法来估计一个给定的噪声图像数据集的噪声模型和噪声参数。通过大量的实验,我们证明了该方法可以准确地估计噪声模型和参数,并在基准数据集和真实数据集上提供最先进的自监督图像去噪性能。
2021-12-05 cs.CV cs.LG eess.IV
Adaptive Diffusion Denoised Smoothing : Certified Robustness via Randomized Smoothing with Differentially Private Guided Denoising Diffusion
University of British Columbia, Vancouver, Canada(不列颠哥伦比亚大学);ServiceNow Research(ServiceNow研究)
本文提出Adaptive Diffusion Denoised Smoothing方法,将引导去噪扩散模型重解释为自适应GDP机制序列,通过GDP隐私过滤器分析端到端鲁棒性,在ImageNet上针对$\ell_2$威胁模型同时提升了认证与标准准确率。
2025-07-10 cs.CR cs.CV cs.LG
Micro-Diffusion Compression - Binary Tree Tweedie Denoising for Online Probability Estimation
Independent Researcher(独立研究者)
Midicoth通过微扩散去噪层和二叉树校准技术,改进在线概率估计,解决稀疏观察导致的分布平坦问题,提升压缩效率。
2026-03-12 cs.IT cs.LG math.IT
A Sub-band Approach to Deep Denoising Wavelet Networks and a Frequency-adaptive Loss for Perceptual Quality
AAC Technologies(AAC科技)
在本文中,我们提出了两个贡献的神经网络为基础的去噪。首先,我们建议将单独的卷积层应用于离散小波变换(DWT)的每个子带,而不是将所有子带连接起来并应用单个卷积层的DWT的常见用法。我们表明,我们的方法使用离散小波变换在神经网络显着提高了准确性,由于保持子带顺序未损坏之前逆离散小波变换。我们的第二个贡献是基于频域中前k %错误的去噪损失。用这种损失训练的神经网络自适应地关注在每次迭代中最不能恢复的频率。我们表明,这种损失的结果到更好的感知质量,提供一个图像,更平衡的频率分量的误差。
2021-02-16 cs.CV cs.LG
A Unified Approach to Adaptive Regularization in Online and Stochastic Optimization
Google Brain(谷歌大脑)
我们描述了一个框架,推导和分析在线优化算法,包括自适应,数据相关的正则化,也称为预处理。这样的算法已被证明是有用的随机优化,根据数据的几何形状重塑梯度。我们的框架捕获并统一了许多关于自适应在线方法的现有文献,包括AdaGrad和在线牛顿步算法以及它们的对角版本。因此,我们获得了新的收敛性证明,这些算法比以前的分析要简单得多。我们的框架还揭示了常见的随机优化方法中使用的不同的预处理更新的基本原理。
2017-06-20 cs.LG math.OC stat.ML
Learning a Generic Adaptive Wavelet Shrinkage Function for Denoising
Saarland University(萨尔兰大学)
机器学习在图像处理中的兴起在可训练数据驱动和经典模型驱动方法之间产生了差距:虽然基于学习的模型通常表现出更好的性能,但经典模型通常更透明。为了减少这一差距,我们引入了一个通用的小波收缩函数去噪,这是自适应的小波尺度以及噪声标准差。它是从继承自非线性扩散的紧参数化函数的训练结果推断出来的。我们提出的收缩函数是光滑和紧凑的,而只有使用两个参数。与许多现有的收缩函数相比,它能够通过放大小波系数来增强图像结构。实验表明,它优于经典的收缩函数的显着保证金。
2020-04-14 cs.CV cs.LG eess.IV
PriorGrad: Improving Conditional Denoising Diffusion Models with Data-Dependent Adaptive Prior
Seoul National University(首尔国立大学);Microsoft Research Asia(微软亚洲研究院)
最近提出了去噪扩散概率模型,通过估计数据密度的梯度来生成高质量的样本。该框架将先验噪声定义为标准高斯分布,而相应的数据分布可能比标准高斯分布更复杂,这可能会由于数据和先验之间的差异而在对数据样本中的先验噪声进行去噪时引入低效率。在本文中,我们提出的PriorGrad提高效率的条件扩散模型的语音合成(例如,一个声码器使用的梅尔频谱作为条件),通过应用自适应先验来自数据统计的基础上的条件信息。我们制定的训练和采样程序的PriorGrad和证明的优势,通过理论分析的自适应先验。专注于语音合成领域,我们考虑了最近提出的基于谱域和时域的基于扩散的语音生成模型,并表明PriorGrad实现了更快的收敛和推理以及卓越的性能,从而提高了感知质量和对较小网络容量的鲁棒性,从而证明了数据相关自适应先验的效率。
2022-02-20 cs.LG cs.SD eess.AS
Denoising-based Turbo Message Passing for Compressed Video Background Subtraction
在本文中,我们考虑的压缩视频背景减法问题,分离的背景和前景的视频从其压缩测量。视频的背景通常位于低维空间中,而前景通常是稀疏的。更重要的是,每个视频帧都是具有纹理图案的自然图像。通过利用这些属性,我们开发了一个消息传递算法称为离线降噪的涡轮消息传递(DTMP)。我们表明,这些结构属性可以有效地处理现有的去噪技术下的涡轮消息传递框架。我们进一步扩展的DTMP算法的在线场景中,视频数据的在线方式收集。该扩展基于相邻视频帧之间的相似性/连续性。我们采用光流方法来细化前景的估计。为了降低计算复杂度,我们还采用了基于滑动窗口的背景估计方法。通过利用消息的高斯性,我们开发了状态演化来表征离线和在线DTMP的每次迭代性能。与现有的算法相比,DTMP算法可以在更低的压缩率下工作,并且可以成功地去除背景,无论是离线还是在线压缩视频背景去除,都具有更低的均方误差和更好的视觉质量。
2020-12-10 cs.LG
Robust Online Classification: From Estimation to Denoising
Purdue University(普渡大学)
研究对抗特征与未知随机噪声下的一般假设类在线分类问题,通过新颖的归约方法与条件版 Le Cam-Birgé 测试,证明极小化极大风险由噪声标签分布的 Hellinger 间隙紧密刻画,提供了首个全面的理论保证。
2024-09-25 cs.LG
GADPN: Graph Adaptive Denoising and Perturbation Networks via Singular Value Decomposition
GADPN通过奇异值分解实现图自适应去噪和扰动,提升图结构学习的效率和性能。
2026-01-13 cs.AI cs.LG
Online Deep Equilibrium Learning for Regularization by Denoising
Washington University in St. Louis(圣路易斯华盛顿大学)
即插即用先验(Plug-and-Play Priors,PPENS)和去噪正则化(Regularization by Denoising,RED)是通过计算结合物理测量模型和学习的图像先验的算子的不动点来解决成像逆问题的广泛使用的框架。虽然传统的PnP/RED公式集中在使用图像降噪器指定的先验知识上,但人们对学习端到端最佳PnP/RED先验知识的兴趣越来越大。最近的深度均衡模型(DEQ)框架通过隐式差分定点方程,实现了PPENDIX/RED先验的存储高效的端到端学习,而无需存储中间激活值。然而,依赖的计算/存储器的复杂性的测量模型在PPENS/RED的测量总数离开DEQ不切实际的许多成像应用。我们提出ODER作为一种新的策略,通过随机近似的测量模型,提高效率的DEQ。我们从理论上分析了ODER,深入了解其收敛性和逼近传统DEQ方法的能力。我们的数值结果表明,由于ODER在三个不同的成像应用中的训练/测试复杂性的潜在改进。
2022-05-25 cs.CV cs.LG eess.IV
Equivariant Asynchronous Diffusion: An Adaptive Denoising Schedule for Accelerated Molecular Conformation Generation
Shanghai Academy of Artificial Intelligence for Science, SAIS(上海人工智能科学研究院,SAIS);College of Chemistry and Chemical Engineering, Xiamen University(厦门大学化学与化工学院);Artificial Intelligence Innovation and Incubation (AI 3 ) Institute, Fudan University(复旦大学人工智能创新与孵化(AI 3)研究院)
本文提出等变异步扩散模型,结合异步去噪时间表与分子级时间表,有效捕捉分子层次结构,提升3D分子生成性能。
2026-04-24 cs.AI cs.LG q-bio.QM
Online Adaptive Principal Component Analysis and Its extensions
University of Minnesota(明尼苏达大学)
我们提出了在线主成分分析(PCA)和方差最小化自适应设置的算法。以往的研究主要集中在静态对抗性后悔的上界上,其比较对象是事后最优固定行为。然而,当潜在环境发生变化时,静态后悔并不是一个合适的指标。相反,我们采用自适应遗憾度量从以前的文献中,并提出在线自适应算法PCA和方差最小化,具有次线性自适应遗憾的保证。我们从理论上和实验上证明,所提出的算法可以适应不断变化的环境。
2019-05-13 cs.LG stat.ML
Denoising and Adaptive Online Vertical Federated Learning for Sequential Multi-Sensor Data in Industrial Internet of Things
Peng Cheng Laboratory(鹏城实验室)
针对工业装配线多传感器序列数据的隐私、通信噪声与异构性问题,提出DAO-VFL在线纵向联邦学习算法,并通过遗憾界分析和两个真实数据集验证其优越性能。
2025-01-03 cs.LG cs.NI
V-GRPO: Online Reinforcement Learning for Denoising Generative Models Is Easier than You Think
Stanford University(斯坦福大学);Tsinghua University(清华大学);Amazon FAR(亚马逊FAR);University of Pennsylvania(宾夕法尼亚大学)
本文提出V-GRPO方法,通过结合ELBO近似与GRPO算法,实现稳定高效的去噪生成模型在线强化学习,优于传统MDP方法,在文本到图像合成中取得最佳性能。
2026-04-25 cs.CV cs.LG
Hausdorff Distance Matching with Adaptive Query Denoising for Rotated Detection Transformer
SI Analytics Co. Ltd.(SI分析有限公司);KAIST(韩国科学技术院)
针对旋转DETR中二分匹配存在边界问题、静态去噪阻碍训练的缺陷,提出基于Hausdorff距离的匹配代价与自适应查询去噪方法,在多个旋转目标检测数据集上实现显著精度提升。
2024-10-29 cs.CV cs.LG
Adaptive Online Learning
Cornell University(康奈尔大学);University of Pennsylvania(宾夕法尼亚大学)
提出了一个在在线学习框架下研究自适应后悔界的一般框架,包括模型选择界和数据依赖界。给定一个依赖于数据或模型的界限,我们会问:“是否存在某种算法可以达到这个界限?“我们表明,对最近引入的顺序复杂性度量的修改可以通过提供实现自适应速率的充分条件来回答这个问题。特别是每个自适应速率诱导一组所谓的偏移复杂度的措施,并获得这些数量的小上限是足以证明可扩展性。我们的分析技术的一个基石是使用单侧尾不等式来约束偏移随机过程的上界。我们的框架恢复和改进了各种各样的自适应边界,包括分位数边界,二阶数据相关边界和小损失边界。此外,我们推导出一种新的类型的自适应范围的谱范数的基础上在线线性优化,以及一个新的在线PAC-Bayes定理,适用于可数无限集。
2020-02-13 cs.LG stat.ML
Improved Strongly Adaptive Online Learning using Coin Betting
UW-Madison(威斯康星大学麦迪逊分校);Stony Brook University(纽约州立大学石溪分校)
本文提出了一种新的无参数的在线学习算法,以适应不断变化的环境。在与我们的算法具有相同的时间复杂度相比,我们得到了一个强自适应遗憾界,是一个因素,至少$\sqrt{\log(T)}$更好,其中$T$是时间范围。实验结果表明,我们的算法优于国家的最先进的方法在学习专家的意见和度量学习的情况下。
2017-08-07 cs.LG stat.ML
Patch-based learning of adaptive Total Variation parameter maps for blind image denoising
MaLGa Center, DIBRIS, Università di Genova, MMS, Istituto Italiano di Tecnologia, Genoa, Italy(MaLGa中心,DIBRIS,意大利热那亚大学,MMS,意大利技术研究院,意大利热那亚);Université Cote d’Azur INRIA, CNRS, I3S Sophia Antipolis, France(法国Sophia Antipolis的Université Cote d’Azur INRIA,CNRS,I3S);Université Grenoble-Alpes INRIA, CNRS Grenoble, France(法国Grenoble的Université Grenoble-Alpes INRIA,CNRS)
本文提出一种基于块的神经网络方法,学习空间自适应加权TV正则化参数图,用于盲图像去噪,在未知噪声类型下通过分类选择模型,以SSIM优化训练,实验表明优于标量正则化。
2025-06-19 cs.LG cs.NA eess.IV
AFD-STA: Adaptive Filtering Denoising with Spatiotemporal Attention for Chaotic System Prediction
University of Minnesota Twin Cities(明尼苏达大学双城分校);School of Statistics and Mathematics, Shandong University of Finance and Economics(山东财经大学统计与数学学院);Jinan Fengdi Intelligent Electronics Co., Ltd.(济南风迪智能电子有限公司);Shandong Zhike Intelligence Computing Co., Ltd.(山东智科智能计算有限公司);School of Mechanical,Electrical and Information Engineering, Shandong University(山东大学机械电子信息工程学院)
本文提出AFD-STA Net,结合自适应滤波与时空注意力,预测高维混沌系统,在平滑和强混沌状态下保持精度并具备噪声容忍性。
2025-05-23 cs.AI cs.LG
Towards Adversarial Purification using Denoising AutoEncoders
Indian Institute of Technology Kharagpur(印度理工学院卡拉格布尔分校)
随着图像识别中深度学习模型的快速发展和越来越多的使用,安全性成为其在安全关键系统中部署的主要问题。由于深度学习模型的准确性和鲁棒性主要取决于训练样本的纯度,因此深度学习架构通常容易受到对抗攻击的影响。对抗攻击通常是通过对正常图像进行微妙的扰动来获得的,这些扰动大多是人类无法感知的,但会严重混淆最先进的机器学习模型。我们提出了一个名为APuDAE的框架,利用去噪自动编码器(DAE)通过以自适应的方式使用这些样本来净化这些样本,从而提高被攻击的目标分类器网络的分类准确性。我们还展示了如何使用DAE自适应而不是直接使用它们,进一步提高分类精度,并且对设计自适应攻击来欺骗它们的可能性更具鲁棒性。我们在MNIST,CIFAR-10,ImageNet数据集上展示了我们的结果,并展示了我们的框架(APuDAE)如何在净化对手方面提供与基线方法相当的性能,并且在大多数情况下提供更好的性能。我们还设计了专门针对净化模型的自适应攻击,并展示了我们的防御是如何强大的。
2022-08-29 cs.CR cs.LG
Denoising diffusion probabilistic models are optimally adaptive to unknown low dimensionality
Department of Statistics and Data Science, the Wharton School, University of Pennsylvania(统计与数据科学系,沃顿商学院,宾夕法尼亚大学)
该研究证明了DDPM在未知低维数据下具有最优适应性,其迭代复杂度与内在维度线性相关,且与KL散度度量一致。
2026-02-15 cs.LG cs.NA eess.SP
Beyond One-Size-Fits-All: Adaptive Subgraph Denoising for Zero-Shot Graph Learning with Large Language Models
JIUTIAN Research(中移九天);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));MIIT Key Laboratory of Data and Decision Intelligence(信息与决策智能重点实验室);Beihang University(北航)
本文提出GraphSSR框架,通过自适应子图提取和去噪方法,解决传统图神经网络在零样本学习中泛化能力不足的问题,提升大语言模型在图推理任务中的表现。
2026-05-21 cs.AI cs.LG
MIND: A Noise-Adaptive Denoising Framework for Medical Images Integrating Multi-Scale Transformer
University of Electronic Science and Technology of China(电子科技大学)
本文提出融合多尺度卷积与Transformer的医学图像自适应去噪模型MI-ND,通过引入噪声水平估计器与自适应注意力模块实现噪声感知的特征调节,在多模态数据集上显著提升了图像质量与下游诊断性能。
2025-08-13 cs.AI cs.CV cs.LG
GeoAAC: Geometry-Based Adaptive Action Chunking from Denoising Trajectories in VLA Policies
Tongji University(同济大学);The Hong Kong Polytechnic University(香港理工大学);University of Electronic Science and Technology of China(电子科技大学)
针对VLA策略中固定动作视界无法适应任务阶段变化的问题,提出基于Flow Matching去噪轨迹几何的自适应动作分块方法GeoAAC,无需额外训练即可调整视界,在仿真和真实任务中显著提升成功率。
2026-09-18 cs.AI cs.LG cs.RO
Strongly Adaptive Online Learning
The Hebrew University(希伯来大学)
强自适应算法是在每个时间间隔上性能接近最优的算法。我们提出了一个减少,可以将标准的低遗憾算法强自适应。因此,我们得到了简单的,但有效的,强自适应算法的少数问题。
2015-06-19 cs.LG
Adaptive Block Diffusion: Resolving Training-Inference Mismatch in Diffusion Language Models
Microsoft AI(微软人工智能)
提出自适应块扩散(ABD),通过将配置视为随机变量,在完整配置空间上训练单一模型,解决扩散语言模型中固定上下文结构导致的训练与推理不匹配问题,保证覆盖配置下的去噪最优性。
2026-06-28 cs.LG
Optimal and Adaptive Algorithms for Online Boosting
Yahoo Labs(雅虎实验室);Princeton University(普林斯顿大学)
我们研究在线提升,将任何弱在线学习者转换为强在线学习者的任务。基于一种新颖而自然的弱在线可学习性定义,我们开发了两种在线提升算法。第一种算法是多数支持的在线版本。通过证明一个匹配的下界,我们表明,该算法本质上是最优的弱学习者的数量和样本的复杂性,需要达到指定的精度。然而,该最优算法不是自适应的。使用在线损失最小化的工具,我们推导出一个自适应在线提升算法,也是无参数的,但不是最优的。这两种算法都使用可以直接处理示例重要性权重的基本学习器,以及通过助推器定义的概率拒绝采样示例。结果补充了广泛的实验研究。
2015-02-09 cs.LG
Nonlinear Online Learning with Adaptive Nyström Approximation
Google Research(谷歌研究院)
通过核近似使用非线性特征映射已经在许多在线学习任务中取得了成功。Nyström近似作为一种流行的核近似方法,已经得到了很好的研究,并且已经提出了各种标志点选择方法来提高近似质量。然而,这些改进的Nyström方法不能直接应用于在线学习设置,因为它们需要访问整个数据集来学习标志点,而我们需要在在线设置中动态更新模型。为了解决这一挑战,我们提出了自适应Nyström近似解决非线性在线学习问题。其核心思想是通过在线kmeans自适应地修改标志点,并通过求解最小二乘问题和随后的梯度下降步骤来相应地调整模型。我们表明,由此产生的算法优于国家的最先进的在线学习方法在相同的预算。
2018-02-23 cs.LG
FusAD: Time-Frequency Fusion with Adaptive Denoising for General Time Series Analysis
School of Artificial Intelligence, OPtics and ElectroNics (iOPEN), Northwestern Polytechnical University(人工智能学院,光学电子研究所(iOPEN),西北工业大学);Institute of Artificial Intelligence (TeleAI), China Telecom(人工智能研究所(TeleAI),中国电信);Department of Electronic Engineering and Information Science, University of Science and Technology of China(电子工程与信息科学系,中国科学技术大学)
FusAD通过自适应时间-频率融合和去噪机制,提升多任务时间序列分析的效率与泛化能力。
2025-12-16 cs.LG
Adaptive Training Meets Progressive Scaling: Elevating Efficiency in Diffusion Models
University of Sydney(悉尼大学);Nanjing Forestry University(南京林业大学);Sensetime Research(商汤科技研究院);Central South University(中南大学)
本文提出 TDC Training 两阶段分而治之策略,按时间步分组并定制去噪模型,结合基于代理的剪枝方法,在 ImageNet64 上以节省约 20% 计算资源实现 FID 改善 1.5。
2024-12-25 cs.AI cs.CV cs.LG
Adaptive Subgradient Methods for Online AUC Maximization
The University of Chicago(芝加哥大学);Singapore Management University(新加坡管理大学);Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院);Nanyang Technological University(南洋理工大学)
最大化AUC性能的学习是机器学习和人工智能中的一个重要研究问题。与传统的最大化AUC的批量学习方法(通常可扩展性较差)不同,近年来出现了一些新兴的研究,试图通过单次在线学习方法最大化AUC。尽管已有的在线AUC最大化算法取得了令人鼓舞的结果,但通常采用简单的在线梯度下降方法,无法利用在线学习过程中观察到的数据的几何知识,因此可能遭受相对较大的遗憾。为了解决上述限制,在这项工作中,我们探索了一种新的算法的自适应在线AUC最大化(AdaOAM),它采用了自适应梯度方法,利用历史梯度的知识来执行更多的信息在线学习。新的自适应更新策略的AdaOAM是不敏感的参数设置,并保持相同的时间复杂度作为以前的非自适应同行。此外,我们扩展了算法来处理高维稀疏数据(SAdaOAM)和地址稀疏的解决方案,通过执行惰性梯度更新。我们分析了理论界,并评估其经验表现在各种类型的数据集。所获得的令人鼓舞的实证结果清楚地突出了所提出的算法的有效性和效率。
2016-02-01 cs.LG
Adaptive NAD: Online and Self-adaptive Unsupervised Network Anomaly Detector
Suda University(苏州大学)
提出一种在线自适应的无监督网络异常检测框架Adaptive NAD,通过两层异常检测策略生成伪标签和在线训练方案,在多个数据集上实现最低误报率和更快推理速度。
2026-06-09 cs.LG eess.SP
A Denoising Autoencoder that Guides Stochastic Search
Queen Mary, University of London(伦敦大学玛丽女王学院)
描述了一种自适应学习非线性突变分布的算法。它的工作原理是在遗传算法的每一代在线训练一个去噪自动编码器(DA),以重建迄今为止最佳基因型的缓慢衰减的记忆。压缩的隐藏层迫使自动编码器学习训练集中的隐藏特征,这些特征可用于加速对具有类似结构的新问题的搜索。它的输出神经元定义了一个概率分布,我们从中采样以产生后代解决方案。该算法优于一个典型的遗传算法在几个组合优化问题,如多维0/1背包问题,MAXSAT,HIFF,和参数优化问题,如Rastrigin和Rosenbrock函数。
2014-04-06 cs.LG cs.NE
Equilibrium Forcing: Adaptive Video Generation Without Noise Conditioning
UC San Diego(加州大学圣地亚哥分校);MIT(麻省理工学院);Harvard University(哈佛大学)
该研究提出无需噪声条件的均衡强迫(EqF)框架,解耦去噪场学习与采样,实现自适应闭环推理,提升自回归视频生成的质量与一致性,性能优于传统噪声条件方法。
2026-10-15 cs.AI cs.CV cs.LG
Adversarial Tracking Control via Strongly Adaptive Online Learning with Memory
Boston University(波士顿大学)
我们考虑的问题,跟踪一个敌对状态序列的线性动力系统的敌对干扰和损失函数,推广早期的设置在文献中。为此,我们开发了三种技术,每一个独立的利益。首先,我们提出了一个比较器自适应算法的移动成本的在线线性优化。如果不进行调整,事后看来,它几乎与最佳调整的梯度下降的性能相匹配。接下来,考虑到一个相关的问题,称为在线学习与记忆,我们构建了一个新的强自适应算法,使用我们的第一个贡献作为积木。最后,我们提出了第一个减少从对抗跟踪控制强自适应在线学习与记忆。总结这些单独的技术,我们得到了一个对抗跟踪控制器具有很强的性能保证,即使参考轨迹有很大的运动范围。
2022-02-22 cs.LG cs.SY eess.SY
Mitigating Gradient-based Adversarial Attacks via Denoising and Compression
Purdue University(普渡大学)
对深度神经网络的基于恶意的对抗攻击构成了严重的威胁,因为它们可以通过向任何网络的测试数据添加不可察觉的扰动来部署,并且它们引入的风险无法通过网络的原始训练性能来评估。去噪和降维是两种不同的方法,已经被独立地研究来对抗这种攻击。虽然去噪提供了针对攻击的特定性质定制防御的能力,但降维提供了潜在地去除先前看不见的扰动的优势,同时减少了被防御网络的训练时间。我们提出的战略,结合这两种防御机制的优势。首先,我们提出了级联防御,其中包括去噪,然后降维。为了减少防御的训练时间,在性能上进行小的权衡,我们提出了隐藏层防御,它涉及将去噪自动编码器的编码器的输出馈送到网络中。此外,我们讨论了如何适应攻击这些防御可能会变得显着薄弱时,使用替代防御,或当没有使用防御。在这种情况下,我们提出了一个新的度量来评估防御措施的自适应攻击的敏感性修改的防御。最后,我们提出了一个指导方针,建立一个有序的剧目防御,又名。防御基础设施,在攻击策略不确定的情况下,适应有限的计算资源。
2021-04-03 cs.AI cs.CR cs.LG
BADiff: Bandwidth Adaptive Diffusion Model
Nanyang Technological University(南洋理工大学);Alibaba Group(阿里巴巴集团)
本文提出一种带宽自适应扩散模型,通过端到端训练策略使模型根据实时网络带宽调整生成质量,提升带宽受限环境下的图像传输效率。
2026-04-09 cs.CV cs.LG
Foresight: Adaptive Layer Reuse for Accelerated and High-Quality Text-to-Video Generation
The University of British Columbia(不列颠哥伦比亚大学);d-Matrix
本文提出Foresight自适应层复用技术,通过动态识别并复用DiT块输出以降低视频生成的计算冗余,在OpenSora、Latte和CogVideoX上实现显著端到端加速且保持视频质量。
2025-09-22 cs.AI cs.CV cs.LG