Ludwig: a type-based declarative deep learning toolbox
Uber AI（优步AI）
在这项工作中，我们提出了路德维希，一个灵活的，可扩展的和易于使用的工具箱，允许用户训练深度学习模型，并使用它们来获得预测，而无需编写代码。Ludwig实现了一种基于两个主要抽象的深度学习模型构建的新方法：数据类型和声明性配置文件。数据类型抽象允许更容易的代码和子模型重用，并且由该抽象强加的标准化接口允许封装并使代码易于扩展。声明式模型定义配置文件使没有经验的用户能够获得有效的模型，并提高专家用户的生产力。除了这两项创新，Ludwig还引入了一种通用的模块化深度学习架构，称为编码器-组合器-解码器，可以实例化以执行大量的机器学习任务。这些创新使工程师、其他领域的科学家以及更广泛的受众能够采用深度学习模型来完成他们的任务，具体地帮助其民主化。
2019-09-17 cs.AI cs.CL cs.CV
Relational Task Generation Language: A Declarative Specification Framework for Relational Deep Learning
Czech Technical University in Prague（布拉格捷克理工大学）
本文提出开源声明式语言RTGL，用于简化RDL任务构建，可重构基准任务、设计新任务，经实验证实其鲁棒性、可用性及与现有RDL框架的无缝集成性。
2026-09-02 cs.DB cs.LG cs.PL
EdnaML: A Declarative API and Framework for Reproducible Deep Learning
Georgia Institute of Technology（佐治亚理工学院）；University of Sao Paulo（圣保罗大学）
机器学习已经成为文本、图像、视频和音频处理和生成方面最新进展的基石。大多数生产系统在部署和训练过程中处理多个模型，每个模型都有各种调优的超参数。此外，ML管道的数据汇集和处理方面由于其在创建可持续的高质量分类器方面的重要性而受到越来越多的关注。我们提出了EdnaML，一个具有声明式API的框架，用于可重复的深度学习。EdnaML提供了可以手动组合的低级构建块，以及高级管道编排API，以自动化数据汇集、数据处理、分类器训练、分类器部署和模型监控。我们的分层API允许用户在高级组件抽象中管理ML管道，同时提供通过构建块修改其任何部分的灵活性。我们展示了几个使用EdnaML的ML管道示例，包括一个大规模的假新闻标签和分类系统，其中有六个子管道由EdnaML管理。
2022-11-13 cs.LG cs.SY eess.SY
Exploiting Low-Rank Tensor-Train Deep Neural Networks Based on Riemannian Gradient Descent With Illustrations of Speech Processing
Georgia Institute of Technology（佐治亚理工学院）；IBM Research（IBM研究院）；Universidad San Pablo-CEU, CEU Universities（CEU大学圣巴勃罗校区）
本文的工作重点是通过考虑模型复杂度和实际性能之间的权衡来设计低复杂度的混合张量网络。首先，我们利用低阶张量训练深度神经网络（TT-DNN）来构建端到端的深度学习流水线，即LR-TT-DNN。其次，将LR-TT-DNN与卷积神经网络（CNN）相结合，建立了一个混合模型，表示为CNN+（LR-TT-DNN），以提高性能。我们利用黎曼梯度下降来确定与小TT秩相关联的TT-DNN，而不是随机地为TT-DNN分配大TT秩。此外，CNN+（LR-TT-DNN）由底部的用于特征提取的卷积层和顶部的几个TT层组成，以解决回归和分类问题。我们分别评估了LR-TT-DNN和CNN+（LR-TT-DNN）模型对语音增强和口述命令识别任务的影响。我们的经验证据表明，具有较少模型参数的LR-TT-DNN和CNN+（LR-TT-DNN）模型可以优于TT-DNN和CNN+（TT-DNN）模型。
2022-03-11 cs.AI cs.LG cs.SD
Optimal Transport-inspired Deep Learning Framework for Slow-Decaying Kolmogorov n-width Problems: Exploiting Sinkhorn Loss and Wasserstein Kernel
SISSA（国际高等研究学院）；École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）
提出融合最优传输与神经网络的 ROM 框架，以 Wasserstein 核 kPOD 和 Sinkhorn 损失提升慢衰减 Kolmogorov n-width 问题的精度、效率与鲁棒性。
2025-01-10 cs.LG cs.NA math.NA
Exploiting Explainable Metrics for Augmented SGD
University of New Brunswick（新不伦瑞克大学）；University of Toronto（多伦多大学）
解释深度学习的泛化特性是高级机器学习中的一个新兴课题。关于随机优化下的学习如何真正起作用以及为什么某些策略比其他策略更好，有几个问题没有得到解答。在本文中，我们解决了以下问题：\textit{can we probe intermediate layers of a deep neural network to identify and quantify the learning quality of each layer?}考虑到这个问题，我们提出了新的可解释性指标，测量冗余信息的网络层使用低秩分解框架和量化的复杂性措施，是高度相关的泛化性能的一个给定的优化器，网络和数据集。随后，我们利用这些指标来增强随机梯度下降（SGD）优化器，自适应地调整每一层的学习率，以提高泛化性能。我们的增强SGD -被称为RMSGD -与SOTA方法相比，引入了最小的计算开销，并通过在应用程序，架构和数据集上表现出强大的泛化特性来超越它们。
2022-03-31 cs.CV cs.LG
Bridging Declarative, Procedural, and Conditional Metacognitive Knowledge Gap Using Deep Reinforcement Learning
North Carolina State University（北卡罗来纳州立大学）
提出用DRL在智能辅导系统中实施适应性元认知干预，帮助学生掌握后向链接策略的陈述性、程序性与条件性知识，并显著提升跨领域后续学习表现和决策自主性。
2023-04-23 cs.AI cs.CY cs.HC
Deep Declarative Dynamic Time Warping for End-to-End Learning of Alignment Paths
Queensland University of Technology（昆士兰科技大学）；Australian National University（澳大利亚国立大学）
本文讨论了学习端到端模型的时间序列数据，包括通过动态时间规整（DTW）的时间对齐步骤。现有的可微DTW方法要么通过固定的扭曲路径进行区分，要么将可微松弛应用于用于解决DTW问题的递归步骤中的min算子。相反，我们提出了一个基于双层优化和深度声明网络的DTW层，我们将其命名为DecDTW。通过将DTW公式化为一个连续的不等式约束优化问题，我们可以使用隐式微分来计算最优对齐（相对于底层时间序列）的解的梯度。这个公式的一个有趣的副产品是，DecDTW输出两个时间序列之间的最佳扭曲路径，而不是软近似，可从Soft-DTW恢复。我们表明，这个属性是特别有用的下游损失函数的最佳对齐路径本身定义的应用程序。这自然发生，例如，当学习提高预测比对相对于地面实况比对的准确度时。我们评估DecDTW在两个这样的应用程序，即音频到分数对齐任务在音乐信息检索和视觉位置识别任务在机器人技术，展示国家的最先进的结果。
2023-03-19 cs.CV cs.LG cs.RO
HiQ -- A Declarative, Non-intrusive, Dynamic and Transparent Observability and Optimization System
OCI Cloud AI（甲骨文云人工智能部门）
本文提出非侵入式、声明式的动态透明系统 HiQ，用于追踪 Python 及分布式程序运行时信息并定位性能瓶颈，且已在深度学习生命周期管理中落地并开源。
2023-04-26 cs.AI cs.DC cs.LG
Exploiting Restricted Boltzmann Machines and Deep Belief Networks in Compressed Sensing
American Family Mutual Insurance Company（美国家庭互助保险公司）；University of Delaware（特拉华大学）
本文提出了一种CS方案，该方案利用受限玻尔兹曼机和深度学习架构的表示能力来对属于同一类的信号的稀疏模式的先验分布进行建模。所确定的概率分布，然后使用在最大后验概率（MAP）的方法进行重建。先验分布的参数从训练数据中学习。这种方法背后的动机是对稀疏表示的系数之间的高阶统计依赖关系进行建模，最终目标是改善重建。在Berkeley分割数据集和MNIST手写体数字数据库上验证了该方法的性能。
2017-05-30 cs.LG
Identifying and Exploiting Structures for Reliable Deep Learning
最近，深度学习研究在包括计算机视觉、自然语言处理和强化学习在内的广泛任务中取得了令人印象深刻的快速进展。这些系统的非凡性能往往给人一种印象，即它们可以用来彻底改变我们的生活。然而，正如最近的研究所指出的，这些系统存在几个问题，使它们在现实世界中使用时不可靠，包括易受对抗攻击的影响（Szegedy等人。[248]），记忆噪音的倾向（Zhang et al. [292]），对错误的预测过于自信（误校准）（Guo等人。[99]），以及不适合处理私人数据（Gilad-Bachrach等人。[88]）。在这篇论文中，我们详细研究了这些问题，调查了它们的原因，并提出了计算成本低的算法来减轻它们在实践中。为此，我们确定了深度神经网络中的结构，可以利用这些结构来减轻深度学习算法不可靠的上述原因。
2021-08-16 cs.LG
Survey: Exploiting Data Redundancy for Optimization of Deep Learning
North Carolina State University（北卡罗来纳州立大学）；William & Mary（威廉与玛丽学院）；Northeastern University（东北大学）
数据冗余普遍存在于深度神经网络（DNN）的输入和中间结果中。它为提高DNN的性能和效率提供了许多重要的机会，并且已经在大量的工作中进行了探索。这些研究分散在许多地点，跨越几年。他们关注的目标范围从图像到视频和文本，他们用来检测和利用数据冗余的技术也在许多方面有所不同。目前还没有一个系统的检查和总结的许多努力，使研究人员很难得到一个全面的看法，以前的工作，最先进的状态，差异和共同的原则，以及领域和方向尚未探索。本文试图填补这一空白。它调查了最近数百篇关于这个主题的论文，介绍了一种新的分类法，将各种技术放入一个单一的分类框架中，全面描述了用于利用数据冗余来改进多种DNN的主要方法，并指出了一系列未来探索的研究机会。
2022-08-29 cs.LG
Exploiting the potential of deep reinforcement learning for classification tasks in high-dimensional and unstructured data
Universidad Autónoma de Occidente（西方自治大学）
本文提出了一个框架，有效地学习特征选择政策，使用较少的功能，以达到高的分类精度对大型非结构化数据。它使用深度卷积自动编码器（DCAE）来学习紧凑的特征空间，并结合最近提出的强化学习（RL）算法，如双DQN和Retrace。
2019-12-20 cs.LG stat.ML
Offset Sampling Improves Deep Learning based Accelerated MRI Reconstructions by Exploiting Symmetry
Facebook AI Research（Facebook人工智能研究）；fastMRI team（fastMRI团队）
加速MRI的深度学习方法将采样的傅立叶空间线矩阵作为输入，并生成空间图像作为输出。在这项工作中，我们表明，通过仔细选择在采样过程中使用的偏移量，在k空间中的对称性可以更好地利用，产生更高质量的重建比标准的等距样本或随机样本的动机压缩感知。
2020-02-04 cs.CV cs.LG eess.IV
Towards Regulated Deep Learning
institutetext（机构）
本文针对深度学习引发的安全、隐私与伦理问题，提出机构神经网络（INN）概念，并利用 $I^*$ 语言实现受监管深度学习（RDL）的概念验证，以监管神经网络执行及其与人工教师的交互。
2025-07-18 cs.AI cs.LG cs.LO
Exploiting Vulnerabilities in Deep Neural Networks: Adversarial and Fault-Injection Attacks
Technische Universität Wien (TU Wien)（维也纳工业大学）；New York University Abu Dhabi (NYUAD)（纽约大学阿布扎比分校）
从微小的起搏器芯片到飞机防撞系统，最先进的网络物理系统（CPS）越来越多地开始依赖深度神经网络（DNN）。然而，正如各种研究所得出的结论，DNN非常容易受到安全威胁，包括对抗攻击。在本文中，我们首先讨论了不同的漏洞，可以利用生成安全攻击的神经网络为基础的系统。然后，我们概述了DNN上现有的对抗性和基于故障注入的攻击。我们还进行了简短的分析，以强调实际实施对抗攻击时面临的不同挑战。最后，我们还讨论了开发健壮的基于DNN的系统的各种潜在方法，这些系统可以抵御对抗性攻击和故障注入攻击。
2021-05-05 cs.CR cs.LG
Hybrid Beamforming for mmWave MU-MISO Systems Exploiting Multi-agent Deep Reinforcement Learning
Southeast University（东南大学）；ZTE Corporation（中兴通讯股份有限公司）
在这封信中，我们研究了基于深度强化学习（DRL）的混合波束形成用于毫米波（mmWave）多用户（MU）多输入单输出（MISO）系统。提出了一种多智能体DRL方法来解决DRL中的探索效率问题。在所提出的方法中，优先重放缓冲区和更多的信息奖励，以加速收敛。仿真结果表明，与基准算法相比，该算法具有更高的频谱效率和更少的时间消耗，更适合于实际应用。
2021-02-01 cs.AI cs.LG eess.SP
ANT: Exploiting Adaptive Numerical Data Type for Low-bit Deep Neural Network Quantization
Shanghai Jiao Tong University（上海交通大学）；Shanghai Qi Zhi Institute（上海期智研究院）；Microsoft Research（微软研究院）；Institute for AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院（AIR））；University of Rochester（罗切斯特大学）
量化是一种减少DNN模型计算和内存成本的技术，DNN模型变得越来越大。现有的量化解决方案使用定点整数或浮点类型，其优点有限，因为两者都需要更多的位来保持原始模型的准确性。另一方面，可变长度量化对正常值使用低比特量化，对一小部分异常值使用高精度量化。尽管这类工作带来了算法上的好处，但由于可变长度的编码和解码，它也引入了显著的硬件开销。在这项工作中，我们提出了一个固定长度的自适应数值数据类型称为ANT，以实现低比特量化与微小的硬件开销。我们的数据类型ANT利用两个关键创新来利用DNN模型中的张量内和张量间自适应机会。首先，我们提出了一种特殊的数据类型flint，它结合了float和int的优点，以适应张量中不同值的重要性。其次，我们提出了一个自适应框架，根据其分布特性为每个张量选择最佳类型。我们为ANT设计了一个统一的处理元素架构，并展示了其与现有DNN加速器集成的便利性。我们的设计结果在2.8 $\times$的加速比和2.5 $\times$能源效率的改善，在国家的最先进的量化加速器。
2022-08-30 cs.LG
Exploiting the Full Capacity of Deep Neural Networks while Avoiding Overfitting by Targeted Sparsity Regularization
Westfälische Wilhelms-Universität Münster（明斯特大学）
过度拟合是在相对较小的数据集上训练深度神经网络时最常见的问题之一。在这里，我们证明了神经网络激活稀疏性是过拟合的可靠指标，我们利用它来提出新的有针对性的稀疏性可视化和正则化策略。基于这些策略，我们能够以有针对性的逐层方式理解和抵消由激活稀疏性和滤波器相关性引起的过拟合。我们的研究结果表明，有针对性的稀疏正则化可以有效地用于正则化众所周知的数据集和架构，显着提高图像分类性能，同时优于dropout和批量归一化。最终，我们的研究揭示了对激活稀疏性和网络容量这两个矛盾概念的新见解，证明了有针对性的稀疏性正则化能够实现显著和有区别的特征学习，同时利用深度模型的全部容量，即使在过度训练的情况下也不会出现过度拟合。
2020-02-21 cs.CV cs.LG stat.ML
Harnessing Deep Neural Networks with Logic Rules
School of Computer Science, Carnegie Mellon University（卡内基梅隆大学计算机科学学院）
将深度神经网络与结构化逻辑规则相结合是期望的，以利用灵活性并减少神经模型的不可解释性。我们提出了一个能够增强各种类型的神经网络（例如，CNN和RNN）与声明性一阶逻辑规则。具体来说，我们开发了一种迭代蒸馏方法，将逻辑规则的结构化信息转换为神经网络的权重。我们将框架部署在用于情感分析的CNN和用于命名实体识别的RNN上。通过一些高度直观的规则，我们获得了实质性的改进，并实现了最先进的或与以前性能最好的系统相当的结果。
2020-08-08 cs.AI cs.CL cs.LG
Exploiting Estimation Bias in Clipped Double Q-Learning for Continous Control Reinforcement Learning Tasks
University of Padova（帕多瓦大学）；Human-Inspired Technology Research Center（仿人技术研究中心）
本文提出一种偏差利用（BE）机制，在Actor-Critic方法的深度双Q学习中动态选择最有利的估计偏差，以解决连续控制强化学习中的次优策略问题，且不增加计算复杂度。
2024-10-11 cs.AI cs.LG
TensorDash: Exploiting Sparsity to Accelerate Deep Neural Network Training and Inference
University of Toronto（多伦多大学）；Cerebras Systems（赛雷布拉斯系统公司）；Vector Institute（向量研究所）
TensorDash是一种硬件级技术，用于使数据并行MAC单元能够利用其输入操作数流中的稀疏性。当用于构成深度学习的硬件加速器时，TensorDash可以加快训练过程，同时提高能源效率。TensorDash将低成本、稀疏输入操作数互连与面积高效的硬件调度器相结合，该互连包括每个乘法器输入的8输入多路复用器。虽然互连允许每个操作数的非常有限的移动集合，但是当稀疏性存在于神经网络的激活、权重或梯度中时，调度器可以有效地提取稀疏性。在涵盖各种应用的广泛模型集合中，TensorDash通过$1.95{\times}$加速训练过程，同时在考虑片上和片外内存访问时，$1.89\times$更节能，$1.6\times$更节能。虽然TensorDash适用于任何数据类型，但我们使用单精度浮点单元和bfloat16来演示它。
2020-09-01 cs.AR cs.LG
Exploiting Chaotic Dynamics as Deep Neural Networks
Graduate School of Information Science and Technology, The University of Tokyo（东京大学情报理工学系研究科）；Graduate School of Informatics, Kyoto University（京都大学情报学研究科）
该研究揭示混沌本质存在于多种深度神经网络中，并提出直接利用混沌动力学构建深度学习架构的新方法，在多个混沌系统上取得优于传统网络的准确率、收敛速度与效率，为混沌与机器学习和神经形态计算的融合开辟了新路径。
2024-05-29 cs.LG cs.NE
Exploiting epistemic uncertainty of the deep learning models to generate adversarial samples
Isik University（伊斯克大学）；Simula Research Laboratory（西穆拉研究实验室）
深度神经网络架构被认为对随机扰动具有鲁棒性。然而，研究表明，它们可能非常容易受到输入的轻微但精心设计的扰动，称为对抗性样本。近年来，在这个称为“对抗机器学习“的新领域进行了大量研究，以设计新的对抗攻击，并使用更强大的DNN架构来防御这些攻击。然而，到目前为止，几乎所有的研究工作都集中在利用模型损失函数来制作对抗性示例或创建鲁棒模型。本研究探讨了使用量化的认知不确定性从蒙特卡洛辍学抽样对抗攻击的目的，我们扰动的输入到模型还没有见过的领域。基于模型的认知不确定性，提出了新的攻击思想。我们的结果表明，我们提出的混合攻击方法将攻击成功率从82.59%提高到85.40%，在MNIST Digit，MNIST Fashion和CIFAR-10数据集上分别从82.86%提高到89.92%和88.06%提高到90.03%。
2021-02-13 cs.AI cs.LG
Exploiting T-norms for Deep Learning in Autonomous Driving
TU Wien（维也纳工业大学）
本文提出内存高效的T-范数损失函数，使自动驾驶事件检测能在有限GPU内存下利用背景知识，并在标注数据稀缺及半监督场景中提升模型性能。
2024-02-17 cs.CV cs.LG
Exploiting Parallelism Opportunities with Deep Learning Frameworks
Harvard University（哈佛大学）；Facebook
最先进的机器学习框架支持各种各样的设计特征，以实现灵活的机器学习编程接口，并减轻机器学习开发人员的可编程性负担。然而，在功能丰富的框架中识别和使用性能最佳设置涉及到大量的性能分析工作，并且通常依赖于特定领域的知识。本文深入分析了机器学习框架中关键设计特性的性能影响，并量化了并行性的作用。观察和见解提炼成一组简单的指导方针，可以用来实现更高的训练和推理加速。在一组不同的真实世界深度学习模型中，评估结果显示，建议的性能调优准则分别比英特尔和TensorFlow推荐的设置高出1.29倍和1.34倍。
2020-06-29 cs.DC cs.LG cs.PF
CoNLoCNN: Exploiting Correlation and Non-Uniform Quantization for Energy-Efficient Low-precision Deep Convolutional Neural Networks
New York University Abu Dhabi（纽约大学阿布扎比分校）；Technische Universität Wien (TU Wien)（维也纳工业大学）；Politecnico di Torino（都灵理工大学）
在当今智能网络物理系统的时代，深度神经网络（DNN）由于其在复杂的现实世界应用中的最先进性能而变得无处不在。这些网络的高计算复杂性转化为增加的能耗，是在资源受限系统中部署大型DNN的最大障碍。通过训练后量化实现的定点（FP）实现通常用于减少这些网络的能耗。然而，FP中的均匀量化间隔将数据结构的比特宽度限制为大值，这是由于需要以足够的分辨率表示大多数数字并避免高量化误差。在本文中，我们利用了关键的见解，即（在大多数情况下）DNN权重和激活大多集中在零附近，只有少数具有较大的幅度。我们提出了CoNLoCNN，这是一种通过利用以下内容实现节能低精度深度卷积神经网络推理的框架：（1）权重的非均匀量化，从而简化复杂的乘法运算;以及（2）激活值之间的相关性，从而能够以低成本部分补偿量化误差，而无需任何运行时开销。为了从非均匀量化中显著受益，我们还提出了一种新的数据表示格式，编码低精度二进制有符号数字，以压缩权重的位宽，同时确保直接使用编码权重进行处理，使用新的乘法和累加（MAC）单元设计。
2022-07-31 cs.AR cs.LG
DeepcomplexMRI: Exploiting deep residual network for fast parallel MR imaging with complex convolution
Paul C. Lauterbur Research Center for Biomedical Imaging, Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院保罗·C·劳特伯生物医学成像研究中心）；Research Center for Medical AI, Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院医学人工智能研究中心）；Shenzhen College of Advanced Technology, University of Chinese Academy of Sciences（中国科学院大学深圳先进技术学院）；The State University of New York, Buffalo（纽约州立大学布法罗分校）
本文提出了一种多通道图像重建方法，命名为Deepcomplex MRI，以加速并行MR成像与剩余复杂卷积神经网络。与大多数依赖于利用线圈灵敏度或预定义变换的先验信息的现有工作不同，DeepcomplexMRI利用大量现有多通道groundtruth图像的可用性，并将其用作标记数据来离线训练深度残差卷积神经网络。特别地，提出了一种复杂的卷积网络，以考虑MR图像的实部和虚部之间的相关性。此外，k空间数据一致性进一步在网络的层之间重复地实施。在活体数据集上的评价表明，该方法具有恢复所需的多通道图像的能力。与现有方法的比较也表明，该方法能够更准确地重建出所需的MR图像。
2019-07-29 cs.LG eess.IV stat.ML
Exploiting Channel Similarity for Accelerating Deep Convolutional Neural Networks
Shanghai Jiao Tong University（上海交通大学）
为了解决现有基于幅度的修剪算法在模型权重或激活量较大且幅度相似的情况下的局限性，我们提出了一种新的视角来发现通道之间的参数冗余，并通过通道修剪来加速深度CNN。确切地说，我们认为，渠道揭示类似的功能信息有功能重叠，每个这样的相似性组内的大多数渠道可以被删除，而不损害模型的代表性的权力。在通过概率建模推导出一个有效的度量来评估信道相似性之后，我们引入了一个通过信道层次聚类的剪枝算法。特别是，该算法不依赖于稀疏训练技术或复杂的数据驱动优化，可以直接应用于预先训练的模型。在基准数据集上进行的大量实验有力地证明了我们的方法优于现有技术的加速性能。在ImageNet上，我们修剪的ResNet-50减少了30%的FLOP，优于基线模型。
2019-08-06 cs.CV cs.LG stat.ML
Exploiting Spatio-Temporal Structure with Recurrent Winner-Take-All Networks
University of Florida（佛罗里达大学）；Universidad de los Andes（安第斯大学）
我们提出了一种卷积递归神经网络，具有Winner-Take-All dropout，用于多维时间序列中的高维无监督特征学习。我们将所提出的方法应用于视频中具有时间上下文的对象识别，并获得了比文献中的可比方法更好的结果，包括Chalasani和Principe先前提出的深度预测编码网络。我们的贡献可以总结为对通过时间反向传播训练的端到端深度预测编码网络的可扩展重新解释，将先前提出的Winner-Take-All Autoencoders扩展到时间序列，以及用于初始化和正则化卷积递归神经网络的新技术。
2017-03-15 cs.CV cs.LG
Data-Free Universal Attack by Exploiting the Intrinsic Vulnerability of Deep Models
提出无数据通用攻击方法 IntriUAP，利用深度模型线性组件的病态性质，将扰动与最大奇异值对应的右奇异向量对齐，无需样本即可高效攻击，且仅需部分层访问。
2025-03-28 cs.CV cs.LG
Exploring and Exploiting the Asymmetric Valley of Deep Neural Networks
School of Artificial Intelligence, Nanjing University（南京大学人工智能学院）；National Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）
本研究系统探究深度神经网络损失谷非对称性的影响因素，发现噪声与收敛点的符号一致性是关键指标，并用ReLU和softmax理论解释，为模型融合与联邦学习提供新思路。
2024-10-09 cs.AI cs.LG
Using Deep Learning for price prediction by exploiting stationary limit order book features
在过去十年中，深度学习（DL）研究的激增成功地为许多难题提供了解决方案。定量分析领域一直在缓慢地适应新方法来解决其问题，但由于金融数据的非平稳性等问题，在充分利用DL之前必须克服重大挑战。在这项工作中，提出了一种新的构造静态特征的方法，使DL模型能够有效地应用。这些功能在预测限价指令簿的中间价走势的任务中进行了彻底的测试。评估了几种DL模型，例如循环长短期记忆（LSTM）网络和卷积神经网络（CNN）。最后，提出了一种新的模型，该模型结合了CNN提取有用特征的能力和LSTM分析时间序列的能力。组合模型能够在测试的预测范围内优于单独的LSTM和CNN模型。
2018-10-23 cs.LG q-fin.ST stat.ML
Individualized Deepfake Detection Exploiting Traces Due to Double Neural-Network Operations
NC State University（北卡罗来纳州立大学）
针对特定公众人物的深度伪造检测问题，提出利用神经网络幂等性进行双重操作以优化检测器，使AUC提升至0.94，并发布了包含45位公众人物约3.2万张图像的数据集。
2025-04-04 cs.CR cs.CV cs.LG
Automatic crack classification by exploiting statistical event descriptors for Deep Learning
University of Catania（卡塔尼亚大学）；University of Messina（墨西拿大学）；Istituto Nazionale di Geofisica e Vulcanologia（国家地球物理与火山研究所）；Politecnico di Bari（巴里理工大学）；University of Calabria（卡拉布里亚大学）
在现代建筑基础设施中，由于具有通信功能的低成本传感器和深度学习等高级建模工具提供了大量可用的大数据，因此设计自适应和无监督数据驱动的健康监测系统的机会越来越受欢迎。本文的主要目的是将深度神经网络与双向长短期记忆和先进的统计分析（包括瞬时频率和谱峰度）相结合，以开发一种精确的分类工具，用于声发射事件（裂缝）产生的拉伸，剪切和混合模式。我们研究了有效的事件描述符，以捕捉不同类型的模式的独特特征。实验结果表明，该方法实现了不同的裂纹事件之间的有前途的分类，可以影响未来的结构健康监测（SHM）技术的设计。该方法对早期损伤分类的准确率为92%，有利于维修计划的制定。
2021-11-26 cs.LG eess.SP stat.ML
Phantom Sponges: Exploiting Non-Maximum Suppression to Attack Deep Object Detectors
The Open University（开放大学）；Ben-Gurion University（本-古里安大学）；University of Genoa（热那亚大学）；University of Cagliari（卡利亚里大学）
针对基于深度学习的对象检测器的对抗攻击在过去几年中得到了广泛的研究。提出的大多数攻击都针对模型的完整性（即，导致模型做出不正确的预测），而针对模型可用性的对抗攻击（自动驾驶等安全关键领域的一个关键方面）尚未被机器学习研究界探索。在本文中，我们提出了一种新的攻击，产生负面影响的决定延迟的端到端的目标检测管道。我们制作了一个通用的对抗扰动（UAP），目标是集成在许多对象检测器管道中的广泛使用的技术-非最大抑制（NMS）。我们的实验表明，所提出的UAP的能力，以增加处理时间的个别帧，通过添加“幻影”的对象，超载的NMS算法，同时保留检测的原始对象，使攻击去未被检测到的一段较长的时间。
2022-11-17 cs.CR cs.CV cs.LG
Consciousness is entailed by compositional learning of new causal structures in deep predictive processing systems
National Institute of Standards and Technology（美国国家标准与技术研究院）
本文提出意识源于预测处理系统中通过分层绑定未预测推断实现的在线单示例组合学习，该机制统一了特征绑定、递归处理、预测处理和全局工作空间理论。
2024-11-07 cs.AI cs.LG cs.NE
Exploiting the capacity of deep networks only at training stage for nonlinear black-box system identification
K. N. Toosi University of Technology（K. N. 图西理工大学）
提出一种仅在训练阶段使用深度模型的策略，通过教师-学生模型对齐潜在表示，使浅层模型继承深度模型能力，在非线性系统辨识中达到可比性能。
2023-12-27 cs.LG cs.SY eess.SY
Introspective Visuomotor Control: Exploiting Uncertainty in Deep Visuomotor Control for Failure Recovery
Applied AI Lab (A2I)（应用人工智能实验室（A2I））；Dynamic Robot Systems (DRS)（动态机器人系统实验室（DRS））；Oxford Robotics Institute (ORI), University of Oxford（牛津大学牛津机器人研究所（ORI））
端到端可视化控制正在成为机器人操作任务的一种引人注目的解决方案。然而，基于模仿学习的视觉控制方法往往受到一个共同的限制，缺乏从由复合误差引起的分布外状态恢复的能力。在本文中，而不是使用触觉反馈或明确地通过视觉检测故障，我们调查使用的政策神经网络的不确定性。我们提出了一种新的基于不确定性的方法来检测和恢复故障情况。我们的假设是，政策的不确定性可以隐含地表明在视觉控制任务的潜在故障和机器人状态与最小的不确定性更有可能导致任务的成功。为了从高度不确定的情况下恢复，机器人沿着轨迹监视其不确定性，并在状态-动作空间中探索可能的动作，以使自己处于更确定的状态。我们的实验验证了这一假设，并显示出显着的改善任务成功率：12%的推动，15%的拾取和达到22%的拾取和放置。
2021-03-22 cs.LG cs.RO
Exploiting Wireless Channel State Information Structures Beyond Linear Correlations: A Deep Learning Approach
Shanghai Institute for Advanced Communication and Data Science（上海先进通信与数据科学研究院）；Shanghai University（上海大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；Tsinghua University（清华大学）；University of Southern California（南加州大学）；Intel Corporation（英特尔公司）
关于无线系统在其中操作的传播信道的信息的知识使得能够实现用于信号传输的更好、更有效的方法。因此，信道状态信息（CSI）对系统性能起着至关重要的作用。CSI的重要性实际上在即将到来的5G及以后的系统中正在增长，例如，用于实现大规模多输入多输出（MIMO）。然而，及时和准确的CSI的获取长期以来一直被认为是一个主要问题，并且由于需要在大规模MIMO系统中获得许多天线元件的CSI而变得越来越具有挑战性。为了应对这一挑战，现有的工作主要集中在利用线性结构的CSI，如CSI在空间域中的相关性，以实现降维。在这篇文章中，我们首先系统地回顾了CSI结构开发的最新技术，然后扩展到寻求更深的结构，使远程CSI推理，其中数据驱动的深度神经网络（DNN）的方法是必要的，由于模型不足。我们开发适合CSI数据的特定DNN设计。提供的案例研究，以证明在这个方向的未来性能增强的巨大潜力。
2018-12-03 cs.IT cs.LG math.IT
Exploiting Efficiency Vulnerabilities in Dynamic Deep Learning Systems
University of Texas at Dallas USA（德克萨斯大学达拉斯分校）
本研究揭示动态深度学习系统因输入自适应计算而存在的效率漏洞，分析攻击策略与防御缺陷，并提出开发针对性防御以增强对抗条件下的鲁棒性。
2025-06-21 cs.AI cs.CR cs.LG
UCNN: Exploiting Computational Reuse in Deep Neural Networks via Weight Repetition
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；NVIDIA（英伟达）
卷积神经网络（CNN）由于其每次操作的高精度和机器效率，已经开始渗透到电子社会的各个角落（从话音识别到场景生成）。在其核心，CNN计算由权重和输入向量之间的多维点积组成。本文研究了如何在CNN推理过程中利用权重重复--当相同的权重在权重向量中或权重向量之间多次出现时--来节省能量并提高性能。这概括了从CNN权重稀疏性提高效率的流行工作路线，因为由于重复的零权重而减少计算是由于重复的权重而减少计算的特殊情况。为了利用权重重复，本文提出了一种新的CNN加速器，称为唯一权重CNN加速器（UCNN）。UCNN使用权重重复来重用CNN子计算（例如，点积），并在存储在片外DRAM中时减小CNN模型大小-这两者都节省了能量。UCNN通过利用权重的稀疏性进一步提高了性能。我们使用加速器级循环和能量模型以及UCNN处理元素的RTL实现来评估UCNN。在三个当代CNN上，相对于使用Eyeriss风格稀疏优化的类似配置的基线加速器，UCNN将吞吐量归一化能耗提高了1.2 - 4倍。与此同时，UCNN处理元素相对于相同的基线仅增加了17-24%的面积开销。
2018-04-18 cs.LG cs.NE
SGCN: Exploiting Compressed-Sparse Features in Deep Graph Convolutional Network Accelerators
Yonsei University（延世大学）；Samsung Electronics（三星电子）；Seoul National University（首尔国立大学）
图卷积网络（GCN）由于克服了现有神经网络的有限适用性而变得越来越流行。GCN将任意结构的图作为输入，并执行一系列层，这些层利用图的结构来计算它们的输出特征。GCN的一个最新趋势是使用深度网络架构。与传统的GCN仅跨越约2至5层深度相反，现代GCN现在在剩余连接的帮助下包含数十至数百层。从这样的深GCN，我们发现一个重要的特点，他们表现出非常高的中间特征稀疏。我们观察到，随着深层和残余连接，中间特征中的零的数量急剧增加。这揭示了加速器在GCN执行中利用的新机会，这是以前不存在的。在本文中，我们提出了SGCN，一个快速，节能的GCN加速器，充分利用现代GCN的稀疏中间功能。SGCN提出了几种技术，以实现比现有加速器更高的性能和能源效率。首先，SGCN采用GCN友好的特征压缩格式。我们专注于减少片外内存流量，这往往是GCN执行的瓶颈。其次，我们提出了微架构无缝处理的压缩特征格式。第三，为了更好地处理在不同的稀疏性存在的局部性，SGCN采用稀疏感知的合作。稀疏感知的合作创建了一个模式，展示了多个重用窗口，这样缓存可以捕获不同大小的工作集，从而适应不同的稀疏程度。我们表明，SGCN实现了1.71倍的加速比和43.9%的高能效相比，现有的加速器。
2023-01-25 cs.AR cs.LG
Exploiting Machine Unlearning for Backdoor Attacks in Deep Learning System
Singapore Management University（新加坡管理大学）；University of Virginia（弗吉尼亚大学）；Zhejiang University（浙江大学）
该研究提出一种基于机器遗忘的新型黑盒后门攻击方法，通过投毒与缓解数据训练模型后提交遗忘请求激活后门，并提出对应检测缓解方法，实验验证了攻击可行性及分片对攻防的影响。
2023-12-13 cs.CR cs.LG
Beyond Graph Neural Networks with Lifted Relational Neural Networks
Czech Technical University in Prague（布拉格捷克理工大学）
我们展示了一个声明式可微编程框架的语言的提升关系神经网络，其中小的参数化逻辑程序被用来编码关系学习的情况下。当呈现诸如各种形式的图形的关系数据时，程序解释器动态地展开可微计算图形以通过标准手段用于程序参数优化。从使用的声明式数据库抽象，这导致到紧凑和优雅的学习程序，与现有的程序方法直接操作的计算图的水平。我们说明了这个想法如何用于现有各种先进神经架构的有效编码，特别关注图神经网络（GNN）。此外，我们还展示了当代GNN模型如何轻松扩展到更高的关系表达能力。在实验中，我们通过与专门的GNN深度学习框架进行比较来证明正确性和计算效率，同时对现有GNN模型的学习性能进行了一些说明。
2020-07-13 cs.AI cs.LG cs.LO
i-Algebra: Towards Interactive Interpretability of Deep Neural Networks
Pennsylvania State University（宾夕法尼亚州立大学）；Zhejiang University（浙江大学）
为深度神经网络（DNN）提供解释对于它们在决策的可解释性是关键先决条件的领域中的使用至关重要。尽管有大量关于解释DNN的工作，但大多数现有的解决方案都以临时、一次性和静态的方式提供可解释性，而没有考虑最终用户的感知、理解或响应，导致其在实践中的可用性较差。在本文中，我们认为DNN的可解释性应该实现为用户和模型之间的交互。我们提出了i-Algebra，这是第一个用于解释DNN的交互式框架。它的核心是一个原子的、可组合的运算符库，这些运算符在不同的输入粒度、不同的推理阶段以及不同的解释角度解释模型行为。利用声明性查询语言，用户能够构建各种分析工具（例如，“下钻”、“比较”、“假设”分析）。我们对i-Algebra进行了原型设计，并在一组具有代表性的分析任务中进行了用户研究，包括检查对抗性输入，解决模型不一致性，以及清理受污染的数据，所有这些都证明了它有前途的可用性。
2021-01-22 cs.HC cs.LG
A Target-Agnostic Attack on Deep Models: Exploiting Security Vulnerabilities of Transfer Learning
University of California（加利福尼亚大学）；Department of Computer Science（计算机科学系）
由于训练数据不足以及从头开始训练深度神经网络的高计算成本，迁移学习已被广泛用于许多基于深度神经网络的应用中。一种常用的迁移学习方法包括提取预训练模型的一部分，在最后添加几层，并使用小数据集重新训练新层。这种方法虽然高效且广泛使用，但存在安全漏洞，因为迁移学习中使用的预训练模型通常是公开可用的，包括潜在的攻击者。在本文中，我们证明了除了预先训练的模型之外，没有任何额外的知识，攻击者可以发起有效和高效的蛮干攻击，可以制作输入的实例，以高置信度触发每个目标类。我们假设攻击者无法访问任何特定于目标的信息，包括来自目标类的样本，重新训练的模型以及Softmax分配给每个类的概率，从而使攻击目标不可知。据我们所知，这些假设使得所有以前的攻击模型都不适用。为了评估所提出的攻击，我们进行了一系列的人脸识别和语音识别任务的实验，并显示了攻击的有效性。我们的工作揭示了Softmax层在迁移学习设置中使用时的一个基本安全弱点。
2020-01-29 cs.CR cs.LG stat.ML
Dynamic Stripes: Exploiting the Dynamic Precision Requirements of Activation Values in Neural Networks
University of Toronto（多伦多大学）
Stripes是一种深度神经网络（DNN）加速器，它使用位串行计算来提供与激活值的定点精度成比例的性能。固定点精度是使用剖析先验地确定的，并且以每层粒度选择。本文介绍了动态条纹，条纹的扩展，在运行时检测精度变化，并在更细的粒度。这一额外的精度降低水平使性能比Stripes提高了41%。
2017-06-01 cs.LG cs.NE
A Transfer Learning Method for Goal Recognition Exploiting Cross-Domain Spatial Features
PLANIART；Université de Sherbrooke（舍布鲁克大学）
推断他人的意图、预测他们的目标和推断他们的计划的能力是智能代理的关键特征。长期以来，有几种方法研究了符号表征和推理的使用，但成功有限，主要是因为很难明确地捕捉人类决策背后的认知知识。如今的趋势是越来越多地关注直接从数据中推断意图的学习，特别是使用深度学习。我们现在正在观察意图分类在自然语言处理、视觉活动识别和其他领域新兴方法中的有趣应用。本文讨论了一种新的方法结合Few-Shot和迁移学习与跨域功能，学习推断的意图，在物理环境中导航，执行任意长的动作序列，以实现其目标。与深度学习基线方法相比，在合成环境中的实验表明，在从少量样本中学习并推广到看不见的配置方面，性能有所提高。
2019-11-22 cs.AI cs.LG
Exploiting Expert Knowledge for Assigning Firms to Industries: A Novel Deep Learning Method
Shanghai University of Finance and Economics（上海财经大学）；University of Delaware（特拉华大学）；Fudan University（复旦大学）
行业分配是根据预先确定的行业分类系统（ICS）将企业分配到行业，是大量关键商业实践的基础，从企业的运营和战略决策到政府机构的经济分析。三种类型的专家知识对有效的行业分配至关重要：基于定义的知识（即，每个行业的专家定义），基于结构的知识（即，ICS中指定的行业之间的结构关系），以及基于分配的知识（即，由领域专家执行的先前公司-行业分配）。现有的行业分配方法仅利用基于分配的知识来学习将未分配的企业分类到行业的模型，而忽略了基于定义和基于结构的知识。此外，这些方法只考虑了企业被分配到哪个行业，而忽略了基于分配的知识的时间特异性，即，当分配发生时。为了解决现有方法的局限性，我们提出了一种新的基于深度学习的方法，不仅无缝集成了三种类型的知识，行业分配，但也考虑到时间特异性的分配为基础的知识。在方法上，我们的方法具有两个创新：动态行业代表性和层次分配。前者代表了一个行业作为一个序列的时间特定的向量，通过整合三种类型的知识，通过我们提出的时间和空间的聚合机制。后者将行业和企业代表作为输入，计算将企业分配到不同行业的概率，并将企业分配到概率最高的行业。
2022-09-11 cs.AI cs.LG
Delay Neural Networks (DeNN) for exploiting temporal information in event-based datasets
CNRS（法国国家科学研究中心）；I3S（信息科学与系统实验室）
提出延迟神经网络（DeNN），利用突触延迟和脉冲时间信息，在图像和事件驱动数据集上以更少参数和能耗获得良好性能。
2025-01-10 cs.LG cs.NE
Exploiting Neuron and Synapse Filter Dynamics in Spatial Temporal Learning of Deep Spiking Neural Network
Syracuse University（雪城大学）
最近发现的生物启发的脉冲神经网络（SNN）的时空信息处理能力，使一些有趣的模型和应用。然而，由于缺乏鲁棒的训练算法，设计大规模和高性能的模型仍然是一个挑战。具有时空特性的生物似然SNN模型是一个复杂的动态系统。每个突触和神经元都像过滤器一样，能够保存时间信息。由于现有的训练算法忽略了神经元动力学和滤波器效应，SNN退化为无记忆系统，失去了时域信号处理能力。此外，锋电位时序在信息表示中起着重要作用，但传统的基于速率的锋电位编码模型只考虑锋电位序列的统计特性，而忽略了其时序结构所携带的信息。为了解决上述问题，并利用SNN的时间动态，我们制定SNN作为一个网络的无限脉冲响应（IIR）滤波器与神经元非线性。我们提出了一种训练算法，能够学习时空模式，通过搜索最佳的突触过滤器内核和权重。将所提出的模型和训练算法应用于MNIST、NMNIST、DVS 128等合成数据集和公共数据集的联想记忆和分类器的构造;并且它们的准确性优于现有技术的方法。
2020-07-26 cs.LG cs.NE stat.ML
Diagnosing and exploiting the computational demands of videos games for deep reinforcement learning
Carney Institute for Brain Science, Brown University（布朗大学卡尼脑科学研究所）
本文提出 LCD 工具，用于分别量化电子游戏任务的感知与强化学习需求，并据此重构 Procgen 挑战分类、指导 dRL 算法开发。
2023-09-22 cs.AI cs.CV cs.LG
Learning with Molecules beyond Graph Neural Networks
Czech Technical University（捷克理工大学）
我们展示了一个深度学习框架，它本质上是基于关系逻辑的高度表达语言，能够捕捉任意复杂的图形结构。我们展示了如何通过在关系逻辑中指定底层传播规则来轻松地在框架中涵盖图神经网络和类似模型。所使用的语言的声明性质，然后允许容易地修改和扩展到复杂的结构，如分子环，我们选择在本文中的一个简短的演示的传播计划。
2020-11-06 cs.AI cs.LG cs.LO
