Learning Differentiable Particle Filter on the Fly
University of Surrey（萨里大学）
针对可微粒子滤波器现有离线监督训练存在部署延迟、易受分布偏移影响的问题，提出基于无监督损失的在线学习框架，在无真实状态的在线场景下通过滤波操作实现最大似然参数更新，仿真实验验证了其有效性。
2023-12-16 cs.LG
Differentiable Attenuation Filters for Feedback Delay Networks
本文提出了一种基于反馈延迟网络的可微衰减滤波器设计方法，通过参数均衡器实现对频率依赖回声衰减的精细控制，提升了回声系统的性能并降低了计算成本。
2025-11-25 cs.LG cs.SD
Regime Learning for Differentiable Particle Filters
National Physical Laboratory（国家物理实验室）
针对系统在有限状态空间模型间切换且难以同时学习状态域与切换过程的问题，提出基于神经网络的状态域学习可微粒子滤波器（RLPF）及训练流程，在数值实验中表现出竞争力。
2024-06-12 cs.LG eess.SP
Differentiable Particle Filtering via Entropy-Regularized Optimal Transport
Aalto University（阿尔托大学）；University of Oxford（牛津大学）
粒子滤波（PF）方法是一种用于在非线性状态空间模型中执行推理的既定程序。恢复是PF的关键成分，对于获得低方差似然和状态估计是必要的。然而，传统的恢复方法导致基于PF的损失函数关于模型和PF参数不可微。在变分推断的背景下，rescue也产生高方差梯度估计的PF为基础的证据下界。通过利用最优传输的思想，我们引入了一个原则性的可微粒子滤波器，并提供收敛结果。我们证明了这种新的方法在各种应用程序。
2021-06-30 cs.LG stat.CO stat.ML
End-To-End Semi-supervised Learning for Differentiable Particle Filters
University of Surrey（萨里大学）
将神经网络结合到粒子滤波器中的最新进展提供了在大规模现实世界应用中应用粒子滤波器所需的灵活性。在这个框架中的动态和测量模型是通过粒子滤波器的微分实现学习。过去在优化这种模型方面的努力通常需要了解真实状态，这可能是昂贵的，甚至在实践中无法获得。在本文中，为了减少对注释数据的需求，我们提出了一个端到端的学习目标的基础上最大化的伪似然函数，可以提高估计的状态时，大部分的真实状态是未知的。我们评估所提出的方法在机器人状态估计任务与模拟和真实世界的数据集的性能。
2021-03-28 cs.LG stat.ML
Differentiable Bootstrap Particle Filters for Regime-Switching Models
University of Surrey（萨里大学）；University of Edinburgh（爱丁堡大学）
针对实际场景中状态动力学与测量值存在多模型切换的问题，提出一种面向体制切换状态空间模型的可微粒子滤波方法，可学习未知候选模型并跟踪状态后验，实验验证其性能优于同类竞争算法。
2023-05-03 cs.LG eess.SP
Differentiable Particle Filtering using Optimal Placement Resampling
1 Department of Control for Transportation；Vehicle Systems, Faculty of Transportation Engineering；Vehicle Engineering, Budapest University of Technology
本文提出了一种基于经验累积分布函数的可微重采样方法，用于解决传统粒子滤波中因非可微性导致的参数估计问题。
2024-02-26 cs.LG stat.CO
Differentiable Particle Filtering without Modifying the Forward Pass
University of British Columbia（不列颠哥伦比亚大学）；Inverted AI；Mila
粒子滤波器与自动微分不兼容，这是由于存在离散的再分解步骤。虽然基于Fisher恒等式的得分函数的已知估计量可以使用粒子滤波器来计算，但到目前为止，它们需要手动实现。在本文中，我们表明，这样的估计可以使用自动微分计算，引入一个简单的修正粒子权重后。该校正利用停止梯度算子，并且不修改前向传递上的粒子滤波器操作，同时还便宜且易于计算。令人惊讶的是，在相同的校正下，自动微分也可以为后验期望的梯度产生良好的估计。因此，我们可以把我们的方法看作是使粒子滤波器可微的一般方法。我们还表明，它产生所需的估计二阶导数，以及如何扩展它，以进一步减少额外的计算费用的方差。
2021-10-19 cs.LG stat.ML
Auto-differentiable Ensemble Kalman Filters
University of Chicago（芝加哥大学）
数据同化是关于连续估计时间演变状态。这个任务，这在广泛的科学和工程应用中出现，是特别具有挑战性的状态时，是高维的状态空间动态是未知的。本文介绍了一个用于数据同化中动力系统学习的机器学习框架。我们的自微分集合卡尔曼滤波器（AD-EnKFs）将用于状态恢复的集合卡尔曼滤波器与用于学习动态的机器学习工具相结合。在这样做时，AD-EnKF利用集合卡尔曼滤波器缩放到高维状态的能力和自动微分的能力来训练动态的高维代理模型。使用Lorenz-96模型的数值结果表明，AD-EnKF优于使用期望最大化或粒子滤波器合并数据同化和机器学习的现有方法。此外，AD-EnKF易于实现，并且需要最少的调谐。
2021-07-19 cs.LG stat.CO stat.ML
PyDPF: A Python Package for Differentiable Particle Filtering
Max-Planck（马克斯·普朗克）；University of London（伦敦大学）
PyDPF是基于PyTorch的Python包，实现了统一API的可微分粒子滤波器，可复现相关实验，用于解决状态空间建模的常见挑战，便于算法使用与比较。
2026-10-07 cs.LG eess.SP
Efficient Learning of the Parameters of Non-Linear Models using Differentiable Resampling in Particle Filters
University of Liverpool（利物浦大学）；Uppsala University（乌普萨拉大学）
已经有大量文献证明，粒子滤波器中的采样和重新采样步骤不能区分。引入了{ \itshape重新参数化技巧}，以允许将采样步骤重新公式化为可微函数。我们扩展了{ \itshape reparameterisation技巧}，以包括随机输入，从而限制在这一步之后的梯度计算的不连续性。知道先验和似然的梯度允许我们运行粒子马尔可夫链蒙特卡罗（p-MCMC），并在估计参数时使用无U形转弯采样器（NUTS）作为建议。我们比较了Metropolis调整的Langevin算法（MALA），哈密顿蒙特卡罗与不同的步骤和NUTS。我们考虑两个状态空间模型，并表明NUTS提高了混合的马尔可夫链，可以产生更准确的结果，在更少的计算时间。
2022-04-27 cs.LG stat.ML
DualSMC: Tunneling Differentiable Filtering and Planning under Continuous POMDPs
Tsinghua University（清华大学）；Stanford University（斯坦福大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Institute for Advanced Study（高等研究院）；Massachusetts Institute of Technology（麻省理工学院）
求解连续POMDPs的一个主要困难是推断未观察到的真实状态的多模态分布，并使规划算法依赖于感知的不确定性。我们投POMDP过滤和规划问题作为两个密切相关的顺序蒙特卡罗（SMC）过程，一个在真实的状态和其他未来的最佳轨迹，并结合这两个部分的优点，在一个新的模型命名为DualSMC网络。特别是，我们首先介绍了一种对抗性粒子滤波器，它利用了其内部组件之间的对抗关系。基于过滤结果，我们提出了一种规划算法，该算法扩展了以前的SMC规划方法[Piche等人，2018年]连续POMDPs与不确定性依赖的政策。至关重要的是，DualSMC不仅可以处理复杂的观察，如图像输入，而且它仍然具有高度的可解释性。它被证明是有效的，在三个连续的POMDP域：地板定位域，3D明暗导航域，和修改后的Reacher域。
2020-05-07 cs.AI cs.LG cs.RO
Differentiable Interacting Multiple Model Particle Filtering
University of Surrey（萨里大学）；National Physical Laboratory（英国国家物理实验室）；University of Edinburgh（爱丁堡大学）；King’s College London（伦敦国王学院）
提出一种可微交互多模型粒子滤波算法，通过梯度下降学习行为跳变模型的高维参数，同时开发低方差梯度估计器，在理论与数值实验中均优于现有方法。
2024-12-18 cs.LG eess.SP stat.ML
Auto-differentiable data assimilation: Co-learning of states, dynamics, and filtering algorithms
School of Mechanical Engineering, Purdue University（普渡大学机械工程学院）；Department of Statistics, The University of Chicago（芝加哥大学统计学系）；Department of Computer Science, The University of Chicago（芝加哥大学计算机科学系）；NSF-Simons National Institute for Theory and Mathematics in Biology, Chicago, IL（国家理论与生物数学研究所）
本文提出一种自动可微数据同化框架，通过联合学习状态、动力学和滤波算法参数，解决传统数据同化方法依赖昂贵参数调优和准确模型的问题，展示了其在多个科学领域中的应用。
2026-03-21 cs.LG eess.SP math.DS
Learning state and proposal dynamics in state-space models using differentiable particle filters and neural networks
School of Mathematics, University of Edinburgh（爱丁堡大学数学学院）；Electrical and Computing Engineering, Rice University（莱斯大学电气与计算机工程学院）
提出StateMixNN方法，用神经网络学习粒子滤波的提议与转移分布，以对数似然训练，仅需观测序列，在非线性场景中显著提升隐藏状态恢复。
2025-03-26 cs.LG stat.CO stat.ML
Differentiable All-pole Filters for Time-varying Audio Systems
Chin-Yun Yu Equal contribution. ,\, Christopher Mitcheltree ,\, Alistair Carson ,\, Stefan Bilbao ,\, Joshua D. Reiss ,\
本文提出一种可微时变全极点滤波器实现，使递归滤波器梯度能通过自身反向传播，从而突破自动微分框架限制，实现含极点滤波器的音频系统端到端训练，并在移相器、合成器和压缩器上验证了其训练效率与建模能力。
2024-10-19 cs.LG cs.SD eess.AS
Learning to be Smooth: An End-to-End Differentiable Particle Smoother
University of California, Irvine（加利福尼亚大学欧文分校）
本文提出端到端可微的“双滤波器”混合密度粒子平滑器，通过分层与重要性加权重采样实现跨长时序的低方差梯度传播，并在城市规模车辆定位中显著优于现有粒子滤波与搜索基线。
2025-02-14 cs.AI cs.LG cs.RO
Differentiable Adaptive Kalman Filtering via Optimal Transport
Shanghai Research Institute for Intelligent Autonomous Systems（上海智能自主系统研究所）；Tongji University（同济大学）；School of Computer Science and Technology（计算机科学与技术学院）；Shanghai Jiaotong University（上海交通大学）；Shanghai Zhangjiang Institute of Mathematics（上海张江数学研究所）；East China Normal University（华东师范大学）
提出 OTAKNet，通过最优传输与单步预测测量似然建立联系，解决基于学习的自适应 Kalman 滤波中噪声统计漂移问题，实现无需标签的完全在线自适应。
2025-08-09 cs.LG eess.SP
Rethinking Differentiable Search for Mixed-Precision Neural Networks
UC San Diego（加州大学圣地亚哥分校）
低精度网络，权重和激活量化到低位宽，被广泛用于加速边缘设备上的推理。然而，目前的解决方案是统一的，使用相同的位宽的所有过滤器。这不能考虑不同滤波器的不同灵敏度，并且是次优的。混合精度网络通过根据各个滤波器的要求调整位宽来解决这个问题。在这项工作中，最优的混合精度网络搜索（MPS）的问题被认为是。为了克服其离散搜索空间和组合优化的困难，提出了一种新的可微搜索结构，通过利用MPS问题的独特性质来提高效率。由此产生的高效可微混合精度网络搜索（EdMIPS）方法可以有效地为多个流行网络找到最佳比特分配，并且可以在合理的时间内直接在ImageNet上搜索大型模型，例如Inception-V3，而无需代理任务。学习的混合精度网络明显优于其统一的同行。
2020-04-13 cs.CV cs.LG cs.NE
Diffusion differentiable resampling
Department of Information Technology, Uppsala University, Sweden（乌普萨拉大学信息科技系，瑞典）
针对序贯蒙特卡洛中的可微重采样问题，提出一种基于无训练扩散模型代理的信息性且即时可微的重采样方法，理论证明其一致性，并在多个滤波和参数估计基准上优于现有方法。
2026-05-28 cs.LG math.ST stat.ML
Differentiable and Stable Long-Range Tracking of Multiple Posterior Modes
University of California, Irvine（加利福尼亚大学欧文分校）
针对传统粒子滤波器依赖已知生成模型、现有判别式粒子滤波器梯度有偏或高方差的问题，提出基于连续混合密度的混合密度粒子滤波器，通过重要性采样梯度估计器实现无偏低方差梯度，在跟踪与机器人定位任务上提升了准确性与训练稳定性。
2024-04-12 cs.AI cs.LG cs.RO
Differentiable Filtering for Learning Hidden Markov Models
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Coordinated Science Laboratory（协调科学实验室）；Department of Mechanical Science and Engineering（机械科学与工程系）
本文提出Belief Net，通过将前向滤波建模为结构化神经网络，利用随机梯度下降学习隐马尔可夫模型参数，实现高效且可解释的参数估计。
2026-04-24 cs.LG cs.SY eess.SY
Differentiable Systematic Resampling for Variational Sequential Monte Carlo
KTH Royal Institute of Technology（瑞典皇家理工学院）
针对粒子滤波器重采样步骤离散阻碍变分序列蒙特卡洛梯度学习的问题，提出可微系统重采样DSR，其计算开销低且性能相当或更优，可用于滤波与动力学学习。
2026-10-30 cs.LG eess.SP stat.ML
PF-GNN: Differentiable particle filtering based approximation of universal graph representations
School of Computing, National University of Singapore（新加坡国立大学计算机学院）；PayPal Innovation Lab（PayPal创新实验室）
针对消息传递GNN表达能力受1-WL测试限制的问题，提出基于可微粒子滤波的PF-GNN，通过采样IR范式的着色搜索树近似通用图表示，端到端可微且仅线性增加耗时，在合成与真实数据集上性能优于主流GNN。
2024-01-31 cs.AI cs.LG
Enhanced SMC$^2$: Leveraging Gradient Information from Differentiable Particle Filters Within Langevin Proposals
University of Liverpool（利物浦大学）
本研究提出在SMC$^2$的Langevin提议中利用CRN-PF的一阶梯度信息，有效解决了高维参数空间下随机游走提议的挑战，提高了参数估计准确性和有效样本量，并通过MPI并行化实现了51倍加速。
2024-07-24 cs.LG stat.AP stat.ML
Differentiable Safe Controller Design through Control Barrier Functions
University of Pennsylvania（宾夕法尼亚大学）
基于学习的控制器，如神经网络（NN）控制器，可以表现出很高的经验性能，但缺乏正式的安全保证。为了解决这个问题，控制障碍函数（CBF）已被应用作为一个安全过滤器，以监测和修改基于学习的控制器的输出，以保证闭环系统的安全。然而，这种修改可能是短视的，具有不可预测的长期影响。在这项工作中，我们提出了一个安全的结构神经网络控制器，它采用可微CBF为基础的安全层，并研究安全的结构神经网络控制器在基于学习的控制性能。具体来说，两个配方的控制器进行比较：一个是基于投影和其他依赖于我们提出的集理论参数化。在数值实验中，这两种方法都证明了使用CBF作为单独的安全滤波器的闭环性能得到了改善。
2023-01-09 cs.LG cs.SY eess.SY
A Differentiable Framework for End-to-End Learning of Hybrid Structured Compression
Seoul National University（首尔国立大学）；AI Institute at Seoul National University（首尔国立大学人工智能研究所）
本文提出可微分框架 DF，将滤波器选择、秩选择与预算约束统一为单一解析形式，并通过 DML-S 和 DTL-S 实现端到端混合结构化压缩，实验证明其性能超越现有最先进方法。
2023-09-21 cs.AI cs.LG eess.IV
Probabilistic Energy Forecasting using Quantile Regressions based on a new Nearest Neighbors Quantile Filter
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
参数分位数回归是创建概率能源预测的有用工具。尽管如此，由于经典分位数回归是使用不可微的成本函数训练的，因此使用复杂的数据采掘技术（例如，人工神经网络）可能是复杂的。本文提出了一种方法，使用一个新的最近邻分位数过滤器，以获得独立的分位数回归所利用的数据采掘技术，没有不可微的成本函数。此后，使用2014年全球能源预测竞赛的数据集进行验证所提出的方法。结果表明，所提出的方法是能够解决类似的准确性，在类似的时间竞争的冠军的竞争任务，但需要一个强大得多的计算机。该属性可能与在线预测服务相关，对于该在线预测服务，需要使用不那么强大的机器来快速计算概率预测。
2019-03-18 cs.LG stat.ML
Rig Inversion by Training a Differentiable Rig Function
SEED Electronic Arts（SEED 艺电）
钻机反演是创建一种方法的问题，该方法可以找到最接近给定输入网格的钻机参数向量。在本文中，我们建议解决这个问题，首先获得一个可微的钻机功能，通过训练多层感知器近似钻机功能。然后，该可微分rig函数可以用于训练rig反演的深度学习模型。
2023-01-11 cs.AI cs.GR cs.LG
ABPT: Amended Backpropagation through Time with Partially Differentiable Rewards
SEIEE Shanghai Jiao Tong University（上海交通大学电子信息学院）
针对四旋翼控制中部分可微奖励导致BPTT梯度偏差的问题，提出结合0步与N步回报、利用Q值函数值梯度的ABPT方法，辅以熵正则化等机制，在仿真与真实飞行任务中实现更快收敛和更高奖励。
2025-05-21 cs.AI cs.LG cs.RO
Exact Learning of Arithmetic with Differentiable Agents
TML Lab, EPFL（EPFL TML实验室）
本文提出通过可微有限状态转录机实现精确算术学习，展示模型在微小数据集上可泛化至长输入的无误差表现。
2025-11-27 cs.AI cs.LG
Differentiable reservoir computing
Department of Mathematics and Statistics（数学与统计学系）；Centre National de la Recherche Scientifique (CNRS)（国家科学研究中心（CNRS））
本文研究了 reservoir 计算系统在不同可微性条件下的特性，提出了一种新的方法来分析 reservoir 过滤器的可微性，并展示了其在混沌动力系统学习中的应用。
2019-03-22 cs.LG cs.NE cs.SY
Self-Training with Differentiable Teacher
Georgia Institute of Technology（佐治亚理工学院）；Amazon（亚马逊）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
自我训练在各种半监督和弱监督学习任务中取得了巨大的成功。该方法可以被解释为教师-学生框架，其中教师生成伪标签，学生进行预测。两个模型交替更新。然而，这种简单的交替更新规则会导致训练不稳定。这是因为老师的一个小变化可能会导致学生的重大变化。为了解决这个问题，我们提出了DRIFT，可区分的自我训练的缩写，将师生视为Stackelberg游戏。在这个博弈中，领导者总是比追随者处于更有利的地位。在自我训练中，学生对预测性能做出贡献，教师通过生成伪标签来控制训练过程。因此，我们把学生当作领导者，把老师当作追随者。领导者通过承认追随者的策略来获得优势，其中涉及可微伪标签和可微样本权重。因此，领导者和追随者的互动可以有效地捕捉通过Stackelberg梯度，通过区分追随者的策略。半监督和弱监督分类以及命名实体识别任务的实验结果表明，我们的模型大大优于现有的方法。
2022-05-03 cs.CL cs.LG
Newton Losses: Using Curvature Information for Learning with Differentiable Algorithms
Stanford University（斯坦福大学）；University of Salzburg（萨尔茨堡大学）；University of Konstanz（康斯坦茨大学）；Tuebingen AI Center（蒂宾根人工智能中心）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
针对可微排序与最短路径损失的非凸及梯度消失、爆炸问题，本文提出 Newton Losses，仅利用损失的经验 Fisher 与 Hessian 二阶信息替换原损失，并在八种算法上验证其稳定提升。
2024-10-24 cs.LG
Non-Differentiable Supervised Learning with Evolution Strategies and Hybrid Methods
DeepMind（深度思维）
在这项工作中，我们表明，演化策略（ES）是一个可行的方法学习大型监督模型的不可微参数。ES是黑盒优化算法，估计模型参数的分布，但他们只被用于相对较小的问题。我们表明，它是可能的规模ES更复杂的任务和模型与数以百万计的参数。虽然使用ES的可微参数是计算上不切实际的（虽然可能），我们表明，一个混合的方法是实际可行的情况下，该模型具有可微和不可微的参数。在这种方法中，我们使用标准的基于梯度的方法来学习可微权重，同时使用ES来学习不可微参数-在我们的情况下，权重的稀疏掩码。所提出的方法具有令人惊讶的竞争力，并且当在多个设备上并行化时，与使用梯度下降的训练相比，训练时间开销可以忽略不计。此外，该方法允许从第一个训练步骤开始训练稀疏模型，因此它们可以比使用需要首先训练密集模型的方法时大得多。我们给出了监督前馈模型（如MNIST和CIFAR-10分类）以及递归模型（如用于文本到语音的SparseWaveRNN）的结果和分析。
2019-06-07 cs.LG cs.NE stat.ML
Finding High-Value Training Data Subset through Differentiable Convex Programming
Indian Institute of Technology, Kharagpur（印度理工学院卡拉格普尔分校）；Hewlett Packard Enterprise, Bangalore（慧与（Hewlett Packard Enterprise）班加罗尔）
为深度神经网络寻找有价值的训练数据点一直是许多应用的核心研究挑战。近年来，已经提出了用于计算单个训练数据点的“值”的各种技术来解释训练模型。然而，训练数据点的值还取决于其他选定的训练数据点-现有方法没有明确捕获的概念。本文研究了训练数据高值子集的选择问题。其关键思想是设计一个可学习的框架在线子集选择，这可以学习使用小批量的训练数据，从而使我们的方法可扩展。这导致了一个参数化的凸子集选择问题，该问题适用于可微凸规划范式，从而使我们能够在端到端训练中学习选择模型的参数。使用这个框架，我们设计了一个在线交替最小化的算法，用于联合学习选择模型和ML模型的参数。在一个合成数据集和三个标准数据集上的广泛评估表明，与最近的最先进的方法相比，我们的算法发现了一致的更高值的训练数据子集，有时比现有方法高出约20%。这些子集在发现错误标记的训练数据时也很有用。我们的算法需要运行时间与现有的估值函数。
2021-04-28 cs.LG
Improving Differentiable Architecture Search with a Generative Model
UC San Diego（加州大学圣地亚哥分校）
在DARTS等可微神经架构搜索（NAS）算法中，用于更新模型权重的训练集和用于更新模型架构的验证集是从相同的数据分布中采样的。因此，数据集中不常见的特征在训练过程中没有得到足够的关注。在本文中，我们没有引入更复杂的NAS算法，而是探索了将高质量的合成数据集添加到训练中可以帮助分类模型识别其弱点并提高识别精度的想法。我们引入了一种训练策略，称为“具有生成模型的可区分体系结构搜索（DASGM）”。在DASGM中，训练集用于更新分类模型权重，而合成数据集用于训练其架构。生成的图像具有与训练集不同的分布，这可以帮助分类模型学习更好的特征以识别其弱点。本文将DASGM构造成一个多层次的优化框架，并设计了一个有效的算法来求解，在CIFAR-10、CIFAR-100和ImageNet上的实验证明了DASGM的有效性。代码将提供。
2021-11-30 cs.CV cs.LG
PRDP: Progressively Refined Differentiable Physics
Technical University of Munich（慕尼黑技术大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
针对可微物理求解器迭代微分计算负担重的问题，提出渐进式精化可微物理方法PRDP，自适应调整物理精化水平，在不损失精度的前提下最高可将训练时间缩短62%。
2025-11-13 cs.LG
Differentiable Logics for Neural Network Training and Verification
Heriot-Watt University（赫瑞-瓦特大学）
近年来，神经网络（NN）的日益普及及其在现实世界应用中的日益普及引起了人们对其验证的重要性的关注。虽然验证是已知的计算困难的理论，许多技术已经提出了解决它在实践中。在文献中已经观察到，默认情况下，神经网络很少满足我们想要验证的逻辑约束。一个很好的行动过程是在验证它们之前训练给定的NN以满足所述约束。这个想法有时被称为持续验证，指的是训练和验证之间的循环。通常，通过指定将给定形式逻辑语言翻译成损失函数来实现具有约束的训练。这些损失函数然后被用于训练神经网络。因为出于训练目的，这些函数需要是可微的，所以这些转换被称为可微逻辑（DL）。这就提出了几个研究问题。什么样的可微逻辑是可能的？在持续验证的背景下，DL的特定选择有什么不同？从所得到的损失函数的角度来看，DL的理想标准是什么？在这篇扩展摘要中，我们将讨论并回答这些问题。
2022-07-14 cs.AI cs.LG cs.LO
Differentiable Scheduled Sampling for Credit Assignment
Carnegie Mellon University（卡内基梅隆大学）；DeepMind
我们证明，连续放松的argmax操作可以用来创建一个可微近似序列到序列（seq 2seq）模型的贪心解码。通过将这种近似结合到预定的采样训练过程中（Bengio等人，2015）--一种用于校正曝光偏差的众所周知的技术--我们引入了一个新的训练目标，该目标在任何地方都是连续的和可微的，并且可以在先前的解码决策改变其值的点附近提供信息梯度。此外，通过使用相关的近似，我们展示了一种类似的基于样本的训练方法。最后，我们表明，我们的方法优于交叉熵训练和预定的采样过程中的两个序列预测任务：命名实体识别和机器翻译。
2017-04-23 cs.CL cs.LG cs.NE
Differentiable Combinatorial Losses through Generalized Gradients of Linear Programs
Virginia Commonwealth University（弗吉尼亚联邦大学）
当样本具有内部结构时，我们经常会看到训练过程中优化的目标与推理过程中模型的目标之间的不匹配。例如，在序列到序列建模中，我们对高质量的翻译句子感兴趣，但训练通常在单词级别使用最大似然。自然的训练时间损失将涉及组合问题--基于动态规划的全局序列比对--但是组合问题的解决方案相对于其输入参数是不可微的，因此替代地使用可微损失。在这里，我们展示了如何执行梯度下降的组合优化算法，涉及连续的参数，例如边缘权重，并可以有效地表示为线性规划。我们证明梯度下降的有用性超过组合优化在序列到序列建模使用可微编码器-解码器架构与softmax或Gumbel-softmax，并在图像分类在弱监督设置，而不是正确的类为每张照片，只有组的照片标记正确，但无序的类集在训练过程中可用。
2020-10-02 cs.LG stat.ML
Gradient-based Training of Slow Feature Analysis by Differentiable Approximate Whitening
Institute for Neural Computation（神经计算研究所）；Ruhr-Universität Bochum（波鸿鲁尔大学）
我们提出了功率慢特征分析，一种基于梯度的方法，从高维输入流中提取时间上慢的特征，该输入流在更快的时间尺度上变化，作为慢特征分析（SFA）的变体，允许任意可微架构的端到端训练，从而显着扩展了可有效用于慢特征提取的模型类别。我们提供的实验证据表明，PowerSFA是能够提取有意义的和信息丰富的低维特征的情况下（a）合成低维数据，（b）自我视觉数据，以及（c）一个一般的数据集，可以定义点之间的对称非时间相似性。
2019-07-18 cs.LG stat.ML
Leveraging Intrinsic Gradient Information for Further Training of Differentiable Machine Learning Models
University of Bath（巴斯大学）
设计能够产生准确预测的模型是机器学习（ML）的基本目标。这项工作提出的方法表明，当目标变量（输出）相对于输入的导数可以从感兴趣的过程中提取时，例如，基于神经网络（NN）的代理模型，可以利用它们来进一步提高可微ML模型的准确性。本文概括了这一想法，并提供了实用的方法，可用于在各种应用中利用梯度信息（GI），包括：（1）提高生成对抗网络（GANs）的性能;（2）有效地调整NN模型复杂性;（3）正则化线性回归。数值结果表明，GI可以有效地增强ML模型与现有的数据集，证明了它的各种应用的价值。
2022-01-13 cs.LG stat.ML
Differentiable Augmentation for Data-Efficient GAN Training
Tsinghua University（清华大学）；MIT（麻省理工学院）；Adobe（奥多比）；CMU（卡内基梅隆大学）
生成对抗网络（GANs）的性能在有限的训练数据下严重恶化。这主要是因为机器人记住了确切的训练集。为了解决这个问题，我们提出了微分增强（DiffAugment），这是一种简单的方法，通过对真实和虚假样本施加各种类型的微分增强来提高GANs的数据效率。以前的尝试直接增加训练数据操纵真实图像的分布，产生的好处很少; DiffAugment使我们能够采用可微增强生成的样本，有效地稳定训练，并导致更好的收敛。实验表明，我们的方法在各种GAN架构和损失函数的无条件和类条件生成一致的收益。使用DiffAugment，我们在ImageNet 128 x128上实现了最先进的FID 6.80，IS 100.8，并在FFHQ和LSUN上减少了2- 4倍的FID。此外，仅用20%的训练数据，我们就可以在CIFAR-10和CIFAR-100上达到最高性能。最后，我们的方法可以生成高保真图像，只使用100张图像，而无需预训练，同时与现有的迁移学习算法。代码可在https://github.com/mit-han-lab/data-efficient-gans上获得。
2020-12-07 cs.CV cs.GR cs.LG
Rationalizing Transformer Predictions via End-To-End Differentiable Self-Training
Computational Linguistics, Department of Linguistics Bielefeld University（语言学计算系，语言学系比勒菲尔德大学）
本文提出一种端到端可微分的自训练范式，让单一Transformer模型同时承担理由选择、分类和补充分类三个角色，稳定高效地生成类别级理由，并在无显式监督下实现与人类标注的最先进对齐。
2025-08-15 cs.CL cs.LG
Differentiable Conformal Training for LLM Reasoning Factuality
Department of Computer Science, University of Illinois at Chicago, Chicago, United States（伊利诺伊大学芝加哥分校计算机科学系）；Department of Physics, University of Illinois at Urbana-Champaign, Urbana, United States（伊利诺伊大学厄巴纳-香槟分校物理系）
本文提出可微 conformal 训练方法，通过联合验证推理步骤中的事实性声明，提升 LLM 的事实性可靠性，实验显示在保持可靠性的同时，事实性声明保留率提升141%。
2026-04-22 cs.LG
Deep Differentiable Logic Gate Networks
Stanford University（斯坦福大学）；University of Konstanz（康斯坦茨大学）；University of Salzburg（萨尔茨堡大学）；University of Frankfurt（法兰克福大学）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
最近，研究越来越多地集中在开发高效的神经网络架构上。在这项工作中，我们探索逻辑门网络的机器学习任务，通过学习逻辑门的组合。这些网络包括诸如“AND”和“XOR”的逻辑门，其允许非常快速的执行。学习逻辑门网络的困难在于它们通常是不可微的，因此不允许用梯度下降进行训练。因此，为了进行有效的训练，我们提出了可微分逻辑门网络，这是一种结合了实值逻辑和网络的连续参数化松弛的架构。所得离散化逻辑门网络实现快速推理速度，例如，在单个CPU核心上每秒超过一百万个MNIST图像。
2022-10-15 cs.LG
Differentiable Earth Mover's Distance for Data Compression at the High-Luminosity LHC
University of California at San Diego（加利福尼亚大学圣迭戈分校）；Fermi National Accelerator Laboratory（费米国家加速器实验室）；European Organization for Nuclear Research (CERN)（欧洲核子研究中心）
本文提出用卷积神经网络学习可微推土机距离，替代计算密集的EMD实现，并用于高亮度LHC数据压缩的编码器训练，性能优于均方误差损失。
2023-12-29 cs.LG hep-ex physics.ins-det
Making Classical Machine Learning Pipelines Differentiable: A Neural Translation Approach
Seoul National University（首尔国立大学）；Microsoft（微软）；CMU（卡内基梅隆大学）
经典的机器学习（ML）管道通常由多个ML模型组成，其中管道内的模型是孤立训练的。相反，当训练神经网络模型时，使用反向传播同时训练构成神经模型的层。我们认为ML管道的孤立训练方案是次优的，因为它不能联合优化多个组件。为此，我们提出了一个框架，将预先训练的ML管道转换为神经网络，并使用反向传播联合微调管道内的ML模型。我们的实验表明，微调的翻译管道是一种很有前途的技术，能够提高最终的准确性。
2019-12-12 cs.LG stat.ML
Differentiability in Unrolled Training of Neural Physics Simulators on Transient Dynamics
School of Computation, Information and Technology（计算、信息与技术学院）；Technical University Munich（慕尼黑工业大学）
本文分析了神经物理模拟器展开训练中可微性的影响，发现不可微但展开的训练在校正设置中能显著提升精度，且可微模型表现最佳，这促使在缺乏完全可微性时整合数值模拟器。
2024-10-10 cs.LG physics.comp-ph
Lory: Fully Differentiable Mixture-of-Experts for Autoregressive Language Model Pre-training
Princeton University（普林斯顿大学）；Meta AI
针对MoE模型路由网络不可微的问题，提出全可微分MoE架构Lory，通过因果分段路由和相似度批处理技术实现自回归语言模型预训练，性能优于同参数量稠密模型且具备领域专业化能力。
2024-08-19 cs.CL cs.LG
Pix2Vex: Image-to-Geometry Reconstruction using a Smooth Differentiable Renderer
University of Konstanz（康斯坦茨大学）；Tel Aviv University（特拉维夫大学）
从图像重建3D几何形状的长期任务仍然是一个悬而未决的问题。在本文中，我们基于神经网络的强大功能，引入了Pix2Vex，这是一种经过训练的网络，可以将相机捕获的图像转换为3D几何图形。我们提出了一种新的微分渲染器（$DR$）作为一个前向验证手段在训练过程中。我们的关键见解是，$DR$产生的图像具有特定的外观，不同于典型的输入图像。因此，我们建议添加一个图像到图像的转换组件，在这些渲染风格之间进行转换。这种转换关闭了训练循环，同时允许只使用最少的监督，而不需要任何3D模型作为基础事实。与最先进的方法不同，我们的$DR$是$C^\infty$光滑的，因此在闭塞或非闭塞处不会显示任何不连续性。通过我们新颖的训练方案，我们的网络可以对不同类型的图像进行训练，而以前的工作通常只能对与$DR$呈现的外观相似的图像进行训练。
2019-05-26 cs.CV cs.LG
Learning Incompressible Fluid Dynamics from Scratch -- Towards Fast, Differentiable Fluid Models that Generalize
University of Bonn（波恩大学）
快速和稳定的流体模拟是从计算机生成图像到计算机辅助研发设计等应用的必要先决条件。然而，求解不可压缩流体的偏微分方程是一项具有挑战性的任务，传统的数值逼近方案的计算成本很高。最近的基于深度学习的方法承诺了巨大的加速，但没有推广到新的流体领域，需要流体模拟数据进行训练，或者依赖于将流体模拟的主要部分外包给传统方法的复杂管道。在这项工作中，我们提出了一种新的物理约束的训练方法，推广到新的流体域，不需要流体模拟数据，并允许卷积神经网络映射流体状态从时间点t到时间t + dt的后续状态在一个单一的向前通过。这简化了用于训练和评估神经流体模型的管道。经过训练后，该框架产生的模型能够进行快速流体模拟，并可以处理各种流体现象，包括马格努斯效应和卡门涡街。我们提供了一个交互式实时演示，以展示我们训练模型的速度和泛化能力。此外，经训练的神经网络是有效的可微分流体求解器，因为它们提供可微分更新步骤以及时推进流体模拟。我们利用这一事实的概念证明最优控制实验。我们的模型在计算速度和精度方面明显优于最近的可微流体求解器。
2021-03-02 cs.LG stat.ML
Differentiable Physics-based Greenhouse Simulation
提出了一种基于物理过程的可微温室模拟模型，其参数可以通过训练获得。基于物理的模拟模型是完全可解释的，并且能够在很长一段时间内对温室中的气候和作物动态进行状态预测。该模型的工作原理是构造一个线性微分方程组，并求解它们以获得下一个状态。我们提出了一个程序来解决微分方程，处理数据中丢失的不可观测状态的问题，并有效地训练模型。实验表明该方法是有效的。该模型在训练后显着改善，可以准确地模拟种植黄瓜的温室。
2022-11-21 cs.LG physics.app-ph
