Particle Graph Autoencoders and Differentiable, Learned Energy Mover's Distance
University of California San Diego（加州大学圣地亚哥分校）；California Institute of Technology（加州理工学院）；European Organization for Nuclear Research (CERN)（欧洲核子研究中心（CERN））
自动编码器在高能物理中的异常检测中有有用的应用，特别是对于在碰撞中产生的粒子的喷流-准直簇射，例如在CERN大型强子对撞机中的那些。我们探索使用基于图形的自动编码器，它在其“粒子云”表示的喷气机上运行，并可以利用喷气机内粒子之间的相互依赖性，用于此类任务。此外，我们通过图形神经网络开发了能量移动器距离的可微分近似，该近似随后可用作自动编码器的重建损失函数。
2021-11-24 cs.LG hep-ex physics.data-an
Three-dimensional granular flow simulation using graph neural network-based learned simulator
The University of Texas at Austin（得克萨斯大学奥斯汀分校）
本研究提出基于图神经网络的学习模拟器GNS，用于高效模拟三维颗粒流，在颗粒柱坍塌测试中成功泛化至未见纵横比，计算速度提升300倍。
2023-11-13 cs.LG physics.geo-ph
A finite-element-inspired bipartite graph learned simulator for manufacturability assessment in large-deformation sheet forming
Dyson School of Design Engineering（设计工程学院）；Imperial College London（帝国理工学院伦敦分校）；NVIDIA（NVIDIA公司）
提出交叉注意力二分图神经网络（CAtt-BiGNN），通过节点-单元二分图结构和边感知交叉注意力机制，实现大变形板材成形中节点位移增量和单元减薄量的耦合预测。
2026-10-15 cs.CE cs.LG
TorchResist: Open-Source Differentiable Resist Simulator
The Chinese University of Hong Kong（香港中文大学）；Huawei（华为）
针对光刻模拟器光刻胶建模能力不足的问题，提出开源可微分光刻胶模拟器TorchResist，采用解析方法建模并结合可微分编程与GPU并行计算，实现更高精度和效率，支持协同优化。
2025-02-06 cs.LG
Adversarial Variational Optimization of Non-Differentiable Simulators
University of Liège（列日大学）；New York University（纽约大学）
复杂的计算机模拟器越来越多地用于科学领域，作为将基础理论的参数与实验观察相结合的生成模型。在这种情况下进行推理通常是困难的，因为模拟器很少承认易处理的密度或似然函数。我们介绍了对抗变分优化（AVO），这是一种用于拟合不可微生成模型的无似然推理算法，该算法结合了生成对抗网络，变分优化和经验贝叶斯的思想。我们通过用特定领域的模拟器替换可微分生成网络来调整生成对抗网络的训练过程。我们解决由此产生的不可微极大极小问题，通过最小化两个敌对目标的变分上界。有效地，该过程导致学习模拟器参数上的建议分布，使得合成数据的边缘分布与观测数据的经验分布之间的JS偏差最小化。我们评估和比较的方法与模拟器产生离散和连续的数据。
2020-04-16 cs.LG stat.ML
DiffTune: Optimizing CPU Simulator Parameters with Learned Differentiable Surrogates
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）
CPU模拟器是建模CPU执行行为的有用工具。然而，由于设置其细粒度参数的成本和复杂性，例如单个指令的延迟，它们遭受不准确性。这种复杂性源于设计基准和度量框架所需的专业知识，这些基准和度量框架可以在如此细的粒度上精确地度量参数的值。在某些情况下，这些参数不一定有物理实现，因此基本上是近似的，甚至是不可测量的。在本文中，我们提出了DiffTune，一个系统，用于学习的x86基本块CPU模拟器的参数，从粗粒度的端到端的测量。给定一个模拟器，DiffTune首先用一个可微的替代函数（另一个近似原始函数的函数）替换原始模拟器来学习它的参数;通过使替代函数可微，DiffTune然后能够应用基于梯度的优化技术，即使原始函数是不可微的，例如CPU模拟器的情况。有了这个可微分的替代，DiffTune然后应用基于梯度的优化来产生模拟器参数的值，这些值最小化模拟器在地面真实端到端性能测量数据集上的误差。最后，将学习的参数插回原始模拟器。DiffTune能够自动学习llvm-mca的英特尔x86仿真模型中的整套微体系结构特定参数，llvm-mca是基于LLVM指令调度模型的基本块CPU仿真器。DiffTune的学习参数导致llvm-mca的平均误差不仅匹配而且降低了其原始的专家提供的参数值。
2020-12-05 cs.AR cs.LG cs.PL
Differentiable Energy-Based Regularization in GANs: A Simulator-Based Exploration of VQE-Inspired Auxiliary Losses
Faculty of Applied Informatics, Tomas Bata University in Zlin（应用信息学院，塔拉斯·巴塔大学）
本文通过基于模拟器的实验表明，VQE启发的能量项在GAN中无法提供可测量的因果优势，经典方法可完全复制其效果。
2025-12-28 cs.LG
Benchmarking Optimizers to Solve Inverse Problems with Differentiable Physics Simulators
Zhongguancun Academy（中关村学院）；Zhongguancun Institute of Artificial Intelligence（中关村人工智能研究院）
本文构建12个可微分物理模拟器及相应逆问题，基准测试多种优化器性能，为可微分编程中优化器的选择与设计提供指导。
2026-09-15 cs.LG math.OC physics.comp-ph
Augmenting Differentiable Simulators with Neural Networks to Close the Sim2Real Gap
University of Southern California（南加州大学）；Google（谷歌）
我们提出了一个可微的仿真架构铰接刚体动力学，使增强的分析模型与神经网络在任何一点的计算。通过基于梯度的优化，识别的仿真参数和网络权重进行有效的初步实验，在现实世界的数据集和sim2sim传输应用程序，而穷人的局部最优值通过随机搜索方法克服。
2020-07-12 cs.LG cs.RO cs.SY
Do Differentiable Simulators Give Better Policy Gradients?
Massachusetts Institute of Technology（麻省理工学院）
可微模拟器通过将随机目标的零阶梯度估计替换为基于一阶梯度的估计来保证强化学习的更快计算时间。然而，目前还不清楚是什么因素决定的性能的两个估计复杂的景观，涉及长期规划和控制的物理系统，尽管这个问题的实用程序的可微模拟器的关键相关性。我们表明，某些物理系统的特性，如刚度或不连续性，可能会损害一阶估计的有效性，并通过偏差和方差的镜头分析这种现象。我们还提出了一个$α$阶梯度估计，与$α\in [0,1]$，它正确地利用精确的梯度相结合的一阶估计的效率与零阶方法的鲁棒性。我们证明了传统的估计和优势的$α$阶估计的一些数值例子的陷阱。
2022-08-22 cs.AI cs.LG cs.RO
Physics-informed reservoir characterization from bulk and extreme pressure events with a differentiable simulator
Earth and Environmental Sciences Division, Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室地球与环境科学部）；Courant Institute School of Mathematics, Computing and Data Science, New York University（纽约大学柯朗研究所数学、计算与数据科学学院）
本文提出一种融合物理信息的机器学习方法，通过可微流体模拟器提升储层异质性表征的精度与物理一致性，有效降低压力推断误差。
2026-04-14 cs.LG
DiffCloth: Differentiable Cloth Simulation with Dry Frictional Contact
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；Tencent Lightspeed & Quantum Studios（腾讯光子工作室群）
织物仿真在计算机动画、服装设计、机器人辅助穿衣等领域有着广泛的应用。这项工作提出了一个微分布模拟器，其额外的梯度信息，有利于布相关的应用。我们的微分模拟器扩展了一个国家的最先进的布模拟器的基础上投影动力学（PD）和干摩擦接触。我们从以前的工作中汲取灵感，提出了一种快速和新颖的方法，用于在基于PD的干摩擦接触布料模拟中获得梯度。此外，我们进行了全面的分析和评估的有用性梯度接触丰富的布料模拟。最后，我们证明了我们的模拟器在一些下游应用程序，包括系统辨识，辅助敷料，闭环控制，逆设计，和实时到SIM传输的轨迹优化的功效。我们观察到大量的加速使用我们的梯度信息在解决这些应用程序中获得。
2022-07-17 cs.GR cs.LG
DiffPD: Differentiable Projective Dynamics
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）
我们提出了一种新的，快速微分模拟器的软体学习和控制应用。现有的可微分软体模拟器可以分为两类，根据其时间积分方法：使用显式时间步进方案的模拟器需要很小的时间步长，以避免梯度计算中的数值不稳定性，使用隐式时间积分的模拟器通常通过采用伴随方法并求解昂贵的线性化动力学来计算梯度。受投影动力学（PD）的启发，我们提出了微分投影动力学（DiffPD），一个高效的可微的基于PD的隐式时间积分的软体模拟器。DiffPD的关键思想是通过在前向PD模拟中利用预分解的Cholesky分解来加速反向传播。在接触处理方面，DiffPD支持两种类型的接触：描述接触和摩擦力的基于惩罚的模型以及强制执行非穿透条件和静摩擦的基于互补的模型。我们评估性能的DiffPD和观察它是4-19倍的速度比标准的牛顿的方法在各种应用中，包括系统辨识，逆设计问题，轨迹优化，闭环控制。我们还应用DiffPD在现实到模拟（现实到SIM）的例子与接触和碰撞，并显示其重建一个数字孪生的现实世界的场景的能力。
2021-10-11 cs.GR cs.LG
j-Wave: An open-source differentiable wave simulator
University College London（伦敦大学学院）
我们提出了一个开源的可微分声学模拟器，j-Wave，它可以解决时变和时谐声学问题。它支持自动微分，这是一种程序转换技术，有许多应用，特别是在机器学习和科学计算中。j-Wave由模块化组件组成，可以轻松定制和重用。同时，它还兼容一些最流行的机器学习库，如JAX和TensorFlow。针对广泛使用的k-Wave工具箱和声学仿真软件的队列，对已知配置的仿真结果的准确性进行了评估。j-Wave可从https://github.com/ucl-bug/jwave获得。
2022-06-30 cs.LG cs.MS cs.SD
Guiding Evolutionary Strategies by Differentiable Robot Simulators
Tinkoff
近年来，进化策略在机器人任务中被积极探索用于策略搜索，因为它们提供了强化学习算法的更简单的替代方案。然而，这类算法通常被认为是非常样本效率低下的。另一方面，人们对可微分机器人模拟器（DRS）的兴趣越来越大，因为它们可能只需要少数轨迹就可以找到成功的策略。但是，由此产生的梯度并不总是有用的一阶优化。在这项工作中，我们演示了如何DRS梯度可以与进化策略结合使用。初步结果表明，这种组合可以减少样本复杂性的进化策略的3倍-5倍，在模拟和现实世界。
2021-11-09 cs.AI cs.LG cs.NE
ChainQueen: A Real-Time Differentiable Physical Simulator for Soft Robotics
Massachusetts Institute of Technology（麻省理工学院）；Tsinghua University（清华大学）
物理仿真器在机器人规划和控制中得到了广泛的应用。其中，微分模拟器是特别受欢迎的，因为它们可以被纳入基于梯度的优化算法，有效地解决逆问题，如最优控制和运动规划。然而，与刚体动力学相比，模拟可变形物体更具挑战性。可变形物体的基本物理定律更加复杂，并且所得到的系统具有多个数量级的自由度，因此它们的模拟在计算上显著更昂贵。相对于物理设计或控制器参数计算梯度通常在计算上更具挑战性。提出了一种基于移动最小二乘物质点法（MLS-MPM）的实时的【形】可微混合拉格朗日-欧拉可变形物体物理模拟器ChainQueen。MLS-MPM可以模拟包括接触在内的可变形物体，并且可以无缝地集成到推理，控制和协同设计系统中。我们证明了我们的模拟器在向前模拟和向后梯度计算方面都达到了很高的精度。我们已经成功地将其用于软体机器人的各种控制任务，包括近3,000个决策变量的问题。
2018-10-02 cs.AI cs.GR cs.LG
Pretrained Video Models as Differentiable Physics Simulators for Urban Wind Flows
ETH Zurich（苏黎世联邦理工学院）；Tel Aviv University（特拉维夫大学）；TU Darmstadt（达姆施塔特工业大学）
本文提出WinDiNet，一种预训练视频扩散模型，用于快速模拟城市风流，通过反向传播优化建筑布局以提升风安全性和行人舒适度。
2026-07-01 cs.CE cs.LG
Simulator-Refined Diffusion for Radio-Frequency Inverse Design
University of Virginia（弗吉尼亚大学）；Arena Physica
本文提出模拟器精化扩散（SRD），结合可微代理与不可微模拟器，解决扩散模型在PCB逆向设计中难以满足电磁规格的问题，实验显示S参数匹配度显著提升。
2026-10-01 cs.AI cs.LG
DiffSim2Real: Deploying Quadrupedal Locomotion Policies Purely Trained in Differentiable Simulation
Robotic Systems Lab, ETH Zürich（苏黎世联邦理工学院机器人系统实验室）；Georgia Institute of Technology（佐治亚理工学院）；The AI Institute（人工智能研究所）；Institute for Research in Technology, ICAI School of Engineering, Comillas Pontifical University（科米利亚斯主教大学技术研究所（ICAI工程学院））
本文提出DiffSim2Real，利用可微分仿真器的解析梯度训练四足运动策略，并通过平滑接触模型兼顾梯度信息与物理精度，首次实现纯可微分仿真训练策略在真实四足机器人上的成功迁移。
2024-11-04 cs.LG cs.RO
DiffTaichi: Differentiable Programming for Physical Simulation
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；Adobe Research（奥多比研究院）；UC Berkeley（加州大学伯克利分校）
我们提出了DiffTaichi，一个新的微分程序设计语言量身定制的高性能微分物理模拟器。基于命令式程序设计语言，DiffTaichi使用保留算术强度和并行性的源代码转换生成模拟步骤的梯度。一个轻量级的磁带被用来记录整个模拟程序的结构和重放梯度内核在相反的顺序，端到端的反向传播。我们在10个不同的物理模拟器上展示了我们的语言在基于梯度的学习和优化任务中的性能和生产力。例如，用我们的语言编写的可微分弹性对象模拟器比手工设计的CUDA版本短4.2倍，但运行速度一样快，比TensorFlow实现快188倍。使用我们的可微程序，神经网络控制器通常仅在数十次迭代内优化。
2020-02-14 cs.GR cs.LG physics.comp-ph
Differentiability in Unrolled Training of Neural Physics Simulators on Transient Dynamics
School of Computation, Information and Technology（计算、信息与技术学院）；Technical University Munich（慕尼黑工业大学）
本文分析了神经物理模拟器展开训练中可微性的影响，发现不可微但展开的训练在校正设置中能显著提升精度，且可微模型表现最佳，这促使在缺乏完全可微性时整合数值模拟器。
2024-10-10 cs.LG physics.comp-ph
ReMiDi: Reconstruction of Microstructure Using a Differentiable Diffusion MRI Simulator
University of California Santa Cruz（加州大学圣克鲁兹分校）；Indian Institute of Technology Madras（印度马德拉斯理工学院）；King's College London（伦敦国王学院）；Inria-Saclay（法国国家信息与自动化研究所萨克雷分部）
ReMiDi提出一种利用可微分dMRI模拟器，通过优化网格潜在表示，从参考信号重建任意形状神经元微结构（如脑白质轴突）的方法。
2025-02-28 cs.GR cs.LG eess.IV
Differentiable Hybrid Traffic Simulation
University of Maryland, College Park（马里兰大学帕克分校）；NVIDIA（英伟达）
介绍了一种新的可微分混合交通模拟器，它采用宏观和微观模型的混合模型模拟交通，并可直接集成到神经网络中进行交通控制和流量优化。这是第一个可微分的宏观和混合模型的交通模拟器，可以计算跨时间步长和非均匀车道的交通状态的梯度。为了在混合框架中计算两种类型的交通模型之间的梯度流，我们提出了一种新的中间转换组件，该组件也以可区分的方式桥接车道。我们还表明，我们可以使用分析梯度来加速整个过程，提高可扩展性。由于这些梯度，我们的模拟器可以提供更有效和可扩展的解决方案，复杂的学习和控制问题，在交通工程比其他现有的算法。有关我们的项目，请参阅https://sites.google.com/umd.edu/diff-hybrid-traffic-sim。
2022-10-14 cs.GR cs.LG cs.MA
Gradient-based Trajectory Optimization with Parallelized Differentiable Traffic Simulation
University of Maryland at College Park（马里兰大学学院公园分校）；Kitware（Kitware公司）
本文提出基于IDM的并行可微交通仿真器，支持实时仿真200万辆车，并通过梯度优化实现轨迹过滤、重建与预测，且在NGSIM和Waymo数据集上得到验证。
2025-02-18 cs.DC cs.LG cs.RO
Learning collision operators from plasma phase space data using differentiable simulators
GoLP/Instituto de Plasmas e Fusão Nuclear, Instituto Superior Técnico, Universidade de Lisboa（GoLP/等离子体与核融合研究所，理工学院，里斯本大学）；Mani L. Bhaumik Institute for Theoretical Physics, University of California, Los Angeles（马尼·L·巴乌米克理论物理研究所，加州大学洛杉矶分校）；The Rudolf Peierls Centre for Theoretical Physics, University of Oxford（鲁道夫·皮埃尔尔斯理论物理中心，牛津大学）；Department of Physics and Astronomy University of California, Los Angeles（物理与天文学系，加州大学洛杉矶分校）
提出一种结合可微分Fokker-Planck求解器与梯度优化方法，从等离子体相空间数据推断碰撞算子的方法，并在二维PIC模拟数据上验证其准确性和计算效率。
2026-06-02 cs.LG physics.comp-ph physics.plasm-ph
DiffSkill: Skill Abstraction from Differentiable Physics for Deformable Object Manipulations with Tools
Carnegie Mellon University（卡内基梅隆大学）；UC San Diego（加州大学圣地亚哥分校）；MIT（麻省理工学院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
我们考虑的问题，顺序机器人操作的可变形物体使用工具。以前的工作已经表明，可微物理模拟器提供梯度的环境状态，并帮助轨迹优化收敛的数量级更快比无模型强化学习算法的变形对象操作。然而，这种基于梯度的轨迹优化通常需要访问完整的模拟器状态，并且由于局部最优而只能解决短期的单技能任务。在这项工作中，我们提出了一个新的框架，名为DiffSkill，它使用一个可微的物理模拟器的技能抽象来解决长期的可变形对象操作任务从感官观察。特别是，我们首先使用基于梯度的优化器中的单个工具获得短期技能，使用可微模拟器中的完整状态信息;然后我们从以RGBD图像为输入的演示轨迹中学习神经技能抽象器。最后，我们通过找到中间目标来规划技能，然后解决长期任务。我们展示了我们的方法的优势，在一组新的顺序可变形对象操作任务相比，以前的强化学习算法相比，轨迹优化。
2022-03-31 cs.CV cs.GR cs.LG
AD-NEGF: An End-to-End Differentiable Quantum Transport Simulator for Sensitivity Analysis and Inverse Problems
Tianjin University（天津大学）；Noah’s Ark Lab, Huawei（华为诺亚方舟实验室）；University College London（伦敦大学学院）；Institute of Physics, Chinese Academy of Sciences（中国科学院物理研究所）
本文提出首个端到端可微分NEGF量子输运模拟器AD-NEGF，在PyTorch中结合隐式层技术实现高效梯度计算，用于灵敏度分析、参数拟合与掺杂优化，加速材料设计。
2023-06-07 cond-mat.mes-hall cs.LG quant-ph
Does "Do Differentiable Simulators Give Better Policy Gradients?" Give Better Policy Gradients?
The University of Tokyo（东京大学）
本文探讨可微模拟器在策略梯度方法中的有效性，提出DDCG和IVW-H两种方法，通过切换估计器和控制方差提升鲁棒性与样本效率。
2026-10-27 cs.AI cs.LG cs.RO
Differentiable Implicit Soft-Body Physics
University of Utah（犹他大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
我们提出了一个可微的软体物理模拟器，可以组成神经网络作为一个可微层。与其他使用显式前向模型来定义状态转换的可微物理方法相比，我们专注于通过函数最小化定义的隐式状态转换。隐式数值积分方法中出现隐式状态转换，其提供大时间步长和优异的数值稳定性的益处，但是由于没有显式可微前向传递而需要特殊处理以实现可微性。与其他需要力函数和力雅可比矩阵的显式公式的隐式微分方法相比，我们提出了一种基于能量的方法，该方法允许我们通过反向模式自动微分自动计算这些导数并以无矩阵的方式进行计算。这在定义物理模型时允许更大的灵活性和生产力，并且在神经网络训练的上下文中特别重要，神经网络训练通常依赖于反向模式自动微分（反向传播）。我们证明了我们的可微模拟器在运动任务的策略优化中的有效性，并表明它比无模型强化学习实现了更好的样本效率。
2021-09-09 cs.GR cs.LG
pi-Net: Empirical Latent Representations for Differentiable Physics Heads in Data-Scarce Systems
Tampere University（坦佩雷大学）；University of Helsinki（赫尔辛基大学）
pi-Net是一种物理信息潜在变量模型，通过编码器与可微物理头的混合架构，在仅60个实验样本的气体金属电弧焊案例中，R²达0.864，显著优于纯数据驱动基线，解决了数据稀缺多物理系统的预测建模问题。
2026-10-14 cs.AI cs.LG
Fitting summary statistics of neural data with a differentiable spiking network simulator
École polytechnique fédérale de Lausanne (EPFL)（洛桑联邦理工学院）
将网络模型拟合到神经活动是神经科学中的重要工具。一种流行的方法是用概率性周期性尖峰网络对大脑区域进行建模，该网络的参数最大化记录活动的可能性。虽然这是广泛使用的，我们表明，由此产生的模型不会产生现实的神经活动。为了纠正这一点，我们建议增加对数似然与衡量模拟和记录的活动之间的差异的条款。这种差异是通过神经科学中常用的汇总统计来定义的，并且优化是有效的，因为它依赖于通过随机模拟的尖峰序列的反向传播。我们从理论上分析了这种方法，并实证表明，它产生更现实的活动统计。我们发现，它改进了其他拟合算法的尖峰网络模型，如GLM（广义线性模型），通常不依赖于反向传播。这种新的拟合算法还可以考虑隐藏的神经元，这是众所周知的困难，我们表明，当试图从尖峰记录推断网络连接时，它可能是至关重要的。
2021-11-14 cs.LG q-bio.NC stat.ML
Leveraging Reward Gradients For Reinforcement Learning in Differentiable Physics Simulations
University of California, Santa Barbara（加州大学圣巴巴拉分校）
近年来，完全可微刚体物理模拟器已经被开发出来，它可以用来模拟各种机器人系统。在用于控制的强化学习的背景下，这些模拟器理论上允许算法直接应用于奖励函数的分析梯度。然而，到目前为止，这些梯度被证明是非常具有挑战性的，并且被完全不使用梯度信息的算法所超越。在这项工作中，我们提出了一种新的算法，交叉熵分析策略梯度，能够利用这些梯度，以超越最先进的深度强化学习的一组具有挑战性的非线性控制问题。
2022-03-06 cs.LG cs.RO cs.SY
Neural Painters: A learned differentiable constraint for generating brushstroke paintings
我们探索神经画家，从一个真正的不可微和非确定性绘画程序学习的笔触生成模型。我们表明，当训练一个代理使用笔触“画”图像时，使用可微分神经画家会导致更快的收敛。我们提出了一种方法，鼓励这个代理人在重建数字时遵循人类的笔画。我们还探讨了使用神经画家作为可微图像参数化。通过直接优化笔触来激活预先训练的卷积网络中的神经元，我们可以直接可视化ImageNet类别并生成每个类别的“理想”绘画。最后，我们提出了一个新的概念，称为内在风格转移。通过最大限度地减少神经风格转移的内容损失，我们允许艺术媒介，在这种情况下，笔触，自然地决定了最终的风格。
2019-04-22 cs.CV cs.LG stat.ML
Dropout's Dream Land: Generalization from Learned Simulators to Reality
Department of Computer Science and Engineering Hong Kong University of Science and Technology（香港科技大学计算机科学与工程学系）；Hong Kong University of Science and Technology（香港科技大学）
世界模型是用于模拟环境的生成模型。世界模型已经被证明能够学习强化学习环境的空间和时间表示。在某些情况下，世界模型为智能体提供了完全在自己的梦境环境中学习的机会。在这项工作中，我们将探索如何提高从梦境环境到真实环境的泛化能力（Dream 2 Real）。我们提出了一种通用的方法来提高控制器的能力，从一个神经网络的梦想环境转移到现实中，在很少的额外成本。这些改进是通过从Domain Randomization中汲取灵感而获得的，Domain Randomization的基本思想是在不从根本上改变手头任务的情况下尽可能多地随机化模拟器。通常，域随机化假设可以访问具有可配置参数的预构建模拟器，但通常这是不可用的。通过使用dropout训练世界模型，梦境环境能够创建几乎无限数量的不同梦境环境。先前的dropout用例要么在推理时不使用dropout，要么对多个采样掩码生成的预测进行平均（Monte-Carlo Dropout）。Dropout's Dream Land利用每个独特的面具来创造一系列不同的梦境环境。我们的实验结果表明，辍学的梦想土地是一个有效的技术，以弥合现实之间的差距，梦想环境和现实。此外，我们还进行了一系列广泛的消融研究。
2021-09-17 cs.LG
NGN: Learning Neural Network Size as a Differentiable Count
Cornell University（康奈尔大学）
提出神经发生网络（NGN），通过可微边界学习有序结构组件的数量，实现结构容量作为可微计数优化，并在多种架构上验证了与固定规模模型相当的性能。
2026-09-24 cs.LG
Differentiable Physics Simulations with Contacts: Do They Have Correct Gradients w.r.t. Position, Velocity and Control?
Siemens Technology（西门子科技）；Flatiron Institute（熨斗研究所）
近年来，越来越多的工作集中在可微物理模拟上，并产生了一系列开源项目，如Tiny Differentiable Simulator，Nimble Physics，diffTaichi，Brax，Warp，Dojo和DiffCoSim。通过使物理模拟端到端可区分，我们可以执行基于梯度的优化和学习任务。大多数可微模拟器考虑物体之间的碰撞和接触，但它们使用不同的接触模型来实现可微性。本文综述了四种可微接触形式-线性互补问题（LCP）、凸优化模型、柔顺模型和基于位置的动力学（PBD）。我们分析和比较这些模型计算的梯度，并表明梯度并不总是正确的。我们还展示了他们的能力，学习最优控制策略，通过比较学习的策略与最优策略的分析形式。重现实验结果的代码库可在https://github.com/DesmondZhong/diff_sim_grads上获得。
2022-07-08 cs.AI cs.LG cs.RO
Physics-informed machine learning with differentiable programming for heterogeneous underground reservoir pressure management
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）
避免地下储层中的过压对于CO2封存和废水注入等应用至关重要。由于地下复杂的非均质性，通过控制注入/开采来管理压力具有挑战性。这种异质性通常需要高保真的基于物理学的模型来预测CO $_2$的命运。此外，准确表征异质性充满了参数的不确定性。考虑到异质性和不确定性，这对当前的油藏模拟器来说是一个具有挑战性的计算密集型问题。为了解决这个问题，我们使用具有全物理模型和机器学习的可微编程来确定流体提取率，以防止关键储层位置的过压。我们使用DPFEHM框架，它具有基于标准两点通量有限体积离散化的可靠物理特性，并且也像机器学习模型一样自动可微。我们的物理信息机器学习框架使用卷积神经网络来学习基于渗透率场的适当提取率。我们还进行了超参数搜索，以提高模型的准确性。执行训练和测试场景以评估使用物理信息机器学习来管理储层压力的可行性。我们构建并测试了一个足够准确的模拟器，是40万倍的速度比底层的基于物理的模拟器，允许近实时分析和强大的不确定性量化。
2022-06-21 cs.LG physics.comp-ph physics.geo-ph
Black-Box Optimization with Local Generative Surrogates
Imperial College London（帝国理工学院）；SLAC National Accelerator Laboratory（SLAC国家加速器实验室）；University of Oxford（牛津大学）
我们提出了一种新的方法，基于梯度优化的黑盒模拟器使用可微的本地代理模型。在物理学和工程学等领域，许多过程都是用不可微的模拟器建模的，具有难以处理的可能性。这些正演模型的优化是特别具有挑战性的，特别是当模拟器是随机的。为了解决这种情况，我们引入了深度生成模型的使用，以在参数空间的局部邻域中迭代地近似模拟器。我们证明，这些本地代理人可以用来近似模拟器的梯度，从而使基于梯度的优化模拟器参数。在模拟器对参数空间的依赖被约束到低维子流形的情况下，我们观察到我们的方法比基线方法更快地达到最小值，包括贝叶斯优化，数值优化和使用得分函数梯度估计的方法。
2020-06-15 cs.LG hep-ex physics.data-an
Imagining The Road Ahead: Multi-Agent Trajectory Prediction via Differentiable Simulation
Inverted AI；University of British Columbia（不列颠哥伦比亚大学）；Mila
我们开发了一个基于完全可微模拟器的深度生成模型，用于多智能体轨迹预测。代理建模与条件递归变分神经网络（CVRNNs），作为输入的自我为中心的鸟瞰图像表示当前世界的状态和输出的动作，包括转向和加速，这是用来推导出随后的代理状态使用的运动自行车模型。然后，为每个代理可区分地呈现完整的模拟状态，启动下一个时间步。我们在INTERACTION数据集上实现了最先进的结果，使用标准神经架构和标准变分训练目标，产生现实的多模态预测，而没有任何ad-hoc多样性引起的损失。我们进行消融研究，以检查模拟器的各个组件，发现运动自行车模型和鸟瞰图像的连续反馈对于实现这种性能水平至关重要。我们将我们的模型命名为ITRA，意为“想象未来之路”。
2021-04-22 cs.LG stat.ML
Differentiable Simulation of Hard Contacts with Soft Gradients for Learning and Control
University of Tübingen（图宾根大学）；Masaryk University（马萨里克大学）
本文提出DiffMJX，通过结合自适应时间积分与惩罚模拟提升梯度精度，并引入接触距离（CFD）解决接触梯度消失问题，提高仿真与现实的匹配度。
2026-03-23 cs.LG cs.RO cs.SY
Differentiable Symbolic Planning: A Neural Architecture for Constraint Reasoning with Learned Feasibility
Sithara Inc.（Sithara公司）
本文提出可微符号规划（DSP），通过神经架构实现离散符号推理并保持全可微性，结合通用认知内核（UCK）在约束推理基准中取得高准确率。
2026-02-19 cs.AI cs.LG
Scaling Face Interaction Graph Networks to Real World Scenes
Google DeepMind（谷歌DeepMind）
本文提出一种内存高效的图网络模拟方法及可编辑NeRF感知接口，使学习模拟器能以更低内存处理真实场景并仅依赖感知输入，从而扩展其实际应用范围。
2024-01-22 cs.CV cs.LG cs.RO
K-TRAIL: Simulator-Guided Generative Design of EM/RF Circuits
Oregon State University（俄勒冈州立大学）；Yale University（耶鲁大学）
针对射频/电磁电路逆向设计难、仿真昂贵的问题，提出K-TRAIL模拟器引导生成框架，结合扩散模型与集成卡尔曼引导，无需梯度即可优化布局，实验证明能改善目标响应一致性并发现多样可行设计。
2026-09-22 cs.LG
Hybrid Physical-Neural Simulator for Fast Cosmological Hydrodynamics
ETH Zürich（苏黎世联邦理工学院）；Université Paris-Saclay（巴黎-萨克雷大学）；CEA（欧洲核子研究中心）；CNRS（法国国家科学研究中心）；AIM（原子分子影像研究所）
提出混合物理-神经模拟器，用可微粒子网格求解引力并用神经网络参数化流体动力学，实现高数据效率的宇宙学场级推断。
2025-10-30 astro-ph.CO cs.LG
Towards Learned Simulators for Cell Migration
Eindhoven University of Technology（埃因霍温理工大学）
由深度学习驱动的模拟器作为一种有效模拟精确但昂贵的数值模拟器的工具越来越受欢迎。这种神经模拟器的成功应用可以在物理、化学和结构生物学等领域中找到。同样，细胞动力学的神经模拟器可以增强实验室实验和传统的计算方法，以增强我们对细胞与其物理环境相互作用的理解。在这项工作中，我们提出了一个自回归概率模型，可以重现单细胞迁移的时空动态，传统上模拟与细胞Potts模型。我们观察到，标准的单步训练方法不仅会导致不一致的推出稳定性，而且也无法准确地捕捉动态的随机方面，我们提出了训练策略，以减轻这些问题。我们对两个概念验证实验方案的评估表明，神经方法有可能忠实地模拟随机细胞动力学，至少比细胞Potts模型的最先进实现快一个数量级。
2022-11-02 cs.CV cs.LG cs.NA
Differentiable Rule Induction with Learned Relational Features
IBM Research（IBM研究院）；IBM France Lab（IBM法国实验室）；Inria Saclay Ile-de-France（法国国家信息与自动化研究所萨克莱法兰西岛分院）
基于规则的决策模型由于其可解释性而具有吸引力。然而，现有的规则归纳方法往往会导致长，从而更少的可解释的规则模型。这个问题通常可以归因于缺乏适当的表达词汇，即，在决策模型中用作文字的相关谓词。大多数现有的规则归纳算法都假设预定义的字面量，从而自然地将字面量的定义与规则学习阶段分离开来。相比之下，我们提出了关系规则网络（R2N），这是一种神经架构，可以学习表示数值输入特征之间线性关系的文字以及使用它们的规则。这种方法通过将文字学习直接与规则学习以端到端可区分的方式耦合，为增加诱导决策模型的表达能力打开了大门。在基准测试任务中，我们证明了这些学习到的文字足够简单，可以保持可解释性，但可以提高预测精度，并提供比最先进的规则归纳算法更简洁的规则集。
2022-07-28 cs.LG stat.ME stat.ML
Semigroup Consistency as a Diagnostic for Learned Physics Simulators
Georgia Institute of Technology（佐治亚理工学院）
提出归一化半群误差作为评估学习型物理模拟器时间组合和长程推演一致性的诊断指标，在热传导和Burgers动力学实验中验证其与推演退化正相关。
2026-05-25 cs.AI cs.LG cs.NA
Deep Learning Explicit Differentiable Predictive Control Laws for Buildings
Pacific Northwest National Laboratory（太平洋西北国家实验室）
针对未知非线性系统，提出了一种学习约束控制律的可微预测控制方法。DPC提出了一个近似的解决方案，多参数规划问题出现显式非线性模型预测控制（MPC）。与近似MPC相反，DPC不需要专家控制器的监督。相反，系统动力学模型是从观察到的系统的动态学习，神经控制律是离线优化利用可微闭环系统模型。一个可微的闭环系统和惩罚方法的约束处理系统的输出和输入的组合，使我们能够优化控制律的参数直接通过反向传播的经济MPC损失通过学习的系统模型。所提出的DPC方法的控制性能证明在模拟使用多区域建筑热动力学的学习模型。
2021-07-25 cs.LG cs.SY eess.SY
Learned Turbulence Modelling with Differentiable Fluid Solvers: Physics-based Loss-functions and Optimisation Horizons
Technical University of Munich（慕尼黑工业大学）
在本文中，我们训练基于卷积神经网络的湍流模型。这些学习的湍流模型改进了模拟时不可压缩纳维-斯托克斯方程的欠分辨低分辨率解。我们的研究涉及一个微分数值求解器，支持通过多个求解器步骤的优化梯度的传播的发展。这些模型在训练过程中展开更多的求解器步骤，其卓越的稳定性和准确性证明了此属性的重要性。此外，我们引入了基于湍流物理的损失项，进一步提高了模型的精度。这种方法被应用到三个二维湍流的情况下，均匀的衰减湍流的情况下，一个时间上不断变化的混合层，和一个空间上不断变化的混合层。与无模型模拟相比，我们的模型实现了长期后验统计的显着改进，而不需要将这些统计数据直接包含在学习目标中。在推理时，我们提出的方法也获得了实质性的性能改进类似的准确，纯数值方法。
2022-08-26 cs.LG physics.comp-ph physics.flu-dyn
Encoding Physical Constraints in Differentiable Newton-Euler Algorithm
Department of Computer Science, University of Southern California（南加州大学计算机科学系）；Facebook Artificial Intelligence Research（Facebook人工智能研究院）
递归牛顿-欧拉算法（RNEA）是计算机器人动力学的一种流行技术。RNEA可以构建为可微分计算图，使机器人的动力学参数能够通过现代自动微分工具箱从数据中学习。然而，以这种方式学习的动态参数在物理上可能是不可信的。在这项工作中，我们通过向学习的参数添加结构来将物理约束纳入学习。这导致可以通过梯度下降学习物理上合理的动态的框架，从而提高训练速度以及学习的动态模型的泛化。我们评估我们的方法实时逆动力学控制任务的7度自由度的机器人手臂，无论是在模拟和真实的机器人。我们的实验研究了一个频谱的结构添加到可微RNEA算法的参数，并比较它们的性能和推广。
2020-10-08 cs.LG cs.RO
When Generative Models Act as Simulators
California Institute of Technology（加州理工学院）
本研究探究生成模型能否充当模拟器，通过两种映射在奥赛罗和雷世界中验证，发现映射效果依赖环境，逆映射可在探测网络引导失败时成功。
2026-10-12 cs.AI cs.LG
Simulator-Based Self-Supervision for Learned 3D Tomography Reconstruction
Aalto University（阿尔托大学）；NVIDIA（英伟达）；NVIDIA Research（英伟达研究院）
本文提出一种基于快速可微CT模拟器的自监督深度学习方法，仅用含噪二维X射线数据即可实现低剂量螺旋锥束CT三维重建，在视觉保真度和PSNR上优于依赖参考重建的方法，且重建速度远快于迭代技术。
2023-05-26 cs.CV cs.LG cs.NE
Accelerated Policy Learning with Parallel Differentiable Simulation
NVIDIA（英伟达）；Massachusetts Institute of Technology（麻省理工学院）；University of Sydney（悉尼大学）；University of Toronto（多伦多大学）
深度强化学习可以生成复杂的控制策略，但需要大量的训练数据才能有效工作。最近的工作试图解决这个问题，利用微分模拟器。然而，固有的问题，如局部最小值和爆炸/消失的数值梯度，防止这些方法被普遍应用于控制任务与复杂的接触丰富的动态，如人形运动在经典的RL基准。在这项工作中，我们提出了一个高性能的微分模拟器和一个新的策略学习算法（SHAC），可以有效地利用模拟梯度，即使在存在非平滑。我们的学习算法通过平滑的评价函数来解决局部极小值问题，通过截断的学习窗口来避免梯度消失/爆炸，并允许许多物理环境并行运行。我们评估我们的方法对经典的RL控制任务，并表现出显着的改善，在样本效率和挂钟时间超过国家的最先进的RL和可微的基于模拟的算法。此外，我们通过将其应用于具有较大动作空间的肌肉驱动运动的具有挑战性的高维问题，证明了我们方法的可扩展性，与性能最佳的已建立RL算法相比，训练时间减少了17倍以上。
2022-04-14 cs.AI cs.GR cs.LG
Deluca -- A Differentiable Control Library: Environments, Methods, and Benchmarking
Princeton University（普林斯顿大学）；Google AI Princeton（谷歌AI普林斯顿）；Microsoft Research（微软研究院）
我们提出了一个开源的原生可区分的物理和机器人环境库，伴随着基于梯度的控制方法和基准测试套件。所引入的环境允许通过模拟动态进行自动区分，从而允许控制器的快速训练。该库具有几种流行的环境，包括OpenAI Gym的经典控制设置。我们还提供了一个新的微分环境，基于深度神经网络，模拟医疗通气。我们给出了使用该库获得的新科学成果的几个用例。这包括一个医疗呼吸机模拟器和控制器，时变线性动态系统的自适应控制方法，和新的基于梯度的方法控制的线性动态系统与对抗扰动。
2021-02-19 cs.LG cs.RO
