Benchmarking Constraint Inference in Inverse Reinforcement Learning
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；University of Waterloo（滑铁卢大学）；Vector Institute（向量研究所）；Huawei（华为）
在将强化学习（RL）代理部署到物理系统中时，我们必须确保这些代理很好地了解底层约束。然而，在许多现实世界的问题中，约束往往很难在数学上指定，并且对RL代理来说是未知的。为了解决这些问题，逆约束强化学习（ICRL）根据专家演示经验估计约束。作为一个新兴的研究课题，ICRL没有共同的基准，以前的作品测试算法手工制作的环境下手动生成的专家演示。在本文中，我们构建了一个ICRL基准的RL应用领域的背景下，包括机器人控制，自动驾驶。对于每个环境，我们设计相关的约束和训练专家代理生成演示数据。此外，不同于现有的基线，学习一个确定性的约束，我们提出了一个变分ICRL方法来模拟候选约束的后验分布。我们在我们的基准下对这些算法进行了广泛的实验，并展示了它们如何有助于研究ICRL的重要研究挑战。该基准测试，包括复制ICRL算法的说明，可在https://github.com/Guiliang/ICRL-benchmarks-public上获得。
2023-03-02 cs.LG
MEDIRL: Predicting the Visual Attention of Drivers via Maximum Entropy Deep Inverse Reinforcement Learning
University of Virginia（弗吉尼亚大学）；University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；Rice University（莱斯大学）
受人类视觉注意力的启发，我们提出了一种新的逆强化学习公式，使用最大熵深度逆强化学习（MEDIRL）来预测事故多发情况下驾驶员的视觉注意力。MEDIRL通过从专注的司机记录的眼睛注视模式中学习任务敏感的奖励函数来预测导致最大奖励的注视位置。此外，我们还介绍了EyeCar，这是一种新的驾驶员注意力数据集，适用于事故多发情况。我们进行了全面的实验，以评估我们提出的模型在三个常见的基准：（DR（眼）VE，BDD-A，DADA-2000），和我们的EyeCar数据集。结果表明，MEDIRL在预测注意力方面优于现有模型，并达到了最先进的性能。我们提出了广泛的消融研究，以提供更多的见解，我们提出的模型的不同功能。
2021-10-06 cs.CV cs.HC cs.LG
X-MEN: Guaranteed XOR-Maximum Entropy Constrained Inverse Reinforcement Learning
Purdue University（普渡大学）
逆向强化学习（IRL）是一种从演示中进行示教学习的强大方法。在本文中，我们解决IRL问题的先验知识，最佳的政策将永远不会违反某些限制。传统的方法忽略了这些限制，需要许多的示范收敛。提出了XOR-最大熵约束逆强化学习（X-MEN）算法，保证了算法在线性速率下收敛到最优策略.学习迭代的次数。X-MEN将XOR采样（一种可证明的采样方法，将#P完全采样问题转换为对NP预言机的查询）嵌入到最大熵IRL的框架中。X-MEN还保证学习的策略永远不会生成违反约束的轨迹。在导航的实证结果表明，X-MEN收敛速度更快的最佳政策相比，基线方法，总是产生的轨迹，满足多状态组合约束。
2022-03-22 cs.LG
Inverse Constrained Reinforcement Learning
Information Technology University（信息技术大学）；Georgia State University（佐治亚州立大学）
在现实世界的设置中，存在许多难以数学地指定的约束。然而，对于强化学习（RL）的现实世界部署，RL代理意识到这些约束是至关重要的，以便他们可以安全地采取行动。在这项工作中，我们考虑的问题，学习约束，从演示的约束遵守代理的行为。我们的实验验证了我们的方法，并表明我们的框架可以成功地学习代理尊重的最有可能的约束。我们进一步表明，这些学习的约束是\textit{transferable}的新代理，可能有不同的形态和/或奖励功能。以前的工作在这方面主要是限制到表格（离散）设置，特定类型的约束或假设环境的过渡动态。相比之下，我们的框架是能够学习任意的\textit{Markovian}的约束，在一个完全无模型的设置在高维度。代码可以找到它：\url{https://github.com/shehryar-malik/icrl} .
2021-05-21 cs.LG cs.RO cs.SY
Maximum Entropy Deep Inverse Reinforcement Learning
University of Oxford（牛津大学）
本文提出了一个通用的框架，利用神经网络的代表能力，以近似复杂的，非线性的奖励函数的上下文中解决逆强化学习（IRL）问题。在这种情况下，我们表明，IRL的最大熵范式自然适合于深度架构的有效训练。在测试时，该方法导致独立于演示数量的计算复杂性，这使得它特别适合于终身学习场景中的应用。我们的方法实现了与现有基准的最先进水平相称的性能，同时超过了基于高度变化的奖励结构的替代基准。最后，我们扩展了基本架构-相当于宽度为1的全卷积神经网络（FCNN）的简化子类-以包括更大的卷积，以消除对预先计算的空间特征的依赖，并对原始输入表示进行处理。
2016-03-11 cs.LG
Robo-Advising: Enhancing Investment with Inverse Optimization and Deep Reinforcement Learning
The Vanguard Group, Inc.（先锋集团）
机器学习（ML）已被金融行业视为一种强大的工具，在包括投资管理在内的各个领域都有显着的应用。在这项工作中，我们提出了一个全周期数据驱动的投资机器人建议框架，由两个ML代理组成。第一代理，逆投资组合优化代理，使用在线逆优化直接从历史分配数据推断投资者的风险偏好和预期收益率。第二个代理，深度强化学习（RL）代理，聚合预期收益率的推断序列，以制定一个新的多期均值-方差投资组合优化问题，可以使用深度强化学习方法来解决。拟议的投资管道应用于2016年4月1日至2021年2月1日的实际市场数据，并显示其表现始终优于代表总体市场最佳配置的标准普尔500指数基准投资组合。这可能归因于多周期规划（与单周期规划相比）和数据驱动的RL方法（与经典估计方法相比）。
2021-05-19 cs.LG q-fin.CP q-fin.PM
Provably Efficient Exploration in Inverse Constrained Reinforcement Learning
School of Data Science, The Chinese University of Hong Kong, Shenzhen（数据科学学院，香港中文大学（深圳））；Stony Brook University, New York（石溪大学）
针对逆约束强化学习现有采样策略效率不明的问题，提出带效率保证的策略探索框架，基于误差分析设计两种算法，兼具理论样本复杂度保障与多环境实验验证。
2025-05-16 cs.AI cs.LG
Deep Adaptive Multi-Intention Inverse Reinforcement Learning
Eindhoven University of Technology（埃因霍温理工大学）
提出了一种深度逆强化学习（IRL）框架，该框架可以从未标记专家的演示中学习先验未知数量的非线性奖励函数。为此，我们使用狄利克雷过程的工具，并提出一种自适应方法来同时考虑复杂且未知数量的奖励函数。使用条件最大熵原理，我们将专家的多意图行为建模为潜在意图分布的混合，并推导出两种算法来估计深度奖励网络的参数以及来自未标记演示的专家意图的数量。所提出的算法进行评估的三个基准，其中两个已专门扩展在本研究中的多意图IRL，并与众所周知的基线。我们通过几个实验证明了我们的算法的优势，现有的方法和在线推断的好处，而不是事先固定，专家的意图的数量。
2021-07-14 cs.AI cs.LG
Deep Reinforcement Learning for Inverse Inorganic Materials Design
Massachusetts Institute of Technology（麻省理工学院）
实现具有所需性质的新型无机材料的主要障碍是不能在材料性质和这些材料的合成两者上进行有效的优化。在这项工作中，我们提出了一种强化学习（RL）的方法来逆无机材料设计，它可以识别有前途的化合物与指定的属性和合成能力的限制。我们的模型学习化学准则，如电荷和电负性中性，同时保持化学多样性和独特性。我们展示了一种多目标RL方法，该方法可以生成具有目标材料特性的新型化合物，包括形成能和体积/剪切模量以及较低的烧结温度合成目标。使用这种方法，该模型可以预测感兴趣的有前途的化合物，同时为无机材料的发现提出了优化的化学设计空间。
2022-10-21 cond-mat.mtrl-sci cs.LG
Recursive Deep Inverse Reinforcement Learning
Boston Dynamics AI Institute（波士顿动力AI研究院）
针对现有深度逆强化学习方法多为离线、收敛慢难适配实时场景的问题，提出基于序列二阶牛顿更新的在线递归深度逆强化学习方法，可快速还原对手代价函数，在基准任务上表现优于多种主流算法。
2026-07-27 cs.AI cs.LG
Multi-Objective Constraint Inference using Inverse reinforcement learning
Faculty of Sciences（科学学院）
本文提出多目标约束推断框架MOCI，用于从异质专家轨迹中联合提取共享约束和个体偏好，有效处理不同目标下的多样且可能冲突的行为，实验证明其在预测性能和计算效率方面优于现有方法。
2026-05-07 cs.AI cs.LG cs.MA
Deep Inverse Optimization
Concordia University（康考迪亚大学）
给定由优化过程生成的一组观测，逆优化的目标是确定该过程的可能参数。我们将逆优化视为深度学习的一种形式。我们的方法称为深度逆优化，是展开迭代优化过程，然后使用反向传播来学习生成观测值的参数。我们证明，通过内点算法的反向传播，我们可以学习的系数确定成本向量和约束，独立或联合，为非参数和参数线性规划，从一个或多个观察。通过这种方法，逆优化可以利用来自深度学习的概念和算法。
2018-12-03 cs.LG math.OC stat.ML
Deep Learning for Inverse Problems: Bounds and Regularizers
University College London（伦敦大学学院）
逆问题出现在许多领域，如医学成像，遥感等，依赖于使用先进的信号和图像处理方法-如稀疏驱动技术-以确定其解决方案。相反，本文研究了使用深度学习方法来近似逆问题的解决方案。特别是，该论文提供了一个新的泛化界，取决于与深度神经网络相关的关键量-其雅可比矩阵-这也导致了一些适用于逆问题的计算效率高的正则化策略。本文还测试了一些反问题，包括图像超分辨率的正则化策略。我们在各种数据集上进行的数值结果表明，使用源自我们理论的正则化或代理正则化策略正则化的全连接和卷积神经网络都表现出比使用标准方法（如权重衰减）正则化的深度网络更好的性能。
2019-01-31 cs.LG stat.ML
Unsupervised Deep Learning Algorithm for PDE-based Forward and Inverse Problems
Tel-Aviv University（特拉维夫大学）
我们提出了一种基于神经网络的算法，用于以无监督的方式求解偏微分方程的正问题和反问题。该解决方案是近似的深度神经网络，这是成本函数的最小化，并满足PDE，边界条件，和额外的正则化。该方法是无网格的，可以很容易地应用到一个任意的规则域。本文主要研究二维二阶椭圆系统的变系数问题，并将其应用于电阻抗成像。
2019-04-10 cs.LG stat.ML
Regularization by architecture: A deep prior approach for inverse problems
Center for Industrial Mathematics (ZeTeM)（工业数学中心（ZeTeM））；University of Bremen（不来梅大学）
本文在不适定反问题的背景下研究了所谓的深度图像先验（DIP）技术。DIP网络最近已被引入应用在图像处理，也首次实验结果应用DIP反问题已被报道。本文旨在讨论DIP的不同解释，并获得特定的网络设计和线性算子的分析结果。主要的贡献是介绍的想法，查看这些方法的优化吉洪诺夫泛函，而不是优化网络。除了理论结果，我们提出了数值验证。
2020-03-18 cs.LG stat.ML
Learning to Optimize via Wasserstein Deep Inverse Optimal Control
Georgia Institute of Technology（佐治亚理工学院）
我们研究社会科学中的逆最优控制问题：我们的目标是从观察到的时间行为中学习用户的真实成本函数。与传统的现象学工作，旨在学习一个生成模型，以适应行为数据，我们提出了一种新的变分原理和对待用户作为一个强化学习算法，其作用是通过优化他的成本函数。我们首先提出了一个统一的KL框架，推广现有的最大熵逆最优控制方法。我们进一步提出了一个两步Wasserstein逆最优控制框架。在第一步中，我们用一个新的质量输运方程计算最佳测量。在第二步中，我们将学习问题表述为生成对抗网络。在两个现实世界的实验-推荐系统和社交网络，我们表明，我们的框架获得显着的性能增益现有的逆最优控制方法和点过程为基础的生成模型。
2018-05-22 cs.LG stat.ML
Deep Learning-Based Solvability of Underdetermined Inverse Problems in Medical Imaging
Yonsei University（延世大学）
近年来，随着深度学习技术的发展，求解欠定逆问题成为医学成像领域的一个重要研究课题。典型的例子包括欠采样磁共振成像，内部断层扫描和稀疏视图计算机断层扫描，其中深度学习技术已经实现了出色的性能。虽然深度学习方法似乎克服了现有数学方法在处理各种欠定问题时的局限性，但缺乏严格的数学基础，使我们能够阐明深度学习方法卓越性能的原因。这项研究的重点是学习适合深度学习的训练数据结构的因果关系，以解决高度欠定的逆问题。我们观察到，大多数的问题，解决欠定线性系统在医学成像是高度非线性。此外，我们分析了所需的重建图是否可以从训练数据和欠定系统中学习。
2020-06-26 cs.LG eess.IV stat.ML
Inverse Mixed-Integer Programming: Learning Constraints then Objective Functions
NEC Corporation（日本电通株式会社）
本文提出了一种两阶段方法，用于从数据中同时学习混合整数规划问题的目标函数和约束，通过先学习约束再估计目标函数权重，提升逆优化的准确性与鲁棒性。
2026-10-06 cs.AI cs.LG math.OC
Survey of Deep Learning Methods for Inverse Problems
University of Waterloo（滑铁卢大学）
在本文中，我们研究了用于解决逆问题的各种深度学习策略。我们将逆问题的现有深度学习解决方案分为三类：直接映射、数据一致性优化器和深度正则化器。我们选择每种反问题类型的样本，以比较三种类别的鲁棒性，并报告其差异的统计分析。我们进行了广泛的实验上的经典问题的线性回归和三个著名的反问题，在计算机视觉，即图像去噪，3D人脸逆绘制，和对象跟踪，选择作为代表性的原型为每一类的反问题。总体结果和统计分析表明，解决方案类别具有依赖于反问题域的类型的鲁棒性行为，特别是依赖于问题是否包括测量离群值。根据我们的实验结果，我们得出结论，提出最强大的解决方案类别为每个反问题类。
2021-11-13 cs.AI cs.CV cs.LG
Benchmarking deep inverse models over time, and the neural-adjoint method
Duke University（杜克大学）
我们考虑的任务是解决一般的反问题，其中一个希望确定隐藏的参数的自然系统，将产生一组特定的测量。最近出现了许多基于深度学习的新方法，产生了令人印象深刻的结果。我们将这些模型概念化为不同的方案，有效地，但随机地，探索可能的逆解空间。因此，每种方法的准确性应该作为时间的函数来评估，而不是像现在经常做的那样，作为一个单一的估计解决方案。使用这个指标，我们比较了几个国家的最先进的逆建模方法的四个基准任务：两个现有的任务，一个简单的任务可视化和一个新的任务从超材料设计。最后，受我们对逆问题的概念的启发，我们探索了一种解决方案，该解决方案使用深度学习模型来近似正向模型，然后使用反向传播来搜索良好的逆解。这种方法，称为神经伴随，在许多情况下实现了最佳性能。
2021-10-11 cs.LG eess.SP stat.ML
Applications of Deep Learning for Ill-Posed Inverse Problems Within Optical Tomography
Department of Computer Science University College London（伦敦大学学院计算机科学系（注：按要求提取到大学级别，此处“Department of Computer Science University College London”整体作为机构，中文翻译为“伦敦大学学院计算机科学系”））
在医学成像中，越来越多地出现了围绕从原始测量数据重建噪声图像的问题。在正问题是从地面实况图像生成原始测量数据的情况下，逆问题是从测量数据重建那些图像。在医学成像的大多数情况下，经典的逆拉东变换（诸如用于MRI的逆傅里叶变换）对于从测量数据恢复干净图像很好地工作。不幸的是，在X射线CT的情况下，欠采样数据是非常常见的，需要比这更多的解决忠实和可用的图像。在本文中，我们探讨了解决X射线CT逆问题的经典方法的历史，然后分析了利用监督式深度学习的最新方法。最后，我们将为未来的研究提供一些可能的途径。
2020-03-21 cs.LG eess.IV stat.ML
Onsager-corrected deep learning for sparse linear inverse problems
The Ohio State University（俄亥俄州立大学）
深度学习由于在许多推理问题上的广泛成功而获得了极大的普及。我们考虑将深度学习应用于压缩感知中遇到的稀疏线性逆问题，其中寻求从少量噪声线性测量中恢复稀疏信号。在本文中，我们提出了一种新的神经网络架构，它以近似消息传递（AMP）算法在迭代过程中消除预测误差的相同方式跨层消除预测误差：通过Onsager校正。数值实验表明，我们的“学习AMP”网络显着提高了Gregor和LeCun的“学习ISTA”网络的准确性和复杂性。
2016-07-20 cs.IT cs.LG math.IT
Solution of Physics-based Bayesian Inverse Problems with Deep Generative Priors
University of Southern California（南加州大学）；Stanford University（斯坦福大学）
逆问题在自然界中无处不在，几乎出现在所有科学和工程领域，从地球物理学和气候科学到天体物理学和生物力学。解决反问题的核心挑战之一是解决其不适定性。贝叶斯推断提供了一个原则性的方法来克服这一点，制定了一个统计框架的逆问题。然而，它是具有挑战性的应用时，推断具有离散表示的大尺寸（所谓的“灾难的维度”）和/或当先验信息仅在先前获得的解决方案的形式可用的字段。在这项工作中，我们提出了一种新的方法，使用深度生成模型进行高效准确的贝叶斯反演。具体来说，我们演示了如何使用生成对抗网络（GAN）学习的近似分布作为贝叶斯更新的先验，并在GAN的低维潜在空间中重新制定由此产生的推理问题，从而有效地解决大规模贝叶斯逆问题。我们的统计框架保留了基础物理，并被证明可以产生准确的结果，具有可靠的不确定性估计，即使在缺乏有关基础噪声模型的信息的情况下，这对许多现有方法来说是一个重大挑战。我们证明了所提出的方法对各种反问题，其中包括合成以及实验观察到的数据的有效性。
2022-07-25 cs.LG stat.ML
One-dimensional Deep Image Prior for Time Series Inverse Problems
The University of Texas at Austin（得克萨斯大学奥斯汀分校）
我们将深度图像先验（DIP）框架扩展到一维信号。DIP使用随机初始化的卷积神经网络（CNN）通过优化权重来解决线性逆问题，以拟合观察到的测量结果。我们的主要发现是，适当调整的一维卷积架构为各种类型的时间信号（包括音频，生物信号和传感器测量）提供了出色的深度图像先验。我们证明了我们的网络可以用于各种恢复任务，包括缺失值填补，盲去噪和随机高斯投影的压缩感知。关键的挑战是如何通过仔细调整提前停止、总变差和权重衰减正则化来避免过拟合。我们的方法需要比Lasso少4倍的测量，并且优于NLM-VAMP对音频信号的随机高斯测量，具有与卡尔曼状态空间模型对各种数据的插补性能相似的插补性能，并且在从空气质量传感器读数中去除加性噪声方面优于小波滤波。
2019-04-18 cs.LG stat.ML
Projection-Based Correction for Enhancing Deep Inverse Networks
Department of Computer Science, Universidad Industrial de Santander（计算机科学系，圣安德烈斯工业大学）
本文提出一种基于投影的校正方法，通过约束解在有效解空间内并确保与前向模型一致，增强深度逆网络的推理，理论证明其可分解为值域和零空间分量，实验验证了重建精度的提升。
2025-05-21 cs.CV cs.LG physics.comp-ph
Deep Inverse Sensor Models as Priors for evidential Occupancy Mapping
Ford Werke GmbH（福特汽车有限公司）；RWTH Aachen University（亚琛工业大学）
随着最近自动驾驶的发展，人们越来越关注雷达作为占用地图的输入。除了它们的许多优点之外，基于雷达检测的占用空间的推断是非常困难的，因为数据稀疏性和环境相关噪声（例如，多径反射）。最近，基于深度学习的逆传感器模型，从这里开始称为深度ISM，已经被证明在检索占用信息方面优于其几何对应物。然而，这些方法执行数据驱动的插值，这必须在以后的测量中进行验证。在这项工作中，我们描述了一种新的方法来集成深度ISM连同几何ISM到证据占用映射框架。我们的方法利用数据驱动方法的能力来初始化几何模型尚未观察到的细胞，有效地提高感知场和收敛速度，同时使用几何ISM的精度来收敛到尖锐的边界。我们进一步定义了一个下限的深度ISM估计的确定性，连同分析证明的收敛，我们用来区分细胞，仅分配的深度ISM从细胞已经验证了使用几何方法。
2020-12-02 cs.LG cs.RO
Inverse Problems, Deep Learning, and Symmetry Breaking
University of Minnesota, Twin Cities（明尼苏达大学双城分校）
在许多物理系统中，与内在系统对称性相关的输入被映射到相同的输出。当反转这样的系统时，即，解决相关的反问题，没有唯一的解决方案。这导致部署新兴的端到端深度学习方法的根本困难。以广义相位恢复问题为例，通过对训练数据进行对称性破缺，可以有效地克服这一困难，提高学习性能.我们还提取并突出了所提出的解决方案，这是直接适用于其他反问题的基本数学原理。
2020-03-20 cs.LG cs.NA eess.SP
Performance Analysis and Dynamic Evolution of Deep Convolutional Neural Network for Nonlinear Inverse Scattering
ElectroScience Laboratory, The Ohio State University（俄亥俄州立大学电子科学实验室）
非线性电磁逆散射问题的求解通常受到诸如不适定性、强非线性和高计算成本等挑战的阻碍。最近，深度学习已被证明是解决这些挑战的一个有前途的工具。特别地，可以在深度卷积神经网络（CNN）和非线性EM逆散射的迭代求解方法之间建立联系。这导致了一种有效的基于CNN的非线性EM逆问题解决方案的开发，称为DeepNIS。结果表明，DeepNIS在图像质量和计算时间方面都优于传统的非线性逆散射方法。在这项工作中，我们使用结构相似性度量（SSIM）和均方误差（MSE）指标定量评估DeepNIS的性能作为层数的函数。此外，我们还通过研究DeepNIS的近等距特性来探讨其动态演化行为。结果表明，经过适当的训练阶段，建议的CNN的稳定性和泛化能力接近最优。
2019-01-09 cs.LG eess.SP physics.comp-ph
Intermediate Layer Optimization for Inverse Problems using Deep Generative Models
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
我们提出了中间层优化（ILO），这是一种新的优化算法，用于解决具有深度生成模型的反问题。而不是只优化初始的潜在代码，我们逐步改变输入层获得连续更有表现力的发电机。为了探索更高的维度空间，我们的方法搜索潜在的代码，位于一个小$l_1$球周围的流形诱导前一层。我们的理论分析表明，通过保持球的半径相对较小，我们可以使用深度生成模型来提高压缩感知的既定误差范围。我们的经验表明，我们的方法优于StyleGAN-2和PULSE中引入的最先进的方法，适用于各种逆问题，包括修复，去噪，超分辨率和压缩感知。
2021-02-15 cs.LG
Empirically Accelerating Scaled Gradient Projection Using Deep Neural Network For Inverse Problems In Image Processing
UNIST（蔚山国立科学技术院）
最近，深度神经网络（DNN）在加速优化算法方面显示出优势。一种方法是展开传统优化算法的有限次迭代，并学习算法中的参数。然而，这些都是向前的方法，实际上既不是迭代的，也不是收敛的。在这里，我们提出了一种新的基于DNN的收敛迭代算法，可以加速传统的优化算法。我们训练一个DNN来产生尺度梯度投影方法中的参数。到目前为止，这些参数的选择是严格的，但已被证明是至关重要的良好的经验表现。仿真结果表明，对于图像处理中的各种大规模反问题，该方法的经验收敛速度明显优于传统的优化方法.
2021-04-22 cs.CV cs.LG stat.ML
Deep Variational Inverse Scattering
University of Basel（巴塞尔大学）；Sharif University of Technology（谢里夫理工大学）；University of Zagreb（萨格勒布大学）
逆介质散射解算器通常重建单个解，而没有相关联的不确定性测量。这对于经典的迭代求解器和新兴的深度学习方法都是如此。但是病态性和噪音会使这个单一的估计不准确或误导。虽然深度网络（如条件归一化流）可用于对逆问题中的后验进行采样，但它们通常会产生低质量的样本和不确定性估计。在本文中，我们提出了U-Flow，一个基于条件归一化流的贝叶斯U-Net，它可以生成高质量的后验样本并估计物理意义上的不确定性。我们表明，该模型显着优于最近的归一化流量的后验样本质量，同时具有可比的性能与U-网的点估计。
2022-12-09 cs.LG
Deep Learning Methods for Solving Linear Inverse Problems: Research Directions and Paradigms
Beijing Jiaotong University（北京交通大学）；Northwestern Polytechnical University（西北工业大学）；Cranfield University（克兰菲尔德大学）；Alan Turing Institute（艾伦·图灵研究所）
线性反问题是各个科学领域发展的基础。在不同的应用中，已经进行了不间断的尝试来解决线性逆问题的不同变体。如今，深度学习的快速发展为解决线性逆问题提供了一个新的视角，它具有各种精心设计的网络架构，在许多应用中具有最先进的性能。在本文中，我们对深度学习在解决各种线性逆问题方面的最新进展进行了全面的调查。我们回顾了深度学习方法如何用于解决不同的线性逆问题，并探索了结构化神经网络架构，其中包含了传统方法中使用的知识。此外，我们确定了这条研究路线的开放挑战和潜在的未来方向。
2020-08-11 cs.LG cs.SY eess.IV
Deep learning based inverse method for layout design
Hong Kong University of Science and Technology（香港科技大学）
复杂约束布局设计是一个具有挑战性的问题，解决由于解决方案的非唯一性和困难，将约束到传统的基于优化的方法。在本文中，我们提出了一种设计方法的基础上，最近开发的机器学习技术，变分自动编码器（VAE）。我们利用学习能力的VAE学习的约束和生成能力的VAE生成的设计候选人，自动满足所有的约束。因此，在设计阶段不需要施加任何约束。此外，我们还表明，VAE网络也能够学习设计问题的底层物理，从而形成一种高效的设计工具，一旦网络构建完成，就不需要任何物理仿真。我们证明了两种情况下的性能的方法：表面扩散引起的形态变化和掩模设计的光学显微光刻的逆设计。
2018-06-07 cs.LG eess.SP stat.ML
Deep Coupled-Representation Learning for Sparse Linear Inverse Problems with Side Information
Vrije Universiteit Brussel（布鲁塞尔自由大学）；imec（比利时微电子研究中心）
在线性逆问题中，目标是从欠采样、不完整或有噪声的线性测量中恢复目标信号。通常，恢复依赖于复杂的数值优化方法;最近的方法将数值算法展开为神经网络形式，从而大幅降低了计算复杂性。在本文中，我们考虑恢复的目标信号的相关信号的帮助下，所谓的边信息（SI），并提出了一个深度展开模型，将SI。所提出的模型是用来学习耦合表示的相关信号从不同的方式，使多模态数据的恢复在一个较低的计算成本。因此，我们的工作介绍了第一个深度展开方法与SI，这实际上来自一个不同的模态。我们应用我们的模型来重建近红外图像从欠采样测量给定的RGB图像作为SI。实验结果表明，所提出的框架对不使用SI的单模态深度学习方法，多模态深度学习设计和优化算法的优越性能。
2019-07-04 cs.LG eess.SP stat.ML
Deep Forward and Inverse Perceptual Models for Tracking and Prediction
Institute for Robotics and Intelligent Machines, Georgia Institute of Technology（佐治亚理工学院机器人与智能机器研究所）；College of Computing, Georgia Institute of Technology（佐治亚理工学院计算学院）
我们考虑的问题，学习前向模型，将状态映射到高维图像和逆模型，将高维图像映射到机器人的状态。具体来说，我们提出了一个感知模型，用于通过深度网络从状态生成视频帧，并提供了一个框架，用于跟踪和预测任务。我们表明，我们提出的模型大大优于标准的去卷积方法和GANs的图像生成，产生清晰，照片般逼真的图像。我们还开发了一个卷积神经网络模型的状态估计和比较的结果扩展卡尔曼滤波器估计机器人轨迹。我们验证了一个真正的机器人系统的所有模型。
2018-05-20 cs.AI cs.LG cs.RO
Deep-Learning based Inverse Modeling Approaches: A Subsurface Flow Example
Peking University（北京大学）；Southern University of Science and Technology（南方科技大学）
深度学习已经取得了良好的性能，并显示出解决正问题和逆问题的巨大潜力。在这项工作中，提出并比较了两类创新的基于深度学习的逆建模方法。第一类是基于深度学习代理的反演方法，其中理论指导神经网络（TgNN）被构建为具有不确定模型参数的问题的深度学习代理。通过结合物理定律和其他约束，TgNN代理可以构建有限的模拟运行，并显着加快反演过程。提出了三种基于TgNN代理的反演方法，包括梯度法、迭代集成平滑器（IES）和训练方法。第二类是直接深度学习反演方法，其中提出了具有地质统计信息约束的TgNN，称为TgNN-geo，用于直接反演建模。在TgNN-geo中，引入了两个神经网络来近似各自的随机模型参数和解。由于先验地质统计信息可以被纳入，基于TgNN-geo的直接反演方法工作良好，即使在稀疏的空间测量或不精确的先验统计的情况下。虽然提出的基于深度学习的逆建模方法本质上是通用的，因此适用于各种各样的问题，但它们用几个地下流问题进行了测试。结果表明，该方法具有较高的效率，可获得满意的结果。此外，还进一步分析了所提出的两类基于深度学习的反演方法的优缺点。
2020-07-28 cs.LG eess.SP math.OC
Inverse design of photonic devices with strict foundry fabrication constraints
X Development LLC（X开发有限责任公司）；Google（谷歌）
我们介绍了一种新的方法，用于纳米光子器件的逆向设计，该方法保证所得到的设计满足严格的长度尺度约束-包括商业半导体代工厂所需的最小宽度和间距约束。该方法采用了机器学习中的若干概念，将具有严格长度尺度约束的拓扑优化问题转化为无约束随机梯度优化问题。具体来说，我们引入了一个条件生成器的可行设计，并采用了直通估计梯度的反向传播到一个潜在的设计。我们通过设计几个常见的集成光子器件来证明我们的方法的性能和可靠性。
2022-06-13 cs.ET cs.LG physics.optics
Convergence Guarantees of Overparametrized Wide Deep Inverse Prior
Normandie Univ.（诺曼底大学）；UNICAEN（卡昂大学）；ENSICAEN（卡昂国立高等工程师学院）；CNRS（法国国家科学研究中心）；GREYC（格雷克实验室）
近年来，神经网络已成为求解逆问题的一种重要方法。在不同的现有方法中，深度图像/逆先验（DIP）技术是一种无监督的方法，其优化高度过参数化的神经网络以将随机输入转换为对象，该对象在前向模型下的图像与观察结果匹配。然而，这种方法所需的过度参数化水平仍然是一个悬而未决的问题。在这项工作中，我们的目标是研究这个问题的两层神经网络的光滑激活函数。我们提供了overparametrization界限下，这种网络训练通过连续时间梯度下降将以高概率指数收敛，从而可以获得恢复预测界限。因此，这项工作是对overparametrized DIP网络的理论理解的第一步，更广泛地说，它参与反问题设置的神经网络的理论理解。
2023-03-20 cs.LG
Batch Inverse-Variance Weighting: Deep Heteroscedastic Regression
Mila - Quebec Institute of Artificial Intelligence（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）
异方差回归是监督学习的任务，其中每个标签都受到来自不同分布的噪声的影响。这种噪声可能是由标记过程引起的，并且负面地影响学习算法的性能，因为它违反了i.i.d.假设。然而，在许多情况下，标记过程能够估计每个标签的这种分布的方差，这可以用作减轻这种影响的附加信息。本文基于高斯-马尔可夫定理，提出了一种逆方差加权均方误差方法，用于神经网络的参数优化。我们引入批量逆方差，一个损失函数，这是强大的近地面的真相样本，并允许控制有效的学习率。我们的实验结果表明，与L2损失、逆方差加权以及基于滤波的基线相比，BIV显著提高了网络在两个噪声数据集上的性能。
2021-07-09 cs.AI cs.LG stat.ML
Deep Learning Techniques for Inverse Problems in Imaging
Rice University（莱斯大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of Chicago（芝加哥大学）；Stanford University（斯坦福大学）
机器学习领域的最新研究表明，深度神经网络可用于解决计算成像中出现的各种逆问题。我们探讨了这一新兴领域的中心流行主题，并提出了一个分类法，可用于对不同的问题和重建方法进行分类。我们的分类是沿着两个中心轴组织的：（1）前向模型是否已知，以及在训练和测试中使用的程度，以及（2）学习是否有监督或无监督，即，训练是否依赖于对匹配的地面实况图像和测量对的访问。我们还讨论了与这些不同的重建方法，警告和常见的故障模式，加上开放的问题和未来工作的途径相关的权衡。
2020-05-12 cs.LG eess.IV stat.ML
How Good Are Deep Generative Models for Solving Inverse Problems?
Simon Fraser University（西蒙弗雷泽大学）
本研究评估了扩散、GAN和IMLE三类深度生成模型在16倍超分辨率、着色和图像解压缩三个逆问题上的解有效性与不确定性估计可靠性，发现基于IMLE的CHIMLE方法表现最佳。
2023-12-20 cs.CV cs.LG
Deep Convolutional Framelets: A General Deep Learning Framework for Inverse Problems
Korea Advanced Institute of Science and Technology（韩国科学技术院）；Bio Imaging and Signal Processing Lab.（生物成像与信号处理实验室）；Department of Bio and Brain Engineering（生物与脑工程系）
最近，具有各种网络架构的深度学习方法在各种成像问题中比现有的迭代重建方法实现了显着的性能改进。然而，目前还不清楚为什么这些深度学习架构适用于特定的逆问题。为了解决这些问题，在这里，我们证明了长期寻找的缺失环节是卷积小框架，用于通过卷积局部和非局部基来表示信号。卷积小框架最初是为了推广低秩汉克尔矩阵反问题方法的理论而开发的，本文进一步扩展了这一思想，以便我们可以使用多层卷积小框架在直线线性单元非线性（ReLU）下获得深度神经网络。我们的分析还表明，流行的深度网络组件，如残差块，冗余过滤器通道和级联ReLU（CReLU）确实有助于实现PR，而池化和解池化层应使用高通分支进行扩展以满足PR条件。此外，通过改变滤波器通道数和偏置，我们可以控制神经网络的收缩行为。这一发现使我们提出了一种新的深度卷积小框架神经网络理论。通过各种逆问题的数值实验，我们证明了我们的深度卷积小框架网络与现有的深度架构相比表现出了一致的改进。这一发现表明，深度学习的成功不是来自黑盒子的神奇力量，而是来自一种新的信号表示的力量，这种信号表示使用了非局部基与数据驱动的局部基相结合，这实际上是经典信号处理理论的自然扩展。
2018-01-25 cs.CV cs.IT cs.LG
DeepRite: Deep Recurrent Inverse TreatmEnt Weighting for Adjusting Time-varying Confounding in Modern Longitudinal Observational Data
Georgia Institute of Technology（佐治亚理工学院）；IQVIA（艾昆纬）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
反事实预测是关于从数据中预测未观察到的情况的结果。例如，给定患者正在使用药物A，如果她改用药物B，结果会是什么。现有的大多数工作都集中在基于静态数据的反事实结果建模。然而，许多应用具有随时间变化的混杂效应，例如随着时间的推移进行多次治疗。如何根据纵向观测数据对这种随时间变化的效应进行建模？如何对数据中复杂的高维依赖进行建模？为了解决这些挑战，我们提出了深度递归逆处理加权（DeepRite），将递归神经网络纳入现代纵向数据中存在时变混杂的两阶段调整。在第一阶段队列重新加权中，我们拟合一个网络来发射治疗的时间相关逆概率，使用它们来生成伪平衡队列。在第二阶段的结果进展中，我们将调整后的数据输入到后续的预测网络中进行反事实预测。我们在合成数据和从重症监护室的脓毒症患者中收集的真实数据上评估DeepRite。DeepRite被证明可以从合成数据中恢复地面实况，并从真实数据中估计无偏的治疗效果，由于其适用于创建平衡的队列，因此可以更好地与败血症管理的标准指南保持一致。
2020-10-28 cs.LG
Implicit Regularization of the Deep Inverse Prior Trained with Inertia
Greyc, Normandie Univ., UNICAEN, ENSICAEN, CNRS（Greyc、诺曼底大学、UNICAEN、ENSICAEN、CNRS）
本文为采用惯性训练的自监督神经网络求解逆问题建立了收敛与恢复保证，提出兼具粘性与几何Hessian驱动阻尼的惯性算法，并证明其可获得优于梯度流的加速收敛速率。
2025-06-03 cs.LG
Differentiable Gaussianization Layers for Inverse Problems Regularized by Deep Generative Models
ExxonMobil Technology & Engineering Company（埃克森美孚技术与工程公司）
针对深度生成模型在反演中潜在张量偏离高斯分布导致低保真度的问题，提出可微数据相关层进行重新参数化和高斯化，在MRI等任务上实现最先进性能。
2024-07-29 cs.CV cs.LG
Multifidelity deep neural operators for efficient learning of partial differential equations with application to fast inverse design of nanoscale heat transport
University of Pennsylvania（宾夕法尼亚大学）；Massachusetts Institute of Technology（麻省理工学院）
深度神经算子可以通过深度神经网络学习无限维函数空间之间的算子映射，已经成为科学机器学习的新兴范式。然而，训练神经算子通常需要大量的高保真数据，而这些数据在实际工程问题中往往很难获得。在这里，我们通过使用多保真度学习来解决这一挑战，即，从多保真度数据集学习。我们开发了一个基于深度算子网络（DeepONet）的多保真度神经算子。多保真度DeepONet包括两个标准的DeepONet，通过残差学习和输入增强耦合。Multifidelity DeepONet显著减少了所需的高保真数据量，并在使用相同数量的高保真数据时实现了一个数量级的小误差。我们应用多保真度DeepONet来学习声子玻尔兹曼传输方程（BTE），这是一个计算纳米级热传输的框架。通过将经过训练的多保真度DeepONet与遗传算法或拓扑优化相结合，我们展示了BTE问题逆设计的快速求解器。
2022-04-14 cs.LG physics.comp-ph
Deep composition of tensor-trains using squared inverse Rosenblatt transports
Monash University（莫纳什大学）；University of Bath（巴斯大学）
刻画高维随机变量是随机计算的基本挑战之一。最近激增的运输地图提供了一个数学基础和新的见解，通过耦合棘手的随机变量与易处理的参考随机变量来应对这一挑战。本文将Dolgov等人（Stat Comput 30：603- 625，2020）最近提出的逆Rosenblatt输运的泛函张量列近似推广到一类高维非负函数，如非归一化概率密度函数。首先，我们扩展逆Rosenblatt变换，使运输一般的参考措施以外的统一措施。我们开发了一个有效的程序来计算这种运输从平方张量列车分解，保持单调性。更重要的是，我们将所提出的保序功能张量火车运输到一个嵌套的变量转换框架的启发，深层神经网络的分层结构。由此产生的深逆Rosenblatt输运显着扩展张量近似和输运映射到具有复杂非线性相互作用和集中密度函数的随机变量的能力。我们证明了所提出的方法在统计学习和不确定性量化中的一系列应用的效率，包括动力系统的参数估计和偏微分方程约束的反问题。
2021-10-19 cs.LG cs.NA math.NA
Physics-informed neural networks with hard constraints for inverse design
Massachusetts Institute of Technology（麻省理工学院）；Dalian University of Technology（大连理工大学）；Centre Internacional de Mètodes Numèrics en Enginyeria（国际工程数值方法中心）
逆向设计出现在工程的各个领域，如声学，机械，热/电子传输，电磁学和光学。拓扑优化是逆向设计的一种主要形式，我们优化设计的几何形状以实现目标属性，并且几何形状由密度函数参数化。这种优化是具有挑战性的，因为它具有非常高的维度，并且通常受到偏微分方程（PDE）和其他不等式的约束。在这里，我们提出了一种新的深度学习方法--具有硬约束的物理信息神经网络（hPINNs）--用于解决拓扑优化问题。hPINN利用PINN的最新发展来求解PDE，因此不依赖于任何数值PDE求解器。然而，所有的约束PINNs是软约束，因此，我们施加硬约束，通过使用惩罚方法和增广拉格朗日方法。我们证明了hPINN的光学全息问题和斯托克斯流的流体问题的有效性。我们实现了相同的目标，传统的PDE约束优化方法的基础上伴随方法和数值PDE求解器，但发现从hPINN获得的设计往往是更简单，更平滑的解决方案是不唯一的问题。此外，hPINN的逆设计的实现可以比传统的方法更容易。
2021-02-09 cs.LG physics.comp-ph
Novel Deep neural networks for solving Bayesian statistical inverse
George Mason University（乔治梅森大学）；University of Maryland, College Park（马里兰大学帕克分校）
本文研究了大规模线性和非线性偏微分方程（PDE）的贝叶斯统计反问题的模拟。马尔可夫链蒙特卡罗（MCMC）算法是解决此类问题的标准技术。然而，MCMC技术在计算上具有挑战性，因为它们需要数千个正向PDE解。本文的目标是介绍一种基于分数深度神经网络的方法，用于MCMC例程中的正向求解。此外，我们讨论了一些近似误差估计，并通过几个数值例子说明我们的方法的效率。
2021-02-08 cs.LG cs.NA math.NA
Limitations of Deep Learning for Inverse Problems on Digital Hardware
Technical University of Munich（慕尼黑工业大学）；Ruhr University Bochum（波鸿鲁尔大学）；Ludwig-Maximilians-Universität München（慕尼黑大学）
本文分析了数字硬件（图灵机模型）对深度学习的内在限制，证明对于较小松弛参数，有限维逆问题不是Banach-Mazur可计算的，并给出了算法可获精度的下界。
2023-10-25 cs.AI cs.LG eess.SP
Physics-constrained Deep Learning for Robust Inverse ECG Modeling
Oklahoma State University（俄克拉荷马州立大学）
先进传感和成像的快速发展带来了数据丰富的环境，促进了复杂系统的有效建模，监测和控制。例如，身体传感器网络捕获与心脏的电活动有关的多通道信息（即，心电图（ECG）），使医学科学家能够监测和检测异常的心脏状况。然而，高维传感数据通常结构复杂，充分发挥数据潜力在很大程度上取决于先进的分析和预测方法。本文提出了一种物理约束的深度学习（P-DL）框架，用于高维逆ECG建模。该方法将复杂系统的物理定律与先进的深度学习基础设施相结合，以有效预测系统动力学。提出的P-DL方法被实现来求解逆ECG模型，并从由体表传感器网络测量的ECG数据预测心脏中的电势的时变分布。实验结果表明，所提出的P-DL方法显着优于现有的方法，在当前的实践中常用的。
2022-01-30 cs.LG
Physics-aware deep learning framework for the limited aperture inverse obstacle scattering problem
School of Mathematics, Southeast University（东南大学数学学院）
针对有限孔径逆障碍物散射问题缺乏标注数据、传统深度学习性能受限的问题，本文提出无需真实标签的深度分解方法DDM，嵌入物理算子并结合数据补全，兼具可解释性与理论收敛保证，实验验证其在孔径极有限时仍有效。
2024-11-03 cs.LG cs.NA eess.SP
Inverse deep learning methods and benchmarks for artificial electromagnetic material design
Duke University（杜克大学）
深度学习（DL）逆技术提高了人工电磁材料（AEM）设计的速度并改善了所得器件的质量。许多DL逆技术已经成功的AEM设计任务的数量，但比较，对比，并评估各种技术，关键是要澄清潜在的不适定性的反问题。在这里，我们回顾了最先进的方法，并提出了一个全面的调查深度学习逆方法和可逆和条件可逆神经网络AEM设计。我们制作易于访问和快速实施的AEM设计基准，它提供了一种方法来有效地确定最适合解决不同设计挑战的DL技术。我们的方法是指导约束重复模拟和一个容易集成的度量，我们建议表示任何AEM设计问题的相对不适定性。我们发现，随着问题变得越来越不适定，神经伴随边界损失（NA）更快地产生更好的解决方案，无论模拟约束。在更简单的AEM设计任务中，当模拟有限时，直接神经网络（NN）表现更好，而混合密度网络（MDN）和条件变分自动编码器（VAE）预测的几何形状可以通过连续采样和重新模拟来改进。
2021-12-19 cond-mat.mtrl-sci cs.LG
Deep synthesis regularization of inverse problems
University of Innsbruck（因斯布鲁克大学）
最近，已经开发了大量用于解决反问题的高效深度学习方法，并显示出出色的数值性能。然而，对于这些深度学习方法，缺乏重建保证形式的坚实理论基础。相比之下，对于经典的重建方法，如凸变分和基于框架的正则化，理论收敛性和收敛速度的结果很好地建立。在本文中，我们引入了深度合成正则化（DESYRE），使用神经网络作为非线性合成算子，弥合了这两个世界之间的差距。所提出的方法允许利用深度学习的好处，即可以很好地适应可用的训练数据，另一方面还具有坚实的数学基础。我们提出了一个全收敛分析与收敛速度的建议的深度合成正则化。我们提出了一种策略，用于构建一个合成网络的分析合成序列的一部分，连同一个适当的训练策略。数值结果表明，我们的方法的可行性。
2020-02-01 cs.LG cs.NA math.NA
