Towards a Robust Parameterization for Conditioning Facies Models Using Deep Variational Autoencoders and Ensemble Smoother
PUC-RIO（里约热内卢天主教大学）；Petrobras（巴西国家石油公司）
关于历史拟合的文献是巨大的，尽管在过去十年中提出了令人印象深刻的方法和报告的重大进展，调节储层模型的动态数据仍然是一项具有挑战性的任务。基于集成的方法是目前可用于历史匹配的最成功和最有效的技术之一。这些方法通常能够实现合理的数据匹配，特别是如果采用迭代公式。然而，它们有时不能保持模型的地质真实性，这在具有复杂相分布的储层中特别明显。这主要是因为这些方法中固有的高斯假设。这一事实鼓励了密集的研究活动，以开发相历史匹配的参数化。尽管大量的出版物，强大的参数化相的发展仍然是一个悬而未决的问题。深度学习技术已经在许多不同的领域取得了令人印象深刻的成果，并且在地球科学数据同化中的第一个应用已经开始出现在文献中。本文报告了我们的调查使用深神经网络对建设一个连续的参数化相，可用于数据同化集成方法的当前结果。具体来说，我们使用卷积变分自动编码器和集成平滑多个数据同化。我们测试了三个合成的历史匹配问题与渠化相的参数化。我们关注这种类型的相，因为它们是数据同化后最具挑战性的相之一。参数化显示出优于以前方法的有前途的结果，并产生定义明确的通道化相。
2018-12-17 cs.LG stat.ML
Intrinsic Vicarious Conditioning for Deep Reinforcement Learning
Rochester Institute of Technology（罗切斯特理工学院）
本文提出一种内在代偿条件机制，通过记忆方法实现注意力、保留、再现和强化四个步骤，支持低样本学习，无需示范者策略或奖励函数，在MiniWorld Sidewalk和Box2D CarRacing环境中验证了其效果。
2026-05-12 cs.LG
Interpreting Deep Learning Models with Marginal Attribution by Conditioning on Quantiles
University of Hamburg（汉堡大学）；QED Actuaries & Consultants（QED精算咨询公司）；University of the Witwatersrand（威特沃特斯兰德大学）；City, University of London（伦敦城市大学）；ETH Zurich（苏黎世联邦理工学院）
关于解释深度学习模型的文献越来越多。本文通过引入一种基于全局梯度的模型不可知方法，我们称之为基于分位数条件的边际属性（MACQ），为该文献做出了贡献。我们的方法是基于分析预测（输出）到单个特征（输入）的边际属性。具体来说，我们通过混合（全局）输出水平来考虑变量重要性，从而解释了特征如何在预测空间的不同区域中做出微小贡献。因此，MACQ可以被看作是一个边际归因对应的方法，如累积局部效应（ALE），研究的敏感性，通过扰动输入输出。此外，MACQ允许我们从交互效应中分离出个体特征的边际归因，并直观地说明边际归因、输出水平和特征值之间的3向关系。
2021-03-22 cs.LG q-fin.ST stat.AP
Conditioning Deep Generative Raw Audio Models for Structured Automatic Music
Boston University（波士顿大学）
现有的以深度学习为特征的自动音乐生成方法可以大致分为两种类型：原始音频模型和符号模型。符号模型在音符级别进行训练和生成，目前是更流行的方法;这些模型可以捕获旋律结构的长范围依赖性，但无法掌握原始音频生成的细微差别和丰富性。原始音频模型，如DeepMind的WaveNet，直接在采样的音频波形上进行训练，使它们能够产生听起来真实的，尽管是非结构化的音乐。在本文中，我们提出了一个自动的音乐生成方法结合这两种方法来创建结构化的，逼真的声音组成。我们考虑一个长短期记忆网络来学习不同风格的音乐的旋律结构，然后使用这个模型的独特符号代作为基于WaveNet的原始音频生成器的条件输入，创建一个自动的，新颖的音乐模型。然后，我们通过展示这项工作的结果来评估这种方法。
2018-06-26 cs.LG cs.SD eess.AS
Theoretical characterisation of the Gauss-Newton conditioning in Neural Networks
University of Basel（巴塞尔大学）；ETH Zürich（苏黎世联邦理工学院）
该研究首次从理论上刻画了神经网络中高斯-牛顿矩阵的条件数，建立了深度线性网络和两层ReLU网络的紧界，并扩展到残差连接和卷积层，实证验证了理论结果。
2025-02-27 cs.LG stat.ML
Deep TPC: Temporal-Prior Conditioning for Time Series Forecasting
本文提出TPC方法，通过时间先验条件提升时间序列预测性能，实现低参数预算下的长周期预测优化。
2026-02-18 cs.LG
Deep Jump Learning for Off-Policy Evaluation in Continuous Treatment Settings
North Carolina State University（北卡罗来纳州立大学）；London School of Economics and Political Science（伦敦政治经济学院）
我们考虑在连续治疗环境中进行政策外评估（OPE），例如个性化剂量发现。在OPE中，旨在使用由不同决策规则生成的历史数据来估计新治疗决策规则下的平均结果。大多数关于OPE的现有工作都集中在离散的治疗设置上。为了处理连续处理，我们使用深度跳跃学习开发了一种新的OPE估计方法。我们方法的关键在于通过利用深度学习和多尺度变化点检测，使用深度离散化自适应地离散化治疗空间。这使我们能够在离散治疗中应用现有的OPE方法来处理连续治疗。我们的方法是进一步证明理论结果，模拟，并实际应用于作战剂量。
2021-11-05 cs.LG stat.ML
Unsupervised Domain Adaptation for Training Event-Based Networks Using Contrastive Learning and Uncorrelated Conditioning
University of Southern California（南加州大学）
基于事件的摄像机为在高动态范围环境和快速运动机动期间执行计算机视觉任务提供可靠的测量。然而，在基于事件的视觉中采用深度学习面临着由于事件相机的新近性而导致的注释数据稀缺的挑战。转移可以从传统相机注释数据中获得的知识为这一挑战提供了一个实用的解决方案。我们开发了一种无监督的领域自适应算法，用于使用对比学习和数据的不相关条件来训练用于基于事件的数据图像分类的深度网络。为此，我们的解决方案优于现有的算法。
2023-03-22 cs.CV cs.LG
Generating Personalized Insulin Treatments Strategies with Deep Conditional Generative Time Series Models
University of Zurich（苏黎世大学）；University Hospital of Zurich（苏黎世大学医院）
结合深度生成时间序列模型与决策理论，生成个性化胰岛素治疗方案，以优化住院糖尿病患者的血糖预测与治疗策略。
2023-11-13 cs.LG stat.ML
Locally adaptive activation functions with slope recovery term for deep and physics-informed neural networks
Brown University（布朗大学）；Massachusetts Institute of Technology（麻省理工学院）；Pacific Northwest National Laboratory（太平洋西北国家实验室）
我们提出了两种局部自适应激活函数的方法，即逐层和逐神经元局部自适应激活函数，它们可以提高深度和物理信息的神经网络的性能。激活函数的局部自适应是通过在每一层（逐层）和每个神经元（逐神经元）分别引入一个可伸缩参数，然后使用随机梯度下降算法的变体对其进行优化来实现的。为了进一步提高训练速度，在损失函数中加入了基于激活斜率的斜率恢复项，进一步加快了收敛速度，从而降低了训练成本。在理论方面，我们证明了在所提出的方法中，梯度下降算法不会被吸引到次优临界点或局部极小值的实际条件下的初始化和学习率，所提出的方法的梯度动态是无法实现的任何（自适应）学习率的基础方法。我们进一步表明，自适应激活方法加快收敛隐式乘条件矩阵的基础方法的梯度，而没有任何明确的计算条件矩阵和矩阵向量积。不同的自适应激活函数诱导不同的隐式条件矩阵。此外，所提出的方法与斜率恢复，以加快训练过程。
2020-06-17 cs.LG stat.ML
Masked Conditioning for Deep Generative Models
BMW Group（宝马集团）；University of Augsburg（奥格斯堡大学）；Ludwig-Maximilians-University Munich（慕尼黑莱布尼茨-马克斯大学）
提出掩码条件化方法，使生成模型能处理工程领域稀疏混合类型数据，并集成于变分自编码器和潜在扩散模型，在点云和图像数据集上验证，可与预训练模型结合提升生成质量。
2025-05-22 cs.CV cs.LG
Coverage Testing of Deep Learning Models using Dataset Characterization
IBM Research（IBM研究院）；Borealis AI（Borealis人工智能研究院）
深度神经网络（DNN）凭借其良好的性能，正越来越多地用于自动驾驶、癌症检测和安全认证等安全关键应用。随着深度学习的重要性日益增加，需要一个更加标准化的框架来评估和测试深度学习模型。涉及自动生成大量测试用例的主要挑战是：（i）神经网络难以解释和调试，以及（ii）人类注释器生成专门测试点的可用性。在这项研究中，我们解释了测量数据集的质量的必要性，并提出了一个测试用例生成系统的数据集属性的指导下。从测试的角度来看，提出了四个不同的数据集质量维度：（i）等价划分，（ii）质心定位，（iii）边界条件，（iv）成对边界条件。该系统在MNIST、Fashion-MNIST、CIFAR 10、CIFAR 100和SVHN等知名图像分类数据集上进行了评估，并与LeNet、ResNet-20、VGG-19等流行的深度学习模型进行了对比。此外，我们进行了各种实验，以证明系统的测试用例生成系统的有效性，用于评估深度学习模型。
2019-11-17 cs.LG stat.ML
Refining the Structure of Neural Networks Using Matrix Conditioning
University of Maryland（马里兰大学）
深度学习模型已被证明在执行许多机器学习任务时非常有用。然而，对于每个新数据集，选择模型的有效大小和结构可能是一个耗时的试错过程。虽然一个只有很少神经元的小型网络可能无法捕捉给定任务的复杂性，但拥有太多神经元可能会导致过度拟合和泛化能力差。在这里，我们提出了一种实用的方法，采用矩阵条件自动设计的前馈网络的层的结构，首先调整网络的层之间的神经元的比例，然后缩放网络的大小向上或向下。在样本图像和非图像数据集上的结果表明，我们的方法可以产生具有高精度的小网络。最后，在矩阵条件作用的指导下，我们提供了一种方法来有效地挤压已经训练好的模型。我们的技术降低了设计深度学习模型的人力成本，还可以减少训练时间和将神经网络用于应用程序的费用。
2019-08-06 cs.LG cs.NA math.NA
Deep Optimal Individualized Treatment Rules for Bivariate Survival Outcomes via Adaptive Prediction-Powered Learning
Department of Biostatistics, City University of Hong Kong（香港城市大学生物统计学系）；Center for Data Science, Zhejiang University（浙江大学数据科学中心）
针对随机试验中的双变量生存结局，提出一种基于深度神经网络的自适应预测驱动方法，通过随机策略建模治疗规则并耦合边际加速失效时间模型，以最大化联合生存概率。
2026-05-28 cs.LG stat.ML
Self-Conditioning Enables Deep Sequential Reasoning in Flow Matching
Shanghai Qi Zhi Institute（上海人工智能实验室）；Institute for Interdisciplinary Information Sciences, Tsinghua University（清华大学交叉信息研究院）；Georgia Institute of Technology（佐治亚理工学院）；Xiongan AI Institute（雄安人工智能研究院）
该研究针对视觉推理任务，发现自条件化可解决普通流匹配的深度推理瓶颈，使流匹配随采样步骤增加提升性能，达到空间有界图灵机的表达能力，为视觉推理设计提供了新原则。
2026-10-14 cs.CV cs.LG
G-Net: A Deep Learning Approach to G-computation for Counterfactual Outcome Prediction Under Dynamic Treatment Regimes
Massachusetts Institute of Technology（麻省理工学院）；IBM Research（IBM研究院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
反事实预测是决策中的一项基本任务。G计算是一种在动态时变治疗策略下估计预期反事实结果的方法。现有的G-计算实现大多采用经典的回归模型，其捕获复杂的时间和非线性依赖结构的能力有限。本文介绍了G-Net，这是一种用于G计算的新型顺序深度学习框架，可以处理复杂的时间序列数据，同时施加最小的建模假设，并提供对个体或群体水平时变治疗效果的估计。我们使用从CVSim（一种心血管系统的机械模型）获得的逼真的复杂时间模拟数据来评估替代G-Net实现。
2020-03-23 cs.LG stat.ML
On the Effects of Irrelevant Variables in Treatment Effect Estimation with Deep Disentanglement
Örebro University（厄勒布鲁大学）
针对观察数据中处理效应估计时无关变量处理不足导致预测误差的问题，提出基于深度嵌入与自编码器的显式解耦方法，通过重建目标和正交化隔离无关变量，提升了无关变量识别与处理效应预测的精确度。
2024-08-26 cs.LG stat.ML
Covariate-Balancing-Aware Interpretable Deep Learning models for Treatment Effect Estimation
University of Pennsylvania（宾夕法尼亚大学）
估计处理效应对于许多具有观察数据的生物医学应用是非常重要的。特别地，处理效应的可解释性对于许多生物医学研究者是优选的。本文首先从理论上分析了强可重复性假设下平均处理效应（ATE）估计的偏差，并给出了其上界。通过利用加权能量距离的吸引力属性，我们的上限比文献中报道的更紧。受理论分析的启发，我们提出了一种新的目标函数估计ATE，使用能量距离平衡得分，因此不需要正确的规范的倾向得分模型。我们还利用最近开发的神经添加模型来提高用于潜在结果预测的深度学习模型的可解释性。我们进一步增强了我们提出的模型与能量距离平衡得分加权正则化。我们提出的模型优于当前国家的最先进的方法证明了在半合成实验中使用两个基准数据集，即IHDP和ACIC。
2022-06-24 cs.LG stat.ML
Generative Adversarial Forests for Better Conditioned Adversarial Learning
Monash University（莫纳什大学）；ARC Centre of Excellence for Robotic Vision（澳大利亚研究理事会机器人视觉卓越中心）
近年来，各种视觉相关任务的许多突破都围绕着改进深度模型的学习;这些方法从网络架构改进（如残差网络）到各种形式的正则化（如批量归一化）。从本质上讲，这些技术中的许多都围绕着更好的条件反射，允许成功地学习越来越深的模型。在本文中，我们期待在无监督学习环境中更好地调节生成对抗网络（GANs）。我们的方法嵌入到GAN的神经网络的决策森林的强大的鉴别能力。这导致了一个更好的条件模型，它以非常稳定的方式学习。我们展示了实证结果，这些结果显示了我们方法有效性的明确定性和定量证据，在Oxford Flowers和Aligned Celebrity Faces数据集上，与几种流行的基于GAN的方法相比，获得了显着的性能改进。
2018-05-14 cs.LG stat.ML
Multistage linguistic conditioning of convolutional layers for speech emotion recognition
audEERING GmbH（audEERING有限公司）；University of Augsburg（奥格斯堡大学）；Imperial College（帝国理工学院）
在这篇文章中，我们研究了文本和音频特征深度融合对分类和维度语音情感识别（SER）的有效性。我们提出了一种新的多级融合方法，其中两个信息流被集成在深度神经网络（DNN）的几个层中，并将其与流在单个点中合并的单级融合方法进行对比。这两种方法都依赖于从预训练的BERT模型中提取概括语言嵌入，并调节在对数梅尔频谱图上操作的卷积模型的一个或多个中间表示。MSP-Podcast和IEMOCAP数据集上的实验表明，这两种融合方法在定量性能和定性行为方面都明显优于浅（晚）融合基线及其单峰成分。总的来说，我们的多级融合显示出更好的定量性能，在我们的大多数评估中超过了替代品。这说明了多级融合在更好地吸收文本和音频信息方面的潜力。
2022-05-04 cs.LG
Causal Inference with Conditional Instruments using Deep Generative Models
Guangxi Normal University（广西师范大学）；University of South Australia（南澳大利亚大学）
工具变量（IV）方法是一种广泛使用的方法，用于从具有潜在混杂因素的观察数据中估计治疗对关注结局的因果影响。标准IV预期与治疗变量相关，且独立于系统中的所有其他变量。然而，由于严格的条件，直接从数据中搜索标准IV具有挑战性。条件IV（CIV）方法已被提出，允许一个变量是一组变量的工具条件，允许更广泛的选择可能的IV和使更广泛的实际应用的IV方法。然而，没有一个数据驱动的方法来发现一个CIV和它的条件集直接从数据。为了填补这一空白，在本文中，我们提出了学习的CIV和它的条件集的信息的表示与潜在的混杂因素的平均因果效应估计的数据。通过利用深度生成模型，我们开发了一种新的数据驱动方法，用于同时从测量变量中学习CIV的表示，并在给定测量变量的情况下生成其条件集的表示。在合成数据集和真实数据集上的大量实验表明，我们的方法优于现有的IV方法。
2022-11-29 cs.AI cs.LG stat.ME
Layer-wise Conditioning Analysis in Exploring the Learning Dynamics of DNNs
Inception Institute of Artificial Intelligence（起源人工智能研究院）
条件分析通过探索曲率矩阵的频谱来揭示优化目标的景观。这在线性模型的理论上已经得到了很好的探索。我们将这种分析扩展到深度神经网络（DNN），以研究它们的学习动态。为此，我们提出了逐层条件分析，它独立地探索每一层的优化景观。这样的分析在理论上是支持的温和的假设，在实践中大致成立。基于我们的分析，我们表明，批量归一化（BN）可以稳定的训练，但有时会导致局部最小值的假象，这对学习有不利影响。此外，我们通过实验观察到BN可以改善优化问题的逐层条件。最后，我们发现一个非常深的残差网络的最后一个线性层显示病态行为。我们通过在最后一个线性层之前仅添加一个BN层来解决这个问题，这比原始和预激活的残差网络实现了更好的性能。
2020-07-29 cs.CV cs.LG
Causal-BALD: Deep Bayesian Active Learning of Outcomes to Infer Treatment-Effects from Observational Data
OATML（牛津大学机器学习与应用实验室）；University of Oxford（牛津大学）；Machine Learning and Causal Inference in Healthcare Lab（医疗保健机器学习与因果推理实验室）；Technion（以色列理工学院）
在实验设计不可行、不道德或昂贵的情况下，从高维观察数据估计个性化治疗效果至关重要。现有的方法依赖于对治疗人群和对照人群观察到的结果拟合深度模型。然而，当测量个体结果是昂贵的时，如肿瘤活检的情况，需要用于获取每个结果的样本效率策略。深度贝叶斯主动学习通过选择具有高不确定性的点来提供高效数据采集的框架。然而，现有方法使训练数据采集偏向于处理群体和对照群体之间的非重叠支持区域。这些都不是样本效率，因为在这些地区的治疗效果是无法识别的。我们引入因果，贝叶斯采集功能接地信息论，偏置数据采集区域重叠的支持，以最大限度地提高样本效率学习个性化的治疗效果。我们展示了所提出的采集策略在合成和半合成数据集IHDP和CMNIST及其扩展上的性能，这些扩展旨在模拟常见的数据集偏差和病理。
2022-02-01 cs.LG stat.ML
Deep Reinforcement Learning-Based Battery Conditioning Hierarchical V2G Coordination for Multi-Stakeholder Benefits
State Grid Fujian Electric Power Research Institute（国网福建省电力科学研究院）
提出基于深度强化学习和权益证明算法的多利益相关方分层V2G协调策略，兼顾电网、EVA和用户三方利益，有效提升可再生能源消纳、缓解负荷波动并降低充电成本与电池退化。
2023-08-01 cs.AI cs.LG cs.SY
Representational aspects of depth and conditioning in normalizing flows
MIT（麻省理工学院）；Carnegie Mellon（卡内基梅隆大学）
规范化流是生成建模中最流行的范例之一，特别是对于图像，主要是因为我们可以有效地评估数据点的可能性。这对于评估模型的拟合和易于训练都是期望的，因为最大化可能性可以通过梯度下降来完成。然而，训练规范化流也有困难：产生好样本的模型通常需要非常深-这伴随着消失/爆炸梯度问题。一个非常相关的问题是，它们通常条件很差：由于它们被参数化为来自$\mathbb{R}^d \to \mathbb{R}^d$的可逆映射，并且典型的训练数据（如图像）直观上是低维的，因此学习的映射通常具有接近奇异的雅可比矩阵。在我们的论文中，我们解决了代表性方面的深度和规范化流的条件：无论是一般的可逆架构，并为一个特定的共同架构，仿射耦合。我们证明，$Θ(1)$仿射耦合层足以准确地表示置换或$1 \times 1$卷积，如在GLOW中使用的，表示分区的选择不是深度的瓶颈。我们还表明，浅仿射耦合网络是Wasserstein距离的通用逼近器，如果病态是允许的，并实验研究相关的现象，涉及填充。最后，我们展示了一般流架构的深度下界，每层的神经元很少，有界Lipschitz常数。
2021-06-25 cs.LG stat.ML
A Deep Latent-Variable Model Application to Select Treatment Intensity in Survival Analysis
University of Toronto（多伦多大学）
在下面的短文中，我们采用了一种新的流行的机器学习模型来推断医疗数据集。我们的方法是基于变分自动编码器（VAE）的框架，我们适应生存分析的小数据集缺失值。在我们的模型中，真实的健康状况表现为一组影响观察到的协变量和生存机会的潜在变量。我们表明，这种灵活的模型允许有见地的决策，使用预测的分布和优于经典的生存分析模型。
2018-11-29 cs.LG stat.ML
Deep Probabilistic Movement Primitives with a Bayesian Aggregator
University of Alberta（阿尔伯塔大学）；University of Innsbruck（因斯布鲁克大学）
本文提出一种统一的深度运动基元架构，结合贝叶斯上下文聚合器，在保持线性运动基元操作能力的同时，实现了更广泛的输入条件化与复杂运动复现。
2024-06-06 cs.LG cs.RO
Improving Sepsis Treatment Strategies by Combining Deep and Kernel-Based Reinforcement Learning
Harvard University（哈佛大学）；Imperial College London（帝国理工学院）；MIT（麻省理工学院）
脓毒症是ICU死亡的主要原因。这是具有挑战性的管理，因为个别患者对治疗的反应不同。因此，为个体患者量身定制治疗对于获得最佳结果至关重要。在本文中，我们通过应用专家混合框架来实现这一目标，以个性化脓毒症治疗。混合模型根据患者的当前病史选择性地在基于邻居（内核）和深度强化学习（DRL）专家之间交替。在一个大型回顾性队列中，这种基于混合的方法优于医生、仅内核和仅DRL专家。
2019-01-15 cs.AI cs.LG stat.ML
Cross-Block Conditioning in Deep Boltzmann Machines for Statistical Data Fusion
Meijo University（名城大学）
本研究提出观察块多预测，使深度玻尔兹曼机在统计数据融合中可用，并发现跨结果块条件化是性能提升的关键，且不随数据规模衰减。
2026-09-17 cs.AI cs.LG
Protein Secondary Structure Prediction Using Deep Multi-scale Convolutional Neural Networks and Next-Step Conditioning
Google Brain（谷歌大脑）
最近开发的深度学习技术显著提高了各种语音和图像识别系统的准确性。在本文中，我们适应这些技术的蛋白质二级结构预测。我们首先训练了一系列深度神经网络，以预测给定蛋白质氨基酸序列信息的八类二级结构标签，并发现使用最近的正则化方法，如dropout和权重范数约束，可以在准确性方面获得可测量的收益。然后，我们调整最近的卷积神经网络架构-Inception，ReSNet和DenseNet与批量归一化-蛋白质结构预测的问题。这些卷积架构大量使用多尺度滤波器层，同时计算多个尺度上的特征，并使用残差连接来防止欠拟合。使用这些架构的精心修改版本，我们在公共CB 513基准数据集上实现了每个氨基酸70.0%准确度的最新性能。最后，我们探索了序列到序列学习的补充，改变模型以使其预测以蛋白质的氨基酸序列及其过去的二级结构标签为条件。我们介绍了一种将这种条件模型与我们的卷积模型集成的新方法，这种方法在CB 513上达到了70.6%Q8的准确性。我们认为，这些结果可以通过更复杂的尝试来控制条件模型的过拟合，从而进一步改进预测准确性。我们的目标是将这些实验的代码作为TensorFlow存储库的一部分发布。
2016-11-04 cs.LG q-bio.BM
Deep Bayesian Estimation for Dynamic Treatment Regimes with a Long Follow-up Time
Australian Artificial Intelligence Institute（澳大利亚人工智能研究所）；FEIT（工程与信息技术学院）；University of Technology Sydney（悉尼科技大学）
动态治疗方案（DTR）的因果关系估计有助于顺序决策。然而，DTR下的删失和时间依赖性混杂是具有挑战性的，因为观察数据量随着时间的推移而下降，这是由于样本量减少，但特征维度随着时间的推移而增加。长期随访使这些挑战更加复杂。另一个挑战是混杂因素、治疗和结局之间的高度复杂关系，这导致传统和常用的线性方法失败。我们将结果回归模型与治疗模型相结合，用于使用样本量较小的未删失受试者的高维特征，并将深度贝叶斯模型拟合为结果回归模型，以揭示混杂因素，治疗和结果之间的复杂关系。此外，开发的深度贝叶斯模型可以对不确定性进行建模，并输出预测方差，这对于自动驾驶汽车和医疗设计等安全意识应用至关重要。医学模拟艾滋病治疗的实验结果表明，所提出的方法能够获得稳定和准确的动态因果效应估计的观察数据，特别是长期随访。我们的技术为顺序决策和政策制定提供了实际指导。
2021-09-20 cs.AI cs.LG stat.ML
Walking the Weight Manifold: a Topological Approach to Conditioning Inspired by Neuromodulation
Cold Spring Harbor Laboratory（冷泉港实验室）；University of Southern Florida（佛罗里达州立大学）
本文提出了一种基于拓扑的权重流形条件化方法，通过在权重空间中优化具有预定义拓扑的流形，以提升任务间的泛化能力和学习效率。
2025-11-24 cs.LG cs.NE
DeepBlip: Estimating Conditional Average Treatment Effects Over Time
Munich Center for Machine Learning（慕尼黑机器学习中心）；LMU Munich（慕尼黑大学）
针对结构嵌套均值模型缺乏适配神经网络框架、无法端到端梯度训练的问题，提出首个神经框架DeepBlip，通过双重优化技巧实现blip函数同步学习，在临床数据集上取得SOTA性能。
2025-11-18 cs.LG stat.ME stat.ML
Deep Treatment-Adaptive Network for Causal Inference
Curtin University（科廷大学）；University of New South Wales（新南威尔士大学）；Deakin University（迪肯大学）；University of Technology Sydney（悉尼科技大学）
因果推断能够估计治疗效果（即，治疗对结果的因果影响），以利于各个领域的决策。这项研究的一个基本挑战是观察数据中的治疗分配偏倚。为了提高因果推断的观察性研究的有效性，基于表征的方法作为最先进的方法已经证明了治疗效果估计的优越性能。大多数基于表示的方法假设所有观察到的协变量都是治疗前的（即，不受治疗影响），并从这些观察到的协变量中学习平衡表示，以估计治疗效果。不幸的是，这一假设在实践中往往过于严格，因为一些协变量通过对治疗进行干预而改变（即，后处理）。相比之下，从不变的协变量中学习的平衡表示因此使治疗效果估计存在偏差。
2021-12-27 cs.LG
Inverse Probability of Treatment Weighting with Deep Sequence Models Enables Accurate treatment effect Estimation from Electronic Health Records
Georgia Institute of Technology（佐治亚理工学院）
针对EHR纵向数据中的时依赖性混杂问题，本文提出用深度序列模型直接从理赔记录估计倾向评分以实施IPTW，并在合成与半合成数据上验证其准确性。
2024-06-13 cs.LG
Continuous Treatment Recommendation with Deep Survival Dose Response Function
本文提出 DeepSDRF 框架，从含混杂的临床生存观测数据中学习 CADR 函数，并结合随机搜索或强化学习构建经选择偏倚校正的连续治疗推荐方法。
2023-09-26 cs.AI cs.LG econ.EM
DeepRite: Deep Recurrent Inverse TreatmEnt Weighting for Adjusting Time-varying Confounding in Modern Longitudinal Observational Data
Georgia Institute of Technology（佐治亚理工学院）；IQVIA（艾昆纬）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
反事实预测是关于从数据中预测未观察到的情况的结果。例如，给定患者正在使用药物A，如果她改用药物B，结果会是什么。现有的大多数工作都集中在基于静态数据的反事实结果建模。然而，许多应用具有随时间变化的混杂效应，例如随着时间的推移进行多次治疗。如何根据纵向观测数据对这种随时间变化的效应进行建模？如何对数据中复杂的高维依赖进行建模？为了解决这些挑战，我们提出了深度递归逆处理加权（DeepRite），将递归神经网络纳入现代纵向数据中存在时变混杂的两阶段调整。在第一阶段队列重新加权中，我们拟合一个网络来发射治疗的时间相关逆概率，使用它们来生成伪平衡队列。在第二阶段的结果进展中，我们将调整后的数据输入到后续的预测网络中进行反事实预测。我们在合成数据和从重症监护室的脓毒症患者中收集的真实数据上评估DeepRite。DeepRite被证明可以从合成数据中恢复地面实况，并从真实数据中估计无偏的治疗效果，由于其适用于创建平衡的队列，因此可以更好地与败血症管理的标准指南保持一致。
2020-10-28 cs.LG
Tomographic Foundation Model -- FORCE: Flow-Oriented Reconstruction Conditioning Engine
Department of Biomedical Engineering, School of Engineering, Rensselaer Polytechnic Institute（生物医学工程系，工程学院，伦斯勒理工学院）
本文提出FORCE框架，将数据保真度与泊松流生成模型PFGM/PFGM++结合，用于解决低剂量、稀疏视角和金属植入物等CT重建中的噪声与伪影问题，并在多种任务中优于现有无监督方法。
2025-06-02 cs.LG eess.IV eess.SP
Deep Learning of Continuous and Structured Policies for Aggregated Heterogeneous Treatment Effects
University of Toronto（多伦多大学）
本文提出一种深度学习框架，通过神经增强朴素贝叶斯层整合连续与离散处理策略因素，实现聚合异质处理效应的直接排序，并在公共数据集上验证了性能提升。
2025-07-07 cs.LG stat.ME
An Exploration of Conditioning Methods in Graph Neural Networks
University of Amsterdam（阿姆斯特丹大学）
该研究聚焦图神经网络的属性条件化方式，划分弱、强、纯三类条件化并给出统一视角，在计算化学多任务上实证分析不同方法的效果。
2023-05-03 cs.AI cs.LG
Interpretable Deep Causal Learning for Moderation Effects
University College London（伦敦大学学院）；The Alan Turing Institute（艾伦·图灵研究所）
在这篇扩展的抽象论文中，我们解决了因果机器学习模型中的可解释性和有针对性的正则化问题。特别是，我们专注于在观察到的混杂因素下估计个体因果/治疗效应的问题，这些混杂因素可以控制和调节治疗对感兴趣结果的影响。针对因果设置进行调整的黑盒ML模型在这项任务中通常表现良好，但它们缺乏可解释的输出，无法识别治疗异质性的主要驱动因素及其功能关系。我们提出了一种新型的深度反事实学习架构，用于估计个体治疗效果，可以同时：i）传达有针对性的正则化，并围绕感兴趣的数量产生量化的不确定性（即，条件平均治疗效应）; ii）解开协变量的基线预后和调节效应，并输出描述其与结果关系的可解释评分函数。最后，我们通过一个简单的模拟实验演示了该方法的使用。
2022-07-11 cs.AI cs.LG stat.ML
Deep Reinforcement Learning for Sepsis Treatment
Cambridge University（剑桥大学）；Imperial College London（伦敦帝国学院）；MIT（麻省理工学院）
脓毒症是重症监护病房死亡的主要原因，每年花费医院数十亿美元。治疗脓毒症患者具有高度挑战性，因为个体患者对医疗干预的反应非常不同，并且没有普遍认可的脓毒症治疗方法。在这项工作中，我们提出了一种方法来推导脓毒症患者的治疗策略，通过使用连续状态空间模型和深度强化学习。我们的模型学习临床上可解释的治疗策略，在重要方面与医生的治疗策略相似。学习的政策可以用来帮助重症监护临床医生在医疗决策和提高患者生存的可能性。
2017-11-27 cs.AI cs.LG
Are Words Enough? On the semantic conditioning of affective music generation
ITI；LARSyS；INESC TEC
该范围综述梳理自动音乐生成的规则与机器学习两大范式，聚焦文本驱动的深度学习音乐生成模型，探讨语言表征音乐情感的可行性，指出深度学习结合自然语言的应用有望赋能创意产业的音乐创作。
2023-11-07 cs.LG cs.MM cs.SD
A Deep Bayesian Bandits Approach for Anticancer Therapy: Exploration via Functional Prior
University of Washington（华盛顿大学）
用机器学习学习个性化癌症治疗对提高癌症患者的生存机会大有希望。尽管最近在机器学习和精确肿瘤学方面取得了进展，但这种方法仍然具有挑战性，因为在临床前/临床研究中收集数据以建模多种治疗效果通常是一个昂贵且耗时的过程。此外，治疗分配中的随机化被证明是次优的，因为一些受试者/样本在试验期间没有接受最适当的治疗。为了应对这一挑战，我们将药物筛选研究制定为“上下文强盗”问题，其中算法基于癌细胞系的上下文信息选择抗癌治疗剂，同时调整其治疗策略以“在线”方式最大化治疗反应。我们建议使用一种新的深度贝叶斯强盗框架，该框架使用功能性先验近似后验，基于由基因组特征和药物结构组成的多模态信息进行药物反应预测。我们在三个大规模的体外药物基因组学数据集上经验性地评估了我们的方法，并表明我们的方法在确定给定细胞系的最佳治疗方面优于几个基准。
2022-07-10 cs.LG
Dimension-Free Average Treatment Effect Inference with Deep Neural Networks
University of Southern California（南加州大学）
本文研究了在潜在结果框架中使用深度神经网络（DNN）对平均处理效应（ATE）的估计和推断。在某些正则条件下，观察到的响应可以用公式表示为以混杂变量和治疗指标作为自变量的均值回归问题的响应。使用这样的配方，我们研究了两种方法ATE估计和推断的基础上估计的平均回归函数通过DNN回归使用特定的网络架构。我们证明了ATE的两个DNN估计在一些假设下与无量纲一致率是一致的。我们的模型假设适应了观察到的反应对协变量的潜在复杂依赖结构，包括潜在因素和治疗指标与混杂变量之间的非线性相互作用。我们还建立了我们的估计量的渐近正态性的基础上的思想样本分裂，确保精确的推理和不确定性量化。仿真研究和实际数据应用证明了我们的理论研究结果，并支持我们的DNN估计和推理方法。
2021-12-02 cs.LG math.ST stat.ML
Deep Attention Q-Network for Personalized Treatment Recommendation
Georgia Institute of Technology（佐治亚理工学院）
本文提出深度注意力Q网络，在深度强化学习框架中引入Transformer整合患者历史观察数据，用于个性化治疗推荐，并在脓毒症和急性低血压真实数据上验证其优于现有最优模型。
2023-07-04 cs.AI cs.LG
Towards Safe Mechanical Ventilation Treatment Using Deep Offline Reinforcement Learning
McGill University（麦吉尔大学）；Mila（米拉）
机械通气是肺损伤患者生命支持的重要形式。医护人员需要为每位患者持续调整呼吸机设置，这是一项具有挑战性且耗时的任务。因此，开发自动化决策支持工具以优化通气治疗将是有益的。我们提出了DeepVent，这是一种基于保守Q学习（CQL）的离线深度强化学习（DRL）代理，可以学习预测患者的最佳呼吸机参数，以提高90天生存率。我们设计了一个临床相关的中间奖励，鼓励不断改善患者的生命体征，以及解决RL稀疏奖励的挑战。我们发现DeepVent建议在安全范围内的通气参数，如最近的临床试验所述。CQL算法通过减轻对分布外状态/动作的值估计的高估来提供额外的安全性。我们使用拟合Q评估（Fitted Q Evaluation，CQE）来评估我们的代理，并证明它优于MIMIC-III数据集的医生。
2022-10-05 cs.LG
Prognosis and Treatment Prediction of Type-2 Diabetes Using Deep Neural Network and Machine Learning Classifiers
Noakhali Science and Technology University（诺阿卡利科学与技术大学）；Comilla University（库米拉大学）；University of Alberta（阿尔伯塔大学）
2型糖尿病是一种由于胰岛素活性不平衡而导致的快速增长的慢性代谢紊乱。本研究的运动是对七种机器学习分类器和人工神经网络方法的比较研究，以高精度地阐明糖尿病的检测和治疗，为了在早期识别和治疗糖尿病患者。我们的训练和测试数据集是9483名糖尿病患者信息的积累。训练数据集足够大，可以消除过度拟合，并提供高度准确的测试性能。我们使用准确度和精度等性能指标来找出最佳算法深度ANN，该算法在所有其他经过测试的机器学习分类器中具有95.14%的准确率。我们希望我们的高性能模型可以被医院用于预测糖尿病，并推动研究更准确的预测模型。
2023-01-08 cs.LG
DESCN: Deep Entire Space Cross Networks for Individual Treatment Effect Estimation
Alibaba Group（阿里巴巴集团）
本文提出DESCN模型，通过多任务学习在全样本空间联合学习处理与响应函数并引入伪处理效应预测网络，有效缓解处理偏差与样本不平衡问题，提升了个体处理效应估计和uplift排序的准确性。
2023-10-20 cs.AI cs.LG
Mockingjay: Unsupervised Speech Representation Learning with Deep Bidirectional Transformer Encoders
National Taiwan University（台湾大学）
我们提出Mockingjay作为一种新的语音表示学习方法，其中双向Transformer编码器在大量未标记的语音上进行预训练。以前的语音表示方法通过对过去帧的条件反射和预测未来帧的信息来学习。而Mockingjay的设计是通过对过去和未来背景的联合条件作用来预测当前框架。Mockingjay表示提高了广泛的下游任务的性能，包括音素分类，说话人识别和对口语内容的情感分类，同时优于其他方法。Mockingjay是经验强大的，可以与下游模型进行微调，只有2个时代，我们进一步提高性能显着。在只有0.1%标记数据的低资源设置中，我们的表现优于使用所有100%标记数据的Mel特征的结果。
2020-02-02 cs.CL cs.LG cs.SD
Deep Aesthetic Assessment and Retrieval of Breast Cancer Treatment Outcomes
Faculty of Engineering, University of Porto（波尔图大学工程学院）；INESC TEC（葡萄牙国家工程与系统创新研究所）；Champalimaud Foundation（尚帕利莫基金会）；Nova Medical School（诺瓦医学院）
近年来，乳腺癌的治疗方法不断发展和改进，导致生存率大幅提高，约80%的患者生存期为10年。鉴于乳腺癌治疗可能对患者的身体形象产生严重影响，从而影响她的自信心以及性和亲密关系，因此确保妇女接受优化生存和美学结果的治疗至关重要。目前，没有金标准来评估乳腺癌治疗的美学效果。此外，没有标准的方法向患者展示手术的潜在结果。介绍过去的类似案例对于管理妇女对可能结果的期望极为重要。在这项工作中，我们提出了一个深神经网络进行美学评价。作为概念验证，我们专注于二元美学评估。除了用于分类之外，这种深度神经网络还可以用于在分类之前通过在高度语义空间中搜索最近邻来找到最相似的过去案例。我们在一个由143张乳腺癌保守治疗后女性照片组成的数据集上进行了实验。准确度和平衡准确度的结果显示，与乳腺癌治疗的美学评价的最新技术相比，我们提出的模型具有优越的性能。此外，该模型显示出良好的检索类似的先前病例的能力，检索到的病例具有相同或相邻的类别（在4类设置中），并且具有相似类型的不对称性。最后，还进行了定性的可解释性评估，以分析模型的鲁棒性和可信度。
2022-05-25 cs.CV cs.LG
Deep Learning Enables Robust and Precise Light Focusing on Treatment Needs
University of Chinese Academy of Sciences（中国科学院大学）
如果光穿过身体组织，只聚焦于需要治疗的区域，如肿瘤，将彻底改变许多生物医学成像和治疗技术。因此，如何克服散射使光在不均匀的深层组织中聚焦是生物医学领域的圣杯。在本文中，我们使用深度学习来学习和加速使用波前整形的相位预补偿过程。我们提出了一种方法（LoftGAN，光只关注治疗需求），用于学习相位域X和散斑域Y之间的关系。我们的目标不仅是学习逆映射F：Y->X，以便我们可以像大多数工作一样知道成像Y所需的相应X，而且还通过确保所获得的相位可以前向映射回散斑来使易受干扰影响的聚焦更加鲁棒和精确。因此，我们引入不同的约束来强制F（Y）=X和H（F（Y））=Y，其中传输映射H：X->Y。通过仿真和物理实验验证了该方法的有效性，并通过对比实验验证了该方法在鲁棒性和精度上的显著提高。代码可在https://github.com/ChangchunYang/LoftGAN上获得。
2020-08-16 cs.LG eess.IV
Deep Learning Based Simulators for the Phosphorus Removal Process Control in Wastewater Treatment via Deep Reinforcement Learning Algorithms
Krüger A/S（克鲁格公司）；Aalborg University（奥尔堡大学）；AAU Energy（奥尔堡大学AAU能源机构）
本研究训练六个模型构建深度强化学习（DRL）环境模拟器以优化废水处理除磷过程，发现模型复合误差限制了其长期模拟性能，提出利用SCADA系统数据创建仿真环境以改进过程控制。
2024-01-23 cs.AI cs.LG cs.SY
Unifying Cardiovascular Modelling with Deep Reinforcement Learning for Uncertainty Aware Control of Sepsis Treatment
University of Pittsburgh（匹兹堡大学）；University of Pittsburgh School of Medicine（匹兹堡大学医学院）；Carnegie Mellon University（卡内基梅隆大学）；McGowan Institute for Regenerative Medicine（麦高恩再生医学研究所）
脓毒症是对感染或严重组织损伤的潜在威胁生命的炎症反应。它具有高度可变的临床过程，需要持续监测患者的状态，以指导静脉输液和血管加压药的管理以及其他干预措施。尽管经过几十年的研究，专家们仍然对最佳治疗方法存在争议。在这里，我们首次将分布式深度强化学习与机械生理模型相结合，以找到个性化的脓毒症治疗策略。我们的方法通过利用已知的心血管生理学来处理部分可观测性，引入了一种新的生理学驱动的递归自动编码器，并量化了其自身结果的不确定性。此外，我们引入了一个框架，不确定性意识的决策支持与人类在循环中。我们表明，我们的方法学习生理上可解释的，强大的政策，与临床知识是一致的。此外，我们的方法一致地识别导致死亡的高风险状态，这可能从更频繁的血管加压药给药中受益，为未来的研究提供有价值的指导
2021-06-12 cs.AI cs.LG q-bio.QM
