Adaptive Deep Learning for Entity Resolution by Risk Analysis
Northwestern Polytechnical University（西北工业大学）
深度学习在实体解析（ER）方面取得了最先进的性能。然而，深度模型通常是在大量准确标记的训练数据上训练的，并且不能容易地针对目标工作负载进行调整。不幸的是，在实际场景中，可能没有足够的标记训练数据，甚至更糟的是，它们的分布通常与目标工作负载或多或少不同，即使它们来自相同的域。为了缓解上述限制，本文提出了一种新的基于风险的方法，通过其特定的特征将深度模型调整到目标工作负载。基于ER风险分析的最新进展，所提出的方法首先在标记的训练数据上训练深度模型，然后通过最小化未标记目标数据上的估计误预测风险来对其进行微调。我们的理论分析表明，基于风险的自适应训练可以纠正一个错误预测的实例的标签状态有相当好的机会。我们还通过比较研究，在真实基准数据上实证验证了所提出方法的有效性。我们的大量实验表明，它可以大大提高深度模型的性能。此外，在分布未对准的情况下，它可以类似地以相当大的幅度优于最先进的迁移学习替代方案。使用ER作为测试案例，我们证明了基于风险的自适应训练是一种很有前途的方法，可能适用于各种具有挑战性的分类任务。
2022-04-10 cs.AI cs.DB cs.LG
Dynamic Risk Assessment for Vehicles of Higher Automation Levels by Deep Learning
Fraunhofer Institute for Experimental Software Engineering（弗劳恩霍夫实验软件工程研究所）；DFKI - German Research Center for Artificial Intelligence（德国人工智能研究中心）
自动化程度更高的车辆需要创建态势感知。这种情况意识的一个重要方面是对驾驶情况的当前风险的理解。在这项工作中，我们提出了一种新的方法，用于动态风险评估的驾驶情况的基础上使用深度学习的前立体摄像头的图像。为此，我们使用记录的单眼图像、视差图和不同交通场景的风险度量来训练深度神经网络。我们的方法可用于创建更高自动化水平的车辆的上述情况感知，并且可以作为基于传统上用于计算风险度量的雷达或激光雷达传感器的系统的异构通道。
2018-06-20 cs.AI cs.CV
The Landscape of Deep Learning Algorithms
National University of Singapore（新加坡国立大学）
通过理论分析深度神经网络对总体风险的收敛行为、稳定点和性质，研究了深度神经网络的经验风险景观。对于一个$l$层线性神经网络，在训练样本量为$n$，总权维数为$d$，各层权值的大小界为$r$的条件下，证明了其经验风险以$\mathcal{O}(r^{2l}\sqrt{d\log(l)}/\sqrt{n})$的速度一致收敛于总体风险.然后，我们得到的稳定性和泛化界的经验风险的基础上的结果。此外，我们还建立了经验风险相对于其总体风险梯度的一致收敛性。我们证明了具有收敛保证的经验风险和群体风险之间的非退化平稳点的一一对应关系，这描述了深度神经网络的景观。此外，我们分析了具有S形激活函数的深度非线性神经网络的这些性质。我们证明了类似的结果的收敛行为的经验风险，以及梯度和分析的性质，其非退化的稳定点。据我们所知，这项工作是第一个从理论上描述深度学习算法景观的工作。此外，我们的结果提供了训练一个良好的深度神经网络的样本复杂度。我们还提供了关于神经网络深度$l$、层宽度、网络大小$d$和参数大小如何确定神经网络景观的理论理解。
2017-08-05 cs.LG math.OC stat.ML
PERO: Efficient Robust Post-Training Foundation Models for Encrypted Traffic Classification
National University of Defense Technology（国防科技大学）
针对加密流量分类中鲁棒优化成本高的问题，提出PERO框架，通过轻量代理估计风险并选择高风险样本更新模型，在保持性能的同时降低了计算与内存成本。
2026-08-18 cs.LG stat.ML
Robust Empirical Risk Minimization with Tolerance
UCSD（加州大学圣地亚哥分校）；Columbia（哥伦比亚大学）
在当今技术主导的世界中，开发简单、样本高效的学习算法用于鲁棒分类是一个紧迫的问题，而目前需要指数样本复杂性和复杂的不适当学习规则的理论技术远远不能满足需求。在这项工作中，我们研究的基本范式（强大的）$\textit{empirical risk minimization}$（RERM），一个简单的过程中，学习者输出任何假设最大限度地减少其训练误差。众所周知，RERM无法鲁棒地学习VC类（Montasser等人，2019年a），我们展示的一个界限甚至扩展到“好”的设置，如（有界）半空间。因此，我们研究了被称为$\textit{tolerant}$鲁棒学习的鲁棒模型的最近放松（Ashtiani等人，2022），其中将输出分类器与在稍大的扰动集上的最佳可实现误差进行比较。我们表明，在几何niceness条件下，一个自然的宽容的RERM的变种确实是足够的$γ$宽容的强大的学习VC类$\mathbb{R}^d$，只需要$\tilde{O}\left( \frac{VC(H)d\log \frac{D}{γδ}}{ε^2}\right)$样本（最大）直径$D$的鲁棒性区域。
2023-02-04 cs.LG stat.ML
Unsupervised Graph Deep Learning Reveals Emergent Flood Risk Profile of Urban Areas
Texas A&M University（德克萨斯A&M大学）
针对现有城市洪水风险评估忽略特征交互与空间依赖的问题，提出无监督图深度学习模型FloodRisk-Net，利用美国多城市数据将洪水风险分为六级，识别最高风险原型，揭示核心城市高风险与空间层级分布，为减灾策略提供依据。
2025-08-06 cs.AI cs.CY cs.LG
Generalization and Robustness of the Tilted Empirical Risk
The Alan Turing Institute（阿兰·图灵研究所）；University of Cambridge（剑桥大学）；University of Chicago（芝加哥大学）；Google DeepMind（谷歌DeepMind）；University of Oxford（牛津大学）
本文研究负倾斜下倾斜经验风险TER的泛化与鲁棒性，给出无界损失且仅有界(1+ε)阶矩时的泛化界及异常值和分布偏移保证，并通过实验验证。
2025-06-07 cs.IT cs.LG math.IT
Minimizing the Value-at-Risk of Loan Portfolio via Deep Neural Networks
Southwestern University of Finance and Economics（西南财经大学）
针对点对点借贷中的风险管理，提出DeNN和DSNN两种深度神经网络模型，预测贷款违约概率及时间，显著降低组合VaR，且低自由度模型DeNN在多数场景下更优。
2025-10-08 cs.AI cs.CE q-fin.CP
Asymptotic Risk of Overparameterized Likelihood Models: Double Descent Theory for Deep Neural Networks
Rutgers University（罗格斯大学）；The University of Tokyo（东京大学）；RIKEN AIP（理化学研究所人工智能项目）
我们研究了一类一般的超参数似然模型的渐近风险，包括深度模型。最近大规模模型的经验成功激发了几项理论研究，以研究样本数$n$和参数$p$均发散到无穷大并在极限处导出渐近风险的情况。然而，这些定理仅对线性特征模型有效，例如广义线性回归、核回归和浅神经网络。因此，很难研究更广泛的非线性模型，包括具有三层或更多层的深度神经网络。在这篇研究中，我们考虑了一个没有模型约束的似然最大化问题，并分析了一个带有惩罚的估计量的渐近风险的上界。从技术上讲，我们将费舍尔信息矩阵的一个属性与扩展的Marchenko-Pastur定律相结合，并将其与经验过程技术相结合。导出的界限是通用的，因为它描述了双重下降和正则化风险曲线，取决于惩罚。我们的结果是有效的，没有线性特征的约束模型，并允许我们推导出一般的谱分布的费舍尔信息矩阵的可能性。我们证明了几个显式模型，如并行深度神经网络，集成学习和残差网络，与我们的理论一致。这一结果表明，即使是大而深的模型，如果它们表现出特定的结构，如可分性，也有很小的渐近风险。为了验证这一发现，我们使用并行深度神经网络进行了真实数据实验。我们的研究结果扩展了渐近风险分析的适用性，也可能有助于深度学习的理解和应用。
2021-03-15 cs.LG math.ST stat.ML
Class-Weighted Classification: Trade-offs and Robust Approaches
Carnegie Mellon University（卡内基梅隆大学）
我们解决不平衡的分类，其中一个标签可能具有较低的边际概率相对于其他标签的问题，根据正确的类加权损失。首先，我们研究了插件分类器的预期超额加权风险的收敛速度，其中插件分类器和风险的权重可能不同。这会导致不可约的错误，这些错误不会收敛到加权贝叶斯风险，这促使我们考虑稳健风险。我们定义了一个强大的风险，最大限度地减少风险超过一组权重，并显示这个问题的超额风险界限。最后，我们表明，特定的选择的权重集导致一个特殊的情况下，条件风险价值（CVaR）从随机规划，我们称之为标签条件风险价值（LCVaR）。此外，我们推广这种加权，以获得一个新的强大的风险问题，我们称之为标签异质条件风险值（LHCVaR）。最后，我们实证证明了LCVaR和LHCVaR改善类条件风险的有效性。
2020-05-26 cs.LG stat.ML
Robust Risk Under Evolving Uncertainty: A Wasserstein Counterpart of the Entropic Value-at-Risk
Technical University of Munich（慕尼黑工业大学）；Masaryk University（马萨里克大学）
该研究针对演化不确定性下的鲁棒风险问题，提出Wasserstein熵值风险，弥补熵值风险无法对冲名义模型认定不可能的灾难的缺陷，经数值验证其变分对偶性，并构造出随信念变化的闭式鲁棒动态规划算子。
2026-08-20 cs.AI cs.LG stat.ML
Robust Risk-Sensitive Reinforcement Learning with Conditional Value-at-Risk
University of California, Davis（加利福尼亚大学戴维斯分校）
本文研究RMDP下基于CVaR的风险敏感强化学习的鲁棒性，建立鲁棒性与风险敏感性的联系，并针对状态-动作依赖模糊集提出新风险度量NCVaR及值迭代算法，通过仿真实验验证其有效性。
2024-05-02 cs.LG math.OC stat.ML
Entropic Risk Constrained Soft-Robust Policy Optimization
University of New Hampshire（新罕布什尔大学）
在强化学习中，拥有一个完美的模型来计算最优策略通常是不可行的。在高风险领域，量化和管理由模型不确定性引起的风险是非常重要的。熵风险测度是一种基于指数效用的凸风险测度，它满足许多合理的性质。在本文中，我们提出了一个熵风险约束的策略梯度和演员评论家算法，是风险厌恶的模型的不确定性。我们证明了我们的算法在几个问题域的有用性。
2020-06-20 cs.LG math.OC stat.ML
Lipschitz Networks and Distributional Robustness
The Australian National University（澳大利亚国立大学）；Data 61；Google Brain（谷歌大脑）；The University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；The University of Sydney（悉尼大学）
鲁棒风险最小化有几个优点：它已被研究，以提高模型的泛化性能和对抗性扰动的鲁棒性。我们通过涉及模型的Lipschitz常数的正则化经验风险来约束足够丰富以包括深度神经网络的模型类的分布鲁棒风险。这使我们能够解释和量化深度神经网络的鲁棒性。作为一个应用，我们展示了对抗训练风险的分布鲁棒风险上界。
2018-09-04 cs.LG stat.ML
Robust Reinforcement Learning with Dynamic Distortion Risk Measures
Oxford-Man Institute of Quantitative Finance（牛津-曼定量金融研究所）
本文提出一种鲁棒风险感知强化学习框架，利用动态鲁棒扭曲风险度量和 Wasserstein 球刻画环境不确定性，通过神经网络估计风险度量并构建 actor-critic 算法，在投资组合配置中验证了方法有效性。
2025-09-22 cs.LG q-fin.CP q-fin.PM
Deep Risk Model: A Deep Learning Solution for Mining Latent Risk Factors to Improve Covariance Matrix Estimation
Columbia Business School（哥伦比亚大学商学院）；Microsoft Research（微软研究院）
建模和管理投资组合风险可能是实现增长和保持投资业绩的最重要步骤。在基于马科维茨理论的现代投资组合构建框架中，股票收益的协方差矩阵是计算投资组合风险的必要输入。传统的估计协方差矩阵的方法是基于人为设计的风险因子，这往往需要大量的时间和精力来设计更好的风险因子，以改善协方差估计。在这项工作中，我们将挖掘风险因素的探索制定为学习问题，并提出了一种深度学习解决方案，以有效地使用神经网络“设计”风险因素。学习目标也被仔细地设置，以确保学习的风险因子在解释股票收益的方差方面是有效的，并且具有期望的正交性和稳定性。在股票市场数据上的实验证明了该方法的有效性：我们的方法可以获得$1.9\%$更高的解释方差的测量$R^2$，也降低了风险的全球最小方差投资组合。增量分析进一步支持我们的架构和学习目标的设计。
2021-10-27 cs.LG q-fin.RM
Achievable distributional robustness when the robust risk is only partially identified
ETH Zurich（苏黎世联邦理工学院）；Gatsby Computational Neuroscience Unit, University College London（伦敦大学学院盖茨比计算神经科学单元）；Imperial College London（帝国理工学院）
本文针对鲁棒风险仅被部分识别的场景，提出最坏情况鲁棒风险度量，在线性模型中推导其极小极大最优值，并通过基因表达数据实验证明考虑部分可识别性可显著改善分布偏移下的泛化性能。
2025-02-04 cs.LG stat.ML
RASR: Risk-Averse Soft-Robust MDPs with EVaR and Entropic Risk
University of New Hampshire（新罕布什尔大学）；Google Research（谷歌研究院）；Facebook（脸书）
针对以往安全强化学习分别处理两类不确定性的局限，提出结合风险厌恶与软鲁棒的RASR框架，用时变风险水平的动态规划高效求解最优策略，实验验证其在多风险指标下有效缓解不确定性。
2022-09-14 cs.AI cs.LG
Risk-Averse Model Uncertainty for Distributionally Robust Safe Reinforcement Learning
Boston University（波士顿大学）；Mitsubishi Electric Research Laboratories（三菱电机研究实验室）
本文提出一种基于相干失真风险度量的风险厌恶深度强化学习框架，通过避免极小极大优化实现高效无模型训练，并在扰动测试环境中验证了其鲁棒安全性能。
2023-10-26 cs.AI cs.LG stat.ML
Robust Risk-Aware Option Hedging
Cornell University（康奈尔大学）；University of Toronto（多伦多大学）；University of Oxford（牛津大学）
本研究提出一种稳健风险感知强化学习方法，通过策略梯度优化对冲障碍期权，并证明在数据生成过程变化时稳健策略优于非稳健策略。
2023-12-26 cs.LG q-fin.CP q-fin.RM
Robust Reinforcement Learning with Distributional Risk-averse formulation
Ecole polytechnique（巴黎综合理工学院）；INRIA（法国国家信息与自动化研究所）；INSERM（法国国家健康与医学研究院）；Sorbonne Université（索邦大学）；Université Paris Cité（巴黎西岱大学）
鲁棒强化学习试图使预测对系统动态或奖励的变化更加鲁棒。当从数据中估计环境的动态和回报时，这个问题特别重要。在本文中，我们近似的鲁棒强化学习约束下的$Φ$ -发散使用一个近似的风险规避公式。我们表明，经典的强化学习配方可以鲁棒使用标准偏差惩罚的目标。提出了两种基于分布式强化学习的算法，一种用于离散动作空间，一种用于连续动作空间，并在经典的Gym环境中进行了测试，以证明算法的鲁棒性。
2022-06-14 cs.LG math.OC stat.ML
Risk Averse Robust Adversarial Reinforcement Learning
University of California, Berkeley（加州大学伯克利分校）
深度强化学习最近在解决计算机游戏和机器人控制任务方面取得了重大进展。然而，一个已知的问题是，政策过度适应培训环境，可能无法避免罕见的灾难性事件，如汽车事故。提高强化学习算法鲁棒性的一种经典技术是在一组随机环境中进行训练，但这种方法只能防止常见情况。最近，鲁棒对抗强化学习（RARL）被开发出来，它允许训练对手有效地应用随机和系统扰动。RARL的一个局限性是，只有预期的控制目标是优化的;没有明确的建模或优化的风险。因此，代理不考虑灾难性事件的概率（即，那些诱导异常大的负奖励），除非通过它们对预期目标的影响。在本文中，我们介绍了风险规避鲁棒对抗强化学习（RARARL），使用风险规避的主角和风险寻求对手。我们在自动驾驶汽车控制器上测试了我们的方法。我们使用一个政策网络的合奏模型风险的方差的价值函数。我们通过实验表明，一个厌恶风险的代理是更好地装备来处理一个寻求风险的对手，和经验大大减少崩溃相比，没有对手训练的代理。
2019-03-31 cs.AI cs.LG cs.RO
RAP: Risk-Aware Prediction for Robust Planning
Toyota Research Institute（丰田研究院）
交互式场景中的稳健规划需要预测不确定的未来，以做出风险意识决策。不幸的是，由于长尾安全关键事件，风险往往是低估了概率运动预测的有限采样近似。这可能导致过度自信和不安全的机器人行为，即使有强大的规划者。我们建议让预测本身具有风险意识，而不是假设稳健规划者所需的完全预测覆盖率。我们引入了一个新的预测目标来学习轨迹上的风险偏置分布，从而使风险评估简化为这种偏置分布下的预期成本估计。这降低了在线规划期间风险估计的样本复杂性，这是安全实时性能所需的。在教学模拟环境和现实世界的数据集上的评估结果证明了我们的方法的有效性。代码和一个演示是可用的。
2023-01-12 cs.LG cs.RO
Excess risk bound for deep learning under weak dependence
THEMA（THEMA（经济模型与应用理论实验室））；CY Cergy Paris Université（CY巴黎塞尔吉大学）
本文考虑在一般框架中用于学习弱依赖过程的深度神经网络，该框架包括例如回归估计、时间序列预测、时间序列分类。考虑的$ψ$ -弱依赖结构是相当大的，并涵盖了其他条件，如混合，关联，$\ldots$首先，光滑函数的近似深神经网络与广泛的一类激活函数。我们推导出深度神经网络所需的深度，宽度和稀疏性，以近似定义在任何紧集$\mx$上的任何Hölder光滑函数。其次，我们建立了深度神经网络学习弱相依观测值的超额风险界。当目标函数足够光滑时，该界接近于通常的$\mathcal{O}(n^{-1/2})$。
2023-02-15 cs.LG stat.ML
Distributionally Robust Counterfactual Risk Minimization
Criteo AI Labs（Criteo人工智能实验室）；LTCI, Telecom ParisTech（巴黎高等电信学院LTCI实验室）；LPSM, Université Paris 6（巴黎第六大学LPSM实验室）
本文介绍了使用分布鲁棒优化（DRO）的反事实风险最小化（CRM）问题的想法。利用丰富的现有文献，我们表明，DRO是反事实决策的原则性工具。我们还表明，完善的解决方案CRM问题，如样本方差惩罚计划是一个更一般的DRO问题的特殊情况。在这个统一的框架中，可以使用各种概率距离和偏差作为不确定性度量来构建各种分布鲁棒的反事实风险估计器。我们提出了使用库尔贝克-莱布勒散度作为一种替代方法来建模CRM中的不确定性，并推导出一个新的强大的反事实目标。在我们的实验中，我们证明了这种方法在四个基准数据集上的性能优于最先进的方法，验证了在实际应用中使用其他不确定性度量的相关性。
2019-12-14 cs.LG stat.ML
Can Deep Learning Predict Risky Retail Investors? A Case Study in Financial Risk Behavior Forecasting
University College London（伦敦大学学院）；Humboldt-University of Berlin（柏林洪堡大学）；University of Southampton（南安普顿大学）
本文探讨了深度学习在支持金融风险管理决策方面的潜力。我们开发了一个深度学习模型来预测个人价差交易者是否能从未来的交易中获得利润。这项任务体现了风险和行为预测所面临的典型建模挑战。传统的机器学习需要代表特征-目标关系的数据，并且依赖于通常昂贵的手工特征的开发、维护和修订。因此，对高度可变的异构模式（如交易者行为）进行建模具有挑战性。深度学习有望提供一种补救措施。以自动方式学习数据的分层分布式表示（例如冒险行为），它揭示了确定目标的生成特征（例如，交易者的盈利能力），避免了人工特征工程，并且对变化（例如动态市场条件）更加稳健。使用深度网络进行操作风险预测的结果证实了深度学习的特征学习能力，为设计合适的网络架构提供了指导，并证明了深度学习优于机器学习和基于规则的基准测试。
2019-11-17 cs.LG q-fin.RM stat.AP
Statistically Robust Neural Network Classification
University of Oxford（牛津大学）；Twitter Cortex（推特Cortex）
尽管它们取得了许多成功，但在许多情况下，对抗性风险度量并不能提供适当的鲁棒性度量。例如，测试时的扰动可能会发生在概率的方式，而不是由一个明确的对手，而穷人的训练-测试概括的对抗性指标可以限制其使用简单的问题。出于这一动机，我们开发了一个概率鲁棒风险框架，统计鲁棒风险（SRR），它考虑逐点腐败分布，而不是最坏情况下的对手。与自然风险和对抗性风险相比，SRR提供了一种独特的、互补的稳健性能衡量标准。我们表明，SRR承认的估计和训练计划，这是简单和有效的自然风险：这些只是需要噪声的输入，但有一个原则性的推导究竟如何以及为什么要这样做。此外，我们从理论和实验上证明，与对抗性风险相比，它可以提供更好的泛化性能，从而能够应用于高维数据集。
2021-08-01 cs.LG stat.ML
UQ for Credit Risk Management: A deep evidence regression approach
Georgia Institute of Technology（佐治亚理工学院）
本文针对信用风险预测中的不确定性量化问题，扩展 Deep Evidence Regression 以学习 Weibull 过程生成的目标变量，并在模拟与真实数据上用于违约损失率预测。
2023-05-17 cs.CE cs.LG q-fin.RM
Deep Survival Machines: Fully Parametric Survival Regression and Representation Learning for Censored Data with Competing Risks
Carnegie Mellon University（卡内基梅隆大学）
我们描述了一种新的方法来估计相对风险的时间到事件的预测问题与删失数据在一个完全参数的方式。我们的方法不需要作出强有力的假设，恒定的比例风险的基本生存分布，所需的考克斯比例风险模型。通过联合学习输入协变量的深度非线性表示，我们通过在具有不同删失水平的多个真实世界数据集上进行广泛实验，证明了我们的方法在用于估计生存风险时的优势。我们进一步展示了我们的模型在竞争风险场景中的优势。据我们所知，这是第一个工作涉及完全参数估计的生存时间与竞争风险的存在删失。
2021-06-09 cs.LG stat.AP stat.ML
Deep Learning for Systemic Risk Measures
University of California, Santa Barbara（加州大学圣巴巴拉分校）
本文的目的是通过应用深度学习方法作为计算资本配置最优策略的工具，研究系统性风险度量的新方法框架。在这一新框架下，系统性风险度量可以被解释为在汇总单个风险之前，通过向单个机构分配资本来确保汇总系统安全的最低现金量。这个问题没有明确的解决方案，除了在非常有限的情况下。深度学习在金融建模和风险管理中越来越受到关注，我们提出了基于深度学习的算法来解决风险度量的原始和对偶问题，从而学习公平的风险分配。特别是，我们的对偶问题的方法涉及到著名的生成对抗网络（GAN）的方法和一个新设计的直接估计Radon-Nikodym导数的启发训练哲学。我们关闭大量的数值研究的主题，并提供相关的系统性风险措施的风险分配的解释文件。在指数偏好的特定情况下，数值实验表明，所提出的算法的优异性能，与最优显式解作为基准相比。
2022-07-02 cs.LG q-fin.MF q-fin.RM
Generalization Performance of Empirical Risk Minimization on Over-parameterized Deep ReLU Nets
University of Sydney（悉尼大学）
在本文中，我们研究了在过参数化深度ReLU网络上实现经验风险最小化（ERM）的全局极小值的泛化性能。使用深度ReLU网络的一种新的深化方案，我们严格证明了在温和的条件下，存在完美的全局最小值，对于许多类型的数据，这些最小值几乎达到了最佳的泛化误差界。由于过度参数化对于确保深度ReLU网络上的ERM全局最小值可以通过广泛使用的随机梯度下降（SGD）算法实现至关重要，因此我们的结果确实填补了优化和泛化之间的空白。
2023-02-28 cs.LG
Adversarially Robust Estimate and Risk Analysis in Linear Regression
Purdue University（普渡大学）；University of Nebraska-Lincoln（内布拉斯加大学林肯分校）
对抗鲁棒学习旨在设计对输入变量的小对抗扰动具有鲁棒性的算法。除了现有的对抗性样本预测性能的研究，我们的目标是了解对抗性鲁棒估计的统计特性，并在线性回归模型的设置中分析对抗性风险。通过发现统计极小极大收敛速度的对抗稳健估计，我们强调了纳入模型信息的重要性，例如，sparsity稀疏，in adversarially对立robust鲁棒learning学习.此外，我们揭示了对抗和标准估计的显式连接，并提出了一个简单的两阶段对抗学习框架，该框架有助于利用模型结构信息来提高对抗鲁棒性。在理论上，证明了对抗稳健估计的相合性，并给出了对抗稳健估计的Bahadur表示，以便于统计推断。无论是低维或稀疏的情况下，建议的估计收敛在一个尖锐的速度。此外，我们的理论证实了对抗鲁棒学习中的两个现象：对抗鲁棒性损害泛化，未标记数据有助于提高泛化。最后，我们进行了数值模拟来验证我们的理论。
2020-12-18 cs.LG stat.ML
Robust Federated Learning with Global Sensitivity Estimation for Financial Risk Management
University of Victoria（维多利亚大学）
针对去中心化金融系统，提出FRAL-CSE联邦学习框架，利用二次敏感性近似和失真风险度量，提升训练效率、稳定性及对极端风险的鲁棒性。
2025-02-24 cs.DC cs.LG
Deep Hedging to Manage Tail Risk
Tokyo Institute of Technology（东京工业大学）
扩展 Deep Hedging 范式，采用深度神经网络参数化凸风险最小化（CVaR/ES）解决投资组合尾部风险对冲问题，在危机期模拟器实验中显著降低一日 99% CVaR 并验证了现实市场中的鲁棒性。
2025-06-27 cs.LG math.OC q-fin.CP
You Don't Need Robust Machine Learning to Manage Adversarial Attack Risks
该综述梳理对抗机器学习攻击的相关文献，评估其对普通实体的真实风险，指出多数威胁无需采用高成本的鲁棒ML方案，同时给出了需使用鲁棒模型的场景建议。
2023-06-16 cs.LG stat.ML
Wasserstein Distributionally Robust Online Learning
University of Michigan（密歇根大学）；Cornell University（康奈尔大学）
本文提出了一种基于Wasserstein分布鲁棒优化的在线学习框架，通过将问题建模为随机博弈并利用问题几何特性，实现对最坏情况分布的鲁棒优化，同时提高了计算效率。
2026-10-30 cs.LG math.OC stat.ML
Robust variance-regularized risk minimization with concomitant scaling
Osaka University（大阪大学）
针对重尾损失，提出一种无需精确估计方差的鲁棒风险最小化方法，通过修改无方差均值估计技术，实现简单且可与梯度求解器结合，实验表明其性能优于或等同于CVaR和DRO等方法。
2024-02-09 cs.LG stat.ML
Leveraging Deep Stein's Unbiased Risk Estimator for Unsupervised X-ray Denoising
Information Technology University（信息技术大学）；University of Toronto（多伦多大学）
在众多旨在抑制医学图像中噪声流行的技术中，基于深度学习的方法表现出最大的希望。然而，这些基于深度学习的去噪器的一个关键限制是需要高质量的无噪声地面实况图像，这在许多医学成像应用（例如X射线）中难以获得。为了规避这个问题，我们利用最近提出的方法[7]，该方法结合了Stein的无偏风险估计（SURE）来训练深度卷积神经网络，而不需要去噪的地面真实X射线数据。我们的实验结果表明，基于SURE的方法去噪X射线图像的有效性。
2018-11-29 cs.CV cs.LG stat.ML
DeRisk: An Effective Deep Learning Framework for Credit Risk Prediction over Real-World Financial Data
Tsinghua University（清华大学）；Fintopia Group（Fintopia集团）；Shanghai Qi Zhi Institute（上海期智研究院）
本文提出深度学习信用风险预测框架 DeRisk，针对真实金融数据高维稀疏、噪声大且极度不平衡的问题，首次在公司生产系统中超越梯度提升和随机森林等统计学习方法，并通过消融研究揭示其成功的关键因素。
2023-08-07 cs.LG q-fin.ST
AttDMM: An Attentive Deep Markov Model for Risk Scoring in Intensive Care Units
ETH Zürich（苏黎世联邦理工学院）；FAU Erlangen-Nuremberg（埃尔朗根-纽伦堡大学）
重症监护室（ICU）的临床实践需要在患者病情即将恶化时发出预警，以便采取预防措施。为此，已经开发了估计ICU中死亡率风险的预测算法。在这项工作中，我们提出了一种新的生成式深度概率模型，用于ICU中的实时风险评分。具体来说，我们开发了一个专注的深度马尔可夫模型，称为AttDMM。据我们所知，AttDMM是第一个ICU预测模型，它联合学习长期疾病动态（通过注意力）和健康轨迹中的不同疾病状态（通过潜变量模型）。我们的评估基于已建立的基线数据集（MIMIC-III），其中有53，423例ICU住院患者。结果证实，与最先进的基线相比，我们的AttDMM更优越：AttDMM的受试者工作特征曲线下面积（AUROC）为0.876，比最先进的方法提高了2.2%。此外，AttDMM的风险评分在几个小时前就提供了警告。因此，我们的模型显示了一条识别风险患者的道路，以便卫生从业人员能够及早干预并挽救患者生命。
2021-02-17 cs.AI cs.LG
Robust Reconfigurable Intelligent Surfaces via Invariant Risk and Causal Representations
Centre for Wireless Communication, University of Oulu（奥卢大学无线通信中心）；School of Information Technology, Deakin University（迪肯大学信息技术学院）
研究了数据分布变化下的鲁棒可重构智能曲面系统设计问题。使用不变风险最小化（Invariant Risk Minimization，简称RST）的概念，使用跨多个环境的不变因果表示，使得预测器对于每个环境同时是最优的。一个基于神经网络的解决方案，采用寻求预测器，其性能通过模拟验证对经验的风险最小化为基础的设计。结果表明，利用不变性产生更强大的鲁棒性对看不见的和分布外的测试环境。
2021-05-04 cs.LG cs.NI eess.SP
Robust Bayesian Dynamic Programming for On-policy Risk-sensitive Reinforcement Learning
Peking University（北京大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
本文提出了一种鲁棒贝叶斯动态规划框架，用于风险敏感强化学习，结合了对转移不确定性的鲁棒性，并通过实验验证了其在风险敏感性和鲁棒性方面的优势。
2025-12-31 cs.LG q-fin.RM
Soft Robust MDPs and Risk-Sensitive MDPs: Equivalence, Policy Gradient, and Sample Complexity
Harvard University（哈佛大学）
本文提出一种新的风险敏感MDP表述，证明其与软鲁棒MDP等价，推导策略梯度定理，并设计离线算法RFZI，分析其样本复杂度。
2024-05-24 cs.LG math.OC
Deep Reinforcement Learning for Advanced Longitudinal Control and Collision Avoidance in High-Risk Driving Scenarios
College of Engineering, University of Maryland（马里兰大学工程学院）
针对现有高级驾驶辅助系统易忽视后车风险、难以应对高速密集车流中连环碰撞的问题，提出一种同时考虑前后车行为的深度强化学习纵向避撞算法，仿真验证其可有效预防含重型车辆在内的连环碰撞。
2025-02-21 cs.AI cs.LG cs.RO
Robust Risk-Aware Reinforcement Learning
University of Toronto（多伦多大学）；Barclays Capital（巴克莱资本）
我们提出了一个强化学习（RL）的风险感知性能标准的鲁棒优化方法。为了让代理人表达各种各样的风险回报配置文件，我们评估的价值的政策使用等级依赖的预期效用（RDEU）。RDEU允许代理人寻求收益，同时保护自己免受下行风险。为了使最优策略对模型的不确定性具有鲁棒性，我们不是通过其分布来评估策略，而是通过位于其周围的Wasserstein球内的最坏可能分布来评估策略。因此，我们的问题表述可以被视为行动者/代理选择策略（外部问题），然后对手采取行动来恶化该策略的性能（内部问题）。我们制定明确的策略梯度公式的内部和外部的问题，并显示其有效性的三个典型的金融问题：稳健的投资组合配置，优化基准，统计套利。
2021-12-14 cs.LG q-fin.CP q-fin.PM
Deep Autoencoders with Value-at-Risk Thresholding for Unsupervised Anomaly Detection
IBM Research -- Ireland（IBM研究院——爱尔兰）
许多现实世界的监控和监视应用程序需要在流模型中运行非平凡的异常检测。我们考虑了一种增量学习方法，其中训练了一个正常的深度自动编码（DAE）模型，并同时用于检测异常。在异常检测中，我们利用一种新的阈值机制，基于风险价值（VaR）。我们将得到的卷积神经网络（CNN）与一些子空间方法进行比较，并在Changedetection网络上给出结果。
2019-12-09 cs.CV cs.LG eess.IV
Deep Reinforcement Learning for Equal Risk Pricing and Hedging under Dynamic Expectile Risk Measures
HEC Montréal（蒙特利尔高等商学院）；University of Ottawa（渥太华大学）
最近，公平衍生品定价的框架，平等风险定价，扩展到考虑动态风险措施。然而，所有当前的实现要么采用违反时间一致性的静态风险度量，要么基于传统的动态规划解决方案，这些方案在具有大量基础资产（由于维数灾难）或具有不完整的资产动态信息的问题中是不切实际的。在本文中，我们第一次扩展了一个著名的非策略确定性行动者-批评者深度强化学习（ACRL）算法，以解决风险厌恶马尔可夫决策过程的问题，该过程使用时间一致的递归预期风险度量来建模风险。这种新的ACRL算法使我们能够识别高质量的时间一致的对冲政策（和相等的风险价格）的选项，如篮子期权，不能使用传统的方法来处理，或在只有历史轨迹的基础资产是可用的。我们的数值实验，包括一个简单的香草期权和一个更奇异的篮子期权，证实了新的ACRL算法可以产生1）在简单的环境中，几乎最优的对冲政策，并高度准确的价格，同时为一系列的到期日2）在复杂的环境中，良好的质量政策和价格使用合理的计算资源量;以及3）总体而言，当在稍后的时间点评估风险时，实际上优于使用静态风险度量产生的策略的对冲策略。
2021-09-09 cs.LG q-fin.PR
Multivariate Systemic Risk Measures and Computation by Deep Learning Algorithms
Università degli Studi di Milano（米兰大学）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
本研究针对多元效用函数定义的系统性短缺风险测度计算问题，提出深度学习算法，可求解原始最优解、对偶最优解及公平风险分配，在有显式解的基准模型和无显式解场景下均验证了有效性。
2023-06-14 cs.LG math.PR
Conditionally Elicitable Dynamic Risk Measures for Deep Reinforcement Learning
University of Toronto（多伦多大学）；University of Oxford（牛津大学）
本研究提出基于条件可诱导性的新型框架，解决风险敏感强化学习中时间一致动态谱风险度量优化问题，实现高效估计、精度证明与无嵌套转换的风险敏感演员-评论家算法，在统计套利和投资组合配置任务中表现优于嵌套模拟方法。
2023-05-01 cs.LG q-fin.CP q-fin.PM
Joint analysis of clinical risk factors and 4D cardiac motion for survival prediction using a hybrid deep learning network
Imperial College London（帝国理工学院）；MRC London Institute of Medical Sciences（MRC伦敦医学科学研究所）
在这项工作中，提出了一种新的方法，用于联合分析从分段心脏MRI和低维临床风险因素获得的高维时间分辨心脏运动特征，以提高心力衰竭的生存预测。评估不同的方法，以找到将传统协变量插入深度预测网络的最佳方法。自动编码器潜在代码和协变量特征之间的相关性分析用于研究这些预测因子如何相互作用。我们认为，类似的方法也可以用于将遗传变异的知识引入到这种生存网络中，通过联合分析心脏运动特征与遗传风险因素来改善结果预测。
2019-10-07 cs.LG eess.IV q-bio.QM
Risk-Averse MDPs under Reward Ambiguity
City University of Hong Kong（香港城市大学）
本文提出了一个风险和报酬模糊条件下的分布鲁棒收益-风险马尔可夫决策过程模型。该模型优化了平均和百分位绩效的加权平均值，并将分布鲁棒MDP和分布鲁棒机会约束MDP（均在奖励模糊下）作为特例。通过考虑未知的奖励分布位于Wasserstein模糊集，我们得到了我们的模型的易处理的重新制定。特别是，我们表明，回报风险模型也可以考虑风险从不确定的过渡内核时，只寻求确定性的政策，和一个分布稳健的MDP下的百分位数准则可以重新制定为它的名义上的对应调整后的风险水平。设计了一个可扩展的一阶算法来求解大规模问题，并通过数值实验验证了所提模型和算法的优越性。
2023-01-04 cs.LG math.OC
Sequential Deep Learning for Credit Risk Monitoring with Tabular Financial Data
American Express（美国运通）；Rutgers University（罗格斯大学）
机器学习在防止银行业的金融损失方面发挥着至关重要的作用。也许每年可能导致数十亿美元损失的最相关的预测任务是信用风险的评估（即，债务违约风险）。今天，机器学习预测信用风险的大部分收益都是由梯度提升决策树模型驱动的。然而，在没有增加昂贵的新数据源或高度工程化的功能的情况下，这些收益开始趋于平稳。在本文中，我们尝试创建一种新的方法来评估信用风险，使用深度学习，不依赖于新的模型输入。我们提出了一种新的信用卡交易采样技术，用于深度循环和因果卷积为基础的神经网络，利用长期的历史序列的金融数据没有昂贵的资源需求。我们表明，我们使用时间卷积网络的顺序深度学习方法优于基准的非顺序树模型，实现了显著的财务节省和信用风险的早期检测。我们还展示了我们的方法在生产环境中使用的潜力，在生产环境中，我们的采样技术允许序列有效地存储在内存中，并用于快速在线学习和推理。
2020-12-30 cs.LG q-fin.RM
Towards a Systematic Risk Assessment of Deep Neural Network Limitations in Autonomous Driving Perception
FZI Research Center for Information Technology, Germany（德国弗劳恩霍夫信息技术研究所）；Karlsruhe Institute of Technology, Germany（德国卡尔斯鲁厄理工学院）
本文提出结合ISO 26262和ISO/SAE 21434标准的风险评估流程，系统分析深度神经网络在自动驾驶感知中的固有局限性带来的风险。
2026-04-21 cs.CR cs.CY cs.LG
Robust Adversarial Reinforcement Learning with Risk Sensitivity and Critic Consistency Regularization
Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）
针对鲁棒对抗强化学习中的优化不稳定和价值估计退化问题，提出RACER框架，通过状态相关对抗目标和评论家一致性正则化，提升性能、鲁棒性与训练稳定性。
2026-09-24 cs.LG
