Calibration and Consistency of Adversarial Surrogate Losses
Google Research（谷歌研究院）；Rutgers University（罗格斯大学）；Courant Institute of Mathematical Sciences（库朗数学科学研究所）
对抗鲁棒性是分类器在应用中越来越重要的特性。鲁棒算法的设计依赖于代理损失，因为大多数假设集的对抗损失的优化是NP难的。但是，应该使用哪些替代损失，以及它们何时从理论保证中受益？我们提出了一个广泛的研究这个问题，包括H-校准和H-一致性的对抗性代理损失的详细分析。我们表明，在一些一般的假设下，凸损失函数，或基于上确界的凸损失经常使用的应用程序，不H校准的重要假设集，如广义线性模型或单层神经网络。然后，我们给出了H-校准的一个特征，并证明了一些代理损失确实是H-校准的对抗性损失，这些假设集。接下来，我们证明了H校准不足以保证一致性，并证明了在没有任何分布假设的情况下，在对抗环境中没有连续的替代损失是一致的。特别是，这证明了COLT 2020出版物中提出的声明是不准确的。（校准结果存在正确的模细微定义差异，但一致性声明不成立。）接下来，我们确定自然条件下，我们详细描述的一些代理损失是H-一致的假设集，如广义线性模型和单层神经网络。我们还报告了一系列的实证结果与模拟数据，这表明许多H校准的替代损失确实是不H一致的，并验证了我们的理论假设。
2021-05-04 cs.LG stat.ML
Adversarial Calibration Attack on Autonomous Vehicles
Texas Tech University（德克萨斯理工大学）；University of Arizona（亚利桑那大学）；University of Michigan（密歇根大学）
该研究提出针对自动驾驶汽车相机-激光雷达在线校准的对抗性校准攻击（ACA），通过对抗性海报可诱导校准误差，引发感知等系统错误，在仿真和物理实验中均验证了其有效性。
2026-09-01 cs.CV cs.ET cs.LG
Robust Optimal Classification Trees Against Adversarial Examples
Delft University of Technology（代尔夫特理工大学）
决策树是一种流行的可解释模型，但就像神经网络一样，它们也会受到对抗性例子的影响。现有的算法拟合决策树对抗性强的例子是贪婪的竞争力和缺乏近似保证。在本文中，我们提出了ROCT，训练决策树的方法集合，最佳的鲁棒性对用户指定的攻击模型。我们表明，对抗学习中出现的最小-最大优化问题可以使用单个最小化公式来解决损失为0-1的决策树。我们提出了这样的配方在混合线性规划和最大可满足性，广泛可用的求解器可以优化。我们还提出了一种方法，该方法可以确定任何使用二分匹配的模型的对抗精度的上限。我们的实验结果表明，现有的算法达到接近最优的分数，而ROCT达到国家的最先进的分数。
2021-09-08 cs.AI cs.LG
Towards Trustworthy Predictions from Deep Neural Networks with Fast Adversarial Calibration
Siemens AG（西门子股份公司）；Technical University of Munich（慕尼黑工业大学）
为了促进人工智能系统在现实应用中指导决策的广泛接受，部署模型的可信度是关键。也就是说，预测模型必须具有不确定性意识，并对域内样本以及域偏移下的样本进行良好校准（因此值得信赖）的预测。最近考虑预测不确定性的努力包括用于训练的神经网络、贝叶斯神经网络以及替代的非贝叶斯方法（诸如集成方法和证据深度学习）的后处理步骤。在这里，我们提出了一个有效的，但一般的建模方法，获得良好的校准，值得信赖的概率域转移后获得的样本。我们引入了一种新的训练策略，将熵鼓励损失项与对抗性校准损失项相结合，并证明这会导致对广泛的域漂移进行良好校准和技术上值得信赖的预测。我们全面评估以前提出的方法在不同的数据模式，大范围的数据集，包括序列数据，网络架构和扰动策略。我们观察到，我们的建模方法大大优于现有的最先进的方法，在域漂移下产生校准良好的预测。
2021-03-02 cs.AI cs.LG stat.ML
Interpreting Adversarial Robustness: A View from Decision Surface in Input Space
George Mason University（乔治梅森大学）；Clarkson University（克拉克森大学）；Northeastern University（东北大学）
神经网络推广的一个流行假设是参数空间中损失曲面的平坦局部极小导致良好的推广。然而，我们证明了参数空间中的损失面与泛化没有明显的关系，特别是在对抗性设置下。通过在参数空间和输入空间中对决策曲面进行可视化，我们证明了决策曲面在输入空间中的几何性质与对抗鲁棒性有很好的相关性。然后，我们提出了一个对抗鲁棒性指标，它可以评估神经网络的内在鲁棒性，而无需测试其准确性下的对抗攻击。在此基础上，我们进一步提出了我们的鲁棒训练方法。在不涉及对抗训练的情况下，我们的方法可以增强网络对各种对抗攻击的内在对抗鲁棒性。
2018-10-12 cs.AI cs.LG stat.ML
On-manifold Adversarial Data Augmentation Improves Uncertainty Calibration
Bosch Center for Artificial Intelligence（博世人工智能中心）；University of Stuttgart（斯图加特大学）
不确定性估计有助于识别模糊、新颖或异常的输入，但对不确定性的可靠量化已被证明对现代深度网络具有挑战性。为了提高不确定性估计，我们提出了流形上对抗性数据增强或OMADA，它特别试图通过遵循基于自动编码器的生成模型的潜在空间中的流形上对抗攻击路径来生成最具挑战性的示例，该生成模型非常接近两个或多个类之间的决策边界。在各种数据集以及多种不同的网络架构上，OMADA始终比基线模型产生更准确和更好的校准分类器，并优于Mixup等竞争方法，以及实现与温度缩放等后处理校准方法相似的性能（有时更好）。OMADA的变体可以基于其估计的软标签的熵对模糊的流形上示例采用不同的采样方案，这些软标签表现出泛化、预测不确定性的校准或分布外输入的检测的特定强度。
2021-01-14 cs.LG stat.ML
Robust Decision Making with Partially Calibrated Forecasts
University of Pennsylvania（宾夕法尼亚大学）
本文研究在仅有部分校准保证的预测下，保守决策者如何通过极小极大方法稳健地将预测映射到行动，发现决策校准即可恢复信任预测的最优性，并提供了高效计算规则及实证评估。
2025-10-27 cs.AI cs.LG stat.ML
Adversarially Robust Decision Transformer
University College London（伦敦大学学院）；Featurespace（Featurespace公司）
针对决策Transformer在对抗环境中鲁棒性不足的问题，提出基于样本内极小极大收益-to-go的ARDT算法，通过极小极大期望分位数回归对齐目标收益与最坏情况收益，在多种对抗场景下实现更优鲁棒性与更高最坏情况收益。
2024-11-01 cs.AI cs.LG
Calibration Attacks: A Comprehensive Study of Adversarial Attacks on Model Confidence
Ingenuity Labs Research Institute（创意实验室研究院）；National Research Council Canada（加拿大国家研究委员会）；Digital Technologies Research Centre（数字技术研究中心）
本文系统研究不改变预测标签却扭曲模型置信度的校准攻击，提出四类黑盒/白盒攻击并评估防御与重新校准方法，揭示现有防护仍存在明显局限。
2024-11-29 cs.CR cs.LG
Logit Calibration and Feature Contrast for Robust Federated Learning on Non-IID Data
Kyung Hee University（庆熙大学）
针对 non-IID 联邦学习中直接对抗训练损害准确率的问题，提出 FatCC，通过局部 logit 校准与全局特征对比同时提升干净准确率和鲁棒准确率。
2024-04-10 cs.AI cs.CV cs.LG
Universal Distributional Decision-based Black-box Adversarial Attack with Reinforcement Learning
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
高性能机器学习模型的脆弱性意味着在具有现实后果的应用程序中存在安全风险。对对抗攻击的研究，一方面有利于指导机器学习模型的开发，另一方面也有利于寻找有针对性的防御。然而，当今大多数对抗攻击利用来自模型的梯度或logit信息来生成对抗扰动。适用于更现实的领域：基于决策的攻击，仅基于观察目标模型的输出标签来生成对抗性扰动，仍然相对罕见，并且大多使用梯度估计策略。在这项工作中，我们提出了一个像素明智的决策为基础的攻击算法，发现通过强化学习算法的对抗扰动的分布。我们称这种方法为基于决策的黑盒攻击与强化学习（DBAR）。实验结果表明，该方法具有更高的攻击成功率和更大的可移植性，优于最先进的基于决策的攻击。
2022-11-15 cs.AI cs.CR cs.LG
Calibration vs Decision Making: Revisiting the Reliability Paradox in Unlearned Language Models
Indian Institute of Technology Kanpur (IIT Kanpur)（印度理工学院坎浦尔学院（IIT坎浦尔））
本文研究了生成语言模型中校准与决策可靠性之间的差距，通过TOFU基准测试中的多项选择问答评估协议，发现经过微调的模型在校准误差较低，而未学习后的模型在校准误差仍低，但依赖于相关性特征的决策规则增加，扩展了可靠性悖论到机器未学习领域。
2026-05-20 cs.AI cs.CL cs.LG
Improving Model Compatibility of Generative Adversarial Networks by Boundary Calibration
National Taiwan University（台湾大学）；Carnegie Mellon University（卡内基梅隆大学）
生成对抗网络（GANs）是一个强大的模型家族，它学习底层分布以生成合成数据。许多现有的GANs研究都集中在提高视觉应用所生成的图像数据的真实性上，很少有人关注提高用于训练其他分类器的生成数据的质量--这一任务被称为模型兼容性问题。因此，现有的GANs通常更喜欢生成远离分类器边界的“更容易”的合成数据，并且避免生成近边界数据，已知近边界数据在训练分类器中起重要作用。为了提高GAN的模型兼容性，我们提出了边界校准GANs（BCGAN），它利用了使用原始数据的一组预训练分类器的边界信息。特别地，我们在GAN的生成器中引入了辅助边界校准损失（BC损失），以匹配原始数据和生成数据的后验分布之间的统计数据，相对于预训练分类器的边界。BC损失是可证明无偏的，并且可以容易地与不同的GAN变体耦合以提高它们的模型兼容性。实验结果表明，BCGAN不仅能像原始GANs一样生成逼真的图像，而且比原始GANs具有更好的模型兼容性。
2021-11-03 cs.LG
T-CIL: Temperature Scaling using Adversarial Perturbation for Calibration in Class-Incremental Learning
KAIST（韩国科学技术院）
针对类增量学习中的置信度校准问题，提出T-CIL方法，利用对抗扰动示例调整温度缩放，无需旧任务验证集，显著提升校准性能且对准确性影响小。
2025-03-28 cs.LG
Balancing Classification and Calibration Performance in Decision-Making LLMs via Calibration Aware Reinforcement Learning
University of Southern California（南加州大学）；AWS AI Labs（AWS AI实验室）
本文提出一种校准感知强化学习方法，通过调整决策标记概率，在保持准确性的同时减少过度自信，提升决策LLM的校准性能。
2026-01-19 cs.LG
Curvature Dynamic Black-box Attack: revisiting adversarial robustness via dynamic curvature estimation
Lanzhou University（兰州大学）
本文提出曲率动态黑盒攻击方法，通过动态曲率估计提升对抗鲁棒性分析
2025-11-28 cs.AI cs.LG
Genetic Adversarial Training of Decision Trees
University of Padova（帕多瓦大学）
我们提出了一种新的学习方法集成的决策树的遗传算法的基础上，它是能够训练的决策树，以最大限度地提高其准确性和鲁棒性对抗扰动。这种学习算法内部利用了一个完整的形式化验证技术的鲁棒性的决策树的基础上抽象的解释，一个众所周知的静态程序分析技术。我们在一个名为Meta-Silencer（MS）的工具中实现了这种遗传对抗训练算法，并在对抗训练中使用的一些参考数据集上进行了实验评估。实验结果表明，MS是能够训练强大的模型，竞争，并经常改善目前的最先进的对抗训练的决策树，而更紧凑，因此可解释和有效的树模型。
2020-12-21 cs.LG
Decision Making for Autonomous Driving via Augmented Adversarial Inverse Reinforcement Learning
University of California, Berkeley（加州大学伯克利分校）；Zenseact（森赛克特）；Chalmers University of Technology（查尔姆斯理工大学）；Peking University（北京大学）；Google Research（谷歌研究院）
对于自主智能体来说，在复杂的驾驶环境中做出决策是一项具有挑战性的任务。模仿学习方法在实现这一目标方面具有巨大的潜力。对抗性逆强化学习（AIRL）是一种最先进的模仿学习方法，它可以同时学习行为策略和奖励函数，但它只在没有引入交互的简单静态环境中演示。在本文中，我们通过在学习框架中增加语义奖励来提高和稳定AIRL的性能。此外，我们还将增强的AIRL适应于自动驾驶高度互动环境中更实用和更具挑战性的决策任务。所提出的方法与四个基线进行比较，并通过四个性能指标进行评估。仿真结果表明，增强的AIRL优于所有的基线方法，其性能与专家的四个指标。
2021-03-26 cs.AI cs.LG
Truthfulness of Decision-Theoretic Calibration Measures
Massachusetts Institute of Technology（麻省理工学院）；University of California, Berkeley（加州大学伯克利分校）
本文提出了一种新的校准度量 $\mathsf{StepCE}^{\textsf{sub}}$，它同时满足决策论含义和真实性，解决了现有度量只能满足其一的问题，并证明了完备的决策论校准度量在非平滑设置中必然不连续且非真实。
2025-03-04 cs.LG
A Framework for Adversarial Analysis of Decision Support Systems Prior to Deployment
MITRE Labs（MITRE实验室）
本文提出一个部署前分析深度强化学习决策支持系统的综合框架，通过开发观测扰动评估对抗性攻击，并在战略游戏中验证了攻击影响排序与跨架构迁移性，强调需加强高风险环境下的防御机制。
2025-05-27 cs.AI cs.GT cs.LG
Calibration Error for Decision Making
Stanford（斯坦福大学）；Harvard University（哈佛大学）；Northwestern University（西北大学）
提出决策论校准误差CDL，衡量校准预测对决策收益的最大改进，并设计在线校准算法实现接近最优的期望CDL，绕过了ECE的理论下界。
2024-10-10 cs.DS cs.LG stat.ML
Adaptive perturbation adversarial training: based on reinforcement learning
Yunnan University（云南大学）
对抗性训练已经成为防御对抗性样本的主要方法。然而，由于许多缺点，它很难实际应用。对抗训练的缺点之一是它会降低正常样本的识别准确率。提出了自适应扰动对抗训练来缓解这个问题。它使用接近决策边界但不跨越决策边界的边缘对抗样本进行对抗训练，在保持模型鲁棒性的同时提高了模型识别的准确率。然而，搜索边际对抗样本会带来额外的计算成本。提出了一种基于强化学习的边缘对抗样本发现方法，并将其与最新的快速对抗训练技术相结合，有效地加快了训练过程，降低了训练成本。
2021-08-30 cs.AI cs.LG
Calibrating Predictions to Decisions: A Novel Approach to Multi-Class Calibration
Stanford University（斯坦福大学）；UC Berkeley（加州大学伯克利分校）
当面临不确定性时，决策者想要他们可以信任的预测。机器学习提供者可以通过保证他们的预测是分布校准的来向决策者传达信心-在接收预测的类概率向量$q$的输入中，类上的实际分布是$q$。然而，对于多类预测问题，实现分布校准往往是不可行的，需要样本复杂性指数的类$C$的数量。在这项工作中，我们引入了一个新的概念-- \emph{decision calibration} --它要求预测分布和真实分布对一组下游决策者来说是“不可否认的”。当考虑所有可能的决策者时，决策校准与分布校准相同。然而，当我们只考虑决策者之间的选择有限数量的行动（例如，在$C$多项式），我们的主要结果表明，决策校准变得可行-我们设计了一个重新校准算法，需要样本复杂性多项式的行动和类的数量。我们根据经验验证了我们的重新校准算法：与现有方法相比，决策校准改进了皮肤病变的决策和ImageNet分类与现代神经网络预测器。
2021-07-12 cs.LG stat.ME stat.ML
The Confidence Trap: Calibration Attacks for Graph Neural Networks
Virginia Polytechnic Institute and State University（弗吉尼亚理工学院暨州立大学）；The Pennsylvania State University（宾夕法尼亚州立大学）；VinUniversity；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
提出统一图校准攻击（UGCA）框架，通过KL散度损失、重排序机制和混合损失等策略，在保持分类精度下显著提高期望校准误差，揭示高精度或多类模型更易受攻击。
2026-06-07 cs.AI cs.LG
Robust Bayesian Decision Making under Adversarial Uncertainty
The University of Manchester（曼彻斯特大学）；ELLIS Institute Finland（芬兰ELLIS研究所）；Aalto University（阿尔托大学）
研究对抗性不确定性下的决策问题，基于贝叶斯决策理论，提出序列对抗鲁棒决策感知实验设计方法，通过形式化对抗鲁棒最优决策和推导设计标准，使决策在对抗变化下更稳定可靠。
2026-07-14 cs.LG
Smooth Calibration and Decision Making
Northwestern University（西北大学）；Shanghai Jiaotong University（上海交通大学）
本文证明对具有ε到校准距离的在线预测器进行后处理，可实现渐近最优的O(√ε)期望校准误差和校准决策损失，方法是通过添加噪声实现差分隐私。
2025-04-22 cs.DS cs.LG stat.ML
Dimension-Free Decision Calibration for Nonlinear Loss Functions
Carnegie Mellon University（卡内基梅隆大学）；Tsinghua University（清华大学）
针对非线性损失函数，本文提出平滑决策校准算法，实现样本复杂度与特征维度无关，且不损失准确性，解决了高维决策校准的关键难题。
2025-04-22 cs.LG stat.ML
Unbiased Decisions Reduce Regret: Adversarial Domain Adaptation for the Bank Loan Problem
Conduit（Conduit公司）；Broad Institute of Harvard and MIT（哈佛与麻省理工学院 broad 研究所）；Mathematical Institute, University of Oxford（牛津大学数学研究所）；FLAIR, University of Oxford（牛津大学 FLAIR 研究所）
针对贷款审批中真实标签仅在接受后可见导致训练集偏差的问题，提出 AdOpt 对抗域适应方法以学习无偏表示，并在基准上显著优于现有方法且改善公平性。
2023-08-15 cs.AI cs.LG
Uncertainty-driven and Adversarial Calibration Learning for Epicardial Adipose Tissue Segmentation
本文提出SPDNet网络，通过特征潜在空间不确定性建模与对抗校准学习，解决心外膜脂肪组织分割中低对比度和运动伪影问题，在ACDC和临床数据集上优于主流模型。
2024-02-23 cs.CV cs.LG eess.IV
Online Convex Optimization in Adversarial Markov Decision Processes
Tel Aviv University（特拉维夫大学）；Google Research（谷歌研究院）
我们考虑在线学习在情节无环马尔可夫决策过程（MDP），其中的损失函数可以任意改变情节之间，和过渡函数是未知的学习。我们展示了$\tilde{O}(L|X|\sqrt{|A|T})$后悔边界，其中$T$是情节的数量，$X$是状态空间，$A$是动作空间，$L$是每个情节的长度。我们的在线算法是使用熵正则化方法实现的，它允许扩展原始的对抗MDP模型来处理凸性能标准（不同的方式来聚合单个事件的损失），以及改进以前的遗憾界限。
2019-05-19 cs.AI cs.LG stat.ML
Learning from the Best: Rationalizing Prediction by Adversarial Information Calibration
University of Oxford（牛津大学）；Alan Turing Institute（阿兰·图灵研究所）
解释人工智能模型的预测在安全关键型应用中至关重要，例如在法律或医疗领域。对预测的一种解释形式是提取基本原理，即，一个实例的特征子集，这些特征引导模型给出对该实例的预测。以前关于生成提取基本原理的工作通常采用两阶段模型：选择器选择最重要的特征（即，基本原理）之后是一个预测器，该预测器专门基于所选择的特征进行预测。这些工作的一个缺点是，学习选择特征的主要信号来自预测器给出的答案与地面实况答案的比较。在这项工作中，我们建议通过信息校准方法从预测器中挤出更多的信息。更准确地说，我们联合训练了两个模型：一个是典型的神经模型，它以一种准确但黑箱的方式解决了手头的任务，另一个是选择器-预测器模型，它还为其预测提供了一个理论基础。第一个模型被用作第二个模型的指南。我们使用基于对抗性的技术来校准由两个模型提取的信息，使得它们之间的差异是错过或过度选择的特征的指示器。此外，对于自然语言任务，我们建议使用基于语言模型的正则化器，以鼓励提取流畅的理由。在一个情感分析任务和三个法律领域的任务上的实验结果表明了我们的方法对合理性提取的有效性。
2020-12-18 cs.AI cs.CL cs.LG
CalibForge: Adversarial Solver Calibration for Scaling Learnable Terminal Tasks
本文提出CalibForge系统，通过对抗性求解器校准合成5431个终端任务，训练的模型在多个基准测试中取得显著性能提升，验证了求解器相关可学习性的实用价值。
2026-10-30 cs.CL cs.LG
Adversarial Robustness in Financial Machine Learning: Defenses, Economic Impact, and Governance Evidence
Independent Researcher（独立研究者）
本研究评估金融机器学习模型的对抗鲁棒性，通过实验揭示对抗攻击对模型性能的影响，并探讨对抗训练的恢复效果。
2025-12-14 cs.AI cs.CR cs.LG
Dynamic Trust Calibration Using Contextual Bandits
Thayer School of Engineering（泰勒工程学院）；Dartmouth College（达特茅斯学院）
针对人机信任校准缺乏客观标准的问题，提出基于Contextual Bandits的动态指标，在三个数据集上使奖励提升10%至38%。
2025-09-27 cs.AI cs.HC cs.LG
Does Calibration Affect Human Actions?
Ariel University（阿利尔大学）；Carnegie Mellon University（卡内基梅隆大学）
通过人机交互实验研究校准对非专家决策与信任的影响，发现仅校准不足，前景理论修正对提升决策与预测相关性至关重要。
2025-08-23 cs.AI cs.HC cs.LG
Efficient Training of Robust Decision Trees Against Adversarial Examples
Delft University of Technology（代尔夫特理工大学）
目前，我们使用机器学习来处理敏感任务，这些任务要求模型既可理解又健壮。虽然传统的模型，如决策树是可以理解的，他们遭受对抗攻击。当使用决策树来区分用户的良性和恶意行为时，对抗攻击允许用户通过扰动模型接收的输入来有效地规避模型。我们可以使用考虑对抗攻击的算法来拟合更健壮的树。在这项工作中，我们提出了一种算法，GROOT，这是两个数量级的速度比国家的最先进的工作，同时得分竞争对手的准确性。GROOT接受直观且允许的威胁模型。以前的威胁模型仅限于距离规范，我们允许每个功能与用户指定的参数扰动：无论是最大距离或扰动方向的约束。以前的作品假设，良性和恶意的用户尝试模型规避，但我们允许用户选择哪些类执行对抗攻击。此外，我们引入了一个超参数rho，允许GROOT在常规和对抗设置中权衡性能。
2020-12-18 cs.LG
Refined Analysis of FPL for Adversarial Markov Decision Processes
Institute for Interdisciplinary Information Sciences, Tsinghua University（清华大学交叉信息研究院）
我们考虑对抗马尔可夫决策过程（MDP）问题，其中MDP的奖励可以被对抗地选择，并且转移函数可以是已知的或未知的。在这两种情况下，在以前的文献中已经提出了基于跟随扰动领导者（FPL）的算法。然而，基于FPL的算法建立的遗憾界比基于镜像下降的算法差。我们改进了FPL算法的分析，在这两种设置，匹配当前最好的遗憾界限，使用更快，更简单的算法。
2020-08-21 cs.LG stat.ML
Research on Security Enhancement Methods for Adversarial Robust Large Language Model Intelligent Agents for Medical Decision-Making Tasks
Pace University（帕克大学）
本文提出ARSM-Agent框架，通过多模块协同提升医疗决策智能体的对抗鲁棒性与安全性，实验表明其在多种攻击下攻击成功率降低至8.7%。
2026-05-07 cs.AI cs.CR cs.LG
Uncertainty-Aware Post-Hoc Calibration: Mitigating Confidently Incorrect Predictions Beyond Calibration Metrics
本文提出基于保形预测分组与双重等张回归的事后校准框架，在无需重训的情况下减少自信错误预测并改善不确定性决策。
2025-10-19 cs.AI cs.LG cs.NE
L-AutoDA: Leveraging Large Language Models for Automated Decision-based Adversarial Attacks
City University of Hong Kong（香港城市大学）；CityU Shenzhen Research Institute（香港城市大学深圳研究院）
L-AutoDA利用大型语言模型在进化框架中自动设计基于决策的对抗性攻击，在CIFAR-10上显著提升成功率与计算效率。
2024-05-22 cs.AI cs.CR cs.CV
Token-based Decision Criteria Are Suboptimal in In-context Learning
Japan Advanced Institute of Science and Technology（日本先进科学技术学院）；RIKEN（理化学研究所）
本文提出隐藏校准方法，用语言模型最后隐藏状态上的最近质心分类替代传统基于标签令牌概率的决策标准，在多个模型和数据集上显著提升上下文学习分类性能并揭示其内在原理。
2025-02-05 cs.AI cs.CL cs.LG
ADBA:Approximation Decision Boundary Approach for Black-Box Adversarial Attacks
Beijing University of Post and Telecommunication（北京邮电大学）；Victoria University of Wellington（惠灵顿维多利亚大学）
本文提出ADBA方法，利用近似决策边界高效比较扰动方向，并基于决策边界分布中位数开发ADBA-md算法，以极低查询成本提升黑盒对抗攻击效率。
2024-06-12 cs.AI cs.CV cs.LG
Inference-Time Decision Calibration for Temporal Classification
Department of Computer Science (DCC), Universidade Federal de Minas Gerais (UFMG)（米纳斯吉拉斯联邦大学计算机科学系）
提出将时序分类错误分解为表征错误和决策错误，通过冻结原生分类器并添加残差多尺度分支与事后分支感知校准器，在不重训练骨干网络的情况下区分缺失时序证据与未充分利用的决策级证据。
2026-06-16 cs.LG
Learning who is in the market from time series: market participant discovery through adversarial calibration of multi-agent simulators
JP Morgan（摩根大通）；JP Morgan AI Research（摩根大通人工智能研究院）
在电子交易市场中，通常只有价格或交易量的时间序列，这是由多个市场参与者的相互作用产生的，是直接可观察的。为了在将交易策略部署到实时交易之前对其进行测试，经常使用校准的多代理市场环境，以便模拟代理相互作用产生的时间序列类似于历史。为了确保充分的测试，必须在各种市场情景中测试交易策略-其中包括代表普通市场日以及压力市场的情景（最近由于COVID大流行的开始而观察到）。在本文中，我们解决的问题，多代理模拟器参数校准，让模拟器捕捉不同的市场制度的特点。我们提出了一种新的两步方法训练一个能够区分“真实”和“虚假”的价格和数量的时间序列作为GAN的一部分，自我关注，然后利用它的优化框架内调整参数的模拟器模型与已知的代理原型，以代表市场的情况。我们的结论与实验结果表明，我们的方法的有效性。
2021-08-02 cs.LG cs.MA q-fin.TR
Calibration by Distribution Matching: Trainable Kernel Calibration Metrics
Stanford University（斯坦福大学）
本文提出可训练的核校准度量，将校准视为分布匹配任务，统一分类与回归中的校准方法，并可直接用于经验风险最小化，从而提升校准、锐度与决策性能。
2023-10-31 cs.LG stat.ML
Estimating Expected Calibration Errors
EURA NOVA
当模型用于支持人类决策时，在更广泛的概率管道中或必须采取敏感的自动决策时，概率分类器预测的不确定性是一个关键问题。研究表明，大多数模型本质上都没有很好的校准，这意味着它们的决策得分与后验概率不一致。因此，能够校准这些模型，或在学习它们的同时执行校准，在最近的文献中重新引起了人们的兴趣。在这方面，适当评估校准对于量化处理校准问题的新贡献至关重要。然而，常用的度量标准还有改进的余地，更深入的分析可能会使校准评估受益。因此，本文的重点是在分类的背景下，校准指标的实证评估。更具体地说，它评估不同的估计的预期校准误差（$ECE$），其中传统的估计和一些新的，本文提出的。我们建立了一个实证程序来量化这些$ECE$估计的质量，并使用它来决定在实践中应使用的估计不同的设置。
2021-09-08 cs.LG
Robust Lagrangian and Adversarial Policy Gradient for Robust Constrained Markov Decision Processes
Agency for Science, Technology and Research（新加坡科技研究局）；CFAR（新加坡未来城市实验室）
针对鲁棒约束马尔可夫决策过程现有RCPG方法的缺陷，提出两种改进算法，经理论推导与扰动实验验证，性能优于传统变体与消融模型，其中对抗式RCPG表现尤为突出。
2024-05-15 cs.AI cs.LG cs.NE
Efficient Calibration for Decision Making
Apple（苹果公司）；UT Austin（得克萨斯大学奥斯汀分校）；Harvard（哈佛大学）
针对现有校准决策损失$\mathsf{CDL}$离线近似难算的问题，提出限定结构化后处理族的$\mathsf{CDL}_K$度量，建立其可解性理论并推导边界，为常用重校准流程提供严格保证。
2025-11-17 cs.DS cs.LG stat.ML
Hidden Heterogeneity: When to Choose Similarity-Based Calibration
Oregon State University（俄勒冈州立大学）
值得信赖的分类器对于在许多现实环境中采用机器学习预测至关重要。可能结果的预测概率可以为高风险决策提供信息，特别是在评估替代决策的预期价值或不良结果的风险时。这些决策需要经过良好校准的概率，而不仅仅是对最有可能的类别的正确预测。黑盒分类器校准方法可以提高分类器输出的可靠性，而不需要重新训练。然而，这些方法无法检测校准也可以提高预测精度的亚群。这样的亚群被认为表现出“隐藏的异质性”（HH），因为原始分类器没有检测到它们。本文提出了一个量化的措施，HH。它还介绍了两种相似性加权校准方法，可以通过本地适应每个测试项目来解决HH：SWC通过与测试项目的相似性对校准集进行加权，SWC-HH显式地结合隐藏的异质性来过滤校准集。实验表明，通过基于相似性的校准方法实现的校准中的改进与HH存在的量相关，并且在给定足够的校准数据的情况下，通常超过通过全局方法实现的校准。因此，HH可以作为一种有用的诊断工具，用于识别本地校准方法何时会有益。
2023-02-20 cs.LG
The Reliability Paradox: Exploring How Shortcut Learning Undermines Language Model Calibration
Purdue University（普渡大学）
本文探究了语言模型校准与捷径学习的关系，发现校准更优的模型反而包含更多不可泛化的决策规则，揭示了校准良好不等于本质可靠，呼吁开发兼顾泛化的综合框架。
2024-12-17 cs.AI cs.CL cs.LG
On the Complexity of Adversarial Decision Making
Microsoft（微软）
在线学习和决策制定的一个中心问题--从强盗学习到强化学习--是理解什么样的建模假设会导致样本有效的学习保证。我们考虑一个一般的对抗性决策框架，包括（结构化）强盗问题与对抗性奖励和强化学习问题与对抗性动态。我们的主要结果是显示-通过新的上限和下限-决策估计系数，由福斯特等人引入的复杂性度量。在随机对应我们的设置，是必要的和足够的，以获得低遗憾的对抗性决策。然而，与随机设置相比，必须将决策估计系数应用于所考虑的模型（或假设）类的凸包。这表明，适应对抗性奖励或动态的价格取决于凸化下模型类的行为，并恢复了一些现有的结果-无论是正面的还是负面的。在获得这些保证的过程中，我们提供了新的结构结果，将决策估计系数与其他著名的复杂性度量的变体连接起来，包括Russo和Van Roy的信息比以及Latestival和György的探索优化目标。
2022-06-27 cs.LG math.OC math.ST
Thermal Image Calibration and Correction using Unpaired Cycle-Consistent Adversarial Networks
Clemson University（克莱姆森大学）
针对航空野火数据集规模与质量不足的问题，本文提出基于 CycleGAN 的热图像校准校正流程，并通过将配对 RGB 图像作为双向生成器的属性条件来提升生成图像准确性。
2024-01-21 cs.CV cs.LG eess.IV
Tropical Decision Boundaries for Neural Networks Are Robust Against Adversarial Attacks
本研究提出一种可嵌入任意模型的热带卷积神经网络架构，利用分段线性网络的热带特性在单隐藏层嵌入热带投影环面，经理论分析与图像数据集实验验证其对对抗攻击具有鲁棒性。
2024-02-01 cs.CR cs.CV cs.LG
Adversarial Learned Fair Representations using Dampening and Stacking
Just Eat Takeaway.com
随着我们日常生活中越来越多的决策变得自动化，需要机器学习算法来做出公平的决策。在公平表示学习中，我们的任务是找到一个合适的数据表示，其中敏感变量被删失。最近的工作旨在通过对抗学习来学习公平表示。本文建立在这项工作的基础上，引入了一种新的算法，该算法使用阻尼和堆叠来学习对抗性的公平表示。结果表明，我们的算法改进了早期的工作，在审查和重建。
2022-03-16 cs.AI cs.CY cs.LG
