Feature Necessity & Relevancy in ML Classifier Explanations
University of Toulouse（图卢兹大学）；Univ. Paul Sabatier（保罗·萨巴蒂埃大学）；Universitat de Lleida（莱里达大学）；CNRS（法国国家科学研究中心）
给定机器学习（ML）模型和预测，解释可以被定义为足以用于预测的特征集。在某些应用程序中，除了要求解释之外，还必须了解敏感特征是否可以出现在某些解释中，或者不感兴趣的特征是否必须出现在所有解释中。本文首先将这些问题分别与基于逻辑的溯因推理中的关联性和必要性问题联系起来。然后证明了几个ML分类器的家庭成员和硬度的结果。然后分别给出了两类分类器的具体算法。实验结果证实了所提出的算法的可扩展性。
2023-02-07 cs.AI cs.LG
Beyond Sufficiency: Time Series Explanation with Counterfactual Necessity
School of Computer Science, University of Bristol（布里斯托大学计算机科学学院）；School of Engineering Mathematics and Technology, University of Bristol（布里斯托大学工程数学与技术学院）
研究时间序列分类器解释问题，提出必要性感知框架TimePNS，受Pearl反事实必要性概念启发，采用两阶段设计，通过实验证明其能更准确识别决策关键子序列，改进充分性-必要性权衡。
2026-07-24 cs.AI cs.LG
Learning Quantifiable Visual Explanations Without Ground-Truth
Computer Vision Center, Barcelona, Spain（巴塞罗那计算机视觉中心）；Autonomous University of Barcelona, Spain（巴塞罗那自治大学）
本文提出了一种基于连续输入扰动的可量化指标，用于评估XAI方法的质量，并提出了一种新的XAI方法，通过可微近似指标对模型进行微调，生成因果解释而不影响模型性能。
2026-05-18 cs.AI cs.LG
Explainable AI in Time-Sensitive Scenarios: Prefetched Offline Explanation Model
IMT School for Advanced Studies Lucca（卢cca高等研究院）；ISTI-CNR（意大利国家研究委员会信息科学与技术研究所）；University of Pisa（比萨大学）
提出Poem，一种与模型无关的图像局部可解释性算法，通过预取离线生成样例、反样例和显著性图，在时间敏感场景中提供快速有效解释，并在速度与解释质量上超越Abele。
2025-03-06 cs.AI cs.LG
Explaining Decisions in ML Models: a Parameterized Complexity Analysis (Part I)
本文从参数化复杂性角度系统研究决策树、决策集、布尔电路等透明机器学习模型中溯因与对比解释问题的计算复杂性，为可解释人工智能奠定理论基础。
2025-11-05 cs.AI
The Explanation Necessity for Healthcare AI
University of Cambridge（剑桥大学）
本文针对医疗 AI 何时及需要何种程度解释缺乏指南的问题，提出四类解释必要性分类体系，并结合评估稳健性、专家观察可变性和表示维度建立数学框架。
2025-02-28 cs.AI
Safety Implications of Explainable Artificial Intelligence in End-to-End Autonomous Driving
University of Alberta（阿尔伯塔大学）；Alberta Machine Intelligence Institute（阿尔伯塔机器智能研究所）
本文探讨了端到端自动驾驶中可解释AI的安全影响，通过重新审视安全与可解释性概念、关键案例研究及实证分析，揭示了解释在提升驾驶安全中的关键作用及其潜在价值与局限。
2025-05-29 cs.AI cs.RO
What Did My Car Say? Impact of Autonomous Vehicle Explanation Errors and Driving Context On Comfort, Reliance, Satisfaction, and Driving Confidence
University of California, San Diego（加利福尼亚大学圣迭戈分校）
通过232人的模拟驾驶研究，本文探讨了自动驾驶车辆解释错误、驾驶场景及个人特质对乘客舒适度、依赖度、满意度和信心的影响，发现解释错误会显著降低各项评分，强调需开发准确、自适应且个性化的解释系统以建立信任。
2025-01-28 cs.AI cs.HC
Explaining Decisions in ML Models: a Parameterized Complexity Analysis
University of Leeds（利兹大学）；Sapienza University of Rome（罗马第一大学）；TU Wien（维也纳技术大学）
本文对多种透明机器学习模型中的溯因和对比解释问题进行了参数化复杂度分析，填补了可解释AI领域的基础理论空白，为后续研究提供关键见解。
2024-07-22 cs.AI cs.CC
Knowledge Distillation-Based Model Extraction Attack using GAN-based Private Counterfactual Explanations
Faculty of Informatics（信息学学院）；Università della Svizzera italiana（瑞士意大利语大学）
本文研究如何利用反事实解释对MLaaS平台实施模型提取攻击，提出基于知识蒸馏的高效攻击方法，并引入差分隐私生成私有反事实解释以缓解攻击，同时分析其对解释质量的影响。
2024-10-22 cs.AI cs.CR cs.CY
Necessary or Sufficient? Evaluating LLM Explanations With Behavioural Evidence
BNY（纽约银行）
该研究测试LLM解释的必要性与充分性，在两个用例中对8款模型进行评估，发现引用因素与得分相关性有限，其无法可靠识别影响最强的因素，提供了LLM解释的黑箱可靠性检查框架。
2026-09-09 cs.AI
On the Forces of Driver Distraction: Explainable Predictions for the Visual Demand of In-Vehicle Touchscreen Interactions
University of Cologne（科隆大学）；MBition GmbH（MBition有限公司）
随着现代信息娱乐系统的发展，驾驶员越来越倾向于在驾驶时从事次要任务。由于分心驾驶已经是致命事故的主要原因之一，车载触摸屏人机界面（HMI）必须尽可能少地分散注意力。为了确保这些系统使用安全，它们需要经过精心设计和昂贵的经验测试，需要功能齐全的原型。因此，早期阶段的方法通知设计师的影响，他们的设计可能对司机分心是非常有价值的。本文提出了一种机器学习方法，基于预期的使用场景，预测的视觉需求的车载触摸屏交互，并提供本地和全局的解释的因素影响驾驶员的视觉注意力分配。该方法基于从生产线车辆连续收集的大规模自然驾驶数据，并采用SHapley加法解释（SHAP）方法来提供利用明智的设计决策的解释。我们的方法比相关工作更准确，并确定了68%的准确率发生长时间扫视的相互作用，并预测了总的扫视时间，平均误差为2.4秒。我们的解释复制了最近各种研究的结果，并提供了关于UI元素，驾驶自动化和车辆速度对驾驶员分心的影响的快速和易于访问的见解。该系统不仅可以帮助设计师评估当前的设计，还可以帮助他们更好地预测和理解他们的设计决策可能对未来设计的影响。
2023-01-05 cs.AI cs.HC
A Transparency Paradox? Investigating the Impact of Explanation Specificity and Autonomous Vehicle Perceptual Inaccuracies on Passengers
University of Oxford（牛津大学）；University of the West of England（西英格兰大学）；Indian Institute of Technology（印度理工学院）
本研究针对自动驾驶场景，通过扩展解释器模型并开展39人参与的沉浸式模拟器实验，探究解释特异性与感知误差对乘客的影响，发现感知误差极小时高透明度具体解释更能提升安全感，误差暴露会引发焦虑，且视觉模式与焦虑无显著关联。
2024-08-16 cs.AI cs.CY cs.HC
What Do People Want to Know About Artificial Intelligence (AI)? The Importance of Answering End-User Questions to Explain Autonomous Vehicle (AV) Decisions
University of Michigan（密歇根大学）
本文通过两项用户研究识别潜在乘客关于自动驾驶AI的疑问，并证明交互式文本解释比单纯观察更能提升其对AV决策的理解。
2025-05-09 cs.AI cs.HC
Explaining Autonomous Vehicles with Intention-aware Policy Graphs
Barcelona Supercomputing Center（巴塞罗那超级计算中心）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
本文提出基于意图感知策略图的事后、模型无关方法，从全局与局部视角解释 nuScenes 中自动驾驶车辆行为，以支持合规评估及数据集和模型脆弱性识别。
2025-05-13 cs.AI
RouteExplainer: An Explanation Framework for Vehicle Routing Problem
NTT Corporation（NTT公司）
本文提出RouteExplainer，一种事后解释框架，通过将路线视为动作序列并扩展反事实解释，结合边分类器和LLM生成解释，在四种VRP上验证了其快速且合理的准确性。
2024-03-06 cs.AI cs.LG math.OC
X-Blocks: Linguistic Building Blocks of Natural Language Explanations for Automated Vehicles
Queensland University of Technology (QUT)（昆士兰科技大学）；ARC Training Centre for Automated Vehicles in Rural and Remote Regions (AVR3)（农村和偏远地区自动化车辆培训中心）
X-Blocks框架通过分层分析识别自动驾驶车辆自然语言解释的构建块，提供场景感知解释的设计原则，提升透明性和用户信任。
2026-02-02 cs.AI cs.CL cs.RO
From Spoken Thoughts to Automated Driving Commentary: Predicting and Explaining Intelligent Vehicles' Actions
University of Oxford（牛津大学）；Umeå University（于默奥大学）；University of Nottingham（诺丁汉大学）；Oxford Robotics Institute（牛津机器人研究所）
在评论驾驶中，驾驶员用语言表达他们的观察，评估和意图。通过说出他们的想法，学习和专家驾驶员都能够更好地理解和意识到他们的周围环境。在智能车辆背景下，自动驾驶评论可以提供关于驾驶动作的可理解的解释，从而在具有挑战性和安全关键的场景中在驾驶操作期间帮助驾驶员或最终用户。在本文中，我们进行了一项实地研究，其中我们部署了一个研究车辆在城市环境中获取数据。在收集车辆周围环境的传感器数据时，我们使用有声思维协议从驾驶教练那里获得驾驶评论。我们分析了驾驶评论，发现了一种解释风格;司机首先宣布他的观察，宣布他的计划，然后做一般性的评论。他还发表了反事实的评论。我们成功地演示了如何使用透明的基于树的方法自动生成遵循这种风格的事实和反事实自然语言解释。为纵向行动生成解释（例如，停止和移动）被认为是更容易理解和合理的人类法官相比，横向行动，如车道变化。我们讨论了如何在未来建立我们的方法，以实现驾驶员辅助以及驾驶功能的部分和有条件自动化的更强大和有效的可解释性。
2022-06-04 cs.AI cs.CY cs.HC
Towards Trustworthy Automated Driving through Qualitative Scene Understanding and Explanations
Simula Research Laboratory（西穆拉研究实验室）；University of Montpellier（蒙彼利埃大学）；CNRS（法国国家科学研究中心）
提出定性可解释图（QXG），通过时空图和定性约束从传感器数据提取场景语义，为自动驾驶提供实时、可解释的场景理解与决策解释。
2024-03-25 cs.AI
SUNY: A Visual Interpretation Framework for Convolutional Neural Networks from a Necessary and Sufficient Perspective
University of California, Davis（加利福尼亚大学戴维斯分校）；National Taiwan University（台湾大学）
本文提出因果驱动的CNN视觉解释框架SUNY，从必要性和充分性双向量化生成解释，提升解释的信息性与说服力，并在多个数据集上达到竞争性能。
2024-05-27 cs.AI cs.CV
Trustworthy Automated Driving through Qualitative Scene Understanding and Explanations
Simula（西穆拉研究院）；LIRMM（Montpellier 电子与计算机科学实验室）
本文提出定性可解释图（QXG），一种实时构建的符号场景表示，用于自动驾驶中通过时空图和定性约束解释决策，提升可信度并支持乘客告知、VRU提醒及事后分析。
2024-01-29 cs.AI cs.CV
Efficient computation of counterfactual explanations of LVQ models
Bielefeld University（比勒费尔德大学）
机器学习在实践中的使用越来越多，以及欧盟GDPR等法律法规的出台，使得有必要能够解释机器学习模型的预测和行为。在决策背景下对人工智能模型进行特别直观的解释的一个突出例子是反事实解释。然而，如何有效地计算许多模型的反事实解释仍然是一个开放的研究问题。我们研究如何有效地计算反事实的解释一类重要的模型，基于原型的分类器，如学习矢量量化模型。特别是，我们得出具体的凸和非凸的程序取决于所使用的度量。
2020-01-27 cs.AI cs.LG stat.ML
Explaining RADAR features for detecting spoofing attacks in Connected Autonomous Vehicles
Rochester Institute of Technology（罗切斯特理工学院）；University of Florida（佛罗里达大学）；Toyota InfoTech Labs（丰田信息技术实验室）；University of California at Davis（加州大学戴维斯分校）
联网自动驾驶汽车（CAV）预计将内置AI系统，以抵御网络攻击。机器学习（ML）模型构成了许多此类AI系统的基础。这些模型就像黑箱一样，将输入转化为非常准确的解决方案，但没有解释支持他们的决定。需要解释来交流模型性能，使决策透明，并与利益相关者建立对模型的信任。解释还可以指示人类何时必须进行控制，例如，当ML模型做出低置信度决策或提供多个或模糊的替代方案时。这些证据也为事后法医分析提供了证据。可解释ML的安全问题的研究是有限的，尤其是关于CAV。本文提出了一个关键但研究不足的传感器数据\textit{uncertainty}问题，用于训练ML攻击检测模型，特别是在高度移动和风险规避的平台上，如自动驾驶汽车。我们提出了一个模型来解释传感器输入中的\textit{certainty}和\textit{uncertainty}--数据汇集中缺失的特征。我们假设，模型的解释是不准确的，对于一个给定的系统，没有可解释的输入数据质量。我们估计\textit{uncertainty}和质量函数的雷达传感器数据中的功能，并通过实验评估将它们纳入训练模型。mass函数允许分类器使用不正确的类标签准确地对所有欺骗输入进行分类。
2022-03-01 cs.AI cs.CR
Advancing Explainable Autonomous Vehicle Systems: A Comprehensive Review and Research Roadmap
Scania CV（斯堪尼亚汽车公司）；University of Oxford（牛津大学）
本文综述了自动驾驶汽车可解释性方法，将现有文献归纳为解释任务、解释信息和解释信息传达三类，并提出以了解对话者、及时解释、人性化沟通和持续学习为核心的研究路线图，以推动更安全可信的可解释自动驾驶系统发展。
2024-03-19 cs.AI cs.HC cs.LG
Explanations in Autonomous Driving: A Survey
University of Oxford（牛津大学）；University of Nottingham（诺丁汉大学）
在过去的几十年里，汽车行业的发展水平不断提高;从制造手动操作的车辆到制造具有高自动化水平的车辆。随着人工智能（AI）的最新发展，汽车公司现在采用黑盒AI模型，使车辆能够感知其环境并在很少或根本没有人类输入的情况下做出驾驶决策。随着自动驾驶汽车（AV）在商业规模上的部署，社会对AV的接受程度变得至关重要，并且可能在很大程度上取决于其透明度，可信度和遵守法规的程度。通过对无人驾驶汽车的行为作出解释，可以促进对无人驾驶汽车是否符合这些验收要求的评估。因此，可解释性被视为AV的重要要求。自动驾驶汽车应该能够解释他们在其运行的环境中“看到”了什么，做了什么，可能会做什么。在本文中，我们提供了一个全面的调查，现有的工作机构周围的可解释的自动驾驶。首先，我们通过突出和强调透明度、问责制和信任在自动驾驶汽车中的重要性，并审查与自动驾驶汽车相关的现有法规和标准，以解释为出发点。其次，我们确定和分类的不同利益相关者参与开发，使用和监管的AV和引出他们的解释要求AV。第三，我们提供了一个严格的审查以前的工作解释不同的AV操作（即，感知、定位、规划、控制和系统管理）。最后，我们确定相关的挑战，并提供建议，如AV解释的概念框架。本调查旨在提供研究者对AV可解释性感兴趣所需的基础知识。
2021-11-09 cs.AI cs.CY cs.HC
Textual Explanations for Automated Commentary Driving
UVC Partners（UVC合伙公司）；University of Oxford（牛津大学）；Oxford Robotics Institute（牛津机器人研究所）
本文提出一种改进的自动驾驶解释生成模型，通过集成词性预测和特殊标记惩罚，在BDD-X数据集上使BLEU指标比SOTA提升7.7倍，推动可解释自动驾驶发展。
2023-04-12 cs.AI cs.CL cs.HC
RX-ADS: Interpretable Anomaly Detection using Adversarial ML for Electric Vehicle CAN data
Virginia Commonwealth University（弗吉尼亚联邦大学）；Idaho National Laboratory（爱达荷国家实验室）
近年来，电动汽车（EV）和相关基础设施/通信取得了相当大的进步。入侵检测系统（IDS）被广泛部署在这样的关键基础设施的异常检测。本文提出了一种可解释的异常检测系统（RX-ADS），用于检测电动汽车CAN协议通信中的入侵。贡献包括：1）基于窗口的特征提取方法; 2）基于深度自动编码器的异常检测方法;以及3）基于对抗性机器学习的解释生成方法。该方法在两个基准CAN数据集上进行了测试：OTIDS和Car Hacking。RX-ADS的异常检测性能与这些数据集上最先进的方法进行了比较：HIDS和GIDS。RX-ADS方法的性能与HIDS方法（OTIDS数据集）相当，并且优于HIDS和GIDS方法（Car Hacking数据集）。此外，所提出的方法是能够产生的各种入侵检测到的异常行为的解释。这些解释后来被领域专家用来检测异常的信息所验证。RX-ADS的其他优势包括：1）该方法可以在未标记的数据上进行训练; 2）解释有助于专家理解异常和根本过程分析，还有助于AI模型调试和诊断，最终提高用户对AI系统的信任。
2022-09-05 cs.AI cs.CR cs.LG
Driving Behavior Explanation with Multi-level Fusion
Sorbonne Université（索邦大学）
在这个自动驾驶汽车积极发展的时代，为驾驶系统提供解释其决策的能力变得至关重要。在这项工作中，我们专注于生成高层次的驾驶解释的车辆驱动。我们提出了BEEF，BEEF或融合解释，一个解释轨迹预测模型行为的深层架构。在人类驾驶决策理由的注释的监督下，BEEF学习从多个层面融合特征。利用多模态融合文献的最新进展，BEEF被精心设计为对高级决策特征和中级感知特征之间的相关性进行建模。HDD和BDD-X数据集上的大量实验验证了我们方法的灵活性和效率。
2020-12-09 cs.AI cs.CV cs.LG
Ex-Twit: Explainable Twitter Mining on Health Data
Purdue University（普渡大学）
由于大多数机器学习模型没有为预测提供解释，因此它们的预测对人类来说是模糊的。解释模型预测的能力已经成为包括Twitter挖掘在内的许多应用程序的必需品。在这项工作中，我们提出了一种方法，称为可解释的Twitter挖掘（前Twit）结合主题建模和本地可解释的模型不可知解释（LIME）来预测的主题和解释模型的预测。我们证明了Ex-Twit在Twitter健康相关数据上的有效性。
2019-06-22 cs.AI cs.CL cs.LG
A Categorisation of Post-hoc Explanations for Predictive Models
University College Dublin（都柏林大学学院）
基于机器学习的预测模型在现代社会中无处不在，这自然会让人们问这些模型的可信度如何？在预测建模中，在准确性和可解释性之间进行权衡是很常见的。例如，医生想知道某些治疗对患者的有效性，或者为什么模型会建议对表现出这些症状的患者使用特定的药物？我们承认，可解释性的必要性是问题的不完全形式化的结果，或者更确切地说，是坚持一个特定概念的多重含义的结果。对于某些问题，仅仅得到答案（是什么）是不够的，模型还必须解释它是如何得出这个结论的（为什么），因为正确的预测只能部分解决原始问题。在这篇文章中，我们扩展了现有的分类技术，以帮助模型的可解释性和测试这种分类。
2019-04-04 cs.AI cs.LG
Vehicle Fuel Optimization Under Real-World Driving Conditions: An Explainable Artificial Intelligence Approach
Telefónica（西班牙电信公司）；Universidad Politécnica de Madrid（马德里理工大学）
工业车队中柴油和汽油车辆的燃料优化对于降低成本和减少排放至关重要。这一目标可以通过对燃料相关因素（如驾驶行为风格）采取行动来实现。在这项研究中，我们开发了一个可解释的提升机（EBM）模型，使用从2020年到2021年收集的真实数据来预测不同类型工业车辆的油耗。这个机器学习模型还解释了输入因素和油耗之间的关系，量化了每个因素的单独贡献。将模型提供的解释与领域知识进行比较，以查看它们是否一致。结果表明，与燃料因子相关的类别中有70%与以前的文献相似。使用EBM算法，我们估计优化驾驶行为可以在大型车队（超过1000辆）中降低12%至15%的油耗。
2021-07-22 cs.AI
NARRATE: A Multimodal Real-World Australian Driving Dataset for Human-Centred Explanations in Automated Driving
ARC Training Centre for Automated Vehicles in Rural and Remote Regions (AVR3)（澳大利亚农村及偏远地区自动驾驶车辆ARC培训中心）；Université Gustave Eiffel（Gustave Eiffel大学）；Queensland University of Technology (QUT)（昆士兰科技大学）
研究人员推出多模态真实世界澳大利亚驾驶数据集NARRATE，含2050个带注释事件，提供多类标签与情境意识注释，开展四项基准任务验证其价值，为开发以人为本的自动驾驶解释模型奠定基础。
2026-08-18 cs.AI cs.CL cs.CV
Accurate and Intuitive Contextual Explanations using Linear Model Trees
American Express, AI Labs（美国运通人工智能实验室）
随着复杂的机器学习模型在金融领域的关键应用中越来越多地使用，解释模型的决策已成为必要。从信用评分到信用营销的应用程序，这些模型的影响是不可否认的。在人们可以解释这些复杂模型的决策的多种方式中，局部事后模型不可知论的解释得到了广泛采用。这些方法允许人们独立于训练时使用的建模技术来解释每个预测。作为解释，它们要么给出单个特征属性，要么提供足够的规则来表示要进行预测的条件。现有技术方法的当前状态使用基本方法来在要解释的点周围生成合成数据。其次是拟合简单的线性模型作为替代，以获得预测的局部解释。在本文中，我们寻求显着改善这两个，用于生成解释的方法和所产生的解释的性质。我们使用生成对抗网络来生成合成数据，并训练线性模型树形式的分段线性模型来作为代理模型。除了单个特征属性之外，我们还通过利用我们的代理模型的结构和属性来为我们的解释提供伴随的上下文。
2020-09-11 cs.AI cs.LG stat.ML
IDD-X: A Multi-View Dataset for Ego-relative Important Object Localization and Explanation in Dense and Unstructured Traffic
Centre for Visual Information Technology, IIIT Hyderabad（IIIT海得拉巴视觉信息技术中心）；Department of Computer Science, IIT Mandi（IIT曼迪计算机科学系）
针对密集非结构化交通场景，提出大规模双视图数据集IDD-X，包含69K边界框和19K轨迹，支持自车相对重要目标定位与解释预测，并引入定制深度网络奠定驾驶行为研究基础。
2024-04-23 cs.AI cs.CV cs.RO
A Systematic Literature Review about the impact of Artificial Intelligence on Autonomous Vehicle Safety
University of São Paulo（圣保罗大学）；Ericsson AB（爱立信公司）；Ericsson Telecommunication S.A.（爱立信电信公司）
自动驾驶汽车（AV）有望为社会带来可观的效益，如交通优化和减少事故。它们严重依赖于许多人工智能（AI）方法和技术的进步。然而，虽然该领域的一些研究人员认为人工智能是增强安全性的核心要素，但其他人认为人工智能带来了新的挑战，以确保这些新的基于人工智能的系统和应用程序的安全性。在这种非融合的背景下，本文提出了一个系统的文献综述，以描绘一个清晰的画面，在AV安全的人工智能的文献的最新技术。基于4870篇检索论文的初始样本，根据论文中详细说明的选择标准选择了59项研究。然后将入围的研究分为六类，以回答提出的研究问题。提出了一个AV系统模型，并将其应用于SLR研究结果的讨论。作为主要结果，我们加强了我们的初步观察，即有必要为基于AI的AV系统的未来研究考虑一个严肃的安全议程。
2019-04-04 cs.AI cs.CY
How Causal Abstraction Underpins Computational Explanation
探讨系统如何在合适表征载体上实现给定计算，认为因果语言尤其是因果抽象理论可提供视角，结合深度学习讨论相关主题，给出基于因果抽象的计算实现说明并研究表征作用，指出与泛化和预测相关探讨最有成效。
2026-07-10 cs.AI cs.CL cs.LG
Corner Case Generation and Analysis for Safety Assessment of Autonomous Vehicles
University of Michigan（密歇根大学）；University of Michigan Transportation Research Institute（密歇根大学交通研究所）
测试和评估是开发和部署互联和自动驾驶汽车（CAV）的关键一步。为了全面评价CAV的性能，有必要在安全关键场景中测试CAV，这在自然驾驶环境中很少发生。因此，如何有目的、有系统地生成这些角点案例成为一个重要的问题。现有的研究主要集中在感知系统的对抗性样本生成方面，而决策系统的研究则相对较少，这也是本文的重点。由于CAV需要与大量的背景车辆（BV）进行长时间的交互，定义拐角情况的变量通常是高维的，这使得生成具有挑战性的问题。在本文中，提出了一个统一的框架来生成决策系统的角情况。为了解决高维性带来的挑战，基于马尔可夫决策过程对驾驶环境进行建模，并应用深度强化学习技术学习BVs的行为策略。通过学习策略，BV将更积极地与CAV进行行为和交互，从而导致更多的角落情况。为了进一步分析生成的角点情况，利用特征提取和聚类技术。通过选择每个聚类的代表性案例和离群值，可以从所有生成的角点案例中识别出有价值的角点案例。高速公路驾驶环境的仿真结果表明，所提出的方法可以有效地产生和识别有价值的角点情况。
2021-02-06 cs.AI cs.LG cs.RO
Causal Explanations for Sequential Decision-Making in Multi-Agent Systems
University of Edinburgh（爱丁堡大学）
本文提出 CEMA 框架，利用概率模型模拟反事实世界，为动态多智能体系统中的序贯决策生成因果自然语言解释，以提升自主智能体的可信赖度，并在自动驾驶场景中验证了其有效性和对用户信任的积极影响。
2024-02-14 cs.AI cs.RO
Context-aware, Ante-hoc Explanations of Driving Behaviour
German Aerospace Center Institute of Systems Engineering for Future Mobility（德国航空航天中心未来移动系统工程研究所）
针对自动驾驶汽车（AV）决策过程不透明导致的行为解释难题，提出基于Traffic Sequence Charts形式化上下文及（不）预期驾驶操作、结合运行时监控的上下文感知事前解释方法，以提升解释正确性与优质性，已在模拟超车场景验证。
2025-11-18 cs.AI cs.CY cs.LO
Extending Structural Causal Models for Autonomous Vehicles to Simplify Temporal System Construction & Enable Dynamic Interactions Between Agents
Oxford Robotics Institute, University of Oxford（牛津大学牛津机器人研究所）
本文扩展结构因果模型形式化，以支持模块化、常数空间时序表示及动态智能体集合，从而促进其在自动驾驶与服务机器人中的因果推理应用。
2025-03-18 cs.AI cs.RO cs.SE
