Understanding the Effect of Counterfactual Explanations on Trust and Reliance on AI for Human-AI Collaborative Clinical Decision Making
Singapore Management University（新加坡管理大学）
本文通过实验研究反事实解释如何帮助临床决策中的治疗师和非专业人士减少对错误AI输出的过度依赖，并提升对AI模型准确性的判断能力。
2023-08-08 cs.AI cs.HC cs.LG
In Search of Verifiability: Explanations Rarely Enable Complementary Performance in AI-Advised Decision Making
University of Washington（华盛顿大学）；Allen Institute for AI（艾伦人工智能研究所）
该研究提出AI解释仅在支持人类验证预测正确性时才有用的理论，指出多数任务难验证导致解释难实现互补决策性能，并拆解了合理依赖的两类概念。
2024-02-01 cs.AI cs.HC
Trust and Reliance in Consensus-Based Explanations from an Anti-Misinformation Agent
Tokyo Institute of Technology（东京工业大学）；Tokyo University of Science（东京理科大学）
研究在反虚假信息 AI 智能体的基于共识解释中考察信任与依赖，发现依赖而非信任会影响用户的共识错觉，为以用户为中心的 XAI 解释设计提供依据。
2023-04-22 cs.AI cs.HC cs.SI
Machine Explanations and Human Understanding
University of Chicago（芝加哥大学）；Microsoft Research（微软研究院）
该研究针对机器解释对人类理解的提升效果不一致的问题，用因果图形式化刻画二者作用机制，明确三类理解核心概念，指出无任务直觉假设时解释仅能提升对模型决策边界的理解，验证了直觉的重要性，为相关研究提供框架与指导。
2023-05-01 cs.AI cs.CL cs.CY
Not All Trust is the Same: Effects of Decision Workflow and Explanations in Human-AI Decision Making
Digital Media Lab, University of Bremen（数字媒体实验室，不莱梅大学）
研究探讨了决策流程和解释对人机决策信任的影响，发现信任和依赖行为是不同构念，需分别评估。
2026-03-05 cs.AI cs.HC
Adjust for Trust: Mitigating Trust-Induced Inappropriate Reliance on AI Assistance
University of Southern California（美国南加州大学）
通过信任自适应干预减少AI依赖，提升决策准确性与人机协作效率
2026-01-26 cs.AI cs.CL cs.HC
Attention cannot be an Explanation
University of California, Los Angeles（加州大学洛杉矶分校）
基于注意力的解释（即显着性图），通过提供可解释性的黑盒模型，如深神经网络，被认为是提高人类的信任和依赖的基础模型。最近，它已被证明，注意力的权重往往是不相关的基于梯度的措施的功能的重要性。受此启发，我们提出了一个后续问题：“假设我们只考虑注意力权重与特征重要性密切相关的任务，那么这些基于注意力的解释在增加人类对底层模型的信任和依赖方面有多有效？".换句话说，我们能用注意力来解释吗？我们进行了广泛的人类研究实验，旨在定性和定量地评估基于注意力的解释在增加人类信任和依赖方面的适用程度。我们的实验结果表明，注意力不能作为一种解释。
2022-01-26 cs.HC cs.LG
Exploring the Impact of Explainable AI and Cognitive Capabilities on Users' Decisions
Organization（机构）
本研究探讨了在贷款场景中AI信息呈现方式与解释风格及认知需求（NFC）对用户决策的影响，发现高AI置信度与反事实解释能提升准确率并降低认知负荷，且高低NFC个体间无显著差异，强调了XAI界面需结合多样解释风格与用户特征进行个性化设计。
2025-05-02 cs.AI cs.HC
Interactive Example-based Explanations to Improve Health Professionals' Onboarding with AI for Human-AI Collaborative Decision Making
Singapore Management University（新加坡管理大学）；Singapore General Hospital（新加坡综合医院）
提出交互式基于示例的解释方法，通过呈现最近邻样本协助健康专业人员入门AI，实验证明该方法能优化人员对AI的依赖并提高正确决策比例，降低错误决策比例。
2024-09-24 cs.AI cs.HC cs.LG
Supporting Calibrated Reliance in Human-AI Collaboration: Different Strategies for Different Tasks
Bar-Ilan University（巴伊兰大学）；University of Virginia（弗吉尼亚大学）；Department of Psychology, Ariel University（阿里尔大学心理学系）
研究揭示LLM解释在提升人机团队表现上的矛盾效果，通过三组实验发现解释增加信心但未必提升准确性，且可能抑制错误恢复能力，强调需转向校准依赖与有效错误恢复的设计。
2026-08-19 cs.AI cs.CL cs.HC
AI Knows Best? The Paradox of Expertise, AI-Reliance, and Performance in Educational Tutoring Decision-Making Tasks
Carnegie Mellon University（卡内基梅隆大学）；The University of Hong Kong（香港大学）
研究探讨AI辅助决策中专家性与AI依赖的矛盾，发现非专家更依赖AI建议而提升准确性，而专家则常忽视AI建议，导致表现差异。
2026-01-03 cs.HC
Knowing About Knowing: An Illusion of Human Competence Can Hinder Appropriate Reliance on AI Systems
Delft University of Technology（代尔夫特理工大学）
人工智能系统在各种任务中增强人类能力的令人眼花缭乱的承诺取决于人类是否能够适当地依赖它们。最近的研究表明，适当的依赖是在人工智能辅助决策中实现互补团队绩效的关键。本文讨论了一个未被充分探讨的问题，即人们之间的邓宁-克鲁格效应（DKE）是否会阻碍他们对人工智能系统的适当依赖。DKE是一种元认知偏差，由于这种偏差，能力较低的个体会高估自己的技能和表现。通过一项实证研究（N = 249），我们探讨了DKE对人类依赖AI系统的影响，以及这种影响是否可以通过使用教程干预来缓解，该干预揭示了AI建议的易错性，并利用基于逻辑单元的解释来提高用户对AI建议的理解。我们发现，高估自己表现的参与者往往对人工智能系统的依赖不足，这阻碍了团队的最佳表现。基于逻辑单元的解释并没有帮助用户提高他们的能力校准或促进适当的依赖。虽然教程干预在帮助用户校准自我评估和促进高估自我评估的参与者之间的适当依赖方面非常有效，但我们发现它可能会损害低估自我评估的参与者的适当依赖。我们的工作对解决用户认知偏见的方法设计具有广泛的影响，同时促进对人工智能系统的适当依赖。我们的研究结果推进了目前对自我评估在人类人工智能决策中塑造信任和依赖的作用的理解。这为该社区的相关HCI研究提供了有前途的未来方向。
2023-01-25 cs.AI cs.CL cs.HC
Modeling Reliance on XAI Indicating Its Purpose and Attention
本研究通过两个实验与结构方程模型分析，探究展示目的与注意力热图的XAI对人类信任、依赖及合规行为的影响，明确了不同使用场景与任务难度下的作用差异。
2023-07-20 cs.HC
AI Reliance and Decision Quality: Fundamentals, Interdependence, and the Effects of Interventions
University of Groningen（格罗宁根大学）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；University of Bayreuth（拜罗伊特大学）；Fraunhofer FIT（弗劳恩霍夫应用信息技术研究所）
本文厘清并形式化了AI辅助决策中依赖行为与决策质量的关系，提出可视化框架以刻画人机互补条件，并用于解释干预措施效果，强调区分二者对研究与实践的重要性。
2025-02-04 cs.AI cs.HC
Passing the Buck to AI: How Individuals' Decision-Making Patterns Affect Reliance on AI
Information School, University of Washington（华盛顿大学信息学院）；Paul G. Allen School of Computer Science, University of Washington（华盛顿大学保罗·G·艾伦计算机科学学院）；Middlebury College（米德尔伯里学院）
个体决策模式影响其对AI的依赖程度，推卸责任倾向与依赖AI正相关，而警惕性倾向与仔细审查AI信息正相关。
2026-01-22 cs.HC
On the Relationship Between Explanations, Fairness Perceptions, and Decisions
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；University of Texas at Austin（德克萨斯大学奥斯汀分校）
众所周知，基于AI的系统的建议可能是不正确或不公平的。因此，人们常常认为人类是最终的决策者。先前的工作认为，解释是帮助人类决策者提高决策质量和减轻偏见的重要途径，即，促进人类与AI的互补性。为了实现这些好处，解释应该使人类能够适当地依赖AI建议，并在必要时推翻算法建议，以提高决策的分配公平性。然而，文献并没有提供确凿的经验证据，说明解释是否在实践中能够实现这种互补性。在这项工作中，我们（a）提供了一个概念框架，阐明解释，公平的看法，依赖和分配的公平之间的关系，（b）应用它来理解（看似）矛盾的研究结果在解释和公平的交叉点，（c）得出凝聚力的影响，制定研究问题和实验设计。
2022-05-06 cs.AI cs.HC
Understanding Operator Attitudes Toward AI-Supported Decision Making in Maritime Operations
University of Antwerp（安特卫普大学）；Antwerp Maritime Academy（安特卫普海事学院）
本研究通过问卷调查和情感分析，探讨海事操作员对AI辅助决策的态度，发现应通过透明可靠的设计支持校准依赖，而非单纯提高自动化或信任。
2026-09-11 cs.AI cs.HC
An Empirical Evaluation of Predicted Outcomes as Explanations in Human-AI Decision-Making
在这项工作中，我们在基于预测结果的解释存在的情况下，实证研究人类人工智能决策。这种类型的解释在推理时为人类决策者提供了每个决策备选方案的预期结果-其中预测结果通常以特定问题的单位（例如，以美元计的利润）。我们进行了一项试点研究，在点对点贷款的背景下，以评估提供预测的结果作为解释，以奠定研究参与者的影响。我们的初步研究结果表明，与没有提供解释或基于特征的解释的情况相比，人们对人工智能建议的依赖增加了，特别是当人工智能建议不正确时。这导致区分正确和不正确的AI建议的能力受到阻碍，最终可能会以负面的方式影响决策质量。
2022-08-30 cs.HC
X-ToM: Explaining with Theory-of-Mind for Gaining Justified Human Trust
我们提出了一个新的可解释AI（XAI）框架，旨在通过解释来增加人类对AI机器的合理信任和依赖。我们提出解释作为一个迭代的通信过程，即对话，机器和人类用户之间。更具体地说，机器在对话中生成解释序列，该解释序列在每个对话回合考虑三个重要方面：（a）人类的意图（或好奇心）;（b）人类对机器的理解;以及（c）机器对人类用户的理解。为了做到这一点，我们使用心理理论（ToM），它可以帮助我们明确地建模人类的意图，由人类推断的机器思维以及由机器推断的人类思维。换句话说，这些心理理论中的外显心理表征被纳入学习的最佳解释政策，考虑到人类的感知和信念。此外，我们还表明，ToM有利于定量测量合理的人类信任的机器通过比较所有三个心理表征。我们将我们的框架应用于三个视觉识别任务，即图像分类，动作识别和人体姿态估计。我们认为，我们的理论为基础的解释是实用的，更自然的专家和非专家用户了解复杂的机器学习模型的内部工作。据我们所知，这是第一个使用ToM进行解释的工作。广泛的人类研究实验验证了我们的假设，表明所提出的解释在所有标准的定量和定性XAI评估指标（包括人类信任，依赖和解释满意度）方面显着优于最先进的XAI方法。
2019-09-15 cs.AI cs.CV cs.HC
The Impact of Imperfect XAI on Human-AI Decision-Making
Carnegie Mellon University（卡内基梅隆大学）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）；University of Bayreuth（拜罗伊特大学）
本文通过 136 人的混合方法用户研究，考察错误解释及其自信程度、用户专业水平对鸟类识别任务中 AI 依赖和团队绩效的影响，并提出设计指南。
2024-05-08 cs.AI cs.HC
Human Decision-Making with Persuasive and Narrative LLM Explanations
DEVCOM Army Research Laboratory（美国陆军研发实验室）；University of Texas at Dallas（德克萨斯大学达拉斯分校）；Virginia Polytechnic Institute and State University（弗吉尼亚理工大学）
通过大规模行为实验，研究LLM生成的叙事解释的说服力程度对人类决策准确性的影响，发现叙事解释未显著提升决策准确性，但增加了对AI的依赖，且高说服力叙事可能损害决策反应时间和辨别能力。
2026-05-22 cs.AI cs.HC
Identifying the Most Explainable Classifier
我们引入逐点覆盖的概念来衡量机器学习分类器的可解释性。对预测的解释是特征空间中与预测共享相同标签的可定义的简单区域，解释的覆盖率衡量其大小或可推广性。有了这个解释的概念，我们研究最可解释的分类器是否存在自然的特征。根据我们的直觉，我们证明了二元线性分类器是唯一的最可解释的分类器可忽略的集。
2019-10-22 cs.HC cs.LG stat.ML
Large Language Models Help Humans Verify Truthfulness -- Except When They Are Convincingly Wrong
Stanford University（斯坦福大学）；University of Maryland（马里兰大学）；Carnegie Mellon University（卡内基梅隆大学）；NYU Shanghai（上海纽约大学）；New York University（纽约大学）；Microsoft Research（微软研究院）
本文通过80名众包实验发现LLM解释虽能提升事实核查效率但易致用户过度依赖，对比性解释可缓解该问题却未能超越搜索引擎，表明LLM解释在高风险场景中不可靠。
2024-04-01 cs.CL cs.HC
Understanding how the use of AI decision support tools affect critical thinking and over-reliance on technology by drug dispensers in Tanzania
Elsa Health Inc.（Elsa Health公司）；Inspired Ideas Research Foundation（灵感创意研究基金会）；Apotheker Consultancy (T) Limited（Apotheker咨询（坦桑尼亚）有限公司）
人工智能在医疗保健中的使用旨在改善医疗服务，并增强提供者的决策，以改善患者的治疗效果。当部署在临床环境中时，提供者和人工智能之间的交互是衡量和理解这些数字化工具对更广泛健康结果的有效性的关键组成部分。即使在人工智能算法具有高诊断准确性的情况下，医疗保健提供者通常仍然依赖他们的经验，有时甚至是直觉来做出最终决定。其他时候，供应商毫无疑问地依赖于人工智能模型的输出，这导致了对技术过度依赖的担忧。这项研究的目的是了解药店配药员在确定临床病例的鉴别诊断时对人工智能技术的依赖程度。我们探讨了药物分配器如何应对总是正确的技术，试图衡量他们是否开始依赖它，而没有任何自己的批判性思维。我们发现，分配器在25%的时间里依赖于AI做出的决定，即使AI没有解释它的决定。
2023-02-22 cs.AI cs.HC cs.LG
Don't Explain without Verifying Veracity: An Evaluation of Explainable AI with Video Activity Recognition
University of Florida（佛罗里达大学）；University of Texas in Dallas（德克萨斯大学达拉斯分校）
可解释的机器学习和人工智能模型已被用于证明模型的决策过程。这种增加的透明度旨在帮助提高用户性能和对底层模型的理解。然而，在实践中，可解释系统面临着许多开放的问题和挑战。具体来说，设计师可能会降低深度学习模型的复杂性，以提供可解释性。然而，这些简化模型产生的解释可能无法准确地证明模型的合理性和真实性。这可能会进一步增加用户的困惑，因为他们可能会发现解释对模型预测没有意义。了解这些解释如何影响用户行为是一个持续的挑战。在本文中，我们探讨如何解释准确性影响用户的性能和协议的智能系统。通过一个受控的用户研究与可解释的活动识别系统，我们比较了解释的准确性的变化，视频审查和查询任务。结果表明，与准确的解释和没有解释的系统相比，低准确性的解释显着降低用户的性能和协议。这些发现表明了准确和可理解的解释的重要性，并警告说，就其对用户性能和对人工智能系统的依赖性的影响而言，糟糕的解释有时可能比没有解释更糟糕。
2020-05-05 cs.AI cs.HC cs.LG
Understanding the Effect of Algorithm Transparency of Model Explanations in Text-to-SQL Semantic Parsing
George Mason University（乔治梅森大学）；MITRE Corporation（MITRE公司）
本文通过约100名参与者的实验，研究文本到SQL语义解析中不同算法透明度级别的模型解释对用户体验的影响，发现中等透明度解释能在用户依赖、交互表现和信任稳定性之间取得最佳平衡。
2024-11-24 cs.AI cs.CL cs.HC
Could Humans Outshine AI in Visual Data Analysis?
本文通过实验研究人类在双变量可视化中推断数据生成模型参数的能力，发现人类虽总体不如统计模型，但在极端样本下常优于贝叶斯智能体，表明直觉启发式在视觉分析中具有独特价值，可为整合人类直觉与统计模型的视觉分析工具设计提供启示。
2024-11-19 cs.HC
Classification Metrics for Image Explanations: Towards Building Reliable XAI-Evaluations
Fraunhofer Institute for Manufacturing Engineering and Automation IPA（弗劳恩霍夫制造工程与自动化研究所）；Institute of Industrial Manufacturing and Management IFF, University of Stuttgart（斯图加特大学工业制造与管理研究所）
本文针对显著性方法评估不可靠的问题，提出基于心理测量学概念的新评估度量及可靠性评估方案，并在ImageNet上对常见显著性方法进行基准测试。
2024-06-07 cs.AI cs.CV cs.HC
Do ATCOs Need Explanations, and Why? Towards ATCO-Centered Explainable AI for Conflict Resolution Advisories
本文以空中交通管制员为中心，探讨其在冲突解决建议中是否需要AI解释及原因，通过综合ATM、人机交互与社会科学视角评估11项运行目标，发现记录决策和生成报告时最需要解释，为设计以管制员为中心的XAI系统奠定基础。
2025-06-03 cs.HC
Does Explanation Correctness Matter? Linking Computational XAI Evaluation to Human Understanding
Information Systems Group, Eindhoven University of Technology（埃因霍温理工大学信息系统组）；Human-Technology Interaction Group, Eindhoven University of Technology（埃因霍温理工大学人机交互组）
研究通过用户实验检验解释正确性对人类理解的影响，发现正确性降低时理解性能下降，但并非所有正确性水平均导致性能下降，且完全正确解释也不保证理解。
2026-11-06 cs.AI cs.HC cs.LG
The Memory Paradox: Why Our Brains Need Knowledge in an Age of AI
本文揭示生成式AI时代人类记忆萎缩的悖论，借鉴神经科学与认知心理学，论证过度依赖AI会损害记忆巩固，强调内部模型对有效人机交互的关键作用，并提出教育政策建议。
2025-06-19 cs.AI cs.CY cs.HC
Designing for Complementarity: A Conceptual Framework to Go Beyond the Current Paradigm of Using XAI in Healthcare
本文提出融合特征重要性、反例解释与相似案例解释的理论框架，并通过参与式共同设计高保真原型，探索医疗 AI 与临床医生形成决策互补。
2024-04-06 cs.HC
Believing without Seeing: Quality Scores for Contextualizing Vision-Language Model Explanations
University of Southern California（南加州大学）；Carnegie Mellon University（卡内基梅隆大学）
本文提出通过两种质量评分函数评估视觉语言模型解释的视觉忠实度和对比性，以减少对模型预测的过度依赖，实验显示质量评分能显著提升用户判断准确性。
2026-04-21 cs.CL cs.HC
Learning to Generate and Evaluate Fact-checking Explanations with Transformers
University of Manchester（曼彻斯特大学）；Imperial College London, Imperial Global Singapore（伦敦帝国理工学院、帝国理工学院新加坡全球分校）；University of Cambridge（剑桥大学）
本文研究如何用Transformer模型生成事实验证解释并自动评估解释质量，通过引入人类中心评估方法和专门数据集，在生成任务上取得47.77的ROUGE-1分数，并在客观维度评估上与人类判断达到约0.7的MCC相关性。
2024-10-21 cs.AI cs.CL cs.HC
To Believe or Not To Believe: Comparing Supporting Information Tools to Aid Human Judgments of AI Veracity
Commonwealth Scientific & Industrial Research Organisation（联邦科学与工业研究组织）
本文比较了不同支持信息工具对人类判断AI可信度的影响，发现段落检索在准确性和速度上表现良好，而LLM解释易导致过度依赖。
2026-03-12 cs.HC
Assessing the communication gap between AI models and healthcare professionals: explainability, utility and trust in AI-driven clinical decision-making
The University of Manchester（曼彻斯特大学）；CRUK Manchester Institute（英国癌症研究中心曼彻斯特研究所）；Idiap Research Institute（Idiap研究所）
本文贡献了一个实用的评价框架，可解释的机器学习（ML）模型的临床决策支持。该研究揭示了ML解释模型的一个更微妙的作用，当这些模型被实用地嵌入临床环境中时。尽管医疗保健专业人员（HCP）对解释作为一种安全和信任机制的普遍积极态度，但对于一组重要的参与者来说，存在与确认偏差相关的负面影响，加剧了模型的过度依赖，并增加了与模型互动的努力。此外，与其主要预期功能之一相矛盾的是，标准的解释性模型显示出有限的能力来支持对模型局限性的批判性理解。然而，我们发现了新的显著的积极影响，重新定位了临床背景下解释的作用：这些包括减少自动化偏倚，解决模糊的临床病例（HCP不确定其决策的病例）以及支持经验不足的HCP获取新的领域知识。
2022-10-27 cs.AI cs.HC cs.LG
Fool Me Once? Contrasting Textual and Visual Explanations in a Clinical Decision-Support Setting
Vienna University of Technology（维也纳工业大学）；University of Oxford（牛津大学）；Rayscape（锐景）；Oxford University Hospitals NHS Foundation Trust（牛津大学医院NHS基金会信托）；University College London（伦敦大学学院）
通过85名医疗从业者参与的用户研究，对比胸部X光分析中视觉、文本及混合解释对用户依赖的影响，发现文本解释易导致过度依赖，而与显著性图结合可缓解该问题。
2024-10-21 cs.CL cs.CV cs.HC
Why Would You Suggest That? Human Trust in Language Model Responses
MIT Lincoln Laboratory（麻省理工学院林肯实验室）
本文通过新闻标题生成任务研究解释的呈现方式如何影响用户对LLM的信任，发现比较场景下解释能提升信任，但单独展示时用户会无差别信任所有回答。
2024-10-04 cs.AI cs.CL cs.HC
Roadmap of Designing Cognitive Metrics for Explainable Artificial Intelligence (XAI)
最近，可解释的人工智能（XAI）研究已经转向关注更务实或自然主义的理解，即利益相关者是否理解解释。这一点对于研究XAI系统的评估方法尤为重要。因此，XAI研究可以从认知科学和心理学研究中受益的另一个方向是衡量用户，反应和态度的理解的方法。这些措施可用于量化解释质量，并作为XAI系统的反馈，以改善解释。本报告旨在从利益相关者的认知状态和过程的角度提出评估XAI系统的合适指标。我们详细阐述了7个维度，即，善良，满意度，用户理解，好奇心和参与，信任和依赖，可控性和互动性，学习曲线和生产力，以及推荐的主观和客观心理测量。然后，我们提供了更多的细节，我们可以如何使用推荐的措施来评估视觉分类XAI系统根据推荐的认知指标。
2021-07-20 cs.HC
Selective Explanations: Leveraging Human Input to Align Explainable AI
University of Colorado Boulder（科罗拉多大学博尔德分校）；University of Chicago（芝加哥大学）；Microsoft Research（微软研究院）
本文提出选择性解释框架，通过利用人类输入从模型理由中选择与接收者偏好相符的子集，实验表明其能减少对AI的过度依赖并改善决策结果与主观感知。
2023-08-07 cs.AI cs.CL cs.HC
A Human-Grounded Evaluation of SHAP for Alert Processing
Eindhoven University of Technology（埃因霍温理工大学）；Rabobank（荷兰合作银行）
在过去的几年中，许多新的解释方法已经被提出来实现机器学习预测的可解释性。然而，这些方法在实际应用中的效用还没有得到广泛的研究。在本文中，我们提出了一个以人为本的SHAP，解释方法，已在XAI和相关社区广受好评的评价结果。特别是，我们研究这种局部模型不可知的解释方法是否可以用于真正的人类领域专家来评估积极预测的正确性，即由分类器生成的警报。我们对三组不同的参与者（共159人）进行了实验，他们都具有可解释的机器学习的基本知识。我们进行了定性分析记录的反射实验参与者执行警报处理和不SHAP信息。结果表明，SHAP解释确实影响决策过程，尽管该模型的置信度得分仍然是主要的证据来源。我们统计测试是否有一个显着的差异，任务之间的任务效用指标的解释是可用的，任务中，它没有提供。与常见的直觉相反，我们没有发现当SHAP解释可用时与不可用时警报处理性能的显着差异。
2019-07-07 cs.HC cs.LG stat.ML
PCNN: Probable-Class Nearest-Neighbor Explanations Improve Fine-Grained Image Classification Accuracy for AIs and Humans
Auburn University（奥本大学）；Carnegie Mellon University（卡内基梅隆大学）；University of Alberta（阿尔伯塔大学）
本文提出PCNN方法，利用图像比较器S比较输入图像与冻结分类器C预测的前K类最近邻图像，并据此优化C的置信度，在多个细粒度数据集上提升了AI与人类的分类准确率并减少对AI的过度依赖。
2024-08-26 cs.CV cs.HC
