Interpreting LLMs as Credit Risk Classifiers: Do Their Feature Explanations Align with Classical ML?
Khalifa University(卡利法大学)
本研究针对贷款违约预测任务,对比零样本大语言模型与经典LightGBM模型的预测性能、特征归因及自解释可靠性,发现LLM的特征重要性排序与传统模型差异大,自解释可信度不足,强调金融场景部署LLM需可解释性审计与人在环路监督。
2025-10-29 cs.CL
TSQueryBench: LLM-as-a-Judge for Time Series Explanations
BITS Pilani(比拉理工学院皮拉尼校区);KIIT(KIIT大学);Birla AI Labs(比拉人工智能实验室)
本文研究了在无参考情况下,利用大语言模型作为生成和评估时间序列解释的工具,通过构造合成基准测试,评估模型在生成解释、相对排序、独立评分和多异常检测任务中的表现,发现评估任务比生成任务更稳定。
2026-08-19 cs.AI cs.CL
Retrieval-Augmented Chain-of-Thought in Semi-structured Domains
New York University(纽约大学)
本研究针对法律和金融领域问答中LLMs处理长上下文的局限,利用数据的半结构化特性高效检索相关上下文,构建的系统优于当代模型并提供有用解释,推动了LLMs在专业领域的应用。
2023-10-22 cs.AI cs.CL
Structured, flexible, and robust: benchmarking and improving large language models towards more human-like behavior in out-of-distribution reasoning tasks
University of Cambridge(剑桥大学);MIT(麻省理工学院)
人类语言为我们的思想提供了一个强大的窗口-我们讲故事,给出解释,并通过文字表达我们的信仰和目标。大量的证据也表明,语言在构建我们的学习中起着发展性的作用。在这里,我们要问:有多少类似人类的思维可以通过学习语言中的统计模式来捕捉?我们首先贡献了一个新的挑战基准比较人类和分布式大语言模型(LLM)。我们的基准测试包含两个问题解决领域(规划和解释生成),并被设计为需要泛化到新的,用语言表达的分布问题。我们发现,在这个基准上,人类比LLM更强大。接下来,我们提出了一个混合解析和求解模型,它增加了分布式LLM与结构化的符号推理模块。我们发现,该模型显示出对分布外规划问题的更强大的适应性,证明了混合人工智能模型对更人性化推理的承诺。
2022-05-11 cs.AI cs.CL cs.LG
CHiRPE: A Step Towards Real-World Clinical NLP with Clinician-Oriented Model Explanations
Orygen and The University of Melbourne(Orygen和墨尔本大学);AIM for Health Lab, Monash University(AIM for Health实验室,墨尔本大学);University of Liverpool(利物浦大学);Yale School of Medicine, Yale University(耶鲁医学院,耶鲁大学);Brigham and Women’s Hospital, Harvard Medical School(哈佛医学院布里奇沃特医院)
CHiRPE通过临床医生共同开发的新型SHAP解释格式,实现了高准确率的临床风险预测,并展示了临床指导的模型开发在真实世界中的应用潜力。
2026-01-26 cs.CL
A Taxonomy for Design and Evaluation of Prompt-Based Natural Language Explanations
National Research Council Canada(加拿大国家研究理事会)
本文借鉴可解释AI文献,针对基于提示的自然语言解释(NLEs)提出了一种涵盖上下文、生成与呈现及评估三个维度的分类法,为研究人员、审计人员和政策制定者设计、表征和增强透明AI系统的NLEs提供了框架。
2025-07-11 cs.AI cs.CL
Beyond Relevance: Structured Semantic Supervision for Product Search with LLM-Augmented Annotations
University of Surrey(萨里大学);eBay(易贝);Birmingham City University(伯明翰城市大学)
本文提出利用LLM生成结构化语义监督信号(属性、解释、中心性)增强产品搜索,实验表明该方法在ESCI上显著提升检索性能,且LLM主要辅助而非替代人工判断。
2026-09-22 cs.CL cs.IR
GLUCOSE: GeneraLized and COntextualized Story Explanations
Verneek, Inc.(Verneek公司);QuillBot Inc.(QuillBot公司);Elemental Cognition(元素认知公司)
当人类阅读或倾听时,他们会做出隐含的常识性推断,从而构建他们对发生了什么以及为什么发生的理解。作为迈向能够构建类似心智模型的人工智能系统的一步,我们引入了GLUCOSE,这是一个大规模的隐含常识因果知识数据集,编码为关于世界的因果迷你理论,每个理论都基于叙事背景。为了构建GLUCOSE,我们利用认知心理学来确定因果解释的十个维度,重点是事件,状态,动机和情绪。每个GLUCOSE条目包括一个特定于故事的因果陈述,以及从该陈述中概括的推理规则。本文详细介绍了两个具体的贡献。首先,我们介绍了我们的平台,用于大规模有效地众包葡萄糖数据,该平台使用半结构化模板来引出因果解释。使用这个平台,我们总共收集了约67万条特定语句和一般规则,这些语句和规则捕捉了有关日常情况的隐含常识。其次,我们表明,现有的知识资源和预训练的语言模型不包括或容易预测葡萄糖的丰富的推理内容。然而,当最先进的神经模型在这些知识的基础上进行训练时,它们可以开始对与人类心理模型相匹配的看不见的故事进行常识性推断。
2020-10-29 cs.AI cs.CL
LIBERTy: A Causal Framework for Benchmarking Concept-Based Explanations of LLMs with Structural Counterfactuals
Technion – Israel Institute of Technology(以色列理工学院)
LIBERTy提出了一种基于因果框架的基准测试框架,通过结构反事实评估LLM基于概念的解释,改进了可解释性方法的可信度。
2026-01-18 cs.AI cs.CL
Teach Me to Explain: A Review of Datasets for Explainable Natural Language Processing
Georgia Institute of Technology(佐治亚理工学院);Allen Institute for AI(艾伦人工智能研究所);University of Washington(华盛顿大学)
可解释NLP(ExNLP)越来越关注收集人类注释的文本解释。这些解释在下游以三种方式使用:作为数据增强以提高预测任务的性能,作为对训练模型的监督以产生对其预测的解释,以及作为地面实况以评估模型生成的解释。在这篇综述中,我们确定了65个数据集与三个主要类别的文本解释(亮点,自由文本,结构化),组织文献注释每种类型,确定现有的收集方法的优点和缺点,并为收集ExNLP数据集在未来的建议。
2021-12-07 cs.AI cs.CL cs.LG
Musketeer: Joint Training for Multi-task Vision Language Model with Task Explanation Prompts
The Chinese University of Hong Kong(香港中文大学);AWS AI Labs(AWS AI实验室)
提出Musketeer,一种多任务视觉语言模型,通过任务解释提示(TEP)减少任务干扰,实现参数共享,性能媲美或超越单任务基线。
2024-03-14 cs.AI cs.CL cs.CV
R2Vul: Learning to Reason about Software Vulnerabilities with Reinforcement Learning and Structured Reasoning Distillation
R2Vul通过RLAIF和结构化推理蒸馏训练小型代码LLM,在漏洞检测中生成有依据的解释,1.5B模型超越32B教师和商业LLM,并降低假阳性率。
2025-08-07 cs.AI cs.CL cs.SE
PONTE: Personalized Orchestration for Natural Language Trustworthy Explanations
Sapienza University of Rome(罗马大学萨皮恩扎);Syllotips;TellmewAI s.r.l.(TellmewAI公司)
PONTE通过闭环验证和适应过程,实现自然语言可信解释的个性化生成,提升XAI的完整性和风格对齐性。
2026-03-06 cs.AI cs.CL
Structured Reasoning for Fairness: A Multi-Agent Approach to Bias Detection in Textual Data
App Inventor Foundation(应用发明者基金会);App-In Club(应用互联俱乐部)
本文提出一种多智能体框架,通过将陈述拆解为事实或观点并分配偏见强度分数来检测文本偏见,在WikiNPOV数据集上准确率达84.9%,较零样本基线提升13.0%,为现代语言模型的公平性奠定基础。
2025-03-01 cs.AI cs.CL
Improving Procedural Skill Explanations via Constrained Generation: A Symbolic-LLM Hybrid Architecture
Ivy通过结合符号TMK模型与约束生成层,改进程序技能解释的结构和逻辑性,提升智能辅导系统的教育价值。
2025-11-26 cs.AI
Understanding the Uncertainty of LLM Explanations: A Perspective Based on Reasoning Topology
Arizona State University(亚利桑那州立大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校);Purdue University(普渡大学)
本文提出一种基于推理拓扑的新框架,通过将LLM解释构建为图拓扑结构并分解为子问题与推理路径,实现语义与推理路径层面的不确定性量化,为评估模型可靠性与增强鲁棒性提供可解释见解。
2025-09-15 cs.AI cs.CL cs.SC
STREET: A Multi-Task Structured Reasoning and Explanation Benchmark
AWS AI(AWS人工智能研究院);Northwestern University(西北大学)
我们介绍STREET,一个统一的多任务和多领域的自然语言推理和解释基准。与大多数现有的问答(QA)数据集不同,我们期望模型不仅回答问题,而且还产生逐步的结构化解释,描述如何使用问题中的前提来产生可以证明某个答案正确性的中间结论。我们使用流行的语言模型进行广泛的评估,例如Few-Shot提示GPT-3和微调的T5。我们发现,这些模型仍然落后于人类的表现时,产生这种结构化的推理步骤。我们相信这项工作将为社区提供一种方法,以更好地训练和测试多步推理和自然语言解释系统。
2023-02-13 cs.AI cs.CL
NyayaMind- A Framework for Transparent Legal Reasoning and Judgment Prediction in the Indian Legal System
IIT Kanpur, India(印度理工学院坎普尔分校);IIT Kharagpur, India(印度理工学院克勒格布尔分校);Symbiosis Law School Pune, India(印度共生法学院浦那分校);Dattam Labs, India(印度Dattam实验室);University of Birmingham, Dubai, United Arab Emirates(英国伯明翰大学迪拜校区)
NyayaMind通过整合检索、推理和验证机制,提升印度司法系统中判决预测与解释的透明度和准确性,为可信的人工智能辅助法律决策提供新方向。
2026-04-10 cs.AI cs.CL cs.LG
TheoremExplainAgent: Towards Video-based Multimodal Explanations for LLM Theorem Understanding
University of Waterloo(滑铁卢大学);Votee AI;Vector Institute(向量研究所)
TheoremExplainAgent利用Manim动画生成长篇定理解释视频,通过TheoremExplainBench基准和5个评估指标验证,o3-mini智能体成功率93.8%,并揭示多模态解释能暴露更深推理缺陷。
2025-05-25 cs.AI cs.CL cs.CV
GLARE: A Natural Language Interface for Querying Global Explanations
Oregon State University(俄勒冈州立大学)
提出基于LLM的交互接口GLARE,将自然语言问题转换为SQL查询以聚合局部解释数据,提升全局解释的可访问性和可用性。
2026-06-19 cs.AI cs.CV
Entailment Tree Explanations via Iterative Retrieval-Generation Reasoner
Northwestern University(西北大学);AWS AI Labs(亚马逊云科技人工智能实验室)
大语言模型在各种问答(QA)基准测试中取得了很高的性能,但其输出的可解释性仍然很难解释。结构化的解释,称为蕴涵树,最近被建议作为一种解释和检查QA系统答案的方法。为了更好地生成这样的蕴涵树,我们提出了一个架构称为迭代检索生成推理(IRGR)。我们的模型能够通过系统地从文本前提中生成一步一步的解释来解释给定的假设。IRGR模型迭代地搜索合适的前提,每次构造一个单一的蕴涵步骤。与以前的方法相反,我们的方法结合了生成步骤和前提检索,允许模型利用中间结论,并减轻了基线编码器-解码器模型的输入大小限制。我们使用EntailmentBank数据集进行实验,在那里我们在前提检索和蕴涵树生成方面优于现有的基准,总体正确性提高了约300%。
2022-07-19 cs.CL
Using LLMs for Explainable, Data-Driven Insight Generation from Time Series
University of Oxford(牛津大学);Vortexa
研究针对时间序列预测中解释生成难且易幻觉的问题,提出领域无关框架,含提取解释因素、基于证据生成解释及可扩展评估三组件,经案例研究验证,该框架能大规模实现有根据的解释生成,无需特定领域微调。
2026-07-22 cs.AI
COMEX: A Composition-Grounded Benchmark and Learning Framework for Explainable Aesthetic Image Cropping
ZTE Corporation(中兴通讯)
该研究提出基于构图的COMEX基准与SFT+GRPO两阶段框架,用于可解释美学图像裁剪,通过多组实验验证了框架的有效性与可迁移性。
2026-08-11 cs.AI cs.CV
Using Causal Threads to Explain Changes in a Dynamic System
本文提出基于过程的动态知识图谱方法,通过构建因果线索模型解释动态系统中的状态变化,并开发图形界面呈现解释,相比LLMs等统计方法具有可直接检查验证的优势。
2023-11-19 cs.AI cs.DL
GEE! Grammar Error Explanation with Large Language Models
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);QuillBot(QuillBot公司)
针对语法纠错工具缺乏自然语言解释的问题,提出语法错误解释任务,构建两步流水线(结构化原子编辑提取+GPT-4生成解释),在德语和中文数据上分别达到93.9%和98.0%的正确解释率。
2023-11-16 cs.CL
Simulate, Reason, Decide: Scientific Reasoning with LLMs for Simulation-Driven Decision Making
Computer Science and Engineering University of Michigan(计算机科学与工程大学密歇根大学)
提出MechSim框架,通过神经符号推理使LLM能够推理科学模拟器的机制和假设,提升决策透明度和可靠性。
2026-06-03 cs.AI
Less Back-and-Forth: A Comparative Study of Structured Prompting
Washington University in St. Louis(华盛顿大学圣路易斯分校)
本文研究了结构化提示设计是否能提高LLM响应质量并减少用户努力,通过比较三种提示条件,发现检查清单提示在任务完成、正确性、合规性和清晰度方面得分最高,且在质量和努力的平衡上表现最佳。
2026-10-06 cs.AI cs.CL cs.HC
COPA-SSE: Semi-structured Explanations for Commonsense Reasoning
Riken AIP(理化学研究所AIP);Tohoku NLP Lab(东北大学自然语言处理实验室)
我们提出了COPA的半结构化解释(COPA-SSE),这是一个新的众包数据集,包含9,747个半结构化的英语常识解释,用于合理选择(COPA)问题。这些解释被格式化为一组类似三重的常识陈述,具有ConceptNet关系,但可以自由编写概念。这种半结构化格式在结构化数据的高质量但低覆盖率和自由形式众包的低质量但高覆盖率之间取得了平衡。每种解释还包括一组人类给出的质量评级。这些解释以其熟悉的格式面向在知识图谱上操作的常识推理者,并作为改进此类系统的持续工作的起点。该数据集可在https://github.com/a-brassard/copa-sse上获得。
2022-05-12 cs.CL
DataWords: Getting Contrarian with Text, Structured Data and Explanations
Textician
我们的目标是使用自由文本和结构化数据的组合来构建分类模型。为此,我们用文本语句DataWords表示结构化数据,以便将类似的数据项映射到同一个语句中。这允许仅使用文本建模算法对文本和结构化数据的混合进行建模。有几个例子说明,通过首先运行提取工具(命名实体识别),然后将输出转换为DataWords,并在模型构建和分类之前将DataWords添加到原始文本中,可以提高文本分类性能。这种方法还允许我们在自由文本和结构化数据方面对推论进行解释。
2022-02-17 cs.AI cs.CL cs.LG
Observable Patterns Are Not Explanations: A Causal-Geometric Analysis of Latent Reasoning Models
Université Grenoble Alpes, CNRS, Grenoble INP, LIG(格勒诺布尔阿尔卑斯大学,法国国家科学研究中心,格勒诺布尔国立理工学院,信息学实验室);Université Paris-Saclay(巴黎-萨克雷大学);NAVER LABS Europe(NAVER欧洲实验室)
本文通过对照实验和因果干预发现,潜在推理模型中的可观察模式(如BFS前沿)在控制组中也出现且不总是因果影响行为,提出潜在思维的使用是分级的,其因果效应集中在低秩方向,几何结构随行为影响增强而更有序。
2026-10-27 cs.CL
XGRAG: A Graph-Native Framework for Explaining KG-based Retrieval-Augmented Generation
Berlin Technology Centre(柏林技术中心);Deutsche Bank(德意志银行)
XGRAG通过图基扰动策略生成因果解释,提升GraphRAG系统的可解释性,在多个问答数据集上实现解释质量提升。
2026-04-27 cs.AI cs.IR cs.LG
ExplaGraphs: An Explanation Graph Generation Task for Structured Commonsense Reasoning
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
最近的常识推理任务在本质上通常是有区别的,其中模型回答特定上下文的多项选择题。区分性任务是有限的,因为它们无法充分评估模型的推理能力,并用基本常识知识解释预测。它们还允许这样的模型使用推理捷径,而不是“出于正确的原因而正确”。在这项工作中,我们提出了ExplaGraphs,一个新的生成和结构化的常识推理任务(和相关的数据集)的解释图生成的立场预测。具体来说,给定一个信念和一个论点,模型必须预测论点是支持还是反对信念,并生成一个常识增强图,作为预测立场的非平凡,完整和明确的解释。我们通过一个新的验证和细化图形收集框架,提高图形质量(高达90%),通过多轮的验证和细化收集解释图。我们的图中有79%包含具有不同结构和推理深度的外部常识节点。接下来,我们提出了一个多层次的评估框架,包括自动度量和人工评估,检查生成的图的结构和语义的正确性及其与地面实况图的匹配程度。最后,我们提出了几个结构化的,常识增强的,文本生成模型作为强有力的起点,这个解释图生成任务,并观察到,有一个很大的差距与人类的表现,从而鼓励未来的工作,这一新的挑战性任务。ExplaGraphs将在https://explagraphs.github.io上公开提供。
2021-10-18 cs.AI cs.CL
LLM-Generated Black-box Explanations Can Be Adversarially Helpful
University of Toronto(多伦多大学);Vector Institute(矢量研究所);UMass Amherst(马萨诸塞大学阿默斯特分校);Stevens Institute of Technology(史蒂文斯理工学院);Dalhousie University(达尔豪斯大学)
本文揭示了LLMs在黑盒解释中存在的“对抗性帮助性”风险,即通过重新表述问题、表达高信心和挑选证据等策略使错误答案看似正确,从而误导人类和LLM评估器,并基于图导航实验指出其误导并非源于复杂逻辑推演。
2024-10-11 cs.CL
InteracSPARQL: An Interactive System for SPARQL Query Refinement Using Natural Language Explanations
University of Waterloo(滑铁卢大学)
本文提出交互式系统InteracSPARQL,结合LLM与基于规则的方法生成自然语言解释,支持用户通过直接反馈或LLM自我优化实时修正SPARQL查询,显著提升了查询准确率、解释清晰度与用户满意度。
2025-11-03 cs.AI cs.DB cs.IR
Beyond Post-hoc Explanation: Toward Glassbox AI via Probabilistic Mediation
Manuele Leonelli(曼努埃尔·莱奥内利)
针对大语言模型在关键领域的不透明性,提出玻璃箱框架,利用贝叶斯网络作为事前中介层,实现可审计推理、不确定性量化和可争议输出。
2026-06-05 cs.AI
Manimator: Transforming Research Papers into Visual Explanations
Department of Computer Science and Engineering, PES University, Bengaluru, India(计算机科学与工程系,PES大学,班加罗尔,印度)
本文提出开源系统Manimator,利用大型语言模型和Manim引擎将研究论文转化为解释性动画,通过双LLM流水线生成可执行代码,为复杂STEM主题快速创建可视化教育内容。
2025-07-18 cs.AI cs.CY cs.MM
BIASINSPECTOR: Detecting Bias in Structured Data through LLM Agents
University of Southern California(南加州大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
本文提出首个端到端多智能体协同框架BIASINSPECTOR,通过多阶段规划与多样化工具自动检测结构化数据偏差,并构建全面基准,实验证明其性能卓越,推动了更公平的数据应用。
2025-04-07 cs.AI
Explaining is Harder Than Predicting Alone: Evaluating Concept-based Explanations of MLLMs as ICL Visual Classifiers
本文通过五种形式化程度递增的条件,系统评估多模态大语言模型在少样本上下文学习中的基于概念的可解释性,发现解释比预测更难,且强制生成形式化解释会降低预测准确性。
2026-07-13 cs.AI cs.CL cs.LG
Benchmarking the Explanatory Quality of Open-Weight Vision-Language Models in Face Recognition
Idiap Research Institute(伊迪亚普研究所);Université de Lausanne(洛桑大学)
本文提出一个基准测试框架,将解释质量作为核心评估轴,通过相关性和忠实性两个标准量化开放权重视觉语言模型在人脸识别中的解释,并联合评估验证准确性与解释质量,揭示现有不足。
2026-09-21 cs.AI cs.CV
ArtRAG: Retrieval-Augmented Generation with Structured Context for Visual Art Understanding
University of Amsterdam(阿姆斯特丹大学);College of Business(商学院);Economics, University of Johannesburg(经济系,约翰内斯堡大学)
针对多模态大模型难以捕捉美术作品细腻解读的问题,提出免训练框架ArtRAG,通过构建艺术上下文知识图谱并结合多粒度结构化检索引导生成,在艺术理解任务上超越多个强基线,生成更具文化内涵的解读。
2025-09-05 cs.AI cs.CV
From Plots to Words: Model-Aware Multimodal Explanations as a Foundation for Accessible, Non-Visual Interaction
Institute of Theoretical and Applied Informatics, PAS(波兰科学院理论与应用信息研究所)
该研究提出多智能体框架,将时间序列预测的视觉输出转为模型感知文本解释,可提升非视觉交互的可访问性,其可解释配置使解释质量最高提升32%。
2026-08-27 cs.AI cs.HC
Characterising divergence between heuristic and language-model ratings of mobile user interface quality
Metropolitan University(大都会大学)
本文利用RICO数据集构建评估语料库,通过启发式基线与多语言模型对比,系统检验LLM在移动UI质量评估中的可靠性,并归纳失败分类及架构解释。
2026-11-11 cs.CL cs.HC cs.SE
DiffNator: Generating Structured Explanations of Time-Series Differences
Research and Development Group, Hitachi, Ltd.(日立株式会社研发部)
DiffNator提出一个框架,利用JSON模式和时间序列编码器结合冻结LLM,在TORI数据集上生成时间序列差异的结构化解释,显著优于VQA基线和检索方法。
2025-09-24 cs.CL
Reward Engineering for Generating Semi-structured Explanation
Monash University(莫纳什大学);VinUniversity
本文针对语言模型半结构化解释生成难题,提出强化学习奖励工程方法并研究多种奖励聚合策略,在 ExplaGraph 与 COPA-SSE 上取得最先进结果。
2024-01-24 cs.CL
Causal Distillation: Transferring Structured Explanations from Large to Compact Language Models
Stanford University(斯坦福大学)
提出因果蒸馏框架,将大型教师模型的因果推理能力迁移至紧凑模型,并引入CEC指标评估解释的结构与逻辑一致性。
2025-05-26 cs.CL
SEER: Facilitating Structured Reasoning and Explanation via Reinforcement Learning
Shanghai Jiao Tong University(上海交通大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Agency for Science, Technology and Research (A*STAR)(新加坡科技研究局)
本文提出SEER方法,通过最大化基于结构的回报和细粒度奖励函数来捕捉推理步骤间的层次与分支关系,从而促进问答系统中的结构化推理与解释,在多个基准上显著优于现有方法。
2024-09-27 cs.CL
Explainability and Hate Speech: Structured Explanations Make Social Media Moderators Faster
University of Edinburgh(爱丁堡大学);Snap Inc.(Snap公司)
本文研究结构化解释对真实社交媒体内容审核员决策速度的影响,实验发现通用解释常被忽略且无提速效果,而结构化解释可使审核员决策时间降低7.4%。
2024-06-06 cs.CL
Formal Proofs as Structured Explanations: Proposing Several Tasks on Explainable Natural Language Inference
Institute for Language Sciences Utrecht University(乌得勒支大学语言科学研究所)
本文提出基于语义表方法的推理框架,利用形式证明半自动生成结构化解释,并据此定义可按解释粒度排序难度的自然语言推理任务,以减少现有可解释推理任务的缺陷。
2025-02-06 cs.CL
From Images to Insights: Explainable Biodiversity Monitoring with Plain Language Habitat Explanations
Leibniz Centre for Agricultural Landscape Research (ZALF)(莱比锡农业景观研究中心(ZALF));Brandenburg University of Technology Cottbus–Senftenberg(勃兰登堡技术大学科特博斯-森芬根堡)
本文提出一个端到端视觉到因果框架,将物种图像转化为可解释的栖息地偏好因果洞察,结合物种识别、出现检索、伪缺失采样和气候数据,并用大语言模型生成人类可读的因果解释,在蜜蜂和花卉物种上验证了潜力。
2025-09-09 cs.AI cs.CV cs.ET
Dynamic MOdularized Reasoning for Compositional Structured Explanation Generation
Heidelberg University(海德堡大学)
提出动态模块化推理模型MORSE,通过模块化自注意力机制动态路由输入至专用头以分解推理过程,在结构化解释生成任务中显著提升了神经模型的组合泛化能力。
2023-09-14 cs.CL
CLUES: A Benchmark for Learning Classifiers using Natural Language Explanations
UNC Chapel Hill(北卡罗来纳大学教堂山分校)
传统上,监督学习通过观察任务的标记示例来关注归纳学习。相比之下,人类有能力从语言中学习新概念。在这里,我们探索纯粹从语言中训练结构化数据的zero-shot分类器。为此,我们介绍了CLUES,一个使用自然语言解释的分类器学习基准,包括一系列结构化数据的分类任务以及解释形式的自然语言监督。CLUES由36个真实世界和144个合成分类任务组成。它包含众包解释,描述来自多个教师的真实任务,以及为合成任务编程生成的解释。为了对解释在分类示例中的影响进行建模,我们开发了ExEnt,这是一种基于蕴涵的模型,可以使用解释来学习分类器。ExEnt在新任务上的泛化能力(相对)比不使用解释的基线高出18%。我们从解释中描述了自动学习的关键挑战,解决这些挑战可以在未来推动CLUES的发展。代码和数据集可在https://clues-benchmark.github.io上获得。
2022-04-14 cs.AI cs.CL cs.LG
SCRIBE: Structured Chain Reasoning for Interactive Behaviour Explanations using Tool Calling
EPFL(苏黎世联邦理工学院)
语言模型可用于在教育环境中提供交互式的、个性化的学生反馈。然而,现实世界的部署面临着三个关键挑战:隐私问题,有限的计算资源,以及需要教学有效的反应。这些限制需要小型的开源模型,这些模型可以在本地运行,并以正确的信息可靠地支持其输出。我们介绍SCRIBE,多跳,工具增强推理的框架,旨在生成有效的反应,学生的反馈报告的问题。SCRIBE将特定于领域的工具与支持迭代推理、工具使用和错误恢复的自反射推理管道相结合。我们通过两阶段LoRA对合成GPT-4 o生成的数据进行微调,将这些功能扩展到3B和8B模型中。与人类对齐的GPT-Judge评估和108名学生的用户研究表明,8B-SCRIBE模型在相关性和可操作性等关键维度上达到了与更大模型相当或更高的质量,同时被学生认为与GPT-4 o和Llama-3.3 70 B相当。这些发现证明了SCRIBE在低资源、隐私敏感的教育应用中的可行性。
2025-10-30 cs.CL
Explaining Black-Box Language Models: Learning to Optimize Linguistically-Structured Word Subsets
Korea University(高丽大学)
针对黑盒语言模型解释的三个关键需求(推理效率、黑盒兼容性、语言结构可解释性),提出一种通过强化学习选择信息性单词子集的方法,实现高效、无梯度且语言连贯的解释。
2026-06-07 cs.AI cs.CL
Understanding the Effect of Algorithm Transparency of Model Explanations in Text-to-SQL Semantic Parsing
George Mason University(乔治梅森大学);MITRE Corporation(MITRE公司)
本文通过约100名参与者的实验,研究文本到SQL语义解析中不同算法透明度级别的模型解释对用户体验的影响,发现中等透明度解释能在用户依赖、交互表现和信任稳定性之间取得最佳平衡。
2024-11-24 cs.AI cs.CL cs.HC