Natural Language Processing RELIES on Linguistics
University of Zurich(苏黎世大学);Amherst College(阿默斯特学院);Georgetown University(乔治城大学)
本文通过RELIES框架阐述语言学在NLP中的六个关键贡献领域,强调其持久重要性。
2025-10-16 cs.AI cs.CL
People Attribute Purpose to Autonomous Vehicles When Explaining Their Behavior: Insights from Cognitive Science for Explainable AI
University of Edinburgh(爱丁堡大学)
本文基于认知科学提出解释模式框架,通过自动驾驶场景实验构建HEADD数据集,发现目的论解释质量显著优于反事实解释,为XAI设计提供了实证依据。
2025-02-03 cs.AI cs.HC cs.RO
Grounding Linguistic Commands to Navigable Regions
International Institute of Information Technology, Hyderabad(海得拉巴国际信息技术学院)
人类有一种自然的能力,可以毫不费力地理解语言命令,如“停在黄色轿车旁边”,并本能地知道车辆应该在道路的哪个区域行驶。将这种能力扩展到自动驾驶汽车是创建完全自主智能体的下一步,这些智能体可以根据人类的命令做出反应和行动。为此,我们提出了参考可导航区域(RNR)的新任务,即,基于所述语言命令使感兴趣区域接地以用于导航。RNR与引用图像分割(RIS)不同,RIS侧重于将自然语言表达式引用的对象作为基础,而不是将可导航区域作为基础。例如,对于命令“停在黄色轿车旁边”,RIS将旨在分割所提及的轿车,并且RNR旨在分割道路上的建议停车区域。我们引入了一个新的数据集,Talk 2Car-RegSeg,它扩展了现有的Talk 2car数据集,为语言命令描述的区域提供分割掩码。提供了一个单独的测试分割与简洁的面向机动的命令,以评估我们的数据集的实用性。我们基准建议的数据集使用一种新的基于transformer的架构。我们提供了广泛的消融,并在多个评价指标上显示出优于基线的性能。一个下游路径规划器生成轨迹的基础上RNR输出证实了所提出的框架的有效性。
2021-12-24 cs.CV cs.RO
From Spoken Thoughts to Automated Driving Commentary: Predicting and Explaining Intelligent Vehicles' Actions
University of Oxford(牛津大学);Umeå University(于默奥大学);University of Nottingham(诺丁汉大学);Oxford Robotics Institute(牛津机器人研究所)
在评论驾驶中,驾驶员用语言表达他们的观察,评估和意图。通过说出他们的想法,学习和专家驾驶员都能够更好地理解和意识到他们的周围环境。在智能车辆背景下,自动驾驶评论可以提供关于驾驶动作的可理解的解释,从而在具有挑战性和安全关键的场景中在驾驶操作期间帮助驾驶员或最终用户。在本文中,我们进行了一项实地研究,其中我们部署了一个研究车辆在城市环境中获取数据。在收集车辆周围环境的传感器数据时,我们使用有声思维协议从驾驶教练那里获得驾驶评论。我们分析了驾驶评论,发现了一种解释风格;司机首先宣布他的观察,宣布他的计划,然后做一般性的评论。他还发表了反事实的评论。我们成功地演示了如何使用透明的基于树的方法自动生成遵循这种风格的事实和反事实自然语言解释。为纵向行动生成解释(例如,停止和移动)被认为是更容易理解和合理的人类法官相比,横向行动,如车道变化。我们讨论了如何在未来建立我们的方法,以实现驾驶员辅助以及驾驶功能的部分和有条件自动化的更强大和有效的可解释性。
2022-06-04 cs.AI cs.CY cs.HC
Textual Explanations for Automated Commentary Driving
UVC Partners(UVC合伙公司);University of Oxford(牛津大学);Oxford Robotics Institute(牛津机器人研究所)
本文提出一种改进的自动驾驶解释生成模型,通过集成词性预测和特殊标记惩罚,在BDD-X数据集上使BLEU指标比SOTA提升7.7倍,推动可解释自动驾驶发展。
2023-04-12 cs.AI cs.CL cs.HC
Driving Behavior Explanation with Multi-level Fusion
Sorbonne Université(索邦大学)
在这个自动驾驶汽车积极发展的时代,为驾驶系统提供解释其决策的能力变得至关重要。在这项工作中,我们专注于生成高层次的驾驶解释的车辆驱动。我们提出了BEEF,BEEF或融合解释,一个解释轨迹预测模型行为的深层架构。在人类驾驶决策理由的注释的监督下,BEEF学习从多个层面融合特征。利用多模态融合文献的最新进展,BEEF被精心设计为对高级决策特征和中级感知特征之间的相关性进行建模。HDD和BDD-X数据集上的大量实验验证了我们方法的灵活性和效率。
2020-12-09 cs.AI cs.CV cs.LG
Explanations in Autonomous Driving: A Survey
University of Oxford(牛津大学);University of Nottingham(诺丁汉大学)
在过去的几十年里,汽车行业的发展水平不断提高;从制造手动操作的车辆到制造具有高自动化水平的车辆。随着人工智能(AI)的最新发展,汽车公司现在采用黑盒AI模型,使车辆能够感知其环境并在很少或根本没有人类输入的情况下做出驾驶决策。随着自动驾驶汽车(AV)在商业规模上的部署,社会对AV的接受程度变得至关重要,并且可能在很大程度上取决于其透明度,可信度和遵守法规的程度。通过对无人驾驶汽车的行为作出解释,可以促进对无人驾驶汽车是否符合这些验收要求的评估。因此,可解释性被视为AV的重要要求。自动驾驶汽车应该能够解释他们在其运行的环境中“看到”了什么,做了什么,可能会做什么。在本文中,我们提供了一个全面的调查,现有的工作机构周围的可解释的自动驾驶。首先,我们通过突出和强调透明度、问责制和信任在自动驾驶汽车中的重要性,并审查与自动驾驶汽车相关的现有法规和标准,以解释为出发点。其次,我们确定和分类的不同利益相关者参与开发,使用和监管的AV和引出他们的解释要求AV。第三,我们提供了一个严格的审查以前的工作解释不同的AV操作(即,感知、定位、规划、控制和系统管理)。最后,我们确定相关的挑战,并提供建议,如AV解释的概念框架。本调查旨在提供研究者对AV可解释性感兴趣所需的基础知识。
2021-11-09 cs.AI cs.CY cs.HC
A Comparative Analysis of Counterfactual Explanation Methods for Text Classifiers
本文比较了五种为BERT文本分类器生成反事实解释的方法,发现白盒替换方法有效但欠自然,LLM方法自然但常无效,建议结合两者优势开发新方法。
2024-11-04 cs.AI cs.CL
Advancing Explainable Autonomous Vehicle Systems: A Comprehensive Review and Research Roadmap
Scania CV(斯堪尼亚汽车公司);University of Oxford(牛津大学)
本文综述了自动驾驶汽车可解释性方法,将现有文献归纳为解释任务、解释信息和解释信息传达三类,并提出以了解对话者、及时解释、人性化沟通和持续学习为核心的研究路线图,以推动更安全可信的可解释自动驾驶系统发展。
2024-03-19 cs.AI cs.HC cs.LG
NARRATE: A Multimodal Real-World Australian Driving Dataset for Human-Centred Explanations in Automated Driving
ARC Training Centre for Automated Vehicles in Rural and Remote Regions (AVR3)(澳大利亚农村及偏远地区自动驾驶车辆ARC培训中心);Université Gustave Eiffel(Gustave Eiffel大学);Queensland University of Technology (QUT)(昆士兰科技大学)
研究人员推出多模态真实世界澳大利亚驾驶数据集NARRATE,含2050个带注释事件,提供多类标签与情境意识注释,开展四项基准任务验证其价值,为开发以人为本的自动驾驶解释模型奠定基础。
2026-08-18 cs.AI cs.CL cs.CV
Automated Failure-Mode Clustering and Labeling for Informed Car-To-Driver Handover in Autonomous Vehicles
University of Colorado Boulder(科罗拉多大学博尔德分校)
当车辆无法自行安全行驶时,车辆与驾驶员的切换是安全自动驾驶车辆操作的一个至关重要的组成部分。这种切换在汽车中的当前实现方式采取指示即将将控制转移回人类驾驶员的通用警报的形式。然而,某些级别的车辆自主性可能允许驾驶员在切换之前从事其他非驾驶相关的任务,导致快速恢复态势感知的巨大困难。除非采取缓解措施,否则重新定向延迟可能导致危及生命的故障。可解释的人工智能已被证明可以提高人机协作场景中的流畅性和团队合作。因此,我们假设,通过利用自主解释,这些汽车到驾驶员的转换可以更安全和可靠地进行。其基本原理是,通过为驾驶员提供额外的情境知识,他们将更快地专注于驾驶环境的相关部分。为此,我们提出了一种算法故障模式识别和解释方法,使知情的驾驶员从车辆。此外,我们提出了一套人类主体驾驶模拟器的研究,以确定适当的形式的解释,以及验证我们的框架。
2020-05-09 cs.HC cs.RO
Effects of Explanation Specificity on Passengers in Autonomous Driving
University of Oxford(牛津大学)
本文通过扩展基于树的解释器算法生成不同具体性级别的听觉自然语言解释,研究其对自动驾驶乘客的影响,发现具体解释会影响乘客接管驾驶控制的意愿,而抽象解释不会。
2023-07-02 cs.AI cs.CY cs.HC
ConceptX: A Framework for Latent Concept Analysis
Qatar Computing Research Institute(卡塔尔计算研究所);Faculty of Computer Science, Dalhousie University(达尔豪斯大学计算机学院);School of Engineering and Science, Steven Institute of Technology(史蒂文斯理工学院工程与科学学院)
深度神经网络的不透明性仍然是部署解决方案的一个挑战,其中解释与精度同样重要。我们提出了ConceptX,一个用于解释和注释预训练的语言模型(pLM)中的潜在表征空间的人在回路框架。我们使用一种无监督的方法来发现在这些模型中学习到的概念,并为人类提供一个图形界面来生成对概念的解释。为了促进这一过程,我们提供了概念的自动注释(基于传统的语言本体)。这样的注释使得能够开发直接表示在深度NLP模型中学习的潜在概念的语言资源。这些概念不仅包括传统的语言概念,还包括特定于任务或敏感的概念(根据性别或宗教内涵分组的单词),这些概念有助于注释者标记模型中的偏见。该框架由两部分组成:(i)概念发现和(ii)注释平台。
2022-11-12 cs.CL
QED: A Framework and Dataset for Explanations in Question Answering
Department of Linguistics, Stanford University(斯坦福大学语言学系);Google Research(谷歌研究院);Department of Computer Science, The University of Texas at Austin(德克萨斯大学奥斯汀分校计算机科学系)
除了提供答案之外还提供对导致该答案的推理的解释的问答系统在可调试性、可扩展性和信任方面具有潜在的优点。为此,我们提出了QED,一个语言上知情的,可扩展的框架解释问答。QED解释根据形式语义概念(如指称平等、可证性和蕴涵)指定问题和答案之间的关系。我们描述并公开发布了一个基于Google Natural Questions数据集子集的QED解释的专家注释数据集,并报告了两个任务的基线模型-给出答案的事后解释生成,以及联合问答和解释生成。在联合设置中,一个有希望的结果表明,在相对少量的QED数据上训练可以提高问答。除了描述QED方法的正式的语言理论动机外,我们还描述了一项大型用户研究,该研究表明,QED解释的存在显着提高了未经训练的评分员发现强大的神经QA基线所犯错误的能力。
2020-09-08 cs.AI cs.CL
Do Chess Explanations Reflect Model Decisions? Behavioral and Token-Level Tests of LLM Reasoning Faithfulness
Lucerne University of Applied Sciences and Arts(卢塞恩应用科学与艺术大学);Technical University of Munich(慕尼黑工业大学)
本研究通过行为与词元级测试,证明LLM在国际象棋中的流畅解释虽能影响动作偏好,但仅提供有限的推理忠实度证据,语言合理性与决策正确性相互独立。
2026-09-22 cs.AI cs.CL
X-Troll: eXplainable Detection of State-Sponsored Information Operations Agents
University of Technology Sydney(悉尼技术大学);RMIT University(皇家墨尔本理工大学)
针对国家资助troll检测中LLM黑箱问题与宣传识别困难,提出X-Troll框架,整合可解释适配器LLM与专家语言知识,通过LoRA适配器和动态门控提升检测准确性并提供操纵策略解释。
2025-08-27 cs.CL
LingGym: How Far Are LLMs from Thinking Like Field Linguists?
University of British Columbia(不列颠哥伦比亚大学);University of Waterloo(滑铁卢大学);Vector Institute(向量研究所)
本文提出LingGym基准,通过词-标注推理任务评估LLM在低资源语言上的元语言推理能力,发现结合结构化语言线索能持续提升所有模型的推理性能。
2025-11-01 cs.CL
Evaluating GPT-3 Generated Explanations for Hateful Content Moderation
Singapore University of Technology and Design(新加坡科技设计大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所)
本研究提出分析框架,通过2,400名受访者调查评估GPT-3生成的仇恨言论解释,发现其虽高质量但说服力可能导致内容审核错误判断,强调需谨慎应用。
2023-08-30 cs.AI cs.CL
GLARE: A Natural Language Interface for Querying Global Explanations
Oregon State University(俄勒冈州立大学)
提出基于LLM的交互接口GLARE,将自然语言问题转换为SQL查询以聚合局部解释数据,提升全局解释的可访问性和可用性。
2026-06-19 cs.AI cs.CV
Why Linguistics Will Thrive in the 21st Century: A Reply to Piantadosi (2023)
Stony Brook University(石溪大学)
本文从数据效率、人工与自然系统的关系、科学理论要求及人类能力界定四个方面回应Piantadosi (2023),论证LLMs不能驳斥Chomsky的进路,生成语言学在21世纪仍不可替代。
2023-08-06 cs.AI cs.CL cs.LG
Safety Implications of Explainable Artificial Intelligence in End-to-End Autonomous Driving
University of Alberta(阿尔伯塔大学);Alberta Machine Intelligence Institute(阿尔伯塔机器智能研究所)
本文探讨了端到端自动驾驶中可解释AI的安全影响,通过重新审视安全与可解释性概念、关键案例研究及实证分析,揭示了解释在提升驾驶安全中的关键作用及其潜在价值与局限。
2025-05-29 cs.AI cs.RO
Can Edge Probing Tasks Reveal Linguistic Knowledge in QA Models?
University of Copenhagen(哥本哈根大学);Megagon Labs(Megagon实验室);University of Michigan(密歇根大学)
已经有许多努力试图理解什么语法知识(例如,理解标记的词性的能力)被编码在大的预训练的语言模型(LM)中。这是通过“边缘探测”(EP)测试完成的:监督分类任务,仅使用来自LM编码器的标记表示来预测跨度的语法属性(是否具有特定的词性)。然而,大多数NLP应用程序会针对特定任务对这些LM编码器进行微调。在这里,我们问:如果LM是微调,它的语言信息的编码改变,作为EP测试测量?具体而言,我们专注于问答(QA)的任务,并在多个数据集上进行实验。我们发现,当微调模型表现良好或在对抗性的情况下,模型被迫学习错误的相关性时,EP测试结果不会发生显着变化。根据类似的发现,最近的一些论文得出结论,微调不会改变编码器中的语言知识,但他们没有提供解释。我们发现,EP模型本身容易利用EP数据集中的虚假相关性。当这个数据集偏差得到纠正时,我们确实看到EP测试结果的改善。
2022-09-08 cs.CL
Inference to the Best Explanation in Large Language Models
University of Galway(戈尔韦大学);Idiap Research Institute(Idiap研究所);University of Manchester(曼彻斯特大学);Insight SFI Research Centre for Data Analytics(Insight SFI数据分析研究中心)
本文提出IBE-Eval框架,结合一致性、简约性、连贯性和不确定性等特征评估大语言模型生成的自然语言解释的合理性,在因果问答任务中以77%准确率优于基线,并与人类判断显著相关,为自动化解释验证提供新机会。
2025-03-02 cs.AI cs.CL
Receive, Reason, and React: Drive as You Say with Large Language Models in Autonomous Vehicles
Purdue University(普渡大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Virginia(弗吉尼亚大学)
本文提出利用大型语言模型(LLMs)增强自动驾驶决策的框架,通过思维链提示和口头反馈实现个性化驾驶,实验证明其提升决策质量并支持透明、自适应的自动驾驶系统。
2023-10-12 cs.AI cs.HC cs.RO
LoCar: Localization-Aware Evaluation of In-Vehicle Assistants through Fine-Grained Sociolinguistic Control
KAIST(韩国科学技术院);BMW Group(宝马集团)
本文提出了一种新的车载助手评估框架,专注于韩语本地化,揭示了当前LLM在细粒度韩语敬语控制方面的不稳定性以及策略性对话指标上的表现不足,强调了汽车AI需要向精确语言定制和可靠安全交互管理发展。
2026-05-20 cs.CL
Generation, Evaluation, and Explanation of Novelists' Styles with Single-Token Prompts
Department of Computer Science Northern Illinois University(计算机科学系北伊利诺伊大学)
本研究通过单个标记提示生成并评估19世纪小说家的风格,利用变压器检测器和可解释AI方法分析文本风格特征。
2025-11-25 cs.AI cs.CL
Improving Bilingual Capabilities of Language Models to Support Diverse Linguistic Practices in Education
Stony Brook University(石溪大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本研究通过微调开源多语言模型,显著提升了其在单语及双语学生写作评估中的性能,减少了双语评分偏差,支持教育中的真实语言实践。
2024-11-06 cs.AI cs.CL
Disparities in LLM Reasoning Accuracy and Explanations: A Case Study on African American English
University of Virginia(弗吉尼亚大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Carnegie Mellon University(卡内基梅隆大学)
本文系统调查了LLM在推理任务中的方言差异,通过实验框架比较发现,LLM在处理非裔美国英语(AAE)输入时,相比标准美国英语(SAE)会产生准确性更低、推理链更简单的回答,揭示了模型在多方言环境部署中的系统性偏见问题。
2025-03-06 cs.AI cs.CL
Target-Augmented Shared Fusion-based Multimodal Sarcasm Explanation Generation
Indraprastha Institute of Information Technology Delhi(因德拉普拉斯塔信息技术学院德里校区);Indian Institute of Technology Patna(巴特那印度理工学院)
针对现有多模态讽刺解释系统忽视讽刺目标的问题,提出TURBO模型,通过目标增强的共享融合机制利用图像与标题的跨模态关系,在MORE+数据集上性能平均提升3.3%,人工评估也优于其他系统。
2025-02-11 cs.CL
Boosting the Capabilities of Compact Models in Low-Data Contexts with Large Language Models and Retrieval-Augmented Generation
University of Colorado Boulder(科罗拉多大学博尔德分校)
本文提出由LLM支持的RAG框架,利用语法知识和LLM解释能力纠正小模型形态学注释输出,在低数据场景下取得新SOTA,并为语言学家提供带解释和置信度分数的实用工具。
2024-10-01 cs.AI cs.CL
Linguists should learn to love speech-based deep learning models
University of Amsterdam(阿姆斯特丹大学)
本文主张基于音频的深度学习模型应被语言学家重视,以弥补文本基于LLM在语言研究中的局限性。
2025-12-16 cs.CL cs.SD eess.AS
InteracSPARQL: An Interactive System for SPARQL Query Refinement Using Natural Language Explanations
University of Waterloo(滑铁卢大学)
本文提出交互式系统InteracSPARQL,结合LLM与基于规则的方法生成自然语言解释,支持用户通过直接反馈或LLM自我优化实时修正SPARQL查询,显著提升了查询准确率、解释清晰度与用户满意度。
2025-11-03 cs.AI cs.DB cs.IR
TrackList: Tracing Back Query Linguistic Diversity for Head and Tail Knowledge in Open Large Language Models
ATILF, University of Lorraine - CNRS, France(ATILF,洛林大学 - CNRS,法国);Center for Data Science in Humanities, Chosun University, South Korea(人文数据科学中心,全州大学,韩国)
TrackList研究了预训练数据对LLMs回答多样化语言查询的影响,发现LLMs在定义型问题表现最佳,但在例子型问题表现最差,且更倾向于改写流行知识而非尾部和技术知识。
2025-11-27 cs.CL
Explanation Fairness in Large Language Models: An Empirical Analysis of Disparities in How LLMs Justify Decisions Across Demographic Groups
Independent Researcher(独立研究者)
本文提出解释公平性分类法,分析大语言模型在不同群体中解释决策的差异,发现模型选择与差异幅度密切相关,提出两种提示方法减少解释差异。
2026-05-09 cs.AI cs.CL
Detecting Linguistic Bias in Government Documents Using Large language Models
Ministerie van OCW(荷兰教育、文化与科学部);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学)
本文构建专家标注的荷兰政府文件偏见检测数据集 DGDB,微调 BERT 类模型并与生成式语言模型比较,证明微调方法性能更优。
2025-02-19 cs.CL
PhDGPT: Introducing a psychometric and linguistic dataset about how large language models perceive graduate students and professors in psychology
University of Trento(特伦托大学)
本研究提出PhDGPT数据集与提示框架,基于GPT-3.5生成756,000个数据点以探究LLM对心理学研究生和教授的心理测量与语言学感知,发现LLM具备先进但不完整的人类心理复现能力,并揭示了其根据心理困扰特征调整语言模式的能力。
2024-11-06 cs.AI cs.CL cs.CY
Prospective Role of Foundation Models in Advancing Autonomous Vehicles
School of Automotive Studies, Tongji University(同济大学汽车学院);Frontiers Science Center for Intelligent Autonomous Systems, Tongji University(同济大学智能自主系统前沿科学中心);SAIC Intelligent Technology(上汽智能科技公司);College of Artificial Intelligence, Jilin University(吉林大学人工智能学院);Research & Advanced Engineering, Ford Motor Company(福特汽车公司研发与高级工程部门);College of Electronic and Information Engineering, Tongji University(同济大学电子与信息工程学院);National Key Laboratory of Autonomous Intelligent Unmanned Systems(自主智能无人系统全国重点实验室)
本文梳理了GPT、Sora等基础模型及DREAMER系列世界模型在自动驾驶场景理解、数据增强、行为预测等方向的应用与趋势,提出依托其能力解决长尾分布问题以提升自动驾驶安全性。
2024-05-17 cs.AI cs.CV cs.RO
Scientific Explanation and Natural Language: A Unified Epistemological-Linguistic Perspective for Explainable AI
Idiap Research Institute(Idiap研究所);University of Manchester(曼彻斯特大学)
可解释人工智能(XAI)的一个基本研究目标是构建能够通过生成自然语言解释进行推理的模型。然而,设计和评估基于解释的推理模型的方法仍然缺乏对解释性质的理论解释。作为一种尝试,以提供一个认识论为基础的表征XAI,本文侧重于科学领域,旨在弥合理论和实践之间的差距的概念,科学的解释。具体而言,本文结合对现代科学哲学中科学解释的详细考察和对自然语言解释语料库的系统分析,从自上而下(范畴化)和自下而上(基于语料库)两个角度阐明了解释性论证的性质和功能。通过定量与定性相结合的研究方法,本文得出以下主要结论:(1)解释不能完全用归纳或演绎的论点来描述,因为它们的主要功能是实现统一:(2)解释必须列举导致被解释事件发生的原因和机制;(3)自然语言解释具有内在的因果机制性,但解释不仅限于原因和机制,还考虑到定义、属性和分类关系等语用因素;(4)解释语料库中自然会出现统一模式,即使没有刻意建模;(5)统一是通过抽象过程实现的,抽象过程的功能是提供推理基础,以便将要解释的事件归入重复模式和高层次的推理。
2022-05-05 cs.AI cs.CL
How Ready Are Generative Pre-trained Large Language Models for Explaining Bengali Grammatical Errors?
IIT Kharagpur(印度理工学院卡拉格普尔分校)
本研究针对孟加拉语低资源语言环境,构建了多领域数据集以评估语法错误解释系统,通过对比9种主流大语言模型与人类专家的表现,发现当前模型自动部署存在局限,强调需引入人工干预以提升反馈质量与教育价值。
2024-05-27 cs.CL
Learning Through Dialogue: Engagement and Efficacy Matter More Than Explanations
研究发现,LLM学习效果取决于用户参与状态和认知投入,而非单纯依赖解释质量。
2026-03-12 cs.CL cs.HC
Interpreting and Steering LLMs with Mutual Information-based Explanations on Sparse Autoencoders
University of Georgia(佐治亚大学);Rice University(莱斯大学);Amazon(亚马逊公司)
针对现有稀疏自编码器特征解释方法的频率偏差问题,提出基于互信息的特征解释方法与两种运行时调控策略,能提供更多语篇层面解释并有效抵御越狱攻击,凸显解释对LLM行为调控的价值。
2025-02-21 cs.CL
Translate Policy to Language: Flow Matching Generated Rewards for LLM Explanations
AIPD, Tencent, Shenzhen, China(腾讯人工智能与大数据研究院,深圳,中国);IIIS, Tsinghua University, Beijing, China(清华大学人工智能学院,北京,中国);EE, Tsinghua University, Beijing, China(清华大学电子工程系,北京,中国);CS, Tsinghua University, Beijing, China(清华大学计算机系,北京,中国);SEAS, Harvard University, Cambridge, USA(哈佛大学工程学院,剑桥,美国);College of AI, Tsinghua University, Beijing, China(清华大学人工智能学院,北京,中国)
本文提出通过生成连续归一化流生成奖励,训练LLM生成更准确、逻辑严谨且认知负担更低的解释,以提升智能体与人类共存的可靠性。
2026-02-12 cs.CL cs.LG
Generating Causal Explanations of Vehicular Agent Behavioural Interactions with Learnt Reward Profiles
Oxford Robotics Institute, Dept. of Eng. Sci., University of Oxford(牛津大学机器人研究所)
针对自动驾驶智能体行为交互缺乏可解释性的问题,提出通过学习智能体奖励指标权重实现因果解释推断的方法,在三个真实驾驶数据集上验证了性能优势。
2025-03-18 cs.AI cs.MA cs.RO
LinGO: A Linguistic Graph Optimization Framework with LLMs for Interpreting Intents of Online Uncivil Discourse
University of Zurich(苏黎世大学);Utrecht University(乌特雷赫大学)
LinGO通过多步骤语言组件优化,提升大语言模型对在线不文明言论意图的识别与解释能力。
2026-02-04 cs.CL cs.CY
GRILE: A Benchmark for Grammar Reasoning and Explanation in Romanian LLMs
University of Bucharest Faculty of Mathematics and Computer Science(布加勒斯大学数学与计算机科学学院)
本文构建含1,151道罗马尼亚高利害考试题的GRILE基准,评估七类LLM的语法答题与解释能力,发现开放权重模型准确率和解释质量存在明显不足。
2025-08-19 cs.CL cs.CY cs.LG
KANEx: Translating Kolmogorov-Arnold Networks' Interpretability to Medical Explainability
Indian Institute of Technology Madras(印度理工学院马德拉斯分校);Vanderbilt University School of Medicine(范德堡大学医学院)
研究针对医学应用中视觉模型黑箱问题,提出KANEx框架,利用柯尔莫哥洛夫-阿诺德网络的符号透明度为VLM推理奠基,设计KAN-Map热图生成方法,经实验验证该方法能提升语义相似度、视觉定位及推理质量,为可信医学人工智能发展助力。
2026-07-28 cs.AI cs.CV
Interpretable Goal-based Prediction and Planning for Autonomous Driving
Five AI Ltd.(Five AI有限公司);School of Informatics, University of Edinburgh(爱丁堡大学信息学院);University of Oxford(牛津大学)
我们提出了一个集成的预测和规划系统的自动驾驶,使用合理的逆向规划,以识别其他车辆的目标。目标识别通知蒙特卡罗树搜索(MCTS)算法来规划自我车辆的最佳机动。逆向规划和MCTS利用一组共享的定义机动和宏观行动来构建可通过合理性原则解释的计划。在城市驾驶场景模拟中的评估表明,该系统能够稳健地识别其他车辆的目标,使我们的车辆能够利用重要的机会来显着减少驾驶时间。在每种情况下,我们提取直观的解释,证明系统的决定的预测。
2021-03-15 cs.RO
Faithful-Patchscopes: Understanding and Mitigating Model Bias in Hidden Representations Explanation of Large Language Models
University of Georgia(佐治亚大学);King Abdullah University of Science(国王阿卜杜勒-阿齐兹大学);Hong Kong Center for Construction Robotics(香港建筑机器人中心)
本文提出BALOR方法,通过logit校准缓解大语言模型隐藏表示解释中的模型偏差,提升解释的忠实度和上下文信息的准确性。
2026-01-30 cs.CL
CLSGen: A Dual-Head Fine-Tuning Framework for Joint Probabilistic Classification and Verbalized Explanation
Boston Children’s Hospital(波士顿儿童医院);Harvard Medical School(哈佛医学院);University of Colorado Anschutz Medical Campus(科罗拉多大学安施图茨医学院);Loyola University Chicago(芝加哥洛约拉大学);University of Wisconsin Madison(威斯康星大学麦迪逊分校)
CLSGen 提出了一种双头微调框架,通过新的架构和方法实现概率估计与解释生成的平衡,实验表明其在分类和解释质量上优于现有基线。
2026-04-13 cs.CL
Extending Structural Causal Models for Autonomous Vehicles to Simplify Temporal System Construction & Enable Dynamic Interactions Between Agents
Oxford Robotics Institute, University of Oxford(牛津大学牛津机器人研究所)
本文扩展结构因果模型形式化,以支持模块化、常数空间时序表示及动态智能体集合,从而促进其在自动驾驶与服务机器人中的因果推理应用。
2025-03-18 cs.AI cs.RO cs.SE
ExplainCPE: A Free-text Explanation Benchmark of Chinese Pharmacist Examination
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
本文提出中文医学解释基准ExplainCPE(超7k实例),通过分析ChatGPT和GPT-4的错误揭示LLMs在文本理解与计算推理上的局限,并发现不同模型对上下文学习偏好各异,为评估LLMs医学可解释性迈出第一步。
2023-10-26 cs.CL
DRIV-EX: Counterfactual Explanations for Driving LLMs
Aptikal, Université Grenoble Alpes(Aptikal,格勒诺布尔大学)
本文提出DRIV-EX方法,通过反事实解释研究驾驶LLM的决策过程,利用梯度优化生成语义变化的场景描述,提升解释的可理解性和鲁棒性。
2026-04-21 cs.CL
Modeling Dispositional and Initial learned Trust in Automated Vehicles with Predictability and Explainability
University of Michigan(密歇根大学)
汽车行业的技术进步使自动驾驶更接近道路使用。然而,影响公众接受自动驾驶汽车(AV)的最重要因素之一是公众对AV的信任。许多因素会影响人们的信任,包括对风险和收益的看法、感受以及对自动驾驶汽车的了解。本研究的目的是使用这些因素来预测人们的性格和最初学到的信任在AV使用的调查研究进行了1175名参与者。对于每个参与者,从调查问题中提取23个特征,以获取他或她对自动驾驶汽车的知识,感知,经验,行为评估和感受。然后,这些特征被用作训练极限梯度提升(XGBoost)模型的输入,以预测AV中的信任。在SHapley加法解释(SHAP)的帮助下,我们能够解释XGBoost的信任预测,以进一步提高XGBoost模型的可解释性。与传统的回归模型和黑盒机器学习模型相比,我们的研究结果表明,这种方法在同时提供高水平的可解释性和可预测性方面是强大的。
2020-12-25 cs.HC cs.RO
Retrieval augmentation of large language models for lay language generation
University of Washington(华盛顿大学);University of Arizona(亚利桑那大学)
本文提出CELLS这一最大且覆盖最广的通俗语言生成平行语料,并采用检索增强模型生成背景解释,在保持事实正确性的同时提升总结质量与简洁性。
2024-01-25 cs.CL