Can human clinical rationales improve the performance and explainability of clinical text classification models?
The University of Tennessee Knoxville(田纳西大学科文顿分校);Thomson Reuters Alpharetta(汤森路华阿尔法雷塔);Oak Ridge National Laboratory(橡树岭国家实验室)
本研究探究人类临床理据对transformer临床文本分类模型的作用,发现其高资源下可小幅提效但整体不稳定,性能不及额外标注报告,仅可解释性略有提升,建议优先标注更多报告而非构建理据。
2025-07-28 cs.CL
Distribution Matching for Rationalization
Recurrent AI(循环智能)
合理化的任务旨在提取输入文本片段作为理由,以证明神经网络对文本分类任务的预测。根据定义,基本原理表示用于预测的关键文本片段,因此与原始输入文本相比,应该具有类似的分类特征分布。然而,以往的方法主要集中在最大化的基本原理和标签之间的互信息,而忽略了基本原理和输入文本之间的关系。为了解决这个问题,我们提出了一种新的合理化方法,在特征空间和输出空间中匹配的分布的理由和输入文本。从经验上讲,所提出的分布匹配方法始终优于以前的方法,由一个大的利润。我们的数据和代码是可用的。
2021-06-01 cs.CL
Free-text Rationale Generation under Readability Level Control
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Computational Linguistics, Department of Linguistics, Universität Potsdam(波茨坦大学语言学系计算语言学部门);Quality and Usability Lab, Technische Universität Berlin(柏林技术大学质量与可用性实验室);BIFOLD – Berlin Institute for the Foundations of Learning and Data(柏林学习与数据基础研究院);Computer Science Institute, Hochschule Ruhr West(鲁尔西部大学计算机科学研究所)
本文研究大语言模型在可读性水平控制下的自由文本理由生成,发现解释可适应指令但复杂度不完全匹配传统指标,且中等复杂度理由质量较高,高中水平可读性最受青睐。
2025-06-03 cs.CL
FRAME: Evaluating Rationale-Label Consistency Metrics for Free-Text Rationales
University of Southern California(南加州大学);Meta AI
遵循人类如何交流,自由文本理论旨在使用自然语言来解释神经语言模型(LM)行为。然而,自由文本基本原理的不受约束的性质使它们容易产生幻觉,因此重要的是要有自由文本基本原理质量的指标。现有的自由文本基本原理度量标准测量基本原理与LM的预测标签的一致性,但没有用于评估此类度量标准可靠性的协议。因此,我们提出框架,一个框架,用于评估自由文本的理由标签一致性(RLC)指标。FRAME基于三个公理:(1)好的度量应该产生最高分数的参考理由,最大化RLC的建设;(2)好的度量应该是适当的敏感性的语义扰动的理由;(3)好的度量应该是强大的LM的任务性能的变化。在三个文本分类数据集,我们表明,现有的RLC指标不能满足所有三个框架公理,因为它们是通过模型预训练,混淆度量的信号。然后,我们引入了一个非预训练RLC度量,它在(1)和(3)上的性能大大优于基线,而在(2)上的性能具有竞争力。最后,我们讨论了使用RLC评估自由文本的理由的局限性。
2022-12-02 cs.AI cs.CL cs.LG
From Answers to Rationales: Self-Aligning Multimodal Reasoning with Answer-Oriented Chain-of-Thought
South China University of Technology(华南理工大学);JD Explore Academy, JD.com(京东探索研究院);Pazhou Lab(琶洲实验室)
本文提出SMART框架,利用面向答案的思维链从正确与错误答案自动构建正负理据数据,并通过迭代生成—优化提升多模态大语言模型推理能力。
2025-07-28 cs.CL
PINTO: Faithful Language Reasoning Using Prompt-Generated Rationales
University of Southern California(南加州大学);Information Sciences Institute(信息科学研究所)
提出PINTO流水线,通过提示冻结的合理化LM生成自由文本理由,并利用反事实正则化微调推理LM,显著提升模型在分布内外测试集上的泛化能力与理由对预测的忠实度。
2023-04-06 cs.CL
Towards Efficient CoT Distillation: Self-Guided Rationale Selector for Better Performance with Fewer Rationales
Harbin Institute of Technology(哈尔滨工业大学);Pengcheng Laboratory(鹏城实验室);Shaoguan Research Institute of Data Industry(韶关数据产业研究院)
针对CoT蒸馏忽视理由质量的问题,本文提出MoRSD自引导选择高质量理由,并以RD指标控制难度,用更少数据在七个数据集上平均提升4.6%。
2025-09-28 cs.AI cs.CL
A Systematic Comparison between Extractive Self-Explanations and Human Rationales in Text Classification
Center for Social Data Science(社会科学数据科学中心);University of Copenhagen(哥本哈根大学);Machine Learning Group(机器学习小组);Technische Universität Berlin(柏林技术大学)
本文比较了抽取式自我解释与人类推理在文本分类任务中的有效性,通过分析不同任务和语言的解释质量,发现自我解释在文本长度和任务复杂度上与人类推理存在显著差异。
2026-05-20 cs.AI cs.CL
Finding the Needle in a Haystack: Unsupervised Rationale Extraction from Long Text Classifiers
Imperial College London(帝国理工学院);University of Cambridge(剑桥大学);King’s College London(伦敦国王学院)
长序列Transformers的设计是为了提高语言模型对较长文本的表示,以及它们在下游文档级任务上的性能。然而,人们对长模型中标记级预测的质量了解不多。我们研究了这种架构的性能在无监督的理由提取的文档分类的上下文中。我们发现,标准的软注意力方法与Longformer语言模型结合使用时,表现明显更差。我们提出了一个组成的软注意力架构,适用于Roberta明智的提取合理的理由在令牌级。我们发现这种方法在情感分类数据集上的表现明显优于Longformer驱动的基线,同时还表现出显着更低的运行时间。
2023-03-14 cs.CL cs.LG
Cross-Modal Rationale Transfer for Explainable Humanitarian Classification on Social Media
L3S Research Center \ University Hannover Hannover Germany;Indian Institute of Technology Kharagpur Kharagpur India;L3S Research Center\ University Hannover Hannover Germany;L3S Research Center \ University Hannover;Indian Institute of Technology Kharagpur;L3S Research Center\ University Hannover
本文提出一种跨模态推理迁移框架,通过文本和图像联合表示提取文本和图像推理,提升人道主义分类的可解释性,实验表明在CrisisMMD数据集上宏F1提升2-35%,并在零样本模式下达到80%的准确率。
2026-03-19 cs.CL cs.CV
TriSum: Learning Summarization Ability from Large Language Models with Structured Rationale
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);GE HealthCare(GE医疗)
TriSum通过蒸馏大型语言模型的摘要能力到紧凑本地模型,利用方面三元组理由和课程学习,在多个基准上显著提升性能并增强可解释性。
2024-03-15 cs.CL
SPECTRA: Sparse Structured Text Rationalization
Instituto de Telecomunicações(葡萄牙电信研究所);Instituto Superior Técnico(高等理工学院);Unbabel(Unbabel公司)
选择性合理化的目的是产生决策以及合理性(例如,文本突出显示或两个句子之间的单词对齐)。通常,基本原理被建模为随机二进制掩码,需要基于采样的梯度估计器,这使得训练复杂化,并且需要仔细的超参数调整。稀疏注意力机制是一种确定性的替代方案,但它们缺乏一种使基本原理提取规则化的方法(例如,以控制文本突出显示的稀疏度或对齐的数量)。在本文中,我们提出了一个统一的框架,确定性提取结构化的解释,通过约束推理的因素图,形成一个可微层。我们的方法极大地简化了训练和合理性规则化,在性能和提取的合理性方面通常优于以前的工作。我们进一步提供了一个比较研究的随机和确定性的方法提取分类和自然语言推理任务的理由,共同评估其预测能力,质量的解释,和模型的可变性。
2021-09-09 cs.CL cs.LG
MARE: Multi-Aspect Rationale Extractor on Unsupervised Rationale Extraction
Central South University(中南大学)
本文提出多面理由提取器MARE,通过基于硬删除的多面多头注意力和多任务训练,利用方面间有益相关性同时解释和预测多个方面,在无监督理由抽取基准上达到最先进性能。
2024-10-04 cs.AI cs.CL
Unifying Model Explainability and Robustness for Joint Text Classification and Rationale Extraction
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));Peng Cheng Laboratory(鹏城实验室)
最近的工作表明,可解释性和鲁棒性是值得信赖和可靠的文本分类的两个关键因素。然而,以前的工作通常解决两个方面之一:i)如何提取准确的合理解释,同时有利于预测; ii)如何使预测模型对不同类型的对抗攻击具有鲁棒性。直觉上,一个能产生有用解释的模型应该对对抗攻击更具鲁棒性,因为我们不能相信输出解释但在小扰动下改变其预测的模型。为此,我们提出了一个联合分类和合理性提取模型命名为AT-BMC。它包括两个关键机制:混合对抗训练(AT)旨在使用离散和嵌入空间中的各种扰动来提高模型的鲁棒性,边界匹配约束(BMC)有助于在边界信息的指导下更精确地定位合理性。在基准数据集上的性能表明,所提出的AT-BMC在分类和基本原理提取方面都大大优于基线。鲁棒性分析表明,AT-BMC有效降低了攻击成功率,最高可达69%。实证结果表明,稳健的模型和更好的解释之间存在联系。
2021-12-20 cs.AI cs.CL
Natural Language Rationales with Full-Stack Visual Reasoning: From Pixels to Semantic Frames to Commonsense Graphs
Allen Institute for Artificial Intelligence(艾伦人工智能研究所);Paul G. Allen School of Computer Science & Engineering, University of Washington(华盛顿大学保罗·G·艾伦计算机科学与工程学院)
自然语言理论可以提供直观的、更高层次的解释,这些解释很容易被人类理解,补充了更广泛研究的基于梯度或注意力权重的低层次解释。我们提出的第一项研究集中在几个复杂的视觉推理任务:视觉常识推理,视觉文本蕴涵,视觉问答生成自然语言的理由。准确合理化的关键挑战是在各个层面上全面理解图像:不仅是像素层面的明确内容,而且是语义和语用层面的上下文内容。我们提出了Rationale^VT Transformer,这是一个集成模型,它通过将预训练的语言模型与对象识别、接地的视觉语义框架和视觉常识图相结合来学习生成自由文本的基本原理。我们的实验表明,基础预训练语言模型受益于视觉适应和自由文本合理化是一个很有前途的研究方向,以补充模型的可解释性复杂的视觉-文本推理任务。
2020-10-15 cs.CL cs.CV
Are Machine Rationales (Not) Useful to Humans? Measuring and Improving Human Utility of Free-Text Rationales
University of Southern California(南加州大学);Tsinghua University(清华大学);Meta AI;Allen Institute for Artificial Intelligence(艾伦人工智能研究所);University of Washington(华盛顿大学)
本研究探讨大型语言模型生成的自由文本解释对人类问答的效用,发现现有解释效用不足且现有指标无法有效评估,提出自动评分GEN-U以改善解释的人类效用,同时保持任务性能。
2023-05-11 cs.AI cs.CL cs.LG
Rationale-Guided Knowledge Distillation for Cross-Lingual Stance Detection
School of Foreign Studies, Hefei University of Technology(合肥工业大学外国语学院);School of Computer Science and Information Engineering, Hefei University of Technology(合肥工业大学计算机与信息工程学院);Hefei Institute of Technology(合肥学院)
针对跨语言立场检测中现有方法忽视推理过程及大语言模型存在局限性的问题,提出基于理由引导的知识蒸馏框架,用思维链提示引导大语言模型生成理由并提炼知识至学生模型,设计双路径蒸馏机制及对比学习策略,实验证明该方法优于基线。
2026-07-22 cs.CL
Interpretable Neural Predictions with Differentiable Binary Variables
ILLC(逻辑、语言与计算研究所);University of Amsterdam(阿姆斯特丹大学);ILCC(语言与认知研究所);University of Edinburgh(爱丁堡大学)
神经网络的成功与人们对更好的可解释性的渴望密切相关。我们专注于文本分类器,并通过让它们为它们的预测提供一个理由,一个理由,使它们更容易解释。我们通过联合训练两个神经网络模型来解决这个问题:一个潜在模型选择一个基本原理(即输入文本的一个简短而信息丰富的部分),一个分类器只从基本原理中的单词中学习。以前的工作建议分配二进制潜在的掩码输入位置,并通过稀疏诱导的处罚,如L0正则化,以促进短的选择。我们提出了一个潜在的模型,它混合了离散和连续的行为,同时允许二进制选择和基于梯度的训练,而不需要REINFORCE。在我们的公式中,我们可以很容易地计算惩罚的期望值,例如L0,这使我们能够直接优化模型以达到预先指定的文本选择率。我们表明,我们的方法是有竞争力的与以前的工作的理由提取,并探讨进一步使用注意力机制。
2020-06-19 cs.CL
CoinMath: Harnessing the Power of Coding Instruction for Math LLMs
Institute for Infocomm Research (IR), A*STAR(信息通信研究院(IR),新加坡科技研究局);Centre for Frontier AI Research (CFAR), A*STAR(前沿人工智能研究中心(CFAR),新加坡科技研究局)
本研究通过探究编码风格对数学推理的影响,提出CoinMath策略,利用多样化编码风格的代码推理链,显著提升数学大语言模型性能。
2024-12-16 cs.CL
Answering Unseen Questions With Smaller Language Models Using Rationale Generation and Dense Retrieval
University of Auckland(奥克兰大学)
本文提出两种方法(RR和RATD)结合大模型生成的理由与多跳稠密检索的长上下文,显著提升小模型在未见问答任务上的性能,并优于更大模型。
2023-10-12 cs.CL
Making a (Counterfactual) Difference One Rationale at a Time
North Carolina State University(北卡罗来纳州立大学);Laboratory for Analytic Sciences(分析科学实验室)
摘要,解释推理的提取文本片段,已经成为可解释自然语言处理(NLP)的流行框架。基本原理模型通常由两个协作模块组成:选择器和分类器,其目标是最大化“所选”文本和文档标签之间的互信息(MMI)。尽管基于MMI的方法很有前途,但它们经常会发现虚假的文本模式,并导致模型具有无意义的行为。在这项工作中,我们调查是否反事实的数据增强(CDA),没有人的帮助下,可以通过降低虚假信号和文档标签之间的互信息,提高选择器的性能。我们的反事实是使用类依赖生成模型以无监督的方式产生的。从信息理论的镜头,我们得到的未增强的数据集,我们的CDA方法将成功的属性。通过与多个基线进行比较,包括在两个多方面数据集上改进的基于MMI的基本原理模式,对CDA的有效性进行了经验评估。我们的研究结果表明,CDA产生的理由,更好地捕捉感兴趣的信号。
2022-01-13 cs.CL cs.LG
Enhancing Text Annotation through Rationale-Driven Collaborative Few-Shot Prompting
Institute of Artificial Intelligence and Future Networks, Beijing Normal University(北京师范大学人工智能与未来网络研究院);Hong Kong Baptist University(香港浸会大学);BNU-HKBU United International College(北京师范大学-香港浸会大学联合国际学院);College of Artificial Intelligence, Beijing Normal University(北京师范大学人工智能学院)
针对传统文本标注成本高、易有偏差的问题,提出基于推理依据的协同少样本提示技术,经多数据集多模型验证该方法优于传统少样本等基线,为高效文本标注提供框架参考。
2024-09-15 cs.AI cs.CL
CREST: A Joint Framework for Rationalization and Counterfactual Text Generation
Instituto de Telecomunicações(电信研究所);Instituto Superior Técnico(里斯本高等理工学院);LUMLIS (Lisbon ELLIS Unit)(LUMLIS(里斯本ELLIS单元));Massachusetts Institute of Technology(麻省理工学院);Unbabel(Unbabel公司)
本文提出 CREST 联合框架,将选择性合理化与反事实文本生成相结合,通过新损失函数利用反事实正则化理由,提升反事实质量、模型鲁棒性与可解释性。
2023-05-26 cs.CL
Teaching Large Language Models Number-Focused Headline Generation With Key Element Rationales
School of Computing Technologies, RMIT University(RMIT大学计算技术学院)
本文提出基于主题、实体和数值推理(TEN)的思维链框架,通过教师LLM生成推理监督数据来微调学生LLM,以提升数字标题生成的文本质量与数值准确性。
2025-02-05 cs.CL cs.LG
Align-GRAG: Anchor and Rationale Guided Dual Alignment for Graph Retrieval-Augmented Generation
University of Science and Technology of China(中国科学技术大学);City University of Hong Kong(香港城市大学);Noah’s Ark Lab, Huawei(华为诺亚实验室)
Align-GRAG通过锚点和推理引导的双 Alignment 框架,提升图检索增强生成的准确性与语义对齐能力。
2026-01-13 cs.CL
Flexible Instance-Specific Rationalization of NLP Models
Department of Computer Science, University of Sheffield(谢菲尔德大学计算机科学系)
最近对自然语言处理中模型可解释性的研究广泛使用特征评分方法来识别输入的哪些部分对于模型进行预测(即解释或理由)是最重要的。然而,以前的研究表明,在各种文本分类任务中没有明确的最佳评分方法,而从业者通常必须就长度和基本原理的类型(例如短或长,连续或不连续)做出其他几个特别的选择。受此启发,我们提出了一种简单而有效且灵活的方法,可以为每个数据实例进行最佳选择:(1)特征评分方法;(2)长度;(3)基本原理的类型。我们的方法的灵感来自输入擦除方法的可解释性,假设预测的最忠实的理由应该是一个模型的输出分布之间的最高差异使用全文和文本后删除的理由作为输入分别。在四个标准文本分类数据集上的评价表明,与使用固定的特征评分方法、合理长度和类型相比,该方法提供了更忠实、更全面和更充分的解释。更重要的是,我们证明了一个从业者是不需要作出任何特设的选择,以提取忠实的理由使用我们的方法。
2021-12-06 cs.AI cs.CL
Think Twice Before You Judge: Mixture of Dual Reasoning Experts for Multimodal Sarcasm Detection
Indian Institute of Technology Guwahati(印度理工学院古瓦哈提)
针对多模态讽刺检测现有模型依赖浅层线索、难以捕捉深层逻辑的问题,提出融合内外部推理专家与自适应门控的MiDRE模型,在两个基准上性能优于基线,验证了外部推理依据的价值。
2025-10-29 cs.CL
Evaluating the Rationale Understanding of Critical Reasoning in Logical Reading Comprehension
The Asahi Shimbun Company(朝日新闻公司);National Institute of Informatics(国立信息学研究所)
本文构建了一个包含3,003个子问题的数据集,用于评估语言模型对逻辑阅读理解中批判性推理理由的理解,实验发现现有大模型即使能答对主问题,也难以解释为何排除错误选项,从而揭示了其在批判性推理上的不足。
2023-11-30 cs.CL
Are Shortest Rationales the Best Explanations for Human Understanding?
Pennsylvania State University(宾夕法尼亚州立大学);University of Washington(华盛顿大学)
现有的自我解释模型通常倾向于提取尽可能短的基本原理--“负责”相应输出的输入文本片段--来解释模型预测,假设较短的基本原理对人类来说更直观。然而,这一假设尚待验证。最短的理由真的是最能被人理解的吗?为了回答这个问题,我们设计了一个自我解释的模型,LimitedInk,它允许用户以任何目标长度提取基本原理。与现有的基线相比,LimitedInk实现了兼容的最终任务性能和人类注释的基本原理协议,使其成为最近一类自我解释模型的合适代表。我们使用LimitedInk对合理长度的影响进行用户研究,我们要求人类法官仅根据LimitedInk生成的不同长度的合理性来预测文档的情感标签。我们发现,太短的理由并不能帮助人类更好地预测标签比随机掩蔽的文本,这表明需要更仔细的设计最好的人类理由。
2022-03-16 cs.AI cs.CL cs.HC
EDDA: A Encoder-Decoder Data Augmentation Framework for Zero-Shot Stance Detection
Shenzhen University(深圳大学);Shenzhen Technology University(深圳技术大学);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Xi'an Jiaotong University(西安交通大学);Shenzhen x-nstitute(深圳x-研究院)
针对零样本立场检测中数据增强泛化不足的问题,提出编码器-解码器数据增强框架EDDA,利用大语言模型生成逻辑关联并增强句法多样性,显著提升了检测性能与可解释性。
2024-03-23 cs.CL
Exploring the Trade-off Between Model Performance and Explanation Plausibility of Text Classifiers Using Human Rationales
Fundação Getulio Vargas(热图利奥·瓦加斯基金会);Universidade Estadual de Campinas (UNICAMP)(坎皮纳斯州立大学)
本研究提出将人类理由融入文本分类模型的方法,通过新型对比损失与多目标优化探索性能与解释合理性的权衡,在不大幅降低模型性能的前提下显著提升解释质量。
2024-04-03 cs.AI cs.CL cs.LG
WhoSaidIt: Human-LLM Collaborative Annotation for Text-Based Multilingual Speaker-Attribute Classification
Duolingo
提出一种人机协作重标注框架,通过迭代交互和分歧采样稳定多语言说话人属性标签,构建WhoSaidIt数据集并评估LLM性能。
2026-05-25 cs.CL
UNIREX: A Unified Learning Framework for Language Model Rationale Extraction
University of Southern California(南加州大学);Meta AI
提取的基本原理解释了一个语言模型(LM)的预测对一个给定的任务实例,突出的文本输入,最影响的预测。理想情况下,合理性提取应该是忠实的(反映LM的实际行为)和合理的(对人类有说服力),而不损害LM的(即,任务模型)的任务性能。虽然归因算法和选择预测管道通常用于基本原理提取,但它们都依赖于某些阻碍它们满足所有三个需求的算法。有鉴于此,我们提出了UNIREX,一个灵活的学习框架,它将基本原理提取器优化概括如下:(1)为学习的基本原理提取器指定架构;(2)选择可解释性目标(即,忠实性和可解释性标准);以及(3)使用所选择的目标联合地对任务模型和基本原理提取器进行训练。UNIREX能够用(1)中的通用学习原理提取器替换先前作品的启发式设计选择,并针对(2)-(3)中的所有三个需求对其进行优化。为了便于比较方法之间的多个desiderata,我们引入了归一化相对增益(NRG)度量。在五个文本分类数据集中,我们最好的UNIREX配置比基线平均高出32.9%NRG。此外,我们发现UNIREX训练的基本原理提取器甚至可以推广到看不见的数据集和任务。
2023-02-27 cs.AI cs.CL cs.LG
Rationalizing Neural Predictions
Computer Science and Artificial Intelligence Laboratory(计算机科学与人工智能实验室);Massachusetts Institute of Technology(麻省理工学院)
没有理由的预测适用性有限。作为一种补救措施,我们学习提取输入文本片段作为理由--基本原理--这些理由被剪裁得简短而连贯,但足以做出相同的预测。我们的方法结合了两个模块化组件,发电机和编码器,这是训练有素的一起运作。生成器指定文本片段上的分布作为候选理由,并将其传递给编码器进行预测。在训练中从来不给小费。相反,该模型是正规化的desiderata的理由。我们评估的方法对多方面的情感分析手动标注的测试用例。我们的方法比基于注意力的基线有很大的优势。我们还成功地说明了问题检索任务的方法。
2016-11-02 cs.CL cs.NE
RapGuard: Safeguarding Multimodal Large Language Models via Rationale-aware Defensive Prompting
The Chinese University of Hong Kong(香港中文大学);Alibaba Group(阿里巴巴集团)
本文提出RapGuard框架,利用多模态思维链推理动态生成场景化安全提示,以解决现有多模态大语言模型防御提示静态统一、无法应对具体风险的问题,在多个基准上实现最先进的安全性能且不损害良性任务表现。
2024-12-25 cs.CL
Rationale Distribution Distillation via Flow Matching for Distributional Continuous Latent Reasoning
Korea Advanced Institute of Science and Technology(韩国科学技术院)
该研究针对连续隐式推理的点值方法限制,提出理由分布蒸馏(RDD)方法,通过流匹配结合查询内混合提升答案覆盖,在高级数学任务上优于基线。
2026-10-15 cs.AI cs.CL
Improving Language Model Reasoning with Self-motivated Learning
Research Center for Social Computing and Information Retrieval(社会计算与信息检索研究中心);Harbin Institute of Technology(哈尔滨工业大学);Huawei Noah's Ark Lab(华为诺亚方舟实验室)
本文提出自激励学习框架,通过模型自动生成推理依据并利用正确性排序训练奖励模型进行强化学习,从而在无需高昂人工标注的情况下显著提升语言模型的推理能力。
2024-04-30 cs.AI cs.CL
Interlock-Free Multi-Aspect Rationalization for Text Classification
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
解释对于文本分类任务很重要。一种流行的解释类型是基本原理,它是输入文本的文本片段,足以产生预测并且对人类有意义。许多关于合理化的研究都是基于选择性合理化框架,但由于连锁动力学的存在,这一框架最近被证明是有问题的。在本文中,我们表明,我们解决了联锁问题的多方面设置,我们的目标是产生多个理由多个输出。更具体地说,我们提出了一个多阶段的训练方法,结合了一个额外的自我监督的对比损失,有助于产生更多的语义多样化的理由。啤酒评论数据集上的实验结果表明,我们的方法显着提高合理化性能。
2022-05-13 cs.CL cs.IR cs.LG
Stepwise Informativeness Search for Efficient and Effective LLM Reasoning
University of Southern California(南加州大学);Tsinghua University(清华大学);Fudan University(复旦大学)
针对LLMs在长推理过程中易忽略早期步骤信息的问题,提出逐步信息性搜索框架,通过引用未充分利用的先前步骤信息并减少步骤间冗余,提升推理准确率与推理过程质量。
2025-04-12 cs.CL
Predicate Importance Estimation and Decoupled Rationale-Score Distillation for Entity Alignment
SungKyunKwan University(成均馆大学);NAVER
提出谓词重要性估计和解耦理由-分数蒸馏两个模块,通过谓词感知嵌入和蒸馏小语言模型提升知识图谱实体对齐性能,并利用分数与理由的不一致实现人机协同验证。
2026-06-23 cs.CL
RDRec: Rationale Distillation for LLM-based Recommendation
Graduate School of Engineering(工学院);Interdisciplinary Graduate School(交叉研究生院);University of Yamanashi(山梨大学)
针对 LLM 推荐忽视交互理据的问题,提出 RDRec,用大 LM 生成并蒸馏评论中的用户与物品理据,在 top-N 和序列推荐上达到 SOTA。
2025-01-08 cs.CL cs.IR
Socratic Reasoning Improves Positive Text Rewriting
Technical University of Darmstadt(达姆施塔特工业大学);University of Macau(澳门大学)
本研究针对现有正向文本改写忽略推理过程的问题,提出SocraticReframe框架,用合成苏格拉底推理理由扩充数据集,显著提升了开源大语言模型的改写效果,验证了LLM推理与心理治疗技术结合的潜力。
2025-03-20 cs.CL
Large-Scale Text Analysis Using Generative Language Models: A Case Study in Discovering Public Value Expressions in AI Patents
Georgia Institute of Technology(佐治亚理工学院);SKEMA Business School(SKEMA商学院);University of Manchester(曼彻斯特大学)
本文提出利用GPT-4生成标签与理由,在540万句美国AI专利文本中发现公共价值表达,并训练BERT分类器取得高F1分数,展示了生成式语言模型在大规模复杂文本分析中的优势。
2023-05-18 cs.CL cs.IR
Decoding Emotions in Abstract Art: Cognitive Plausibility of CLIP in Recognizing Color-Emotion Associations
Institute for Interdisciplinary Studies, University of Amsterdam(阿姆斯特丹大学跨学科研究所);Department of Information and Computing Sciences, Utrecht University(乌得勒支大学信息与计算科学系)
本文通过零样本分类、相似度预测和颜色-情感分析评估CLIP理解抽象艺术情感的能力,发现其虽高于基线且能捕捉颜色关联,但与人类认知仍存在明显差异。
2024-05-10 cs.CL cs.CV
KNIFE: Distilling Reasoning Knowledge From Free-Text Rationales
University of Southern California(南加州大学);Harvard-Westlake School(哈佛-西湖学校);University of Virginia(弗吉尼亚大学);Tsinghua University(清华大学)
提出KNIFE框架,通过将自由文本理由中的推理知识蒸馏到小型LM的隐藏状态中,使其在全监督和低资源设置下均优于现有微调和提示基线。
2023-05-22 cs.AI cs.CL cs.LG
Table-Text Alignment: Explaining Claim Verification Against Tables in Scientific Papers
National Institute of Informatics, Japan(日本信息机构国家研究所);The University of Tokyo, Japan(日本东京大学);National Taiwan University(台湾国立大学);JFLI, CNRS, Nantes Université, France(法国CNRS-纳antes大学联合研究所)
本文将科学论文中的表格-文本对齐重新构建为解释任务,构建了带单元格级别依据的SciTab扩展数据集,实验证明融入对齐信息能提升验证性能,并揭示多数LLM预测缺乏忠实推理。
2025-09-17 cs.CL
Knowledge-Augmented Multimodal Clinical Rationale Generation for Disease Diagnosis with Small Language Models
Hong Kong Baptist University(香港 Baptist 大学);Shanxi University(山西大学);Shanghai Institute for Advanced Study of Zhejiang University(浙江大学上海先进研究院);Hong Kong University of Science and Technology(香港科技大学);The University of Manchester(曼彻斯特大学)
针对小语言模型在多模态医疗诊断中推理与领域知识不足的问题,提出ClinRaGen框架,通过理由蒸馏与知识增强注意力机制结合LLM推理与领域知识,实现可信赖的多模态诊断理由生成并达到SOTA性能。
2025-07-13 cs.AI cs.CL
Gold-Guided Programmatic Distillation for Financial Reasoning over Hybrid Tables and Text
研究针对混合表格和文本数据的金融推理问题,基于程序蒸馏开发方法,利用黄金推导指导程序合成,经执行验证转移可靠数值推理,引入迭代恢复阶段,实验表明该框架能有效训练小模型进行可靠数值推理。
2026-07-17 cs.CL
Rationalization Models for Text-to-SQL
IBM T.J. Watson Research Center(IBM T.J.沃森研究中心)
本研究提出生成CoT推理依据的框架,通过手动标注少量示例、迭代动态少样本知识蒸馏训练合理化模型,为text-to-SQL数据集生成合成标注,实验证明该方法可提升小模型在BIRD数据集上的执行准确率与可解释性。
2025-03-20 cs.AI cs.CL cs.DB
Constructing Multilingual Visual-Text Datasets Revealing Visual Multilingual Ability of Vision Language Models
Fujitsu Limited(富士通株式会社)
针对现有数据集无法全面评估视觉语言模型跨语言细粒度视觉语言能力的问题,本研究构建了四种语言的多语言视觉-文本数据集,提出新任务与推理依据机制,验证了数据集的适用性与微调可行性。
2024-03-29 cs.CL cs.CV
Few Shot Rationale Generation using Self-Training with Dual Teachers
Carnegie Mellon University(卡内基梅隆大学);Amazon(亚马逊)
针对少样本且缺乏大规模人工理由与标签的场景,提出双教师自训练框架及MLR损失,将预测与理由教师蒸馏给多任务学生,提升标签建模和忠实理由生成。
2023-06-05 cs.AI cs.CL
Describe-then-Reason: Improving Multimodal Mathematical Reasoning through Visual Comprehension Training
University of Notre Dame(圣母大学);Tencent AI Seattle Lab(腾讯AI西雅图实验室);Nanyang Technological University(南洋理工大学)
针对开源多模态大模型在复杂数学推理中视觉理解不足的问题,提出两步训练流程VCAR,通过先生成视觉描述再辅助生成推理步骤,显著提升了模型在高视觉需求数学问题上的表现。
2024-04-26 cs.CL
Accountable and Explainable Methods for Complex Reasoning over Text
University of Copenhagen(哥本哈根大学)
机器学习(ML)模型的一个主要问题是它们的不透明性。它们被部署在越来越多的应用程序中,在这些应用程序中,它们通常作为黑盒运行,不提供对其预测的解释。除其他外,与缺乏对模型原理的理解相关的潜在危害包括侵犯隐私、对抗性操纵和不公平歧视。因此,ML模型的问责制和透明度已经成为政策和法律,哲学和计算机科学的关键需求。在计算机科学中,ML模型的决策过程已经通过开发问责制和透明度方法进行了研究。问责方法,如对抗攻击和诊断数据集,暴露了ML模型的漏洞,可能导致恶意操纵或预测中的系统性错误。透明度方法解释了模型预测背后的基本原理,赢得了相关利益相关者的信任,并可能发现模型决策中的错误和不公平。为此,透明度方法还必须符合问责制要求,例如,稳健并忠实于模型的基本原理。这篇论文介绍了我的研究,扩展了我们在为文本复杂推理任务开发的ML模型的问责制和透明度领域的集体知识。
2022-11-09 cs.CL cs.CY cs.LG
RoE-FND: A Case-Based Reasoning Approach with Dual Verification for Fake News Detection via LLMs
Fudan University(复旦大学);East China University of Science and Technology(东华大学)
针对现有假新闻检测方法存在证据噪声、泛化差、LLMs易产生幻觉与结论偏差等问题,提出基于案例推理的RoE-FND框架,结合自反思知识构建与动态准则检索及双通道验证,无需训练即可在三个数据集上实现优于SOTA的泛化性与有效性。
2025-06-04 cs.CL