Decomposing Natural Logic Inferences in Neural NLI
University of Manchester(曼彻斯特大学);Idiap Research Institute(Idiap 研究所)
本文通过探测多种神经 NLI 模型的中间语境嵌入,发现高分模型对自然逻辑所需单调性特征编码较弱,而相关微调改进可增强该特征并提升挑战集表现。
2023-11-08 cs.CL
MorphNLI: A Stepwise Approach to Natural Language Inference Using Text Morphing
Technical University of Cluj-Napoca(克卢日-纳波卡技术大学);University of Arizona(亚利桑那大学)
MorphNLI通过文本变形逐步改进自然语言推理任务,在跨领域场景中显著优于现有基线模型。
2025-02-13 cs.AI cs.CL
Interpreting Recurrent and Attention-Based Neural Models: a Case Study on Natural Language Inference
Oregon State University(俄勒冈州立大学)
深度学习模型在自然语言推理(NLI)任务中取得了显著的成功。虽然这些模型被广泛探讨,但它们很难解释,而且通常不清楚它们实际上是如何工作的。在本文中,我们通过对NLI的流行神经模型的案例研究,向解释这种基于深度学习的模型迈出了一步。特别是,我们建议通过可视化注意力和LSTM门控信号的显着性来解释NLI模型的中间层。我们提出了几个例子,我们的方法能够揭示有趣的见解,并确定有助于模型决策的关键信息。
2018-08-12 cs.AI cs.CL cs.LG
Extractive Fact Decomposition for Interpretable Natural Language Inference in one Forward Pass
TU Dresden(德累斯顿技术大学)
本文提出仅编码器架构JEDI,通过抽取式原子事实分解与可解释推理联合执行,并利用合成理由语料训练,在NLI任务中实现有竞争力的准确率和显著提升的分布外及对抗鲁棒性。
2025-09-23 cs.CL
A Novel Cartography-Based Curriculum Learning Method Applied on RoNLI: The First Romanian Natural Language Inference Corpus
University of Bucharest(布加勒斯特大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文提出首个罗马尼亚语自然语言推理语料库RoNLI,并通过基于数据制图的课程学习方法提升最佳模型性能,为罗马尼亚语NLI任务建立了竞争性基线。
2024-10-18 cs.AI cs.CL cs.LG
MSciNLI: A Diverse Benchmark for Scientific Natural Language Inference
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Computer Science(计算机科学学院)
本文提出包含5个新科学领域132320个句子对的MSciNLI数据集以丰富科学NLI任务多样性,建立PLM和LLM基线验证其挑战性,证实领域偏移的影响,并表明该类数据集可提升科学领域下游任务性能。
2024-04-11 cs.CL
Can NLI Provide Proper Indirect Supervision for Low-resource Biomedical Relation Extraction?
Harvard University(哈佛大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);University of Southern California(南加利福尼亚大学)
提出NBR框架,通过自然语言推理间接监督将生物医学关系抽取转化为NLI任务,利用基于排序的损失校准弃权实例,在低资源下实现更清晰的决策边界和更优性能。
2023-10-19 cs.AI cs.CL q-bio.QM
What does the Failure to Reason with "Respectively" in Zero/Few-Shot Settings Tell Us about Language Models?
University of Copenhagen(哥本哈根大学);Technical University of Darmstadt(达姆施塔特工业大学)
本文通过构建 WikiResNLI 和 NatResNLI 数据集,研究语言模型在零样本/少样本下对“respectively”并列结构的推理能力,发现模型在隐式解读、跨结构泛化上仍显著落后于人类。
2023-05-31 cs.AI cs.CL
The Effectiveness of Intermediate-Task Training for Code-Switched Natural Language Understanding
Indian Institute of Technology, Bombay(印度理工学院孟买分校)
虽然最近的基准测试已经激发了许多关于改进预训练的多语言模型在多语言任务上的泛化的新工作,但改进代码转换自然语言理解任务的技术却很少被探索。在这项工作中,我们提出使用双语中间预训练作为一种可靠的技术,以获得大的和一致的性能增益在三个不同的NLP任务使用代码切换文本。我们实现了7.87%,20.15%,和10.99%,平均准确率和F1分数比以前的国家的最先进的系统印地语-英语自然语言推理(NLI),问答(QA)任务,西班牙语-英语情感分析(SA)分别大幅绝对改善。我们表现出一致的性能增益四个不同的代码切换语言对(印地语-英语,西班牙语-英语,泰米尔语-英语和马拉雅拉姆语-英语)SA。我们还提出了一种代码切换的掩蔽语言建模(MLM)预训练技术,与使用真正代码切换文本的标准MLM预训练相比,该技术始终有利于SA。
2021-07-21 cs.CL cs.LG
Co-training for Low Resource Scientific Natural Language Inference
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
针对科学NLI数据集SciNLI远程监督标注存在标签噪声的问题,提出基于分类器训练动态分配标签权重的协同训练方法,提升了低资源场景下的模型性能。
2024-06-20 cs.CL
DAIS: Dependency-Aware Intermediate QA Supervision for Complex Reasoning
Xi’an Jiaotong University(西安交通大学);Huawei Technologies Ltd(华为技术有限公司)
研究针对思维链监督的局限性,提出依赖感知中间问答监督(DAIS)框架,将教师推理依据转换为阶段级记录,在多个数据集上提升了最终答案准确率,在政策合规基准测试中有显著增益,证明其作为辅助监督信号的有效性。
2026-07-22 cs.AI cs.CL
WeCheck: Strong Factual Consistency Checker via Weakly Supervised Learning
Peking University(北京大学);Baidu Inc.(百度公司)
本文提出弱监督框架WeCheck,通过聚合多资源弱标签训练事实一致性度量模型,在TRUE基准上平均超越先前最优方法3.4%。
2023-05-27 cs.CL
Improving Multi-hop Knowledge Base Question Answering by Learning Intermediate Supervision Signals
Renmin University of China(中国人民大学);Singapore Management University(新加坡管理大学)
多跳知识库问答(KBQA)的目的是在知识库(KB)中找到与问题中的实体相距多跳的答案实体。一个主要的挑战是在中间步骤缺乏监督信号。因此,多跳KBQA算法只能接收最终答案的反馈,这使得学习不稳定或无效。为了应对这一挑战,我们提出了一种新的师生多跳KBQA任务的方法。在我们的方法中,学生网络的目标是找到查询的正确答案,而教师网络试图学习中间监督信号,以提高学生网络的推理能力。主要的新颖性在于教师网络的设计,我们利用正向和反向推理来增强中间实体分布的学习。通过考虑双向推理,教师网络可以产生更可靠的中间监督信号,这可以减轻虚假推理的问题。在三个基准数据集上进行的大量实验证明了该方法在KBQA任务上的有效性。复制我们分析的代码可在https://github.com/RichardHGL/WSDM2021_NSM上获得。
2021-04-07 cs.AI cs.CL
GraphQ IR: Unifying the Semantic Parsing of Graph Query Languages with One Intermediate Representation
Tsinghua University(清华大学);Huawei Cloud Computing Technologies Co., Ltd.(华为云计算技术有限公司)
由于自然语言和形式语言之间存在着巨大的语义鸿沟,神经语义解析在处理输入语义和输出语法方面的复杂性是其面临的主要问题。最近的工作已经提出了几种形式的补充监督,但没有一个是通用的跨多个形式语言。本文提出了一种统一的图查询语言中间表示(IR),命名为GraphQ IR,它具有一个类似自然语言的表达式,可以弥合语义鸿沟,并具有形式化定义的语法,可以维护图的结构。因此,神经语义解析器可以更精确地将用户查询转换为GraphQ IR,后者可以稍后被错误地编译为各种下游图查询语言。在标准i.i.d.下,对包括KQA Pro、Overnight、GrailQA和MetaQA-Cypher在内的多个基准测试进行了广泛的实验,分布外和低资源设置验证了GraphQ IR相对于先前最先进技术的优越性,最高精度提高了11%。
2022-11-07 cs.CL cs.DB
Mixture-of-Experts with Intermediate CTC Supervision for Accented Speech Recognition
Department of Computer Science and Engineering, POSTECH(计算机科学与工程系,POSTECH);Graduate School of Artificial Intelligence, POSTECH(人工智能研究生院,POSTECH)
Moe-Ctc通过中间CTC监督的专家混合模型,提升口音语音识别的鲁棒性和泛化能力,实现对多种口音的性能提升。
2026-02-02 cs.AI cs.CL
Self-Supervised Learning for speech recognition with Intermediate layer supervision
Microsoft(微软)
最近,先驱工作发现语音预训练模型可以解决全栈语音处理任务,因为该模型利用底层来学习说话者相关信息,并利用顶层来编码内容相关信息。由于网络容量有限,我们相信,语音识别的性能可以进一步提高,如果该模型是专门用于音频内容信息学习。为此,我们提出了中间层监督的自我监督学习(ILS-SSL),这迫使模型集中在内容信息尽可能多地通过添加额外的SSL损失的中间层。在LibriSpeech test-other集上的实验表明,该方法的性能明显优于HuBERT,在w/o语言模型设置下,对于基本/大模型,相对误词率分别降低了23.5%/11.6%。详细的分析表明,我们的模型的底层与语音单元有更好的相关性,这与我们的直觉一致,并解释了我们的方法对ASR的成功。
2021-12-16 cs.CL eess.AS
Multi-step Problem Solving Through a Verifier: An Empirical Analysis on Model-induced Process Supervision
University of California, San Diego(加利福尼亚大学圣迭戈分校);Google(谷歌公司)
提出自动化数据整理方法MiPS,通过推理模型采样补全标注中间步骤准确率,优先关注验证器高预测分数,显著提升PaLM 2在数学和编程任务上的性能并展现强泛化能力。
2024-10-14 cs.AI cs.CL cs.LG
Sub-Task Decomposition Enables Learning in Sequence to Sequence Tasks
The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
自然语言处理领域的能力经历了巨大的飞跃,最近推出了巨大的语言模型。尽管取得了这样的成功,涉及几个复杂步骤的自然语言问题实际上仍然是不可学习的,即使是最大的LM。这符合在各种领域中证明的复合问题的端到端学习的实验失败。一种有效的缓解方法是引入中间监督来解决复合问题的子任务。最近,一些作品已经表现出高收益,通过采取一种简单的方法,将中间监督在复合自然语言问题:序列到序列LM馈与增强输入,其中分解的任务的标签简单地连接到原始输入。在本文中,我们证明了一个积极的学习结果,激励这些最近的努力。我们表明,当连接中间监督的输入和训练的序列到序列模型在此修改后的输入,不可学习的复合问题可以成为学习。我们表明,这是真实的任何家庭的任务,一方面,是不可学习的,另一方面,可以分解成一个多项式数量的简单的子任务,其中每一个只依赖于O(1)以前的子任务的结果。除了激励当代将中间监督纳入序列到序列语言模型的经验努力之外,我们的积极理论结果是关于中间监督对神经网络学习的好处的结果景观中的第一个:到目前为止,关于这个主题的所有理论结果都是负面的,即,显示的情况下,学习是不可能的,没有中间监督,而我们的结果是积极的,表明学习是促进在中间监督的存在。
2023-02-15 cs.CL cs.LG
Multitask Learning with Low-Level Auxiliary Tasks for Encoder-Decoder Based Speech Recognition
Toyota Technological Institute at Chicago(芝加哥丰田技术研究院)
基于深度学习的模型的端到端训练允许根据最终任务损失对中间表示进行隐式学习。然而,端到端的方法忽略了有用的领域知识编码在显式的中间级监督。我们假设,在深层网络的较低级别使用中间表示作为辅助监督,可能是结合端到端训练和更传统的管道方法优势的好方法。我们目前的实验会话语音识别,我们使用较低级别的任务,如音素识别,在多任务训练方法与编码器-解码器模型直接字符转录。我们比较了多种类型的低层次任务,并分析了辅助任务的效果。我们的研究结果表明,在交换机语料库上,这种方法提高了识别精度,在Eval 2000测试集上的标准编码器-解码器模型。
2017-04-19 cs.AI cs.CL
SAIS: Supervising and Augmenting Intermediate Steps for Document-Level Relation Extraction
Carnegie Mellon University(卡内基梅隆大学);Stanford University(斯坦福大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Emory University(埃默里大学)
关系抽取(RE)的研究从文档级向文档级发展,面临着文本长度增加和实体交互复杂化的问题。因此,对关键信息源--相关上下文和实体类型进行编码更具挑战性。然而,现有的方法只隐含地学习建模这些关键的信息源,同时被训练为RE。因此,他们遭受的问题,无效的监督和不可解释的模型预测。相比之下,我们建议明确地教模型捕捉相关的上下文和实体类型的监督和增强中间步骤(SAIS)的RE。基于广泛的精心设计的任务,我们提出的SAIS方法不仅提取更好的质量,由于更有效的监督关系,但也检索相应的支持证据更准确,以提高可解释性。通过评估模型的不确定性,SAIS通过基于证据的数据增强和集合推理进一步提高了性能,同时降低了计算成本。最终,SAIS在三个基准测试(DocRED,CDR和GDA)上提供了最先进的RE结果,并在DocRED上的证据检索中的F1得分中相对领先亚军5.04%。
2022-05-01 cs.AI cs.CL
Successive Prompting for Decomposing Complex Questions
University of California, Irvine(加州大学欧文分校);Microsoft Semantic Machines(微软语义机器);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
处理需要做出潜在决策的复杂问题是一项具有挑战性的任务,特别是在监督有限的情况下。最近的作品利用大语言模型(LM)的能力,以执行复杂的问答在一个Few-Shot设置,演示如何输出中间合理化,同时解决复杂的问题,在一个单一的通行证。我们引入了“逐次迭代”,我们迭代地将复杂任务分解为简单任务,解决它,然后重复这个过程,直到我们得到最终的解决方案。连续提示将分解复杂问题的监督与回答简单问题的监督相结合,允许我们(1)在每个推理步骤中有多个机会查询上下文示例(2)学习与问答分开的问题分解,包括使用合成数据,以及(3)在大型LM表现不佳的情况下,使用定制(微调)组件进行推理步骤。中间监督通常是手动编写的,这可能是昂贵的收集。我们介绍了一种方法来生成一个合成数据集,可用于引导模型的分解和回答中间问题的能力。与具有相同监督的最先进模型相比,我们的最佳模型(具有连续提示)在DROP数据集的Few-Shot版本上实现了~5%的绝对F1的改进。
2022-12-08 cs.CL
TreePS-RAG: Tree-based Process Supervision for Reinforcement Learning in Agentic RAG
The Chinese University of Hong Kong, Hong Kong SAR, China(香港中文大学);Massachusetts Institute of Technology, Cambridge MA, USA(麻省理工学院)
TreePS-RAG通过基于树的在线强化学习框架,在代理RAG中实现细粒度过程监督,提升多跳和通用问答任务性能。
2026-01-11 cs.CL
ToolComp: A Multi-Tool Reasoning & Process Supervision Benchmark
Scale AI
ToolComp 基准通过人工验证的提示、答案与过程监督标签评估多步工具使用推理,并表明过程监督奖励模型比结果监督奖励模型具有显著更好的泛化能力。
2025-01-02 cs.CL
Masked-and-Reordered Self-Supervision for Reinforcement Learning from Verifiable Rewards
DP Technology(DP技术)
本文提出MR-RLVR方法,通过掩码与重排自监督学习提升RLVR在仅结果可验证场景下的可扩展性和性能。
2025-11-21 cs.AI cs.CL cs.LG
Rewarding Novel Deductions: Solver-guided Process Supervision for Logical Reasoning
Information Technology University(信息技术大学);Huazhong Agricultural University(华中农业大学);Qatar Computing Research Institute, Hamad Bin Khalifa University(卡塔尔计算研究所,哈马德·本·哈利法大学)
针对逻辑推理中过程监督不足的问题,提出SPRING方法,利用SMT求解器验证中间步骤并设计过程奖励,鼓励新颖推理,在多个基准上显著提升准确率。
2026-11-10 cs.CL
Let's Verify Step by Step
OpenAI(开放人工智能研究中心)
本文比较了结果监督与过程监督对大型语言模型多步推理训练的影响,发现过程监督在MATH数据集上显著更优,并发布80万条人类逐步反馈数据集PRM800K以支持后续研究。
2023-05-31 cs.AI cs.CL cs.LG
Improve Mathematical Reasoning in Language Models by Automated Process Supervision
Google DeepMind(谷歌DeepMind);Google(谷歌公司)
针对大语言模型多步推理中过程监督数据收集成本高的问题,提出OmegaPRM分治式MCTS算法自动收集标注,结合加权自一致性显著提升了多个模型的数学推理成功率。
2024-12-11 cs.CL cs.LG
SpidR: Learning Fast and Stable Linguistic Units for Spoken Language Models Without Supervision
ENS-PSL, EHESS, CNRS(ENS-PSL、EHESS、CNRS);FAIR at Meta(Meta的FAIR)
SpidR通过自监督学习高效语音表示,提升无监督语音语言建模性能,减少预训练时间
2025-12-26 cs.CL cs.SD eess.AS
BiCAA: Bidirectional Credit Assignment for Search-Augmented Agent
针对搜索增强智能体多步搜索任务中普通GRPO的稀疏监督问题,提出BiCAA双向信用分配框架,融合前向可解性增益与后见成功关键性构建密集过程奖励,实现稳定策略优化并取得有竞争力的QA性能。
2026-11-03 cs.CL
CodeTool: Enhancing Programmatic Tool Invocation of LLMs via Process Supervision
Northeastern University(东北大学);Hunyuan AI Digital Human(文英AI数字人)
针对LLM工具调用中推理路径冗长且中间步骤难以验证的问题,提出CodeTool框架,利用代码的简洁易验证性,通过即时奖励和潜在奖励两种过程奖励引导高效准确的推理,实验验证其优越性。
2025-06-12 cs.AI cs.CL cs.LG
LogicReward: Incentivizing LLM Reasoning via Step-Wise Logical Supervision
National University of Singapore(新加坡国立大学);University College London(伦敦大学学院);University of Manchester(曼彻斯特大学);University of Melbourne(墨尔本大学);University of California, Santa Barbara(加州大学圣巴巴拉分校)
LogicReward通过逐步逻辑监督提升大语言模型的推理能力,有效增强推理可信度和泛化能力,实验显示其在自然语言推理和逻辑推理任务中优于GPT-4o和o4-mini。
2026-01-29 cs.CL
Audited Reasoning Refinement: Fine-Tuning Language Models via LLM-Guided Step-Wise Evaluation and Correction
提出 R2tA 方法,通过 LLM 引导的逐步评估与校正精炼推理轨迹生成监督信号,结合 SFT 与 DPO 两阶段对齐训练特定任务推理模型,在 EERD 评估任务上验证了其在数据稀缺领域的有效性与低成本优势。
2025-09-17 cs.CL
Dense Process Supervision for Search Agents via Fact Utility Estimation
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室);Ant Group(蚂蚁集团);National Institute of Healthcare Data Science, Nanjing University(南京大学国家健康医疗数据科学研究院)
该研究针对搜索智能体强化学习的信用分配问题,提出基于事实效用估计的密集过程监督方法,在7个QA基准上优于现有基线。
2026-09-02 cs.CL cs.LG