Improving Symbolic Translation of Language Models for Logical Reasoning
本文通过微调和增量推理框架,提升小型语言模型在逻辑推理中的符号翻译能力,减少错误率并提高推理性能。
2026-01-14 cs.AI cs.CL
P-FOLIO: Evaluating and Improving Logical Reasoning with Abundant Human-Written Reasoning Chains
Yale University(耶鲁大学);Harvard University(哈佛大学);NVIDIA(英伟达公司);Salesforce Research(Salesforce研究院)
提出P-FOLIO人工标注数据集,通过单步推理规则分类评估并利用多样本提示与微调显著提升LLM逻辑推理能力,在域外数据集上性能提升超10%。
2024-10-11 cs.AI cs.CL
LogicAsker: Evaluating and Improving the Logical Reasoning Ability of Large Language Models
The Chinese University of Hong Kong(香港中文大学);Tencent AI Lab(腾讯AI实验室)
针对大语言模型逻辑推理能力难以直接评估的问题,提出基于命题与谓词逻辑原子技能的LogicAsker评估增强方法,发现模型推理缺陷并构建数据将GPT-4o推理能力最高提升5%,相关资源已公开。
2024-10-08 cs.AI cs.CL cs.LO
LOGICPO: Efficient Translation of NL-based Logical Problems to FOL using LLMs and Preference Optimization
Indeed Inc.(Indeed公司);Singapore University of Technology and Design(新加坡科技设计大学);IIT Kharagpur(印度理工学院卡哈拉格普尔分校)
本文提出LOGICPO框架,通过构建偏好优化数据集并采用DPO和KTO微调开源LLM,将自然语言逻辑问题转换为FOL,使Phi-3.5在逻辑正确性和语法错误率上优于GPT-3.5-turbo。
2025-06-23 cs.AI cs.LG
Legal2LogicICL: Improving Generalization in Transforming Legal Cases to Logical Formulas via Diverse Few-Shot Learning
Center for Juris-Informatics, ROIS-DS(法信息学中心,ROIS-DS);Japan Advanced Institute of Science and Technology(日本先端科学技术大学)
本文提出Legal2LogicICL框架,通过检索增强生成实现有效上下文学习,构建信息丰富且稳定的少量样本演示,提升法律案例转逻辑表示的准确性与稳定性。
2026-04-13 cs.AI cs.CL cs.LG
MisSynth: Improving MISSCI Logical Fallacies Classification with Synthetic Data
National University of Kyiv-Mohyla Academy(基辅-莫希拉学院国家大学)
针对科学错误信息识别难题,提出MisSynth流水线,利用RAG生成合成谬误数据微调LLM,使LLaMA 3.1 8B模型F1分数提升超35%。
2025-10-30 cs.AI cs.CL cs.LG
Dissecting Logical Reasoning in LLMs: A Fine-Grained Evaluation and Supervision Study
University of Notre Dame(诺丁汉大学);MBZUAI(马克斯·普朗克人工智能研究所);University of Pennsylvania(宾夕法尼亚大学);INRIA(法国国家信息与自动化研究所)
提出FineLogic细粒度评估框架,从准确率、逐步合理性和表示探测三维度分析微调监督格式对LLM逻辑推理的影响,发现自然语言监督利于泛化,符号监督利于结构严谨性。
2025-10-09 cs.AI cs.CL cs.LO
Logical Phase Transitions: Understanding Collapse in LLM Logical Reasoning
Huazhong University of Science and Technology(华中科技大学)
研究通过控制逻辑复杂性分析大语言模型的逻辑推理性能,发现逻辑相变现象,提出神经符号课程调优框架以提升高复杂度下的推理能力。
2026-04-15 cs.AI cs.CL cs.LO
Memory Matters More: Event-Centric Memory as a Logic Map for Agent Searching and Reasoning
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学北京校区人工智能学院)
本文提出CompassMem,一种以事件为中心的记忆框架,通过构建事件图实现智能体的结构化记忆导航,提升长周期推理能力。
2026-01-08 cs.AI cs.CL
Concept-Reversed Winograd Schema Challenge: Evaluating and Improving Robust Reasoning in Large Language Models via Abstraction
Zhejiang University(浙江大学);HKUST(香港科技大学);University of Edinburgh(爱丁堡大学)
本文提出了概念反转的CR-WSC数据集以评估LLMs的鲁棒推理能力,并提出Abstraction-of-Thought(AoT)提示方法,通过概念抽象将对抗样本恢复为正常样本,显著提升了LLMs推理的鲁棒性和一致性。
2024-10-15 cs.AI cs.CL
From Parse-Execute to Parse-Execute-Refine: Improving Semantic Parser for Complex Question Answering over Knowledge Base
Sun Yat-Sen University(中山大学)
针对复杂知识库问答的多步推理难题,本文提出解析-执行-细化范式,基于KoPL生成逻辑形式并执行得到中间推理步骤,再用该过程细化模型,推出的PER-KBQA在基准数据集上性能优于现有最优基线。
2023-05-05 cs.AI cs.CL cs.LG
Mathematical Reasoning in Large Language Models: Assessing Logical and Arithmetic Errors across Wide Numerical Ranges
New York University Abu Dhabi(纽约大学阿布扎比分校)
针对现有LLM数学推理评估数值范围有限、缺乏推理过程洞察的问题,本文提出GSM-Ranges数据集生成器和区分逻辑与非逻辑错误的评分方法,揭示了模型在分布外数值推理的弱点及文字题中计算性能下降的问题。
2025-02-12 cs.AI cs.CL cs.LG
Improving the Efficiency of Approximate Inference for Probabilistic Logical Models by means of Program Specialization
Katholieke Universiteit Leuven(鲁汶天主教大学)
我们认为,执行概率逻辑模型的概率推理的任务。许多算法的近似推理与这样的模型是基于抽样。从逻辑编程的角度来看,采样归结为在由静态部分和动态部分组成的知识库上重复调用相同的查询。静态部分越大,这些重复调用中的冗余就越多。这是有问题的,因为低效的采样产生差的近似。我们展示了如何应用逻辑程序专业化,使基于采样的推理更有效。我们开发了一种算法,专门的查询谓词的定义相对于知识库的静态部分。在对真实世界数据的实验中,我们获得了高达一个数量级的加速比,并且这些加速比随着数据大小而增长。
2011-12-22 cs.AI
Improving Zero-Shot Event Extraction via Sentence Simplification
ACLED和Our World in Data等网站的成功证明了从新闻、社交媒体、博客和论坛等形式的大量文本数据中以结构化格式提取事件的巨大效用。事件提取可以为正在发生的地缘政治危机提供一个窗口,并产生可操作的情报。随着大型预训练语言模型的激增,机器阅读理解(MRC)近年来已成为事件提取的新范式。在这种方法中,事件论元提取被框定为一个提取的问题回答任务。基于MRC的方法的关键优点之一是其执行zero-shot提取的能力。然而,长期依赖性的问题,即,触发词和论元词之间较大的词汇距离以及处理句法复杂的句子的困难困扰着基于MRC的方法。在本文中,我们提出了一种通用的方法来提高性能的MRC为基础的事件提取进行无监督的句子简化指导的MRC模型本身。我们在ICEWS地缘政治事件提取数据集上评估了我们的方法,特别注意“演员”和“目标”参数角色。我们展示了如何这样的上下文简化可以提高基于MRC的事件提取的性能超过5%的演员提取和超过10%的目标提取。
2022-04-06 cs.AI cs.CL
Draft-and-Prune: Improving the Reliability of Auto-formalization for Logical Reasoning
University of California, Berkeley(加州大学伯克利分校);Microsoft(微软)
本文提出D&P框架,通过多样性与验证提升自动形式化逻辑推理可靠性,实验显示在多个基准测试中显著优于现有方法,如在AR-LSAT上准确率达78.43%。
2026-03-26 cs.AI
Inductive Learning of Logical Theories with LLMs: An Expressivity-Graded Analysis
Idiap Research Institute(伊迪亚普研究所);University of Manchester(曼彻斯特大学)
本研究提出结合形式化推理引擎反馈的分级分析方法,探究大语言模型在逻辑理论归纳任务中的能力边界,发现大模型可匹敌SOTA ILP系统,但长谓词关系链追踪比理论复杂度更具挑战。
2025-01-14 cs.AI cs.CL cs.LO
Improving Graph Neural Network Representations of Logical Formulae with Subgraph Pooling
IBM T.J. Watson Research Center(IBM托马斯·J·沃森研究中心);IBM Research(IBM研究院);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);Northwestern University(西北大学)
深度学习与自动定理证明集成的最新进展集中在将逻辑公式表示为深度学习系统的输入。特别是,人们越来越关注结构感知神经方法,以适应逻辑表达式的底层图形表示。虽然比字符和标记级方法更有效,但基于图的方法往往会进行代表性的权衡,限制了它们捕捉输入的关键结构属性的能力。在这项工作中,我们提出了一种新的方法嵌入逻辑公式,旨在克服现有方法的代表性限制。我们的架构适用于不同表现力的逻辑;例如,一阶和高阶逻辑。我们在两个标准数据集上评估了我们的方法,并表明所提出的架构在前提选择和证明步骤分类方面都达到了最先进的性能。
2020-06-05 cs.AI cs.LG cs.LO
Improving Coherence and Consistency in Neural Sequence Models with Dual-System, Neuro-Symbolic Reasoning
MIT(麻省理工学院);DeepMind;NYU(纽约大学);Facebook AI Research(Facebook人工智能研究院)
人类推理通常可以理解为两个系统之间的相互作用:直觉和联想(“系统1”)和深思熟虑和逻辑(“系统2”)。神经序列模型-在执行复杂的结构化任务方面越来越成功-展示了系统1的优势和失败模式:它们速度快,可以从数据中学习模式,但通常不一致和不连贯。在这项工作中,我们寻求一种轻量级的,无需训练的方法,通过添加System 2启发的逻辑推理来改进现有的System 1类序列模型。我们探讨了这个主题的几种变化,其中候选人的神经序列模型的逻辑一致性检查的符号推理模块,它可以接受或拒绝的代。我们的方法使用神经推理在神经系统1和逻辑系统2之间进行调解。结果表明,该方法可以提高基于神经的故事生成的一致性和准确性。
2021-12-15 cs.AI cs.CL cs.LG
Improving Multi-hop Logical Reasoning in Knowledge Graphs with Context-Aware Query Representation Learning
Sungkyunkwan University(成均馆大学);Indiana University Indianapolis(印第安纳大学印第安纳波利斯分校)
针对知识图谱 FOL 查询推理中几何或概率参数建模忽视查询上下文的问题,本文提出模型无关的双上下文查询表示学习方法,持续增强三个基础模型,最高提升 19.5%。
2024-06-11 cs.AI cs.CL
Improving Neural-based Classification with Logical Background Knowledge
IRT SystemX;CentraleSupélec(中央高等电力学院)
本文提出推理时语义条件约束这一神经符号技术,在不影响训练的前提下约束推理过程,并通过多尺度实验证明其能以更少资源构建更准确且语义一致的神经分类系统。
2024-02-20 cs.AI cs.LG cs.SC
Complex Reasoning over Logical Queries on Commonsense Knowledge Graphs
CSE, HKUST(香港科技大学计算机科学与工程系);NLP Lab, IC, EPFL(洛桑联邦理工学院计算机学院自然语言处理实验室)
针对事件常识推理中复杂事件交互场景下数据稀缺的问题,研究者构建了基于常识知识图谱多跳逻辑查询的COM2数据集,训练后的语言模型复杂推理能力显著提升,零样本性能在多类任务上均有增强且无需昂贵人工标注。
2024-06-22 cs.AI cs.CL
Neural Datalog Through Time: Informed Temporal Modeling via Logical Specification
Bloomberg LP(彭博有限合伙企业)
当可能的事件类型的集合很大时,学习如何从过去事件的模式预测未来事件是困难的。训练一个不受限制的神经模型可能会过拟合到虚假的模式。为了利用特定领域的知识,如何过去的事件可能会影响事件的现在的概率,我们建议使用一个时间演绎数据库来跟踪结构化的事实随着时间的推移。规则的作用是从其他事实和过去的事件中证明事实。每个事实都有一个随时间变化的状态-一个由神经网络计算的向量,其拓扑结构由事实的起源决定,包括它对过去事件的经验。任何时候可能的事件类型都由特殊事实给出,其概率与其状态一起被神经建模。在合成和现实世界的领域,我们表明,神经概率模型来自简洁的Datasheet程序,提高预测编码适当的领域知识在其架构。
2020-08-17 cs.AI cs.DB cs.LG
Generalized Logical Operations among Conditional Events
University of Rome “La Sapienza”(罗马第一大学);University of Palermo(巴勒莫大学)
我们推广,通过一个渐进的过程,合取和析取的两个条件事件的情况下,$n$条件事件的概念。在我们基于一致性的方法中,合取和析取是合适的条件随机量。我们通过验证德摩根定律来定义否定的概念。我们还表明,合取和析取满足结合和交换性质,以及单调性。然后,我们给出了一些结果的一致性prevision评估的一些家庭的复合条件,特别是我们检查的Fréchet-Hoeffding界限。此外,我们还研究了从$n+1$条件事件的合取$\mathcal{C}_{n+1}$到$\{\mathcal{C}_{n},E_{n+1}|H_{n+1}\}$族的逆概率推理。我们认为准结合的概念的关系,我们详细研究的连贯性与三个条件事件的结合有关的prevision评估。基于合取,我们还给出了p-相容和p-蕴涵的一个刻画,并应用于概率非单调推理中的几个推理规则。最后,我们研究了一些非p-有效的推理规则,然后,我们举例说明了两种方法,允许适当修改非p-有效的推理规则,以得到推论是p-有效的。
2018-04-27 cs.AI math.AC math.LO
IFDNS: An Iterative Feedback-Driven Neuro-Symbolic Method for Faithful Logical Reasoning
College of Computer Science and Technology, University of Science and Technology of China(计算机科学与技术学院,中国科学技术大学)
IFDNS通过迭代反馈机制提升LLM逻辑推理的忠实性,有效缓解信息丢失问题,显著提高CoT和CoT-SC的性能。
2026-01-12 cs.AI
Neuro-Symbolic Learning for Predictive Process Monitoring via Two-Stage Logic Tensor Networks with Rule Pruning
University of Parma(帕尔马大学);Eindhoven University of Technology(埃因霍温理工大学)
本文提出一种神经符号学习方法,通过两阶段优化策略结合逻辑张量网络与规则剪枝,提升预测过程监控的准确性,尤其在合规约束下表现优异。
2026-03-27 cs.AI
Generating by Understanding: Neural Visual Generation with Logical Symbol Groundings
State Key Laboratory of CAD&CG(CAD与CG国家重点实验室);National Key Laboratory for Novel Software Technology(新型软件技术国家实验室);Department of Computer and Information Science(计算机与信息科学系)
本文提出AbdGen方法,通过向量量化符号接地与逻辑溯因,使神经视觉生成模型可被逻辑推理系统控制,并支持少样本学习和从数据中归纳生成规则。
2025-06-05 cs.AI cs.CV cs.GR
Deep Manifold Learning for Reading Comprehension and Logical Reasoning Tasks with Polytuplet Loss
York Community High School(约克社区高中);Brown University(布朗大学)
本文提出polytuplet损失函数及配套模型架构,通过强调相对准确率策略,在ReClor数据集上提升阅读理解与逻辑推理任务的性能,并优于基线模型。
2023-12-22 cs.AI cs.CL cs.LG
Understanding Inter-Session Intentions via Complex Logical Reasoning
HKUST(香港科技大学);Amazon.com Inc(亚马逊公司)
本文提出逻辑会话复杂查询回答(LS-CQA)任务,将跨会话复杂意图建模为超图上的逻辑查询,并设计 LSGT 模型,在三个数据集上取得最先进结果。
2024-06-14 cs.AI cs.CL
Towards Improving Validation, Verification, Crash Investigations, and Event Reconstruction of Flight-Critical Systems with Self-Forensics
Concordia University(康考迪亚大学)
本文介绍了一种新的自我取证的概念,以补充标准的自主自我CHOP属性的自我管理系统,在Forensic Lucid语言中指定。我们认为,自我取证,与取证采取的网络犯罪域,是适用于“自我解剖”的目的验证的自主软件和硬件系统的飞行关键系统的自动化事件和异常分析和事件重建的工程团队在各种事件的情况下,在设计和测试以及实际的飞行数据。
2009-06-10 cs.AI cs.SE
Improving Native Ads CTR Prediction by Large Scale Event Embedding and Recurrent Networks
Microsoft Corporation(微软公司)
本文提出一种大规模事件嵌入方案,结合孪生网络与弱监督编码用户浏览事件,并利用带注意力层的循环神经网络建模用户历史,显著提升原生广告CTR预测性能。
2023-10-17 cs.AI cs.LG stat.ML
Improving Event Duration Prediction via Time-aware Pre-training
Cornell University(康奈尔大学)
NLP中的端到端模型很少编码关于时间长度的外部世界知识。我们介绍了两种有效的持续时间预测模型,通过阅读时间相关的新闻句子(时间感知预训练)来结合外部知识。具体来说,一个模型预测的范围/单位,其中的持续时间值落在(R-pred);和其他预测准确的持续时间值E-pred。我们最好的模型- E-pred,大大优于以前的工作,并捕捉持续时间信息更准确地比R-pred。我们还证明了我们的模型能够在无监督设置持续时间预测,优于基线。
2020-11-05 cs.AI cs.CL
Logic Tensor Network-Enhanced Generative Adversarial Network
The University of Edinburgh(爱丁堡大学)
LTN-GAN结合逻辑张量网络与GAN,通过强制逻辑约束提升生成样本的多样性和一致性。
2026-01-07 cs.AI cs.LG cs.LO
APOLLO: A Simple Approach for Adaptive Pretraining of Language Models for Logical Reasoning
University of Southern California(南加州大学);Microsoft Cognitive Service Research(微软认知服务研究);University of Notre Dame(圣母大学)
本文提出 APOLLO,利用逻辑推理关键词筛选 Wikipedia 子集,并结合词性选择性掩码与蕴含/矛盾句子分类损失进行自适应预训练,从而在不依赖任务格式的情况下提升语言模型的通用逻辑推理能力。
2023-06-05 cs.AI cs.CL cs.LG
VeriCoT: Neuro-symbolic Chain-of-Thought Validation via Logical Consistency Checks
University of Pennsylvania(宾夕法尼亚大学);Amazon Web Services(亚马逊网络服务)
VeriCoT 通过将思维链推理步骤形式化为一阶逻辑并进行一致性验证,以识别逻辑缺陷并预测答案正确性,同时利用验证信号改进推理与微调。
2025-11-06 cs.AI cs.CL
Improving Audio Event Recognition with Consistency Regularization
本文提出将一致性正则化(CR)应用于音频事件识别,在AudioSet上通过消融研究验证其在大小监督训练集上均优于基线,并扩展至半监督设置进一步提升性能。
2025-09-12 cs.AI cs.SD
Improving extreme weather events detection with light-weight neural networks
Stanford University(斯坦福大学);Plume Labs(Plume实验室)
本文提出修改轻量级 Context Guided 卷积神经网络架构,用于气候数据中热带气旋和大气河流的语义分割,通过特征工程、数据增强和加权损失函数等方法,重点提升热带气旋检测的召回率以应对类别不平衡问题。
2023-03-31 cs.AI cs.CV
ReportLogic: Evaluating Logical Quality in Deep Research Reports
Leiden Institute of Advanced Computer Science, Leiden University(莱顿先进计算机科学研究所,莱顿大学);Ant Group(蚂蚁集团);CISPA Helmholtz Center for Information Security(信息安全霍普夫中心)
提出ReportLogic基准,通过可审计性视角量化报告逻辑质量,包含宏观逻辑、阐述逻辑和结构逻辑三层评估,并训练开源LogicJudge进行可扩展评估。
2026-06-26 cs.AI cs.CL
Extracting or Guessing? Improving Faithfulness of Event Temporal Relation Extraction
UPenn(宾夕法尼亚大学);Tencent AI Lab(腾讯人工智能实验室);USC(南加州大学)
在本文中,我们试图从两个角度提高TempRel提取模型的可信度。第一个视角是基于上下文描述的真实抽取。为了实现这一目标,我们建议进行反事实分析,以减弱两种重要类型的训练偏差的影响:事件触发偏差和频繁标签偏差。我们还将时态信息添加到事件表征中,以明确强调上下文描述。第二个观点是提供适当的不确定性估计,并且当文本中没有描述关系时避免提取。通过在模型预测的分类分布上对Dirichlet先验进行参数化,我们改进了模型对正确性似然的估计,并使TempRel预测更具选择性。我们还采用温度缩放来重新校准模型的置信度后,偏差缓解。通过对MATRES、MATRES-DS和TDDiscourse的实验分析,我们证明了与SOTA方法相比,我们的模型更忠实地提取TempRel和时间线,特别是在分布偏移的情况下。
2022-10-12 cs.AI cs.CL
A Comparative Study of Neurosymbolic AI Approaches to Interpretable Logical Reasoning
Raffles Institution(拉夫斯学院)
本研究比较了神经符号AI中整合与混合两种方法,发现混合方法(如LLM-SS)在通用逻辑推理上更具可解释性和优势,并提出了一个模块化、模型无关的通用框架。
2025-08-05 cs.AI cs.CL cs.LG