Neural-Symbolic Commonsense Reasoner with Relation Predictors
The University of Queensland（昆士兰大学）；Monash University（莫纳什大学）；The University of New South Wales（新南威尔士大学）
常识推理的目的是将从常识知识图谱（CKG）中检索到的常识事实集合合并，以得出关于普通情况的结论。常识知识的动态本质要求模型能够在新情况下执行多跳推理。该特征还导致具有大规模稀疏知识图谱，其中需要这样的推理过程来预测新事件之间的关系。然而，现有的方法在这方面是有限的，考虑CKG作为一个有限的事实集，从而使他们不适合推理新的看不见的情况和事件。在本文中，我们提出了一个神经符号推理机，这是能够推理的大规模动态CKG。CKG推理的逻辑规则是在模型训练过程中学习的。除了提供可解释的解释外，学习的逻辑规则有助于将预测推广到新引入的事件。在CKG上的链接预测任务的实验结果证明了我们的模型的有效性，优于国家的最先进的模型。
2021-05-14 cs.AI cs.CL
Using Answer Set Programming for Commonsense Reasoning in the Winograd Schema Challenge
Arizona State University（亚利桑那州立大学）
Winograd Schema Challenge（WSC）是一个自然语言理解任务，在2011年被提出作为图灵测试的替代。在这项工作中，我们试图解决WSC问题的推理与额外的知识。通过使用构建在使用答案集编程（ASP）编码的图-子图同构之上的方法，我们能够处理291个WSC问题中的240个。ASP编码允许我们以一种容忍细化的方式添加额外的约束。在这个过程中，我们提出了一个基于图形的表示WSC问题以及相关的常识知识。本文件正在考虑被TPLP接受。
2019-07-25 cs.AI cs.CL
Semantically Enhanced Models for Commonsense Knowledge Acquisition
Nanyang Technological University（南洋理工大学）；Singapore Institute of Manufacturing Technology（新加坡制造技术研究院）；Agency for Science, Technology and Research（新加坡科技研究局）
常识知识对于实现智能系统至关重要。通常，它的特点是隐含和模糊的，从而阻碍了其获取的自动化。为了应对这些挑战，本文提出了语义增强模型，使推理，通过解决部分常识的歧义。所提出的模型增强了知识图谱嵌入（KGE）框架的知识库完成。实验结果表明了新语义模型在常识推理中的有效性。
2018-09-27 cs.AI cs.CL
Modularized Transfer Learning with Multiple Knowledge Graphs for Zero-shot Commonsense Reasoning
Yonsei University（延世大学）；University of Edinburgh（爱丁堡大学）；Google Research（谷歌研究院）；Seoul National University（首尔国立大学）
常识推理系统应该能够推广到不同的推理情况。然而，大多数最先进的方法依赖于昂贵的数据注释和过拟合到特定的基准，而不学习如何执行一般的语义推理。为了克服这些缺点，zero-shot QA系统已经通过将常识知识图谱（KG）转换成用于模型训练的合成QA形式样本而显示出作为鲁棒学习方案的前景。考虑到不同常识知识库类型的增加，本文旨在将zero-shot迁移学习场景扩展到多源环境中，使不同知识库能够协同使用。为了实现这一目标，我们建议，以减轻损失的知识，从不同的知识源之间的干扰，通过开发一个模块化的变体的知识聚合作为一个新的zero-shot常识推理框架。五个常识推理基准测试的结果证明了我们的框架的有效性，提高了多个KG的性能。
2022-06-22 cs.AI cs.CL cs.LG
Conversational Neuro-Symbolic Commonsense Reasoning
Carnegie Mellon University（卡内基梅隆大学）
为了让对话式人工智能系统进行更自然、更广泛的对话，它们需要更多的常识，包括识别对话伙伴未陈述的假设的能力。例如，在命令“如果晚上下雪，那么早点叫醒我，因为我不想上班迟到”中，说话者依赖于听者的常识推理来推断出他们希望仅在雪下得足以导致交通减速时才被叫醒的隐含假设。我们在这里考虑的问题，理解这种不精确的陈述自然语言命令的形式给出的“如果-（状态），然后-（行动），因为-（目标）”语句。更准确地说，我们考虑的问题，确定未陈述的假设的发言者，允许请求的行动，以实现预期的目标，从给定的状态（也许详细说明，使隐式的假设明确）。我们为这项任务发布了一个基准数据集，从人类那里收集，并用常识假设进行了注释。我们提出了一个神经符号定理证明，提取多跳推理链，并将其应用到这个问题。此外，为了适应当前人工智能常识系统缺乏全面覆盖的现实，我们还提出了一个基于神经符号系统的交互式对话框架，该框架通过对话唤起人类的常识知识来完成其推理链。
2021-02-02 cs.AI cs.CL cs.LG
MMCOMET: A Large-Scale Multimodal Commonsense Knowledge Graph for Visual Reasoning
University of Sydney（悉尼大学）；University of Melbourne（墨尔本大学）；University of Edinburgh（爱丁堡大学）；The University of Sydney（悉尼大学）
MMCOMET是一种大规模多模态常识知识图谱，通过整合视觉、物理和社会知识，提升了复杂推理任务如图像描述和叙事生成的性能。
2026-11-03 cs.AI
Commonsense Reasoning in Computer Vision: Foundations, Recent Advancements, and Future Directions
Lander University（兰德大学）；Western Michigan University（西密歇根大学）
本文综述了将常识知识融入计算机视觉任务的最新进展，介绍了相关方法、当前局限及未来研究方向，旨在开发更智能的视觉系统。
2026-09-07 cs.AI
Applying the Closed World Assumption to SUMO-based FOL Ontologies for Effective Commonsense Reasoning
University of the Basque Country (UPV/EHU)（巴斯克地区大学）
最常见的是，开放世界假设被采用作为设计，构建和使用本体的标准策略。这种策略限制了任何系统的推理能力，因为非断言语句（缺少知识）可以被假设为真或假。正如我们将证明的，这是特别是一阶逻辑（FOL）本体的情况下，非断言语句是当今的主要障碍之一，其实际应用中的自动常识推理任务。在本文中，我们调查的封闭世界假设（CWA）的应用，使更好地利用FOL本体使用国家的最先进的自动定理证明。为此，我们探索了不同的CWA公式的结构知识编码在FOL翻译的相扑本体，发现几乎30%的结构知识是失踪。我们评估这些配方的实际实验中使用一个非常大的常识基准WordNet通过其映射到相扑。实验结果表明，在CWA框架下，本体的推理能力提高了50%以上。因此，将CWA自动应用于FOL本体减少了它们的歧义，并且可以回答更多的常识问题
2020-03-04 cs.AI
CBR with Commonsense Reasoning and Structure Mapping: An Application to Mediation
Artificial Intelligence Research Institute, IIIA - CSIC（人工智能研究所（IIIA - CSIC））
调解是解决纠纷的重要方法。我们实现了一个基于案例的推理方法，调解集成类比和常识推理组件，允许人工调解代理，以满足人类调解员预期的要求，特别是：利用经验，在不同的领域的情况下，和结构上转换的一组问题，以更好的解决方案。我们利用一个基于本体论的案例结构，反映了争议各方的看法。类比推理的组成部分，采用结构映射理论从心理学，提供了一个灵活性，在不寻常的情况下，创新的反应，与传统的方法局限于专门的问题领域。我们的目标是建立一个调解案例库，结合现实世界的情况，从人际或团体间的纠纷，国际冲突。
2011-10-12 cs.AI cs.LG
A Balanced Neuro-Symbolic Approach for Commonsense Abductive Logic
McGill University（麦吉尔大学）；Huawei Noah’s Ark Lab（华为诺亚实验室）；International Laboratory on Learning Systems (ILLS)（学习系统国际实验室）；MILA（蒙特利尔人工智能实验室）
本文提出一种平衡神经和符号方法，通过迭代增强逻辑问题中的常识关系，提升复杂推理任务的性能。
2026-01-26 cs.AI cs.LG
Brain-inspired Graph Spiking Neural Networks for Commonsense Knowledge Representation and Reasoning
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）
人脑中的神经网络如何表征常识知识，并完成相关的推理任务，是神经科学、认知科学、心理学和人工智能的重要研究课题。传统的人工神经网络使用固定长度的向量来表示符号，虽然在某些特定任务中获得了不错的性能，但它仍然是一个缺乏可解释性的黑盒子，与人类感知世界的方式相去甚远。受神经科学中的祖母细胞假说的启发，本文研究了群体编码和尖峰时间依赖可塑性（STDP）机制如何被整合到脉冲神经网络的学习中，以及一个神经元群体如何通过引导不同神经元群体之间完成顺序放电来表示一个符号。不同社区的神经元群体共同构成了整个常识知识图谱，形成了一个巨图脉冲神经网络。此外，我们引入了奖励调制尖峰时间依赖可塑性（R-STDP）机制来模拟生物强化学习过程，并相应地完成相关的推理任务，实现了与图卷积人工神经网络相当的精度和更快的收敛速度。对于神经科学和认知科学领域，本文的工作为进一步探索人类大脑表征常识知识的方式提供了计算建模的基础。在人工智能领域，通过构造一种常识性的知识表示和推理出具有坚实生物相容性的脉冲神经网络，为实现更健壮、更可解释的神经网络指明了探索方向。
2022-07-11 cs.AI cs.LG cs.NE
LOGICAL-COMMONSENSEQA: A Benchmark for Logical Commonsense Reasoning
University of Colorado Boulder（科罗拉多大学博尔德分校）
本文提出LOGICAL-COMMONSENSEQA基准，通过逻辑运算符评估常识推理，发现模型在否定类问题上表现下降，揭示了推理局限性。
2026-04-20 cs.AI cs.CL
Template Filling for Controllable Commonsense Reasoning
Carnegie Mellon University（卡内基梅隆大学）；Accenture Labs（埃森哲实验室）
大规模的序列到序列模型已经被证明是擅长于多项选择和开放领域的常识推理任务。然而，当前的系统不提供控制推理链的各种属性的能力。为了使更好的可控性，我们建议研究的常识推理作为一个模板填充任务（TemplateCSR）-其中的语言模型填充推理模板与给定的约束作为控制因素。作为TemplateCSR的一种方法，我们（i）提出了一个常识推理模板扩展对的数据集，（ii）引入了POTTER，一个预先训练的序列到序列模型，使用提示在概念之间执行常识推理。我们的实验表明，我们的方法优于基线生成度量和真实性度量。我们还提出了一个详细的错误分析，我们的方法的能力，可靠地执行常识推理。
2022-10-14 cs.AI cs.CL
Retrieval Augmentation for Commonsense Reasoning: A Unified Approach
University of Notre Dame（圣母大学）；Microsoft Cognitive Services Research（微软认知服务研究院）；Shanghai Jiaotong University（上海交通大学）
现有文献中的检索增强方法的一个共同点是检索百科知识，如维基百科，这有助于定义良好的实体和关系空间，可以建模。然而，将这样的方法应用于常识推理任务面临两个独特的挑战，即，缺乏通用的大规模检索语料库和相应的有效的常识检索器。在本文中，我们系统地研究如何利用常识知识检索，以改善常识推理任务。我们提出了一个统一的检索增强常识推理（称为RACo）的框架，包括一个新构建的常识语料库超过20万个文件和新的策略，用于训练常识检索。我们在四个不同的常识推理任务上进行了实验。广泛的评估结果表明，我们提出的RACo可以显着优于其他知识增强的方法同行，实现新的SoTA性能的CommonGen和CREAK排行榜。
2022-10-23 cs.AI cs.CL
Prompt Engineering and Calibration for Zero-Shot Commonsense Reasoning
University of Electronic Science and Technology of China（电子科技大学）
本文在较小语言模型上研究提示工程与校准对零样本常识推理的作用，发现各策略仅对特定模型有利，联合使用效果多为负面。
2023-04-14 cs.AI cs.CL
Contrastive Self-Supervised Learning for Commonsense Reasoning
SAP AI Research（SAP人工智能研究院）
我们提出了一个自我监督的方法来解决代词消歧和Winograd模式挑战问题。我们的方法利用了与所谓的“触发”词相关的训练语料库的特征结构，这些词负责在代词消歧中翻转答案。我们通过构造成对对比辅助预测来实现这种常识推理。为此，我们利用由对比保证金规范化的互斥损失。我们的架构是基于最近推出的Transformer网络，BERT，表现出强大的性能在许多NLP基准。实验结果表明，我们的方法消除了现有的监督方法的局限性常识推理。这项研究开辟了利用廉价的自我监督，以实现性能增益常识推理任务的途径。
2020-05-02 cs.AI cs.CL
Attention Is (not) All You Need for Commonsense Reasoning
SAP Machine Learning Research（SAP机器学习研究院）
最近引入的BERT模型在几个语言理解基准测试中表现出很强的性能。在本文中，我们描述了一个简单的重新实现BERT的常识推理。我们表明，由BERT产生的注意力可以直接用于代词消歧问题和Winograd模式挑战等任务。我们提出的注意力引导的常识推理方法在概念上简单，但经验上强大。对多个数据集的实验分析表明，我们提出的系统在所有情况下都表现得非常好，同时比以前报道的最先进的系统表现得更好。虽然结果表明，BERT似乎隐含地学习建立实体之间的复杂关系，解决常识推理任务可能需要更多的从巨大的文本语料库学习的无监督模型。
2019-05-31 cs.AI cs.CL
Beyond Language: Learning Commonsense from Images for Reasoning
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
针对自然语言处理中的常识推理问题，提出了一种从图像中学习常识的新方法，而不是从有限的原始文本或昂贵的构造知识库中学习常识。我们的动机来自这样一个事实，即一幅图像胜过千言万语，可以利用更丰富的场景信息来帮助提取通常隐藏在语言中的常识知识。我们的方法，即卢瓦尔河，包括两个阶段。在第一阶段，一个双模态序列到序列的方法是用来进行场景布局生成任务，基于文本表示模型ViBERT。通过这种方式，所需的视觉场景知识，如空间关系，将被编码在ViBERT的监督学习过程与一些双模态数据，如COCO。然后将ViBERT与预先训练的语言模型连接起来，以执行下游的常识推理任务。对常识问答和代词消解两个常识推理问题的实验结果表明，Loire方法优于传统的基于语言的方法.我们也给出了一些案例研究来展示从图像中学习到的知识，并解释生成的场景布局如何帮助常识推理过程。
2020-10-10 cs.AI cs.CL
Commonsense Reasoning Using WordNet and SUMO: a Detailed Analysis
University of the Basque Country (UPV/EHU)（巴斯克大学（UPV/EHU））
我们描述了一个详细的分析样本的大型基准的常识推理的问题，已自动获得WordNet，相扑和他们的映射。其目标是对高级常识推理任务的基准和相关知识资源的质量提供更好的评估。通过这种分析，我们能够发现一些知识错位，映射错误和缺乏知识和资源。我们的最终目标是提取一些准则，以更好地利用这个常识性的知识框架，包括资源的改进。
2019-09-06 cs.AI cs.CL
COM2SENSE: A Commonsense Reasoning Benchmark with Complementary Sentences
University of Southern California（南加州大学）；Sharif University of Technology（谢里夫理工大学）；University of California, Los Angeles（加州大学洛杉矶分校）
常识推理对人类来说是直观的，但对人工智能（AI）来说是一个长期的挑战。预训练语言模型的最新进展在几个常识基准数据集上显示出有希望的结果。然而，这些基准评估模型的常识推理能力的可靠性和全面性仍然不清楚。为此，我们引入了一个新的常识推理基准数据集，包括自然语言真/假语句，每个样本与其互补配对，产生4k个句子对。我们提出了一个成对的准确性度量，可靠地衡量代理的能力，执行常识推理在给定的情况下。该数据集是众包的，并通过对抗性模型在环设置进行增强，以激励具有挑战性的样本。为了便于系统地分析常识能力，我们沿着知识领域，推理场景和计算能力的维度设计我们的数据集。实验结果表明，我们最强的基线（UnifiedQA-3B），微调后，达到约71%的标准准确度和约51%的成对准确度，远低于人类的表现（两个指标约95%）。该数据集可在https://github.com/PlusLabNLP/Com2Sense上获得。
2021-06-02 cs.AI cs.CL
KVL-BERT: Knowledge Enhanced Visual-and-Linguistic BERT for Visual Commonsense Reasoning
Beijing Institute of Technology（北京理工大学）
推理是实现完整视觉理解的关键能力。为了开发具有认知级视觉理解和推理能力的机器，引入了视觉常识推理（VCR）任务。在VCR中，给出一个关于图像的挑战性问题，机器必须正确回答，然后提供一个合理的理由来证明它的答案。采用功能强大的BERT模型作为学习图像内容和自然语言联合表示的骨干的方法在VCR上显示出有希望的改进。然而，现有的方法都没有利用常识知识的视觉常识推理，我们相信这将是非常有帮助的这项任务。在常识知识的支持下，即使图像中没有描述所需的信息，复杂的问题也可以通过认知推理来回答。因此，我们将常识知识融入到跨模态BERT中，提出了一种新的知识增强的视觉和语言BERT（Knowledge Enhanced Visual-and-Linguistic，简称KVL-BERT）模型。除了将视觉和语言内容作为输入外，还将从ConceptNet中提取的外部常识知识集成到多层Transformer中。为了保留原句子的结构信息和语义表征，本文提出利用相对位置嵌入和掩蔽自我注意来削弱注入的常识知识与输入序列中其他无关成分之间的影响。与其他特定于任务的模型和一般任务不可知的预训练模型相比，我们的KVL-BERT的性能大大优于它们。
2020-12-13 cs.AI cs.CL
CRoW: Benchmarking Commonsense Reasoning in Real-World Tasks
EPFL（洛桑联邦理工学院）；Google DeepMind（谷歌DeepMind）
本文提出手动构建的多任务基准 CRoW，通过常识违背性扰动重写六项真实世界 NLP 任务的样本，评估模型在物理、时间和社会等维度的常识推理能力，发现 NLP 系统与人类表现存在显著差距。
2023-10-23 cs.AI cs.CL
Deriving Commonsense Inference Tasks from Interactive Fictions
IBM Research（IBM研究院）；Queens University（皇后大学）
常识推理模拟了人类对物理世界做出假设的能力，它是构建通用AI系统不可或缺的基石。我们提出了一个新的常识推理数据集的基础上，人类的互动小说游戏玩人类玩家表现出丰富和多样的常识推理。实验表明，我们的任务对于具有足够常识知识的人类专家来说是可以解决的，但对现有的机器阅读模型提出了挑战，性能差距超过30%。
2020-10-19 cs.AI cs.CL
Plausibly Problematic Questions in Multiple-Choice Benchmarks for Commonsense Reasoning
University of Maryland（马里兰大学）；Allen Institute for AI (AI2)（艾伦人工智能研究所）
针对常识推理多项选择基准要求单一答案而忽略其他合理选项的问题，本文通过收集5000个合理性判断，发现超20%题目的最合理选项与黄金答案不符，且LLM在此类题目上表现较差，提出合理性标准以识别更可靠的基准题目。
2024-10-06 cs.AI cs.CL
RiddleSense: Reasoning about Riddle Questions Featuring Linguistic Creativity and Commonsense Knowledge
University of Southern California（南加州大学）
问：我有五个手指，但我不是活人。我算什么？答案：一只手套。解答这样的谜语式问题是一个具有挑战性的认知过程，因为它需要复杂的常识推理能力，对比喻语言的理解和反事实推理技能，这些都是高级自然语言理解（NLU）的重要能力。然而，目前还没有专门的数据集来测试这些能力。在这里，我们提出了RiddleSense，一个新的多项选择问答任务，它带有第一个大数据集（5.7k个例子），用于回答谜语式常识问题。我们系统地评估了各种各样的模型的挑战，并指出，最好的监督模型和人类的表现之间有很大的差距-这表明在高阶常识推理和语言创造力的方向，以建立先进的NLU系统有趣的未来研究。
2021-07-04 cs.AI cs.CL
Zero-shot Commonsense Reasoning over Machine Imagination
Korea University（高丽大学）；Hankuk University of Foreign Studies（韩国外国语大学）
针对预训练语言模型在零样本常识推理中因人类报告偏差导致理解差异的问题，提出框架Imagine，通过引入机器生成图像的视觉信号补充文本输入，并在多种基准上大幅超越现有方法。
2024-10-12 cs.AI cs.CL
A Simple Machine Learning Method for Commonsense Reasoning? A Short Commentary on Trinh & Le (2018)
这是对Trinh & Le（2018）的简短评论（“常识推理的简单方法“），概述了引用论文中的三个严重缺陷，并讨论了为什么数据驱动方法不能被视为自然语言理解所需的常识推理的严肃模型，特别是在参考解析中。
2018-10-01 cs.AI cs.CL cs.LG
Common Sense Beyond English: Evaluating and Improving Multilingual Language Models for Commonsense Reasoning
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）
常识推理的研究迄今仅限于英语。我们的目标是评估和改进流行的多语言语言模型（ML-LM），以帮助推进常识推理（CSR）超越英语。我们收集了米奇语料库，包括11种不同语言的561 k句子，可用于分析和改进ML-LM。我们提出了米奇探测器，一种语言无关的探测任务，用于公平地评估不同语言中流行的ML-LM的常识。此外，我们还创建了两个新的数据集，X-CSQA和X-CODAH，通过将其英文版本翻译为其他15种语言，以便我们可以评估流行的ML-LM跨语言常识推理。为了提高英语以外的性能，我们提出了一种简单而有效的方法--多语言对比预训练（MCP）。它显著增强了句子表示，在两个基准测试中都获得了很大的性能增益。
2021-06-13 cs.AI cs.CL
JECC: Commonsense Reasoning Tasks Derived from Interactive Fictions
WeChat AI（微信人工智能）；LinkedIn（领英）；Queens University（皇后大学）；IBM Research（IBM研究院）；UC San Diego（加州大学圣地亚哥分校）
本文提出基于互动小说通关过程构建的常识推理数据集JECC，侧重评估功能性常识知识规则和多跳推理能力，实验显示现有机器阅读模型和大语言模型与人类专家存在20%的性能差距。
2023-05-26 cs.AI cs.CL
Towards an Atlas of Cultural Commonsense for Machine Reasoning
School of Computing and Information Sciences Florida International University（佛罗里达国际大学计算与信息科学学院）；IBM Research（IBM研究院）
现有的用于人工智能和自然语言处理任务的常识推理数据集未能解决人类生活的一个重要方面：文化差异。我们介绍了一种方法，通过将知识的差异归因于文化或国家群体，扩展了以前的工作众包常识知识。我们通过收集围绕六个相当普遍的仪式-出生，成年，结婚，葬礼，新年和生日-的常识知识来展示这种技术，这些仪式跨越两个国家：美国和印度。我们的研究扩展了现有的工作领域中的常识推理为平凡的事件确定的不同类型的关系，并使用这些新的类型来收集信息，区分身份的群体提供的知识。它也让我们更接近于建造一台机器，它不承担普遍（可能是西方偏见）常识知识的刚性框架，而是有能力以上下文和文化敏感的方式进行推理。我们希望，这种文化知识将导致在问答（QA）和文本理解和生成等NLP任务中更像人类的表现。
2020-12-18 cs.AI cs.CL
COLA: Contextualized Commonsense Causal Reasoning from the Causal Inference Perspective
HKUST（香港科技大学）；Tencent AI Lab（腾讯人工智能实验室）；University of Pennsylvania（宾夕法尼亚大学）；NVIDIA（英伟达）
本文提出情境化常识因果推理任务及零样本框架COLA，利用时间性和协变量平衡消除混杂效应，实验证明其优于基线。
2023-05-09 cs.AI cs.CL
Abductive Commonsense Reasoning Exploiting Mutually Exclusive Explanations
Cornell University（康奈尔大学）
本文提出一种利用互斥解释的溯因常识推理方法，通过后验正则化强制互斥约束，无需人工标注监督即可区分流畅与合理解释，在多数据集上表现优于或可比于零样本预训练模型及知识增强方法。
2023-05-24 cs.AI cs.CL
Differentiable Open-Ended Commonsense Reasoning
University of Southern California（南加州大学）；Google Research（谷歌研究院）
当前的常识推理研究集中在开发使用常识知识回答多项选择题的模型。然而，被设计为回答多项选择问题的系统在不提供可供选择的候选答案的小列表的应用中可能没有用。作为一个步骤，使常识推理的研究更加现实，我们建议研究开放式常识推理（OpenCSR）-没有任何预定义的选择，回答一个常识问题的任务-作为一种资源，只有一个语料库的常识事实写在自然语言。OpenCSR是具有挑战性的，因为一个大的决策空间，因为许多问题需要隐式多跳推理。作为OpenCSR的一种方法，我们提出了DrFact，一个有效的微分模型多跳推理知识事实。为了评估OpenCSR方法，我们采用了几种流行的常识推理基准，并通过众包为每个测试问题收集多个新答案。实验表明，DrFact的性能大大优于强基线方法。
2021-06-06 cs.AI cs.CL cs.LG
ExplaGraphs: An Explanation Graph Generation Task for Structured Commonsense Reasoning
UNC Chapel Hill（北卡罗来纳大学教堂山分校）
最近的常识推理任务在本质上通常是有区别的，其中模型回答特定上下文的多项选择题。区分性任务是有限的，因为它们无法充分评估模型的推理能力，并用基本常识知识解释预测。它们还允许这样的模型使用推理捷径，而不是“出于正确的原因而正确”。在这项工作中，我们提出了ExplaGraphs，一个新的生成和结构化的常识推理任务（和相关的数据集）的解释图生成的立场预测。具体来说，给定一个信念和一个论点，模型必须预测论点是支持还是反对信念，并生成一个常识增强图，作为预测立场的非平凡，完整和明确的解释。我们通过一个新的验证和细化图形收集框架，提高图形质量（高达90%），通过多轮的验证和细化收集解释图。我们的图中有79%包含具有不同结构和推理深度的外部常识节点。接下来，我们提出了一个多层次的评估框架，包括自动度量和人工评估，检查生成的图的结构和语义的正确性及其与地面实况图的匹配程度。最后，我们提出了几个结构化的，常识增强的，文本生成模型作为强有力的起点，这个解释图生成任务，并观察到，有一个很大的差距与人类的表现，从而鼓励未来的工作，这一新的挑战性任务。ExplaGraphs将在https://explagraphs.github.io上公开提供。
2021-10-18 cs.AI cs.CL
CREAK: A Dataset for Commonsense Reasoning over Entity Knowledge
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
大多数针对常识推理的基准数据集都关注日常场景：物理知识，比如知道你可以在瀑布下装满一个杯子[Talmor等人，2019]，像撞到某人这样的社会知识是尴尬的[Sap et al.，#20199;及其他特殊情况。然而，有一个丰富的常识推理空间锚定到特定实体的知识：例如，决定一个索赔的真实性“哈利波特可以教如何在扫帚上飞行的课程。“模型可以学习以这种方式将实体知识与常识推理结合起来吗？我们介绍CREAK，一个关于实体知识的常识推理的测试平台，将关于实体的事实检查（哈利·波特是一个巫师，擅长骑扫帚）与常识推理（如果你擅长一项技能，你可以教别人如何做）联系起来。我们的数据集包括13 k人类撰写的关于实体的英语声明，这些实体要么是真的，要么是假的，除了一个小的对比集。众包工作者可以很容易地提出这些陈述，并且人类在数据集上的表现很高（90多岁）;我们认为模型应该能够将实体知识和常识推理融合在一起。在我们的实验中，我们专注于闭卷设置，并观察到一个基线模型微调现有的事实验证基准的斗争CREAK。在CREAK上训练模型可以大幅提高准确性，但仍然低于人类的表现。我们的基准测试提供了对自然语言理解模型的独特探索，测试了它检索事实的能力（例如，他在芝加哥大学教书？）以及未陈述的常识知识（例如，管家不会对客人大喊大叫）。
2021-09-03 cs.AI cs.CL
Prompting Contrastive Explanations for Commonsense Reasoning Tasks
University of Washington（华盛顿大学）；Allen Institute of Artificial Intelligence（艾伦人工智能研究所）；Facebook AI（脸书人工智能）
许多常识推理NLP任务涉及基于通常隐含的知识在问题或提示的一个或多个可能答案之间进行选择。大型预训练语言模型（PLM）可以在这些任务上实现接近人类的性能，同时提供很少的人类可解释的证据来证明它们使用的基本推理。在这项工作中，我们展示了如何使用这些相同的模型来生成这样的证据：受人类解释的对比性质的启发，我们使用PLM来完成解释提示，根据证明正确答案所需的关键属性（例如，花生通常是咸的，而葡萄干是甜的）来对比替代品。与以前的非对比替代方案相比，这些解释的条件模型决策提高了两个常识推理基准的性能。这些解释也被人类判断为与解决任务更相关，并促进了一种新的方法来评估解释的可信度。
2021-06-12 cs.AI cs.CL
Dialectical language model evaluation: An initial appraisal of the commonsense spatial reasoning abilities of LLMs
University of Leeds（利兹大学）；The Alan Turing Institute（艾伦·图灵研究所）；Tongji University（同济大学）；Universitat Politècnica de València（瓦伦西亚理工大学）；ValGRAI；Leverhulme Centre for the Future of Intelligence（利弗休姆未来智能中心）
本文针对大语言模型在静态常识推理基准上表现不断提升的现象，提出通过对话式辩证评估探查其空间推理失败案例与能力边界，并给出改进模型和系统化评估的建议。
2023-04-22 cs.AI cs.CL
Automated Storytelling via Causal, Commonsense Plot Ordering
自动故事情节生成是生成连贯的情节事件序列的任务。情节事件之间的因果关系被认为可以增加故事和情节连贯性的感知。在这项工作中，我们介绍了软因果关系的概念，从常识推理推断的因果关系。我们展示了C2PO，一种叙事生成的方法，通过因果关系，常识情节排序来实现这一概念。使用人类参与的协议，我们评估我们的系统对基线系统与不同的常识推理推理和归纳偏见，以确定软因果关系感知的故事质量的作用。通过这些研究，我们还探讨了跨故事类型的常识规范的变化如何影响对故事质量的看法的相互作用。
2020-12-30 cs.AI cs.CL
Evaluate Confidence Instead of Perplexity for Zero-shot Commonsense Reasoning
Shanghai Jiao Tong University（上海交通大学）
常识推理是自然语言处理（NLP）中一个很有吸引力的话题，因为它在支持NLP系统的类人行为方面起着基础性的作用。以大规模语言模型为主干，在大量语料库上进行无监督预训练显示出捕获常识知识的潜力。当前基于预训练语言模型（PLM）的推理遵循使用困惑度度量的传统实践。然而，常识推理比现有的概率评估，这是由词频偏。本文重新审视了常识推理的本质，提出了一种新的常识推理度量--非替换置信度（NRC）。详细地说，它根据ELECTRA中的替换令牌检测（RTD）预训练目标在PLM上工作，其中损坏检测目标反映了对上下文完整性的置信度，该置信度与常识推理比现有概率更相关。我们提出的新方法在两个常识推理基准数据集和另外七个常识问答数据集上提高了zero-shot性能。我们的分析表明，预先赋予常识知识，特别是基于RTD的PLM，是必不可少的下游推理。
2022-08-23 cs.CL
Great Truths are Always Simple: A Rather Simple Knowledge Encoder for Enhancing the Commonsense Reasoning Capacity of Pre-Trained Models
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；School of Information, Renmin University of China（中国人民大学信息学院）；Beijing Academy of Artificial Intelligence（北京智源人工智能研究院）
用自然语言进行常识推理是人工智能系统所要求的一种能力。为了解决复杂的常识推理任务，一个典型的解决方案是使用知识感知的图神经网络编码器来增强预训练的语言模型，该编码器对常识知识图谱进行建模。尽管这些方法是有效的，但它们都是建立在沉重的体系结构上的，并且不能清楚地解释外部知识资源如何提高PTM的推理能力。考虑到这个问题，我们进行了深入的实证分析，并发现它确实是从CSKG的关系特征（而不是节点特征），主要有助于PTM的性能改善。基于这一发现，我们设计了一个简单的基于MLP的知识编码器，利用统计关系路径的功能。在五个基准测试上进行的大量实验证明了我们方法的有效性，并且大大减少了编码CSKG的参数。我们的代码和数据可在https://github.com/RUCAIBox/SAFE上公开获取。
2022-05-04 cs.AI cs.CL
Reasoning before Responding: Integrating Commonsense-based Causality Explanation for Empathetic Response Generation
Kyoto University（京都大学）
提出基于常识的因果解释方法，兼顾用户与系统双视角，结合上下文学习增强ChatGPT推理，并整合至T5模型，在自动与人工评估中优于现有方法。
2023-09-05 cs.AI cs.CL
JointLK: Joint Reasoning with Language Models and Knowledge Graphs for Commonsense Question Answering
Research Center for Social Computing and Information Retrieval（社会计算与信息检索研究中心）；Harbin Institute of Technology（哈尔滨工业大学）
现有的知识图增强的常识问答模型主要集中在设计复杂的图神经网络（GNN）来建模知识图谱（KG）。然而，他们忽略了（i）在问题上下文表示和KG表示上的有效融合和推理，以及（ii）在推理期间从噪声KG中自动选择相关节点。在本文中，我们提出了一种新的模型，JointLK，它解决了上述限制，通过LM和GNN的联合推理和动态KG修剪机制。具体而言，JointLK通过一种新的密集双向注意模块实现LM和GNN之间的联合推理，其中每个问题标记参与KG节点，每个KG节点参与问题标记，两种模态表示通过多步交互相互融合和更新。然后，动态修剪模块使用由联合推理产生的注意力权重递归地修剪不相关的KG节点。我们在CommonsenseQA和OpenBookQA数据集上评估了JointLK，并展示了它对现有LM和LM+KG模型的改进，以及它执行可解释推理的能力。
2022-05-02 cs.AI cs.CL
LINKED: Eliciting, Filtering and Integrating Knowledge in Large Language Model for Commonsense Reasoning
School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
本文提出LINKED方法，通过奖励模型过滤噪声知识并利用边际一致推理模块减少无效推理，在常识推理任务上较SOTA基线提升9.0%准确率，并引入新指标衡量知识增强效果。
2024-10-12 cs.AI cs.CL
Possible Stories: Evaluating Situated Commonsense Reasoning under Multiple Possible Scenarios
Tokyo Metropolitan University（东京都立大学）；Yahoo Japan Corporation（雅虎日本公司）；National Institute of Informatics（国立信息学研究所）
同一背景下可能产生的后果可能因我们所指的情况而异。然而，目前自然语言处理的研究并没有集中在多个可能的场景下的情境常识推理。本研究通过提出多个问题来构建这个任务，这些问题具有相同的可能结局作为候选答案，给定一个短篇小说文本。我们得到的数据集，可能的故事，包括超过4.5K的问题超过1.3K的故事文本的英语。我们发现，即使是目前强大的预训练语言模型也很难始终如一地回答这些问题，这表明在无监督环境中的最高准确率（60.2%）远远落后于人类的准确率（92.5%）。通过与现有数据集的比较，我们观察到我们数据集中的问题在答案选项中包含最小的注释工件。此外，我们的数据集包括需要反事实推理的例子，以及那些需要读者的反应和虚构的信息，这表明我们的数据集可以作为一个具有挑战性的测试平台，为未来的研究现场常识推理。
2022-09-16 cs.AI cs.CL
CICERO: A Dataset for Contextualized Commonsense Inference in Dialogues
Singapore University of Technology and Design（新加坡科技设计大学）；University of Michigan（密歇根大学）
本文研究了基于语境化常识推理的对话推理问题。我们策划了CICERO，这是一个二元对话数据集，包含五种基于话语级推理的推断：原因，后续事件，先决条件，动机和情绪反应。该数据集包含来自5，672个对话的53，105个这样的推断。我们使用这个数据集来解决相关的生成和判别任务：生成原因和后续事件;生成先决条件，动机和听众的情绪反应;以及选择合理的替代方案。我们的研究结果确定了这种以对话为中心的常识知识数据集的价值。我们希望CICERO将为基于常识的对话推理开辟新的研究途径。
2022-04-07 cs.AI cs.CL
Com$^2$: A Causal-Guided Benchmark for Exploring Complex Commonsense Reasoning in Large Language Models
Research Center for Social Computing and Interactive Robotics（社会计算与交互机器人研究中心）；Harbin Institute of Technology（哈尔滨工业大学）；Institute of Trustworthy Embodied AI（可信具身人工智能研究院）；Fudan University（复旦大学）；Beijing Academy of Artificial Intelligence（北京人工智能研究院）；Nanjing University（南京大学）
本文提出因果引导的复杂常识推理基准 Com²，利用因果事件图、干预和慢思考构建测试场景，并揭示LLM在推理深度与广度上的不足。
2025-06-08 cs.AI cs.CL
Zero-Shot Commonsense Validation and Reasoning with Large Language Models: An Evaluation on SemEval-2020 Task 4 Dataset
College of Information Technology（信息技术学院）；Lusail University（卢赛尔大学）；Qatar University（卡塔尔大学）
本研究在SemEval-2020 Task 4数据集上零样本评估多款大语言模型的常识验证与解释能力，发现大模型常识验证接近人类水平，但常识解释能力仍有不足，暴露了因果与推断推理的局限。
2025-02-19 cs.AI cs.CL
Leveraging Explicit Reasoning for Inference Integration in Commonsense-Augmented Dialogue Models
Emory University（埃默里大学）
本研究提出在开放域对话中采用显式推理步骤生成、选择并集成常识，相比隐式推理显著提升回复的自然度、参与度、具体性和整体质量，达到新最优性能。
2025-01-21 cs.CL
Benchmarking Chinese Commonsense Reasoning with a Multi-hop Reasoning Perspective
Douyin Content Group, ByteDance（字节跳动内容部）；School of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院）
提出中文常识多跳推理基准CCMOR，通过LLM流水线生成多跳问题并人工验证，评估发现大模型在长尾知识与知识密集型推理上存在局限，而检索增强生成可显著提升性能。
2025-10-09 cs.AI cs.CL
BrainBench: Exposing the Commonsense Reasoning Gap in Large Language Models
Georgia Institute of Technology（佐治亚理工学院）
BrainBench通过100道脑筋急转弯问题，揭示LLM在常识推理上的不足，评估八种前沿模型，发现其推理存在随机性缺陷。
2026-03-16 cs.AI cs.CL
Detecting Emotional Incongruity of Sarcasm by Commonsense Reasoning
本文提出反讽检测框架EICR，通过检索增强大模型补充常识、构建依赖图、引入自适应推理骨架提取情感不一致子图，并结合对抗对比学习增强鲁棒性，在五个数据集上验证了有效性。
2024-12-20 cs.AI cs.CL
Commonsense Knowledge Reasoning and Generation with Pre-trained Language Models: A Survey
虽然常识知识获取和推理传统上是知识表示和推理社区的核心研究课题，但近年来，自然语言处理社区对开发预训练模型并测试其解决各种新设计的常识知识推理和生成任务的能力的兴趣激增。本文介绍了这些任务的调查，讨论了最先进的预训练模型的优势和劣势，这些任务所揭示的常识推理和生成，并反映在未来的研究方向。
2022-01-28 cs.CL
Explain Yourself! Leveraging Language Models for Commonsense Reasoning
Salesforce Research（赛富时研究院）
深度学习模型在需要常识推理的任务上表现不佳，这通常需要某种形式的世界知识或对输入中不直接存在的信息进行推理。我们以自然语言序列的形式收集人类对常识推理的解释，并在一个名为常识推理（CoS-E）的新数据集中突出显示注释。我们使用CoS-E来训练语言模型，以自动生成解释，这些解释可以在一个新的常识自动生成解释（CAGE）框架中的训练和推理过程中使用。CAGE在具有挑战性的CommonsenseQA任务上将最先进的技术提高了10%。我们进一步研究了DNN中的常识推理，使用人类和自动生成的解释，包括转移到域外任务。实验结果表明，我们可以有效地利用语言模型的常识推理。
2019-06-06 cs.CL
DiscoSense: Commonsense Reasoning with Discourse Connectives
University of Texas at Dallas（德克萨斯大学达拉斯分校）
我们提出了DiscoSense，一个通过理解各种各样的话语联系语进行常识推理的基准。我们使用条件对抗过滤在DiscoSense中生成引人注目的干扰项，这是对抗过滤的一种扩展，采用条件生成。我们发现，最先进的预训练语言模型很难在DiscoSense上表现良好，这使得该数据集非常适合评估下一代常识推理系统。
2022-10-22 cs.CL
