Exploring and Analyzing Machine Commonsense Benchmarks
Rensselaer Polytechnic Institute（伦斯勒理工学院）
常识问答（QA）任务，以基准的形式，不断被引入挑战和比较常识QA系统。基准测试提供了问题集，系统开发人员可以在将其实现提交给官方排行榜之前使用这些问题集来训练和测试新模型。虽然这些任务是为了在确定的维度（例如主题，推理类型）中评估系统而创建的，但这些元数据是有限的，并且主要以非结构化格式呈现或完全不存在。由于机器常识是一个快节奏的领域，因此在这些评估维度方面全面评估当前基准和系统的问题变得更加严重。我们认为，缺乏一个共同的词汇来调整这些方法的元数据限制了研究人员在他们的努力，以了解系统的缺陷，并在未来的任务作出有效的选择。在本文中，我们首先讨论这个MCS生态系统的元素和它们的元数据。然后，我们介绍了我们是如何支持的方法，最初专注于常识性的基准评估。我们描述了我们最初的MCS基准本体，一个可扩展的通用词汇表，正式基准元数据，并展示了它是如何支持开发的基准工具，使基准的探索和分析。
2020-12-21 cs.AI
Every Answer Matters: Evaluating Commonsense with Probabilistic Measures
University of Pittsburgh（匹兹堡大学）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
本文提出常识框架补全（CFC）生成式任务及概率评估方法，以捕捉常识的多答案概率性质，实验表明人类表现远超语言模型基线，为机器常识提供了更具挑战性的评测方式。
2024-06-06 cs.AI cs.CL
Controlling Search in Very large Commonsense Knowledge Bases: A Machine Learning Approach
Cycorp, Inc.（Cycorp公司）；Lucid AI（Lucid AI公司）
非常大的常识知识库（KBs）通常有数千到数百万个公理，其中相对较少的公理与回答任何给定的查询相关。大量不相关的公理很容易淹没基于解析的定理证明器。因此，帮助推理机识别有用的推理路径的方法形成了大规模推理系统的重要组成部分。在本文中，我们描述了两个排序算法优化的推理在这样的系统。首先，我们讨论如何使用决策树来选择更有可能成功的推理步骤。其次，我们确定了一个小的问题实例功能，足以引导搜索远离棘手的区域的搜索空间。我们通过实验从Cyc KB的数千个查询，这些技术的有效性。结果表明，这些方法导致一个数量级的减少推理时间。
2016-03-14 cs.AI
Extending Automated Deduction for Commonsense Reasoning
Tallinn University of Technology（塔林理工大学）
常识推理一直被认为是人工智能的圣杯之一。该领域的大多数最新进展都是通过用于自然语言处理的新型机器学习算法实现的。然而，如果不结合逻辑推理，这些算法仍然可以说是肤浅的。除了一些值得注意的例外，实际的自动化逻辑推理机的开发人员大多避免关注这个问题。本文认为，经典一阶逻辑的现有自动推理机所使用的方法和算法可以扩展到常识推理。而不是设计新的专门的逻辑，我们提出了一个框架的扩展主流的分辨率为基础的搜索方法，使这些能够执行搜索任务的实际常识推理合理的效率。建议的扩展主要依赖于普通的证明树上操作，旨在处理常识知识库，包含不一致，默认规则，分类，主题，相关性，置信度和相似性的措施。我们认为，机器学习最适合于常识知识库的构建，而扩展的基于逻辑的方法将非常适合于实际回答来自这些知识库的查询。
2020-03-29 cs.AI
A Simple Machine Learning Method for Commonsense Reasoning? A Short Commentary on Trinh & Le (2018)
这是对Trinh & Le（2018）的简短评论（“常识推理的简单方法“），概述了引用论文中的三个严重缺陷，并讨论了为什么数据驱动方法不能被视为自然语言理解所需的常识推理的严肃模型，特别是在参考解析中。
2018-10-01 cs.AI cs.CL cs.LG
Incorporating Connections Beyond Knowledge Embeddings: A Plug-and-Play Module to Enhance Commonsense Reasoning in Machine Reading Comprehension
School of EECS, Peking University（北京大学电子工程与计算机科学学院）；Peng Cheng Laboratory（鹏城实验室）
传统的机器阅读理解（MRC）已经通过模式匹配得到了很好的解决，但常识推理的能力仍然是人类和机器之间的差距。以前的方法通过预训练的知识图谱嵌入（KGE）丰富单词表示来解决这个问题。然而，它们对知识图谱（KG）中节点之间的大量连接的利用有限，这些连接可能是构建常识推理链的关键线索。在本文中，我们提出了一个即插即用的模块来存储连接信息的常识推理（PIECER）。除了用知识嵌入丰富单词表示外，PIECER还构建了一个联合查询-通道图，通过单词之间面向知识的连接来明确地指导常识推理。此外，PIECER具有很高的通用性，因为它可以插入到任何MRC模型的合适位置。实验结果ReCoRD，一个大规模的公共MRC数据集，需要常识推理，PIECER介绍了稳定的性能改善四个代表性的基础MRC模型，特别是在低资源设置。
2021-03-26 cs.AI cs.CL
Commonsense Visual Sensemaking for Autonomous Driving: On Generalised Neurosymbolic Online Abduction Integrating Vision and Semantics
University of Bremen（不来梅大学）；Örebro University（厄勒布鲁大学）
我们展示了在自动驾驶背景下系统集成视觉和语义解决方案的必要性和潜力。一个一般的神经符号的方法，在线使用答案集编程（ASP）的视觉意义构建系统的形式化和充分实施。该方法集成了视觉计算的最新技术，并被开发为一个模块化的框架，通常可用于实时感知和控制的混合体系结构。我们使用社区建立的基准KITTIMOD、MOT-2017和MOT-2020进行评估和演示。作为用例，我们关注以人为中心的视觉感知的重要性-例如，涉及语义表示和可解释性，问题回答，常识插值-在安全关键的自动驾驶情况下。开发的神经符号框架是独立于领域的，自动驾驶的案例旨在作为在选择以人为中心的人工智能技术设计考虑的背景下，在不同的认知交互环境中进行在线视觉感知的范例。保留字：认知视觉、深层语义学、陈述性空间推理、知识表示和推理、常识推理、视觉诱导、答案集编程、自动驾驶、以人为本的计算和设计、驾驶技术标准化、空间认知和人工智能。
2020-12-28 cs.AI cs.CV cs.LG
Commonsense Reasoning-Aided Autonomous Vehicle Systems
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
针对自动驾驶汽车系统依赖机器学习但缺乏高级道路场景推理能力的问题，本研究整合基于图像数据的常识推理模型以提升系统推理准确性、可调节性、可解释性与伦理性，同时阐述现有发现及未来方向。
2025-02-13 cs.AI
Conversational AI : Open Domain Question Answering and Commonsense Reasoning
Erik Jonsson School of Engineering and Computer Science（埃里克·琼森工程与计算机科学学院）；The University of Texas at Dallas（得克萨斯大学达拉斯分校）
我们的研究重点是建立一个类人的问答系统，可以合理地回答。我们的方法的显着特点是，它将使用自动化的常识推理来真正“理解”对话，使其能够像人类一样交谈。人们在交谈中经常会做出很多假设。我们用我们的常识来推断没有明确告诉我们的事实。在问答系统中简化常识知识只会使它更健壮。
2019-09-18 cs.AI cs.HC cs.LO
Zero-shot Commonsense Reasoning over Machine Imagination
Korea University（高丽大学）；Hankuk University of Foreign Studies（韩国外国语大学）
针对预训练语言模型在零样本常识推理中因人类报告偏差导致理解差异的问题，提出框架Imagine，通过引入机器生成图像的视觉信号补充文本输入，并在多种基准上大幅超越现有方法。
2024-10-12 cs.AI cs.CL
A Computational Model of Commonsense Moral Decision Making
Massachusetts Institute of Technology（麻省理工学院）
我们引入了一个新的计算模型的道德决策，借鉴最近的理论常识道德学习通过社会动力学。我们的模型将道德困境描述为一个效用函数，该函数计算抽象道德维度上的价值权衡，当在机器主导的道德决策中实施时，这些道德维度提供了可解释的参数值。此外，表征的社会结构的个人和群体作为一个分层贝叶斯模型，我们表明，一个有用的描述个人的道德价值观-以及一个群体的共同价值观-可以推断出从有限数量的观测数据。最后，我们应用和评估我们的方法，从道德机器，一个网络应用程序，收集人类的判断涉及自动驾驶汽车的道德困境的数据。
2018-01-12 cs.AI
Towards an Atlas of Cultural Commonsense for Machine Reasoning
School of Computing and Information Sciences Florida International University（佛罗里达国际大学计算与信息科学学院）；IBM Research（IBM研究院）
现有的用于人工智能和自然语言处理任务的常识推理数据集未能解决人类生活的一个重要方面：文化差异。我们介绍了一种方法，通过将知识的差异归因于文化或国家群体，扩展了以前的工作众包常识知识。我们通过收集围绕六个相当普遍的仪式-出生，成年，结婚，葬礼，新年和生日-的常识知识来展示这种技术，这些仪式跨越两个国家：美国和印度。我们的研究扩展了现有的工作领域中的常识推理为平凡的事件确定的不同类型的关系，并使用这些新的类型来收集信息，区分身份的群体提供的知识。它也让我们更接近于建造一台机器，它不承担普遍（可能是西方偏见）常识知识的刚性框架，而是有能力以上下文和文化敏感的方式进行推理。我们希望，这种文化知识将导致在问答（QA）和文本理解和生成等NLP任务中更像人类的表现。
2020-12-18 cs.AI cs.CL
Common Sense vs. Morality: The Curious Case of Narrative Focus Bias in LLMs
本文研究了LLMs在道德困境中优先道德推理而非常识理解的偏见，提出CoMoral数据集并揭示了模型在识别常识矛盾时的叙述焦点偏见问题。
2026-03-10 cs.AI cs.CL
CUHK at SemEval-2020 Task 4: CommonSense Explanation, Reasoning and Prediction with Multi-task Learning
The Chinese University of Hong Kong（香港中文大学）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；South China Normal University（华南师范大学）
本文描述了我们的系统提交给SemEval 2020的任务4：常识验证和解释（ComVE），其中包括三个子任务。基于BERT架构的多任务环境，提出了一个有效的、可解释的“解释、推理和预测”（Explain，Reason and Predict，ERP）系统来解决与常识相关的三个子任务：（a）验证、（b）推理和（c）解释。受常识认知研究的启发，我们的系统首先生成句子的原因或理解，然后选择哪一个陈述是有意义的，这是通过多任务学习实现的。在后评估中，我们的系统在子任务A中达到了92.9%的准确率（排名11），在子任务B中达到了89.7%的准确率（排名9），在子任务C中达到了12.9的BLEU得分（排名8）。
2020-07-28 cs.AI cs.CL cs.LG
SemEval-2020 Task 4: Commonsense Validation and Explanation
Zhejiang University（浙江大学）；Sun Yat-Sen University（中山大学）；School of Engineering, Westlake University（西湖大学工学院）；Singapore University of Technology and Design（新加坡科技设计大学）
在本文中，我们提出了SemEval-2020任务4，常识验证和解释（ComVE），其中包括三个子任务，旨在评估系统是否可以区分对人类有意义的自然语言语句，并提供原因。具体来说，在我们的第一个子任务中，参与系统需要从两个措辞相似的自然语言语句中选择一个有意义的语句，另一个没有意义。第二个子任务还要求系统从三个选项中选择一个关键原因，说明为什么给定的语句没有意义。在第三个子任务中，参与系统需要生成原因。最终，我们吸引了39支团队至少参与了三个子任务中的一个。对于子任务A和子任务B，排名靠前的系统的性能接近人类。然而，对于子任务C，系统和人类表现之间仍然存在相对较大的差距。我们任务中使用的数据集可以在https://github.com/wangcunxiang/SemEval2020- Task 4-Commonsense-Validation-and-Explanation中找到;排行榜可以在https://competitions.codalab.org/competitions/21080#results中找到。
2020-08-03 cs.AI cs.CL
LMVE at SemEval-2020 Task 4: Commonsense Validation and Explanation using Pretraining Language Model
Northeastern University（东北大学）
本文描述了我们对SemEval-2020任务4的子任务a和b的提交。对于子任务a，我们使用改进的输入形式的基于ALBERT的模型从两个语句候选中挑选出常识语句。对于子任务b，我们使用了一个多项选择模型，通过提示句机制从给定的选项中选择为什么一个陈述是违反常识的。此外，我们提出了一种新的子任务之间的迁移学习策略，有助于提高性能。我们的系统在官方测试集上的准确率为95.6/94.9，在评估后排行榜上排名7 $^{th}$/2 $^{nd}$。
2020-07-06 cs.AI cs.CL
Toward a New Science of Common Sense
Jacobs Technion-Cornell Institute（雅各布斯以色列理工学院-康奈尔大学研究院）；Cornell University（康奈尔大学）；University of Toronto（多伦多大学）
常识一直是人工智能的兴趣所在，但很少占据中心舞台。尽管John McCarthy最早的论文之一和专门研究人员多年的工作中提到了它，但可以说没有出现过具有大量一般常识的人工智能系统。为什么会这样？少了什么？人工智能系统缺乏常识的例子比比皆是，它们指出人工智能经常关注专业知识是原因。即使在现代深度学习的背景下，那些试图打破由此产生的脆性障碍的人也倾向于将精力投入到大量的小常识知识上。虽然很重要，但世界上所有的常识知识片段并不能组成一个系统，以类似人类的方式展示常识。我们主张从比过去更广泛的角度来审视常识。常识应该在一个完整的认知系统中考虑，包括历史、目标、欲望和驱动力，而不仅仅是孤立的限制性例子。需要一个新的面貌：常识值得进行专门的科学探索。
2022-02-06 cs.AI
CaseEdit: Enhancing Localized Commonsense Reasoning via Null-Space Constrained Knowledge Editing in Small Parameter Language Models
University of Virginia（弗吉尼亚大学）
CaseEdit通过零空间约束的AlphaEdit方法，在小参数模型中实现局部常识知识编辑，提升可靠性、泛化性等，优于其他方法。
2025-05-26 cs.AI
Cosmos QA: Machine Reading Comprehension with Contextual Commonsense Reasoning
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of Washington（华盛顿大学）
理解叙述需要阅读字里行间的内容，这反过来又需要解释事件的可能原因和影响，即使它们没有明确提到。在本文中，我们介绍了Cosmos QA，这是一个包含35，600个问题的大规模数据集，这些问题需要基于常识的阅读理解，并以多项选择题的形式表达。与大多数现有的阅读理解数据集形成鲜明对比的是，这些数据集的问题集中在对上下文段落的事实和字面理解上，我们的数据集集中在对人们日常叙述的各种收集的字里行间的阅读，提出诸如“可能的原因是什么...？或者“如果......“这需要推理超出确切的文本跨度在上下文中。为了建立Cosmos QA的基线性能，我们实验了几种用于阅读理解的最先进的神经架构，并提出了一种新的架构，该架构在竞争基线上有所改进。实验结果表明，机器（68.4%）和人类（94%）之间存在显着差距，为未来的常识机器理解研究指明了方向。数据集、代码和排行榜可在https://wilburone.github.io/cosmos上公开获取。
2019-09-06 cs.AI cs.CL
Playing Text-Based Games with Common Sense
Georgia Institute of Technology（佐治亚理工学院）
基于文本的游戏是一种模拟，其中代理纯粹通过自然语言与世界交互。它们通常由许多谜题组成，其中穿插着与常见的日常物品和地点的互动。深度强化学习代理可以学习解决这些难题。然而，与环境的日常互动，虽然对人类玩家来说微不足道，但对智能体来说却是额外的难题。我们探讨两种技术，将常识知识代理。用常识推理模型COMET或语言模型BERT来推断世界状态的可能隐藏方面。根据由语言模型识别的公共模式来偏置代理探索。我们在9to05游戏中测试了我们的技术，这是一个基于文本的游戏的极端版本，需要与常见的日常物品在常见的日常场景中进行多次交互。我们的结论是，代理人，增加他们的信念与常识推断的世界国家更强大的观察错误和遗漏的共同元素的文本描述。
2020-12-04 cs.AI cs.CL
Bayes Meets Entailment and Prediction: Commonsense Reasoning with Non-monotonicity, Paraconsistency and Predictive Accuracy
Cardiff University（卡迪夫大学）；National Institute of Technology, Sendai College（仙台国立工业高等专门学校）
最近贝叶斯方法在神经科学和人工智能中取得的成功提出了大脑是贝叶斯机器的假设。由于逻辑和学习都是人类大脑的实践，这导致了另一个假设，即逻辑推理和机器学习都有贝叶斯解释。在本文中，我们介绍了一个生成模型的逻辑后果关系。它形式化了一个句子的真值是如何从世界状态的概率分布中概率地生成的过程。我们表明，生成模型的特点是经典的后果关系，次协调的后果关系和非单调的后果关系。特别是，生成模型给出了一个新的结果关系，优于他们的推理不一致的知识。我们还表明，生成模型给出了一种新的分类算法，在Kaggle Titanic数据集上的预测准确性和复杂性方面优于几种代表性算法。
2021-01-27 cs.AI
Deriving Commonsense Inference Tasks from Interactive Fictions
IBM Research（IBM研究院）；Queens University（皇后大学）
常识推理模拟了人类对物理世界做出假设的能力，它是构建通用AI系统不可或缺的基石。我们提出了一个新的常识推理数据集的基础上，人类的互动小说游戏玩人类玩家表现出丰富和多样的常识推理。实验表明，我们的任务对于具有足够常识知识的人类专家来说是可以解决的，但对现有的机器阅读模型提出了挑战，性能差距超过30%。
2020-10-19 cs.AI cs.CL
Commonsense Evidence Generation and Injection in Reading Comprehension
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Tencent Hippocrates Research Lab（腾讯希波克拉底研究实验室）
人们在阅读理解时，不仅要依据语境本身，而且往往还要依赖于语境之外的常识。为了增强机器的常识推理能力，本文提出了一个阅读理解中的常识证据生成和注入框架CEGI。该框架为阅读理解注入了两种辅助常识证据，使机器具备了理性思维的能力。具体来说，我们建立了两个证据生成器：第一个生成器的目的是通过语言模型生成文本证据;另一个生成器的目的是在图形完成后从常识知识图谱中提取事实证据（自动对齐的文本三元组）。这些证据结合了上下文常识，并作为模型的额外输入。此后，我们提出了一个深上下文编码器提取段落，问题，选项和证据之间的语义关系。最后，我们采用一个胶囊网络提取不同的语言单位（词和短语）的关系，并动态预测的基础上提取的单位的最佳选择。在CosmosQA数据集上的实验表明，所提出的CEGI模型优于当前最先进的方法，并达到了排行榜上的准确率（83.6%）。
2020-05-11 cs.AI cs.CL
Commonsense Reasoning in Computer Vision: Foundations, Recent Advancements, and Future Directions
Lander University（兰德大学）；Western Michigan University（西密歇根大学）
本文综述了将常识知识融入计算机视觉任务的最新进展，介绍了相关方法、当前局限及未来研究方向，旨在开发更智能的视觉系统。
2026-09-07 cs.AI
Pre-training Text-to-Text Transformers for Concept-centric Common Sense
Beihang University（北京航空航天大学）；University of Southern California（南加州大学）
预训练语言模型（PTLM）在一系列自然语言理解（NLU）和生成（NLG）任务中取得了令人印象深刻的结果。然而，目前的预训练目标，如掩码标记预测（对于BERT风格的PTLM）和掩码跨度填充（对于T5风格的PTLM），并没有明确地对日常概念的关系常识知识进行建模，这对于许多需要常识来理解或生成的下游任务至关重要。为了用以概念为中心的常识知识来增强PTLM，在本文中，我们提出了从文本中学习常识的生成和对比目标，并将它们用作中间自监督学习任务，用于增量预训练PTLM（在下游数据集上进行特定任务的微调之前）。此外，我们开发了一个联合预训练框架，以统一生成和对比目标，使它们能够相互加强。大量的实验结果表明，我们的方法，概念感知语言模型（CALM），可以包装更多的常识知识到一个预先训练的文本到文本的转换器Transformer的参数，而不依赖于外部知识图谱，在NLU和NLG任务产生更好的性能。我们表明，虽然只在相对较小的语料库上进行了几步增量预训练，但CALM的性能优于基线方法，并且与一些较大的PTLM相当，这表明CALM可以作为一种通用的即插即用方法，用于提高PTLM的常识推理能力。
2020-11-25 cs.AI cs.CL cs.LG
KVL-BERT: Knowledge Enhanced Visual-and-Linguistic BERT for Visual Commonsense Reasoning
Beijing Institute of Technology（北京理工大学）
推理是实现完整视觉理解的关键能力。为了开发具有认知级视觉理解和推理能力的机器，引入了视觉常识推理（VCR）任务。在VCR中，给出一个关于图像的挑战性问题，机器必须正确回答，然后提供一个合理的理由来证明它的答案。采用功能强大的BERT模型作为学习图像内容和自然语言联合表示的骨干的方法在VCR上显示出有希望的改进。然而，现有的方法都没有利用常识知识的视觉常识推理，我们相信这将是非常有帮助的这项任务。在常识知识的支持下，即使图像中没有描述所需的信息，复杂的问题也可以通过认知推理来回答。因此，我们将常识知识融入到跨模态BERT中，提出了一种新的知识增强的视觉和语言BERT（Knowledge Enhanced Visual-and-Linguistic，简称KVL-BERT）模型。除了将视觉和语言内容作为输入外，还将从ConceptNet中提取的外部常识知识集成到多层Transformer中。为了保留原句子的结构信息和语义表征，本文提出利用相对位置嵌入和掩蔽自我注意来削弱注入的常识知识与输入序列中其他无关成分之间的影响。与其他特定于任务的模型和一般任务不可知的预训练模型相比，我们的KVL-BERT的性能大大优于它们。
2020-12-13 cs.AI cs.CL
CommonGen: A Constrained Text Generation Challenge for Generative Commonsense Reasoning
University of Southern California（南加州大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；University of Washington（华盛顿大学）
最近，大规模预训练的语言模型在几个常识推理基准数据集上表现出令人印象深刻的性能。然而，构建具有常识的机器来撰写逼真的句子仍然具有挑战性。在本文中，我们提出了一个受约束的文本生成任务，与基准数据集相关联的CommonGen，明确测试机器的生成常识推理的能力。给出一组共同的概念（例如，{dog、飞盘、接住、扔）;任务是使用这些概念生成描述日常场景的连贯句子（例如，“一个人扔了一个飞盘，他的狗接住了它”）。CommonGen任务具有挑战性，因为它本质上需要1）具有背景常识知识的关系推理，以及2）对看不见的概念组合进行组合概括的能力。我们的数据集是通过众包和现有字幕语料库的组合构建的，由79 k个常识描述和35 k个独特的概念集组成。实验表明，在现有技术的文本生成模型（例如，T5）和人的绩效。此外，我们证明了学习生成常识推理能力可以转移到改善下游任务，如常识QA通过生成额外的上下文。
2020-11-30 cs.AI cs.CL cs.CV
Commonsense Spatial Reasoning for Visually Intelligent Agents
Knowledge Media Institute, The Open University（开放大学知识媒体研究所）
服务机器人有望可靠地理解复杂、快速变化的环境。从认知的角度来看，他们需要适当的推理能力和背景知识，以表现出类似人类的视觉智能。特别是，我们以前的工作已经表明，在世界上的对象之间的空间关系的原因的能力是视觉智能代理的发展的一个关键要求。在本文中，我们提出了一个常识空间推理的框架，这是针对现实世界的机器人应用。从以前的定性空间推理方法，所提出的框架是强大的机器人的观点和对象方向的变化。该框架中的空间关系也映射到用于描述英语中典型对象配置的常识谓词类型。此外，我们还展示了如何在具体的空间数据库中实现这个正式定义的框架。
2021-04-01 cs.AI cs.CV cs.RO
KagNet: Knowledge-Aware Graph Networks for Commonsense Reasoning
University of Southern California（南加州大学）；Shanghai Jiao Tong University（上海交通大学）
常识推理旨在赋予机器以人类的能力，对我们日常生活中的普通情况做出假设。在本文中，我们提出了一个文本推理框架回答常识问题，它有效地利用外部的，结构化的常识知识图谱执行可解释的推理。该框架首先从语义空间到基于知识的符号空间将问答对作为模式图，外部知识图谱的相关子图。它用一个新的知识感知图网络模块KagNet来表示模式图，最后用图表示来给答案打分。我们的模型是基于图卷积网络和LSTM，与分层路径为基础的注意力机制。中等注意力分数使其透明和可解释，从而产生可信的推论。使用ConceptNet作为基于Bert的模型的唯一外部资源，我们在CommonsenseQA（一个用于常识推理的大规模数据集）上实现了最先进的性能。
2019-09-04 cs.AI cs.CL
Breaking Common Sense: WHOOPS! A Vision-and-Language Benchmark of Synthetic and Compositional Images
Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；The Hebrew University of Jerusalem（耶路撒冷希伯来大学）；Ben Gurion University of the Negev（内盖夫本古里安大学）；University of Washington（华盛顿大学）
本文提出WHOOPS!视觉常识基准数据集，包含故意违背常识的合成图像，并通过解释生成等任务证明GPT3、BLIP2等先进模型仍落后于人类，旨在推动AI视觉常识推理能力的发展。
2023-08-12 cs.AI cs.CL cs.CV
Enabling Robots to Understand Incomplete Natural Language Instructions Using Commonsense Reasoning
University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）；University of Utah（犹他大学）
使机器人能够理解通过口头自然语言提供的指令，将促进机器人和人在家庭和工作场所的各种环境中的互动。然而，自然语言指令通常缺少基于环境上下文和常识对人类显而易见的信息，因此不需要明确地陈述。在本文中，我们介绍了基于存储模型的常识推理（LMCR），一种新的方法，使机器人听一个自然语言指令从人类，观察它周围的环境，并自动填补信息丢失的指令使用环境上下文和一个新的常识推理方法。我们的方法首先将作为无约束自然语言提供的指令转换为机器人可以通过将其解析为动词框架来理解的形式。然后，我们的方法通过观察附近的物体并利用常识推理来填补指令中缺失的信息。为了自动学习常识推理，我们的方法通过训练语言模型从大型非结构化文本语料库中提取知识。我们的研究结果表明，机器人学习常识知识自动从基于Web的文本语料库的可行性，和权力的学习常识推理模型，使机器人自主执行任务的基础上不完整的自然语言指令。
2020-07-21 cs.AI cs.CL cs.RO
ROME: Evaluating Pre-trained Vision-Language Models on Reasoning beyond Visual Common Sense
Singapore Management University（新加坡管理大学）
本文提出ROME探测数据集，用于评估预训练视觉-语言模型在颜色、形状、材料、大小和位置关系等反直觉场景下的推理能力，实验表明现有模型大多仍难以正确理解此类内容。
2023-10-30 cs.AI cs.CL cs.CV
PIQA: Reasoning about Physical Commonsense in Natural Language
Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；Microsoft Research AI（微软研究院AI）；Carnegie Mellon University（卡内基梅隆大学）；Paul G. Allen School for Computer Science and Engineering, University of Washington（华盛顿大学保罗·G·艾伦计算机科学与工程学院）
不用刷子涂眼影，我应该用棉签还是牙签？需要这种物理常识的问题对今天的自然语言理解系统提出了挑战。虽然最近的预训练模型（如BERT）在更抽象的领域（如新闻文章和百科全书条目，其中文本丰富）的问答方面取得了进展，但在更多的物理领域，由于报告偏见，文本本质上是有限的。人工智能系统能否在不经历物理世界的情况下学习可靠地回答物理常识问题？在本文中，我们介绍了物理常识推理的任务和相应的基准数据集物理交互：问答或PIQA。虽然人类发现数据集很容易（95%的准确率），但大型预训练模型很难（77%）。我们提供了现有模型缺乏的知识维度的分析，这为未来的研究提供了重要的机会。
2019-11-26 cs.AI cs.CL cs.LG
Correcting Autonomous Driving Object Detection Misclassifications with Automated Commonsense Reasoning
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文提出利用自动化常识推理技术纠正自动驾驶目标检测的误分类问题，通过模拟实验验证了混合模型在异常道路场景下的有效性。
2026-01-07 cs.AI cs.RO
AUTO-DISCERN: Autonomous Driving Using Common Sense Reasoning
The University of Texas at Dallas（德克萨斯大学达拉斯分校）
驾驶汽车涉及观察周围环境的任务，然后根据这些观察（转向，刹车，滑行等）做出驾驶决策。在自动驾驶中，所有这些任务都必须自动化。到目前为止，自动驾驶技术主要依赖于机器学习技术。我们认为，适当的技术应该用于适当的任务。也就是说，虽然机器学习技术有利于观察和自动理解汽车周围环境，但驾驶决策更好地通过常识推理而不是机器学习自动化。在本文中，我们讨论了（i）如何常识推理可以自动使用答案集编程（ASP）和目标导向的（CASP）ASP系统，和（ii）开发自动识别系统使用这种技术的自动驾驶决策。本文所述的研究目标是开发一种自动驾驶系统，该系统通过模拟人类驾驶员的思维来工作。由于驾驶决策是基于人类风格的推理，因此它们是可解释的，它们的道德可以得到保证，并且只要系统建模和系统输入是正确的，它们就永远是正确的。
2021-10-17 cs.AI cs.LO
Advancing Transformer's Capabilities in Commonsense Reasoning
University of California, Los Angeles（加州大学洛杉矶分校）
本研究通过引入知识迁移、模型集成和成对对比目标等现代机器学习方法，显著提升了通用预训练语言模型在常识推理基准（如Com2Sense）上的表现，分别获得约15%和8.7%的绝对准确率提升。
2023-10-10 cs.AI cs.CL cs.LG
Top k Memory Candidates in Memory Networks for Common Sense Reasoning
成功地完成推理任务需要智能体具有相关的先验知识或世界动态的某些给定上下文。通常，为推理任务提供给系统的信息只是查询或一些支持故事，这对于普通推理任务来说往往是不够的。这里的目标是，如果问题中提供的信息不足以正确回答问题，模型应该选择k个最相关的文档来帮助其推理过程。在这项工作中，该模型动态地选择前k个最相关的内存候选人，可以用来成功地解决推理任务。在Winograd模式挑战（WSC）问题的一个子集上进行的实验表明，该模型具有常识推理的潜力。WSC是一种机器智能测试，旨在改进图灵测试。
2019-11-15 cs.AI
PACS: A Dataset for Physical Audiovisual CommonSense Reasoning
Carnegie Mellon University（卡内基梅隆大学）；University of California, Berkeley（加州大学伯克利分校）
为了让人工智能安全地部署在医院、学校和工作场所等现实世界的场景中，它必须能够对物理世界进行强有力的推理。这种推理的基础是物理常识：理解可用对象的物理属性和启示，如何操纵它们，以及它们如何与其他对象相互作用。物理常识推理从根本上说是一项多感官任务，因为物理特性是通过多种形式表现出来的--其中两种是视觉和声学。我们的论文通过贡献PACS向现实世界的物理常识推理迈出了一步：第一个为物理常识属性注释的视听基准。PACS包含13,400个问答对，涉及1,377个独特的物理常识问题和1,526个视频。我们的数据集提供了新的机会，通过将音频作为这个多模态问题的核心组成部分来推进物理推理的研究领域。使用PACS，我们评估了多个国家的最先进的模型对我们的新的挑战性任务。虽然一些模型显示出有希望的结果（70%的准确率），但它们都低于人类的表现（95%的准确率）。最后，我们证明了多模态推理的重要性，并为未来的研究提供了可能的途径。
2022-08-01 cs.AI cs.CL cs.CV
That's All Folks: a KG of Values as Commonsense Social Norms and Behaviors
University of Bologna（博洛尼亚大学）；ISTC - CNR（意大利国家研究委员会认知科学与技术研究所）
价值观，正如在伦理学中所预期的那样，决定了道德和社会规范的形式和有效性，使我们的日常个人和社区行为建立在常识知识的基础上。将人类互动中潜在的道德内容形式化是一个有吸引力的观点，可以更深入地理解社会动态和个人认知和行为维度。为了解决这个问题，一些理论框架提供了不同的价值模型，并将它们组织成不同的分类。最常用的理论的问题是，他们采取了文化独立的角度，而许多实体被认为是“价值”是基于常识知识和表达在日常生活中的互动。我们在这里提出了两个本体论模块，FOLK，一个用于广义价值观的本体论，和That's All Folks，一个用于词汇和事实民间价值触发器的模块，其目的是补充主要理论，提供一种方法来识别主要价值理论没有考虑到的价值观，但仍然在日常人类互动中发挥关键作用，并塑造社会结构，文化偏见和个人信仰。通过使用基于框架的方法从文本中自动检测值来测试资源。
2023-03-01 cs.AI cs.CY cs.SC
Mathematics, word problems, common sense, and artificial intelligence
New York University（纽约大学）
本文讨论了当前人工智能（AI）技术解决将基本知识与常识推理相结合的应用题的能力和局限性。没有任何现有的人工智能系统可以可靠地解决这些问题。我们回顾了三种已经开发的方法，使用AI自然语言技术：直接输出答案，输出解决问题的计算机程序，输出可以输入到自动定理验证器的形式化表示。我们回顾了一些基准，已经开发出评估这些系统和一些实验研究。我们讨论了现有技术在解决此类问题方面的局限性。我们认为，目前尚不清楚这些限制是否会对开发用于纯数学研究的人工智能技术很重要，但它们在数学应用中很重要，并且很可能对开发能够阅读和理解人类编写的数学内容的程序很重要。
2023-01-25 cs.AI
JECC: Commonsense Reasoning Tasks Derived from Interactive Fictions
WeChat AI（微信人工智能）；LinkedIn（领英）；Queens University（皇后大学）；IBM Research（IBM研究院）；UC San Diego（加州大学圣地亚哥分校）
本文提出基于互动小说通关过程构建的常识推理数据集JECC，侧重评估功能性常识知识规则和多跳推理能力，实验显示现有机器阅读模型和大语言模型与人类专家存在20%的性能差距。
2023-05-26 cs.AI cs.CL
Conversational Multi-Hop Reasoning with Neural Commonsense Knowledge and Symbolic Logic Rules
Facebook（脸书）；EPFL（洛桑联邦理工学院）；University of Washington（华盛顿大学）；Carnegie Mellon University（卡内基梅隆大学）
会话代理所面临的挑战之一是他们无法识别用户命令的未陈述假设，这对于人类来说是一项微不足道的任务，因为他们的常识。在本文中，我们提出了一个用于会话代理的零射击（zero-shot）常识推理系统，试图实现这一目标。我们的推理器揭示了用户命令中未声明的假设，这些用户命令满足一个通用模板，即if-（state），then-（action），because-（goal）。我们的推理机使用一个国家的最先进的基于转换器的生成常识知识库（KB）作为其背景知识的来源进行推理。我们提出了一种新的和迭代的知识查询机制，提取多跳推理链的神经知识库，使用符号逻辑规则，显着减少搜索空间。与迄今为止收集的任何知识库类似，我们的常识知识库容易丢失知识。因此，我们提出了对话式引出人类用户与我们的新的动态问题生成策略，生成和呈现上下文查询人类用户的缺失的知识。我们通过对人类用户的用户研究来评估该模型，与SOTA相比，该模型的成功率高出35%。
2021-09-17 cs.AI cs.CL cs.LG
Commonsense Ontology Micropatterns
Kansas State University（堪萨斯州立大学）；Wright State University（莱特州立大学）
针对 MOMo 缺乏可直接使用的本体设计模式这一问题，本文利用 LLM 的常识知识整理 104 个常见名词模式，构建完全标注且可与 MOMo 配合使用的模块化本体设计库。
2024-02-28 cs.AI cs.LO
Reading Books is Great, But Not if You Are Driving! Visually Grounded Reasoning about Defeasible Commonsense Norms
Seoul National University（首尔大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）；Yonsei University（延世大学）；University of Washington（华盛顿大学）
针对视觉情境下可废止常识规范推理的挑战，构建NORMLENS基准并发现现有模型与人类判断对齐不足，提出从大语言模型提炼社会常识知识以改进对齐。
2023-11-11 cs.AI cs.LG
A large-scale evaluation of commonsense knowledge in humans and large language models
本文提出了一种评估人类和大语言模型常识知识的方法，发现较小的开放权重模型在常识能力上表现更优，强调常识知识的文化基础与人类群体差异。
2026-01-21 cs.AI cs.HC cs.SI
An Overview Of Temporal Commonsense Reasoning and Acquisition
University of Innsbruck（因斯布鲁克大学）
本文综述时间常识推理与获取研究，指出大语言模型虽能生成正确句子但推理浅层，通过多种增强手段提升性能仍难及人类，强调谨慎解读评估结果并合理设计数据集与指标。
2023-11-16 cs.AI cs.CL cs.LG
Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic Systems
Bosch Center for Artificial Intelligence（博世人工智能中心）
本文提出通过集成认知架构与外部神经符号组件（以ACT-R为核心）的混合框架，以赋予AI系统高级推理能力，解决大型语言模型和自动驾驶等系统在常识推理与未知场景适应上的不足。
2023-11-13 cs.AI
mCSQA: Multilingual Commonsense Reasoning Dataset with Unified Creation Strategy by Language Models and Humans
Nara Institute of Science and Technology（奈良科学技术研究所）
本文提出多语言常识问答数据集mCSQA，利用语言模型高效构建并验证问答对，实验表明多语言模型在深层常识问题上跨语言迁移能力有限，凸显了语言特定数据集的必要性。
2024-06-06 cs.AI cs.CL cs.LG
SGEITL: Scene Graph Enhanced Image-Text Learning for Visual Commonsense Reasoning
Columbia University（哥伦比亚大学）；University of California, Los Angeles（加州大学洛杉矶分校）
解决关于图像的复杂问题是机器智能的一个雄心勃勃的目标，这需要对图像，文本和常识知识的联合理解，以及强大的推理能力。近年来，多模态Transformers在视觉常识推理（VCR）任务中取得了很大进展，通过跨模态注意层共同理解视觉对象和文本标记。然而，这些方法没有利用丰富的场景结构和对象之间的交互，这是回答复杂的常识问题所必需的。我们提出了一个场景图增强的图像-文本学习（SGEITL）框架，将视觉场景图的常识推理。为了利用场景图结构，在模型结构层次，我们提出了一个多跳图Transformer，用于正则化跳之间的注意力交互。在预训练方面，提出了一种场景图感知的预训练方法，利用视觉场景图中提取的结构知识。此外，我们引入了一种方法来训练和生成领域相关的视觉场景图，在弱监督的方式使用文本注释。VCR和其他任务上的广泛实验表明，与最先进的方法相比，性能有显着提高，并证明了每个组件的有效性。
2021-12-16 cs.AI cs.CL cs.CV
SemEval-2024 Task 9: BRAINTEASER: A Novel Task Defying Common Sense
Information Sciences Institute, Viterbi School of Engineering, University of Southern California（南加州大学维特比工程学院信息科学研究所）；Department of Computer Science, Faculty of Science, Vrije Universiteit Amsterdam（阿姆斯特丹自由大学理学院计算机科学系）；Tencent AI Lab（腾讯AI实验室）
本文介绍了SemEval-2024 Task 9: BRAINTEASER，首个评估系统横向思维推理能力的任务，通过拆分基准支持微调并分析182名参与者的483份提交结果，探讨当前模型的横向思维能力并展望未来研究方向。
2024-04-22 cs.AI cs.CL cs.LG
Building Trustworthy AI by Addressing its 16+2 Desiderata with Goal-Directed Commonsense Reasoning
University of Texas at Dallas（德克萨斯大学达拉斯分校）
提出基于s(CASP)的目标导向常识推理方法，支持16+2项可信赖AI期望，解决LLMs幻觉和规则推理器复杂性问题，实现可靠可解释的AI。
2025-10-30 cs.AI cs.LO
From Data to Commonsense Reasoning: The Use of Large Language Models for Explainable AI
Harz University of Applied Sciences（哈尔茨应用技术大学）
本文通过评估GPT-3.5、Gemma和Llama 3在多个问答基准上的表现，证明大语言模型具备超越人类的常识推理能力，并验证其能为决策提供良好解释，从而推动可解释人工智能研究。
2024-07-04 cs.AI cs.CL cs.HC
Enforcing Reasoning in Visual Commonsense Reasoning
UC San Diego（加州大学圣迭戈分校）
视觉常识推理的任务是非常具有挑战性的，因为模型不仅要能够回答给定图像的问题，还要能够学习推理。本任务中引入的基线非常有限，因为两个网络分别用于预测答案和理由。以问题和图像作为训练答案预测网络的输入，以问题、图像和正确答案作为推理预测网络的输入。由于基本原理是以正确答案为条件的，它是基于这样一个假设，即我们可以毫无错误地解决视觉问答任务-这是过于雄心勃勃的。此外，这种方法使答案和推理预测成为两个完全独立的VQA任务，使认知任务变得毫无意义。在本文中，我们试图通过提出一个端到端的可训练模型来解决这些问题，该模型同时考虑答案及其原因。具体来说，我们首先预测问题的答案，然后使用选择的答案来预测理由。然而，这样的模型的一个平凡的设计变得不可微，这使得它难以训练。我们通过提出四种方法来解决这个问题- softmax，gumbel-softmax，基于强化学习的采样和直接交叉熵对所有对的答案和理由。我们通过实验证明，我们的模型执行竞争力对当前国家的最先进的。我们的结论与分析所提出的方法，并讨论进一步工作的途径。
2019-12-27 cs.AI cs.CL cs.CV
Fact-driven Logical Reasoning for Machine Reading Comprehension
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Shanghai Jiao Tong University（上海交通大学）
本文提出一种事实驱动的层次化知识表示方法，通过提取句子主干构成事实单元并构建超图，同时建模句子级和实体级交互，在逻辑推理与对话建模任务上显著提升多种基线模型性能。
2023-05-26 cs.AI cs.CL
