Applying the Closed World Assumption to SUMO-based FOL Ontologies for Effective Commonsense Reasoning
University of the Basque Country (UPV/EHU)(巴斯克地区大学)
最常见的是,开放世界假设被采用作为设计,构建和使用本体的标准策略。这种策略限制了任何系统的推理能力,因为非断言语句(缺少知识)可以被假设为真或假。正如我们将证明的,这是特别是一阶逻辑(FOL)本体的情况下,非断言语句是当今的主要障碍之一,其实际应用中的自动常识推理任务。在本文中,我们调查的封闭世界假设(CWA)的应用,使更好地利用FOL本体使用国家的最先进的自动定理证明。为此,我们探索了不同的CWA公式的结构知识编码在FOL翻译的相扑本体,发现几乎30%的结构知识是失踪。我们评估这些配方的实际实验中使用一个非常大的常识基准WordNet通过其映射到相扑。实验结果表明,在CWA框架下,本体的推理能力提高了50%以上。因此,将CWA自动应用于FOL本体减少了它们的歧义,并且可以回答更多的常识问题
2020-03-04 cs.AI
Dimensions of Commonsense Knowledge
Information Sciences Institute, University of Southern California(南加州大学信息科学研究所);Bosch Research and Technology Center(博世研究与技术中心);Carnegie Mellon University(卡内基梅隆大学);Rensselaer Polytechnic Institute(伦斯勒理工学院)
常识知识对于许多人工智能应用程序至关重要,包括自然语言处理、视觉处理和规划。因此,在过去的几十年里,设计和构建了许多包括常识知识的来源。最近,重点一直是基于文本的大型源,这有利于更容易地与神经(语言)模型和应用程序的文本任务的集成,通常是在牺牲源的语义和它们的协调。巩固常识的努力取得了部分成功,但没有走向全面解决的明确道路。我们的目标是围绕常识知识的一组共同维度来组织这些来源。我们调查了广泛的流行常识来源,特别关注它们之间的关系。我们将这些关系整合为13个知识维度。这种整合使我们能够统一单独的来源,并计算其覆盖范围,重叠和知识方面的差距的指标。此外,我们分析了每个维度对下游推理任务的影响,需要常识知识,观察到时间和愿望/目标维度是非常有益的推理当前下游任务,而独特性和词汇知识的影响不大。这些结果揭示了当前评价中对某些维度的偏好,以及对其他维度的潜在忽视。
2021-07-29 cs.AI
Enhancing Zero-shot Commonsense Reasoning by Integrating Visual Knowledge via Machine Imagination
Department of Artificial Intelligence, Korea University(人工智能系,韩国大学);Department of Computer Science and Engineering, Korea University(计算机科学与工程系,韩国大学)
本文提出Imagine框架,通过整合视觉知识提升零样本常识推理性能,有效缓解人类报告偏见,增强模型泛化能力。
2026-03-05 cs.AI
A Commonsense Reasoning Framework for Explanatory Emotion Attribution, Generation and Re-classification
University of Turin(都灵大学);ICAR-CNR(意大利国家研究委员会高性能计算与网络研究所)
DEGARI(Dynamic Emotion Generator And Reclassifier)是一个可解释的情感归因和推荐系统。该系统依赖于最近推出的常识推理框架,TCL逻辑,这是基于一个人性化的过程中的描述逻辑知识库的新概念的自动生成。从基于Plutchik模型的情感的本体形式化开始,称为Arsartica,该系统利用逻辑TCL来自动生成复合情感的新颖常识语义表示(例如,根据Plutchik,从Joy和Trust的组合中导出的Love)。生成的情感对应于原型,即给定概念的常识表示,并已被用于对各种艺术领域中与情感相关的内容进行重新分类,从艺术数据集到RaiPlay中的编辑内容,RaiPlay是意大利广播公司的在线平台。我们展示了报告的结果(根据获得的重新分类,分配给这种重新分类的用户评级及其可解释性进行评估)是如何令人鼓舞的,并为许多进一步的研究方向铺平了道路。
2021-06-02 cs.AI
LOGICAL-COMMONSENSEQA: A Benchmark for Logical Commonsense Reasoning
University of Colorado Boulder(科罗拉多大学博尔德分校)
本文提出LOGICAL-COMMONSENSEQA基准,通过逻辑运算符评估常识推理,发现模型在否定类问题上表现下降,揭示了推理局限性。
2026-04-20 cs.AI cs.CL
KagNet: Knowledge-Aware Graph Networks for Commonsense Reasoning
University of Southern California(南加州大学);Shanghai Jiao Tong University(上海交通大学)
常识推理旨在赋予机器以人类的能力,对我们日常生活中的普通情况做出假设。在本文中,我们提出了一个文本推理框架回答常识问题,它有效地利用外部的,结构化的常识知识图谱执行可解释的推理。该框架首先从语义空间到基于知识的符号空间将问答对作为模式图,外部知识图谱的相关子图。它用一个新的知识感知图网络模块KagNet来表示模式图,最后用图表示来给答案打分。我们的模型是基于图卷积网络和LSTM,与分层路径为基础的注意力机制。中等注意力分数使其透明和可解释,从而产生可信的推论。使用ConceptNet作为基于Bert的模型的唯一外部资源,我们在CommonsenseQA(一个用于常识推理的大规模数据集)上实现了最先进的性能。
2019-09-04 cs.AI cs.CL
Beyond Language: Learning Commonsense from Images for Reasoning
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
针对自然语言处理中的常识推理问题,提出了一种从图像中学习常识的新方法,而不是从有限的原始文本或昂贵的构造知识库中学习常识。我们的动机来自这样一个事实,即一幅图像胜过千言万语,可以利用更丰富的场景信息来帮助提取通常隐藏在语言中的常识知识。我们的方法,即卢瓦尔河,包括两个阶段。在第一阶段,一个双模态序列到序列的方法是用来进行场景布局生成任务,基于文本表示模型ViBERT。通过这种方式,所需的视觉场景知识,如空间关系,将被编码在ViBERT的监督学习过程与一些双模态数据,如COCO。然后将ViBERT与预先训练的语言模型连接起来,以执行下游的常识推理任务。对常识问答和代词消解两个常识推理问题的实验结果表明,Loire方法优于传统的基于语言的方法.我们也给出了一些案例研究来展示从图像中学习到的知识,并解释生成的场景布局如何帮助常识推理过程。
2020-10-10 cs.AI cs.CL
Vera: A General-Purpose Plausibility Estimation Model for Commonsense Statements
University of Washington(华盛顿大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所);Nanyang Technological University(南洋理工大学);Harvard University(哈佛大学)
针对语言模型易犯常识错误的问题,提出基于回顾性验证的常识合理性估计模型Vera,通过多数据集与多目标训练有效区分陈述正误并检测ChatGPT等生成的错误常识。
2023-10-18 cs.AI cs.CL
Deriving Commonsense Inference Tasks from Interactive Fictions
IBM Research(IBM研究院);Queens University(皇后大学)
常识推理模拟了人类对物理世界做出假设的能力,它是构建通用AI系统不可或缺的基石。我们提出了一个新的常识推理数据集的基础上,人类的互动小说游戏玩人类玩家表现出丰富和多样的常识推理。实验表明,我们的任务对于具有足够常识知识的人类专家来说是可以解决的,但对现有的机器阅读模型提出了挑战,性能差距超过30%。
2020-10-19 cs.AI cs.CL
Reasoning before Responding: Integrating Commonsense-based Causality Explanation for Empathetic Response Generation
Kyoto University(京都大学)
提出基于常识的因果解释方法,兼顾用户与系统双视角,结合上下文学习增强ChatGPT推理,并整合至T5模型,在自动与人工评估中优于现有方法。
2023-09-05 cs.AI cs.CL
Revisiting the Prepositional-Phrase Attachment Problem Using Explicit Commonsense Knowledge
我们重新审视解决介词短语(PP)附件歧义的挑战性问题。到目前为止,提出的解决方案是基于规则的,其中明确的语法规则指导如何解决歧义;或统计,其中的决定是从标记的例子语料库中学习。我们认为,明确的常识知识库可以提供一个重要的组成部分,使良好的附件的决定。我们实现了一个模块,命名为补丁通信,可以使用各种传统的解析器,作出附件的决定。在常识知识库没有提供直接答案的地方,我们回到一个更通用的系统,它以类似于一些NLP系统处理词汇表外单词的方式推断“知识库外”断言。我们的研究结果表明,常识知识为基础的方法可以提供最好的两个世界,整合基于规则和统计技术。随着该领域越来越认识到可解释性在人工智能中的重要性,常识方法可以使NLP开发人员更好地理解系统的行为,并促进与最终用户的自然对话。
2021-02-05 cs.AI cs.CL
Inside ASCENT: Exploring a Deep Commonsense Knowledge Base and its Usage in Question Answering
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
ASCENT是一种用于从web内容中提取和合并常识断言的全自动化方法(Nguyen等人,WWW 2021)。它通过捕获语义方面(如位置和目的)和复合概念(即,主题的分组和相关方面。在这个演示中,我们展示了一个Web门户,它允许用户了解它的构建过程,探索它的内容,并观察它在问答用例中的影响。演示网站和介绍性视频都可以在线获得。
2021-05-28 cs.AI cs.CL
Semantically Enhanced Models for Commonsense Knowledge Acquisition
Nanyang Technological University(南洋理工大学);Singapore Institute of Manufacturing Technology(新加坡制造技术研究院);Agency for Science, Technology and Research(新加坡科技研究局)
常识知识对于实现智能系统至关重要。通常,它的特点是隐含和模糊的,从而阻碍了其获取的自动化。为了应对这些挑战,本文提出了语义增强模型,使推理,通过解决部分常识的歧义。所提出的模型增强了知识图谱嵌入(KGE)框架的知识库完成。实验结果表明了新语义模型在常识推理中的有效性。
2018-09-27 cs.AI cs.CL
Do Children Texts Hold The Key To Commonsense Knowledge?
Télécom SudParis(南巴黎电信学院);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
编译常识知识的综合存储库是人工智能领域的一个长期问题。许多关切围绕着报告偏见问题,即,文本来源中的频率并不能很好地代表相关性或真实性。本文基于儿童文本对读者知识的假设较少,因此更明确地阐述了常识的假设,探讨了儿童文本是否掌握了常识知识汇编的关键。对多个语料库的分析表明,儿童语篇中确实包含了更多、更典型的常识性断言。此外,实验表明,这种优势可以利用流行的基于语言模型的常识知识提取设置,其中任务非特定的微调少量的儿童文本(childBERT)已经产生显着的改善。这提供了一个令人耳目一新的视角,不同于从越来越大的模型和语料库中获得进展的共同趋势。
2022-10-10 cs.AI cs.CL
I Know What You Asked: Graph Path Learning using AMR for Commonsense Reasoning
Korea University(高丽大学)
常识问答是一项任务,其中正确的答案是预测通过常识推理与预定义的知识。大多数以前的作品的目的是提高分布式表示的性能,而不考虑从问题的语义表示预测答案的过程。为了阐明问题的语义解释,我们提出了一个AMR-概念网-修剪(ACP)图。ACP图是从包含从输入问题生成的抽象意义表示(AMR)图和外部常识知识图谱ConceptNet(CN)的完全集成图中修剪出来的。然后利用ACP图来解释推理路径并预测CommonsenseQA任务的正确答案。本文提出的方式,其中常识推理过程可以解释的关系和概念提供的ACP图。此外,ACP为基础的模型被证明优于基线。
2020-11-06 cs.AI cs.CL
Text-based RL Agents with Commonsense Knowledge: New Challenges, Environments and Baselines
IBM Research(IBM研究院);TTI Chicago(芝加哥TTI学院);ETH Zurich(苏黎世联邦理工学院)
基于文本的游戏已经成为强化学习(RL)研究的重要测试平台,要求RL代理将基础语言理解与顺序决策相结合。在本文中,我们研究的问题注入RL代理常识知识。这样的知识将允许智能体通过修剪不可信的行为来有效地在世界上采取行动,并执行前瞻规划以确定当前行为如何影响未来的世界状态。我们设计了一个新的基于文本的游戏环境,称为TextWorld Commonsense(TWC),用于训练和评估RL代理,这些代理具有关于对象,属性和启示的特定常识知识。我们还介绍了几个基线RL代理跟踪顺序上下文和动态检索相关的常识知识从概念网。我们发现,代理人,将常识知识TWC表现更好,同时更有效地采取行动。我们进行用户研究,以估计人类的表现TWC,并表明有足够的空间,未来的改进。
2020-10-08 cs.AI cs.CL cs.LG
COMET: Commonsense Transformers for Automatic Knowledge Graph Construction
Allen Institute for Artificial Intelligence(艾伦人工智能研究所);Paul G. Allen School of Computer Science & Engineering(保罗·G·艾伦计算机科学与工程学院);Microsoft Research(微软研究院)
我们提出了关于两个流行的常识知识图谱的自动知识库构建的第一个全面研究:ATOMIC(Sap等人,2019)和ConceptNet(Speer等人,2017年)。与使用规范模板存储知识的许多传统知识库相反,常识知识库仅存储知识的松散结构的开放文本描述。我们认为,自动常识完成的重要一步是常识知识的生成模型的发展,并提出COMmonsEnse Transformers(COMET),学习生成丰富多样的常识描述自然语言。尽管常识建模面临挑战,但我们的调查显示,当来自深度预训练语言模型的隐式知识被转移到常识知识图谱中生成显式知识时,结果是有希望的。实证结果表明,COMET能够生成人类评价为高质量的新知识,前1名的准确率高达77.5%(ATOMIC)和91.7%(ConceptNet),接近人类对这些资源的表现。我们的研究结果表明,使用生成常识模型自动常识知识库完成可能很快成为一个合理的替代提取方法。
2019-06-14 cs.AI cs.CL
UFO: Unified Fact Obtaining for Commonsense Question Answering
Soochow University(苏州大学)
本文提出UFO方法,通过统一提示将大规模语言模型转化为知识来源,生成并检索与问题相关的事实,从而提升常识问答推理性能,并在多个基准上优于人工知识库。
2023-05-25 cs.AI cs.CL
Augmenting End-to-End Dialog Systems with Commonsense Knowledge
Beijing Institute of Technology(北京理工大学);Nanyang Technological University(南洋理工大学);Tsinghua University(清华大学)
构建能够与人类自然对话的对话智能体是人工智能的一个具有挑战性且有趣的问题。在开放域人机对话中,对话代理人被期望以有趣和引人入胜的方式对人类的反应做出响应,常识知识必须有效地集成到模型中。在本文中,我们调查的影响,提供常识知识的概念涵盖的对话。我们的模型代表了第一次尝试将一个大的常识知识库集成到端到端的会话模型。在基于检索的场景中,我们提出了Tri-LSTM模型,以联合考虑消息和常识来选择适当的响应。我们的实验表明,知识增强模型优于他们的知识自由同行在自动评估。
2018-02-12 cs.AI cs.CL
CICERO: A Dataset for Contextualized Commonsense Inference in Dialogues
Singapore University of Technology and Design(新加坡科技设计大学);University of Michigan(密歇根大学)
本文研究了基于语境化常识推理的对话推理问题。我们策划了CICERO,这是一个二元对话数据集,包含五种基于话语级推理的推断:原因,后续事件,先决条件,动机和情绪反应。该数据集包含来自5,672个对话的53,105个这样的推断。我们使用这个数据集来解决相关的生成和判别任务:生成原因和后续事件;生成先决条件,动机和听众的情绪反应;以及选择合理的替代方案。我们的研究结果确定了这种以对话为中心的常识知识数据集的价值。我们希望CICERO将为基于常识的对话推理开辟新的研究途径。
2022-04-07 cs.AI cs.CL
Do Fine-tuned Commonsense Language Models Really Generalize?
Information Sciences Institute(信息科学研究所);USC Viterbi School of Engineering(南加州大学维特比工程学院)
最近,基于转换器的方法,如RoBERTa和GPT-3,在自然语言处理任务,如问答和常识推理方面取得了重大的实验进展。后者通常通过多个基准进行评估,这些基准被框定为前者的多项选择实例。根据艾伦研究所主办的有影响力的排行榜(评估常识推理基准测试的最新性能),基于这种Transformer方法的模型正在接近人类的性能,并且在许多基准测试中的平均准确率超过80%。由于这些是常识性基准测试,因此在常识推理上进行概括的模型在多个常识性基准测试中不应该经历太多的性能损失。在本文中,我们通过设计和进行严格的科学研究来详细研究泛化问题。使用五个常见的基准,多个控制和统计分析,我们发现明确的证据表明,微调常识语言模型仍然不能很好地推广,即使适度的变化,实验设置,并可能,事实上,容易受到数据集的偏见。我们还进行选择性研究,包括定性和一致性分析,以更深入地了解问题。
2020-11-18 cs.AI cs.CL
RICA: Evaluating Robust Inference Capabilities Based on Commonsense Axioms
University of Southern California(南加州大学)
预训练的语言模型(PTLM)在常识推理基准测试中取得了令人印象深刻的性能,但它们利用常识进行鲁棒推理的能力存在争议,这对于与人类的有效沟通至关重要。为了推进流畅的人类-人工智能通信,我们提出了一个新的挑战,RICA:基于常识公理的鲁棒推理能力,它可以在文本扰动的情况下评估鲁棒的常识推理。为了生成这一挑战的数据,我们开发了一个系统的和可扩展的程序,使用常识知识库和探测PTLM在两个不同的评估设置。在我们生成的探针集上进行的大量实验表明,PTLM在zero-shot设置上的表现并不比随机猜测好,受到统计偏差的严重影响,并且对扰动攻击不鲁棒。我们还发现,微调类似的语句提供有限的收益,PTLM仍然无法推广到看不见的推论。我们新的大规模基准测试暴露了PTLM和人类水平的语言理解之间的巨大差距,并为PTLM展示常识提供了新的挑战。
2021-09-10 cs.AI cs.CL cs.LO
Commonsense Knowledge Base Construction in the Age of Big Data
Max Planck Institute for Informatics(马克斯·普朗克信息学研究所)
编译常识知识传统上是人工智能的一个主题,由手工劳动来处理。网络数据处理的最新进展使自动化方法成为可能。在本演示中,我们将展示三个用于自动化常识知识库构建的系统,每次都突出数据管理社区特别感兴趣的一个方面。(i)我们使用Quasimodo来说明知识提取系统工程,(ii)骰子来说明模式约束在清洁模糊常识知识中发挥的作用,及(iii)上升来说明概念建模的相关性。这些演示可在https://quasimodo.r2.enst.fr、https://dice.mpi-inf.mpg.de和ascent. mpi-inf.mpg. de上获得。
2021-05-05 cs.AI cs.CL cs.DB
TSGP: Two-Stage Generative Prompting for Unsupervised Commonsense Question Answering
Research Center for Social Computing and Information Retrieval(社会计算与信息检索研究中心);Harbin Institute of Technology(哈尔滨工业大学)
无监督常识问答要求在不依赖于已标记任务数据的情况下挖掘有效的常识知识。以往的方法通常从传统的知识库中提取或使用预训练的语言模型(PrLM)来生成固定类型的知识,泛化能力较差。在本文中,我们的目标是解决上述限制,利用存储在PrLM中的隐式知识,并提出了一个两阶段的无监督的常识问答框架(TSGP)。具体来说,我们首先使用知识生成提示生成所需的知识,无限类型的问题和可能的候选答案独立于指定的选择。然后,我们进一步利用答案生成提示生成可能的候选答案独立于指定的选择。在CommonsenseQA、OpenBookQA和SocialIQA三个不同的常识推理任务上的实验结果和分析表明,TSGP显著提高了无监督环境下语言模型的推理能力。我们的代码可在https://github.com/Yueqing-Sun/TSGP上获得。
2022-11-24 cs.AI cs.CL
A Data-Driven Study of Commonsense Knowledge using the ConceptNet Knowledge Base
Information Science Institute(信息科学研究所)
获取常识知识和推理被认为是实现通用人工智能(AI)的重要前沿。最近在自然语言处理(NLP)社区的研究已经证明了在这个问题设置的重大进展。尽管取得了这一进展,主要是在有限的设置多项选择问答任务,仍然缺乏理解(特别是在规模)的常识知识本身的性质。在本文中,我们提出并进行了系统的研究,使更深入地了解常识知识做一个实证和结构分析的概念网知识库。ConceptNet是一个免费的知识库,包含数百万个以自然语言表示的常识性断言。三个精心设计的研究问题的详细实验结果,使用最先进的无监督图表示学习(“嵌入”)和聚类技术,揭示了ConceptNet关系中的深层子结构,使我们能够对传统上只在定性方面讨论的“上下文”等现象的含义做出数据驱动和计算声明。此外,我们的方法提供了一个案例研究,说明如何使用数据科学和计算方法来理解日常(但复杂)心理现象的本质,这是人类智能的基本特征。
2021-01-19 cs.AI cs.CL
Automated Storytelling via Causal, Commonsense Plot Ordering
自动故事情节生成是生成连贯的情节事件序列的任务。情节事件之间的因果关系被认为可以增加故事和情节连贯性的感知。在这项工作中,我们介绍了软因果关系的概念,从常识推理推断的因果关系。我们展示了C2PO,一种叙事生成的方法,通过因果关系,常识情节排序来实现这一概念。使用人类参与的协议,我们评估我们的系统对基线系统与不同的常识推理推理和归纳偏见,以确定软因果关系感知的故事质量的作用。通过这些研究,我们还探讨了跨故事类型的常识规范的变化如何影响对故事质量的看法的相互作用。
2020-12-30 cs.AI cs.CL
Commonsense Evidence Generation and Injection in Reading Comprehension
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Tencent Hippocrates Research Lab(腾讯希波克拉底研究实验室)
人们在阅读理解时,不仅要依据语境本身,而且往往还要依赖于语境之外的常识。为了增强机器的常识推理能力,本文提出了一个阅读理解中的常识证据生成和注入框架CEGI。该框架为阅读理解注入了两种辅助常识证据,使机器具备了理性思维的能力。具体来说,我们建立了两个证据生成器:第一个生成器的目的是通过语言模型生成文本证据;另一个生成器的目的是在图形完成后从常识知识图谱中提取事实证据(自动对齐的文本三元组)。这些证据结合了上下文常识,并作为模型的额外输入。此后,我们提出了一个深上下文编码器提取段落,问题,选项和证据之间的语义关系。最后,我们采用一个胶囊网络提取不同的语言单位(词和短语)的关系,并动态预测的基础上提取的单位的最佳选择。在CosmosQA数据集上的实验表明,所提出的CEGI模型优于当前最先进的方法,并达到了排行榜上的准确率(83.6%)。
2020-05-11 cs.AI cs.CL
Template Filling for Controllable Commonsense Reasoning
Carnegie Mellon University(卡内基梅隆大学);Accenture Labs(埃森哲实验室)
大规模的序列到序列模型已经被证明是擅长于多项选择和开放领域的常识推理任务。然而,当前的系统不提供控制推理链的各种属性的能力。为了使更好的可控性,我们建议研究的常识推理作为一个模板填充任务(TemplateCSR)-其中的语言模型填充推理模板与给定的约束作为控制因素。作为TemplateCSR的一种方法,我们(i)提出了一个常识推理模板扩展对的数据集,(ii)引入了POTTER,一个预先训练的序列到序列模型,使用提示在概念之间执行常识推理。我们的实验表明,我们的方法优于基线生成度量和真实性度量。我们还提出了一个详细的错误分析,我们的方法的能力,可靠地执行常识推理。
2022-10-14 cs.AI cs.CL
CommonsenseQA: A Question Answering Challenge Targeting Commonsense Knowledge
Tel-Aviv University(特拉维夫大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
在回答问题时,除了特定的上下文之外,人们还经常利用他们丰富的世界知识。最近的工作主要集中在回答一些相关文件或背景下的问题,并要求很少的一般背景。为了研究具有先验知识的问答,我们提出了常识问答:一个具有挑战性的新数据集常识问答。为了捕捉关联之外的常识,我们从ConceptNet(Speer等人,2017)与单个源概念具有相同语义关系的多个目标概念。人群工作者被要求创作多项选择题,其中提到源概念,并依次区分每个目标概念。这鼓励工作人员创建具有复杂语义的问题,这些问题通常需要先验知识。我们通过这个过程创建了12,247个问题,并通过大量强基线证明了我们任务的难度。我们的最佳基线是基于BERT-large(Devlin et al.,2018年),并获得56%的准确率,远低于人类的表现,这是89%。
2019-03-15 cs.AI cs.CL cs.LG
Knowledge Graph-Augmented Korean Generative Commonsense Reasoning
Korea University(高丽大学)
针对语言模型在韩语生成式常识推理中忽略概念关系与深层知识的问题,提出利用韩语知识图谱数据辅助文本生成的方法,实验证明该方法有效提升了推理效率并凸显了辅助数据的重要性。
2023-06-26 cs.AI cs.CL
Commonsense Knowledge Editing Based on Free-Text in LLMs
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Beijing Academy of Artificial Intelligence(北京智源人工智能研究院)
针对现有大语言模型知识编辑方法不适用于自由文本常识知识的问题,提出KLFT定位方法与DEM编辑方法,充分利用MLP和Attention层实现高效的自由文本常识知识编辑。
2024-10-31 cs.AI cs.CL
Commonsense on Demand: Generating and Selectively Integrating Commonsense Knowledge for Natural Language Inference
University of Florida(佛罗里达大学)
本研究探讨了大型语言模型通过生成常识公理提升自然语言推理性能的效果,并发现选择性知识访问能有效提高准确率并减少对中性类别的偏见。
2026-08-13 cs.AI cs.CL
Enhancing Text-based Reinforcement Learning Agents with Commonsense Knowledge
IBM(国际商业机器公司(IBM))
在本文中,我们认为最近的趋势,评价强化学习技术的进展,使用基于文本的环境和游戏作为评价环境。这种对文本的依赖将自然语言处理的进步带入了这些代理的范围,其中一个反复出现的线程是使用外部知识来模仿和改善人类水平的性能。我们提出了一个这样的实例化的代理,使用常识知识的概念网显示有前途的性能在两个基于文本的环境。
2020-05-02 cs.AI cs.CL cs.LG
Contrastive Self-Supervised Learning for Commonsense Reasoning
SAP AI Research(SAP人工智能研究院)
我们提出了一个自我监督的方法来解决代词消歧和Winograd模式挑战问题。我们的方法利用了与所谓的“触发”词相关的训练语料库的特征结构,这些词负责在代词消歧中翻转答案。我们通过构造成对对比辅助预测来实现这种常识推理。为此,我们利用由对比保证金规范化的互斥损失。我们的架构是基于最近推出的Transformer网络,BERT,表现出强大的性能在许多NLP基准。实验结果表明,我们的方法消除了现有的监督方法的局限性常识推理。这项研究开辟了利用廉价的自我监督,以实现性能增益常识推理任务的途径。
2020-05-02 cs.AI cs.CL
Benchmarking Commonsense Knowledge Base Population with an Effective Evaluation Dataset
HKUST(香港科技大学);Peking University(北京大学)
基于自由文本的常识知识库推理是自然语言处理中一项重要而艰巨的任务。虽然CSKB完成仅填充CSKB域中的缺失链接,但CSKB填充的目标是从外部资源推理看不见的断言。在这项任务中,CSKBs接地到一个大规模的可能性(活动,状态和事件)图,以区分是否从可能性图的新的三元组是合理的或不。然而,现有的人口任务的评价要么是不准确的(自动评价随机抽样的负面例子)或小规模(人类注释)。在本文中,我们通过首先对齐四个流行的CSKB,然后提出一个高质量的人类注释的评估集,以探测神经模型的常识推理能力,用一个新的大规模数据集对CSKB人口任务进行基准测试。我们还提出了一种新的归纳常识推理模型,原因超过图。实验结果表明,推广常识推理上看不见的断言是一项艰巨的任务。在训练过程中获得高准确度的模型在评估集上表现不佳,与人类表现之间存在很大差距。我们将公开这些数据,以供未来的贡献。代码和数据可在https://github.com/HKUST-KnowComp/CSKB-Population上获得。
2021-09-16 cs.AI cs.CL
Abductive Reasoning with Probabilistic Commonsense
International Laboratory on Learning Systems(学习系统国际实验室);McGill University(麦吉尔大学);Mila - Quebec Artificial Intelligence Institute(魁北克人工智能研究所);Huawei Noah's Ark Lab(华为诺亚实验室)
本文提出PACS算法,通过LLM和形式求解器结合,建模常识认知的个体差异,提升大语言模型的归纳推理能力。
2026-05-08 cs.AI stat.CO
Mind the Gap! Injecting Commonsense Knowledge for Abstractive Dialogue Summarization
Yonsei University(延世大学);Seoul National University(首尔大学)
在本文中,我们建议利用对话的独特特征,在参与者之间共享常识知识,以解决总结它们的困难。我们提出了SICK,一个框架,使用常识推理作为额外的背景。与以前的工作,仅仅依赖于输入对话,SICK使用外部知识模型来生成一组丰富的常识推理,并选择最可能的一个基于相似性的选择方法。SICK++以SICK为基础,利用常识作为监督,在多任务学习环境中总结对话时添加生成常识推理的任务。实验结果表明,注入常识知识,我们的框架比现有的方法产生更多的信息和一致的摘要。
2022-09-02 cs.AI cs.CL cs.LG
Visually Grounded Commonsense Knowledge Acquisition
Tsinghua University(清华大学);Peng Cheng Laboratory(鹏城实验室);National University of Singapore(新加坡国立大学);University of Hamburg(汉堡大学);Tencent(腾讯)
大规模常识知识库为广泛的人工智能应用提供了支持,其中常识知识的自动提取(CKE)是一个基本且具有挑战性的问题。基于文本的CKE因文本中常识的固有稀疏性和报告偏差而闻名。另一方面,视觉感知包含关于现实世界实体的丰富常识知识,例如,(person,can_hold,bottle),其可以用作用于获取接地常识知识的有希望的来源。在这项工作中,我们提出了CLEVER,它将CKE制定为一个远程监督的多实例学习问题,其中模型学习从一袋关于实体对的图像中总结常识关系,而无需对图像实例进行任何人工注释。为了解决这个问题,CLEVER利用视觉语言预训练模型来深入理解袋子中的每个图像,并从袋子中选择信息实例,通过一种新颖的对比注意力机制来总结常识实体关系。综合实验结果表明,CLEVER可以提取有希望的质量常识知识,优于预先训练的语言模型为基础的方法3.9 AUC和6.4 mAUC点。预测的常识得分显示出与人类判断的强相关性,斯皮尔曼系数为0.78。此外,提取的常识也可以接地到具有合理解释性的图像。数据和代码可从https://github.com/thunlp/CLEVER获得。
2023-03-25 cs.AI cs.CL cs.CV
Enabling Robots to Understand Incomplete Natural Language Instructions Using Commonsense Reasoning
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);University of Utah(犹他大学)
使机器人能够理解通过口头自然语言提供的指令,将促进机器人和人在家庭和工作场所的各种环境中的互动。然而,自然语言指令通常缺少基于环境上下文和常识对人类显而易见的信息,因此不需要明确地陈述。在本文中,我们介绍了基于存储模型的常识推理(LMCR),一种新的方法,使机器人听一个自然语言指令从人类,观察它周围的环境,并自动填补信息丢失的指令使用环境上下文和一个新的常识推理方法。我们的方法首先将作为无约束自然语言提供的指令转换为机器人可以通过将其解析为动词框架来理解的形式。然后,我们的方法通过观察附近的物体并利用常识推理来填补指令中缺失的信息。为了自动学习常识推理,我们的方法通过训练语言模型从大型非结构化文本语料库中提取知识。我们的研究结果表明,机器人学习常识知识自动从基于Web的文本语料库的可行性,和权力的学习常识推理模型,使机器人自主执行任务的基础上不完整的自然语言指令。
2020-07-21 cs.AI cs.CL cs.RO
COLA: Contextualized Commonsense Causal Reasoning from the Causal Inference Perspective
HKUST(香港科技大学);Tencent AI Lab(腾讯人工智能实验室);University of Pennsylvania(宾夕法尼亚大学);NVIDIA(英伟达)
本文提出情境化常识因果推理任务及零样本框架COLA,利用时间性和协变量平衡消除混杂效应,实验证明其优于基线。
2023-05-09 cs.AI cs.CL
Improving Commonsense Question Answering by Graph-based Iterative Retrieval over Multiple Knowledge Sources
Zhejiang University(浙江大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
为了促进自然语言理解,关键是要使用常识或背景知识。然而,如何在问答系统中有效地使用常识仍然在学术界和工业界的探索中。在本文中,我们提出了一种新的问答方法,通过集成多个知识源,即ConceptNet,维基百科和剑桥词典,以提高性能。更具体地说,我们首先介绍了一种新的基于图的迭代知识检索模块,它迭代地检索概念和实体相关的给定的问题,它的选择从多个知识源。之后,我们使用预先训练的语言模型来编码问题,检索知识和选择,并提出一个答案选择感知的注意力机制来融合前面模块的所有隐藏表示。最后,针对特定任务的线性分类器被用来预测答案。在CommonsenseQA数据集上的实验结果表明,该方法的性能明显优于其他竞争方法,达到了新的水平。此外,进一步的消融研究表明,基于图的迭代知识检索模块和答案选择感知注意模块在从多个知识源中检索和合成背景知识方面是有效的。
2020-11-05 cs.AI cs.CL
NegatER: Unsupervised Discovery of Negatives in Commonsense Knowledge Bases
University of Michigan, Ann Arbor(密歇根大学安娜堡分校)
在机器中编码常识知识是人工智能的长期目标。近年来,自动知识库(KB)的建设技术已经取得了很大的进展。然而,这样的技术主要集中在收购积极(真)KB语句,即使消极(假)语句往往也是重要的判别推理常识知识库。作为对后者的第一步,本文提出了NegatER,一个框架,排名潜在的负面常识知识库使用上下文语言模型(LM)。重要的是,由于大多数知识库不包含否定词,因此NegatER仅依赖于LM中的肯定知识,而不需要地面真实的否定示例。实验表明,与多种对比数据增强方法相比,NegatER产生的否定词更具语法性、连贯性和信息性--在具有挑战性的知识库完成任务中导致统计学上显著的准确性提高,并证实LM中的积极知识可以“重新利用”以生成消极知识。
2021-09-10 cs.AI cs.CL cs.LG
Commonsense Knowledge from Scene Graphs for Textual Environments
IBM Research(IBM研究院)
基于文本的游戏作为真实世界的仿真环境,在强化学习中越来越普遍。它们通常是不完全信息博弈,它们之间的互动仅限于语篇模态。为了挑战这些游戏,通过提供游戏之外的知识(例如人类常识)来补充缺失的信息是有效的。然而,这样的知识只可从文本信息在以前的作品。在本文中,我们调查的优势,采用常识推理从视觉数据集,如场景图数据集。一般来说,与人类的文本相比,图像传达更全面的信息。该属性使得能够提取对于在游戏中有效地行动更有用的常识关系知识。我们比较了Visual Genome(场景图数据集)和ConceptNet(基于文本的知识)中可用的空间关系的统计数据,以分析引入场景图数据集的有效性。我们还进行了基于文本的游戏任务,需要常识推理的实验。我们的实验结果表明,我们提出的方法具有更高的和有竞争力的性能比现有的国家的最先进的方法。
2022-10-19 cs.AI cs.CV
Incorporating Connections Beyond Knowledge Embeddings: A Plug-and-Play Module to Enhance Commonsense Reasoning in Machine Reading Comprehension
School of EECS, Peking University(北京大学电子工程与计算机科学学院);Peng Cheng Laboratory(鹏城实验室)
传统的机器阅读理解(MRC)已经通过模式匹配得到了很好的解决,但常识推理的能力仍然是人类和机器之间的差距。以前的方法通过预训练的知识图谱嵌入(KGE)丰富单词表示来解决这个问题。然而,它们对知识图谱(KG)中节点之间的大量连接的利用有限,这些连接可能是构建常识推理链的关键线索。在本文中,我们提出了一个即插即用的模块来存储连接信息的常识推理(PIECER)。除了用知识嵌入丰富单词表示外,PIECER还构建了一个联合查询-通道图,通过单词之间面向知识的连接来明确地指导常识推理。此外,PIECER具有很高的通用性,因为它可以插入到任何MRC模型的合适位置。实验结果ReCoRD,一个大规模的公共MRC数据集,需要常识推理,PIECER介绍了稳定的性能改善四个代表性的基础MRC模型,特别是在低资源设置。
2021-03-26 cs.AI cs.CL
Acquiring and Modelling Abstract Commonsense Knowledge via Conceptualization
The Hong Kong University of Science and Technology(香港科技大学)
针对现有常识建模方法难以覆盖多样实体情境知识的问题,本研究提出基于概念化的抽象常识知识获取框架,结合ATOMIC、Probase构建抽象常识知识图谱,验证了其在常识推理等下游任务的有效性。
2024-05-18 cs.AI cs.CL
ASER: Towards Large-scale Commonsense Knowledge Acquisition via Higher-order Selectional Preference over Eventualities
CSE, HKUST(香港科技大学计算机科学与工程系)
常识知识获取和推理一直是人工智能的核心问题。然而,在过去,一直缺乏可扩展的方法来收集常识知识。在本文中,我们建议制定原则,收集常识知识的基础上选择性偏好。我们将选择偏好的定义从单跳语言句法关系推广到语言图上的高阶关系。不像以前的常识知识定义(例如,ConceptNet),选择偏好(SP)知识仅依赖于语言图上的统计分布,利用现代工具可以从无标注语料库中高效准确地获取SP知识。遵循这一原则,我们开发了一个大规模的可能性(一个涵盖活动,状态和事件的语言术语)的知识图谱ASER,其中每个可能性表示为依赖图,它们之间的关系是一个浅的话语分析中定义的话语关系。对所收集的语言图的高阶选择偏好反映了各种常识性知识。此外,动机的观察,人类理解事件抽象的观察到的事件到一个更高的水平,从而可以将他们的知识转移到新的事件,我们提出了一个概念化模块,以显着提高ASER的覆盖面。总的来说,ASER在4.38亿个可能性之间包含6.48亿条边。概念化后的Probase,一个选择偏好的概念实例关系知识库,我们的概念图包含15万个概念化的可能性和2.24亿之间的边缘。提供详细的分析,以证明其质量。所有收集的数据、API和工具都可以在www.example.com上找到。
2022-01-16 cs.AI cs.CL
CIDER: Commonsense Inference for Dialogue Explanation and Reasoning
University of Michigan(密歇根大学);Singapore University of Technology and Design(新加坡科技设计大学)
理解和解释人类语言的常识推理是自然语言处理的一个基本研究问题。解释人类对话是一个巨大的挑战,因为它需要上下文理解,规划,推理和推理的几个方面,包括因果,时间和常识推理。在这项工作中,我们介绍了CIDER -一个手动策划的数据集,包含二元对话解释的形式,使用上下文常识推断推断的隐式和显式知识三元组。从对话中提取如此丰富的解释有助于改进几个下游应用程序。注释的三元组通过存在的常识知识的类型(例如,因果的、条件的、时间的)。我们设置了三个不同的任务条件的注释数据集:对话级自然语言推理,跨度提取,多选择跨度选择。基于变压器的模型获得的基线结果表明,任务是困难的,为有前途的未来研究铺平了道路。数据集和基线实现可在https://cider-task.github.io/cider/上公开获得。
2021-06-30 cs.AI cs.CL cs.LG
Diversifying Content Generation for Commonsense Reasoning with Mixture of Knowledge Graph Experts
University of Notre Dame(圣母大学);University of Washington(华盛顿大学);Microsoft Cognitive Services Research(微软认知服务研究院)
自然语言中的生成常识推理是在生成连贯文本的同时对常识进行推理。近年来,人们对提高常识推理任务生成质量的兴趣激增。然而,这些方法很少调查GCR任务的多样性,其目的是为现实世界的情况产生替代解释或预测所有可能的结果。多样化的GCR是具有挑战性的,因为它期望产生多种输出,不仅语义不同,而且基于常识知识。在本文中,我们提出了MoKGE,一种新的方法,多样化的混合专家(MoE)策略的常识知识图谱(KG)的生成推理。一组知识专家在KG上寻求不同的推理,以鼓励各种生成输出。实证实验表明,MoKGE可以显着提高多样性,同时实现在两个GCR基准上的准确性,基于自动和人工评估。
2022-03-14 cs.AI cs.CL
Towards Commonsense Knowledge based Fuzzy Systems for Supporting Size-Related Fine-Grained Object Detection
Zhejiang Lab(之江实验室);University of Huddersfield(哈德斯菲尔德大学)
针对细粒度目标检测需大模型和多标注的问题,提出尺寸相关的常识知识推理模块CKIM,结合硬规则与模糊规则方法,辅助轻量级粗粒度检测器实现精准细粒度检测,在更少数据和更小模型下优于基线。
2024-01-29 cs.AI cs.CV
Differentiable Open-Ended Commonsense Reasoning
University of Southern California(南加州大学);Google Research(谷歌研究院)
当前的常识推理研究集中在开发使用常识知识回答多项选择题的模型。然而,被设计为回答多项选择问题的系统在不提供可供选择的候选答案的小列表的应用中可能没有用。作为一个步骤,使常识推理的研究更加现实,我们建议研究开放式常识推理(OpenCSR)-没有任何预定义的选择,回答一个常识问题的任务-作为一种资源,只有一个语料库的常识事实写在自然语言。OpenCSR是具有挑战性的,因为一个大的决策空间,因为许多问题需要隐式多跳推理。作为OpenCSR的一种方法,我们提出了DrFact,一个有效的微分模型多跳推理知识事实。为了评估OpenCSR方法,我们采用了几种流行的常识推理基准,并通过众包为每个测试问题收集多个新答案。实验表明,DrFact的性能大大优于强基线方法。
2021-06-06 cs.AI cs.CL cs.LG
Consolidating Commonsense Knowledge
Information Sciences Institute, University of Southern California(南加州大学信息科学研究所);Northeastern University(东北大学)
常识推理是构建健壮人工智能系统的一个重要方面,在自然语言理解、计算机视觉和知识图谱领域受到了极大的关注。目前,存在一些有价值的常识性知识来源,它们具有不同的重点、优势和劣势。在本文中,我们列出了代表性的来源和他们的性质。在此调查的基础上,我们提出了原则和表示模型,以巩固他们到一个常识知识图谱(CSGG)。我们采用这种方法来巩固七个独立的来源到第一个综合CSGG。我们目前的统计数据CSGG,目前初步调查其效用的四个QA数据集,并列出经验教训。
2020-06-22 cs.AI cs.CL
Commonsense Knowledge Mining from Pretrained Models
Harvard University(哈佛大学)
推断常识知识是自然语言处理中的一个关键挑战,但由于训练数据的稀疏性,先前的工作表明,用于常识知识挖掘的监督方法在对新数据进行评估时表现不佳。在这项工作中,我们开发了一种方法,使用一个大的,预先训练的双向语言模型生成常识知识。通过将关系三元组转换为屏蔽句,我们可以使用该模型通过估计两个实体之间的逐点互信息来对三元组的有效性进行排序。由于我们不更新双向模型的权重,因此我们的方法不会因任何一个常识知识库的覆盖而有偏见。虽然这种方法在测试集上的表现比在相应的训练集上显式训练的模型差,但在从新的来源中挖掘常识知识时,它优于这些方法,这表明无监督技术可能比当前的监督方法更好地推广。
2019-09-02 cs.AI cs.CL cs.LG
Augmented Commonsense Knowledge for Remote Object Grounding
Australian Institute for Machine Learning (AIML), University of Adelaide(阿德莱德大学澳大利亚机器学习研究所);Australian National University(澳大利亚国立大学);Macquarie University(麦考瑞大学);Griffith University(格里菲斯大学)
针对REVERIE任务中简明指令导致动作预测不足的问题,提出增强常识知识模型ACK,通过构建时空知识图谱并融合跨模态与概念聚合模块,显著提升了视觉表示与导航性能,在REVERIE基准上达到SOTA。
2024-06-03 cs.AI cs.CV
Probing Commonsense Knowledge in Pre-trained Language Models with Sense-level Precision and Expanded Vocabulary
INESC TEC(葡萄牙国家工程与系统创新研究所);University of Porto(波尔图大学);Cardiff University(卡迪夫大学)
常识推理的进展通常是从设计要求常识知识的问答任务的性能改进来衡量的。然而,在这些特定任务上微调大语言模型(LM)并不直接评估在预训练期间学习的常识。在预先训练的LM中,对常识知识的最直接评估可以说是针对常识断言的完形填空式任务(例如,一笔用于[面具]。)然而,这种方法受到LM可用于屏蔽预测的词汇表的限制,并且其精度取决于断言提供的上下文。在这项工作中,我们提出了一种方法,用于丰富LM与接地的感觉库存(即,WordNet)在词汇水平上可用,无需进一步培训。这种修改将完形填空式提示的预测空间增大到大型本体的大小,同时实现更细粒度(感测级)的查询和预测。为了评估LM具有更高的精度,我们提出了SenseLAMA,一个完形填空风格的任务,具有来自WordNet,WikiData和ConceptNet的消歧三元组的动词化关系。将我们的方法应用于BERT,产生一个名为SynBERT的WordNet丰富版本,我们发现LM可以从自我监督中学习非平凡的常识知识,覆盖众多的关系,并且比基于相似性的方法更有效。
2022-10-12 cs.AI cs.CL