RAGA: Reading-And-Graph-building-Agent for Autonomous Knowledge Graph Construction and Retrieval-Augmented Generation
Qingdao University(青岛大学)
本文提出RAGA框架,通过结合阅读、搜索、验证和构建的认知约束,提升知识图谱构建与检索增强生成的效率和准确性,实现了知识图谱的全生命周期管理。
2026-05-16 cs.AI cs.CL
Cross-lingual Machine Reading Comprehension with Language Branch Knowledge Distillation
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);Microsoft STCA(微软亚洲研究院搜索技术中心);Simon Fraser University(西蒙弗雷泽大学)
跨语言机器阅读理解(CLMRC)仍然是一个具有挑战性的问题,这是由于缺乏低源语言(如阿拉伯语、印地语和越南语)的大规模注释数据集。许多先前的方法通过从诸如英语的富源语言翻译到低级源语言来使用翻译数据作为辅助监督。然而,如何有效地利用翻译数据并减少翻译引入的噪音的影响仍然是一项艰巨的任务。在本文中,我们解决了这一挑战,并提高跨语言迁移性能的一种新的增强方法命名为语言分支机器阅读理解(LBMRC)。语言分支是一组单一语言的文章,配以所有目标语言的问题。基于LBMRC,我们训练了多个精通不同语言的机器阅读理解(MRC)模型。然后,我们设计了一种多语言蒸馏方法,将多语言分支模型中的知识合并到所有目标语言的单个模型中。将LBMRC和多语言提取相结合,可以提高模型对数据噪声的鲁棒性,从而提高模型的跨语言能力。同时,生成的单一多语种模型适用于所有目标语言,节省了多个模型的训练、推理和维护成本。两个CLMRC基准上的大量实验清楚地表明了我们所提出的方法的有效性。
2020-10-27 cs.AI cs.CL
World Knowledge in Multiple Choice Reading Comprehension
ALTA Institute(ALTA研究所);Cambridge University(剑桥大学)
本文提出基于信息论的期望选项数和上下文互信息两个度量指标,用于评估多项选择阅读理解问题对世界知识捷径的依赖程度,并证明这些指标可帮助测试设计者监控题目质量。
2023-05-30 cs.AI cs.CL
Conversing by Reading: Contentful Neural Conversation with On-demand Machine Reading
University of Washington(华盛顿大学);Microsoft Research(微软研究院)
虽然神经会话模型在学习如何产生流利的反应方面是有效的,但它们的主要挑战在于知道该说什么才能使会话内容丰富且不空洞。我们提出了一种新的端到端的方法来实现内容丰富的神经会话,该方法联合建模响应生成和按需机器阅读。其核心思想是为会话模型提供动态的相关长文本作为外部知识的来源。该模型执行问答式的阅读理解对这个文本在每个会话的转折,从而允许更集中的外部知识的整合比以前的方法。为了支持对基于知识的会话的进一步研究,我们引入了一个新的基于外部网页的大规模会话数据集(2.8M回合,7.4M句子的接地)。人工评估和自动化指标都表明,与以前的各种方法相比,我们的方法会产生更有内容的响应,从而提高了所生成输出的信息量和多样性。
2019-06-07 cs.AI cs.CL cs.LG
Knowledge-Empowered Representation Learning for Chinese Medical Reading Comprehension: Task, Model and Resources
East China Normal University(华东师范大学);Alibaba Group(阿里巴巴集团);DXY(丁香园)
机器阅读理解(MRC)的目的是从文章中抽取问题的答案。近年来,它得到了广泛的研究,特别是在开放域中。然而,很少有人在闭域MRC上做出努力,主要是由于缺乏大规模的训练数据。本文提出了一种面向医学领域的多目标MRC任务,其目标是同时从医学信息源中预测医学问题的答案和相应的支持语句,以保证医学知识服务的高可靠性。为此,人工构建了一个高质量的数据集,命名为多任务中国医学MRC数据集(CMedMRC),并进行了详细的分析。提出了中医BERT任务模型(CMed BERT),通过异构特征动态融合机制和多任务学习策略,将医学知识融合到预先训练好的语言模型中。实验表明,CMedBERT通过融合上下文感知和知识感知的令牌表示,始终优于强基线。
2021-08-20 cs.AI cs.CL cs.LG
Learning Facts at Scale with Active Reading
FAIR at Meta(Meta 的 FAIR);University of California, Berkeley(加州大学伯克利分校)
针对LLMs学习事实不可靠且缺乏确保工具的问题,提出Active Reading框架,通过自生成学习策略训练模型研读材料,显著提升知识吸收并构建更事实性的模型。
2025-08-13 cs.AI cs.CL
Fact-driven Logical Reasoning for Machine Reading Comprehension
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Shanghai Jiao Tong University(上海交通大学)
本文提出一种事实驱动的层次化知识表示方法,通过提取句子主干构成事实单元并构建超图,同时建模句子级和实体级交互,在逻辑推理与对话建模任务上显著提升多种基线模型性能。
2023-05-26 cs.AI cs.CL
KnowledgeGain: Evaluating and Optimizing Science News Generation for Reader Learning
Old Dominion University(旧 Dominion 大学);University of Notre Dame(诺特大学)
提出KnowledgeGain指标,通过测量读者知识增益来评估科学新闻质量,并利用LLM模拟器优化生成,提升读者学习效果。
2026-05-29 cs.AI cs.CL
Enhancing Answer Boundary Detection for Multilingual Machine Reading Comprehension
University of Electronic Science and Technology of China(电子科技大学);Microsoft(微软);Microsoft Research Asia(微软亚洲研究院)
多语言预训练模型可以利用来自丰富源语言(如英语)的训练数据来提高低资源语言的性能。然而,多语言机器阅读理解(MRC)的迁移质量明显低于句子分类任务,这主要是由于MRC需要检测单词级别的答案边界。在本文中,我们提出了两个辅助任务,在微调阶段,以创建额外的短语边界监督:(1)混合MRC任务,将问题或段落翻译到其他语言,并建立跨语言的问题-段落对;(2)语言无关的知识掩蔽任务,利用知识挖掘的短语从Web。此外,在两个跨语言MRC数据集上的大量实验表明了该方法的有效性。
2020-05-08 cs.AI cs.CL
Spatio-Temporal Attention Mechanism and Knowledge Distillation for Lip Reading
The American University in Cairo(开罗美国大学);Nahdet Misr AI(纳赫代特米斯尔人工智能公司)
尽管在音频和视听语音识别领域中取得了进步,但是由于某些音素的视觉模糊性,视觉语音识别系统仍然是相当不充分的。在这项工作中,我们提出了一个新的唇读模型,结合了三个贡献。首先,模型前端采用时空注意力机制来帮助从输入视觉帧中提取信息数据。其次,模型后端利用序列级和帧级知识蒸馏(KD)技术,其允许在视觉模型训练期间利用音频数据。第三,数据预处理流水线,其中包括面部特征点检测为基础的嘴唇对齐。在LRW唇读数据集上,时空注意、知识蒸馏和唇对齐的贡献率分别达到88.43%、88.64%和88.37%,显著提高了唇读的准确率。
2021-08-07 cs.AI cs.CV
Multi-Relational Question Answering from Narratives: Machine Reading and Reasoning in Simulated Worlds
Carnegie Mellon University(卡内基梅隆大学);Ariel University(阿里尔大学)
问答(QA)作为一个研究领域,主要集中在知识库(KB)或自由文本作为知识的来源。这两个来源在历史上塑造了对这些来源提出的问题,以及回答这些问题的方法。在这项工作中,我们期待着一个实际的使用情况下,QA用户指导的知识,独特地结合了两个结构化的QA知识库的元素,和非结构化的QA叙事,介绍了多关系QA的任务,个人叙事。作为实现这一目标的第一步,我们做出了三项关键贡献:(i)我们生成并发布了TextWorldsQA,这是一组五个不同的数据集,其中每个数据集都包含描述模拟世界中的实体和关系的动态叙述,并结合了关于该知识的复杂组成问题,(ii)我们在这项任务中对几个最先进的QA模型及其变体进行了全面的评估和分析,(iii)我们发布了一个轻量级的基于Python的框架,我们称之为TextWorlds,用于轻松生成任意的附加世界和叙事,目标是允许社区创建和共享不断增长的不同世界集合,作为这项任务的测试平台。
2019-02-25 cs.AI cs.CL
A Coordination-based Approach for Focused Learning in Knowledge-Based Systems
针对知识系统学习请求选择以最大化问答性能的问题,本文将其建模为协调博弈并采用强化学习方法,实验证明该方法可显著提升问答性能。
2025-01-15 cs.AI cs.CL
Modular Approach to Machine Reading Comprehension: Mixture of Task-Aware Experts
Carnegie Mellon University(卡内基梅隆大学)
在这项工作中,我们提出了一个混合的任务感知专家网络的机器阅读理解在一个相对较小的数据集。我们特别关注常识学习的问题,通过专门训练不同的专家网络来捕获每个段落,问题和选择三元组之间的不同关系,从而加强共同基础知识。此外,我们通过训练每个网络一个相关的重点任务,对多任务和迁移学习的最新进展进行了总结。通过强制执行任务和关系,使混合网络意识到特定目标,我们实现了最先进的结果并减少了过度拟合。
2022-10-04 cs.AI cs.CL
Towards an automatic method for generating topical vocabulary test forms for specific reading passages
ETS
本文提出K-tool系统,自动检测文本主题并生成主题词汇测试表单,以测量学生背景知识并预测其理解特定阅读篇章的能力,面向中学和高中英语母语学生。
2025-05-24 cs.AI cs.CL cs.IR
Experimental Evidence on Negative Impact of Generative AI on Scientific Learning Outcomes
Duke University(杜克大学)
本研究通过实验发现,完全依赖生成式AI完成写作任务使学习准确率下降25.1%,AI辅助阅读下降12%,而AI摘要提升质量,强调需警惕过度依赖并优化使用。
2023-09-23 cs.AI cs.CL cs.CY
What Happened? Leveraging VerbNet to Predict the Effects of Actions in Procedural Text
Allen Institute for AI(艾伦人工智能研究所)
我们的目标是回答有关描述过程的段落的问题(例如,光合作用)。这种类型的文本具有挑战性,因为行动的影响往往是隐含的(未说明的),需要背景知识和推理来推理不断变化的世界状态。为了提供这些知识,我们利用VerbNet来建立一个规则库(称为语义词典)的前提条件和行动的影响,并使用它与常识的持久性知识来回答有关变化的问题。我们的评估表明,我们的系统,ProComp,显着优于两个强大的阅读理解(RC)基线。我们的贡献有两个方面:语义词典规则库本身,以及演示基于模拟的机器阅读方法如何优于仅依赖表面线索的RC方法。自从进行了这项工作以来,我们已经开发出优于ProComp的神经系统,如其他地方所述(Dalvi等人,NAACL'18)。然而,语义词典仍然是一个新的和潜在的有用的资源,其与神经系统的集成仍然是一个目前尚未探索的机会,进一步改善机器阅读过程。
2018-04-15 cs.AI cs.CL
Dialogue Graph Modeling for Conversational Machine Reading
Shanghai Jiao Tong University(上海交通大学)
会话式机器阅读(CMR)旨在以复杂的方式回答问题。机器需要根据给定的规则文档、用户场景和对话历史,通过与用户的交互来回答问题,并在必要时提出问题以澄清。本文提出了一种对话图建模框架,以提高机器对CMR任务的理解和推理能力。总共有三种类型的图形。具体而言,话语图用于显式学习和提取规则文本之间的话语关系以及场景的额外知识;解耦图用于理解规则文本中的局部和上下文连接。最后是一个全局图,用于将信息融合在一起,并回复用户,我们的最终决定是“是/否/无关”,或者提出后续问题来澄清。
2021-05-29 cs.AI cs.CL
How to Train Your Agent to Read and Write
School of Software Engineering, South China University of Technology(华南理工大学软件学院);Pazhou Laboratory(琶洲实验室);University of Adelaide(阿德莱德大学);Key Laboratory of Big Data and Intelligent Robot, Ministry of Education(大数据与智能机器人教育部重点实验室)
阅读和撰写研究论文是一个合格的研究人员应该掌握的最特权的能力之一。但是,新的研究人员(\eg{students})很难完全{掌握}这种能力。如果我们能训练一个智能代理来帮助人们阅读和总结论文,甚至可能发现和利用潜在的知识线索来撰写新颖的论文,那将是非常迷人的。虽然已经存在专注于总结(\emph{i.e.},阅读)给定文本中的知识或基于给定知识生成(\emph{i.e.},书写)文本的现有工作,但是同时阅读和书写的能力仍处于开发中。通常,这需要智能体从给定的文本材料中充分理解知识,并生成正确和流畅的小说段落,这在实践中非常具有挑战性。在本文中,我们提出了一个深度读者-作家(DRAW)网络,它由一个\textit{Reader},可以从输入段落中提取知识图谱(KG),发现潜在的知识,一个图形到文本的\textit{Writer},生成一个新的段落,和一个\textit{Reviewer},从三个不同的方面审查所生成的段落。大量的实验表明,我们的DRAW网络在AGENDA和M-AGENDA数据集上的性能优于考虑的基线和几种最先进的方法。我们的代码和补充文件在https://github.com/menggehe/DRAW上发布。
2021-01-04 cs.AI cs.CL
Improving Low-resource Reading Comprehension via Cross-lingual Transposition Rethinking
Tsinghua University(清华大学);Beijing MoreHealth Technology Group Co. Ltd(北京妙健康科技集团有限公司)
摘要大规模、高质量的阅读理解训练数据的出现,使得提取式阅读理解(ERC)取得了巨大的进步。尽管取得了如此迅速的进展和广泛的应用,但除了英语等高资源语言之外,其他语言的数据集仍然很少。为了解决这个问题,我们提出了一个跨语言换位再思考(XLTT)模型建模现有的高质量的提取阅读理解数据集在多语言环境中。具体而言,我们提出了多语言自适应注意(MAA),结合内部注意和相互注意,从每对语言家族中学习更一般的可概括的语义和词汇知识。此外,为了充分利用现有数据集,我们采用了一种新的训练框架,通过计算每个现有数据集和目标数据集之间的任务级相似度来训练我们的模型。实验结果表明,我们的XLTT模型在两个多语言ERC基准测试中超过了六个基线,特别是对低资源语言更有效,F1和EM的平均改善分别为3.9和4.1。
2021-09-28 cs.AI cs.CL
Interpretative Interfaces: Designing for AI-Mediated Reading Practices and the Knowledge Commons
University of Washington(华盛顿大学)
本文探讨通过设计解释性界面促进用户与AI模型的交互,使非专家用户能干预语言模型的表示空间,通过直接操作观察和注释模型内部表示的变化,从而推动AI解释性作为交互设计而非纯技术问题。
2026-03-16 cs.AI cs.HC
Schema-Agnostic Graph Reasoning Agent for Hybrid Knowledge Graphs
提出图推理智能体GRA,探索混合知识图谱,在工业基准UFK-M上准确率优于全上下文智能体,读取令牌更少,增益源于选择性访问。
2026-08-18 cs.AI cs.CL cs.DB
Commonsense Evidence Generation and Injection in Reading Comprehension
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Tencent Hippocrates Research Lab(腾讯希波克拉底研究实验室)
人们在阅读理解时,不仅要依据语境本身,而且往往还要依赖于语境之外的常识。为了增强机器的常识推理能力,本文提出了一个阅读理解中的常识证据生成和注入框架CEGI。该框架为阅读理解注入了两种辅助常识证据,使机器具备了理性思维的能力。具体来说,我们建立了两个证据生成器:第一个生成器的目的是通过语言模型生成文本证据;另一个生成器的目的是在图形完成后从常识知识图谱中提取事实证据(自动对齐的文本三元组)。这些证据结合了上下文常识,并作为模型的额外输入。此后,我们提出了一个深上下文编码器提取段落,问题,选项和证据之间的语义关系。最后,我们采用一个胶囊网络提取不同的语言单位(词和短语)的关系,并动态预测的基础上提取的单位的最佳选择。在CosmosQA数据集上的实验表明,所提出的CEGI模型优于当前最先进的方法,并达到了排行榜上的准确率(83.6%)。
2020-05-11 cs.AI cs.CL
Exploiting Explicit Paths for Multi-hop Reading Comprehension
National University of Singapore(新加坡国立大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
我们提出了一种新的,基于路径的推理方法的多跳阅读理解任务,系统需要结合多个段落的事实来回答一个问题。虽然灵感来自多跳推理知识图谱,我们提出的方法直接在非结构化文本。它通过段落生成潜在的路径,并在没有任何直接路径监督的情况下对其进行评分。PathNet模型通过实体对表示从文本中提取隐含关系,并将其组合编码为每一条路径;为了捕获额外的上下文,PathNet还将沿着每条路径的段落表示组合以计算基于上下文的表示。与以前的方法不同,我们的模型能够通过这些明确的通道来解释其推理。我们证明了我们的方法在多跳Wikihop数据集上的性能优于先前的模型,并且也可以推广到OpenBookQA数据集,匹配最先进的性能。
2019-07-08 cs.AI cs.CL
A Multilingual Modeling Method for Span-Extraction Reading Comprehension
Tsinghua University(清华大学);Beijing MoreHealth Technology Group Co. Ltd(北京妙健康科技集团有限公司)
跨度提取阅读理解模型已经取得了巨大的进步,这得益于大规模,高质量的训练数据集的可用性。尽管取得了如此迅速的进展和广泛的应用,但英语以外的其他语言的提取阅读理解数据集仍然很少,并且为每种语言创建如此大量的训练数据是昂贵的,甚至是不可能的。创建大规模高质量单语跨度提取训练数据集的替代方案是开发多语言建模方法和系统,其可以转换到目标语言而不需要该语言的训练数据。本文针对目标语言中提取阅读理解训练数据的稀缺性,提出了一种多语言提取阅读理解方法XLRC,该方法利用自适应注意和多语言注意同时对多语言环境中已有的提取阅读理解训练数据进行建模。具体而言,我们首先通过翻译现有的提取阅读理解数据集(即,CMRC 2018)从目标语言(即,中文)分为不同的语系(即,英文)。其次,为了提高最终的目标表示,我们采用自适应注意(SAA),结合自我注意和相互注意,提取每对目标和源语言的语义关系。此外,我们提出了多语言注意(MLA),学习丰富的知识,从各种语言的家庭。实验结果表明,我们的模型优于最先进的基线(即,RoBERTa_Large)在CMRC 2018任务上的应用,证明了我们提出的多语言建模方法的有效性,并显示了多语言NLP任务的潜力。
2021-05-31 cs.AI cs.CL
FedQAS: Privacy-aware machine reading comprehension with federated learning
Uppsala University, Sweden(瑞典乌普萨拉大学);Scaleout Systems, Sweden(瑞典Scaleout Systems公司);Department of Information Technology(信息技术系);Division of Scientific Computing(科学计算部)
文本数据的机器阅读理解(MRC)是自然语言理解的一个重要任务。这是一个复杂的NLP问题,随着斯坦福问答数据集(SQuAD)和会话式问答(CoQA)的发布,许多研究正在进行中。它被认为是教计算机如何“理解”文本,然后能够使用深度学习回答有关文本的问题的努力。然而,到目前为止,关于私人文本数据和知识共享的大规模培训一直缺乏这个NLP任务。因此,我们提出了FedQAS,这是一个保护隐私的机器阅读系统,能够利用大规模的私有数据,而不需要将这些数据集集中在一个中心位置。该方法结合了Transformer模型和联邦学习技术。该系统使用FEDn框架开发,并作为概念验证联盟计划部署。FedQAS是灵活的,语言无关的,并允许直观的参与和执行本地模型训练。此外,我们提出了该系统的架构和实现,以及提供一个基于SQUAD数据集的参考评估,以展示它如何克服数据隐私问题,并在联邦学习环境中实现联盟成员之间的知识共享。
2022-02-09 cs.AI cs.CL cs.LG
Do large language models and humans have similar behaviors in causal inference with script knowledge?
Saarland University(萨尔兰大学)
本研究通过自定步速阅读实验和多种LLM测试,发现人类能利用脚本知识轻松推断未明说的因果事件,而最新LLM虽在冲突条件下与人类行为相关,但整体仍难以整合脚本知识。
2023-11-13 cs.AI cs.CL
When Do Internal Probes Beat Reading the Answer? Miscalibrated Readouts and Behavior-Concealed Knowledge in Language Models
该研究发现语言模型存在校准错误读出与行为隐藏知识,内部线性探测能读出正确逻辑结论,而模型输出因阈值偏移失效,修正参数可提升准确率,还区分出三种知识状态。
2026-09-07 cs.AI cs.CL
Beyond Facts: Benchmarking Distributional Reading Comprehension in Large Language Models
National Taiwan University(国立台湾大学);University of California, Los Angeles(加州大学洛杉矶分校);Academia Sinica, Taiwan(台湾“中央研究院”);NTU AI-CoRE(国立清华大学AI研究中心)
本文提出Text2DistBench基准测试,评估LLM从自然语言中推断分布知识的能力,通过真实YouTube评论数据,测试模型在估计评论比例和识别高频主题方面的表现,揭示LLM在分布式阅读理解中的能力和局限。
2026-04-18 cs.AI cs.CL
ERNIE-Layout: Layout Knowledge Enhanced Pre-training for Visually-rich Document Understanding
Baidu Inc.(百度公司);Zhejiang University(浙江大学)
近年来,在视觉丰富的文档理解中,预训练技术的兴起和成功。然而,大多数现有的方法缺乏系统的挖掘和利用的布局为中心的知识,导致次优性能。在本文中,我们提出了ERNIE-Layout,一种在整个工作流程中增强布局知识的新型文档预训练解决方案,以学习更好的表示,结合文本,布局和图像的特征。具体来说,我们首先在序列化阶段重新排列输入序列,然后提出一个相关的预训练任务,阅读顺序预测,学习正确的阅读顺序的文件。为了提高模型的布局意识,我们将空间感知的分离注意力集成到多模态Transformer中,并将替换区域预测任务集成到预训练阶段。实验结果表明,ERNIE-Layout在各种下游任务上实现了卓越的性能,在关键信息抽取、文档图像分类和文档问答数据集上设置了新的最先进技术。代码和模型可在http://github.com/PaddlePaddle/PaddleNLP/tree/develop/model_zoo/ernie-layout上公开获取。
2022-10-14 cs.AI cs.CL
"Act Like a 5th Grader" is Not Enough: Bounding Knowledge in LLM-Based User Simulators
University of Stavanger(斯塔万格大学)
该研究针对基于大语言模型的用户模拟器存在的“超人偏差”问题,提出认知受限用户模拟器(CBUS)框架,通过明确建模认知边界提升模拟人类阅读行为的保真度。
2026-09-01 cs.AI cs.CL
Guiding LLM to Fool Itself: Automatically Manipulating Machine Reading Comprehension Shortcut Triggers
Bar-Ilan University(巴伊兰大学);Allen Institute for AI(艾伦人工智能研究所)
本文提出一个框架引导GPT4向机器阅读理解样本中注入捷径触发器,发现GPT4可被自身编辑欺骗(F1下降15%),并发布ShortcutQA数据集以揭示LLMs对捷径操纵的固有脆弱性。
2023-10-24 cs.AI cs.CL
When Harness Beats Scale, and When Reading Beats Both
Novosibirsk State University(新西伯利亚国立大学);ITMO University(ITMO大学)
本研究分析DocSem任务中系统在标注数据成功而测试集失败的原因,发现架构比规模更关键,且阅读质量而非推理能力决定了排行榜的区分。
2026-09-29 cs.AI cs.CL cs.IR
Learning to Win by Reading Manuals in a Monte-Carlo Framework
Massachusetts Institute of Technology(麻省理工学院);University College London(伦敦大学学院)
领域知识对于自主控制系统的有效性能至关重要。通常,需要人工努力将这些知识编码到控制算法中。在本文中,我们提出了一种方法,自动解释文本的背景下,一个复杂的控制应用程序,如游戏,并使用领域知识提取的文本,以提高控制性能的语言接地。文本分析和控制策略都只使用应用程序固有的反馈信号来共同学习。为了有效地利用文本信息,我们的方法自动提取与当前游戏状态最相关的文本片段,并使用以任务为中心的谓词结构对其进行标记。然后,这个标记的文本被用来偏向游戏的动作选择策略,将其引导到动作空间的有希望的区域。我们将我们的模型编码为文本分析和多层神经网络中的游戏,通过隐藏层中的潜在变量表示语言决策,并通过输出层表示游戏动作质量。在Monte-Carlo搜索框架内操作,我们使用来自模拟游戏的反馈来估计模型参数。我们将我们的方法应用于复杂的战略游戏文明II,使用官方游戏手册作为文本指南。我们的研究结果表明,一个语言上知情的游戏代理显着优于其语言不知情的对手,产生了34%的绝对改善,并赢得了超过65%的游戏时,对内置的AI文明。
2014-01-18 cs.AI cs.CL cs.LG
The Web as a Knowledge-base for Answering Complex Questions
Tel-Aviv University(特拉维夫大学)
对人类来说,提出复杂的问题是一项耗时的活动,需要推理和信息整合。最近的阅读理解工作在回答简单问题方面取得了进展,但解决复杂问题仍然是一个持续的研究挑战。相反,语义解析器已经成功地处理组合性,但只有当信息驻留在目标知识库。在本文中,我们提出了一个新的框架来回答广泛和复杂的问题,假设回答简单的问题是可能的,使用搜索引擎和阅读理解模型。我们建议将复杂的问题分解为一系列简单的问题,并从答案序列中计算出最终的答案。为了说明我们的方法的可行性,我们创建了一个新的复杂问题数据集ComplexWebQuestions,并提出了一个模型,该模型可以分解问题并与网络交互来计算答案。我们根据经验证明,问题分解在这个新数据集上将性能从20.8 precision@1提高到27.5 precision@1。
2018-03-18 cs.AI cs.CL cs.LG
A Lie Detector Test for Language Models: Reading Knowledge a Model Won't Reveal
StackOne Technologies(StackOne 科技公司)
本文提出内部识别探针(PIR)方法,借鉴法医隐蔽信息测试,通过读取模型内部状态识别其隐藏的已知答案,以区分模型不愿回答与不能回答,支持表现不佳审计和遗忘验证。
2026-09-24 cs.AI
Smoothing Dialogue States for Open Conversational Machine Reading
Shanghai Jiao Tong University(上海交通大学);National Institute of Information and Communications Technology (NICT)(日本国立情报学研究所)
会话式机器阅读(CMR)要求机器通过决策和问题生成过程两个突出对话状态之间的多轮交互与人类进行交流。在开放的CMR环境中,由于更接近现实场景,检索到的背景知识会带有噪声,这给信息传输带来了严峻的挑战。现有的研究通常训练独立或流水线系统的两个子任务。然而,这些方法都是琐碎的,通过使用硬标签的决定,以激活问题的生成,这最终阻碍了模型的性能。在这项工作中,我们提出了一个有效的门控策略,通过平滑的两个对话状态,只有一个解码器和桥梁决策和问题的产生,以提供一个更丰富的对话状态参考。在OR-ShARC数据集上的实验表明了该方法的有效性,取得了新的结果。
2021-09-02 cs.AI cs.CL cs.HC
Reading Decoder Trajectories: Training-Free Counterfactual Query-Trajectory Reliability for Small-Object Detection
Beijing Institute of Technology(北京理工大学)
提出免训练框架CQTR,通过反事实尺度干预激活冻结检测器中的潜在小目标知识,利用解码器轨迹评估可靠性,在27种组合上一致提升AP和APs。
2026-09-09 cs.AI cs.CV
Dual Ask-Answer Network for Machine Reading Comprehension
Tencent AI Lab(腾讯人工智能实验室)
在阅读理解中有三种模式:问题、答案和语境。问答或问题生成的任务旨在基于上下文在给出对应方时推断答案或问题。我们提出了一种新的双向神经序列转导模型,连接三种模态,使其能够同时学习两个任务,并相互受益。在训练过程中,该模型接收问题-上下文-答案三元组作为输入,并通过分层注意过程捕获跨模态交互。与以前的联合学习范式,利用问题生成和问答在数据级的双重性,我们解决了这样的双重任务,在体系结构级的镜像网络结构和部分共享组件在不同的层。这使得知识能够从一个任务转移到另一个任务,帮助模型找到每个模态的一般表示。在四个公开数据集上的测试结果表明,我们的双重学习模型在问答和问题生成任务上的性能都优于单一学习模型和最先进的联合学习模型。
2018-09-10 cs.AI cs.CL cs.LG
Reading Industrial Inspection Sheets by Inferring Visual Relations
TCS Research(塔塔咨询服务公司研究院);BITS Pilani(比尔拉科学技术学院皮拉尼校区)
记录重型工厂设备中的故障的传统模式是经由手工标记的检查表,其中机器工程师在机器的纸轮廓上手动标记故障机器区域。多年来,记录了数百万份此类检查表,但这些表中的数据仍然无法访问。然而,随着行业走向数字化,并意识到故障数据对机器健康监测的潜在价值,这些手工标记的检查记录的数字化有越来越大的推动力。为了实现这种数字化,我们提出了一种新的视觉管道,将最先进的深度学习模型与领域知识和低级视觉技术相结合,然后推断视觉关系。我们的框架是强大的存在下,静态和非静态背景的文件中,在机器模板图的变化,非结构化形状的图形对象被识别和手写文本的笔画的变化。建议的管道采用了胶囊和空间Transformer网络为基础的分类器,准确的文本阅读,和定制的CTPN网络的文本检测,除了混合技术的箭头检测和对话云删除。我们已经测试了我们的方法在一个真实世界的数据集的50个检查表的大型集装箱和锅炉。结果在视觉上很吸引人,流水线在文本检测和文本阅读方面分别达到了87.1%和94.6%的准确率。
2018-12-11 cs.AI cs.CL cs.CV
Exploration and Exploitation of Victorian Science in Darwin's Reading Notebooks
Indiana University(印第安纳大学);Xi’an Jiaotong University(西安交通大学);Carnegie Mellon University(卡内基梅隆大学);Santa Fe Institute(圣塔菲研究所)
在资源分布不确定的环境中进行搜索,需要在利用过去的发现和进一步勘探之间进行权衡。这延伸到信息搜寻,知识寻求者在深度阅读和研究新领域之间转换。为了研究这个决策过程,我们研究了当代最著名的科学家之一查尔斯·达尔文的阅读选择。从他按时间顺序组织的阅读期刊中列出的书籍全文,我们生成主题模型,以量化他的本地(文本到文本)和全球(文本到过去)的阅读决策使用Kullback-Liebler分歧,认知验证,信息理论的相对惊喜的措施。达尔文的行为从早期的开发转向后来的探索,寻求相对于以前时代而言异常高水平的认知惊喜,而不是一种与纯粹的开发策略相对应的最小化模式。这些变化,检测到一个无监督的贝叶斯模型,与他的职业生涯中的主要知识时代的定性奖学金和达尔文自己的自我评论确定。我们的方法使我们能够比较他的消费文本与他们的出版顺序。我们发现达尔文的消费比文化的生产更具探索性,这表明在渐进的社会变革之下是对个人综合和发现的探索。我们的定量方法通过测试个人和集体行为之间以及短期和长期消费选择之间的相互作用的框架来推进认知搜索的研究。这种新颖的应用主题建模来表征个人阅读补充了广泛的集体科学行为的研究。
2017-02-02 cs.AI cs.CL cs.CY