Cross-lingual Machine Reading Comprehension with Language Branch Knowledge Distillation
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);Microsoft STCA(微软亚洲研究院搜索技术中心);Simon Fraser University(西蒙弗雷泽大学)
跨语言机器阅读理解(CLMRC)仍然是一个具有挑战性的问题,这是由于缺乏低源语言(如阿拉伯语、印地语和越南语)的大规模注释数据集。许多先前的方法通过从诸如英语的富源语言翻译到低级源语言来使用翻译数据作为辅助监督。然而,如何有效地利用翻译数据并减少翻译引入的噪音的影响仍然是一项艰巨的任务。在本文中,我们解决了这一挑战,并提高跨语言迁移性能的一种新的增强方法命名为语言分支机器阅读理解(LBMRC)。语言分支是一组单一语言的文章,配以所有目标语言的问题。基于LBMRC,我们训练了多个精通不同语言的机器阅读理解(MRC)模型。然后,我们设计了一种多语言蒸馏方法,将多语言分支模型中的知识合并到所有目标语言的单个模型中。将LBMRC和多语言提取相结合,可以提高模型对数据噪声的鲁棒性,从而提高模型的跨语言能力。同时,生成的单一多语种模型适用于所有目标语言,节省了多个模型的训练、推理和维护成本。两个CLMRC基准上的大量实验清楚地表明了我们所提出的方法的有效性。
2020-10-27 cs.AI cs.CL
Knowledge-Empowered Representation Learning for Chinese Medical Reading Comprehension: Task, Model and Resources
East China Normal University(华东师范大学);Alibaba Group(阿里巴巴集团);DXY(丁香园)
机器阅读理解(MRC)的目的是从文章中抽取问题的答案。近年来,它得到了广泛的研究,特别是在开放域中。然而,很少有人在闭域MRC上做出努力,主要是由于缺乏大规模的训练数据。本文提出了一种面向医学领域的多目标MRC任务,其目标是同时从医学信息源中预测医学问题的答案和相应的支持语句,以保证医学知识服务的高可靠性。为此,人工构建了一个高质量的数据集,命名为多任务中国医学MRC数据集(CMedMRC),并进行了详细的分析。提出了中医BERT任务模型(CMed BERT),通过异构特征动态融合机制和多任务学习策略,将医学知识融合到预先训练好的语言模型中。实验表明,CMedBERT通过融合上下文感知和知识感知的令牌表示,始终优于强基线。
2021-08-20 cs.AI cs.CL cs.LG
World Knowledge in Multiple Choice Reading Comprehension
ALTA Institute(ALTA研究所);Cambridge University(剑桥大学)
本文提出基于信息论的期望选项数和上下文互信息两个度量指标,用于评估多项选择阅读理解问题对世界知识捷径的依赖程度,并证明这些指标可帮助测试设计者监控题目质量。
2023-05-30 cs.AI cs.CL
Beyond Surface Structure: A Causal Assessment of LLMs' Comprehension Ability
The University of Hong Kong(香港大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Tongji University(同济大学)
针对LLMs是依赖表面结构还是理解深层结构的争论,该研究通过因果中介分析提出ADCE和AICE指标,评估发现多数LLMs具备深层结构理解能力,闭源模型更依赖深层结构,开源模型表面敏感性随规模降低,为LLMs评估提供新方法。
2024-11-29 cs.AI cs.CL
Cross Lingual Transfer in Tulu Legal Comprehension: Script-Dependent Improvement and RAG-Induced Knowledge Conflict
Stanford Legal Design Lab(斯坦福法律设计实验室)
本文针对低资源语言图卢语的法律理解任务,测试了Llama3等三种模型的跨语言迁移效果,发现其性能依赖文字脚本,RAG框架会引发知识冲突,相关评估技术可推广至低资源多语言RAG场景。
2026-09-01 cs.AI cs.CL
Evaluating Large Language Models' Ability Using a Psychiatric Screening Tool Based on Metaphor and Sarcasm Scenarios
Max–Planck Institute for Human Development(马克斯·普朗克人类发展研究所)
本研究利用精神科筛查工具评估大型语言模型在隐喻和讽刺场景中的理解能力,发现参数增加提升隐喻理解但讽刺理解无改善,提出需基于认知的训练策略。
2024-07-20 cs.AI cs.CL cs.HC
HealthGPT: A Medical Large Vision-Language Model for Unifying Comprehension and Generation via Heterogeneous Knowledge Adaptation
Zhejiang University(浙江大学);University of Electronic Science and Technology of China(电子科技大学);Alibaba(阿里巴巴);The Hong Kong University of Science and Technology(香港科技大学);National University of Singapore(新加坡国立大学)
本研究提出医学大视觉语言模型HealthGPT,采用H-LoRA技术、分层视觉感知与三阶段策略,将异构知识适配到预训练LLM,构建VL-Health数据集训练,在医学视觉统一任务中实现卓越性能与可扩展性。
2025-02-21 cs.AI cs.CV
Leveraging Artificial Intelligence on Binary Code Comprehension
Vanderbilt University(范德堡大学)
对于逆向工程、恶意软件分析和编译器优化来说,理解二进制代码是一项必不可少但复杂的软件工程任务。与源代码不同,二进制代码具有有限的语义信息,这使得它对人类的理解具有挑战性。同时,将源代码编译为二进制代码,或者在不同的程序设计语言(PL)之间进行编译,可以提供一种将外部知识引入二进制理解的方法。我们建议开发人工智能(AI)模型,帮助人类理解二进制代码。具体来说,我们建议将来自大型源代码语料库的领域知识(例如,变量名,注释)来构建AI模型,以捕获二进制代码的可泛化表示。最后,我们将通过使用人类对理解的研究来研究评估适用于二进制代码的模型性能的指标。
2022-10-11 cs.AI cs.SE
Fact-driven Logical Reasoning for Machine Reading Comprehension
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Shanghai Jiao Tong University(上海交通大学)
本文提出一种事实驱动的层次化知识表示方法,通过提取句子主干构成事实单元并构建超图,同时建模句子级和实体级交互,在逻辑推理与对话建模任务上显著提升多种基线模型性能。
2023-05-26 cs.AI cs.CL
Towards an Indexical Model of Situated Language Comprehension for Cognitive Agents in Physical Worlds
University of Michigan(密歇根大学)
我们提出了一个计算模型的基础上的索引假设,产生的意义表征翻译amodal语言符号的模态表征的信念,知识和经验的语言系统外部。该索引模型整合了多个信息源,包括感知、领域知识以及理解过程中的短期和长期经验。我们发现,利用不同的信息源,可以减轻歧义,所产生的上下文使用的具体指的表达和未表达的参数交替的动词。该模型用于支持Rosie中的语言交互,Rosie是Soar中实现的一个从指令中学习的代理。
2022-10-19 cs.AI
Grokers: Bottom-Up Inductive Comprehension and Write-Time Intelligence over Typed Knowledge Graphs
Gregory Magarshak
提出Grokers架构,通过自底向上的依赖子图归纳遍历构建持久结构化理解,将智能推至写入时,实现零额外LM成本的查询,并证明字节同一性、累积单调性和双遍历顺序三个形式性质。
2026-05-07 cs.AI cs.CL cs.DB
Demystifying Drug Repurposing Domain Comprehension with Knowledge Graph Embedding
Politecnico di Milano(米兰理工大学)
由于药物开发成本不断上升以及需要快速应对新出现的疾病,药物再利用比以往任何时候都更加重要。知识图谱嵌入使得能够使用异构数据源结合最先进的机器学习模型来重新利用药物,以预测知识图谱中的新药物-疾病联系。与许多机器学习应用一样,仍然需要大量的工作来理解预测模型的行为。我们提出了一种结构化的方法来更好地理解机器学习模型在药物再利用方面的结果,提出了知识图谱的关键元素,以在节省计算资源的同时改进预测。我们减少了11.05%的训练集和31.87%的嵌入空间,只有2%的准确率下降,并提高了60%的准确率开放ogbl-biokg图添加只有1.53%的新三元组。
2021-08-30 cs.AI cs.LG
Detect, Retrieve, Comprehend: A Flexible Framework for Zero-Shot Document-Level Question Answering
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室);University of California, Merced(加州大学默塞德分校)
针对现有文档问答数据集上下文不符合真实场景的问题,提出包含PDF文本提取、证据检索、问答三阶段的DRC框架,在QASPER数据集上Answer-F1较基线提升7.19,为实用科学文献问答提供灵活方案。
2023-12-11 cs.AI cs.CL cs.LG
SciVerse: Unveiling the Knowledge Comprehension and Visual Reasoning of LMMs on Multi-modal Scientific Problems
The Chinese University of Hong Kong(香港中文大学)
本文提出SciVerse多模态科学评测基准,通过5,735个实例的五个版本及逐步CoT错误评估,系统揭示LMM在科学知识、视觉理解与逻辑推理上的局限。
2025-03-13 cs.AI cs.CL cs.CV
Non-Monotonic Reasoning and Story Comprehension
University of Cyprus(塞浦路斯大学);Open University of Cyprus(塞浦路斯开放大学);University College London(伦敦大学学院)
本文提出了一个与缺省推理相结合的关于动作和变化的推理框架,适合作为故事理解的知识表示和推理框架。所提出的框架在阅读和理解心理学现有知识的指导下,以人工智能的论证理论为基础。它使用论证来捕捉适当的解决方案的框架,分歧和资格问题和概括这些问题所需的文本理解。在本研究的第一部分,工作集中在整合(或阐述)的明确信息与隐含的(在读者心目中)常识世界知识的文本中给出的故事的主题(S)的文本中的叙述的中心问题。我们还报告了我们的经验努力,收集背景常识的世界知识时,人类阅读的故事,并评估,通过原型系统,我们的方法来捕捉大多数和变化的理解故事的人类读者在实验中的能力。
2014-07-14 cs.AI
Penetrative AI: Making LLMs Comprehend the Physical World
Hong Kong University of Science and Technology(香港科技大学);University of California Los Angeles(加州大学洛杉矶分校);Nanyang Technological University(南洋理工大学)
本文提出“穿透式人工智能”概念,探索通过物联网传感器与执行器扩展大语言模型以理解和推理物理世界,并初步验证了以ChatGPT为代表的LLMs在解释传感数据和物理任务推理上的独特能力。
2024-06-12 cs.AI cs.LG