A Survey on Knowledge integration techniques with Artificial Neural Networks for seq-2-seq/time series models
近年来，随着大规模计算能力的出现和大量数据的可用性，深度神经网络已经能够在多个领域探索未知领域。但有时，由于数据不足，数据质量差，数据可能没有广泛覆盖该领域等原因，它们表现不佳。基于知识的系统利用专家知识做出决策并适当采取行动。这种系统在决策过程中保持可解释性。本文的重点是探索技术，将专家知识集成到深度神经网络的序列到序列和时间序列模型，以提高其性能和可解释性。
2020-08-13 cs.AI cs.CL cs.LG
Zeroth-Order SciML: Non-intrusive Integration of Scientific Software with Deep Learning
University of Minnesota（明尼苏达大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）；Michigan State University（密歇根州立大学）；University of Michigan, Ann Arbor（密歇根大学安娜堡分校）
使用深度学习（DL）来加速和/或改进科学工作流程可以产生其他方法无法实现的发现。不幸的是，由于大量的数据需求，DL模型在复杂的科学领域取得了有限的成功。在这项工作中，我们建议通过将丰富的科学知识源（SKS）与DL培训过程相结合来克服这个问题。现有的知识整合方法局限于使用可区分的知识源，以兼容一阶DL培训范式。相比之下，我们提出的方法将知识源视为一个黑盒子，从而允许整合几乎任何知识源。为了实现SKS耦合DL的端到端训练，我们提出使用基于零阶优化（ZOO）的无梯度训练方案，其是非侵入性的，即，不需要对SKS进行任何更改。我们评估我们的动物园培训计划在两个现实世界的材料科学应用的性能。我们表明，该方案能够有效地将科学知识与DL训练相结合，并且能够在数据有限的科学应用中优于纯数据驱动模型。我们还讨论了所提出的方法的一些局限性，并提到潜在的值得未来的方向。
2022-06-04 cs.AI cs.LG
Structural Positional Encoding for knowledge integration in transformer-based medical process monitoring
Laboratorio Integrato di Intelligenza Artificiale e Informatica in Medicina DAIRI（人工智能与医学信息整合实验室DAIRI）；Azienda Ospedaliera SS. Antonio e Biagio e Cesare Arrigo（安东尼和比阿乔和卡雷罗医院）
本文提出基于Transformer的医疗过程监控方法，通过图位置编码整合领域知识，提升预测准确性与实用性。
2024-03-13 cs.AI cs.LG
Knowledge Extraction and Knowledge Integration governed by Łukasiewicz Logics
Instituto Superior de Engenharia de Lisboa（里斯本高等工程学院）
特别是机器学习和一般人工智能的发展一直受到演绎、溯因和归纳之间缺乏适当接口层的强烈制约。在这项工作中，我们扩展了传统的代数规范方法在这个方向上。在这里，我们假设这样的人工智能接口出现从一个适当的神经符号积分。这种整合是由一个多值的Rukasiewicz逻辑的Topos描述的话语的宇宙。句子被集成在描述问题域的符号知识库中，使用基于图形的语言进行编码，其中每个逻辑连接符由人工网络中的神经元定义。这允许将一阶公式作为背景知识集成到网络架构中，并简化了从训练网络中提取符号规则。对于这种神经网络的训练，我们改变了Levenderg-Marquardt算法，采用软结晶的方法将知识的传播限制在网络结构中。这个过程降低了神经网络的可塑性，而不会严重损害学习性能，允许出现符号模式。这使得所产生的神经网络的描述能力类似于Jukasiewicz逻辑语言的描述能力，减少了符号结构和连接结构之间的翻译信息损失。我们测试了这种方法从指定的结构中提取知识。对于它，我们提出了模糊状态自动机的概念，我们使用自动机的行为来推断其结构。我们使用这种类型的自动机上指定为符号背景知识的关系模型的生成。
2016-04-11 cs.AI
Knowledge Integration of Collaborative Product Design Using Cloud Computing Infrastructure
University of Siegen（锡根大学）
制造企业成功的关键是可持续的创新产品设计和开发。在协同设计中，利益相关者是异构分布的链式。由于数据和知识量的不断增长，有效地管理产品设计和开发中获得的知识是大多数制造企业面临的关键挑战之一。随着SOA、虚拟化、网格计算和/或云计算等技术的成熟，通过集中知识和计算等资源来提高基于IT的产品设计应用程序的效率和性能的机会在过去几年中有所增加。本文的主要重点是概念正在进行的研究，在提供知识集成服务的协同产品设计和开发使用云计算基础设施。本文描述了云计算通过提供产品设计过程中的知识映射、合并、搜索和传递等功能来支持知识集成功能即服务的潜力。建议的知识集成服务支持用户提供实时访问知识资源。该框架具有可用性，效率，成本降低，更少的时间，结果和可扩展性的优点。
2020-01-16 cs.AI cs.CY
Interpretable Automated Machine Learning in Maana(TM) Knowledge Platform
Maana, Inc.（Maana公司）
机器学习正在成为许多工业应用开发解决方案的重要组成部分，但缺乏可解释性阻碍了快速构建、测试、部署和验证机器学习模型的广泛行业采用，因为开发机器学习解决方案的洞察力没有在结构上编码、合理化和转移。在本文中，我们描述了Maana元学习服务，一个可解释的和交互式的自动机器学习服务驻留在Maana知识平台，执行机器引导，用户辅助管道搜索和超参数调整，并生成结构化的知识的管道分析和选择的决定。该服务随Maana知识平台提供，并使用基准数据集进行验证。此外，它从管道搜索中获取知识的能力促进了各种推理任务，并转移到类似的数据科学项目。
2019-05-06 cs.AI cs.LG
Empowering GraphRAG with Knowledge Filtering and Integration
Michigan State University（密歇根州立大学）；University of Oregon（俄勒冈大学）
针对 GraphRAG 检索噪声及过度依赖外部知识的问题，提出含两阶段过滤与基于 logits 整合选择的 GraphRAG-FI，在多骨干模型的知识图谱问答中显著提升推理性能。
2025-03-18 cs.AI
Multi-modal Integration Analysis of Alzheimer's Disease Using Large Language Models and Knowledge Graphs
International Professional University of Technology in Osaka（大阪国际职业大学）；Chubu University（中部大学）；United Arab Emirates University（阿拉伯联合酋长国大学）
本文提出利用大语言模型与知识图谱在群体层面整合阿尔茨海默病多模态碎片化数据，无需匹配患者ID，发现代谢风险与tau蛋白异常等新关联，并经交叉验证和专家评审证实其稳健性。
2025-05-22 cs.AI cs.LG
OntoMerger: An Ontology Integration Library for Deduplicating and Connecting Knowledge Graph Nodes
AstraZeneca（阿斯利康）；The University of Liverpool（利物浦大学）
节点重复是从异构数据集构建知识图谱（KG）时遇到的常见问题，其中能够合并具有相同含义的节点是至关重要的。OntoMerger是一个Python本体集成库，其功能是消除KG节点的重复。我们的方法需要一组KG节点，映射和断开的层次结构，并生成一组合并的节点与连接的层次结构。此外，该库还提供分析和数据测试功能，可用于微调输入，进一步减少重复，并增加输出图的连通性。OntoMerger可以应用于各种各样的本体和KG。在本文中，我们介绍OntoMerger，并说明其功能在现实世界中的生物医学KG。
2022-06-05 cs.AI cs.LG cs.SC
InfuserKI: Enhancing Large Language Models with Knowledge Graphs via Infuser-Guided Knowledge Integration
Pennsylvania State University（宾夕法尼亚州立大学）；GE Healthcare（GE医疗）；NEC Laboratories America（美国NEC实验室）
针对大语言模型知识密集型任务中知识集成效率低与遗忘风险，提出InfuserKI框架，利用Transformer内部状态引导知识注入，在UMLS-2.5k和MetaQA上分别降低9%和6%的知识遗忘。
2024-12-16 cs.AI cs.CL cs.LG
Evaluation of Pipelines for Data Integration into Knowledge Graphs
ScaDS.AI Dresden/Leipzig（ScaDS.AI 德累斯顿/莱比锡）；Leipzig University（莱比锡大学）
本文提出KGI-Bench基准测试，用于评估将不同输入数据整合到现有知识图谱的管道，通过覆盖度、正确性和一致性三个指标分析输出的知识图谱质量，并在电影领域提供基准数据集以评估12种管道的性能。
2026-05-21 cs.AI cs.DB cs.LG
SIGMA: Search-Augmented On-Demand Knowledge Integration for Agentic Mathematical Reasoning
提出SIGMA框架，通过多智能体独立推理、定向搜索和协调机制，实现上下文敏感的知识集成，在MATH500等基准上提升7.4%的绝对性能。
2026-06-19 cs.AI cs.CL
Logic of Hypotheses: from Zero to Full Knowledge in Neurosymbolic Integration
University of Padua（帕多瓦大学）；Fondazione Bruno Kessler（布鲁诺·科斯勒基金会）；University of Bozen-Bolzano（博赞-博尔扎诺大学）
本文提出LoH语言，结合数据驱动规则学习与符号先验和专家知识，实现神经符号整合的灵活统一，并通过模糊逻辑实现可微计算图编译。
2026-05-15 cs.AI cs.LG cs.LO
KGpipe: Generation and Evaluation of Pipelines for Data Integration into Knowledge Graphs
ScaDS.AI Dresden/Leipzig（ScaDS.AI 德累斯顿/莱比锡）
KGpipe通过整合现有工具和LLM功能，提供数据整合到知识图谱的管道生成与评估框架，展示其灵活性和有效性。
2025-11-23 cs.AI cs.DB cs.LG
Comparing Knowledge Source Integration Methods for Optimizing Healthcare Knowledge Fusion in Rescue Operation
Institute for Knowledge-Based Systems and Knowledge Management（知识基础系统与知识管理研究所）；University of Siegen（施普伦次大学）
本文针对医疗保健领域知识利用的复杂性，基于知识图谱结构提出了多种知识融合概念模型，评估并展示了如何将多种知识源集成到救援行动的知识图谱中以支持关键决策。
2025-10-10 cs.AI
Dynamic Integration of Background Knowledge in Neural NLU Systems
German Research Center for AI（德国人工智能研究中心）；DeepMind（深度思维）
理解自然语言需要常识和背景知识，但在大多数神经自然语言理解（NLU）系统中，这些知识必须在学习期间从训练语料库中获取，然后在测试时是静态的。我们介绍了一种新的架构，在自然语言理解模型的显式背景知识的动态集成。通用阅读模块以自由文本语句（连同任务特定的文本输入）的形式读取背景知识，并将精炼的单词表示产生给任务特定的NLU架构，该NLU架构用这些表示重新处理任务输入。在文档问答（DQA）和文本蕴涵识别（RTE）上的实验证明了该方法的有效性和灵活性。分析表明，我们的模型学习以语义适当的方式利用知识。
2018-08-21 cs.AI cs.CL cs.NE
Improving Language Model Integration for Neural Machine Translation
RWTH Aachen University（亚琛工业大学）
本文将自动语音识别中中和隐式语言模型的思想迁移到机器翻译，以增强外部语言模型融合，并与回译方法进行比较。
2023-06-08 cs.AI cs.CL cs.LG
Towards Trustworthy and Cost-Efficient Data Integration: From Naïve RAG to Agentic RAG
Aalborg University, Denmark（丹麦奥胡斯大学）；Bowling Green State University, USA（美国布恩威尔州立大学）
探讨大语言模型和人工智能智能体在企业数据集成中面临的挑战，介绍从经典RAG到智能体RAG的演变，研究经济高效集成的优化策略，为构建可靠、可解释和可扩展的数据集成系统指明方向。
2026-07-27 cs.AI cs.DB
BioT5: Enriching Cross-modal Integration in Biology with Chemical Knowledge and Natural Language Associations
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；University of Science and Technology of China（中国科学技术大学）；Huazhong University of Science and Technology（华中科技大学）；Microsoft Research（微软研究院）
针对现有生物跨模态模型的分子生成无效、信息利用不足等问题，提出预训练框架BioT5，用SELFIES实现鲁棒分子表示，结合上下文知识并区分结构化与非结构化知识，在多任务上取得优异性能。
2024-01-29 cs.AI cs.CL cs.LG
Unsupervised Neural-Symbolic Integration
The Australian E-Health Research Center, CSIRO（澳大利亚电子健康研究中心，澳大利亚联邦科学与工业研究组织）
符号一直被认为是人类智能的语言，而神经网络具有计算鲁棒性和处理噪声数据的优势。神经-符号的整合可以提供更好的学习和推理，同时通过符号知识的表示提供可解释性的手段。虽然以前的工作集中在有监督的前馈神经网络，很少有人做了无监督的同行。在本文中，我们展示了如何将符号知识集成到无监督神经网络。我们用不同形式的知识来描述我们的方法，包括用于DNA启动子预测的命题逻辑和用于理解家庭关系的一阶逻辑。
2017-06-22 cs.AI
AutoRDF2GML: Facilitating RDF Integration in Graph Machine Learning
ScaDS.AI & TU Dresden（ScaDS.AI与德累斯顿工业大学）；metaphacts GmbH（metaphacts有限公司）；Fujitsu Ltd.（富士通有限公司）
本文提出 AutoRDF2GML 框架，通过自动化提取基于内容和拓扑的特征，将 RDF 数据转换为图机器学习可用的表示，并提供了四个新基准数据集，有效弥合了图机器学习与语义网社区的差距。
2024-07-26 cs.AI cs.IR cs.LG
Markov model with machine learning integration for fraud detection in health insurance
Sri Sathya Sai Institute of Higher Learning（萨提亚赛高等学习学院）
欺诈导致印度医疗保险部门的费用大幅增加。这项工作的目的是提供适用于健康保险欺诈检测的方法。本文提出了两种方法--马尔可夫模型和一种基于梯度提升方法的改进马尔可夫模型。数据集382，587索赔，其中38，082索赔是欺诈性的。基于马尔可夫模型的准确度为94.07%，F1得分为0.6683。然而，改进的马尔可夫模型表现得更好，与97.10%的准确性和F1得分为0.8546。实验结果表明，改进后的马尔可夫模型比马尔可夫模型具有更低的误报率。
2021-02-11 cs.AI cs.LG stat.AP
On the Integration of Spatial-Temporal Knowledge: A Lightweight Approach to Atmospheric Time Series Forecasting
State Key Laboratory of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences（人工智能安全国家重点实验室，计算技术研究所，中国科学院）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出轻量级模型 STELLA，仅用时空位置嵌入和MLP替代Transformer，以1万参数和1小时训练在5个数据集上超越先进方法，证明时空知识整合优于复杂架构。
2025-09-24 cs.AI cs.LG physics.ao-ph
iFuzz-Meta: An Interpretable Fuzzy Learning Framework Bridging Top-Down and Bottom-Up Knowledge Integration
Australian AI Institute（澳大利亚人工智能研究所）；University of Technology Sydney（悉尼科技大学）
本文提出iFuzz-Meta可解释模糊学习框架，结合元学习与知识引导正则化实现知识融合，实验验证其具备可解释推理与稳定跨领域泛化能力，为可解释模糊系统提供通用路径。
2026-08-18 cs.AI cs.HC cs.LG
Machine Learning Model Integration with Open World Temporal Logic for Process Automation
Syracuse University（苏塞克斯大学）；Arizona State University（亚利桑那州立大学）
本文提出将机器学习模型与PyReason框架整合，以提升复杂流程自动化的决策能力和可解释性。
2026-01-07 cs.AI cs.LG cs.LO
Domain Knowledge Integration By Gradient Matching For Sample-Efficient Reinforcement Learning
无模型深度强化学习（RL）代理可以直接从与黑箱环境的重复交互中学习有效的策略。然而，在实践中，算法往往需要大量的训练经验来学习和推广。此外，经典的无模型学习忽略了状态转换元组中包含的域信息。另一方面，基于模型的强化学习试图从经验中学习环境模型，并且具有更高的样本效率，但由于不完美的动力学模型而遭受显著大的渐近偏差。在本文中，我们提出了一种梯度匹配算法，以提高样本效率，利用目标斜率信息的动态预测器，以帮助无模型学习。我们证明了这一点，提出了一种技术，用于匹配的梯度信息，从基于模型的学习与无模型的组件在一个抽象的低维空间，并验证所提出的技术，通过实验结果表明这种方法的有效性。
2020-05-28 cs.AI cs.LG stat.ML
Enhancing Cache-Augmented Generation (CAG) with Adaptive Contextual Compression for Scalable Knowledge Integration
Data Science（数据科学）；Marketing Data Scientist（市场数据科学家）
针对CAG难以扩展至大型动态知识库的问题，提出ACC动态压缩管理上下文，并结合选择性检索构建混合CAG-RAG框架，提升效率、可扩展性与多跳推理能力。
2025-05-13 cs.AI cs.CL
Pyramid-Driven Alignment: Pyramid Principle Guided Integration of Large Language Models and Knowledge Graphs
Panasonic Connect（松下互联）
本文提出金字塔驱动的对齐框架PDA，通过金字塔原理构建层次结构并利用递归机制挖掘知识图谱推理能力，实现LLM与KG更紧密集成，在问答任务上显著超越现有方法。
2024-10-17 cs.AI cs.CL
Enhancing Financial Inclusion and Regulatory Challenges: A Critical Analysis of Digital Banks and Alternative Lenders Through Digital Platforms, Machine Learning, and Large Language Models Integration
本文批判性分析数字银行与替代贷款机构通过数字平台、机器学习和LLM整合对金融包容性的双重影响及监管挑战，提出协调创新与风险管理的政策建议。
2024-04-18 cs.AI
Dynamic Knowledge Integration for Evidence-Driven Counter-Argument Generation with Large Language Models
HiTZ Center - Ixa, University of the Basque Country UPV/EHU（巴斯克大学HiTZ中心）
本研究提出通过动态外部知识整合增强大语言模型的反驳论证生成，并引入新数据集与LLM评审方法，实验证明该方法能显著提升生成内容的相关性、说服力和事实性。
2025-06-20 cs.AI cs.CL
Categorical semiotics: Foundations for Knowledge Integration
SolidReturn Lda（SolidReturn 有限公司）；Instituto Superior de Engenharia de Lisboa（里斯本高等工程学院）
本文提出一种基于埃雷斯曼草图式图形结构和模糊集解释的扩展代数规格说明框架，以统一描述确定性与非确定性深度学习架构，并实现跨模型、跨领域的知识整合。
2024-04-01 cs.AI
EC-KitY: Evolutionary Computation Tool Kit in Python with Seamless Machine Learning Integration
Ben-Gurion University of the Negev（本-古里安内盖夫大学）
本文介绍EC-KitY这一兼容scikit-learn的Python进化计算库，它支持遗传算法、遗传编程、协同进化等多种范式，并概述其架构、功能及与其他库的比较。
2023-04-19 cs.AI cs.NE
The Integration of Connectionism and First-Order Knowledge Representation and Reasoning as a Challenge for Artificial Intelligence
一方面基于一阶逻辑的智能系统，另一方面基于人工神经网络（也称为连接主义系统）的智能系统，有很大的不同。将鲁棒的神经网络机器与符号知识表示和推理范例（如逻辑编程）以这样的方式组合将是非常期望的，即，将保留任一范例的优点。然而，目前最先进的研究远远未能实现这一最终目标。作为要克服的主要障碍之一，我们认识到的问题是如何符号知识可以通过连接系统编码：满意的答案，这将自然导致知识提取算法和集成的神经符号系统。
2004-08-31 cs.AI cs.LO cs.NE
Co2In: a Bi-level Memory Incremental Learning Framework with Knowledge Encoding, Consolidation, and Integration
Beijing Jiaotong University（北京交通大学）；Nanyang Technological University（南洋理工大学）；Wuyi University（武夷学院）
受人类记忆机制启发，提出双层记忆架构的Co2In框架，通过编码、巩固、整合实现增量学习的可塑性与稳定性平衡，在三类数据集的两种设置下取得高效内存的最优性能。
2026-10-16 cs.AI
Precision Radiotherapy via Information Integration of Expert Human Knowledge and AI Recommendation to Optimize Clinical Decision Making
University of Michigan（密歇根大学）；H. Lee Moffitt Cancer Center & Research Institute（H·李·莫菲特癌症中心与研究所）
在精准医学时代，对精准放射治疗的需求日益增长，其中需要通过考虑大量患者特定信息来最佳地确定计划的辐射剂量，以确保治疗效果。现有的人工智能（AI）方法可以在这些可用信息的范围内推荐辐射剂量处方。然而，由于已知的限制，或者当AI建议可能超出医生的现有知识时，治疗医生可能不会完全委托AI推荐的处方。本文提出了一种系统的方法，将人类专家知识与人工智能建议相结合，以优化临床决策。为了实现这一目标，将高斯过程（GP）模型与深度神经网络（DNN）集成，以分别量化医生和AI建议给出的治疗结果的不确定性，这些不确定性进一步用作指导临床医生和提高AI模型性能的指南。所提出的方法在一个全面的数据集中得到了证明，在该数据集中，前瞻性地收集了$67$非小细胞肺癌患者放疗期间的患者特定信息和治疗结局，并进行了回顾性分析。
2022-02-09 cs.AI cs.LG stat.ML
The Integration of Semantic and Structural Knowledge in Knowledge Graph Entity Typing
The Chinese University of Hong Kong（香港中文大学）
针对知识图谱实体类型划分任务忽视语义知识及假阴性问题，提出融合语义与结构知识的SSET框架，通过语义编码、结构聚合和无监督重排三模块显著提升预测性能。
2024-04-12 cs.AI cs.CL
Cross-Domain Data Integration for Named Entity Disambiguation in Biomedical Text
Stanford University（斯坦福大学）；Apple（苹果公司）
命名实体消歧（NED）涉及将文本提及映射到结构化实体，由于稀有实体的存在，在医学领域中特别具有挑战性。现有的方法受到生物医学知识库中粗粒度结构资源的存在以及训练数据集的使用的限制，这些训练数据集提供了对不常见资源的低覆盖率。在这项工作中，我们解决这些问题，提出了一个跨领域的数据集成方法，将结构知识从一般的文本知识库的医疗领域。我们利用我们的集成方案来增加结构资源，并生成一个大型的生物医学NED数据集进行预训练。我们注入结构知识的预训练模型在两个基准医学NED数据集上实现了最先进的性能：MedMentions和BC5CDR。此外，我们将稀有实体的消歧提高了57个准确点。
2021-10-15 cs.AI cs.CL
Modality-Aware Integration with Large Language Models for Knowledge-based Visual Question Answering
The Hong Kong Polytechnic University（香港理工大学）；Rice University（莱斯大学）
针对KVQA中LLM幻觉及多知识源难对齐问题，提出MAIL框架，通过两阶段提示、耦合概念图与伪孪生图媒介融合实现高效多模态推理，并以少24倍资源取得基准优势。
2024-03-03 cs.AI cs.CL cs.CV
Knowledge Integration for Physics-informed Symbolic Regression Using Pre-trained Large Language Models
Department of Computing Jonkoping University（乔恩考普大学计算机系）；Department of Information Science University of Haifa（海法大学信息科学系）
针对物理启发符号回归依赖人工特征工程、适配性有限的问题，提出将预训练大语言模型融入符号回归损失函数的方法，经多算法多模型多物理场景验证，可提升方程重建效果与抗噪鲁棒性，且提示工程可进一步优化性能。
2025-09-03 cs.AI cs.IR cs.LG
Towards Semantic Integration of Heterogeneous Sensor Data with Indigenous Knowledge for Drought Forecasting
Central University of Technology（中央理工大学）
在物联网（IoT）领域，各种异构无处不在的设备将能够无缝地相互连接和通信，而不管域。通过详细的标准化注释的数据的语义表示已被证明可以提高互连的异构设备的集成。然而，这些异构数据源的环境监测系统的语义表示还没有得到很好的支持。为了实现物联网在干旱预测中的最大效益，需要一个专用的语义中间件解决方案。本研究提出了一种中间件，语义表示和集成异构数据源与土著知识的基础上，一个准确的基于物联网的干旱预警系统（DEWS）的统一本体。
2016-01-08 cs.AI cs.NI cs.SE
Machine Learning with World Knowledge: The Position and Survey
Hong Kong University of Science and Technology（香港科技大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
机器学习已经在多个领域变得普遍，影响了各种各样的应用，例如知识发现和数据采掘、自然语言处理、信息检索、计算机视觉、社会和健康信息学、普适计算等。机器学习的两个基本问题是如何生成特征和如何获取标签以供机器学习。特别是，为每个特定领域的问题标记大量数据可能非常耗时且成本高昂。它已经成为使学习协议在应用中变得现实的一个关键障碍。在本文中，我们将讨论如何使用现有的通用世界知识来增强机器学习过程，通过丰富的功能或减少标记工作。本文从世界知识与领域知识的比较入手，介绍了在学习过程中运用世界知识的三个关键问题，即：显式和隐式特征表示、用于知识链接和消歧的推理以及在直接或间接监督下的学习。最后，我们讨论了未来的研究方向。
2017-05-08 cs.AI cs.LG stat.ML
Multi-Omic and Quantum Machine Learning Integration for Lung Subtypes Classification
Purdue University（普渡大学）；Purdue Quantum Science and Engineering Institute（普渡量子科学与工程研究所）；North Carolina State University（北卡罗来纳州立大学）
本文提出利用量子机器学习整合多组学数据并进行特征选择，以实现肺鳞状细胞癌和肺腺癌两种肺癌亚型的诊断分类，并开发了寻找最佳区分特征的方法，具有生物标志物发现潜力。
2024-10-02 cs.AI cs.LG q-bio.GN
CSKG: The CommonSense Knowledge Graph
Information Sciences Institute, University of Southern California（南加州大学信息科学研究所）
常识知识的来源支持自然语言理解、计算机视觉和知识图谱中的应用。鉴于它们的互补性，它们的一体化是可取的。然而，它们的不同焦点，建模方法和稀疏重叠使集成变得困难。在本文中，我们巩固常识知识以下五个原则，我们应用到七个关键来源结合成第一个综合常识知识图谱（CSGG）。我们分析了CSGG及其各种文本和图形嵌入，表明CSGG是连接良好的，它的嵌入提供了一个有用的入口点的图形。我们展示了CSGG如何为可推广的下游推理和语言模型的预训练提供证据。CSGG及其所有嵌入都是公开的，以支持对常识知识集成和推理的进一步研究。
2021-03-23 cs.AI cs.SI
A new soft computing method for integration of expert's knowledge in reinforcement learn-ing problems
Sharif University of Technology（谢里夫理工大学）；Iran University of Science and Technology（伊朗科技大学）；Ferdowsi University of Mashhad（马什哈德菲尔多西大学）
本文提出了一种新的模糊动作选择方法，利用人类知识的强化学习问题。基于对当前动作-状态值的估计，提出的模糊非线性映射将动作集合中的每个成员分配给其在下一步中被选择的概率。引入用户可调参数来控制动作选择策略，该策略决定了Agent在整个学习过程中的贪婪行为。该参数类似于softmax动作选择策略中的温度参数的作用，但是其调整过程可以更加面向知识，因为该参数通过在模糊规则库中进行修改来将人类知识反映到学习代理中。仿真结果表明，包括模糊逻辑内的强化学习在所提出的方式提高了学习算法的收敛速度，并提供优越的性能。
2021-06-13 cs.AI cs.RO
Reinforcement Learning Approach for Integrating Compressed Contexts into Knowledge Graphs
University of California, Davis（加州大学戴维斯分校）；Vanderbilt University（范德堡大学）；Georgia Institue of Technology（佐治亚理工学院）
本研究提出基于深度Q网络的强化学习方法，将上下文整合到知识图谱中，实验证明其在标准数据集上优于传统方法，实现精确整合。
2024-04-19 cs.AI
Towards Diverse Device Heterogeneous Federated Learning via Task Arithmetic Knowledge Integration
Czech Technical University in Prague（布拉格捷克理工大学）；University of California San Diego (UCSD)（加州大学圣迭戈分校）；University of Central Florida (UCF)（中佛罗里达大学）
针对异构设备联邦学习中知识转移困难的问题，提出基于知识蒸馏的 TAKFL 框架，将各设备集成知识视为独立任务进行蒸馏，并结合自适应任务算术知识集成与自正则化技术，在 CV 和 NLP 任务上显著优于现有方法。
2024-11-11 cs.AI cs.CV cs.DC
Fact Grounded Attention: Eliminating Hallucination in Large Language Models Through Attention Level Knowledge Integration
Aayush Gupta（独立研究者）
针对大语言模型易产生事实幻觉的问题，提出事实锚定注意力（FGA）架构，通过在Transformer注意力分数层注入可验证知识，在多领域技术查询实验中大幅提升准确率，且知识更新无需重训、耗时极短，实现可验证事实的幻觉彻底消除。
2026-09-21 cs.AI
Prompting is not Enough: Exploring Knowledge Integration and Controllable Generation
University of Science and Technology of China（中国科学技术大学）；Computer Network Information Center, Chinese Academy of Sciences（中国科学院计算机网络信息中心）；Chinese Academy of Sciences（中国科学院）；BOSS Zhipin Career Science Lab（BOSS智联招聘科研实验室）
针对开放域问答中知识整合与可控生成两大挑战，提出GenKI框架，通过检索增强微调与基于文本一致性的集成实现可控生成，在多个数据集上验证有效性。
2025-10-27 cs.AI cs.CL
Neural-Symbolic Computing: An Effective Methodology for Principled Integration of Machine Learning and Reasoning
UFRGS（南里奥格兰德联邦大学）；FBK（布鲁诺·凯斯勒基金会）；Sony Japan（索尼日本）
目前人工智能和机器学习，特别是深度学习的进展不仅在研究界，而且在流行的媒体渠道上都产生了前所未有的影响。然而，有影响力的思想家提出了对人工智能的可解释性和问责制的担忧。尽管人工智能最近的影响，一些工作已经确定了与基于深度学习的系统集成的原则性知识表示和推理机制的需要，以提供合理和可解释的模型，这样的系统。正如Valiant所预见的那样，神经符号计算的目标是整合两种最基本的认知能力：从环境中学习的能力，以及从所学到的东西中推理的能力。神经符号计算是一个活跃的研究课题，多年来，调和的优势，强大的学习神经网络和推理和解释的符号表示。在本文中，我们调查最近的成就，神经符号计算作为一个原则性的方法集成机器学习和推理。我们通过概述方法的主要特征来说明该方法的有效性：神经学习与符号知识表示和推理的原则性整合，允许构建可解释的人工智能系统。神经符号计算提供的见解为可解释和可问责的人工智能系统日益突出的需求提供了新的启示。
2019-05-15 cs.AI
Knowledge Tracing Machines: Factorization Machines for Knowledge Tracing
RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；Kyoto University（京都大学）
知识追踪是一个序列预测问题，其目标是预测学生在与学习平台交互时对问题的结果。通过跟踪一些学生知识的演变，可以优化教学。现有的方法要么是基于时间潜变量模型，或因素分析的时间特征。我们在这里表明，因子分解机（FM），回归或分类模型，包括几个现有的模型在教育文献中的特殊情况下，特别是添加剂因子模型，性能因子模型，和多维项目反应理论。我们表明，使用几个真实的数据集的成千上万的用户和项目，FM可以准确和快速地估计学生的知识，即使学生的数据是稀疏观察，并处理边信息，如多个知识组件和尝试次数在项目或技能水平。我们的方法允许适应比现有模型更高维度的学生模型，并提供了一个测试平台来尝试新的功能组合，以改善现有模型。
2018-11-15 cs.AI cs.IR cs.LG
MultiDx: A Multi-Source Knowledge Integration Framework towards Diagnostic Reasoning
Xi’an Jiaotong University（西安交通大学）；City University of Hong Kong（香港城市大学）；Tencent Jarvis Lab（腾讯 Jarvis实验室）；Westlake University（西湖大学）
本文提出MultiDx框架，通过多源知识整合提升诊断推理能力，结合网络搜索、病例数据库等多视角证据，生成最终预测。
2026-04-27 cs.AI cs.CL
A Neuro-Symbolic Multi-Agent Approach to Legal-Cybersecurity Knowledge Integration
Department of Control and Computer Engineering, Politecnico di Torino, Italy（控制与计算机工程系，托斯卡纳理工学院）；Department of Computer Science, Università di Torino, Italy（计算机科学系，托斯卡纳大学）；School of Computing and Communications, Lancaster University, UK（计算与通讯学院，兰卡斯特大学）；School of Computing, George Mason University, USA（计算学院，乔治·马歇尔大学）
针对网络安全与法律交叉领域的信息复杂性和知识鸿沟，提出一种神经符号多智能体方法，初步实现智能系统导航网络法律领域，并在多语言任务上取得有前景的结果。
2025-10-27 cs.AI cs.CL cs.CR
Integration of the DOLCE top-level ontology into the OntoSpec methodology
这份报告描述了一个新版本的OntoSpec方法本体建设。OntoSpec由LaRIA知识工程团队（法国亚眠的皮卡第儒勒凡尔纳大学）定义，旨在帮助构建者对本体知识进行建模（正式表示的上游）。该方法依赖于一套严格定义的建模原语和原则。它的应用导致了一个半非正式的本体，这是独立的知识表示语言的阐述。我们最近丰富了OntoSpec方法，赋予它一个新的资源，DOLCE顶级本体定义在LOA（IST-CNR，特伦托，意大利）。这种集成的目标是为建模者提供额外的帮助，以构建应用程序本体，同时保持独立于正式表示语言。在这份报告中，我们首先提供了OntoSpec方法的一般原则的概述，然后描述了DOLCE重新设计过程。DOLCE-OS的完整版本（即半非正式OntoSpec语言的DOLCE规范）在附录中给出。
2005-10-18 cs.AI
iASiS Open Data Graph: Automated Semantic Integration of Disease-Specific Knowledge
Institute of Informatics and Telecommunications, NCSR Demokritos（国家科学研究中心德谟克利特信息学与电信研究所）；School of Informatics, Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学信息学院）；Department of Informatics and Telecommunications, National and Kapodistrian University of Athens（雅典国立卡波迪斯特里亚大学信息学与电信系）
在生物医学研究中，统一获取最新的特定领域知识至关重要，因为这些知识在科学文献和结构化资源中不断积累。识别和提取特定信息是一项具有挑战性的任务，知识库的计算分析在这方面可能很有价值。然而，对于特定疾病的分析，研究人员通常需要编译自己的数据集，整合来自不同资源的知识，或重用现有的数据集，这些数据集可能已经过时。在这项研究中，我们提出了一个框架，自动检索和整合疾病特定的知识到一个最新的语义图，iASiS开放数据图。该疾病特异性语义图以概念关系和属性的形式提供对与特定概念及其各个方面相关的知识的访问。所提出的方法是作为一个开源的框架，并适用于三种疾病（肺癌，痴呆症和杜氏肌营养不良症）。示例性查询，调查这种自动生成的语义图作为检索和分析疾病特异性知识的基础的潜力。
2020-06-02 cs.AI cs.CL cs.IR
