Deep Knowledge-Infusion For Explainable Depression Detection
National Institute of Technology Kurukshetra（库鲁克谢特拉国家理工学院）
本文提出知识注入神经网络KiNN，融合抑郁症领域本体DFO和常识知识COMET，在提升检测性能的同时为临床医生提供用户级可解释性，并在多个数据集上优于MentalBERT等基线模型。
2024-09-01 cs.AI cs.CL cs.LG
KI-BERT: Infusing Knowledge Context for Better Language and Domain Understanding
Embibe；University of South Carolina（南卡罗来纳大学）
由最先进的基于转换器的语言模型（TLM）（如BERT、GPT、T5等）学习的上下文实体表示，利用注意力机制从训练数据语料库中学习数据上下文。然而，这些模型不使用知识背景。知识上下文可以理解为知识图谱中实体及其与相邻实体之间关系的语义。我们提出了一种新的和有效的技术，注入知识上下文从多个知识图谱的概念和模糊的实体到TLM在微调。该算法将知识图谱嵌入到齐次向量空间中，为实体引入新的标记类型，对齐实体位置ID，并引入选择性注意力机制。我们以BERT为基准模型，通过注入ConceptNet和WordNet中的知识上下文实现了“知识注入的BERT”，在GLUE基准测试的8个不同子任务上，该模型的性能明显优于BERT和其他最近的知识感知BERT变体，如ERNIE，SenseBERT和BERT_CS。KI-BERT-base模型甚至在特定领域的任务（如SciTail和QQP、QNLI和MNLI的学术子集）上的表现明显优于BERT-large。
2021-09-03 cs.AI cs.CL cs.LG
Knowledge Infused Policy Gradients with Upper Confidence Bound for Relational Bandits
University of South Carolina（南卡罗来纳大学）
上下文Bandits在各种现实生活场景中发现了重要的用例，例如在线广告，推荐系统，医疗保健等。然而，大多数算法使用平面特征向量来表示上下文，而在现实世界中，有不同数量的对象和它们之间的关系在上下文中建模。例如，在音乐推荐系统中，用户上下文包含他们听的音乐，哪些艺术家创作了这种音乐，艺术家专辑等。添加更丰富的关系上下文表示也引入了更大的上下文空间，使探索-利用变得更加困难。为了提高探索-利用的效率，可以注入关于上下文的知识来指导探索-利用策略。关系上下文表示允许人类以自然的方式指定知识，由于其描述性的性质。我们提出了一个适应知识注入策略梯度上下文的强盗设置和一个新的知识注入策略梯度置信上限算法，并进行了实验分析的模拟音乐推荐数据集和各种现实生活中的数据集，专家知识可以大大减少总遗憾，它不能。
2021-06-25 cs.AI cs.LG
Reason first, then respond: Modular Generation for Knowledge-infused Dialogue
ETH Zürich（苏黎世联邦理工学院）；Facebook AI Research（Facebook人工智能研究院）
大语言模型可以产生流畅的对话，但经常会产生事实不准确的幻觉。虽然检索增强模型有助于缓解这个问题，但它们仍然面临着同时推理以提供正确知识和生成对话的困难挑战。在这项工作中，我们提出了一个模块化的模型，知识响应（K2R），将知识转化为会话代理，它将这个问题分解为两个更容易的步骤。K2R首先生成一个知识序列，给定一个对话上下文，作为一个中间步骤。在这个“推理步骤”之后，模型然后处理自己生成的知识序列以及对话上下文，以产生最终的响应。在详细的实验中，我们发现，这样的模型幻觉较少知识为基础的对话任务，并在可解释性和模块化方面的优势。特别是，它可以用来融合QA和对话系统在一起，使对话代理，以提供知识渊博的答案，或QA模型，以提供会话响应中的zero-shot设置。
2021-11-09 cs.AI cs.CL cs.LG
Knowledge Infused Decoding
Dartmouth College（达特茅斯学院）；Microsoft（微软）；Northwestern University（西北大学）
预训练的语言模型（LM）已经被证明可以从预训练语料库中记住大量的知识;然而，它们在给定特定上下文的情况下仍然受限于回忆事实上正确的知识。因此，当用于知识密集型自然语言生成（NLG）任务时，它们往往会遭受反事实或幻觉生成。最近的补救措施，这个问题的重点是修改预训练或任务微调目标，以纳入知识，这通常需要额外的昂贵的培训或架构修改LM的实际应用。我们提出了知识注入解码（KID）-一种新的解码算法生成LM，动态注入外部知识到LM解码的每一步。具体来说，我们保持一个本地知识记忆的基础上，当前的背景下，与动态创建的外部知识trie进行交互，并不断更新本地存储器作为知识感知的约束，以指导解码通过强化学习。在六个不同的知识密集型NLG任务上，任务不可知的LM（例如，GPT-2和BART）配备KID的性能优于许多任务优化的最先进的模型，并显示出特别强大的性能在Few-Shot的情况下超过七个相关的知识注入技术。人工评估证实，与多个基线相比，KID能够为输入上下文生成更相关和更真实的语言。最后，KID还消除了曝光偏差，并在生成较长序列时提供稳定的生成质量。KID代码可在https://github.com/microsoft/KID上获得。
2022-04-06 cs.AI cs.CL cs.LG
KSAT: Knowledge-infused Self Attention Transformer -- Integrating Multiple Domain-Specific Contexts
University of Maryland Baltimore County（马里兰大学巴尔的摩县分校）
提出知识注入的自注意力Transformer（KSAT），通过专用自注意力层引入外部知识引导偏置，实现多领域上下文整合，在可解释性和性能上均优于微调基线。
2023-06-24 cs.AI cs.CL
Neuro-Symbolic Procedural Planning with Commonsense Prompting
University of California, Santa Barbara（加州大学圣巴巴拉分校）；University of California, Santa Cruz（加州大学圣克鲁兹分校）
程序计划旨在通过分解成顺序的简单低级别步骤来实现复杂的高级别目标。尽管过程规划是人类日常生活中的一项基本技能，但对于缺乏对过程中因果关系的深刻理解的大语言模型（LLM）来说，它仍然是一个挑战。先前的方法需要手动样本来从zero-shot设置中的LLM获取程序规划知识。然而，LLM中的这种引发的预训练知识会导致目标和步骤之间的虚假相关性，从而损害模型对看不见的任务的泛化。相比之下，本文提出了一种神经符号程序规划器（ESTA），从常识注入提示LLM的程序规划知识。为了减轻虚假的目标步骤的相关性，我们使用符号程序执行器的潜在的程序表示形式化提示从常识知识库的因果干预结构因果模型。WikiHow和RobotHow上的自动和人工评估都显示了在没有进一步培训或手动范例的情况下，机器人程序规划的优越性。
2023-02-16 cs.AI cs.CL cs.LG
On the incorporation of interval-valued fuzzy sets into the Bousi-Prolog system: declarative semantics, implementation and applications
University of the Bío-Bío（比奥比奥大学）；University of Dundee（邓迪大学）；Universidade de Santiago de Compostela（圣地亚哥德孔波斯特拉大学）
在本文中，我们分析的好处，将区间值模糊集的Bousi-Prolog系统。语法，声明性语义和实现此扩展，并提出和形式化。我们表明，通过使用潜在的应用程序，模糊逻辑编程框架与他们增强，可以正确地与词汇资源和本体一起工作，以提高他们的知识表示和推理的能力。
2017-11-08 cs.AI cs.CL cs.PL
Process Knowledge-infused Learning for Suicidality Assessment on Social Media
University of South Carolina（南卡罗来纳大学）；Artificial Intelligence Institute（人工智能研究所）
提高深度学习算法的性能和自然语言解释是人类在现实世界中采用的优先事项。在医疗保健等多个领域，这种技术具有巨大的潜力，可以通过大规模提供高质量的帮助来减轻人类的负担。然而，目前的方法依赖于从数据中预测标签的传统管道，因此完全忽略了用于获得标签的过程和指南。此外，使用可解释AI（XAI）模型对数据进行事后解释以标记预测，虽然计算机科学家对此感到满意，但由于缺乏对人类可理解概念的过程的解释，最终用户仍有很多需要改进的地方。我们提出了\textit{introduce}、\textit{formalize}和\textit{develop}一种新的人工智能（A）范式--过程知识注入学习（PK-iL）。PK-iL利用结构化的过程知识，明确解释了对最终用户有意义的潜在预测过程。定性人类评价通过0.72的注释者一致性证实，人类理解预测的解释。PK-iL的性能也与最先进的（SOTA）基线具有竞争力。
2022-04-26 cs.AI cs.LG
CrisisKAN: Knowledge-infused and Explainable Multimodal Attention Network for Crisis Event Classification
Indian Institute of Technology Jodhpur（印度理工学院焦特布尔分校）
本文提出CrisisKAN，一种融合Wikipedia外部知识、引导式交叉注意力与Grad-CAM可解释性的多模态危机事件分类网络，在CrisisMMD数据集上超越现有SOTA方法。
2024-01-11 cs.AI cs.CL cs.LG
TimeMKG: Knowledge-Infused Causal Reasoning for Multivariate Time Series Modeling
本文提出TimeMKG框架，通过大语言模型与多变量知识图谱融合变量语义和时序统计信息，以跨模态注意力注入因果先验，从而提升多变量时间序列预测与分类的性能和泛化能力。
2025-08-15 cs.AI cs.LG
Navigating Healthcare Insights: A Birds Eye View of Explainability with Knowledge Graphs
Hajim School of Engineering and Applied Sciences, University of Rochester（罗切斯特大学哈吉米工程与应用科学学院）；College of Engineering and Applied Sciences, University at Albany, State University of New York（纽约州立大学奥尔巴尼分校工程与应用科学学院）；Deloitte LLC（德勤有限责任公司）
本文综述知识图谱在医疗AI中的应用，梳理其构建、关系抽取与推理流程及在药物相互作用等场景的可解释性价值，并指出挑战与未来方向。
2023-09-28 cs.AI cs.LG
Knowledge-Infused Prompting: Assessing and Advancing Clinical Text Data Generation with Large Language Models
Emory University（埃默里大学）；Georgia Institute of Technology（佐治亚理工学院）
本文提出知识增强的临床文本生成方法ClinGen，通过临床知识提取与上下文感知提示，利用外部知识图谱指导合成数据生成，在7个任务和16个数据集上有效提升了性能并丰富了数据多样性。
2025-01-24 cs.AI cs.CL cs.LG
Knowledge Infused Policy Gradients for Adaptive Pandemic Control
Artificial Intelligence Institute, University of South Carolina（南卡罗来纳大学人工智能研究所）
COVID-19对各国的影响因其政策实施而异。有效的政策需要考虑到公共信息和对新知识的适应性。为了解COVID-19而建立的流行病学模型很少能为政策制定者提供适应性流行病控制（APC）的能力。需要克服的核心挑战包括：（a）无法处理大流行时间轴上不同促成特征的高度非同质性;（b）缺乏能够适应性地纳入公共卫生专家知识的方法;（c）能够在提出政策时理解决策过程的透明模型。在这项工作中，我们采取的早期步骤，以解决这些挑战，使用知识注入策略梯度（KIPG）的方法。关于知识灌输的先前工作不处理在疾病信息和指南中必须遵守的不同形式的知识的软和硬强加。此外，该模型不参加非同质性的特征计数，表现为部分可观察性通知的政策。此外，可解释结构是在学习后提取的，而不是学习APC所需的可解释模型。为此，我们介绍了一个数学框架KIPG方法，可以（a）诱导相关的特征计数在世界的多关系特征，（b）处理潜在的非齐次计数作为隐藏变量，是线性组合的核聚合的功能，（b）注入知识作为功能约束的原则性方式。本研究建立了硬、软约束的理论，并通过实验进行了模拟。与知识密集型基线相比，我们展示了快速样本对新知识的有效适应性和学到的政策的可解释性，特别是在大流行的背景下。
2021-02-11 cs.AI cs.LG
Experience and Evidence are the eyes of an excellent summarizer! Towards Knowledge Infused Multi-modal Clinical Conversation Summarization
Indian Institute of Technology, Patna（印度理工学院巴特那分校）；Indian Institute of Technology, Bombay（印度理工学院孟买分校）；All India Institute of Medical Sciences, Rishikesh（全印医学科学学院瑞诗凯诗分院）
本文提出多模态临床对话摘要任务及知识注入的多任务框架 MM-CliConSummation，并构建带意图、症状和摘要标注的语料库，验证视觉信息、知识注入及科室识别的作用。
2023-09-27 cs.AI cs.CL
Just KIDDIN: Knowledge Infusion and Distillation for Detection of INdecent Memes
IIIT Hyderabad；Georgia State University（佐治亚州立大学）
本文提出了一种结合知识蒸馏与注入的框架，用于提升有害表情包检测的性能，通过整合大规模知识图谱和视觉语言模型，实现更准确的毒性识别。
2026-02-16 cs.AI cs.CL cs.CV
Triples and Knowledge-Infused Embeddings for Clustering and Classification of Scientific Documents
Home Lab, Galway, Ireland（爱尔兰加里维尔家庭实验室）
本文研究三元组知识是否提升科学论文的聚类和分类性能，通过四种文档表示方法评估了四种嵌入模型，发现纯摘要表现最佳，三元组添加未必有益，结果为知识增强模型的应用提供了指导。
2026-04-20 cs.AI cs.CL cs.DL
Process Knowledge-infused Learning for Clinician-friendly Explanations
Artificial Intelligence Institute, University of South Carolina（南卡罗来纳大学人工智能研究所）；University of Maryland, Baltimore County（马里兰大学巴尔的摩分校）
针对语言模型用于社交媒体心理健康评估时缺乏临床诊断流程对照、解释不友好的问题，提出过程知识注入学习PK-iL范式，叠加临床过程知识生成临床医生友好型解释，实验验证其一致性优于现有XAI方法，并发布自杀倾向评估新数据集。
2023-06-16 cs.AI cs.CL
mRNA Design and Optimization with Deep Knowledge-Infused Approach
Tsinghua University（清华大学）；Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生院）
该研究提出知识注入型Transformer模型RNop，通过整合机制对齐损失函数，解决了mRNA优化的“不可能三角”，实现高序列保真度与生物表达增益，且具备可扩展性与可解释性。
2026-09-01 cs.AI cs.LG q-bio.QM
Process Knowledge-Infused AI: Towards User-level Explainability, Interpretability, and Safety
AI Institute, University of South Carolina（南卡罗来纳大学人工智能研究所）
人工智能系统已被广泛应用于现实世界的各个领域。然而，在高价值、敏感或安全关键的应用中，例如用于个性化健康的自我管理或具有特定目的的食物推荐（例如，过敏意识食谱建议），它们的采用是不太可能的。首先，人工智能系统需要遵循专家制定的指导方针或明确定义的流程;仅凭数据是不够的。例如，为了诊断抑郁症的严重程度，精神卫生保健提供者使用患者健康问卷（PHQ-9）。因此，如果人工智能系统用于诊断，则需要使用PHQ-9所暗示的医疗指南。同样，营养学家的知识和步骤也需要用于指导糖尿病患者制定食物计划的人工智能系统。其次，当前许多人工智能系统典型的黑盒性质将无法工作;人工智能系统的用户需要能够给出用户可理解的解释，解释使用人类可以理解和熟悉的概念构建。这是激发对AI系统的信心和信任的关键。对于这样的应用程序，除了数据和领域知识之外，人工智能系统还需要访问和使用流程知识，这是人工智能系统需要使用或遵守的一组有序步骤。
2022-06-09 cs.AI cs.CL
Knowledge Graph Fusion for Language Model Fine-tuning
University of Witwatersrand（金山大学）；University of Johannesburg（约翰内斯堡大学）；Institute for Intelligent Systems（智能系统研究所）
诸如BERT之类的语言模型由于其能够进行预训练并在广泛的自然语言处理任务上稳健地执行而越来越受欢迎。通常被视为对传统词嵌入技术的进化，它们可以产生文本的语义表示，对语义相似性等任务很有用。然而，最先进的模型通常具有高的计算要求，并且缺乏完整的语言理解所需的全局上下文或领域知识。为了解决这些限制，我们调查的好处知识纳入微调阶段的BERT。现有的K-BERT模型，它丰富的句子与三胞胎从知识图谱，适用于英语语言和扩展到注入上下文相关的信息到句子。作为一个副作用，对K-BERT进行的适应英语语言的更改也扩展到其他基于单词的语言。进行的实验表明，注入的知识引入噪声。当这种噪音被最小化时，我们看到知识驱动的任务在统计上有显著的改善。我们的证据表明，适当的任务，适度注入相关的，高质量的知识是最有效的。
2022-06-21 cs.AI cs.CL cs.LG
Probabilistic Box Embeddings for Uncertain Knowledge Graph Reasoning
UMass Amherst（马萨诸塞大学阿默斯特分校）；USC（南加州大学）；Information Sciences Institute, USC（南加州大学信息科学研究所）；UCLA（加州大学洛杉矶分校）
知识库通常由从各种来源收集的事实组成，其中许多是嘈杂的，其中一些是冲突的，导致每个三元组的不确定性水平。知识库也往往是不完整的，促使使用嵌入方法从已知的事实进行归纳，然而，现有的嵌入方法只模型的三层不确定性，推理结果缺乏全局一致性。为了解决这些缺点，我们提出了BEUrRE，一种新的不确定知识图谱嵌入方法与校准的概率语义。BEUrRE将每个实体建模为一个盒子（即轴对齐的超矩形），并将两个实体之间的关系建模为头部和尾部实体盒子上的仿射变换。盒子的几何形状允许有效地计算交叉点和体积，赋予模型校准的概率语义，并促进关系约束的结合。在两个基准数据集上进行的大量实验表明，BEUrRE在置信度预测和事实排名方面始终优于基线，这是由于其概率校准和捕获事实之间高阶依赖关系的能力。
2021-04-09 cs.AI cs.CL cs.LG
Empowering Small-Scale Knowledge Graphs: A Strategy of Leveraging General-Purpose Knowledge Graphs for Enriched Embeddings
Wrocław University of Science and Technology（弗罗茨瓦夫理工大学）
本研究提出利用通用知识图谱增强小规模领域特定知识图谱嵌入的框架，实验显示Hits@10指标最高提升44%，可推动知识密集型任务中知识图谱的应用，降低机器学习方案的幻觉问题。
2024-05-17 cs.AI cs.CL cs.LG
Knowledge-infused Contrastive Learning for Urban Imagery-based Socioeconomic Prediction
Tsinghua University（清华大学）；University of Helsinki（赫尔辛基大学）
监测可持续发展目标需要准确和及时的社会经济统计数据，而卫星/街景图像等网络中无处不在和经常更新的城市图像已成为社会经济预测的重要来源。特别是，最近的研究转向自我监督的对比学习与手动设计的相似性度量城市图像表示学习和进一步的社会经济预测，但遭受有效性和鲁棒性问题。为了解决这些问题，在本文中，我们提出了一个知识注入对比学习（KnowCL）模型的城市图像为基础的社会经济预测。具体来说，我们首先引入知识图谱（KG）对城市知识在空间性、流动性等方面进行有效建模，然后构建基于神经网络的编码器，以分别学习相关语义和视觉空间中的城市图像的表示。最后，我们设计了一个基于跨模态的对比学习框架与一个新的图像KG对比损失，最大限度地提高了知识灌输的语义和视觉表示之间的互信息。将学习的视觉表示应用于三个数据集的社会经济预测的广泛实验表明，与基线相比，KnowCL在$R^2$上的性能提高了30%以上。特别是，我们提出的KnowCL模型可以适用于卫星和街道图像的有效性和可移植性，这为基于城市图像的社会经济预测提供了见解。
2023-02-25 cs.AI cs.CV
Knowledge-Infused Legal Wisdom: Navigating LLM Consultation through the Lens of Diagnostics and Positive-Unlabeled Reinforcement Learning
Worcester Polytechnic Institute（伍斯特理工学院）；Peking University（北京大学）；Indiana University at Bloomington（印第安纳大学布卢明顿分校）
本文提出诊断式法律大语言模型D3LM，通过自适应诊断问题、图基正无标记强化学习PURL和LLM停止准则实现精确法院意见生成，并构建新CVG数据集，在法律领域超越经典LLMs。
2024-06-05 cs.AI cs.CL
"Is depression related to cannabis?": A knowledge-infused model for Entity and Relation Extraction with Limited Supervision
Artificial Intelligence Institute, University of South Carolina（南卡罗来纳大学人工智能研究所）
由于大力宣传使用大麻对改善心理健康的好处，大麻合法化是立法者的优先事项。然而，初步的科学研究并没有最终将大麻与改善心理健康联系起来。在这项研究中，我们探讨了抑郁症和大麻消费之间的关系，在一个有针对性的社交媒体语料库中，涉及个人使用大麻，目的是获得其潜在的心理健康益处。我们使用的推文包含领域专家注释的三个类别之间的关联-原因，效果和成瘾。最先进的自然语言处理技术在提取大麻短语和抑郁指标之间的这些关系方面存在不足。我们试图通过使用领域知识来解决这一限制;具体来说，药物滥用本体论与精神疾病诊断和统计手册的心理健康词汇增强成瘾。由于领域专家的时间有限而缺乏注释，我们使用监督对比学习结合在大量语料库上训练的GPT-3，即使在监督有限的情况下也能提高性能。实验结果表明，我们的方法可以显着提取大麻抑郁症的关系比最先进的关系提取器。可以使用最近邻方法提供高质量的注释，该方法使用可被科学界用来更好地理解大麻与抑郁症之间的关联的学习表示。
2021-02-01 cs.AI cs.CL
PKI: Prior Knowledge-Infused Neural Network for Few-Shot Class-Incremental Learning
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security at University of Chinese Academy of Sciences（中国科学院大学网络安全学院）；NARI Technology Company Limited（NARI科技有限公司）；School of Engineering and Applied Science, the George Washington University（乔治华盛顿大学工程与应用科学学院）；Department of Communication Engineering, Shanghai University（上海大学通信工程系）
PKI通过整合先验知识和优化投影器数量，提升少样本类增量学习的性能和效率。
2026-01-13 cs.AI cs.CV
Informed Pre-Training on Prior Knowledge
Fraunhofer IAIS（弗劳恩霍夫智能分析与信息系统研究所）；University of Bonn（波恩大学）
当训练数据稀缺时，结合额外的先验知识可以辅助学习过程。虽然通常使用在其他大型数据集上预先训练的权重来初始化神经网络，但对更简洁形式的知识进行预训练却被忽视了。在本文中，我们提出了一种新的通知机器学习方法，并建议预先训练先验知识。正式的知识表示，如图形或方程，首先转换成一个小的和浓缩的知识原型数据集。我们发现，知情的预训练，这样的知识原型（i）加快学习过程，（ii）提高泛化能力的政权没有足够的训练数据是可用的，（iii）增加模型的鲁棒性。分析模型的哪些部分受原型影响最大，可以发现改进来自更深的层，这些层通常代表高级功能。这证实了知情的预训练确实可以传递语义知识。这是一个新的效果，它表明，以知识为基础的预先培训有额外的和补充现有的方法的优势。
2022-05-23 cs.AI cs.LG
Neurosymbolic Retrievers for Retrieval-augmented Generation
Dept. of CSEE University of Maryland Baltimore County, Maryland, USA（电子工程系大学马里兰大学巴尔的摩县）；Dept. of CSEE University of Maryland Baltimore County, MD, USA（电子工程系大学马里兰大学巴尔的摩县）
本文提出神经符号 RAG 框架，通过结合知识图谱与神经检索技术，提升检索过程的透明性和生成性能。
2026-02-22 cs.AI cs.CL cs.IR
FactorEngine: A Program-level Knowledge-Infused Factor Mining Framework for Quantitative Investment
Beijing University of Posts and Telecommunications（北京邮电大学）；Beijing Value Simplex Technology Co. Ltd.（北京价值简朴科技有限公司）；Yangtze Delta Research Institute, University of Electronic Science and Technology of China（电子科技大学长三角研究院）
FactorEngine通过逻辑修订与参数优化分离、LLM引导方向搜索与贝叶斯超参数搜索分离、LLM使用与本地计算分离，提升因子挖掘的有效性和效率，结合知识增强的 bootstrap 模块和经验知识库，实现更强的预测稳定性和投资组合表现。
2026-09-16 cs.AI
Aiming to Minimize Alcohol-Impaired Road Fatalities: Utilizing Fairness-Aware and Domain Knowledge-Infused Artificial Intelligence
University of Hartford（哈特福德大学）；Rutgers University - Camden（罗格斯大学卡姆登分校）；Iona University（艾奥纳大学）；Edith Cowan University（伊迪丝·考恩大学）
本文提出一种融合公平感知与领域知识的人工智能预测器，用于分析不同地理位置的酒驾致死情况，以指导警务资源公平高效配置，减少酒驾相关死亡并提升道路安全。
2023-11-25 cs.AI cs.CY cs.LG
Feynman: Knowledge-Infused Diagramming Agent for Scalable Visual Designs
Carnegie Mellon University（卡内基梅隆大学）
本文提出Feynman代理，通过知识组件枚举和代码规划生成高质量图表-描述对，构建了可扩展的图表生成流水线，并创建了视觉语言基准Diagramma。
2026-03-13 cs.AI cs.HC cs.LG
From Videos to Indexed Knowledge Graphs -- Framework to Marry Methods for Multimodal Content Analysis and Understanding
University Of Southern California（美国南加州大学）
针对多模态内容分析融合难度大、成本高的问题，本文提出一个框架，通过融合预训练模型将视频转为时序半结构化数据，再生成支持查询与持续学习的帧级索引化知识图谱。
2025-10-01 cs.AI cs.CL cs.CV
Healthcare Knowledge Graph Construction: State-of-the-art, open issues, and opportunities
The University of Jordan（约旦大学）；King Saud University（沙特国王大学）；Al-Balqa Applied University（巴尔卡应用大学）；Jordan University of Science and Technology（约旦科技大学）；Qatar University（卡塔尔大学）
在对高效和有效的大数据分析解决方案的需求的推动下，数据分析在医疗保健行业的应用取得了重大进展。知识图谱（KG）已被证明在这一领域的效用，并植根于许多医疗保健应用，以提供更好的数据表示和知识推理。然而，在缺乏一个代表性的KG建设分类，在这个指定的域中的几个现有的方法是不够的和低劣的。本文是第一个提供一个全面的分类和鸟瞰医疗KG建设。此外，从与各种医疗保健背景相关的学术著作中得出的当前最先进的技术进行了彻底的检查。这些技术是严格评估的知识提取，知识库和来源的类型，并纳入评估协议的方法。最后，一些研究结果和文献中存在的问题进行了报告和讨论，为未来的研究在这个充满活力的领域开辟了视野。
2022-07-08 cs.AI cs.CY
Incorporation of Deep Neural Network & Reinforcement Learning with Domain Knowledge
我们提出了一种研究的方式，域信息已被纳入时，建立模型与神经网络。集成空间数据对于知识理解模型的开发以及通过利用人机界面和强化学习来帮助理解信息的其他领域具有独特的重要性。在许多这样的情况下，基于机器的模型开发可能主要受益于以足够精确的结构编码的世界上的人类信息。本文考察了影响编码这些信息的扩展方式，如合理和数学限制，并描绘了所有这些方法下的几个子类别的方法和结果。
2021-08-09 cs.AI cs.LG
Balancing Efficiency and Effectiveness: An LLM-Infused Approach for Optimized CTR Prediction
Institute for Clarity in Documentation（文献清晰研究所）；Inria Paris-Rocquencourt（法国国家信息与自动化研究所巴黎-罗康分局）；Rajiv Gandhi University（拉吉夫·甘地大学）；Tsinghua University（清华大学）；Palmer Research Laboratories（帕尔默研究实验室）
本文提出了一种名为 MSD 的 LLM 融合 CTR 预测框架，通过利用 LLM 提取并蒸馏深层语义信息到更小模型中，实现了端到端的高效训练与推理，并在美团搜索广告系统中显著提升了 CTR 和 CPM 指标。
2025-03-04 cs.AI cs.LG
A Commonsense-Infused Language-Agnostic Learning Framework for Enhancing Prediction of Political Polarity in Multilingual News Headlines
Jožef Stefan Institute（约热夫·斯泰凡研究所）；Jožef Stefan International Postgraduate School（约热夫·斯泰凡国际研究生院）
本文提出一种通过翻译-检索-翻译策略注入推理性常识的语言无关学习框架，结合注意力机制与多语言预训练模型，在五种语言、超62.6K条新闻标题上显著提升了政治极性预测性能，并揭示了翻译质量对低资源语言表现的影响。
2022-12-01 cs.AI cs.CL
There is No Big Brother or Small Brother: Knowledge Infusion in Language Models for Link Prediction and Question Answering
Honeywell Technology Solutions Pvt Ltd（霍尼韦尔技术解决方案私人有限公司）；IIT Bombay（印度理工学院孟买分校）
本文研究在航空、电影和Web领域向大型和小型语言模型注入知识以进行链接预测和问答，发现注入知识后小型模型表现与大型模型相似。
2023-01-10 cs.AI cs.CL cs.LG
Knowledge-based end-to-end memory networks
IBM Research（IBM研究（机构））
端到端对话系统已经变得非常流行，因为它们有希望直接从人到人的对话交互中学习。检索和生成方法已在该领域进行了探索，但结果好坏参半。到目前为止还缺少的一个关键因素是纳入关于手头任务的先验知识。这种知识可能以结构化或非结构化信息的形式存在。作为朝着这个方向迈出的第一步，我们提出了一种新的方法，知识为基础的端到端的内存网络（KB-memN 2N），它允许特殊处理命名实体的目标为导向的对话任务。我们提出了两个数据集，DSTC 6挑战数据集和对话bAbI任务的结果。
2018-04-23 cs.AI cs.CL
A Self-guided Multimodal Approach to Enhancing Graph Representation Learning for Alzheimer's Diseases
George Mason University（乔治梅森大学）；GE Healthcare（GE医疗）；University of Pittsburgh（匹兹堡大学）；University of Maryland（马里兰大学）；Southern University of Science and Technology（南方科技大学）；William and Mary（威廉玛丽学院）
针对现有图神经网络分析阿尔茨海默病脑连接组时缺乏领域知识、依赖人工协作效率低的问题，提出自引导知识注入多模态GNN，自主利用自然语言领域知识引导学习，结合论文与真实AD数据集验证，提升了诊断准确率与可解释性。
2024-12-09 cs.AI cs.LG
Aligning Knowledge Graphs and Language Models for Factual Accuracy
TIB – Leibniz Information Centre for Science and Technology（莱比锡信息科学与技术研究中心）；Amazon, Germany（亚马逊公司）
本文提出 ALIGNed-LLM，通过将知识图谱嵌入对齐到语言模型潜在空间来增强事实依据并减少幻觉，在多个问答基准和真实金融场景中均取得显著改进。
2025-07-17 cs.AI cs.CL
Incorporating Causal Prior Knowledge as Path-Constraints in Bayesian Networks and Maximal Ancestral Graphs
Institute of Computer Science, FORTH, Greece（希腊FORTH研究所计算机科学研究所）；University of Crete, Greece（希腊克里特大学）
我们考虑将因果知识的存在或不存在（可能是间接的）因果关系纳入因果模型。这种因果关系对应于因果模型中的有向路径。这类知识自然来自实验数据等。具体来说，我们考虑因果贝叶斯网络和最大祖先图及其马尔可夫等价类的形式：部分定向无环图和部分定向祖先图。我们引入健全和完整的程序，能够将因果先验知识，在这样的模型。在模拟实验中，我们表明，经常考虑即使是一些因果事实会导致大量的新的推论。在一个案例研究中，我们还展示了如何使用真实的实验数据来推断因果知识，并将其纳入一个真正的生物因果网络。该代码可在mensxmachina.org上获得。
2012-06-27 cs.AI cs.CE cs.LG
UrbanKGent: A Unified Large Language Model Agent Framework for Urban Knowledge Graph Construction
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The Hong Kong University of Science and Technology（香港科技大学）
针对城市知识图谱构建依赖人工的问题，本文提出统一大语言模型智能体框架UrbanKGent，通过异质性地理空间指令生成、工具增强迭代轨迹优化及混合微调得到多规格智能体，在更低成本下性能显著优于现有基线与GPT-4，可高效构建更丰富的城市知识图谱。
2024-10-06 cs.AI
Knowledge will Propel Machine Understanding of Content: Extrapolating from Current Examples
Wright State University（莱特州立大学）
机器学习在人工智能复苏期间一直是一个巨大的成功故事。一个特别突出的成功与从大量数据中学习有关。尽管早期断言数据的不合理的有效性，但人们越来越认识到，只要有知识，或者可以有目的地创造知识，就应该利用知识。在本文中，我们讨论了知识对于更深入地理解内容的不可或缺的作用，其中（i）大量训练数据不可用，（ii）要识别的对象是复杂的，（例如，隐式实体和高度主观的内容），以及（iii）应用程序需要在多个模态/媒体中使用补充或相关数据。使我们快速进步的是我们能够（a）创建相关和可靠的知识，以及（b）仔细利用知识来增强ML/NLP技术。使用不同的例子，我们试图预测前所未有的进步，我们的能力，更深入地理解和利用多模态数据，并继续纳入知识的学习技术。
2017-07-14 cs.AI
Incorporating planning intelligence into deep learning: A planning support tool for street network design
Martin Centre for Architectural and Urban Studies, University of Cambridge（剑桥大学马丁建筑与城市研究中心）；Department of Architecture, University of Cambridge（剑桥大学建筑系）
深度学习在制定临时规划建议方面的应用受到将城市专业知识与人工智能整合的困难的限制。我们提出了一种新的，互补的使用深度神经网络和规划指导自动化街道网络生成，可以是上下文感知，基于示例和用户指导。模型测试表明，纳入规划知识（例如，道路交叉口和邻域类型）导致对街道配置的更真实的预测。此外，这一新工具为专业和非专业用户提供了一个机会，可以系统和直观地探讨基准建议，以便进行比较和进一步评价。
2020-10-09 cs.AI cs.CV
