Automated HIV Screening on Dutch Electronic Health Records with Large Language Models
Erasmus University Medical Center Rotterdam（鹿特丹伊拉斯姆斯大学医学中心）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）
本研究提出利用大型语言模型分析电子健康记录中的非结构化文本，以自动化筛查HIV检测资格，在荷兰临床数据上实现了高准确率和低假阴性率。
2025-10-25 cs.CL
Generative Foundation Model for Structured and Unstructured Electronic Health Records
University of Pittsburgh（匹兹堡大学）；University of Pittsburgh Medical Center（匹兹堡大学医学中心）
本文提出多模态基础模型GDP，通过CNN-Transformer编码结构化EHR时间序列并与非结构化EHR跨模态融合，经生成式预训练和多任务微调后，在临床预测和临床叙述生成上均取得优异表现。
2025-08-22 cs.AI cs.CL
Structure and Destructure: Dual Forces in the Making of Knowledge Engines
本研究探讨自然语言处理中知识引擎构建的结构化与非结构化两大范式，提出构建与解构双重力量的概念关联，为开发透明可控自适应的通用知识引擎提供新方向。
2025-08-31 cs.AI cs.CL
A Novel Architecture for Symbolic Reasoning with Decision Trees and LLM Agents
Andrew Kiruluta（独立研究者）
提出一种融合决策树符号推理与LLM生成能力的多智能体混合架构，通过中央协调器统一管理，在多个推理基准上显著提升性能，提供可解释且可扩展的神经符号推理方案。
2025-08-07 cs.AI cs.CL
Graph Reasoning Paradigm: Structured and Symbolic Reasoning with Topology-Aware Reinforcement Learning for Large Language Models
Harbin Institute of Technology（哈尔滨工业大学）；State Key Laboratory of Cognitive Intelligence（认知智能国家重点实验室）；Tianjin Normal University（天津师范大学）；Pengcheng Laboratory（鹏城实验室）
图推理范式通过拓扑感知强化学习实现结构化和符号推理，提升大语言模型的数学推理和代码生成能力。
2026-01-19 cs.CL
Automatic Cardiac Risk Management Classification using large-context Electronic Patients Health Records
本文提出了一种基于大上下文电子健康记录的自动心脏风险管理分类方法，通过定制Transformer架构在纵向临床文本中实现高精度的风险分层。
2026-03-10 cs.AI cs.CL cs.IR
Structured Insight from Unstructured Data: Large Language Models for SDOH-Driven Diabetes Risk Prediction
Stanford University（斯坦福大学）；Stanford University School of Medicine（斯坦福大学医学院）
本研究利用大型语言模型从患者生活故事中提取结构化SDOH信息，用于糖尿病风险预测，LLMs在预测糖尿病控制水平方面达到60%的准确率。
2026-01-19 cs.CL
Strategies for political-statement segmentation and labelling in unstructured text
University of Manchester（曼彻斯特大学）；University of Bamberg（班贝格大学）
本文提出基于CRF、微调文本到文本模型及上下文学习与受限解码的统一分割标注框架，用于从原始政治文本中联合分割和分类声明，并在英国议会记录上验证了其研究价值。
2025-03-10 cs.CL
The Effectiveness of Large Language Models in Transforming Unstructured Text to Standardized Formats
Slovak Technical University（斯洛伐克技术大学）
该研究系统评估了四种LLM将非结构化食谱文本转换为Cooklang格式的能力，发现GPT-4o结合少样本提示可取得突破性性能，证明LLM无需大量训练即可实现领域文本结构化转换，为多领域自动化数据生成开辟了新路径。
2025-05-05 cs.AI cs.CL
Towards Efficient Patient Recruitment for Clinical Trials: Application of a Prompt-Based Learning Model
Shiraz University（设拉子大学）；Shiraz University of Medical Sciences（设拉子医科大学）
本研究提出基于提示学习模型的高效患者招募方法，利用SNOMED CT本体实现医疗文本的精准分类，提升了临床试验招募效率。
2024-04-24 cs.CL
Classifying Unstructured Clinical Notes via Automatic Weak Supervision
Carnegie Mellon University（卡内基梅隆大学）
医疗保健提供者通常记录向每个患者提供的临床护理的详细说明，用于临床，研究和计费目的。由于这些叙述的非结构化性质，提供者雇用专门的工作人员使用国际疾病分类（ICD）编码系统为患者的诊断分配诊断代码。这种手动过程不仅耗时，而且成本高且容易出错。先前的工作证明了机器学习（ML）方法在自动化这一过程中的潜在效用，但它依赖于大量手动标记的数据来训练模型。此外，诊断编码系统随着时间的推移而发展，这使得传统的监督学习策略无法推广到局部应用之外。在这项工作中，我们引入了一个通用的弱监督文本分类框架，该框架仅从类别标签描述中学习，而不需要使用任何人类标记的文档。它利用存储在预训练的语言模型和数据编程框架中的语言领域知识为各个文本分配代码标签。我们证明了我们的方法的有效性和灵活性，通过比较它的国家的最先进的弱文本分类器在四个现实世界的文本分类数据集，除了分配ICD代码的医疗记录在公开的MIMIC-III数据库。
2022-08-02 cs.CL cs.LG
Exploring Optimal Granularity for Extractive Summarization of Unstructured Health Records: Analysis of the Largest Multi-Institutional Archive of Health Records in Japan
Tokyo Metropolitan University（东京都立大学）；RIKEN（理化学研究所）；National Hospital Organization（国立医院机构）；Kitami Institute of Technology（北见工业大学）
临床文本的自动摘要可以减轻医疗专业人员的负担。“出院小结”是小结的一个很有前途的应用，因为它们可以从每日住院记录中生成。我们的初步实验表明，出院小结中有20-31%的描述与住院病历的内容重叠。然而，如何从非结构化来源生成摘要仍不清楚。为了分解医生的摘要过程，本研究旨在确定摘要的最佳粒度。我们首先定义了三种不同粒度的摘要单元来比较出院摘要生成的性能：整句、临床片段和子句。我们在这项研究中定义了临床部分，旨在表达最小的医学意义的概念。为了获得临床片段，有必要在管道的第一阶段自动分割文本。因此，我们比较了基于规则的方法和机器学习方法，后者在拆分任务中的F1得分为0.846，优于前者。接下来，我们实验测量的准确性提取摘要使用三种类型的单位，基于ROUGE-1度量，在日本的多机构的国家档案的健康记录。使用整句、临床片段和子句的提取摘要的测量准确率分别为31.91、36.15和25.18。我们发现，临床部分产生了更高的准确性比句子和子句。这一结果表明，总结住院记录需要更细的粒度比面向病历的处理。虽然我们只使用了日本的健康记录，但可以解释如下：医生从患者记录中提取“具有医学意义的概念”，并将它们重新组合。
2022-12-20 cs.CL
Call2Instruct: Automated Pipeline for Generating Q&A Datasets from Call Center Recordings for LLM Fine-Tuning
Instituto de Informática – Universidade Federal de Goiás（信息技术学院 – 巴西戈亚州联邦大学）
本文提出Call2Instruct自动化流程，通过音频处理、文本处理和语义提取技术，从呼叫中心录音生成问答数据集，用于LLM微调。
2025-12-01 cs.AI cs.CL cs.HC
EHRCon: Dataset for Checking Consistency between Unstructured Notes and Structured Tables in Electronic Health Records
KAIST（韩国科学技术院）；Samsung Medical Center（三星医疗中心）；MIT（麻省理工学院）；University of Toronto（多伦多大学）
本文提出EHRCon数据集及CheckEHR框架，通过八阶段流程和大型语言模型自动检查电子健康记录中临床笔记与结构化表格之间的一致性，以降低数据不一致带来的患者安全风险。
2024-12-30 cs.CL
RUST-BENCH: Benchmarking LLM Reasoning on Unstructured Text within Structured Tables
Virginia Tech（弗吉尼亚理工大学）；IGDTUW New Delhi（新德里IGDTUW）；Arizona State University（亚利桑那州立大学）
本文提出RUST-BENCH基准，基于2031张真实异构表格的7966个问题，从规模、异构性、领域专属性与推理复杂度联合评估LLMs，发现现有模型在多跳推理上仍存在明显不足。
2025-11-06 cs.AI cs.CL cs.DB
Neural Natural Language Processing for Unstructured Data in Electronic Health Records: a Review
Yale University（耶鲁大学）
电子健康记录（EHR）是患者医疗保健事件和观察结果的数字集合，在医学中无处不在，对医疗保健提供，运营和研究至关重要。尽管EHR扮演着核心角色，但它很难自动处理。电子健康档案中存储的信息有一半以上是以非结构化文本的形式（如供应商说明、运营报告），并且大部分未被开发用于二次使用。然而，最近，用于自然语言处理（NLP）的新的神经网络和深度学习方法取得了相当大的进步，在各种任务上优于传统的基于统计和规则的系统。在这篇综述论文中，我们总结了当前EHR应用的神经NLP方法。我们专注于广泛的任务，即分类和预测，词嵌入，提取，生成，以及其他主题，如问答，表型，知识图谱，医学对话，多语言，可解释性等。
2021-07-07 cs.AI cs.CL
RelCAT: Advancing Extraction of Clinical Inter-Entity Relationships from Unstructured Electronic Health Records
King’s College London（伦敦国王学院）；National Health Service (NHS)（国家医疗服务体系）；Department of Biostatistics & Health Informatics（生物统计学与健康信息学系）
本研究提出 RelCAT 工具包，基于 CogStack MedCAT 框架，利用 BERT 和 Llama 等模型对临床文本中的实体关系进行分类，在 n2c2 和 NHS 数据集上取得高 F1 分数，推动了临床关系提取。
2025-01-27 cs.CL
SimSUM: Simulated Benchmark with Structured and Unstructured Medical Records
SimSUM通过模拟呼吸系统疾病患者记录，提供结构化与非结构化医疗数据的基准，用于研究临床信息提取及多模态数据生成。
2025-12-09 cs.AI cs.CL
EHRKit: A Python Natural Language Processing Toolkit for Electronic Health Record Texts
Yale University（耶鲁大学）
本文提出用于电子健康记录文本的Python自然语言处理工具包EHRKit，包含MIMIC-III专用函数和任务专用函数两部分，集成多达12种NLP任务，为处理非结构化临床笔记提供了便捷工具。
2023-06-28 cs.CL
Hybrid Text Feature Modeling for Disease Group Prediction using Unstructured Physician Notes
National Institute of Technology Karnataka Surathkal（卡纳塔克苏拉特卡尔国家理工学院）
现有的临床决策支持系统（CDSS）在很大程度上依赖于结构化患者数据和电子健康记录（EHR）的可用性来帮助护理人员。然而，在发展中国家的医院中，结构化患者数据格式没有被广泛采用，医疗专业人员仍然依赖于非结构化文本形式的临床记录。由医务人员记录的这种非结构化的临床记录也可以是丰富的患者特定信息的潜在来源，这些信息可以用于构建CDSS，甚至用于发展中国家的医院。如果可以使用这种非结构化的临床文本，将不再需要手动和耗时的EHR生成过程，从而节省大量工时和成本。在本文中，我们提出了一个通用的ICD 9疾病组预测CDSS建立在非结构化的医生笔记使用混合词嵌入建模。这些词嵌入用于训练深度神经网络，以有效地预测ICD 9疾病组。实验评估表明，所提出的方法优于国家的最先进的疾病组预测模型建立在结构化的EHR的15%的AUROC和40%的AUPRC方面，从而证明了我们的假设，并消除依赖结构化的患者数据的可用性。
2019-11-26 cs.CL cs.CY cs.LG
GatorTron: A Large Clinical Language Model to Unlock Patient Information from Unstructured Electronic Health Records
University of Florida（佛罗里达大学）；NVIDIA（英伟达）
人们对开发人工智能（AI）系统来处理和解释电子健康记录（EHR）的兴趣越来越大。由预训练的语言模型驱动的自然语言处理（NLP）是利用临床叙述的医疗AI系统的关键技术。然而，临床语言模型很少，在临床领域中训练的最大的语言模型相对较小，只有1.1亿个参数（与一般领域中的数十亿个参数相比）。目前尚不清楚具有数十亿参数的大型临床语言模型如何帮助医疗AI系统利用非结构化EHR。在这项研究中，我们从头开始开发了一个大型临床语言模型- GatorTron -使用超过900亿字的文本（包括超过820亿字的去识别临床文本），并在5个临床NLP任务上对其进行了系统评估，包括临床概念提取，医学关系抽取，语义文本相似性，自然语言推理（NLI）和医学问答（MQA）。我们研究了（1）扩大参数的数量和（2）扩大训练数据的大小如何使这些NLP任务受益。GatorTron模型将临床语言模型的参数从1.1亿扩展到89亿，并改进了5项临床NLP任务（例如，NLI和MQA的准确性提高了9.6%和9.5%），可应用于医疗AI系统，以改善医疗保健服务。GatorTron模型可在https://catalog.ngc.nvidia.com/orgs/nvidia/teams/clara/models/gatortron_og上公开获取。
2022-12-16 cs.AI cs.CL cs.LG
Predicting Unplanned Readmissions with Highly Unstructured Data
Google（谷歌）；Universidad de Chile（智利大学）；Millennium Institute for Foundational Research on Data（千禧年基础数据研究所）；Clinica Las Condes（拉斯孔德斯诊所）
深度学习技术已成功应用于预测医疗中心患者的计划外再入院。这些模型的训练数据通常是基于历史的医疗记录，其中包含了大量的自由文本从入院报告，转诊，考试笔记等，到目前为止，大多数提出的模型是针对英语文本数据，并假设电子病历遵循发达国家的共同标准。这两个特点使其难以应用于发展中国家，这些国家不一定遵循登记患者信息的国际标准，或者以英语以外的语言存储文本信息。在本文中，我们提出了一种用于预测计划外再入院的深度学习架构，该架构消耗的数据与文献中以前的模型相比结构化程度低得多。我们使用它来呈现主要包含西班牙语文本数据的大型临床数据集中的第一个结果。该数据集由智利医疗中心近10年的记录组成。在这个数据集上，我们的模型实现的结果与美国医疗中心针对相同任务（0.76 AUROC）获得的一些最新结果相当。
2020-04-05 cs.CL cs.LG stat.ML
Augmented Vision-Language Models: A Systematic Review
Johns Hopkins University（约翰霍普金斯大学）
该系统性综述针对预训练视觉语言模型存在的可解释性差、需重训练整合新信息、资源消耗高及逻辑推理弱等问题，梳理了借助外部符号信息系统构建增强型模型以提升视觉语言理解能力的相关技术。
2025-07-24 cs.AI cs.CL
Prediction Using Note Text: Synthetic Feature Creation with word2vec
Providence Health & Services（普罗维登斯健康与服务）
word2vec提供了一种从非结构化文本数据中提取定量变量的简单而强大的方法。超过一半的医疗数据是非结构化的，因此如果没有数据工程和自然语言处理方面的专业知识，就很难建模。word2vec可以作为一个桥梁，从这些数据源中快速收集情报。在这项研究中，我们通过word2vec运行了来自Providence Health & Services电子病历的650兆字节的非结构化医疗图表笔记。我们使用了两种不同的方法来创建预测变量，并对COPD（慢性阻塞性肺疾病）患者的再入院风险进行了测试。作为比较基准，我们使用LACE风险模型（基于住院时间、敏锐度、共病状况和急诊科就诊的单一评分）进行了相同的测试。仅使用自由文本和数学可能性，我们发现word2vec在预测COPD患者再入院风险方面与LACE相当。
2015-03-17 cs.CL
Natural Language Processing to Detect Cognitive Concerns in Electronic Health Records Using Deep Learning
Massachusetts General Hospital（麻省总医院）
痴呆症在社区中认识不足，医疗保健专业人员诊断不足，索赔数据编码不足。然而，关于认知功能障碍的信息通常在医疗记录内的非结构化临床医生笔记中找到，但是专家的手动审查是耗时的并且经常容易出错。这些笔记的自动挖掘提供了一个潜在的机会，可以标记有认知问题的患者，这些患者可以从评估中受益或被转诊到专家护理。为了识别电子病历中存在认知问题的患者，我们应用了自然语言处理（NLP）算法，并将模型性能与仅使用结构化诊断代码和药物数据的基线模型进行了比较。基于注意力的深度学习模型优于基线模型和其他更简单的模型。
2020-11-12 cs.CL
Bidirectional Recurrent Neural Networks for Medical Event Detection in Electronic Health Records
University of Massachusetts（马萨诸塞大学）；Bedford VAMC and CHOIR（贝德福德退伍军人医疗中心与CHOIR）
从电子健康记录（EHR）中的非结构化文本中提取医疗事件及其属性的序列标记是实现EHR语义理解的关键步骤。它在健康信息学中有重要的应用，包括药物警戒和药物监测。该领域中的现有技术监督机器学习模型基于条件随机场（CRF），其特征从固定的上下文窗口计算。在这个应用中，我们探索了各种递归神经网络框架，并表明它们的性能明显优于CRF模型。
2016-07-12 cs.CL cs.LG cs.NE
DIVKNOWQA: Assessing the Reasoning Ability of LLMs via Open-Domain Question Answering over Knowledge Base and Text
University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Salesforce Research（赛富时研究院）；Huazhong University of Science and Technology（华中科技大学）
本文提出DIVKNOWQA基准，评估大语言模型在知识库与文本异构知识源上的双跳多源推理能力，并引入结合文本检索与符号语言辅助检索的新方法，显著超越以往方法。
2023-10-31 cs.CL
Comparing Rule-based, Feature-based and Deep Neural Methods for De-identification of Dutch Medical Records
Nedap Healthcare（内达普医疗）；University of Twente（特文特大学）；Radboud University（拉德堡德大学）
电子健康记录中的非结构化信息为医学研究提供了宝贵的资源。为了保护患者的机密性并符合隐私法规，去识别方法自动从这些医疗记录中删除个人识别信息。然而，由于标记数据的不可用性，大多数现有的研究仅限于英文医学文本，并且对跨语言和领域的去识别方法的通用性知之甚少。在这项研究中，我们构建了一个不同的数据集，包括1260例患者的医疗记录，从9个研究所和荷兰医疗保健的三个领域的采样数据。我们测试了跨语言和领域的三个去识别方法的通用性。我们的实验表明，专门为荷兰语开发的现有的基于规则的方法无法推广到这个新的数据。此外，最先进的神经架构在跨语言和领域中表现出色，即使训练数据有限。与基于特征和基于规则的方法相比，神经方法需要的配置工作和领域知识显著减少。我们向研究社区提供所有代码和预先训练的去识别模型，允许从业者将其应用于他们的数据集，并支持未来的基准测试。
2020-01-16 cs.CL
Mining Unstructured Medical Texts With Conformal Active Learning
本文提出一种基于保形主动学习的框架，用于从电子健康记录的非结构化文本中高效挖掘数据，仅需约200条人工标注即可取得强劲性能，并能以轻量级模型实现隐私友好、可扩展的实时流行病学监测。
2025-02-05 cs.CL cs.LG stat.ML
DeepType: Multilingual Entity Linking by Neural Type System Evolution
OpenAI；Agilience；San Francisco, California（旧金山，加利福尼亚）；Paris, France（巴黎，法国）
今天世界上丰富的结构化（例如维基数据）和非结构化数据为明天的人工智能提供了一个令人难以置信的机会。到目前为止，这两种不同模式的整合是一个困难的过程，涉及到许多关于如何最好地表示信息的决策，以便捕获或使用，以及手工标记大量数据。DeepType通过将符号信息显式集成到具有类型系统的神经网络的推理过程中来克服这一挑战。首先，我们构造一个类型系统，其次，我们使用它来约束神经网络的输出，以尊重符号结构。我们通过将设计问题转化为一个混合整数问题来实现这一点：创建一个类型系统，然后用它训练一个神经网络。在这个转化中，离散变量选择本体中的哪些父子关系是类型系统中的类型，而连续变量控制分类器是否适合类型系统。原始问题无法精确解决，因此我们提出了一个两步算法：1）启发式搜索或离散变量的随机优化，定义了一个由Oracle和可学习性启发式通知的类型系统，2）梯度下降，以适应分类器参数。我们将DeepType应用于三个标准数据集（即WikiDisamb30，CoNLL（YAGO），TAC KBP 2010）上的实体链接问题，并发现它远远优于所有现有的解决方案，包括依赖于人类设计的类型系统或最近基于深度学习的实体嵌入的方法，而显式使用符号信息可以让它集成新的实体而无需重新训练。
2018-02-03 cs.CL
Relevant Word Order Vectorization for Improved Natural Language Processing in Electronic Healthcare Records
University of Kansas Medical Center（堪萨斯大学医学中心）；University of Kansas Cancer Center（堪萨斯大学癌症中心）
目的：电子健康记录（EHR）是进行观察性研究、支持临床试验等的丰富资源。然而，许多相关信息都是以非结构化格式存储的，因此很难使用。试图自动分类数据的自然语言处理方法依赖于将结构强加于文本的矢量化算法，但这些算法不是针对EHR的独特特征而设计的。在这里，我们提出了一种新的算法来构建所谓的自由文本，可以帮助研究人员更好地利用EHR。我们称这种方法为相关词序向量化（RWOV）。材料与方法：作为概念验证，我们试图从病理报告的非结构化文本中对堪萨斯大学医学中心近年来治疗的乳腺癌患者的激素受体状态进行分类。我们的方法试图解释医疗保健提供者经常输入信息的半结构化方式。我们将这种方法与ngram和word2vec方法进行了比较。结果如下：我们的方法导致了最一致的高准确性，如F1评分和受试者工作特征曲线下面积（AUC）所示。讨论内容：我们的研究结果表明，考虑到其上下文的结构化自由文本的方法可能会显示出更好的性能，我们的方法是有前途的。结论：通过使用一种方法，考虑到医疗保健提供者倾向于重复使用某些关键词，并且这些关键词的顺序很重要，我们显示了比不使用的方法更好的性能。
2018-12-06 cs.CL cs.CY
Fine-Tuning LLMs on Small Medical Datasets: Text Classification and Normalization Effectiveness on Cardiology reports and Discharge records
Institute of Medical Informatics（医学信息学研究所）；University of Münster（明斯特大学）
本研究证明在小型医学数据集上微调小型LLM，可在文本分类和命名实体识别中达到与大型模型相当的性能，仅需200-300个训练样本，有助于自动化临床工作流。
2025-03-27 cs.CL cs.LG
Unlocking Electronic Health Records: A Hybrid Graph RAG Approach to Safe Clinical AI for Patient QA
本文提出MediGRAF，一种结合图检索与向量嵌入的混合RAG系统，通过整合结构化数据与非结构化文本，提升临床AI在患者问答中的安全性和准确性。
2025-11-27 cs.AI cs.CL cs.IR
GAMedX: Generative AI-based Medical Entity Data Extractor Using Large Language Models
School of Systems Science and Industrial Engineering（系统科学与工业工程学院）；State University of New York at Binghamton（纽约州立大学宾汉姆顿分校）
本文提出GAMedX，一种基于大语言模型的命名实体识别方法，通过链式提示和Pydantic模式从非结构化医疗文本中高效提取实体，准确率达98%，为自动化表单填写提供可扩展的低成本解决方案。
2024-05-31 cs.AI cs.CL
Bridging Electronic Health Records and Clinical Texts: Contrastive Learning for Enhanced Clinical Tasks
Vector Institute（向量研究所）；University of Toronto（多伦多大学）；The Hospital for Sick Children（儿童医院）
针对结构化EHR数据语义不足的问题，提出深度多模态对比学习框架对齐EHR与出院小结，微调后显著提升下游任务性能，如30天再入院预测AUROC提升4.1%。
2025-05-23 cs.CL cs.LG
Graph-Text Multi-Modal Pre-training for Medical Representation Learning
KAIST（韩国科学技术院）；Seoul National University Bundang Hospital（首尔大学盆唐医院）
随着电子健康记录（EHR）数量的急剧增长，人们对学习EHR在医疗保健应用中的表示产生了兴趣。EHR的表示学习需要对EHR中的两种主要模态进行适当的建模：结构化数据和非结构化文本。在本文中，我们提出了MedGTX，一个预训练模型的结构化和文本EHR数据的多模态表示学习。MedGTX使用一种新的图形编码器来利用结构化EHR数据的图形特性，使用一个文本编码器来处理非结构化文本，使用一个跨模态编码器来学习联合表示空间。我们通过MIMIC-III（一种开源EHR数据）上的四个代理任务对我们的模型进行了预训练，并在两个临床基准和三个新的下游任务上对我们的模型进行了评估，这些任务解决了EHR数据中的现实问题。结果一致表明，预训练模型的有效性，从EHR的结构化和非结构化信息的联合表示。鉴于MedGTX的良好表现，我们相信这项工作为共同理解EHR数据的两种基本模式打开了一扇新的大门。
2022-03-18 cs.CL cs.LG
Natural Language Generation for Electronic Health Records
Centers for Disease Control and Prevention（美国疾病控制与预防中心）
现有的各种方法用于生成合成电子健康记录（EHR），但它们不能生成非结构化文本，如急诊科（ED）主任投诉，当前疾病或进展记录的历史。在这里，我们使用编码器-解码器模型，这是一种在许多当代机器翻译系统中具有特色的深度学习算法，从EHR中的离散变量（如年龄组，性别和出院诊断）生成合成主诉。在真实记录上进行端到端训练后，该模型可以生成真实的主诉文本，保留原始数据中的大部分流行病学信息。作为模型优化目标的副作用，这些合成的主诉也没有相对不常见的缩写和拼写错误，并且它们不包括训练数据中的个人身份信息（PII），这表明它可以用于支持EHR中文本的去识别。当与生成对抗网络（GANs）等算法相结合时，我们的模型可用于生成完全合成的EHR，促进医疗保健提供者和研究人员之间的数据共享，并提高我们开发针对医疗保健数据中信息的机器学习方法的能力。
2018-06-01 cs.CL cs.LG stat.ML
Ontology for Policing: Conceptual Knowledge Learning for Semantic Understanding and Reasoning in Law Enforcement Reports
Law Enforcement Agencies（执法机构）
本文提出利用符号方法将执法报告中的叙述转化为证据关联事实，通过消除个人标识、语义解析、谓词映射到本体和推理，提高对事件细节的恢复能力，并构建包含时间线索和领域公理的时间图。
2026-05-15 cs.AI cs.CL cs.LO
Application of Transformers based methods in Electronic Medical Records: A Systematic Literature Review
Federal University of Rio de Janeiro（里约热内卢联邦大学）
本文系统性综述了基于 Transformers 的方法在电子病历 NLP 任务中的应用，从三个公共数据库筛选出 65 篇文献，从业务问题、模型、数据集等维度分析现有研究局限并提出未来建议。
2023-04-05 cs.AI cs.CL cs.LG
Moxia: A Trust-First Neuro-Symbolic Execution Architecture for Self-Explaining Mathematical Reasoning
Independent researcher（独立研究者）
提出AXIOM架构，将语言模型限制为规范化器，通过确定性计算机代数系统管道实现可验证的数学推理，在4个MATH类别上达到94.36%的正确率和100%的信任度。
2026-08-13 cs.AI cs.CL cs.LG
MUFASA: Multimodal Fusion Architecture Search for Electronic Health Records
Google Research（谷歌研究院）
将深度学习应用于电子健康记录（EHR）的一个重要挑战是其多模态结构的复杂性。EHR通常包含结构化（代码）和非结构化（自由文本）数据的混合物，这些数据具有稀疏和不规则的纵向特征-所有这些都是医生在做出决策时使用的。在深度学习领域，确定不同的模态表示应该如何融合在一起是一个困难的问题，这通常是通过手工建模和直觉来解决的。在这项工作中，我们扩展了最先进的神经架构搜索（NAS）的方法，并提出了多模态融合架构SeArch（MUFASA），同时搜索跨多模态融合策略和模态特定的架构第一次。我们的经验表明，我们的MUFASA方法优于公共EHR数据与可比的计算成本建立单峰NAS。此外，MUFASA还生产性能优于Transformer和Evolved Transformer的架构。与CCS诊断代码预测的这些基线相比，我们发现的模型将前5名的召回率从0.88提高到0.91，并展示了推广到其他EHR任务的能力。通过深入研究我们的顶级架构，我们提供了经验证据，证明MUFASA的改进来自于其为每种数据模态定制建模并找到有效融合策略的能力。
2021-10-06 cs.AI cs.CL cs.LG
