Leveraging Natural Language Processing to Augment Structured Social Determinants of Health Data in the Electronic Health Record
George Mason University（乔治梅森大学）；University of Washington（华盛顿大学）；UW Medicine（华盛顿大学医学中心）
本文提出基于深度学习的SDOH信息抽取模型，并在大规模EHR数据上验证其能补充结构化数据中缺失的社会健康风险因素，从而帮助卫生系统更全面地识别和应对患者社会需求。
2023-04-14 cs.CL
Commentary Generation from Data Records of Multiplayer Strategy Esports Game
The University of Tokyo（东京大学）；Institute of Industrial Science（工业科学研究所）
针对电竞对局日志多但配文解说少的问题，本研究提出从电竞数据记录生成解说的任务，构建了《英雄联盟》的大规模数据-解说配对数据集，评估了Transformer类模型效果并揭示任务挑战，将发布数据集助力相关研究。
2024-10-08 cs.CL
The Structured Output Benchmark: A Multi-Source Benchmark for Evaluating Structured Output Quality in Large Language Models
JigsawStack, Inc.（JigsawStack公司）；New Delhi, India（印度新德里）；San Francisco, CA, USA（美国旧金山）；Durgapur, WB, India（印度德里邦杜格apur）
本文提出SOB基准，用于评估大型语言模型在多源数据中的结构化输出质量，通过文本、图像和音频三种模态的测试数据，发现模型在结构合规性上表现良好，但价值准确性在不同数据源中差异显著。
2026-04-28 cs.AI cs.CL
Bench-Marking Information Extraction in Semi-Structured Historical Handwritten Records
National University of Singapore（新加坡国立大学）；Naver Labs（Naver实验室）；University of Rostock（罗斯托克大学）
在这份报告中，我们提出了我们的研究结果，从基准实验信息抽取的历史手写婚姻记录Esposalles从IEHHR - ICDAR 2017年强大的阅读比赛。信息抽取被建模为跨2组标签的序列的语义标记。这可以通过顺序地或联合地应用手写文本识别（HTR）和命名实体识别（NER）来实现。我们部署了一种管道方法，首先使用最先进的HTR，并将其输出用作NER的输入。我们表明，由于低资源设置和简单的结构的记录，高性能的HTR确保整体高性能。我们探讨了各种配置的条件随机场和神经网络基准NER给定一定的噪声输入。10倍交叉验证和盲测试数据的最佳模型使用具有双向长短期记忆的n-gram特征。
2018-07-17 cs.CL cs.CV
EMRModel: A Large Language Model for Extracting Medical Consultation Dialogues into Structured Medical Records
Taihe County People’s Hospital（太和县人民医院）；Innovation + Research Institute（创新+研究院）；GuoChuang Cloud Technology Ltd（国创云科技有限公司）；Xunfei Healthcare Technology Ltd（讯飞医疗科技有限公司）；University of Southern California（南加州大学）；The First Affiliated Hospital of Anhui Medical University（安徽医科大学第一附属医院）
提出EMRModel，结合LoRA微调与代码风格提示，将医疗咨询对话转为结构化电子病历，F1达88.1%，较标准模型提升49.5%，并构建数据集与评估基准。
2025-04-23 cs.AI cs.CL
Multimodal data matters: language model pre-training over structured and unstructured electronic health records
Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））；Peng Cheng Laboratory（鹏城实验室）；Peking University（北京大学）
结构化数据（临床代码）和非结构化数据（临床叙述）作为电子健康记录（EHR）中两种重要的文本形式，近年来越来越多地应用于医疗领域。然而，大多数现有的EHR为导向的研究，要么集中在一个特定的模式或整合数据从不同的方式，在一个简单的方式，通常处理结构化和非结构化数据作为两个独立的信息来源，病人入院，忽略了它们之间的内在相互作用。事实上，这两种模式是在同一次遭遇中记录的，其中结构化数据通知非结构化数据的文档，反之亦然。在本文中，我们提出了一个医疗多模态预训练语言模型，命名为MedM-PLM，学习增强EHR表示结构化和非结构化数据，并探讨两种模式的交互。在MedM-PLM中，首先采用两个基于transformer的神经网络组件来学习每个模态的代表性特征。然后引入一个跨模态模块来模拟它们的相互作用。我们在MIMIC-III数据集上对MedM-PLM进行了预训练，并在三个下游临床任务上验证了模型的有效性，即，用药建议、30天再入院预测和ICD编码。大量的实验证明了MedM-PLM与最先进的方法相比的强大功能。进一步的分析和可视化显示了我们模型的鲁棒性，这可能为临床决策提供更全面的解释。
2022-10-25 cs.CL cs.LG
Leveraging LLMs for Structured Data Extraction from Unstructured Patient Records
University of Kentucky（肯塔基大学）；University of Kentucky College of Medicine（肯塔基大学医学院）
本文提出利用本地部署的LLMs，通过RAG和结构化响应方法，实现从非结构化患者记录中高效提取结构化数据，提升临床研究效率。
2025-12-03 cs.AI cs.CL
ImmigrationReason: A Structured Dataset of U.S. Immigration Appeals for Legal Reasoning Research
Stanford University（斯坦福大学）
本研究推出ImmigrationReason大规模结构化数据集，涵盖美国移民上诉裁决相关数据，可支撑法律推理领域的结果预测、错误分析及高风险监管智能体设计等研究方向。
2026-08-24 cs.CL
Using Tree Automata and Regular Expressions to Manipulate Hierarchically Structured Data
以数字形式存储或传输的信息通常是结构化的。单个数据记录通常表示为其元素的层次结构。记录一起形成更大的结构。信息处理应用程序必须考虑这种结构化，它为不同的数据元素或记录分配不同的语义。当今使用的各种结构模式通常需要应用程序具有很大的灵活性-例如，处理来自不同来源的信息。为了确保应用程序的互操作性，需要能够将一种结构转换为另一种结构的转换器。本文提出了一种形式化的数据模型，旨在以一种简单而灵活的方式支持层次化的数据处理。该模型是基于和扩展的两个经典理论，研究有限字符串和树自动机的结果。有限自动机和正则语言的概念被应用到任意结构的树状层次数据记录的情况下，表示为“结构化字符串”。这些自动机与经典的字符串和树自动机进行了比较;该模型被证明是经典模型的超集。介绍了结构化字符串上的正则文法和表达式。正则表达式匹配和替换已广泛用于高效的非结构化文本处理;这里描述的模型将这种经过验证的技术的强大功能带到了处理信息树的应用程序中。一个简单的通用替代方案，以取代今天的专门特设的方法。该模型统一了结构转换和内容转换，为应用程序提供了单一的数据类型。讨论了如何基于该理论构建应用程序的示例场景。进一步的研究方向进行了概述。
2002-01-11 cs.CL cs.DS
Prediction of mortality and resource utilization in critical care: a deep learning approach using multimodal electronic health records with natural language processing techniques
Saw Swee Hock School of Public Health（Saw Swee Hock 公共卫生学院）；National University of Singapore（新加坡国立大学）；Institute of Data Science（数据科学研究所）；Department of Anaesthesiology（麻醉科部门）
本文提出融合医学提示、自由文本与预训练句子编码器的多模态EHR深度学习框架，在死亡率、住院时长和手术时长任务上优于基线，并对结构化数据损坏具有强鲁棒性。
2025-08-28 cs.CL
Towards Error-Free EHRs: Reasoning-Intensive Consistency Verification Between Clinical Notes and Structured Tables in Electronic Health Records
KAIST（韩国科学技术院）；Ghent University（根特大学）；Samsung Medical Center（三星医疗中心）；Samsung Changwon Hospital（三星昌原医院）；Asan Medical Center（亚山医疗中心）
针对电子健康记录中临床笔记与结构化表格数据不一致的问题，提出推理密集型基准EHR-ReasonCon和基于大语言模型的框架EHR-Inspector，通过锚点实体提取、时间引用和表格探索工具实现高效一致性验证。
2026-05-26 cs.AI cs.CL
SimSUM: Simulated Benchmark with Structured and Unstructured Medical Records
SimSUM通过模拟呼吸系统疾病患者记录，提供结构化与非结构化医疗数据的基准，用于研究临床信息提取及多模态数据生成。
2025-12-09 cs.AI cs.CL
Structured prediction models for RNN based sequence labeling in clinical text
University of Massachusetts（马萨诸塞大学）；Bedford VAMC and CHOIR（贝德福德退伍军人医疗中心与CHOIR）
序列标记是一种广泛应用于非结构化自然语言数据的命名实体识别和信息抽取的方法。在临床领域，序列标记的一个主要应用涉及从电子健康记录叙述中提取医学实体，例如药物、适应症和副作用。在这个领域的序列标记，提出了自己的一套挑战和目标。在这项工作中，我们尝试了各种基于CRF的结构化学习模型和递归神经网络。我们扩展了先前研究的LSTM-CRF模型与显式建模的成对电位。我们还提出了一个近似版本的跳链CRF推理与RNN潜力。我们使用这些方法进行结构化预测，以提高准确的短语检测各种医疗实体。
2016-08-01 cs.CL
Improving Mortality Prediction After Radiotherapy with Large Language Model Structuring of Large-Scale Unstructured Electronic Health Records
Yonsei University College of Medicine（延世大学医学院）；Yonsei University（延世大学）；Yongin Severance Hospital（龙仁世福兰斯医院）
本研究提出RT-Surv框架，整合开源大语言模型将非结构化电子健康记录结构化并结合临床数据，在3万余患者及外部队列验证中显著提升放疗后死亡率预测的一致性指数与风险分层效果，增强模型可解释性。
2024-12-11 cs.AI cs.CL
NLP for Local Governance Meeting Records: A Focus Article on Tasks, Datasets, Metrics and Benchmark
University of Beira Interior（贝拉内尔大学）；INESC TEC；University of Porto（波尔图大学）
本文聚焦地方治理会议记录的NLP任务，探讨文档分割、实体提取和文本摘要等关键技术，旨在提升政府记录的可访问性和解读性。
2026-02-08 cs.CL
Wind Turbine Maintenance Log Labelling Framework: LLM-Driven Data Correction and Enrichment via Semantic Extraction of Reliability Intelligence
Institute for Energy Systems, School of Engineering, The University of Edinburgh（能源系统研究所，工程学院，爱丁堡大学）；Nadara, Lisbon, Portugal（纳达拉，里斯本，葡萄牙）
提出一种利用大语言模型自动标准化和结构化风力涡轮机维护日志的方法，通过纠正系统代码、提取故障模式与维护动作分类，将非结构化文本转化为定量可靠性指标。
2026-08-19 cs.CL
Uncertainty-Aware Text-to-Program for Question Answering on Structured Electronic Health Records
KAIST（韩国科学技术院）
电子健康档案的问答（EHR-QA）对医疗保健领域有着重要的影响，目前正在积极研究。以往的结构化EHR-QA研究主要集中在将自然语言查询转换为SQL或SPARQL（NLQ 2 Query）等查询语言，因此问题范围仅限于特定查询语言预先定义的数据类型。为了扩展EHR-QA任务，超越这一限制，以处理多模态医疗数据和解决复杂的推理，在未来，更原始的系统语言是必要的。在本文中，我们设计了基于程序的模型（NLQ 2 Program）的EHR-QA的第一步走向未来的方向。我们通过基于程序的方法以半监督的方式处理MIMICSPARQL*（基于图形的EHR-QA数据集），以克服缺乏黄金程序的问题。如果没有黄金计划，我们提出的模型显示出与以前的最先进模型相当的性能，这是一个NLQ 2 Query模型（0.9%的增益）。此外，对于一个可靠的EHR-QA模型，我们应用不确定性分解方法来衡量输入问题中的歧义。我们的经验证实，数据的不确定性是最表明在输入问题的模糊性。
2022-04-15 cs.AI cs.CL cs.LG
Inroads to a Structured Data Natural Language Bijection and the role of LLM annotation
本文探究多任务训练与LLM标注数据对序列到序列语言模型的影响，发现多任务t5-small在F1上优于单任务模型，但逆任务和合成数据未带来显著总体提升，提示存在模型容量瓶颈。
2024-01-14 cs.CL
Natural Language Processing to Detect Cognitive Concerns in Electronic Health Records Using Deep Learning
Massachusetts General Hospital（麻省总医院）
痴呆症在社区中认识不足，医疗保健专业人员诊断不足，索赔数据编码不足。然而，关于认知功能障碍的信息通常在医疗记录内的非结构化临床医生笔记中找到，但是专家的手动审查是耗时的并且经常容易出错。这些笔记的自动挖掘提供了一个潜在的机会，可以标记有认知问题的患者，这些患者可以从评估中受益或被转诊到专家护理。为了识别电子病历中存在认知问题的患者，我们应用了自然语言处理（NLP）算法，并将模型性能与仅使用结构化诊断代码和药物数据的基线模型进行了比较。基于注意力的深度学习模型优于基线模型和其他更简单的模型。
2020-11-12 cs.CL
Dialogue Act Recognition via CRF-Attentive Structured Network
Zhejiang University（浙江大学）
对话行为识别（DAR）是对话理解中的一个具有挑战性的问题，其目的是为话语附加语义标签并表征说话人的意图。目前，许多现有的方法制定的DAR问题，从多分类到结构化预测，这遭受手工制作的功能扩展和细心的上下文结构依赖性。在本文中，我们考虑DAR的问题，从扩展更丰富的条件随机场（CRF）的结构依赖，而不放弃端到端的训练的观点。在话语建模中，我们结合了层次语义推理和记忆机制。然后，我们将结构化注意网络扩展到线性链条件随机场层，该层同时考虑了上下文话语和相应的对话行为。在两个主要的基准数据集Switchboard Dialogue Act（SWDA）和Meeting Recorder Dialogue Act（MRDA）数据集上进行的大量实验表明，该方法比其他最先进的解决方案具有更好的性能。值得注意的是，我们的方法几乎接近人类注释者在SWDA上的性能，差距在2%以内。
2017-11-15 cs.CL
Med-BERT: pre-trained contextualized embeddings on large-scale structured electronic health records for disease prediction
School of Biomedical Informatics, University of Texas Health Science Center at Houston（德克萨斯大学休斯顿健康科学中心生物医学信息学院）
电子健康记录（EHR）中基于深度学习（DL）的预测模型在许多临床任务中提供了令人印象深刻的性能。然而，通常需要大的训练队列来实现高精度，这阻碍了在具有有限训练数据大小的场景中采用基于DL的模型。近年来，基于Transformers的双向编码器表示（BERT）及其相关模型在自然语言处理领域取得了巨大的成功。BERT在一个非常大的训练语料库上的预训练生成了上下文化的嵌入，可以提高在较小数据集上训练的模型的性能。我们提出了Med-BERT，它采用BERT框架对来自28，490，650名患者EHR数据集的结构化诊断数据进行预训练情境化嵌入模型。对两个疾病预测任务进行微调实验：（1）预测糖尿病患者的心力衰竭和（2）从两个临床数据库预测胰腺癌。Med-BERT大大提高了预测精度，使受试者工作特征曲线下面积（AUC）提高了2.02- 7.12%。特别是，预训练的Med-BERT大大提高了任务的性能，非常小的微调训练集（300-500个样本）将AUC提高了20%以上，或相当于10倍大的训练集的AUC。我们相信Med-BERT将有利于使用小型本地训练数据集进行疾病预测研究，降低数据汇集费用，并加快人工智能辅助医疗保健的步伐。
2020-05-22 cs.CL cs.LG cs.NE
Clinical Communication Processing with Models Trained on LLM-Generated Synthetic Data: A Structured Survey and Novel Application Case Studies
本文综述用大语言模型生成的合成数据训练临床NLP系统的研究，结合13项无真实标注数据的案例，发现合成通信可支撑相关系统，微调编码器模型具竞争力，需真实数据迁移等完善。
2026-08-07 cs.CL
Generative Foundation Model for Structured and Unstructured Electronic Health Records
University of Pittsburgh（匹兹堡大学）；University of Pittsburgh Medical Center（匹兹堡大学医学中心）
本文提出多模态基础模型GDP，通过CNN-Transformer编码结构化EHR时间序列并与非结构化EHR跨模态融合，经生成式预训练和多任务微调后，在临床预测和临床叙述生成上均取得优异表现。
2025-08-22 cs.AI cs.CL
EHRKit: A Python Natural Language Processing Toolkit for Electronic Health Record Texts
Yale University（耶鲁大学）
本文提出用于电子健康记录文本的Python自然语言处理工具包EHRKit，包含MIMIC-III专用函数和任务专用函数两部分，集成多达12种NLP任务，为处理非结构化临床笔记提供了便捷工具。
2023-06-28 cs.CL
Automated HIV Screening on Dutch Electronic Health Records with Large Language Models
Erasmus University Medical Center Rotterdam（鹿特丹伊拉斯姆斯大学医学中心）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）
本研究提出利用大型语言模型分析电子健康记录中的非结构化文本，以自动化筛查HIV检测资格，在荷兰临床数据上实现了高准确率和低假阴性率。
2025-10-25 cs.CL
A PubMed-Scale Dataset of Structured Biomedical Abstracts
Department of Biomedical Informatics & Data Science, School of Medicine, Yale University（耶鲁大学生物医学信息学与数据科学系，医学院）
针对PubMed中大量非结构化摘要阻碍下游文本处理的问题，构建了包含2320万条记录的结构化摘要语料库，其中590万条来自官方XML，1720万条通过大语言模型自动标注，统一为五段格式。
2026-06-11 cs.CL cs.IR
A Multimodal Transformer: Fusing Clinical Notes with Structured EHR Data for Interpretable In-Hospital Mortality Prediction
Stony Brook University（石溪大学）
提出多模态Transformer融合临床笔记与结构化EHR数据预测院内死亡率，结合集成梯度与Shapley值增强可解释性，实验性能优于其他方法。
2023-05-09 cs.CL
Is Clinical Text Enough? A Multimodal Study on Mortality Prediction in Heart Failure Patients
本研究比较了文本、结构化数据和多模态方法在心力衰竭患者短期死亡预测中的表现，发现实体层面的表示能提升预测性能，而监督多模态融合表现最佳。
2026-04-02 cs.CL
Prompting Large Language Models for Zero-Shot Clinical Prediction with Structured Longitudinal Electronic Health Record Data
Institute of Artificial Intelligence, Beihang University（北京航空航天大学人工智能研究院）；Centre for Medical Informatics, University of Edinburgh（爱丁堡大学医学信息学中心）；School of Computing, National University of Singapore（新加坡国立大学计算机学院）；National Engineering Research Center for Software Engineering, Peking University（北京大学国家软件工程研究中心）；Health Data Research UK（英国健康数据研究中心）
本研究针对新发疾病爆发时缺乏历史数据的快速决策需求，提出一种结合EHR特征与临床上下文的零样本提示框架，使GPT-4等LLM在MIMIC-IV和TJH数据集上的死亡率等关键临床预测任务中性能提升约35%，超越少样本ML模型。
2024-02-10 cs.AI cs.CL cs.LG
Bridging Electronic Health Records and Clinical Texts: Contrastive Learning for Enhanced Clinical Tasks
Vector Institute（向量研究所）；University of Toronto（多伦多大学）；The Hospital for Sick Children（儿童医院）
针对结构化EHR数据语义不足的问题，提出深度多模态对比学习框架对齐EHR与出院小结，微调后显著提升下游任务性能，如30天再入院预测AUROC提升4.1%。
2025-05-23 cs.CL cs.LG
ARID: A Deployable Edge AI System for Structured Information Extraction from Industrial Maintenance Work Orders
National Tsing Hua University（国立清华大学）
针对嵌入式离线处理维护工单需可预测结构化输出的问题，ARID在Jetson上结合双教师过滤、噪声感知合成、4位推理与语法约束解码，实现高F1的固定模式JSON提取，并验证输出有效性可迁移但语义不可迁移。
2026-09-22 cs.AI cs.CL cs.LG
LLMs for Cardiovascular Risk Prediction from Structured Clinical Data
Central Michigan University（中央密歇根大学）
提出混合框架将结构化临床数据转换为自然语言表示，利用LLMs进行冠心病预测，并验证了高保真度与隐私保护优势。
2026-04-21 cs.AI cs.CL
From Keywords to Structured Summaries: Streamlining Scholarly Information Access
TIB Leibniz Information Centre for Science and Technology（TIB莱布尼茨科学技术信息中心）
本文提出用微调大语言模型自动生成结构化记录，构建超越关键词的下一代学术信息检索系统，并以传染病再生数估计主题验证其可行性。
2024-10-23 cs.AI cs.CL cs.DL
Toward Relieving Clinician Burden by Automatically Generating Progress Notes using Interim Hospital Data
Lister Hill National Center for Biomedical Communications（利斯特希尔生物医学通信中心）；National Library of Medicine（国家医学图书馆）；National Institutes of Health（美国国立卫生研究院）
本文提出利用电子健康记录中的结构化数据自动生成病程记录的任务，构建了包含7089个标注实例的ChartPNG数据集，并通过大语言模型基线实验和自动、人工分析揭示了该任务的挑战与未来研究方向。
2024-10-10 cs.AI cs.CL
EHRSQL: A Practical Text-to-SQL Benchmark for Electronic Health Records
KAIST（韩国科学技术院）；Seoul Women’s University（首尔女子大学）；College of Medicine, Konyang University（建阳大学医学院）
EHRSQL是一个用于电子健康记录的文本到SQL基准数据集，旨在解决医疗场景中的复杂查询和时间表达问题。
2026-03-04 cs.AI cs.CL
Enhancing LLMs in Predictive Political QA with Semi-Structured Data
School of Computer Science and Engineering, Northeastern University（东北大学计算机科学与工程学院）
本研究针对预测性政治问答任务，提出双视图框架PSL，结合半结构化政治记录提取立场与结构信号，在三个真实数据集及多个LLM上均优于基线方法。
2026-08-24 cs.AI cs.CL cs.IR
Use of a Structured Knowledge Base Enhances Metadata Curation by Large Language Models
Stanford University（斯坦福大学）
本研究针对大语言模型无辅助时元数据标准遵循度提升有限的问题，通过结合CEDAR模板等结构化知识库领域信息，使GPT-4的元数据标准遵循准确率从79%显著提升至97%，验证了结构化知识库对LLM自动化元数据治理的增强作用。
2025-02-20 cs.AI cs.CL cs.IR
Harnessing Large Language Models for Precision Querying and Retrieval-Augmented Knowledge Extraction in Clinical Data Science
Institute of Health Informatics, University College London（伦敦大学学院健康信息学研究所）
本研究利用大语言模型在临床数据科学中实现精准查询和检索增强的知识提取，通过实验验证其在结构化数据查询和非结构化文本信息提取中的有效性。
2026-01-28 cs.AI cs.CL
MedCase-Structured: A Text-to-FHIR Dataset for Benchmarking Diagnostic Reasoning in Clinically Realistic EHR Settings
System Inc.（系统公司）
提出一个从非结构化文本生成临床真实HL7 FHIR R4数据集的流水线，构建MedCase-Structured数据集，发现LLMs在结构化FHIR输入上的诊断准确性低于纯文本，强调部署对齐基准测试的重要性。
2026-07-03 cs.AI cs.CL
Fine-Tuning LLMs on Small Medical Datasets: Text Classification and Normalization Effectiveness on Cardiology reports and Discharge records
Institute of Medical Informatics（医学信息学研究所）；University of Münster（明斯特大学）
本研究证明在小型医学数据集上微调小型LLM，可在文本分类和命名实体识别中达到与大型模型相当的性能，仅需200-300个训练样本，有助于自动化临床工作流。
2025-03-27 cs.CL cs.LG
Hybrid Text Feature Modeling for Disease Group Prediction using Unstructured Physician Notes
National Institute of Technology Karnataka Surathkal（卡纳塔克苏拉特卡尔国家理工学院）
现有的临床决策支持系统（CDSS）在很大程度上依赖于结构化患者数据和电子健康记录（EHR）的可用性来帮助护理人员。然而，在发展中国家的医院中，结构化患者数据格式没有被广泛采用，医疗专业人员仍然依赖于非结构化文本形式的临床记录。由医务人员记录的这种非结构化的临床记录也可以是丰富的患者特定信息的潜在来源，这些信息可以用于构建CDSS，甚至用于发展中国家的医院。如果可以使用这种非结构化的临床文本，将不再需要手动和耗时的EHR生成过程，从而节省大量工时和成本。在本文中，我们提出了一个通用的ICD 9疾病组预测CDSS建立在非结构化的医生笔记使用混合词嵌入建模。这些词嵌入用于训练深度神经网络，以有效地预测ICD 9疾病组。实验评估表明，所提出的方法优于国家的最先进的疾病组预测模型建立在结构化的EHR的15%的AUROC和40%的AUPRC方面，从而证明了我们的假设，并消除依赖结构化的患者数据的可用性。
2019-11-26 cs.CL cs.CY cs.LG
Representation Learning of Structured Data for Medical Foundation Models
ASUS Intelligent Cloud Services (AICS)（华硕智能云服务（AICS））；Imperial College London（伦敦帝国学院）；University of Manchester（曼彻斯特大学）；Cheng Hsin General Hospital（程新总医院）；Crayon Software（克雷扬软件公司）
针对 LLMs 难以处理 ICD-10 等结构化医学编码的问题，本文提出 UniStruct 多模态医学基础模型，通过改进子词分词并在大规模数据上预训练，在内部数据库和 EHRSHOT 基准上显著提升了下游任务性能。
2024-10-17 cs.AI cs.CL cs.LG
Leveraging text data for causal inference using electronic health records
Bentley University（本特利大学）；New York University Abu Dhabi（纽约大学阿布扎比分校）；Massachusetts Institute of Technology（麻省理工学院）；Harvard University（哈佛大学）
本研究提出利用文本数据支持电子健康记录因果推断的统一框架，结合NLP与统计文本分析解决缺失数据等挑战，通过匹配分析验证其可提升治疗效应估计有效性并识别获益亚组，还提供开源材料推动临床研究应用。
2024-05-20 cs.CL stat.AP stat.ME
Structured information extraction from complex scientific text with fine-tuned large language models
University of California, Berkeley（加州大学伯克利分校）；Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
从非结构化文本中智能地提取和链接复杂的科学信息是一项具有挑战性的工作，特别是对于那些没有自然语言处理经验的人来说。在这里，我们提出了一个简单的序列到序列的方法来联合命名实体识别和关系抽取的复杂层次信息的科技文本。该方法利用了预训练的大语言模型（LLM）GPT-3，该模型在大约500对提示（输入）和完成（输出）上进行了微调。信息可以从摘要/段落中的单个句子或跨句子提取，输出可以作为简单的英语句子或更结构化的格式（如JSON对象列表）返回。我们证明，以这种方式训练的LLM能够准确地提取复杂的科学知识的有用记录，在材料化学中的三个代表性的任务：连接掺杂剂与其主体材料，编目金属有机框架，和一般的化学/相/形态/应用信息抽取。这种方法代表了一种简单，可访问的，高度灵活的路线，以获得大型数据库的结构化知识提取非结构化文本。在线演示可在http://www.matscholar.com/info-extraction上获得。
2022-12-10 cond-mat.mtrl-sci cs.CL
Unlocking Electronic Health Records: A Hybrid Graph RAG Approach to Safe Clinical AI for Patient QA
本文提出MediGRAF，一种结合图检索与向量嵌入的混合RAG系统，通过整合结构化数据与非结构化文本，提升临床AI在患者问答中的安全性和准确性。
2025-11-27 cs.AI cs.CL cs.IR
Causal Representation Learning from Multimodal Clinical Records under Non-Random Modality Missingness
Emory University（埃默里大学）
本文针对多模态临床记录中非随机缺失模态问题，提出一个因果表示学习框架，通过MMNAR感知融合、对比重建和偏倚校正，在MIMIC-IV和eICU上显著提升再入院和ICU入院预测性能。
2025-09-21 cs.CL cs.LG stat.ME
Cancer Diagnosis Categorization in Electronic Health Records Using Large Language Models and BioBERT: Model Performance Evaluation Study
University of Tennessee Health Science Center（田纳西大学健康科学中心）；University of Tennessee Graduate School of Medicine（田纳西大学医学研究生院）
本研究评估了GPT-3.5、GPT-4o、Llama 3.2、Gemini 1.5和BioBERT在电子健康记录中分类癌症诊断的性能，发现BioBERT在ICD代码上最优，GPT-4o在自由文本上最优，但两者均需人工监督才能用于临床。
2025-10-08 cs.AI cs.CL cs.LG
Sensitive Data Detection with High-Throughput Machine Learning Models in Electrical Health Records
The University of Texas Health Science Center（德克萨斯大学健康科学中心）；McWilliams School of Biomedical Informatics（麦克威廉姆斯生物医学信息学院）
本文提出基于元数据分布差异使用机器学习算法自动识别电子健康记录中的敏感变量，通过设计30余个特征构建分类模型，在未见数据集上实现99%的检测准确率，有效促进了数据去标识化过程。
2023-05-22 cs.CL cs.CR cs.LG
Text Knows What, Tables Know When: Clinical Timeline Reconstruction via Retrieval-Augmented Multimodal Alignment
National Library of Medicine National Institutes of Health（国家医学图书馆国立卫生研究院）；Carnegie Mellon University（卡内基梅隆大学）
本文提出一种检索增强的多模态对齐框架，通过结合文本和结构化EHR数据，提高临床时间线的精确度，提升时间一致性，同时保持事件匹配率。
2026-10-06 cs.AI cs.CL cs.LG
Extracting Structured Data from Physician-Patient Conversations By Predicting Noteworthy Utterances
Carnegie Mellon University（卡内基梅隆大学）；Abridge AI Inc（Abridge AI公司）
尽管有各种各样的努力来挖掘各种形式的医疗数据，但医生和患者在护理时的对话仍然是一个未开发的见解来源。在本文中，我们利用这些数据来提取结构化信息，这些信息可能有助于医生在电子健康记录中进行访视后记录，从而可能减轻文书工作的负担。在这项探索性研究中，我们描述了一个新的数据集，包括对话成绩单，访问后的总结，相应的支持证据（在成绩单），和结构化的标签。我们专注于在器官系统（RoS）审查中识别相关诊断和异常的任务。一个方法上的挑战是对话很长（大约1500个单词），这使得现代深度学习模型很难将它们用作输入。为了解决这个问题，我们提取值得注意的话语-对话中可能被引用作为支持某个摘要句子的证据的部分。我们发现，通过首先过滤（预测）值得注意的话语，我们可以显着提高识别诊断和RoS异常的预测性能。
2020-07-14 cs.AI cs.CL cs.LG
How essential are unstructured clinical narratives and information fusion to clinical trial recruitment?
The Ohio State University（俄亥俄州立大学）
电子健康记录使用结构化的受控词汇表和非结构化的叙述性文本来捕获患者信息。虽然结构化数据通常编码实验室值，遇到和药物列表，但非结构化数据捕获医生对患者状况，预后和对治疗干预的反应的解释。在本文中，我们证明了从非结构化临床叙述中提取信息抽取对于大多数临床应用是必不可少的。我们进行了一项实证研究，以验证论点，并表明，结构化数据本身是不够的，在解决招募慢性淋巴细胞白血病（CLL）和前列腺癌的临床试验患者的资格标准。非结构化数据对于解决59%的CLL试验标准和77%的前列腺癌试验标准至关重要。更具体地说，为解决资格标准与时间的限制，我们需要时间推理和信息集成与医疗事件内和跨非结构化临床叙述和结构化数据。
2015-02-13 cs.AI cs.CL cs.CY
Field Order Should Not Matter: Permutation-Invariant Embedding Model Fine-Tuning for Structured Metadata Retrieval
Development Data Group（发展数据分析组）；Office of the Chief Statistician, World Bank Group（世界银行集团首席统计官办公室）
提出置换不变微调（PI-FT）方法，通过随机字段顺序和丢弃消除位置偏差，使嵌入模型关注字段标签而非位置，在开发统计数据集上以极小性能代价消除顺序变化带来的检索质量下降。
2026-06-29 cs.AI cs.CL cs.IR
