Gradient-Boosted Based Structured and Unstructured Learning
Northwestern University（西北大学）；Allstate Insurance Company（好事达保险公司）
我们提出了两个框架来处理问题的设置，其中结构化和非结构化的数据。结构化数据问题最好通过传统的机器学习模型（如boosting和基于树的算法）来解决，而深度学习已广泛应用于处理图像、文本、音频和其他非结构化数据源的问题。然而，对于结构化和非结构化数据都可访问的设置，同时增强两个数据源的性能的最佳建模方法并不明显。我们提出的框架允许通过集成提升模型和深度神经网络的范例来对这两种数据进行联合学习。第一个框架是增强特征向量深度学习网络，它使用梯度提升从结构化数据中学习特征，并通过双分支深度神经网络将它们与来自非结构化数据的嵌入相结合。其次，两个弱学习者的boosting框架扩展的boosting范式设置与两个输入数据源。我们提出并比较了一阶和二阶的方法，这个框架。我们在公共和真实世界数据集上的实验结果显示，框架在选定的基线上实现了0.1% -4.7%的性能提升。
2023-02-28 cs.AI cs.LG
LogSyn: A Few-Shot LLM Framework for Structured Insight Extraction from Unstructured General Aviation Maintenance Logs
Cornell University（康奈尔大学）；AI Airport Services Ltd（AI机场服务有限公司）
LogSyn通过少样本学习利用LLM将非结构化航空维护日志转化为结构化数据，实现故障模式识别与事件分类，提升航空维护流程和预测分析能力。
2026-02-08 cs.LG
Early Prediction of Mortality in Critical Care Setting in Sepsis Patients Using Structured Features and Unstructured Clinical Notes
Northwestern University（西北大学）
脓毒症是死亡的重要原因，特别是在重症监护病房（ICU）患者中。开发新的方法来确定早期死亡率对于改善脓毒症患者的生存结局至关重要。使用MIMIC-III数据库，我们整合了人口统计学数据，生理测量和临床记录。我们建立并应用了几个机器学习模型来预测脓毒症患者的住院死亡率和30天死亡率的风险。从临床笔记中，我们生成了有临床意义的单词表示和嵌入。使用监督学习分类器和深度学习架构来构建预测模型。利用结构化和非结构化临床特征的配置产生了0.512的竞争性F测量。我们的研究结果表明，整合结构化和非结构化的临床特征的方法可以有效地应用于帮助临床医生识别脓毒症患者在进入ICU后的死亡风险。
2021-11-09 cs.CY cs.LG
Bayesian Semi-structured Subspace Inference
HTWG Konstanz（康斯坦茨应用科学大学）；LMU Munich and MCML（慕尼黑大学和慕尼黑机器学习中心）；UZH and ZHAW Zürich（苏黎世大学和苏黎世应用科学大学）
针对半结构回归模型缺乏认知不确定性建模的问题，提出结构化全参数与非结构化子空间联合后验采样的贝叶斯子空间推断方法，可恢复结构化后验并逼近MCMC，且预测性能具有竞争力。
2024-01-23 cs.LG stat.ML
From Structured to Unstructured:A Comparative Analysis of Computer Vision and Graph Models in solving Mesh-based PDEs
University of Kassel（卡塞尔大学）
本文对比了计算机视觉与图模型在高性能计算中求解网格偏微分方程的表现，发现以U-Net为代表的计算机视觉模型在结构化、分级及非结构化网格上均展现出优越性，为数据驱动方法提供了新视角。
2024-05-31 cs.CE cs.CV cs.LG
Large Scale Product Categorization using Structured and Unstructured Attributes
WalmartLabs（沃尔玛实验室）
电子商务中使用文本数据进行产品分类是一个非常具有挑战性的极端分类问题，需要对数千个类别和数百万个产品进行分类。尽管多类文本分类在学术界和工业界都是一个研究得很好的问题，但大多数方法要么将产品内容视为一堆文本，要么只考虑一些产品属性用于建模目的。考虑到在流行的电子商务平台上销售的产品种类繁多，考虑到产品拥有自己独特的基于类别的属性集，很难将所有可用的产品属性作为建模练习的一部分。在本文中，我们比较层次模型，平面模型，并表明在特定情况下，平面模型表现更好。我们探索了两个基于深度学习的模型，这些模型从每个产品的非结构化数据中提取特征，然后将它们组合起来创建产品签名。我们还提出了一个新的想法，即以非结构化的方式将结构化属性及其值与卷积过滤器一起使用，这样，按产品类别对属性和不同属性进行排序不再成为建模挑战。这种方法对于错误的产品属性名称和值的存在也更健壮，并且可以优雅地概括为使用封闭列表和开放列表属性。
2019-03-01 cs.IR cs.LG stat.ML
Topic Segmentation of Semi-Structured and Unstructured Conversational Datasets using Language Models
Microsoft Corp.（微软公司）；University Of Massachusetts（马萨诸塞大学）；University of Maryland（马里兰大学）
本文研究非结构化对话的主题分割，发现结构化文本预训练迁移效果有限，而使用目标领域小数据集从头训练并采用 Focal Loss 能显著提升分割性能。
2023-10-26 cs.AI cs.CL cs.LG
Multimodal data matters: language model pre-training over structured and unstructured electronic health records
Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））；Peng Cheng Laboratory（鹏城实验室）；Peking University（北京大学）
结构化数据（临床代码）和非结构化数据（临床叙述）作为电子健康记录（EHR）中两种重要的文本形式，近年来越来越多地应用于医疗领域。然而，大多数现有的EHR为导向的研究，要么集中在一个特定的模式或整合数据从不同的方式，在一个简单的方式，通常处理结构化和非结构化数据作为两个独立的信息来源，病人入院，忽略了它们之间的内在相互作用。事实上，这两种模式是在同一次遭遇中记录的，其中结构化数据通知非结构化数据的文档，反之亦然。在本文中，我们提出了一个医疗多模态预训练语言模型，命名为MedM-PLM，学习增强EHR表示结构化和非结构化数据，并探讨两种模式的交互。在MedM-PLM中，首先采用两个基于transformer的神经网络组件来学习每个模态的代表性特征。然后引入一个跨模态模块来模拟它们的相互作用。我们在MIMIC-III数据集上对MedM-PLM进行了预训练，并在三个下游临床任务上验证了模型的有效性，即，用药建议、30天再入院预测和ICD编码。大量的实验证明了MedM-PLM与最先进的方法相比的强大功能。进一步的分析和可视化显示了我们模型的鲁棒性，这可能为临床决策提供更全面的解释。
2022-10-25 cs.CL cs.LG
Automating Early Disease Prediction Via Structured and Unstructured Clinical Data
University of the Basque Country (EHU)（巴斯克大学）；Basurto University Hospital（巴苏尔托大学医院）
本文提出了一种自动化方法，利用非结构化出院报告信息，实现早期疾病预测，通过自然语言处理技术提升数据质量和预测模型可靠性。
2026-03-30 cs.LG
Challenges of Heterogeneity in Big Data: A Comparative Study of Classification in Large-Scale Structured and Unstructured Domains
本研究通过比较结构化和非结构化领域分类策略，揭示了高维空间中线性模型优于深度学习的复杂性悖论，并提出基于Transformer嵌入和贝叶斯编码的鲁棒特征工程方法。
2025-11-29 cs.CL cs.DC cs.LG
Enabling Unstructured Sparse Acceleration on Structured Sparse Accelerators
Georgia Institute of Technology（佐治亚理工学院）；NVIDIA（英伟达）
针对结构化稀疏硬件灵活性有限且需微调的问题，提出利用分配律将非结构化稀疏张量分解为结构化稀疏张量的近似方法，并开发软件框架TASDER，无需微调即可加速DNN，显著提升EDP和实际系统速度。
2025-05-24 cs.AI cs.AR cs.LG
Personalized Federated Learning by Structured and Unstructured Pruning under Data Heterogeneity
University of California San Diego（加州大学圣迭戈分校）
FL中的传统方法试图在中央服务器的编排下，在多个客户端的帮助下协作地学习单个全局模型。然而，在数据异构的情况下，学习单个全局模型可能无法很好地适用于参与FL的所有客户端。因此，全局模型的个性化在处理统计异质性和数据的非IID分布所带来的挑战方面变得至关重要。与以前的作品不同，在这项工作中，我们提出了一种新的方法，从客户端级别的目标获得个性化的模型。这进一步激励了所有客户端即使在统计异质性下也参与联合，以提高其性能，而不仅仅是中央服务器的数据和模型训练的来源。为了实现这种个性化，我们通过应用混合修剪（结构化和非结构化修剪的组合）和非结构化修剪来为每个客户端找到一个小型子网。通过对不同基准测试的一系列实验，我们观察到具有相似数据（标签）的客户端共享相似的个人参数。通过为每个客户端查找子网...
2021-05-10 cs.DC cs.LG
Multiple Additive Neural Networks for Structured and Unstructured Data
Interdisciplinary Institute for Applied Artificial Intelligence and Data Science（应用人工智能与数据科学跨学科研究所）
本文扩展并解释了多加性神经网络（MANN）方法，通过浅层神经网络替代传统决策树，提升结构化和非结构化数据处理能力，实验表明MANN在准确性上优于XGB等传统方法。
2026-04-29 cs.LG
Integrating Unstructured Text into Causal Inference: Empirical Evidence from Real Data
Amazon（亚马逊公司）；Stanford University（斯坦福大学）
本文提出利用变压器语言模型从非结构化文本中进行因果推理，通过实证研究验证了非结构化文本在因果推断中的有效性，拓展了因果推理在数据稀缺场景下的应用。
2026-02-15 cs.AI cs.LG
A Comparative Study on TF-IDF feature Weighting Method and its Analysis using Unstructured Dataset
NIT Trichy（特里奇国家技术学院）
本文在IMDB和Amazon Alexa数据集上比较N-Grams与TF-IDF特征加权方法，结合多种分类器验证，发现TF-IDF在随机森林上取得最高准确率93.81%等最优性能。
2023-08-08 cs.CL cs.LG
STUN: Structured-Then-Unstructured Pruning for Scalable MoE Pruning
Snowflake AI Research（Snowflake AI研究院）；Seoul National University（首尔国立大学）
本文提出 STUN 方法，通过先利用专家行为相似性进行 O(1) 复杂度的结构化专家剪枝、再进行非结构化剪枝，在 480B 规模 MoE 上以极低计算成本实现 40% 稀疏度下几乎无损的性能。
2025-07-21 cs.CL cs.LG
Structured vs. Unstructured Pruning: An Exponential Gap
Department of Informatics, King’s College London（伦敦国王学院信息学院）
研究随机初始化网络中剪枝的局限性，证明神经元剪枝需要指数级更大的网络规模才能达到与非结构化剪枝相同的近似精度。
2026-06-12 cs.AI cs.LG
Characterizing Structured versus Unstructured Environments based on Pedestrians' and Vehicles' Motion Trajectories
University of Waterloo（滑铁卢大学）
本文通过提取轨迹特征并运用K-means聚类和广义线性模型，提出量化指标以区分结构化与非结构化环境，发现轨迹变异性、停车比例和行人密度可用于分类现有数据集。
2025-02-24 cs.AI cs.CV cs.LG
Identifying Sub-Phenotypes of Acute Kidney Injury using Structured and Unstructured Electronic Health Record Data with Memory Networks
Weill Cornell Medicine（威尔康奈尔医学院）；Northwestern University（西北大学）；Mayo Clinic（妙佑医疗国际）
急性肾损伤（Acute Kidney Injury，AKI）是一种以肾脏排泄功能迅速丧失为特征的临床常见综合征，在大量住院患者中，其严重程度超过其他疾病。AKI的准确早期预测可以实现及时干预和治疗。然而，AKI是高度异质性的，因此AKI亚表型的鉴定可以导致对疾病病理生理学的更好理解和更有针对性的临床干预措施的开发。该研究使用基于记忆网络的深度学习方法，在AKI诊断前使用患者的结构化和非结构化电子健康记录（EHR）数据来发现AKI亚表型。我们利用了一个真实世界的重症监护EHR语料库，包括37，486个ICU停留。我们的方法确定了三种不同的亚表型：亚表型I的平均年龄为63.03 $ \pm 17.25 $岁，其特征为肾排泄功能轻度丧失（血清肌酐（SCr）$1.55\pm 0.34$ mg/dL，估计肾小球滤过率试验（eGFR）$107.65\pm 54.98$ mL/min/1.73 $m^2$）。这些患者更有可能发展为I期AKI。亚表型II的平均年龄为66.81 $ \pm 10.43 $岁，特征为肾排泄功能严重丧失（SCr $1.96\pm 0.49$ mg/dL，eGFR $82.19\pm 55.92$ mL/min/1.73 $m^2$）。这些患者更有可能发展为III期AKI。亚表型III的平均年龄为65.07 $ \pm 11.32 $岁，其特征为肾排泄功能中度丧失，因此更…
2019-12-22 cs.LG stat.ML
Hybrid Text Feature Modeling for Disease Group Prediction using Unstructured Physician Notes
National Institute of Technology Karnataka Surathkal（卡纳塔克苏拉特卡尔国家理工学院）
现有的临床决策支持系统（CDSS）在很大程度上依赖于结构化患者数据和电子健康记录（EHR）的可用性来帮助护理人员。然而，在发展中国家的医院中，结构化患者数据格式没有被广泛采用，医疗专业人员仍然依赖于非结构化文本形式的临床记录。由医务人员记录的这种非结构化的临床记录也可以是丰富的患者特定信息的潜在来源，这些信息可以用于构建CDSS，甚至用于发展中国家的医院。如果可以使用这种非结构化的临床文本，将不再需要手动和耗时的EHR生成过程，从而节省大量工时和成本。在本文中，我们提出了一个通用的ICD 9疾病组预测CDSS建立在非结构化的医生笔记使用混合词嵌入建模。这些词嵌入用于训练深度神经网络，以有效地预测ICD 9疾病组。实验评估表明，所提出的方法优于国家的最先进的疾病组预测模型建立在结构化的EHR的15%的AUROC和40%的AUPRC方面，从而证明了我们的假设，并消除依赖结构化的患者数据的可用性。
2019-11-26 cs.CL cs.CY cs.LG
Towards unstructured mortality prediction with free-text clinical notes
Mila（米拉研究所）；Université de Montréal（蒙特利尔大学）；University of Tennessee, Knoxville（田纳西大学诺克斯维尔分校）
医疗保健数据继续蓬勃发展，但相对较小的一部分，主要是结构化的，正在有效地用于预测临床结果。非结构化临床笔记中丰富的主观信息可能有助于提高区分度，但在死亡率预测中往往未得到充分利用。这项工作试图评估的增益性能时，已被最低限度地预处理的多个音符被用作预测的输入。由卷积层和循环层组成的分层架构用于同时对在单个住院期间编译的不同笔记进行建模。该方法在MIMIC-III数据集上预测住院死亡率。与利用结构化数据的方法相比，尽管需要更少的清理和预处理，但它实现了更高的指标。这证明了非结构化数据在增强死亡率预测方面的潜力，并表明需要将更多的原始非结构化数据纳入当前的临床预测方法。
2019-11-19 cs.AI cs.CL cs.LG
LANISTR: Multimodal Learning from Structured and Unstructured Data
Google Cloud AI Research（谷歌云人工智能研究）
提出LANISTR框架，结合语言、图像和结构化数据进行多模态学习，通过掩码训练学习跨模态关系，在缺失模态场景下表现鲁棒并取得显著性能提升。
2024-04-24 cs.AI cs.LG
dIR -- Discrete Information Retrieval: Conversational Search over Unstructured (and Structured) Data with Large Language Models
Stanford University（斯坦福大学）
本文提出dIR（离散信息检索），统一接口查询自由文本和结构化知识，利用LLM将文本转为列式表示，再通过文本到SQL解析器查询，支持多步推理对话，在复杂查询上超越传统IR和SQL知识库。
2023-12-20 cs.AI cs.CL cs.DB
Transformer-based Multi-agent Reinforcement Learning for Separation Assurance in Structured and Unstructured Airspaces
Department of Computer Science George Washington University Washington D.C., United States（计算机科学系乔治·华盛顿大学华盛顿特区，美国）
本文提出基于变换器的多智能体强化学习方法，通过相对极坐标状态空间和改进的编码器架构，实现结构化和非结构化空域中的高效飞机分离保障。
2026-01-07 cs.LG cs.MA cs.RO
Comparative Analysis of Open-Source Language Models in Summarizing Medical Text Data
IBM Research（IBM研究院）
提出使用GPT-4作为评估器，对Llama2和Mistral等开源LLMs在医疗文本摘要任务中的性能进行定量评估，以支持模型选择并推动数字健康领域的知识发现。
2024-05-29 cs.CL cs.LG
DSL-R1: From SQL to DSL for Training Retrieval Agents across Structured and Unstructured Data with Reinforcement Learning
New York University（纽约大学）；Matter Innovation Inc.（Matter创新公司）；Thin Red Line（薄红线）
本文提出DSL-R1框架，结合逻辑推理与语义匹配，通过强化学习优化DSL生成，提升检索性能，实现在结构化和非结构化数据上的改进。
2026-01-14 cs.AI cs.DB cs.IR
Early Diagnosis of Atrial Fibrillation Recurrence: A Large Tabular Model Approach with Structured and Unstructured Clinical Data
University of the Basque Country（巴斯克大学）；Basurto University Hospital（巴斯克大学医院）
本研究针对传统评分预测房颤复发准确性有限的问题，提出整合结构化临床数据与经自然语言处理的出院文本构建高质量数据集，用LTM大型表格模型预测房颤发作后1-2年复发，性能优于传统评分和常规机器学习模型。
2025-05-20 cs.LG
Early detection of inflammatory arthritis to improve referrals using multimodal machine learning from blood testing, semi-structured and unstructured patient records
本文提出基于融合与集成学习的多模态机器学习方法，利用血液检测、半结构化和非结构化患者记录早期检测炎症性关节炎，并结合保形预测量化不确定性，以改善GP转诊分诊效率。
2024-07-31 cs.LG
SHUFFLESPARSE: Learned Shuffles for Structured Sparse Networks
Department of Computer Science（计算机科学系）；The Institute of Optics（光学研究所）
研究针对结构化权重稀疏性在准确性上落后于非结构化动态稀疏训练的问题，提出SHUFFLESPARSE方法，通过学习排列矩阵缩小精度差距，在多种结构上验证有效，还能提升预训练语言模型剪枝的零样本精度，确立学习排列为恢复精度的通用工具。
2026-07-22 cs.LG
Learning Multi-view Molecular Representations with Structured and Unstructured Knowledge
Institute of AI Industry Research (AIR), Tsinghua University（清华大学人工智能产业研究院（AIR））；Pharmolix Inc.（Pharmolix公司）
本文提出 MV-Mol 分子表示学习模型，融合化学结构、生物医学文本与知识图谱，通过文本提示、融合架构和两阶段预训练提升分子性质预测及多模态理解性能。
2024-06-14 cs.LG q-bio.BM
Structured Knowledge Discovery from Massive Text Corpus
Southwest University（西南大学）；Florida State University（佛罗里达州立大学）；Baidu Research（百度研究院）；Tencent America（腾讯美国）
在互联网蓬勃发展的今天，人们受益于其开放性和共享性带来的便利。大量的自然语言文本正在由用户以各种形式生成，例如搜索查询、文档和社交媒体帖子。由于非结构化文本语料库通常是嘈杂和混乱的，它成为当务之急，正确识别和准确注释结构化信息，以获得有意义的见解或更好地理解非结构化文本。另一方面，现有的结构化信息，它体现了我们的知识，如实体或概念关系，往往遭受不完整或质量相关的问题。由于大量的文本提供了丰富的语义信息，因此利用未注释文本语料库的连续性来扩展和改进现有的结构化知识并减少注释工作也很重要。本文将介绍从海量文本中有效发现结构化知识的原理、模型和算法。我们通常有兴趣借助结构化注释或结构感知建模来获得见解并更好地理解非结构化文本。此外，鉴于现有的结构化知识，我们有兴趣扩大其规模和提高其质量利用文本语料库的连续性。本文主要研究了四个方面的问题：面向自然语言理解的结构化意图检测、结构感知的自然语言建模、生成式结构化知识扩展和结构化知识的同义词精化。
2019-07-23 cs.CL cs.IR cs.LG
Tag-Weighted Topic Model For Large-scale Semi-Structured Documents
到目前为止，在互联网的发展过程中已经出现了大量的半结构化文档（SSD）。这些SSD包含非结构化功能（例如，纯文本）和元数据（例如，标签）。以往的工作主要集中在非结构化文本的建模，最近，已经提出了一些其他的方法来建模的非结构化文本与特定的标签。建立一个通用的SSD模型仍然是一个重要的问题，无论是模型的适应性和效率。我们提出了一种新的方法来建模的SSD的所谓的标签加权主题模型（TWTM）。TWTM是一个利用标签和单词信息的框架，不仅可以学习文档主题和主题词分布，还可以推断文本挖掘任务的标签主题分布。我们提出了一个有效的变分推理方法与EM算法估计模型参数。同时，在MapReduce分布式计算平台下，提出了三种大规模SSD建模方案。实验结果表明，该模型的有效性，效率和鲁棒性，通过比较与国家的最先进的方法在文档建模，标签预测和文本分类。我们还展示了三种分布式解决方案在文档建模的时间和准确性方面的性能。
2015-07-30 cs.CL cs.IR cs.LG
RUST-BENCH: Benchmarking LLM Reasoning on Unstructured Text within Structured Tables
Virginia Tech（弗吉尼亚理工大学）；IGDTUW New Delhi（新德里IGDTUW）；Arizona State University（亚利桑那州立大学）
本文提出RUST-BENCH基准，基于2031张真实异构表格的7966个问题，从规模、异构性、领域专属性与推理复杂度联合评估LLMs，发现现有模型在多跳推理上仍存在明显不足。
2025-11-06 cs.AI cs.CL cs.DB
GraphSkillEvo: Evolutionary Optimization of Graph-Structured Agent Skills
City University of Hong Kong（香港城市大学）；National University of Singapore（新加坡国立大学）；Southern University of Science and Technology（南方科技大学）
GraphSkillEvo提出将智能体技能表示为图结构，并通过进化优化框架（含变异和交叉算子）在结构化空间中高效搜索，在五个基准上超越SkillOpt，平均准确率提升最高达4.01%。
2026-09-21 cs.LG
A Unifying Framework for Robust and Efficient Inference with Unstructured Data
Littauer Center（利特auer中心）
本研究提出MAR-S框架，通过校正神经网络预测误差，实现无结构数据的鲁棒且高效推理。
2026-02-19 cs.LG econ.EM
A Structured Tour of Optimization with Finite Differences
DIBRIS, University of Genova（热那亚大学DIBRIS学院）；University of Genova（热那亚大学）；Istituto Italiano di Tecnologia（意大利技术研究院）；CBMM - MIT（MIT CBMM）
本文综述并扩展了有限差分优化中的结构化方向选择策略，证明其能以相近计算成本显著提升梯度估计精度与优化性能，涵盖合成任务与对抗扰动等应用。
2025-05-26 cs.LG math.OC
Towards Answering Climate Questionnaires from Unstructured Climate Reports
Carnegie Mellon University（卡内基梅隆大学）；UC San Diego（加州大学圣地亚哥分校）
针对气候变化NLP关注不足及报告非结构化问题，研究构建两个大规模气候问卷数据集训练自监督模型，经实验验证其能跨组织类型泛化，并在人工试点中实现文本对齐，同时提供基准支持后续研究。
2023-07-27 cs.AI cs.CL cs.IR
Cognitive Computing to Optimize IT Services
IBM
在本文中，通过主动分析IT服务台票证、客户满意度调查和社交媒体数据，解决了维护健康IT运营环境的挑战。认知解决方案通过对结构化和非结构化文本的深入分析，超越了传统的结构化数据分析。所提出的平台的显着特点包括语言识别，翻译，分层提取的最频繁出现的主题，实体及其关系，文本摘要，情感和知识提取的非结构化文本使用自然语言处理技术。此外，来自非结构化文本的见解与结构化数据相结合，允许在事件，问题和更改数据集上开发各种分类，分割和时间序列预测用例。此外，文本和预测性见解以及原始数据可用于在丰富的交互式仪表板上可视化和探索可操作的见解。然而，使用传统的结构化数据分析不仅很难找到这些见解，而且可能需要很长时间才能发现它们，特别是在处理大量非结构化数据时。通过对这些见解采取行动，组织可以从显著减少的票量，降低运营成本和提高客户满意度中受益。在各种实验中，平均而言，使用所提出的方法减少了高达18-25%的年度门票量。
2021-12-28 cs.CL cs.LG
SuperSAM: Crafting a SAM Supernetwork via Structured Pruning and Unstructured Parameter Prioritization
Iowa State University（爱荷华州立大学）；Pacific Northwest National Laboratory（太平洋西北国家实验室）；Intel Labs（英特尔实验室）
本研究针对一次性NAS搜索空间设计难题，提出通过逐层结构化剪枝与参数优先级排序将SAM转化为超网络SuperSAM的策略，所得子网络比原SAM ViT-B小30%-70%且性能更优，为ViT NAS搜索空间设计提供了新方法。
2025-01-15 cs.CV cs.LG
Hierarchical Semantic Correspondence Learning for Post-Discharge Patient Mortality Prediction
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Amazon（亚马逊）；Northwestern University（西北大学）
预测患者死亡率是医疗保健领域中一个重要且具有挑战性的问题，特别是对于重症监护病房（ICU）患者。电子健康笔记作为学习患者陈述的丰富来源，可以促进有效的风险评估。然而，很大一部分的临床笔记是非结构化的，也包含特定领域的术语，我们需要从中提取结构化的信息。在本文中，我们引入了一个嵌入框架来学习语义合理的分布式表示的临床笔记，利用非结构化文本和它们相应的结构化知识，称为语义框架，在一个层次化的方式之间的语义对应。我们的方法将文本建模和语义对应学习集成到单个模型中，该单个模型包括：1）非结构化嵌入模块，其利用自相似矩阵表示，以便注入临床文本中固有的不同片段的结构化映射，以促进局部一致性; 2）结构化嵌入模块，其嵌入语义框架（例如，UMLS语义类型）与深度ConvNet的交互，以及3）分层语义对应模块，其通过增强多个级别上的文本语义框架嵌入对之间的交互来嵌入（即，单词、句子、注释）。出院后重症监护患者死亡率预测任务的多个嵌入基准的评估表明，它的有效性相比，不利用结构化和非结构化的信息之间的语义相互作用的临床笔记的方法。
2019-10-15 cs.CL cs.LG
SoUnD Framework: Analyzing (So)cial Representation in (Un)structured (D)ata
Google Research（谷歌研究院）
本文提出SoUnD框架，用于分析非结构化数据中的人类表征并识别下游风险，通过在C4和LAION-400M上的示例验证其可行性，并给出数据集使用、开发与文档化的行动建议。
2023-12-01 cs.CY cs.LG
CrunchLLM: Multitask LLMs for Structured Business Reasoning and Outcome Prediction
Department of Computer Science University of Kentucky（计算机科学系 俄亥俄大学）；Department of Computer Science, Institute for Biomedical Informatics University of Kentucky（计算机科学系 生物医学信息学研究所 俄亥俄大学）
提出CrunchLLM框架，通过融合结构化与非结构化数据并采用参数高效微调与提示优化，在Crunchbase初创企业成功预测中准确率超80%，并提供可解释的推理轨迹以增强决策透明度。
2025-10-11 cs.CV cs.LG
Predicting Severe Sepsis Using Text from the Electronic Health Record
MultiModel Research（MultiModel 研究公司）；Baystate Health（贝州健康系统）；Baystate Medical Center（贝州医疗中心）
采用机器学习方法，我们在24小时前预测严重脓毒症的诊断。强预测模型可能仅使用来自电子健康记录（EHR）的文本报告，而忽略结构化的数字数据。单独使用非结构化文本的性能比单独使用结构化数据的性能稍好，两者的结合进一步提高了性能。我们还讨论了使用非结构化EHR文本建模的优势，相比结构化EHR数据。
2017-11-30 cs.CY cs.LG
Optimal Single Sample Tests for Structured versus Unstructured Network Data
Massachusetts Institute of Technology（麻省理工学院）
我们研究了平均场分布（如Curie-Weiss，Erdens-Rényi）和结构化Gibbs分布（如稀疏图上的Ising模型和指数随机图）之间的单样本检验问题。我们的目标是在不知道底层模型的参数值的情况下进行测试：只知道依赖关系的\emph{structure}。我们开发了一种新的方法，适用于伊辛和指数随机图设置的基础上，一般和自然的统计测试。该检验在温度参数（逆）的某一阈值以上可以区分概率高的假设，在阈值以下没有检验可以区分假设，是最优的。阈值不对应于模型中长程有序的存在。通过在全球范围内汇总信息，我们的测试即使在非常高的温度下也能正常工作。证明是基于分布近似和急剧集中的二次型，当限制到汉明球。对汉明球的限制是必要的，因为如果没有温度参数的明确知识，任何标量统计都是无用的。同时，这种限制从根本上改变了所考虑的函数的行为，导致比独立设置小得多的方差;这使得很难直接应用标准方法（即，Stein的方法）的浓度弱因变量。相反，我们进行了额外的张量化参数使用马尔可夫链，尊重汉明球的对称性。
2018-05-23 cs.LG math.PR math.ST
OceanLight: Efficient Global Ocean Forecasting via Geometry-Adaptive Unstructured Mesh Representation
College of Computer Science and Technology, National University of Defense Technology（国防科技大学计算机学院）
OceanLight框架结合几何自适应非结构化网格分词与GNN主干，在提升海洋预报精度的同时降低计算成本，为可扩展数据驱动海洋学建立了可推广范式。
2026-08-18 cs.AI cs.LG
Comparative Study of Deep Learning Architectures for Textual Damage Level Classification
University of New South Wales（新南威尔士大学）；School of Engineering and Technology（工程与技术学院）；School of Systems and Computing（系统与计算学院）；School of Science（理学院）
本研究比较了LSTM、BLSTM、GRU和sRNN四种深度学习模型，用于对航空安全事件叙述进行飞机损伤等级分类，其中sRNN表现最佳，准确率达89%，显著超越随机猜测基线。
2025-01-03 cs.LG
Graph-Text Multi-Modal Pre-training for Medical Representation Learning
KAIST（韩国科学技术院）；Seoul National University Bundang Hospital（首尔大学盆唐医院）
随着电子健康记录（EHR）数量的急剧增长，人们对学习EHR在医疗保健应用中的表示产生了兴趣。EHR的表示学习需要对EHR中的两种主要模态进行适当的建模：结构化数据和非结构化文本。在本文中，我们提出了MedGTX，一个预训练模型的结构化和文本EHR数据的多模态表示学习。MedGTX使用一种新的图形编码器来利用结构化EHR数据的图形特性，使用一个文本编码器来处理非结构化文本，使用一个跨模态编码器来学习联合表示空间。我们通过MIMIC-III（一种开源EHR数据）上的四个代理任务对我们的模型进行了预训练，并在两个临床基准和三个新的下游任务上对我们的模型进行了评估，这些任务解决了EHR数据中的现实问题。结果一致表明，预训练模型的有效性，从EHR的结构化和非结构化信息的联合表示。鉴于MedGTX的良好表现，我们相信这项工作为共同理解EHR数据的两种基本模式打开了一扇新的大门。
2022-03-18 cs.CL cs.LG
FUSE-Traffic: Fusion of Unstructured and Structured Data for Event-aware Traffic Forecasting
Department of Computer Science and Engineering, University of North Texas（计算机科学与工程系，北卡罗来纳州立大学）
本文面向事件感知交通预测，提出FUSE-Traffic以融合非结构化与结构化数据，克服传统GNN依赖人工事件特征、泛化性弱及语义损失的问题。
2025-10-16 cs.AI cs.LG
UnIT: Scalable Unstructured Inference-Time Pruning for MAC-efficient Neural Inference on MCUs
Worcester Polytechnic Institute（沃斯特理工学院）；Syracuse University（Syracuse大学）；Arizona State University（亚利桑那州立大学）
UnIT提出一种非结构化推理时剪枝方法，通过动态跳过不必要的MAC操作，在MCU上实现免重训练的高效推理，显著降低计算和能耗。
2025-07-10 cs.AI cs.LG
Automated Extraction of Fine-Grained Standardized Product Information from Unstructured Multilingual Web Data
Berlin University of Applied Sciences and Technology（柏林应用科学与技术大学）；Einstein Center Digital Future（爱因斯坦数字未来中心）
从非结构化数据中提取结构化信息是包括电子商务在内的现代信息检索应用中的关键挑战之一。在这里，我们展示了机器学习的最新进展，结合最近发布的具有标准化细粒度产品类别信息的多语言数据集，如何在具有挑战性的迁移学习设置中实现强大的产品属性提取。我们的模型可以可靠地预测在线商店，语言或两者的产品属性。此外，我们表明，我们的模型可以用来匹配在线零售商之间的产品分类。
2023-02-23 cs.AI cs.IR cs.LG
Spectral Learning of Large Structured HMMs for Comparative Epigenomics
UC San Diego（加州大学圣迭戈分校）；Rutgers University（罗格斯大学）
我们开发了一个潜在的变量模型和一个有效的光谱算法的动机最近出现的非常大的数据集的染色质标记从多种人类细胞类型。一种细胞类型中染色质数据的自然模型是隐马尔可夫模型（HMM）;我们通过已知结构的固定树连接它们的隐藏状态来建模多个细胞类型之间的关系。这种模型的学习参数的主要挑战是，诸如EM的迭代方法非常慢，而朴素谱方法导致时间和空间复杂度与细胞类型的数量成指数关系。我们利用隐藏状态的树结构的属性来提供对于当前生物数据集计算效率更高的谱算法。我们为我们的算法提供了样本的复杂性界限，并从九种人类细胞类型的生物数据进行了实验评估。最后，我们表明，除了我们的特定模型，我们的一些算法思想可以应用到其他图形模型。
2015-06-04 cs.LG math.ST q-bio.GN
TableGuard -- Securing Structured & Unstructured Data
The A-Team
TableGuard提出一种基于BERT的上下文敏感混淆方法，用于关系数据库API数据共享，平衡隐私保护与数据实用性，减少信息泄露。
2024-08-13 cs.AI cs.CL cs.CR
Dependency-Aware Semi-Structured Sparsity of GLU Variants in Large Language Models
Nara Institute of Science and Technology（奈良科学技术大学）
本文提出依赖感知半结构化稀疏性方法DaSS，通过结合权重幅值与MLP中间激活范数的剪枝度量，在GLU类大语言模型上实现硬件友好的N:M稀疏，性能优于SparseGPT和Wanda并保持Wanda的计算效率。
2024-10-20 cs.AI cs.CL cs.LG
