Personalized Prognostic Models for Oncology: A Machine Learning Approach
Innovative Oncology Business Solutions（创新肿瘤商业解决方案公司）
我们对美国国家癌症研究所（NCI）的监测、流行病学和最终结果（SEER）医学上可用的数据子集应用了一种鲜为人知的数据转换，使其成为标准机器学习分类器的合适输入。这种转换正确地处理了SEER数据中的右删失数据，得到的随机森林和多层感知器模型预测了完整的生存曲线。将所得存活曲线的6、12和60个月点视为3个二元分类器，18个所得分类器的AUC值范围为0.765至0.885。随机森林和神经网络模型对6个月、12个月和60个月的二进制分类器的预测之间的极高一致性提供了模型从训练数据中推广得很好的进一步证据。
2016-06-22 cs.LG stat.AP stat.ML
When are novel methods for analyzing complex chemical mixtures in epidemiology beneficial?
North Carolina State University（北卡罗来纳州立大学）
本文探讨了在流行病学中分析复杂化学混合物时，通用方法与新方法的适用场景，指出在特定条件下通用方法更优，而在复杂交互情况下新方法更具优势。
2025-12-03 stat.ME
Distilling Information from a Flood: A Possibility for the Use of Meta-Analysis and Systematic Review in Machine Learning Research
Stanford University（斯坦福大学）
当前，从计算机视觉到强化学习，机器学习研究的所有领域都充斥着大量信息，这使得人们很难做出聚合的科学推断。将无数类似的论文提炼成一套有用的原则，确定哪些新方法用于特定的应用程序，并确信在开发新想法时已经与所有相关的工作进行了比较，这可能是具有挑战性的。然而，如此快速增长的研究文献是其他领域已经面临的问题，特别是医学和流行病学。在这些领域，系统综述和荟萃分析已经被用来处理这些问题，而且整个期刊都致力于这种分析并不罕见。在这里，我们建议机器学习领域可能同样受益于荟萃分析和系统综述，我们鼓励沿着这个方向进一步讨论和发展。
2018-12-03 cs.DL cs.LG stat.ML
Unsupervised Machine Learning for the Discovery of Latent Disease Clusters and Patient Subgroups Using Electronic Health Records
Mayo Clinic（妙佑医疗国际）
机器学习已经变得无处不在，并且是挖掘电子健康记录（EHR）以促进临床研究和实践的关键技术。与监督学习相反，无监督机器学习在不使用人类创建的标签的情况下从EHR识别新模式和关系方面显示出了希望。在本文中，我们研究了无监督的机器学习模型在发现潜在的疾病集群和基于EHR的患者亚组中的应用。我们利用潜在狄利克雷分配（LDA），一个生成的概率模型，并提出了一种新的模型命名为泊松狄利克雷模型（PDM），它扩展了LDA的方法，使用泊松分布模型患者的疾病诊断和减轻年龄和性别因素，同时考虑观察和预期的观察。在实证实验中，我们评估了LDA和PDM的三个患者队列的EHR数据检索罗切斯特流行病学项目（REP），潜在的疾病集群和患者亚组的发现。我们比较了LDA和PDM在通过两种方法学习的疾病表示的可视化来识别潜在疾病簇方面的有效性。我们还通过生存分析以及统计分析检验了LDA和PDM在区分患者亚组方面的性能。实验结果表明，提出的PDM可以有效地识别区分疾病集群，减轻年龄和性别的影响，LDA可以分层患者到更可区分的亚组比PDM的p值。然而，PDM发现的亚组可能意味着流行病学研究中更感兴趣的疾病的潜在模式，由于年龄和性别的缓解。两种无监督机器学习方法都可以用来发现使用EHR但具有不同焦点的患者亚组。
2019-05-17 cs.AI cs.IR stat.AP
Leveraging advances in machine learning for the robust classification and interpretation of networks
本文利用可解释机器学习基于网络特征及其交互对模拟网络进行分类，以评估生成模型是否适合刻画给定网络结构，从而揭示复杂网络的形成机制。
2024-06-12 cs.SI math.SP stat.ML
Comparing statistical learning models in wastewater-based epidemiology: An application to norovirus
School of Public Health, Imperial College London（帝国理工学院公共卫生学院）；MRC Centre for Environment and Health, Imperial College London（帝国理工学院环境与健康医学研究委员会中心）；MRC Centre for Global Infectious Disease Analysis, Imperial College London（帝国理工学院全球传染病分析医学研究委员会中心）
本研究比较六种统计学习模型预测污水中诺如病毒浓度，发现随机森林综合性能最优，INLA-SPDE贝叶斯模型在不确定性量化上表现佳，并揭示预测精度与计算效率的权衡。
2026-09-18 stat.AP
Confound-leakage: Confound Removal in Machine Learning Leads to Leakage
Forschungszentrum Jülich（于利希研究中心）；Heinrich-Heine University Düsseldorf（杜塞尔多夫海因里希·海涅大学）；University College London（伦敦大学学院）；The Alan Turing Institute（艾伦·图灵研究所）；University Hospital Frankfurt（法兰克福大学医院）；RWTH Aachen University（亚琛工业大学）
数据分析的机器学习（ML）方法现在被广泛应用于包括流行病学和医学在内的许多领域。要应用这些方法，必须首先消除混淆，这通常是在应用ML之前通过线性回归按特征去除其方差来完成的。在这里，我们展示了这种常见的混淆去除方法，这种方法会导致ML模型产生误导性的结果。具体地说，这种常见的去干扰方法可能会泄漏信息，使得当随后应用非线性ML方法时，无效或中等影响被放大到近乎完美的预测。我们确定和评估这种混淆泄漏的可能机制，并提供切实可行的指导，以减轻其负面影响。我们通过分析一个临床数据集来证明混杂泄漏在现实世界中的重要性，在该数据集中，预测注意缺陷多动障碍（ADHD）与抑郁症作为混杂因素的准确性被高估。我们的研究结果对ML工作流的实现和部署具有广泛的影响，并警告不要天真地使用标准混淆删除方法。
2022-10-27 cs.AI cs.LG stat.ML
Epidemiology of exposure to mixtures: we cant be casual about causality when using or testing methods
背景：有越来越多的兴趣，在分析接触混合物对健康的影响的方法。一个关键问题是如何同时分析混合物中通常高度共线的组分，这可能会产生诸如共曝光和共曝光放大偏差（CAB）造成的混淆等问题。评价新的混合物方法，通常使用合成数据，是其最终效用的关键。目的：本文旨在回答两个问题。因果模型如何解释统计模型和创建用于测试它们的合成数据？新的混合方法是否易受CAB影响？研究方法：我们使用有向无环图（DAG）和线性模型来推导模型参数的封闭形式的解决方案，以研究潜在的因果假设如何影响模型结果的解释。结果：由统计模型估计的相同β系数可以根据假设的因果结构而具有不同的解释。同样，用于模拟数据的方法可能会对底层的离散随机数产生影响（反之亦然），因此也会对使用分析方法估计的参数的识别产生影响。我们证明，可以重现线性回归的结果，如贝叶斯核机器回归和新的分位数g计算方法的方法，将受到CAB。然而，在某些条件下，混合物的总体效应的估计不受CAB的影响，甚至具有减少的不受控制的偏差。讨论内容：正如DAG编码的先验主题知识，允许识别的变量控制需要阻止分析偏差，我们建议明确识别DAG的基础合成数据创建测试统计混合方法。混合物的总效应的估计是一个重要但相对未充分探讨的课题，值得进一步研究。
2020-07-02 stat.AP stat.ME
A decision-theoretic framework for uncertainty quantification in epidemiological modelling
本文提出基于第一性原理的决策论框架，以预期损失定义不确定性并区分可降低与不可降低部分，借新西兰废水监测案例验证其统一并扩展跨领域方法的价值。
2025-09-30 q-bio.QM stat.ME
Estimating Structural Target Functions using Machine Learning and Influence Functions
我们的目标是构建一类学习算法，具有实用价值的应用研究人员在生物统计学，流行病学和计量经济学等领域，需要学习不完全观察到的信息是无处不在的。我们提出了一个新的框架，统计机器学习的目标函数所产生的可识别的泛函从统计模型，我们称之为"IF学习"，由于其依赖于影响函数（IF）。这个框架是问题和模型不可知的，可以用来估计各种各样的目标参数的兴趣在应用统计学：我们可以考虑任何目标函数的IF的人口平均版本存在于分析形式。在整个过程中，我们特别关注所谓的随机粗化/部分未观测信息的双重鲁棒问题。这包括诸如处理效应估计和在存在缺失结果数据的情况下的推断等问题。在这个框架内，我们提出了两种通用的学习算法，它们基于通过IF去除非参数插件偏差的想法："IF-学习器"，其使用由非中心IF激励的伪结果用于大样本中的回归，并输出没有置信带的整个目标函数，以及"组IF-学习器"，其仅输出对函数的近似，但是如果关于粗化机制的足够信息可用，则可以给出置信度估计。我们将两者应用于推断处理效应的模拟研究中。
2021-02-08 stat.ME stat.ML
The interplay of robustness and generalization in quantum machine learning
University of Stuttgart（斯图加特大学）；Institute for Systems Theory and Automatic Control（系统理论与自动控制研究所）；Institute for Computational Physics（计算物理学研究所）
本文研究变分量子模型中对抗鲁棒性与泛化的关联，利用依赖模型参数的 Lipschitz 界统一刻画二者，并提出基于正则化和可训练数据编码的训练方法，且在时间序列分析中验证其意义。
2025-06-10 cs.LG cs.SY eess.SY
Evolutionary approaches to explainable machine learning
Queen's University（女王大学）
本文综述进化计算在可解释机器学习中的应用，旨在通过进化技术提升模型透明度和可信度，并展望未来研究方向。
2023-06-23 cs.AI cs.LG cs.NE
Introduction to Machine Learning
本书系统介绍机器学习算法背后的数学基础，涵盖优化、监督学习、生成式方法、无监督学习及泛化理论。
2025-05-13 cs.LG stat.ML
Topics in Random Matrices and Statistical Machine Learning
Kyoto University（京都大学）
本论文由两个独立的部分组成：随机矩阵，这构成了本论文的前三分之一，和机器学习，这构成了其余部分。本文的主要结果有：$(m,n,β)$ -Laguerre矩阵和复合Wishart矩阵的逆矩为有限的充要条件; $k$ -最近邻规则分别在度量σ-有限维空间和度量有限维空间中的普适弱相合性和强相合性。在第一部分中，第一章介绍了$(m,n,β)$ -Laguerre矩阵、Wishart矩阵和复合Wishart矩阵及其联合特征值分布。在第二章中，给出了逆矩有限的一个充分必要条件。在第二部分中，第一章介绍了度量维数和微分性质的各种概念，并对Preiss结果的必要部分进行了证明。第二章介绍了统计机器学习中的数学概念，第三章给出了$k$ -最近邻规则，并证明了Stone定理。在第四章和第五章中，我们给出了我们的主要结果和一些可能的未来发展方向。
2018-07-25 cs.LG math.PR stat.ML
Machine Learning for Clinical Predictive Analytics
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）
在本章中，我们简要概述了将机器学习技术应用于临床预测任务。我们首先快速介绍机器学习的概念，并概述一些最常见的机器学习算法。接下来，我们将演示如何使用适当的工具包应用算法来进行临床预测任务的机器学习实验。本章的目标是（1）理解机器学习技术的基础知识以及它们对解决临床预测问题有用的原因，（2）理解一些机器学习模型背后的直觉，包括回归，决策树和支持向量机，以及（3）通过案例研究了解如何使用公开可用的数据集将这些模型应用于临床预测问题。
2019-09-19 cs.LG stat.ML
Machine Learning Assessment: implications to cybersecurity
University of Victoria（维多利亚大学）；Helwan University（赫尔万大学）
本章致力于机器学习（ML）算法的评估和性能估计，这一主题对于构建这些算法同样重要，特别是在网络物理安全设计的背景下。文献中充满了非参数方法，可以通过恢复技术从一个可用的数据集估计统计量，例如，刀切法、自举法和交叉验证法。非常感兴趣的特殊统计量是分类规则的错误率和ROC曲线下面积（AUC）。这些恢复方法的重要性源于这样一个事实，即它们不需要关于数据的概率分布或ML算法的构造细节的知识。本章简要回顾了这些文献，为这些方法建立了一个连贯的理论框架，可以估计错误率（单样本统计量）和AUC（双样本统计量）。重排序方法通常在计算上是昂贵的，因为它们依赖于在每次重排序迭代之后重复ML算法的训练和测试。因此，这些方法中的一些方法的实际适用性可能限于传统的ML算法，而不是最近的深度神经网络（DNN）的计算要求非常高的方法。在网络物理安全领域，许多应用程序生成结构化（表格）数据，这些数据可以提供给所有传统的ML方法。这与DNN方法形成对比，DNN方法倾向于非结构化数据，例如，图像、文本、语音等;因此，本章与该领域的相关性。
2022-12-17 cs.LG stat.ML
False perfection in machine prediction: Detecting and assessing circularity problems in machine learning
Computational Linguistics, Heidelberg University（海德堡大学计算语言学系）；Interdisciplinary Center for Scientific Computing (IWR), Heidelberg University（海德堡大学跨学科科学计算中心）
本文是《效度、可靠性和意义》一书第二章早期版本的摘录。NLP和数据科学的经验方法》，作者Stefan Riezler和Michael Hagmann，由Morgan & Claypool于2021年12月出版。请访问本书的主页https://www.morganclaypoolpublishers.com/catalog_Orig/product_info.php? products_id=1688，以获取更新和更全面的讨论。
2021-12-13 cs.LG stat.ML
Contributions to Large Scale Bayesian Inference and Adversarial Machine Learning
Universidad Complutense de Madrid（马德里康普顿斯大学）；Universidad Politécnica de Madrid（马德里理工大学）
ML方法的广泛采用表明，模型通常被用来做出决策，而不考虑其预测中的不确定性。更重要的是，他们可能容易受到敌对例子的影响。因此，我们认为，开发考虑预测不确定性并对对抗性示例具有鲁棒性的ML系统是关键的现实任务的必要条件。我们从零售业的一个案例开始。我们提出了一个强大的实现Nerlove-Arrow模型使用贝叶斯结构时间序列模型。它的贝叶斯性质有助于纳入反映管理人员观点的先验信息，这些信息可以用相关数据进行更新。然而，这种情况下采用经典的贝叶斯技术，如吉布斯采样器。如今，ML领域充斥着神经网络，本章还将概述这一子领域的当前发展。然后，我们解决了将贝叶斯推断扩展到复杂模型和大数据状态的问题。在第一部分中，我们提出了一个统一的观点，两个不同的贝叶斯推断算法，随机梯度马尔可夫链蒙特卡罗（SG-MCMC）和斯坦变分梯度下降（SVGD），导致改进和有效的新的采样方案。在第二部分中，我们开发了一个框架，通过在变分后验近似中嵌入马尔可夫链采样器来提高概率模型中贝叶斯推断的效率。在此之后，我们提出了一个基于对抗风险分析的对抗分类的替代观点，并利用了第2章中的可扩展贝叶斯方法。在第4章中，我们将转向强化学习，介绍受威胁的马尔可夫决策过程，展示在Agent学习的同时在RL中考虑对手的好处。
2021-09-25 cs.LG stat.ML
Reproducibility in machine learning for medical imaging
Sorbonne Université（索邦大学）；Institut du Cerveau - Paris Brain Institute - ICM（巴黎脑科学院）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；Inserm（法国国家健康与医学研究院）；AP-HP（巴黎公共医疗救助机构）；Hôpital de la Pitié-Salpêtrière（巴黎硝石库慈善医院）；University of Twente（特文特大学）
复制是科学的基石，因为复制发现是它们成为知识的过程。人们普遍认为，许多科学领域正在经历一场再现性危机。这导致了各种指南的出版，以提高研究的可重复性。本章旨在为医学成像机器学习领域的研究人员介绍再现性。我们首先区分不同类型的再现性。对于每一个，我们的目标是定义它，在描述的要求，以实现它，并在讨论其效用。本章最后讨论了可重复性的好处，并呼吁对这一概念及其在研究实践中的实施采取非教条式的方法。
2022-09-12 cs.CV cs.LG q-bio.OT
Algorithms for Collaborative Machine Learning under Statistical Heterogeneity
Ulsan National Institute of Science and Technology（蔚山科学技术院）
本论文针对联邦学习中的统计异质性问题，从参数、混合系数和本地数据分布三个角度提出SuPerFed、AAggFF和FedEvg三种算法，为数据去中心化场景下的协作机器学习提供实用解决方案。
2024-07-31 cs.DC cs.LG stat.ML
Visual Analytics and Human Involvement in Machine Learning
Tel Aviv University（特拉维夫大学）
快速发展的人工智能系统和应用程序仍然需要人工参与分析过程的几乎所有部分。人类决策在很大程度上基于可视化，为数据科学家提供数据属性的详细信息和分析过程的结果。在机器学习（ML）过程的不同步骤中使用不同的可视化。使用哪种可视化取决于数据域、数据模型和ML过程中的步骤等因素。在本章中，我们将描述ML过程中的七个步骤，并回顾与不同类型的数据，模型和目的的不同步骤相关的不同可视化技术。
2020-05-12 cs.HC cs.LG stat.ML
Meta-Learning: A Survey
Eindhoven University of Technology（埃因霍温理工大学）
元学习，或学习学习，是系统地观察不同的机器学习方法如何在广泛的学习任务上执行的科学，然后从这种经验或元数据中学习，以比其他方式更快地学习新任务。这不仅大大加快和改进了机器学习管道或神经架构的设计，还允许我们用以数据驱动方式学习的新方法取代手工设计的算法。在这一章中，我们提供了在这个迷人的和不断发展的领域的艺术状态的概述。
2018-10-08 cs.LG stat.ML
Defending against Machine Learning based Inference Attacks via Adversarial Examples: Opportunities and Challenges
Duke University（杜克大学）
随着机器学习（ML）变得越来越强大且易于访问，攻击者越来越多地利用ML在各个领域执行自动化的大规模推理攻击。在这种配备ML的推理攻击中，攻击者可以访问个人、软件或系统的某些数据（称为公共数据）;并且攻击者使用ML分类器来自动推断其私有数据。推理攻击对个人和系统构成严重的隐私和安全威胁。推理攻击之所以成功，是因为私有数据与公共数据在统计上相关，而ML分类器可以捕获这种统计相关性。在本章中，我们将讨论通过对抗性示例防御ML装备的推理攻击的机会和挑战。我们的关键观察是，攻击者在推理攻击中依赖ML分类器。对抗性机器学习社区已经证明了ML分类器有各种漏洞。因此，我们可以将ML的漏洞转化为对推理攻击的防御。例如，ML分类器很容易受到对抗性示例的影响，这些示例会向正常示例添加精心制作的噪音，以便ML分类器按照我们的期望对示例进行预测。为了防御推理攻击，我们可以在公共数据中添加精心制作的噪音，将它们变成对抗性的例子，这样攻击者的分类器就会对私有数据做出错误的预测。然而，现有的构建对抗性示例的方法是不够的，因为它们没有考虑到在防御推理攻击时对精心制作的噪声的独特挑战和要求。在本章中，我们以在线社交网络中的推理攻击防御为例来说明机遇和挑战。
2019-09-19 cs.CR cs.LG stat.ML
Another look at statistical inference with machine learning-imputed data
Department of Statistical Sciences, University of Toronto（统计科学系，多伦多大学）；Department of Biostatistics, UNC Chapel Hill（生物统计学系，北卡罗来纳大学教堂山分校）；Biostatistics Center, Massachusetts General Hospital（麻省总医院生物统计中心）
本文提出了一种基于机器学习插补结果的Z估计方法，旨在提高统计推断效率并减少预测误差带来的偏差。
2026-01-19 cs.LG stat.ML
Deep Learning and Reinforcement Learning for Autonomous Unmanned Aerial Systems: Roadmap for Theory to Deployment
Marconi-Rosenblatt Innovation Laboratory, ANDRO Computational Solutions, LLC（马可尼-罗森布拉特创新实验室，ANDRO计算解决方案有限责任公司）
无人机系统（UAS）越来越多地用于商业，民用和军事应用。目前最先进的UAS仍然依赖于具有强大无线链路的远程人类控制器来执行其中的几个应用。缺乏自主性限制了可以部署UAS的应用和任务的领域。为无人机系统实现自主性和智能化将有助于克服这一障碍，并扩大其使用范围，提高安全性和效率。在这个数字时代，计算资源的指数级增长和大量数据的可用性导致了机器学习从去年冬天开始复苏。因此，在本章中，我们将讨论如何利用机器学习的一些进展，特别是深度学习和强化学习来开发下一代自主UAS。我们首先在引言部分讨论当前无人机系统的应用、挑战和机遇，以此作为本章的出发点。然后，我们将概述本章讨论的一些关键深度学习和强化学习技术。计算机视觉是实现无人机自主性必不可少的一个关键领域。因此，我们讨论了如何使用深度学习方法来完成一些有助于提供UAS自主性的基本任务。然后，我们讨论了如何强化学习探索使用这些信息提供自主控制和导航的无人机。接下来，我们为读者提供了选择合适的仿真套件和硬件平台的方向，这将有助于快速原型化基于UAS的新型机器学习解决方案。我们还讨论了与开发自主UAS解决方案的各个方面有关的开放性问题和挑战，以揭示潜在的研究领域。
2020-09-09 cs.LG cs.SY eess.SY
Generalizing Correspondence Analysis for Applications in Machine Learning
Harvard University（哈佛大学）；Massachusetts Institute of Technology（麻省理工学院）
对应分析（CA）是一种多变量统计工具，用于通过寻找随机变量对的最大相关嵌入来可视化和解释数据依赖性。CA已经在从流行病学到社会科学的领域中找到了应用;然而，目前的方法不能扩展到大型高维数据集。在本文中，我们提供了一个新的解释CA的信息理论量称为主惯性分量。我们表明，估计的主要惯性成分，这包括在解决一个功能优化问题的空间上的两个随机变量的有限方差函数，相当于执行CA。然后，我们利用这种洞察力来设计新的算法，以前所未有的规模执行CA。特别是，我们演示了如何使用深度神经网络从数据中可靠地近似主惯性分量。最后，我们展示了CA中随机变量对的这些最大相关嵌入如何在几个学习问题中进一步发挥核心作用，包括分类边界和训练过程的可视化，以及最近的多视图和多模态学习方法。
2020-06-27 cs.IT cs.LG math.IT
Randomized Dimension Reduction with Statistical Guarantees
本研究从计算效率出发设计基于矩阵概要的随机低秩分解降维算法，从样本效率出发研究带数据增强的学习算法并应用于医学图像分割，为高维场景下的算法提速与数据高效利用提供了有统计保证的方案。
2023-10-03 cs.LG cs.NA math.NA
