Deep Learning for Predicting Asset Returns
City University of Hong Kong（香港城市大学）；University of Chicago（芝加哥大学）
深度学习搜索用于预测资产回报的非线性因素。可预测性是通过多层复合因素而不是相加因素来实现的。从这个角度来看，可以使用多层深度学习器重新审视资产定价研究，例如用于时间序列效应的校正线性单元（ReLU）或长短期记忆（LSTM）。包括随机梯度下降（SGD）、TensorFlow和dropout设计在内的最先进算法提供了实现和高效的因子探索。为了说明我们的方法，我们重新审视了Welch和Goyal（2008）的股票市场风险溢价数据集。我们发现存在的非线性因素，解释的可预测性的回报，特别是在极端的特征空间。最后，我们总结了未来研究的方向。
2018-04-26 cs.LG econ.EM stat.ML
Predicting Weather Uncertainty with Deep Convnets
ETH Zürich（苏黎世联邦理工学院）；ECMWF（欧洲中期天气预报中心）
现代天气预报模型使用集合预报系统进行不确定性量化，集合预报系统收集基于多个扰动模拟的非参数统计。为了提供准确的估计，必须运行数十个这样的计算密集型模拟。我们表明，深度神经网络可以用于一小组数值天气模拟，以估计天气预报的传播，显着降低计算成本。为了训练系统，我们修改了3D U-Net架构并探索了包含时态数据的模型。我们的模型是改善当前实时天气预报系统中不确定性量化的起点，这对于预测极端事件至关重要。
2019-12-04 cs.LG physics.ao-ph stat.ML
Predicting the Performance of a Computing System with Deep Networks
Newcastle University（纽卡斯尔大学）；Durham University（杜伦大学）
预测计算硬件的性能和能耗对于许多现代应用至关重要。这将为采购决策、部署决策和自主扩展提供信息。了解硬件性能的现有方法主要集中在基准测试上-利用标准化的工作负载，这些工作负载试图代表最终用户的需求。目前存在两个关键挑战：基准测试工作负载可能无法代表最终用户的工作负载，并且无法轻松获得所有硬件的基准测试分数。在本文中，我们展示了构建深度学习模型来预测未知硬件的基准测试分数的潜力。我们使用公开的SPEC 2017基准结果进行评估。我们评估了三个不同的网络，一个完全连接的网络和两个卷积神经网络（一个是定制的，一个是ResNet启发的），并展示了令人印象深刻的$R^2$分数分别为0.96，0.98和0.94。
2023-02-27 cs.LG cs.NE
Deep-dust: Predicting concentrations of fine dust in Seoul using LSTM
Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）；Korea Institute of Science and Technology（韩国科学技术研究院）
韩国的粉尘污染是一个严重的问题，其主要成分是生物质燃烧和粉尘带的扬尘。由于首尔的细粉尘颗粒是气态污染物之间复杂化学反应的产物，同时也受到污染物与多种气候变量之间动力学相互作用的影响，因此预测首尔的细粉尘颗粒浓度具有挑战性。通过使用深度学习来阐述最先进的时间序列分析技术，可以捕获多个变量之间的非线性相互作用，并用于预测未来的粉尘浓度。在这项工作中，我们提出了基于LSTM的模型，根据以前的污染物浓度，粉尘浓度和周围地区的气候变量来预测首尔目标位置的细粉尘小时浓度。我们的研究结果表明，该模型成功地预测了未来的灰尘浓度在25个目标区（顾）在首尔。
2019-01-29 cs.LG stat.ML
Predicting the Popularity of Online Videos via Deep Neural Networks
Alibaba Group（阿里巴巴集团）
预测在线视频的流行度对于视频流内容提供方来说是重要的。这是一个具有挑战性的问题，因为以下两个原因。一是问题既“广”又“深”。也就是说，它不仅依赖于广泛的特征，而且是高度非线性和复杂的。第二，可能涉及多个竞争对手。在本文中，我们提出了一个通用的预测模型，使用多任务学习（MTL）模块和关系网络（RN）模块，其中MTL可以减少过度拟合和RN可以模拟多个竞争对手的关系。实验结果表明，我们提出的方法显着提高预测的准确性与RN和MTL模块的电视剧的总观看计数。
2017-11-30 cs.LG
Predicting Blood Glucose with an LSTM and Bi-LSTM Based Deep Neural Network
Bern University Hospital “Inselspital”（伯尔尼大学医院“Inselspital”）
使用深度学习网络来预测未来的血糖水平，因为这可以允许糖尿病患者在即将发生高血糖和低血糖之前采取行动。使用具有一个长短期记忆（LSTM）层、一个双向LSTM层和多个完全连接层的序列模型来预测不同预测时域的血糖水平。该方法在来自20名真实患者的26个数据集上进行了训练和测试。建议的网络优于基线方法的所有评价标准。
2018-09-11 cs.LG q-bio.QM stat.ML
Predicting intubation support requirement of patients using Chest X-ray with Deep Representation Learning
深度学习医学成像的最新发展提供了自动诊断和预后的证据。它也可以作为现有诊断方法的补充。深度学习可以用于诊断、严重程度预测、插管支持预测和许多类似的任务。我们提出了使用深度表示学习从胸部X射线预测患者的插管支持需求。我们在https://github.com/aniketmaurya/covid-research公开发布我们的源代码。
2020-10-28 cs.CV cs.LG eess.IV
NeurIPS 2020 Competition: Predicting Generalization in Deep Learning
Google Research（谷歌研究院）；University of Toronto（多伦多大学）；Element AI；Microsoft Research（微软研究院）；University Paris-Saclay（巴黎-萨克雷大学）；ChaLearn
理解深度学习中的泛化可以说是深度学习中最重要的问题之一。深度学习已经成功地应用于从模式识别到复杂决策的大量问题，但最近许多研究人员对深度学习提出了许多担忧，其中最重要的是泛化。尽管进行了许多尝试，但传统的统计学习方法仍然无法对深度学习的工作原理提供令人满意的解释。最近的一系列工作旨在解决这个问题，试图通过复杂性的措施来预测泛化性能。在这个竞赛中，我们邀请社区提出可以准确预测模型泛化的复杂性度量。一个强大而通用的复杂性度量可能会更好地理解深度学习的底层机制和深度模型在不可见数据上的行为，或者揭示更好的泛化边界。所有这些结果对于使深度学习更加强大和可靠都很重要。
2020-12-14 cs.LG stat.ML
DeepCrysTet: A Deep Learning Approach Using Tetrahedral Mesh for Predicting Properties of Crystalline Materials
SAKURA internet Inc.（樱花互联网公司）；National Institute for Materials Science (NIMS)（国立材料科学研究所）；The University of Tokyo（东京大学）；RIKEN（理化学研究所）；Kyoto University（京都大学）
针对图表示丢失晶体三维信息的问题，提出基于Delaunay四面体网格的深度学习框架DeepCrysTet，在分类和弹性属性预测上超越现有GNN模型。
2023-09-07 cond-mat.mtrl-sci cs.LG
Predicting County Level Corn Yields Using Deep Long Short Term Memory Models
Iowa State University（爱荷华州立大学）；Tsinghua University（清华大学）；Kansas State University（堪萨斯州立大学）
玉米产量预测是有益的，因为它提供了有价值的信息，生产和价格之前收获。公开的高质量玉米产量预测有助于解决突发的信息不对称问题，从而提高期货市场的价格效率。本文首次采用长短期记忆（LSTM），一种特殊形式的递归神经网络（RNN）方法来预测玉米产量。县级玉米产量和每小时天气数据的横截面时间序列使样本空间足够大，可以使用深度学习技术。LSTM在具有复杂内部关系的时间序列预测中是有效的，这使得它适合于这一任务。从县一级的数据在爱荷华州的实证结果表明，有前途的预测能力相对于现有的调查为基础的方法。
2018-05-30 cs.LG stat.ML
Predicting Parkinson's Disease using Latent Information extracted from Deep Neural Networks
IBM Hellas（IBM希腊公司）；National Technical University of Athens（雅典国立技术大学）；University of Lincoln（林肯大学）
本文提出了一种新的神经退行性疾病（如帕金森病）的医学诊断方法，通过从训练的深度卷积或卷积递归神经网络（DNN）中提取和使用潜在信息。特别地，我们的方法采用深度神经网络学习表示的迁移学习、k均值聚类和k最近邻分类的组合，以基于MRI和/或DaT扫描数据提供对疾病的丰富预测。引入新的损失函数并将其用于DNN的训练，以便在来自不同医学环境的数据之间执行所生成的学习表示的适配。使用最近发表的帕金森氏症相关信息的数据库，这是在医院环境中产生和评估的结果。
2019-01-23 cs.LG eess.IV stat.ML
An analysis of deep neural networks for predicting trends in time series data
University of Cape Town（开普敦大学）；Centre for Artificial Intelligence Research（人工智能研究中心）
最近，提出了一种混合深度神经网络（DNN）算法TreNet，用于预测时间序列数据的趋势。虽然TreNet在趋势预测方面表现出优于其他DNN和传统ML方法的性能，但所使用的验证方法没有考虑时间序列数据集的连续性，也没有处理模型更新。在这项研究中，我们使用向前走验证方法在相同的数据集上复制了TreNet实验，并在多个独立运行中测试了我们的最佳模型，以评估模型稳定性。我们比较了混合TreNet算法在四个数据集上的性能，与采用点数据的普通DNN算法以及传统ML算法。我们发现，一般来说，TreNet仍然比vanilla DNN模型表现更好，但并不是在原始TreNet研究中报告的所有数据集上。本研究强调了使用适当的验证方法和评估模型稳定性的重要性，以评估和开发机器学习模型，用于时间序列数据的趋势预测。
2020-09-22 cs.LG stat.ML
Predicting Electricity Consumption using Deep Recurrent Neural Networks
Murdoch University（莫道克大学）
在过去几十年中，电力消耗呈指数级增长。这一增长给电力分销商带来了沉重的负担。因此，预测未来的电力消费需求将为电力分销商提供优势。预测电力消耗需要许多参数。本文提出了两种方法，一种是使用递归神经网络（RNN），另一种是使用长短期记忆（LSTM）网络，它只考虑以前的用电量来预测未来的用电量。这些模型在公开的伦敦智能电表数据集上进行了测试。为了评估RNN和LSTM网络预测电力消耗的适用性，我们对它们进行了测试，以预测给定时间段内的单个房屋和一组房屋。这些预测是针对每日、三个月和13个月进行的，涵盖了短期、中期和长期预测。RNN和LSTM网络的平均均方根误差都达到了0.1。
2019-09-18 cs.LG eess.SP stat.ML
DeepECMP: Predicting Extracellular Matrix Proteins using Deep Learning
细胞外基质（extracellular matrix，ECM）是由蛋白质和碳水化合物组成的具有结构和生化功能的网络。ECM在分化、迁移和信号传导中起重要作用。一些研究已经使用机器学习算法预测ECM蛋白，如随机森林，K-最近邻和支持向量机，但尚未使用深度学习进行探索。方法：DeepECMP是使用几个以前使用的ECM数据集，不对称欠采样和11个前馈神经网络的集成开发的。结果：DeepECMP的性能为83.6%，优于几种算法。此外，DeepECMP的管道已被证明是高效的。结论：本文是第一篇专注于利用深度学习进行ECM预测的论文。DeepECMP克服了一些限制，例如计算费用，对公众的可用性和人类物种之外的可用性
2022-02-16 cs.LG q-bio.QM
Make Thunderbolts Less Frightening -- Predicting Extreme Weather Using Deep Learning
Saarland Informatics Campus（萨尔兰信息学园区）
由于大量的数据和基础物理的复杂性，预测恶劣天气条件仍然是一项非常具有挑战性和计算成本高的任务。然而，近年来，机器学习方法，特别是深度学习，在处理大型数据集的许多研究领域都取得了巨大的进步。在这项工作中，我们解决了天气预报的一个具体子问题，即雷暴和闪电的预测。我们建议使用一个卷积神经网络架构的启发UNet++和ResNet预测雷暴作为一个二进制分类问题的基础上，卫星图像和闪电记录在过去。我们在接下来的15分钟内实现了超过94%的闪电检测概率，同时与以前的方法相比，最大限度地减少了误报率。
2019-12-06 cs.LG stat.ML
A novel solution of deep learning for enhanced support vector machine for predicting the onset of type 2 diabetes
Charles Sturt University（查尔斯特大学）；Al Iraqia University（伊拉克大学）；Western Sydney University（西悉尼大学）；Kent Institute Australia（澳大利亚肯特学院）；Asia Pacific International College（亚太国际学院）；University of Kurdistan Hewler（库尔德斯坦休勒大学）；University of New South Wales（新南威尔士大学）
2型糖尿病是人类已知的最主要和最致命的疾病之一，每年有数千人患有2型糖尿病。然而，在今天的情况下，2型糖尿病的诊断和预防相对昂贵;因此，使用机器学习和深度学习技术来预测2型糖尿病的发病正在获得动力。这项研究旨在提高准确性和曲线下面积（AUC）指标，同时改善预测2型糖尿病发作的处理时间。该系统由一种深度学习技术组成，该技术使用支持向量机（SVM）算法以及径向基函数（RBF）和长短期记忆层（LSTM）来预测2型糖尿病的发作。所提出的解决方案提供了86.31%的平均准确度和0.8270或82.70%的平均AUC值，在处理中改进了3.8毫秒。径向基函数（RBF）内核和LSTM层增强了当前行业标准的预测精度和AUC度量，使其在不影响处理时间的情况下更适合实际使用。
2022-08-05 cs.LG cs.NE
Predicting Adversary Lateral Movement Patterns with Deep Learning
Data Machines
本文提出了一个预测模型，主机，在企业网，对手很可能会妥协的过程中的一场运动。这样的模型可以支持动态监控或防御。我们使用模拟网络生成此模型的数据，主机，用户和对手作为第一类实体。我们证明了模型对样本外模拟数据的预测准确性，并验证了从现场企业网上的红队事件捕获的数据的结果
2021-04-23 cs.CR cs.LG
Carbontracker: Tracking and Predicting the Carbon Footprint of Training Deep Learning Models
University of Copenhagen（哥本哈根大学）
深度学习（DL）可以在各种任务中取得令人印象深刻的结果，但这通常是以在专用硬件加速器上长时间训练模型为代价的。近年来，这种能源密集型工作量大幅增长。如果这种指数趋势继续下去，机器学习（ML）可能会成为气候变化的重要贡献者。如果从业者意识到他们的能源和碳足迹，那么他们可能会积极采取措施，尽可能减少它。在这项工作中，我们提出了Carbontracker，用于跟踪和预测训练DL模型的能源和碳足迹的工具。我们建议使用Carbontracker等工具报告模型开发和培训的能源和碳足迹以及性能指标。我们希望这将促进ML中的负责任计算，并鼓励对节能深度神经网络的研究。
2020-07-06 cs.CY cs.LG eess.SP
DeepSetNet: Predicting Sets with Deep Neural Networks
School of Computer Science, The University of Adelaide（阿德莱德大学计算机科学学院）
本文讨论了使用深度学习进行集合预测的任务。这一点很重要，因为许多计算机视觉任务的输出，包括图像标记和目标检测，都自然地表示为实体集而不是向量。与向量相反，集合的大小不是预先固定的，并且它对其中实体的排序是不变的。我们定义了集合分布的可能性，并使用深度神经网络学习其参数。我们还推导出一个损失预测的离散分布对应的集基数。集合预测在多类图像分类问题上得到了证明。此外，我们表明，建议的基数损失也可以平凡地应用到对象计数和行人检测的任务。在标准数据集上，我们的方法在所有三种情况下都优于现有方法。
2017-08-11 cs.AI cs.CV cs.LG
Cascade-LSTM: Predicting Information Cascades using Deep Neural Networks
University of South Florida（南佛罗里达大学）
预测动态社会环境中的信息流与当代社会的许多领域相关，从传播医疗保健信息到模因跟踪。虽然预测信息级联的增长已经在不同的社交平台上成功地解决了，但预测信息级联的时间和拓扑结构的探索有限。然而，准确预测有多少用户将发送特定用户的消息以及何时发送对于设计实用的干预技术至关重要。本文利用长短期记忆（LSTM）神经网络技术来预测信息级联的两个时空特性，即个体级信息传输的大小和速度。我们将这些预测算法与级联树的概率生成结合到一个生成测试模型中，该模型能够在Reddit和Github两个不同的平台上准确地生成级联树。我们的方法导致信息传递者的分类准确率超过73%，各种社交平台中的早期传递者的分类准确率为83%。
2020-04-26 cs.LG cs.SI
Representation Based Complexity Measures for Predicting Generalization in Deep Learning
Indian Institute of Technology, Madras（马德拉斯印度理工学院）
深度神经网络可以泛化，尽管被显著过度参数化。最近的研究试图从各种观点来研究这种现象，并提供基于这些观点的泛化误差或泛化差距的预测措施的泛化误差的界限，例如基于范数的，基于PAC贝叶斯的，和基于边缘的分析。在这项工作中，我们从深层神经网络内部表示的质量角度对泛化进行了解释，基于人类视觉系统如何创建不变和未纠缠的对象表示的神经科学理论。我们没有提供理论上的界限，而是展示了实际的复杂性度量，这些度量可以通过临时计算来揭示深度模型中的泛化行为。我们还提供了我们的解决方案的详细描述，该解决方案赢得了在NeurIPS 2020举行的NeurIPS竞赛中关于深度学习中预测泛化的竞赛。我们的解决方案的实现可在https://github.com/parthnatekar/pgdl上获得。
2020-12-04 cs.CV cs.LG
Predicting Consumer Default: A Deep Learning Approach
University of Pittsburgh（匹兹堡大学）；NBER（美国国家经济研究局）；CEPR（欧洲经济政策研究中心）
我们开发了一个基于深度学习的消费者违约预测模型。我们表明，该模型始终优于标准的信用评分模型，即使它使用相同的数据。我们的模型是可解释的，能够提供一个分数，以更大的一类借款人相对于标准的信用评分模型，同时准确地跟踪系统性风险的变化。我们认为，这些属性可以提供有价值的见解，旨在减少消费者违约，减轻其对借款人和贷款人的负担，以及宏观审慎监管的政策设计。
2019-10-03 cs.LG econ.GN q-fin.EC
Modeling and Predicting Popularity Dynamics via Deep Learning Attention Mechanism
在一个复杂的进化系统中预测单个项目的流行动态的能力在广泛的领域中具有重要的意义。在这里，我们提出了一种深度学习注意力机制来模拟单个项目获得流行度的过程。我们分析了该模型的解释性与四个关键现象独立确认在长期流行动态量化的研究，包括内在质量，老化效应，近因效应和马太效应。分析了在流行度动态预测中引入注意力模型的有效性。在一个真实的大型引文数据集上进行的大量实验表明，所设计的深度学习注意力机制在预测长期流行动态方面具有显着的能力。它始终优于现有的方法，并实现了显着的性能改善。
2022-04-21 cs.LG cs.SI
Predicting and visualizing psychological attributions with a deep neural network
Radboud University Nijmegen（拉德堡德大学奈梅亨分校）
基于面部外观的人格判断是社会决策的强大影响力，并且已知对从总统选举到陪审团决定的领域产生影响。最近的工作表明，它是可能的，以预测感知的可记忆性，可信度，智力和其他属性的人脸图像。这些方法中最成功的方法需要用关键的面部标志熟练地注释面部图像。我们展示了一个卷积神经网络（CNN）模型，该模型能够执行相同的任务，而不需要地标特征，从而大大提高了效率。该模型具有高准确性，在某些情况下超过了人类水平的性能。此外，我们使用去卷积的方法来可视化的重要功能的感知22个属性，并展示了一种新的方法，分别可视化的积极和消极的功能。
2016-12-24 cs.CV cs.LG cs.NE
Predicting Visual Improvement after Macular Hole Surgery: a Cautionary Tale on Deep Learning with Very Limited Data
Université Laval（拉瓦尔大学）；Centre Hospitalier Universitaire de Montréal（蒙特利尔大学医学中心）
我们研究了机器学习模型从术前数据（视网膜图像和临床特征）预测黄斑裂孔手术后视力改善的潜力。收集我们自己的数据，我们最终只有121个样本，使我们的工作在非常有限的数据制度。我们探索了各种针对有限数据的深度学习方法来训练深度计算机视觉模型，发现所有测试的深度视觉模型在临床特征上都优于简单的回归模型。我们认为这是一个令人信服的证据，证明了在非常有限的数据上使用深度学习的极端困难。
2021-11-15 cs.CV cs.LG eess.IV
Application of Deep Learning on Predicting Prognosis of Acute Myeloid Leukemia with Cytogenetics, Age, and Mutations
University of Texas Health Science Center at Houston（德克萨斯大学休斯顿健康科学中心）
我们探讨如何利用深度学习（DL）来预测急性髓细胞白血病（AML）的预后。在TCGA（The Cancer Genome Atlas）数据库中，本研究使用了94例AML病例。输入数据包括年龄、10种常见的细胞遗传学和23种最常见的突变结果;输出是预后（诊断至死亡，DTD）。在我们的DL网络中，自动编码器被堆叠以形成分层DL模型，从中压缩和组织原始数据并提取高级特征。该网络用R语言编写，旨在预测给定病例的AML预后（DTD大于或小于730天）。DL网络在预测预后方面达到了83%的准确率。作为概念验证研究，我们的初步结果表明，DL在未来使用下一代测序（NGS）数据进行预后预测的实践中有实际应用。
2018-10-30 cs.LG q-bio.QM stat.ML
An Introduction to Deep Survival Analysis Models for Predicting Time-to-Event Outcomes
Heinz College of Information Systems and Public Policy, Carnegie Mellon University（卡内基梅隆大学信息系统与公共政策学院）
本专著系统介绍利用神经网络进行个体层面事件发生时间预测的生存分析方法，涵盖经典到深度模型、竞争风险与动态预测扩展，并提供配套代码实现。
2024-10-01 cs.LG stat.ML
Deep Neural Networks Predicting Oil Movement in a Development Unit
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）；Gazpromneft Science and Technology Centre（俄罗斯天然气工业石油公司科技中心）
我们提出了一种新的技术，用于评估多相流体在油藏中流动的动力学。我们展示了一个有效的工作流程，处理三维油藏模拟数据的方式是数量级快于传统的例程。工作流（我们称之为“元模型”）是基于系统动态到潜在变量空间的投影，使用变分自编码器模型，其中递归神经网络预测动态。我们表明，在传统油藏建模的多个结果上进行训练，元模型不会以显着的方式损害油藏动态重建的准确性。它不仅允许预测来自井的流量，而且允许预测储层内的压力和流体饱和度的动态。研究结果为油田开发方案的优化提供了新的思路，可以大大加快方案筛选的速度。
2019-06-14 cs.LG stat.ML
condLSTM-Q: A novel deep learning model for predicting Covid-19 mortality in fine geographical Scale
Caltech（加州理工学院）；Walter Burke Institute for Theoretical Physics（沃尔特·伯克理论物理研究所）
专注于不同时空尺度的预测模型有利于政府和医疗系统对抗COVID-19大流行。在这里，我们提出了具有分位数输出的条件长短期记忆网络（condLSTM-Q），这是一个性能良好的模型，用于对县级COVID-19死亡人数进行分位数预测，预测窗口为两周。这种精细的地理尺度在公开的预测模型中是一个罕见但有用的特征，这将特别有利于州一级官员协调州内的资源。condLSTM-Q的分位数预测告诉人们预测的死亡人数的分布，从而可以更好地评估严重程度的可能轨迹。考虑到神经网络模型的可扩展性和通用性，该模型可以轻松地合并其他数据源，并可以进一步开发以直观地生成其他有用的预测，例如新病例或住院治疗。
2020-11-23 cs.LG stat.ML
DeepRetinotopy: Predicting the Functional Organization of Human Visual Cortex from Structural MRI Data using Geometric Deep Learning
School of Psychology, The University of Queensland（昆士兰大学心理学院）；Queensland Brain Institute, The University of Queensland（昆士兰大学昆士兰脑研究所）；Centre for Advanced Imaging, The University of Queensland（昆士兰大学高级成像中心）
无论是在人造机器还是生物系统中，形式和功能往往直接相关。然而，在后者中，由于生物学的复杂性质，这种特殊的关系往往不清楚。在这里，我们开发了一个几何深度学习模型，能够利用大脑皮层的实际结构，从结构和功能MRI数据中学习大脑功能和解剖结构之间的复杂关系。我们的模型不仅能够仅从解剖学特性预测人类视觉皮层的功能组织，而且还能够预测个体之间的细微变化。
2020-05-26 cs.CV cs.LG q-bio.NC
DeepDiff: Deep-learning for predicting Differential gene expression from histone modifications
University of Virginia（弗吉尼亚大学）
从组蛋白修饰信号预测差异基因表达的计算方法对于理解组蛋白修饰如何通过影响差异基因调控来控制细胞的功能异质性是非常期望的。最近的研究要么未能捕捉到差异预测的组合效应，要么主要只关注细胞类型特异性分析。在本文中，我们开发了一种新的基于注意力的深度学习架构DeepDiff，它提供了一个统一的端到端解决方案来建模和解释组蛋白修饰之间的依赖关系如何控制基因调控的差异模式。DeepDiff使用多个长短期记忆（LSTM）模块的层次结构来编码输入信号的空间结构，并对各种组蛋白修饰如何自动合作进行建模。我们结合目标预测引入并训练两个级别的注意力，使DeepDiff能够差异化地关注相关修饰，并为每个修饰定位重要的基因组位置。此外，DeepDiff还引入了一种新的基于深度学习的多任务公式，将细胞类型特异性基因表达预测作为辅助任务，鼓励在差异表达预测的主要任务中嵌入更丰富的特征。使用来自Roadmap表观基因组学项目（REMC）的10对不同细胞类型的数据，我们发现DeepDiff在差异基因表达预测方面的表现明显优于最先进的基线。学习到的注意力权重通过之前关于表观遗传机制如何与差异基因表达联系的研究的观察得到了验证。代码和结果见\url{deepchrome.org}
2018-07-10 cs.CY cs.LG stat.ML
Predicting Future Mosquito Larval Habitats Using Time Series Climate Forecasting and Deep Learning
Monta Vista High School（蒙塔维斯塔高中）；Green Hope High School（格林霍普高中）；Bronx High School of Science（布朗克斯科学高中）
由于气候变化，苔藓虫的栖息地范围预计将扩大。本次调查的目的是通过分析蚊子幼虫的首选生态条件来确定未来的蚊子栖息地。在组装一个数据集与大气记录和幼虫观测，一个神经网络的训练，从生态输入预测幼虫计数。对这些变量进行时间序列预测，并将气候预测传递到初始深度学习模型中，以生成特定位置的幼虫丰度预测。研究结果支持了区域生态系统驱动的蚊子传播变化的概念，特别是高海拔地区对蚊子感染的敏感性增加。
2022-10-08 cs.LG
DeepGO: Predicting protein functions from sequence and interactions using a deep ontology-aware classifier
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
大量的蛋白质序列通过应用新的高通量测序技术而变得可用。这些蛋白质的实验功能表征是耗时和昂贵的，并且通常仅对少数选定的模式生物进行严格的测试。计算功能预测方法已被建议来填补这一空白。蛋白质的功能使用基因本体（GO）进行分类，其中包含40，000多个类。此外，蛋白质具有多种功能，这使得功能预测成为一个大规模、多类别、多标签的问题。我们已经开发了一种新的方法来预测蛋白质的功能从序列。我们使用深度学习从蛋白质序列以及跨物种蛋白质相互作用网络中学习特征。我们的方法专门输出GO结构中的信息，并利用GO类之间的依赖关系作为背景信息来构建深度学习模型。我们使用功能注释计算评估（CAFA）建立的标准评估我们的方法，并证明了与基线方法（如BLAST）相比的显着改进，预测细胞位置的显着改进。
2017-05-15 cs.LG q-bio.GN q-bio.QM
A Comprehensive and Versatile Multimodal Deep Learning Approach for Predicting Diverse Properties of Advanced Materials
National Institute of Advanced Industrial Science and Technology（国立先进工业科学技术研究院）
本文提出一种融合物理与化学数据的多模态深度学习框架，通过三个生成模型和一个预测模型处理十维输入与八维输出，实现大规模材料性质预测并支持逆向设计。
2023-03-29 cond-mat.mtrl-sci cond-mat.soft cs.AI
Predicting Critical Heat Flux with Uncertainty Quantification and Domain Generalization Using Conditional Variational Autoencoders and Deep Neural Networks
North Carolina State University（北卡罗来纳州立大学）
本研究利用条件变分自编码器扩充临界热流密度数据，并与深度神经网络比较，CVAE在预测精度和不确定性量化上表现更优。
2025-02-24 cs.LG
Predicting Auction Price of Vehicle License Plate with Deep Recurrent Neural Network
Department of Economics, The Chinese University of Hong Kong, Shatin, Hong Kong（香港中文大学经济系，沙田，香港）
本文提出将车辆车牌价格预测视为自然语言处理任务，通过构建深度循环神经网络来预测香港车牌拍卖价格，并展示了模型在解释价格变化和扩展为车牌搜索引擎方面的贡献。
2019-10-08 cs.CL cs.LG econ.GN
A Deep Learning Approach to Predicting Ventilator Parameters for Mechanically Ventilated Septic Patients
Nankai University（南开大学）；Sichuan Provincial People’s Hospital（四川省人民医院）；University of Electronic Science and Technology of China（电子科技大学）；Beijing Computational Science Research Center（北京计算科学研究中心）；University of Glasgow（格拉斯哥大学）；Tianjin Normal University（天津师范大学）；University of South Carolina（南卡罗来纳大学）
我们开发了一种深度学习方法，使用长短期记忆（LSTM）递归神经网络（RNN）模型来预测机械通气脓毒症患者的一组呼吸机参数。我们专注于短期预测的一组呼吸机参数的脓毒症患者在急诊重症监护病房（EICU）。该模型的短期可预测性为主治医生提供了早期预警，以便及时调整EICU中患者的治疗。患者特定的深度学习模型可以在任何给定的重症患者上进行训练，使其成为医生在紧急医疗情况下使用的智能助手。
2022-02-21 cs.LG q-bio.QM
MEDIRL: Predicting the Visual Attention of Drivers via Maximum Entropy Deep Inverse Reinforcement Learning
University of Virginia（弗吉尼亚大学）；University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；Rice University（莱斯大学）
受人类视觉注意力的启发，我们提出了一种新的逆强化学习公式，使用最大熵深度逆强化学习（MEDIRL）来预测事故多发情况下驾驶员的视觉注意力。MEDIRL通过从专注的司机记录的眼睛注视模式中学习任务敏感的奖励函数来预测导致最大奖励的注视位置。此外，我们还介绍了EyeCar，这是一种新的驾驶员注意力数据集，适用于事故多发情况。我们进行了全面的实验，以评估我们提出的模型在三个常见的基准：（DR（眼）VE，BDD-A，DADA-2000），和我们的EyeCar数据集。结果表明，MEDIRL在预测注意力方面优于现有模型，并达到了最先进的性能。我们提出了广泛的消融研究，以提供更多的见解，我们提出的模型的不同功能。
2021-10-06 cs.CV cs.HC cs.LG
Deep Convolutional Neural Networks for predicting highest priority functional group in organic molecules
Dhirubhai Ambani Institute of Information & Communication Technology（迪鲁巴希·阿姆巴尼信息与通信技术研究所）
本文提出利用深度卷积神经网络预测有机分子中最高优先级的功能基团，通过对比支持向量机等方法，验证了CNN的优越性。
2026-03-25 cs.AI cs.LG
Deep Learning Models for Predicting Wildfires from Historical Remote-Sensing Data
Google（谷歌）；Stanford（斯坦福大学）
确定发生野火的可能性高的地区是土地和林业管理以及备灾的一个关键组成部分。我们通过汇总近十年的遥感数据和历史火灾记录来创建一个数据集，以预测野火。这个预测问题被构造为三个机器学习任务。比较和分析了四种不同的深度学习模型的结果，以估计野火的可能性。结果表明，深度学习模型可以使用有关植被、天气和地形的汇总数据成功识别高火灾可能性区域，AUC为83%。
2021-02-10 cs.CV cs.LG
SMILES2Vec: An Interpretable General-Purpose Deep Neural Network for Predicting Chemical Properties
PNNL（太平洋西北国家实验室）
化学数据库以文本形式存储信息，SMILES格式是许多化学信息学软件中使用的通用标准。每个SMILES字符串中编码的是可用于预测复杂化学性质的结构信息。在这项工作中，我们开发了SMILES2vec，这是一种深度RNN，可以自动从SMILES中学习特征来预测化学性质，而不需要额外的显式特征工程。使用贝叶斯优化方法来调整网络架构，我们表明，优化的SMILES2vec模型可以作为一个通用的神经网络，用于预测不同的化学性质，包括毒性，活性，溶解度和溶剂化能，同时也优于当代MLP神经网络，使用工程功能。此外，我们展示了概念证明的可解释性，通过开发一个解释面具，本地化的最重要的字符用于作出预测。当在溶解度数据集上进行测试时，它识别出了化学品的特定部分，与已建立的第一原理知识一致，准确率为88%。我们的工作表明，神经网络可以学习技术上准确的化学概念，并提供最先进的准确性，使可解释的深度神经网络成为与化学工业相关的有用工具。
2018-03-18 cs.AI cs.CL cs.LG
Predicting Quantum Potentials by Deep Neural Network and Metropolis Sampling
Capital Normal University（首都师范大学）；Yangzhou University（扬州大学）
机器学习和量子物理的杂交对这两个领域的方法论都产生了重要的影响。受量子势神经网络的启发，我们在这里提出通过将Metropolis采样与深度神经网络相结合来求解由本征态提供的薛定谔方程中的势，我们称之为Metropolis势神经网络（MPNN）。提出了一个损失函数，明确涉及的能量在优化其准确的评估。以谐振子和氢原子为基准，MPNN不仅在预测满足薛定谔方程的势能，而且在预测本征能量方面表现出优异的准确性和稳定性。我们的建议可以潜在地应用于从头算模拟，并逆求解物理学及其他领域的偏微分方程。
2021-08-08 cond-mat.str-el cs.LG quant-ph
Predicting Lattice Phonon Vibrational Frequencies Using Deep Graph Neural Networks
University of South Carolina（南卡罗来纳大学）；National Institute of Standards and Technology（国家标准与技术研究所）；Theiss Research
晶格振动频率与许多重要的材料性质有关，例如导热性、导电性以及超导性。然而，使用密度泛函理论（DFT）方法计算振动频率对于材料筛选中的大量样本来说计算量太大。在这里，我们提出了一种基于深度图神经网络的算法，用于高精度地从晶体结构预测晶体振动频率。我们的算法使用零填充方案来解决振动频谱的可变维度。对15,000和35,552个样本的两个数据集的基准研究表明，预测的聚合$R^2$得分分别达到0.554和0.724。我们的工作证明了深度图神经网络除了预测声子态密度（DOS）和电子态密度之外，还能够学习预测晶体结构的声子谱特性，其中输出维度是恒定的。
2021-11-10 cond-mat.mtrl-sci cs.LG
Predicting Weekly Fishing Concentration Zones through Deep Learning Integration of Heterogeneous Environmental Spatial Datasets
Fr. Conceicao Rodrigues college of Engineering（弗·康塞伊欧·罗德里格斯工程学院）
本文提出一个AI辅助框架，通过深度学习融合海面温度、叶绿素浓度等异构环境空间数据，预测北印度洋每周潜在渔区，以减少渔民搜索时间、降低燃料消耗并提升资源利用效率。
2025-11-04 cs.AI cs.LG
A Deep Learning Approach for Predicting Spatiotemporal Dynamics From Sparsely Observed Data
Georgia Institute of Technology（佐治亚理工学院）
本文研究由未知偏微分方程驱动的时空物理过程的预测模型学习问题。我们提出了一个深度学习框架，它可以学习底层动态，并使用稀疏分布的数据站点预测其演变。近年来，深度学习在物理动力学建模方面取得了可喜的成果。然而，大多数现有的用于建模物理动力学的深度学习方法要么专注于解决已知的PDE，要么在管理PDE未知时需要密集网格中的数据。相比之下，我们的方法专注于学习预测模型的未知偏微分方程驱动的动态，只有从稀疏观测数据。该方法具有空间维数无关性和几何灵活性。我们展示了我们的方法在预测任务的二维波动方程和Burgers-Fisher方程在多个几何形状与不同的边界条件，和十维热方程。
2021-05-01 cs.LG cs.NA math.AP
Predicting star formation properties of galaxies using deep learning
ThoughtWorks Technologies（思特沃克科技公司）；National Centre for Radio Astrophysics, TIFR（塔塔基础研究所国家射电天体物理中心）；Centre for Modeling and Simulation, Savitribai Phule Pune University（萨维特里拜·普利大学建模与仿真中心）
了解星系的恒星形成特性作为宇宙时代的函数是星系演化研究中的一项关键工作。传统上，恒星星族合成模型一直被用来获得最佳拟合参数，在星系中的恒星形成。随着多波段通量测量可用于数千个星系，一种使用机器学习来表征恒星形成的替代方法变得可行。在这项工作中，我们提出了使用深度学习技术来预测三个重要的恒星形成属性-恒星质量，恒星形成率和尘埃光度。我们通过与标准恒星星族合成代码的输出进行比较来验证我们的深度学习模型的性能。
2020-02-10 astro-ph.GA cs.LG
Feature versus Raw Sequence: Deep Learning Comparative Study on Predicting Pre-miRNA
SUNY Korea（韩国纽约州立大学）；Stony Brook University（石溪大学）
我们应该在深度学习框架中输入已知的基因组序列特征还是输入序列本身？随着深度学习在各种应用中越来越受欢迎，研究人员经常质疑是否要生成特征或使用原始序列进行深度学习。为了回答这个问题，我们研究了基于特征的深度信念网络和基于序列的卷积神经网络预测前体miRNA的预测精度。在六层卷积神经网络和三层深度信念网络的变体上进行测试，我们发现基于原始序列输入的卷积神经网络模型的性能与基于特征的深度信念网络相似或略好，最佳准确度分别为0.995和0.990。这两个模型都优于现有的基准模型。结果表明，如果提供足够大的数据，精心设计的基于原始序列的深度学习模型可以取代基于特征的深度学习模型。然而，构建行为良好的深度学习模型可能非常具有挑战性。在特征可以很容易地提取的情况下，基于特征的深度学习模型可能是更好的选择。
2017-10-17 cs.LG q-bio.GN
Predicting Succinylation Sites in Proteins with Improved Deep Learning Architecture
Department of Electrical Engineering and Computer Science Wichita State University（威奇托州立大学电气工程与计算机科学系）；Wichita State University（威奇托州立大学（注：此处按机构粒度要求，提取到大学级别，原部门属于该大学内的部门，故保留完整部门+大学结构））
蛋白质翻译后修饰（PTMs）发生在翻译过程之后。PTM负责许多细胞过程，例如脱氧核糖核酸（DNA）修复、细胞信号转导和细胞死亡。最近的PTM之一是琥珀酰化。琥珀酰化将赖氨酸残基从$-1$修饰为$+1$。使用实验方法如质谱法定位琥珀酰化位点是非常费力的。因此，使用机器学习技术的计算方法是有利的。本文提出了一种深度学习架构来预测琥珀酰化位点。将所提出的架构的性能与最先进的深度学习架构和用于琥珀酰化的其他传统机器学习技术进行比较。它示出的性能指标，所提出的架构提供了一个很好的权衡之间的计算速度和分类精度。
2021-12-27 cs.LG q-bio.BM
Predicting Landsat Reflectance with Deep Generative Fusion
Cervest Ltd.（Cervest有限公司）
公共卫星任务通常必须在空间分辨率和时间分辨率之间进行权衡，因为没有一个传感器能够提供频繁覆盖的细粒度采集。这就妨碍了它们协助植被监测或人道主义行动的潜力，因为这需要探测快速和详细的地表变化。在这项工作中，我们探索了深度生成模型通过融合具有不同空间和时间特征的产品来生成高分辨率光学图像的潜力。我们介绍了一个数据集的共同注册的中分辨率成像光谱仪（MODIS）和陆地卫星表面反射率的时间序列，并证明了我们的生成模型的能力，将粗糙的日常反射率信息融合到低节奏的更精细的收购。我们基准我们提出的模型对国家的最先进的反射率融合算法。
2020-11-09 cs.CV cs.LG eess.IV
Predicting 3D Rigid Body Dynamics with Deep Residual Network
University of Oxford（牛津大学）
本研究提出结合C++三维物理模拟器与PyTorch深度残差网络的方法，在10,000个多刚体交互场景上实现位置和姿态预测误差分别降低25%，验证了深度残差网络建模复杂三维物理系统的有效性。
2024-07-09 cs.CV cs.GR cs.LG
Predicting Traffic Accident Severity with Deep Neural Networks
School of Engineering and Computer Science（工程与计算机科学学院）；Department of Computer Science（计算机科学系）；Baylor University（贝勒大学）
本研究针对交通事故严重程度分类任务，结合自编码器特征降维与全连接网络构建深度模型，在不平衡事故数据上实现了最高92%的交叉验证分类准确率。
2025-09-04 cs.LG
Deep State-Space Model for Predicting Cryptocurrency Price
Indraprastha Institute of Information Technology-Delhi（德里英德拉普拉斯塔信息技术学院）；Inria Saclay（法国国家信息与自动化研究所萨克雷分部）；University Paris Saclay（巴黎萨克雷大学）；University of Edinburgh（爱丁堡大学）
本文提出一种结合状态空间模型概率公式与深度神经网络函数逼近能力的深度状态空间模型，用于预测日前加密货币价格，实验表明其在准确率上优于现有基准方法。
2023-11-21 cs.LG q-fin.ST stat.AP
A Case Study of Deep Learning Based Multi-Modal Methods for Predicting the Age-Suitability Rating of Movie Trailers
University of Houston（休斯顿大学）
在这项工作中，我们探索不同的方法来结合模式的问题，自动年龄适合性评级的电影预告片。首先，我们引入了一个新的数据集，包含从IMDB和YouTube下载的英语电影预告片视频，以及相应的年龄适合性评级标签。其次，我们提出了一个多模态深度学习管道，解决电影预告片年龄适合性评级问题。这是第一次尝试将视频，音频和语音信息结合起来解决这个问题，我们的实验结果表明，多模态方法在这项任务中显着优于最好的单模态和双模态模型。
2021-01-26 cs.LG cs.MM cs.SD
Predicting Mergers and Acquisitions using Graph-based Deep Learning
Northwestern University（西北大学）
图数据结构是数学中的主要内容，但基于图的机器学习是数据科学领域中相对较新的领域。基于图的ML和相关算法的开源实现的最新进展使研究人员能够将学术界创建的方法应用于现实世界的数据集。该项目的目标是利用流行的图形机器学习框架GraphSAGE来预测企业公司的合并和收购（M&A）。结果是有希望的，因为该模型在验证数据集上的预测准确率为81.79%。鉴于金融数据科学中丰富的数据源和算法决策，基于图的机器学习提供了一种高性能但非传统的方法来生成alpha。
2021-04-05 cs.AI cs.LG
