Decoding Neuronal Networks: A Reservoir Computing Approach for Predicting Connectivity and Functionality
University of Trento(特伦托大学);Centre for Integrative Biology (CIBIO)(整合生物学中心(CIBIO));Center for Mind/Brain Sciences (CIMeC)(心智/脑科学中心(CIMeC))
针对神经元网络电生理测量分析的挑战,本研究提出基于储备池计算网络(RCN)的模型,可解码时空数据并在宏观尺度重建网络结构,其连接图预测性能优于互相关等常用方法,且经实验验证能预测网络对局部光遗传学刺激等特定输入的响应。
2024-03-05 cs.LG eess.SP physics.bio-ph
Predicting Parameters in Deep Learning
University of Oxford(牛津大学);University of British Columbia(不列颠哥伦比亚大学);Université de Montréal(蒙特利尔大学);Facebook Inc.(脸书公司)
我们证明了在几个深度学习模型的参数化中存在显著的冗余。对于每个特征,仅给定几个权重值,就可以准确地预测剩余的值。此外,我们表明,不仅可以预测的参数值,但他们中的许多人根本不需要学习。我们训练几种不同的架构,只学习一小部分权重,并预测其余的权重。在最好的情况下,我们能够预测超过95%的网络权重,而不会降低准确性。
2014-10-27 cs.LG cs.NE stat.ML
A novel solution of deep learning for enhanced support vector machine for predicting the onset of type 2 diabetes
Charles Sturt University(查尔斯特大学);Al Iraqia University(伊拉克大学);Western Sydney University(西悉尼大学);Kent Institute Australia(澳大利亚肯特学院);Asia Pacific International College(亚太国际学院);University of Kurdistan Hewler(库尔德斯坦休勒大学);University of New South Wales(新南威尔士大学)
2型糖尿病是人类已知的最主要和最致命的疾病之一,每年有数千人患有2型糖尿病。然而,在今天的情况下,2型糖尿病的诊断和预防相对昂贵;因此,使用机器学习和深度学习技术来预测2型糖尿病的发病正在获得动力。这项研究旨在提高准确性和曲线下面积(AUC)指标,同时改善预测2型糖尿病发作的处理时间。该系统由一种深度学习技术组成,该技术使用支持向量机(SVM)算法以及径向基函数(RBF)和长短期记忆层(LSTM)来预测2型糖尿病的发作。所提出的解决方案提供了86.31%的平均准确度和0.8270或82.70%的平均AUC值,在处理中改进了3.8毫秒。径向基函数(RBF)内核和LSTM层增强了当前行业标准的预测精度和AUC度量,使其在不影响处理时间的情况下更适合实际使用。
2022-08-05 cs.LG cs.NE
Deep Cooking: Predicting Relative Food Ingredient Amounts from Images
Rutgers University(罗格斯大学);Samsung AI Center(三星人工智能中心)
在本文中,我们研究的新问题,不仅预测成分从食品图像,但也预测检测到的成分的相对量。我们提出了两个基于预测的模型,使用深度学习输出稀疏和密集的预测,再加上重要的半自动多数据库综合数据预处理,以解决这个问题。在互联网上收集的食谱数据集上的实验表明,该模型产生了令人鼓舞的实验结果。
2019-09-26 cs.LG stat.ML
Predicting the Popularity of Online Videos via Deep Neural Networks
Alibaba Group(阿里巴巴集团)
预测在线视频的流行度对于视频流内容提供方来说是重要的。这是一个具有挑战性的问题,因为以下两个原因。一是问题既“广”又“深”。也就是说,它不仅依赖于广泛的特征,而且是高度非线性和复杂的。第二,可能涉及多个竞争对手。在本文中,我们提出了一个通用的预测模型,使用多任务学习(MTL)模块和关系网络(RN)模块,其中MTL可以减少过度拟合和RN可以模拟多个竞争对手的关系。实验结果表明,我们提出的方法显着提高预测的准确性与RN和MTL模块的电视剧的总观看计数。
2017-11-30 cs.LG
Predicting Process Behaviour using Deep Learning
Memorial University of Newfoundland(纽芬兰纪念大学);German Research Center for Artificial Intelligence(德国人工智能研究中心);Saarland University(萨尔大学)
预测业务流程行为是业务流程管理的一个重要方面。受自然语言处理研究的启发,本文描述了深度学习与递归神经网络在预测业务流程中的下一个事件问题中的应用。这既是过程预测中的一种新方法,它在很大程度上依赖于显式过程模型,也是深度学习方法的一种新应用。在两个真实数据集上对该方法进行了评估,我们的结果在预测精度上超过了最先进的水平。
2017-03-22 cs.LG stat.ML
Predicting Generalization in Deep Learning via Metric Learning -- PGDL Shared task
Jožef Stefan Institute(约瑟夫·斯特凡研究所);Jožef Stefan International Postgraduate School(约瑟夫·斯特凡国际研究生院)
“预测深度学习的泛化(PGDL)”竞赛旨在为严格研究深度学习模型的泛化提供一个平台,并深入了解理解和解释这些模型的进展。本报告介绍了用户\emph{smeznar}提交的解决方案,该解决方案在竞赛中获得了第八名。在所提出的方法中,我们创建简单的度量,并在所提供的数据集上自动测试,找到它们的最佳组合,探索如何将输入神经网络架构的各种属性的组合用于预测其泛化。
2020-12-16 cs.LG stat.ML
Predicting Shallow Water Dynamics using Echo-State Networks with Transfer Learning
University of Houston(休斯顿大学);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
在本文中,我们证明了储备池计算可以用来学习浅水方程的动力学。特别是,虽然大多数以前的应用程序的储备池计算需要一个特定的轨迹上的训练,以进一步预测沿该轨迹的演变单独,我们显示的能力,储备池计算预测的浅水方程的初始条件下,在训练过程中没有看到的轨迹。然而,在这种情况下,我们发现网络的性能在初始条件下会恶化,而环境条件(如总水高和平均速度)与训练数据集中的条件不同。为了克服这一缺陷,我们引入了一种迁移学习方法,其中使用了一个小的额外的训练步骤与相关的环境条件来改善预测。
2022-11-09 cs.LG physics.data-an physics.geo-ph
Predicting intubation support requirement of patients using Chest X-ray with Deep Representation Learning
深度学习医学成像的最新发展提供了自动诊断和预后的证据。它也可以作为现有诊断方法的补充。深度学习可以用于诊断、严重程度预测、插管支持预测和许多类似的任务。我们提出了使用深度表示学习从胸部X射线预测患者的插管支持需求。我们在https://github.com/aniketmaurya/covid-research公开发布我们的源代码。
2020-10-28 cs.CV cs.LG eess.IV
DeepCrysTet: A Deep Learning Approach Using Tetrahedral Mesh for Predicting Properties of Crystalline Materials
SAKURA internet Inc.(樱花互联网公司);National Institute for Materials Science (NIMS)(国立材料科学研究所);The University of Tokyo(东京大学);RIKEN(理化学研究所);Kyoto University(京都大学)
针对图表示丢失晶体三维信息的问题,提出基于Delaunay四面体网格的深度学习框架DeepCrysTet,在分类和弹性属性预测上超越现有GNN模型。
2023-09-07 cond-mat.mtrl-sci cs.LG
Predicting Generalization in Deep Learning via Local Measures of Distortion
University of California, San Francisco(加州大学旧金山分校);University of California, Santa Barbara(加州大学圣巴巴拉分校)
我们通过诉诸最初在近似和信息论中开发的复杂性度量来研究深度学习中的泛化。虽然这些概念受到深度学习的高维和数据定义性质的挑战,但我们表明,简单的矢量量化方法(如PCA,GARCH和SVM)在逐层应用于深度提取的特征时捕捉到了它们的精神,从而产生了相对廉价的复杂性度量,与泛化性能密切相关。我们在2020年NeurIPS PGDL挑战中讨论了我们的结果。
2020-12-16 cs.LG stat.ML
Forecasting the Forced van der Pol Equation with Frequent Phase Shifts Using Reservoir Computing
The University of Tokyo(东京大学)
本文利用储备池计算预测受频繁相位偏移外力驱动的范德波尔振子动力学,证明在训练数据具有一定复杂性时可定量预测不同相位偏移下的振荡行为,并指出该方法有望用于轮班工作者昼夜节律状态预测与个性化排班设计。
2024-06-30 cs.LG cs.NE nlin.AO
Predicting online user behaviour using deep learning algorithms
Redzebra Analytics(红斑马分析公司)
我们提出了一个强大的分类器来预测购买意图的基础上,在一个大型电子商务网站的用户行为。在这项工作中,我们将传统的机器学习技术与最先进的深度学习方法进行了比较。我们表明,深度信念网络和堆叠去噪自动编码器都通过在预训练阶段从高维数据中提取特征来实现实质性的改进。事实证明,它们也更便于处理严重的阶级不平衡问题。
2016-05-26 cs.LG stat.ML
Predicting and visualizing psychological attributions with a deep neural network
Radboud University Nijmegen(拉德堡德大学奈梅亨分校)
基于面部外观的人格判断是社会决策的强大影响力,并且已知对从总统选举到陪审团决定的领域产生影响。最近的工作表明,它是可能的,以预测感知的可记忆性,可信度,智力和其他属性的人脸图像。这些方法中最成功的方法需要用关键的面部标志熟练地注释面部图像。我们展示了一个卷积神经网络(CNN)模型,该模型能够执行相同的任务,而不需要地标特征,从而大大提高了效率。该模型具有高准确性,在某些情况下超过了人类水平的性能。此外,我们使用去卷积的方法来可视化的重要功能的感知22个属性,并展示了一种新的方法,分别可视化的积极和消极的功能。
2016-12-24 cs.CV cs.LG cs.NE
Predicting Future Mosquito Larval Habitats Using Time Series Climate Forecasting and Deep Learning
Monta Vista High School(蒙塔维斯塔高中);Green Hope High School(格林霍普高中);Bronx High School of Science(布朗克斯科学高中)
由于气候变化,苔藓虫的栖息地范围预计将扩大。本次调查的目的是通过分析蚊子幼虫的首选生态条件来确定未来的蚊子栖息地。在组装一个数据集与大气记录和幼虫观测,一个神经网络的训练,从生态输入预测幼虫计数。对这些变量进行时间序列预测,并将气候预测传递到初始深度学习模型中,以生成特定位置的幼虫丰度预测。研究结果支持了区域生态系统驱动的蚊子传播变化的概念,特别是高海拔地区对蚊子感染的敏感性增加。
2022-10-08 cs.LG
A language processing algorithm for predicting tactical solutions to an operational planning problem under uncertainty
Université de Montréal(蒙特利尔大学);CIRRELT(企业网络、物流与交通研究中心)
本文研究了一类随机离散优化问题解的预测问题。通过一个应用程序,我们说明了如何使用最先进的神经机器翻译(NMT)算法来预测的解决方案,通过定义适当的词汇,语法和约束。我们参加的应用程序中的预测需要在很短的计算时间计算-在毫秒或less. Results的顺序表明,最小的适应模型架构和超参数调整,NMT算法可以产生准确的解决方案内的计算时间预算。虽然这些预测的准确性略低于近似随机规划解(样本平均近似),但它们可以更快地计算,并且变化性更小。
2019-10-18 cs.LG stat.ML
Predicting Adversary Lateral Movement Patterns with Deep Learning
Data Machines
本文提出了一个预测模型,主机,在企业网,对手很可能会妥协的过程中的一场运动。这样的模型可以支持动态监控或防御。我们使用模拟网络生成此模型的数据,主机,用户和对手作为第一类实体。我们证明了模型对样本外模拟数据的预测准确性,并验证了从现场企业网上的红队事件捕获的数据的结果
2021-04-23 cs.CR cs.LG
Cascade-LSTM: Predicting Information Cascades using Deep Neural Networks
University of South Florida(南佛罗里达大学)
预测动态社会环境中的信息流与当代社会的许多领域相关,从传播医疗保健信息到模因跟踪。虽然预测信息级联的增长已经在不同的社交平台上成功地解决了,但预测信息级联的时间和拓扑结构的探索有限。然而,准确预测有多少用户将发送特定用户的消息以及何时发送对于设计实用的干预技术至关重要。本文利用长短期记忆(LSTM)神经网络技术来预测信息级联的两个时空特性,即个体级信息传输的大小和速度。我们将这些预测算法与级联树的概率生成结合到一个生成测试模型中,该模型能够在Reddit和Github两个不同的平台上准确地生成级联树。我们的方法导致信息传递者的分类准确率超过73%,各种社交平台中的早期传递者的分类准确率为83%。
2020-04-26 cs.LG cs.SI
Representation Based Complexity Measures for Predicting Generalization in Deep Learning
Indian Institute of Technology, Madras(马德拉斯印度理工学院)
深度神经网络可以泛化,尽管被显著过度参数化。最近的研究试图从各种观点来研究这种现象,并提供基于这些观点的泛化误差或泛化差距的预测措施的泛化误差的界限,例如基于范数的,基于PAC贝叶斯的,和基于边缘的分析。在这项工作中,我们从深层神经网络内部表示的质量角度对泛化进行了解释,基于人类视觉系统如何创建不变和未纠缠的对象表示的神经科学理论。我们没有提供理论上的界限,而是展示了实际的复杂性度量,这些度量可以通过临时计算来揭示深度模型中的泛化行为。我们还提供了我们的解决方案的详细描述,该解决方案赢得了在NeurIPS 2020举行的NeurIPS竞赛中关于深度学习中预测泛化的竞赛。我们的解决方案的实现可在https://github.com/parthnatekar/pgdl上获得。
2020-12-04 cs.CV cs.LG
Predicting Critical Heat Flux with Uncertainty Quantification and Domain Generalization Using Conditional Variational Autoencoders and Deep Neural Networks
North Carolina State University(北卡罗来纳州立大学)
本研究利用条件变分自编码器扩充临界热流密度数据,并与深度神经网络比较,CVAE在预测精度和不确定性量化上表现更优。
2025-02-24 cs.LG
Deep Learning for Predicting Asset Returns
City University of Hong Kong(香港城市大学);University of Chicago(芝加哥大学)
深度学习搜索用于预测资产回报的非线性因素。可预测性是通过多层复合因素而不是相加因素来实现的。从这个角度来看,可以使用多层深度学习器重新审视资产定价研究,例如用于时间序列效应的校正线性单元(ReLU)或长短期记忆(LSTM)。包括随机梯度下降(SGD)、TensorFlow和dropout设计在内的最先进算法提供了实现和高效的因子探索。为了说明我们的方法,我们重新审视了Welch和Goyal(2008)的股票市场风险溢价数据集。我们发现存在的非线性因素,解释的可预测性的回报,特别是在极端的特征空间。最后,我们总结了未来研究的方向。
2018-04-26 cs.LG econ.EM stat.ML
Modeling and Predicting Popularity Dynamics via Deep Learning Attention Mechanism
在一个复杂的进化系统中预测单个项目的流行动态的能力在广泛的领域中具有重要的意义。在这里,我们提出了一种深度学习注意力机制来模拟单个项目获得流行度的过程。我们分析了该模型的解释性与四个关键现象独立确认在长期流行动态量化的研究,包括内在质量,老化效应,近因效应和马太效应。分析了在流行度动态预测中引入注意力模型的有效性。在一个真实的大型引文数据集上进行的大量实验表明,所设计的深度学习注意力机制在预测长期流行动态方面具有显着的能力。它始终优于现有的方法,并实现了显着的性能改善。
2022-04-21 cs.LG cs.SI
Predicting Yelp Star Reviews Based on Network Structure with Deep Learning
Stanford University(斯坦福大学)
在本文中,我们解决了基于业务特征(如图像,描述),用户特征(平均以前的评级),以及特别感兴趣的网络属性(企业之前有用户评级)预测Yelp星级评价评级的现实问题。我们比较了不同特征集的多个模型-从仅针对网络特征的简单线性回归到针对网络和项目特征的深度学习模型。近年来,深度学习的突破提高了常见监督学习任务的准确性,例如图像分类、字幕和语言理解。然而,将深度学习与网络特征和结构相结合的想法似乎是新颖的。虽然预测网络中未来交互的问题已经被详细研究过,但这些方法往往忽略了特定于节点的数据或全局结构。我们证明,采取混合的方法结合节点级功能和网络信息可以有效地用于预测Yelp评论星级。我们在Yelp数据集上进行评估,方法是沿着时间维度分割我们的数据(在现实世界中自然会发生),并将我们的模型与其他没有利用网络结构和/或深度学习的模型进行比较。
2017-12-11 cs.LG stat.ML
DeepSetNet: Predicting Sets with Deep Neural Networks
School of Computer Science, The University of Adelaide(阿德莱德大学计算机科学学院)
本文讨论了使用深度学习进行集合预测的任务。这一点很重要,因为许多计算机视觉任务的输出,包括图像标记和目标检测,都自然地表示为实体集而不是向量。与向量相反,集合的大小不是预先固定的,并且它对其中实体的排序是不变的。我们定义了集合分布的可能性,并使用深度神经网络学习其参数。我们还推导出一个损失预测的离散分布对应的集基数。集合预测在多类图像分类问题上得到了证明。此外,我们表明,建议的基数损失也可以平凡地应用到对象计数和行人检测的任务。在标准数据集上,我们的方法在所有三种情况下都优于现有方法。
2017-08-11 cs.AI cs.CV cs.LG
Soft Computing Approaches for Predicting Shade-Seeking Behaviour in Dairy Cattle under Heat Stress: A Comparative Study of Random Forests and Neural Networks
Instituto Universitario de Matemática Pura y Aplicada(数学与应用数学大学研究院);Universitat Politècnica de València(巴塞罗那理工大学);Instituto Ciencia y Tecnología Animal(动物科学与技术研究院)
本研究比较随机森林与神经网络在热应激下预测奶牛每日寻求遮荫行为的表现,基于THI衍生特征建模,两种软计算方法均优于决策树基线,验证了其作为低成本精准畜牧实时决策支持工具的可行性。
2025-07-22 cs.LG
Predicting Consumer Default: A Deep Learning Approach
University of Pittsburgh(匹兹堡大学);NBER(美国国家经济研究局);CEPR(欧洲经济政策研究中心)
我们开发了一个基于深度学习的消费者违约预测模型。我们表明,该模型始终优于标准的信用评分模型,即使它使用相同的数据。我们的模型是可解释的,能够提供一个分数,以更大的一类借款人相对于标准的信用评分模型,同时准确地跟踪系统性风险的变化。我们认为,这些属性可以提供有价值的见解,旨在减少消费者违约,减轻其对借款人和贷款人的负担,以及宏观审慎监管的政策设计。
2019-10-03 cs.LG econ.GN q-fin.EC
Predicting Weather Uncertainty with Deep Convnets
ETH Zürich(苏黎世联邦理工学院);ECMWF(欧洲中期天气预报中心)
现代天气预报模型使用集合预报系统进行不确定性量化,集合预报系统收集基于多个扰动模拟的非参数统计。为了提供准确的估计,必须运行数十个这样的计算密集型模拟。我们表明,深度神经网络可以用于一小组数值天气模拟,以估计天气预报的传播,显着降低计算成本。为了训练系统,我们修改了3D U-Net架构并探索了包含时态数据的模型。我们的模型是改善当前实时天气预报系统中不确定性量化的起点,这对于预测极端事件至关重要。
2019-12-04 cs.LG physics.ao-ph stat.ML
Predicting Visual Improvement after Macular Hole Surgery: a Cautionary Tale on Deep Learning with Very Limited Data
Université Laval(拉瓦尔大学);Centre Hospitalier Universitaire de Montréal(蒙特利尔大学医学中心)
我们研究了机器学习模型从术前数据(视网膜图像和临床特征)预测黄斑裂孔手术后视力改善的潜力。收集我们自己的数据,我们最终只有121个样本,使我们的工作在非常有限的数据制度。我们探索了各种针对有限数据的深度学习方法来训练深度计算机视觉模型,发现所有测试的深度视觉模型在临床特征上都优于简单的回归模型。我们认为这是一个令人信服的证据,证明了在非常有限的数据上使用深度学习的极端困难。
2021-11-15 cs.CV cs.LG eess.IV
Predicting Traffic Accident Severity with Deep Neural Networks
School of Engineering and Computer Science(工程与计算机科学学院);Department of Computer Science(计算机科学系);Baylor University(贝勒大学)
本研究针对交通事故严重程度分类任务,结合自编码器特征降维与全连接网络构建深度模型,在不平衡事故数据上实现了最高92%的交叉验证分类准确率。
2025-09-04 cs.LG
A Deep Learning Approach to Predicting Ventilator Parameters for Mechanically Ventilated Septic Patients
Nankai University(南开大学);Sichuan Provincial People’s Hospital(四川省人民医院);University of Electronic Science and Technology of China(电子科技大学);Beijing Computational Science Research Center(北京计算科学研究中心);University of Glasgow(格拉斯哥大学);Tianjin Normal University(天津师范大学);University of South Carolina(南卡罗来纳大学)
我们开发了一种深度学习方法,使用长短期记忆(LSTM)递归神经网络(RNN)模型来预测机械通气脓毒症患者的一组呼吸机参数。我们专注于短期预测的一组呼吸机参数的脓毒症患者在急诊重症监护病房(EICU)。该模型的短期可预测性为主治医生提供了早期预警,以便及时调整EICU中患者的治疗。患者特定的深度学习模型可以在任何给定的重症患者上进行训练,使其成为医生在紧急医疗情况下使用的智能助手。
2022-02-21 cs.LG q-bio.QM
Black box behavioural modelling: Predicting human activity schedules with a deep conditional generative approach
Department of Civil, Environmental and Geomatic Engineering, University College London(土木、环境与地理工程系,伦敦大学学院)
研究旨在用深度条件生成方法预测人类活动日程,提出ActVAE方法,将日程建模为依赖多种信息的条件模型,能快速生成多样日程,经评估与基线模型比较,为现有方法提供替代,凸显建模人类行为随机性的价值。
2026-07-24 cs.LG
DeepGO: Predicting protein functions from sequence and interactions using a deep ontology-aware classifier
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
大量的蛋白质序列通过应用新的高通量测序技术而变得可用。这些蛋白质的实验功能表征是耗时和昂贵的,并且通常仅对少数选定的模式生物进行严格的测试。计算功能预测方法已被建议来填补这一空白。蛋白质的功能使用基因本体(GO)进行分类,其中包含40,000多个类。此外,蛋白质具有多种功能,这使得功能预测成为一个大规模、多类别、多标签的问题。我们已经开发了一种新的方法来预测蛋白质的功能从序列。我们使用深度学习从蛋白质序列以及跨物种蛋白质相互作用网络中学习特征。我们的方法专门输出GO结构中的信息,并利用GO类之间的依赖关系作为背景信息来构建深度学习模型。我们使用功能注释计算评估(CAFA)建立的标准评估我们的方法,并证明了与基线方法(如BLAST)相比的显着改进,预测细胞位置的显着改进。
2017-05-15 cs.LG q-bio.GN q-bio.QM
Predicting the spread of COVID-19 in Delhi, India using Deep Residual Recurrent Neural Networks
Louisiana Tech University(路易斯安那理工大学)
检测冠状病毒的传播将大大有助于减少人类和经济损失。不幸的是,用于COVID-19预测模型的现有流行病学模型太慢,无法详细捕捉COVID-19的发展。本研究使用偏微分方程来提高SEIRD模型方程所支配的COVID 19预测的处理速度和准确性。使用卷积神经网络和深度残差循环神经网络从使用偏微分方程模拟的数据中提取COVID 19的动态。DRRNN的准确性是使用均方误差来测量的。DRRNN COVID-19预测模型已被证明具有准确的COVID-19预测。此外,我们得出结论,DR-RNN可以显著提高实时的COVID-19预测中支持决策的能力。
2021-10-09 cs.LG
Deep Convolutional Neural Networks for predicting highest priority functional group in organic molecules
Dhirubhai Ambani Institute of Information & Communication Technology(迪鲁巴希·阿姆巴尼信息与通信技术研究所)
本文提出利用深度卷积神经网络预测有机分子中最高优先级的功能基团,通过对比支持向量机等方法,验证了CNN的优越性。
2026-03-25 cs.AI cs.LG
Deep Learning Models for Predicting Wildfires from Historical Remote-Sensing Data
Google(谷歌);Stanford(斯坦福大学)
确定发生野火的可能性高的地区是土地和林业管理以及备灾的一个关键组成部分。我们通过汇总近十年的遥感数据和历史火灾记录来创建一个数据集,以预测野火。这个预测问题被构造为三个机器学习任务。比较和分析了四种不同的深度学习模型的结果,以估计野火的可能性。结果表明,深度学习模型可以使用有关植被、天气和地形的汇总数据成功识别高火灾可能性区域,AUC为83%。
2021-02-10 cs.CV cs.LG
DeepRetinotopy: Predicting the Functional Organization of Human Visual Cortex from Structural MRI Data using Geometric Deep Learning
School of Psychology, The University of Queensland(昆士兰大学心理学院);Queensland Brain Institute, The University of Queensland(昆士兰大学昆士兰脑研究所);Centre for Advanced Imaging, The University of Queensland(昆士兰大学高级成像中心)
无论是在人造机器还是生物系统中,形式和功能往往直接相关。然而,在后者中,由于生物学的复杂性质,这种特殊的关系往往不清楚。在这里,我们开发了一个几何深度学习模型,能够利用大脑皮层的实际结构,从结构和功能MRI数据中学习大脑功能和解剖结构之间的复杂关系。我们的模型不仅能够仅从解剖学特性预测人类视觉皮层的功能组织,而且还能够预测个体之间的细微变化。
2020-05-26 cs.CV cs.LG q-bio.NC
Predicting Blood Glucose with an LSTM and Bi-LSTM Based Deep Neural Network
Bern University Hospital “Inselspital”(伯尔尼大学医院“Inselspital”)
使用深度学习网络来预测未来的血糖水平,因为这可以允许糖尿病患者在即将发生高血糖和低血糖之前采取行动。使用具有一个长短期记忆(LSTM)层、一个双向LSTM层和多个完全连接层的序列模型来预测不同预测时域的血糖水平。该方法在来自20名真实患者的26个数据集上进行了训练和测试。建议的网络优于基线方法的所有评价标准。
2018-09-11 cs.LG q-bio.QM stat.ML
Predicting Lattice Phonon Vibrational Frequencies Using Deep Graph Neural Networks
University of South Carolina(南卡罗来纳大学);National Institute of Standards and Technology(国家标准与技术研究所);Theiss Research
晶格振动频率与许多重要的材料性质有关,例如导热性、导电性以及超导性。然而,使用密度泛函理论(DFT)方法计算振动频率对于材料筛选中的大量样本来说计算量太大。在这里,我们提出了一种基于深度图神经网络的算法,用于高精度地从晶体结构预测晶体振动频率。我们的算法使用零填充方案来解决振动频谱的可变维度。对15,000和35,552个样本的两个数据集的基准研究表明,预测的聚合$R^2$得分分别达到0.554和0.724。我们的工作证明了深度图神经网络除了预测声子态密度(DOS)和电子态密度之外,还能够学习预测晶体结构的声子谱特性,其中输出维度是恒定的。
2021-11-10 cond-mat.mtrl-sci cs.LG
A Comprehensive and Versatile Multimodal Deep Learning Approach for Predicting Diverse Properties of Advanced Materials
National Institute of Advanced Industrial Science and Technology(国立先进工业科学技术研究院)
本文提出一种融合物理与化学数据的多模态深度学习框架,通过三个生成模型和一个预测模型处理十维输入与八维输出,实现大规模材料性质预测并支持逆向设计。
2023-03-29 cond-mat.mtrl-sci cond-mat.soft cs.AI
Predicting star formation properties of galaxies using deep learning
ThoughtWorks Technologies(思特沃克科技公司);National Centre for Radio Astrophysics, TIFR(塔塔基础研究所国家射电天体物理中心);Centre for Modeling and Simulation, Savitribai Phule Pune University(萨维特里拜·普利大学建模与仿真中心)
了解星系的恒星形成特性作为宇宙时代的函数是星系演化研究中的一项关键工作。传统上,恒星星族合成模型一直被用来获得最佳拟合参数,在星系中的恒星形成。随着多波段通量测量可用于数千个星系,一种使用机器学习来表征恒星形成的替代方法变得可行。在这项工作中,我们提出了使用深度学习技术来预测三个重要的恒星形成属性-恒星质量,恒星形成率和尘埃光度。我们通过与标准恒星星族合成代码的输出进行比较来验证我们的深度学习模型的性能。
2020-02-10 astro-ph.GA cs.LG
Feature versus Raw Sequence: Deep Learning Comparative Study on Predicting Pre-miRNA
SUNY Korea(韩国纽约州立大学);Stony Brook University(石溪大学)
我们应该在深度学习框架中输入已知的基因组序列特征还是输入序列本身?随着深度学习在各种应用中越来越受欢迎,研究人员经常质疑是否要生成特征或使用原始序列进行深度学习。为了回答这个问题,我们研究了基于特征的深度信念网络和基于序列的卷积神经网络预测前体miRNA的预测精度。在六层卷积神经网络和三层深度信念网络的变体上进行测试,我们发现基于原始序列输入的卷积神经网络模型的性能与基于特征的深度信念网络相似或略好,最佳准确度分别为0.995和0.990。这两个模型都优于现有的基准模型。结果表明,如果提供足够大的数据,精心设计的基于原始序列的深度学习模型可以取代基于特征的深度学习模型。然而,构建行为良好的深度学习模型可能非常具有挑战性。在特征可以很容易地提取的情况下,基于特征的深度学习模型可能是更好的选择。
2017-10-17 cs.LG q-bio.GN
Deep-dust: Predicting concentrations of fine dust in Seoul using LSTM
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室);Korea Institute of Science and Technology(韩国科学技术研究院)
韩国的粉尘污染是一个严重的问题,其主要成分是生物质燃烧和粉尘带的扬尘。由于首尔的细粉尘颗粒是气态污染物之间复杂化学反应的产物,同时也受到污染物与多种气候变量之间动力学相互作用的影响,因此预测首尔的细粉尘颗粒浓度具有挑战性。通过使用深度学习来阐述最先进的时间序列分析技术,可以捕获多个变量之间的非线性相互作用,并用于预测未来的粉尘浓度。在这项工作中,我们提出了基于LSTM的模型,根据以前的污染物浓度,粉尘浓度和周围地区的气候变量来预测首尔目标位置的细粉尘小时浓度。我们的研究结果表明,该模型成功地预测了未来的灰尘浓度在25个目标区(顾)在首尔。
2019-01-29 cs.LG stat.ML
Predicting Chaotic System Behavior using Machine Learning Techniques
School of Electrical and Computer Engineering, Georgia Institute of Technology(电气与计算机工程学院,佐治亚理工学院);School of Electrical and Automation Engineering, East China Jiaotong University(电气自动化工程学院,东华交通大学)
本研究对比NG-RC、RC、LSTM三种机器学习方法在Lorenz等四个典型混沌系统时间序列预测中的准确率、效率与鲁棒性,发现NG-RC计算效率更高,在混沌系统行为预测上潜力更大。
2024-08-11 cs.LG cs.SY eess.SY
Predicting Succinylation Sites in Proteins with Improved Deep Learning Architecture
Department of Electrical Engineering and Computer Science Wichita State University(威奇托州立大学电气工程与计算机科学系);Wichita State University(威奇托州立大学(注:此处按机构粒度要求,提取到大学级别,原部门属于该大学内的部门,故保留完整部门+大学结构))
蛋白质翻译后修饰(PTMs)发生在翻译过程之后。PTM负责许多细胞过程,例如脱氧核糖核酸(DNA)修复、细胞信号转导和细胞死亡。最近的PTM之一是琥珀酰化。琥珀酰化将赖氨酸残基从$-1$修饰为$+1$。使用实验方法如质谱法定位琥珀酰化位点是非常费力的。因此,使用机器学习技术的计算方法是有利的。本文提出了一种深度学习架构来预测琥珀酰化位点。将所提出的架构的性能与最先进的深度学习架构和用于琥珀酰化的其他传统机器学习技术进行比较。它示出的性能指标,所提出的架构提供了一个很好的权衡之间的计算速度和分类精度。
2021-12-27 cs.LG q-bio.BM
Predicting Quantum Potentials by Deep Neural Network and Metropolis Sampling
Capital Normal University(首都师范大学);Yangzhou University(扬州大学)
机器学习和量子物理的杂交对这两个领域的方法论都产生了重要的影响。受量子势神经网络的启发,我们在这里提出通过将Metropolis采样与深度神经网络相结合来求解由本征态提供的薛定谔方程中的势,我们称之为Metropolis势神经网络(MPNN)。提出了一个损失函数,明确涉及的能量在优化其准确的评估。以谐振子和氢原子为基准,MPNN不仅在预测满足薛定谔方程的势能,而且在预测本征能量方面表现出优异的准确性和稳定性。我们的建议可以潜在地应用于从头算模拟,并逆求解物理学及其他领域的偏微分方程。
2021-08-08 cond-mat.str-el cs.LG quant-ph
MEDIRL: Predicting the Visual Attention of Drivers via Maximum Entropy Deep Inverse Reinforcement Learning
University of Virginia(弗吉尼亚大学);University of Illinois at Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校);Rice University(莱斯大学)
受人类视觉注意力的启发,我们提出了一种新的逆强化学习公式,使用最大熵深度逆强化学习(MEDIRL)来预测事故多发情况下驾驶员的视觉注意力。MEDIRL通过从专注的司机记录的眼睛注视模式中学习任务敏感的奖励函数来预测导致最大奖励的注视位置。此外,我们还介绍了EyeCar,这是一种新的驾驶员注意力数据集,适用于事故多发情况。我们进行了全面的实验,以评估我们提出的模型在三个常见的基准:(DR(眼)VE,BDD-A,DADA-2000),和我们的EyeCar数据集。结果表明,MEDIRL在预测注意力方面优于现有模型,并达到了最先进的性能。我们提出了广泛的消融研究,以提供更多的见解,我们提出的模型的不同功能。
2021-10-06 cs.CV cs.HC cs.LG
Predicting Question Quality on StackOverflow with Neural Networks
Texas A&M University - San Antonio(德克萨斯A&M大学圣安东尼奥分校);Slippery Rock University of Pennsylvania(宾夕法尼亚滑石大学)
本文评估神经网络模型预测Stack Overflow问题质量,准确率达80%,优于基线机器学习模型,并发现网络层数显著影响性能。
2024-04-20 cs.CL cs.LG
Explainable Deep Relational Networks for Predicting Compound-Protein Affinities and Contacts
Department of Electrical;Computer Engineering, Texas A\&M University, College Station, TX 77843, United States;Department of Computer Science;Engineering, Texas A\&M University, College Station, TX 77843, United States
预测化合物与蛋白质的亲和力对于加速药物发现至关重要。机器学习最近取得的进展主要集中在准确性上,但在可解释性方面还有很多需要改进的地方。通过分子联系的基础亲和力,我们的大规模的可解释性评估发现常用的注意力机制不足。因此,我们制定了一个层次化的多目标学习问题,其预测的接触形成的基础上预测的亲和力。我们进一步设计了一个物理启发的深度关系网络,DeepRelations,具有内在可解释的架构。具体来说,各种原子级接触或“关系”导致分子级亲和力预测。嵌入式注意与预测的结构上下文和监督部分可用的训练接触。DeepRelations表现出了卓越的可解释性:在不影响亲和力预测的情况下,它分别将测试、化合物独特、蛋白质独特和两者都独特的接触预测的AUPRC提高了9.5、16.9、19.3和5.7倍。我们的研究代表了第一个专门的模型开发和系统的模型评估,可解释的机器学习的化合物-蛋白质亲和力。
2019-12-29 cs.LG q-bio.BM
Predicting unobserved climate time series data at distant areas via spatial correlation using reservoir computing
Toyota Central R&D Labs., Inc.(丰田中央研发实验室);International Research Center for Neurointelligence, The University of Tokyo(东京大学国际神经智能研究中心);Graduate School of Engineering, Nagoya Institute of Technology(名古屋工业大学工学研究科)
本研究针对偏远区域气候数据难以全面观测的问题,采用储层计算(RC)和向量自回归模型(VAR),基于空间相关性预测目标地点的近地表温压,定量得出有效预测距离,证实RC在高相关数据预测上优于VAR,为低成本气候预测提供支撑。
2024-06-05 cs.LG nlin.CD physics.ao-ph
Novel Approach for Predicting the Air Quality Index of Megacities through Attention-Enhanced Deep Multitask Spatiotemporal Learning
W.T. Woodson High School(W.T.伍德森高中);George Mason University(乔治梅森大学);Thomas Jefferson HSST(托马斯·杰斐逊高中科学与技术学院)
本文提出一种基于LSTM的注意力增强深度多任务时空模型,用于预测特大城市空气质量指数,有效捕捉复杂趋势,为政策制定提供依据。
2024-07-15 cs.LG
Deep State-Space Model for Predicting Cryptocurrency Price
Indraprastha Institute of Information Technology-Delhi(德里英德拉普拉斯塔信息技术学院);Inria Saclay(法国国家信息与自动化研究所萨克雷分部);University Paris Saclay(巴黎萨克雷大学);University of Edinburgh(爱丁堡大学)
本文提出一种结合状态空间模型概率公式与深度神经网络函数逼近能力的深度状态空间模型,用于预测日前加密货币价格,实验表明其在准确率上优于现有基准方法。
2023-11-21 cs.LG q-fin.ST stat.AP
Predicting Parkinson's Disease using Latent Information extracted from Deep Neural Networks
IBM Hellas(IBM希腊公司);National Technical University of Athens(雅典国立技术大学);University of Lincoln(林肯大学)
本文提出了一种新的神经退行性疾病(如帕金森病)的医学诊断方法,通过从训练的深度卷积或卷积递归神经网络(DNN)中提取和使用潜在信息。特别地,我们的方法采用深度神经网络学习表示的迁移学习、k均值聚类和k最近邻分类的组合,以基于MRI和/或DaT扫描数据提供对疾病的丰富预测。引入新的损失函数并将其用于DNN的训练,以便在来自不同医学环境的数据之间执行所生成的学习表示的适配。使用最近发表的帕金森氏症相关信息的数据库,这是在医院环境中产生和评估的结果。
2019-01-23 cs.LG eess.IV stat.ML
Predicting Electricity Consumption using Deep Recurrent Neural Networks
Murdoch University(莫道克大学)
在过去几十年中,电力消耗呈指数级增长。这一增长给电力分销商带来了沉重的负担。因此,预测未来的电力消费需求将为电力分销商提供优势。预测电力消耗需要许多参数。本文提出了两种方法,一种是使用递归神经网络(RNN),另一种是使用长短期记忆(LSTM)网络,它只考虑以前的用电量来预测未来的用电量。这些模型在公开的伦敦智能电表数据集上进行了测试。为了评估RNN和LSTM网络预测电力消耗的适用性,我们对它们进行了测试,以预测给定时间段内的单个房屋和一组房屋。这些预测是针对每日、三个月和13个月进行的,涵盖了短期、中期和长期预测。RNN和LSTM网络的平均均方根误差都达到了0.1。
2019-09-18 cs.LG eess.SP stat.ML
A Deep Learning Framework for Predicting Solar EUV Irradiance During Significant Flares
Sam Houston State University(萨姆休斯顿州立大学)
该研究提出FlareEUV框架,利用NASA的SDO多仪器观测,通过轻量级基于注意力的架构从原始成像数据学习磁结构与日冕发射关系,用于预测重大太阳耀斑期间连续三天6.5纳米处每日EUV辐照度,实验证明其性能优于基线方法。
2026-07-23 astro-ph.IM astro-ph.SR cs.LG