Which Hyperparameters to Optimise? An Investigation of Evolutionary Hyperparameter Optimisation in Graph Neural Network For Molecular Property Prediction
Heriot-Watt University(赫瑞-瓦特大学)
近年来,图神经网络(GNN)的研究引起了人们的广泛关注,并在分子性质预测方面取得了良好的效果。大多数用于分子性质预测的GNN都是基于通过聚合其邻居节点(例如原子)的信息来学习节点表示的想法提出的。然后,可以将表示传递到后续层以处理各个下游任务。因此,GNN的架构可以被认为是由两个核心部分组成:图相关层和任务特定层。面对现实世界的分子问题,这些层的超参数优化是至关重要的。在这种情况下,超参数优化(HPO)变得昂贵,因为评估候选解决方案需要大量的计算资源来训练和验证模型。此外,更大的搜索空间往往使HPO问题更具挑战性。在这项研究中,我们专注于选择两种类型的GNN超参数的影响,那些属于图形相关的层和任务特定的层,对GNN的性能进行分子性质预测。在我们的实验中。我们采用了最先进的进化算法(即,CMA-ES)用于HPO。结果表明,分别优化两类超参数可以获得GNN性能的改善,而同时优化两类超参数则可以获得显著的改善。同时,我们的研究也进一步证实了HPO对GNN在分子性质预测问题中的重要性。
2021-04-14 cs.LG
FragNet: A Graph Neural Network for Molecular Property Prediction with Four Levels of Interpretability
Pacific Northwest National Laboratory(太平洋西北国家实验室)
提出图神经网络FragNet,在匹配领先模型预测准确率的同时,提供原子、化学键、分子片段及片段间连接四个层级的可解释性,助力从分子结构中提取科学洞察。
2025-05-31 cs.AI cs.LG physics.chem-ph
ASGN: An Active Semi-supervised Graph Neural Network for Molecular Property Prediction
University of Science and Technology of China(中国科学技术大学);Tencent America(腾讯美国)
分子性质预测(例如,能量)是化学和生物学中的基本问题。不幸的是,许多监督学习方法通常面临化学空间中标记分子稀缺的问题,其中此类属性标记通常通过密度泛函理论(DFT)计算获得,这是极其昂贵的计算成本。一种有效的解决方案是以半监督的方式掺入未标记的分子。然而,大量分子的半监督表示学习具有挑战性,包括分子本质和结构的联合表示问题,表示和性质学习之间的冲突。在这里,我们提出了一个新的框架,称为主动半监督图神经网络(ASGN),将标记和未标记的分子。具体而言,ASGN采用教师-学生框架。在教师模型中,我们提出了一种新的半监督学习方法来学习一般表示,共同利用信息的分子结构和分子分布。然后在学生模型中,我们针对属性预测任务来处理学习损失冲突。最后,我们提出了一种新的主动学习策略,在整个框架学习过程中,根据分子差异选择信息数据。我们在几个公共数据集上进行了广泛的实验。实验结果表明,我们的ASGN框架的显着性能。
2020-07-07 cs.LG stat.ML
GPS++: Reviving the Art of Message Passing for Molecular Property Prediction
Graphcore(Graphcore公司);Mila(米拉研究所);McGill University(麦吉尔大学);Valence Discovery(Valence Discovery公司);Université de Montréal(蒙特利尔大学)
GPS++混合模型结合局部消息传递与偏置全局注意力,在PCQM4Mv2上取得最先进结果,且无需全局自注意力即可保持性能,证明消息传递在3D分子性质预测中仍具竞争力。
2023-05-12 cs.LG
ADMET property prediction through combinations of molecular fingerprints
MapLight Therapeutics(MapLight治疗公司)
本文系统比较回归算法与分子指纹组合,提出融合 ECFP、Avalon、ErG、200 种分子性质及图神经网络指纹的 CatBoost 模型,并在 22 个 TDC ADMET 基准上验证其优越性能。
2023-09-29 cs.LG q-bio.BM
ProGReST: Prototypical Graph Regression Soft Trees for Molecular Property Prediction
Jagiellonian University(雅盖隆大学);Ardigen SA
在这项工作中,我们提出了新的原型图回归自解释树(ProGReST)模型,它结合了原型学习,软决策树和图神经网络。与其他工作相比,我们的模型可以用于解决各种具有挑战性的任务,包括化合物性质预测。在ProGReST中,由于模型的内置可解释性,基本原理与预测一起获得。此外,我们引入了一种新的图原型投影来加速模型训练。最后,我们在广泛的化学数据集上评估了PRoGReST的分子性质预测,并与化学专家进行了深入的分析,以评估获得的解释。我们的方法实现了竞争力的结果对国家的最先进的方法。
2022-12-27 cs.AI cs.LG q-bio.QM
Heterogenous Ensemble of Models for Molecular Property Prediction
NVIDIA(英伟达);UCLA(加州大学洛杉矶分校)
以前的工作已经证明了考虑分子上不同模态的重要性,每种模态都为下游性质预测任务提供了不同粒度的信息。我们的方法将最近的TransformerM架构的变体与Transformer、GNN和ResNet骨干架构相结合。模型在分子图的2D数据、3D数据和图像模态上进行训练。我们将这些模型与HuberRegressor集成。在原始训练+有效数据集的4个不同的训练/验证分割上训练模型。这为PCQM 4 Mv 2分子性质预测数据集上的OGB大规模挑战赛(2022)的第2 \textsuperscript{nd}版提供了获胜解决方案。我们提出的方法实现了$0.0723$的测试挑战MAE和$0.07145$的验证MAE。我们的解决方案的总推理时间不到2小时。我们在https://github.com/jfpuget/NVIDIA-PCQM4Mv2上开源我们的代码。
2022-11-20 cs.LG q-bio.QM
Graph neural networks for the prediction of molecular structure-property relationships
RWTH Aachen University(亚琛工业大学);Delft University of Technology(代尔夫特理工大学);Forschungszentrum Jülich GmbH(于利希研究中心)
本文介绍图神经网络直接基于分子图进行端到端性质预测的方法,避免传统QSPR/QSAR对描述符的依赖,并通过两个实例展示其在分子性质预测中的应用。
2022-07-25 cs.LG math.OC q-bio.BM
Multitask Learning On Graph Neural Networks Applied To Molecular Property Predictions
Firmenich SA(芬美意公司);Helmholtz Zentrum München(亥姆霍兹慕尼黑中心);BIGCHEM GmbH(BIGCHEM有限公司)
预测分子的物理化学性质,是化学中一项具有挑战性的任务。在此,我们提出了一个新的国家的最先进的多任务预测方法的基础上,现有的图神经网络模型。我们为我们的模型使用了不同的架构,结果清楚地表明多任务学习可以提高模型性能。此外,已观察到模型中的方差显著减少。最重要的是,具有少量数据点的数据集可以在不需要增强的情况下获得更好的结果。
2019-10-30 cs.LG stat.ML
MolecularGPT: Open Large Language Model (LLM) for Few-Shot Molecular Property Prediction
New York University Shanghai(上海纽约大学);Xiamen University(厦门大学);University of California, San Francisco(加利福尼亚大学旧金山分校);Zhejiang University(浙江大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出MolecularGPT,通过指令微调大语言模型并利用零样本/少样本上下文学习,在无需微调的情况下实现少样本分子性质预测,并在多个数据集上超越图神经网络和现有LLM基线。
2024-10-18 cs.AI cs.CE cs.CL
Graph Neural Network Expressivity and Meta-Learning for Molecular Property Regression
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Cornell University(康奈尔大学)
我们证明了元学习的模型不可知算法的适用性,特别是爬行动物,GNN模型在分子回归任务。使用元学习,我们能够学习新的化学预测任务,只需几个模型更新,而使用随机初始化的GNN需要从头开始学习每个回归任务。我们的实验表明,GNN层的表现力与改进的元学习相关。此外,我们还对GNN集成进行了实验,这些集成为k-shot学习提供了最佳性能和快速收敛。
2022-11-24 cs.LG q-bio.BM q-bio.QM
SPECTRA: Spectral Domain-Aware Graph Generation for Imbalanced Molecular Property Regression
University of Notre Dame, Dept. of Computer Science;University of Notre Dame, Dept. of Chemistry;University of Notre Dame, Lucy Family Institute for Data \& Society Notre Dame Indiana USA;University of Notre Dame, Lucy Family Institute for Data \& Society
本文提出SPECTRA方法,通过结合稀缺性感知预算方案、目标邻居图对齐和拉普拉斯谱插值,提升对相关但数据稀缺的分子属性值的预测能力,同时在相关目标范围内优于现有最先进方法,计算时间减少约4倍。
2026-05-20 cs.LG math.SP q-bio.MN
FP-GNN: a versatile deep learning architecture for enhanced molecular property prediction
South China University of Technology(华南理工大学)
深度学习是分子设计的一种重要方法,具有相当大的预测分子特性的能力,包括物理化学、生物活性和ADME/T(吸收、分布、代谢、排泄和毒性)特性。在这项研究中,我们提出了一种新的深度学习架构,称为FP-GNN,它结合并同时学习来自分子图和指纹的信息。为了评估FP-GNN模型,我们对13个公共数据集,无偏LIT-PCBA数据集和14个乳腺细胞系表型筛选数据集进行了实验。广泛的评估结果表明,与先进的深度学习和传统的机器学习算法相比,FP-GNN算法在这些数据集上实现了最先进的性能。此外,我们还分析了不同分子指纹的影响,以及分子图和分子指纹对FP-GNN模型性能的影响。抗噪声能力和解释能力的分析也表明,FP-GNN在现实世界的情况下是有竞争力的。
2022-05-08 cs.LG q-bio.MN
Molecular Property Prediction Based on Graph Structure Learning
Fudan University(复旦大学);Tongji University(同济大学)
提出基于图结构学习的GSL-MPP方法,融合分子内与分子间信息,在七个基准数据集上多数达到最先进性能,尤其分类任务。
2023-12-28 cs.LG q-bio.BM
A Systematic Comparison Study on Hyperparameter Optimisation of Graph Neural Networks for Molecular Property Prediction
Heriot-Watt University(赫瑞-瓦特大学)
图神经网络(GNN)已经被提出用于广泛的图相关学习任务。特别是近年来,越来越多的GNN系统被应用于预测分子性质。然而,一个直接的障碍是选择合适的超参数,以实现令人满意的性能,较低的计算成本。与此同时,在典型的深度学习应用中,许多分子数据集远远小于许多其他数据集。大多数超参数优化(HPO)方法尚未在分子域中的小数据集上探索其效率。在本文中,我们进行了理论分析的共同和特殊功能的两个国家的最先进的和流行的算法HPO:TPE和CMA-ES,我们比较了它们与随机搜索(RS),这是作为一个基线。在MoleculeNet平台上,从不同的角度对RS、TPE和CMA-ES对GNNs的HPO影响进行了实验研究,以预测GNNs的分子性质。在我们的实验中,我们得出结论,RS,TPE和CMA-ES在解决不同的特定分子问题时具有各自的优势。最后,我们相信我们的工作将激励GNN应用于化学和材料科学中的分子机器学习问题的进一步研究。
2021-04-22 cs.LG q-bio.BM
Cardinality-Preserving Attention Channels for Graph Transformers in Molecular Property Prediction
PhD(博士)
CardinalGraphFormer通过引入保持基数的注意力通道,提升分子属性预测的性能,结合结构稀疏注意力与自监督预训练,实现对分子属性的更准确预测。
2026-02-17 cs.AI cs.LG
Hierarchical Grammar-Induced Geometry for Data-Efficient Molecular Property Prediction
MIT(麻省理工学院);IBM Research(IBM研究院);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
针对分子性质预测中标注数据稀缺问题,提出利用可学习层级分子语法诱导几何结构,结合图神经网络扩散进行预测,在多种数据集上优于现有基线,尤其适用于数据极度有限场景。
2023-09-04 cs.LG q-bio.QM
XIMP: Cross Graph Inter-Message Passing for Molecular Property Prediction
Faculty of Computer Science, University of Vienna, Vienna, Austria(计算机科学学院,维也纳大学,维也纳,奥地利);Doctoral School Computer Science, University of Vienna, Vienna, Austria(计算机科学博士学院,维也纳大学,维也纳,奥地利);Research Network Data Science, University of Vienna, Vienna, Austria(数据科学研究网络,维也纳大学,维也纳,奥地利)
XIMP通过跨图信息传递整合多种分子图表示,提升分子属性预测的准确性和泛化能力。
2026-01-26 cs.LG q-bio.QM stat.ML
Graph Neural Network Architecture Search for Molecular Property Prediction
University of Wisconsin — Madison(威斯康星大学麦迪逊分校);Argonne National Laboratory(阿贡国家实验室)
从分子结构预测其性质是一项具有挑战性的任务。最近,深度学习方法已经改进了这项任务的最新技术,因为它们能够从给定的数据中学习有用的特征。图神经网络将分子结构看作图,将原子和键看作节点和边,已被广泛用于预测分子性质。然而,针对给定数据集的GNN的设计和开发依赖于劳动密集型的网络架构设计和调整。神经网络结构搜索是自动发现高性能神经网络结构的一种很有前途的方法。为此,我们开发了一种NAS方法来自动设计和开发用于分子性质预测的GNN。具体来说,我们专注于消息传递神经网络(MPNNs)的自动化开发,以预测MoleculeNet基准测试中量子力学和物理化学数据集中小分子的分子特性。我们通过与MoleculeNet基准测试中手动设计的GNN进行比较,展示了自动发现的MPNN的优越性。我们研究了MPNN搜索空间中的选择的相对重要性,表明定制的架构是提高分子性质预测的性能的关键,所提出的方法可以自动执行定制以最小的手动工作。
2020-08-27 cs.LG q-bio.BM stat.ML
Comparison of Atom Representations in Graph Neural Networks for Molecular Property Prediction
Jagiellonian University(雅盖隆大学);Ardigen(阿迪根公司);Maj Institute of Pharmacology, Polish Academy of Sciences(波兰科学院马吉药理学研究所)
图神经网络最近已成为分析化合物的标准方法。在分子性质预测领域,现在的重点是设计新的模型架构,原子特征化的重要性往往被低估。当对比两个图神经网络时,使用不同的原子特征可能会导致将结果错误地归因于网络架构。为了更好地理解这个问题,我们比较了图模型的多个原子表示,并评估它们对自由能,溶解度和代谢稳定性的预测。据我们所知,这是第一个专注于原子表示与图神经网络预测性能相关性的方法学研究。
2021-02-12 cs.LG physics.chem-ph stat.ML
Quantum-Classical Hybrid Molecular Autoencoder for Advancing Classical Decoding
本文提出一种量子-经典混合自编码器用于SMILES字符串重建,通过结合量子编码与经典序列建模,实现约84%量子保真度和60%经典重建相似度,超越现有量子基线,为分子与药物发现中的量子感知序列模型奠定基础。
2025-08-28 cs.LG quant-ph
Long-distance heat transfer between molecular systems through a hybrid plasmonic-photonic nanoresonator
我们介绍了一种混合等离子体光子腔设置,可用于诱导和控制分子系统之间的长距离热传递通过光机相互作用。该结构由两个分离的等离子体纳米天线耦合到一个电介质腔。该谐振器的混合模式可以将亚波长等离子体激元模式的大光机耦合与在大距离($\simμ$ m)上延伸的腔模式的大品质因数和离域特性相结合。我们表明,这可以导致有效的分子振动,可以通过外部驱动激光主动控制之间的远程热传输。
2020-08-27 quant-ph
Quantum Machine Learning of Molecular Energies with Hybrid Quantum-Neural Wavefunction
提出混合量子-神经波函数框架,结合量子电路与深度神经网络学习分子波函数,在数值与超导量子实验上实现近化学精度,并具强抗噪性。
2025-09-09 physics.chem-ph quant-ph
Classically Prepared, Quantumly Evolved: Hybrid Algorithm for Molecular Spectra
CNRS, Ecole Polytechnique, Institut Polytechnique de Paris(法国国家科学研究中心,巴黎综合理工学院,巴黎理工学院);Inria Paris-Saclay(法国国家信息与自动化研究所巴黎萨克雷中心);LIX, CNRS, École polytechnique, Institut Polytechnique de Paris(LIX实验室,法国国家科学研究中心,巴黎综合理工学院,巴黎理工学院);Ecole Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院)
本研究提出一种经典-量子混合算法,结合经典微扰基态制备与量子短时演化构建有效子空间,以浅电路少量样本实现分子系统高分辨率光谱重建,性能优于纯经典方法,适配近期及早期容错量子硬件。
2025-10-28 cond-mat.mtrl-sci physics.chem-ph physics.comp-ph
Hybrid Auxiliary Field Quantum Monte Carlo for Molecular Systems
本文提出融合变分蒙特卡洛优化与辅助场量子蒙特卡洛传播的混合方法,以缓解符号问题并高精度求解分子电子基态。
2023-04-20 physics.chem-ph physics.comp-ph quant-ph
Hybrid Quantum Processors: molecular ensembles as quantum memory for solid state circuits
我们研究了一种混合量子线路,其中冷极性分子的合奏作为长寿命的量子存储器和固态量子处理器的光学接口。利用微波喇曼过程将集体自旋态(系综量子比特)实现的量子存储器耦合到高Q带线腔中。我们表明,方便的陷阱表面的距离为几个$μ$ m,腔和系综量子比特之间的强耦合可以实现。我们讨论了基本的量子信息协议,包括从腔光子总线到分子量子存储器的交换,以及确定性的双量子比特门。最后,我们研究了分子系综量子比特的相干特性。
2006-04-19 cond-mat.supr-con quant-ph
Molecular optomechanics in the anharmonic cavity-QED regime using hybrid metal-dielectric cavity modes
使用精心设计的混合金属-介质谐振器,我们研究了分子光学力学在强耦合制度($g_{\rm }^2/ω_m {>} κ$),这体现在非谐波发射线的腔发射光谱($κ{<}ω_m$)的边带分辨区域。这种非线性光机械强耦合制度是通过金属-介电腔系统,不仅产生深亚波长等离子体约束,而且介电类约束时间比那些从典型的本地化等离子体模式大于两个数量级。这些混合的金属-电介质腔模式使人们能够研究用于单分子拉曼散射的量子等离子体的新途径。
2019-11-27 cond-mat.mes-hall physics.optics quant-ph
Hybrid Quantum Annealing via Molecular Dynamics
提出了一种新的量子-经典混合方案来有效地求解大规模组合优化问题。关键概念是引入与横场伊辛模型量子自旋相关的经典通量变量的哈密顿动力学。经典通量的分子动力学可以作为一个强有力的预条件子,为量子退火器挑选出冻结和矛盾的自旋。采用MAX-CUT和伊辛自旋玻璃问题的性能和准确性,我们的光滑杂交相比,标准的经典算法(禁忌搜索和模拟退火)证明。
2021-04-19 cond-mat.stat-mech hep-ph nucl-th
Dynamics of atomic and molecular solitary waves inatom-molecular hybrid Bose-Einstein condensates coupled by Magnetic Feshbach Resonance: Role of induced decays of Feshbach Molecules
研究了~(85)Rb原子-分子BEC(玻色-爱因斯坦凝聚体)磁费什巴赫共振(MFR)耦合系统中原子和分子亮孤子的动力学行为。通过求解与时间无关的原子-分子耦合方程,得到了初始原子和分子波函数,并通过求解含时原子-分子耦合方程,研究了一维球形阱中初始原子和分子波的动力学行为.在演化过程中,激光场和射频场分别诱导feshbach分子向两原子连续谱和最低超精细态束缚能级的诱导和受激衰变。因此,这两个感应衰减的强度可以通过改变激光或RF场参数(例如强度)来控制,研究发现,依赖于这两种受激或感生衰变的相对强度,初始原子和分子波在演化过程中表现为亮孤子,通过控制感生衰变的相对强度可以实现孤子波的稳定性两个不同的频道。结果表明,这两种诱导衰变通过抑制85 Rb原子-分子耦合系统的初始振荡和不稳定性,导致稳定的原子和分子孤子的形成.
2016-05-14 cond-mat.quant-gas quant-ph
Molecular Piston Engine with Spiking Transduction of Back-action in Hybrid Opto-mechanical Brownian Motors
本文研究了单分子拉曼成像反作用放大中的分子光机系统。将表面增强拉曼散射(SERS)映射到耦合腔的耗散腔光力学系统中。本文研究了杂质存在下强耦合腔光力学体系中的等离子体分子振动相互作用。分析了光机械混合系统简正模分裂的本征函数谱。在虚光子和辐射压力存在的情况下,通过避免非线性相互作用和Casimir力的交叉,研究了光子到力学模式的反作用转换。在输入输出耦合腔方案中,分析了级联腔结构在弱耦合和强耦合两种情况下的腔场和驱动场的吸热和散热。在二阶相干函数的基础上,通过调节杂质和非线性的竞争耦合强度,研究了布朗马达光机实现中机械模的声子激光作用对热力学功和热机的影响.
2018-06-07 quant-ph
Single-photon generation at room temperature using molecular optomechanics in a hybrid photonic-plasmonic cavity
提出混合光子-等离子体腔中的单分子光力学结构,通过 g^2(0) 计算和量子路径干涉分析,证明弱耦合下可实现室温单光子发射。
2023-12-18 physics.optics quant-ph
COACH: Toward the performance limit of traditional hybrid density functionals for molecular chemistry
University of California at Berkeley(加州大学伯克利分校);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
本文提出一种系统协议,通过约束强制、灵活的功能形式和现代优化,开发出更准确且具有转移性的混合泛函,提升分子化学计算的精度和通用性。
2026-11-03 physics.chem-ph physics.comp-ph quant-ph
Molecular Dipolar Crystals as High Fidelity Quantum Memory for Hybrid Quantum Computing
我们研究了极性分子系综的旋转和自旋态的集体激发,这些分子是在偶极晶相中制备的,作为高保真度量子存储器的候选者。虽然偶极晶体在1D和2D捕获条件下在极性分子的冷云的高密度极限中形成,但晶体结构保护分子量子比特免受短程碰撞的有害影响。我们计算的量子存储器的寿命,通过确定占主导地位的退相干机制,并估计其对门操作的影响,当一个分子系综量子比特被转移到超导带状线腔(电路QED)。在偶极-偶极相互作用耦合的情况下,我们确定声子作为量子比特寿命的主要限制。我们研究具体的设置和条件,耦合到声子模式被最小化。详细的结果,提出了一个一维偶极链。
2007-06-20 cond-mat.other quant-ph
About the computation of finite temperatureensemble averages of hybrid quantum-classicalsystems with Molecular Dynamics
分子或凝聚态系统通常很好地近似于量子-经典混合模型:电子保持其量子特性,而离子被认为是经典粒子。我们讨论了各种不同的方法,通过使用分子动力学(MD),即通过执行动态的存在下,一个恒温器和计算时间平均的轨迹,这些混合量子经典系统的可观测的平衡(规范)系综平均值的计算。通常,在经典或从头算MD中,电子的温度被忽略,并且它们被假设在演化期间保持在由每个离子构型给出的瞬时基态。然而,在这里,我们讨论的一般情况下,考虑经典和量子子系统在有限温度下的正则平衡。受最近量子经典混合体正则系综的形式推导的启发,我们讨论了文献中发现的以前的方法,并提供了一些新的公式。
2021-05-06 cond-mat.stat-mech physics.chem-ph quant-ph