Gated Graph Recursive Neural Networks for Molecular Property Prediction
Nara Institute of Science and Technology(奈良先端科学技术大学院大学)
分子性质预测是计算机辅助药物发现和材料科学的基础问题。量子化学模拟如密度泛函理论(DFT)已被广泛用于计算分子性质,但由于计算量大,难以搜索大量潜在的化合物。用于分子建模的机器学习方法是有吸引力的替代方案,然而,用于学习分子表示的表达性、准确性和可扩展的图神经网络的开发仍然具有挑战性。在这项工作中,我们提出了一个简单而强大的图神经网络的分子性质预测。我们将分子建模为一个有向完全图,其中每个原子都有一个空间位置,并引入一个具有简单门函数的递归神经网络。我们还为每个层提供输入嵌入作为跳过连接,以加速训练。实验结果表明,我们的模型达到了最先进的性能标准基准数据集的分子性质预测。
2019-11-25 cs.LG q-bio.BM stat.ML
GPS++: Reviving the Art of Message Passing for Molecular Property Prediction
Graphcore(Graphcore公司);Mila(米拉研究所);McGill University(麦吉尔大学);Valence Discovery(Valence Discovery公司);Université de Montréal(蒙特利尔大学)
GPS++混合模型结合局部消息传递与偏置全局注意力,在PCQM4Mv2上取得最先进结果,且无需全局自注意力即可保持性能,证明消息传递在3D分子性质预测中仍具竞争力。
2023-05-12 cs.LG
ASGN: An Active Semi-supervised Graph Neural Network for Molecular Property Prediction
University of Science and Technology of China(中国科学技术大学);Tencent America(腾讯美国)
分子性质预测(例如,能量)是化学和生物学中的基本问题。不幸的是,许多监督学习方法通常面临化学空间中标记分子稀缺的问题,其中此类属性标记通常通过密度泛函理论(DFT)计算获得,这是极其昂贵的计算成本。一种有效的解决方案是以半监督的方式掺入未标记的分子。然而,大量分子的半监督表示学习具有挑战性,包括分子本质和结构的联合表示问题,表示和性质学习之间的冲突。在这里,我们提出了一个新的框架,称为主动半监督图神经网络(ASGN),将标记和未标记的分子。具体而言,ASGN采用教师-学生框架。在教师模型中,我们提出了一种新的半监督学习方法来学习一般表示,共同利用信息的分子结构和分子分布。然后在学生模型中,我们针对属性预测任务来处理学习损失冲突。最后,我们提出了一种新的主动学习策略,在整个框架学习过程中,根据分子差异选择信息数据。我们在几个公共数据集上进行了广泛的实验。实验结果表明,我们的ASGN框架的显着性能。
2020-07-07 cs.LG stat.ML
KPGT: Knowledge-Guided Pre-training of Graph Transformer for Molecular Property Prediction
Tsinghua University(清华大学)
设计用于分子性质预测的精确深度学习模型在药物和材料发现中发挥着越来越重要的作用。最近,由于标记分子的稀缺性,用于学习分子图的可推广和可转移表示的自监督学习方法引起了人们的广泛关注。在本文中,我们认为,存在两个主要问题,阻碍目前的自监督学习方法从获得理想的性能的分子性质预测,即,不明确的预训练任务和有限的模型容量。为此,我们引入知识引导的图Transformer(KPGT)的预训练,这是一种用于分子图表示学习的新型自监督学习框架,以缓解上述问题并提高下游分子性质预测任务的性能。更具体地说,我们首先介绍了一个高容量的模型,命名为线图Transformer(LiGhT),它强调了化学键的重要性,主要是为了模拟分子图的结构信息。然后,提出了一种知识引导的预训练策略,利用分子的额外知识来指导模型从大规模未标记分子图中捕获丰富的结构和语义信息。广泛的计算测试表明,KPGT可以提供优于当前国家的最先进的方法上的几个分子性质预测任务的性能。
2022-06-02 cs.AI cs.LG physics.chem-ph
FragNet: A Graph Neural Network for Molecular Property Prediction with Four Levels of Interpretability
Pacific Northwest National Laboratory(太平洋西北国家实验室)
提出图神经网络FragNet,在匹配领先模型预测准确率的同时,提供原子、化学键、分子片段及片段间连接四个层级的可解释性,助力从分子结构中提取科学洞察。
2025-05-31 cs.AI cs.LG physics.chem-ph
ADMET property prediction through combinations of molecular fingerprints
MapLight Therapeutics(MapLight治疗公司)
本文系统比较回归算法与分子指纹组合,提出融合 ECFP、Avalon、ErG、200 种分子性质及图神经网络指纹的 CatBoost 模型,并在 22 个 TDC ADMET 基准上验证其优越性能。
2023-09-29 cs.LG q-bio.BM
Heterogenous Ensemble of Models for Molecular Property Prediction
NVIDIA(英伟达);UCLA(加州大学洛杉矶分校)
以前的工作已经证明了考虑分子上不同模态的重要性,每种模态都为下游性质预测任务提供了不同粒度的信息。我们的方法将最近的TransformerM架构的变体与Transformer、GNN和ResNet骨干架构相结合。模型在分子图的2D数据、3D数据和图像模态上进行训练。我们将这些模型与HuberRegressor集成。在原始训练+有效数据集的4个不同的训练/验证分割上训练模型。这为PCQM 4 Mv 2分子性质预测数据集上的OGB大规模挑战赛(2022)的第2 \textsuperscript{nd}版提供了获胜解决方案。我们提出的方法实现了$0.0723$的测试挑战MAE和$0.07145$的验证MAE。我们的解决方案的总推理时间不到2小时。我们在https://github.com/jfpuget/NVIDIA-PCQM4Mv2上开源我们的代码。
2022-11-20 cs.LG q-bio.QM
Multitask Learning On Graph Neural Networks Applied To Molecular Property Predictions
Firmenich SA(芬美意公司);Helmholtz Zentrum München(亥姆霍兹慕尼黑中心);BIGCHEM GmbH(BIGCHEM有限公司)
预测分子的物理化学性质,是化学中一项具有挑战性的任务。在此,我们提出了一个新的国家的最先进的多任务预测方法的基础上,现有的图神经网络模型。我们为我们的模型使用了不同的架构,结果清楚地表明多任务学习可以提高模型性能。此外,已观察到模型中的方差显著减少。最重要的是,具有少量数据点的数据集可以在不需要增强的情况下获得更好的结果。
2019-10-30 cs.LG stat.ML
ProGReST: Prototypical Graph Regression Soft Trees for Molecular Property Prediction
Jagiellonian University(雅盖隆大学);Ardigen SA
在这项工作中,我们提出了新的原型图回归自解释树(ProGReST)模型,它结合了原型学习,软决策树和图神经网络。与其他工作相比,我们的模型可以用于解决各种具有挑战性的任务,包括化合物性质预测。在ProGReST中,由于模型的内置可解释性,基本原理与预测一起获得。此外,我们引入了一种新的图原型投影来加速模型训练。最后,我们在广泛的化学数据集上评估了PRoGReST的分子性质预测,并与化学专家进行了深入的分析,以评估获得的解释。我们的方法实现了竞争力的结果对国家的最先进的方法。
2022-12-27 cs.AI cs.LG q-bio.QM
On Graph Neural Network Ensembles for Large-Scale Molecular Property Prediction
University of Cambridge(剑桥大学);ML Collective(ML集体);Universitat Rovira i Virgili(罗维拉-威尔吉利大学);McGill University(麦吉尔大学);Wrocław University of Science and Technology(弗罗茨瓦夫理工大学);Obafemi Awolowo University(奥巴费米·阿沃洛沃大学)
为了推进大规模图机器学习,在2021年KDD杯上提出了开放图基准大规模挑战赛(OGB-LSC)。PCQM 4 M-LSC数据集定义了约3.8M图上的分子HOMO-LUMO属性预测任务。在这篇简短的论文中,我们展示了我们目前正在进行的解决方案,该解决方案基于GIN,贝叶斯神经网络和DiffPool构建了三个图神经网络模型的集成。我们的方法比提供的基线高出7.6%。此外,使用我们的系综预测中的不确定性,我们可以识别HOMO-LUMO间隙更难预测的分子(Pearson相关系数为0.5181)。我们预期这将促进主动学习。
2021-06-29 cs.LG
Graph neural networks for the prediction of molecular structure-property relationships
RWTH Aachen University(亚琛工业大学);Delft University of Technology(代尔夫特理工大学);Forschungszentrum Jülich GmbH(于利希研究中心)
本文介绍图神经网络直接基于分子图进行端到端性质预测的方法,避免传统QSPR/QSAR对描述符的依赖,并通过两个实例展示其在分子性质预测中的应用。
2022-07-25 cs.LG math.OC q-bio.BM
FP-GNN: a versatile deep learning architecture for enhanced molecular property prediction
South China University of Technology(华南理工大学)
深度学习是分子设计的一种重要方法,具有相当大的预测分子特性的能力,包括物理化学、生物活性和ADME/T(吸收、分布、代谢、排泄和毒性)特性。在这项研究中,我们提出了一种新的深度学习架构,称为FP-GNN,它结合并同时学习来自分子图和指纹的信息。为了评估FP-GNN模型,我们对13个公共数据集,无偏LIT-PCBA数据集和14个乳腺细胞系表型筛选数据集进行了实验。广泛的评估结果表明,与先进的深度学习和传统的机器学习算法相比,FP-GNN算法在这些数据集上实现了最先进的性能。此外,我们还分析了不同分子指纹的影响,以及分子图和分子指纹对FP-GNN模型性能的影响。抗噪声能力和解释能力的分析也表明,FP-GNN在现实世界的情况下是有竞争力的。
2022-05-08 cs.LG q-bio.MN
Molecular Property Prediction Based on Graph Structure Learning
Fudan University(复旦大学);Tongji University(同济大学)
提出基于图结构学习的GSL-MPP方法,融合分子内与分子间信息,在七个基准数据集上多数达到最先进性能,尤其分类任务。
2023-12-28 cs.LG q-bio.BM
Graph Neural Network Expressivity and Meta-Learning for Molecular Property Regression
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Cornell University(康奈尔大学)
我们证明了元学习的模型不可知算法的适用性,特别是爬行动物,GNN模型在分子回归任务。使用元学习,我们能够学习新的化学预测任务,只需几个模型更新,而使用随机初始化的GNN需要从头开始学习每个回归任务。我们的实验表明,GNN层的表现力与改进的元学习相关。此外,我们还对GNN集成进行了实验,这些集成为k-shot学习提供了最佳性能和快速收敛。
2022-11-24 cs.LG q-bio.BM q-bio.QM
A Systematic Comparison Study on Hyperparameter Optimisation of Graph Neural Networks for Molecular Property Prediction
Heriot-Watt University(赫瑞-瓦特大学)
图神经网络(GNN)已经被提出用于广泛的图相关学习任务。特别是近年来,越来越多的GNN系统被应用于预测分子性质。然而,一个直接的障碍是选择合适的超参数,以实现令人满意的性能,较低的计算成本。与此同时,在典型的深度学习应用中,许多分子数据集远远小于许多其他数据集。大多数超参数优化(HPO)方法尚未在分子域中的小数据集上探索其效率。在本文中,我们进行了理论分析的共同和特殊功能的两个国家的最先进的和流行的算法HPO:TPE和CMA-ES,我们比较了它们与随机搜索(RS),这是作为一个基线。在MoleculeNet平台上,从不同的角度对RS、TPE和CMA-ES对GNNs的HPO影响进行了实验研究,以预测GNNs的分子性质。在我们的实验中,我们得出结论,RS,TPE和CMA-ES在解决不同的特定分子问题时具有各自的优势。最后,我们相信我们的工作将激励GNN应用于化学和材料科学中的分子机器学习问题的进一步研究。
2021-04-22 cs.LG q-bio.BM
SPECTRA: Spectral Domain-Aware Graph Generation for Imbalanced Molecular Property Regression
University of Notre Dame, Dept. of Computer Science;University of Notre Dame, Dept. of Chemistry;University of Notre Dame, Lucy Family Institute for Data \& Society Notre Dame Indiana USA;University of Notre Dame, Lucy Family Institute for Data \& Society
本文提出SPECTRA方法,通过结合稀缺性感知预算方案、目标邻居图对齐和拉普拉斯谱插值,提升对相关但数据稀缺的分子属性值的预测能力,同时在相关目标范围内优于现有最先进方法,计算时间减少约4倍。
2026-05-20 cs.LG math.SP q-bio.MN
Cardinality-Preserving Attention Channels for Graph Transformers in Molecular Property Prediction
PhD(博士)
CardinalGraphFormer通过引入保持基数的注意力通道,提升分子属性预测的性能,结合结构稀疏注意力与自监督预训练,实现对分子属性的更准确预测。
2026-02-17 cs.AI cs.LG
Physical Pooling Functions in Graph Neural Networks for Molecular Property Prediction
RWTH Aachen University(亚琛工业大学);Delft University of Technology(代尔夫特理工大学);Forschungszentrum Jülich GmbH(于利希研究中心);JARA Center for Simulation and Data Science (CSD)(JARA模拟与数据科学中心)
本文研究图神经网络中池化函数对分子性质预测的影响,提出基于物理知识选择池化方法,证明物理池化函数能显著提升模型泛化能力。
2022-07-27 cs.LG
Hierarchical Grammar-Induced Geometry for Data-Efficient Molecular Property Prediction
MIT(麻省理工学院);IBM Research(IBM研究院);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室)
针对分子性质预测中标注数据稀缺问题,提出利用可学习层级分子语法诱导几何结构,结合图神经网络扩散进行预测,在多种数据集上优于现有基线,尤其适用于数据极度有限场景。
2023-09-04 cs.LG q-bio.QM
Learning Hierarchical Interaction for Accurate Molecular Property Prediction
State Key Laboratory of Public Big Data, College of Computer Science and Technology(公共大数据国家重点实验室、计算机科学与技术学院)
针对分子结构多层级特征交互不足的问题,本文提出HimNet,通过层级注意力消息传递融合原子、基序和分子表征,在11个数据集上实现优异且可解释的分子性质预测。
2025-05-12 cs.LG q-bio.BM
HiGNN: Hierarchical Informative Graph Neural Networks for Molecular Property Prediction Equipped with Feature-Wise Attention
South China University of Technology(华南理工大学);Shanghai Jiao Tong University School of Medicine(上海交通大学医学院)
阐明和准确预测分子的可药性和生物活性在药物设计和发现中起着关键作用,并且仍然是一个开放的挑战。近年来,图神经网络(GNN)在基于图的分子性质预测方面取得了显著的进展。然而,目前基于图的深度学习方法忽略了分子的层次信息和特征通道之间的关系。在这项研究中,我们提出了一个精心设计的分层信息图神经网络框架(称为HiGNN),通过利用分子图和化学合成的金砖碎片的共同表示学习来预测分子性质。此外,一个即插即用的功能明智的注意力块首先设计在HiGNN架构自适应地重新校准后的消息传递阶段的原子功能。大量实验表明,HiGNN在许多具有挑战性的药物发现相关基准数据集上实现了最先进的预测性能。此外,我们设计了一个分子片段相似性机制,以全面研究HiGNN模型在子图水平上的可解释性,表明HiGNN作为一个强大的深度学习工具,可以帮助化学家和药剂师识别分子的关键组成部分,以设计具有所需性质或功能的更好的分子。源代码可在https://github.com/idruglab/hignn上公开获得。
2022-08-30 cs.LG q-bio.QM
Geometry-aware Line Graph Transformer Pre-training for Molecular Property Prediction
University of Sheffield(谢菲尔德大学)
本文提出几何感知的线图Transformer(Galformer)预训练框架,融合二维拓扑与三维几何信息,通过双模态主干和互补预训练任务提升分子性质预测,在十二个基准上优于六个基线。
2023-09-01 cs.LG q-bio.BM
XIMP: Cross Graph Inter-Message Passing for Molecular Property Prediction
Faculty of Computer Science, University of Vienna, Vienna, Austria(计算机科学学院,维也纳大学,维也纳,奥地利);Doctoral School Computer Science, University of Vienna, Vienna, Austria(计算机科学博士学院,维也纳大学,维也纳,奥地利);Research Network Data Science, University of Vienna, Vienna, Austria(数据科学研究网络,维也纳大学,维也纳,奥地利)
XIMP通过跨图信息传递整合多种分子图表示,提升分子属性预测的准确性和泛化能力。
2026-01-26 cs.LG q-bio.QM stat.ML
Learning Topology-Specific Experts for Molecular Property Prediction
Pohang University of Science and Technology (POSTECH)(浦项科技大学);University of Illinois at Urbana-Champaign (UIUC)(伊利诺伊大学厄巴纳-香槟分校)
近年来,图神经网络(GNNs)被成功地应用于分子性质预测,这是一个经典的化学信息学任务,具有广泛的应用前景。尽管它们是有效的,但我们根据经验观察到,为具有不同结构模式的不同分子训练单个GNN模型会限制其预测性能。在本文中,出于这一观察,我们提出TopExpert利用拓扑特定的预测模型(简称为专家),其中每个负责每个分子组共享相似的拓扑语义。也就是说,每个专家学习拓扑特定的判别特征,同时用其相应的拓扑组进行训练。为了解决通过拓扑模式对分子进行分组的关键挑战,我们引入了一个基于聚类的门控模块,该模块将输入分子分配到其中一个聚类中,并使用两种不同类型的自监督进一步优化门控模块:分别由GNN和分子支架诱导的拓扑语义。大量的实验表明,TopExpert提高了分子性质预测的性能,并且对于具有未知支架的新分子比基线具有更好的泛化能力。该代码可在https://github.com/kimsu55/ToxExpert上获得。
2023-03-12 cs.LG q-bio.QM
Graph Neural Network Architecture Search for Molecular Property Prediction
University of Wisconsin — Madison(威斯康星大学麦迪逊分校);Argonne National Laboratory(阿贡国家实验室)
从分子结构预测其性质是一项具有挑战性的任务。最近,深度学习方法已经改进了这项任务的最新技术,因为它们能够从给定的数据中学习有用的特征。图神经网络将分子结构看作图,将原子和键看作节点和边,已被广泛用于预测分子性质。然而,针对给定数据集的GNN的设计和开发依赖于劳动密集型的网络架构设计和调整。神经网络结构搜索是自动发现高性能神经网络结构的一种很有前途的方法。为此,我们开发了一种NAS方法来自动设计和开发用于分子性质预测的GNN。具体来说,我们专注于消息传递神经网络(MPNNs)的自动化开发,以预测MoleculeNet基准测试中量子力学和物理化学数据集中小分子的分子特性。我们通过与MoleculeNet基准测试中手动设计的GNN进行比较,展示了自动发现的MPNN的优越性。我们研究了MPNN搜索空间中的选择的相对重要性,表明定制的架构是提高分子性质预测的性能的关键,所提出的方法可以自动执行定制以最小的手动工作。
2020-08-27 cs.LG q-bio.BM stat.ML
Coordinating Cross-modal Distillation for Molecular Property Prediction
Fudan University(复旦大学);Tencent Youtu Lab(腾讯优图实验室);Shanghai Jiao Tong University(上海交通大学)
近年来,分子图表示学习(GRL)在分子性质预测(MPP)问题中受到越来越多的关注。现有的图形方法已经证明,三维几何信息是显着的MPP更好的性能。然而,精确的3D结构往往是昂贵和耗时的获得,限制了大规模应用的GRL。这是一个直观的解决方案,可以用3D到2D的知识蒸馏进行训练,并仅用2D输入进行预测。但是,一些具有挑战性的问题仍然开放的3D到2D蒸馏。一是三维视图与二维视图有很大区别,二是由于分子尺寸的变化,蒸馏过程中原子的梯度大小是不一致和不稳定的。为了解决这些具有挑战性的问题,我们专门提出了一个蒸馏框架,包括全球分子蒸馏和本地原子蒸馏。我们还提供了一个理论上的见解,以证明如何协调原子和分子的信息,这解决了可变的分子大小的原子信息蒸馏的缺点。两个流行的分子数据集上的实验结果表明,我们提出的模型实现了优于其他方法的性能。具体而言,在最大的MPP数据集PCQM 4 Mv 2上作为图ML领域的“ImageNet大规模视觉识别挑战赛”,与最佳作品相比,所提出的方法实现了6.9%的改进。在OGB-LSC 2022图形回归任务的测试挑战集上,我们以0.0734的MAE获得了第四名。我们将很快发布代码。
2022-11-30 cs.LG q-bio.QM
Comparison of Atom Representations in Graph Neural Networks for Molecular Property Prediction
Jagiellonian University(雅盖隆大学);Ardigen(阿迪根公司);Maj Institute of Pharmacology, Polish Academy of Sciences(波兰科学院马吉药理学研究所)
图神经网络最近已成为分析化合物的标准方法。在分子性质预测领域,现在的重点是设计新的模型架构,原子特征化的重要性往往被低估。当对比两个图神经网络时,使用不同的原子特征可能会导致将结果错误地归因于网络架构。为了更好地理解这个问题,我们比较了图模型的多个原子表示,并评估它们对自由能,溶解度和代谢稳定性的预测。据我们所知,这是第一个专注于原子表示与图神经网络预测性能相关性的方法学研究。
2021-02-12 cs.LG physics.chem-ph stat.ML
Quantitative Evaluation of Explainable Graph Neural Networks for Molecular Property Prediction
Sun Yat-sen University(中山大学);Galixir
机器学习的进展已经导致用于药物发现的基于图神经网络的方法,在分子设计、化学合成规划和分子性质预测方面产生有希望的结果。然而,目前的图神经网络(GNN)仍然是有限的接受在药物发现是有限的,由于他们缺乏可解释性。虽然这一主要弱点已经通过可解释人工智能(XAI)技术的发展得到缓解,但大多数可解释任务中的“地面实况”分配最终取决于人类的主观判断,因此模型解释的质量很难量化评估。在这项工作中,我们首先建立了三个层次的基准数据集,以定量评估最先进的GNN模型的可解释性。然后,我们结合不同的GNN算法实施了最新的XAI方法,以强调药物发现的好处、局限性和未来机会。因此,GradInput和IG通常为GNN提供最佳的模型可解释性,特别是与GraphNet和CMPNN结合使用时。集成和开发的XAI软件包是完全开源的,可供从业人员用于训练其他药物发现任务的新模型。
2021-07-12 cs.LG q-bio.QM
A graph representation of molecular ensembles for polymer property prediction
Massachusetts Institute of Technology(麻省理工学院)
合成聚合物是用途广泛的材料。类似于小的有机分子,假设可以访问此类材料的大化学空间。计算性质预测和虚拟筛选可以通过优先考虑预期具有有利性质的候选物来加速聚合物设计。然而,与有机分子相比,聚合物通常不是定义明确的单一结构,而是类似分子的集合,这对传统的化学表示和机器学习方法提出了独特的挑战。在这里,我们介绍了一个图形表示的分子系综和相关的图神经网络架构,是专门为聚合物性能预测。我们证明,这种方法捕捉到了聚合物材料的关键特征,例如链结构、单体化学计量和聚合度,并达到了比现成化学信息学方法更高的准确性。在这样做的同时,我们为具有不同单体组成、化学计量和链结构的>40k聚合物建立了模拟电子亲和势和电离势值的数据集,其可用于开发其他定制的机器学习方法。在这项工作中提出的数据集和机器学习模型为聚合物信息学的新算法铺平了道路,更广泛地说,引入了一个分子系综建模的框架。
2022-05-17 cond-mat.soft cs.LG
3D Infomax improves GNNs for Molecular Property Prediction
Massachusetts Institute of Technology(麻省理工学院);Valence Discovery;Technical University of Munich(慕尼黑工业大学);University of Cambridge(剑桥大学)
分子性质预测是深度学习发展最快的应用之一,具有重要的现实影响。将3D分子结构作为学习模型的输入可以提高它们在许多分子任务中的性能。然而,这种信息是不可行的计算在几个现实世界的应用程序所需的规模。我们建议预先训练一个模型来推理分子的几何形状,只给出它们的2D分子图。使用自监督学习的方法,我们最大化3D摘要向量和图神经网络(GNN)的表示之间的互信息,使它们包含潜在的3D信息。在对具有未知几何形状的分子进行微调期间,GNN仍然生成隐式3D信息,并可以使用它来改进下游任务。我们表明,3D预训练为广泛的属性提供了显着的改进,例如八个量子力学属性的平均MAE减少了22%。此外,学习的表示可以在不同分子空间的数据集之间有效地传输。
2022-06-04 cs.AI cs.LG q-bio.BM
Beyond Chemical Language: A Multimodal Approach to Enhance Molecular Property Prediction
IBM Research Brazil(IBM巴西研究院);IBM Research Almaden(IBM阿尔马登研究院)
本文提出多模态模型MULTIMODAL-MOLFORMER,通过因果多阶段特征选择将Mordred物理化学特征与MOLFORMER分子嵌入相融合,在生物降解性和PFAS毒性预测等任务上优于现有最先进算法,并有效降低了特征维度。
2023-06-22 cs.LG physics.chem-ph q-bio.QM
Enhancing Model Learning and Interpretation Using Multiple Molecular Graph Representations for Compound Property and Activity Prediction
Tokyo Institute of Technology(东京工业大学)
本研究针对化合物性质与活性预测中分子图表示局限及可解释性不足的问题,引入融合高层信息的多种分子图表示,验证了原子图与约简图结合的性能优势及解释的化学一致性,助力药物研发。
2023-04-13 cs.LG q-bio.BM q-bio.MN
Multiparameter Persistent Homology for Molecular Property Prediction
Novartis Institutes for BioMedical Research (NIBR)(诺华生物医学研究所(NIBR));AI & Computational Sciences (AICS)(人工智能与计算科学(AICS))
提出基于多参数持续同调的分子指纹生成方法,揭示分子几何的多尺度拓扑特征,具有理论稳定性保证,在多个数据集上有效预测分子性质。
2023-11-17 cs.LG math.AT q-bio.BM
Investigating Graph Neural Networks and Classical Feature-Extraction Techniques in Activity-Cliff and Molecular Property Prediction
Mansfield College(曼斯菲尔德学院)
本文系统比较并发展了经典分子特征化方法(PDVs、ECFPs)与图神经网络(GINs)在QSAR和活性悬崖预测中的表现,提出Sort & Slice子结构池化技术及孪生网络模型,并展望了可训练特征化的未来方向。
2024-11-20 cs.LG q-bio.BM stat.ML
Molecular Property Prediction: A Multilevel Quantum Interactions Modeling Perspective
University of S&T of China(中国科学技术大学)
预测分子性质(例如,原子化能)是量子化学中的一个基本问题,它可以加速许多研究进展,如药物设计和物质发现。传统的基于物理学中的密度泛函理论(DFT)的研究在预测大量分子时被证明是耗时的。近年来,考虑了大量规则信息的机器学习方法也显示出了解决这一问题的潜力。然而,现有的解决方案仍然在很大程度上未充分探索分子的复杂的固有量子相互作用。本文提出了一种用于分子性质预测的可推广和可转移的多级图卷积神经网络(MGCN)。具体来说,我们将每个分子表示为一个图,以保留其内部结构。此外,设计良好的层次图神经网络直接提取的构象和空间信息的特征,随后的多级相互作用。因此,可以利用多级总体表示来进行预测。在平衡态和非平衡态分子数据集上的大量实验证明了该模型的有效性。此外,详细的结果也证明了MGCN的预测是可推广和可移植的。
2019-06-25 cs.LG physics.comp-ph
ProtoMol: Enhancing Molecular Property Prediction via Prototype-Guided Multimodal Learning
MBZUAI(穆扎芬人工智能研究所);University of Zhengzhou(郑州大学);HKUST(香港科技大学);University of Aberdeen(爱丁堡大学);MBZUAI, Weizmann Institute of Science(穆扎芬人工智能研究所、威斯曼科学研究所)
针对现有分子图-文本多模态方法层级交互不足和缺乏统一对齐空间的问题,提出 ProtoMol 框架,通过层级双向跨模态注意力与类别原型共享空间提升分子性质预测性能。
2025-10-19 cs.LG q-bio.MN
Using GNN property predictors as molecule generators
University of Toronto(多伦多大学)
本文提出利用图神经网络性质预测器的可逆性,通过固定权重下的梯度上升直接优化分子图以生成具有目标电子性质的分子,无需额外训练,在能隙和logP任务上达到与最先进生成模型相当或更优的成功率且分子多样性更高。
2024-06-05 cs.LG physics.chem-ph
Equivariant Graph Attention Networks for Molecular Property Prediction
Bayer AG(拜耳股份公司);Freie Universität Berlin(柏林自由大学)
关于具有不同尺寸的3D分子结构的学习和推理是机器学习中尤其是药物发现中的新兴且重要的挑战。等变图神经网络(GNN)可以同时利用问题域的几何和关系细节,并且已知通过利用高阶表示的节点之间的信息传播来学习表达性表示,以忠实地表达数据的几何结构,例如其中间层中的方向性。在这项工作中,我们提出了一个等变GNN,与笛卡尔坐标操作,以纳入方向性,我们实现了一种新的注意力机制,作为一个内容和空间相关的过滤器时,节点之间传播信息。我们证明了我们的架构在预测小分子的量子力学性质上的功效,以及它在涉及大分子结构(如蛋白质复合物)的问题上的益处。
2022-03-02 cs.LG q-bio.BM
Multi-View Graph Neural Networks for Molecular Property Prediction
University of Texas at Arlington(德克萨斯大学阿灵顿分校);Tencent AI Lab(腾讯人工智能实验室);Tsinghua University(清华大学)
分子性质预测的关键是生成有意义的分子表征。一个有前途的途径是通过图神经网络(GNNs)利用分子图结构。众所周知,原子和键都显著影响分子的化学性质,因此表达模型应能够同时利用节点(原子)和边缘(键)信息。在此基础上,我们提出了多视图图神经网络(MV-GNN),这是一种多视图消息传递架构,可以更准确地预测分子特性。在MV-GNN中,我们引入了一个共享的自我注意读出组件和不一致损失来稳定训练过程。该读出组件还使得整个架构可解释。我们通过提出一个交叉依赖的消息传递方案来进一步增强MV-GNN的表达能力,该方案增强了两个视图的信息通信,从而产生了MV-GNN^交叉变体。最后,我们从理论上证明了所提出的两个模型的表现力方面区分非同构图。大量的实验表明,MV-GNN模型在各种具有挑战性的基准测试中取得了比最先进的模型更优异的性能。同时,节点重要性的可视化结果与先验知识一致,这证实了MV-GNN模型的可解释性。
2020-06-12 cs.LG q-bio.QM stat.ML
Implicit Geometry and Interaction Embeddings Improve Few-Shot Molecular Property Prediction
Stanford University(斯坦福大学);Google Brain(谷歌大脑)
针对小样本分子性质预测中复杂分子特征难学习的问题,提出利用合成分子对接数据和多任务学习构建隐式几何与交互嵌入,显著提升多种小样本学习算法在基准上的性能。
2023-10-06 cs.LG
In-Context Learning for Few-Shot Molecular Property Prediction
Stanford University(斯坦福大学)
本文借鉴上下文学习概念,提出一种无需微调即可快速适应新性质的少样本分子性质预测算法,在FS-Mol和BACE基准上,小支持集下优于元学习,大支持集下与最佳方法相当。
2023-10-13 cs.LG
Property-Aware Relation Networks for Few-Shot Molecular Property Prediction
Baidu Research(百度研究院);Baidu Inc.(百度公司);Carnegie Mellon University(卡内基梅隆大学);Tsinghua University(清华大学)
分子性质预测在药物发现中起着基础性的作用,以识别具有目标性质的候选分子。然而,分子性质预测本质上是一个Few-Shot问题,这使得难以使用常规的机器学习模型。在本文中,我们提出了属性感知关系网络(PAR)来处理这个问题。与现有的工作相比,我们利用了这样一个事实,即相关的子结构和分子之间的关系在不同的分子性质之间发生变化。我们首先引入一个属性感知的嵌入函数,将一般的分子嵌入转换到与目标属性相关的子结构感知空间。此外,我们设计了一个自适应关系图学习模块,以联合估计分子关系图和细化分子嵌入w.r.t.目标特性,使得有限的标记可以在相似的分子之间有效地传播。我们采用了元学习策略,在任务中有选择地更新参数,以便分别对通用知识和属性感知知识进行建模。在基准分子性质预测数据集上的大量实验表明,PAR始终优于现有方法,可以获得具有性质感知的分子嵌入和正确的分子关系图模型。
2021-11-11 cs.LG
TSEML: A task-specific embedding-based method for few-shot classification of cancer molecular subtypes
Tianjin University(天津大学);Northwestern Polytechnical University(西北工业大学);La Trobe University(拉筹伯大学);Shantou University(汕头大学);Yangtze River Delta Research Institute of Northwestern Polytechnical University(西北工业大学长三角研究院)
针对癌症分子亚型少样本分类难题,构建TCGA Few-Shot数据集,提出结合MAML与ProtoNet的TSEML元学习框架,在该数据集上取得更优分类性能,助力精准诊断与个性化治疗。
2025-01-14 cs.AI cs.LG q-bio.QM
M-GLC: Motif-Driven Global-Local Context Graphs for Few-shot Molecular Property Prediction
Iowa State University(爱荷华州立大学)
提出基序驱动全局-局部上下文图(M-GLC),通过全局三方异构图和局部子图编码增强少样本分子性质预测,在五个基准上超越现有方法。
2025-10-24 cs.AI cs.LG
Efficient Fine-Tuning of Single-Cell Foundation Models Enables Zero-Shot Molecular Perturbation Prediction
Genentech(基因泰克)
本研究提出药物条件适配器对单细胞基础模型进行高效微调(训练参数不足1%),实现新药物响应预测及对未见细胞系的零样本泛化,并在多项评估中取得最先进结果。
2025-04-10 cs.LG q-bio.QM
CalibHyper: Chance-Corrected Relational Hypergraphs for Few-Shot Molecular Property Prediction
Peking University(北京大学);Wuhan University(武汉大学);Tibet University(西藏大学)
针对少样本分子性质预测中标签稀缺且依赖关系难以捕捉的问题,提出机会校正关系超图方法CalibHyper,基于联合标签分布校正偏差,在多个基准上达到与最强方法相当的ROC-AUC。
2026-09-29 cs.CL cs.LG
Hash Collisions in Molecular Fingerprints: Effects on Property Prediction and Bayesian Optimization
University of Toronto(多伦多大学);Valence Labs(Valence实验室)
本研究探讨了分子指纹中哈希碰撞对性质预测和贝叶斯优化的影响,发现精确指纹在性质预测中略有提升,但在贝叶斯优化中未见显著改进。
2025-11-21 cs.LG
A Strong Baseline for Molecular Few-Shot Learning
International Laboratory on Learning Systems(国际学习系统实验室);Université Paris-Saclay(巴黎-萨克雷大学);Ecole de technologie superieur(高等技术学院);MILA(MILA(蒙特利尔学习算法研究所))
本文提出一种基于马氏距离正则化二次探针损失的简单微调方法,用于分子小样本学习,并引入新基准评估领域偏移鲁棒性,性能优于元学习方法。
2025-02-07 cs.AI cs.LG
Improving VAE based molecular representations for compound property prediction
YerevaNN;Institute of Molecular Biology, National Academy of Sciences of RA(亚美尼亚共和国国家科学院分子生物学研究所);University of Würzburg(维尔茨堡大学)
在化学信息学的许多重要任务中,收集标记数据是耗时的,并且需要昂贵的实验。近年来,机器学习已被用于使用大规模未标记的分子数据集来学习分子的丰富表示,并将知识转移到有限数据集上来解决更具挑战性的任务。变分自编码器是已经提出的用于执行化学性质预测和分子生成任务的转移的工具之一。在这项工作中,我们提出了一个简单的方法来提高机器学习模型的化学性质预测性能,通过将额外的信息相关的分子描述符的表示学习变分自编码器。在三个性能预测问题上对该方法进行了验证。我们探讨了合并的描述符的数量,描述符和目标属性之间的相关性,数据集的大小等的影响。最后,我们展示了属性预测模型的性能与属性预测数据集和表示空间中较大的未标记数据集之间的距离之间的关系。
2022-05-19 cs.LG
AdaptMol: Adaptive Fusion from Sequence String to Topological Structure for Few-shot Drug Discovery
College of Computer Science and Electronic Engineering, Hunan University(湖南大学计算机科学与电子工程学院);School of Biomedical Science, Hunan University(湖南大学生物医学科学学院)
提出AdaptMol原型网络,通过双层级注意力自适应融合SMILES序列与分子图特征,并以活性子结构解释融合机制,在少样本MPP基准上取得SOTA性能。
2025-05-17 cs.AI cs.LG q-bio.MN
Pre-training Transformers for Molecular Property Prediction Using Reaction Prediction
Research Institute of Sweden (RISE)(瑞典研究院(RISE));Uppsala University(乌普萨拉大学)
分子性质预测在化学中是必不可少的,特别是对于药物发现应用。然而,可用的分子特性数据往往是有限的,鼓励从相关数据的信息转移。迁移学习在计算机视觉和自然语言处理信号传导等领域产生了巨大的影响,因为它在分子特性预测方面具有潜力。我们提出了一个预训练程序的分子表示学习使用反应数据,并用它来预训练SMILES Transformer。我们对MoleculeNet在物理化学,生物物理学和生理学中的12个分子性质预测任务进行了微调和评估,并显示与非预训练基线模型相比,对12个任务中的5个任务具有统计学显著的积极影响。
2022-07-06 cs.LG physics.chem-ph q-bio.BM
Pin-Tuning: Parameter-Efficient In-Context Tuning for Few-Shot Molecular Property Prediction
New Laboratory of Pattern Recognition (NLPR)(新模式识别实验室(NLPR));State Key Laboratory of Multimodal Artificial Intelligence Systems (MAIS)(多模态人工智能系统国家重点实验室(MAIS));Institute of Automation, Chinese Academy of Sciences (CASIA)(中国科学院自动化研究所(CASIA));University of Science and Technology of China(中国科学技术大学);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院)
提出Pin-Tuning,通过轻量适配器和贝叶斯权重整合实现参数高效的上下文调优,解决少样本分子性质预测中预训练编码器微调低效的问题。
2024-11-02 cs.AI cs.LG q-bio.MN
Molecular Property Prediction under Structural Shift with Tabular Foundation Models
Nums AI
本研究针对结构偏移下的分子性质预测,提出MolPAIR框架,通过分子对上下文增强表格基础模型的上下文学习,在58个任务中多数优于基线,无需参数更新。
2026-10-01 cs.LG
Adaptive Substructure-Aware Expert Model for Molecular Property Prediction
Institute of Cyberspace Security, College of Information Engineering(信息工程学院网络空间安全研究所);Binjiang Institute of Artificial Intelligence(滨江人工智能研究所);Zhejiang University of Technology(浙江工业大学)
针对分子性质预测中子结构贡献不均和数据不平衡问题,本文提出基于专家混合的ASE-Mol框架,利用BRICS分解动态识别正负子结构,在八个基准数据集上取得最先进性能并提升可解释性。
2025-04-08 cs.LG