Improving VAE based molecular representations for compound property prediction
YerevaNN;Institute of Molecular Biology, National Academy of Sciences of RA(亚美尼亚共和国国家科学院分子生物学研究所);University of Würzburg(维尔茨堡大学)
在化学信息学的许多重要任务中,收集标记数据是耗时的,并且需要昂贵的实验。近年来,机器学习已被用于使用大规模未标记的分子数据集来学习分子的丰富表示,并将知识转移到有限数据集上来解决更具挑战性的任务。变分自编码器是已经提出的用于执行化学性质预测和分子生成任务的转移的工具之一。在这项工作中,我们提出了一个简单的方法来提高机器学习模型的化学性质预测性能,通过将额外的信息相关的分子描述符的表示学习变分自编码器。在三个性能预测问题上对该方法进行了验证。我们探讨了合并的描述符的数量,描述符和目标属性之间的相关性,数据集的大小等的影响。最后,我们展示了属性预测模型的性能与属性预测数据集和表示空间中较大的未标记数据集之间的距离之间的关系。
2022-05-19 cs.LG
Pre-training Transformers for Molecular Property Prediction Using Reaction Prediction
Research Institute of Sweden (RISE)(瑞典研究院(RISE));Uppsala University(乌普萨拉大学)
分子性质预测在化学中是必不可少的,特别是对于药物发现应用。然而,可用的分子特性数据往往是有限的,鼓励从相关数据的信息转移。迁移学习在计算机视觉和自然语言处理信号传导等领域产生了巨大的影响,因为它在分子特性预测方面具有潜力。我们提出了一个预训练程序的分子表示学习使用反应数据,并用它来预训练SMILES Transformer。我们对MoleculeNet在物理化学,生物物理学和生理学中的12个分子性质预测任务进行了微调和评估,并显示与非预训练基线模型相比,对12个任务中的5个任务具有统计学显著的积极影响。
2022-07-06 cs.LG physics.chem-ph q-bio.BM
ChemBERTa: Large-Scale Self-Supervised Pretraining for Molecular Property Prediction
University of Toronto(多伦多大学);Reverie Labs;DeepChem
GNN和化学指纹是代表分子进行属性预测的主要方法。然而,在NLP中,由于其强大的下游任务转移,Transformers已经成为表示学习的事实标准。与此同时,围绕Transformers的软件生态系统正在迅速成熟,HuggingFace和BertViz等库可以简化培训和自省。在这项工作中,我们首次尝试通过我们的ChemBERTa模型系统地评估Transformers器对分子性质预测任务的影响。ChemBERTa可以很好地扩展预训练数据集的大小,在MoleculeNet上提供有竞争力的下游性能和有用的基于注意力的可视化模式。我们的研究结果表明,Transformers提供了一个有前途的途径,未来的工作,分子表示学习和属性预测。为了促进这些努力,我们从PubChem发布了一个适合大规模自我监督预训练的77M SMILES的策划数据集。
2020-10-23 cs.CL cs.LG physics.chem-ph
Bayesian Graph Neural Networks for Molecular Property Prediction
University College London(伦敦大学学院)
用于分子性质预测的图神经网络经常被数据低估,并且在测试时不能推广到新的支架。一个潜在的解决方案是贝叶斯学习,它可以捕捉我们在模型参数中的不确定性。本研究使用QM9回归数据集对应用于定向MPNN的一组贝叶斯方法进行基准测试。我们发现,捕获读数和消息传递参数的不确定性产生增强的预测精度,校准和下游分子搜索任务的性能。
2020-11-25 cs.LG q-bio.BM
Molecular Property Prediction under Structural Shift with Tabular Foundation Models
Nums AI
本研究针对结构偏移下的分子性质预测,提出MolPAIR框架,通过分子对上下文增强表格基础模型的上下文学习,在58个任务中多数优于基线,无需参数更新。
2026-10-01 cs.LG
SLIM: Sparse Latent Steering for Interpretable and Property-Directed LLM-Based Molecular Editing
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Nanjing University of Aeronautics and Astronautics(南京航空航天大学);The 63rd Research Institute, National University of Defense Technology, Nanjing(国防科技大学第六三研究所,南京)
SLIM通过稀疏潜在特征空间提升分子编辑效果,实现属性导向的可解释编辑,实验显示在多个分子属性上提升达42.4个百分点。
2026-05-11 cs.AI cs.CE cs.CL
Contrastive Dual-Interaction Graph Neural Network for Molecular Property Prediction
Monash University(莫纳什大学);Bosch(博世);Bosch Corporate Research(博世企业研究院)
提出自监督图神经网络框架DIG-Mol,通过对比双交互机制和动量蒸馏网络提取分子结构特征,在多项分子性质预测任务中达到SOTA,并提升了迁移能力与可解释性。
2024-05-04 cs.AI cs.LG
Which Hyperparameters to Optimise? An Investigation of Evolutionary Hyperparameter Optimisation in Graph Neural Network For Molecular Property Prediction
Heriot-Watt University(赫瑞-瓦特大学)
近年来,图神经网络(GNN)的研究引起了人们的广泛关注,并在分子性质预测方面取得了良好的效果。大多数用于分子性质预测的GNN都是基于通过聚合其邻居节点(例如原子)的信息来学习节点表示的想法提出的。然后,可以将表示传递到后续层以处理各个下游任务。因此,GNN的架构可以被认为是由两个核心部分组成:图相关层和任务特定层。面对现实世界的分子问题,这些层的超参数优化是至关重要的。在这种情况下,超参数优化(HPO)变得昂贵,因为评估候选解决方案需要大量的计算资源来训练和验证模型。此外,更大的搜索空间往往使HPO问题更具挑战性。在这项研究中,我们专注于选择两种类型的GNN超参数的影响,那些属于图形相关的层和任务特定的层,对GNN的性能进行分子性质预测。在我们的实验中。我们采用了最先进的进化算法(即,CMA-ES)用于HPO。结果表明,分别优化两类超参数可以获得GNN性能的改善,而同时优化两类超参数则可以获得显著的改善。同时,我们的研究也进一步证实了HPO对GNN在分子性质预测问题中的重要性。
2021-04-14 cs.LG
Semi-Supervised Junction Tree Variational Autoencoder for Molecular Property Prediction
Simon Fraser University(西蒙弗雷泽大学)
分子表示学习对于解决许多药物发现和计算化学问题至关重要。由于分子结构的复杂性和化学空间的广阔性,这是一个具有挑战性的问题。分子的图形表示比传统的表示(如分子指纹)更具表现力。因此,它们可以提高机器学习模型的性能。我们提出了SeMole,一种增强连接树变分自编码器的方法,这是一种最先进的分子图生成模型,具有半监督学习。SeMole旨在通过利用未标记数据来提高标记数据有限时分子性质预测的准确性。我们强制该模型生成分子图的条件下,通过将属性的潜在表示的目标属性。我们提出了一个额外的预训练阶段,以改善我们的半监督生成模型的训练过程。我们使用三种不同的分子特性对ZINC数据集进行了实验评估,并证明了半监督的好处。
2023-01-15 cs.LG physics.chem-ph
Adaptive Substructure-Aware Expert Model for Molecular Property Prediction
Institute of Cyberspace Security, College of Information Engineering(信息工程学院网络空间安全研究所);Binjiang Institute of Artificial Intelligence(滨江人工智能研究所);Zhejiang University of Technology(浙江工业大学)
针对分子性质预测中子结构贡献不均和数据不平衡问题,本文提出基于专家混合的ASE-Mol框架,利用BRICS分解动态识别正负子结构,在八个基准数据集上取得最先进性能并提升可解释性。
2025-04-08 cs.LG
Image-Like Graph Representations for Improved Molecular Property Prediction
Brown University(布朗大学)
对用于分子性质预测的深度学习模型的研究主要集中在开发更好的图神经网络(GNN)架构。虽然新的GNN变体继续提高性能,但它们的修改都有一个共同的主题,即减轻其基本图到图本质所固有的问题。在这项工作中,我们研究了这些限制,并提出了一种新的分子表示,完全绕过了对GNN的需求,称为CubeMol。当与Transformer模型配对时,我们的固定维随机表示超过了最先进的GNN模型的性能,并提供了可扩展性的路径。
2021-11-20 cs.LG q-bio.QM
Attention-wise masked graph contrastive learning for predicting molecular property
Nanjing Tech University(南京工业大学);Central South University(中南大学)
准确、高效地预测药物的分子性质是药物研究和开发的基本问题之一。表征学习的最新进展已被证明可以大大提高分子性质预测的性能。然而,由于有限的标记数据,基于监督学习的分子表示算法只能搜索有限的化学空间,导致泛化能力差。在这项工作中,我们提出了一个大规模的未标记分子的自监督表示学习框架。我们开发了一种新的分子图增强策略,称为attention-wise graph mask,以生成具有挑战性的阳性样本进行对比学习。我们采用图注意力网络(GAT)作为分子图编码器,并利用学习的注意力分数作为掩蔽指导来生成分子增强图。通过最小化原始图和掩码图之间的对比损失,我们的模型可以捕获重要的分子结构和高阶语义信息。大量的实验表明,我们的注意力图形掩码对比学习在几个下游分子性质预测任务中表现出最先进的性能。
2022-05-02 cs.LG q-bio.BM
AttriLens-Mol: Attribute Guided Reinforcement Learning for Molecular Property Prediction with Large Language Models
Xiangtan University(湘潭大学);Shenzhen University(深圳大学)
AttriLens-Mol通过属性引导的强化学习框架提升大语言模型在分子属性预测中的性能,有效激发相关属性,提高可解释性和预测效果。
2026-01-18 cs.AI cs.CL cs.LG
GeomGCL: Geometric Graph Contrastive Learning for Molecular Property Prediction
Baidu Research(百度研究院)
近年来,图神经网络(GNNs)在分子性质预测中的应用成为计算药物和材料发现的一项基础性工作。标记数据的缺乏是阻碍GNN成功预测分子性质的主要障碍之一。虽然图对比学习(GCL)方法在标记数据不足的情况下取得了非凡的性能,但大多数方法都集中在为一般图设计数据增强方案。然而,一个分子的基本性质可以改变与分子图上的增广方法(如随机扰动)。然而,在目前的GNN和GCL结构下,分子的关键几何信息仍然很少被探索。为此,我们提出了一种新的图对比学习方法,利用分子的几何形状在2D和3D视图,这是命名为GeomGCL。具体来说,我们首先设计了一个双视图几何消息传递网络(GeomMPNN),以自适应地利用分子的2D和3D图形的丰富信息。在不同层次上引入几何性质可以极大地促进分子表示学习。然后设计了一种新的几何图对比方案,使两个几何视图协同监督,以提高GeomMPNN的泛化能力。我们通过微调过程评估GeomGCL在各种下游属性预测任务上的表现。七个现实生活中的分子数据集上的实验结果表明,我们提出的GeomGCL对国家的最先进的基线的有效性。
2021-09-24 cs.LG
Deeply learning molecular structure-property relationships using attention- and gate-augmented graph convolutional network
KAIST(韩国科学技术院)
分子结构-性质关系是分子工程材料和药物发现的关键。深度学习的兴起提供了一种新的可行的解决方案,可以直接从化学数据中阐明结构-性质关系。在这里,我们表明,图卷积网络(GCN)预测分子性质的性能可以通过引入注意力“与”门机制来提高。注意力机制使GCN能够识别不同环境中的原子。门控跳过连接通过以适当的速率更新特征图来进一步改进GCN。我们证明,由此产生的注意力-“与”门-增强的GCN可以提取更好的结构特征相关的目标分子性质,如溶解度,极性,合成的可及性和光伏效率相比,香草GCN。更有趣的是,它确定了分子的两个不同部分作为高光伏效率的基本结构特征,并且每个部分分别与电荷转移激发的供体和受体轨道区域相吻合。因此,新模型可以准确地预测分子特性,并将具有相似特性的分子放置在经过良好训练的潜在空间中,这对于成功的分子工程至关重要。
2018-10-08 cs.LG stat.ML
Gated Graph Recursive Neural Networks for Molecular Property Prediction
Nara Institute of Science and Technology(奈良先端科学技术大学院大学)
分子性质预测是计算机辅助药物发现和材料科学的基础问题。量子化学模拟如密度泛函理论(DFT)已被广泛用于计算分子性质,但由于计算量大,难以搜索大量潜在的化合物。用于分子建模的机器学习方法是有吸引力的替代方案,然而,用于学习分子表示的表达性、准确性和可扩展的图神经网络的开发仍然具有挑战性。在这项工作中,我们提出了一个简单而强大的图神经网络的分子性质预测。我们将分子建模为一个有向完全图,其中每个原子都有一个空间位置,并引入一个具有简单门函数的递归神经网络。我们还为每个层提供输入嵌入作为跳过连接,以加速训练。实验结果表明,我们的模型达到了最先进的性能标准基准数据集的分子性质预测。
2019-11-25 cs.LG q-bio.BM stat.ML
MolecularGPT: Open Large Language Model (LLM) for Few-Shot Molecular Property Prediction
New York University Shanghai(上海纽约大学);Xiamen University(厦门大学);University of California, San Francisco(加利福尼亚大学旧金山分校);Zhejiang University(浙江大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出MolecularGPT,通过指令微调大语言模型并利用零样本/少样本上下文学习,在无需微调的情况下实现少样本分子性质预测,并在多个数据集上超越图神经网络和现有LLM基线。
2024-10-18 cs.AI cs.CE cs.CL
GPS++: Reviving the Art of Message Passing for Molecular Property Prediction
Graphcore(Graphcore公司);Mila(米拉研究所);McGill University(麦吉尔大学);Valence Discovery(Valence Discovery公司);Université de Montréal(蒙特利尔大学)
GPS++混合模型结合局部消息传递与偏置全局注意力,在PCQM4Mv2上取得最先进结果,且无需全局自注意力即可保持性能,证明消息传递在3D分子性质预测中仍具竞争力。
2023-05-12 cs.LG
Assigning Confidence to Molecular Property Prediction
University of Toronto(多伦多大学);Temple University(天普大学);Vector Institute for Artificial Intelligence(向量人工智能研究院)
简介:在过去的几十年里,计算建模得到了迅速发展,特别是在化学、材料科学和药物设计中预测分子特性。最近,机器学习技术已经成为一种强大且具有成本效益的策略,可以从现有数据集中学习并对看不见的分子进行预测。因此,数据驱动技术的爆炸式增长提出了一个重要的问题:分子性质预测的可信度如何,以及什么技术可以用于此目的?涵盖的领域:在这项工作中,我们讨论了流行的策略,预测分子特性相关的药物设计,其相应的不确定性来源和方法来量化的不确定性和信心。首先,我们对评估置信度的考虑从数据集偏差和大小、数据驱动的属性预测和特征设计开始。接下来,我们将详细讨论通过分子对接进行的性质模拟和结合亲和力的自由能模拟。最后,我们研究了这些不确定性如何传播到生成模型,因为它们通常与属性预测因子相结合。专家观点:在探索巨大的化学空间时,计算技术对于减少蛮力实验的高昂成本和时间至关重要。我们认为,评估属性预测模型中的不确定性是必不可少的,无论何时,依赖于高通量虚拟筛选的闭环药物设计活动部署。因此,考虑不确定性的来源会导致更好的实验验证,更可靠的预测和整个工作流程的更现实的期望。总体而言,这增加了对预测和设计的信心,并最终加速了药物设计。
2021-02-23 cs.LG
M-GLC: Motif-Driven Global-Local Context Graphs for Few-shot Molecular Property Prediction
Iowa State University(爱荷华州立大学)
提出基序驱动全局-局部上下文图(M-GLC),通过全局三方异构图和局部子图编码增强少样本分子性质预测,在五个基准上超越现有方法。
2025-10-24 cs.AI cs.LG
Property-Guided Molecular Generation and Optimization via Latent Flows
BCG X AI Science Institute(BCG X 人工智能科学研究所)
本文提出MoltenFlow框架,结合属性有序的潜在表示与流匹配生成先验,实现高效的多目标分子优化和无条件生成质量提升。
2026-03-27 cond-mat.mtrl-sci cs.LG
Text-guided multi-property molecular optimization with a diffusion language model
School of Computer Science, Wuhan University, Wuhan, China(武汉大学计算机学院);Engineering Research Center for Big Data Application in Private Health Medicine of Fujian Universities, Putian University, Putian, China(福建省高校大数据在私人医疗应用工程研究中心,莆田大学)
本文提出基于扩散语言模型的文本引导多性质分子优化方法,通过整合文本语义与分子表示,提升分子结构保留与属性增强的平衡能力。
2025-12-16 cs.AI cs.LG
Transformers for molecular property prediction: Lessons learned from the past five years
Saarland University(萨尔大学)
本文综述 transformer 在分子性质预测中的应用,梳理模型、预训练数据规模、架构与目标等关键选择,并指出比较评测需标准化数据划分与统计分析。
2024-04-05 cs.CL cs.LG q-bio.QM
Hierarchical Structure-Property Alignment for Data-Efficient Molecular Generation and Editing
School of Computer Science and Engineering(计算机科学与工程学院);Central South University(中南大学);Institute for Infocomm Research Agency for Science, Technology and Research (A* STAR)(信息通信研究所(A* STAR))
针对属性约束分子生成与编辑中的结构-属性关系捕捉难和属性注释不足问题,提出HSPAG分层结构-属性对齐框架,通过多层面学习、样本选择策略提升数据效率,实现细粒度关系捕捉与多属性可控生成。
2025-11-11 cs.AI cs.LG
ASGN: An Active Semi-supervised Graph Neural Network for Molecular Property Prediction
University of Science and Technology of China(中国科学技术大学);Tencent America(腾讯美国)
分子性质预测(例如,能量)是化学和生物学中的基本问题。不幸的是,许多监督学习方法通常面临化学空间中标记分子稀缺的问题,其中此类属性标记通常通过密度泛函理论(DFT)计算获得,这是极其昂贵的计算成本。一种有效的解决方案是以半监督的方式掺入未标记的分子。然而,大量分子的半监督表示学习具有挑战性,包括分子本质和结构的联合表示问题,表示和性质学习之间的冲突。在这里,我们提出了一个新的框架,称为主动半监督图神经网络(ASGN),将标记和未标记的分子。具体而言,ASGN采用教师-学生框架。在教师模型中,我们提出了一种新的半监督学习方法来学习一般表示,共同利用信息的分子结构和分子分布。然后在学生模型中,我们针对属性预测任务来处理学习损失冲突。最后,我们提出了一种新的主动学习策略,在整个框架学习过程中,根据分子差异选择信息数据。我们在几个公共数据集上进行了广泛的实验。实验结果表明,我们的ASGN框架的显着性能。
2020-07-07 cs.LG stat.ML
KPGT: Knowledge-Guided Pre-training of Graph Transformer for Molecular Property Prediction
Tsinghua University(清华大学)
设计用于分子性质预测的精确深度学习模型在药物和材料发现中发挥着越来越重要的作用。最近,由于标记分子的稀缺性,用于学习分子图的可推广和可转移表示的自监督学习方法引起了人们的广泛关注。在本文中,我们认为,存在两个主要问题,阻碍目前的自监督学习方法从获得理想的性能的分子性质预测,即,不明确的预训练任务和有限的模型容量。为此,我们引入知识引导的图Transformer(KPGT)的预训练,这是一种用于分子图表示学习的新型自监督学习框架,以缓解上述问题并提高下游分子性质预测任务的性能。更具体地说,我们首先介绍了一个高容量的模型,命名为线图Transformer(LiGhT),它强调了化学键的重要性,主要是为了模拟分子图的结构信息。然后,提出了一种知识引导的预训练策略,利用分子的额外知识来指导模型从大规模未标记分子图中捕获丰富的结构和语义信息。广泛的计算测试表明,KPGT可以提供优于当前国家的最先进的方法上的几个分子性质预测任务的性能。
2022-06-02 cs.AI cs.LG physics.chem-ph
GEOM: Energy-annotated molecular conformations for property prediction and molecular generation
Harvard University(哈佛大学);Massachusetts Institute of Technology(麻省理工学院)
机器学习(ML)在许多分子设计任务中优于传统方法。ML模型通常从2D化学图或单个3D结构预测分子性质,但这些表示都不能解释分子可访问的3D构象的集合。属性预测可以通过使用构象集合作为输入来改进,但是没有包含用准确构象和实验数据注释的图的大规模数据集。在这里,我们使用先进的采样和半经验密度泛函理论(DFT),以产生超过45万个分子的3700万个分子构象。分子几何包容(GEOM)数据集包含来自QM 9的133,000个物种的构象异构体,以及与生物物理学,生理学和物理化学相关的实验数据的317,000个物种。具有BACE-1抑制数据的1,511个物种的系综也在隐式水溶剂中用高质量DFT自由能标记,并且534个系综用DFT进一步优化。GEOM将协助开发预测构象集合属性的模型,以及对3D构象进行采样的生成模型。
2022-02-09 cs.LG physics.comp-ph
FragNet: A Graph Neural Network for Molecular Property Prediction with Four Levels of Interpretability
Pacific Northwest National Laboratory(太平洋西北国家实验室)
提出图神经网络FragNet,在匹配领先模型预测准确率的同时,提供原子、化学键、分子片段及片段间连接四个层级的可解释性,助力从分子结构中提取科学洞察。
2025-05-31 cs.AI cs.LG physics.chem-ph
Ensemble Model With Bert,Roberta and Xlnet For Molecular property prediction
University of Sussex(萨塞克斯大学)
本文提出基于BERT、RoBERTa和XLNet监督微调与集成学习的分子性质预测方法,在无需大量预训练的情况下实现高精度预测,并有效缓解实验团队计算资源受限的问题。
2024-05-30 cs.AI cs.LG physics.chem-ph
MolKD: Distilling Cross-Modal Knowledge in Chemical Reactions for Molecular Property Prediction
Institute for Interdisciplinary Information Sciences (IIIS), Tsinghua University(清华大学交叉信息研究院);Zhejiang Lab(之江实验室);The Chinese University of Hong Kong(香港中文大学)
针对分子表征难题,提出MolKD方法,通过蒸馏化学反应跨模态知识,结合反应产率预训练学习有效分子表征,显著提升分子性质预测性能,兼具鲁棒性与可解释性。
2023-05-03 cs.AI cs.LG physics.chem-ph
Multi-Modal Representation Learning for Molecular Property Prediction: Sequence, Graph, Geometry
Institute of Cyberspace Security Zhejiang University of Technology Hangzhou, China vencent\;Institute of Cyberspace Security Zhejiang University of Technology Hangzhou, China
本文提出名为SGGRL的多模态表示学习模型,通过融合序列、图和几何特征并优化模态间相似度一致性,在七个分子数据集上显著提升了分子性质预测性能。
2024-01-09 cs.LG q-bio.BM q-bio.MN
ADMET property prediction through combinations of molecular fingerprints
MapLight Therapeutics(MapLight治疗公司)
本文系统比较回归算法与分子指纹组合,提出融合 ECFP、Avalon、ErG、200 种分子性质及图神经网络指纹的 CatBoost 模型,并在 22 个 TDC ADMET 基准上验证其优越性能。
2023-09-29 cs.LG q-bio.BM
Meta-learning Adaptive Deep Kernel Gaussian Processes for Molecular Property Prediction
University of Cambridge(剑桥大学);MPI for Intelligent Systems(马克斯·普朗克智能系统研究所)
我们提出了具有隐函数定理的自适应深度核拟合(ADKF-IFT),这是一种通过在元学习和传统深度核学习之间进行插值来学习深度核高斯过程(GP)的新框架。我们的方法采用了一个双层优化目标,在这个目标中,我们元学习了跨任务的一般有用的特征表示,从这个意义上说,在这些特征之上估计的特定于任务的GP模型平均实现了最低的预测损失。我们使用隐函数定理(IFT)解决由此产生的嵌套优化问题。我们证明了我们的ADKF-IFT框架包含以前提出的深度核学习(DKL)和深度核转移(DKT)作为特殊情况。虽然ADKF-IFT是一个完全通用的方法,我们认为,它是特别适合于药物发现的问题,并证明它显着优于以前的国家的最先进的方法在各种现实世界的Few-Shot分子性质预测任务和域外的分子性质预测和优化任务。
2023-02-17 cs.LG
TwinBooster: Synergising Large Language Models with Barlow Twins and Gradient Boosting for Enhanced Molecular Property Prediction
Technical University of Munich(慕尼黑工业大学)
TwinBooster 结合微调大语言模型与 Barlow Twins 自监督孪生网络,融合生物测定文本和分子指纹,在 FS-Mol 基准上实现优异的零样本分子性质预测,助力数据稀缺场景下的药物发现。
2024-01-30 cs.AI cs.CL cs.LG
Peeling Context from Cause for Molecular Property Prediction
Emory University(埃默里大学);University of Oxford(牛津大学)
CLaP通过分层剥离上下文与因果信号,提升分子属性预测的准确性与可解释性。
2026-02-06 cs.LG
Heterogenous Ensemble of Models for Molecular Property Prediction
NVIDIA(英伟达);UCLA(加州大学洛杉矶分校)
以前的工作已经证明了考虑分子上不同模态的重要性,每种模态都为下游性质预测任务提供了不同粒度的信息。我们的方法将最近的TransformerM架构的变体与Transformer、GNN和ResNet骨干架构相结合。模型在分子图的2D数据、3D数据和图像模态上进行训练。我们将这些模型与HuberRegressor集成。在原始训练+有效数据集的4个不同的训练/验证分割上训练模型。这为PCQM 4 Mv 2分子性质预测数据集上的OGB大规模挑战赛(2022)的第2 \textsuperscript{nd}版提供了获胜解决方案。我们提出的方法实现了$0.0723$的测试挑战MAE和$0.07145$的验证MAE。我们的解决方案的总推理时间不到2小时。我们在https://github.com/jfpuget/NVIDIA-PCQM4Mv2上开源我们的代码。
2022-11-20 cs.LG q-bio.QM
Unraveling Key Elements Underlying Molecular Property Prediction: A Systematic Study
Stony Brook University(石溪大学)
该研究系统评估了多种分子表示学习方法在多个数据集上的预测性能,发现其表现有限,并揭示数据集大小、活性悬崖等关键要素对预测结果有重要影响。
2023-09-02 cs.AI cs.LG q-bio.QM
Molecular topological deep learning for polymer property prediction
National University of Singapore(新加坡国立大学);Nanyang Technological University(南洋理工大学)
针对现有图分子模型忽略高阶与多尺度信息的问题,提出融合高阶相互作用和多尺度特性的Mol-TDL方法,通过多尺度单纯复形表示与单纯神经网络实现更准确的聚合物性质预测。
2024-10-07 cond-mat.mtrl-sci cs.AI cs.LG
Flexible dual-branched message passing neural network for quantum mechanical property prediction with molecular conformation
Seoul National University(首尔大学);Kakao Corporation(Kakao公司);Seoul National University of Science and Technology(首尔科学技术院)
分子是由多个异质组分组成的复合体,这些组分的空间排列决定了整个分子的性质和特征。随着深度学习在计算化学中的出现,一些研究集中在如何基于分子构型预测分子性质。信息传递神经网络从分子的图形化角度为分子几何特征的获取提供了一个有效的框架。然而,大多数这些研究假设,所有异质分子特征,如原子电荷,键长,或其他几何特征总是等效的目标预测,无论任务类型。在本研究中,我们提出了一个基于消息传递框架的双分支神经网络用于分子性质预测。我们的模型学习不同尺度的异构分子特征,这些特征根据每个预测目标进行灵活训练。此外,我们引入了一个离散的分支来学习单个原子的功能,而无需本地聚合,除了消息传递步骤。我们验证了这种新的结构可以提高模型的性能,在大多数目标的收敛速度更快。该模型优于其他最近的模型与稀疏表示。我们的实验结果表明,在化学性质预测任务中,目标的不同化学性质应仔细考虑模型性能和泛化能力。
2021-06-14 cs.LG physics.chem-ph
Multi-Granular Rationale-Guided Molecular LLM for Property Prediction
本研究提出多粒度理由引导的分子大语言模型MR-MoL,将GNN导出的子结构属性归因作为证据,在8项MoleculeNet任务上取得通用模型最佳结果,缩小了与专用模型的差距。
2026-08-12 cs.AI cs.LG
ProGReST: Prototypical Graph Regression Soft Trees for Molecular Property Prediction
Jagiellonian University(雅盖隆大学);Ardigen SA
在这项工作中,我们提出了新的原型图回归自解释树(ProGReST)模型,它结合了原型学习,软决策树和图神经网络。与其他工作相比,我们的模型可以用于解决各种具有挑战性的任务,包括化合物性质预测。在ProGReST中,由于模型的内置可解释性,基本原理与预测一起获得。此外,我们引入了一种新的图原型投影来加速模型训练。最后,我们在广泛的化学数据集上评估了PRoGReST的分子性质预测,并与化学专家进行了深入的分析,以评估获得的解释。我们的方法实现了竞争力的结果对国家的最先进的方法。
2022-12-27 cs.AI cs.LG q-bio.QM
LiteGEM: Lite Geometry Enhanced Molecular Representation Learning for Quantum Property Prediction
Baidu Inc.(百度公司)
在这份报告中,我们(SuperHaving团队)提出了我们对KDD Cup 2021-PCQM 4 M-LSC的解决方案,这是一个预测分子HOMO-LUMO间隙的大规模量子化学数据集。我们的解决方案Lite几何增强分子表征学习(LiteGEM)在深度图神经网络和各种自监督学习任务的帮助下,在测试集上实现了0.1204的平均绝对误差(MAE)。该框架的代码可以在https://github.com/PaddlePaddle/PaddleHelix/tree/dev/competition/kddcup2021-PCQM4M-LSC/中找到。
2021-06-28 cs.LG physics.chem-ph
Multitask Learning On Graph Neural Networks Applied To Molecular Property Predictions
Firmenich SA(芬美意公司);Helmholtz Zentrum München(亥姆霍兹慕尼黑中心);BIGCHEM GmbH(BIGCHEM有限公司)
预测分子的物理化学性质,是化学中一项具有挑战性的任务。在此,我们提出了一个新的国家的最先进的多任务预测方法的基础上,现有的图神经网络模型。我们为我们的模型使用了不同的架构,结果清楚地表明多任务学习可以提高模型性能。此外,已观察到模型中的方差显著减少。最重要的是,具有少量数据点的数据集可以在不需要增强的情况下获得更好的结果。
2019-10-30 cs.LG stat.ML
Explaining Graph Neural Networks with Large Language Models: A Counterfactual Perspective for Molecular Property Prediction
University of Virginia(弗吉尼亚大学);Florida State University(佛罗里达州立大学)
本文提出LLM-GCE方法,利用大型语言模型结合反事实文本对和动态反馈模块,为分子性质预测中的图神经网络生成更符合领域知识且易于人类理解的反事实解释。
2024-10-19 cs.CL cs.LG q-bio.BM
DriftingMol: Decoder-Coupled Drift for One-Pass Property-Conditional Molecular Generation
Beijing Key Laboratory of Artificial Intelligence for Advanced Chemical Engineering Materials(北京先进化工材料人工智能重点实验室)
提出 DriftingMol 两阶段框架,通过解码器耦合漂移将漂移模型适应于 SELFIES 潜在分子空间,实现低采样成本、高有效性和多样性的属性条件分子生成。
2026-05-24 cs.LG
PEMP: Leveraging Physics Properties to Enhance Molecular Property Prediction
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);Beijing Academy of Artificial Intelligence(北京人工智能研究院);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);Institute for AI Industry Research (AIR), Tsinghua University(清华大学人工智能产业研究院(AIR))
分子性质预测对于药物发现至关重要。近年来,深度学习方法已被引入这一领域,并取得了最先进的性能。然而,大多数现有的方法忽略了分子性质之间的内在联系,可以用来提高相应的预测任务的性能。在本文中,我们提出了一种新的方法,即物理性质增强的分子性质预测(PEMP),利用以前的物理理论和物理化学研究揭示的分子性质之间的关系。具体来说,我们用相关的物理性质预测任务来加强化学和生理性质预测器的训练。我们设计了两种不同的PEMP方法,分别基于多任务学习和迁移学习。这两种方法都包括一个模型不可知的分子表示模块和一个属性预测模块。在我们的实现中,我们分别采用了监督学习范式和预训练范式下的最先进的分子嵌入模型作为PEMP的分子表示模块。在公共基准测试MoleculeNet上的实验结果表明,所提出的方法具有优于相应的最先进的模型的能力。
2022-10-18 cs.AI cs.LG q-bio.BM
3D Graph Contrastive Learning for Molecular Property Prediction
自监督学习(SSL)是一种通过利用数据中固有的监督来学习数据表示的方法。这种学习方法在药物领域备受关注,由于耗时和昂贵的实验而缺乏注释数据。使用大量未标记数据的SSL在分子性质预测方面表现出优异的性能,但存在一些问题。(1)现有的SSL模型是大规模的;在计算资源不足的情况下,实现SSL存在限制。(2)在大多数情况下,他们不利用3D结构信息进行分子表征学习。药物的活性与药物分子的结构密切相关。然而,目前大多数模型不使用3D信息或部分使用它。(3)以前将对比学习应用于分子的模型使用置换原子和键的增强。因此,具有不同特征的分子可以在相同的阳性样品中。本文提出了一种新的用于分子性质预测的对比学习框架--小规模3D图对比学习(3DGCL)。3DGCL通过预训练过程反映分子的结构来学习分子表示,该过程不会改变药物的语义。仅使用1,128个样本进行预训练数据和100万个模型参数,我们在四个回归基准数据集中实现了最先进或相当的性能。大量的实验表明,基于化学知识的3D结构信息对于性质预测的分子表示学习是必不可少的。
2022-08-18 cs.LG q-bio.BM
Adapting Differential Molecular Representation with Hierarchical Prompts for Multi-label Property Prediction
College of Informatics, Huazhong Agricultural University(华中农业大学信息学院)
针对传统分子性质预测方法忽略多标签复杂关联的问题,提出分层提示分子表示学习框架HiPM,通过分层编码与任务感知提示树实现多粒度任务关联建模,在多标签数据集上达SOTA性能。
2024-08-11 cs.AI cs.LG q-bio.QM
Pre-training via Denoising for Molecular Property Prediction
University of Oxford(牛津大学);DeepMind(深度思维)
许多涉及从三维结构预测分子性质的重要问题都具有有限的数据,这对神经网络提出了推广挑战。在本文中,我们描述了一种基于去噪的预训练技术,该技术通过利用处于平衡状态的3D分子结构的大型数据集来学习下游任务的有意义的表示,从而在分子性质预测方面实现了一种新的最先进技术。依靠去噪自动编码器和分数匹配之间的众所周知的联系,我们表明去噪目标对应于学习分子力场-从近似玻尔兹曼分布与混合高斯-直接从平衡结构。我们的实验表明,使用这个预训练目标可以显着提高多个基准测试的性能,在广泛使用的QM 9数据集中的大多数目标上实现了新的最先进水平。然后,我们的分析提供了对不同因素(数据集大小,模型大小和架构,以及上游和下游数据集的选择)对预训练的影响的实际见解。
2022-10-25 cs.LG q-bio.BM stat.ML
Molecular Property Prediction by Semantic-invariant Contrastive Learning
Fudan University(复旦大学);Tongji University(同济大学)
在人工智能辅助药物设计和发现中,对比学习已被广泛用作自监督预训练分子表征学习模型的借口任务。然而,现有的方法,通过噪声添加操作生成分子视图的对比学习可能面临的语义不一致的问题,这导致假阳性对,从而预测性能差。为了解决这个问题,在本文中,我们首先提出了一个语义不变的视图生成方法,适当地打破分子图片段对。然后,我们开发了一个基于片段的语义不变的对比学习(FraSICL)模型的基础上,这种视图生成方法的分子性质预测。FraSICL模型由两个分支组成,用于生成用于对比学习的视图表示,同时引入多视图融合和辅助相似性损失,以更好地利用不同片段对视图中包含的信息。在各种基准数据集上的大量实验表明,与现有的主要对应模型相比,FraSICL可以用最少的预训练样本实现最先进的性能。
2023-03-13 cs.LG q-bio.BM
Graph neural networks for the prediction of molecular structure-property relationships
RWTH Aachen University(亚琛工业大学);Delft University of Technology(代尔夫特理工大学);Forschungszentrum Jülich GmbH(于利希研究中心)
本文介绍图神经网络直接基于分子图进行端到端性质预测的方法,避免传统QSPR/QSAR对描述符的依赖,并通过两个实例展示其在分子性质预测中的应用。
2022-07-25 cs.LG math.OC q-bio.BM
XMOL: Explainable Multi-property Optimization of Molecules
Agency for Science, Technology and Research (A*STAR)(科技研究局(A*STAR));Indian Institute of Technology Bombay(印度理工学院孟买分校)
针对现有分子优化方法多属性优化效率低、缺乏透明度的问题,提出基于几何扩散模型、结合谱归一化与分子约束的可解释多属性优化框架XMOL,经QM9数据集验证在单/多属性优化中均有效且结果可解释。
2024-09-12 cs.LG
On Graph Neural Network Ensembles for Large-Scale Molecular Property Prediction
University of Cambridge(剑桥大学);ML Collective(ML集体);Universitat Rovira i Virgili(罗维拉-威尔吉利大学);McGill University(麦吉尔大学);Wrocław University of Science and Technology(弗罗茨瓦夫理工大学);Obafemi Awolowo University(奥巴费米·阿沃洛沃大学)
为了推进大规模图机器学习,在2021年KDD杯上提出了开放图基准大规模挑战赛(OGB-LSC)。PCQM 4 M-LSC数据集定义了约3.8M图上的分子HOMO-LUMO属性预测任务。在这篇简短的论文中,我们展示了我们目前正在进行的解决方案,该解决方案基于GIN,贝叶斯神经网络和DiffPool构建了三个图神经网络模型的集成。我们的方法比提供的基线高出7.6%。此外,使用我们的系综预测中的不确定性,我们可以识别HOMO-LUMO间隙更难预测的分子(Pearson相关系数为0.5181)。我们预期这将促进主动学习。
2021-06-29 cs.LG
FP-GNN: a versatile deep learning architecture for enhanced molecular property prediction
South China University of Technology(华南理工大学)
深度学习是分子设计的一种重要方法,具有相当大的预测分子特性的能力,包括物理化学、生物活性和ADME/T(吸收、分布、代谢、排泄和毒性)特性。在这项研究中,我们提出了一种新的深度学习架构,称为FP-GNN,它结合并同时学习来自分子图和指纹的信息。为了评估FP-GNN模型,我们对13个公共数据集,无偏LIT-PCBA数据集和14个乳腺细胞系表型筛选数据集进行了实验。广泛的评估结果表明,与先进的深度学习和传统的机器学习算法相比,FP-GNN算法在这些数据集上实现了最先进的性能。此外,我们还分析了不同分子指纹的影响,以及分子图和分子指纹对FP-GNN模型性能的影响。抗噪声能力和解释能力的分析也表明,FP-GNN在现实世界的情况下是有竞争力的。
2022-05-08 cs.LG q-bio.MN