发表机构
University of Tübingen; Boehringer Ingelheim; The University of Texas at Austin; Brown University（蒂宾根大学; 勃林格殷格翰; 德克萨斯大学奥斯汀分校; 布朗大学）
机构由 AI 辅助整理，请以论文原文为准。AI 中文总结
针对分子基础模型的化学无效增强等局限，提出Mol-JEPA多模态框架，利用模态掩码融入生化上下文，在基准测试中展现出优异性能。
AI 中文摘要
尽管分子基础模型近期取得了进展，但仍存在若干局限，例如化学无效的增强、模态崩溃以及生化环境的不完整表示。为应对这些挑战，我们提出Mol-JEPA，这是一个可扩展的分子世界模型学习框架。该模型不依赖次优的分子扰动，而是采用模态掩码来利用分子结构、细胞表型、结合亲和力、ADMET特性、量子化学模拟及其他药物发现数据中的信息。在多个基准测试中，Mol-JEPA学习到的表示展现出优异性能，证明了通过潜在空间预测融入生化上下文的价值。
英文摘要
Despite recent advances in molecular foundation models, several limitations remain, such as chemically invalid augmentations, modality collapse, and incomplete representation of biochemical environments. To address these challenges, we present \textbf{Mol-JEPA}, a scalable framework for learning molecular world models. Rather than relying on suboptimal molecular perturbations, our model uses modality masking to exploit information from molecular structures, cellular phenotypes, binding affinities, ADMET profiles, quantum chemistry simulations and other drug discovery data. Across various benchmarks, we show that the representations learned by Mol-JEPA deliver strong performance, demonstrating the value of incorporating biochemical context through latent space prediction.
