Steering Protein Language Models
Tencent AI Lab（腾讯人工智能实验室）
研究将Activation Steering技术应用于蛋白质语言模型，提出基于激活编辑的方法及编辑位点识别模块，无需额外训练即可引导PLMs生成和优化具有目标特性的蛋白质序列。
2025-09-12 cs.LG q-bio.BM
Steering Generative Models with Experimental Data for Protein Fitness Optimization
California Institute of Technology（加州理工学院）；Microsoft Corporation（微软公司）
本文研究低数据湿实验场景下的蛋白质适应度优化，系统比较分类器引导、后验采样等离散扩散模型引导策略，并结合自适应序列选择证明其优于蛋白质语言模型强化学习。
2025-10-20 cs.LG q-bio.BM
Interpreting and Steering Protein Language Models through Sparse Autoencoders
Area Science Park（区域科学园）
本文针对蛋白质语言模型内部机制理解难题，通过稀疏自编码器（SAE）解释ESM-2 8M参数模型的内部表示并识别蛋白质特征相关潜在成分，进而利用该见解引导序列生成，为生物序列模型可解释性与引导提供新方法。
2025-02-13 cs.LG q-bio.BM
Be Your Own Teacher: Steering Protein Language Models via Unsupervised Reward Optimization
The Chinese University of Hong Kong（香港中文大学）；MBZUAI；Hong Kong University of Science and Technology（香港科学理工大学）
提出无监督奖励优化框架，结合模型不确定性和语义一致性作为代理奖励，通过SRO和BRO算法优化PLMs，在无标签数据下实现可控蛋白质生成，性能接近有监督方法。
2026-06-18 cs.LG
Repurposing Protein Language Models for Latent Flow-Based Fitness Optimization
University of Zurich（苏黎世大学）；ETH Zurich（苏黎世联邦理工学院）
CHASE通过重新利用预训练蛋白质语言模型的进化知识，结合潜在流匹配模型，在蛋白质设计中实现高适应度变体的高效生成。
2026-02-02 cs.LG q-bio.QM
Automated Neuron Labelling Enables Generative Steering and Interpretability in Protein Language Models
Department of Electrical Engineering and Computer Science, University of California, Berkeley, Berkeley, California（电气工程与计算机科学系，加州大学伯克利分校）
本文提出首个自动化神经元标记框架，为蛋白质语言模型中的每个神经元赋予生物学描述，并开发激活引导的生成调控方法，实现目标生化与结构特性的蛋白质生成，同时揭示模型缩放规律。
2025-07-08 cs.LG q-bio.BM
On diffusion posterior sampling via sequential Monte Carlo for zero-shot scaffolding of protein motifs
Imperial College London（帝国理工学院）
本研究提出新型引导势函数，结合以Genie为先验的SMC辅助扩散后验采样器解决蛋白质基序零样本支架设计问题，在单/多基序任务及对称单体设计中取得良好效果。
2025-10-03 cs.LG q-bio.BM stat.ML
Flexible Kernels for Protein Property Prediction
University of Cambridge（剑桥大学）
提出利用进化替代矩阵和局部线性性的序列核函数，结合高斯过程实现数据高效的蛋白质性质预测，并融入结构信息进行多任务学习。
2026-06-09 cs.LG q-bio.BM stat.ML
Bayesian neural network with pretrained protein embedding enhances prediction accuracy of drug-protein interaction
Seoul National University（首尔大学）
药物-蛋白质相互作用的表征在药物发现的高通量筛选中至关重要。基于深度学习的方法引起了人们的关注，因为它们可以预测药物-蛋白质相互作用，而无需人类的试错。然而，由于数据标记需要大量资源，可用的蛋白质数据大小相对较小，因此降低了模型性能。在这里，我们提出了两种方法来构建一个深度学习框架，该框架在小的标记数据集上表现出卓越的性能。首先，我们使用迁移学习在编码蛋白质序列时使用预训练模型，该模型以无监督的方式训练一般的序列表示。其次，我们使用贝叶斯神经网络，通过估计数据的不确定性，使一个强大的模型。因此，我们的模型在预测药物-蛋白质相互作用方面的表现优于以前的基线。我们还表明，量化的不确定性从贝叶斯推断的置信度，并可用于筛选DPI数据点。
2020-12-21 cs.LG
Event Embedding of Protein Networks : Compositional Learning of Biological Function
Lawrence Berkeley National Lab（劳伦斯伯克利国家实验室）
本文研究了在蛋白质-蛋白质相互作用网络中强制严格组合结构是否能产生有意义的几何组织。通过Event2Vec模型训练64维表示，并与基于Word2Vec的DeepWalk基线进行比较，发现组合结构显著提升了路径连贯性、功能类比准确性及层次路径组织。
2026-04-01 cs.LG
Cross-Modality Protein Embedding for Compound-Protein Affinity and Contact Prediction
Texas A&M University（得克萨斯农工大学）
化合物-蛋白质对主导FDA批准的药物-靶标对，并且化合物-蛋白质亲和力和接触（CPAC）的预测可以帮助加速药物发现。在这项研究中，我们认为蛋白质的多模态数据，包括一维氨基酸序列和（序列预测）二维残基对接触地图。我们经验性地评估了两种单一模式的嵌入在其CPAC预测（即无结构可解释的化合物-蛋白质亲和力预测）的准确性和普遍性。我们合理化他们的表现在嵌入个人模态和学习概括嵌入标签关系的挑战。我们进一步提出了两个涉及交叉模态蛋白质嵌入的模型，并确定具有交叉相互作用（从而捕获模态之间的相关性）的模型在亲和力，接触和结合位点预测方面优于SOTA和我们的单一模态模型，这些预测在训练集中从未见过。
2020-11-14 cs.LG q-bio.BM
Random Embeddings and Linear Regression can Predict Protein Function
University of Toronto（多伦多大学）
在数百万个蛋白质序列上预训练的大型自监督模型最近在生成用于蛋白质功能预测的蛋白质序列的嵌入方面获得了普及。然而，由于缺乏随机基线，很难断定预训练是否学习了蛋白质功能预测的有用信息。在这里，我们证明了one-hot编码和随机嵌入，这两者都不需要任何预训练，是14种不同序列到功能任务中蛋白质功能预测的强基线。
2021-04-25 cs.LG q-bio.BM
A Multimodal Human Protein Embeddings Database: DeepDrug Protein Embeddings Bank (DPEB)
Computer Science, Louisiana State University（计算机科学，路易斯安那州立大学）；Computer Science, Furman University（计算机科学，福兰明大学）；Environmental Sciences and Center for Computation and Technology, Louisiana State University（环境科学与计算技术中心，路易斯安那州立大学）
本文提出DPEB，一个整合22,043个人类蛋白质四种嵌入类型的多模态数据库，填补AlphaFold2嵌入缺失，并验证GraphSAGE在PPI预测中达87.37% AUROC，支持多种GNN方法，助力系统生物学与药物发现。
2025-10-24 cs.LG q-bio.MN
Interpreting Protein Language Model Embeddings via Orthogonal Projection for Protein Fitness Prediction
Hasso Plattner Institute, University of Potsdam（波茨坦大学哈索·普拉特纳研究所）；Broad Institute of MIT and Harvard（麻省理工学院及哈佛大学布罗德研究所）；Humboldt University of Berlin（柏林洪堡大学）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
本研究提出通过正交投影技术去除蛋白质语言模型嵌入中的可解释生化特征效应，证明其编码与生化特性相关的模式并量化其对蛋白质适应性预测的贡献，该方法可迁移至其他问题场景。
2026-08-27 cs.LG q-bio.QM
ReactEmbed: A Plug-and-Play Module for Unifying Protein-Molecule Representations Guided by Biochemical Reaction Networks
Technion（技术ion）
提出ReactEmbed模块，利用生化反应网络对齐蛋白质和分子嵌入，实现跨域统一表示，无需重新训练。
2026-05-24 cs.LG
Enhancing Protein-Protein Interaction Prediction with Hierarchical Motif-based Multimodal Protein Embedding
National University of Singapore（新加坡国立大学）；University of California, Los Angeles（加州大学洛杉矶分校）
提出MMM-PPI模型，通过层次化基序的多模态编码（微观、中观、宏观三尺度）整合序列、结构和功能信息，提升蛋白质-蛋白质相互作用预测性能。
2026-05-30 cs.AI cs.LG q-bio.QM
ProtNN: Fast and Accurate Nearest Neighbor Protein Function Prediction based on Graph Embedding in Structural and Topological Space
University of Quebec At Montreal（蒙特利尔魁北克大学）
研究蛋白质的功能对于理解生命的分子机制非常重要。可公开获得的蛋白质结构的数量越来越大。然而，确定蛋白质结构的功能仍然是一项困难、昂贵和耗时的任务。这些困难往往是由于空间和拓扑结构在确定活细胞中蛋白质功能中的重要作用。在本文中，我们提出了ProtNN，一种新的蛋白质功能预测方法。给定一个未注释的蛋白质结构和一组注释的蛋白质，ProtNN基于蛋白质图的成对相似性找到最近的邻居注释结构。给定一个查询蛋白质，ProtNN发现最近的邻居参考蛋白质的基础上的图表示模型和两个查询和参考蛋白质图在结构和拓扑空间中的向量嵌入之间的成对相似性。ProtNN为查询蛋白质分配在k个最近邻参考蛋白质的集合中具有最高票数的函数，其中k是用户定义的参数。实验评估表明，与最先进的方法相比，ProtNN能够在极快的运行时间内准确地对多个数据集进行分类。我们进一步表明，ProtNN能够在单进程模式下扩展到整个PDB数据集，而无需并行化，与最先进的方法相比，运行时间增加了数千个数量级。
2016-01-25 cs.LG cs.SI
Neural Embeddings for Protein Graphs
University of Cambridge（剑桥大学）；Sapienza University（萨皮恩扎大学）
本文提出融合 GNN 与 LLM 的蛋白质图神经嵌入框架，通过保留结构距离生成结构与序列感知表示，在结构比较中显著提速，并将 OOD 与同分布分类 F1-Score 分别提升 26% 和 32%。
2023-06-07 cs.LG q-bio.QM
Directed Evolution of Proteins via Bayesian Optimization in Embedding Space
Department of Computer Science FEE, Czech Technical University in Prague Prague, Czech Republic（计算机科学系（FEE），捷克技术大学布拉格分校）
本文提出一种结合贝叶斯优化与蛋白质语言模型嵌入表示的机器学习辅助定向进化方法，在相同筛选次数下提升优化效果，并超越现有回归目标方法。
2025-09-05 cs.LG q-bio.BM
Context Steering: A New Paradigm for Compression-based Embeddings by Synthesizing Relevant Information Features
Grupo de Neurocomputación Biológica（生物神经计算小组）；Departamento de Ingeniería Informática（信息工程系）；Escuela Politécnica Superior（高级技术学院）；Universidad Autónoma de Madrid（马德里自治大学）
本文提出上下文引导方法，通过分析对象对聚类框架内关系上下文的影响，生成定制化嵌入以增强类别区分信息。实验表明该方法能从压缩不相似性生成鲁棒任务导向嵌入。
2026-05-11 cs.IT cs.LG math.IT
Discrete Ricci Curvature on Protein Contact Graphs for Lightweight Fold Classification
研究蛋白质折叠分类，将α碳接触图上的离散Ricci曲率作为轻量级结构描述符，与多种基线比较。结果显示其性能优于平均池化的ESM-2嵌入，与持久同调结合性能最强，为预训练蛋白质语言模型嵌入提供实用替代方案。
2026-07-21 cs.LG
Learning protein sequence embeddings using information from structure
Massachusetts Institute of Technology（麻省理工学院）
从蛋白质的氨基酸序列推断其结构特性是生物学中一个具有挑战性的重要问题。绝大多数蛋白质序列的结构是未知的，但结构对于理解功能至关重要。现有的从序列中检测蛋白质之间结构相似性的方法无法识别和利用结构模式，当序列偏离太远时，限制了我们在结构相关蛋白质之间转移知识的能力。我们通过表示学习的视角来处理这个问题。我们介绍一个框架，映射任何蛋白质序列的载体嵌入序列-每个氨基酸位置-编码的结构信息。我们在蛋白质序列上训练双向长短期记忆（LSTM）模型，该模型具有两部分反馈机制，该机制包含来自（i）蛋白质之间的全局结构相似性和（ii）单个蛋白质的成对残基接触图的信息。为了能够从结构相似性信息中学习，我们定义了一种新的相似性度量，基于它们之间的软对称对齐（SSA）的任意长度的向量嵌入序列之间。我们的方法是能够学习有用的位置特定的嵌入，尽管缺乏序列之间的位置级对应的直接观察。我们的经验表明，我们的多任务框架优于其他基于序列的方法，甚至在预测结构相似性时，我们的目标是最好的基于结构的比对方法。最后，我们证明了我们学习的嵌入可以转移到其他蛋白质序列问题，提高跨膜结构域预测的最新水平。
2019-10-16 cs.LG q-bio.BM stat.ML
Protein Language Model-Powered 3D Ligand Binding Site Prediction from Protein Sequence
Hunter College, City University of New York（纽约市立大学亨特学院）；Weill Cornell Medicine, Cornell University（康奈尔大学威尔康奈尔医学院）；Graduate Center, City University of New York（纽约市立大学研究生中心）
本文提出 LaMPSite，仅利用蛋白质序列经 ESM-2 获取残基表示与接触图，并结合配体图神经网络及几何约束预测结合位点，在无三维结构输入下达到与结构方法竞争的性能。
2023-12-05 cs.CL cs.LG q-bio.QM
MAPE-PPI: Towards Effective and Efficient Protein-Protein Interaction Prediction via Microenvironment-Aware Protein Embedding
Westlake University（西湖大学）；Zhejiang University（浙江大学）；University of Notre Dame（圣母大学）
本文提出MAPE-PPI方法，通过微环境感知的蛋白质嵌入和掩码码本建模预训练策略，实现大规模蛋白质-蛋白质相互作用的高效且有效预测。
2024-02-22 cs.LG q-bio.BM
Fixed-Length Protein Embeddings using Contextual Lenses
Harvard University（哈佛大学）；Google Research（谷歌研究院）
基本局部比对搜索工具（BLAST）是目前最流行的生物序列数据库搜索方法。BLAST通过由加权编辑距离定义的相似性来比较序列，这导致它在计算上是昂贵的。与使用编辑距离相反，向量相似性方法可以使用现代硬件或散列技术大大加速。这种方法需要生物序列的固定长度嵌入。最近人们对使用深度学习模型学习固定长度的蛋白质嵌入产生了兴趣，假设监督或半监督模型的隐藏层可以产生潜在有用的向量嵌入。我们考虑Transformer（BERT）蛋白质语言模型，这些模型在TrEMBL数据集上进行了预训练，并使用上下文镜头在其上学习固定长度的嵌入。训练嵌入以预测Pfam数据库中蛋白质所属的序列家族。我们发现，对于最近邻族分类，预训练提供了显着的性能提升，相应的学习嵌入与BLAST竞争。此外，我们表明，通过静态池化获得的原始Transformer嵌入在最近邻家庭分类上表现不佳，这表明通过上下文镜头以监督的方式学习嵌入可能是一种计算效率高的微调替代方案。
2020-10-15 cs.CL cs.LG q-bio.BM
Efficiently Predicting Mutational Effect on Homologous Proteins by Evolution Encoding
Aarhus University（奥胡斯大学）
提出进化感知消息传递神经网络 EvolMPNN，通过采样锚点蛋白质并聚合进化信息以捕捉细微突变效应，在蛋白质特性预测任务中性能提升达 6.4% 且推理速度提高 36 倍。
2024-06-25 cs.LG q-bio.BM
Leveraging Sequence Embedding and Convolutional Neural Network for Protein Function Prediction
National Tsing Hua University（台湾清华大学）
准确预测蛋白质功能和性质的能力在生物技术产业中是必不可少的，例如药物开发和人工蛋白质合成等。蛋白质功能预测的主要挑战是大的标签空间和缺乏标记的训练数据。我们的方法利用无监督序列嵌入和深度卷积神经网络的成功来克服这些挑战。相比之下，大多数现有的方法删除罕见的蛋白质功能，以减少标签空间。此外，一些现有的方法需要额外的生物信息（例如，蛋白质的三维结构），这在生物化学实验中难以确定。我们提出的方法显着优于其他方法的公开可用的基准只使用蛋白质序列作为输入。这使得识别蛋白质功能的过程得以加速。
2021-12-01 cs.AI cs.LG q-bio.BM
ProtSent: Protein Sentence Transformers
Department of Biological Chemistry（生物化学系）；Department of Computer and Information Science（计算机与信息科学系）；The Hebrew University of Jerusalem（耶路撒冷希伯来大学）；Ben-Gurion University of the Negev（内盖夫本·古里安大学）
ProtSent通过对比学习框架改进蛋白质语言模型，提升蛋白质功能和结构表征能力，在23项下游任务中表现优异，尤其在远程同源检测和结构检索中取得显著提升。
2026-10-20 cs.CL cs.LG
Fold2Seq: A Joint Sequence(1D)-Fold(3D) Embedding-based Generative Model for Protein Design
Texas A&M University（德克萨斯农工大学）；IBM Research（IBM研究院）
设计一个新的蛋白质序列所需的三维拓扑折叠是一个基本的，但在蛋白质工程的重要任务。由于复杂的序列-折叠关系以及捕获折叠内序列（因此结构和功能）的多样性的困难，存在挑战。为了克服这些挑战，我们提出了Fold 2Seq，这是一种新的基于transformer的生成框架，用于设计以特定目标折叠为条件的蛋白质序列。为了对复杂的序列-结构关系进行建模，Fold 2Seq使用Transformer联合学习序列嵌入，并从3D体素中的二级结构元素的密度学习折叠嵌入。在具有单个折叠的单一，高分辨率和完整结构输入的测试集上，我们的实验证明了Fold 2Seq在序列设计的速度，覆盖率和可靠性方面的改进或相当的性能，与现有的最先进的方法相比，包括数据驱动的深度生成模型和基于物理的RosettaDesign。与基于结构的深度模型和RosettaDesign相比，基于折叠的Fold 2Seq的独特优势在来自低质量、不完整或模糊输入结构的三个额外现实挑战中变得更加明显。源代码和数据可在https://github.com/IBM/fold2seq上获得。
2021-06-24 cs.LG q-bio.BM
STAR-GO: Improving Protein Function Prediction by Learning to Hierarchically Integrate Ontology-Informed Semantic Embeddings
Bogazici University（博阿齐奇大学）
STAR-GO通过整合本体引导的语义嵌入与结构特征，提升蛋白质功能预测的零样本泛化能力，实现最先进的性能。
2026-03-26 cs.LG q-bio.BM
Steering into New Embedding Spaces: Analyzing Cross-Lingual Alignment Induced by Model Interventions in Multilingual Language Models
Georgia Institute of Technology（佐治亚理工学院）；Apple（苹果公司）
本文研究通过模型干预而非微调来增强多语言大语言模型的跨语言对齐，发现操控特定神经元可改变嵌入空间并提升跨语言检索性能，top-1准确率最高提升2倍。
2025-07-21 cs.AI cs.CL cs.LG
Protein Language Model Embeddings Improve Generalization of Implicit Transfer Operators
University of Copenhagen（哥本哈根大学）；Chalmers University of Technology（查尔姆斯理工大学）；University of Gothenburg（哥德堡大学）；Technical University of Denmark（丹麦技术大学）
本研究提出PLaTITO方法，通过整合蛋白质语言模型嵌入改进隐式转移算子，在分子动力学中实现更高效的数据利用和跨分子系统的泛化，在非平衡蛋白质系统采样中达到最优性能。
2026-05-29 cs.LG physics.bio-ph
StabilityArc: Decoding Protein Sequence Embeddings into Generalizable Stability Landscapes
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
StabilityArc通过共享RoPE变换器将ESMC-600M嵌入映射为替换效应矩阵，在66次留一蛋白质评估中达0.7134 Spearman相关，并作为Kermut先验提升至0.8280，实现跨蛋白质稳定性预测。
2026-10-16 cs.LG q-bio.BM
Exploring the limits of pre-trained embeddings in machine-guided protein design: a case study on predicting AAV vector viability
LASIGE, Faculdade de Ciências da Universidade de Lisboa（里斯本大学科学院LASIGE研究所）
本研究评估了多种ProtBERT和ESM2嵌入变体在蛋白质序列表示中的表现，发现氨基酸级嵌入在监督任务中优于序列级嵌入，但需通过任务特定标签微调才能达到最佳性能。
2026-02-16 cs.LG q-bio.QM
OntoProtein: Protein Pretraining With Gene Ontology Embedding
Zhejiang University（浙江大学）；Alibaba-Zhejiang University Joint Research Institute of Frontier Technologies（阿里巴巴-浙江大学前沿技术联合研究院）
自监督蛋白质语言模型在蛋白质表征学习中的有效性已经得到证明。随着计算能力的不断提高，现有的蛋白质语言模型在经过数百万个不同序列预训练后，其参数规模可以从百万级提升到亿级，并取得了显著的进步。然而，这些流行的方法很少考虑将知识图（KG），它可以提供丰富的结构化知识事实，更好的蛋白质表示。我们认为，知识库中的信息生物学知识可以增强蛋白质表示与外部知识。在这项工作中，我们提出了OntoProtein，这是第一个将GO（基因本体论）中的结构用于蛋白质预训练模型的通用框架。我们构建了一个新的大规模知识图，它由GO及其相关蛋白质组成，基因注释文本或蛋白质序列描述图中的所有节点。我们提出了一种新的对比学习方法，使用知识感知负采样来联合优化预训练过程中的知识图和蛋白质嵌入。实验结果表明，OntoProtein在TAPE基准测试中可以超越现有的预训练蛋白质语言模型的方法，并在蛋白质相互作用和蛋白质功能预测方面获得比基线更好的性能。代码和数据集可在https://github.com/zjunlp/OntoProtein上获得。
2022-06-03 cs.AI cs.CL cs.IR
ZeroFold: Protein-RNA Binding Affinity Predictions from Pre-Structural Embeddings
Centre for Misfolding Diseases, Yusuf Hamied Department of Chemistry, University of Cambridge（错误折叠疾病中心，尤斯夫·哈米埃德化学系，剑桥大学）；Medicinal Chemistry, Research and Early Development, Respiratory and Immunology, BioPharmaceuticals R&D, AstraZeneca（药物化学，研发与早期开发，呼吸与免疫学，生物制药研发，阿斯利康）
本文提出ZeroFold模型，利用预结构嵌入预测蛋白质- RNA结合亲和力，通过跨模态注意力机制结合蛋白质和RNA的预结构嵌入，构建了PRADB数据集并验证了模型性能。
2026-03-24 cs.LG q-bio.BM
Learned Indexing in Proteins: Extended Work on Substituting Complex Distance Calculations with Embedding and Clustering Techniques
Faculty of Informatics, Masaryk University（马萨里克大学信息学院）
尽管相似性搜索研究不断发展，但它仍然面临着来自数据复杂性的相同挑战，例如维数灾难和计算昂贵的距离函数。各种机器学习技术已经证明能够用简单线性函数的组合来替换复杂的数学模型，通常以查询的准确性和正确性的形式保证为代价来获得速度和简单性。作者通过为3D蛋白质结构搜索的复杂问题提出一个轻量级的解决方案来探索这一研究趋势的潜力。该解决方案由三个步骤组成-（i）将3D蛋白质结构信息转换为非常紧凑的向量，（ii）使用概率模型将这些向量分组并通过返回给定数量的相似对象来响应查询，以及（iii）应用基本向量距离函数来细化结果的最终过滤步骤。
2022-10-05 cs.IR cs.LG
Accurate Protein Structure Prediction by Embeddings and Deep Learning Representations
Columbia University（哥伦比亚大学）；Cornell University（康奈尔大学）
蛋白质是生命的主要组成部分，也是生物体中几乎所有化学和生物物理事件的致动器。它们的天然结构反过来又使它们的生物功能在药物设计中起着重要作用。这激发了从蛋白质的氨基酸序列预测其结构，这是计算生物学中的一个基本问题。在这项工作中，我们展示了最先进的蛋白质结构预测（PSP）结果，使用嵌入和深度学习模型预测骨架原子距离矩阵和扭转角。我们恢复了骨架原子的三维坐标，并通过优化重构了全原子蛋白质。我们创建了一个新的蛋白质的黄金标准数据集，它是全面的，易于使用。我们的数据集包括氨基酸序列、Q8二级结构、位置特异性评分矩阵、多个序列比对共进化特征、骨架原子距离矩阵、扭转角和3D坐标。我们通过RMSD对最新的蛋白质结构预测技术关键评估（CASP）测试数据进行了结构预测质量评估，并与CASP13中的获胜团队和AlphaFold一起展示了竞争结果，并取代了CASP12中获胜团队的结果。我们公开我们的数据、模型和代码。
2019-11-09 cs.LG q-bio.BM stat.ML
Protein Language Model Zero-Shot Fitness Predictions are Improved by Inference-only Dropout
University of Cambridge（剑桥大学）
本研究通过在蛋白质语言模型推理时注入dropout层并平均输出，无需重训练即可提升零样本适应性预测性能，在ProteinGym子集上验证有效。
2025-05-31 cs.LG
On fine-tuning Boltz-2 for protein-protein affinity prediction
Synteny London, UK（伦敦Synteny研究所）
本文研究了在蛋白质-蛋白质亲和力预测中微调Boltz-2的表现，发现其在小规模和大规模数据集上均不如基于序列的方法，但结合结构和序列嵌入可提升性能。
2025-12-06 cs.LG q-bio.BM
Site2Vec: a reference frame invariant algorithm for vector embedding of protein-ligand binding sites
IIT Tirupati（印度蒂鲁帕蒂理工学院）
蛋白质与配体相互作用是生命系统中分子相互作用的基本类型之一。配体是在蛋白质分子表面称为结合位点的特定区域与蛋白质分子相互作用的小分子。诸如蛋白质功能相似性的评估和药物副作用的检测等任务需要鉴定跨不同途径的不同蛋白质的相似结合位点。用于相似性评估的机器学习方法需要结合位点的特征描述符。基于手工设计的图案和原子配置的传统方法不能在数千个站点上扩展。在这方面，现在部署了可以捕获非常复杂的输入特征空间的深度神经网络算法。然而，将深度学习应用于结合位点结构的一个基本挑战是输入表示和参考框架。我们在这里报告一个新的算法Site 2 Vec，推导出参考框架不变的载体嵌入的蛋白质配体结合位点。该方法是基于代表点和化学组成的组成氨基酸的网站之间的成对距离。向量嵌入充当用于邻近查询和确定相似站点的局部敏感散列函数。该方法在10个数据集和23个其他站点比较方法的广泛基准研究中质量分数超过95%，表现最佳。该算法用于高通量处理，并已被评估为相对于参考帧移位，坐标扰动和残基突变的稳定性。我们提供Site 2 Vec作为一个独立的可执行文件和托管在\url{http://services.iittp.ac.in/bioinfo/home}的Web服务。
2020-07-27 cs.CG cs.LG q-bio.BM
PLM-eXplain: Divide and Conquer the Protein Embedding Space
Utrecht University（乌得勒支大学）
本文提出可解释适配器层PLM-X，将蛋白质语言模型嵌入分解为可解释生化特征子空间和残差子空间，在保持预测性能的同时提升模型决策的生物学可解释性。
2025-04-09 cs.AI cs.LG q-bio.BM
Sparse Autoencoders for Low-$N$ Protein Function Prediction and Design
Georgia Institute of Technology（佐治亚理工学院）
本研究系统评估了稀疏自编码器在低样本蛋白质功能预测与设计中的有效性，发现其仅用24条序列即可优于ESM2基线，并通过引导潜在变量在83%案例中生成最高适应性变体。
2025-08-25 cs.LG q-bio.QM
Deep Contextual Learners for Protein Networks
Harvard University（哈佛大学）；Broad Institute of MIT and Harvard（麻省理工学院和哈佛大学博德研究所）；Harvard Data Science（哈佛数据科学研究院）
空间背景是理解健康和疾病的核心。然而，参考蛋白质相互作用网络缺乏这种情境化，从而限制了蛋白质相互作用可能在人体中发生的位置以及它们在疾病中如何改变的研究。情境化的蛋白质相互作用可以更好地表征具有疾病特异性相互作用的基因，并阐明疾病在特定细胞类型中的表现。在这里，我们介绍AWARE，一种将细胞和组织背景注入蛋白质嵌入的图形神经消息传递方法。AWARE优化了多尺度嵌入空间，其结构反映了单细胞分辨率的网络拓扑结构。我们构建了一个多尺度的人类细胞图谱网络，并应用AWARE来学习支持细胞类型和组织层次的蛋白质、细胞类型和组织嵌入。我们证明了AWARE在预测蛋白质是否在疾病中发生改变以及这种关联最有可能在人体中表现出来的新任务上的实用性。为此，AWARE比没有上下文信息的通用嵌入至少高出12.5%，这表明AWARE有潜力揭示蛋白质在疾病中的上下文依赖作用。
2021-07-16 cs.LG q-bio.MN q-bio.QM
Lightweight MSA Design Advances Protein Folding From Evolutionary Embeddings
CUHK（香港中文大学）；MIT（麻省理工学院）；UCSD（加州大学圣迭戈分校）；UvA（乌得勒支大学）；UPenn（宾夕法尼亚大学）；UIUC（伊利诺伊大学香槟分校）
PLAME利用预训练语言模型的进化嵌入生成MSA，结合选择策略和质量度量，在AlphaFold2/3上提升低同源蛋白折叠精度，并作为轻量适配器使ESMFold接近AlphaFold2性能。
2025-09-25 cs.AI cs.LG q-bio.QM
Modeling Dabrafenib Response Using Multi-Omics Modality Fusion and Protein Network Embeddings Based on Graph Convolutional Networks
Universitas Negeri Gorontalo（哥伦打洛国立大学）
本研究通过多组学融合与图卷积网络提升达拉菲尼反应预测，揭示互补分子决定因素。
2025-12-13 cs.LG q-bio.BM
Generative Modeling of Full-Atom Protein Conformations using Latent Diffusion on Graph Embeddings
Signal Processing Laboratory (LTS2), EPFL, Lausanne, Switzerland（信号处理实验室（LTS2），瑞士洛桑联邦理工学院）；Institute of Bioengineering, EPFL, Lausanne, Switzerland（生物工程研究所，瑞士洛桑联邦理工学院）；Bioinformatics Group, University & Research Wageningen, The Netherlands（生物信息学组，荷兰瓦赫宁根大学及研究学院）；Ludwig Institute for Cancer Research, Lausanne, Switzerland（癌症研究路易斯研究所，瑞士洛桑）
本文提出LD-FPG框架，利用ChebNet图神经网络与潜扩散模型从MD轨迹生成全原子蛋白质构象系综，在D2R数据集上以高保真度重现结构并恢复二面角分布。
2025-08-18 cs.LG q-bio.BM
When do cheap embeddings beat protein language models? A theoretically-grounded hashing sketch for biological sequence classification
Columbia University, NY, USA（哥伦比亚大学）；IBA, Karachi, Pakistan（巴基斯坦卡拉奇的IBA）
Murmur2Vec通过哈希技术高效生成COVID-19刺突序列嵌入，提升大规模病毒序列分析的效率和准确性。
2026-09-11 cs.LG q-bio.GN
PROTOCOL: Late Interaction Retrieval for Protein Homolog Search
MIT（麻省理工学院）；Princeton University（普林斯顿大学）
提出ProtoCol模型，利用ColBERT风格的延迟交互机制对残基嵌入进行最大相似度评分，以提升远程同源搜索的灵敏度，在SCOPe超家族和Pfam clan基准上优于多种基线方法。
2026-05-27 cs.IR cs.LG q-bio.BM
Inference-Time Toxicity Mitigation in Protein Language Models
Laboratory of Applied Artificial Intelligence (LIAA), Institute of Computer Sciences (ICC), CONICET - Universidad de Buenos（应用人工智能实验室（LIAA）、计算机科学研究所（ICC）、CONICET - 布宜诺斯艾利斯大学）；AI Safety Argentina (AISAR)（阿根廷人工智能安全（AISAR））；Goodfire；APOLO Biotech（APOLO生物技术）
本文提出LDA方法，通过放大logit差异在推理阶段缓解蛋白质语言模型的毒性生成问题，同时保持生成质量。
2026-03-04 cs.AI cs.LG
Kernel-Based Steering of CLIP with Vision-Language Model Preferences
提出ASK方法，利用VLM偏好通过核匹配和低秩适配器引导CLIP，无需教师嵌入，提升检索mAP至75.0并保持零样本能力。
2026-09-29 cs.CV cs.LG
Geometric-informed GFlowNets for Structure-Based Drug Design
Simon Fraser University（西蒙菲莎大学）
本文改进 GFlowNet 的蛋白质条件机制，融合蛋白质与配体的三角一致几何嵌入，并在 CrossDocked2020 上提升单目标与多目标 SBDD 的结合亲和力。
2024-06-16 cs.LG q-bio.BM
Graph Embedding on Biomedical Networks: Methods, Applications, and Evaluations
The Ohio State University（俄亥俄州立大学）；The Research Institute at Nationwide Children’s Hospital（全国儿童医院研究所）；Huazhong Agricultural University（华中农业大学）
图嵌入学习旨在自动学习低维节点表示，近年来引起了越来越多的关注。到目前为止，大多数最新的图嵌入方法是在社会和信息网络上进行评估，并没有在生物医学网络上进行系统的实验和分析。另一方面，对于各种生物医学网络分析任务，传统技术如矩阵分解（其可以被看作是一种类型的图嵌入方法）已经显示出有希望的结果，因此需要系统地评估最近的图嵌入方法（例如，基于随机游走和基于神经网络）的可用性和进一步提高我们选择了11种有代表性的图嵌入方法，并对3个重要的生物医学链接预测任务进行了系统的比较：药物-疾病关联（DDA）预测，药物-药物相互作用（DDI）预测，蛋白质-蛋白质相互作用（PPI）预测;以及2个节点分类任务：医学术语语义类型分类、蛋白质功能预测。我们的实验结果表明，最近的图嵌入方法取得了可喜的成果，值得更多的关注，在未来的生物医学图分析。与用于DDA、DDI和蛋白质功能预测的三种最先进的方法相比，最近的图嵌入方法在不使用任何生物特征的情况下实现了具有竞争力的性能，并且学习的嵌入可以被视为生物特征的互补表示。通过总结实验结果，我们提供了一般性的指导方针，适当选择图嵌入方法和设置其超参数为不同的生物医学任务。
2020-02-20 cs.LG cs.SI
Diffusion Language Models Are Versatile Protein Learners
ByteDance Research（字节跳动研究院）；Nanjing University（南京大学）
本文提出扩散蛋白质语言模型DPLM，通过生成式自监督离散扩散框架预训练，在蛋白质序列的无条件生成、预测任务及多种条件生成任务中均展现出卓越性能。
2024-10-16 cs.LG q-bio.BM
