Flexible Flows for Biological Sequence Design
Aalto University(阿尔托大学);YaiYai Ltd(YaiYai有限公司);OpenProtein.AI
提出结构化耦合、潜编辑速率参数化和潜分类器无引导机制,实现变长序列生成和细粒度控制,在多种生物序列任务中达到最优性能。
2026-06-09 cs.AI cs.ET cs.LG
Dirichlet Diffusion Score Model for Biological Sequence Generation
University of Texas Southwestern Medical Center(德克萨斯大学西南医学中心)
针对离散生物序列建模需求,提出基于概率单纯形空间Dirichlet平稳分布的扩散得分模型,可生成满足硬约束的样本,还能无额外训练解数独,并成功构建首个具备天然特性的人类启动子DNA序列设计模型。
2023-06-16 cs.LG q-bio.GN q-bio.QM
Attribution assignment for deep-generative sequence models enables interpretability analysis using positive-only data
Oslo University Hospital(奥斯陆大学医院);University of Oslo(奥斯陆大学);Johannes Kepler University Linz(约翰·开普勒林茨大学);Novo Nordisk A/S(诺和诺德公司);University Hospital Basel(巴塞尔大学医院);Imprint Labs, LLC.(Imprint Labs有限责任公司)
针对生成式模型缺乏归因方法的问题,提出基于Integrated Gradients的GAMA归因方法,支持仅用正样本数据实现模型可解释性并验证生物序列设计策略。
2025-07-11 cs.LG q-bio.QM
Linguistically inspired roadmap for building biologically reliable protein language models
University of Oslo(奥斯陆大学);Oslo University Hospital(奥斯陆大学医院);University of Science and Technology of China(中国科学技术大学)
本文提出一条语言学启发的蛋白质语言模型构建路线图,从训练数据、分词、嵌入和模型解释等环节引入语言学规则提取思想,以提升模型可解释性并揭示序列-功能关系的生物学机制。
2023-04-28 cs.LG q-bio.QM
Bootstrapped Training of Score-Conditioned Generator for Offline Design of Biological Sequences
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院(KAIST));Pohang University of Science and Technology (POSTECH)(浦项科技大学(POSTECH))
针对离线黑盒分数最大化下的生物序列优化问题,提出BootGen算法,通过基于排名的生成器训练与代理函数引导的自举数据增强,结合多样本聚合,显著提升了序列设计性能。
2024-03-22 cs.LG q-bio.QM stat.ML
Reward-Guided Discrete Diffusion via Clean-Sample Markov Chain for Molecule and Biological Sequence Design
本文提出 Clean-Sample Markov Chain 方法,通过清洁样本构建马尔可夫链,实现离散扩散模型的高效奖励引导采样,提升分子和生物序列生成效果。
2026-02-10 cs.LG q-bio.QM
seqme: a Python library for evaluating biological sequence design
Institute of AI for Health, Helmholtz Munich(亥姆霍兹慕尼黑人工智能健康研究所);Technical University of Munich(慕尼黑工业大学);University of Warsaw(华沙大学);Warsaw University of Technology(华沙理工大学)
seqme是一个模块化、可扩展的开源Python库,提供序列、嵌入和属性三类模型无关指标,用于统一评估小分子、DNA、RNA、肽和蛋白质等生物序列设计方法的保真度与属性达成情况,支持一次性和迭代式方法。
2025-11-06 cs.AI cs.LG
Hyperdimensional computing: a fast, robust and interpretable paradigm for biological data
Ghent University(根特大学);BioLizard nv
本文综述超维计算(HDC)作为生物信息学替代范式的原理与潜力,展示其以高维向量和简单算子实现高效、可解释的多模态生物数据分析。
2024-02-27 cs.LG q-bio.QM
ProtVec: A Continuous Distributed Representation of Biological Sequences
University of California, Berkeley(加州大学伯克利分校);Lawrence Berkeley National Lab(劳伦斯伯克利国家实验室)
提出了一种新的生物序列表示和特征提取方法。命名为bio-vectors(BioVec)是指生物序列,蛋白质(氨基酸序列)是蛋白质载体(ProtVec),基因序列是基因载体(GeneVec),这种表示法可以广泛用于蛋白质组学和基因组学中的深度学习应用。在本文中,我们专注于蛋白质载体,可用于广泛的生物信息学研究,如家庭分类,蛋白质可视化,结构预测,无序蛋白质鉴定,和蛋白质相互作用预测。在该方法中,我们采用人工神经网络的方法,并表示一个蛋白质序列与一个单一的密集的n维向量。为了评估该方法,我们将其应用于从Swiss-Prot获得的属于7,027个蛋白质家族的324,018个蛋白质序列的分类,其中获得了93% ± 0.06%的平均家族分类准确率,优于现有的家族分类方法。此外,我们使用ProtVec表示从结构蛋白质预测无序蛋白质。使用两个无序序列数据库:DisProt数据库以及具有富含苯丙氨酸-甘氨酸重复序列(FG-NUPS)的核孔蛋白的无序区域的数据库。使用支持向量机分类器,FG-Nup序列与蛋白质数据库(PDB)中发现的结构化蛋白质序列区分的准确率为99.8%,非结构化DisProt序列与结构化DisProt序列区分的准确率为100.0%。这些结果表明,通过仅将各种蛋白质的序列数据提供到该模型中,可以确定关于蛋白质结构的准确信息。
2016-05-26 cs.AI cs.LG q-bio.GN
ImmunoLingo: Linguistics-based formalization of the antibody language
University of Oslo(奥斯陆大学);Oslo University Hospital(奥斯陆大学医院);University of Science and Technology of China(中国科学技术大学)
本文提出ImmunoLingo,通过定义抗体语言的词汇和语法,建立基于语言学的形式化框架,以提升语言模型在抗体特异性预测等免疫受体分析中的可解释性与领域适配性。
2022-11-29 cs.LG q-bio.QM
SBSM-Pro: Support Bio-sequence Machine for Proteins
Institute of Fundamental and Frontier Sciences, University of Electronic Science and Technology of China(电子科技大学基础与前沿研究院);Yangtze Delta Region Institute (Quzhou), University of Electronic Science and Technology of China(电子科技大学长三角研究院(衢州))
本文提出SBSM-Pro模型,通过氨基酸理化性质分组、序列比对、MKL信息整合与支持向量机,在十个数据集上完成蛋白质功能和翻译后修饰分类。
2023-11-04 cs.LG q-bio.QM
Cross-Granularity Representations for Biological Sequences: Insights from ESM and BiGCARP
Manchester Institute of Biotechnology, The University of Manchester, Manchester, United Kingdom(曼彻斯特大学生物技术研究所);Department of Computer Science, The University of Manchester, Manchester, United Kingdom(曼彻斯特大学计算机科学系)
本文研究了通过BiGCARP和ESM模型整合跨粒度知识的方法,发现深层嵌入能更准确地捕捉模型知识,不同粒度的表示在中间预测任务中带来性能提升。
2026-03-21 cs.LG
Designing Biological Sequences via Meta-Reinforcement Learning and Bayesian Optimization
Mila(米拉研究所);Université de Montréal(蒙特利尔大学)
加速生物序列设计的能力可以对医学领域的进步产生重大影响。该问题可以被构造为全局优化问题,其中目标是昂贵的黑盒函数,使得我们可以查询受限于低轮数限制的大批量。贝叶斯优化是解决这个问题的一种原则性方法。然而,生物序列的天文数字般大的状态空间使得暴力迭代所有可能的序列是不可行的。在本文中,我们提出MetaRLBO,其中我们通过Meta-强化学习训练自回归生成模型,以通过贝叶斯优化提出有希望的序列进行选择。我们提出这个问题,找到一个最佳的政策,在分布的MDP引起的采样子集的数据采集在前几轮。我们的计算机模拟实验表明,这种集成的元学习提供了对奖励错误指定的鲁棒性,并实现了与现有强基线相比具有竞争力的结果。
2022-09-13 cs.AI cs.LG
PropertyDAG: Multi-objective Bayesian optimization of partially ordered, mixed-variable properties for biological sequence design
Prescient Design, Genentech(基因泰克Prescient Design);New York University(纽约大学)
贝叶斯优化提供了一个样本效率的框架,用于在生物序列的巨大设计空间中导航探索-利用权衡。尽管可以使用多目标采集函数(例如预期超容积改善(EHVI))来联合优化各种感兴趣的属性,但是该方法不考虑具有分层依赖性结构的目标。我们考虑一个常见的用例,其中根据目标中指定的$\textit{partial ordering}$,帕累托边界的某些区域优先于其他区域。例如,当设计抗体时,我们希望只有当靶抗原可以在活细胞培养物中表达时才能最大化与靶抗原的结合亲和力-模拟实验依赖性,其中亲和力只能针对可以表达并因此以可行量产生的抗体进行测量。一般来说,我们可能希望赋予属性一个偏序,使得每个属性在其父属性满足某些可行性条件的条件下进行优化。为此,我们提出了PropertyDAG,一个框架,该框架在传统的多目标BO之上操作,以将这种期望的排序强加于目标,例如表达式$\rightarrow$亲和力。我们证明了它的性能在多个模拟的主动学习迭代青霉素生产任务,玩具数值问题,和现实世界的抗体设计任务。
2022-10-08 cs.LG q-bio.QM
Bounded Coordinate-Descent for Biological Sequence Classification in High Dimensional Predictor Space
Bioinformatics Research Centre (BiRC)(生物信息学研究中心(BiRC))
我们提出了一个判别序列分类的框架,其中学习者直接在训练集中所有序列的高维预测空间中工作。这是可能的,通过采用一种新的坐标下降算法,结合边界的梯度的幅度选择判别连续性快。我们的损失函数的特点,我们的通用学习算法可以应用,并提出具体的实现逻辑回归(二项式对数似然损失)和支持向量机(平方铰链损失)。将我们的算法应用于蛋白质远程同源性检测和远程折叠识别导致与最先进的方法(例如,核支持向量机)。与最先进的分类器不同,所得到的分类模型只是加权的区别性顺序的列表,因此可以被解释并与生物学问题相关。
2010-08-03 cs.LG
Bidirectional Representations Augmented Autoregressive Biological Sequence Generation
Fudan University(复旦大学);University of British Columbia(不列颠哥伦比亚大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Zhejiang University(浙江大学)
本文提出混合框架,通过结合非自回归机制与自回归生成,提升生物序列生成的双向依赖建模能力。
2025-12-11 cs.LG
A primer on model-guided exploration of fitness landscapes for biological sequence design
Dyno Therapeutics(Dyno治疗公司);Wyss Institute For Biologically Inspired Engineering(威斯生物启发工程研究所);Harvard University(哈佛大学)
机器学习方法越来越多地用于解决生物学家面临的挑战。将从这种异花授粉中受益匪浅的一个领域是生物序列设计问题,它具有巨大的治疗应用潜力。然而,这些领域之间的沟通仍然存在显着的低效率,这导致生物学家发现机器学习的进展难以接近,并阻碍了机器学习科学家对生物工程中有影响力的问题做出贡献。序列设计可以被看作是在离散的高维空间上的搜索过程,其中每个序列都与一个功能相关联。该序列-功能图被称为“适应度景观“。因此,设计一个具有特定功能的序列就是在这个空间中“发现”这样一个(通常很罕见的)序列。今天,由于大量生物序列的合成和测试取得了令人印象深刻的进展,我们可以构建具有良好插值能力的预测模型,这使得模型训练和验证成为可能。然而,它往往仍然是一个挑战,找到有用的序列的属性,我们喜欢使用这些模型。特别是,在这本入门书中,我们强调实验设计的算法,我们称之为“探索策略”,是一个相关的,但不同的问题,从建立良好的模型的序列到功能的地图。我们回顾了当前文献的进展和见解-绝不是一个完整的治疗-同时强调了最佳模型引导探索的理想功能,并涵盖了从我们自己的经验中得出的潜在陷阱。该引物可以作为来自不同领域的研究人员的起点,这些研究人员对使用模型搜索序列空间的问题感兴趣,但可能不知道源自其领域之外的方法。
2020-10-23 cs.LG q-bio.BM q-bio.PE
BSM: Small but Powerful Biological Sequence Model for Genes and Proteins
Microsoft Research Asia(微软亚洲研究院);Chinese Academy of Agricultural Sciences(中国农业科学院)
针对现有生物序列模型难以捕获跨模态关系的问题,提出小而强大的混合模态基础模型BSM,通过在RefSeq等三类混合数据上训练,显著提升了学习效率与跨模态表示,仅110M参数即可媲美更大模型,并具备独特的混合模态上下文学习能力。
2024-10-15 cs.AI cs.LG q-bio.GN
Accelerating Bayesian Optimization for Biological Sequence Design with Denoising Autoencoders
New York University(纽约大学);BigHat Biosciences(BigHat生物科学公司)
贝叶斯优化(BayesOpt)是查询高效连续优化的黄金标准。然而,它的药物设计的采用受到了阻碍的离散,高维的决策变量的性质。我们开发了一种新的方法(LaMBO),该方法联合训练去噪自动编码器与判别式多任务高斯过程头,允许在自动编码器的潜在空间中对多目标采集函数进行基于梯度的优化。这些获取功能允许LaMBO在多个设计回合中平衡探索-利用权衡,并通过优化帕累托边界上许多不同点的序列来平衡客观权衡。我们评估LaMBO的两个小分子设计任务,并介绍了新的任务优化大分子荧光蛋白的\emph{in silico}和\emph{in vitro}属性。在我们的实验中,LaMBO优于遗传优化器,并且不需要大量的预训练语料库,这表明BayesOpt对于生物序列设计是实用和有效的。
2022-07-12 cs.LG cs.NE q-bio.QM
Lyra: An Efficient and Expressive Subquadratic Architecture for Modeling Biological Sequences
Cranberry-Lemon University(蔓越莓柠檬大学);University of the Witwatersrand(金山大学)
本研究提出基于生物上位效应框架的亚二次序列建模架构Lyra,结合状态空间模型与投影门控卷积,在100余项生物任务中达SOTA,且推理速度与参数量较现有生物基础模型有数量级提升,降低了高性能生物序列建模的使用门槛。
2025-03-20 cs.LG q-bio.GN
SeqMaestro: From nucleotide sequences to biological hypotheses through interpretable machine learning
University of Cambridge(剑桥大学);The Francis Crick Institute(弗朗西斯·克里克研究所);University of Colorado Anschutz Medical Campus(科罗拉多大学安舒茨医学校区)
SeqMaestro是一个无代码机器学习框架,通过两层接口连接核苷酸序列与可解释模型,利用多种模型组合识别稳健生物学信号,从而从序列数据提出生物学假设。
2026-09-15 cs.AI cs.LG
Evolutionary Curriculum Learning Improves Biological Sequence Modeling
该研究提出进化课程学习(ECL),将其应用于VAE模型的蛋白质变异预测与RNA序列生成任务,提升了下游任务性能,证实进化距离是生物序列建模中排序训练课程的有效归纳偏置。
2026-08-11 cs.AI cs.LG q-bio.BM
SHAP zero Explains Biological Sequence Models with Near-zero Marginal Cost for Future Queries
Georgia Institute of Technology(佐治亚理工学院);UC Berkeley(加州大学伯克利分校)
SHAP zero算法通过一次性模型草图化,利用Shapley值与稀疏傅里叶变换的联系,实现生物序列模型解释的近乎零边际成本,显著加速全局可解释性分析。
2025-05-22 cs.CE cs.LG q-bio.GN
Bio-xLSTM: Generative modeling, representation and in-context learning of biological and chemical sequences
ELLIS Unit Linz(ELLIS林茨单元);LIT AI Lab(LIT人工智能实验室);NXAI GmbH(NXAI有限公司)
本文提出Bio-xLSTM架构,将xLSTM适配于生物和化学序列,实现线性复杂度建模,实验证明其在DNA、蛋白质和化学序列的生成、表征学习及上下文学习方面表现优异。
2024-11-06 cs.AI cs.LG q-bio.BM
In-Context Learning can distort the relationship between sequence likelihoods and biological fitness
Computational Biology and Bioinformatics Program(计算生物学与生物信息学项目);Emeritus Department of Ecology and Evolutionary Biology(退休生态学与进化生物学系);Department of Evolutionary Biology(进化生物学系);Hagler Institute for Advanced Studies(哈格勒高级研究 institute);Department of Physics(物理学系);Quantitative Biology Institute(定量生物学研究所)
研究发现上下文学习会扭曲序列似然度与生物适应性的关系,表现为重复基序序列获得异常高似然分数,Transformer模型尤为脆弱,其机制是查找操作覆盖模型先验。
2025-04-23 cs.LG q-bio.BM
Improved Off-policy Reinforcement Learning in Biological Sequence Design
Mila - Quebec AI Institute(魁北克人工智能研究所);Valence Labs(Valence实验室)
针对生物序列设计中代理模型分布外易偏差的问题,提出$δ$-保守搜索的离策略强化学习方法,通过限制探索区域、自适应调整保守度提升鲁棒性,在多类生物序列设计任务中优于现有方法。
2025-06-16 cs.LG q-bio.BM
Parametric Inference for Biological Sequence Analysis
计算生物学的主要成就之一是使用图形模型形式主义统一了大量用于注释和比较生物序列的算法。已被应用于这些问题的图形模型,包括隐马尔可夫模型的注释,树模型的遗传学,和对隐马尔可夫模型的比对。一个单一的算法,和积算法,解决了许多与不同的统计模型相关的推理问题。本文介绍了用\emph{polytope propagation algorithm}从图模型计算观测值的牛顿多面体。该算法是和积算法的几何版本,用于分析图形模型的最大后验推理计算的参数行为。
2004-01-26 cs.LG math.ST q-bio.GN
Population-Based Black-Box Optimization for Biological Sequence Design
Google Research(谷歌研究院);University of Cambridge(剑桥大学)
使用黑盒优化设计新的生物序列是一个新兴的研究领域,具有潜在的革命性影响。湿实验室实验的成本和延迟需要在大批量序列的几轮实验中找到好的序列的方法-现成的黑盒优化方法无法处理的设置。我们发现,现有方法的性能在优化任务中变化很大,对现实世界的应用构成了重大障碍。为了提高鲁棒性,我们提出了基于种群的黑盒优化(P3 BO),它通过从一系列方法中采样来生成批量序列。从任何方法中采样的序列数量都与其先前提出的序列质量成正比,这使得P3 BO能够结合各个方法的优势,同时避免其固有的脆弱性。使用进化优化在线调整每个方法的超参数进一步提高了性能。通过对计算机优化任务的广泛实验,我们表明P3 BO在其种群中优于任何单一方法,提出了更高质量的序列以及更多样化的批次。因此,P3 BO和Adaptive-P3 BO是将ML部署到现实世界序列设计的关键一步。
2020-07-11 cs.LG cs.NE stat.ML
Foundation Models for AI-Enabled Biological Design
Asher Moldwin(1 阿什尔·莫尔德温);Amarda Shehu(1 阿玛尔达·谢胡)
本文综述大规模自监督基础模型在蛋白质、小分子和基因组序列设计中的应用,梳理模型方法分类、适配挑战、多模态与可控生成方案,并指出未来方向。
2025-05-16 cs.AI cs.LG q-bio.BM
Discovering Patterns in Biological Sequences by Optimal Segmentation
Microsoft Research(微软研究院);University of Wisconsin - Milwaukee(威斯康星大学密尔沃基分校)
发现序列中局部相关模式的计算方法在计算生物学中很重要。在这里,我们展示了如何确定对齐序列的最佳分区为非重叠的片段,使得在同一片段中的位置是强相关的,而在不同的片段中的位置不是。我们的方法涉及到发现一个贝叶斯网络的隐变量,与观察到的序列相互作用,从而形成一组独立的混合模型。我们引入了一个动态的程序来有效地发现最佳分割,或等效的最佳隐藏变量集。我们评估我们的方法在两个计算生物学任务。一项任务是设计针对多态性病原体的疫苗,另一项任务是分析人类DNA中的单核苷酸多态性(SNP)。我们展示了这些问题中的常见任务如何自然地对应于学习模型中的推理过程。我们学习的模型用于预测缺失SNP的出错率比最先进的SNP预测方法的出错率低达1/3。源代码可在www.uwm.edu/~joebock/segmentation上获得。
2012-06-20 cs.CE cs.LG q-bio.QM
Feature extraction in protein sequences classification : a new stability measure
特征提取是一项不可回避的任务,尤其是在生物序列预处理这一关键步骤中。该步骤包括例如将生物序列转化为基序的载体,其中每个基序是可以被视为表征序列的性质(或属性)的子序列。因此,我们得到一个对象属性表,其中对象是序列和属性是从序列中提取的图案。此输出可用于应用标准机器学习工具来执行数据采掘任务,例如分类。一些先前的工作已经描述了生物序列分类的特征提取方法,但是没有一个讨论这些方法在扰动输入数据时的鲁棒性。在这项工作中,我们引入了稳定性的概念所产生的图案,以研究图案提取方法的鲁棒性。我们表示这种鲁棒性的方法,以揭示发生在输入数据的任何变化的能力,以及它的目标感兴趣的图案的能力。我们使用这些标准来评估和实验比较四个现有的生物序列提取方法。
2012-12-05 cs.CE cs.LG q-bio.QM
Predictive Spike Timing Enables Distributed Shortest Path Computation in Spiking Neural Networks
Department of Mathematical Sciences(数学科学系);Norwegian University of Science and Technology(挪威科学与技术大学);School of Computation, Information and Technology(计算、信息与技术学院);Technical University Munich(慕尼黑技术大学)
该研究提出了一种基于生物合理机制的最短路径计算算法,利用脉冲时间巧合实现分布式计算,为生物和人工系统中的复杂问题解决提供新思路。
2026-01-17 cs.AI cs.DS cs.LG
Biological Reasoning-Informed Regression for Interpretable Regulatory DNA Activity Prediction
Gaoling School of Artificial Intelligence(甘岭人工智能学院);Renmin University of China(中国人民大学);Zhongguancun Academy(中关村学院)
提出R3LM框架,通过结构化生物学知识教LLM进行推理引导回归,在增强子预测上达到最优性能并提供可解释机制。
2026-06-06 cs.LG q-bio.GN
Biological Sequence Design with GFlowNets
Mila(米拉研究所);Université de Montréal(蒙特利尔大学);McGill University(麦吉尔大学);Jacobs University Bremen(不来梅雅各布大学);New York University(纽约大学);IBM(国际商业机器公司)
本文提出一种结合认知不确定性估计和GFlowNets的主动学习算法,用于生成多样化且高评分的生物序列候选,并利用现有标记数据集加速学习,实验证明其在生物序列设计任务中优于现有方法。
2023-05-24 cs.LG q-bio.BM
GraphSeqLM: A Unified Graph Language Framework for Omic Graph Learning
Washington University in St. Louis(圣路易斯华盛顿大学)
针对多组学数据整合中GNN表达能力受限的问题,提出GraphSeqLM框架,利用LLM生成的生物序列嵌入增强GNN,通过整合拓扑与序列信息提升预测准确性,助力精准医学。
2024-12-20 cs.AI cs.LG q-bio.QM
Multi-modal Transfer Learning between Biological Foundation Models
InstaDeep;BioNTech
针对基因组学关键问题涉及多模态但现有生物序列大模型仅支持单模态的局限,提出融合DNA、RNA、蛋白质预训练编码器的多模态模型IsoFormer,在差异转录本表达预测上优于现有方法,实现跨模态知识迁移并开源模型。
2024-06-20 cs.LG
BASiNETEntropy: an alignment-free method for classification of biological sequences through complex networks and entropy maximization
核酸和DNA结构的发现使我们对生命的理解有了长足的进步。下一代测序技术的发展导致了大规模的数据生成,计算方法对于分析和知识发现变得至关重要。特别是RNA,由于其在生物体中的功能多样性以及在许多生物过程中具有不同功能的不同类别的发现而受到广泛关注。因此,正确鉴定RNA序列对了解生物体的功能提供相关信息越来越重要。这项工作解决了这一问题,提出了一种新的方法,通过复杂的网络和熵最大化的生物序列的分类。最大熵原理被提出来识别关于RNA类的最具信息量的边缘,生成过滤的复杂网络。该方法进行了评估,从13种不同的RNA类的分类。将该方法与PLEK,CPC 2和BASiNET方法进行了比较,优于所有比较方法。BASiNEEntropy对所有RNA序列进行分类,结果具有高准确性和低标准差,显示出自信和鲁棒性。所提出的方法是在R语言的开源中实现的,可以在https://cran.r-project.org/web/packages/BASiNETEntropy上免费获得。
2022-03-24 cs.CE cs.IT cs.LG
Blind Biological Sequence Denoising with Self-Supervised Set Learning
University of Toronto(多伦多大学);Vector Institute(向量研究所);MIT(麻省理工学院);Prescient Design;Genentech(基因泰克);New York University(纽约大学);CIFAR(加拿大高等研究院)
提出自监督集合学习(SSSL)方法,通过嵌入空间中子读段的中点估计实现盲序列去噪,在模拟和真实数据上分别降低错误率17%和8%,显著优于基线。
2023-09-04 cs.LG q-bio.GN
Deep Learning in Mining Biological Data
Nottingham Trent University(诺丁汉特伦特大学);Jahangirnagar University(贾汉吉尔纳加尔大学);Edinburgh Napier University(爱丁堡龙比亚大学)
本文探讨深度学习在生物数据挖掘中的应用,涵盖其在序列、图像和信号数据中的应用、数据来源、工具比较及未来研究方向。
2020-02-28 cs.LG q-bio.QM stat.ML
Informative Initialization and Kernel Selection Improves t-SNE for Biological Sequences
Georgia State University(佐治亚州立大学)
t分布随机邻域嵌入(t-SNE)是一种通过将每个点映射到低维(LD)空间(通常是二维)来解释高维(HD)数据的方法。它试图保留数据的结构。t-SNE算法的一个重要组成部分是初始化过程,该过程从LD向量的随机初始化开始。然后更新该初始向量中的点,以使用梯度下降迭代地最小化损失函数(KL发散)。这导致可比较的点相互吸引,同时将不同的点推开。我们相信,在默认情况下,这些算法应该采用某种形式的信息初始化。t-SNE的另一个重要组成部分是使用核矩阵,即包含序列之间的成对距离的相似性矩阵。对于基于t-SNE的可视化,在文献中默认采用高斯核。然而,我们表明,内核的选择也可以发挥至关重要的作用,在t-SNE的性能。在这项工作中,我们评估了t-SNE的性能与各种替代的初始化方法和内核,使用四个不同的集合,其中三个是生物序列(核苷酸,蛋白质等)。从各种来源获得的数据集,例如用于SARS-CoV-2病毒序列的众所周知的GISAID数据库。我们对这些替代方案进行主观和客观评估。我们使用得到的t-SNE图和k元邻域一致性(k-ANA)来评估和比较所提出的方法与基线。我们表明,通过使用不同的技术,如知情的初始化和内核矩阵的选择,t-SNE执行显着更好。此外,我们还表明,t-SNE也需要更少的迭代,更智能的初始化收敛速度更快。
2022-11-16 cs.LG
Tool-Augmented On-Policy Distillation for LLM Domain Adaptation in Sequence-Based Omics Tasks
Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Yazhouwan National Laboratory(崖州湾国家实验室);Shanghai Innovation Institute(上海创新研究院);The Chinese University of Hong Kong(香港中文大学);Westlake University(西湖大学)
针对多组学序列任务,提出首个推理基准OmicsBench和工具增强的在线策略蒸馏方法TA-OPD,以增强大语言模型基于证据的生物学推理能力,提升预测性能。
2026-09-22 cs.CL cs.LG
XAI-Driven Deep Learning for Protein Sequence Functional Group Classification
Manipal Institute of Technology, Manipal, India(Manipal理工学院,印度Manipal)
针对蛋白质序列功能基团分类问题,提出基于深度学习的框架,实现四种模型并采用k-mer编码训练,CNN获91.8%最高验证准确率,结合XAI技术识别出生物学相关基序,弥合预测准确性与生物学可解释性的差距。
2025-11-16 cs.AI cs.LG q-bio.QM
Align-gram : Rethinking the Skip-gram Model for Protein Sequence Analysis
Samsung R&D Institute, Bangladesh(三星孟加拉国研发研究所);BUET(孟加拉国工程技术大学)
背景:下一代测序技术的出现使生物序列数据量呈指数级增长。蛋白质序列被称为“生命的语言”,已被分析用于多种应用和推断。动机:由于深度学习的快速发展,近年来自然语言处理领域取得了许多突破。由于这些方法在用足够量的数据训练时能够执行不同的任务,因此使用现成的模型来执行各种生物应用。在这项研究中,我们研究了流行的跳跃-gram模型的适用性蛋白质序列分析,并试图将一些生物学的见解到it. Results:我们提出了一种新的$k$ -mer嵌入计划,Align-gram,这是能够映射类似的$k$ -mer接近彼此在一个向量空间。此外,我们对其他基于序列的蛋白质表示进行了实验,并观察到来自Align-gram的嵌入更好地帮助建模和训练深度学习模型。我们使用简单的基线LSTM模型和DeepGoPlus的复杂CNN模型进行的实验显示了Align-gram在执行不同类型的深度学习应用程序以进行蛋白质序列分析方面的潜力。
2020-12-06 cs.AI cs.LG q-bio.GN
Multi-Objective-Guided Discrete Flow Matching for Controllable Biological Sequence Design
Department of Biomedical Engineering, Duke University(杜克大学生物医学工程系);Department of Computer Science, Fudan University(复旦大学计算机科学系);Center of Computational Biology, Duke-NUS Medical School(杜克-新加坡国立大学医学学校计算生物学中心);Management and Technology Program, University of Pennsylvania(宾夕法尼亚大学管理与技术项目);Department of Computer Science, Duke University(杜克大学计算机科学系);Department of Biostatistics and Bioinformatics, Duke University(杜克大学生物统计与生物信息学系)
提出 MOG-DFM 框架,通过混合秩方向分数和自适应超锥滤波引导预训练离散流匹配模型,实现多目标帕累托高效的肽与增强子 DNA 序列设计。
2025-05-14 cs.LG q-bio.BM
On learning functions over biological sequence space: relating Gaussian process priors, regularization, and gauge fixing
Simons Center for Quantitative Biology(量化生物学中心);Cold Spring Harbor Laboratory(冷泉港实验室);University of Florida(佛罗里达大学)
本文建立了生物序列函数学习中过参数化权重空间正则化与函数空间高斯过程先验的联系,阐明了规范固定的原理,并推导了序列功能统计量的高效后验计算方法。
2025-08-01 cs.LG q-bio.GN stat.ML
Kernel-Based Evaluation of Conditional Biological Sequence Models
Systems Biology, Harvard Medical School, Boston, USA(系统生物学,哈佛医学院,美国波士顿);Harvard Medical School, Broad Institute, Boston, USA(哈佛医学院,Broad研究所,美国波士顿);Department of Statistics, University of Oxford, Oxford, UK(统计学系,牛津大学,英国牛津);Courant Institute, New York University, New York, USA(Courant研究所,纽约大学,美国纽约)
提出基于核方法的ACMMD度量,用于评估和调优条件序列模型,并通过ProteinMPNN验证其有效性。
2025-10-17 cs.LG stat.ML
Curriculum Learning for Biological Sequence Prediction: The Case of De Novo Peptide Sequencing
Fudan University(复旦大学);University of British Columbia(不列颠哥伦比亚大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Zhejiang University(浙江大学)
针对现有非自回归Transformer肽测序模型依赖CTC损失易训练失败的问题,提出融入结构化蛋白质序列课程学习策略的改进模型,搭配自优化推理模块,大幅降低训练失败率,在9个基准物种的多指标上均优于现有方法。
2025-06-16 cs.LG q-bio.BM
Multi-Scale Reversible Chaos Game Representation: A Unified Framework for Sequence Classification
Columbia University(哥伦比亚大学);Department of Computer Science, Institute of Business Administration(计算机科学系,商学院)
本文提出多尺度可逆混沌游戏表示(MS-RCGR)框架,通过理性算术和分层k-mer分解生成尺度不变特征,提升生物序列分类性能,结合传统机器学习、计算机视觉和混合方法实现多范式分析。
2026-04-20 cs.LG
BioSequence2Vec: Efficient Embedding Generation For Biological Sequences
Georgia State University(佐治亚州立大学);Lahore University of Management Sciences(拉合尔管理科学大学)
本文提出BioSequence2Vec,一种通过随机投影k-mer频率向量生成低维嵌入的通用表示学习方法,克服了核方法的计算、内存和泛化性挑战,在SARS-CoV-2谱系等生物序列分类任务中优于现有方法。
2023-04-01 cs.LG q-bio.GN
Gumbel-Softmax Flow Matching with Straight-Through Guidance for Controllable Biological Sequence Generation
Duke University(杜克大学);University of Pennsylvania(宾夕法尼亚大学);Duke-NUS Medical School(杜克-新加坡国立大学医学院);Mila, Quebec AI Institute(米拉魁北克人工智能研究所);Université de Montréal(蒙特利尔大学)
针对现有单纯形流匹配方法难适配高维生物序列生成的问题,提出带时变温度的Gumbel-Softmax插值的生成框架及无需训练的STGFlow引导方法,在多个生物序列生成任务上取得SOTA性能。
2025-03-21 cs.LG q-bio.BM
BurstAttention: An Efficient Distributed Attention Framework for Extremely Long Sequences
Beijing University of Posts and Telecommunications(北京邮电大学);Tsinghua University(清华大学)
本文提出分布式注意力框架BurstAttention,通过优化全局集群和局部设备层面的内存访问与通信操作,在32张A100上训练128K长序列时减少40%通信开销并实现1.37倍加速。
2024-06-06 cs.DC cs.LG
Controllable Sequence Editing for Biological and Clinical Trajectories
CLEF通过学习时间概念实现对生物和临床轨迹的可控编辑,提升序列生成精度和反事实推理能力。
2026-03-09 cs.LG q-bio.GN q-bio.PE
When do cheap embeddings beat protein language models? A theoretically-grounded hashing sketch for biological sequence classification
Columbia University, NY, USA(哥伦比亚大学);IBA, Karachi, Pakistan(巴基斯坦卡拉奇的IBA)
Murmur2Vec通过哈希技术高效生成COVID-19刺突序列嵌入,提升大规模病毒序列分析的效率和准确性。
2026-09-11 cs.LG q-bio.GN
BioMatrix: Towards a Comprehensive Biological Foundation Model Spanning the Modality Matrix of Sequences, Structures, and Language
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);OpenDataLab, Shanghai Artificial Intelligence Laboratory(上海人工智能实验室 OpenDataLab);Zhejiang University(浙江大学);Shanghai Innovation Institute(上海创新研究院);East China Normal University(华东师范大学);Zhongguancun Academy(中关村学院);School of Artificial Intelligence, Wuhan University(武汉大学人工智能学院)
提出首个原生多模态生物基础模型BioMatrix,通过统一分词方案将分子序列、结构、蛋白质序列、结构和自然语言映射到共享离散标记空间,在单一解码器架构下实现所有模态的统一生成,在80项任务中77项达到最优或竞争力水平。
2026-06-23 cs.AI cs.CL cs.LG