ReadsClean: a new approach to error correction of sequencing reads based on alignments clustering
动机:下一代DNA测序方法产生相对高的读取错误率,其干扰新测序的生物体的从头基因组组装,并且特别影响对于许多遗传性疾病的诊断重要的SNP检测的质量。存在许多为纠正NGS读取中的错误而开发的程序。这些程序利用各种方法并针对不同的特定任务进行优化,但它们都远远不能纠正所有错误,特别是在通过重复序列和来自二/多倍体真核基因组的DNA交叉的测序读数中。结果:本文描述了一种基于相似读段比对聚类的纠错新方法。该方法在ReadsClean程序中实施,该程序设计用于清洁Illumina HiSeq测序读数。我们将ReadsClean与其他被几个出版物公认为最好的读取清洁程序进行了比较。我们使用实际和模拟测序读数进行的序列组装测试显示ReadsClean获得了优异的结果。可用性和实现:ReadsClean作为独立的C代码实现。它被纳入一个纠错管道,并免费提供给学术用户在Softberry网络服务器www.softberry.com。
2019-07-30 q-bio.GN
HLA predictions from long sequence read alignments, streamed directly into HLAminer
测序技术的快速变化为基因组学研究带来了新的机遇。更长的序列读段和更高的序列通量,加上不断提高的碱基准确性和降低的每碱基成本,现在使得长读段适合于分析人类基因组的多态性区域,例如人类白细胞抗原(HLA)基因复合物的多态性区域。在这里,我提出了一个简单的协议,预测HLA签名从全基因组鸟枪(WGS)长测序读取,直接流序列比对到HLAminer。该方法与运行minimap2一样简单,它随要比对的序列数量而缩放,并且可以与任何能够sam格式输出的读取比对器一起使用,而无需将庞大的比对文件存储到磁盘。我展示了即使使用较旧和较不准确的WGS纳米孔数据集和相对较低(10倍)的序列覆盖率,预测也是稳健的,并提出了一个逐步的方案,以从现代第三代技术的长测序读数中预测HLA I类和II类基因。
2022-09-19 q-bio.GN
MUSIC: A Hybrid Computing Environment for Burrows-Wheeler Alignment for Massive Amount of Short Read Sequence Data
高通量DNA测序仪在分子水平上对疾病的理解、农业标记辅助选择和微生物遗传学研究中变得不可或缺。这些测序仪器产生大量的数据(通常是一个月内的TB级原始数据),需要有效的分析,管理和解释。目前常用的测序仪器每次运行可产生数十亿个短读段(最多150个碱基)。数据分析步骤的第一步是将这些短读段与所选参考基因组进行比对。有不同的开源算法可用于与参考基因组的序列比对。这些工具通常具有高计算开销,无论是在处理器和内存的数量方面。在这里,我们提出了一个混合计算环境,称为MUSIC(映射使用混合计算)的一个最流行的开源序列比对算法,BWA,使用加速器,显示出显着的改善速度超过串行代码。
2014-02-04 q-bio.GN
Aligning sequence reads, clone sequences and assembly contigs with BWA-MEM
摘要:BWA-MEM是一种新的比对算法,用于将序列读数或长查询序列与大型参考基因组(如人类)进行比对。它自动选择局部和端到端比对,支持双端读取并执行嵌合比对。该算法对测序错误具有鲁棒性,并且适用于从70 bp到几兆碱基的宽范围的序列长度。对于定位100 bp序列,BWA-MEM显示出比迄今为止的几种最先进的读取比对器更好的性能。可用性和实施:BWA-MEM作为BWA的一个组成部分实施,可在http://github.com/lh3/bwa上查阅。联系方式:hengli@broadinstitute.org
2013-05-26 q-bio.GN
RASSA: Resistive Pre-Alignment Accelerator for Approximate DNA Long Read Mapping
DNA读段作图是计算上昂贵的生物信息学任务,是基因组组装和共有序列抛光所需的。它需要在长参考序列上找到每个DNA读数的最佳拟合位置。一种新的电阻近似相似性搜索加速器,RASSA,利用电荷分布和并行内存处理,以反映DNA序列之间的错配计数。RASSA实现的DNA长读段预比对性能比最先进的解决方案minimap 2高出16- 77倍,精度相当,吞吐量比GateKeeper高出两个数量级,GateKeeper是一种在FPGA中实现的短读段预比对硬件架构。
2019-01-28 cs.ET q-bio.GN
COCACOLA: binning metagenomic contigs using sequence COmposition, read CoverAge, CO-alignment, and paired-end read LinkAge
下一代测序(NGS)技术的出现使研究人员能够直接从环境中对复杂的微生物群落进行测序。由于组装通常只产生基因组片段,也称为重叠群,而不是整个基因组,因此将它们分组为操作分类单元(OTU)以进行进一步的分类学分析和下游功能分析至关重要。OTU聚类也被称为分箱。我们提出了COCACOLA,一个通用的框架,基于多个样品的序列组成和覆盖率自动将重叠群分到OTU中。COCACOLA的有效性在模拟和真实数据集中都得到了证明,与CONCOCT,GroopM,MaxBin和MetaBAT等最先进的分箱方法相比。COCACOLA的卓越性能依赖于两个方面。一种是在初始化过程中采用$L_{1}$距离代替欧氏距离来更好地进行分类识别。更重要的是,COCACOLA利用稀疏正则化的硬聚类和软聚类。此外,COCACOLA框架无缝地包含定制的知识,以提高装箱的准确性。在我们的研究中,我们研究了两种类型的额外知识,与参考基因组的共比对和由双端读段提供的重叠群的连锁,以及两者的集合。我们发现,在大多数情况下,共同对齐和链接信息进一步提高装箱。COCACOLA是可扩展的,比CONCOCT,GroopM,MaxBin和MetaBAT更快。该软件可在https://github.com/younglululu/COCACOLA上获得
2016-04-09 q-bio.GN
GRIM-filter: fast seed filtering in read mapping using emerging memory technologies
动机:种子过滤在DNA读取映射中至关重要,DNA读取映射是将从供体采样的数十亿个DNA片段(读取)映射到参考基因组上以识别供体的基因组变体的过程。读取映射器1)快速生成可能的映射位置(即,种子),2)在每个映射位置提取参考序列,然后3)用计算量大的动态编程算法(比对)检查每个读段与其相关参考序列之间的相似性,以确定读段的来源。位置过滤器在对齐之前开始起作用,丢弃对齐将被视为不良匹配的种子位置。理想位置过滤器将在对准之前丢弃所有不良匹配位置,使得在不良对准上不存在浪费的计算。结果如下:我们提出了一种新的过滤算法,GRIM-Filter,优化利用新兴的3D堆叠存储器系统,集成计算在一个堆叠的逻辑层,使内存中的处理(PIM)。GRIM-Filter通过以下方式快速过滤位置:1)引入参考基因组粗粒度片段的新表示; 2)使用并行内存操作来识别每个粗粒度片段内的读取存在。我们的评估表明,对于5%的错误接受率,GRIM-Filter消除了5.59x-6.41x的假阴性,并且与采用以前最好的过滤算法的映射器相比,端到端的速度提高了1.81x-3.65x。
2017-08-14 q-bio.GN
CoverM: Read alignment statistics for metagenomics
CoverM是一个统一的软件包,通过流式处理读取比对结果并利用Mosdepth arrays,高效灵活地计算重叠群和基因组的多种覆盖度统计量。
2025-01-20 q-bio.GN
HQAlign: Aligning nanopore reads for SV detection using current-level modeling
动机:从样品DNA读数与参考基因组的比对中检测结构变体(SV)是理解人类疾病的重要问题。可以跨越重复区域的长读段以及这些长读段的准确比对在鉴定新SV中起重要作用。长读段测序仪如纳米孔测序可以通过提供非常长的读段但具有高错误率来解决这个问题,使得精确比对具有挑战性。由纳米孔测序引起的许多误差由于测序过程的物理性质而具有偏差,并且这些误差特性的适当利用可以在设计用于SV检测问题的稳健比对器中发挥重要作用。在本文中,我们设计和评估HQAlign,一种使用纳米孔测序读数进行SV检测的比对器。HQAlign的关键思想包括(i)使用基本的纳米孔读取以及纳米孔物理学来改善SV的比对(ii)将SV特异性变化并入比对流水线(iii)将这些调整到现有的最先进的长读取比对流水线minimap 2(v2.24)中,以进行有效的比对。结果如下:我们表明,HQAlign在不同的数据集上捕获了约4%-6%的互补SV,这些数据集被minimap 2比对所遗漏,同时对于真实的纳米孔读取数据,HQAlign具有与minimap 2相当的独立性能。对于HQAlign和minimap 2之间的常见SV调用,HQAlign提高了不同数据集上约10%-50%的SV的开始和结束断点准确度。此外,HQAlign将纳米孔读数比对的minimap 2比对率从85.64%提高到最近的端粒到端粒CHM 13组装的89.35%,并且将纳米…
2023-01-10 cs.OH q-bio.GN
An Integrated Genomics Workflow Tool: Simulating Reads, Evaluating Read Alignments, and Optimizing Variant Calling Algorithms
该研究评估多种基因组学工具,提出开源管道VarFind,自动化读段模拟、比对和变异调用流程,以优化变异检测准确性。
2025-04-24 q-bio.GN
Fast genomic read alignment with minibwa
Dana-Farber Cancer Institute(达纳-法伯癌症研究所);Harvard Medical School(哈佛医学院);Broad Institute of MIT and Harvard(麻省理工学院和哈佛大学博德研究所)
提出minibwa,结合BWA-MEM可变长度种子与minimap2链式比对和碱基比对,通过预取、跳过不必要的mate rescue和减少高重复区域计算,实现比BWA-MEM快约4倍、比BWA-MEM2快2倍以上,且精度相当。
2026-06-16 q-bio.GN
Pyro-Align: Sample-Align based Multiple Alignment system for Pyrosequencing Reads of Large Number
Pyro-Align是一种多重比对程序,专为大量焦磷酸测序读数而设计。多序列比对被证明是NP-难的,并且算法被设计用于近似解。焦磷酸测序读数的多序列比对是复杂的,主要是因为2个因素。一个是大量的读取,使用传统的分类,对于大量的读取来说,其规模非常小,不适合。第二个原因是,比对不能任意进行,因为相对于原始基因组的读数的位置是重要的,必须加以考虑。在这份报告中,我们提出了焦磷酸测序读数的多重比对系统的简短描述。
2009-01-19 cs.DC cs.DS q-bio.GN
Sashimi plots: Quantitative visualization of RNA sequencing read alignments
我们引入了Sashimi图,这是一种与基因注释对齐的mRNA测序读数的定量多样本可视化。生鱼片图是使用比对(以SAM/BAM格式存储)和基因模型注释(以GFF格式存储)制作的,其可以由用户定制或从数据库如Ensembl或UCSC获得。我们描述了两种实现的刺身图:(1)一个独立的命令行实现,旨在使可定制的出版物质量的数字,和(2)一个实现内置到集成基因组查看器(IGV)浏览器,它可以快速和动态创建刺身图的任何感兴趣的基因组区域,适合探索性分析的转录组的可变剪接区域。由MISO程序输出的异构体表达估计值可以任选地与生鱼片图一起绘制。生鱼片图可用于快速筛选感兴趣的基因组区域的差异剪接外显子,并可用于出版质量图。Sashimi绘图软件和文档可从http://genes.mit.edu/burgelab/miso/docs/sashimi.html获得
2013-06-14 q-bio.GN
Alignment-free comparison of next-generation sequencing data using compression-based distance measures
来自下一代测序(NGS)技术的大量短读段数据对基因组序列比较领域提出了新的挑战。由于短读段组装的挑战性问题,多序列比对方法几乎不适用于NGS数据。因此,需要开发无干扰的方法来比较短读段的NGS样品。最近,已经提出了新的基于$k$聚体的距离测量,例如{ \it CV树}、$d_{2}^{S}$、{ \it共系}来解决该问题。然而,这些距离在很大程度上取决于参数$k$,并且如何选择最佳的$k$并不简单,因为它可能取决于序列数据的不同方面。因此,在本文中,我们考虑一种替代的无参数方法:基于压缩的距离测量。这些措施在以前的研究中对长基因组序列表现出令人印象深刻的性能,但它们尚未在NGS短读段上进行测试。在这项研究中,我们进行了广泛的验证,并表明,基于压缩的距离是高度一致的那些距离从$k$ -mer为基础的方法,从基于压缩的方法,并从现有的基准文献。此外,由于这些措施是无参数的,不需要优化,他们仍然表现出一贯良好的多种类型的序列数据,不同种类的物种和分类水平。基于压缩的距离测量是无装配、无装配、无参数的,因此代表了用于比较长基因组序列和短读段的NGS样品的有用工具。
2014-02-04 q-bio.GN
An In-Memory Architecture for High-Performance Long-Read Pre-Alignment Filtering
本文提出了一种适用于长读段的预比对过滤算法LongGeneGuardian及其存内计算架构FilterFuse,消除了数据移动开销,显著提升了过滤和端到端比对的执行速度。
2023-10-24 cs.AR cs.ET q-bio.GN
biobambam: tools for read pair collation based algorithms on BAM files
当存储在BAM文件中时,序列比对数据通常按坐标(参考序列的id加上片段被映射的序列上的位置)排序,因为这简化了映射数据和参考之间的变体或映射数据内的变体的提取。按照这种顺序,配对读段通常在文件中分开,这使得一些其他应用复杂化,例如重复标记或转换为FastQ格式,这些应用需要访问配对的全部信息。在本文中,我们介绍biobambam,一个API的高效BAM文件读取支持有效整理的路线读名称,而不执行一个完整的重新排序的输入文件和一些工具,基于这个API执行的任务,如标记重复读取和转换为FastQ格式。与以前的方法相比,涉及通过读段名称整理比对的问题,如BAM到FastQ或Picard套件中的重复标记实用程序,biobambam的方法通常可以在所需的主内存和运行时间方面更有效地执行等效任务。
2013-06-04 q-bio.GN
Ococo: an online variant and consensus caller
动机:识别基因组变异是连接基因型和表型的重要步骤。通常的方法包括从测序读数的比对中统计推断变体。最先进的变异识别器可以高精度地解析各种不同的变异类型。然而,它们要求从变异检测开始就可以获得所有读段比对,并按坐标排序。排序在计算上是昂贵的,无论是内存还是速度方面,并且所产生的流水线遭受从外部存储器存储和检索大型对齐文件。因此,人们对开发资源高效的变异检测方法很感兴趣。结果:我们提出了Ococo,这是第一个能够实时推断变体的程序,因为读取比对被输入。Ococo从数据流中输入未排序的比对,并使用存储在紧凑的几位计数器中的统计数据推断单核苷酸变体以及基因组共识。Ococo为通常的变异检测提供了一种快速且节省内存的替代方法。当读段被逐步测序或映射时,或者当可用的计算资源非常珍贵时,这是特别有利的。
2018-11-05 q-bio.GN
RNF: a general framework to evaluate NGS read mappers
将读数与参考序列比对是许多生物信息学管道中的基本步骤。因此,映射工具的灵敏度和精确度,与某些参数一起应用于某些数据,可以严重影响所产生的结果的准确性(例如,在变异检测应用中)。因此,对比较映射器和测量其参数效果的方法的需求越来越大。读取模拟器与比对评估工具相结合,为评估和比较映射器提供了最直接的方法。读段的模拟伴随着关于它们在源基因组中的位置的信息。该信息然后用于评估由映射器产生的比对。最后,创建包含成功读段比对的统计数据的报告。在编码读段来源的标准的默认情况下,每个评估工具必须与用于生成读段的模拟器显式兼容。为了解决这一障碍,我们创建了一种通用格式RNF(读码格式),用于分配带有原始位置编码信息的读码名称。此外,我们已经开发了一个相关的软件包RNF包含两个主要组成部分。MIShmash应用了一种流行的阅读模拟工具(DwgSim,Art,Mason,CuReSim等)。并将生成的读数转换成RNF格式。然后,LAVEnder使用RNF格式的模拟读取来评估给定的读取映射器。特别关注用于ROC曲线参数化的映射质量,以及对读取样本污染影响的评估。
2015-04-02 q-bio.GN
Technology dictates algorithms: Recent developments in read alignment
本文综述了1988至2020年间107种读段比对算法,评估11种比对器性能,探讨长读段优劣及多领域定制应用。
2020-07-09 q-bio.GN q-bio.QM
LUMPY: A probabilistic framework for structural variant discovery
从DNA测序中全面发现人类基因组中的结构变异(SV)需要整合多个比对信号,包括读取对、分裂读取和读取深度。然而,由于固有的技术挑战,大多数现有的SV发现方法仅利用一个信号,因此灵敏度降低,特别是在低序列覆盖率和较小的SV下。我们提出了一种新颖且非常灵活的概率SV发现框架,该框架能够整合任何数量的SV检测信号,包括从读取比对或先前证据生成的SV检测信号。我们证明了现有的方法相结合的配对末端和分裂读比对的灵敏度提高,并强调我们的框架的效用,在异质性肿瘤基因组的结构变异的综合研究。我们进一步讨论了更广泛的效用,这种方法的概率整合不同的基因组间隔数据集。
2014-01-22 q-bio.GN
Using Sequence Ensembles for Seeding Alignments of MinION Sequencing Data
Oxford Nanopore MinION测序仪是目前最小的测序设备。虽然能够产生非常长的读段(报道了高达100 kbp的读段),但其易于产生高达30%的高测序出错率。由于这些错误中的大多数是插入或删除,因此很难适应流行的基于种子的算法,该算法被设计用于以低得多的出错率比对数据集。MinION读段的碱基识别通常使用隐马尔可夫模型完成。在本文中,我们建议从这样的概率模型中采样的序列的集合来表示每个测序读取。与对每个读段使用单个代表性碱基识别序列相比,这种方法可以提高接种比对的灵敏度和假阳性率。
2016-06-28 cs.DS q-bio.GN
GateKeeper: A New Hardware Architecture for Accelerating Pre-Alignment in DNA Short Read Mapping
动机:高通量DNA测序(HTS)技术会产生过多的小DNA片段(称为短读段),这会造成巨大的计算负担。为了分析整个基因组,数十亿个短读段中的每一个都必须基于读段和参考基因组中的“候选”位置之间的相似性映射到参考基因组。被称为比对的相似性测量被公式化为近似字符串匹配问题,是计算瓶颈,因为:(1)其使用二次时间动态编程算法来实现,以及(2)参考基因组中的大多数候选位置由于高相异度而不与给定读段比对。计算这种不正确的候选位置的对齐消耗了现代读映射器的绝大多数执行时间。因此,开发一种快速有效的过滤器至关重要,该过滤器可以检测不正确的候选位置,并在调用计算成本高的对齐操作之前消除它们。结果如下:我们提出了GateKeeper,这是一种新的硬件加速器,可以作为预对齐步骤,快速过滤出最不正确的候选位置。GateKeeper是第一个使用现场可编程门阵列(FPGA)加速预对准的设计,其执行预对准的速度比软件快得多。GateKeeper可以与任何执行序列比对以进行验证的映射器集成。当在单个FPGA芯片上实现时,GateKeeper保持高精度(平均>96%),同时提供高达90倍和130倍的加速,分别超过最先进的软件预对准技术,邻接滤波器和移位汉明距离(SHD)。添加GateKeeper作为预对齐步骤可以将mrFAST映射器的验证时间减少10倍。可用性:https://github.com/BilkentC…
2020-09-27 cs.AR cs.DS q-bio.GN
GateKeeper-GPU: Fast and Accurate Pre-Alignment Filtering in Short Read Mapping
本文提出 GPU 加速的预比对过滤器 GateKeeper-GPU,通过改进 GateKeeper 准确性并利用大规模线程并行筛查序列对,为序列比对带来 2.9 倍加速,并使 mrFAST 端到端运行最高提速 1.4 倍。
2024-02-22 cs.AR q-bio.GN
Sailfish: Alignment-free Isoform Quantification from RNA-seq Reads using Lightweight Algorithms
RNA测序已迅速成为测量基因表达的事实上的技术。然而,分析所需的时间跟不上数据生成的速度。在这里,我们介绍Sailfish,一种新的计算方法,用于从RNA测序数据中量化先前注释的RNA异构体的丰度。Sailfish完全避免了映射读取,这在所有当前方法中都是一个耗时的步骤。Sailfish提供的量化估计比现有方法快得多(通常快20倍),而不会损失准确性。
2013-08-16 cs.CE q-bio.GN
LOGAN: High-Performance GPU-Based X-Drop Long-Read Alignment
成对序列比对是基因组数据分析中计算量最大的核心之一,占关键生物信息学应用运行时间的90%以上。由于分析长度在1 Kb和1 Mb之间的序列的高计算成本,这种方法对于第三代序列特别昂贵。鉴于精确配对算法的二次开销长alignment,社区主要依赖于近似算法,只搜索高质量的alignment,并在找不到时提前停止。在这项工作中,我们提出了流行的X-drop alignment算法的第一个GPU优化,我们命名为LOGAN。结果表明,我们的高性能多GPU实现高达181.6 GCUPS和速度高达6.6倍和30.7倍,分别使用1和6个NVIDIA Tesla V100,在最先进的软件上运行两个IBM Power 9处理器使用168 CPU线程,具有相同的精度。我们还证明了一个2.3倍的LOGAN速度比ksw 2,一个国家的最先进的矢量化算法的序列比对中实现minimap 2,一个长读映射软件。为了突出我们的工作对实际应用的影响,我们将LOGAN与一个名为BELLA的多对多长读段比对软件结合起来,并证明我们的实现将整体BELLA运行时间提高了10.6倍。最后,我们调整了LOGAN的Roofline模型,并证明我们的实现在NVIDIA Tesla V100上接近最佳。
2020-02-12 cs.DC q-bio.GN
GRIM-Filter: Fast Seed Location Filtering in DNA Read Mapping Using Processing-in-Memory Technologies
动机:种子位置过滤在DNA读数映射中至关重要,DNA读数映射是将从供体采样的数十亿个DNA片段(读数)映射到参考基因组上以识别供体的基因组变体的过程。现有技术的读取映射器1)快速生成种子的可能映射位置(即,较小的片段),2)在每个映射位置提取参考序列,和3)用计算量大的算法检查每个读段和其相关参考序列之间的相似性(即,序列比对)以确定读数的来源。种子位置过滤器在对齐之前开始起作用,丢弃对齐将视为不良匹配的种子位置。理想的种子位置过滤器将在对准之前丢弃所有不良匹配位置,使得不存在对不必要的对准的浪费计算。结果如下:我们提出了一种新的种子位置过滤算法,GRIM-Filter,优化利用3D堆叠的存储器系统,集成在存储器层下堆叠的逻辑层内的计算,执行内存中的处理(PIM)。GRIM-Filter通过以下方式快速过滤种子位置:1)引入参考基因组粗粒度片段的新表示; 2)使用并行内存操作来识别每个粗粒度片段中的读段存在。我们的评估表明,对于0.05的序列比对误差容限,GRIM-过滤器1)将过滤的假阴性率降低5.59x-6.41x,和2)与采用最佳先前种子位置过滤算法的现有技术读取映射器相比,提供1.81x-3.65x的端到端读取映射器加速。可用性:代码可在线获取:https://github.com/CMU-SAFARI/GRIM
2017-11-02 cs.CE q-bio.GN
MaxSSmap: A GPU program for mapping divergent short reads to genomes with the maximum scoring subsequence
基于哈希表和Burrows-Wheeler的程序在将短读段映射到基因组方面非常快,但在存在错配和缺口的情况下准确性较低。这样的读段可以与Smith-Waterman算法准确比对,但即使是细菌基因组,也可能需要数小时和数天才能映射数百万个读段。我们介绍了一个GPU程序称为MaxSSmap的目的是实现可比的精度史密斯-沃特曼,但更快的运行时间。与大多数程序类似,MaxSSmap识别基因组的局部区域,然后进行精确比对。MaxSSmap在第一部分中不使用哈希表或Burrows-Wheeler,而是在GPU上并行计算基因组的读段和不相交片段之间的最大评分子序列评分,并选择最高评分片段进行精确比对。我们评估了MaxSSmap的准确性和运行时映射模拟的Illumina大肠杆菌和人类1号染色体读段的不同长度和10\%至30\%的错配与大肠杆菌基因组和人类1号染色体的差距。我们还展示了应用程序的真实数据映射古代马的DNA读取到现代基因组和未映射的配对读取NA 12878在1000个基因组。我们表明,MaxSSmap达到了相当高的准确性和低错误的快速史密斯-沃特曼程序,但有更低的运行时间。我们表明,MaxSSmap可以映射读取拒绝BWA和NextGenMap高精度和低误差比如果使用史密斯-沃特曼快得多。在36和51的短读段长度上,MaxSSmap和Smith-Waterman的准确度都低于更长的长度。…
2014-09-14 q-bio.GN
FPGA Acceleration of Short Read Alignment
在生物信息学中,将数百万个短的DNA或RNA读段(每个读段具有75至250个碱基对)与参考基因组进行比对是一个重要的计算问题。我们提出了一个灵活和快速的基于FPGA的短读比对工具。我们的对准器利用FPGA的处理能力以及更大的主机内存带宽和软件灵活性来提高性能并实现高水平的可配置性。这种灵活的设计支持各种参考基因组大小,而不会像其他软件和基于FPGA的比对器那样性能下降。它还能够更好地支持新的比对算法的功能,这些算法经常出现在快速发展的生物信息学领域。我们在一个案例研究中证明了这些优势,在该案例研究中,我们比对了来自假设的小鼠/人异种移植物的RNA-Seq数据。在这个案例研究中,我们的比对器比BWA-SW提供了5.6倍的加速,节能21%,同时还将不正确的短读段分类减少了29%。为了证明我们的系统的灵活性,我们表明,加速比可以大大提高,同时保留了BWA-SW的大部分准确性增益。加速比可以增加到71.3倍,同时仍然享受28%的不正确分类改善和52%的改善,在未对齐的读取。
2018-04-30 cs.CE cs.DC q-bio.GN
Dynamic read mapping and online consensus calling for better variant detection
从高通量测序数据中检测变异是鉴定复杂疾病和癌症中涉及的等位基因的重要步骤。为了处理这些海量数据,采用了精心设计的序列分析管道。这种流水线的核心组件是读段映射模块,其准确性强烈影响所得变体调用的质量。我们提出了一种动态读取映射方法,显着提高读取比对精度。动态映射的一般思想是基于先前计算的读段比对连续更新参考序列。尽管这一概念已经出现在文献中,我们认为,我们的工作提供了第一个全面的分析这种方法。为了评估动态映射的好处,我们开发了一个模拟不同动态映射场景的软件管道(http://github.com/karel-brinda/dymas)。该流水线被应用于比较动态映射与传统的静态映射,另一方面,与所谓的迭代参考-一个计算昂贵的程序计算的最佳修改的参考,最大限度地提高了所有的比对的整体质量。我们的结论是,在所有的替代品,动态映射的结果在一个更好的精度比静态映射,接近迭代参考的准确性。为了在动态映射过程中校正参考序列,我们开发了名为OCOCO的在线共识调用程序(http://github.com/karel-brinda/ococo)。OCOCO是第一个能够以在线方式处理输入读取的共识调用者。最后,我们提供的结论动态映射的可行性和讨论的主要障碍,必须克服实施it. We还审查了广泛的可能的应用动态映射,特别强调变异检测。
2016-05-29 q-bio.GN
Reads2Vec: Efficient Embedding of Raw High-Throughput Sequencing Reads Data
Georgia State University(佐治亚州立大学);University of Milano-Bicocca(米兰比可卡大学)
自COVID-19大流行开始以来,出现了大量SARS-CoV-2的基因组数据,这对研究其动态的传统方法提出了挑战。因此,出现了Pangolin等新方法,可以扩展到目前可用的数百万SARS-CoV-2样本。这种工具被定制为将组装、比对和策划的全长序列作为输入,例如在GISAID数据库中发现的那些。随着高通量测序技术的不断发展,这种组装、比对和策展可能成为瓶颈,从而需要能够直接处理原始测序读数的方法。在本文中,我们提出了Reads 2 Vec,一种无约束的嵌入方法,可以直接从原始测序读数中生成固定长度的特征向量表示,而无需组装。此外,由于这种嵌入是数值表示,因此它可以应用于高度优化的分类和聚类算法。在模拟数据上的实验表明,我们提出的嵌入方法获得了更好的分类结果和更好的聚类性能,与现有的无嵌入基线相反。在对真实数据的研究中,我们发现无干扰嵌入比Pangolin工具具有更好的聚类特性,并且SARS-CoV-2基因组的尖峰区域严重影响了无干扰聚类,这与当前SARS-CoV-2的生物学知识一致。
2022-11-15 cs.LG q-bio.GN q-bio.QM
AirLift: A Fast and Comprehensive Technique for Remapping Alignments between Reference Genomes
本研究提出首款读段重映射工具AirLift,可将已比对到某参考基因组的读段快速映射到相似参考基因组,相比全量映射最多提速27.4倍,且经GATK验证变异识别准确性高,代码已开源。
2024-09-11 cs.CE q-bio.GN
Adaptive Learning of Rank-One Models for Efficient Pairwise Sequence Alignment
Microsoft Research New England(新英格兰微软研究院);Stanford University(斯坦福大学);University of Illinois, Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
DNA测序数据的成对比对是生物信息学中普遍存在的任务,并且通常代表沉重的计算负担。加速该任务的最先进的方法使用散列来识别由读段对共享的短片段(k-mer),然后可以将其用于估计比对分数。然而,当读段的数量很大时,准确地估计所有对的比对分数仍然是非常昂贵的。此外,在实践中,人们只对鉴定具有大比对分数的读段对感兴趣。在这项工作中,我们提出了一种新的方法,成对比对估计的基础上两个关键的新成分。第一个要素是将成对比对估计的问题置于一级众包模型的一般框架下,其中工作者的响应对应于k聚体哈希冲突。这些模型可以通过响应矩阵的谱分解来精确求解。第二个成分是利用多臂bandit算法来自适应地改进该谱估计器,仅用于可能具有大比对的读段对。所得到的算法迭代地执行自适应选择的读取对的子集的响应矩阵的谱分解。
2021-02-13 cs.IT cs.LG math.IT
Faster and More Accurate Sequence Alignment with SNAP
我们提出了可扩展的核苷酸比对程序(SNAP),这是一种新的短读段和长读段比对器,既更准确(即,对齐更多读数,错误更少),比BWA等最先进的工具快10- 100倍。与最近基于Burrows-Wheeler变换的比对器不同,SNAP使用来自基因组的短种子序列的简单散列索引,类似于BLAST。然而,SNAP通过几种措施大大减少了局部比对检查的数量和成本:它使用更长的种子来减少所考虑的假阳性位置,利用更大的内存容量来加速索引查找,并排除大多数候选位置而不完全计算其到读取的编辑距离。其结果是一种算法,该算法对于从一百到数千个碱基长的读段很好地扩展,并提供了丰富的错误模型,可以匹配突变的类别(例如,更长的插入缺失),这是今天的快速校准器所忽略的。我们计算出,SNAP可以在不到一个小时的时间内将数据集与30倍人类基因组覆盖率进行比对,在Amazon EC2上的成本为2美元,准确率高于BWA。最后,我们描述了正在进行的工作,以进一步改善SNAP。
2011-11-23 cs.DS q-bio.GN
An algorithm for DNA read alignment on quantum accelerators
随着小规模量子处理器从实验物理实验室过渡到工业产品,这些处理器使我们能够有效地计算各个领域的重要算法。在本文中,我们提出了一个量子算法,以解决具有挑战性的大数据处理领域的基因组序列重建。本研究描述子序列比对的量子算法的架构感知实现。提出了一种基于汉明距离的近似模式匹配算法QiBAM(quantum indexed bidirectional associative memory)。QiBAM以两种方式扩展了Grover的搜索算法,以允许:(1)基因组学中读取错误所需的近似匹配,以及(2)在DNA序列的量子编码上分布式搜索多个解决方案。这种方法给出了一个二次加速比的经典算法。该算法的完整实现,并使用OpenQL编译器和QX模拟器框架进行验证。这代表了对全栈量子加速基因组测序管道设计的首次探索。开源实现可以在https://github.com/prince-ph0en1x/QAGS上找到。
2019-09-12 cs.ET q-bio.GN quant-ph
AMAS: optimizing the partition and filtration of adaptive seeds to speed up read mapping
背景资料:识别下一代测序(NGS)读数的所有可能的映射位置在几个应用中是非常重要的,例如预测位于重复区域中的基因组变体或蛋白质结合基序,异构体表达定量,宏基因组学分析等。然而,这项任务非常耗时,大多数映射工具只关注一个或几个最佳映射位置。结果:我们提出了AMAS,一种专门用于识别参考序列中NGS读段的所有可能映射位置的比对工具。AMAS的特点是有效地使用自适应种子来加速读段映射,同时保持灵敏度。具体地,索引被设计为预存储自适应种子在参考序列中的位置,有效地减少了种子匹配和分割的时间。自适应种子的精确过滤被进一步应用以基本上收紧候选对准空间。因此,AMAS的运行速度比其他最先进的读取映射器快几倍,同时达到类似的精度。结论:AMAS提供了一个宝贵的资源,以加快重要而耗时的任务,确定所有映射位置的NGS读取。AMAS是基于SeqAn库用C++实现的,可以在https://sourceforge.net/projects/ngsamas/上免费获得。关键词:下一代测序,读段映射,序列比对,自适应种子,种子划分,过滤
2015-02-18 cs.CE q-bio.GN
RasBhari: optimizing spaced seeds for database searching, read mapping and alignment-free sequence comparison
序列分析的许多算法依赖于词匹配或词统计。通常,如果将表示匹配和无关位置的二进制模式用作过滤器,使得仅考虑对应于模式的匹配位置的单词的那些位置,则可以改进这些方法。然而,这些方法的性能取决于底层模式。在这里,我们表明,由Ilie和Ilie引入的模式集的重叠复杂度与两个进化相关序列之间关于该模式集的匹配数量的方差密切相关。我们提出了一种改进的爬山算法,以优化模式集的数据库搜索,读映射和无干扰序列比较的核酸序列,我们的实现这种算法被称为rasbhari。根据手头的应用程序,rasbhari可以最小化模式集的重叠复杂性,最大化它们在数据库搜索中的灵敏度,或者最小化无干扰序列比较中基于模式的匹配数量的方差。我们发现,对于数据库搜索,rasbhari生成的模式集比现有的方法具有略高的灵敏度。在我们的间隔词方法中,使用rasbhari计算的模式集比我们以前使用的随机生成的模式集更准确地估计了系统发育距离。最后,我们使用rasbhari来生成用于短读段分类的模式。在这里,与程序的默认模式相比,结果的灵敏度也可以提高。我们将rasbhari集成到Spaced Words中; rasbhari的源代码可以在http://rasbhari.gobics.de/上免费获得
2016-07-20 cs.DS q-bio.GN q-bio.PE
Embed-Search-Align: DNA Sequence Alignment using Transformer Models
Aarhus University(奥胡斯大学)
针对DNA序列比对需在全基因组定位短读段的问题,提出Embed-Search-Align框架,通过Transformer生成无参考DNA嵌入并结合向量存储搜索,在人类基因组比对中准确率达99%,优于传统方法及6种Transformer基线。
2024-12-05 cs.AI q-bio.GN
Accelerating the Understanding of Life's Code Through Better Algorithms and Hardware Design
计算一对基因组序列之间的相似性是基因组分析中最基本的计算步骤之一。这一步骤--称为序列比对--是计算瓶颈,因为:(1)它是使用二次动态编程算法实现的,以及(2)参考基因组中的大多数候选位置由于高相异性而不与给定读段比对。计算这种不正确的候选位置的对齐消耗了现代读映射器的绝大多数执行时间。在这篇论文中,我们介绍了四种新的算法(守门员,守吉,MAGNET和SneakySnake),作为一个预对准步骤,旨在过滤出最不正确的候选位置。我们的预对准过滤器的第一个关键思想是通过正确检测两个序列之间共享的所有相似片段来提供高过滤精度。第二个关键思想是利用现代FPGA的大规模并行架构来加速我们的滤波算法。我们还开发了一个有效的CPU实现的SneakySnake算法的商品台式机和服务器。我们使用12个真实数据集详细评估了预对齐过滤方法的优点和缺点。在我们的评估中,我们证明了我们的硬件预对准滤波器显示出两到三个数量级的加速比其等效的CPU实现。我们还证明,将我们的硬件预对准滤波器与最先进的读取对准器集成,可将对准器的执行时间减少高达21.5倍。最后,我们表明,有效的CPU实现预对准滤波仍然提供了显着的好处。我们发现,SneakySnake平均将性能最好的基于CPU的读取对齐器Edlib和Parasail的执行时间分别减少了43倍和57.9倍。
2019-10-08 cs.CE q-bio.GN
Accelerating Seed Location Filtering in DNA Read Mapping Using a Commercial Compute-in-SRAM Architecture
本文利用 GSI Technology 的商用 Gemini SRAM 存内计算平台加速 Myers 位并行编辑距离算法,用于 DNA read 比对的种子位置预过滤,相对单核 CPU 平均加速 14.1 倍、最高 24.1 倍。
2024-01-22 cs.AR q-bio.GN
SOAP3-dp: Fast, Accurate and Sensitive GPU-based Short Read Aligner
为了解决下一代测序(NGS)的指数级增加的通量,大多数现有的短读段比对器可以被配置为在准确性和灵敏度的交易中有利于速度。SOAP 3-dp通过利用CPU和GPU的计算能力以及优化的算法,同时提供高速度和灵敏度。与广泛采用的比对器(包括BWA、Bowtie 2、SeqAlto、GEM)和基于GPU的比对器(包括BarraCUDA和EQUIPHAW)相比,SOAP 3-dp的速度快2到10倍,同时在不同长度的Illumina读取上保持最高的灵敏度和最低的错误发现率(FDR)。超越了它的前身SOAP 3,它不允许间隙对齐,SOAP 3-dp默认容忍对齐相似性低至60%。使用人类基因组的真实数据评估表明SOAP 3-dp能够发现更真实的变体和更长的Indel。Fosmid测序显示新发现的缺失的FDR为9.1%。SOAP 3-dp本身支持BAM文件格式,并提供与BWA相同的评分方案,这使其能够集成到现有的分析管道中。SOAP 3-dp已在Amazon-EC 2、NIH-Biowulf和天河-1A上部署。
2013-03-24 q-bio.GN
STUART: Sequence Triage and qUAntification of Read Transcripts for Rapid Ionizing Radiation Exposure Assessment
Silesian University of Technology(西里西亚理工大学);UK Health Security Agency(英国卫生安全局)
STUART是一种无比对机器学习框架,利用k-mer特征和特征选择将辐射暴露评估所需的转录组特征降至17个,实现高精度快速分诊,支持便携式测序实时分析。
2026-09-16 q-bio.GN
ReadsMap: a new tool for high precision mapping of DNAseq and RNAseq read sequences
目前有大量的程序可用于将短序列(读段)映射到基因组。然而,其中大多数,包括流行的和积极发展的程序,如Bowtie,BWA,TopHat和许多其他的,是基于Burrows-Wheeler变换(BWT)算法。这种方法对于映射高同源性读段非常有效,但在映射具有高水平错误或SNP的读段时会遇到问题。此外,它在绘制RNASeq剪接读段(例如与对应于内含子序列的空位对齐的读段)方面存在问题,这类读段对于发现内含子和可变剪接基因同种型是必不可少的。同时,寻找内含子位置是确定基因结构,特别是基因可变剪接变体的最重要任务。在本文中,我们提出了一个新的算法,涉及散列参考基因组。实现这种算法的ReadsMap程序展示了大量短读段到一个或多个基因组重叠群的非常高的准确度映射。它主要通过将由长内含子分隔的读段的非常短的部分与来自映射包含插入在较大块之间的相同内含子的其他读段的核算信息更好地比对来实现。可用性和实现:ReadsMap是用C实现的。它被纳入Fgenesh ++基因识别管道,并在Softberry网络服务器www.softberry.com上免费提供给学术用户。
2019-08-05 q-bio.GN
GateSeeder: Near-memory CPU-FPGA Acceleration of Short and Long Read Mapping
提出 GateSeeder,利用 CPU-FPGA 近内存架构和轻量级匹配片段算法加速短/长读长比对,在多种真实测序数据上显著优于 Minimap2。
2023-09-29 cs.AR cs.DS q-bio.GN
ViralVectors: Compact and Scalable Alignment-free Virome Feature Generation
Georgia State University(佐治亚州立大学)
针对海量病毒测序数据的处理需求,提出基于minimizers的无比对特征生成方法ViralVectors,在多种病毒数据集上展现出优越的可扩展性、鲁棒性及在分类聚类任务上的性能。
2023-04-07 cs.LG q-bio.GN
Lerna: Transformer Architectures for Configuring Error Correction Tools for Short- and Long-Read Genome Sequencing
Purdue University(普渡大学);Indian Institute of Technology Bombay(印度理工学院孟买分校);Adobe Research(Adobe 研究院)
测序技术容易出错,这使得下游应用必须进行纠错(EC)。EC工具需要手动配置以获得最佳性能。我们发现,最佳参数(例如,k-聚体大小)都依赖于工具和模板。此外,评估性能(即,给定工具的比对率或增益通常依赖于参考基因组,但质量参考基因组并不总是可用的。我们介绍Lerna用于基于k-mer的EC工具的自动化配置。Lerna首先创建未校正的基因组读段的语言模型(LM);然后,计算困惑度度量以针对不同参数选择来评估校正的读段。接下来,它找到一个在不使用参考基因组的情况下产生最高比对率的基因组。我们的方法的基本直觉是,困惑度量与纠错后的组装质量成反比。结果:首先,我们表明,最佳的k-mer值可以为不同的数据集,即使是相同的EC工具。其次,我们使用其组件注意力为基础的Transformers显示我们的LM的增益。我们展示了模型在误差校正之前和之后对困惑度度量的估计。校正后的混乱度越低,k聚体尺寸越好。我们还表明,校正读取计算的比对率和组装质量与困惑度呈强负相关,从而能够自动选择k-mer值以进行更好的纠错,从而提高组装质量。此外,我们还表明,我们的基于注意力的模型在整个流水线上有显着的运行时改进-比以前的作品快18倍,这是由于并行化了注意力机制和使用JIT编译进行GPU推理。
2021-12-19 cs.LG q-bio.GN
Concurrent and Accurate RNA Sequencing on Multicore Platforms
在本文中,我们介绍了一种新的并行流水线的快速和准确的映射RNA序列的服务器上配备了多核处理器。我们的软件名为HPG-Aligner,利用Burrows-Wheeler变换的速度快速映射大量RNA片段(读段),以及Smith-Waterman算法的准确性,用于处理冲突读段。该比对仪还采用了一种谨慎的策略来检测剪接点,该策略基于将RNA读数分成短片段(或种子),然后将其映射到许多候选比对位置上,为完整读数的成功比对提供有用的信息。在AMD和英特尔多核处理器平台上的实验结果报告了HPG-Aligner在短和长RNA读取上的卓越并行性能,它在执行时间和灵敏度方面都优于最先进的对齐器,如基于Bowtie和Bowtie 2构建的TopHat 2。
2013-04-02 cs.DC q-bio.GN q-bio.QM
Coinami: A Cryptocurrency with DNA Sequence Alignment as Proof-of-work
使用高通量测序(HTS)平台生成的数据量的增长率现在超过了摩尔定律所规定的增长。预计在2025年之前,HTS数据将超过其他“大数据”领域,如天文学。除了用于研究目的的基因组测序外,临床环境中的基因组和外显子组测序将成为医疗保健的常规部分。然而,分析如此大量的数据并非没有计算挑战。由于参考基因组的定期更新,这一负担甚至更加增加,这通常需要重新分析现有数据。在这里,我们提出了硬币应用中介接口(Coinami)分配工作量的映射读取参考基因组使用志愿者网格计算机的方法类似于伯克利开放式网络计算基础设施(BOINC)。然而,由于HTS读码映射需要大量的计算资源,并且需要快速的分析投票率,Coinami使用HTS读码映射作为工作证明来生成有效的区块来管理自己的加密货币系统,这可能有助于激励志愿者投入更多的资源。Coinami协议包括确保志愿者执行的工作正确的机制,并提供基因组数据隐私。Coinami的原型实现可在http://coinami.github.io/上获得。
2016-02-19 cs.CE cs.CR q-bio.GN