成都创新互联网站制作重庆分公司

linux上的并行软件ParaFly怎么用

这篇文章将为大家详细讲解有关linux上的并行软件ParaFly怎么用,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。     

成都创新互联坚持“要么做到,要么别承诺”的工作理念,服务领域包括:网站建设、成都网站建设、企业官网、英文网站、手机端网站、网站推广等服务,满足客户于互联网时代的东安网站设计、移动媒体设计的需求,帮助企业找到有效的互联网解决方案。努力成为您成熟可靠的网络建设合作伙伴!

很多时候生信工作者处理多个文件,对每个文件做的操作都是一样的,这个时候,写一个for循环串行处理可能就行了。但有时候串行操作耗时较久,例如做个bwa mem比对,如果一个一个文件处理,时间就是累加的。

一般我们都是在服务器上跑任务,服务器都是多核心多线程的,再不济也是自己的多核多线程笔记本,其实可以让任务并行的跑起来。

例如使用htop查看,下面是40核的服务器,空闲的核需要的时候利用起来比较好,省时省力:

linux上的并行软件ParaFly怎么用

今天给大家介绍一个很好用的小工具ParaFly,只需要很简单的操作就可以让linux上的任务并行化。      
linux上的并行软件ParaFly怎么用  

linux上的并行软件ParaFly怎么用

linux上的并行软件ParaFly怎么用

首先使用anconda3安装ParaFly,

$ conda install -c bioconda parafly
 

查看一下怎么用:

$ ParaFly -h
############################################################ Usage: ParaFly (opts)## Required: #   -c              :filename containing list of bash-style commands to execute.#   -CPU            :number_of_threads## Optional:#   -shuffle              :randomly shuffles the command order. #   -failed_cmds    :filename to capture failed commands.  default("FailedCommands")#   -v                    :simple progress monitoring.#   -vv                   :increased verbosity in progress monitoring.###########################################################
Note: This process creates a file named based >with a .completed extension.This enables a resume functionality, where if rerun, only those commands not completed successfully will be reprocessed.
 

linux上的并行软件ParaFly怎么用

可以看出必须参数(Required)只有2个,说明这个工具使用起来非常简单。事实上,只需要把需要操作的命令写在一个文件里面,使用-c指定这个文件,-CPU指定并行的总核数(需要同时执行几条命令)即可。

默认成功执行的命令,对应的命令行会输出到文件名加.completed后缀的文件,没有成功执行的命令会输出到FailedCommands文件。

ParaFly: Simple parallel unix command processing using OpenMPParaFly provides a simple mechanism for running a predefined list of unix commands in parallel using multithreading. Failed processes are captured and reported. Successfully executed processes are noted. If the process is rerun, >or failed processes will be executed.
 

简单举个例子:

fastq-dump拆分三个SRA文件,可以把这三条命令写到fastq_dump.txt文件里面:

$ cat fastq_dump.txtfastq-dump --split-3 SRR1510125.1fastq-dump --split-3 SRR1004284.1fastq-dump --split-3 SRR1004285.1
 

之后使用ParaFly并行化:

$ ParaFly -c fastq_dump.txt -CPU 3
 

服务器会同时用三个核分别来运行这三条命令,ParaFly结果文件:

$ cat fastq_dump.txt.completedfastq-dump --split-3 SRR1004285.1fastq-dump --split-3 SRR1004284.1fastq-dump --split-3 SRR1510125.1

总体来看ParaFly方便易学,比linux自带的parallel更易上手,大家在linux上做多任务处理时可以考虑加入它的使用,会大大的缩短数据处理时间。

关于linux上的并行软件ParaFly怎么用就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。


网站标题:linux上的并行软件ParaFly怎么用
文章网址:http://cxhlcq.com/article/gcseih.html

其他资讯

在线咨询

微信咨询

电话咨询

028-86922220(工作日)

18980820575(7×24)

提交需求

返回顶部