集群及作业管理帮助
1.研究所目前使用的作业及计算资源管理引擎是SGE 系统。这一作业管理系统支持用户票证及高级作业调度等多种策略,能够与较多软件的作业递交模板进行预设置绑定。 b1.q 1TB 主机服务队列,用作 ssh 调度 (公共) ,任何情况下,请不要在 submit2/ftp1/ftp2 等功能节点上直接运行任何程序,请调度到 snode/fnode 节点后再计算!
b1.q 公共服务队列1 (公共 支持交互式作业)
g1.q 公共服务队列1 (公共 请使用qsub 递交排队)
g2.q 公共服务队列2 (公共 请使用qsub 递交排队)
g3.q 公共服务队列3 (公共 请使用qsub 递交排队)
g4.q 公共服务队列4 (公共 请使用qsub 递交排队)
g5.q 生信平台专用队列 (专用)
gpu.q GPU 服务队列 (邀请 请使用qsub 递交排队)
largesmp.q 6TB服务器队列 (邀请 请使用qsub 递交排队)
u1.q 紧急队列 (邀请 支持交互式作业)
docker.q docker 主机队列 (邀请 支持交互式作业)
2. SGE 基本命令: 查看所有队列队列: qconf –sql
查看特定队列: qstat –f –q queuename -u '*'
查看所有计算节点: qhost
查看某个任务: qstat –j job-number
删除任务: qdel job-number
查看并行环境: qconf –spl
SGE 在任务执行时候会生成两个文件 .o 是所有正常output 文件, .e 是包含所有错误信息的文件。
3. 作业调度策略:
采用FIFO 的基本策略和用户票证相结合。票证多的用户优先级高,在相同票证情况下,先入队列优先级别高。并行任务优先级别要高于串行任务。
4. 零时文件目录:
请在SGE 执行脚本中尽量使用$TMP 参数,并用作于存放零时文件。作为读写频繁操作的目录。作业调度引擎会在作业完成后自动回收和删除这些零时文件。
5. 交互式作业:
请在任务递交节点 submit2 上执行 ssh 系统将自动从 b1.q 队列中获取 并将您调度到 合适的节点上。在系统繁忙时候,默认队列无法提供空闲节点, 执行 ssh 会一直卡死。 请使用 qsub 进行任务递交
6. 串行任务执行脚本(qsub)
请在任务递交节点 submit2 上执行 qsub -q queuename -cwd 脚本 进行任务递交, 结果将返回到当前目录下。以下是测试的任务脚本, 可以在 submit2 上 进行测试是否任务可以被递交接收。
#!/bin/sh
###################################################################
#
# A (quite) simple submit script for a one or two processor job
#
###################################################################
hostname
date
echo $TMP
7. 分布式任务拆分(qsub 任务阵列 拆分)
请在任务递交节点 submit2 上执行 qsub -q queuename -cwd -t 1:n 脚本 进行任务递交, 结果将返回到当前目录下。以下是测试的任务脚本, 可以在 submit2 上 进行测试是否任务可以被递交接收。其中 -t 是任务阵列的 参数,起始 1, 终止为 任务数 n , 步长为 1 ,请按照具体任务数设置。 在任务阵列作业内,请将变量 $SGE_TASK_ID 与 任务列表中的样本编号 进行关联。 从而让调度器自动给您的 多样本任务进行调度。如在您使用过程中需要了解或协助 大任务拆分,请到细胞楼103室与我们联系。
#!/bin/sh
###################################################################
#
# A (quite) simple submit script for a one or two processor job
#
###################################################################
hostname
date
echo $TMP
echo $SGE_TASK_ID
8.其他可以申请的请求资源参数
可以详细参见complex(5) or queue_conf(5)。在执行脚本中,或者在qsub 任务递交的时候使用-l resource=value,… 来传递需要调度的资源变量。其中经常用到的包括:比如 想调度到特定节点可以使用 qsub -l hostname=snode002 XXX
请注意, 如果过高设置调度内存等参数,可能会造成条件不符任务一直处于等待状态。
qname : 队列名称
hostname : 主机名称
tmpdir : $tmp 零时目录位置,缺省情况下用/var/tmp
slots : 同时并行执行任务数量
mem_free: 空余内存数量
pe : 并行环境变量
9.因安全因素,并不是所有队列都挂载 并行文件目录,请使用 qsub 时候一定需要指定 -q 队列名
10. 中心提供 /sibcb/program/install 为软件默认安装位置,系统管理员将会为更新安装常用软件,如果您遇到无法安装软件,可以与我们联系 。
11. 中心提供 /sibcb1 为NAS 海量存储挂载目录, /sibcb2 为 归档存储目录 /sibcb3 为并行文件存储目录, 请用户按需要使用。