SLURM sbatch 是否会自动跨节点复制用户脚本？答案

【问题标题】：Does SLURM sbatch Automatically Copy User Script Across Nodes?SLURM sbatch 是否会自动跨节点复制用户脚本？
【发布时间】：2020-04-17 16:36:42
【问题描述】：

SLURM（特别是 sbatch）是否应该自动将用户脚本（而不是作业配置脚本）复制到集群的计算节点以执行？从我的登录节点执行 sbatch 文件后，输出文件会在我的一个计算节点上创建，但包含以下内容：

ERROR: could not open file /home/pi/slurm.jl
Stacktrace:
 [1] include at ./boot.jl:328 [inlined]
 [2] include_relative(::Module, ::String) at ./loading.jl:1105
 [3] include(::Module, ::String) at ./Base.jl:31
 [4] exec_options(::Base.JLOptions) at ./client.jl:287
 [5] _start() at ./client.jl:460

我正在使用sbatch julia.sbatch 运行批处理脚本。

julia.sbatch：

#!/bin/bash
#SBATCH --nodes=4
#SBATCH --ntasks=4
#SBATCH --time=00:15:00
#SBATCH --output=julia.out
#SBATCH --job-name=julia-job

julia slurm.jl

或者脚本 (slurm.jl) 是否应该位于所有节点都可以访问的共享存储上？

【问题讨论】：

标签： julia cluster-computing distributed-computing slurm sbatch

【解决方案1】：

Slurm 不会将提交脚本以外的文件复制到计算节点。来自Quick Start User Guide：

Slurm 不会自动将可执行文件或数据文件迁移到分配给作业的节点。文件必须存在于本地磁盘或某些全局文件系统（例如 NFS 或 Lustre）中。

在大多数集群上，/home 目录是在每个登录和计算节点上共享的 NFS 文件系统。

【讨论】：

【解决方案2】：

您可以在脚本中使用sbcast 将文件复制到节点。

#!/bin/bash
#SBATCH --nodes=4
#SBATCH --ntasks=4
#SBATCH --time=00:15:00
#SBATCH --output=julia.out
#SBATCH --job-name=julia-job
sbcast slurm.jl slurm.jl
julia slurm.jl

【讨论】：