如何在 EC2 实例上的 docker 内使用 AWS sbatch (SLURM)？

Question

我正在尝试使用 AWS parallelCluster 让 OpenFOAM 在 AWS EC2 集群上运行。

一种可能性是编译 OpenFOAM。另一种是使用 docker 容器。我正在尝试使第二个选项起作用。

但是，我在理解应该如何编排各种操作时遇到了麻烦。基本上我需要的是：

1. 将 OpenFOAM 案例从 S3 复制到主节点上的 FSx 文件系统
2. 运行包含 OpenFOAM 的 docker 容器
3. 执行 OpenFOAM 操作，其中一些使用集群（并行运行计算是最重要的）

我想将所有这些都放入脚本中以使其可重现。但我想知道我应该如何将脚本组织在一起以让 SLURM 处理事物的并行方面。

目前我的问题是主节点 shell 知道命令，例如sbatch 但是当我启动 docker 访问 OpenFOAM 命令时，它“忘记”了 sbatch 命令。

如何轻松将所有 SLURM 相关命令（sbatch，...）导出到 docker？这是处理问题的正确方法吗？

感谢支持

Answer 1

对于第一个选项，有一个研讨会将引导您完成： cfd-on-pcluster.

对于第二个选项；我创建了一个使用 HPC 容器运行时的容器研讨会containers-on-pcluster。

我合并了一个关于 GROMACS 的部分，但我也很高兴添加 OpenFOAM。我正在使用 Spack 创建容器映像。虽然我只记录了单节点运行，但我们当然可以添加多节点运行。

通过 sbatch 运行 Docker 不会让你走得太远，b/c docker 不是用户级运行时。欲了解更多信息：FOSDEM21 Talk about Containers in HPC

干杯
Christian（全面披露：AWS Developer Advocate HPC/Batch）