如何在集群上结合 doMPI 和 doMC？

Question

我曾经使用doMC 和foreach 进行并行计算，现在我可以访问集群。我的问题和Going from multi-core to multi-node in R类似，但是这个帖子没有回复。

基本上，我可以向我的批处理排队系统请求多个任务 -n 和每个任务的多个内核 -c。我确实设法使用doMPI 对我请求的任务数量进行并行模拟，但我现在想使用startMPIcluster 的maxcores 选项来使每个MPI 进程都使用多核功能。

我注意到parallel::detectCores() 似乎没有看到我被归属了多少个核心并返回一个节点的最大核心数。

目前我已经尝试过：

ncore = 3 #same number as the one I put with -c option
library(Rmpi)
library(doMPI)
cl <- startMPIcluster(maxcores = ncore)
registerDoMPI(cl)
## now some parallel simulations
foreach(icount(10), .packages = c('foreach', 'iterators', 'doParallel')) %dopar% {
    ## here I'd like to use the `ncore` cores on each simulation of `myfun()`
    registerDoParallel(cores = ncore)
    myfun()
}

（myfun 内部确实有一些foreach 循环）但如果我设置ncore > 1 则会出现错误：

{ 中的错误：任务 1 失败 - “'mckill' 失败”

谢谢

编辑

我可以访问的机器是http://www-ccrt.cea.fr/fr/moyen_de_calcul/airain.htm，其中指定了“Librairies MPI: BullxMPI, distribution Bull MPI 优化并与 OpenMPI 兼容”

Answer 1

您正在尝试同时使用许多不同的概念。您正在使用基于 MPI 的集群在不同的计算机上启动，但正在尝试同时使用多核处理。这让事情变得不必要地复杂了。

您使用的集群可能分布在多个节点上。如果要进行并行处理，则需要某种方式在这些节点之间传输数据。

进来MPI。这是一种在不同机器上的不同工作人员之间轻松连接的方法，无需指定 IP 地址或端口。这确实是您想要使用mpirun 或ccc_mprun 启动进程的原因（这可能是一个为您的特定集群提供一些额外参数的脚本）。

我们现在如何在 R 中使用这个系统？（另见 https://cran.r-project.org/web/packages/doMPI/vignettes/doMPI.pdf）

使用：mpirun -n 24 R --slave -f myScriptMPI.R 启动您的脚本，用于在 24 个工作进程上启动。集群管理系统将决定在哪里启动这些工作进程。它可能会在同一台（强大的）机器上启动所有 24 个，也可能会将它们分布在 24 台不同的机器上。这取决于工作负载、可用资源、可用内存、当前处于 SLEEP 模式的机器等。

上述命令将在 24 台不同的机器上启动 myScriptMPI.R。我们现在如何合作？

library(doMPI)
cl <- startMPIcluster() 
#the "master" process will continue
#the "worker" processes will wait here until receiving work from the master
registerDoMPI(cl)
## now some parallel simulations
foreach(icount(24), .packages = c('foreach', 'iterators'), .export='myfun') %dopar% {
    myfun()
}

您的数据将使用 MPI 协议自动从 master 传输到 worker。

如果您想更好地控制分配，包括为多核与节点间并行化制作“嵌套”MPI 集群，我建议您阅读 doMPI 小插图。