在 spmd 块内使用 parfor 时出错 - matlab

Question

据我所知，Matlab 中的并行编程，我们可以准确地指定什么 worker 做什么；使用：

if labindex == x 
    %some computations
end

我们还可以并行运行for 循环；使用：

parfor i1 = x:y
    %some computations
end

我正在使用一个有几个节点的集群，每个节点有 8 个核心。
我想运行 2 个函数，每个函数都包含一个 parfor 循环，每个函数都由工作人员执行，我的代码是这样的：

spmd
    if labindex == 1
        alpha  = forward( some parameters );
    end
    if labindex == 2
        beta  = backward( some parameters );
    end
end

我希望这 2 个函数由 2 个不同的节点同时执行。 但 Matlab 会抛出此错误：

PARFOR or SPMD can not be used inside an SPMD block.

为什么会这样？ 有什么想法吗？

Answer 1

parfor 文档中对此进行了介绍：

parfor-loop 的主体不能包含另一个 parfor-loop。但它 可以调用包含另一个parfor-loop 的函数。

但是，因为工作人员不能打开并行池，工作人员不能 并行运行内部嵌套的parfor-loop。这意味着只有一个 嵌套级别的parfor-loops 可以并行运行。如果外循环 在并行池上并行运行，内部循环在并行池上串行运行 每个工人。如果外部循环在客户端连续运行（例如， parfor 指定零个工人），包含内部的函数 loop 可以在池中的 worker 上并行运行内部循环。

spmd 语句也是如此：

spmd 语句的主体不能直接包含另一个 spmd。 但是，它可以调用包含另一个 spmd 语句的函数。 内部spmd 语句不在另一个并行中并行运行 池，但在运行它的工作人员的单个线程中串行运行 包含函数。

看来spmd/parfor其实是可以嵌套的，只要封装在函数中，但还是不会并行运行，所以没有意义。