MPI 并行化时间消耗

Question

我有两段代码，每段耗时 2 秒， 在经典结构中，它们在 4 秒内按顺序运行

在 mpi 格式中，它应该消耗 2 秒，但需要 5 秒

为什么？

int main ( int argc, char *argv[] )  
{  
    MPI_Init( &argc, &argv );  
    MPI_Comm_size(MPI_COMM_WORLD,&p );  
    MPI_Comm_rank(MPI_COMM_WORLD,&id);  

    if(id==0)
    {
        // 2 seconds Block
    }
    if(id==1)
    {
        // 2 seconds Block
    }
    MPI_Finalize();  
}

Answer 1

什么需要 5 秒？ 如果你测量了整个程序的时间，问题是MPI_Init()和MPI_Finalize()非常耗时。 为了看到加速，你可以增加你的“块”。