mpi_send mpi_recv 舍入错误

Question

我想问一下 mpi_send 和 mpi_recv 函数有没有类似于 mpi_reduce 的舍入误差？我认为不应该是因为mpr_reduce函数的舍入误差来自处理器执行顺序的差异，但函数mpi_send和mpr_recv没有类似的过程。

那么我想问一下，通过将其结果与串行代码进行比较来验证仅具有 mpi_send 和 mpi_recv 函数的并行代码的计算是否合乎逻辑？

感谢您的宝贵时间。

Answer 1

MPI_Send 和 MPI_Recv 不执行舍入本身。但是在使用更高内部精度的系统上，串行代码和并行代码的结果之间仍然可能存在差异。一个典型的例子是使用 x87 FPU 时的 x86（主要是 32 位代码）。 x87 对一小堆 80 位值进行操作，所有操作，即使是那些涉及较低精度值的操作，都以 80 位内部精度执行。每当必须将中间值传输到另一个 MPI 等级时，它首先被四舍五入为 float 或 double，除非使用非标准扩展精度类型，这会删除如果该值本来会存在的重要位将保留在 x87 堆栈中。这不是 MPI 特有的问题，因为它也可能在串行代码中表现为不同的结果，具体取决于编译器执行的寄存器优化级别。