cudaSetDevice() 编号是否跨进程一致？

Question

我想在父进程中调用 cudaGetDeviceCount(&N)，然后创建 N 子进程，每个 GPU 找到一个，并向每个进程（通过命令行）传递一个唯一的 GPU 编号，这样就可以有效地一个（也是唯一一个）处理每个 GPU 的进程。我计划在每个进程中调用cudaSetDevice(i)，并从命令行接收i。

但是，我有一个疑问，例如一个进程中的 GPU #3 可能是另一个进程中的 GPU #4，而后一个进程中的 GPU #3 与前一个进程中的 GPU #1 完全不同，等等。

您知道 GPU 编号在整个系统中是否一致？还是每个进程通常都会收到自己的 GPU 排列？

Answer 1

编辑

编号一致。我引用@Robert Crovella

顺序跨进程一致，运行时一致 跑步。无论您选择默认的 CUDA，此说法都是正确的 编号，或基于 PCI 的排序。运行语句是 true 只要你不切换 CUDA 版本，更新系统 BIOS，更改操作系统，更改硬件配置 系统（例如添加/删除设备），或从默认更改为 PCI 订购。它还假设您没有对 CUDA_VISIBLE_DEVICES 环境变量。

---

Device Enumeration and Properties，有一个名为 CUDA_​DEVICE_​ORDER 的变量，有两个可能的值， FASTEST_FIRST 和 PCI_BUS_ID。

文档说，FASTEST_FIRST 使 CUDA 使用简单的启发式方法猜测哪个设备最快，并将该设备设为 0，其余设备的顺序未指定。 PCI_BUS_ID 按 PCI 总线 ID 升序排列设备。

默认情况下，此环境变量设置为 FASTEST_FIRST。因此，如果您的设备碰巧具有不同的速度，它可能会为设备生成与 PCI_BUS_ID 不同的 ID。

您可以通过以下方式设置 CUDA_DEVICE_ORDER：

export CUDA_DEVICE_ORDER=PCI_BUS_ID

而且这个 ID 是唯一的。

或者在主机代码中找到 deviceId：

int dev = 0;
cudaError_t errCode = cudaDeviceGetByPCIBusId(&dev, "somebusId");
cudaSetDevice(dev);