【问题标题】:Behavior of CUDA kernels from guest VM on NVIDIA GRID vGPU来自 NVIDIA GRID vGPU 上来宾 VM 的 CUDA 内核的行为
【发布时间】:2016-06-15 09:39:18
【问题描述】:

不久前,NVIDIA 利用其 GRID GPU 引入了 vGPU 的概念,其中一个物理 GPU 被虚拟化为多个 vGPU,每个 vGPU 都分配给一个来宾 VM。 虽然 GRID 文档对内存隔离非常清楚,但不清楚来自 guestVM 的内核如何在主硬件上执行。

其中一张表(表 1)中的 Grid 数据表提到了 CUDA Cores(time-sliced shared) 。这是否意味着源自一个来宾 VM 的 CUDA 内核会在一个时间片内捕获整个 GPU,然后是来自其他 VM 的内核?

参考 GRID 数据表:http://images.nvidia.com/content/pdf/grid/whitepaper/NVIDIA-GRID-WHITEPAPER-vGPU-Delivering-Scalable-Graphics-Rich-Virtual-Desktops.pdf

【问题讨论】:

    标签: cuda nvidia


    【解决方案1】:

    目前,来自使用 GRID vGPU 的 VM 的 CUDA 操作是不可能的,只有一个例外。

    如果使用的 GRID (2.0) 配置文件是将整个物理 GPU 映射到单个 VM 的配置文件,则在这种情况下可以进行 CUDA 操作。在这种情况下,一般 CUDA 行为应该类似于裸机操作。

    目前,此类行为确实涉及图形操作和 CUDA 操作之间的时间切片(“上下文切换”),与裸机场景中的行为相同。

    这可能会在未来发生变化。

    请注意,这里的“物理 GPU”是指完整的逻辑 GPU 设备。例如,Tesla M60 有两个这样的板载“物理 GPU”(每个都有 8GB 内存),因此可以支持两个这样的 VM,其中选定的 GRID 配置文件指示整个物理 GPU 映射到单个 VM .

    可以在here找到对此行为的引用:

    但应注意,此处存在一些限制,NVIDIA 指出 CUDA vGPU 支持需要使用 GRID 2.0“8GB 配置文件”。

    【讨论】:

    • 非常感谢您的澄清。
    猜你喜欢
    • 1970-01-01
    • 2019-10-01
    • 2023-04-04
    • 1970-01-01
    • 2020-09-28
    • 2018-08-29
    • 2017-03-02
    • 2011-01-16
    • 1970-01-01
    相关资源
    最近更新 更多