我如何知道安装了 numba 或 tensorflow 的 python 代码中每个块的最大线程数？答案

【问题标题】：How do I know the maximum number of threads per block in python code with either numba or tensorflow installed?我如何知道安装了 numba 或 tensorflow 的 python 代码中每个块的最大线程数？
【发布时间】：2018-02-07 01:04:37
【问题描述】：

python 中是否有安装了 numba 或 tensorflow 的代码？例如，如果我想知道 GPU 内存信息，我可以简单地使用：

from numba import cuda
gpus = cuda.gpus.lst
for gpu in gpus:
    with gpu:
        meminfo = cuda.current_context().get_memory_info()
        print("%s, free: %s bytes, total, %s bytes" % (gpu, meminfo[0], meminfo[1]))

在麻木。但是我找不到任何代码可以为我提供每个块信息的最大线程数。我希望代码能够检测每个块的最大线程数，并进一步计算每个方向上指定的块数。

【问题讨论】：

你能改写你的问题吗？

标签： python tensorflow cuda numba

【解决方案1】：

from numba import cuda
gpu = cuda.get_current_device()
print("name = %s" % gpu.name)
print("maxThreadsPerBlock = %s" % str(gpu.MAX_THREADS_PER_BLOCK))
print("maxBlockDimX = %s" % str(gpu.MAX_BLOCK_DIM_X))
print("maxBlockDimY = %s" % str(gpu.MAX_BLOCK_DIM_Y))
print("maxBlockDimZ = %s" % str(gpu.MAX_BLOCK_DIM_Z))
print("maxGridDimX = %s" % str(gpu.MAX_GRID_DIM_X))
print("maxGridDimY = %s" % str(gpu.MAX_GRID_DIM_Y))
print("maxGridDimZ = %s" % str(gpu.MAX_GRID_DIM_Z))
print("maxSharedMemoryPerBlock = %s" % str(gpu.MAX_SHARED_MEMORY_PER_BLOCK))
print("asyncEngineCount = %s" % str(gpu.ASYNC_ENGINE_COUNT))
print("canMapHostMemory = %s" % str(gpu.CAN_MAP_HOST_MEMORY))
print("multiProcessorCount = %s" % str(gpu.MULTIPROCESSOR_COUNT))
print("warpSize = %s" % str(gpu.WARP_SIZE))
print("unifiedAddressing = %s" % str(gpu.UNIFIED_ADDRESSING))
print("pciBusID = %s" % str(gpu.PCI_BUS_ID))
print("pciDeviceID = %s" % str(gpu.PCI_DEVICE_ID))

这些似乎是当前支持的所有属性。我找到了列表here，它与 CUDA 文档中的枚举值匹配，因此扩展它相当简单。例如，我添加了CU_DEVICE_ATTRIBUTE_TOTAL_CONSTANT_MEMORY = 9，现在可以按预期工作。

如果我这个周末有时间，我会尝试完成这些，更新文档，然后提交 PR。

【讨论】：

【解决方案2】：

python 中是否有安装了 numba ~~或 tensorflow~~ 的代码？

我找不到。 numba 设备类似乎具有检索设备属性的功能：

In [9]: ddd=numba.cuda.get_current_device()

In [10]: print(ddd)
<CUDA device 0 'b'GeForce GTX 970''>

In [11]: print(ddd.attributes)
{}

但至少在我使用的 numba 版本 (0.31.0) 中，字典似乎没有被填充。否则，在此阶段 numba 似乎不会公开任何用于检索设备或编译函数属性的传统驱动程序 API 功能。

【讨论】：