我仍然对这些未知大小的矩阵感到生气，每个维度可能在 10-20.000 之间变化。
我正在查看 CUDA sdk 并想知道：如果我选择的块数太高怎么办？
类似于 X 和 Y 维度上 9999 x 9999 块的网格，如果我的硬件具有无法容纳所有这些块的 SM，内核会出现问题还是性能会崩溃？
我不知道如何在块/线程中标注可能变化很大的东西。我正在考虑使用我的硬件支持的最大块数，然后让其中的线程在所有矩阵中工作，这是正确的方法吗？
【问题讨论】：
线程块与内核没有一对一的映射。块在可用时被安排到核心，这意味着您可以根据需要请求任意数量（可能达到限制）。请求大量块只会减慢系统速度，因为它会将无操作线程块加载和卸载到内核。
您可以在运行时指定网格和块的尺寸。
编辑：这里是网格和块的尺寸限制，来自文档。
【讨论】：
如果您选择过大的块大小，则会浪费一些周期，而“死”块会被淘汰（通常只有几十微秒的数量级，即使对于“全尺寸”Fermi 或GT200 卡）。这不是一个巨大的惩罚。
但网格维度应该始终是可计算的先验。通常在可量化的数据并行工作单元之间存在已知关系——例如每个数据点一个线程，或者每个矩阵列一个块或其他任何东西——这允许在运行时计算所需的网格尺寸。
另一种策略是使用固定数量的块（通常只需要在 GPU 上每个 MP 4-8 个）并让每个块/线程处理多个并行工作单元，因此每个块变成“执着的”。如果在每个线程的设置中存在大量固定开销成本，则可以将这些固定开销分摊到每个线程的更多工作中。
【讨论】：