如何有效地将这种数据结构发送到 CUDA 中？ [复制]

Question

我有这样的数据结构：

std::vector mystruct[100];

mystruct[100] 的每个向量都有不同的大小。例如，mystruct[0] 的大小为 10，mystruct[1] 的大小为 5，mystruct[2] 的大小为 12，以此类推。

那么我怎样才能有效地将这种数据结构发送到CUDA呢？

Answer 1

如果主机数据结构必须是您描述的方式，我认为您只能单独下载每个向量。

如果您可以更改数据结构，您可以考虑将所有向量一个接一个地存储在一大块内存中，然后将这个大块连同一个偏移量表一起下载，该偏移量表告诉您在什么位置找到哪个向量。当然，在后一种方法中，调整向量的大小可能会变得昂贵，但也许您并不经常需要该操作。此外，如果您知道向量大小的合理上限，则可以尝试为每个向量分配那么多空间，而不管它是否被完全使用。