如果从 CUDA 4.2 中的 __device__ 或 __global__ 代码调用 new 和 delete 关键字的行为，有人可以清楚地解释一下吗？
内存在哪里分配，如果它在设备上是本地的还是全局的？
我试图在 GPU 上创建神经网络的问题的上下文，我想要一个链接表示（就像一个链接列表，但每个神经元都存储一个链接的链接列表，其中包含权重和指向另一个的指针神经元），我知道我可以在内核启动之前使用cudaMalloc 进行分配，但我希望内核控制网络的创建方式和时间。
谢谢！
【问题讨论】：
标签： cuda dynamic-memory-allocation
C++ new 和 delete 对设备堆内存进行操作。该设备允许以这种方式分配一部分全局（即板载）内存。 new 和 delete 的工作方式与 device malloc and free 类似。
您可以使用runtime API call 调整堆可用的设备全局内存量。
您可能也对C++ new/delete sample code.感兴趣
这些功能需要 CC 2.0 或更高版本。
【讨论】：
__device__ malloc()/free() 或new/delete 会对性能产生负面影响。见stackoverflow.com/a/13485322/442006。
int myvalues[200];)；如果您使用__device__ malloc() 或者如果您为每个线程分配单独的内存块，则不会获得完全合并的内存访问。这是因为，当一个 warp 中的 32 个线程处理执行加载或存储的指令时，每个线程从按分配块大小分隔的位置读取，而理想情况下，它们应该读取相邻的值。编译器以交错方式存储固定大小的 C 数组，使访问能够完全合并。