返回数组的 cuda 设备函数

Question

尝试为此找到解决方案： Cuda Kernel 使用了几个设备函数，其中一些需要返回数组。

我尝试这样做：

__device__ float *MatProd2dWxC(float *a2d, float  *b2d, int mGl, int nGl)
{
    int aRows = mGl; int aCols = nGl;
    int bRows = nGl; int bCols = 1;

    float *result;
    //result.resize(mGl*aRows);

    for (int i = 0; i < aRows; ++i) // each row of a
        for (int j = 0; j < bCols; ++j) // each col of b
            for (int k = 0; k < aCols; ++k) 
                result[i*mGl + j] += a2d[i*mGl + k] * b2d[k*mGl + j];

    return result;
}

不要编译这个，因为函数名中的指针不是好主意。但是如何做正确的事情，包括额外的临时数组并将函数更改为无效。但后来我需要在内核代码中多次使用它，寻找更优雅的解决方案。

Answer 1

从设备函数返回一个指针是可以的，而且工作得很好。

您的代码中的问题是您没有为 result 指针分配任何值，然后您取消引用并稍后从函数返回。你需要使用float *result = malloc(mGl*aRows * sizeof(float));来分配内存（以后别忘了free()！）。

然而更好的设计是将一个已经分配的指针传入你的设备函数。这建立了分配的明确所有权（即在您的代码中明确应该调用 free() 的位置），并且在某些情况下可以避免不必要的分配，例如分配可以被拉到循环之外。

这个问题与 CUDA 无关，它也适用于标准 C。