为 CUDA 内核调用设置 Visual Studio Intellisense

Question

我刚刚开始进行 CUDA 编程，一切顺利，我的 GPU 已被识别，一切正常。我已经使用这个非常有用的指南在 Visual Studio 中部分设置了 Intellisense： http://www.ademiller.com/blogs/tech/2010/10/visual-studio-2010-adding-intellisense-support-for-cuda-c/

这里： http://www.ademiller.com/blogs/tech/2011/05/visual-studio-2010-and-cuda-easier-with-rc2/

但是，Intellisense 仍然无法接收这样的内核调用：

// KernelCall.cu
#include <iostream>
#include "cuda.h"
#include "cuda_runtime.h"
#include "device_launch_parameters.h"

__global__ void kernel(void){}

int main()
{
    kernel<<<1,1>>>();

    system("pause");
    return 0;
}

行 kernel>>() 带有红色下划线，特别是第一个箭头左侧的一个箭头，错误为“错误：预期和表达式”。但是，如果我将鼠标悬停在函数上，它的返回类型和参数会正确显示。它仍然编译得很好，我只是想知道如何摆脱这个小烦恼。

Answer 1

哇，这个线程上有很多灰尘。我想出了一个宏修复（好吧，更像是解决方法......），我想我会分享：

// nvcc does not seem to like variadic macros, so we have to define
// one for each kernel parameter list:
#ifdef __CUDACC__
#define KERNEL_ARGS2(grid, block) <<< grid, block >>>
#define KERNEL_ARGS3(grid, block, sh_mem) <<< grid, block, sh_mem >>>
#define KERNEL_ARGS4(grid, block, sh_mem, stream) <<< grid, block, sh_mem, stream >>>
#else
#define KERNEL_ARGS2(grid, block)
#define KERNEL_ARGS3(grid, block, sh_mem)
#define KERNEL_ARGS4(grid, block, sh_mem, stream)
#endif

// Now launch your kernel using the appropriate macro:
kernel KERNEL_ARGS2(dim3(nBlockCount), dim3(nThreadCount)) (param1); 

我更喜欢这种方法，因为由于某种原因，我的代码中总是丢失 '

Answer 2

Visual Studio 为 C++ 提供 IntelliSense，火箭科学家博客中的技巧基本上是依靠 CUDA-C 与 C++ 的相似性，仅此而已。

在 C++ 语言中，正确解析尖括号是很麻烦的。 < 是 less than 和 for 模板，<< 是 shift，记得不久前我们不得不在嵌套模板声明之间放置一个空格。

所以事实证明，提出这种语法的 NVIDIA 人并不是语言专家，并且碰巧选择了最糟糕的分隔符，然后将它翻了三倍，好吧，你会遇到麻烦的。令人惊奇的是，Intellisense 在看到这一点时完全可以工作。

我知道在 CUDA 中获得完整 IntelliSense 的唯一方法是从运行时 API 切换到驱动程序 API。 C++ 只是 C++，而 CUDA 仍然是（有点）C++，语言解析没有 <<<>>> 不好的地方。

Answer 3

从 VS 2015 和 CUDA 7 开始，您可以在任何其他包含之前添加这两个包含，前提是您的文件具有 .cu 扩展名：

#include "cuda_runtime.h"
#include "device_launch_parameters.h"

不需要宏或任何东西。之后一切都会完美运行。

Answer 4

我喜欢Randy 的solution。我将使用 C 预处理器可变参数宏进行匹配和提升：

#ifdef __INTELLISENSE__
#define CUDA_KERNEL(...)
#else
#define CUDA_KERNEL(...) <<< __VA_ARGS__ >>>
#endif

用法示例：

my_kernel1 CUDA_KERNEL(NUM_BLOCKS, BLOCK_WIDTH)();
my_kernel2 CUDA_KERNEL(NUM_BLOCKS, BLOCK_WIDTH, SHMEM, STREAM)(param1, param2);

Answer 5

我一直在学习 CUDA 并遇到了这个确切的问题。正如其他人所说，这只是 Intellisense 问题，可以忽略，但我找到了一个干净的解决方案，实际上将其删除。

如果 >> 在模板函数中，它似乎被解释为正确的代码。

当我想为内核创建包装器以便能够从常规 cpp 代码中调用它们时，我偶然发现了它。它既是一个很好的抽象，又消除了语法错误。

内核头文件（例如kernel.cuh）

const size_t THREADS_IN_BLOCK = 1024;

typedef double numeric_t;

// sample kernel function headers
__global__ void sumKernel(numeric_t* out, numeric_t* f, numeric_t* blockSum, size_t N);
__global__ void expKernel(numeric_t* out, numeric_t* in, size_t N);
// ..

// strong-typed wrapper for a kernel with 4 arguments
template <typename T1, typename T2, typename T3, typename T4>
void runKernel(void (*fun)(T1, T2, T3, T4), int Blocks, T1 arg1, T2 arg2, T3 arg3, T4 arg4) { 
    fun <<<Blocks, THREADS_IN_BLOCK >>> (arg1, arg2, arg3, arg4);
}

// strong-typed wrapper for a kernel with 3 arguments
template <typename T1, typename T2, typename T3>
void runKernel(void (*fun)(T1, T2, T3), int Blocks, T1 arg1, T2 arg2, T3 arg3) { 
    fun <<<Blocks, THREADS_IN_BLOCK >>> (arg1, arg2, arg3);
}

// ...

// the one-argument fun cannot have implementation here
void runKernel(void (*fun)(), int Blocks);

在 .cu 文件中（您会在此处遇到语法错误，但您是否需要无参数内核函数？如果不需要，可以删除此文件和相应的头文件）：

void runKernel(void (*fun)(), int Blocks) { 
    fun <<<Blocks, THREADS_IN_BLOCK >>> ();
}

.cpp 文件中的用法：

runKernel(kernelFunctionName, arg1, arg2, arg3);
// for example runKernel(expKernel, B, output, input, size);