GLSL：结构数组与 OpenGL 缓冲区中的数组结构答案

【问题标题】：GLSL: Array of Structs vs Struct of Arrays in OpenGL BuffersGLSL：结构数组与 OpenGL 缓冲区中的数组结构
【发布时间】：2016-04-11 15:35:45
【问题描述】：

现在，当读取 Internet 中的不同资源时，如果您要按顺序处理大型数组，数组结构似乎是一种非常高效的数据存储方式。

例如在 C++ 中

struct CoordFrames
{
    float* x_pos;
    float* y_pos;
    float* z_pos;
    float* scaleFactor;
    float* x_quat;
    float* y_quat;
    float* z_quat;
    float* w_quat;
};

允许比数组更快地处理大型数组（感谢 SIMD）

struct CoordFrame
{
    glm::vec3 position;
    float scaleFactor;
    glm::quat quaternion;
};

GPU 是为大规模并行计算而设计的处理器。 SIMD 是这里的“必备”。所以结论是数组结构在这里最有用。

但是……

我从来没有在任何地方看到过这样的 GLSL 着色器（我只是觉得不对劲）：

#define NUM_POINT_LIGHTS 16
uniform float point_light_x[NUM_POINT_LIGHTS];
uniform float point_light_y[NUM_POINT_LIGHTS];
uniform float point_light_z[NUM_POINT_LIGHTS];
uniform float point_light_radius[NUM_POINT_LIGHTS];
uniform float point_light_color_r[NUM_POINT_LIGHTS];
uniform float point_light_color_g[NUM_POINT_LIGHTS];
uniform float point_light_color_b[NUM_POINT_LIGHTS];
uniform float point_light_power[NUM_POINT_LIGHTS];

或类似的东西也很少见：

#define NUM_POINT_LIGHTS 16
uniform vec3 point_light_pos[NUM_POINT_LIGHTS];
uniform float point_light_radius[NUM_POINT_LIGHTS];
uniform vec3 point_light_color[NUM_POINT_LIGHTS];
uniform float point_light_power[NUM_POINT_LIGHTS];

每个人，包括我在内，似乎都更喜欢这样写 GLSL：

#define NUM_POINT_LIGHTS 16
struct PointLight
{
  vec3 origin;
  float radius;
  vec3 color;
  float power;
};
uniform PointLight pointLights[NUM_POINT_LIGHTS];

另外，在阅读原始 OpenGL Wiki 关于顶点数组数据时，我突然想知道，interleaved data should be preferred：

作为一般规则，您应该尽可能使用交错属性。

问题：在 GLSL 着色器中尝试使用数组结构有意义吗？

什么是真的？ GPU 是否针对我们喜欢编写着色器的方式进行了高度优化，但实际上并没有任何区别？

【问题讨论】：

标签： arrays performance glsl gpu data-oriented-design

【解决方案1】：

虽然我目前没有确切的数字，但我认为总体上不会有帮助。

许多现代 GPU 确实使用 SoA 格式。然而，数组部分通常是着色器的多次调用，当查看单个调用时，就好像您在没有 SIMD 的情况下执行一样。因此，特别是在统一变量的情况下，变量的 SoA 布局没有显着的性能差异。

其他一些 GPU 实际上具有 AoS 布局。例如，英特尔 Sandy Bridge（Core 2011 版）在一个内核上同时执行 2 个顶点着色器，但有一个 8 宽的 SIMD 单元，基本上是 2 个 vec4 的布局。因此，使用向量可以使编译器更容易优化您的代码。

如果我们看看 SoA 对 CPU 的好处，有两个主要好处

通过仅访问包含您需要的成员的缓存行来提高缓存利用率。
能够使用 SIMD 指令轻松加载和存储数据。

更好的缓存利用率对于 GPU 来说基本相同。但是，无论如何，您通常都会为单次绘制操作优化数据结构，因此您不会遗漏任何成员来提高缓存利用率。尽管在渲染阴影贴图时将一系列材质作为 AoS 包含在内可能仍然是一种浪费。

使用 SIMD 指令的问题要小得多，因为从单个着色器调用的角度来看，您并没有真正使用 SIMD，因此对您的加载和存储没有任何限制。根据架构的不同，可能会有一些指令加载多个元素，但例如在 AMD GCN 架构中，您可以在之后使用单独加载的变量，因此可以只加载整个结构并使用它。

我猜想，如果您的计算能力有限，这并不重要，如果您的带宽有限，您应该减小加载数据的大小，您可以使用 SoA 布局来实现该目标。

如果只是 16 盏灯的阵列，我不会担心，因为它非常小，可能不会真正使用大量带宽。

至于交错属性，这可能非常依赖于 GPU。例如，对于 Sandy Bridge，有 2 个顶点着色器调用，通过交错这两个顶点，您可以获得更好的局部性。

但是，在 AMD GCN 上，单个内核可以同时执行 64 个着色器，即使您不交错属性，您也可能会获得良好的局部性，因为每个属性都应该填满整个缓存行（假设顶点如果您进行索引渲染，则接近）。

请记住，GPU、驱动程序和您尝试执行的操作之间的性能特征可能会有所不同。没有什么比针对特定问题的良好基准。

【讨论】：