在 C++ 中找不到 AoS 和 SoA 之间的性能差异

Question

我试图从实际意义上理解 AoS 和 SoA 之间的区别。

我已经在 C# 中尝试过，但没有产生任何结果，所以现在我在 C++ 中尝试。

#include <stdlib.h>
#include <chrono>
#include <iostream>
#include <math.h>

const int iterations = 40000000;

class Entity {
public:
    float a, b, c;
};

struct Entities {
public:
    float a[iterations];
    float b[iterations];
    float c[iterations];
};

void AoSTest(int iterations, Entity enArr[]);

void SoATest(int iterations, Entities* entities);

int main()
{
    Entity* enArr = new Entity[iterations];

    Entities* entities = new Entities;

    int A = rand() - 50;
    int B = rand() - 50;
    int C = rand() - 50;

    for (int i = 0; i < iterations; i++)
    {
        enArr[i].a = A;
        enArr[i].b = B;
        enArr[i].c = C;

        entities->a[i] = A;
        entities->b[i] = B;
        entities->c[i] = C;
    }

    auto start = std::chrono::high_resolution_clock::now();

    AoSTest(iterations, enArr);
    //SoATest(iterations, entities);

    auto finish = std::chrono::high_resolution_clock::now();
    std::chrono::duration<double> elapsed = finish - start;

    //std::cout << std::to_string(elapsed.count()) + "time";
    std::cout << std::to_string(std::chrono::duration_cast<std::chrono::seconds>(finish - start).count()) + "s";
}

void AoSTest(int iterations, Entity enArr[]) {
    for (int i = 0; i < iterations; i++)
    {   
        enArr[i].a = sqrt(enArr[i].a * enArr[i].c);
        enArr[i].c = sqrt(enArr[i].c * enArr[i].a);
        //std::cout << std::to_string(sqrt(enArr[i].a) + sqrt(enArr[i].b)) + "\n";
    }
}

void SoATest(int iterations, Entities* entities) {
    for (int i = 0; i < iterations; i++)
    {
        entities->a[i] = sqrt(entities->a[i] * entities->c[i]);
        entities->c[i] = sqrt(entities->c[i] * entities->a[i]);
        //std::cout << std::to_string(sqrt(entities->a[i]) + sqrt(entities->b[i])) + "\n";
    }
}

我的想法是，由于理论上数据布局应该不同，因此应该有性能差异......

我不明白为什么有人说如果它对上下文如此敏感，到目前为止我认为它有很多好处。

它完全依赖于 SIMD 还是某些特定的优化选项？

我在 Visual Studio 中运行它。

Answer 1

我使用英特尔编译器 18.0.1 编译了您的代码并开启了优化 (-O3)。我添加了一些返回值，只是为了确保没有任何东西可以被优化掉。

我发现数组结构 (SoA) 的速度大约是结构数组 (AoS) 的两倍。这是有道理的，因为如果您使用 SoA 方法，数量 B 将不会从慢速内存 (RAM) 加载到缓存中，但使用 AoS 方法它将占用缓存。请注意，我将时间分辨率更改为纳秒。否则，我总是得到0s 作为输出。

#include <stdlib.h>
#include <chrono>
#include <iostream>
#include <math.h>
const int iterations = 40000000;

class Entity {
  public:
    float a, b, c;
};

struct Entities {
  public:
    float a[iterations];
    float b[iterations];
    float c[iterations];
};

int AoSTest(int iterations, Entity enArr[]);

int SoATest(int iterations, Entities* entities);

int main() {
    Entity* enArr = new Entity[iterations];

    Entities* entities = new Entities;

    int A = rand() - 50;
    int B = rand() - 50;
    int C = rand() - 50;

    for (int i = 0; i < iterations; i++) {
        enArr[i].a = A;
        enArr[i].b = B;
        enArr[i].c = C;

        entities->a[i] = A;
        entities->b[i] = B;
        entities->c[i] = C;
    }

    auto start = std::chrono::high_resolution_clock::now();

    //    const auto ret = AoSTest(iterations, enArr);
    const auto ret = SoATest(iterations, entities);

    auto finish = std::chrono::high_resolution_clock::now();
    std::chrono::duration<double> elapsed = finish - start;

    std::cout << std::to_string(std::chrono::duration_cast<std::chrono::nanoseconds>(finish - start).count()) + "ns "
              << "ret=" << ret;
}

int AoSTest(int iterations, Entity enArr[]) {
    for (int i = 0; i < iterations; i++) {
        enArr[i].a = sqrt(enArr[i].a * enArr[i].c);
        enArr[i].c = sqrt(enArr[i].c * enArr[i].a);
    }
    return enArr[iterations - 1].c;
}

int SoATest(int iterations, Entities* entities) {
    for (int i = 0; i < iterations; i++) {
        entities->a[i] = sqrt(entities->a[i] * entities->c[i]);
        entities->c[i] = sqrt(entities->c[i] * entities->a[i]);
    }
    return entities->c[iterations - 1];
}

Answer 2

SoA 有利于使用 SIMD 内在函数加载或存储您的数据，参见例如https://software.intel.com/sites/landingpage/IntrinsicsGuide/#techs=AVX&cats=Load&expand=3317 用于英特尔 AVX。

现在，在您的具体情况下，您需要提供有关编译器选项等的更多信息，但编译器可能不容易对您的具体情况进行矢量化。 我建议您对每个条目使用独立的指令（这里 c 取决于 a）来执行更多测试。