访问硬编码数组和运行时初始化数组之间是否存在性能差异？

Question

比如我想用数组SQRT[i]创建一个平方根表来优化一个游戏，但是不知道下面的初始化访问SQRT[i]的值有没有性能差异：

1. 硬编码数组

   int SQRT[]={0,1,1,1,2,2,2,2,2,3,3,.......255,255,255}
   

2. 在运行时生成值

   int SQRT[65536];
   int main(){
       for(int i=0;i<65536;i++){
           SQRT[i]=sqrt(i);
       }
       //other code
       return 0;
   }
   

访问它们的一些示例：

    if(SQRT[a*a+b*b]>something)
    ...

我不清楚程序是否以不同的方式存储或访问硬代码数组，也不知道编译器是否会优化硬代码数组以加快访问时间，是否有性能访问数组时的区别？

Answer 1

首先，你应该做正确的硬编码数组：

static const int SQRT[]={0,1,1,1,2,2,2,2,2,3,3,.......255,255,255};

（同样使用uint8_t而不是int可能会更好，这样可以减小数组的大小，使其对缓存更友好）

这样做比替代方法有一个很大的优势：编译器可以轻松检查数组的内容是否无法更改。

如果没有这个，编译器必须是偏执的——每个函数调用都可能改变SQRT的内容，每个指针都可能指向SQRT，因此任何通过int*或char*进行的写入可能正在修改数组。如果编译器无法证明这不会发生，那么这就会限制它可以进行的优化类型，在某些情况下这可能会影响性能。

另一个潜在优势是能够在编译时解决涉及常量的问题。

如果需要，您可以通过巧妙地使用 __restrict__ 来帮助编译器解决问题。

在现代 C++ 中，您可以两全其美；应该可以（并且以合理的方式）编写将在编译时运行的代码，以将SQRT 初始化为constexpr。不过，最好问一个新问题。

Answer 2

正如人们在 cmets 中所说：

if(SQRT[a*a+b*b]>something)

是一个可怕的示例用例。如果这就是您需要 SQRT 的全部，只需平方 something。

只要您可以告诉编译器SQRT 没有任何别名，那么运行时循环将使您的可执行文件更小，并且只会在启动期间增加少量的 CPU 开销。绝对使用uint8_t，而不是int。从 8 位内存位置加载 32 位临时文件并不比从零填充的 32b 内存位置加载慢。 （x86 上额外的 movsx 指令，而不是使用内存操作数，将在减少缓存污染方面付出更多的代价。RISC 机器通常不允许内存操作数，所以你总是需要一条指令来将值加载到一个寄存器。）

另外，sqrt 在 Sandybridge 上的延迟为 10-21 个周期。如果你不经常需要它，int->double、sqrt、double->int 链并不比 L2 缓存命中差多少。而且比去 L3 或主内存要好。如果你需要很多sqrt，那么当然，制作一个LUT。即使您在桌子上跳来跳去并导致 L1 未命中，吞吐量也会好得多。

您可以通过平方而不是平方来优化初始化，例如

uint8_t sqrt_lookup[65536];
void init_sqrt (void)
{
    int idx = 0;
    for (int i=0 ; i < 256 ; i++) {
        // TODO: check that there isn't an off-by-one here
        int iplus1_sqr = (i+1)*(i+1);
        memset(sqrt_lookup+idx, i, iplus1_sqr-idx);
        idx = iplus1_sqr;
    }
}

您仍然可以获得将sqrt_lookup 设置为const 的好处（编译器知道它不能别名）。要么使用restrict，要么对编译器撒谎，让表的用户看到const 数组，但实际上是你写的。

这可能涉及对编译器撒谎，通过在大多数地方声明extern const，而不是在初始化它的文件中声明。您必须确保这确实有效，并且不会创建引用两个不同符号的代码。如果您只是在初始化它的函数中丢弃const，如果编译器将它放在rodata（或只读bss内存中，如果它未初始化，如果在某些平台上可能的话，您可能会得到一个段错误？ )

也许我们可以避免对编译器撒谎，用：

uint8_t restrict private_sqrt_table[65536];  // not sure about this use of restrict, maybe that will do it?
const uint8_t *const sqrt_lookup = private_sqrt_table;

实际上，这只是一个指向const 数据的const 指针，并不能保证它所指向的内容不会被其他引用更改。

Answer 3

访问时间将相同。当您对数组进行硬编码时，在 main 之前调用的 C 库例程将对其进行初始化（在嵌入式系统中，启动代码将读写数据复制，即从 ROM 硬编码到数组所在的 RAM 地址，如果数组是常量，则直接从 ROM 访问）。

如果使用for循环进行初始化，那么调用Sqrt函数会有开销。