有没有办法在保持缓存局部性的同时计算标量产品？

Question

假设我有两个相同长度的floats 数组n：

float *a, *b;
int n;

我想计算他们的标量积。天真的方法是这样的：

int i;
float result=0;
for (i=0;i<n;i++)
  result += a[i]*b[i];

但是从数据局部性的角度来看，这很糟糕，尤其是如果n 很大或者a 和b 在内存中相距很远。在每次迭代中，我们交替从a 和b 获取值。有什么方法可以提高效率吗？

Answer 1

除非你很不幸 a 和 b 都映射到同一个高速缓存行，否则处理器的获取管道几乎一直都是满的。数据非局部性和跨步在更大、更平方的数组中可能是个大问题，但在这里我认为您不必担心。

如果您将 a 和 b 值交错，那么两个浮点数将适合 64 位机器上的一次提取，这可能会有所帮助（尽管内存对齐问题使这种架构依赖。）