我刚刚偶然发现了 this blog post 关于缓存算法的信息。
作者展示了两个代码示例，它们循环通过一个矩形并计算一些东西（我的猜测是计算代码只是一个占位符）。
在其中一个示例中，他垂直扫描矩形，而在另一个示例中水平扫描。然后他说第二个是最快的，每个程序员都应该知道为什么。现在我一定不是程序员，因为对我来说它看起来完全一样。
谁能解释为什么前者更快？
【问题讨论】：
标签： optimization caching loops
缓存一致性。当你水平扫描时，你的数据在内存中会更靠近，所以你会有更少的缓存未命中，因此性能会更快。对于足够小的矩形，这无关紧要。
【讨论】：
一个答案已被接受，但我认为这不是全部。
是的，缓存是所有这些元素必须以一些顺序存储在内存中的重要原因。如果按照它们的存储顺序对它们进行索引，则可能会减少缓存未命中。可能。
另一个问题（很多答案也提到）是几乎每个处理器都有一个非常快的整数增量指令。它们通常不会具有非常快的“增量乘以第二个任意数量”。这就是您在索引“反对谷物”时所要求的。
第三个问题是优化。已经为优化此类循环投入了大量精力和研究，如果您以某种合理的顺序对其进行索引，您的编译器将更有可能将其中一项优化发挥作用。
【讨论】：
缓存确实是原因，但如果你想知道争论的实质，你可以看看 U. Drepper 的“What Every Programmer Should Know About Memory”：
【讨论】：
稍微扩展之前的答案：
通常，作为程序员，我们可以将程序的可寻址内存视为一个扁平的字节数组，从 0x00000000 到 0xFFFFFFFF。操作系统将保留其中一些地址（例如，所有低于 0x800000000 的地址）供自己使用，但我们可以对其他地址做我们喜欢的事情。所有这些内存位置都位于计算机的 RAM 中，当我们想要读取或写入它们时，我们会发出相应的指令。
但这不是真的！这个简单的进程内存模型有很多复杂性：虚拟内存、交换和缓存。
与 RAM 对话需要相当长的时间。它比硬盘快得多，因为没有任何旋转板或磁铁，但按照现代 CPU 的标准，它仍然相当慢。因此，当您尝试从内存中的特定位置读取数据时，您的 CPU 不会只是将该位置读入寄存器并称其为好。相反，它会将该位置/和一堆附近的位置/读取到一个处理器缓存中，该缓存位于 CPU 上并且可以比主内存更快地访问。
现在我们对计算机的行为有了更复杂但更正确的看法。当我们尝试读取内存中的某个位置时，首先我们查看处理器缓存以查看该位置的值是否已存储在那里。如果是，我们使用缓存中的值。如果不是，我们需要更长的时间进入主内存，检索该值以及它的几个邻居并将它们保存在缓存中，踢掉一些曾经存在的内容以腾出空间。
现在我们可以看到为什么第二个代码 sn-p 比第一个快。在第二个示例中，我们首先访问a[0]、b[0] 和c[0]。这些值中的每一个都与它们的邻居一起被缓存，例如a[1..7]、b[1..7] 和c[1..7]。然后当我们访问a[1]、b[1]和c[1]时，它们已经在缓存中，我们可以快速读取它们。最终我们到达a[8]，并且不得不再次访问 RAM，但八分之七的时候我们使用的是不错的快速缓存内存，而不是笨重的慢速 RAM 内存。
（那么为什么不访问a、b 和c 将彼此踢出缓存？这有点复杂，但本质上处理器决定将给定值存储在缓存中的哪个位置通过其地址，因此空间上不相邻的三个对象不太可能缓存到同一位置。）
相比之下，请考虑 lbrandy 帖子中的第一个 sn-p。我们首先读取a[0]、b[0]和c[0]，缓存a[1..7]、b[1..7]和c[1..7]。然后我们访问a[width]、b[width] 和c[width]。假设宽度 >= 8（它可能是，否则我们不会关心这种低级优化），我们必须再次进入 RAM，缓存一组新值。当我们到达a[1] 时，它可能已被踢出缓存以为其他东西腾出空间。在三个大于处理器缓存的数组的不常见情况下，/每次读取/都可能会错过缓存，从而极大地降低性能。
这是对现代缓存行为的高级讨论。对于更深入和技术性的东西，this 看起来像是对该主题的全面而可读的处理。
【讨论】：
是的，'缓存一致性'...当然，这取决于，您可以优化垂直扫描的内存分配。传统上，视频内存是从左到右、从上到下分配的，我敢肯定回到 CRT 屏幕以相同方式绘制扫描线的时代。理论上你可以改变这一点——所有这些都是说水平方法没有任何内在的东西。
【讨论】：
原因是当您深入了解内存布局的硬件级别时，实际上并没有二维数组这样的东西。因此，“垂直”扫描以到达您需要访问的下一个单元格，您正在按照这些思路进行操作
对于索引为 (row, column) 的二维数组，需要将其转换为 array[index] 的一维数组，因为计算机中的内存是线性的。
因此，如果您是垂直扫描，则下一个索引计算为：
index = row * numColumns + col;
但是，如果您是水平扫描，则下一个索引如下：
index = index++;
单次加法对 CPU 的操作码比乘法 AND 加法要少，因此由于计算机内存的架构，水平扫描速度更快。
缓存不是答案，因为如果这是您第一次加载此数据，则每次数据访问都将是缓存未命中。对于第一次执行，水平更快，因为操作更少。缓存会使通过三角形的后续循环更快，如果三角形足够大，则垂直可能会因为缓存未命中而变慢，但由于操作数量增加，将始终比水平扫描慢需要访问下一个元素。
【讨论】：