展开的链表中节点中的元素都被访问得非常快1。
缓存行中的字节都被非常快地访问。
我们可以在这里看到类比,展开的链表用于将项目压缩到连续的内存区域中,以便它们对缓存更加友好。
要了解为什么节点大小大于缓存行可能会成为问题,请考虑一个架构,其缓存(具有任何关联性)只有一个行大小S。
还考虑一个节点大小为 2S 的展开链表。
最后,我们来分析一下算法的缓存未命中
For each node N
Let avg = ArithmeticMean(N.items)
For i = 0 To N.numerOfItems - 1
N.items[i] = avg
将节点中的每一项(假设是一个完整节点)的值设置为该节点的算术平均值。
要计算平均值,所有元素必须相加,访问第一个元素会触发缓存加载 (+1)。在前半部分,元素是从刚刚加载的缓存行中读取的。
一旦访问后半部分的第一个元素,就需要另一个缓存加载,并刷新旧行(+2)。直到节点结束,第二次加载完成所有未来的访问。
一旦我们得到平均值,前半部分将再次被访问,随后缓存加载 (+3),后半部分的行将很快再次被重新加载 (+4)。
该算法为节点触发 4 次缓存加载。
如果我们将节点的大小设置为 S 并重复分析,我们会看到只需要缓存加载。
使节点小于缓存线也可以,一些节点最终可能会共享同一条线,但一般不会受到伤害。
然而,这将使用更多的行而不是列表中的元素总数,因为每个元素都位于其自己的地址并且它们不一定靠近在一起。
在 S=1 的限制中,我们有一个普通的链表。
到目前为止,所有不太旧的 Intel CPU 都有 64 字节的缓存线。
不过,这可以很好地改变。
要查看您的 CPU 缓存信息,您可以参考以下问题:finding L2 cache size in Linux2。
归结为使用sudo dmidecode -t cache。
1 感谢数组用于存储元素,允许随机访问。
2 事实上所有缓存级别。