了解 CPU 缓存和缓存线

Question

我试图了解 CPU 缓存是如何运行的。假设我们有这个配置（例如）。

• 缓存大小 1024 字节
• 缓存行 32 字节
• 1024/32 = 总共 32 个缓存行。
• 单个缓存行可以存储 32/4 = 8 个整数。

1) 根据这些配置，标签长度应为 32-5=27 位，索引大小为 5 位（2^5 = 缓存行中每个字节的 32 个地址）。

如果总缓存大小为 1024 并且有 32 个缓存行，那么标签+索引存储在哪里？ （还有一个4*32 = 128字节。）是不是说缓存的实际大小是1024+128 = 1152？

2) 如果在本例中缓存行是 32 字节，这意味着每当 CPU 需要从 RAM 中获取新字节时，都会将 32 字节复制到缓存中。我是否正确假设所请求字节的缓存行位置将由其地址确定？

这就是我的意思：如果 CPU 在[FF FF 00 08] 处请求字节，那么可用的缓存行将被从[FF FF 00 00] 到[FF FF 00 1F] 的字节填充。而我们请求的单个字节将位于位置[08]。

3) 如果前面的陈述是正确的，这是否意味着用于索引的 5 位在技术上是不需要的，因为所有 32 字节都在缓存行中？

如果我有什么问题，请告诉我。 谢谢

Answer 1

缓存由数据和标记 RAM 组成，排列为访问时间与效率和物理布局的折衷。你错过了一个重要的统计数据：方式（组）的数量。你很少有 1-way 缓存，因为它们在简单的模式下表现得很糟糕。无论如何：

1) 是的，标签占用额外空间。这是设计妥协的一部分——您不希望它占总面积的很大一部分，以及为什么行大小不仅仅是 1 个字节或 1 个字。此外，索引的所有标签都是同时访问的，如果有很多方法，这会影响效率和布局。尺寸略大于您的估计。通常还有一些额外的位来标记有效性，有时还有提示。更多的路和更小的行需要标签占据更大的比例，所以通常行很大（32+字节），路很小（4-16）。

2) 是的。一些缓存还进行“关键字优先”提取，它们从导致行填充的字开始，然后提取其余部分。这减少了 CPU 等待它实际请求的数据的周期数。如果您错过写入，某些缓存将“直通”并且不会分配行，这避免了在写入之前必须先读取整个缓存行（这并不总是胜利）。

3) 标签不会存储低 5 位，因为它们不需要匹配缓存行。它们只是对单独的行进行索引。

Wikipedia 有一篇关于缓存的文章，虽然有点激烈，但也相当不错：http://en.wikipedia.org/wiki/CPU_cache - 请参阅“实施”。有一张关于如何拆分数据和标签的图表。我，我认为每个人都应该学习这些东西，因为当你知道底层机器的实际能力时，你真的可以提高代码的性能。

Answer 2

1. 缓存元数据通常不计为缓存本身的一部分。它甚至可能不存储在 CPU 的同一部分（它可能在另一个缓存中，使用特殊的 CPU 寄存器等实现）。
2. 这取决于您的 CPU 是否会获取未对齐的地址。如果它只会获取对齐的地址，那么您给出的示例将是正确的。如果 CPU 获取未对齐的地址，那么它可能会获取 0xFFFF0008 到 0xFFFF0027 的范围。
3. 索引字节仍然有用，即使缓存访问是对齐的。这为 CPU 提供了一种速记方法，用于引用高速缓存行中的字节，它可以在其内部簿记中使用。您可以通过知道与缓存行关联的地址和与字节关联的地址来获得相同的信息，但要携带的信息要多得多。

不同的 CPU 实现缓存的方式非常不同。为获得您问题的最佳答案，请提供有关您所讨论的特定 CPU（类型、型号等）的更多详细信息。

Answer 3

这是基于我模糊的记忆，您应该阅读 Hennessey 和 Patterson 的“计算机架构：定量方法”之类的书。好书。

假设一个 32 位 CPU...（否则您的数字将需要使用 >4 字节（可能

1) 我相信它至少是 4*32 字节。根据 CPU 的不同，芯片架构师可能已经决定跟踪除完整地址之外的其他信息。但它通常不被视为缓存的一部分。

2) 是的，但是映射的完成方式不同。请参阅Wikipedia - CPU cache - associativity 有简单的直接映射缓存和更复杂的关联映射缓存。您希望避免某些代码需要两条信息但两个地址映射到完全相同的缓存行的情况。