使用 VS2012/VTune 进行缓存分析

Question

我正在使用以下代码进行测试：

const int num = 5000;
int test[num][num];

int _tmain(int argc, _TCHAR* argv[])
{
    while(true)
    {
        for (int i = 0; i < num; i++)
        {
            for (int j = 0; j < num; j++)
            {
                test[j][i] = 10;
            }
        }
    }
}

我有以下 Windows 计数器：

• \Cache\Copy 读取命中 %
• \Cache\Copy Read/sec
• \Memory\Page Faults/sec

性能会话后的结果如下： http://pastebin.com/L78Pjs9W

有人可以解释为什么它仍然会出现页面错误吗？ 我还运行了相同的程序，将 i 和 j 颠倒过来尝试滥用缓存。 由于我意识到我的 CPU 可能会检测到跨步访问，因此我也尝试了随机访问，但这些 windows 计数器的结果仍然没有太大变化。

我也在 VTune Amplifier 中尝试过这个，得到了类似的奇怪结果。 随机访问或翻转 i 和 j 可以减少缓存未命中，使用以下内容： 测试[i][j] = 20; not 是否给我 0 cachemiss（或关闭） 我正在使用以下计数器：

• L2_RQSTS_MISS
• L2_RQSTS_REFERENCES

所有 3 种方法都给了我大约 7,000,000 次引用和 3,800,000 次未命中。在 25 秒的样本上。 我预计 [i][j] 访问几乎不会丢失，因为它具有空间局部性并且是可预测的。

我是否使用了正确的计数器，有什么提示吗？

Answer 1

您有一个包含 25,000,000 个元素的数组，即 100M。您还没有说明您的 L2 缓存大小，但它可能大约是几兆，那么您为什么会期望接近 0 的缓存未命中？您的数据不适合您的缓存，因此您需要交换数据（也就是缓存未命中）。

您的外部 while 为您的一次运行执行了多少个循环？

我建议首先修复运行大约您愿意等待的时间的迭代次数。这样你所有的运行都是一致的。

可能是您的随机探测运行执行的迭代次数要少得多，因为它们更频繁地错过缓存。事实上，鉴于您似乎正在根据时间停止基准测试，并且您的示例的瓶颈是缓存未命中，您可能会在类似数量的缓存未命中后停止运行，并且没有意识到好的订单正在执行更多的迭代。