在编译时评估函数成本的通用方法

Question

我目前正在研究多维数组迭代器的实现。考虑到两个连续范围（用于 std::equal、std::copy 目的）上的迭代，这些范围表示具有不同对齐方式的兼容数据（二维中的行与列主要），我想找到每个迭代器的步幅顺序给出最快执行时间。

例如：

row of vector components = A -> m elements
row of vectors =           B -> n elements
2D plan of vectors =       C -> 3 elements
row of plan of vectors =   D -> 10 elements

given the datas ordered by ascending strides:
first array:   B | A | C | D
second array:  B | A | D | C

 Obviously, we can iterate over both iterators by bunches of m*n elements. Then:

 If we choose the first array convention, the first iterator is contiguous and the second one 
 will perform (3 - 1)*(10 - 1) jumps forward with a stride of 10 and (10 - 1) jumps backward.

 If we choose the second array convention, the second iterator is contiguous and the first one will 
 perform (10 - 1)*(3 - 1) jumps forward with a stride of 3 and (3 - 1) jumps backward.

=> The second convention is better at everything in this example.

由于我必须考虑很多因素，例如内存来回、连续性和迭代器实现本身（这不是微不足道的），我想执行一个实验计划。但我也知道编译时的一切（大小和步幅），因此在编译时为每个模板实例化执行实验计划会很酷。我的问题是：

是否可以在编译时评估某些指令的运行时成本，在编译时除了输入数组的内存地址之外的所有内容都是已知的？

Answer 1

没有。您的问题基于错误的假设。

一些不好的假设（可能还有其他的）：

• 函数按原样使用：编译器可能会在许多地方内联它，或者决定最好将它放在一个单独的函数中，因为代码大小会提高。由于您可以通过周围的代码获得稍微不同的行为，因此您可能会看到不同的性能。
• 指令是有代价的：处理器在许多情况下会乱序运行指令，或者它们会并行化指令。如果被其他内存访问包围并摊销成本，则可能会隐藏像除法这样可能需要很长时间的东西。
• 性能独立于处理器。编译器不知道您将在哪个特定处理器上运行、缓存或缓存线有多大、主存储器有多快或分支预测的好坏程度。所有这些都会对性能产生巨大影响。

您可以做的是分析和衡量。使用此功能分析应用程序，看看您是否真的需要修复它。衡量您获得的性能并尝试不同的选项。