内联类方法寄存器优化不足

Question

为什么编译器不优化下面代码示例中来自Iterator::Incr 的内联代码的寄存器使用？ （Visual Studio 2015，/O2 优化设置）

当我使用本文底部显示的 C++ 代码并引用迭代器时，Iterator::Incr 方法 内联 在 Interpolator::InterpolateFast 内。然而，生成的汇编代码显示 memory 访问Iterator::_rem，尽管这个类成员变量可以放置在 register 内以提高效率。

$LL2@Interpolat:
  00020 41 01 19     add     DWORD PTR [r9], ebx   ; memory access to Iterator::_rem (slow)
  00023 4d 63 01     movsxd  r8, DWORD PTR [r9]
  ...
  0003e 75 e0        jne     SHORT $LL2@Interpolat

当我编译复制迭代器的快速版本时，汇编代码将Iterator::_rem 放在处理器寄存器中，并且只使用一个内存访问数组元素本身。

$LL2@Interpolat:
; 699  :        _rem += _incr;
  00011 45 03 c2     add     r8d, r10d    ; Iterator::_rem placed inside registers (fast)
...

当使用对 Iterator 类的引用时，编译器似乎会假定该类已被修改或访问 InterpolateFast（例如，由并发线程），因此避免了寄存器优化。

如何在不复制迭代器的情况下使用处理器寄存器优化内联方法？

typedef unsigned int BYTE;

class Iterator
{
public:
    Iterator() {}
    Iterator (const Iterator& it) :
        _rem (it._rem), _incr (it._incr) {}

    inline int Incr (const BYTE* &pSrc)
    {
        _rem += _incr;
        pSrc += _rem >> 16; 
        return _rem;
    }

private:
    int _rem;
    int _incr;
    friend class Interpolator;
};

class Interpolator
{
public:
    Interpolator (BYTE* p) : _p (p) {}
    int InterpolateFast (int len)
    {
        int sum = 0;
        const BYTE *p = _p;
        Iterator& it (_it);   // slow version, memory accesses to it._rem
        // Iterator it (_it); // fast version, registers optimized
        while (len--)
        {
            int rem = it.Incr (p);
            sum += p[0] * rem;
        }
        return sum;
    }

private:
    Iterator _it;
    const BYTE*    _p;
};

int main()
{
    BYTE arr[1000];
    Interpolator ip (arr);
    volatile int sum = ip.InterpolateFast (1000);
    return 0;
}

（请注意，本文的代码已被简化，没有有意义的功能。）

Answer 1

问题在于，在函数结束时，_it 必须已被对 Incr 的调用修改。有了副本，唯一需要更新的对象就被销毁了，所以更新在外部是不可见的。

显然编译器可以在循环结束时更新内存，但在出现提前返回或异常的情况下这很棘手。您和我都可以看到这不适用于这里，但是编译器可能已经丢失了。

还有一个问题是，如果循环内有更复杂的调用，编译器需要确保_it在循环内更新。

最简单的解决方法是：

    Iterator it (_it); // fast version, registers optimized
    while (len--)
    {
        int rem = it.Incr (p);
        sum += p[0] * rem;
    }
    _it = it;  // ****** Added line
    return sum;

顺便说一句，您是否有时间表明内存访问很慢？在第一次迭代之后，它将位于不比寄存器慢多少的 L1 缓存中。 （This answer 建议可能需要额外的 3-5 个周期，这可能会与其他内容重叠。）