如何编写无分支 std::vector 扫描？

Question

我想对数组进行简单的扫描。我有一个std::vector<int> data，我想找到元素小于 9 的所有数组索引并将它们添加到结果向量中。我可以用一个分支来写这个：

for (int i = 0; i < data.size(); ++i)
    if (data[i] < 9)
        r.push_back(i);

这给出了正确答案，但我想将其与无分支版本进行比较。

使用原始数组 - 并假设 data 是一个 int 数组，length 是其中元素的数量，r 是一个有足够空间的结果数组 - 我可以这样写：

int current_write_point = 0;
for (int i = 0; i < length; ++i){
    r[current_write_point] = i;
    current_write_point += (data[i] < 9);
}

如何使用data 的向量获得类​​似的行为？

Answer 1

让我们看看实际的compiler output：

auto scan_branch(const std::vector<int>& v)
{
  std::vector<int> res;
  int insert_index = 0;
  for(int i = 0; i < v.size(); ++i)
  {
    if (v[i] < 9)
    {
       res.push_back(i);
    } 
  }
  return res;
}

这段代码显然在disassembly 的第26 行有一个分支。如果它大于或等于 9，它只会继续下一个元素，但是如果小于 9，则会为 push_back 执行一些可怕的代码，然后我们继续。没有什么意外。

auto scan_nobranch(const std::vector<int>& v)
{
  std::vector<int> res;
  res.resize(v.size());

  int insert_index = 0;
  for(int i = 0; i < v.size(); ++i)
  {
    res[insert_index] = i;
    insert_index += v[i] < 9;
  }

  res.resize(insert_index);
  return res;
}

然而，这个只有一个条件移动，你可以在disassembly 的第 190 行看到。看起来我们有一个赢家。由于条件移动不会导致流水线停顿，因此在这个中没有分支（for 条件检查除外）。

Answer 2

std::copy_if(std::begin(data), std::end(data), std::back_inserter(r));

Answer 3

好吧，您可以事先调整向量的大小并保留您的算法：

// Resize the vector so you can index it normally
r.resize(length);

// Do your algorithm like before
int current_write_point = 0;
for (int i = 0; i < length; ++i){
    r[current_write_point] = i;
    current_write_point += (data[i] < 9);
}

// Afterwards, current_write_point can be used to shrink the vector, so
// there are no excess elements not written to
r.resize(current_write_point + 1);

---

如果您不希望比较，您可以使用一些按位和带有短路的布尔运算来确定。

首先，我们知道所有负整数都小于 9。其次，如果是正数，我们可以使用位掩码来判断一个整数是否在 0-15 范围内（实际上，我们会检查如果不在该范围内，则大于 15）。那么，我们知道如果从那个数减去 8 的结果是负数，那么结果小于 9： 其实，我只是想出了一个更好的方法。由于我们可以很容易地确定是否为x < 0，因此我们只需将x 减去9 即可确定是否为x < 9：

#include <iostream>

// Use bitwise operations to determine if x is negative
int n(int x) {
    return x & (1 << 31);
}

int main() {
    int current_write_point = 0;
    for (int i = 0; i < length; ++i){
        r[current_write_point] = i;
        current_write_point += n(data[i] - 9);
    }
}