如何从 SSE2 __m128i 结构中提取字节？

Question

我是 SIMD 内部函数的初学者，所以我会提前感谢大家的耐心等待。我有一个应用程序涉及无符号字节的绝对差异比较（我正在处理灰度图像）。

我尝试了 AVX、更现代的 SSE 版本等，但最终认为 SSE2 似乎足够并且对单个字节的支持最多 - 如果我错了，请纠正我。

我有两个问题：首先，加载 128 位寄存器的正确方法是什么？我想我应该传递与 128 的倍数对齐的负载内在数据，但这是否适用于像这样的二维数组代码：

greys = aligned_alloc(16, xres * sizeof(int8_t*));

for (uint32_t x = 0; x < xres; x++)
{
    greys[x] = aligned_alloc(16, yres * sizeof(int8_t*));
}

（上面的代码假设 xres 和 yres 相同，并且是 2 的幂）。这会变成内存中的线性、不间断的块吗？那么，当我循环时，我可以继续将地址（将它们增加 128）传递给 SSE2 加载内在函数吗？或者像这样的二维数组需要做一些不同的事情吗？

我的第二个问题：一旦我完成了所有的向量处理，我到底如何从 __m128i 中提取修改后的字节？查看英特尔内部指南，将向量类型转换为标量类型的指令很少见。我找到的最接近的是 int _mm_movemask_epi8 (__m128i a)，但我不太明白如何使用它。

哦，还有第三个问题——我假设_mm_load_si128 只加载有符号字节？而且我找不到任何其他字节加载函数，所以我猜你应该从每个中减去 128 并在以后考虑它？

我知道这些是 SIMD 专家的基本问题，但我希望这个问题对像我这样的初学者有用。如果你认为我对应用程序的整个方法是错误的，或者我最好使用更现代的 SIMD 扩展，我很想知道。我只想谦虚地警告我从未使用过汇编，所有这些琐碎的东西需要大量的解释才能帮助我。

尽管如此，我很感激任何可用的澄清。

以防万一：我的目标是低功耗 i7 Skylake 架构。但最好让应用程序也能在更旧的机器上运行（因此是 SSE2）。

Answer 1

最不明显的问题：

一旦我完成了所有的矢量处理，我到底如何从 __m128i 中提取修改后的字节

使用int64_t _mm_cvtsi128_si64x(__m128i) 或the low 32 bits with int _mm_cvtsi128_si32 (__m128i a) 将低64 位提取为整数。

如果你想要向量的其他部分，而不是低元素，你的选择是：

• 打乱向量以在低元素中使用您想要的数据创建一个新的__m128i，并使用 cvt 内在函数（asm 中的 MOVD 或 MOVQ）。

• 使用 SSE2 int _mm_extract_epi16 (__m128i a, int imm8) 或 SSE4.1 类似指令用于其他元素大小，例如 _mm_extract_epi64(v, 1); (PEXTRB/W/D/Q) 不是最快的指令，但如果您只需要一个高元素，它们'大约相当于单独的 shuffle 和 MOVD，但机器码更小。

• _mm_store_si128 到一个对齐的临时数组并访问成员：如果您使用-msse4.1 或-march=haswell 或其他任何方式编译，编译器通常会将其优化为一个随机播放或pextr* 指令。 print a __m128i variable 显示了一个示例，包括将 _mm_store_si128 显示为 alignas(16) uint64_t tmp[2] 的 Godbolt 编译器输出

• 或者使用union { __m128i v; int64_t i64[2]; } 什么的。基于联合的类型双关语在 C99 中是合法的，但仅作为 C++ 中的扩展。这和 tmp 数组的编译方式一样，一般不易于阅读。

  在 C++ 中也可以使用的联合替代方案是 memcpy(&my_int64_local, 8 + (char*)my_vector, 8); 以提取高半部分，但这似乎更复杂且不太清晰，而且更有可能是编译器无法“看穿”的东西。当它是一个完整的变量时，编译器通常可以很好地优化掉小的固定大小的 memcpy，但这只是变量的一半。

• 如果向量的整个高半部分可以不加修改地直接进入内存（而不是需要在整数寄存器中），则智能编译器可能会优化为使用 MOVHPS 来存储 __m128i 的高半部分高于工会的东西。

  或者您可以使用_mm_storeh_pi((__m64*)dst, _mm_castsi128_ps(vec))。这只需要 SSE1，并且在大多数 CPU 上比 SSE4.1 pextrq 更有效。但是不要对即将再次使用的标量整数执行此操作；如果 SSE4.1 不可用，则编译器可能实际上会 MOVHPS 和整数重新加载，这通常不是最佳的。 （并且一些像 MSVC 这样的编译器不会优化内在函数。）

---

这会在内存中变成一个线性的、不间断的块吗？

不，它是一个指向不同内存块的指针数组，与正确的二维数组相比，它引入了额外的间接级别。不要那样做。

进行一次大分配，然后自己进行索引计算（使用array[x*yres + y]）。

是的，使用_mm_load_si128 从其中加载数据，如果需要从偏移量加载，则使用 loadu。

---

假设 _mm_load_si128 只加载有符号字节

有符号或无符号不是字节的固有属性，它只是您解释位的方式。您使用相同的加载内在函数来加载两个 64 位元素或一个 128 位位图。

使用适合您数据的内在函数。这有点像汇编语言：一切都只是字节，机器会用字节做你告诉它的事情。您可以选择产生有意义结果的指令/内在函数序列。

整数加载内在函数采用__m128i* 指针参数，因此您必须使用_mm_load_si128( (const __m128i*) my_int_pointer ) 或类似的。这看起来像指针别名（例如，通过 short * 读取 int 的数组），这是 C 和 C++ 中的未定义行为。然而，这就是英特尔所说的你应该这样做的方式，因此任何实现英特尔内在函数的编译器都需要使其正常工作。 gcc 通过用__attribute__((may_alias)) 定义__m128i 来做到这一点。

另请参阅 Loading data for GCC's vector extensions，它指出您可以将 Intel 内在函数用于 GNU C 本机向量扩展，并说明如何加载/存储。

---

要了解有关 SSE 的 SIMD 的更多信息，sse 标签 wiki 中有一些链接，包括一些介绍/教程链接。

x86 标签 wiki 有一些很好的 x86 asm/性能链接。