如何使用 AVX2 和 SSE 从较大的整数转换为较小的整数？

Question

有没有一种有效的方法可以使用 AVX2 和 SSE 将较大的整数类型转换为较小的整数类型（当然还有截断）？

如：

• int16 -> int8
• int32 -> int16 / int32 -> int8
• int64 -> int32 / int64 -> int16 / int64 -> int8

我知道 AVX-512 有说明：

• vpmovqb
• vpmovwb

对应的内在函数如下：

• _mm512_cvtepi16_epi8（AVX512 字节和字 ISA）
• _mm512_cvtepi32_epi8（AVX512 基础）
• _mm512_cvtepi32_epi16（AVX512 基础）
• _mm512_cvtepi64_epi8（AVX512 基础）
• _mm512_cvtepi64_epi16（AVX512 基础）
• _mm512_cvtepi64_epi32（AVX512 基础）

它处理整数类型缩小转换，但是在没有此类指令的 AVX2 和 SSE 中如何实现这一点？

请注意，虽然上述 AVX512 内部函数有 128 位和 256 位重载，但它们在运行时仍需要 AVX512。我正在寻找仅使用 AVX2 和/或 SSE 指令来完成相同任务的方法。

如果您不想给我我理解的完整答案，我知道很多要问的问题。请向我解释或帮助我找到可以为每次转换复制的算法。

另外请说明您的答案是否适用于有符号和无符号整数或其他。

非常感谢。

澄清；我不打算稍后解压这些数据。我想在许多应用程序中使用矢量化缩小转换，例如：

• 代码页转换（即UTF32 -> UTF8）（我知道不是转换数据类型那么简单）
• 数据库翻译（连接2个完全不同的数据库，并在表中单元格的数据类型不同的情况下在它们之间传输数据）
• 快速数学逼近
• 还有更多！

几乎可以做任何事情： int32_t y = some_func(); int8_t x = static_cast(y);

但矢量化。我已经测量了我们代码的性能（抱歉，NDA，这里不能显示），发现我们在类型转换上花费了很多时间。特别是缩小转换。编译器在使用 AVX2 可用的指令对带有符号扩展的小->大转换进行矢量化方面做得很好，但缩小转换似乎根本没有被矢量化。

还要澄清一些。我想要一种行为类似于 static_cast 的转换方法（如截断）

Answer 1

一个好方法是pshufb 指令，暴露为_mm_shuffle_epi8 或_mm256_shuffle_epi8 内在函数。在现代 CPU 上，该指令非常快：延迟为 1 个周期，每个时钟可以运行 2 个。

这是一个转换 int32 -> int16 的示例，未经测试。通过更改 shuffle 魔法向量，您可以使用相同的代码实现其余的对话。

// Convert int32 lanes into int16 with truncation
inline __m128i cvtepi32_epi16( __m256i x )
{
    // Make a shuffle constant vector
    // If you also need 16-byte version, move this to global variable,
    // to reuse the lower 16 bytes of the same constant
    const __m256i shuffle = _mm256_setr_epi8(
        0, 1, 4, 5, 8, 9, 12, 13,
        -1, -1, -1, -1, -1, -1, -1, -1,
        -1, -1, -1, -1, -1, -1, -1, -1,
        0, 1, 4, 5, 8, 9, 12, 13 );

    // Move these bytes
    // Unfortunately that instruction can only move within 16-byte halves.
    // Fortunately, it can selectively zero out bytes, so a bitwise OR is enough to combine
    x = _mm256_shuffle_epi8( x, shuffle );

    // Split into halves
    const __m128i low = _mm256_castsi256_si128( x );
    const __m128i high = _mm256_extracti128_si256( x, 1 );

    // Produce the result
    return _mm_or_si128( low, high );
}

对于 SSE 向量，它比 AVX2 更有效，您只需要一条 _mm_shuffle_epi8 指令。顺便说一句，对于 SSE 和 AVX，该指令 can load 第二个参数直接来自内存，即即使该代码没有内联，它也不需要单独的加载来获取排列常数。

附：有符号/无符号与截断无关，两者之间的向下转换操作相同。有符号/无符号仅在您想要饱和而不是截断时才重要，但static_cast 不会使任何内容饱和，它会截断。

Answer 2

各种 PACK 指令将 int16->int8 或 int32->int16 从一对 mmx/xmm reg 转换为单个 reg，有符号或无符号饱和（对于超出目标类型范围的值）虽然不是 int64->int32 版本。