如何检查 AVX 内在 __m256 的 inf

Question

检查 AVX 内在 __m256（8 个向量 float）是否包含任何 inf 的最佳方法是什么？我试过了

__m256 X=_mm256_set1_ps(1.0f/0.0f);
_mm256_cmp_ps(X,X,_CMP_EQ_OQ);

但这与true 相比。请注意，此方法将找到 nan（与 false 相比）。所以一种方法是检查X!=nan && 0*X==nan：

__m256 Y=_mm256_mul_ps(X,_mm256_setzero_ps());   // 0*X=nan if X=inf
_mm256_andnot_ps(_mm256_cmp_ps(Y,Y,_CMP_EQ_OQ),
                 _mm256_cmp_ps(X,X,_CMP_EQ_OQ));

但是，这似乎有些冗长。有更快的方法吗？

Answer 1

如果你想检查一个向量是否有任何个无穷大：

#include <limits>

bool has_infinity(__m256 x){
    const __m256 SIGN_MASK = _mm256_set1_ps(-0.0);
    const __m256 INF = _mm256_set1_ps(std::numeric_limits<float>::infinity());

    x = _mm256_andnot_ps(SIGN_MASK, x);
    x = _mm256_cmp_ps(x, INF, _CMP_EQ_OQ);
    return _mm256_movemask_ps(x) != 0;
}

如果你想要一个无穷大值的向量掩码：

#include <limits>

__m256 is_infinity(__m256 x){
    const __m256 SIGN_MASK = _mm256_set1_ps(-0.0);
    const __m256 INF = _mm256_set1_ps(std::numeric_limits<float>::infinity());

    x = _mm256_andnot_ps(SIGN_MASK, x);
    x = _mm256_cmp_ps(x, INF, _CMP_EQ_OQ);
    return x;
}

Answer 2

我认为更好的解决方案是使用vptest 而不是vmovmskps。

bool has_infinity(const __m256 &x) {
    __m256 s   = _mm256_andnot_ps(_mm256_set1_ps(-0.0), x);
    __m256 cmp = _mm256_cmp_ps(s,_mm256_set1_ps(1.0f/0.0f),0);
    __m256i cmpi = _mm256_castps_si256(cmp);
    return !_mm256_testz_si256(cmpi,cmpi);
}

内在的_mm256_castps_si256只是为了让编译器开心"This intrinsic is only used for compilation and does not generate any instructions, thus it has zero latency."

vptest 优于 vmovmskps，因为它设置了零标志，而 vmovmskps 没有。对于vmovmskps，编译器必须生成test 来设置零标志。

Answer 3

我有一个想法，但它只有在您想测试所有元素是否无限时才会有所帮助。哎呀。

使用 AVX2，您可以使用 PTEST 测试所有无穷大的元素。我从 EOF 对this question 的评论中得到了使用 xor 比较相等性的想法，我在那里用它来回答。我以为我可以制作一个较短版本的 test-for-any-inf，但当然 pxor 只能作为所有 256b 相等的测试。

#include <limits>

bool all_infinity(__m256 x){
    const __m256i SIGN_MASK = _mm256_set1_epi32(0x7FFFFFFF);  // -0.0f inverted
    const __m256 INF = _mm256_set1_ps(std::numeric_limits<float>::infinity());

    x = _mm256_xor_si256(x, INF);  // other than sign bit, x will be all-zero only if all the bits match.
    return _mm256_testz_si256(x, SIGN_MASK); // flags are ready to branch on directly
}

对于 AVX512，有一个 __mmask8 _mm512_fpclass_pd_mask (__m512d a, int imm8)。 (vfpclasspd)。 （见Intel's guide）。它的输出是一个掩码寄存器，我还没有研究过那里的值的测试/分支。但您可以测试任何/所有 +/- 零、+/- inf、Q/S NaN、非正规、负数。