错误：内联调用 always_inline 失败

Question

我正在尝试在一些文件上实现和编码，其中一些包含 SIMD 调用。我已经在服务器上编译了这段代码，运行与我的机器基本相同的操作系统，但我无法编译它。

这是错误：

make
g++ main.cpp -march=native -o main -fopenmp
In file included from /usr/lib/gcc/x86_64-linux-gnu/7/include/immintrin.h:53:0,
                 from tensor.hpp:9,
                 from main.cpp:4:
/usr/lib/gcc/x86_64-linux-gnu/7/include/avx512vlintrin.h: In function ‘_ZN6TensorIdE8add_avx2ERKS0_._omp_fn.5’:
/usr/lib/gcc/x86_64-linux-gnu/7/include/avx512vlintrin.h:447:1: error: inlining failed in call to always_inline ‘__m256d _mm256_mask_add_pd(__m256d, __mmask8, __m256d, __m256d)’: target specific option mismatch
 _mm256_mask_add_pd (__m256d __W, __mmask8 __U, __m256d __A,
 ^~~~~~~~~~~~~~~~~~
In file included from main.cpp:4:0:
tensor.hpp:228:33: note: called from here
         res = _mm256_mask_add_pd(tmp, 0xFF, _mm256_mask_loadu_pd(tmp, 0xFF, &elements[i]), _mm256_mask_loadu_pd(tmp, 0xFF, &a.elements[i]));
               ~~~~~~~~~~~~~~~~~~^~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
In file included from /usr/lib/gcc/x86_64-linux-gnu/7/include/immintrin.h:53:0,
                 from tensor.hpp:9,
                 from main.cpp:4:
/usr/lib/gcc/x86_64-linux-gnu/7/include/avx512vlintrin.h:610:1: error: inlining failed in call to always_inline ‘__m256d _mm256_mask_loadu_pd(__m256d, __mmask8, const void*)’: target specific option mismatch
 _mm256_mask_loadu_pd (__m256d __W, __mmask8 __U, void const *__P)
 ^~~~~~~~~~~~~~~~~~~~
In file included from main.cpp:4:0:
tensor.hpp:228:33: note: called from here
         res = _mm256_mask_add_pd(tmp, 0xFF, _mm256_mask_loadu_pd(tmp, 0xFF, &elements[i]), _mm256_mask_loadu_pd(tmp, 0xFF, &a.elements[i]));
               ~~~~~~~~~~~~~~~~~~^~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
In file included from /usr/lib/gcc/x86_64-linux-gnu/7/include/immintrin.h:53:0,
                 from tensor.hpp:9,
                 from main.cpp:4:
/usr/lib/gcc/x86_64-linux-gnu/7/include/avx512vlintrin.h:610:1: error: inlining failed in call to always_inline ‘__m256d _mm256_mask_loadu_pd(__m256d, __mmask8, const void*)’: target specific option mismatch
 _mm256_mask_loadu_pd (__m256d __W, __mmask8 __U, void const *__P)
 ^~~~~~~~~~~~~~~~~~~~
In file included from main.cpp:4:0:
tensor.hpp:228:33: note: called from here
         res = _mm256_mask_add_pd(tmp, 0xFF, _mm256_mask_loadu_pd(tmp, 0xFF, &elements[i]), _mm256_mask_loadu_pd(tmp, 0xFF, &a.elements[i]));
               ~~~~~~~~~~~~~~~~~~^~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
Makefile:7: recipe for target 'main' failed
make: *** [main] Error 1

谷歌搜索问题并没有真正帮助，因为所有答案都指出了事情，我已经这样做/尝试过。

有人可以提供一些背景说明为什么它不起作用。

编辑：

int main(){
#ifdef __AVX512F___
    auto tt = createTensor();
    auto tt2 = createTensor();
    auto res = tt.addAVX512(tt2);
#endif
}

//This is in tensor.hpp
#ifdef __AVX512F__
Tensor<T> Tensor::addAVX512(_param_){
   res = _mm256_mask_add_pd(tmp, 0xFF, _mm256_mask_loadu_pd(tmp, 0xFF, &elements[i]), _mm256_mask_loadu_pd(tmp, 0xFF, &a.elements[i]));
}
#endif

这是发生的事情的要点......我已将所有 SIMDcall 包含在 #ifdefs 等中。

Answer 1

GCC 只允许您将内在函数用于编译器启用的指令集。例如关于 AVX1 内在函数的相关问题：inlining failed in call to always_inline '__m256d _mm256_broadcast_sd(const double*)'

---

这些是 256 位内部函数的 _mask_ 版本，它们需要 AVX512VL。

（关于-mavx的问题我的cmets是错误的，我没有注意到名称或参数中的_mask，只是_mm256。）

您可能正在服务器上的 KNL（Knight's Landing / Xeon Phi）上编译，该服务器具有 AVX512F 但没有 AVX512VL。所以-march=native 将设置-mavx512f。 （与具有 AVX512VL 的 Skylake-AVX512 不同，它允许使用很酷的新 AVX512 东西，例如具有更窄向量的屏蔽指令。）

您在 tensor.hpp 中发现了一个错误，您在仅检查 __AVX512F__ 而不是 __AVX512VL__ 之后使用 AVX512VL 内部函数。 AVX512-anything 暗示 512F，所以它不不需要同时检查。

#ifdef __AVX512F__    // should be __AVX512VL__
Tensor<T> Tensor::addAVX512(_param_){
   res = _mm256_mask_add_pd(tmp, 0xFF, _mm256_mask_loadu_pd(tmp, 0xFF, &elements[i]), _mm256_mask_loadu_pd(tmp, 0xFF, &a.elements[i]));
}
#endif

这毫无意义，如果您要使用常量全为掩码，则不需要使用这些内在函数的掩码版本。像普通人一样使用_mm256_add_pd，只检查__AVX__。或者使用_mm512_add_pd。

起初我以为这是来自 TensorFlow，但是（来自您的 cmets）这没有意义。而且不能写得那么差。 使用全真掩码将同一tmp 合并为 3 个副本是没有意义的；如果编译器无法将 mask=all-ones 优化为未屏蔽的负载，那么引入虚假依赖项似乎是一种愚蠢的方式。

还有糟糕的 C++ 风格：你有一个名为 __m256d tmp 的变量作为全局或类成员？它甚至不是本地虚拟变量，它可能存在于编译器无法完全优化掉的地方。