使用 ARM SIMD 指令优化掩码功能

Question

我想知道您是否可以帮助我使用 NEON 内在函数来优化此遮罩功能。我已经尝试使用 O3 gcc 编译器标志使用自动矢量化，但该函数的性能比使用 O2 运行它要小，O2 会关闭自动矢量化。由于某种原因，使用 O3 生成的汇编代码比使用 O2 生成的汇编代码长 1.5。

  void mask(unsigned int x, unsigned int y, uint32_t *s, uint32_t *m)
{                             
  unsigned int ixy;
  ixy = xsize * ysize;
  while (ixy--)                 
    *(s++) &= *(m++);
}

可能我必须使用以下命令：

vld1q_u32 // 从 s 和 m 加载 4 个整数

vandq_u32 // 在 s 和 m 的 4 个整数之间执行逻辑和

vst1q_u32 // 将它们存储回 s

但是我不知道如何以最佳方式做到这一点。例如，我应该在加载、和存储之后将 s,m 增加 4 吗？我对 NEON 很陌生，所以我真的需要一些帮助。

我正在使用 gcc 4.8.1，并且正在使用以下 cmd 进行编译：

arm-linux-gnueabihf-gcc -mthumb -march=armv7-a -mtune=cortex-a9 -mcpu=cortex-a9 -mfloat-abi=hard -mfpu=neon -O3 -fprefetch-loop-数组名称.c -o 名称

提前致谢

Answer 1

我可能会这样做。我已经包含了 4x 循环展开。预加载缓存总是一个好主意，并且可以将速度再提高 25%。由于没有太多的处理正在进行（它主要花时间加载和存储），最好加载大量寄存器，然后处理它们，因为它为数据实际加载提供了时间。它假设数据是 16 个元素的偶数倍。

void fmask(unsigned int x, unsigned int y, uint32_t *s, uint32_t *m)
{                             
  unsigned int ixy;
  uint32x4_t srcA,srcB,srcC,srcD;
  uint32x4_t maskA,maskB,maskC,maskD;

  ixy = xsize * ysize;
  ixy /= 16; // process 16 at a time
  while (ixy--)
  {
    __builtin_prefetch(&s[64]); // preload the cache
    __builtin_prefetch(&m[64]);
    srcA = vld1q_u32(&s[0]);
    maskA = vld1q_u32(&m[0]);
    srcB = vld1q_u32(&s[4]);
    maskB = vld1q_u32(&m[4]);
    srcC = vld1q_u32(&s[8]);
    maskC = vld1q_u32(&m[8]);
    srcD = vld1q_u32(&s[12]);
    maskD = vld1q_u32(&m[12]);
    srcA = vandq_u32(srcA, maskA); 
    srcB = vandq_u32(srcB, maskB); 
    srcC = vandq_u32(srcC, maskC); 
    srcD = vandq_u32(srcD, maskD);
    vst1q_u32(&s[0], srcA);
    vst1q_u32(&s[4], srcB);
    vst1q_u32(&s[8], srcC);
    vst1q_u32(&s[12], srcD);
    s += 16;
    m += 16;
  }
}

Answer 2

我会从最简单的一个开始，并将其作为参考，以便与以后的例程进行比较。

一个好的经验法则是尽快计算所需的东西，而不是在需要的时候。 这意味着指令可能需要 X 个周期才能执行，但结果并不总是立即就绪，因此调度很重要

例如，您的案例的简单调度架构是（伪代码）

nn=n/4  // Assuming n is a multiple of 4

LOADI_S(0)  // Load and immediately after increment pointer
LOADI_M(0)  // Load and immediately after increment pointer
for( k=1; k<nn;k++){
   AND_SM(k-1)    // Inner op
   LOADI_S(k)     // Load and increment after
   LOADI_M(k)     // Load and increment after
   STORE_S(k-1)  // Store and increment after
}
AND_SM(nn-1)
STORE_S(nn-1)     // Store. Not needed to increment

从内部循环中省略这些指令，我们实现了内部的操作不依赖于前一个操作的结果。 可以进一步扩展此模式，以利用在等待上一个操作的结果时会浪费的时间。

此外，由于内在函数仍然依赖于优化器，请查看编译器在不同优化选项下的作用。我更喜欢使用内联汇编，这对于小程序来说并不难，并且给你更多的控制权。