在通用 Windows 平台中将 Vector<T> 用于 SIMD

Question

我正在尝试使用 System.Numerics.Vector(T) 对算法进行矢量化并利用 CPU 的 SIMD 操作。但是，我的向量实现比我的原始实现慢得多。使用可能没有记录的向量有什么技巧吗？这里的具体用途是尝试加速 kb 数据的异或运算。

不幸的是，我能找到的几乎所有文档都是基于 RyuJIT 的预发布版本，我不知道有多少材料可以移植到 .NET Native。

当我在 Vector xor 操作期间检查反汇编时，它显示：

00007FFB040A9C10  xor         eax,eax  
00007FFB040A9C12  mov         qword ptr [rcx],rax  
00007FFB040A9C15  mov         qword ptr [rcx+8],rax  
00007FFB040A9C19  mov         rax,qword ptr [r8]  
00007FFB040A9C1C  xor         rax,qword ptr [rdx]  
00007FFB040A9C1F  mov         qword ptr [rcx],rax  
00007FFB040A9C22  mov         rax,qword ptr [r8+8]  
00007FFB040A9C26  xor         rax,qword ptr [rdx+8]  
00007FFB040A9C2A  mov         qword ptr [rcx+8],rax  
00007FFB040A9C2E  mov         rax,rcx  

为什么它不为此使用 xmm 寄存器和 SIMD 指令？同样奇怪的是，SIMD 指令是为我没有明确矢量化的代码版本生成的，但它们从未被执行，有利于常规寄存器和指令。

我确保我运行时启用了 Release、x64、Optimize code。我在 x86 编译中看到了类似的行为。我对机器级的东西有点新手，所以可能只是这里发生了一些我没有正确理解的事情。

Framework 版本为 4.6，Vector.IsHardwareAccelerated 在运行时为 false。

更新：“使用 .NET Native 工具链编译”是罪魁祸首。启用它会导致 Vector.IsHardwareAccelerated == false;禁用它会导致 Vector.IsHardwareAccelerated == true。我已经确认，当禁用 .NET Native 时，编译器正在使用 ymm 寄存器生成 AVX 指令。这就引出了一个问题……为什么在 .NET Native 中未启用 SIMD？有什么办法可以改变吗？

更新切线：我发现未执行自动 SSE 向量化数组代码的原因是编译器插入了一条指令，该指令查看数组的开头是否为在比数组的最后一个元素低的地址处，如果是，则仅使用普通寄存器。我认为这一定是编译器中的一个错误，因为按照惯例，数组的开头应始终位于比其最后一个元素低的地址。它是测试每个操作数数组的内存地址的一组指令的一部分，我认为是为了确保它们不重叠。我为此提交了 Microsoft Connect 错误报告：https://connect.microsoft.com/VisualStudio/feedback/details/1831117

Answer 1

我联系了微软，微软发布了 .Net Native 问题和疑虑的联系地址：https://msdn.microsoft.com/en-us/vstudio/dotnetnative.aspx

我的问题已提交给 Microsoft 代码生成和优化技术团队的首席软件工程经理 Ian Bearman：

目前 .NET Native 没有优化 System.Numerics 库 并依赖于默认库实现。这可能（阅读：将 可能）导致使用 System.Numerics 编写的代码无法执行 在 .NET Native 中表现良好，因为它会针对其他 CLR 实现。

虽然这很不幸，但 .NET Native 确实支持自动矢量化 使用上面提到的 C++ 优化。这 当前发布的 .NET Native 编译器在其支持 SSE2 ISA x86 和 x64 上的自动矢量化以及 ARM 上的 NEON ISA。

他还提到，他们希望从 C++ 编译器中引入生成所有向量指令（AVX、SSE 等）的能力，并在运行时基于对指令集的检测进行分支。

然后他建议，如果指令的使用真的很关键，可以用 C++ 构建组件，它可以访问编译器内在函数（并且可能还有这种分支能力？），然后轻松地与剩余的 C# 应用程序接口。

至于跳过的 SSE2 指令，我需要做的就是将循环的“a = a ^ b”替换为“a ^ = b”。由于它们应该是等价的表达式，看来这是一个错误，但幸运的是有一个解决方法。