各种 b 的稀疏带状 Ax=b 的批量 CUDA 解决方案答案

【问题标题】：batch CUDA solution of sparse banded Ax=b for various b's各种 b 的稀疏带状 Ax=b 的批量 CUDA 解决方案
【发布时间】：2015-07-18 10:25:47
【问题描述】：

我有一个稀疏带状矩阵 A，我想（直接）求解 Ax=b。我有大约 500 个向量 b，所以我想求解相应的 500 个 x。我是 CUDA 的新手，所以我对我有哪些可用的选项有点困惑。

cuSOLVER 有一个批量直接求解器 cuSolverSP，用于稀疏 A_i x_i = b_i，使用 QR here。（我也可以使用 LU，因为 A 的条件很好。）但是，据我所知，我无法利用我所有的 A_i 都相同的事实。

是否可以先在 CPU 或 GPU 上确定稀疏 LU (QR) 分解，然后在 GPU 上并行执行反向替换（分别是反向替换和矩阵 mult）？如果cusolverSp< t >csrlsvlu()是针对一个b_i的，有没有标准的方法可以对多个b_i批量执行这个操作？

最后，由于我对此没有直觉，考虑到必要的开销，我是否应该期望这些选项在 GPU 上的加速？ x 的长度约为 10000-100000。谢谢。

【问题讨论】：

【解决方案1】：

我目前正在做类似的事情。我决定基本上将 CUDA SDK 附带的共轭梯度和 0 级不完全 Cholesky 预条件共轭梯度求解器实用程序示例包装到一个小类中。

您可以在路径下的 CUDA_HOME 目录中找到它们： samples/7_CUDALibraries/conjugateGradient 和 /Developer/NVIDIA/CUDA-samples/7_CUDALibraries/conjugateGradientPrecond

基本上，您只需将矩阵加载到设备内存一次（对于 ICCG，计算相应的调节器/矩阵分析），然后使用不同的 b 向量调用求解内核。

我不知道你期望你的矩阵能带结构是什么样子，但如果它是对称的并且对角线占主导地位（沿每行和列的对角线带的对角线符号相反，并且它们的总和小于对角线项）或正定（没有特征值为 0 的特征向量），那么 CG 和 ICCG 应该是有用的。或者，如果您愿意对它们进行编码，则各种多重网格算法是另一种选择。

如果您的矩阵只是半正定矩阵（例如，至少有一个特征值为零的特征向量），您仍然可以经常使用 CG 或 ICCG，只要您确保： 1) 右手边（b 个向量）与零空间正交（零空间意味着特征值为零的特征向量）。 2) 你得到的解与零空间正交。

有趣的是，如果您确实有一个非平凡的零空间，那么不同的数值求解器可以为您提供相同精确系统的不同答案。解决方案最终会因空空间的线性组合而有所不同......在我最终理解之前，这个问题已经给我带来了很多工时的调试和挫败感，所以很高兴能意识到这一点。

最后，如果您的矩阵有 Circulant Band structure，您可以考虑使用基于快速傅立叶变换 (FFT) 的求解器。基于 FFT 的数值求解器在适用的情况下通常可以产生出色的性能。

【讨论】：

【解决方案2】：

是否有标准方法可以为多个 b_i 批量执行此操作？

一种选择是使用CUDA的cuSOLVER中的批处理重构模块，但我不确定它是否是标准的。

cuSOLVER 中的批量重构模块提供了一种有效的方法，可以基于 LU 分解来求解具有固定左侧稀疏矩阵（或具有固定稀疏模式但系数不同的矩阵）的批量线性系统。在与其相关的官方文档（截至 CUDA 10.1）中只能找到一些部分完成的代码 sn-ps。一个完整的例子可以在here找到。

【讨论】：

【解决方案3】：

如果您不介意使用开源库，还可以查看 CUSP： CUSP Quick Start Page

它有一套相当不错的求解器，包括一些预处理方法： CUSP Preconditioner Examples

只要您的 GPU 有足够的板载内存，平滑聚合预处理器（代数多重网格的一种变体）似乎工作得很好。

【讨论】：