如何有效地为 20000*20000 矩阵分配内存？答案

【问题标题】：how to effectively allocate memory for 20000*20000 matrix?如何有效地为 20000*20000 矩阵分配内存？
【发布时间】：2013-11-24 09:31:28
【问题描述】：

我的代码遵循 PCA 算法，以找到 20000 *35 矩阵的特征向量和特征值。因此，为了找到特征向量，我需要找到协方差矩阵，其计算量级为 20000*20000。

我将如何处理如此庞大的矩阵？我正在为我的代码使用 OpenCV

【问题讨论】：

1.6 GB 可以用 32 位数字进行字节寻址 - 为什么他需要 64 位系统？
你的矩阵是密集的还是稀疏的。如果它很密集，您的问题可能很棘手。
如果您有存档的数据，您可以对其进行内存映射。但是，由于它太大，在 32 位系统上可能不可行。
什么会被认为是非方阵的特征向量？
这个问题没有任何数学意义。根据定义，非方阵没有特征值。它有奇异值，但没有特征值。

标签： c++ c opencv

【解决方案1】：

我相信您的问题可能不正确；如果您正在做 PCA，您的 20000 * 35 矩阵很可能对 35 个变量有 20000 个观察值（对 20000 个变量进行 35 个观察值并没有多大用处，所以我猜这不是您的情况）。

如果是这种情况，协方差矩阵的大小为 35 x 35，而不是 20k x 20k。

您可以使用 QR 算法、Jacobi 方法或任何其他特征值/特征向量逼近算法来计算 35x35 矩阵的所有特征对（许多特定于实对称矩阵，如协方差矩阵的情况）。

【讨论】：

【解决方案2】：

20K * 20K = 400,000,000。如果您使用 32 位浮点数，则为 1.6 GB。这将是一个矩阵的野兽，但大多数现代计算机应该能够在没有特殊优化的情况下合理地处理它（这里合理地意味着它不需要一周的时间来处理）。如果您使用的是 64 位双打，那么您看到的是 3.2 GB，这正在变得越来越密集，但在现代计算机上仍然不是完全无法管理的。

如果您需要此代码真正表现良好，请考虑您的矩阵是否密集/稀疏。如果它很密集，那么您无能为力。如果它是稀疏的，您可能可以进行一些优化。

编辑：另外，考虑使用 OpenCL/CUDA 进行优化。一般来说，涉及矩阵的问题通常具有较高的数据级并行性，并且适合 GPU 方法。

【讨论】：

第一句缺少几个尾随零。