Python (NumPy, SciPy)，寻找矩阵的零空间

Question

我试图找到给定矩阵的零空间（Ax=0 的解空间）。我找到了两个例子，但我似乎都无法工作。此外，我不明白他们在做什么才能到达那里，所以我无法调试。我希望有人能够指导我完成此操作。

文档页面（numpy.linalg.svd 和 numpy.compress）对我来说是不透明的。我学会了通过创建矩阵C = [A|0] 来做到这一点，找到减少的行梯形形式并逐行求解变量。在这些示例中，我似乎无法理解它是如何完成的。

感谢您的所有帮助！

这是我的示例矩阵，与wikipedia example 相同：

A = matrix([
    [2,3,5],
    [-4,2,3]
    ])  

方法（found here和here）：

import scipy
from scipy import linalg, matrix
def null(A, eps=1e-15):
    u, s, vh = scipy.linalg.svd(A)
    null_mask = (s <= eps)
    null_space = scipy.compress(null_mask, vh, axis=0)
    return scipy.transpose(null_space)

当我尝试时，我得到一个空矩阵：

Python 2.6.6 (r266:84292, Sep 15 2010, 16:22:56) 
[GCC 4.4.5] on linux2
Type "help", "copyright", "credits" or "license" for more information.
>>> import scipy
>>> from scipy import linalg, matrix
>>> def null(A, eps=1e-15):
...    u, s, vh = scipy.linalg.svd(A)
...    null_mask = (s <= eps)
...    null_space = scipy.compress(null_mask, vh, axis=0)
...    return scipy.transpose(null_space)
... 
>>> A = matrix([
...     [2,3,5],
...     [-4,2,3]
...     ])  
>>> 
>>> null(A)
array([], shape=(3, 0), dtype=float64)
>>> 

Answer 1

截至去年（2017 年），scipy 现在在 scipy.linalg 模块 (docs) 中内置了 null_space 方法。

implementation 遵循规范的 SVD 分解，如果您有旧版本的 scipy 并且需要自己实现它，则它非常小（见下文）。但是，如果您是最新的，它就在那里。

def null_space(A, rcond=None):
    u, s, vh = svd(A, full_matrices=True)
    M, N = u.shape[0], vh.shape[1]
    if rcond is None:
        rcond = numpy.finfo(s.dtype).eps * max(M, N)
    tol = numpy.amax(s) * rcond
    num = numpy.sum(s > tol, dtype=int)
    Q = vh[num:,:].T.conj()
    return Q

Answer 2

Sympy 让这一切变得简单。

>>> from sympy import Matrix
>>> A = [[2, 3, 5], [-4, 2, 3], [0, 0, 0]]
>>> A = Matrix(A)
>>> A * A.nullspace()[0]
Matrix([
[0],
[0],
[0]])
>>> A.nullspace()
[Matrix([
[-1/16],
[-13/8],
[    1]])]

Answer 3

一种更快但数值稳定性较差的方法是使用a rank-revealing QR decomposition，例如scipy.linalg.qr 和pivoting=True：

import numpy as np
from scipy.linalg import qr

def qr_null(A, tol=None):
    Q, R, P = qr(A.T, mode='full', pivoting=True)
    tol = np.finfo(R.dtype).eps if tol is None else tol
    rnk = min(A.shape) - np.abs(np.diag(R))[::-1].searchsorted(tol)
    return Q[:, rnk:].conj()

例如：

A = np.array([[ 2, 3, 5],
              [-4, 2, 3],
              [ 0, 0, 0]])
Z = qr_null(A)

print(A.dot(Z))
#[[  4.44089210e-16]
# [  6.66133815e-16]
# [  0.00000000e+00]]

Answer 4

你的方法几乎是正确的。问题是函数 scipy.linalg.svd 返回的 s 的形状是 (K,)，其中 K=min(M,N)。因此，在您的示例中， s 只有两个条目（前两个奇异向量的奇异值）。对 null 函数的以下更正应该允许它适用于任何大小的矩阵。

import scipy
import numpy as np
from scipy import linalg, matrix
def null(A, eps=1e-12):
...    u, s, vh = scipy.linalg.svd(A)
...    padding = max(0,np.shape(A)[1]-np.shape(s)[0])
...    null_mask = np.concatenate(((s <= eps), np.ones((padding,),dtype=bool)),axis=0)
...    null_space = scipy.compress(null_mask, vh, axis=0)
...    return scipy.transpose(null_space)
A = matrix([[2,3,5],[-4,2,3]])
print A*null(A)
>>>[[  4.44089210e-16]
>>> [  6.66133815e-16]]
A = matrix([[1,0,1,0],[0,1,0,0],[0,0,0,0],[0,0,0,0]])
print null(A)
>>>[[ 0.         -0.70710678]
>>> [ 0.          0.        ]
>>> [ 0.          0.70710678]
>>> [ 1.          0.        ]]
print A*null(A)
>>>[[ 0.  0.]
>>> [ 0.  0.]
>>> [ 0.  0.]
>>> [ 0.  0.]]

Answer 5

对我来说似乎工作正常：

A = matrix([[2,3,5],[-4,2,3],[0,0,0]])
A * null(A)
>>> [[  4.02455846e-16]
>>>  [  1.94289029e-16]
>>>  [  0.00000000e+00]]

Answer 6

你得到矩阵A 的 SVD 分解。 s 是特征值向量。您对几乎为零的特征值感兴趣（参见 $A*x=\lambda*x$ where $\abs(\lambda)null_mask 给出。

然后，您从列表vh 中提取与几乎为零的特征值对应的特征向量，这正是您要寻找的：一种跨越零空间的方法。基本上，您提取行，然后转置结果，以便得到一个以特征向量为列的矩阵。