将上三角矩阵转换为对称矩阵的快速方法

Question

我有一个np.float64 值的上三角矩阵，如下所示：

array([[ 1.,  2.,  3.,  4.],
       [ 0.,  5.,  6.,  7.],
       [ 0.,  0.,  8.,  9.],
       [ 0.,  0.,  0., 10.]])

我想把这个转换成对应的对称矩阵，像这样：

array([[ 1.,  2.,  3.,  4.],
       [ 2.,  5.,  6.,  7.],
       [ 3.,  6.,  8.,  9.],
       [ 4.,  7.,  9., 10.]])

转换可以就地完成，也可以作为新矩阵完成。我希望它尽可能快。我怎样才能快速做到这一点？

Answer 1

np.where 在异地、无缓存场景中似乎相当快：

np.where(ut,ut,ut.T)

在我的笔记本电脑上：

timeit(lambda:np.where(ut,ut,ut.T))
# 1.909718865994364

如果您安装了 pythran，您可以以几乎零的努力将其加速 3 倍。但请注意，据我所知，pythran（目前）只理解连续数组。

文件<upp2sym.py>，用pythran -O3 upp2sym.py编译

import numpy as np

#pythran export upp2sym(float[:,:])

def upp2sym(a):
    return np.where(a,a,a.T)

时间：

from upp2sym import *

timeit(lambda:upp2sym(ut))
# 0.5760842661838979

这几乎和循环一样快：

#pythran export upp2sym_loop(float[:,:])

def upp2sym_loop(a):
    out = np.empty_like(a)
    for i in range(len(a)):
        out[i,i] = a[i,i]
        for j in range(i):
            out[i,j] = out[j,i] = a[j,i]
    return out

时间：

timeit(lambda:upp2sym_loop(ut))
# 0.4794591029640287

我们也可以就地做：

#pythran export upp2sym_inplace(float[:,:])

def upp2sym_inplace(a):
    for i in range(len(a)):
        for j in range(i):
            a[i,j] = a[j,i]

时间

timeit(lambda:upp2sym_inplace(ut))
# 0.28711927914991975

Answer 2

这是迄今为止我发现的最快的例程，它不使用 Cython 或像 Numba 这样的 JIT。我在我的机器上处理一个 4x4 数组大约需要 1.6 μs（100K 4x4 数组列表的平均时间）：

inds_cache = {}

def upper_triangular_to_symmetric(ut):
    n = ut.shape[0]
    try:
        inds = inds_cache[n]
    except KeyError:
        inds = np.tri(n, k=-1, dtype=np.bool)
        inds_cache[n] = inds
    ut[inds] = ut.T[inds]

以下是我尝试过的其他一些不太快的方法：

上面的代码，但是没有缓存。每个 4x4 阵列大约需要 8.3 μs：

def upper_triangular_to_symmetric(ut):
    n = ut.shape[0]
    inds = np.tri(n, k=-1, dtype=np.bool)
    ut[inds] = ut.T[inds]

一个普通的 Python 嵌套循环。每个 4x4 阵列大约需要 2.5 μs：

def upper_triangular_to_symmetric(ut):
    n = ut.shape[0]
    for r in range(1, n):
        for c in range(r):
            ut[r, c] = ut[c, r]

使用np.triu 进行浮点加法。每个 4x4 阵列大约需要 11.9 μs：

def upper_triangular_to_symmetric(ut):
    ut += np.triu(ut, k=1).T

Numba 版本的 Python 嵌套循环。这是我发现的最快的东西（每个 4x4 数组大约 0.4 μs），并且是我最终在生产中使用的东西，至少在我开始遇到 Numba 问题并不得不恢复到纯 Python 版本之前：

import numba

@numba.njit()
def upper_triangular_to_symmetric(ut):
    n = ut.shape[0]
    for r in range(1, n):
        for c in range(r):
            ut[r, c] = ut[c, r]

Python 嵌套循环的 Cython 版本。我是 Cython 的新手，所以这可能没有完全优化。由于 Cython 增加了运营开销，我有兴趣听到 Cython 和纯 Numpy 的答案。每个 4x4 阵列大约需要 0.6 μs：

cimport numpy as np
cimport cython

@cython.boundscheck(False)
@cython.wraparound(False)
def upper_triangular_to_symmetric(np.ndarray[np.float64_t, ndim=2] ut):
    cdef int n, r, c
    n = ut.shape[0]
    for r in range(1, n):
        for c in range(r):
            ut[r, c] = ut[c, r]

Answer 3

你主要是测量这些小问题的函数调用开销

另一种方法是使用 Numba。让我们从一个只有一个 (4x4) 数组的实现开始。

只有一个 4x4 阵列

import numpy as np
import numba as nb

@nb.njit()
def sym(A):
    for i in range(A.shape[0]):
        for j in range(A.shape[1]):
            A[j,i]=A[i,j]
    return A


A=np.array([[ 1.,  2.,  3.,  4.],
       [ 0.,  5.,  6.,  7.],
       [ 0.,  0.,  8.,  9.],
       [ 0.,  0.,  0., 10.]])

%timeit sym(A)
#277 ns ± 5.21 ns per loop (mean ± std. dev. of 7 runs, 1000000 loops each)

更大的例子

@nb.njit(parallel=False)
def sym_3d(A):
    for i in nb.prange(A.shape[0]):
        for j in range(A.shape[1]):
            for k in range(A.shape[2]):
                A[i,k,j]=A[i,j,k]
    return A

A=np.random.rand(1_000_000,4,4)

%timeit sym_3d(A)
#13.8 ms ± 49.5 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)
#13.8 ns per 4x4 submatrix