将 numpy.ndarray 转换为字符串（或字节）并将其转换回 numpy.ndarray

Question

这里有点麻烦，

我正在尝试将 numpy.ndarray 转换为字符串，我已经这样做了：

randomArray.tostring()

它有效，但我想知道是否可以将其转换回 numpy.ndarray。

最好的方法是什么？

我正在使用 numpy 1.8.1

上下文： 目标是将 numpy.ndarray 作为消息发送到 rabbitmq（pika 库）

Answer 1

您可以为此使用fromstring() 方法：

arr = np.array([1, 2, 3, 4, 5, 6])
ts = arr.tostring()
print(np.fromstring(ts, dtype=int))

>>> [1 2 3 4 5 6]

对不起，简短的回答，没有足够的评论点。请记住说明数据类型，否则您将陷入痛苦的世界。

注意 fromstring 从 numpy 1.14 开始：

sep : str，可选

数据中分隔数字的字符串；元素之间的多余空格也会被忽略。

自 1.14 版起已弃用：传递默认值 sep='' 已弃用，因为它会触发此函数的弃用二进制模式。此模式将字符串解释为二进制字节，而不是带有十进制数字的 ASCII 文本，这种操作最好拼写为 frombuffer(string, dtype, count)。如果 string 包含 unicode 文本，则 fromstring 的二进制模式将首先使用 utf-8 (python 3) 或默认编码 (python 2) 将其编码为字节，这两者都不会产生正常的结果。

Answer 2

如果你使用tostring，你会丢失关于形状和数据类型的信息：

>>> import numpy as np
>>> a = np.arange(12).reshape(3, 4)
>>> a
array([[ 0,  1,  2,  3],
       [ 4,  5,  6,  7],
       [ 8,  9, 10, 11]])
>>> s = a.tostring()
>>> aa = np.fromstring(a)
>>> aa
array([  0.00000000e+000,   4.94065646e-324,   9.88131292e-324,
         1.48219694e-323,   1.97626258e-323,   2.47032823e-323,
         2.96439388e-323,   3.45845952e-323,   3.95252517e-323,
         4.44659081e-323,   4.94065646e-323,   5.43472210e-323])
>>> aa = np.fromstring(a, dtype=int)
>>> aa
array([ 0,  1,  2,  3,  4,  5,  6,  7,  8,  9, 10, 11])
>>> aa = np.fromstring(a, dtype=int).reshape(3, 4)
>>> aa
array([[ 0,  1,  2,  3],
       [ 4,  5,  6,  7],
       [ 8,  9, 10, 11]])

这意味着您必须将元数据连同数据一起发送给收件人。要交换自动一致的对象，请尝试 cPickle：

>>> import cPickle
>>> s = cPickle.dumps(a)
>>> cPickle.loads(s)
array([[ 0,  1,  2,  3],
       [ 4,  5,  6,  7],
       [ 8,  9, 10, 11]])

Answer 3

假设您有一个 numpy 整数数组（它适用于其他类型，但您需要稍作修改）。你可以这样做：

a = np.array([0, 3, 5])
a_str = ','.join(str(x) for x in a) # '0,3,5'
a2 = np.array([int(x) for x in a_str.split(',')]) # np.array([0, 3, 5])

如果您有一个浮点数组，请务必在最后一行将int 替换为float。

您也可以使用__repr__() 方法，这将有利于多维数组：

from numpy import array
numpy.set_printoptions(threshold=numpy.nan)
a = array([[0,3,5],[2,3,4]])
a_str = a.__repr__() # 'array([[0, 3, 5],\n       [2, 3, 4]])'
a2 = eval(a_str) # array([[0, 3, 5],
                 #        [2, 3, 4]])

Answer 4

我知道，我迟到了，但这是正确的做法。使用 base64。此技术会将数组转换为字符串。

import base64
import numpy as np
random_array = np.random.randn(32,32)
string_repr = base64.binascii.b2a_base64(random_array).decode("ascii")
array = np.frombuffer(base64.binascii.a2b_base64(string_repr.encode("ascii"))) 
array = array.reshape(32,32)

数组转字符串

将二进制数据转换为base64编码的一行ASCII字符，解码为ASCII得到字符串repr。

字符串转数组

首先，将字符串编码为 ASCII 格式，然后 将一块base64数据转回二进制，并返回二进制数据。

Answer 5

这是对ajsp 使用 XML-RPC 的回答的稍微即兴的回答。

在服务器端转换数据时，使用 '.tostring()' 方法。这会将 numpy ndarray 编码为字节字符串。在客户端，当您收到数据时，使用 '.fromstring()' 方法对其进行解码。我为此写了两个简单的函数。希望这会有所帮助。

1. ndarray2str -- 将 numpy ndarray 转换为字节字符串。
2. str2ndarray -- 将二进制 str 转换回 numpy ndarray。

    def ndarray2str(a):
        # Convert the numpy array to string 
        a = a.tostring()

        return a

在接收方，数据作为 'xmlrpc.client.Binary' 对象接收。您需要使用“.data”访问数据。

    def str2ndarray(a):
        # Specify your data type, mine is numpy float64 type, so I am specifying it as np.float64
        a = np.fromstring(a.data, dtype=np.float64)
        a = np.reshape(a, new_shape)

        return a

注意：这种方法的唯一问题是 XML-RPC 在发送大型 numpy 数组时非常慢。我花了大约 4 秒的时间为我发送和接收 (10, 500, 500, 3) 大小的 numpy 数组。

我正在使用 python 3.7.4。

Answer 6

这是对数组、数组形状和数组 dtype 进行编码的快速方法：

def numpy_to_bytes(arr: np.array) -> str:
    arr_dtype = bytearray(str(arr.dtype), 'utf-8')
    arr_shape = bytearray(','.join([str(a) for a in arr.shape]), 'utf-8')
    sep = bytearray('|', 'utf-8')
    arr_bytes = arr.ravel().tobytes()
    to_return = arr_dtype + sep + arr_shape + sep + arr_bytes
    return to_return

def bytes_to_numpy(serialized_arr: str) -> np.array:
    sep = '|'.encode('utf-8')
    i_0 = serialized_arr.find(sep)
    i_1 = serialized_arr.find(sep, i_0 + 1)
    arr_dtype = serialized_arr[:i_0].decode('utf-8')
    arr_shape = tuple([int(a) for a in serialized_arr[i_0 + 1:i_1].decode('utf-8').split(',')])
    arr_str = serialized_arr[i_1 + 1:]
    arr = np.frombuffer(arr_str, dtype = arr_dtype).reshape(arr_shape)
    return arr

使用功能：

a = np.ones((23, 23), dtype = 'int')
a_b = numpy_to_bytes(a)
a1 = bytes_to_numpy(a_b)
np.array_equal(a, a1) and a.shape == a1.shape and a.dtype == a1.dtype

Answer 7

想象一下，你有一个像信使一样的 numpy 文本数组

 >>> stex[40]
 array(['Know the famous thing ...

如果您想从语料库中获取统计信息（文本 col=11），您首先必须从数据帧 (df5) 中获取值，然后将所有记录连接到一个语料库中：

 >>> stex = (df5.ix[0:,[11]]).values
 >>> a_str = ','.join(str(x) for x in stex)
 >>> a_str = a_str.split()
 >>> fd2 = nltk.FreqDist(a_str)
 >>> fd2.most_common(50)