在 Python 中使用 numpy/scipy 进行分箱的矢量化方法

Question

我正在使用 np.digitize 将 Python 中的二维数组（x x y）分箱到其 x 值的箱中（在“箱”中给出）：

elements_to_bins = digitize(vals, bins)

其中“vals”是一个二维数组，即：

 vals = array([[1, v1], [2, v2], ...]). 

elements_to_bins 只是说明每个元素属于哪个 bin。然后我想要做的是获取一个列表，其长度是“bins”中的 bin 数量，并且每个元素返回落入该 bin 的“vals”的 y 维度。我现在就是这样做的：

points_by_bins = []
for curr_bin in range(min(elements_to_bins), max(elements_to_bins) + 1):
    curr_indx = where(elements_to_bins == curr_bin)[0]
    curr_bin_vals = vals[:, curr_indx]
    points_by_bins.append(curr_bin_vals)

有没有更优雅/更简单的方法来做到这一点？我所需要的只是落入每个 bin 的 y 值列表的列表。

谢谢。

Answer 1

如果我正确理解您的问题：

vals = array([[1, 10], [1, 11], [2, 20], [2, 21], [2, 22]])  # Example

(x, y) = vals.T  # Shortcut
bin_limits = range(min(x)+1, max(x)+2)  # Other limits could be chosen
points_by_bin = [ [] for _ in bin_limits ]  # Final result
for (bin_num, y_value) in zip(searchsorted(bin_limits, x, "right"), y):  # digitize() finds the correct bin number
    points_by_bin[bin_num].append(y_value)

print points_by_bin  # [[10, 11], [20, 21, 22]]

Numpy 的快速数组操作searchsorted() 用于最大效率。然后将值一一相加（因为最终结果不是矩形数组，Numpy 对此无能为力）。此解决方案应该比循环中的多个where() 调用更快，后者会强制 Numpy 多次重新读取 same 数组。

Answer 2

这将返回一个类似于 IDL HISTOGRAM 的 Reverse_Indices 的数据结构：

ovec = np.argsort(vals)
ivec = np.searchsorted(vals, bin_limits, sorter=ovec)

那么落入bin#i的元素列表就是

ovec[ ivec[i] : ivec[i+1] ]

（我的快速计时测试表明这比 EOL 的算法快 5 倍，因为它不需要创建不同大小的列表）

Answer 3

bin 键是否只是整数，没有 binning，就像你的例子一样？然后你可以这样做，没有 numpy：

from collections import defaultdict
bins = defaultdict(list)  # or [ [] ...] as in EOL

vals = [[1, 10], [1, 11], [2, 20], [2, 21], [2, 22]]  # nparray.tolist()
for nbin, val in vals:
    bins[nbin].append(val)

print "bins:", bins
# defaultdict(<type 'list'>, {1: [10, 11], 2: [20, 21, 22]})