【问题标题】:Assign numpy array of points to a 2D square grid将 numpy 点数组分配给 2D 方形网格
【发布时间】:2015-08-09 11:40:51
【问题描述】:

由于速度问题,我将超越 my 上一个问题。我有一个点的纬度/经度坐标数组,我想将它们分配给从等尺寸单元格的 2D 方形网格派生的索引代码。这是一个例子。让我们调用points 我的第一个数组,其中包含六个点的坐标(称为 [x y] 对):

points = [[ 1.5  1.5]
 [ 1.1  1.1]
 [ 2.2  2.2]
 [ 1.3  1.3]
 [ 3.4  1.4]
 [ 2.   1.5]]

然后我有另一个数组,其中包含 [minx,miny,maxx,maxy] 形式的两个单元格的网格的顶点坐标;我们就叫它bounds

bounds = [[ 0.  0.  2.  2.]
 [ 2.  2.  3.  3.]]

我想找出哪些点在哪个边界上,然后分配一个从bounds 数组索引派生的代码(在这种情况下,第一个单元格的代码为 0,第二个单元格的代码为 1,依此类推……)。由于单元格是正方形,因此计算每个点是否在每个单元格中的最简单方法是评估:

x > minx & x < maxx & y > miny & y < maxy

因此结果数组将显示为:

results = [0 0 1 0 NaN NaN]

其中 NaN 表示该点位于单元格之外。在我的真实案例中,元素的数量是在 10^4 个单元格中找到 10^6 个点。有没有办法使用 numpy 数组快速完成这类事情?

编辑:澄清一下,results 数组预期意味着第一个点在第一个单元格内(bounds 数组的 0 索引)所以第二个,第一个在 @987654331 的第二个单元格内@数组等等……

【问题讨论】:

  • [0 0 1 0 NaN NaN] 是前面boundspoints 的结果吗?你能解释一下你是如何使用bounds的吗?
  • 是的,将每个点与两个单元格相交,得到对应的单元格代码。
  • 如果bounds 是[minx miny maxx maxy] 值的数组,则问题是实现函数x &gt; minx &amp; x &lt; maxx &amp; y &gt; miny &amp; y &lt; maxy 以确定例如第一个点在第一个bounds 数组的单元格。希望对您有所帮助。
  • 我明白了,但是bounds 有 2 件商品!!!你是怎么用那 2 个项目的?
  • 只是迭代它们。我的意思是,这里的问题是在 bounds 数组上实现搜索功能,它有两个项目,因为它包含两个单元格。第一项的索引为 0,第二项的索引为 1,因此我想将它们分配给每个点。

标签: python arrays numpy


【解决方案1】:

这是解决问题的矢量化方法。它应该会显着加快速度。

import numpy as np
def findCells(points, bounds):
    # make sure points is n by 2 (pool.map might send us 1D arrays)
    points = points.reshape((-1,2))

    # check for each point if all coordinates are in bounds
    # dimension 0 is bound
    # dimension 1 is is point
    allInBounds = (points[:,0] > bounds[:,None,0])
    allInBounds &= (points[:,1] > bounds[:,None,1])
    allInBounds &= (points[:,0] < bounds[:,None,2])
    allInBounds &= (points[:,1] < bounds[:,None,3])


    # now find out the positions of all nonzero (i.e. true) values
    # nz[0] contains the indices along dim 0 (bound)
    # nz[1] contains the indices along dim 1 (point)
    nz = np.nonzero(allInBounds)

    # initialize the result with all nan
    r = np.full(points.shape[0], np.nan)
    # now use nz[1] to index point position and nz[0] to tell which cell the
    # point belongs to
    r[nz[1]] = nz[0]
    return r

def findCellsParallel(points, bounds, chunksize=100):
    import multiprocessing as mp
    from functools import partial

    func = partial(findCells, bounds=bounds)

    # using python3 you could also do 'with mp.Pool() as p:'  
    p = mp.Pool()
    try:
        return np.hstack(p.map(func, points, chunksize))
    finally:
        p.close()

def main():
    nPoints = 1e6
    nBounds = 1e4

    # points = np.array([[ 1.5, 1.5],
    #                    [ 1.1, 1.1],
    #                    [ 2.2, 2.2],
    #                    [ 1.3, 1.3],
    #                    [ 3.4, 1.4],
    #                    [ 2. , 1.5]])

    points = np.random.random([nPoints, 2])

    # bounds = np.array([[0,0,2,2],
    #                    [2,2,3,3]])

    # bounds = np.array([[0,0,1.4,1.4],
    #                    [1.4,1.4,2,2],
    #                    [2,2,3,3]])

    bounds = np.sort(np.random.random([nBounds, 2, 2]), 1).reshape(nBounds, 4)

    r = findCellsParallel(points, bounds)
    print(points[:10])
    for bIdx in np.unique(r[:10]):
        if np.isnan(bIdx):
            continue
        print("{}: {}".format(bIdx, bounds[bIdx]))
    print(r[:10])

if __name__ == "__main__":
    main()

编辑:
用你的数据量尝试它给了我一个MemoryError。如果您使用 multiprocessing.Pool 及其 map 函数,您可以避免这种情况,甚至可以加快速度,请参阅更新的代码。

结果:

>time python test.py
[[ 0.69083585  0.19840985]
 [ 0.31732711  0.80462512]
 [ 0.30542996  0.08569184]
 [ 0.72582609  0.46687164]
 [ 0.50534322  0.35530554]
 [ 0.93581095  0.36375539]
 [ 0.66226118  0.62573407]
 [ 0.08941219  0.05944215]
 [ 0.43015872  0.95306899]
 [ 0.43171644  0.74393729]]
9935.0: [ 0.31584562  0.18404152  0.98215445  0.83625487]
9963.0: [ 0.00526106  0.017255    0.33177741  0.9894455 ]
9989.0: [ 0.17328876  0.08181912  0.33170444  0.23493507]
9992.0: [ 0.34548987  0.15906761  0.92277442  0.9972481 ]
9993.0: [ 0.12448765  0.5404578   0.33981119  0.906822  ]
9996.0: [ 0.41198261  0.50958195  0.62843379  0.82677092]
9999.0: [ 0.437169    0.17833114  0.91096133  0.70713434]
[ 9999.  9993.  9989.  9999.  9999.  9935.  9999.  9963.  9992.  9996.]

real 0m 24.352s
user 3m  4.919s
sys  0m  1.464s

【讨论】:

  • 谢谢!实际上一个点只能在一个和一个单一的范围内......所以它应该可以正常工作!
  • @Fiabetto 你可能想再看看我的回答。我现在在我的机器上用 1e6 点和 1e4 界限下降到 24 秒。
【解决方案2】:

您可以使用嵌套循环来检查条件并作为生成器生成结果:

points = [[ 1.5  1.5]
 [ 1.1  1.1]
 [ 2.2  2.2]
 [ 1.3  1.3]
 [ 3.4  1.4]
 [ 2.   1.5]]

bounds = [[ 0.  ,0. , 2.,  2.],
 [ 2.  ,2.  ,3.,  3.]]

import numpy as np

def pos(p,b):
  for x,y in p:
    flag=False
    for index,dis in enumerate(b):
      minx,miny,maxx,maxy=dis
      if x > minx and x < maxx and y > miny and y < maxy :
        flag=True
        yield index
    if not flag:
        yield 'NaN'


print list(pos(points,bounds))

结果:

[0, 0, 1, 0, 'NaN', 'NaN']

【讨论】:

  • 谢谢卡斯拉,但也许有错字?结果列表长度应等于点输入数组的长度。
  • @Fiabetto 欢迎。是的 :) 这只是一个错字!
  • 感谢您的帮助,我正在测试您的方法与我的旧方法相比的速度时间!再次感谢!
【解决方案3】:

我会这样做:

import numpy as np

points = np.random.rand(10,2)

xmin = [0.25,0.5]
ymin = [0.25,0.5]

results = np.zeros(len(points))

for i in range(len(xmin)):
     bool_index_array = np.greater(points, [xmin[i],ymin[i]])
     print "boolean index of (x,y) greater (xmin, ymin): ", bool_index_array
     indicies_of_true_true = np.where(bool_index_array[:,0]*bool_index_array[:,1]==1)[0]
     print "indices of [True,True]: ", indicies_of_true_true
     results[indicies_of_true_true] += 1

print "results: ", results

[out]: [ 1.  1.  1.  2.  0.  0.  1.  1.  1.  1.]

这使用下边界将您的点分类到组中:

  • 1 (如果 xmin[0]
  • 2(如果 x > xmin[1] & y > ymin[1])
  • 0 如果以上条件都不满足

【讨论】:

    猜你喜欢
    • 2013-08-28
    • 2014-08-24
    • 2017-11-15
    • 1970-01-01
    • 2022-01-14
    • 1970-01-01
    • 2020-11-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多