deepcopy 和 python - 避免使用它的提示？

Question

我有一个非常简单的 python 例程，其中涉及循环遍历大约 20,000 个纬度、经度坐标的列表并计算每个点到参考点的距离。

def compute_nearest_points( lat, lon, nPoints=5 ):
    """Find the nearest N points, given the input coordinates."""

    points = session.query(PointIndex).all()
    oldNearest = []
    newNearest = []
    for n in xrange(nPoints):
        oldNearest.append(PointDistance(None,None,None,99999.0,99999.0))
        newNearest.append(obj2)

    #This is almost certainly an inappropriate use of deepcopy
    #  but how SHOULD I be doing this?!?!
    for point in points:
        distance = compute_spherical_law_of_cosines( lat, lon, point.avg_lat, point.avg_lon )
        k = 0
        for p in oldNearest:
            if distance < p.distance:
                newNearest[k] = PointDistance(
                    point.point, point.kana, point.english, point.avg_lat, point.avg_lon, distance=distance
                    )
                break
            else:
                newNearest[k] = deepcopy(oldNearest[k])
            k += 1
        for j in range(k,nPoints-1):
            newNearest[j+1] = deepcopy(oldNearest[j])
        oldNearest = deepcopy(newNearest)

    #We're done, now print the result
    for point in oldNearest:
        print point.station, point.english, point.distance

    return

我最初是用 C 语言编写的，使用完全相同的方法，它在那里运行良好，并且对于 nPoints

我第一次移植它时没有使用现在使用该方法的 deepcopy 语句，这导致结果“奇怪”或部分不正确，因为某些点只是被复制为引用（我猜？我想？ ) -- 但它仍然几乎和 C 版本一样快。

现在添加 deepcopy 调用后，例程可以正常工作，但会导致极大的性能损失，现在需要几秒钟才能完成相同的工作。

这似乎是一个很常见的工作，但我显然不是以 Python 的方式来做的。我应该怎么做才能得到正确的结果，但不必在任何地方都包含 deepcopy？

编辑：
我找到了一个更简单、更快的解决方案，

def compute_nearest_points2( lat, lon, nPoints=5 ):
    """Find the nearest N points, given the input coordinates."""

    points = session.query(PointIndex).all()
    nearest = []

    for point in points:
        distance = compute_spherical_law_of_cosines( lat, lon, point.avg_lat, point.avg_lon )
        nearest.append( 
            PointDistance(
                point.point, point.kana, point.english, point.avg_lat, point.avg_lon, distance=distance
                )
            )

    nearest_points = sorted(nearest, key=lambda point: point.distance)[:nPoints]     
    for item in nearest_points:
        print item.point, item.english, item.distance
    return

所以基本上我只是制作输入的完整副本并附加一个新值 - 与参考点的距离。然后我只是对结果列表应用“排序”，指定排序键应该是 PointDistance 对象的距离属性。

这比使用 deepcopy 快得多，尽管我承认我真的不明白为什么。我猜这要归功于高效的 C 实现 python 的“排序”？

Answer 1

我知道这并不能直接解决您的问题（而且我知道这是一个老问题），但由于有一些关于性能的讨论，因此可能值得查看 append 操作。您可能需要考虑“预分配”数组。例如：

array = [None] * num_elements
for i in range(num_elements):
    array[i] = True

对比：

array = []
for i in range(num_elements):
    array.append(True)

如果您为即使是中等的num_elements 值预先分配数组，这两种方法的简单timeit 运行会显示25% 的改进。

Answer 2

好的，先做最简单的事情：

1. deepcopy 通常很慢，因为它必须做大量的内部簿记才能复制病理案例，例如以理智的方式包含自己的对象。例如，请参阅this page，或查看位于 Python 路径中某处的 copy.py 中的 deepcopy 的源代码。

2. sorted 速度很快，因为它是用 C 实现的。比 Python 中的等效排序快得多。

现在，您在评论中询问了有关 Python 引用计数行为的更多信息。在 Python 中，变量是引用。当你说a=1 时，想想它有1 作为一个独立存在的对象，而a 只是附加在它上面的一个标签。在其他一些语言（如 C）中，变量是容器（不是标签），当您执行 a=1 时，实际上您将 1 放入 a。这不适用于 Python，其中变量是引用。这会产生一些有趣的结果，您可能还会偶然发现：

>>> a = []      # construct a new list, attach a tag named "a" to it
>>> b = a       # attach a tag named "b" to the object which is tagged by "a"
>>> a.append(1) # append 1 to the list tagged by "a"
>>> print b     # print the list tagged by "b"
[1]

之所以会出现这种行为是因为列表是可变对象：您可以在创建列表后对其进行修改，并且在通过任何引用它的变量访问列表时可以看到修改。列表的不可变等价物是元组：

>>> a = ()      # construct a new tuple, attach a tag named "a" to it
>>> b = a       # now "b" refers to the same empty tuple as "a"
>>> a += (1, 2) # appending some elements to the tuple
>>> print b
()

这里，a += (1, 2) 从a 引用的现有元组创建一个新 元组，加上另一个动态构建的元组(1, 2)，a 是调整为指向新元组，当然b 仍然指的是旧元组。像a = a+2 这样的简单数字加法也会发生同样的情况：在这种情况下，a 最初指向的数字不会以任何方式发生变化，Python “构造”一个​​新数字并将 a 移动到新数字.所以，简而言之：数字、字符串和元组是不可变的；列表、字典和集合是可变的。用户定义的类通常是可变的，除非您明确确保内部状态不能改变。还有frozenset，它是一个不可变的集合。当然还有很多其他的:)

我不知道为什么您的原始代码不起作用，但可能您遇到了与我在列表中显示的代码 sn-p 相关的行为，因为您的 PointDistance 类默认情况下也是可变的。一个替代方案可能是来自collections 的namedtuple 类，它构造一个类似元组的对象，其字段也可以通过名称访问。例如，您可以这样做：

from collections import namedtuple
PointDistance = namedtuple("PointDistance", "point distance")

这将为您创建一个 PointDistance 类，该类具有两个命名字段：point 和 distance。在您的主要for 循环中，您可以适当地分配这些。由于point 字段指向的点对象在您的for 循环过程中不会被修改，并且distance 是一个数字（根据定义，它是不可变的），您应该安全地执行此操作大大地。但是，是的，一般来说，似乎简单地使用sorted 会更快，因为sorted 是用C 实现的。你可能还幸运地使用了heapq 模块，它实现了一个由普通Python 列表支持的堆数据结构，因此，它可以让您轻松找到顶部的 k 元素，而无需对其他元素进行排序。然而，由于heapq 也是在 Python 中实现的，所以sorted 可能会更好地工作，除非你有很多积分。

最后，我想补充一点，到目前为止我从未使用过deepcopy，所以我想在大多数情况下都有办法避免它。