如何包装 Python 迭代器以使其线程安全？

Question

因为有时它比围绕队列设计解决方案更实用，所以我想编写一个简单的包装器来使迭代器线程安全。到目前为止，我从thesetopics得到了灵感，想出了两个想法：

想法 1

class LockedIterator(object):
    def __init__(self, it):
        self._lock = threading.Lock()
        self._it = it.__iter__()
        if hasattr(self._it, 'close'):
            def close(self):
                with self._lock:
                    self._it.close()
            self.__setattr__('close', close)

    def __iter__(self):
        return self

    def next(self):
        with self._lock:
            return self._it.next()

我不喜欢它的是，如果我必须指定所有可能的方法，它会变得有点冗长 - 好吧，我不能 - 例如生成器的特殊情况。此外，我可能还有一些其他迭代器，它们现在已经隐藏了更具体的方法。

想法 2

class LockedIterator(object):
    def __init__(self, it):
        self._lock = threading.Lock()
        self._it = it.__iter__()

    def __getattr__(self, item):
        attr = getattr(self._it, item)
        if callable(attr):
            def hooked(*args, **kwargs):
                with self._lock:
                    return attr(*args, **kwargs)
            setattr(self, item, hooked)
            return hooked

这样更简洁，但它只能拦截调用，而不是例如直接更改属性。 （这些属性现在被隐藏以防止出现问题。）更重要的是，它使 Python 不再将我的对象识别为迭代器！

在不创建泄漏抽象的情况下，使所有迭代器（甚至更好：所有对象）都可以使用的最佳方法是什么？我不太担心不必要的锁定，但如果你能想出一个解决方案来规避这个问题，那就太好了！

Answer 1

首先，你知道the GIL吗？与简单的单线程版本相比，编写多线程 Python 的尝试通常会导致运行时间更慢。

您第一次尝试访问迭代器线程安全似乎很合理。您可以使用生成器使其更具可读性：

def locked_iter(it):
    it = iter(it)
    lock = threading.Lock()
    while True:
        try:
            with lock:
                value = next(it)
        except StopIteration:
            return
        yield value