【问题标题】:Python 3 asyncio how to properly close client connectionPython 3 asyncio 如何正确关闭客户端连接
【发布时间】:2017-07-12 03:39:03
【问题描述】:

我在 Tornado Web 应用程序中发现了内存泄漏,但我不知道如何修复它。经过一些内存分析后,我发现我的 memcached 客户端在关闭客户端连接时泄漏了 dict。作为auto-discovery mechanism w/ AWS ElastiCache 的一部分,我经常打开/关闭 memcached 客户端(具体来说是每分钟一次)。

这是使用pympler 演示泄漏的最小复制器:

from pympler import muppy, summary
import asyncio
import aiomcache

loop = asyncio.get_event_loop()

async def hello_aiomcache():
    mc = aiomcache.Client("127.0.0.1", 11211, loop=loop)
    await mc.set(b"some_key", b"Some value")
    value = await mc.get(b"some_key")
    print(value)
    values = await mc.multi_get(b"some_key", b"other_key")
    print(values)
    await mc.delete(b"another_key")
    mc.close()  

# establish a baseline (watch the <class 'dict line)
summary.print_(summary.summarize(muppy.get_objects()))

for i in range(50):
    loop.run_until_complete(hello_aiomcache())

# <class 'dict grows
summary.print_(summary.summarize(muppy.get_objects()))

ds = [ao for ao in muppy.get_objects() if isinstance(ao, dict)]

# leaked dict looks like {'_loop': <_UnixSelectorEventLoop running=False closed=False debug=False>, '_paused': False, '_drain_waiter': None, '_connection_lost': False, '_stream_reader': <StreamReader t=<_SelectorSocketTransport fd=34 read=polling write=<idle, bufsize=0>>>, '_stream_writer': None, '_client_connected_cb': None, '_over_ssl': False}
ds[2364]

看起来这些 dict 将永远存在,直到调用 loop.close()。我对此感到困惑。我认为我不想关闭我通过tornado.ioloop.IOLoop.IOLoop.current().asyncio_loop 从龙卷风借来的循环。有没有其他方法可以在不关闭循环的情况下正确关闭/清理这些连接?

【问题讨论】:

    标签: python asynchronous memory-leaks


    【解决方案1】:

    问题是不是awaiting mc.close()引起的。

    我有点惊讶地发现,如果没有一些明确的调度,协程实际上不会运行。我天真地认为它最终会在未来的某个时候被调用。但是,coroutine docs 明确声明:

    调用协程不会启动其代码运行——协程 调用返回的对象在您安排它之前不会做任何事情 执行。启动它有两种基本方法:调用await coroutine 或来自另一个协程的yield from coroutine(假设 其他协程已经在运行!),或者使用 ensure_future() 函数或 AbstractEventLoop.create_task() 方法。

    【讨论】:

    • 使用asyncio's debug mode 将'记录已定义但从不“产生”的协程'。这有助于指出此类错误。
    猜你喜欢
    • 2023-04-04
    • 2021-03-25
    • 1970-01-01
    • 2021-11-28
    • 1970-01-01
    • 2013-08-10
    • 2013-08-13
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多