Psycopg2 数据库连接在丢失的网络连接上挂起

Question

问题描述

我正在使用 psycopg2 连接到远程主机上的 PostgreSQL 数据库。我打开一个连接并等待请求，然后对于每个请求，我对连接运行查询并返回数据。

但是当连接已经打开后网络连接丢失时，下一个数据库查询挂起，我必须手动终止程序。

详情：

• 它至少挂了 2 个小时（我等不及了）
• “网络宕机”的情况实际上是 VPN 宕机（db 主机只能通过 VPN 访问）
• 我不能使用异步连接，因为我需要事务
• python 2.6
• psycopg 2.2.1
• debian linux 6 和 7、64 位
• postgresql 8.4 和 9.1

我想要/需要什么

在运行查询之前，我需要一些可靠的方法来检测失败的连接，这样我的程序就不会挂起，或者让cursor.execute(..) 在连接失败时引发异常。 p>

示例：

import psycopg2
import time

conn = psycopg2.connect("host='dbs' dbname='foo' user='joe' password='x'")
time.sleep(10) # I manually turn VPN off during this sleep..
cu = conn.cursor()
cu.execute('SELECT 1') # <- hangs here
print cu.fetchone()
cu.commit()

我尝试了什么（什么没用）：

• “全局”设置 TCP 超时 - 在 psycopg2 导入之前，我添加了：

  import socket
  socket.setdefaulttimeout(10)
  

• 在psycopg.connection 的套接字上设置 TCP 超时：

  ..
  conn = psycopg2.connect(...
  s = socket.fromfd(conn.fileno(), socket.AF_INET, socket.SOCK_STREAM)
  s.settimeout(5)
  ..
  

• 为psycopg.connection的套接字启用keepalive：

  ...
  conn = psycopg2.connect(...
  s = socket.fromfd(conn.fileno(), socket.AF_INET, socket.SOCK_STREAM)
  s.settimeout(5)
  s.setsockopt(socket.SOL_SOCKET, socket.SO_KEEPALIVE, 1)
  s.setsockopt(socket.IPPROTO_TCP, socket.TCP_KEEPIDLE, 1)
  s.setsockopt(socket.IPPROTO_TCP, socket.TCP_KEEPINTVL, 3)
  s.setsockopt(socket.IPPROTO_TCP, socket.TCP_KEEPCNT, 5)
  ...
  

Answer 1

配置 KEEPALIVE 的 OP 和 Gabriel Salla 的解决方案不完整。此解决方案仅在连接空闲（在网络关闭之前没有发送数据）并且网络关闭时才有效。

如果某些数据已经通过网络发送，但已经关闭但尚未被 KEEPALIVE 功能检测到，则会出现挂起。发生这种情况是因为在发送某些数据时使用了 RTO 机制而不是 KEEPALIVE。

要为 RTO 设置超时，您必须为套接字设置 TCP_USER_TIMEOUT 超时（以毫秒为单位）。

完整的解决方案是（KEEPALIVE 和 RTO 超时都配置为 10 秒）：

s = socket.fromfd(conn.fileno(), socket.AF_INET, socket.SOCK_STREAM)
s.setsockopt(socket.SOL_SOCKET, socket.SO_KEEPALIVE, 1)
s.setsockopt(socket.IPPROTO_TCP, socket.TCP_KEEPIDLE, 6)
s.setsockopt(socket.IPPROTO_TCP, socket.TCP_KEEPINTVL, 2)
s.setsockopt(socket.IPPROTO_TCP, socket.TCP_KEEPCNT, 2)
s.setsockopt(socket.IPPROTO_TCP, socket.TCP_USER_TIMEOUT, 10000)

Answer 2

经过漫长而残酷的斗争，我想我通过简单地执行其他人正在谈论的策略解决了这个问题，但使用了 psycopg2 连接函数本身：

from psycopg2 import connect


conn = connect(
        database=database,
        user=username,
        password=password,
        host=hostname,
        port=port,
        connect_timeout=3,
        # https://www.postgresql.org/docs/9.3/libpq-connect.html
        keepalives=1,
        keepalives_idle=5,
        keepalives_interval=2,
        keepalives_count=2)

我看到 psycopg2 在长时间运行的查询中一直挂起，但现在问题似乎已完全解决。

请注意，这可能是新功能，因为这个问题很旧。

Answer 3

查看了套接字超时，在阅读了 this 和 this 之后，这些设置对我有用

s = socket.fromfd(connection.fileno(),
                  socket.AF_INET, socket.SOCK_STREAM)
# Enable sending of keep-alive messages
s.setsockopt(socket.SOL_SOCKET, socket.SO_KEEPALIVE, 1)
# Time the connection needs to remain idle before start sending
# keepalive probes
s.setsockopt(socket.IPPROTO_TCP, socket.TCP_KEEPIDLE, int(ceil(time)))
# Time between individual keepalive probes
s.setsockopt(socket.IPPROTO_TCP, socket.TCP_KEEPINTVL, 1)
# The maximum number of keepalive probes should send before dropping
# the connection
s.setsockopt(socket.IPPROTO_TCP, socket.TCP_KEEPCNT, 3)

Answer 4

为了确保连接仍然有效，请阅读属性connection.isolation_level。这将引发OperationalError 和pgcode == "57P01"，以防连接失效。

try: connection.isolation_level except OperationalError as oe: conn = psycopg2.connect(dsn)