【问题标题】:Npgsql with Pgbouncer on Kubernetes - pooling & keepalives在 Kubernetes 上使用 Pgbouncer 的 Npgsql - 池化和 keepalives
【发布时间】:2020-01-05 15:33:03
【问题描述】:

我正在寻找更详细的指导/其他人使用 Pgbouncer 在生产中使用 Npgsql 的经验。

基本上我们使用 GKE 和 Google Cloud SQL 进行以下设置:

现在 - 我已经使用本地连接池配置了 npgsql,就好像 pgbouncer 没有到位一样。我已经在我的 GKE 集群中添加了 pgbouncer 作为部署,因为 Google SQL 的最大连接限制非常低 - 为了能够在 Kubernetes 内水平扩展我的应用程序,我需要防止它被压倒。

当一个 pgbouncer pod 死掉时(由于节点故障或我正在扩大/缩小规模),我的问题是可靠性之一。

发生这种情况时 (1) 来自应用程序 pod 中客户端连接池的所有现有打开连接不会立即关闭 (2) - 并且基本上会导致我的应用程序在尝试执行命令时出现异常。不理想!

在我看来(并查看https://www.npgsql.org/doc/compatibility.html 的建议)我有三个选择。

  1. 接受它,并在我的应用程序中处理 SQL 命令的重试。 可能,但如果我弄错了,似乎需要付出很多努力,并且会产生很多可能的错误。 p>

  2. 打开 keep alives 并让 npgsql 本身在坏连接失败时相对快速地“失败”。我什至不确定这是否可行,或者是否会导致进一步问题。

  3. 完全关闭客户端连接池。这似乎是官方的建议,但出于性能原因我不愿意这样做,Npgsql 必须打开似乎非常浪费每个会话与 pgbouncer 的连接 - 与我使用 SQL Server 等其他 RDBMS 的所有经验背道而驰。

我是否在这些选项之一的正确轨道上?还是我错过了什么?

【问题讨论】:

    标签: postgresql asp.net-core kubernetes npgsql pgbouncer


    【解决方案1】:

    您通常走在正确的轨道上,您的分析似乎准确。一些cmets:

    选项 2(启用 keepalives)将有助于删除 Npgsql 池中已断开的空闲连接。正如您编写的那样,您的应用程序仍然会出现一些故障(因为可能无法及时删除一些不良的空闲连接)。没有特别的理由认为这会导致进一步的问题 - 打开它应该是非常安全的。

    选项 3 对于 perf 确实存在问题,因为每次需要数据库连接时都必须建立与 pgbouncer 的 TCP 连接。它也不会提供 100% 的防故障机制,因为 pgbouncer 在连接使用时可能仍会退出。

    归根结底,您是在询问面对任意网络/服务器故障时的弹性,这不是一件容易实现的事情。处理此问题的唯一 100% 可靠方法是在您的应用程序中,通过一个专用层,该层将在发生瞬态异常时重试操作。您可能想查看Polly,并注意 Npgsql 通过公开可用作重试触发器的IsTransient 异常对我们有所帮助(Entity Framework Core 也包括类似的“重试策略”)。如果您确实走这条路,请注意交易特别难以正确处理。

    【讨论】:

    • 谢谢谢伊!并且来自这个人本人 :) Keep alives 似乎是开始的地方 - 然后随着时间的推移改进我的应用程序层(很高兴了解 IsTransient)。基于https://www.npgsql.org/doc/keepalive.html 的建议的另一个问题 - 从 SQL 或 TCP keepalives 开始?
    • 除非我弄错了,否则 Npgsql 不会意识到由于 TCP keepalive 失败而导致的连接中断,直到它们被实际使用 - 所以这可能无论如何也解决不了你的问题。 SQL keepalive 通常也更安全,因为它不依赖于网络设备支持。
    猜你喜欢
    • 2021-05-24
    • 2019-07-27
    • 2019-12-20
    • 2019-07-25
    • 2017-10-31
    • 2023-02-22
    • 2020-07-14
    • 2015-05-03
    • 1970-01-01
    相关资源
    最近更新 更多