【问题标题】:MWAA Airflow job getting SCRAM error when connecting to postgres连接到 postgres 时 MWAA Airflow 作业出现 SCRAM 错误
【发布时间】:2023-01-21 06:46:43
【问题描述】:

我正在尝试从气流的 MWAA 实例查询 postgres。我不确定是否由于气流本身具有不同版本的 postgres 元数据或什么而导致冲突,但在连接到 postgres 时出现此错误:

  File "/usr/local/airflow/dags/transactions/transactions.py", line 62, in load_ss_exposures_to_s3
    ss_conn = psycopg2.connect(
  File "/usr/local/airflow/.local/lib/python3.10/site-packages/psycopg2/__init__.py", line 122, in connect
    conn = _connect(dsn, connection_factory=connection_factory, **kwasync)
psycopg2.OperationalError: SCRAM authentication requires libpq version 10 or above

在本地,我有 psycopg2 版本 2.9.5 和 libpq 版本 140005。MWAA 使用的是 psycopg2 2.9.5 和 libpq 90224。我有办法强制 MWAA 使用另一个版本吗?也许通过气流插件?气流版本为 2.4.3。

【问题讨论】:

    标签: python postgresql amazon-web-services airflow mwaa


    【解决方案1】:

    要更新 libs 版本,在 AWS MWAA 中,您可以将需求文件添加到 S3,并配置 MWAA 通过选择文件和更新环境来安装它 (doc)。

    对于您的问题,您可以尝试安装与本地主机相同的版本,但如果您在 MWAA(arm64)中使用 graviton VM,则可能是另一个问题,例如安装与 arm64 不兼容的 psycopg2-binary,并且在此如果你需要安装psycopg2

    pip install psycopg2
    

    【讨论】:

      猜你喜欢
      • 2014-04-25
      • 2021-08-30
      • 1970-01-01
      • 2016-10-26
      • 2022-12-11
      • 2021-08-19
      • 2020-07-14
      • 2020-04-04
      • 2019-10-08
      相关资源
      最近更新 更多