【问题标题】:Python Google Cloud Function Missing Log EntriesPython Google Cloud 函数缺少日志条目
【发布时间】:2021-04-08 00:47:52
【问题描述】:

我第一次尝试使用 GCP 的云功能和 python,并希望充分集成 python 的日志记录,以便它们与 GCP 的日志记录基础设施很好地匹配(特别是这样可以识别严重性级别,理想情况下还有 execution_ids 和 trace ids包括在内。

我一直在关注 https://cloud.google.com/logging/docs/setup/python 进行设置。

我的代码:

import base64
import logging
import google.cloud.logging

client = google.cloud.logging.Client()
client.get_default_handler()
client.setup_logging()
logging.getLogger().setLevel(logging.DEBUG)

def sample_pubsub(event, context):
    pubsub_message = base64.b64decode(event['data']).decode('utf-8')
    print('BEFORE LOG')
    logging.info(f'Event received: payload data == [{pubsub_message}]')
    logging.debug('This is debug')
    logging.warn('This should be a warning')
    logging.error('This should be an error')
    print('AFTER LOG')

当我使用函数框架在本地运行它时,它可以完美地(据我所知)输出到控制台:

{"message": " * Running on http://0.0.0.0:5000/ (Press CTRL+C to quit)", "timestamp": {"seconds": 1609443581, "nanos": 119384527}, "thread": 140519851886400, "severity": "INFO"}
{"message": " * Restarting with inotify reloader", "timestamp": {"seconds": 1609443581, "nanos": 149804115}, "thread": 140519851886400, "severity": "INFO"}
{"message": " * Debugger is active!", "timestamp": {"seconds": 1609443584, "nanos": 529310703}, "thread": 140233360983872, "severity": "WARNING"}
{"message": " * Debugger PIN: 327-539-151", "timestamp": {"seconds": 1609443584, "nanos": 533129930}, "thread": 140233360983872, "severity": "INFO"}
BEFORE LOG
{"message": "Event received: payload data == []", "timestamp": {"seconds": 1609443585, "nanos": 77324390}, "thread": 140232720623360, "severity": "INFO"}
{"message": "This is debug", "timestamp": {"seconds": 1609443585, "nanos": 77804565}, "thread": 140232720623360, "severity": "DEBUG"}
{"message": "This should be a warning", "timestamp": {"seconds": 1609443585, "nanos": 78260660}, "thread": 140232720623360, "severity": "WARNING"}
{"message": "This should be an error", "timestamp": {"seconds": 1609443585, "nanos": 78758001}, "thread": 140232720623360, "severity": "ERROR"}
AFTER LOG
{"message": "127.0.0.1 - - [31/Dec/2020 14:39:45] \"\u001b[37mPOST / HTTP/1.1\u001b[0m\" 200 -", "timestamp": {"seconds": 1609443585, "nanos": 82943439}, "thread": 140232720623360, "severity": "INFO"}

所以...然后我将它部署到云端并通过相关主题触发它,我看到:

因此,stdout 似乎工作正常,但缺少记录器输出。最后评论:我确实创建了帐户密钥并将json文件放入功能部署根文件夹,并创建了环境变量GOOGLE_APPLICATION_CREDENTIALS=key.json。如果问题是文件未被拾取,我还使用引用不存在文件的值对此进行了测试。如果我这样做,部署将失败,因此我确信正在获取密钥文件。

这让我想到了我的问题:我做错了什么?

编辑 - 添加环境细节

  • 我正在使用 GSDK 部署功能如下:

      gcloud functions deploy sample_pubsub --source=${SOURCE_DIR} --runtime=python38 --trigger-topic=${PUBSUB_TOPIC} --set-env-vars GOOGLE_APPLICATION_CREDENTIALS=key.json,PYTHONUNBUFFERED=1
    
  • 在与函数 py 文件相同的文件夹中有一个 requirements.txt 文件,仅指定“google-cloud-logging”,没有任何版本限制。 ** 对于本地调试,我使用 python 3.8.5 创建了一个 venv,并且我只安装了 google-cloud-logging 和 functions-framework - 再次没有任何版本限制。

话虽如此,如果我在激活的虚拟环境中执行 pip freeze:

appdirs==1.4.3
CacheControl==0.12.6
cachetools==4.2.0
certifi==2019.11.28
chardet==3.0.4
click==7.1.2
cloudevents==1.2.0
colorama==0.4.3
contextlib2==0.6.0
deprecation==2.1.0
distlib==0.3.0
distro==1.4.0
Flask==1.1.2
functions-framework==2.1.0
google-api-core==1.24.1
google-auth==1.24.0
google-cloud-core==1.5.0
google-cloud-logging==2.0.2
googleapis-common-protos==1.52.0
grpcio==1.34.0
gunicorn==20.0.4
html5lib==1.0.1
idna==2.8
ipaddr==2.2.0
itsdangerous==1.1.0
Jinja2==2.11.2
lockfile==0.12.2
MarkupSafe==1.1.1
msgpack==0.6.2
packaging==20.3
pep517==0.8.2
progress==1.5
proto-plus==1.13.0
protobuf==3.14.0
pyasn1==0.4.8
pyasn1-modules==0.2.8
pyparsing==2.4.6
pytoml==0.1.21
pytz==2020.5
requests==2.22.0
retrying==1.3.3
rsa==4.6
six==1.14.0
urllib3==1.25.8
watchdog==1.0.2
webencodings==0.5.1
Werkzeug==1.0.1

【问题讨论】:

  • 您的环境是什么(py 版本、客户端库、函数框架)?请更新您的帖子。我测试了你的代码,它似乎工作正常(云函数 py3.7,google-cloud-logging==2.0.2)。另外,请注意Cloud Functions only distinguishes between stdout & stderr,因此您只能在日志中查看信息或错误严重性。
  • 已按要求更新。

标签: python logging google-cloud-functions


【解决方案1】:

这似乎是运行 Python 3.8 的 Cloud Functions 的一个已知问题。这是一个类似的案例,目前在 issue tracker 上开放。

我现在已将此线程附加到问题跟踪器,但也可以在其中发表评论。

作为当前的解决方法,我建议您使用 Python 3.7,直到问题得到解决。

【讨论】:

  • 谢谢!将在本周末试用并回圈以将其标记为已回答或提供更多信息。
  • 我也无法让它在 3.7 中工作。它确实输出到日志,但是,日志级别不正确,警告(!)显示为错误(!!)
  • @rannirabadi 我已经在第一条评论中提到了这一点。 Cloud Functions 日志始终写入stdoutstderr,这意味着默认情况下您只会在日志中看到 INFO 或 ERROR 严重性。一个解决方案是,如果您希望显示更准确的日志严重性,则必须编写 structured log
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 2016-07-04
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2020-03-27
  • 2019-06-06
相关资源
最近更新 更多