如何在 Vertex AI 中构建容器日志？

Question

我在 Vertex AI 中有一个模型，从日志看来 Vertex AI 已将日志摄取到 jsonPayload 字段中的 message 字段中，但我想构造 jsonPayload 字段，以便每个键message 将是jsonPayload 中的一个字段，即：展平/提取message

Answer 1

Stackdriver 中的日志遵循定义的 LogEntry 架构。 Cloud Logging 使用 structured logs，其中日志条目使用 jsonPayload 字段向其负载添加结构。

对于 Vertex AI，参数在我们在日志中看到的消息字段中传递。这些日志结构是预定义的。但是，如果您想提取消息块中存在的字段，您可以参考下面提到的解决方法：

1.创建接收器：

• 您可以将日志导出到 Cloud Storage 存储桶、Bigquery、Pub/Sub 等。
• 如果您使用 Bigquery 作为接收器，那么在 Bigquery 中您可以使用 JSON functions 来提取所需的数据。

2。下载日志并编写您的自定义代码：

• 您可以下载日志文件，然后编写自定义逻辑以根据您的要求提取数据。
• 可以参考client library(python)编写自定义逻辑和pythonJSON functions.

Answer 2

使用gcloud logging client 将结构日志写入 Vertex AI 端点：

（确保您有一个有权将日志写入 gcloud 的服务帐户，并且，对于干净的日志，请确保您没有将任何其他日志流式传输到 stderr 或 stdout）

import json
import logging
from logging import Handler, LogRecord
import google.cloud.logging_v2 as logging_v2
from google.api_core.client_options import ClientOptions
from google.oauth2 import service_account

data_to_write_to_endpoint = {key1: value1, ...}

#Json key for a Service account permitted to write logs into the gcp 
# project where your endpoint is
credentials = service_account.Credentials.from_service_account_info(
            json.loads(SERVICE_ACOUNT_KEY_JSON)
        )
client = logging_v2.client.Client(
            credentials=credentials, client_options=ClientOptions(api_endpoint="logging.googleapis.com",),
        )
# This represent your Vertex AI endpoint
resource = logging_v2.Resource(
            type="aiplatform.googleapis.com/Endpoint",
            labels={"endpoint_id": YOUR_ENDPOINT_ID, "location": ENDPOINT_REGION},
        )
logger = client.logger("LOGGER NAME")
logger.log_struct(
        info=data_to_write_to_endpoint,
        severity=severity,
        resource=resource,
    )