【问题标题】:Can AWS Glue call Step functions for data?AWS Glue 可以为数据调用 Step 函数吗?
【发布时间】:2021-03-04 17:41:11
【问题描述】:

我有一个要求,AWS Glue 需要为 ETL 过程中所需的数据调用/调用 Step 函数。整个过程如下:

  1. Glue 从 S3 读取 csv
  2. Glue 为 csv 文件中的每条记录调用 Step 函数
  3. Step 函数有 2 个步骤/状态/任务,并为数据调用 2 个不同的 api(在 .net core 中开发/在 aws eks 中部署)。 第一步的输出是第二步的输入。
  4. Step 函数的输出将被 Glue 用于转换。

所以有 2 个问题需要解决,从胶水调用 step 和调用 apis 的 step 函数。 请提出建议。

【问题讨论】:

  • 你问的是一个非常广泛的任务,甚至不是一个问题,应该分成多个更具体的问题。一旦你把它分解成更小的部分(就像你在某种程度上已经做过 - 我如何从胶水工作中调用阶梯函数?)然后通过尝试不同的方法和查找来解决它会变得更容易自己在互联网文档上的解决方案。

标签: amazon-web-services .net-core asp.net-core-webapi aws-glue aws-step-functions


【解决方案1】:

这是一个非常广泛的问题。但简单的答案是,您可以使用胶水环境中的 boto3 库与步进函数进行交互。您还可以在 step 函数启动后提取其状态,并且还可以从函数调用中获取输出值。

【讨论】:

    猜你喜欢
    • 2019-06-13
    • 1970-01-01
    • 1970-01-01
    • 2017-08-24
    • 1970-01-01
    • 1970-01-01
    • 2015-10-21
    • 2019-03-22
    • 2018-01-29
    相关资源
    最近更新 更多