【问题标题】:Is there a sample implementation of Kiba ETL Job using s3 bucket with csv files as source and the destination is in s3 bucket also?是否有使用 s3 存储桶和 csv 文件作为源且目标也在 s3 存储桶中的 Kiba ETL 作业示例实现?
【发布时间】:2018-01-15 05:24:17
【问题描述】:

我在 s3 中有 csv 文件,我想转换一些列并将结果放在另一个 s3 存储桶中,有时在同一个存储桶中但具有不同的文件夹。我可以使用 Kiba 实现它吗?我可能.. 在转换和其他东西之前我需要先将 csv 数据存储在数据库中吗?

【问题讨论】:

    标签: kiba-etl


    【解决方案1】:

    感谢您使用 Kiba!今天没有这样的实现示例可用。我将来会提供供应商支持的 S3 组件作为 Kiba Pro 的一部分。

    也就是说,您的想法肯定是可能的(我已经为一些客户做过这个)——而且绝对没有必要先将 CSV 数据存储在数据库中。

    您需要做的是实现 Kiba S3 sourcedestination,这将为您完成。

    我建议您查看AWS Ruby SDK,尤其是S3 Examples

    以下链接将特别有用:

    希望这会有所帮助!

    【讨论】:

    • 很高兴它有帮助!您能否将答案标记为有效?谢谢!
    猜你喜欢
    • 2021-08-14
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2019-11-07
    • 1970-01-01
    • 2017-11-23
    • 1970-01-01
    • 2020-05-29
    相关资源
    最近更新 更多