【问题标题】:Trasfer data from S3 to Postgres RDS in AWS将数据从 S3 传输到 AWS 中的 Postgres RDS
【发布时间】:2020-06-21 18:03:32
【问题描述】:

我是 AWS 新手,正在尝试找到一种将数据从 S3 加载到 RDS 的方法。在我目前的方法中,我使用EC2 实例来做到这一点(我的应用程序正在运行)。我正在考虑通过 lambda 进行操作,但我的数据将有大约 2200 万条记录,而我目前的方法需要 4 小时。并且 lambda 超时为 15 分钟(因此 lambda 方法在这种情况下不起作用)。 我当前方法的问题是这个数据文件可能会在一个月内出现,我不想让 EC2 只运行这个任务。无服务器世界中的任何替代方案都会有所帮助。谢谢

注意:The data is loaded from S3 to RDS based on SQS, i,e my application is pulling the messages from SQS which will then load the data into RDS

【问题讨论】:

  • 1.我会考虑使用 DMS。它可以将数据从 S3 复制到 RDS 2。您要分析数据吗?如果是这样,请考虑 Athena 或 EMR
  • @NeilMcGuigan 我不打算分析数据,我可以尝试使用 DMS。谢谢

标签: amazon-web-services amazon-s3 aws-lambda aws-serverless


【解决方案1】:

请为此尝试 DMS。您需要使用 S3 存储桶信息创建 DMS 代理作为 RDS 的源和目标详细信息。

【讨论】:

    猜你喜欢
    • 2015-01-03
    • 2019-03-22
    • 2020-07-18
    • 1970-01-01
    • 1970-01-01
    • 2022-11-25
    • 2021-12-27
    • 2017-08-26
    • 2021-04-19
    相关资源
    最近更新 更多