【发布时间】:2020-06-21 18:03:32
【问题描述】:
我是 AWS 新手,正在尝试找到一种将数据从 S3 加载到 RDS 的方法。在我目前的方法中,我使用EC2 实例来做到这一点(我的应用程序正在运行)。我正在考虑通过 lambda 进行操作,但我的数据将有大约 2200 万条记录,而我目前的方法需要 4 小时。并且 lambda 超时为 15 分钟(因此 lambda 方法在这种情况下不起作用)。
我当前方法的问题是这个数据文件可能会在一个月内出现,我不想让 EC2 只运行这个任务。无服务器世界中的任何替代方案都会有所帮助。谢谢
注意:The data is loaded from S3 to RDS based on SQS, i,e my application is pulling the messages from SQS which will then load the data into RDS
【问题讨论】:
-
1.我会考虑使用 DMS。它可以将数据从 S3 复制到 RDS 2。您要分析数据吗?如果是这样,请考虑 Athena 或 EMR
-
@NeilMcGuigan 我不打算分析数据,我可以尝试使用 DMS。谢谢
标签: amazon-web-services amazon-s3 aws-lambda aws-serverless