【问题标题】:Do I need SQS queues to store remote data in the Amazon Web Services (AWS) cloud?我是否需要 SQS 队列来将远程数据存储在 Amazon Web Services (AWS) 云中?
【发布时间】:2019-04-15 12:33:05
【问题描述】:

我的第一个问题是,我需要 SQS 队列来接收我的远程数据,还是可以直接进入 S3 或 EC2 等亚马逊云存储解决方案?

目前,我的公司使用第三方供应商来收集和报告我们的远程数据。我所说的远程数据是指来自我们在荒野中的机器的数据。这些数据每天都会上传几次到 Amazon Web Services SQS 队列(由第三方供应商设置),然后第三方供应商轮询队列中的数据,将其删除并保存在自己的本地数据库中仅一年。这家公司只向我们提供报告服务,所以他们不需要长期存储数据。

展望未来,我们希望拥有数据并将其永久存储在 Amazon Web Services (AWS) 中。然后我们想使用机器学习来监控数据并报告机器的任何潜在问题。

重复我的第一个问题,我们需要 SQS 队列来接收这些数据,还是可以直接进入 Amazon 云存储解决方案,如 S3 或 EC2?

我的第二个问题是,SQS 队列可以将数据发送到两个不同的地方吗?也就是说,队列能否将数据发送到第三方供应商,也可以发送到 Amazon Web Services 数据库?

我是一名分析师/数据科学家,所以我知道一旦数据进入数据库后如何使用它。我只是不知道将它放入数据库的最佳方法。

【问题讨论】:

    标签: amazon-web-services amazon-s3 amazon-ec2 aws-lambda


    【解决方案1】:

    你真的不需要排队。每当您在队列中推送一个项目时,都会触发一个函数,您可以在其中执行您的自定义逻辑。是否要将信息存储到 S3/EC2 或将其发送到任何其他 Http 服务。

    您的 Lambda(函数)可以轻松地将数据发送到任何其他 3rd 方服务。

    【讨论】:

    • 谢谢。你是说 AWS Lambda(无服务器计算)是 SQS 队列的替代品,而我可以使用 AWS Lambda 来接收远程数据?
    • 不客气,肖恩,1. 答案是肯定的,这会降低您的成本,因为您不必为 SQS 付费 2. 为什么不直接将数据放到 S3 中?并在 S3 上触发以将该数据发布给第 3 方。这样你就不用担心了。
    • 我喜欢您关于将我的数据直接放入 S3 的建议。我想知道这一点。我们使用 SQS 的原因是即使第三方供应商的本地服务器出现故障,我们的数据也会保留在队列中。但在我的菜鸟看来,Amazon S3 根本不需要排队。我实际上希望有人会建议! :D
    • 如果您也有兴趣回答这个问题,我在这里问了一个相关问题:stackoverflow.com/questions/53268546/…
    • @Sean_Calgary 另请参阅 AWS 文档中的 What is a Message Queue?
    猜你喜欢
    • 1970-01-01
    • 2020-12-28
    • 2017-11-05
    • 1970-01-01
    • 2023-04-03
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多