【问题标题】:GPU based algorithm on AWS LambdaAWS Lambda 上基于 GPU 的算法
【发布时间】:2019-03-04 09:12:26
【问题描述】:

我有一个执行一些数学运算的函数,需要一个 16gb 的 GPU 系统,但是这个函数不会总是被触发,其余时间我的系统不会被使用。我开始了解 AWS Lambda。 我可以在 Lambda 上运行基于 GPU 的算法吗?因此,每当我需要 GPU 时,我都会将系统放在云端。我需要一些关于它的描述。

【问题讨论】:

    标签: java amazon-web-services amazon-ec2 aws-lambda


    【解决方案1】:

    您不能为 AWS Lambda 函数指定运行时环境,所以不,您不能要求 GPU 的存在(事实上,AWS 选择放入其 Lambda 池的物理机器几乎肯定不会 有一个)。

    最好的办法是在配置为使用 p 类型实例的计算集群上将需要 GPU 的函数作为批处理作业运行。指南here 可能会有所帮助。

    【讨论】:

      【解决方案2】:

      批处理对于某些类型的工作负载来说是一个很好的解决方案。 另一个选项是GPUs on ECS,可用于使用 GPU 运行频繁的任务。

      【讨论】:

        【解决方案3】:

        目前 lambda 没有 GPU。

        但是,如果您只需要进行推理;通过 CPU 进行的模拟在 AWS lambda 上运行良好;这是一篇更详细的文章:

        https://aws.amazon.com/blogs/machine-learning/how-to-deploy-deep-learning-models-with-aws-lambda-and-tensorflow/

        【讨论】:

          猜你喜欢
          • 2018-05-18
          • 1970-01-01
          • 1970-01-01
          • 2011-01-26
          • 2021-12-19
          • 1970-01-01
          • 1970-01-01
          • 1970-01-01
          • 1970-01-01
          相关资源
          最近更新 更多