AWS 上用于 REST API 的 GPU？

【问题标题】：GPU for REST API on AWS?AWS 上用于 REST API 的 GPU？
【发布时间】：2021-11-17 13:33:56
【问题描述】：

我有一个 EasyOCR 模型，我已经使用个人数据进行了训练，我需要部署它并通过 API REST 使其可用。我的项目在 Github 上。

问题：我看到我们不能在 AWS LAMBDA 上使用 GPU，那么我们如何部署可以在 AWS 上使用 GPU 的 REST API？

（当我们不使用 GPU 和 CUDA 时，EasyOCR 真的很慢）

【问题讨论】：

【解决方案1】：

您可以查看具有 GPU 支持的 AWS EC2 实例。有 3 或 4 个可用类别（p3、g3、p4 和 g4）。它们应该足以满足您的用例。确保使用 AWS Deep Learning AMI，以获得开箱即用的 NVIDIA 驱动程序和 CUDA 支持。

【讨论】：