用于预测的 TensorFlow 轻量级

Question

是否有安装轻量级版本的 TensorFlow 仅用于预测？

我使用 TensorFlow 2.5 和 python 3.8 slim 构建了一个 Docker 映像。图像大小为 1.8Gb，但我需要它最大为 1Gb。

由于我只会使用这个 Docker 镜像进行预测，我想一定有办法减少 TensorFlow 并只安装所需的模块。

如果您知道 TF lite 或 TF serving 是否可以帮助我实现这一目标，请告诉我如何实现。

Answer 1

我认为在轻量级模式下使用 TF 的唯一方法是使用 TFlite 或 TFLite Micro。为此，您需要将冻结的推理图转换为 .tflite 文件。