如何使用 TFLite 和 Edge TPU 指定特定数据流进行推理？答案

【问题标题】：How can I specify a particular dataflow for inference using TFLite and an Edge TPU?如何使用 TFLite 和 Edge TPU 指定特定数据流进行推理？
【发布时间】：2020-12-10 06:32:32
【问题描述】：

我有一个 TFLite 模型部署到 Raspberry Pi。我正在使用 Coral USB 加速器来加速推理，其中包含一个 Edge TPU。我有兴趣尝试使用不同的数据流对此部署的能源效率的影响。

有谁知道在使用 Edge TPU 加速 TFLite 模型时如何指定特定的数据流，例如行固定或输出固定？

供参考：https://people.csail.mit.edu/emer/papers/2017.05.ieee_micro.dnn_dataflow.pdf

【问题讨论】：

标签： hardware-acceleration tensorflow-lite google-coral

【解决方案1】：

根据 Coral 支持团队的说法：

“据我们所知，没有可用的特定方法来运行具有特定数据流的模型。

建议访问https://coral.ai/docs/edgetpu/models-intro/ 的模型兼容性页面，了解 TFLite 模型如何映射到 EdgeTPU。"

【讨论】：