Tensorflow Lite 基准测试应用说明

【问题标题】：Tensorflow Lite benchmark app explanationTensorflow Lite 基准测试应用说明
【发布时间】：2020-09-02 12:07:58
【问题描述】：

我正在使用Tensorflow Lite Benchmark Android application 在 Android 设备上测试我的模型。输出示例如下：

我们的平均推理时间：预热：83235，初始化：38467，推理：79760.9

虽然Inference 的含义对我来说很清楚（即平均推理时间，以微秒为单位），但我不知道Warmup 和Init 指的是什么？不幸的是，documentation 没有解释这一点。

【问题讨论】：

【解决方案1】：

Init：加载模型和构建解释器对象所花费的时间，这是一开始就需要进行的初始化步骤（即一次性成本）

预热：根据warmup_runs 配置，预热运行开始时所用的平均推理时间。换句话说，第一个warmup_runs 个推理结果被平均到输出中的Warmup 结果中，并且只有随后的num_runs 个推理结果被平均到Inference 输出中。

【讨论】：