如何解读 TensorFlow Lite 基准测试应用结果？答案

【问题标题】：How to interpret the TensorFlow Lite benchmark app results?如何解读 TensorFlow Lite 基准测试应用结果？
【发布时间】：2021-09-29 23:16:31
【问题描述】：

我使用了 TensorFlow Lite 基准测试应用，我得到了以下结果：

E tflite  : Average inference timings in us: Warmup: 119501, Init: 3556, Inference: 135968, Overall max resident set size = 32.0469 MB, total malloc-ed size = 0 MB, in-use allocated/mmapped size = 13.3229 MB

我想知道这些值是什么意思：Warmup、Init、Inference、Overall max resident set size、malloc 的总大小和使用中的分配/映射大小。

我没有在文档中找到它。

【问题讨论】：

标签： tensorflow tensorflow-lite

【解决方案1】：

延迟

预热：第一次预热调用的延迟。请注意，第一次调用的延迟可能会更慢，因为代码可能会进行额外的初始化/分配
Init：初始化时间（用于创建 TensorFlow Lite 解释器）
推理：推理调用的平均值。在大多数情况下，这应该是最重要的指标。

【讨论】：