分析预测调用 Tensorboard

Question

我有一个训练有素的网络，用于预测图像数据。我想加快预测速度，但我不知道如何在预测上运行张量板分析器。由于模型大小，我不希望重新运行训练以进行优化。这与之前的 question 类似，但我再次询问，因为该问题没有相关答案。

当我关注this 分析示例时，我得到了一个配置文件，但是当我添加一个具有相同回调的预测步骤时，它不会分析预测。

(previous lines are loading and setting up an MNIST model as in the linked colab)

tboard_callback = tf.keras.callbacks.TensorBoard(log_dir = logs,
                                                  histogram_freq = 1,
                                                  profile_batch='500,520')
model.fit(ds_train,
          epochs=2,
          validation_data=ds_test,
          callbacks = [tboard_callback]
          )
model.predict(ds_test,callbacks=[tboard_callback])

环境： Windows 10、python 3.8、tensorflow 2.2、tensorboard_plugin_profile 2.4.0

Answer 1

我可以建议一个解决方法。编写一个自定义预测循环并使用tf.profiler.experimental.Trace 对其进行检测，如Optimize TensorFlow performance using the Profiler guide 的Profiling API section 中所述。