如何以 .pb 格式保存模型，然后将其加载到 Tensorflow 中进行推理？答案

【问题标题】：How to save model in .pb format and then load it for inference in Tensorflow?如何以 .pb 格式保存模型，然后将其加载到 Tensorflow 中进行推理？
【发布时间】：2018-11-28 13:06:56
【问题描述】：

我是 Tensorflow 的新手，正在尝试运行位于 https://github.com/Hvass-Labs/TensorFlow-Tutorials/blob/master/02_Convolutional_Neural_Network.ipynb 的一个教程代码

基于此代码，我想尝试使用simple_save 将模型保存为.pb 格式并恢复它以进行测试，但我不知道如何修改这段代码。我浏览了一些网页，但仍然不明白。谁能帮我更改这段代码，以便我可以保存训练好的模型，然后加载它进行推理？谢谢！

【问题讨论】：

标签： python tensorflow

【解决方案1】：

为了保存模型，您需要两件事 - 输入和输出张量名称。在您的情况下，输入张量称为x，输出张量为y_pred 和y_pred_cls（在In [29] 中提到notebook）。这是保存模型的简单示例：

simple_save(session,
            export_dir,
            inputs={"x": x,},
            outputs={"y_pred": y_pred,
                     "y_pred_cls": y_pred_class})

编辑：恢复中-

restoring_graph = tf.Graph()
with restoring_graph.as_default():
    with tf.Session(graph=restoring_graph) as sess:
       # Restore saved values
       tf.saved_model.loader.load(
          sess,
          [tag_constants.TRAINING],
          export_dir  # Path to SavedModel
       )
      # Pass inputs to model and do predictions below

【讨论】：

谢谢。您还可以帮助加载模型进行测试吗？我想我应该在第 42 块中添加一些东西，但不知道代码到底长什么样……
@KathyLee 添加加载示例，检查更新答案
抱歉，tag_constants.TRAINING 是什么？