如何使用 Keras 的 Tensorboard 回调？

Question

我已经用 Keras 构建了一个神经网络。我会通过 Tensorboard 可视化它的数据，因此我使用了：

keras.callbacks.TensorBoard(log_dir='/Graph', histogram_freq=0,
                            write_graph=True, write_images=True)

如keras.io 中所述。当我运行回调时，我得到<keras.callbacks.TensorBoard at 0x7f9abb3898>，但我的文件夹“Graph”中没有任何文件。我使用这个回调的方式有问题吗？

Answer 1

keras.callbacks.TensorBoard(log_dir='./Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

这一行创建了一个回调 Tensorboard 对象，您应该捕获该对象并将其提供给模型的 fit 函数。

tbCallBack = keras.callbacks.TensorBoard(log_dir='./Graph', histogram_freq=0, write_graph=True, write_images=True)
...
model.fit(...inputs and parameters..., callbacks=[tbCallBack])

通过这种方式，您将回调对象提供给函数。它将在训练期间运行，并输出可与 tensorboard 一起使用的文件。

如果您想可视化训练期间创建的文件，请在终端中运行

tensorboard --logdir path_to_current_dir/Graph 

希望这会有所帮助！

Answer 2

这就是你使用TensorBoard callback的方式：

from keras.callbacks import TensorBoard

tensorboard = TensorBoard(log_dir='./logs', histogram_freq=0,
                          write_graph=True, write_images=False)
# define model
model.fit(X_train, Y_train,
          batch_size=batch_size,
          epochs=nb_epoch,
          validation_data=(X_test, Y_test),
          shuffle=True,
          callbacks=[tensorboard])

Answer 3

改变

keras.callbacks.TensorBoard(log_dir='/Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

到

tbCallBack = keras.callbacks.TensorBoard(log_dir='Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

并设置你的模型

tbCallback.set_model(model)

在终端中运行

tensorboard  --logdir Graph/

Answer 4

如果您正在使用 Keras 库并想使用 tensorboard 来打印您的准确度图和其他变量，那么下面是要遵循的步骤。

步骤1：使用以下命令初始化keras回调库以导入张量板

from keras.callbacks import TensorBoard

第 2 步：在“model.fit()”命令之前在程序中包含以下命令。

tensor_board = TensorBoard(log_dir='./Graph', histogram_freq=0, write_graph=True, write_images=True)

注意：使用“./graph”。它将在您当前的工作目录中生成图形文件夹，避免使用“/graph”。

第 3 步：在“model.fit()”中包含 Tensorboard 回调。示例如下。

model.fit(X_train,y_train, batch_size=batch_size, epochs=nb_epoch, verbose=1, validation_split=0.2,callbacks=[tensor_board])

第 4 步：运行您的代码并检查您的图形文件夹是否在您的工作目录中。如果上述代码正常工作，您将拥有“Graph” 工作目录中的文件夹。

第 5 步：在您的工作目录中打开终端并输入以下命令。

tensorboard --logdir ./Graph

第 6 步：现在打开您的网络浏览器并输入以下地址。

http://localhost:6006

进入后，Tensorbaord 页面将打开，您可以在其中查看不同变量的图表。

Answer 5

这里有一些代码：

K.set_learning_phase(1)
K.set_image_data_format('channels_last')

tb_callback = keras.callbacks.TensorBoard(
    log_dir=log_path,
    histogram_freq=2,
    write_graph=True
)
tb_callback.set_model(model)
callbacks = []
callbacks.append(tb_callback)

# Train net:
history = model.fit(
    [x_train],
    [y_train, y_train_c],
    batch_size=int(hype_space['batch_size']),
    epochs=EPOCHS,
    shuffle=True,
    verbose=1,
    callbacks=callbacks,
    validation_data=([x_test], [y_test, y_test_coarse])
).history

# Test net:
K.set_learning_phase(0)
score = model.evaluate([x_test], [y_test, y_test_coarse], verbose=0)

基本上，histogram_freq=2 是调用此回调时要调整的最重要参数：它设置调用回调的 epoch 间隔，目的是在磁盘上生成更少的文件。

因此，这是一个示例，显示了在 TensorBoard 中的“直方图”选项卡下，在整个训练过程中最后一次卷积的值的演变（我发现“分布”选项卡包含非常相似的图表，但在边）：

如果您想在上下文中查看完整示例，可以参考这个开源项目：https://github.com/Vooban/Hyperopt-Keras-CNN-CIFAR-100

Answer 6

如果您使用 google-colab，图表的简单可视化将是：

import tensorboardcolab as tb

tbc = tb.TensorBoardColab()
tensorboard = tb.TensorBoardColabCallback(tbc)


history = model.fit(x_train,# Features
                    y_train, # Target vector
                    batch_size=batch_size, # Number of observations per batch
                    epochs=epochs, # Number of epochs
                    callbacks=[early_stopping, tensorboard], # Early stopping
                    verbose=1, # Print description after each epoch
                    validation_split=0.2, #used for validation set every each epoch
                    validation_data=(x_test, y_test)) # Test data-set to evaluate the model in the end of training

Answer 7

创建 Tensorboard 回调：

from keras.callbacks import TensorBoard
from datetime import datetime
logDir = "./Graph/" + datetime.now().strftime("%Y%m%d-%H%M%S") + "/"
tb = TensorBoard(log_dir=logDir, histogram_freq=2, write_graph=True, write_images=True, write_grads=True)

将 Tensorboard 回调传递给 fit 调用：

history = model.fit(X_train, y_train, epochs=200, callbacks=[tb])

在运行模型时，如果你得到一个Keras错误

“您必须为占位符张量提供一个值”

尝试在创建模型之前重置 Keras 会话：

import keras.backend as K
K.clear_session()

Answer 8

你写的是log_dir='/Graph'，你的意思是./Graph吗？您此时已将其发送至/home/user/Graph。

Answer 9

你应该看看 Losswise (https://losswise.com)，它有一个 Keras 插件，比 Tensorboard 更容易使用，并且有一些不错的额外功能。使用 Losswise，您只需使用 from losswise.libs import LosswiseKerasCallback，然后使用 callback = LosswiseKerasCallback(tag='my fancy convnet 1')，一切顺利（请参阅 https://docs.losswise.com/#keras-plugin）。

Answer 10

事情很少。

首先，不是/Graph，而是./Graph

其次，当你使用 TensorBoard 回调时，总是传递验证数据，因为没有它，它不会启动。

第三，如果你想使用除标量摘要之外的任何东西，那么你应该只使用fit 方法，因为fit_generator 将不起作用。或者您可以重写回调以使用fit_generator。

要添加回调，只需将其添加到model.fit(..., callbacks=your_list_of_callbacks)