张量流中的训练步骤和验证步骤不同

Question

我正在使用 tensorflow 回调在 tensorboard 上进行可视化。

tensorboard = tf.keras.callbacks.TensorBoard(
    log_dir='logs',
    histogram_freq=1,
    write_graph=True,
    write_images=True,
    update_freq='epoch',
    profile_batch=2,
    embeddings_freq=1,
    )

我正在使用简单模型并使用数据管道作为模型的输入。这里特征层包含每个特征的feature_columns：

model = tf.keras.Sequential([
    feature_layer,
    tf.keras.layers.Dense(units = 12, activation='relu', use_bias = True, kernel_initializer= 'glorot_uniform', bias_initializer = 'zeros'),
    tf.keras.layers.Dense(units = 6, activation='relu', use_bias = True, kernel_initializer= 'glorot_uniform', bias_initializer = 'zeros'),
    tf.keras.layers.Dense(units = 2, activation='softmax')
    ])

我使用 adam 作为优化器，使用稀疏分类交叉熵作为损失，使用准确度作为指标。 这是我的张量板图：

red line = train   
blue line = validation

我的问题是为什么它显示的训练步骤少于验证步骤。

Answer 1

如果你查看 tf.keras.callbacks.TensorBoard 的 tensorflow 文档，在 profile_batch 的参数部分下，它是这样写的 -

profile_batch：分析批次以采样计算特征。 profile_batch 必须是非负整数或逗号分隔的正整数对字符串。一对正整数表示要分析的批次范围。默认情况下，它将分析第二批。设置 profile_batch=0 以禁用分析。必须在 TensorFlow Eager 模式下运行。

由于您设置了profile_batch=2，因此它仅显示第二批的结果。

示例 -

# profile a single batch, e.g. the 5th batch.
tensorboard_callback =
    tf.keras.callbacks.TensorBoard(log_dir='./logs', profile_batch=5)
model.fit(x_train, y_train, epochs=2, callbacks=[tensorboard_callback])
# run the tensorboard command to view the visualizations in profile plugin.

# profile a range of batches, e.g. from 10 to 20.
tensorboard_callback =
    tf.keras.callbacks.TensorBoard(log_dir='./logs', profile_batch='10,20')
model.fit(x_train, y_train, epochs=2, callbacks=[tensorboard_callback])
# run the tensorboard command to view the visualizations in profile plugin.

设置profile_batch=0 以禁用分析。必须在 TensorFlow Eager 模式下运行。