使用 Hparam 仪表板抛出错误的超参数调整答案

【问题标题】：Hyperparameter tuning with Hparam dashboard throwing error使用 Hparam 仪表板抛出错误的超参数调整
【发布时间】：2019-08-05 19:17:20
【问题描述】：

我正在尝试为我在 keras 中构建的顺序模型优化最佳条件。

我最近遇到了 Hparams 仪表板，这看起来是一种非常好的方法。但是我在实际运行模型进行参数优化的阶段遇到了问题！

我正在运行的代码（只是开始直接取自 tf 页面）

https://www.tensorflow.org/tensorboard/r2/hyperparameter_tuning_with_hparams

我已将 tf 上的 Hparams 的代码修改为我的顺序模型。出于实践的目的，我删除了一个 dropout 层（因为我的模型中没有任何层）以及优化器。现在我想看看我的模型是如何受到层中节点变化的影响的。我的代码如下：


HP_NUM_UNITS = hp.HParam('num_units', hp.Discrete([16, 32]))


METRIC_ACCURACY = 'accuracy'

with tf.summary.create_file_writer('logs/hparam_tuning').as_default():
  hp.hparams_config(
    hparams=[HP_NUM_UNITS],
    metrics=[hp.Metric(METRIC_ACCURACY, display_name='Accuracy')],
  )

def train_test_model(hparams):
  model = tf.keras.models.Sequential([
    tf.keras.layers.Dense(hparams[HP_NUM_UNITS], activation=tf.nn.relu),
    tf.keras.layers.Dense(24, activation=tf.nn.sigmoid),
  ])
  model.compile(
      optimizer='adam',
      loss='binary_crossentropy',
      metrics=['accuracy'],
  )

  model.fit(X_train.values, y_train, epochs=50) 
  _, accuracy = model.evaluate(X_test, y_test)
  return accuracy

def run(run_dir, hparams):
  with tf.summary.create_file_writer(run_dir).as_default():
    hp.hparams(hparams)  # record the values used in this trial
    accuracy = train_test_model(hparams)
    tf.summary.scalar(METRIC_ACCURACY, accuracy, step=1)

到目前为止，一切正常！出于我第一次尝试的目的，除了删除 dropout 和优化器以及在代码中应用我自己的模型之外，我并没有太大变化。我需要比 16 和 32 等更多的单位，但这只是为了制作管道......

当我运行以下代码来执行优化时，我得到了错误。代码是：

session_num = 0

for num_units in HP_NUM_UNITS.domain.values:
      hparams = { 
          HP_NUM_UNITS: num_units,
          }

      run_name = "run-%d" % session_num
      print('--- Starting trial: %s' % run_name)
      print({h.name: hparams[h] for h in hparams})
      run('logs/hparam_tuning/' + run_name, hparams)
      session_num += 1

这会引发错误！错误是（我不太明白）：

ValueError：无法创建由多个图表中的元素组成的执行函数。

这个错误发生在第一次尝试模型之后，因为模型适合第一组单元 (16)。如果我查看回溯，我会得到进度报告：

纪元 1/50 140/140 [===============================] - 0s 3ms/样本 - 损失：0.6847 - 准确度：0.5723.. …… 纪元 50/50 140/140 [==============================] - 0s 206us/样本 - 损失：0.2661 - 准确度：0.8857

在这之后我得到错误（无法创建执行函数......等）

我不确定如何解决此问题，我们将不胜感激！

我非常乐意提供更多详细信息/代码！

谢谢！

【问题讨论】：

标签： python tensorflow tensorboard hyperparameters

【解决方案1】：

我遇到了同样的错误，我通过将我的 train 和 test 值从 pandas 数据帧转换为 numpy 数组来修复它。所以只需使用 X_train.values 等等。

如果这只是告诉我错误究竟发生在哪一行。

【讨论】：

这正是我修复它的方法！（最终）谢谢你！！
是的，没问题！