这可以被认为是过拟合吗？

Question

我有 4 个班级，每个班级有 1350 张图片。验证集占总图像的 20%（它是自动生成的）。训练模型使用MobilenetV2网络：

base_model = tf.keras.applications.MobileNetV2(input_shape=IMG_SHAPE, include_top=False, weights='imagenet') 

模型已创建：

model = tf.keras.Sequential([
  base_model,
  tf.keras.layers.Conv2D(32, 3, activation='relu', kernel_regularizer=regularizers.l2(0.001)),
  tf.keras.layers.Dropout(0.5),
  tf.keras.layers.MaxPool2D(),
  tf.keras.layers.Flatten(),
  tf.keras.layers.Dense(4, activation='softmax', kernel_regularizer=regularizers.l2(0.001))
]) 

模型经过 20 个 epoch 的训练，然后在 15 个 epoch 中完成微调。结果如下：

Image of the model trained before fine tunning

Image of the model trained after 15 epochs and fine tunning

Answer 1

如果没有验证损失的数值，有点难以判断，但我会说微调之前的结果略微过度拟合，而微调之后的结果则不太适合。您还可以做一些额外的事情。一种是尝试使用回调 tf.keras.callbacks.ReduceLROnPlateau 使用可调整的学习率。设置它以监控验证丢失。文档是here. 我设置因子=.5 和耐心=1。其次用 tf.keras.layers.GlobalMaxPool2D 替换 Flatten 层，看看是否能改善验证损失。