验证损失曲线平坦，训练损失曲线高于验证误差曲线答案

【问题标题】：Validation loss curve is flat and training loss curve is higher than validation error curve验证损失曲线平坦，训练损失曲线高于验证误差曲线
【发布时间】：2020-07-13 13:56:37
【问题描述】：

我正在为预测场景构建 LSTM 模型。我的数据集有大约 248000 条数据，我使用 24000（大约 10%）作为验证集，其他是训练集。我的模型学习曲线如下： learning curve

验证误差从零开始始终为 0.00002，训练误差在 epoch 20 下降到 0.013533。

我已仔细阅读：https://machinelearningmastery.com/learning-curves-for-diagnosing-machine-learning-model-performance/

我的验证集是否不具代表性？是使用更大的验证集的解决方案吗？

【问题讨论】：

学习曲线呢？如果您也为此附上图像会很有帮助。单纯根据误差曲线很难判断模型。
感谢您的回复。我认为学习曲线是显示误差曲线与不同时期或训练规模的图。所以我上传的是学习曲线。学习曲线是什么意思？

标签： tensorflow model

【解决方案1】：

可能是，首先，您的基本概念非常简单，导致早期验证错误极低。其次，您的数据增强使学习变得更加困难，从而产生更高的训练错误。

但是，我仍会针对您的情况进行一些实验。首先：将数据划分为 10/90 而不是 90/10，然后看看您的验证错误如何变化 - 希望您会在（现在更短和更难的）时期之间看到某种曲线。其次，我会在训练之前（或在 1 个批次的 epoch 之后）运行验证以产生随机结果。

【讨论】：

谢谢，我试试。