我应该使用 tf.keras.utils.normalize 来规范化我的目标吗？

Question

处理预测分数的机器学习模型回归问题。

通常，当使用缩放器进行标准化时，例如MinMaxScaler，您会获得对缩放器的引用，以便稍后您可以将数据反转回其原始值。

当使用tf.keras.utils.normalize 时，（据我所知）是以下数据的 L2 规范化：

    val target
0   1   10
1   2   20
2   3   30
3   4   40
4   5   50

你得到这个输出：

    val     target
0   0.13484 0.13484
1   0.26968 0.26968
2   0.40452 0.40452
3   0.53936 0.53936
4   0.67420 0.67420

所以我认为没有办法回到10,20,30,40,50的原始系列

问：如果我想将预测目标反转回原来的尺度，我应该使用 MinMaxScalar 分别对分数进行归一化吗？

Answer 1

神经网络激活通常喜欢将它们的输入归一化。对网络中节点的输入进行规范化有助于防止所谓的梯度消失（和爆炸）。

通常，批量标准化是在输入上执行的，但它也有其自身的缺点，例如由于额外的计算导致预测速度较慢。相反，您可以使用您提到的任何其他规范化技术。

在您的示例中，不是规范化输入和目标，而是仅规范化输入，如下所述。

数据框：

val target
0   1   10
1   2   20
2   3   30
3   4   40
4   5   50

标准化输入：

df["val"] = tf.keras.utils.normalize(df["val"].values,axis=-1, order=2 )[0]

输入标准化数据框：

    val target
0   0.13484 10
1   0.26968 20
2   0.40452 30
3   0.53936 40
4   0.67420 50