初始化最后一层的偏置项答案

【问题标题】：Initialize the bias term of the last layer初始化最后一层的偏置项
【发布时间】：2019-12-28 22:26:32
【问题描述】：

我正在阅读关于焦点损失的 this 博客。在Focal Loss Trick 部分中它说：

Facebook AI Research 用来初始化最后一个偏置项层到某个非零值，使得正样本的 pt 为小，负样本的pt大。具体来说，他们设置偏置项 b=−log((1−π)/π)。这里 π 只是可变的普通的π。在他们的例子中，他们设置 π=0.01，因此 b≫wx。

我想使用 tensorflow 对象检测 api 来做同样的事情。在这里，焦点损失由配置文件中的以下行给出：

损失{ 分类损失{ weighted_sigmoid_focal { 阿尔法：0.25 伽玛：2.0 } } }

但我不知道如何将最后一层的偏置项设置为某个非零值。如何在tensorflow中实现？

【问题讨论】：

【解决方案1】：

它由class_prediction_bias_init 在box_predictor 中给出。因此，配置文件将如下所示：

box_predictor {
      weight_shared_convolutional_box_predictor {
        class_prediction_bias_init: -1.99
      }
}

【讨论】：