加权真阳性和真阴性答案

【问题标题】：weighting true positives vs true negatives加权真阳性和真阴性
【发布时间】：2018-07-24 03:03:29
【问题描述】：

这个loss function in tensorflow 在 keras/tensorflow 中用作损失函数来加权二元决策

它对误报和误报进行加权：

目标 * -log(sigmoid(logits)) + (1 - 目标) * -log(1 - sigmoid(logits))

参数 pos_weight 用作正目标的乘数：

目标 * -log(sigmoid(logits)) * pos_weight + (1 - 目标) * -log(1 - sigmoid(logits))

如果它们的损失/奖励不应该具有相同的权重，那么是否有人建议如何将真阳性与真阴性加权？

【问题讨论】：

我说的是显而易见的，但真正的正面/负面通常不包括在损失中。网络对它们进行了正确分类，我们通常不会因为这样做而对其进行处罚。你想通过“加权”真正的正面与负面来实现什么？
我的问题是假阴性有机会成本，需要以某种方式建模到交叉熵损失函数中。机会成本等于我给予真正肯定的回报（权重），即 +10。误报有不同的回报 -1。但是决策是二元的而不是概率的，只有 y_pred 是概率的，因为它源自具有 sigmoid 激活函数的输出神经元。从本质上讲，tp 比 tn（零收益）更重要（+10），需要相应地加权，以使其更“积极”地预测为真。
如果我理解正确并且您的目标是让模型更有可能预测为真，那么让误报的相对成本非常小。网络将看到可以说“是”并且是错误的，但不能说“不”并且是错误的。在极端情况下，如果您将误报的成本设为零，我敢打赌网络将学会始终输出“是”……我在高层要说的是，我在您的描述中没有看到您无法通过加权误报与误报来实现的目标（由所需的网络行为定义）。
是的，你正确理解了我的目标。你是说我只需要调整假阳性和假阴性的权重，以包括我想要从真阳性和真阴性中获得的额外“抽奖”吗？如果是这样，具体应该怎么做？
除非你在一些 RL 设置中（或者至少做一些像策略梯度/REINFORCE 之类的事情），否则我不知道如何使用奖励来训练具有反向传播的网络。你只能惩罚错误，不能分配奖励。话虽如此，我认为您可以通过为不同的错误分配不同的权重来实现所需的行为，即使您没有明确“奖励”该行为。如果这没有多大意义，请准确定义所需的行为并解释为什么您认为建议的机制无法实现此行为。我现在不知道该说些什么。

标签： tensorflow loss-function

【解决方案1】：

首先，请注意，对于交叉熵损失，每个示例都有一些（可能非常非常小的）惩罚（即使正确分类）。例如，如果正确的类是 1，而我们的 logit 是 10，那么惩罚将是

-log(sigmoid(10)) = 4*1e-5

这种损失（非常轻微）推动网络在这种情况下产生更高的 logit，使其 sigmoid 更接近 1。类似地，对于负类，即使 logit 为 -10，损失也会将其推至更消极。

这通常很好，因为此类术语的损失非常小。如果您希望您的网络真正实现零损失，您可以使用label_smoothing。这可能与您在最小化损失的经典设置中获得的“奖励”网络一样接近（您显然可以通过在损失中添加一些负数来“奖励”网络。那不会t 改变梯度和训练行为）。

话虽如此，您可以针对各种情况对网络进行不同的惩罚 - tp、tn、fp、fn - 类似于Weight samples if incorrect guessed in binary cross entropy 中描述的内容。（看起来那里的实现实际上是不正确的。您想使用weight_tensor 的相应元素来加权单个log(sigmoid(...)) 术语，而不是cross_entropy 的最终输出）。

使用此方案，您可能希望惩罚非常错误的答案，而不是几乎正确的答案。但是请注意，由于log(sigmoid(...)) 的形状，这已经在一定程度上发生了。

【讨论】：

感谢您的回答，现在肯定更清楚了。我唯一不确定的是，在标准二进制交叉熵中仅加权 fp 和 fn 的当前实现是否实际上收敛于具有最高回报的最佳解决方案，因为我忽略了 tp回报比 tn。是否有一些数学证据表明没有必要，因为它们已经隐含在 fn 和 fp 中？也许使用最小化后悔函数会很有趣。我不确定如何实现：cs.nyu.edu/~mohri/ml/ml09/regret.pdf