具有极不平衡数据集的 TensorFlow 分类答案

【问题标题】：Tensorflow classification with extremely unbalanced dataset具有极不平衡数据集的 TensorFlow 分类
【发布时间】：2016-04-02 17:51:07
【问题描述】：

我正在使用 TensorFlow LinearClassifier 和 DNN 对两类数据集进行分类。

但是，问题是数据集包含 96% 的正输出和 4% 的负输出，我的程序总是将预测返回为正。当然，在这种情况下我会达到 96% 的准确率，但这一点意义都没有。

处理这种情况有什么好办法？

【问题讨论】：

【解决方案1】：

您可以尝试更改成本函数，以便误报输出比误报受到更严重的惩罚。

【讨论】：

嗨，在 DNN 中，什么类型的激活函数会给我这个功能？谢谢
@mamatv 这不是激活函数。成本函数是您的优化目标。大多数情况下，它要么是交叉熵 (CE)，要么是均方误差 (MSE)
当您获得足够的代表时，您可以删除此答案并使其成为评论。我给了你一个赞成票，让你接近 50 个代表，但不希望人们认为我给了你一个赞成票，因为我认为这是更好的答案。

【解决方案2】：

这是您可以做的，首先是最简单的解决方案：

【讨论】：

【解决方案3】：

您可以对您拥有的负例（如果它们的数量很大）学习自动编码器，然后使用variational Bayes 或Markov Chain Monte Carlo 等推理技术生成示例。通过这种方式，您可以增加负例的样本数量，并朝着更平衡的数据集迈进。

【讨论】：

【解决方案4】：

您可以查看这篇论文以了解缓解类别不平衡问题的不同采样技术http://www.machinelearning.org/proceedings/icml2007/papers/62.pdf。简单的随机少数过采样通常效果更好。

【讨论】：