如何专注于难以预测的标签？

Question

我正面临二元分类问题。我正在使用一些机器学习模型和 Python 3。我注意到某些模型在给定类上的性能比其他模型更好。我想将它们结合起来以提高我的准确性和精确度。我知道在回归问题中这样做的方法，比如预测的加权平均值。但我不确定它在分类问题中是否有意义。而且，您必须知道更好的方法。

这是我的算法，可以帮助我识别特别难以预测的标签：

"""
each value is in {0, 1}
ytrue : real values
ypred : predicted values
"""
def errorIdentifier(ytrue, ypred):
    n = len(ytrue)
    ytrue = list(ytrue)
    ypred = list(ypred)
    error = [0,0]
    for i in range(n):
        if ytrue[i] != ypred[i] :
            error[ytrue[i]] += 1
    return error

您可以猜到，我需要为我使用的每个模型调用它。

Answer 1

不同模型更好地预测不同类别的问题是经典的机器学习问题。它的出现是因为各种算法更擅长对不同的特征进行建模，因此倾向于在​​某个类别上获得更高的准确性。

为了克服这个问题，我们可以利用多个模型并集成结果以提高准确性。这种方法称为ensemble learning。

有许多方法，例如bagging、boosting 等，以及一些众所周知的集成学习算法，例如RandomForest。您必须研究各种技术以找到最适合您需求的技术。