【问题标题】:How to calculate the generalization error rate of a decision tree如何计算决策树的泛化错误率
【发布时间】:2016-09-27 08:08:45
【问题描述】:

我正在做数据挖掘简介的练习,被以下关于决策树的问题困住了:

培训

测试

决策树

问题要求我用乐观和悲观的方法计算泛化错误率,答案分别是 0.3 和 0.5。 它们与我的答案 0.5 和 0.7 完全不同。根据我的计算,实例 3、7、8、9、10 是错误分类。 我在谷歌上搜索了很多文档,但都没有解释原因,只是表明 3 / 10 = 0.3。 请告诉我我犯了什么错误,谢谢!

【问题讨论】:

    标签: machine-learning classification decision-tree


    【解决方案1】:

    你错了,错误分类是:

    • 训练中:3、5、6
    • 测试中:12、13、14、15

    你的决策树是:

    • return + iff(非 a 和非 b)或(a 和 c)

    例如对于 3:

    A=0 B=1 C=0 class=+,你的 DT 返回 - A=0 和 B=1

    【讨论】:

      【解决方案2】:

      我认为您的答案是正确的,解决方案手册的答案是错误的,并且您在此处复制树时出错 - 在我的书副本中,叶节点标签从左到右读取,+, -、+、-。您的树,带有叶节点 +、-、-、+,确实分别导致 30% 和 50% 的乐观和悲观错误估计。

      使用叶子节点+、-、+、-,误差确实是50%和70%。

      【讨论】:

      • 我认为标志(类标签)没有区别;总是需要在乐观和悲观的情况下处理叶节点中的最小值;除了验证集的情况。如果我错了,请有人纠正我
      【解决方案3】:

      你的答案是对的。 它是 '+' iff( 不是 A && 不是 B) || (A && 不是 C)

      【讨论】:

        猜你喜欢
        • 2012-03-28
        • 2014-04-15
        • 2016-12-08
        • 2018-07-03
        • 2011-09-11
        • 2014-07-20
        • 2021-09-17
        • 2016-05-11
        相关资源
        最近更新 更多