deep learning-为什么要dropout

  1. 一般情况下, 全部神经元参与到**函数的计算, 有时候需要去掉一些神经元, 达到更佳的计算效果, 一般每层神经网络去掉固定百分比50%, 这样可以达到更好的训练效果。
  2. 这完全复合人类神经系统的功能, 由于各种原因, 并不是所有的神经元, 都参与, 只要有足够的神经元参与, 即可**。
  3. 这样一方面可以节省运算时间, 另一方面可以去掉一些对计算有影响的神经元。
  4. 这一训练过程为:dropout training
  5. 这一训练过程存在两种假设:underfitting 和 overfitting

分类:

技术点:

相关文章: