模式识别(1)

• 如何选择特征，画出密度曲线来判断，看哪些特征能更好地进行分类
• 泛化:    概括地说，所谓泛化能力（generalization ability）是指机器学习算法对新鲜样本的适应能力。学习的目的是学到隐含在数据对背后的规律，对具有同一规律的学习集以外的数据，经过训练的网络也能给出合适的输出，该能力称为泛化能力。
• Feature extraction
  • Discriminative feature
  • Invariant feature with respect to translation, rotation and scale
• The Design cycel
  • Data collection
  • Feature Choice
  • Model choice 
  • Training
  • Evaluation
  • Computational complexity(若为NP-hard则无价值)
    • 最优解可能是代价太大，在实际生活中我们经常是找一个可行解而不是一个最优解
• Learning and adaptation
  • Supervised learning 
  • Unsupervised learning 
  • 半监督学习