【问题标题】:How many principal components should I choose for PCA?我应该为 PCA 选择多少个主成分?
【发布时间】:2019-07-29 08:14:54
【问题描述】:

我有一个几乎没有分类和数字特征的数据框。为此,我将我的 BoW(CountVectorizer) 文本列连接起来,产生了超过 56,000 个特征。所以我正在考虑做 PCA 来减少功能的数量。

我认为在这里选择正确数量的主成分至关重要,但我对这里要考虑多少 n_components 感到困惑?

【问题讨论】:

  • 好问题!

标签: machine-learning nlp pca svd


【解决方案1】:

您可以用前 k 个分量和 k 个分量的方差绘制图表。根据这些分量中包含的方差选择 k。95% 或以上将是理想的。

【讨论】:

  • Yoshitha,我正在做一个两类分类任务,我正在使用 KNN 训练我的模型。对于高维数据,KNN 的时间复杂度确实很高。对于 95% 的方差,我可能不得不选择更多数量的组件,从而增加尺寸。每个场景都必须选择 95% 吗?
  • 不需要你有95%。检查图表,您可以根据曲线的陡峭度选择 k。如果某处的方差突然下降,则在突然下降之前选择k。最重要的是,将数据可视化,并确保使用 k 个组件从数据中捕获足够的信息。
  • 你能检查我的方差图吗?这是image。你在这里有什么建议?我应该选择多少个组件?
  • 看来您必须至少使用 500 个组件。
  • 我也是这么想的。 500 个组件后,方差增加较少。我会试验看看。谢谢你:)
猜你喜欢
  • 2015-01-20
  • 1970-01-01
  • 2017-03-05
  • 2017-04-09
  • 1970-01-01
  • 2013-04-21
  • 1970-01-01
  • 2018-02-11
  • 1970-01-01
相关资源
最近更新 更多