多维度的可逆降维

Question

是否存在可恢复（我可以在子流形和原始空间之间来回切换）并且可以很好地扩展到大（>100 万维）的降维技术列表？向量非常稀疏。理想情况下，我可以在少量示例上找到一个感兴趣的粗略子空间（减少到约 10k 维），然后在子空间上训练类似自动编码器的东西以进行精细控制。

• 直接使用自动编码器可能不太可能，因为输入大小 >1M 的 FC 层在内存方面变得非常困难。
• PCA 是一种选择，但会占用大量内存。
• 随机投影似乎没有办法恢复到原始空间？

谢谢！

Answer 1

scikit-learn 的两名候选人（可能还有更多）：

• Incremental PCA: 类似批处理
• Truncated SVD：稀疏

还有更多支持inverse_transform，但我只选择了支持稀疏输入或批量处理的那些。

尽管使用稀疏输入，保持 10k 维度听起来非常耗费内存。