python上的远程数据库访问

Question

我有一个大型数据集 (185GB)，我计划对其执行一些机器学习算法。数据位于计算能力有限的本地计算机上。我可以访问一个远程集群，我可以在其中执行计算量大的算法。它有 1TB 的内存，而且速度非常快。但由于某些原因，我在远程服务器上只有 2GB（！）的磁盘存储空间。

我可以通过 SSH 连接到集群，在 python 上有什么方法可以通过 SSH 将数据库加载到 RAM 中？

非常感谢任何有关如何解决此问题的一般提示。

Answer 1

您可能想要使用paramiko，以便您可以在 Python 中使用 SSH 连接。然后，您可以运行输出数据并从流中读取数据的命令。这会比复制文件更好，因为它不涉及将数据复制到磁盘。如果数据在文件中，那么您可以使用 paramiko 来cat 文件并从流中读取数据。