【问题标题】:Most memory efficient reader/writer in pandaspandas 内存效率最高的读写器
【发布时间】:2020-01-21 06:14:22
【问题描述】:

当我想调用pandas.read..function 时,什么是内存效率最高的读取器/写入器,它将在我的机器上节省最多的内存?我想读取一个大数据文件,想知道我是否可以预先选择一种格式来使用其他工具来保存数据,以节省 python 中的一些内存消耗。

是:pd.read_csv, pd.read_hdf, ..

这里解释快速文件:Fastest file format for read/write operations with Pandas and/or Numpy

这也是最节省内存的方式吗?

【问题讨论】:

    标签: python pandas


    【解决方案1】:

    为什么不使用 modin 库。它旨在加速大多数数据帧操作。您可以在此链接https://github.com/modin-project/modin 找到更多信息。

    【讨论】:

    • 有趣的包裹,但没有完整回答我的包裹
    猜你喜欢
    • 2017-10-15
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2012-09-22
    • 2023-03-21
    相关资源
    最近更新 更多