【问题标题】:PYTHON pandas Is there a way to dynamically delete rows from pandas dataframe WHILE writing it to CSV to free memory?PYTHON pandas 有没有办法从 pandas 数据帧中动态删除行,同时将其写入 CSV 以释放内存?
【发布时间】:2020-12-10 22:32:43
【问题描述】:

我有几个巨大的数据帧,我正在编写多线程函数以将它们以 .csv 格式写入磁盘,但这需要很长时间,我想要恢复内存,以便在这些缓慢写入的同时获取更多巨大的数据帧。

是否可以使用 pandas 来:

  1. 写一个块
  2. 从数据帧中删除这些行以释放内存
  3. 重复直到数据帧以 csv 格式写入磁盘并且线程完成

【问题讨论】:

标签: python pandas dataframe


【解决方案1】:

我不太确定这在后台是如何工作的 - 但假设 chunksize 参数可能是您正在寻找的。​​p>

Pandas docs

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2018-08-19
    • 2016-10-01
    • 2014-01-21
    • 2020-04-09
    • 2023-01-26
    • 2023-02-21
    • 2021-10-11
    相关资源
    最近更新 更多