【发布时间】:2016-11-24 04:23:18
【问题描述】:
我有一个大型数据集 (~30GB),我想通过查看它滚动过去来对其进行可视化。一个很好的例子是this video. 中的顶部图 我的数据来自 CSV 文件。
到目前为止,我尝试将大量 CSV 文件导入到一个 numpy 数组中,并使用np.roll() 从右侧(如视频中)反复移入一个新列,直到我点击数组的最后一列(通过在mpl.animation.FuncAnimation 迭代中调用np.roll()。
这需要大量的 CPU 和大量的内存。
关于如何解决这个问题的任何建议?我在网上找不到很多可以帮助我解决此问题的示例。
【问题讨论】:
-
请提供您的代码和 csv 文件的片段。
-
我不相信我的代码会有帮助。我正在寻找有关如何处理它的建议。也许甚至不使用代码。我只知道尝试加载巨大的数组并尝试为它们设置动画效果不佳(非常慢)。如何做到这一点的伪代码就足够了。
标签: python csv numpy matplotlib