【问题标题】:How to read and rbind large CSV file efficiently?如何有效地读取和 rbind 大型 CSV 文件?
【发布时间】:2012-08-30 23:49:25
【问题描述】:

我有 20 个大型 CSV(每个 100-150MB)文件,我想在 R 中加载并将它们 rbind 到一个大文件中并执行我的分析。读取每个 CSV 文件仅在一个内核上执行,大约需要 7 分钟。我使用的是 64 位 8 核 linux 和 16GB RAM,所以资源应该不是问题。

有什么方法可以更有效地执行此过程?我也对其他(开源 linux)软件持开放态度(例如将 CSV 文件绑定到不同的程序中并在 R 中加载)或任何可以使这个过程更快的东西。

非常感谢

【问题讨论】:

标签: r csv


【解决方案1】:

也许你想要一个像paste 这样的函数。这是一个合并文件行的bash函数。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2017-12-09
    • 1970-01-01
    • 1970-01-01
    • 2020-08-20
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多