合并大量 xts 对象

Question

我有一个 xts 对象的列表，它们是互斥天数。我想将merge 列表合并为一个大的xts 对象。我这样做的尝试是“

merged_reg_1_min_prices <- do.call(cbind, reg_1_min_prices)

但是这似乎内存不足。 reg_1_min_prices 是 6,000 天的 1 分钟在互斥天返回，所以它不是很大。有谁知道如何解决这个问题？

要明确：reg_1_min_prices 包含相互排斥的日期，每天有 1 分钟的价格，列表中的每个条目都是一个 xts 对象。

Answer 1

我使用Dominik在his answer到this question提供的策略

我已经把它变成了function 在我的qmao 包中。这段代码也是getSymbols.FI的核心，在FinancialInstrument package中。

do.call.rbind <- function(lst) {
  while(length(lst) > 1) {
    idxlst <- seq(from=1, to=length(lst), by=2)
    lst <- lapply(idxlst, function(i) {
      if(i==length(lst)) { return(lst[[i]]) }
      return(rbind(lst[[i]], lst[[i+1]]))
    })
  }
  lst[[1]]
}

如果你想rbinddata.frames，@JoshuaUlrich提供了一个优雅的解决方案here

---

据我所知（无需仔细观察）内存对于所提供的三种解决方案（@JoshuaUlrich's、@Alex's 和 qmao::do.call.rbind）中的任何一种都不是问题。所以，归根结底是速度……

library(xts)
l <- lapply(Sys.Date()-6000:1, function(x) {
    N=60*8;xts(rnorm(N),as.POSIXct(x)-seq(N*60,1,-60))})
GS <- do.call.rbind
JU <- function(x) Reduce(rbind, x)
Alex <- function(x) do.call(rbind, lapply(x, as.data.frame)) #returns data.frame, not xts

identical(GS(l), JU(l)) #TRUE

library(rbenchmark)
benchmark(GS(l), JU(l), Alex(l), replications=1)
     test replications elapsed relative user.self sys.self user.child sys.child
3 Alex(l)            1  89.575 109.9080    56.584   33.044          0         0
1   GS(l)            1   0.815   1.0000     0.599    0.216          0         0
2   JU(l)            1 209.783 257.4025   143.353   66.555          0         0

do.call.rbind 显然在速度上获胜。

Answer 2

您不想使用merge，因为这将返回一个包含 6000 列的对象，其中每个列表元素中的每一行都有一行（在我的示例中为 2,880,000）。大多数值将是NA。 cbind.xts 只是使用一些默认参数值调用 merge.xts，所以你也不想使用它。

我们知道通过do.call 调用rbind.xts 引起的内存问题。 Jeff 确实有更高效的代码，但它是一个不公开的原型。

@GSee's solution 的替代方法是使用Reduce。这需要一段时间才能在我的笔记本电脑上运行，但即使只有 4GB，内存也不是问题。

library(xts)
l <- lapply(Sys.Date()-6000:1, function(x) {
  N=60*8;xts(rnorm(N),as.POSIXct(x)-seq(N*60,1,-60))})
x <- Reduce(rbind, l)

Answer 3

这里是如何有效地做到这一点：将每个 xts 对象转换为 data.frame 和简单的 rbind 它们。这几乎不会增加内存使用量。如有必要，只需从 data.frame 创建一个新的 xts 对象