社交图分析。 60GB 和 1 亿个节点

Question

晚上好，

我正在尝试分析上述数据（edgelist 或 pajek 格式）。首先想到的是带有 igraph 包的 R 项目。但是内存限制（6GB）不会解决问题。 128GB 的​​ PC 能否处理数据？是否有任何替代方案不需要 RAM 中的整个图？

提前致谢。

P.S：我找到了几个程序，但我想听听一些专业人士（是的，就是你）对此事的看法。

Answer 1

如果您只需要度数分布，您可能根本不需要图形包。我推荐bigtablulate package 这样

1. 您的 R 对象是文件支持的，因此您不受 RAM 的限制
2. 您可以使用foreach 并行化度数计算

查看their website 了解更多详情。为了快速举例说明这种方法，我们首先创建一个包含 100 万个节点中的 100 万条边的边列表的示例。

set.seed(1)
N <- 1e6
M <- 1e6
edgelist <- cbind(sample(1:N,M,replace=TRUE),
                  sample(1:N,M,replace=TRUE))
colnames(edgelist) <- c("sender","receiver")
write.table(edgelist,file="edgelist-small.csv",sep=",",
            row.names=FALSE,col.names=FALSE)

接下来我将这个文件连接 10 次以使示例更大一点。

system("
for i in $(seq 1 10) 
do 
  cat edgelist-small.csv >> edgelist.csv 
done")

接下来我们加载bigtabulate 包并使用我们的edgelist 读入文本文件。命令 read.big.matrix() 在 R 中创建一个文件支持的对象。

library(bigtabulate)
x <- read.big.matrix("edgelist.csv", header = FALSE, 
                     type = "integer",sep = ",", 
                     backingfile = "edgelist.bin", 
                     descriptor = "edgelist.desc")
nrow(x)  # 1e7 as expected

我们可以通过在第一列使用bigtable() 来计算出度数。

outdegree <- bigtable(x,1)
head(outdegree)

快速健全性检查以确保表按预期工作：

# Check table worked as expected for first "node"
j <- as.numeric(names(outdegree[1]))  # get name of first node
all.equal(as.numeric(outdegree[1]),   # outdegree's answer
          sum(x[,1]==j))              # manual outdegree count

要获得学位，只需 bigtable(x,2)。